JP4735993B2 - 音声処理装置、音像定位位置調整方法、映像処理装置及び映像処理方法 - Google Patents

音声処理装置、音像定位位置調整方法、映像処理装置及び映像処理方法 Download PDF

Info

Publication number
JP4735993B2
JP4735993B2 JP2008216120A JP2008216120A JP4735993B2 JP 4735993 B2 JP4735993 B2 JP 4735993B2 JP 2008216120 A JP2008216120 A JP 2008216120A JP 2008216120 A JP2008216120 A JP 2008216120A JP 4735993 B2 JP4735993 B2 JP 4735993B2
Authority
JP
Japan
Prior art keywords
rotation
user
head
detection
sound image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008216120A
Other languages
English (en)
Other versions
JP2010056589A (ja
Inventor
誉 今
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008216120A priority Critical patent/JP4735993B2/ja
Priority to CN2009101612220A priority patent/CN101662720B/zh
Priority to US12/545,956 priority patent/US8472653B2/en
Publication of JP2010056589A publication Critical patent/JP2010056589A/ja
Application granted granted Critical
Publication of JP4735993B2 publication Critical patent/JP4735993B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S1/00Two-channel systems
    • H04S1/002Non-adaptive circuits, e.g. manually adjustable or static, for enhancing the sound image or the spatial distribution

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Stereophonic System (AREA)
  • Stereophonic Arrangements (AREA)

Description

この発明は、例えば、音像定位処理や映像の切り出し角の調整処理などのユーザ(使用者)の頭部の回転に応じて調整が必要になる処理を行う音声や映像を処理する装置、及び、当該装置で用いられる方法に関する。
映画などの映像に伴う音声信号は、スクリーンの両側に置かれたスピーカによって再生されることを想定して記録されている。これによると、映像の中の音源の位置と、実際に聞こえてくる音像の位置とが一致し、自然な広がりをもった音場が確立される。
しかし、そのような音声信号をヘッドホンやイヤホンを使用して鑑賞すると、音像は頭の中に定位し、映像の方向と音像の定位位置とが一致せず、極めて不自然な音像の定位となってしまう。
また、映像を伴わない音楽などを鑑賞する場合も同様で、スピーカ再生の場合と異なり、再生される音楽が頭の中から聞こえ、やはり不自然な再生音場となってしまう。
このような再生音声の頭内定位を回避する手立てとして、頭部伝達関数(HRTF(Head Related Transfer Function))による仮想音像を作る方法が知られている。
図8〜図11は、頭部伝達関数による仮想音像定位処理の概要を説明するための図である。ここでは、左右2チャンネルのヘッドホンシステムに当該仮想音像定位処理を適用した場合を示している。
図8に示すように、この例のヘッドホンシステムは、左チャンネルの音声入力端子101L、右チャンネルの音声入力端子101Rを備えている。
これら音声入力端子101L、101Rの後段には、信号処理部102、左チャンネル用D/A変換器103L、右チャンネル用D/A変換器103R、左チャンネル用アンプ104L、右チャンネル用アンプ104R、左ヘッドホンスピーカ105L、右ヘッドホンスピーカ105Rが設けられる。
そして、音声入力端子101L、101Rを通じて入力されたデジタル音声信号は、信号処理装置102に供給され、ここで各音声信号が作る音像を任意の位置に定位させるための信号処理(仮想音像定位処理)が施される。
信号処理装置102において仮想音像定位処理が施された左右のデジタル音声信号は、D/A変換器103L、103Rにおいてアナログ音声信号に変換される。アナログ音声信号に変換された左右の音声信号は、アンプ104L、104Rにおいて増幅された後、ヘッドホンスピーカ105L、105Rに供給される。これにより、仮想音像定位処理が施された左右2チャンネルの音声信号に応じた音声が、ヘッドホンスピーカ105L、105Rから放音される。
さらに、後述もするが、左右のヘッドホンスピーカ105L、105Rをユーザの頭部に装着するためのヘッドバンドにユーザの頭部の回転を検出するためのジャイロセンサ106を設けている。
このジャイロセンサ106からの検出出力は、検出部107に供給され、ここでユーザが頭部を回転させたときに角速度が検出される。検出部107からの角速度は、A/D変換機器108でデジタル信号に変換された後に、演算部109に供給される。演算部おいて、ユーザの頭部の回転時の角速度に応じて、頭部伝達関数の補正値が算出され、これが信号処理部102に供給されて、仮想音像の定位が補正される。
このように、ジャイロセンサを用いてユーザの頭部の回転をも検出することにより、ユーザの頭部の向きに応じて、仮想音像の定位位置を常に所定の位置に定位させることができるようにしている。
つまり、ユーザの頭部が回転した場合に、仮想音像の定位位置がユーザの前方に定位してしまうのではなく、ユーザの頭部か回転しても、音像の定位位置は元の位置のままとなるようにされる。
そして、図8に示した信号処理装置102においては、図9に示すような、リスナMの前方に置かれた2個のスピーカSL、SRからリスナMの両耳にいたる伝達関数HLL、HLR、HRR、HRLに相当する伝達特性が与えられる。
ここで、伝達特性HLLは、スピーカSLからリスナMの左耳YLまでの伝達特性である。伝達特性HLRは、スピーカSLからリスナMの右耳YRまでの伝達特性である。伝達特性HRRは、スピーカSRからリスナMの右耳YRまでの伝達特性である。伝達特性HRLは、スピーカSRからリスナMの左耳YLまでの伝達特性である。
これら伝達関数HLL、HLR、HRR、HRLは、時間軸上で、インパルス応答として得ることができる。このインパルス応答を図8の信号処理装置102において実現することで、ヘッドホンで再生音声を聞いた場合にも、図9に示したように、リスナMの前方の位置におかれたスピーカSL、SRが作るものと同等の音像を再現する事が可能となる。
そして、上述したように、処理対象の音声信号に対して伝達関数HLL、HLR、HRR、HRLを付加する処理は、図8に示したヘッドホンシステムの信号処理装置102内に設けられるFIRフィルタにより実現される。
具体的に、図8に示した信号処理装置102は、図10に示すような構成とされる。すなわち、左チャンネルの音声入力端子101Lを通じて入力される音声信号に対しては、伝達関数HLLを実現するFIRフィルタ1021と、伝達関数HLRを実現するFIRフィルタ1022が設けられる。
また、右チャンネルの音声入力端子101Rを通じて入力される音声信号に対しては、伝達関数HRLを実現するFIRフィルタ1023と、伝達関数HRRを実現するFIRフィルタ1024が設けられる。
そして、FIRフィルタ1021からの出力信号と、FIRフィルタ1023からの出力信号は、加算器1025で加算処理されて左ヘッドホンスピーカ105Lに供給される。また、FIRフィルタ1024からの出力信号と、FIRフィルタ1022からの出力信号は、加算器1026で加算処理されて右ヘッドホンスピーカ105Rに供給される。
このような構成の信号処理装置102により、左チャンネルの音声信号については、伝達関数HLL、HLRを付加し、右チャンネルの音声信号には伝達関数HRL、HRRを付加することができるようにされる。
また、ヘッドバンドに装着されたジャイロセンサ106の検出出力を用いることによって、ユーザの頭部が回転した場合でも、仮想音像の定位位置を一定の位置に保つようにして、再生音声が形成する音場を自然な音場として形成することができるようにされる。
また、ここでは、左右2チャンネルの音声信号に対して仮想音像定位処理を施す場合を例にして説明した。しかし、処理対象の音声信号は、左右2チャンネルの音声信号に限るものではない。後に記す特許文献1には、多チャンネルの音声信号に対して仮想音像定位処理を施すようにしたオーディオ再生装置の発明が詳細に説明されている。
なお、上記の特許文献1は以下に示す通りである。
特開平11−205892号公報
ところで、図8〜図10を用いて説明した仮想音像定位処理を行う従来のヘッドホンシステムの場合には、ジャイロセンサ106は、ユーザの頭部の回転を検出するものであり、例えば1軸のものが用いられる。そして、従来のヘッドホンシステムの場合には、ジャイロセンサ106を、その検出軸が鉛直方向(重力方向)となるようにしてヘッドホンに設けることが可能である。
つまり、図11に示すように、ジャイロセンサ106は、左右のヘッドホンスピーカ105L、105Rをユーザの頭部に固定するためのヘッドバンド110の所定の位置に固定することができる。これにより、当該ヘッドホンシステムがユーザの頭部に装着された場合に、ジャイロセンサ106の検出軸を鉛直方向に維持することができる。
しかし、これをヘッドバンドの存在しない、ユーザの耳殻内に挿入して用いられる、いわゆる挿入型やイントラコンカ型のイヤホン、あるいは、ユーザの耳殻にスピーカをかけて使用するいわゆる耳かけ形のヘッドホンにそのまま適用することはできない。
挿入型やイントラコンカ型のイヤホン、あるいは耳かけ型のヘッドホンの場合には、ユーザによって耳の形状は異なるし、また、その取り付け方もユーザによって様々である。このため、挿入型やイントラコンカ型のイヤホン、あるいは耳かけ型のヘッドホンに対して、これらがユーザの耳に対して装着された場合に、検出軸が鉛直方向となるようにジャイロセンサを取り付けることは事実上不可能である。
同様のことは、例えば、ヘッドマウントディスプレイ(Head Mounted Display)などと呼ばれるユーザの頭部に装着して使用する小型のディスプレイ装置において、ユーザの頭部の回転に応じて表示する画像を変えるシステムにおいても発生する。
すなわち、ヘッドマウントディスプレイの場合、ユーザの頭部の回転を正確に検出できない場合には、ユーザの頭部の向きに応じた適切な映像を表示することができなくなる場合がある。
以上のことに鑑み、この発明は、ユーザの頭部の回転に応じて調整が必要になる処理を行う装置において、ユーザの頭部の回転を適切に検出して適切な調整を行えるようにすることを目的とする。
上記課題を解決するため、請求項1に記載の発明の音声処理装置は、
再生対象の音声信号に対して、予め求められる頭部伝達関数に応じて音像定位処理を施す音像定位処理手段と、
使用者の耳に対して装着され、前記音像定位処理手段により音像定位処理された音声信号の供給を受けて、当該音声信号に応じた音声を放音するイヤホンと、
前記イヤホンに対して設けられ、当該イヤホンが装着された使用者の頭部の回転を検出する回転検出手段と、
前期回転検出手段に対し予め決められた位置関係となるよう前記イヤホンに対して設けられ、前記回転検出手段の重力方向に対する傾きを検出する傾き検出手段と、
前記傾き検出手段の検出結果に基づいて、前記回転検出手段からの検出結果を補正する回転補正手段と、
前記回転補正手段により補正された前記回転検出手段からの検出結果に基づいて、前記音像定位処理手段を制御し、音像の定位位置を調整する調整手段と
を備えたものである。
この請求項1に記載の発明の音声処理装置によれば、ユーザの耳に装着されるイヤホンに対して設けられる回転検出手段により、ユーザの頭部における必ずしも重力方向とは一致しない回転軸に関する回転が検出され、また、当該回転検出手段に対し予め決められた位置関係となるよう設けられる傾き検出手段により回転検出手段の重力方向に対する傾きが検出される。
回転補正手段によって、傾き検出手段からの回転検出手段の傾きに基づいて、回転検出手段からの検出出力が水平方向の回転に補正される。この水平方向の回転に基づき、音像定位処理手段においての音像定位処理が調整され、音像の定位位置が調整される。
これにより、ユーザの頭部における水平方向の回転を適切に検出して、音像定位処理手段における音像定位処理を適切に調整し、音像の定位位置を適正に調整することができるようにされる。
この発明によれば、ユーザの頭部の回転に応じて調整が必要になる処理を行う装置において、ユーザの頭部における必ずしも重力方向とは一致しない回転軸に関する回転を検出し、重力方向に対する傾きを検出して当該回転を補正することにより、ユーザの頭部における水平方向の回転を適切に検出して適切な調整を行うことができる。
以下、図を参照しながら、この発明の一実施の形態について説明する。
<第1の実施の形態>
この発明は、原理的にマルチチャンネルの音声処理装置に適用することができるものである。しかし、以下に説明する第1の実施の形態においては、説明を簡単にするため、左右2チャンネルの音声処理装置に適用した場合を例にして説明する。
図1は、第1の実施の形態のイヤホンシステム1の構成例を説明するためのブロック図である。図1に示すイヤホンシステム1は、大きく分けると、音声信号の再生系と、ユーザの頭部の回転の検出補正系とからなっている。
音声信号の再生系は、音楽・音声再生装置11、信号処理プロセッサ12の音像定位処理部121、D/A(Digital/Analog)変換器13L、13R、アンプ14L、14R、イヤホン15L、15Rからなる部分である。
D/A(Digital/Analog)変換器13L、アンプ14L、イヤホン15Lからなる部分が左チャンネル用のものであり、D/A(Digital/Analog)変換器13R、アンプ14R、イヤホン15Rからなる部分が右チャンネル用のものである。
また、ユーザの頭部の回転の検出補正系は、ジャイロセンサ16、加速度センサ17、A/D変換器18、信号処理プロセッサ12の音像定位補正処理部122からなる部分である。
ここで、音楽・音声再生装置11は、例えば、記録媒体として半導体を用いたICレコーダや音楽再生機能を備えた携帯電話端末、CD(Compact Disc)やMD(登録商標)などと呼ばれる小型の光磁気ディスクの再生装置などの種々の再生装置である。
イヤホン15L、15Rは、挿入型、イントラコンカ型、あるいは、耳かけ型などのものである。すなわち、イヤホン15L、15Rは、使用者の耳の形状や装着の仕方によって耳に装着した場合の位置状態が種々の位置状態となるものである。
ジャイロセンサ16と加速度センサ17とは、イヤホン15L、15Rの一方、この第1の実施の形態においては、後述もするが、左チャンネル用のイヤホン15Lに対して設けられている。
そして、図1に示したイヤホンシステム1において、音楽・音声再生装置11からの再生されたデジタル音声信号は、信号処理プロセッサ12の音像定位処理部121に供給される。
音像定位処理部12は、例えば図10を用いて説明した構成を有するものである。すなわち、音像定位処理部121は、図10を用いて説明したように、伝達関数HLL、HLR、HRL、HRRが設定された4つのFIRフィルタ1021、1022、1023、1024と、2つの加算回路1025、1026とを備えたものである。
そして、音像定位処理部121のFIRフィルタ1021、1022、1023、1024のそれぞれは、以下に説明する音像定位補正処理部122からの補正情報に応じて、その伝達関数を補正することができるものである。
この第1のイヤホンシステム1の音像定位補正処理部122に対しては、図1に示すように、ジャイロセンサ16からの検出出力と、加速度センサ17からの検出出力とが、A/D変換器18によってデジタル信号に変換されて供給される。
上述したように、ジャイロセンサ16と加速度センサ17とは、左チャンネル用のスピーカ部15Lに対して設けられるものである。
ジャイロセンサ16は、スピーカ部15Lが耳に対して装着されたユーザの頭部の水平方向の回転を検出するものであり、例えば1軸のものである。また、加速度センサ17は、3軸のものであり、相互に直交する3軸方向の加速度を検出することにより、ジャイロセンサ16の傾きを検出するものである。
そして、ユーザの頭部の水平方向の回転を正確に検出するためには、ジャイロセンサ16を、スピーカ部15Lがユーザの耳に対して装着された場合に、その検出軸が鉛直方向となるようにスピーカ部15Lに対して設ける必要がある。
しかし、上述もしたように、イヤホン15L、15Rは、挿入型、イントラコンカ型、あるいは、耳かけ型などのものである。このため、イヤホン15Lに設けられるジャイロセンサ16は、イヤホン15Lがユーザの耳に装着されたときに、その検出軸を鉛直方向となるようにすること(換言すれば、検出軸を床面に対して垂直にすること)ができない場合が多くなる。
そこで、音像定位補正処理部122においては、同じくイヤホン15Lに設けられる3軸の加速度センサ17の検出出力を用いて、ジャイロセンサ16の傾きを検出する。そして、音像定位補正処理部122は、加速度センサ17の検出出力に基づいて、ジャイロセンサ16の検出出力を補正し、正確にユーザの頭部の水平方向の回転(方向と量)を正確に検出する。
このようにして正確に求めたユーザの頭部の回転に応じて、音像定位補正処理部122は、適切に音像定位処理を行うことができるように、音像定位処理部121の各FIRフィルタの伝達関数を補正する。
これにより、イヤホン15L、15Rを耳に装着したユーザが、頭部を水平面方向に回転させ、頭部の向きを変えても、当該ユーザの頭部の動きに伴い音像の定位位置が変わることなく、音像を元の位置に定位させることができるようにしている。
つまり、部屋に設置されたスピーカからの放音音声を聴取する場合には、ユーザが頭の向きを変えてもスピーカの位置が変わるわけではないので、放音音声は設置されたスピーカの方向から聞こえる。
しかし、イヤホンシステムの場合、ユーザの正面方向に音像を定位させるように仮想音像定位処理を施している場合、ユーザが頭の向きを変えるとこれに伴い、常にユーザの前方方向に音像が定位してしまう。
つまり、仮想音像定位処理を伴いイヤホンシステムの場合、イヤホンを装着したユーザが頭も向きを変えると、それに伴って音像の定位位置も移動してしまい、不自然な再生音場となる。
そこで、上述したように、音像定位補正処理部122等の機能によって、ユーザの頭部の水平面における回転に応じて仮想音像定位処理を適切に補正することにより、音像の定位位置を常時一定の位置に保ち、自然な再生音場を形成することができるようにしている。
次に、音像定位補正処理部122において行われる処理について具体的に説明する。図2は、イヤホン15L、15Rがユーザの耳に対して装着された場合において、ジャイロセンサ16の検出軸と、加速度センサ17の検出軸との関係について説明するための図である。この内、図2Aはイヤホン15L、15Rが装着されたユーザをその後方から見た場合の図であり、図2Bは、イヤホン15Lが装着されたユーザをその左側から見た場合の図である。
図2において、軸Xa、軸Ya、軸Zaは、加速度センサ17の相互に直交する3軸の検出軸である。また、垂直軸Vaが、本来の鉛直方向(重力方向)であり、床面に対して垂直となる方向を示している。
そして、加速度センサ17は、ジャイロセンサ16の傾きを検出できるように、ジャイロセンサ16との間において予め決められた位置関係となるようにして設けられている。この第1の実施の形態のイヤホンシステム1において、加速度センサ16は、3軸の内のZa軸が、ジャイロセンサ16の検出軸と一致するように設けられているものとする。
上述したように、イヤホンシステム1のイヤホン15L、15Rは、挿入型、イントラコンカ型、あるいは、耳かけ型のものである。このため、図2Aに示すように、イヤホン15L、15Rのそれぞれは、ユーザの左右の耳のそれぞれに対して独立して装着される。
そして、ユーザをその後方から見た場合を示す図2Aに示したように、イヤホン15Lがユーザの耳に装着された状態において、加速度センサ17のZa軸と一致するジャイロセンサ16の検出軸が、垂直軸Vaが示す鉛直方向と一致しない場合について考える。
この場合、ジャイロセンサ16の検出軸の鉛直方向に対するずれ量は、図2Aに示すようにφ度となる。つまり、加速度センサ17の検出軸であるYa軸とZa軸が形成する面において、ジャイロセンサ16の検出軸の鉛直方向に対するずれ量は、φ度となる。
この場合において、ユーザをその左側から見ると、図2Bに示すように、加速度センサ17のZa軸と一致するジャイロセンサ16の検出軸が、垂直軸Vaが示す鉛直方向に対するずれ量は、図2Bに示すようにθ度となる。
この図2A、Bに示したジャイロセンサ16の検出軸と、加速度センサ17の3軸の検出軸と、鉛直方向との関係についてまとめる。図3は、加速度センサ17の3軸の検出軸Xa、Ya、Zaが形成する座標系において、ジャイロセンサ16の検出軸と鉛直方向とのずれについて説明するための図である。
図3において、Xa軸上の矢印SXaは、加速度センサ17のXa軸方向の検出出力であり、Ya軸上の矢印SYaは、加速度センサ17のYa軸方向の検出出力であり、Za軸上の矢印SZaは、加速度センサ17のZa軸方向の検出出力である。
また、図3において、実線矢印で示した垂直軸Vaが、図3に示した3軸の座標系の実際の鉛直方向である。そして、上述もしたように、加速度センサ17は、その検出軸の1つであるZa軸がジャイロセンサ16の検出軸と一致するように設けられている。
したがって、加速度センサ16のYa軸とZa軸が形成するYa−Za面における鉛直方向は、図3において点線矢印VYが示した方向となる。したがって、Ya−Za面におけるジャイロセンサ16の検出軸(Za軸に一致)と、鉛直方向VYとのずれは、これらZa軸及び鉛直方向VYが形成する角度であるφ度であることが分る。このYa−Za面に示した状態が、図2Aに示した状態である。
また、加速度センサ16のXa軸とZa軸が形成するXa−Za面における鉛直方向は、図3において点線矢印VXが示した方向となる。したがって、Xa−Za面におけるジャイロセンサ16の検出軸(Za軸に一致)と、鉛直方向VXとのずれは、これらZa軸及び鉛直方向VXが形成する角度であるθ度であることが分る。このXa−Za面に示した状態が、図2Bに示した状態である。
そして、図3に示した状態から分るように、Xa−Za面におけるジャイロセンサ16の検出軸の鉛直方向に対するずれ量は、(cosθ)となる。同様に、Ya−Za面におけるジャイロセンサ16の検出軸の鉛直方向に対するずれ量は、(cosφ)となる。
図4は、音像定位補正処理部122において行われる補正処理を説明するための式を示す図である。
ここでは、理想状態のジャイロセンサ16の出力、すなわち、ジャイロセンサ16の検出軸が実際の鉛直方向と一致している場合のジャイロセンサ16の検出出力を「Si」とする。
また、実際のジャイロセンサ16の出力、すなわち、図2、図3に示したように、ジャイロセンサ16の検出軸が鉛直方向に対して、Ya−Za面においてφ度、Xa−Za面においてθ度ずれている場合のジャイロセンサ16の検出出力を「Sr」とする。
この場合、実際の検出出力Srは、図4の(1)式に示すように、理想状態の検出出力Siと、Xa−Za面におけるずれ量(cosθ)と、Ya−Za面におけるずれ量(cosφ)との乗算によって求めることができる。
そして、理想状態のジャイロセンサ16の推定出力値を「Sii」とする。この推定出力値「Sii」と理想状態のジャイロセンサ16の出力値「Si」とは、本来限りなく近くなるものである。
したがって、理想状態のジャイロセンサ16の推定出力値を「SII」は、図4の(2)式により求めることができる。すなわち、推定出力値を「SII」は、ジャイロセンサ16の実際の出力値「Sr」を、Xa−Za面におけるずれ量(cosθ)とYa−Za面におけるずれ量(cosφ)との乗算値で割り算(除算)することにより求められる。
そして、音像定位補正処理部122においては、ジャイロセンサ16からの検出出力と、加速度センサ17からの検出出力との供給を受ける。そして、音像定位補正処理部122は、図2、図3を用いて説明したように、加速度センサ17の3軸の検出出力から、ジャイロセンサ16の検出軸の鉛直方向に対するずれ量を求め、当該求めたずれ量を用いて、図4の(2)式にしたがって、ジャイロセンサ16の検出出力を補正する。
そして、音像定位補正処理部122は、補正したジャイロセンサ16の検出出力に基づいて、音像定位処理部121の角FIRフィルタの伝達関数を補正し、ユーザの頭部の回転に応じて、仮想音像の定位位置を適切な位置となるように補正する。
なお、上述したように、加速度センサ17は3軸のものであり、対応する面を形成する2軸の出力値からtanθ、tanφの値を求めることができ、これらの値からアークタンジェント(arctan)を求めることにより、θ、φの値を求めることができる。
換言すれば、図3に示した状態において、θは、arctan(SZa/SXa)によって求めることができる。同様に、φは、arctan(SZa/SYa)によって求めることができる。
これにより、cosθ、cosφを加速度センサ23の検出出力に基づいて求めることができる。そして、これらを用いて、図4の(2)式にしたがって、ジャイロセンサ22の検出出力を補正することができる。
このように、イヤホン15Lがユーザの耳に対して装着された場合に、ジャイロセンサ16の検出軸が鉛直方向とならない場合であっても、ジャイロセンサ16に対して一定の位置関係で設けられる加速度センサ17の検出出力を用いて適切に補正することができる。
これにより、音像定位処理部121における音像定位処理を、ユーザの頭部の水平方向の回転に応じて適切に補正し、音像の定位位置を常時一定の位置に保って、自然な再生音場を形成することができる。
なお、この第1の実施の形態のイヤホンシステム1においては、イヤホンシステム1の所定の操作ボタンスイッチが操作された場合に、ユーザの頭部の水平面方向の回転をも考慮した音像定位処理が行うようにされる。この場合、当該所定の操作ボタンスイッチが操作された時点のユーザの頭部の位置が正面を向いている位置(基準位置)とされる。
また、これ以外にも、例えば、音楽の再生ボタンが操作された場合に、その時点のユーザの頭部の位置が正面を向いている位置(基準位置)として、ユーザの頭部の回転をも考慮した音像定位処理を開始させることも可能である。
また、例えば、ユーザが頭部を大きく左右に振り、その後にユーザの頭部の動きが収まったことを検出した場合に、その時点のユーザの頭部の位置が正面を向いている位置(基準位置)として、ユーザの頭部の回転をも考慮した音像定位処理を開始させることも可能である。
その他、イヤホンシステム1が検出可能な種々のトリガーを用いて、ユーザの頭部の回転をも考慮した音像定位処理を開始させるようにすることができる。
また、上述の説明からも分るように、例えば、イヤホン15L、15Rが装着されたユーザの頭部が傾いた状態にあっても、ジャイロセンサ22の検出軸と鉛直方向とのずれを、加速度センサ23の検出出力を用いて検出することができる。
したがって、ユーザの頭部が傾いた状態にあっても、ジャイロセンサ16の検出出力を加速度センサ17の検出出力に基づいて適切な値に補正することができる。
[第1の実施の形態の変形例]
なお、上述した第1の実施の形態のイヤホンシステム1において、加速度センサ17は3軸のものを用いるようにしたが、これに限るものではない。加速度センサ17は、1軸のものであっても、2軸のものであってもよい。
例えば、1軸の加速度センサの検出軸が本来鉛直方向となるようにする。そして、この場合の1軸の加速度センサの検出値が本来の値(9.8m/s)とどれだけ違っているかに応じて、ジャイロセンサの検出軸の鉛直方向に対するずれを検出することができる。
また、2軸の加速度センサを用いる場合にも同様に考えることができる。すなわち、2軸の加速度センサの場合にも、その検出出力が、当該加速度センサが床面に対して水平に設けられている場合の検出出力との差分に応じて、ジャイロセンサの検出軸と鉛直方向とのずれを検出することができる。
また、予め多数のユーザによって、ジャイロセンサと1軸あるいは2軸の加速度センサが搭載されたイヤホンシステムを用いて、加速度センサの検出出力と、ジャイロセンサの検出軸のずれ量とを測定し、この測定値を対応付けたてテーブルを作成しておく。
そして、加速度センサの検出出力から当該テーブルを参照し、ジャイロセンサの検出軸の鉛直方向に対するずれ量を特定し、これに基づいてジャイロセンサの検出出力を補正するようにしてもよい。
この場合には、例えば、音像定位補正処理部122内のメモリ、あるいは、外部の参照可能なメモリに、加速度センサの検出出力とジャイロセンサの検出軸の鉛直方向に対するずれ量とを対応付けたメモリを作成しておく必要がある。
また、上述したジャイロセンサ16は、1軸のものとして説明したが、これに限るものではない。2軸以上の多数軸のジャイロセンサを用いるようにすることも可能である。この場合、例えば、垂直方向(上下方向)のユーザの頭部の向きをも検出し、垂直方向の音像の定位をも補正することも可能である。
また、この発明は、上述もしたように、挿入型、イントラコンカ型、耳かけ型のイヤホンシステムやヘッドホンシステムに適用して好適なものである。しかし、これらのみに適用可能なものではなく、ヘッドバンドを有する従来からのヘッドホンを用いる場合においても、この発明を適用することができる。
なお、この第1の実施の形態においては、上述の説明からも明らかなように、音像定位処理部121が音像定位処理手段としての機能を実現し、イヤホン15Lがスピーカ部としての機能を実現している。また、ジャイロセンサ16が回転検出手段としての機能を実現し、加速度センサ17が傾き検出手段としての機能を実現し、音像定位補正処理部122が、回転補正手段としての機能と、調整手段としての機能を実現している。
また、図1〜図4を用いて説明した第1の実施の形態のイヤホンシステムは、この発明の音像定位位置調整方法が適用されたものである。すなわち、
(1)イヤホン15Lに設けられるジャイロセンサ16を通じて、イヤホン15Lが装着されたユーザの頭部の回転を検出し、
(2)イヤホン15Lに設けられる加速度センサ17を通じて、ジャイロセンサ16の傾きを検出し、
(3)加速度センサ17が検出したジャイロセンサ16の傾きに基づいて、ジャイロセンサ16の検出したユーザの頭部の回転についての検出結果を補正し、
(4)補正されたジャイロセンサ16が検出したユーザの頭部の回転についての検出結果に基づいて、再生対象の音声信号に対して施される音像定位処理を調整し、音像定位位置を調整するというように、上記(1)〜(4)の工程を行うものが、この発明の音像定位位置調整方法である。
<第2の実施の形態>
次に、この発明をいわゆるヘッドマウントディスプレイと呼ばれるユーザの頭部に装着して使用する小型のディスプレイ装置を用いた映像処理装置に適用した場合について説明する。
図5は、この第2の実施の形態で用いられるヘッドマウントディスプレイ部2の外観を説明するための図である。図6は、この第2の実施の形態のヘッドマウントディスプレイ2を含めた映像処理装置の構成例を説明するためのブロック図である。
図5に示すように、ヘッドマウントディスプレイ部2は、ユーザの頭部に装着されて利用されるものであり、ユーザの目の数センチメートル離れた位置に、小型のディスプレイが位置するようにされるものである。
このようなヘッドマウントディスプレイにおいては、ユーザの眼前に位置するディスプレイの表示画面に、ユーザからある程度離れた位置にあるように表示される画像を形成して表示することができるものである。
ヘッドマウントディスプレイ2を用いたこの実施の形態の映像処理装置を構成する映像再生装置3においては、後述もするが、例えば、人の視野角以上の角度範囲で撮影した動画像データがハードディスクに記憶保持されている。具体的には、水平方向に360度の範囲で撮影した動画像データがハードディスクに記憶保持されている。そして、ヘッドマウントディスプレイ部2が装着されたユーザの頭部の水平方向の回転を検出し、ユーザの頭部の向きに応じた方向の映像を表示することができるものである。
このため、図6に示すように、ヘッドマウントディスプレイ部2には、LCD(Liquid Crystal Display)等により構成された表示部21と、ユーザの頭部の回転を検出するためのジャイロセンサ22と、加速度センサ23とが設けられている。
また、ヘッドマウントディスプレイ2に映像信号を供給する映像再生装置3は、例えば、ハードディスクレコーダやゲーム機、その他の種々の映像再生装置として構成されるものである。
そして、この第2の実施の形態の映像処理装置の映像再生装置3は、図6に示したように、ハードディスクドライブ(以下、HDDと略称する)を備えた映像再生部33と、映像処理部34とを備えている。
さらに、映像再生装置3は、ヘッドマウントディスプレイ部2のセンサからの検出出力を受け付けるためのA/D変換器33と、ユーザの頭部の向きを検出するためのユーザ向き検出部34とを備えたものである。
そして、通常、映像処理再生装置3は、ユーザから再生する映像コンテンツの選択を受け付け、その映像を再生することの指示を受け付けると、映像コンテンツの再生処理を開始する。
この場合、映像再生部31はハードディスクに記録されている選択された映像コンテンツ(映像データ)を読み出し、これを映像処理部32に供給する。映像処理部32は、これに供給された映像コンテンツを圧縮解凍したり、アナログ信号に変換したりするなどの種々の処理を行って、ヘッドマウントディスプレイ2の表示部21に供給する映像信号を形成し、これを表示部21に供給する。これにより、目的とする映像コンテンツに応じた映像が、ヘッドマウントディスプレイ部2の表示部22の表示画面に表示される。
そして、ヘッドマウントディスプレイ部2は、通常はヘッドバンドで頭部に保持され、めがね式の場合には、いわゆるテンプル(フレームを耳にかける部分)によってユーザの耳部分に掛ける様にしてユーザの頭部に保持される。
しかし、ヘッドマウントディスプレイ部2のヘッドバンドへの取り付け方によっては、ヘッドマウントディスプレイ部2をユーザの頭部に装着した場合に、これに設けられるジャイロセンサ22の検出軸が鉛直方向とならない場合もあると考えられる。
また、めがね式のヘッドマウントディスプレイ部2の場合には、ユーザのかけ方によって、これに設けられるジャイロセンサ22の検出軸が鉛直方向とならない場合もあると考えられる。
そこで、この第2の実施の形態の映像処理装置で用いられるヘッドマウントディスプレイ2には、図6に示したように、ジャイロセンサ22と、加速度センサ23とが設けられている。
ジャイロセンサ22は、上述した第1の実施の形態のイヤホンシステム1のジャイロセンサ16と同様に、ユーザの頭部の回転を検出するための1軸のものである。
加速度センサ23は、上述した第1の実施の形態のイヤホンシステム1の加速度センサ17と同様に、3軸のものであり、ジャイロセンサ22の傾きを検出するために、ジャイロセンサ22と一定の位置関係を維持するように配置されているものである。
この第2の実施の形態においても、ヘッドマウントディスプレイ部2に設けられる3軸の加速度センサ23の1つの検出軸(例えばZa軸)が、ジャイロセンサ22の検出軸と一致するように配置されている。
そして、ヘッドマウントディスプレイ部2に設けられたジャイロセンサ22からの検出出力と加速度センサ23からの検出出力とは、音楽再生装置3のA/D変換器33を通じてユーザ向き検出部34に供給される。
A/D変換器33は、ジャイロセンサ22からの検出出力と、加速度センサ23からの検出出力とを、デジタル信号に変換して、これらをユーザ向き検出部34に供給するものである。
ユーザ向き検出部34は、図2〜図4を用いて説明した第1の実施の形態のイヤホンシステム1における音像定位補正処理部122と同様にして、ジャイロセンサ22の検出出力を、加速度センサ23からの検出出力に基づいて補正する。
具体的には、図3を用いて説明したように、加速度センサ23の3軸の検出出力から、まず、Xa−Za面におけるジャイロセンサ22の検出軸の鉛直方向に対するずれ量(cosθ)を求める。そして、Ya−Za面におけるジャイロセンサ22の検出軸の鉛直方向に対するずれ量(cosφ)を求める。
そして、図4を用いて説明したように、図4の(2)式にしたがって、ジャイロセンサ22の検出出力と、ジャイロセンサ22の検出軸の鉛直方向に対するずれ量(cosθ、cosφ)とを用いて、ジャイロセンサ22の検出出力を補正する。これにより、ジャイロセンサ22の理想状態の指定出力値「Sii」を求め、これに応じてユーザの頭部の向きを特定する。
そして、ユーザ向き検出部34は、検出したユーザの頭部の向きを示す情報を映像再生部31に供給する。映像再生部31のHDDには、上述もしたように、水平方向に360度の範囲で撮影した動画像データが記録されている。
このため、映像再生部31は、ユーザ向き検出部34からのユーザの向きに応じた区間の動画像データを読み出し、これを再生するようにする。
図7は、映像再生部31が、ユーザの頭部の向きに応じて変える、360度の範囲の映像データの読み出し部分について説明するための図である。図7において、文字Aで示した点線で囲んだ範囲(以下、表示範囲Aと言う。)が、ユーザの頭部が正面を向いている場合に表示される映像の表示範囲である。
そして、ユーザの頭部が正面方向を向いている状態から、例えば、左方向にある角度分回転したことが検出された場合には、図7において、文字Bで示した点線で囲んだ範囲(以下、表示範囲Bと言う。)の映像データが読み出されて再生される。
同様に、ユーザの頭部が正面方向を向いている状態から、例えば、右方向にある角度分回転したことが検出された場合には、図7において、文字Cで示した点線で囲んだ範囲(以下、表示範囲Cと言う。)の映像データが読み出されて再生するようにされる。
このように、ヘッドマウントディスプレイ部2を装着したユーザが正面を向いている場合には、図7において表示範囲Aの映像データが読み出されて再生される。そして、ユーザの頭部が正面からある角度分、左に回転した場合には、図7において表示範囲Bの映像データが読み出されて再生される。同様に、ユーザの頭部が正面からある角度分、右に回転した場合には、図7において表示範囲Cの映像データが読み出されて再生される。
そして、図7において、表示範囲Bの映像データを再生しているときに、ユーザの頭部がさらに左方向に回転した場合には、さらに左側の表示領域の映像データが読み出されて再生される。
同様に、図7において、表示範囲Cの映像データを再生しているときに、ユーザの頭部がさらに右方向に回転した場合には、さらに右側の表示領域の映像データが読み出されて再生される。
このように、ヘッドマウントディスプレイ部2を装着したユーザの頭部の水平方向の回転に応じて、360度の範囲で撮影されてHDDに記憶保持されている映像データから、ユーザの頭部の向きに応じた表示範囲の映像データが切り出されて再生される。
そして、ユーザの頭部の回転は、ジャイロセンサ22の検出出力を加速度センサ23の検出出力により補正されて求められるので、ユーザの頭部の向きを正確に検出することができるようにされる。これにより、ヘッドマウントディスプレイ部2が装着されたユーザの頭部の向きに応じて、適切な表示範囲の映像データを切り出し、これを再生することができるようにされる。
なお、この第2の実施の形態の映像処理装置においては、映像処理装置の所定の操作ボタンスイッチが操作された場合に、ユーザの頭部の回転をも考慮した映像表示処理が行うようにされる。この場合、当該所定の操作ボタンスイッチが操作された時点のユーザの頭部の位置が正面を向いている位置(基準位置)とされる。
また、これ以外にも、例えば、映像の再生ボタンが操作された場合に、その時点のユーザの頭部の位置が正面を向いている位置(基準位置)として、ユーザの頭部の回転をも考慮した映像再生処理を開始させることも可能である。
また、例えば、ユーザが頭部を大きく左右に振り、その後にユーザの頭部の動きが収まったことを検出した場合に、その時点のユーザの頭部の位置が正面を向いている位置(基準位置)として、ユーザの頭部の回転をも考慮した映像表示処理を開始させることも可能である。
その他、映像表示装置が検出可能な種々のトリガーを用いて、ユーザの頭部の回転をも考慮した映像表示処理を開始させるようにすることができる。
[第2の実施の形態の変形例]
なお、上述した第1の実施の形態のヘッドマウントディスプレイ部2において、加速度センサ23は3軸のものを用いるようにしたが、これに限るものではない。加速度センサ23は、1軸のものであっても、2軸のものであってもよい。
例えば、1軸の加速度センサの検出軸が本来鉛直方向となるようにする。そして、この場合の1軸の加速度センサの検出値が本来の値(9.8m/s)とどれだけ違っているかに応じて、ジャイロセンサの検出軸の鉛直方向に対するずれを検出することができる。
また、2軸の加速度センサを用いる場合にも同様に考えることができる。すなわち、2軸の加速度センサの場合にも、その検出出力が、当該加速度センサが床面に対して水平に設けられている場合の検出出力との差分に応じて、ジャイロセンサの検出軸と鉛直方向とのずれを検出することができる。
また、予め多数のユーザによって、ジャイロセンサと1軸あるいは2軸の加速度センサが搭載されたイヤホンシステムを用いて、加速度センサの検出出力と、ジャイロセンサの検出軸のずれ量とを測定し、この測定値を対応付けたてテーブルを作成しておく。
そして、加速度センサの検出出力から当該テーブルを参照し、ジャイロセンサの検出軸の鉛直方向に対するずれ量を特定し、これに基づいてジャイロセンサの検出出力を補正するようにしてもよい。
この場合には、例えば、ユーザ向き検出部34内のメモリ、あるいは、外部の参照可能なメモリに、加速度センサの検出出力とジャイロセンサの検出軸の鉛直方向に対するずれ量とを対応付けたテーブルを作成しておく必要がある。
また、上述したジャイロセンサ22は、1軸のものとして説明したが、これに限るものではない。2軸以上の多数軸のジャイロセンサを用い、垂直方向(上下方向)のユーザの頭部の向きをも検出し、垂直方向の画像の切り出しを補正することも可能である。
なお、この第2の実施の形態においては、上述の説明からも明らかなように、ヘッドマウントディスプレイ部2が表示手段の機能を実現し、ジャイロセンサ22が回転検出手段としての機能を実現し、加速度センサ23が傾き検出手段としての機能を実現している。また、ユーザ向き検出部34が、回転補正手段としての機能を実現し、映像再生部31が、映像処理手段としての機能を実現している。
また、主に図5〜図7を用いて説明した第2の実施の形態の映像処理装置は、この発明の映像処理方法が適用されたものである。すなわち、
(A)ヘッドマウントディスプレイ部2に設けられるジャイロセンサ22を通じて、ヘッドマウントディスプレイ部2が装着されたユーザの頭部の回転を検出し、
(B)ヘッドマウントディスプレイ部2に設けられる加速度センサ23を通じて、ジャイロセンサ22の傾きを検出し、
(C)加速度センサ23が検出したジャイロセンサ22の傾きに基づいて、ジャイロセンサ22の検出したユーザの頭部の回転についての検出結果を補正し、
(D)補正されたジャイロセンサ22が検出したユーザの頭部の回転についての検出結果に基づいて、映像再生部31がユーザの頭部の回転に応じた範囲の映像データをハードディスクに記録されている例えば水平方向に360度分の映像データから切り出して、ヘッドマウントディスプレイ部2に供給するというように、上記(A)〜(D)の工程を行うものが、この発明の映像処理方法である。
<その他>
また、上述したように、第1の実施の形態においては、この発明の音声処理装置が適用されたイヤホンシステム1を、また、第2の実施の形態においては、ヘッドマウントディスプレイ部2をするこの発明の映像処理装置が適用された映像処理装置を説明した。
しかし、これに限るものではない。音声再生系と映像再生系とを備えた、音声映像処理装置にこの発明を適用することができる。この場合には、ジャイロセンサと加速度センサとは、イヤホンかヘッドマウントディスプレイかのいずれか一方にジャイロセンサと加速度センサとを設け、これらの検出出力に基づいてジャイロセンサの検出出力を補正する。
そして、補正したジャイロセンサからの検出出力を用いて、音像定位処理部において行われる音像定位処理を制御すると共に、映像再生装置においての映像データの表示範囲(読み出し範囲)を制御する。
これにより、ジャイロセンサと加速度センサとをそれぞれ1つずつ設ければ、音声の仮想音像定位処理と、映像の切り出し範囲の制御処理との両方を適切に行うようにすることができる。
この発明の音声処理装置の一実施の形態が適用された第1の実施の形態のイヤホンシステム1の構成例を説明するためのブロック図である。 イヤホン15L、15Rがユーザの耳に対して装着された場合において、ジャイロセンサ16の検出軸と、加速度センサ17の検出軸との関係について説明するための図である。 加速度センサ17の3軸の検出軸Xa、Ya、Zaが形成する座標系において、ジャイロセンサ16の検出軸と鉛直方向とのずれについて説明するための図である。 音像定位補正処理部122において行われる補正処理を説明するための式を示す図である。 この発明の映像処理装置の一実施の形態が適用されたこの第2の実施の形態で用いられる映像処理装置のヘッドマウントディスプレイ部2の外観を説明するための図である。 第2の実施の形態のヘッドマウントディスプレイ2を含めた映像処理装置の構成例を説明するためのブロック図である。 映像再生部31が、ユーザの頭部の向きに応じて変える、360度の範囲の映像データの読み出し部分について説明するための図である。 仮想音像定位処理が用いられるヘッドホンシステムの構成例を説明するための図である。 2チャンネルの仮想音像定位処理の概念を説明するための図である。 図8に示した信号処理部102の構成例を説明するための図である。 ジャイロセンサ10が設けられた従来のヘッドホンシステムがユーザの頭部に装着された場合について説明するための図である。
符号の説明
1…イヤホンシステム、11…音楽・音声再生装置、12…信号処理プロセッサ、121…音像定位処理部、122…音像定位補正部、13L、13R…D/A変換器、14L、14R…アンプ、15L、15R…イヤホン、16…ジャイロセンサ、17…加速度センサ、18…A/D変換器18、2…ヘッドマウントディスプレイ部、21…表示部、22…ジャイロセンサ、23…加速度センサ、3…映像再生装置、31…映像再生部、32…映像処理部、33…A/D変換器、34…ユーザ向き検出部

Claims (10)

  1. 再生対象の音声信号に対して、予め求められる頭部伝達関数に応じて音像定位処理を施す音像定位処理手段と、
    使用者の耳に対して装着され、前記音像定位処理手段により音像定位処理された音声信号の供給を受けて、当該音声信号に応じた音声を放音するイヤホンと、
    前記イヤホンに対して設けられ、当該イヤホンが装着された使用者の頭部の回転を検出する回転検出手段と、
    前期回転検出手段に対し予め決められた位置関係となるよう前記イヤホンに設けられ、前記回転検出手段の重力方向に対する傾きを検出する傾き検出手段と、
    前記傾き検出手段の検出結果に基づいて、前記回転検出手段からの検出結果を補正する回転補正手段と、
    前記回転補正手段により補正された前記回転検出手段からの検出結果に基づいて、前記音像定位処理手段を制御し、音像の定位位置を調整する調整手段と
    を備えた音声処理装置。
  2. 請求項1に記載の音声処理装置であって、
    前記傾き検出手段は、N(Nは1以上の整数)軸の加速度センサである音声処理装置。
  3. 請求項2に記載の音声処理装置であって、
    前記傾き検出手段は、前記回転検出手段における回転の検出軸が前記加速度センサにおける加速度の一検出軸と一致するよう前記イヤホンに設けられている音声処理装置。
  4. 請求項1に記載の音声処理装置であって、
    前記イヤホンは、挿入型、イントラコンカ型、耳かけ型のものである音声処理装置。
  5. 請求項1に記載の音声処理装置であって、
    使用者の操作を受け付ける操作手段をさらに有し、
    前記調整手段は、前記操作手段を介して使用者の操作を受け付けた時点における使用者の頭部の位置を基準位置として前記音像定位処理手段を制御し、音像の定位位置を調整する音声処理装置。
  6. 使用者の耳に対して装着されるイヤホンに設けられる回転検出手段を通じて、前記イヤホンが装着された使用者の頭部の回転を検出する回転検出工程と、
    前期回転検出手段に対し予め決められた位置関係となるよう前記イヤホンに設けられる傾き検出手段を通じて、前記回転検出手段の重力方向に対する傾きを検出する傾き検出工程と、
    前記傾き検出工程において検出した前記回転検出手段の傾きに基づいて、前記回転検出工程において検出した使用者の頭部の回転についての検出結果を補正する補正工程と、
    前記補正工程において補正された前記回転検出工程において検出した使用者の頭部の回転についての検出結果に基づいて、再生対象の音声信号に対して施される音像定位処理を調整し、音像定位位置を調整する調整工程と
    有する音像定位位置調整方法。
  7. 使用者の頭部に装着される耳かけ型の表示手段と、
    当該表示手段に対して設けられ、当該表示部が装着された使用者の頭部の回転を検出する回転検出手段と、
    前期回転検出手段に対し予め決められた位置関係となるよう当該表示手段設けられ、前記回転検出手段の重力方向に対する傾きを検出する傾き検出手段と、
    前記傾き検出手段の検出結果に基づいて、前記回転検出手段からの検出結果を補正する回転補正手段と、
    前記回転補正手段により補正された前記回転検出手段からの検出結果に基づいて、人の視野角以上の範囲の映像データから使用者の頭部の回転に応じた範囲の映像データを切り出して、前記表示手段に供給する映像処理手段と
    を備える映像処理装置。
  8. 請求項に記載の映像処理装置であって、
    前記傾き検出手段は、N(Nは1以上の整数)軸の加速度センサである映像処理装置。
  9. 請求項8に記載の映像処理装置であって、
    前記傾き検出手段は、前記回転検出手段における回転の検出軸が前記加速度センサにおける加速度の一検出軸と一致するよう前記イヤホンに設けられている映像処理装置。
  10. 使用者の頭部に装着される耳かけ型の表示手段に対して設けられる回転検出手段を通じて、当該表示部が装着された使用者の頭部の回転を検出する回転検出工程と、
    前期回転検出手段に対し予め決められた位置関係となるよう当該表示手段設けられる傾き検出手段を通じて、前記回転検出手段の重力方向に対する傾きを検出する傾き検出工程と、
    前記傾き検出工程において検出した前記回転検出手段の傾きに基づいて、前記回転検出工程において検出した使用者の頭部の回転についての検出結果を補正する補正工程と、
    前記補正工程において補正された前記回転検出工程において検出した使用者の頭部の回転についての検出結果に基づいて、映像処理手段が、人の視野角以上の範囲の映像データから使用者の頭部の回転に応じた範囲の映像データを切り出して、前記表示手段に供給する映像処理工程と
    を有する映像処理方法。
JP2008216120A 2008-08-26 2008-08-26 音声処理装置、音像定位位置調整方法、映像処理装置及び映像処理方法 Active JP4735993B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008216120A JP4735993B2 (ja) 2008-08-26 2008-08-26 音声処理装置、音像定位位置調整方法、映像処理装置及び映像処理方法
CN2009101612220A CN101662720B (zh) 2008-08-26 2009-07-24 声音处理装置、声像定位位置调节方法及视频处理装置
US12/545,956 US8472653B2 (en) 2008-08-26 2009-08-24 Sound processing apparatus, sound image localized position adjustment method, video processing apparatus, and video processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008216120A JP4735993B2 (ja) 2008-08-26 2008-08-26 音声処理装置、音像定位位置調整方法、映像処理装置及び映像処理方法

Publications (2)

Publication Number Publication Date
JP2010056589A JP2010056589A (ja) 2010-03-11
JP4735993B2 true JP4735993B2 (ja) 2011-07-27

Family

ID=41724705

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008216120A Active JP4735993B2 (ja) 2008-08-26 2008-08-26 音声処理装置、音像定位位置調整方法、映像処理装置及び映像処理方法

Country Status (3)

Country Link
US (1) US8472653B2 (ja)
JP (1) JP4735993B2 (ja)
CN (1) CN101662720B (ja)

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201205431A (en) * 2010-07-29 2012-02-01 Hon Hai Prec Ind Co Ltd Head wearable display system with interactive function and display method thereof
CN102568535A (zh) * 2010-12-23 2012-07-11 美律实业股份有限公司 互动式声音录放装置
JP5085763B2 (ja) 2011-04-27 2012-11-28 株式会社東芝 音信号処理装置、及び音信号処理方法
EP2783292A4 (en) * 2011-11-21 2016-06-01 Empire Technology Dev Llc AUDIO INTERFACE
US9910490B2 (en) 2011-12-29 2018-03-06 Eyeguide, Inc. System and method of cursor position control based on the vestibulo-ocular reflex
CN102789313B (zh) * 2012-03-19 2015-05-13 苏州触达信息技术有限公司 一种用户交互系统和方法
CN104205880B (zh) * 2012-03-29 2019-06-11 英特尔公司 基于取向的音频控制
CN102779000B (zh) * 2012-05-03 2015-05-20 苏州触达信息技术有限公司 一种用户交互系统和方法
US9292086B2 (en) * 2012-09-26 2016-03-22 Grinbath, Llc Correlating pupil position to gaze location within a scene
US9351090B2 (en) * 2012-10-02 2016-05-24 Sony Corporation Method of checking earphone wearing state
EP4329338A3 (en) 2013-04-26 2024-05-22 Sony Group Corporation Audio processing device, method, and program
EP2991383B1 (en) 2013-04-26 2021-01-27 Sony Corporation Audio processing device and audio processing system
EP2830327A1 (en) * 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio processor for orientation-dependent processing
WO2015012122A1 (ja) 2013-07-24 2015-01-29 ソニー株式会社 情報処理装置および方法、並びにプログラム
WO2015068756A1 (ja) * 2013-11-11 2015-05-14 シャープ株式会社 イヤホンシステム
CN105208501A (zh) 2014-06-09 2015-12-30 杜比实验室特许公司 对电声换能器的频率响应特性进行建模
CN104284291B (zh) * 2014-08-07 2016-10-05 华南理工大学 5.1通路环绕声的耳机动态虚拟重放方法及其实现装置
CN104284268A (zh) * 2014-09-28 2015-01-14 北京塞宾科技有限公司 一种可采集数据信息的耳机及数据采集方法
US9544679B2 (en) * 2014-12-08 2017-01-10 Harman International Industries, Inc. Adjusting speakers using facial recognition
EP3048818B1 (en) * 2015-01-20 2018-10-10 Yamaha Corporation Audio signal processing apparatus
EP3304927A4 (en) 2015-06-03 2018-07-18 Razer (Asia-Pacific) Pte. Ltd. Headset devices and methods for controlling a headset device
CN105183421B (zh) * 2015-08-11 2018-09-28 中山大学 一种虚拟现实三维音效的实现方法及系统
CN108141684B (zh) 2015-10-09 2021-09-24 索尼公司 声音输出设备、声音生成方法以及记录介质
CN105578355B (zh) * 2015-12-23 2019-02-26 惠州Tcl移动通信有限公司 一种增强虚拟现实眼镜音效的方法及系统
WO2017175366A1 (ja) * 2016-04-08 2017-10-12 株式会社日立製作所 映像表示装置および映像表示方法
JP6634976B2 (ja) * 2016-06-30 2020-01-22 株式会社リコー 情報処理装置、及びプログラム
KR102197544B1 (ko) 2016-08-01 2020-12-31 매직 립, 인코포레이티드 공간화 오디오를 가진 혼합 현실 시스템
CN107979807A (zh) * 2016-10-25 2018-05-01 北京酷我科技有限公司 一种模拟环绕立体声的方法及系统
JP6326573B2 (ja) * 2016-11-07 2018-05-23 株式会社ネイン 多機能イヤホンによる自律型アシスタントシステム
CN107182011B (zh) * 2017-07-21 2024-04-05 深圳市泰衡诺科技有限公司上海分公司 音频播放方法及系统、移动终端、WiFi耳机
CN111543068A (zh) * 2018-01-11 2020-08-14 索尼公司 声音处理装置、声音处理方法和程序
GB201800920D0 (en) * 2018-01-19 2018-03-07 Nokia Technologies Oy Associated spatial audio playback
CN111630877B (zh) * 2018-01-29 2022-05-10 索尼公司 声音处理装置、声音处理方法和程序
US10440462B1 (en) * 2018-03-27 2019-10-08 Cheng Uei Precision Industry Co., Ltd. Earphone assembly and sound channel control method applied therein
US11523246B2 (en) 2018-07-13 2022-12-06 Sony Corporation Information processing apparatus and information processing method
US11785411B2 (en) 2018-08-08 2023-10-10 Sony Corporation Information processing apparatus, information processing method, and information processing system
CN110213004A (zh) * 2019-05-20 2019-09-06 雷欧尼斯(北京)信息技术有限公司 基于数字音频广播方式的浸入式观影方法及装置
JP7342451B2 (ja) * 2019-06-27 2023-09-12 ヤマハ株式会社 音声処理装置および音声処理方法
US10735885B1 (en) * 2019-10-11 2020-08-04 Bose Corporation Managing image audio sources in a virtual acoustic environment
CN111158492B (zh) * 2019-12-31 2021-08-06 维沃移动通信有限公司 视频剪辑方法及头戴式设备
CN115002611A (zh) * 2022-08-03 2022-09-02 广州晨安网络科技有限公司 一种超声波指向性颈戴式音响系统

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2671327B2 (ja) * 1987-11-04 1997-10-29 ソニー株式会社 オーディオ再生装置
JP2550832B2 (ja) * 1992-07-21 1996-11-06 株式会社セガ・エンタープライゼス 仮想現実感生成装置
EP0674467B1 (en) * 1993-10-04 2006-11-29 Sony Corporation Audio reproducing device
JP2900985B2 (ja) * 1994-05-31 1999-06-02 日本ビクター株式会社 ヘッドホン再生装置
JP3796776B2 (ja) * 1995-09-28 2006-07-12 ソニー株式会社 映像音声再生装置
JPH1098798A (ja) * 1996-09-20 1998-04-14 Murata Mfg Co Ltd 角度計測装置およびこれを搭載したヘッドマウントディスプレイ装置
JP3994296B2 (ja) 1998-01-19 2007-10-17 ソニー株式会社 オーディオ再生装置
JPH11275696A (ja) * 1998-01-22 1999-10-08 Sony Corp ヘッドホン、ヘッドホンアダプタおよびヘッドホン装置
JP3624805B2 (ja) * 2000-07-21 2005-03-02 ヤマハ株式会社 音像定位装置
JP4737804B2 (ja) * 2000-07-25 2011-08-03 ソニー株式会社 音声信号処理装置及び信号処理装置
JP3435156B2 (ja) * 2001-07-19 2003-08-11 松下電器産業株式会社 音像定位装置
GB0419346D0 (en) * 2004-09-01 2004-09-29 Smyth Stephen M F Method and apparatus for improved headphone virtualisation
US7876903B2 (en) * 2006-07-07 2011-01-25 Harris Corporation Method and apparatus for creating a multi-dimensional communication space for use in a binaural audio system

Also Published As

Publication number Publication date
US8472653B2 (en) 2013-06-25
US20100053210A1 (en) 2010-03-04
CN101662720A (zh) 2010-03-03
CN101662720B (zh) 2013-04-03
JP2010056589A (ja) 2010-03-11

Similar Documents

Publication Publication Date Title
JP4735993B2 (ja) 音声処理装置、音像定位位置調整方法、映像処理装置及び映像処理方法
JP6799141B2 (ja) 空間化オーディオを用いた複合現実システム
JP3687099B2 (ja) 映像信号及び音響信号の再生装置
KR100445513B1 (ko) 영상음성재생장치
US7817806B2 (en) Sound pickup method and apparatus, sound pickup and reproduction method, and sound reproduction apparatus
JP4849121B2 (ja) 情報処理システムおよび情報処理方法
JP3422026B2 (ja) オーディオ再生装置
EP3354045A1 (en) Differential headtracking apparatus
US11546703B2 (en) Methods for obtaining and reproducing a binaural recording
JP2008160265A (ja) 音響再生システム
WO2016190460A1 (ko) 입체 음향 재생 방법 및 장치
JP3433513B2 (ja) 回転角度検出機能を備えたヘッドホン装置
KR102534802B1 (ko) 멀티-채널 바이노럴 기록 및 동적 재생
WO2023058162A1 (ja) 音声拡張現実オブジェクト再生装置及び音声拡張現実オブジェクト再生方法
JP2023080769A (ja) 再生制御装置、頭外定位処理システム、及び再生制御方法
JPH03214899A (ja) ヘッドホン装置
JP2000350299A (ja) 音響信号再生装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100312

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100701

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110413

R151 Written notification of patent or utility model registration

Ref document number: 4735993

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250