JP2002199498A - 音源の音像定位方法及び音像定位を行うゲーム装置並びに音像定位プログラムの記録された記録媒体並びにかかるプログラムの伝送方法 - Google Patents
音源の音像定位方法及び音像定位を行うゲーム装置並びに音像定位プログラムの記録された記録媒体並びにかかるプログラムの伝送方法Info
- Publication number
- JP2002199498A JP2002199498A JP2000392168A JP2000392168A JP2002199498A JP 2002199498 A JP2002199498 A JP 2002199498A JP 2000392168 A JP2000392168 A JP 2000392168A JP 2000392168 A JP2000392168 A JP 2000392168A JP 2002199498 A JP2002199498 A JP 2002199498A
- Authority
- JP
- Japan
- Prior art keywords
- sound image
- video
- image localization
- viewpoint
- sound
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Stereophonic System (AREA)
Abstract
像内の移動体や視点の移動(変更)に伴って、音源の音
像を定位することが可能な音像定位方法及びこれを用い
たゲーム機などを提供する。 【解決手段】 再生される映像内の移動体の動き及び/
又は映像の視点の動きに連動して、音源との相対位置を
検出し、音像定位におけるパラメータを逐次変更するこ
とによって、移動体及び/又は視点の動きに連動した正
確な音像定位を行う。
Description
し、特にゲームの映像のように、映像の視点に変化を伴
う視聴環境での音像定位方法及びかかる音像定位を行う
ゲーム装置並びに音像定位プログラムの記録された記録
媒体並びにかかるプログラムの伝送方法に関する。
た場面で音源の位置を定位させたり移動の方向がわかる
ように2つのスピーカを用いた音像定位処理が行われて
いる(例えば本出願人会社の特許2882449号)。
しかし、ハードウェアの処理能力の向上及び画像処理技
術が進むに従って、視点の移動や回転が行われるように
なり(例えば、特開平6−205879号公報、特開平
9−167258号公報、特開平9−836261号公
報)、視点の変化により音響が不自然にならないように
処理することが考えられるようなった(例えば、特開平
10−137445号公報)。
号公報では複数の視点のうちいずれか一つの視点から空
間を観察することにより得られる仮想画像に対応させた
音響を生成することができるが、その手法は波形データ
の選択と加工あるいは左右音声のバランスによるもので
あるから個々の音源をきめこまかく定位させることはで
きなかった。また、この手法では画面中を自由に移動さ
せる操作部の操作に応じて個々のキャラクタが発する音
源をきめこまかく定位させることはできなかった。
ームなどでは、固定された映像シーンに対して、移動体
が発する音の音像を任意に定位させることが行われてい
た。近年、ゲームなどでは、画面の移動や回転をリアル
タイムに自由に制御することが可能となっており、従来
の音像定位方法では不十分となってきた。したがって、
本発明は従来の音像定位方法では不十分であった、映像
内の移動体や視点の移動(変更)に伴って、音源の音像
を定位することが可能な音像定位方法及びこれを用いた
ゲーム機などを提供することを目的とする。なお、本発
明で「視点」とは3D(3次元)映像構成する際の見る
位置(カメラ位置)すなわち、野球ゲームにおけるバッ
ターの目の位置から見た映像におけるバッターの目の位
置の他に、ゲームを行うユーザの映像(2次元でもよ
い)、すなわち映像表示画面に対する目の位置の双方を
含む概念である。
め、本発明では再生される映像内の移動体の動き及び/
又は映像の視点の動きに連動して、音源(発音体)との
相対位置(方向、距離など)を検出し、音像定位におけ
るパラメータを逐次変更することによって、移動体及び
/又は視点の動きに連動した正確な音像定位を行うよう
にしている。
内の移動体の動き及び/又は前記映像の視点の動きに伴
い、仮想空間内の音源と前記視点との相対位置を算出
し、算出された相対位置を用いて前記音源の音像定位を
行う音像定位方法が提供される。
して、その映像を表示する手段と、前記映像に付随した
少なくとも2チャンネルの音声を再生する手段と、前記
映像内の移動体の動きに応じたパラメータ及び/又は前
記映像の視点の動きに応じたパラメータを入力するため
の入力手段と、前記入力手段により入力されたパラメー
タに応じて前記視点と音源との相対位置を算出する算出
手段と、前記算出手段により算出された前記相対位置を
用いて、音像定位を行う音像定位処理手段とを、有する
ゲーム装置が提供される。
付随した少なくとも2チャンネルの音声を再生する再生
装置用の音像定位プログラムの記録された記録媒体であ
って、ユーザが入力する前記映像内の移動体の動きに応
じたパラメータ及び/又は前記映像の視点の動きに応じ
たパラメータを受け入れるステップと、受け入れられた
パラメータに応じて前記視点と音源との相対位置を算出
する算出ステップと、算出された前記相対位置を用い
て、音像定位を行う音像定位処理ステップとを、有する
音像定位方法のプログラムをコンピュータが読み取り可
能な形態で記録した記録媒体が提供される。
付随した少なくとも2チャンネルの音声を再生する再生
装置用の音像定位プログラムであって、ユーザが入力す
る前記映像内の移動体の動きに応じたパラメータ及び/
又は前記映像の視点の動きに応じたパラメータを受け入
れるステップと、受け入れられたパラメータに応じて前
記視点と音源との相対位置を算出する算出ステップと、
算出された前記相対位置を用いて、音像定位を行う音像
定位処理ステップとを有する音像定位プログラムをパケ
ット化し、前記パケットの所定位置に前記パケットに関
する情報を含むパケットヘッダを付し、ネットワークに
送り出すコンピュータが読み取り可能なコンピュータプ
ログラムの伝送方法が提供される。
形態について説明する。まず実施の形態について詳述す
る前に、本発明の概念を示す図lに沿って説明する。図
1において、ゲーム機などの制御装置1は、映像出力表
示装置2に映像信号を与えて所望の映像を再生するもの
であり、映像の視点の制御指示を行うジョイスティッ
ク、キーボードなどの入力装置3から入力される指令信
号に応答し、CPU(演算処理装置)4が所定の動作を
行うよう構成されている。音源データ及び定位パラメー
タ格納メモリ5にはこれらのデータとパラメータがあら
かじめ格納されている。一対の再生スピーカ6L、6R
は、映像出力表示装置2の左右に配置され左チャンネル
と右チャンネルの音声を再生する。
移動が指示されるとCPU4により具現される視点変更
指示処理部4Bによって視点変更が検出され、CPU4
により具現される表示映像変更処理部4Aが視点に応じ
た画像処理を行い、映像出力表示装置2に更新された画
像を表示する。また、視点変更指示処理部4Bは、CP
U4により具現される視点と音源との相対位置(方向、
距離など)算出部4Cに相対位置算出を指示する。視点
と音源との相対位置算出部4Cは入力装置3からの入力
に応じた視点と音源との相対位置を逐次算出し、CPU
4により具現される音像定位処理部4Dに相対位置に応
じた定位パラメータ(定位フィルタなど)を設定する。
正確な音像定位が可能となる。次に音像定位処理部4D
の具体例を説明する。図2は一般的な2チャンネル再生
フィルタのブロック図である。図2の下に示す一対のス
ピーカL1、L2の再生システムにおいて、聴取者の左右
の耳までのインパルス応答をそれぞれhl,r1(t),
hl,r2(t)、スピーカL1、L2ヘの入力信号をx
1(t),x2(t)とすると、両耳で再生される音圧p
l(t),pr(t)は次式で表される。 pl(t)=x1(t)*hl1(t)+x2(t)*hl2(t) pr(t)=x1(t)*hr1(t)+x2(t)*hr2(t) (1) 今、図2に示すように、自由音場内の任意の位置Pの単
一音源と両耳とのインパルス応答をそれぞれf
l(t),fr(t)とし、図2の再生システムでこのf
l(t),fr(t)を再現することを考えると、p
l(t)=fl(t),pr(t)=fr(t)となるので
式(l)は fl(t)=x1(t)*hl1(t)+x2(t)*hl2(t) fr(t)=x1(t)*hr1(t)+x2(t)*hr2(t) (2) となる。
が得られる。 Fl(ω)=X1(ω)Hl1(ω)+X2(ω)Hl2(ω) Fr(ω)=X1(ω)Hr1(ω)+X2(ω)Hr2(ω) (3) スピーカL1、L2への入力信号は周波数領域で次式のよ
うになる。
られ、次式で表される。 x1(t)=[fl(t)*hr2(t)−fr(t)*hl2(t)]*d(t) x2(t)=[fr(t)*hl1(t)−fl(t)*hr1(t)]*d(t) (6) ここで、d(t)はD(ω)を逆フーリエ変換したもの
である。また解が1つに決まるためには、すべての周波
数領域にわたってD(ω)≠0となることが必要十分な
条件である。
ブロック図を書くことができ、一例として図2のように
なる。このように定位させたい位置のインパルス応答f
l(t)、fr(t)及び再生系のインパルス応答hl'rl
(t),hl'r2(t)をあらかじめ用意しておけば、図
2のブロック図により音源の所定位置Pへの定位が可能
となる。したがって、図2のブロック図において定位さ
せたい方向の数だけfl(t)、fr(t)の対を用意し
ておき(fl0(t).....flm(t),f
r0(t).....frm(t))、方向によってf
lm(t)、frm(t)を切り替えるようにすれば定位位
置を任意に変更することが可能となり、またf
lm(t)、frm(t)を連続的に変更すれば音源の移動
も可能となる。この場合に用いられる構成のブロック図
を図3に示す。そこで音源を複数に拡張させることを考
える。
の音源を任意の位置に定位及び移動させることができ
る。この場合に用いられる構成のブロック図を図4に示
す。図4の構成は図3に示す構成を複数個(m個)用意
したものである。図4の構成ではflm(t)、f
rm(t)を切り替えるときに発生する信号の不連続によ
るノイズを軽減するためにクロスフェード処理を付加し
てある。クロスフェード処理は、現在の定位位置の処理
と前回の定位位置の処理を並列に行い、この2つの結果
をクロスフェードすることによって実現している。この
原理を図5に示す。したがって、図4のブロックでは、
クロスフェード処理のためにflm(t)、frm(t)を
処理する部分をそれぞれ2組用意している。この図4に
示す構成が本発明の音像定位方法を実現する図1の概念
図の音像定位処理部4Dの具体例となる。図4に示すよ
うに各再生フィルタの出力に残響処理などの処理を組み
込み、音場を拡大するようにしてもよい。
施の形態のフローチャートを示す。すなわち、このフロ
ーチャートは図1に示すCPU4の動作を示すものであ
る。図6において、入力装置から入力される視点変更を
ポーリングし(ステップS1)、視点変更があれば(ス
テップS2でYes)、視点変更に応じた表示映像を処
理し(ステップS3)、視点と音源の相対位置(方向、
距離など)を算出し、(ステップS4)、算出された相
対位置に応じた定位パラメータで音像定位処理を行う
(ステップS5)。この部分が視点が移動した場合の処
理にあたり、この処理のイメージ図を図7に示す。
合を含めて、ユーザが入力装置から指定した場合などに
おける移動すべき音源があれば(ステップS6でYe
s)、音源の移動に応じた表示映像を処理し(ステップ
S7)、視点と音源との相対位置(方向、距離など)を
算出し(ステップS8)、算出された相対位置に応じた
定位パラメータで音像定位処理を行う(ステップS
9)。この部分が音源が移動した場合の処理にあたり、
この処理のイメージ図を図8に示す。次に終了かどうか
を判断する(ステップS10)。終了であれば終了す
る。終了でなければステップS1に戻る。なお、上記音
像定位処理は、式(6)のようにFlRフィルタで実現
しているが、これを基にIIRフィルタを用いて実現し
てもよく、これに限るものではない。図6に示すフロー
チャートに基づいてCPU4を動作させるため、所定の
コンピュータプログラムが記録(記憶)媒体に格納され
ているものとする。したがって、かかるコンピュータプ
ログラムも本発明の範囲内にある。
音源の移動のそれぞれについて別々に行っているが、同
時に行うようにしてもよく、これに限るものではない。
をネットワークを介して伝送する場合には、符号化側で
は図9に示すように伝送用にパケット化し(ステップS
41)、次いでこのパケットの情報を含むパケットヘッ
ダを付与し(ステップS42)、次いでこのパケットを
ネットワーク上に送り出す(ステップS43)。なお、
(ステップS43では、必要に応じて所定の変調を行
う。ネットワークを介して送信されたコンピュータプロ
グラムは、ゲーム機に付属するかあるいは、ゲーム機と
は別個に用意された図示省略の受信装置により受信され
る。受信装置は所定の復号装置を有していて、図10に
示すようにヘッダを除去し(ステップS51)、次いで
データを復元し(ステップS52)、次いでこのデータ
をメモリに格納して復号を待つ(ステップS53)。
動に連動して音源定位パラメータを決定し、このパラメ
ータに基づいた音像定位及び移動が可能となる。また、
パンポットなどの音量制御ではなく、頭部伝達関数を用
いて定位を実現しているので、正確な音像定位及び移動
が可能である。図7に視点変更時の仮想空間と再生環境
のイメージ図を示す。視点を変更した場合、視点と音源
の相対位置を検出して、定位パラメータを決定するの
で、再生環境では、画面の移動に伴って音源の定位が移
動し、実世界で視点を移動したときと同様の音響の変化
を知覚することができる。
おり音源が移動する場合も、音源との相対位置を検出し
て、定位パラメータを決定するので、再生環境でも音源
の移動を知覚することができる。また、これら視点の移
動、音源の移動は、同時に行うことも可能である。した
がって、本発明によれば、あたかも仮想空間にいるかの
ような画像を観察し、それに対応する音響も聴くことが
できるので、臨場感溢れる体感を得ることができる。な
お、上記実施の形態は2チャンネルの場合について説明
したが、本発明は2チャンネル以上の複数チャンネルの
再生系に容易に適用可能である。さらに、本発明の音像
定位方法を実現するためのコンピュータプログラムをパ
ケット化して伝送することにより遠方にいるユーザにコ
ンピュータプログラムを伝送することができる。また、
パケット化する際に、ゲームプログラムと音像定位方法
を実現するためのプログラムを一体にしてパケット化す
ることにより、両者を一度に伝送することもできる。
生される映像内の移動体の動き及び/又は映像の視点の
動きに連動して、音源(発音体)との相対位置(方向、
距離など)を検出し、音像定位におけるパラメータを逐
次変更することによって、移動体及び/又は視点の動き
に連動した正確な音像定位を行うことができる。
概念図である。
る。
る。
ある。
り入力手段を構成する) 4 CPU 4A 表示映像変更処理部 4B 視点変更指示処理部 4C 視点と音源との相対位置算出部(算出手段) 4D 音像定位処理部(音像定位処理手段) 5 音源データ/定位パラメータ格納メモリ 6L 左チャンネル再生スピーカ 6R 右チャンネル再生スピーカ(左チャンネル再生ス
ピーカと共に2チャンネルの音声を再生する手段を構成
する)
Claims (4)
- 【請求項1】 再生される映像内の移動体の動き及び/
又は前記映像の視点の動きに伴い、仮想空間内の音源と
前記視点との相対位置を算出し、算出された相対位置を
用いて前記音源の音像定位を行う音像定位方法。 - 【請求項2】 ゲームソフトを再生して、その映像を表
示する手段と、 前記映像に付随した少なくとも2チャンネルの音声を再
生する手段と、 前記映像内の移動体の動きに応じたパラメータ及び/又
は前記映像の視点の動きに応じたパラメータを入力する
ための入力手段と、 前記入力手段により入力されたパラメータに応じて前記
視点と音源との相対位置を算出する算出手段と、 前記算出手段により算出された前記相対位置を用いて、
音像定位を行う音像定位処理手段とを、 有するゲーム装置。 - 【請求項3】 映像及び前記映像に付随した少なくとも
2チャンネルの音声を再生する再生装置用の音像定位プ
ログラムの記録された記録媒体であって、 ユーザが入力する前記映像内の移動体の動きに応じたパ
ラメータ及び/又は前記映像の視点の動きに応じたパラ
メータを受け入れるステップと、 受け入れられたパラメータに応じて前記視点と音源との
相対位置を算出する算出ステップと、 算出された前記相対位置を用いて、音像定位を行う音像
定位処理ステップとを、 有する音像定位方法のプログラムをコンピュータが読み
取り可能な形態で記録した記録媒体。 - 【請求項4】 映像及び前記映像に付随した少なくとも
2チャンネルの音声を再生する再生装置用の音像定位プ
ログラムであって、ユーザが入力する前記映像内の移動
体の動きに応じたパラメータ及び/又は前記映像の視点
の動きに応じたパラメータを受け入れるステップと、受
け入れられたパラメータに応じて前記視点と音源との相
対位置を算出する算出ステップと、算出された前記相対
位置を用いて、音像定位を行う音像定位処理ステップと
を有する音像定位プログラムをパケット化し、前記パケ
ットの所定位置に前記パケットに関する情報を含むパケ
ットヘッダを付し、ネットワークに送り出すコンピュー
タが読み取り可能なコンピュータプログラムの伝送方
法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000392168A JP2002199498A (ja) | 2000-12-25 | 2000-12-25 | 音源の音像定位方法及び音像定位を行うゲーム装置並びに音像定位プログラムの記録された記録媒体並びにかかるプログラムの伝送方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000392168A JP2002199498A (ja) | 2000-12-25 | 2000-12-25 | 音源の音像定位方法及び音像定位を行うゲーム装置並びに音像定位プログラムの記録された記録媒体並びにかかるプログラムの伝送方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006270730A Division JP2007050267A (ja) | 2006-10-02 | 2006-10-02 | 音像定位技術を利用したゲーム装置び音像定位プログラムの記録された記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2002199498A true JP2002199498A (ja) | 2002-07-12 |
Family
ID=18858197
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000392168A Pending JP2002199498A (ja) | 2000-12-25 | 2000-12-25 | 音源の音像定位方法及び音像定位を行うゲーム装置並びに音像定位プログラムの記録された記録媒体並びにかかるプログラムの伝送方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2002199498A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004195210A (ja) * | 2002-12-04 | 2004-07-15 | Nintendo Co Ltd | ゲームサウンド制御プログラム、ゲームサウンド制御方法およびゲーム装置 |
JP2007266967A (ja) * | 2006-03-28 | 2007-10-11 | Yamaha Corp | 音像定位装置およびマルチチャンネルオーディオ再生装置 |
US7338373B2 (en) | 2002-12-04 | 2008-03-04 | Nintendo Co., Ltd. | Method and apparatus for generating sounds in a video game |
JPWO2021112161A1 (ja) * | 2019-12-03 | 2021-06-10 |
-
2000
- 2000-12-25 JP JP2000392168A patent/JP2002199498A/ja active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004195210A (ja) * | 2002-12-04 | 2004-07-15 | Nintendo Co Ltd | ゲームサウンド制御プログラム、ゲームサウンド制御方法およびゲーム装置 |
US7338373B2 (en) | 2002-12-04 | 2008-03-04 | Nintendo Co., Ltd. | Method and apparatus for generating sounds in a video game |
JP2007266967A (ja) * | 2006-03-28 | 2007-10-11 | Yamaha Corp | 音像定位装置およびマルチチャンネルオーディオ再生装置 |
JPWO2021112161A1 (ja) * | 2019-12-03 | 2021-06-10 | ||
WO2021112161A1 (ja) * | 2019-12-03 | 2021-06-10 | 日本電気株式会社 | 情報処理装置、制御方法及び非一時的なコンピュータ可読媒体 |
JP7428189B2 (ja) | 2019-12-03 | 2024-02-06 | 日本電気株式会社 | 情報処理装置、制御方法及び制御プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5919201B2 (ja) | 音声を定位知覚する技術 | |
US7602921B2 (en) | Sound image localizer | |
KR100551605B1 (ko) | 음원을 스피커로 프로젝팅하는 방법과 장치 | |
US20050275914A1 (en) | Binaural horizontal perspective hands-on simulator | |
US9967693B1 (en) | Advanced binaural sound imaging | |
US11877135B2 (en) | Audio apparatus and method of audio processing for rendering audio elements of an audio scene | |
KR102548644B1 (ko) | 신호 처리 장치 및 방법, 그리고 프로그램 | |
EP3595337A1 (en) | Audio apparatus and method of audio processing | |
JP2007050267A (ja) | 音像定位技術を利用したゲーム装置び音像定位プログラムの記録された記録媒体 | |
JP2002199498A (ja) | 音源の音像定位方法及び音像定位を行うゲーム装置並びに音像定位プログラムの記録された記録媒体並びにかかるプログラムの伝送方法 | |
JP6056466B2 (ja) | 仮想空間中の音声再生装置及び方法、並びにプログラム | |
JP3573797B2 (ja) | ステレオ音声再生装置 | |
JP2003348699A (ja) | ゲーム機及びゲーム機用プログラム並びに送信受信装置 | |
RU2815366C2 (ru) | Аудиоустройство и способ обработки аудио | |
JP2012160984A (ja) | 立体音響再生装置および立体音響再生方法 | |
Simon et al. | Sonic interaction with a virtual orchestra of factory machinery | |
JP2003061195A (ja) | 音声信号再生装置 | |
JP4046891B2 (ja) | 音場空間情報送受信方法、音場空間情報送信装置および音場再現装置 | |
CN117063489A (zh) | 信息处理方法、程序和信息处理系统 | |
JPH08172700A (ja) | 音響装置 | |
JP2004215781A (ja) | ゲーム機及びゲーム機用プログラム | |
JP2003078999A (ja) | 3次元移動音生成方法とその装置 | |
JP2012199784A (ja) | 音響再生装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060310 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060501 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060801 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061002 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20061204 |
|
A912 | Removal of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20070126 |