JP4531554B2 - 高臨場感通信装置及び高臨場感通信方法 - Google Patents
高臨場感通信装置及び高臨場感通信方法 Download PDFInfo
- Publication number
- JP4531554B2 JP4531554B2 JP2004371622A JP2004371622A JP4531554B2 JP 4531554 B2 JP4531554 B2 JP 4531554B2 JP 2004371622 A JP2004371622 A JP 2004371622A JP 2004371622 A JP2004371622 A JP 2004371622A JP 4531554 B2 JP4531554 B2 JP 4531554B2
- Authority
- JP
- Japan
- Prior art keywords
- acoustic
- head
- transfer function
- learner
- listener
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Stereophonic System (AREA)
Description
本発明は、前記センサからの信号により受聴者の姿勢に応じた頭部伝達関数を適用する装置として、検出部を含む部位を駆動する駆動部と、前記検出部とは離れた地点において前記音響信号を受聴する受聴者に付帯された当該受聴者の姿勢及び運動を検知するセンサからの信号により前記駆動部を制御する制御部とを有する装置(ロボット、又は、音響テレプレゼンス装置)を用いる。
また、本発明は、前記センサからの信号により、受聴者の姿勢に応じた頭部伝達関数を適用する装置として、前記受聴者の姿勢に対応する頭部伝達関数をデータベースとして頭部伝達関数データベースを用いる。
このような技術を適用したシステムは、例えば、図19に示すように、テレヘッド等の音響テレプレゼンス装置として設けられ、この装置を利用することにより、受聴者は、音響信号を高臨場感をもって聴くことができる。ここでは、テレヘッド等の音響テレプレゼンス装置は、受聴者の頭部形状に似たダミーヘッドが設けられ、受聴者の頭部姿勢を検出して、その検出結果に基づいて、ダミーヘッドを受聴者の頭部姿勢に追従動作させるものである。そして、この時、ダミーヘッドにおいて集音した音響信号を受聴者に伝達することによって、受聴者の頭部形状と頭部運動を同時に考慮した音環境を受聴者に伝達することができる。
このような音響テレプレゼンス装置2によれば、テレヘッド240が受聴者3の頭部姿勢に応じて追従動作することにより、テレヘッド240が設置された遠隔地に、受聴者がいるかのような音響を感じられるとともに、その受聴者の頭部姿勢に応じた音響を感じることが可能である。
また,頭部伝達関数の個人への対応という面では、様々な身体的特徴を基に計算する方法や、多くの頭部伝達関数のデータベースから可能な範囲で個人に適応したものを選択する手法があるが、いずれも十分に個人に適応した頭部伝達関数を得られる可能性は低い(非特許文献1)。さらに、他者の頭部伝達関数を用いて高臨場感を得られるように訓練するための有用な学習手法は提案されていない。
H.Mo(oに縦棒)ller,"Fundamental of binaural technology",Applied Acoustics,vol.36,pp.173,1992. 西野隆典、梶田将司、武田一哉、板倉文忠、「重回帰分析に基づく頭部伝達関数の推定」、電子情報通信学会論文誌、J84-A,pp.260-268、2001. 宮本俊夫、「図解雑学 脳の働き 知覚と錯覚」、ナツメ社、pp.260,2002.
(1)ダミーヘッドと受聴者との頭部形状の相違に基づく受信された音響信号特性の差異による高臨場感の喪失又は低減(第1の問題)(非特許文献1参照)
(2)遠隔地からダミーヘッドの制御するために生ずる音響信号受信時刻とダミーヘッド駆動時刻との遅延時間による高臨場感の喪失又は低減(第2の問題)
(1)個別に頭部伝達関数を用いなくても高い音源定位精度が得られ、違和感を減少させること
(2)音響信号受信時刻とダミーヘッド駆動時刻との遅延時間による違和感を低減させ、高臨場感を向上させること
音響信号の受信は、頭部形状のダミーヘッド内に設けられた検出部によって検出する。このとき、ダミーヘッドをセンサからの信号により駆動制御する。
また、ダミーヘッドを用いない場合には、音響信号を受聴者の姿勢に対応する頭部伝達関数を記録したデータベースを参照して演算し、演算結果を受聴者に出力することも可能である。
能動的に運動を行った結果(能動運動効果)が知覚刺激にフィードバックされることにより、頭部伝達関数に代表される感覚インタフェースへの適応や伝達遅延への適応が加速され、感覚インタフェースにおける個人差や伝達遅延の影響を容易に抑制することができるようになる。
この図において、位置姿勢検出部10は、音響刺激情報を受ける学習者の位置姿勢情報を検出する。この位置姿勢情報とは、音響刺激が出力される位置(音源の位置)とロボットの頭部との相対位置を表す情報である。この位置姿勢検出部10は、例えば、図2におけるセンサ200と三次元姿勢計測器210との組み合わせによって構成される。
ロボット装置14は、ダミーヘッドを備えている。増幅部15は、音響刺激情報検出部13によって検出された音響刺激情報を増幅し、指定されたボリュームに合わせて出力する。
回答入力部17は、入力装置であって、学習者から入力される音響刺激情報に対する回答情報を学習装置1に入力する。この回答は、例えば、どの方向から音響刺激が出力されたかについての方向についての回答である。
判定部18は、回答入力部17から入力される回答情報に基づいて、学習を終了するか否かを判定する。この判定は、音響刺激情報生成部11によって生成された音響刺激が出力される方向と回答入力部17から入力された回答情報に示す方向と比較し、一致しているか否かについて集計し、集計結果に基づいて正答が一定値以上であるか否かに基づいて判定する。
ロボット駆動部21は、位置姿勢検出部10が検出した位置姿勢情報に基づいて、ロボット装置を追従動作させる。このロボット駆動部21は、例えば、図2の制御装置220、モータ制御部230、傾斜および仰角方向用モータ250、回旋方向用モータ260の組み合わせによって構成される。
学習装置1は、学習者に対し、表示装置によって、頭部運動を指示するためのメッセージを表示する(ステップS10)。このメッセージに従い運動した学習者の頭部運動を位置姿勢検出部10によって検出すると、検出した頭部運動に応じてロボット駆動部21を駆動させるための動作指令を出力する(ステップS11)。次に、音響刺激情報生成部11は、音響信号を生成し、音響テレプレゼンス装置に対して音響刺激情報出力部12から出力する(ステップS12)。ロボット装置14内の音響刺激情報検出部13は、この音響信号を検出し、検出結果を増幅部15に出力する。学習者音響刺激情報出力部16は、増幅部15によって増幅された音響信号を学習者に出力する(ステップS13)。そして、学習者に対し、音響刺激の方向回答を入力させる指示を表示装置によって表示する(ステップS14)。
図5は、他の実施形態における高臨場感通信装置の構成について説明するためのブロック図である。この図において、図3の各部に対応する部分に同一の符号を付け、その説明を省略する。ここでは、高臨場感通信装置において、ロボット装置14等を用いず、学習装置1において、音響テレプレゼンス装置の頭部伝達関数を用いて音響刺激についてシミュレーションする点が異なる。
音響刺激情報出力部12は、音響刺激情報生成部11によって生成された音響刺激を学習者に出力する。この出力は、複数のスピーカによって出力してもよく、また、ヘッドホンによって出力しても良い。
学習装置1は、学習者に対し、表示装置によって、頭部運動を指示するためのメッセージを表示する(ステップS21)。このメッセージに従い運動した学習者の頭部運動を位置姿勢検出部10によって検出すると、検出した頭部運動に応じてロボット駆動部21を駆動させるための動作指令を生成する(ステップS22)。次に、演算部20は、音響刺激データベース20aに設定された、学習者の頭部伝達関数とは異なる頭部伝達関数に従って、音響特性であるHRTFを算出することによって、音響刺激をシミュレーションして生成する(ステップS23)。そして、生成した音響刺激を音響刺激情報出力部12によって出力することによって伝達し(ステップS24)、学習者に対し、音響刺激の方向回答を入力させる指示を表示装置によって表示する(ステップS25)。
この図7の実施形態によれば、予め使用する音響テレプレゼンス装置の頭部伝達関数がデータベースに記憶されているので、その頭部伝達関数を利用して音響テレプレゼンス装置をシミュレーションすることができ、これにより、ロボット装置等の実機を用いることなく学習させることができる。
この実施形態において、学習装置1は、図3の構成と同様であるが、その機能が異なる。以下、相違点について説明する。図3において、ロボット駆動部21は、位置姿勢検出部10によって検出された動作に追従して駆動する場合に、指定される遅延時間に従って、追従動作を遅延させて動作する。
学習装置1は、学習者に対し、表示装置によって、頭部運動を指示するためのメッセージを表示する(ステップS31)。このメッセージに従い運動した学習者の頭部運動を位置姿勢検出部10によって検出すると、ロボット駆動部21は、検出された頭部運動と設定された遅延時間に応じてロボット装置14を動作させる(ステップS32)。音響刺激情報生成部11は、音響刺激を生成し、音響刺激情報出力部12から出力する(ステップS33)。ロボット装置14内の音響刺激情報検出部13は、この音響刺激を検出し、検出結果を増幅部15に出力する。学習者音響刺激情報出力部16は、増幅部15によって増幅された音響刺激を学習者に出力する(ステップS34)。そして、学習者に対し、音響刺激の方向回答を入力させる指示を表示装置によって表示する(ステップS35)。
この実施形態において、学習装置1は、図5の構成と同様であるが、その機能が異なる。以下、相違点について説明する。この実施形態において、学習装置1は、音響テレプレゼンス装置の頭部伝達関数を用いて音響刺激についてシミュレーションするとともに、学習したい遅延時間をシミュレーションする点が異なる。図5において、演算部20は、遅延時間と頭部伝達関数とを考慮した伝達関数を記憶する伝達関数データベース20aを有しており、姿勢検出部10によって検出された位置姿勢情報に対応する伝達関数を伝達関数データベース20aに記憶された伝達関数の中から選択し、選択した伝達関数に従って、音響信号を生成して音響刺激情報生成部11に出力する。
この図9の実施形態によれば、予め使用する音響テレプレゼンス装置の頭部伝達関数と遅延時間に応じた伝達関数を記憶するようにしたので、学習装置1は、その頭部伝達関数と遅延時間とを利用して音響テレプレゼンス装置をシミュレーションすることにより、ロボット装置等の実機を用いることなく学習者に学習させることができる。
学習者によって能動運動が行われると(ステップS128)、その能動運動した結果に基づいて、学習者の能動運動を音響刺激に反映させる(ステップS129)。学習者は、得られた音響刺激に対する回答を入力装置に入力することによって回答する(ステップS130)。そして、学習装置1は、学習者から入力された回答結果に基づき、学習の終了判定を行い(ステップS131)、判定結果に応じて、学習を繰り返す(ステップS132)、もしくは終了する(ステップS133)。
音響刺激情報生成部は、音響刺激を生成し(ステップS142)、任意の頭部伝達関数を持つロボットを用いて集音し(ステップS143)、アンプにより音量を調整し(ステップS144)、ヘッドホンにより音響情報を出力する(ステップS145)ことによって、音響情報を伝達する。学習者によって能動運動が行われると(ステップS146)、その能動運動した結果に基づいて、学習者の能動運動をロボットの運動に反映させて追従させる(ステップS147)。そして、得られた音刺激に対する回答を入力装置を介して学習者に入力してもらい、音刺激の生成(ステップS142)から、この回答させる(ステップS148)までを指定回数または指定時間繰り返す(ステップS149)ことにより、学習者の音響インタフェースヘの学習の進行具合を得る。そして、この進行具合に基づき学習の終了判定をする(ステップS150)。そして、判定結果に基づいて、学習を繰り返す(ステップS151)、もしくは、学習を終了する(ステップS152)。
F.Wightman and J.D.Kistler,“Resolution of front-back ambiguity in spatial hearing,by listener and source movement”,J.Acoust.Soc.Am, vol. 105, pp. 2841-2853, 1999.
4 学習者 10 位置姿勢検出部
11 音響刺激情報生成部 12 音響刺激情報出力部
13 音響刺激情報検出部 14 ロボット装置
15 増幅部 16 学習者音響刺激情報出力部
17 回答入力部 18 判定部
19 生成部 20 演算部
20a 伝達関数データベース 21 ロボット駆動部
200 センサ 210 三次元姿勢計測器
220 制御装置 230 モータ制御部
240 テレヘッド 250 傾斜および仰角方向用モータ
260 回旋方向用モータ 270 検出部
280 出力部
Claims (6)
- ダミーヘッドを利用した装置もしくは頭部伝達関数を適用する装置を有し受聴者の頭部姿勢に対応して音響信号を集音する検出部と、当該検出部とは離れた地点において前記音響信号を受聴する受聴者に付帯された当該受聴者の頭部姿勢を検知するセンサとから構成される高臨場感通信装置であって、
どの位置から音響を出力するかを示す信号である学習用音響刺激情報を生成する音響刺激生成部と、
前記音響刺激生成部により生成された音響刺激情報により、1つまたは複数のスピーカから音響信号を出力する音響刺激出力部と、
前記音響信号が発せられたと前記受聴者が知覚する音源位置を回答として受け取る回答入力部と、
前記回答入力部から入力される回答情報が示す方向と、前記音響刺激出力部から出力された方向とが一致するか否かを集計し、集計結果に基づいて、前記学習用音響刺激情報の生成を終了するか否かを判定する判定部と
を有することを特徴とする高臨場感通信装置。 - 前記ダミーヘッドを利用した装置は、
検出部を含む部位を駆動する駆動部と、
前記検出部とは離れた地点において前記音響信号を受聴する受聴者に付帯された当該受聴者の姿勢を検知するセンサからの信号により前記駆動部を制御する制御部と
を有することを特徴とする請求項1記載の高臨場感通信装置。 - 前記制御部は、設定される遅延時間に従って遅延させて前記駆動部を制御することを特徴とする請求項2記載の高臨場感通信装置。
- 前記頭部伝達関数を適用する装置は、
前記受聴者の姿勢に対応する頭部伝達関数をデータベースとして記憶する伝達関数データベースを有し、前記センサにより検知された姿勢に対応する頭部伝達関数を当該データベースから選択し、選択された頭部伝達関数に従って音響信号を生成して前記音響刺激生成部に出力する
ことを特徴とする請求項1記載の高臨場感通信装置。 - 前記伝達関数データベースは、遅延時間と頭部伝達関数とに基づいた伝達関数を記憶し、
前記頭部伝達関数を適用する装置は、前記センサにより検知された姿勢、および設定された遅延時間に対応する頭部伝達関数を当該データベースから選択する
ことを特徴とする請求項4記載の高臨場感通信装置。 - ダミーヘッドを利用した装置もしくは頭部伝達関数を適用する装置を有し受聴者の頭部姿勢に対応して音響信号を集音する検出部と、当該検出部とは離れた地点において前記音響信号を受聴する受聴者に付帯された当該受聴者の頭部姿勢を検知するセンサとから構成される高臨場感通信装置に用いられる高臨場感通信方法であって、
どの位置から音響を出力するかを示す信号である学習用音響刺激情報を生成し、
前記生成された音響刺激情報により、1つまたは複数のスピーカから音響信号を出力し、
前記音響信号が発せられたと前記受聴者が知覚する音源位置を回答として受信し、
前記受信した回答情報が示す方向と、前記音響刺激出力部から出力された方向とが一致するか否かを集計し、集計結果に基づいて、前記学習用音響刺激情報の生成を終了するか否かを判定する
ことを特徴とする高臨場感通信方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004371622A JP4531554B2 (ja) | 2004-09-14 | 2004-12-22 | 高臨場感通信装置及び高臨場感通信方法 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004267616 | 2004-09-14 | ||
JP2004371622A JP4531554B2 (ja) | 2004-09-14 | 2004-12-22 | 高臨場感通信装置及び高臨場感通信方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006115442A JP2006115442A (ja) | 2006-04-27 |
JP4531554B2 true JP4531554B2 (ja) | 2010-08-25 |
Family
ID=36383527
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004371622A Expired - Fee Related JP4531554B2 (ja) | 2004-09-14 | 2004-12-22 | 高臨場感通信装置及び高臨場感通信方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4531554B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113302950A (zh) | 2019-01-24 | 2021-08-24 | 索尼集团公司 | 音频系统、音频重放设备、服务器设备、音频重放方法和音频重放程序 |
WO2024150544A1 (ja) * | 2023-01-12 | 2024-07-18 | ソニーグループ株式会社 | 音響装置、音響処理方法及び音響処理プログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003009296A (ja) * | 2001-06-22 | 2003-01-10 | Matsushita Electric Ind Co Ltd | 音響処理装置および音響処理方法 |
JP2003125499A (ja) * | 2001-10-17 | 2003-04-25 | Sony Corp | 音響再生装置 |
JP2004504785A (ja) * | 2000-07-13 | 2004-02-12 | マテック インコーポレイテッド | オーディオヘッドセット |
JP2005102032A (ja) * | 2003-09-26 | 2005-04-14 | Nippon Telegr & Teleph Corp <Ntt> | 高臨場感音響受聴装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6244384A (ja) * | 1985-08-20 | 1987-02-26 | 三菱重工業株式会社 | ロボツトの遠隔制御装置 |
JPH04354275A (ja) * | 1991-05-30 | 1992-12-08 | Meitec Corp | ヘッドモ−ション追従型映像システム |
JPH0675622A (ja) * | 1992-08-27 | 1994-03-18 | Fujita Corp | 作業車の遠隔制御装置 |
JP3395807B2 (ja) * | 1994-09-07 | 2003-04-14 | 日本電信電話株式会社 | ステレオ音響再生装置 |
JP3367625B2 (ja) * | 1995-01-26 | 2003-01-14 | 日本ビクター株式会社 | 音像定位制御装置 |
-
2004
- 2004-12-22 JP JP2004371622A patent/JP4531554B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004504785A (ja) * | 2000-07-13 | 2004-02-12 | マテック インコーポレイテッド | オーディオヘッドセット |
JP2003009296A (ja) * | 2001-06-22 | 2003-01-10 | Matsushita Electric Ind Co Ltd | 音響処理装置および音響処理方法 |
JP2003125499A (ja) * | 2001-10-17 | 2003-04-25 | Sony Corp | 音響再生装置 |
JP2005102032A (ja) * | 2003-09-26 | 2005-04-14 | Nippon Telegr & Teleph Corp <Ntt> | 高臨場感音響受聴装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2006115442A (ja) | 2006-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Picinali et al. | Exploration of architectural spaces by blind people using auditory virtual reality for the construction of spatial knowledge | |
JPWO2014038049A1 (ja) | トレーニング装置 | |
WO2020221034A1 (zh) | 听觉空间定位能力的参数化检测系统及最小可听角的方法 | |
US20160321955A1 (en) | Wearable navigation assistance for the vision-impaired | |
US11082794B2 (en) | Compensating for effects of headset on head related transfer functions | |
CN111904430B (zh) | 一种用于纯音听阈测试技能培训的系统及方法 | |
Kolarik et al. | A framework to account for the effects of visual loss on human auditory abilities. | |
Yost et al. | Sound-source localization as a multisystem process: The Wallach azimuth illusion | |
JP4531554B2 (ja) | 高臨場感通信装置及び高臨場感通信方法 | |
Borg et al. | Vibratory-coded directional analysis: evaluation of a three-microphone/four-vibrator DSP system. | |
CN112168177B (zh) | 用于测试声源定位能力的方法、测试者终端、受试者终端 | |
Warren et al. | Learning spatial dimensions with a visual sensory aid: Molyneux revisited | |
Gulli et al. | Spontaneous head movements support accurate horizontal auditory localization in a virtual visual environment | |
CN118236031A (zh) | 一种空间感知能力测试方法、装置、电子设备及存储介质 | |
Simon et al. | Investigation of perceptual interaural time difference evaluation protocols in a binaural context | |
CN107411761B (zh) | 一种基于手指振动触觉刺激的定向注意力测量系统及方法 | |
Zhong | Dynamic spatial hearing by human and robot listeners | |
JP2019070987A (ja) | 身体動きガイドシステム、刺激呈示装置、刺激呈示方法およびプログラム | |
Davies et al. | Where did that sound come from? Comparing the ability to localise using audification and audition | |
WO2024150544A1 (ja) | 音響装置、音響処理方法及び音響処理プログラム | |
Sitdikov et al. | A quick method for determining the relative minimum audible distance using sound images | |
US20230384864A1 (en) | Skill acquisition assistance method, skill acquisition assistance system, and computer readable recording medium storing control program | |
Zhang | Navigation system based on depth camera and portable device for visual impairments | |
EP4296825A2 (en) | Haptic system and method | |
Nguyen et al. | An evaluation of the presentation of acoustic cues for shorelining techniques |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070130 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090414 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090612 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100330 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100514 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100601 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100609 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4531554 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130618 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140618 Year of fee payment: 4 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |