JP2005268964A - 音処理装置、音処理方法および音処理プログラム - Google Patents

音処理装置、音処理方法および音処理プログラム Download PDF

Info

Publication number
JP2005268964A
JP2005268964A JP2004075383A JP2004075383A JP2005268964A JP 2005268964 A JP2005268964 A JP 2005268964A JP 2004075383 A JP2004075383 A JP 2004075383A JP 2004075383 A JP2004075383 A JP 2004075383A JP 2005268964 A JP2005268964 A JP 2005268964A
Authority
JP
Japan
Prior art keywords
sound
sound component
component
intensity
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004075383A
Other languages
English (en)
Other versions
JP4126025B2 (ja
Inventor
Yoichi Suzuki
陽一 鈴木
Shuichi Sakamoto
修一 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intelligent Cosmos Research Institute
Original Assignee
Intelligent Cosmos Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intelligent Cosmos Research Institute filed Critical Intelligent Cosmos Research Institute
Priority to JP2004075383A priority Critical patent/JP4126025B2/ja
Publication of JP2005268964A publication Critical patent/JP2005268964A/ja
Application granted granted Critical
Publication of JP4126025B2 publication Critical patent/JP4126025B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Stereophonic System (AREA)

Abstract

【課題】マスキング現象の発生を抑制しつつ、使用者が音源方向を正確に知覚可能な音処理装置、音処理方法および音処理プログラムを実現する。
【解決手段】音成分検出部1と、検出された音を低域音成分と高域音成分とに分離する音成分分離部2と、分離された音成分の強度を比較する強度比較部5と、音成分検出部1によって検出される音の音源方向を検出する音源方向検出部6と、強度比較部5における比較結果と、音源方向検出部6によって検出された音源方向とに基づいて、高域音成分と低域音成分との出力先を振り分けるセレクタ7とを備える。セレクタ7は、強度比較部5において、より高い強度を有すると判定された音成分を、右耳用出力部3および左耳用出力部4の中で音源方向に対応したものに出力することで、マスキング現象の発生を防止しつつ、使用者に音源方向を知覚させることが可能である。
【選択図】 図1

Description

本発明は、外部からの入力音に基づいて、複数の出力手段を介して出力される音成分を生成する技術に関するものである。
従来、例えば難聴者の音声認識を補助するための補聴器が知られている。かかる補聴器は、使用者の周囲に位置する音源から発せられる音を検出するマイクロフォンと、マイクロフォンによって検出された音の強度を増幅するアンプ機能等を含む音声処理手段と、音声処理手段によって強度増幅等の処理がなされた音を利用者の耳に入力するイヤホン等の出力手段とによって構成される。
利用者による音声認識を容易にするために、近年の補聴器には様々な工夫が施されている。例えば、初期の補聴器は、強度が増幅された音を利用者の片耳に入力する構成を有していたが、近年の補聴器では利用者の両耳に入力する構成が提案されている。両耳入力構造の補聴器を使用することによって、利用者は例えばどの方向から音が発せられるかの把握、すなわち音源の位置方向の把握を行うことが可能となる等の利点を有する(例えば、特許文献1参照。)。
一方で、両耳入力構造の補聴器の構成として、高い周波数帯の音が低い周波数帯の音の中に埋もれてしまい、高い周波数帯の音が聞き取りにくくなる、いわゆるマスキング現象の発生を抑制する機能を有する両耳分離聴補聴器が提案されている。具体的には、両耳分離聴補聴器は、マイクロフォンによって検出される音のうち、マスキングしやすい低域音成分と、マスキングされやすい高域音成分とを分離し、それぞれの成分を左右の耳に振り分けた状態で利用者に対して入力する構成を有する。
マスキング現象は、少なくともいずれか一方の耳に対して高域音成分および低域音成分の双方が同時に入力された際に生じる。これに対して、上記の両耳分離聴補聴器は、高域音成分と低域音成分を右耳および左耳にそれぞれ振り分けて入力する構成を有することから、一方の耳に対して高域音成分および低域音成分の双方が入力されることが防止され、マスキング現象の発生を抑制することが可能である。これにより、補聴器の利用者は、高域音成分についても明瞭に聞き取ることができるという利点を有する。
特開2002−010396号公報
しかしながら、上記の両耳分離聴補聴器では、利用者による音源方向の認識にずれが生じるという問題を有する。すなわち、両耳分離聴補聴器では、マスキング現象の発生を防止する目的で分離される高域音成分の強度と低域音成分の強度とが相違した場合には、補聴器の利用者が認識する音源方向と、実際の音源方向との間にずれが生じるおそれがある。
例えば、高周波数の音成分を右耳に入力し、低周波数の音成分を左耳に入力する両耳分離聴補聴器を想定する。かかる構成の両耳分離聴補聴器の利用者に対して右方向に位置する音源から音が出力された場合には、音源の位置方向とは無関係に音源から出力された音の高域音成分が右耳に入力され、低域音成分が左耳に入力されることとなる。
ここで、上記音源から出力された音について、低域音成分の強度が高域音成分の強度よりも高い場合には、利用者は実際の音源が位置する方向と異なる方向に音源が存在するものと誤認することとなる。すなわち、上記事例において、両耳分離聴補聴器の利用者に関して、左右の耳に入力される音成分の強度、位相差等が相違することによって、利用者は音源が実際の位置方向と異なる方向に位置するものと誤認することとなる。
本発明は、上記に鑑みてなされたものであって、マスキング現象の発生を抑制しつつ、使用者が音源方向を正確に知覚可能な音処理装置、音処理方法および音処理プログラムを実現することを目的とする。
上述した課題を解決し、目的を達成するために、請求項1にかかる音処理装置は、外部からの入力音に基づいて、使用者の両耳に対応した複数の出力手段を介して出力される音成分を生成する音処理装置であって、前記入力音から、所定の周波数を有する第1音成分と、前記第1音成分と異なる周波数を有する第2音成分とを生成する音成分生成手段と、前記入力音を発生する外部音源の、使用者に対する位置方向を検出する音源方向検出手段と、検出された前記位置方向に応じて、前記第1音成分および前記第2音成分の出力先を決定するセレクタ手段とを備えたことを特徴とする。
この請求項1の発明によれば、入力音から第1音成分と第2音成分とを生成する音成分生成手段と、音源方向に応じて生成した第1音成分と第2音成分との出力先を振り分けるセレクタ手段とを備えることとしたため、使用者は、例えばマスキング現象によって高域音成分を聞き逃すこと無く入力音を認識できると共に、第1音成分と第2成分とを適宜振り分けることによって音源方向を知覚することができる。
また、請求項2にかかる音処理装置は、上記の発明において、前記第1音成分および前記第2音成分と異なる周波数を有する第3音成分を、検出された前記位置方向に応じた強度差を付与しつつ前記複数の出力手段のそれぞれに対して出力する強度調整手段をさらに備えたことを特徴とする。
また、請求項3にかかる音処理装置は、上記の発明において、前記第1音成分の強度と前記第2音成分の強度とを比較する強度比較手段をさらに備え、前記セレクタ手段は、前記強度比較手段による比較結果に基づいて、前記位置方向に対応した出力手段に対して、前記第1音成分および前記第2音成分の中で高い強度を有する音成分を出力することを特徴とする。
また、請求項4にかかる音処理装置は、上記の発明において、前記使用者の聴覚特性を記憶した聴覚特性記憶手段をさらに備え、前記セレクタ手段は、前記聴覚特性記憶手段に記憶された聴覚特性に基づいて、前記位置方向に応じた前記第1音成分および前記第2音成分の出力先を決定することを特徴とする。
また、請求項5にかかる音処理装置は、外部からの入力音に基づいて、使用者の両耳に対応した複数の出力手段を介して出力される音成分を生成する音処理装置であって、前記入力音から、所定の周波数を有する第1音成分と、前記第1音成分と異なる周波数を有する第2音成分とを生成する音成分生成手段と、前記入力音を発生する外部音源の、前記使用者に対する位置方向を検出する音源方向検出手段と、前記第1音成分および前記第2音成分のそれぞれに対して、検出された前記位置方向に基づく変調処理を行う音成分処理手段とを備えたことを特徴とする。
また、請求項6にかかる音処理装置は、上記の発明において、前記第1音成分および前記第2音成分と異なる周波数を有する第3音成分を、検出された前記位置方向に応じた強度差を付与しつつ前記複数の出力手段のそれぞれに対して出力する強度調整手段をさらに備えたことを特徴とする。
また、請求項7にかかる音処理装置は、上記の発明において、前記音成分処理手段は、前記第1音成分および前記第2音成分に対して前記位置方向に応じた時間遅延を付与する遅延付与手段と、前記第1音成分および前記第2音成分に対して前記位置方向に応じた強度増幅を行う増幅手段とを備えたことを特徴とする。
また、請求項8にかかる音処理装置は、上記の発明において、前記使用者の聴覚特性を記憶した聴覚特性記憶手段と、前記音源方向検出手段によって検出された前記位置方向および前記聴覚特性記憶手段に記憶された聴覚特性に基づいて、前記第1音成分および前記第2音成分の出力先を決定するセレクタ手段とをさらに備え、前記音成分処理手段は、前記セレクタ手段によって決定される出力先と前記音源方向検出手段との対応関係とに基づいて変調処理を行うことを特徴とする。
また、請求項9にかかる音処理装置は、上記の発明において、前記第2音成分は、前記第1音成分よりも高い周波数を有することを特徴とする。
また、請求項10にかかる音処理方法は、外部からの入力音に基づいて、使用者の両耳に対応した複数の出力手段を介して出力される音成分を生成する音処理方法であって、前記入力音から、所定の周波数を有する第1音成分と、前記第1音成分と異なる周波数を有する第2音成分とを生成する音成分生成工程と、前記入力音を発生する外部音源の、使用者に対する位置方向を検出する音源方向検出工程と、検出された前記位置方向に応じて、前記第1音成分および前記第2音成分の出力先を決定する出力先選択工程とを含むことを特徴とする。
また、請求項11にかかる音処理方法は、上記の発明において、前記第1音成分と前記第2音成分との間の強度を比較する強度比較工程をさらに含み、前記出力先選択工程において、前記強度比較工程による比較結果に基づいて、前記位置方向に対応した出力手段に対して、前記第1音成分および前記第2音成分の中で高い強度を有する音成分を出力することを特徴とする。
また、請求項12にかかる音処理方法は、上記の発明において、前記出力先選択工程において、前記使用者の聴覚特性に基づいて、前記位置方向に応じた前記第1音成分および前記第2音成分の出力先を決定することを特徴とする。
また、請求項13にかかる音処理方法は、上記の発明において、前記第2音成分は、前記第1音成分よりも高い周波数を有することを特徴とする。
また、請求項14にかかる音処理プログラムは、請求項10〜13のいずれか一つに記載の音処理方法を計算機に実行させることを特徴とする。
本発明にかかる音処理装置、音処理方法および音処理プログラムは、入力音から低域音成分と高域音成分とを生成し、音源方向に応じて生成した低域音成分と高域音成分との出力先を振り分けることとしたため、使用者は、マスキング現象によって高域音成分を聞き逃すこと無く入力音を認識できると共に、低域音成分と高域音成分との強度差を利用して音源方向を知覚することができ、単一の音処理装置等によってマスキング現象の発生防止および使用者に音源方向を知覚させることが可能であるという効果を奏する。
以下に、本発明にかかる音処理装置を実施するための最良の形態(以下、「実施の形態」と称する)を、図面を参照しつつ詳細に説明する。なお、図面は模式的なものであり、実際のものと必ずしも一致しないことに注意が必要である。また、以下の実施の形態では、音処理装置を補聴器に適用することを前提に説明するが、本発明にかかる音処理装置の具体例として、補聴器に限定して解釈するべきでないことはもちろんである。
(実施の形態1)
まず、実施の形態1にかかる音処理装置について説明する。図1は、本実施の形態1にかかる音処理装置の全体構成を示すブロック図である。図1に示すように、本実施の形態1にかかる音処理装置は、入力音の成分を検出する音成分検出部1と、音成分検出部1によって検出された入力音を周波数に応じて2つの音成分に分離する音成分分離部2と、音成分分離部2によって得られた2つの音成分の一方を使用者の右耳に対して出力する右耳用出力部3と、音成分の他方を使用者の左耳に対して出力する左耳用出力部4とを備える。また、本実施の形態1にかかる音処理装置は、音成分分離部2によって分離された2つの音成分の強度を比較する強度比較部5と、入力音の音源の位置方向を検出する音源方向検出部6と、強度比較部5および音源方向検出部6によって得られた情報に基づいて、右耳用出力部3および左耳用出力部4に対して2つの音成分を振り分けるセレクタ7と、使用者の聴覚特性に関する情報を記憶する聴覚特性データベース8とを備える。
音成分検出部1は、入力音を検出するためのものである。具体的には、音成分検出部1は、マイクロフォン等によって形成され、使用者の周囲に位置する音源から生じた音成分を検出し、音成分分離部2に対して出力する機能を有する。
音成分分離部2は、特許請求の範囲における音成分生成手段の一例として機能するものである。すなわち、音成分生成手段は、入力音に基づいて低域音成分(特許の請求の範囲における第1音成分の一態様)と、低域音成分よりも高い周波数の高域音成分(特許の請求の範囲における第2音成分の一態様)とを生成する機能を有するが、本実施の形態では、音成分分離部2は、入力音を周波数に応じて2つの音成分に分離することによって、高域音成分と低域音成分とを生成する機能を有する。
既に述べたように、補聴器等の音処理装置においては、高域音成分と低域音成分とが使用者の単一の耳に同時に入力された場合には、マスキング現象が発生して高域音成分の聞き取りが困難になるという問題が存在する。このため、本実施の形態1にかかる音処理装置では、かかるマスキング現象の発生を防止するために高域音成分と低域音成分とを分離する音成分分離部2を備えることとしている。
右耳用出力部3および左耳用出力部4は、音成分分離部2によって分離された2つの音成分をそれぞれ使用者の耳に対して出力するためのものである。すなわち、右耳用出力部3は、使用者の右耳近傍に配置された状態で使用され、使用者の右耳に対して所定の音成分を出力する一方、左耳用出力部4は、使用者の左耳近傍に配置されて左耳に対して音成分を出力する機能を有する。具体的には、右耳用出力部3および左耳用出力部4は、それぞれが例えば小型のスピーカ等によって形成され、具体的な形状としては使用者の耳に挿入可能なイヤホン形状のものや、使用者の頭部を挟み込む構造を有し、使用者の耳に対応した部位に右耳用出力部3および左耳用出力部4を備えたヘッドホン形状のものとすることが好ましい。また、本実施の形態1にかかる音処理装置を補聴器として使用する場合には、右耳用出力部3および左耳用出力部4は、音強度増幅機構等を備えることが好ましい。
強度比較部5は、音成分分離部2によって分離された2つの音成分の強度を比較し、比較結果をセレクタ7に出力するためのものである。なお、強度比較部5において比較される音成分の強度は、単純にそれぞれの音成分における振幅を比較することとしても良いが、本実施の形態1にかかる音処理装置を使用する者の聴覚特性をも加味した知覚強度を比較することが好ましい。後述するように、本実施の形態1では、使用者にとってより大きな音として認識される音成分が入力される耳と、音源方向とを対応づけることとしているため、使用者によって実際に知覚される音成分の強度を比較することがより効果的となるためである。このため、本実施の形態1では、強度比較部5は後述する聴覚特性データベース8からの情報を入力する構成を有し、本実施の形態1にかかる音処理装置の使用者における聴覚特性に対応した知覚強度の比較を行うことを可能としている。
音源方向検出部6は、音成分検出部1によって検出される入力音の出力源たる音源の位置方向を検出するためのものである。具体的には、音源方向検出部6は、図1にも示すように入力音の強度を検出する音強度検出部9および音強度検出部10と、音強度検出部9、10のそれぞれによって検出された入力音の強度を比較する強度比較部11と、強度比較部11における比較結果に基づいて音源の位置する方向を特定する音源方向特定部12とを備える。なお、本実施の形態1における「音源方向」とは、音処理装置の使用者に対して音源が位置する方向のことを言い、音源方向検出部6は、使用者に対して定められた所定軸と音源が位置する方向とがなす具体的な角度を検出することとしても良いが、本実施の形態1では、音源が使用者に対して右側と左側のいずれに位置するかを判定する程度の検出精度で十分である。
音強度検出部9、10は、それぞれ入力音の強度を検出するためのものであり、例えば使用者の両耳間を結んだ線分の垂直2等分線に対して互いに対称な位置における入力音強度を検出する機能を有する。なお、音強度検出部9、10は、入力音を検出することが可能な構造であれば任意のものを用いることが可能である。
強度比較部11は、音強度検出部9、10によって検出された入力音の強度を比較するためのものである。なお、強度比較部11は、強度比較部5とは異なり使用者の聴覚特性を考慮することなく、単純に検出した入力音の振幅等の大小を比較する機能を有すると共に、比較結果を音源方向特定部12に出力する機能を有する。
音源方向特定部12は、音源方向を特定するためのものである。具体的には、音源方向特定部12は、音強度検出部9、10の位置と、強度比較部11によって得られた比較結果とに基づいて音源方向を特定する機能を有する。すなわち、例えば音強度検出部9が使用者の右耳近傍に配置されるとともに音強度検出部10が左耳近傍に配置され、音強度検出部9によって検出された入力音強度が高い旨の比較結果が得られた場合には、音源方向特定部12は、音源が位置する方向は使用者に対して右側であるものと特定し、特定結果をセレクタ7に対して出力する。
セレクタ7は、音成分分離部2によって分離された2つの音成分のそれぞれを、右耳用出力部3および左耳用出力部4のいずれかに振り分けるためのものである。図1にも示すように、セレクタ7は、強度比較部5によって得られた比較結果と、音源方向検出部6によって得られた音源方向の特定結果とに基づいて、入力音から分離された高域音成分と低域音成分のそれぞれの振り分けを行う機能を有する。すなわち、セレクタ7は、実際の音源方向と、本実施の形態1にかかる音処理装置の使用者が知覚する音源方向とが一致するように、分離された2つの音成分のうち知覚強度が高くなる音成分を、右耳用出力部3、左耳用出力部4の内で音源方向側に位置する出力部に対して振り分ける機能を有する。
聴覚特性データベース8は、本実施の形態1にかかる音処理装置の使用者の聴覚特性について記憶するためのものである。具体的には、聴覚特性データベース8は、音成分分離部2において高域音成分と低域音成分とを分離する際に境界値として用いられる周波数の具体的な値と、客観的な音成分の強度と使用者に知覚される音成分強度との比率の周波数特性とを少なくとも記憶する機能を有する。また、聴覚特性データベース8に記憶された情報のうち、境界値として用いられる周波数の具体的な値は音成分分離部2に出力されると共に強度の比率の周波数特性は強度比較部5に出力され、それぞれの動作時に用いられる。なお、聴覚特性データベース8に記憶されるそれぞれの情報は、統計上導出された平均的な値としても良いが、より好ましくは、使用者ごとにあらかじめ測定された値を記憶することとする。
次に、本実施の形態1にかかる音処理装置の動作について説明する。図2は、本実施の形態1にかかる音処理装置の動作を説明するためのフローチャートであり、図3は、音処理装置の動作状態を示す模式図である。なお、図3に示す音成分の波形はあくまで模式的なものであり、現実のものとは必ずしも一致しない。以下、図2および図3を適宜参照しつつ動作について説明する。
まず、音成分検出部1によって検出された入力音について、音成分分離部2によって2つの音成分への分離が行われる(ステップS101)。具体的には、図3に示すように音成分分離部2は、入力音を、聴覚特性データベース8に記憶された周波数の境界値f0よりも高い周波数帯に属する音成分と、境界値以下の周波数帯に属する音成分とに分離してセレクタ7および強度比較部5に対して出力する。
そして、分離された2つの音成分に対して、強度比較部5によって強度の比較が行われる(ステップS102)。具体的には、強度比較部5は、図3に示すように聴覚特性データベース8から音成分の強度Prealと、実際に使用者が知覚する音成分強度Psenseとの間の関係式であるPsense=f(Preal)が入力され、音成分分離部2から入力された高域音成分および低域音成分のそれぞれについて使用者が知覚する音成分強度を導出した上で大小関係を導出し、導出結果をセレクタ7に出力する。なお、図3の例では、低域音成分の知覚強度PHが、高域音成分の知覚強度PLよりも大きい場合について示しており、かかる大小関係についてセレクタ7に出力されている。
その後、音源方向検出部6によって、入力音を出力している音源の位置方向が検出される(ステップS103)。具体的には、音源方向検出部6は、複数の音高度検出部によって検出された入力音の強度の比較を行うことによって、使用者に対する音源の位置方向を検出し、検出結果をセレクタ7に出力する。図3の例では、音源が使用者に対して右側に位置するものと検出された場合を示しており、かかる検出結果がセレクタ7に対して出力されている。
そして、セレクタ7によって高域音成分と低域音成分の振り分けが行われる(ステップS104)。セレクタ7に対しては音成分分離部2から高域音成分と低域音成分とが入力されるのみならず、上記したように強度比較部5による知覚強度の比較結果および音源方向に関する情報が入力される。セレクタ7は、これらの情報を用いて振り分け先を判断しており、具体的には、右耳用出力部3、左耳用出力部4のうち、音源方向に対応した側に対して知覚強度が高い音成分が出力されるよう振り分け処理を行っている。
図3の例では、上記のように低域音成分の知覚強度PLよりも高域音成分の知覚強度PHの方が大きく、かつ音源方向は使用者に対して右側となる。従って、セレクタ7は、知覚強度の高い音成分が音源方向側から使用者に対して入力されるよう、低域音成分を右耳用出力部3に振り分け、高域音成分を左耳用出力部4に振り分けた状態で音成分の出力動作を行う。この結果、使用者は、知覚強度の高い高域音成分を右耳によって知覚し、知覚強度の低い低域音成分を左耳によって知覚することとなる。以上で、本実施の形態1にかかる音処理装置の動作は完了する。
なお、図2に示すフローチャートでは、ステップS101、S102、S103の順に動作が進行することとしているが、かかる順序に限定する必要はない。すなわち、ステップS101、S102と、ステップS103に関しては、本実施の形態1にかかる音処理装置の各構成要素によって別個独立に行うことが可能であることから、ステップS101、S102とステップS103とを並列的に行うことも可能であり、ステップS103を最初に行った後、ステップS101、S102を行うこととしても良い。
次に、本実施の形態1にかかる音処理装置の利点について説明する。まず、本実施の形態1にかかる音処理装置は、高域音成分と低域音成分とを分離し、それぞれを使用者の左耳側または右耳側に振り分ける構成を採用することによって、マスキング現象の発生を抑制することが可能である。すなわち、本実施の形態1にかかる音処理装置は、高域音成分と低域音成分とが同一の耳を介して使用者に入力されることを防止しているため、高域音成分が低域音成分に埋もれることが防止され、使用者は高域音成分についても明瞭に知覚することが可能である。
また、本実施の形態1にかかる音処理装置は、音源方向に応じて高域音成分および低域音成分の出力先を振り分ける構成としたため、マスキング現象の発生を抑制しつつ使用者が音源方向を知覚できるという利点を有する。すなわち、本実施の形態1にかかる音処理装置では、マスキング現象の発生を抑制するために分離される高域音成分の強度と低域音成分の強度とが通常異なることを利用して、音源方向の検出を可能としている。
既に説明したように、本実施の形態1において入力音を高域音成分と低域音成分とに分離し、左右の耳に別々に出力する構成とするのはマスキング現象の発生を抑制するためである。従って、高域音成分と低域音成分との境界値については、マスキング現象が最も抑制されるよう設定されるのが通常であり、高域音成分の強度と低域音成分の強度とは異なる値となるのが一般的である。このため、従来の音処理装置では、音源方向とは無関係に使用者の左右の耳に異なる強度の音が入力される構成とならざるを得ず、使用者が音源方向を誤認する原因となっていた。
これに対して、本実施の形態1にかかる音処理装置では、高域音成分と低域音成分との間に生じる強度差を逆に利用して、音源方向に応じて高域音成分と低域音成分の出力先を振り分ける構成を採用している。すなわち、音処理装置の使用者は左右の耳を介して入力される音の強度の大小関係に応じて音源が右側または左側のいずれに位置するかを判定することから、本実施の形態1では、強度の高い音成分の出力先を音源の位置方向に対応した出力部に適宜切り替えることによって、使用者に正しい音源方向を認識させることとしている。かかる構成を採用することによって、本実施の形態1にかかる音処理装置は、マスキング現象の発生を抑制して使用者に高域音成分を知覚させつつ、正しい音源方向を使用者に認識させることを可能としている。
なお、本実施の形態1では、使用者の知覚強度差に基づいて、高域音成分と低域音成分の出力先を振り分けることとしている。しかしながら、例えば第1音成分と第2音成分について、例えば周波数増加に従ってA、B、C、Dという周波数帯が存在する場合にA、Cを第1音成分とし、B、Dを第2音成分とした場合には、使用者によっては第1音成分と第2音成分との知覚強度差がほぼ同等となる場合がある。かかる場合をも考慮して、セレクタ部7は、強度比較部5による強度比較結果に基づいて出力先を振り分けるのではなく、聴覚特性データベース8に記憶された情報に基づいて出力先を振り分ける構成とすることも好ましい。
(実施の形態2)
次に、実施の形態2にかかる音処理装置について説明する。実施の形態2にかかる音処理装置は、マスキング現象の発生を抑制した音処理装置において、使用者に音源方向をより正確に認識させるための機構を備えた構成を有する。図4は、本実施の形態2にかかる音処理装置の全体構成を示すブロック図である。なお、実施の形態2において、実施の形態1と同様の符号、名称を付した構成要素は、以下に特に言及しない限り実施の形態1と同様の構造および機能を有するものとする。
図4に示すように、本実施の形態2にかかる音処理装置は、実施の形態1と同様に音成分検出部1、音成分分離部2、右耳用出力部3、左耳用出力部4および聴覚特性データベース8を備える一方、入力音に関する音源方向を精度良く検出する音源方向検出部14と、分離された2つの音成分に対して、音源方向検出部14によって検出された音源方向に基づいて、それぞれ音源方向に応じた変調処理を行う音信号処理部15a、15bとを備えた構成を有する。
音源方向検出部14は、実施の形態1における音源方向検出部6と同様の構成としても良いが、本実施の形態2ではさらに検出精度を向上させた構成を採用している。具体的には、音源方向検出部14は、音検出部16、17と、音検出部16、17によって検出された音成分の強度比および音成分間の遅延時間を導出する強度比・遅延導出部18と、強度比・遅延導出部18によって導出された強度比および遅延時間に基づいて音源方向の特定を行う音源方向特定部19とを備える。
音検出部16、17は、実施の形態1と同様に、使用者の両耳間を結んだ線分の垂直2等分線に対して互いに対称な位置における入力音強度を検出する機能を有する。そして、強度比・遅延導出部18は、音検出部16、17によって得られた2つの音成分間の強度比および遅延時間を導出し、音源方向特定部19は導出された強度比および遅延時間を用いて音源方向の特定を高精度に行うこととしている。強度比および遅延時間を用いることとしたのは、後述するように音源方向検出部14によって高精度の音源方向特定を行う必要があるためである。すなわち、本実施の形態2では、検出する音源方向として、音源が使用者の右側と左側のいずれに位置するかの検出のみならず、具体的な角度等についても検出することとしているため、複数の音検出部における入力音強度の大小関係のみではなく、強度比および遅延時間に基づいて、正確な音源方向の検出を行うこととしている。
音信号処理部15a、15bは、音源方向検出部14によって検出された音源方向に応じて、右耳用出力部3および左耳用出力部4を介して出力する音成分間の強度比および遅延時間の調整を行うためのものである。具体的な構成としては、音信号処理部15aは、可変増幅部20aおよび遅延付与部21aを有し、音信号処理部15bは、可変増幅部20bおよび遅延付与部21bを有する。
可変増幅部20a、20bは、音成分分離部2から入力されたそれぞれの音成分の強度を、音源方向検出部14によって検出された音源方向に対応した強度比となるよう増幅するためのものである。ここで、音信号処理部15aは、聴覚特性データベース8に記憶された情報を入力する構成を採用しており、可変増幅部20亜、20bによって行われる増幅動作は、使用者の聴覚特性を考慮して行われる。すなわち、可変増幅部20a、20bは、それぞれの音成分に関して使用者の知覚強度が音源方向検出部14によって検出された音源方向に対応したものとなるよう増幅動作を行っている。
遅延付与部21a、21bは、音成分分離部2から入力されたそれぞれの音成分の強度を、音源方向検出部14によって検出された音源方向に対応した値だけ相互に遅延させるためのものである。すなわち、人間の脳は、両耳を介して入力された音成分に関して、単に入力音の強度比のみに応じて音源方向を推定するのではなく、音源と両耳との間の距離の違いに応じた到達時刻の遅延状況をも加味して音源方向の推定を行っている。このため、本実施の形態2では、使用者により正確な音源方向の認識を可能とするために、右耳用出力部3および左耳用出力部4を介して出力する音成分について、検出された音信号に対応した時間遅延を付与することとしている。
以上の構成を有することによって、本実施の形態2にかかる音処理装置は、マスキング現象の発生を防止しつつ、使用者に音源方向を正確に認識させることが可能である。すなわち、音成分分離部2によって入力音を高域音成分と低域音成分とに分離して、それぞれの音成分を別々の耳に対して出力することで、高域音成分が低域音成分に埋もれることを抑制することが可能である。
また、本実施の形態2にかかる音処理装置は、音信号処理部15a、15bによって、音源方向に対応した強度増幅処理および遅延付与処理を行うこととしている。音信号処理部15a、15bにおける増幅効率および遅延時間は音源方向に応じて細かい値に設定することが可能であることから、本実施の形態2にかかる音処理装置は、音源が左右のいずれに位置するかのみならず、具体的な方位についても使用者に認識させることが可能である。
また、本実施の形態2にかかる音処理装置は、音信号処理部15a、15bによって音源方向の認識が可能となるよう音成分に必要に応じた所定の処理を施す構成を採用している。このため、本実施の形態2にかかる音処理装置は、実施の形態1におけるセレクタ7に相当する構成要素を省略可能であるという利点を有すると共に、高域音成分および低域音成分の出力先を、右耳用出力部3または左耳用出力部4のいずれかにそれぞれ固定することが可能である。
すなわち、本実施の形態2にかかる音処理装置は、例えば補聴器に適用することを想定している。補聴器を使用する難聴者によっては、左右両耳における聴覚特性が著しく相違する。例えば、右耳は高域音成分を健常者と同等のレベルで検出可能である一方、左耳では高域音成分の検出が困難である等の場合があり、かかる場合には、分離した高域音成分については常に右耳用出力部3を介して出力する構成を採用することが好ましい。本実施の形態2にかかる音処理装置は、分離された2つの音成分の出力先が固定されていることから、かかる難聴者に適した補聴器を実現することが可能である。
(変形例)
次に、実施の形態2の変形例にかかる音処理装置について説明する。本変形例にかかる音処理装置は、実施の形態1にかかる音処理装置と、実施の形態2にかかる音処理装置とを組み合わせた構成を有し、具体的には、音源方向に応じて高域音成分と低域音成分の出力先を振り分ける一方、より精密な音源方向の認識を可能とするために、振り分け後のそれぞれの音成分に対して音源方向に応じた強度増幅および遅延付与を行う構成を有する。
図5は、本変形例にかかる音処理装置の全体構成を示すブロック図である。本変形例にかかる音処理装置は、図5に示すように、実施の形態1と同様に、音成分検出部1、音成分分離部2、右耳用出力部3、左耳用出力部4、強度比較部5、セレクタ7および聴覚特性データベース8を備える。また、変形例にかかる音処理装置は、実施の形態2と同様に、音源方向検出部14と、音信号処理部15a、15bとを備える。
すなわち、本変形例にかかる音処理装置は、音源方向検出部14によって検出された音源方向に基づいて、セレクタ7が高域音成分と低域音成分の出力先を振り分けた後にさらに音信号処理部15a、15bによって強度増幅および遅延付与を行うこととしている。かかる構成を採用することによって、本変形例にかかる音処理装置は、音源の位置方向が使用者の右側か左側かによってセレクタ7が出力先を振り替えた上で、使用者が具体的な角度を認識することが可能なように音信号処理部15a、15bによる微調整を行っている。このため、変形例にかかる音処理装置は、実施の形態2にかかる音処理装置と比較して音信号処理部15a、15bの負荷を低減することが可能である。また、本変形例にかかる音処理装置は、音信号処理部15a、15bによる処理の度合いを低減することが可能であることから、使用者に対してより自然な状態に近い音成分を出力できるという利点も有する。
以上、実施の形態1および実施の形態2に渡って本発明について説明したが、本発明は上記の実施の形態に限定して解釈するべきではなく、当業者であれば、様々な実施例、変形例等に想到することが可能である。例えば、図1、図4および図5において、音成分分離部2等をハードウェア的な構成によって示したが、これらの構成要素をハードウェア的に実現するのみならず、例えば図2のフローチャートに示す動作に対応したプログラムをPC等の計算機に組み込むことによって音処理装置を実現することとしても良い。
また、実施の形態1等においては、第1音成分の一例たる高域音成分と、第2音成分の一例たる低域音成分とに分離した状態で右耳用出力部3および左耳出力部4に対して出力する構成について紹介したが、右耳用出力部3および左耳出力部4に対して異なる周波数の音成分のみを出力する構成に限定して解釈する必要はない。例えば、第1音成分および第2音成分と異なる第3音成分に対して、右耳用出力部3および左耳用出力部4の双方に出力すると共に、かかる第3音成分について、外部音源の位置方向に対応した所定の強度差を与える強度調整手段を新たに設けることとしても良い。かかる構成を採用することによって、右耳用出力部3および左耳用出力部4から出力される音成分は、一部共通の周波数成分を含むこととなる。
実施の形態1にかかる音処理装置の全体構成を示すブロック図である。 実施の形態1にかかる音処理装置の動作を説明するためのフローチャートである。 実施の形態1にかかる音処理装置の動作を示す模式図である。 実施の形態2にかかる音処理装置の全体構成を示すブロック図である。 変形例にかかる音処理装置の全体構成を示すブロック図である。
符号の説明
1 音成分検出部
2 音成分分離部
3 右耳用出力部
4 左耳用出力部
5 強度比較部
6 音源方向検出部
7 セレクタ
8 聴覚特性データベース
9 音強度検出部
10 音強度検出部
11 強度比較部
12 音源方向特定部
14 音源方向検出部
15a、15b 音信号処理部
16、17 音検出部
18 強度比・遅延導出部
19 音源方向特定部
20a、20b 可変増幅部
21a、21b 遅延付与部

Claims (14)

  1. 外部からの入力音に基づいて、使用者の両耳に対応した複数の出力手段を介して出力される音成分を生成する音処理装置であって、
    前記入力音から、所定の周波数を有する第1音成分と、前記第1音成分と異なる周波数を有する第2音成分とを生成する音成分生成手段と、
    前記入力音を発生する外部音源の、使用者に対する位置方向を検出する音源方向検出手段と、
    検出された前記位置方向に応じて、前記第1音成分および前記第2音成分の出力先を決定するセレクタ手段と、
    を備えたことを特徴とする音処理装置。
  2. 前記第1音成分および前記第2音成分と異なる周波数を有する第3音成分を、検出された前記位置方向に応じた強度差を付与しつつ前記複数の出力手段のそれぞれに対して出力する強度調整手段をさらに備えたことを特徴とする請求項1に記載の音処理装置。
  3. 前記第1音成分の強度と前記第2音成分の強度とを比較する強度比較手段をさらに備え、
    前記セレクタ手段は、前記強度比較手段による比較結果に基づいて、前記位置方向に対応した出力手段に対して、前記第1音成分および前記第2音成分の中で高い強度を有する音成分を出力することを特徴とする請求項1または2に記載の音処理装置。
  4. 前記使用者の聴覚特性を記憶した聴覚特性記憶手段をさらに備え、
    前記セレクタ手段は、前記聴覚特性記憶手段に記憶された聴覚特性に基づいて、前記位置方向に応じた前記第1音成分および前記第2音成分の出力先を決定することを特徴とする請求項1または2に記載の音処理装置。
  5. 外部からの入力音に基づいて、使用者の両耳に対応した複数の出力手段を介して出力される音成分を生成する音処理装置であって、
    前記入力音から、所定の周波数を有する第1音成分と、前記第1音成分と異なる周波数を有する第2音成分とを生成する音成分生成手段と、
    前記入力音を発生する外部音源の、前記使用者に対する位置方向を検出する音源方向検出手段と、
    前記第1音成分および前記第2音成分のそれぞれに対して、検出された前記位置方向に基づく変調処理を行う音成分処理手段と、
    を備えたことを特徴とする音処理装置。
  6. 前記第1音成分および前記第2音成分と異なる周波数を有する第3音成分を、検出された前記位置方向に応じた強度差を付与しつつ前記複数の出力手段のそれぞれに対して出力する強度調整手段をさらに備えたことを特徴とする請求項5に記載の音処理装置。
  7. 前記音成分処理手段は、
    前記第1音成分および前記第2音成分に対して前記位置方向に応じた時間遅延を付与する遅延付与手段と、
    前記第1音成分および前記第2音成分に対して前記位置方向に応じた強度増幅を行う増幅手段と、
    を備えたことを特徴とする請求項5または6に記載の音処理装置。
  8. 前記使用者の聴覚特性を記憶した聴覚特性記憶手段と、
    前記音源方向検出手段によって検出された前記位置方向および前記聴覚特性記憶手段に記憶された聴覚特性に基づいて、前記第1音成分および前記第2音成分の出力先を決定するセレクタ手段と、
    をさらに備え、
    前記音成分処理手段は、前記セレクタ手段によって決定される出力先と前記音源方向検出手段との対応関係とに基づいて変調処理を行うことを特徴とする請求項5〜7のいずれか一つに記載の音処理装置。
  9. 前記第2音成分は、前記第1音成分よりも高い周波数を有することを特徴とする請求項1〜8のいずれか一つに記載の音処理装置。
  10. 外部からの入力音に基づいて、使用者の両耳に対応した複数の出力手段を介して出力される音成分を生成する音処理方法であって、
    前記入力音から、所定の周波数を有する第1音成分と、前記第1音成分と異なる周波数を有する第2音成分とを生成する音成分生成工程と、
    前記入力音を発生する外部音源の、使用者に対する位置方向を検出する音源方向検出工程と、
    検出された前記位置方向に応じて、前記第1音成分および前記第2音成分の出力先を決定する出力先選択工程と、
    を含むことを特徴とする音処理方法。
  11. 前記第1音成分と前記第2音成分との間の強度を比較する強度比較工程をさらに含み、
    前記出力先選択工程において、前記強度比較工程による比較結果に基づいて、前記位置方向に対応した出力手段に対して、前記第1音成分および前記第2音成分の中で高い強度を有する音成分を出力することを特徴とする請求項10に記載の音処理方法。
  12. 前記出力先選択工程において、前記使用者の聴覚特性に基づいて、前記位置方向に応じた前記第1音成分および前記第2音成分の出力先を決定することを特徴とする請求項10に記載の音処理方法。
  13. 前記第2音成分は、前記第1音成分よりも高い周波数を有することを特徴とする請求項10〜12のいずれか一つに記載の音処理方法。
  14. 請求項10〜13のいずれか一つに記載の音処理方法を計算機に実行させる音処理プログラム。
JP2004075383A 2004-03-16 2004-03-16 音処理装置、音処理方法および音処理プログラム Expired - Lifetime JP4126025B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004075383A JP4126025B2 (ja) 2004-03-16 2004-03-16 音処理装置、音処理方法および音処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004075383A JP4126025B2 (ja) 2004-03-16 2004-03-16 音処理装置、音処理方法および音処理プログラム

Publications (2)

Publication Number Publication Date
JP2005268964A true JP2005268964A (ja) 2005-09-29
JP4126025B2 JP4126025B2 (ja) 2008-07-30

Family

ID=35093076

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004075383A Expired - Lifetime JP4126025B2 (ja) 2004-03-16 2004-03-16 音処理装置、音処理方法および音処理プログラム

Country Status (1)

Country Link
JP (1) JP4126025B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006087018A (ja) * 2004-09-17 2006-03-30 Matsushita Electric Ind Co Ltd 音響処理装置
JP2007067780A (ja) * 2005-08-31 2007-03-15 Kumamoto Univ 出力制御装置
JP2007336460A (ja) * 2006-06-19 2007-12-27 Tohoku Univ 聴音装置
JP2010506525A (ja) * 2006-10-10 2010-02-25 シーメンス アウディオローギッシェ テヒニク ゲゼルシャフト ミット ベシュレンクテル ハフツング 補聴器の駆動方法および補聴器
JP2010506526A (ja) * 2006-10-10 2010-02-25 シーメンス アウディオローギッシェ テヒニク ゲゼルシャフト ミット ベシュレンクテル ハフツング 補聴器の動作方法、および補聴器
WO2010084769A1 (ja) * 2009-01-22 2010-07-29 パナソニック株式会社 補聴装置
JP2010171688A (ja) * 2009-01-22 2010-08-05 Rion Co Ltd 補聴システム
WO2011064950A1 (ja) * 2009-11-25 2011-06-03 パナソニック株式会社 補聴システム、補聴方法、プログラムおよび集積回路
WO2012056645A1 (ja) * 2010-10-26 2012-05-03 パナソニック株式会社 補聴装置
JP2012175580A (ja) * 2011-02-23 2012-09-10 Kyocera Corp 携帯電子機器及び音出力システム
JP2019518989A (ja) * 2016-05-18 2019-07-04 クゥアルコム・インコーポレイテッドQualcomm Incorporated オーディオ出力を生成するためのデバイス

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006087018A (ja) * 2004-09-17 2006-03-30 Matsushita Electric Ind Co Ltd 音響処理装置
JP2007067780A (ja) * 2005-08-31 2007-03-15 Kumamoto Univ 出力制御装置
JP4543014B2 (ja) * 2006-06-19 2010-09-15 リオン株式会社 聴音装置
JP2007336460A (ja) * 2006-06-19 2007-12-27 Tohoku Univ 聴音装置
JP2010506525A (ja) * 2006-10-10 2010-02-25 シーメンス アウディオローギッシェ テヒニク ゲゼルシャフト ミット ベシュレンクテル ハフツング 補聴器の駆動方法および補聴器
JP2010506526A (ja) * 2006-10-10 2010-02-25 シーメンス アウディオローギッシェ テヒニク ゲゼルシャフト ミット ベシュレンクテル ハフツング 補聴器の動作方法、および補聴器
US8325957B2 (en) 2006-10-10 2012-12-04 Siemens Audiologische Technik Gmbh Hearing aid and method for operating a hearing aid
US8670583B2 (en) 2009-01-22 2014-03-11 Panasonic Corporation Hearing aid system
JP2010171688A (ja) * 2009-01-22 2010-08-05 Rion Co Ltd 補聴システム
WO2010084769A1 (ja) * 2009-01-22 2010-07-29 パナソニック株式会社 補聴装置
JP5409656B2 (ja) * 2009-01-22 2014-02-05 パナソニック株式会社 補聴装置
WO2011064950A1 (ja) * 2009-11-25 2011-06-03 パナソニック株式会社 補聴システム、補聴方法、プログラムおよび集積回路
CN102293017A (zh) * 2009-11-25 2011-12-21 松下电器产业株式会社 助听系统、助听方法、程序及集成电路
CN102293017B (zh) * 2009-11-25 2014-10-15 松下电器产业株式会社 助听系统、助听方法及集成电路
JP5351281B2 (ja) * 2009-11-25 2013-11-27 パナソニック株式会社 補聴システム、補聴方法、プログラムおよび集積回路
US8548180B2 (en) 2009-11-25 2013-10-01 Panasonic Corporation System, method, program, and integrated circuit for hearing aid
WO2012056645A1 (ja) * 2010-10-26 2012-05-03 パナソニック株式会社 補聴装置
US8565460B2 (en) 2010-10-26 2013-10-22 Panasonic Corporation Hearing aid device
JP2012109933A (ja) * 2010-10-26 2012-06-07 Panasonic Corp 補聴装置
JP2012175580A (ja) * 2011-02-23 2012-09-10 Kyocera Corp 携帯電子機器及び音出力システム
JP2019518989A (ja) * 2016-05-18 2019-07-04 クゥアルコム・インコーポレイテッドQualcomm Incorporated オーディオ出力を生成するためのデバイス

Also Published As

Publication number Publication date
JP4126025B2 (ja) 2008-07-30

Similar Documents

Publication Publication Date Title
US9560456B2 (en) Hearing aid and method of detecting vibration
CN107547983B (zh) 用于提高目标声音的可分离性的方法和听力装置
US20110002467A1 (en) Dynamic enhancement of audio signals
JP4126025B2 (ja) 音処理装置、音処理方法および音処理プログラム
US20050094828A1 (en) Bass boost circuit
US20180139564A1 (en) Method and apparatus for processing audio signal based on speaker location information
US20160142833A1 (en) Spatial enhancement mode for hearing aids
US11070914B2 (en) Controller and control method
CN109310525A (zh) 媒体补偿通过和模式切换
WO2022262223A1 (zh) 一种辅听耳机及其控制方法、装置、系统及可读介质
US20090180626A1 (en) Signal processing apparatus, signal processing method, and storage medium
KR20140097699A (ko) 3차원 이퀄 라우드니스 컨투어를 이용한 난청 보상 장치 및 방법
US8331591B2 (en) Hearing aid and method for operating a hearing aid
CN107454537A (zh) 包括滤波器组和起始检测器的听力装置
JP2006087018A (ja) 音響処理装置
KR101442022B1 (ko) 청력테스트 결과에 따른 난청 보정 서비스 방법 및 그 장치
US20120057714A1 (en) Automatic Tunable Earphone And Method For Tuning The Same
WO2007017809A1 (en) A device for and a method of processing audio data
US20220141583A1 (en) Hearing assisting device and method for adjusting output sound thereof
CN110313188A (zh) 头外定位处理装置、头外定位处理方法以及头外定位处理程序
JP6115160B2 (ja) 音響機器、音響機器の制御方法及びプログラム
US8948429B2 (en) Amplification of a speech signal in dependence on the input level
KR101745019B1 (ko) 오디오 시스템 및 그 제어방법
Husstedt et al. A method to analyse and test the automatic selection of hearing aid programs
JP2010217268A (ja) 音源方向知覚が可能な両耳信号を生成する低遅延信号処理装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20070213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070213

A625 Written request for application examination (by other person)

Free format text: JAPANESE INTERMEDIATE CODE: A625

Effective date: 20070308

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20070629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070629

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080303

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080415

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080509

R150 Certificate of patent or registration of utility model

Ref document number: 4126025

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110516

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110516

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120516

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120516

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130516

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130516

Year of fee payment: 5

EXPY Cancellation because of completion of term