JP5196698B2 - 蝸牛インプラント用音声処理方法 - Google Patents
蝸牛インプラント用音声処理方法 Download PDFInfo
- Publication number
- JP5196698B2 JP5196698B2 JP2002521409A JP2002521409A JP5196698B2 JP 5196698 B2 JP5196698 B2 JP 5196698B2 JP 2002521409 A JP2002521409 A JP 2002521409A JP 2002521409 A JP2002521409 A JP 2002521409A JP 5196698 B2 JP5196698 B2 JP 5196698B2
- Authority
- JP
- Japan
- Prior art keywords
- volume
- perceived
- electrode
- stimuli
- total
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 239000007943 implant Substances 0.000 title claims description 52
- 238000003672 processing method Methods 0.000 title description 6
- 230000000638 stimulation Effects 0.000 claims description 67
- 238000012545 processing Methods 0.000 claims description 51
- 230000005284 excitation Effects 0.000 claims description 41
- 238000000034 method Methods 0.000 claims description 37
- 230000006870 function Effects 0.000 claims description 30
- 230000008447 perception Effects 0.000 claims description 22
- 230000000694 effects Effects 0.000 claims description 19
- 238000004070 electrodeposition Methods 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 15
- 230000005236 sound signal Effects 0.000 claims description 14
- 210000003477 cochlea Anatomy 0.000 claims description 9
- 238000010183 spectrum analysis Methods 0.000 claims description 7
- 230000004044 response Effects 0.000 claims description 6
- 238000000926 separation method Methods 0.000 claims description 4
- 238000013459 approach Methods 0.000 description 16
- 238000007792 addition Methods 0.000 description 11
- 238000004458 analytical method Methods 0.000 description 10
- 238000001228 spectrum Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000007493 shaping process Methods 0.000 description 3
- 230000003595 spectral effect Effects 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000012886 linear function Methods 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 206010011891 Deafness neurosensory Diseases 0.000 description 1
- 206010021403 Illusion Diseases 0.000 description 1
- 208000009966 Sensorineural Hearing Loss Diseases 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002051 biphasic effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 230000008035 nerve activity Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 210000000578 peripheral nerve Anatomy 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 231100000879 sensorineural hearing loss Toxicity 0.000 description 1
- 208000023573 sensorineural hearing loss disease Diseases 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 230000009625 temporal interaction Effects 0.000 description 1
- 230000001550 time effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61N—ELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
- A61N1/00—Electrotherapy; Circuits therefor
- A61N1/18—Applying electric currents by contact electrodes
- A61N1/32—Applying electric currents by contact electrodes alternating or intermittent currents
- A61N1/36—Applying electric currents by contact electrodes alternating or intermittent currents for stimulation
- A61N1/36036—Applying electric currents by contact electrodes alternating or intermittent currents for stimulation of the outer, middle or inner ear
- A61N1/36038—Cochlear stimulation
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/06—Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
- G10L2021/065—Aids for the handicapped in understanding
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L21/0216—Noise filtering characterised by the method used for estimating noise
- G10L21/0232—Processing in the frequency domain
Landscapes
- Health & Medical Sciences (AREA)
- Otolaryngology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Engineering & Computer Science (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Prostheses (AREA)
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
Description
〔技術分野〕
本発明は、聴覚人工器官システムで使用され、特に蝸牛インプラント・システムに適用される音声処理方法に関する。
【0002】
〔背景技術〕
個人が感音難聴を経験した場合、その個人の聴覚の回復は補聴器と蝸牛インプラントの使用によって達成されてきた。特に、蝸牛インプラントは長年にわたって臨床使用されてきた。音声信号を処理して移植された電極アレイを介する電気刺激の基礎とするために広い範囲の様々な音声処理方法が利用されてきた。ユーザの音声理解にとって重要な検出された音声信号の個々の音響成分、例えばフェルマントの周波数及び振幅、を抽出し、刺激を生成する基礎としてそれを使用することに注目したシステムもあった。また、別のアプローチでは、蝸牛の一般的な周波数部位局在的(tonotopic)な配置を利用して、各電極が一般に個々の周波数帯に対応するようにした試みがあった。
【0003】
コクレア社(Cochlear Limited)によって販売される音声処理装置で商業使用されているこうしたアプローチの1つは、SPEAKとして周知である。SPEAKシステムでは、入力音声信号を処理して所定の組み合わせの周波数チャネル各々の周囲音声信号の振幅の表示を提供し、最大の振幅を有するチャネルを刺激の基礎として選択する。別のアプローチでは、全てのチャネルの出力を使用して、最高短期振幅を有する、チャネル自体ではなく刺激パターンを特定する。チャネルは一列の帯域通過フィルタの部分的に重なり合う周波数応答によって画定される。フィルタは、高速フーリエ変換(FFT)を含む多様なアナログまたはディジタル技術を使用して実現される。臨床的なマッピング処置によって決定される、こうしたチャネルに対応する電極を各刺激周期で作動するよう選択し、蝸牛の周波数部位局在機構(tonotopic organization)に従ってチャネルに割り当てる。刺激レートはできる限り高いことが好適であるが、外部処理装置及び移植受信機/刺激器ユニットの処理及び電源能力によって課される制限の影響下にある。
【0004】
電気刺激レベルの範囲は普通、音声処理装置出力の刺激サイクルレートと同じレートの固定電流パルス列を使用する、個々の電極のしきい値と快適な音量レベルとの心理物理学的測定によって決定される。これは電極音量マッピングによって記述してもよい。この音量マッピング法に伴う問題は、音声処理装置出力の場合一般にそうであるように、多数の電極を立て続けに作動させる場合、音量加算の影響を考慮していないことである。
【0005】
処理方法の大部分は、刺激サイクル毎に一定の定格数の電極を作動させるが、個々のサイクルで刺激される電極の実際の数は、各時点での音響刺激のレベルと帯域幅とに応じて変化するこの数の一部であることを認識するのは重要である。このことの例示として、低レベル音響純音の場合は単一の電極が作動し、この電極の電気的レベルは、その電極が可聴となる、個々の電極について測定される心理物理学的しきい値に少なくとも等しくなければならない。それと対照的に、低レベル広帯域雑音によって、1つの刺激サイクルで(例えば)8つの電極が作動することもある。既存のシステムで起こりうるように、これらの8つの電極が各々それら個々の心理物理学的しきい値の近くで作動するならば、結果として得られる音量は、意図した通りにしきい値音量に近づくのではなく、最大快適音量に近づく。
【0006】
この音量加算は、各電極個々のレベルは快適音量を超えていないのに、処理装置出力の音量が大きすぎる、という状況につながる。この問題を克服しようとして、各電極の上限レベルを全体的に下げる、または電極間にわたって個別レベルの範囲を設定する複合入力信号を使用する、といったことを含む様々な実際的方法が利用されてきた。こうした方法は、大音量に対するインプラント・ユーザの不快感を緩和するものではあるが、音声知覚に対する音量加算の強い影響、という第2の重要な問題に対処していない。
【0007】
音声信号の振幅包絡線変動は、特に信号中のスペクトル・キューをあまり利用できない人(例えば、活性電極の少ない人や電極弁別能力の劣った人)にとって、音声知覚のために不可欠なキューを提供する。従って、音声信号中の時々刻々の音響強度の変化が、適正な知覚音量変化として装用者に正確に伝えられることが重要である。フィルタの音響出力を対応する電極の一定の電気的レベル(但し限定されている)にマップするこの音量コード化法は、各刺激サイクルで作動する電極の数、及び他の電極からの相対的音量寄与といった重要な側面の時々刻々の変化を考慮していないため、必然的に振幅包絡線形状の知覚的歪みを生じる。要約すると、このアプローチを使用して電気的に刺激された聴覚の相対音量は、聴覚正常者が同じ音響入力から聞き取る相対音量を正確に伝えていない。音響信号の振幅包絡線の知覚を歪めることと共に、この効果によって、狭帯域信号が低レベル広帯域雑音によってマスクされるので、装用者がバックグラウンド騒音の中の話し声を聞き取る能力が阻害されることになる。
【0008】
SPEAKアプローチは臨床的に成功したものと証明されているが、蝸牛インプラントのユーザの、話し声及び他の音声の了解度を向上させるように音声処理方法を改善することが本発明の目的である。蝸牛インプラントのユーザに提供される音量の知覚を改善することが本発明のさらなる目的である。
【0009】
〔発明の概要〕
広範には、本発明は、インプラント・ユーザが適正な音量で確実に信号を知覚できるようにしつつ、音量の制御を改善し、音声信号に関する追加情報を提供するため、音声処理スキームに正常聴覚の音声知覚モデルを適用することに関する。1つの態様では、本発明は、各チャネルでの振幅のさらなる処理を可能にするため、初期分析後に、整形アルゴリズムをチャネルの振幅に適用することに関する。整形アルゴリズムは、聴覚正常聴取者による音声知覚に対する各チャネルの相対的重要度を考慮する。その目的は、単に最大振幅を有するチャネルを強調するのではなく、音声知覚にとって最も重要なものに選択的な重み付けを適用することである。
【0010】
別の態様によれば、入力音声信号を処理して、正常聴覚を有する仮定聴取者の推定総合音量を決定する。利用される刺激スキームに応じて電気刺激のパラメータを決定した後、以前に印加された刺激と、前もって臨床的に決定された電気的刺激による患者の聴覚知覚の関連特性とを含むパラメータに基づいて、提供される刺激によってインプラント・ユーザが知覚する音量を推定する。提供される刺激の音量が所定の範囲を超えて聴覚正常者と異なる場合、その範囲が満たされるまで刺激を調整し再度音量を推定する。これを、電気聴覚を使用する聴取者が知覚する総合音量の正規化と呼んでもよい。好適には、電気刺激の入力値は、上記で説明したSPEAKスキームのような蝸牛インプラント用の既定の音声処理スキームを使用して最初に決定される。しかし、時間的に重なり合わない一連の矩形パルスを使用した刺激ではなく、同時の、またはアナログ的な刺激のパターンを生成するスキームを含む、別のスキームを利用してもよい。このアプローチの意図は、個々のユーザの特性を考慮することを含め、ユーザの知覚の総合音量が、同じ入力音声信号に対する聴覚正常聴取者の場合と同等になるように電気刺激を調整することである。このアプローチは、仮定聴覚正常聴取者によって知覚されるものと同一ではないが、正常な音量に対して所定の関係を有する総合音量を生じることが望ましい場合特に適切である。例えば、バックグラウンド騒音の影響を低減し、また音声の了解度を向上させるように、正常な範囲と比較して、インプラントを使用して知覚される音量レベルの範囲を圧縮することが望ましいこともある。また、このアプローチは聴覚正常者の音声知覚にとってもっとも重要であるとわかっている信号をさらに強調する信号を提供する。
【0011】
また、本発明は、蝸牛インプラント・ユーザが知覚する信号の総合音量の制御を改善するだけでなく、インプラント・ユーザに提示される信号の相対音量、特に、音素のような音声信号の様々な成分の相対音量の制御をも改善するスキームを提供しようとする。これは、総合音量を制御するのではなく、周波数または蝸牛位置全体にわたる音量寄与の分配を制御するこのスキームの1つのバージョンを使用してなされる。この態様は以下さらに詳細に説明される。
【0012】
上記のアプローチは、既存のインプラント及び処理装置と共に使用する場合も改善が可能である。しかし、ありうる刺激のためさらに多くの電極を提供し、さらに高い刺激レートを可能にし、多数の同時またはほぼ同時の刺激を提供し、時間的に連続した波形を使用する刺激(すなわちアナログ刺激)を提供する傾向が増大する中で、上記のアプローチは次第に重要になりつつある。刺激環境が次第に複雑になるに連れて、蝸牛インプラントによる刺激の完全な利益が確実に得られるように、ユーザが知覚する音量のような刺激の総合的な知覚効果を制御することはますます重要になっている。本発明は、さらに複雑なスキームが実現されるにつれて用途を増やすだろう。
【0013】
〔詳細な説明〕
ここで、本発明の例示実施形態が添付の図面を参照して説明される。
本発明は、音声処理の個々のアプローチを参照して説明される。しかし、認識されるように、本発明は、特に多くの刺激が短い時間間隔に、かつ/または多数の電極位置に印加される場合、ユーザに提供される知覚が最適となる結果を提供する助けとなる付加物として、多くの異なった音声処理方法に適用できる。これに加えて、本発明の各態様は、既存の音声処理スキームの動作特性を向上させるため、単独または組み合わせて既存の処理スキームにも適用できる。
【0014】
以下説明されるスキームは、上記で論じられた本発明の様々な態様を組み込んでいる。このスキームは多くの点で、コクレア社によって商業使用されるSPEAKシステムと同様であるので、SPEAKの動作を理解することは本発明を理解する助けになる。また、このシステムの原理は、引用によって本出願の記載に援用する、米国特許第5,597,380号でも説明されている。
【0015】
図1は、蝸牛インプラント用の通常の既存音声処理装置の主要構成要素を示す機能構成図である。便宜のため、ディジタル実現例を論じるが、認識されるように、音声処理装置のアナログ(またはアナログ/ディジタル結合)実現例も実行可能であって、本発明の領域から除外されるものではない。
【0016】
図1では、マイクロホン11からの入力は、前置増幅器段12を介してアナログ・ディジタル変換器(ADC)13に伝えられる。スペクトル分析ブロック14は一般に、高速フーリエ変換(その前にサンプル時間領域入力信号の適当なウィンドウ処理が置かれる)または帯域通過フィルタ列によって実現される。スペクトル分析ブロックの出力は、いくつかの離散的または部分的に重なり合う周波数帯中のレベルの一組の短期推定値である。SPEAKまたはACE(Advanced Combination Encoder(高度複合符号器)−一般にさらに高い刺激レートを使用するSPEAKの派生物)といった既存の処理アルゴリズムの中には、分析帯域の一部だけからの振幅情報が次の処理段に伝えられるものもある。この一部の帯域には最高振幅を有する帯域が含まれる。CIS(Continuous Interleaved Sampling、連続インタリーブ・サンプリング)のような他のスキームでは、全ての帯域の振幅が使用される。しかし、CIS処理装置が有する分析帯域は、通常SPEAKまたはACE処理装置より少ない。次の処理ブロック15は、入力スペクトルを表す振幅データを蝸牛インプラント・ユーザに適したレベルの電気パルスに変換する。いくつかのユーザ固有パラメータ16が要求される。これには、分析帯域周波数を利用可能な蝸牛内電極位置に「マップ」するデータ、ユーザが検出可能なぎりぎりのレベルで各電極を刺激する電流レベル及び/またはパルス幅(「Tレベル」)、及びユーザにとって大きいが不快でないレベルで各電極を刺激する電流レベル及び/またはパルス幅(「Cレベル」)が含まれる。
【0017】
振幅データは、各々非線形関数を含む一組の個別の参照テーブルによって、各電極に対する電流レベルに変換される(15)。例えば、各電極について、最低振幅はTレベルに近いレベルに変換され、最高振幅はCレベルに近いレベルに変換される。次に、電極の選択と電流レベルのデータはディジタル符号化17されて最終的に蝸牛インプラントに伝送18され、聴覚ニューロンの望ましい刺激が生じる。
【0018】
以下説明される本発明の実施例は、図1で説明されたシステムと同様のいくつかの処理を利用するが、新しい、より複雑な処理を含んでいる。また、想定されるように、本発明の態様は、個別または図1に示された実現例と組み合わせて適用できる。理解されるように、本発明は何らかの特定のハードウェア実現専用のものではなく、かつこの態様は、当業技術分野で周知の様々な適切な装置としては説明されない。
【0019】
本発明では、先行技術の場合と同様、入力信号を分析して短期スペクトルを推定する。次にこのスペクトルを、周波数全体にわたる励振の分布を推定するか、または、正常聴覚を有する聴取者の耳で起こるように、蝸牛の場所全体にわたって同様の推定を行うリアルタイムのモデルによって処理する。こうした推定処理とモデルの一例を以下さらに詳細に説明する。正常聴覚における励振の公表されたモデルの中には、蝸牛を部分的に重なり合う帯域通過フィルタ列に基づく周波数分析器としてモデル化し、励振パターンをこうしたフィルタの出力から導出するものがある。本発明の実施例によれば、この推定励振パターンは個別音量関数(すなわち、各周波数帯域、または各蝸牛位置での励振が寄与する音量の大きさ)に変換される。次に個別音量関数を周波数または蝸牛位置全体にわたって積分し、正常聴覚によって知覚される信号の総合音量を推定する。
【0020】
次に、聴覚正常者による音声知覚にとっての各周波数領域(例えば、各重要帯域)の相対的重要度に応じて、個別音量(または励振)関数を整形する。適正な整形は、音声了解度指数(SII)(明瞭度指数(AI)としても知られ、これは当業者に周知である)の根底をなす理論から導出される。次に重要帯域を最大−最小SII重み付き個別音量(または励振)の順序に並べ替える。このステップの目的は、電気刺激が生成される時、音声に関する多くの情報を含むと思われる入力信号の部分に優先順位が与えられるようにすることである。
【0021】
別言すれば、音響チャネルは、単に絶対振幅によって重み付けされるのではなく、音声知覚における聴覚正常者にとっての重要度に応じて重み付けされる。従って、このアプローチは、電気的手段によって聴取するユーザにより良好な音声知覚を提供する一組の出力を提供する。刺激のために選択される電極が重み付け後の最大振幅を有するものとなるように、SII重要度関数に基づいて、チャネル選択処理で重み付き振幅が使用される。さらに、非重み付き音量関数を積分し、分析周期について(仮定の)聴覚正常者が知覚する音量の総合値を提供する。電気聴取ユーザに適用される刺激の組み合わせは、この値に近い音量を提供すべきであり、それによって聴覚正常者の知覚にできる限り近づき、ひいては電気聴取ユーザが知覚する話し声及び他の音声の知覚を改善する。
【0022】
電気刺激に関するパラメータを計算するため、各重要帯域は個別に、かつ最大−最小の順序で処理される。
【0023】
最大SII重み付き個別音量を有する第1の重要帯域が識別され、対応する個別音量(または励振)は、分析のより早い段階で(すなわち、SII重み付けが適用される前に)得られる。次に、電気刺激が構成されるが、これはインプラント・ユーザに同様の個別音量(または励振)を提供するはずのものである。処理スキーム全体が短期スペクトル「フレーム」に対して作用する場合、こうした刺激は各々、電極番号と刺激レベルという2つのパラメータだけで指定される。刺激レートは、SPEAKまたはCISの場合と同様に、処理のレートによって決定される。活性電極は、正常聴覚重要帯域周波数から電極位置への通常の「マップ」によって選択される。
【0024】
しかし、刺激レベルの決定は、以前のスキームより複雑である。活性電極を選択し、電極が寄与すべき個別音量を決定した後、その個別音量をインプラント・ユーザに提供する適正な刺激レベルを決定する。次に、ユーザ固有のパラメータを含む、電気聴取ユーザに対する予想応答を決定するモデルを適用する。また、このモデルは、活性電極周囲の励振の広がりを推定する。これは、他の電極が現在動作していなくても、第1の活性電極の周囲の電極位置である程度の個別音量が存在しうるからである。さらに、刺激の総合音量を、個別音量関数の積分によって推定する。
【0025】
フレーム内で起動される第2の電極を、最大から2番目のSII重み付き個別音量を使用して決定し、次に、上記で説明されたように、正常聴覚の場合の対応する個別音量を得る。電極位置全体にわたる個別音量の分布を推定する関数を検査する。選択された電極に関連する個別音量が現在、その電極位置での寄与に必要な個別音量より小さい場合、適切な刺激レベルを生成し必要な個別音量を提供する。その電極位置ですでに十分な個別音量があるならば、第2の電極は起動しない。例えば、第1の活性電極からの励振の広がりによって、第2の電極を適正なレベルで起動すべき場合に第2の電極の寄与が完全にマスクされてしまうことがある。第2の電極を起動する場合、全ての電極位置にわたる励振の広がりと個別音量の分布を推定する関数を更新する。また、合計音量の推定値も更新する。
【0026】
装用者にとっての総合音量が正常聴取の場合のモデルによる予測値に近づくか、活性電極の数がある限度に達するか、または何らかの他の条件が満たされるかの何れかの場合まで、前の3つの段落で概説した処理を繰り返す。ゼロ以外のSII重み付き個別音量を有する全ての重要帯域を使用し終える前に終了の条件が満たされない場合、個別音量関数自体、または物理スペクトル中のレベルに基づいて電極選択を継続することができる。
音声了解度指数(SII)の根底をなす理論は、聴覚正常聴取者について十分に確立されている。上記で説明した目的のため、SII理論を適用して、入力スペクトル中の各周波数帯域の音声了解度に対する相対的重要度を予測する必要がある。重要度は、各帯域のレベルと周波数に依存する。短期スペクトル中に一定のレベル以下の周波数帯域があれば重要度関数をゼロに設定する。これは、電気刺激を生成するチャネルを選択する処理で優先順位を割り当てる際話し声を話し声以外の音声から区別する助けとなる。ある期間にわたって各スペクトル帯域で実際に得られるレベルの範囲に基づいて、その最小レベルを適応可能にするさらなる拡張がなされることもある。例えば、直前数秒間の短期スペクトル中に見られる最大レベルの30dB下に最小レベルを設定してもよい。また、SII重要度を音声処理装置に適用するやり方に影響を与える話し声と話し声以外の分類器を利用してもよい。
【0027】
蝸牛インプラントによる電気刺激用に、個別音量、総合音量、及び励振の同様のモデルが開発されている。この処理スキームは、以下記載の3つの主目的のどれを考慮するかに応じて1つかそれ以上のモデル出力を利用する。すなわち、この処理スキームの好適な実現は以下の3つの態様のうち1つかそれ以上を含んでいる。
【0028】
(a)電気刺激用と正常聴覚用の音量のモデルを適用し、ユーザに印加される刺激の総合音量を制御し最適化する。この制御と最適化はリアルタイムで刺激のパラメータを調整することによってなされ、インプラント・ユーザの音量の知覚が正常聴覚の場合と同様であるか、または適正な所定の関係をもって正常聴覚の場合に対応することを保証する。
(b)音量知覚のモデルを適用し、推定総合音量と共に、そこから得られる個別音量(または励振)の推定値を使用して、リアルタイムで刺激のパターンを調整し、インプラント・ユーザにおいて発生すると推定される個別音量(または励振)パターンを生じる。これは適正な所定の関係にある正常聴覚のパターンに対応する。
(c)音響的に刺激された、正常聴覚の耳での末梢神経活動のモデルを適用し、蝸牛インプラントが生成すべき電気刺激の関連パターンを考案し適切に制御する。
【0029】
〔モデル〕
正常聴覚用のいくつかの音量モデルが発表されている。そうしたモデルの1つが最近Moore及びGlasbergによって開発された(「聴神経科学(Auditory Neuroscience)」、第3巻、289−3111ページ、1997年、「オーディオ技術学会雑誌(Journal of the Audio Engineering Society)」、第45巻、第4号、224−240ページ、1997年)である。同様のモデルはそれより前にZwickerらによって開発されている。また、単純化されたバージョンがISO推薦規格案532「音量レベルの計算方法(Method for calculating loudness level)」で説明されている。これらの開示は、引用によって本出願の記載に援用する。
【0030】
ここでは、拍動し、定電流で、非同時の刺激のある範囲の刺激パターンについての電気刺激の個別音量と、ひいては総音量とを予測するモデルを説明する。
【0031】
このモデルは電極アレイに供給される各パルスのパラメータといった入力を受信する。一般に、こうしたパラメータには、パルス供給部位の位置(活性電極数)、電極構成(単極、双極、等)、パルス立ち上がり時間、パルス幅、パルスの位相間隔時間(パルスが2相の場合)、及び電流レベル(またはパルス中に含まれる総電荷)が含まれる。また、このモデルは、各分析フレーム内で生成される全てのパルスの組み合わせについて結合された上記のパラメータを受け取ることもある。例えば、SPEAK及びACEのような音声処理スキームでは、帯域通過フィルタの出力を走査する毎に、または短期スペクトル分析毎に、一組のパラメータが得られる。前に概説したように、各走査結果によって、作動させる電極が選択される。
【0032】
生成すべき刺激の物理パラメータを指定する上記の値を使用して、このモデルは総音量に対する各パルスの寄与を推定する。利用可能な蝸牛部位全体にわたる寄与のパターンを、(上記で概説したような)正常聴覚による知覚のモデルで導出される個別音量関数との類推から、個別音量関数と呼ぶ。
【0033】
このモデルのこの態様は、電気聴覚の周知の心理物理学的特性に基づいている。例えば、以下の通りである。
【0034】
刺激の蝸牛位置(すなわち、電流パルスが供給される電極)と刺激レートが一定に保持されている場合、電流またはパルス幅を増大すると音量が増大する。音量と電流(及び/またはパルス幅)との関係はほぼ、べき関数または指数関数であると考えられる(電流とパルス幅の積がパルス毎の電荷であり、パルスの立ち上がり時間は刺激レートが一定の場合周期的であることに注意されたい。このため、このモデルでは、電流レベル及び/またはパルス幅の代わりに総電荷を使用してもよく、パルス立ち上がり時間の代わりにレートを使用してもよい)。
【0035】
刺激レートを増大すると(すなわち、パルス立ち上がり時間の時間間隔を短縮すると)、音量が増大するが、これは一般に音量レベルが低いほど効果が大きい。
【0036】
活性電極間の空間間隔を増大すると音量が変わることがある。
【0037】
上記の作用(及び他の作用)は互いに大幅な相互作用を有することが知られているので、各パルスの音量寄与を正確に推定するためには、このモデルはある有限の範囲の時間にわたるパルスの全ての物理パラメータを必要とするかもしれない。
【0038】
また、このモデルは、全ての利用可能な電極での様々なレート及び(1つまたはいくつかの分析周期内、通常合計約2〜20ms以内といった)短時間内に活性化され空間的に間隔が置かれた電極の様々の数について、しきい値レベル(Tレベル)及び最大快適レベル(Cレベル)及び/またはしきい値を超える推定音量といったユーザ固有パラメータをも考慮する。測定されたパラメータ値を、動作のために必要な値の全範囲に拡張する内挿及び外挿を使用するモデルの場合、各インプラント・ユーザについて測定する必要があるのはこうしたパラメータの一部だけということもありうる。また、このモデルのパラメータの中には個々のインプラント・ユーザ間であまり変わらないものもあり、こうしたパラメータの場合、個別に測定した値でなく平均値を、モデルにおいて使用してもよい場合もありえる。こうした条件によって、このモデルは各インプラント・ユーザにとってさらに容易に適用可能なものとなる。
【0039】
動作中、このモデルは、適当な時間間隔(例えば、10ms、または分析周期)にわたって供給されるパルスの個別音量寄与を積分(または平均)する。この積分は好適には時間的に重ねられる(例えば、5ms毎に10msの平均を計算する、等)。全ての活性電極にわたる個別音量寄与を積分することによって、このモデルはインプラント・ユーザが知覚する推定総合音量を頻繁に更新する。この推定値には、電極アレイに供給される最近のパルスの効果だけでなく、そのパルスを中心とする短期ウィンドウ内に供給される他のパルスの(減衰する)効果も含まれる。
【0040】
要約すると、ある範囲の刺激パターンに関する電気刺激について、個別音量と、ひいては総音量とを予測するこのモデルは、本質的に、(1)心理物理学的な電気マスキングの研究の結果から導出される、電気刺激から得られる励振の空間的広がりの推定、(2)(刺激レートの効果を含む)時間的相互作用の効果の推定、これは心理物理学的研究からも得られる、及び(3)多数の電極に供給される多数のパルスによる刺激に対する音量加算の推定、という3つの側面を有する。現在の処理スキームにおけるこうした効果の推定を提供することによって、音量加算は、提示される刺激パターンに基づいて自動的に考慮される。それと対照的に、先行技術の典型的な音声処理スキームは、他の電極に供給されるパルスまたはパルスの前後の短い時間内に発生するパルスの効果を考慮することなく、いくつかの周波数帯域各々の音声強度の推定を選択された電極での刺激の対応するレベルに変換する。本発明では、電極によって供給される電気刺激の実際のパターンについて時間的及び/または空間的な音量加算効果を明示的に考慮するので、インプラント・ユーザにとって、話し声及び他の音声のより良好な了解度が得られ聴取時の快適さが改善される。
【0041】
何人かのインプラント・ユーザから得られる測定から得られる平均心理物理学的データに基づく規則を使用して音量加算の補償を適用してもよいし、また、個々のインプラント・ユーザに合わせて標準規則を修正してもよい。高音量レベルについて加算の量のユーザ固有の推定を得る簡単な方法は、各個別電極について従来の方法でCレベルを得た後、1以上の選択された複合的な(すなわち多数電極の)刺激についてCレベルを得ることである。様々な刺激レートについて、聴取しきい値(Tレベル)及び/または(Cレベルのような)しきい値を超える音量を生じるレベルを測定することによって音量加算の時間効果を推定してもよい。同様に、異なった蝸牛位置で作動する電極の選択された組み合わせについてしきい値レベル及び/またはしきい値を超える音量を生じるレベルを測定することによって、音量加算の空間効果を推定してもよい。
【0042】
図2は、図1の通常の先行技術音声処理装置を修正して本発明の処理スキームの簡単なバージョンを実現したものを示す機能構成図である。新しい処理ブロックには正常聴覚用の音量推定器19と電気聴覚用の音量推定器20とが含まれる。正常聴覚用の音量推定器は、Moore及びGlasbergによって以前に言及されたような周知の数値モデルに基づいている。これを使用して、正常聴覚を有する仮定聴取者についての各短期入力スペクトルの音量の推定値を生成する。同様に、電気聴覚用の音量推定器は、上記で論じられたように、蝸牛インプラントのユーザにとっての音量を推定する新しいモデルに基づいており、個々のインプラント装用聴取者についての各短期出力パルス・パターンの音量の推定値を生成する。
【0043】
周知のように、電気刺激の物理パラメータと、インプラント・ユーザが知覚する音量との間の関係は、インプラント・ユーザ間で大きく異なっているので、このモデルではユーザ固有パラメータ22が必要になる。2つの音量推定器19、20は、周期的または連続的に更新される出力を生じる。これらの推定音量を比較し(21)、電気刺激の音量を、対応する音響入力信号の音量に等化することを目的とした訂正信号が生成される(23)。電気刺激を指定する一組の初期パラメータを、先行技術の場合と同様の、前に概説した処理を使用して計算する。本発明の方法はこうしたパラメータを絶えず修正して、インプラント・ユーザの総合音量の知覚が、同じ入力信号を聴取する正常聴覚を有する仮定聴取者のものに近づくようにする。例えば、一定の比率によってかまたは、各刺激が供給される電極のダイナミックレンジ(C及びTレベルの差)に比例して刺激の電流及び/またはパルス幅を変更することによって、総合音量を調整してもよい。
【0044】
図3は、本発明の処理スキームのさらに複雑なバージョンを例示する構成図である。このバージョンでは、既存の音声処理装置の、音響振幅を電流レベルに変換する従来の処理が、モデルに基づく処理に置き換えられている。従って、音量モデルは上記で説明されたものより複雑なものになりうる。正常聴取の場合のMoore及びGlasbergの音量モデル29は、いくつかの周波数帯域各々の信号によってなされる総合音量への寄与を表す出力を生じる。上記で言及したように、これを個別音量関数と呼ぶ。また、このモデルは、周知の音響心理学的特性によって活動量(activity)を蝸牛全体に分配する仕方を表す励振パターンと呼ばれる出力を生じる。本発明の音声処理スキームでは、個別音量関数か、励振パターンか、または正常聴取の場合のモデルの他の適当な出力を使用すればよい。電気聴取の場合の音量モデル30は、所与のパターンの電気刺激の結果生じる個別音量または励振を表す出力を生じるよう同様に拡張される。より簡単なスキーム(図2)と同様、このモデルではユーザ固有パラメータ32が必要である。本発明のスキームでは、蝸牛インプラントによって生成される電気刺激のパラメータをリアルタイムで計算し、電気刺激された蝸牛における個別音量または励振が、同じ入力信号を聴取する時、正常聴覚を有する仮定ユーザで発生する個別音量または励振と同様になるようにする。上記で説明されたより簡単なスキームと同じく、総合音量も同様となる。しかし、図3のより複雑なスキームは、正常聴取のモデルによって、各音響周波数領域について推定される対応する寄与に応じて、各パルスが適正な量の音量または励振に寄与するように、インプラント25によって生成される各電気パルスのパラメータを指定するという利点を有する。図2のより簡単なスキームでは、各パルスのパラメータを独立して調整することなく、総合音量レベルのみが制御されていた。
【0045】
蝸牛インプラント用リアルタイム音声処理装置で使用するのに適した、電気刺激の個別推定音量を生じるモデルの単純化したバージョンを以下説明する。この単純化は、多くの既存インプラント・ユーザにおけるパルス刺激の現実的なパターンに適用可能なことが示された2つの仮定に依存する。その仮定とは、(1)パルスの供給部位間の空間的分離の音量の加算に対する影響は無視できるほど小さい、及び(2)ある刺激周期に関連する総音量を推定する場合、その刺激周期内に提示される各パルスの音量寄与は個別に処理できる、というものである。こうした仮定は、例えば、ある電極のパルス・レートを2倍にすると、2倍のレートの刺激の総合音量を第1の刺激の音量に等化する場合、(第1の刺激におけるパルス毎の音量寄与に対して)音量への各パルスの寄与は約半分になるということを意味する。その上、同様の関係はパルスが空間的に離れた電極に分配される時にも保持される。すなわち、心理物理学的手順を使用して、パルス・レート及び/または電極位置の異なるいくつかの刺激の音量を均衡させることによって、音量と(例えば)電流レベルとの間の近似的な数学的関係を構成することができる。例えば、この関係の周知の形式は、
log(L)=(K1×C)+(K2×exp((C−K3)/K4))+K5
であるが、ここでLは音量であり、Cは(対数関数に近似する一定の非線形関数を介して電極電流に関連する、コクレア社が製造する先行技術インプラント装置で使用される段階的単位で指定される)電流レベルであり、Kは実験的に決定される定数である。
【0046】
図3の本発明の音声処理スキームでは、電気刺激を生成するブロック25は上記の関数に基づいて参照テーブルを利用し、正常聴覚用のモデル29から得た個別推定音量を、装用された刺激装置に供給するのに適した電流レベル・データ17、18に変換する。先行技術で利用されるのと同様の方法で、蝸牛の周波数部位局在機構に応じて利用可能な電極を周波数帯域に割り当てる。一定レートのパルス刺激を使用して、各周波数帯域についての正常個別推定音量を各対応する電極位置で要求される個別音量寄与に変換し、次にそれらの電極に供給されるパルスの電流レベルをそれらの電極に割り当てられた参照テーブルから決定する。インプラント・ユーザが知覚する総音量を、全ての利用可能な電極位置にわたる個別音量寄与を加算することによって推定する。
【0047】
電気刺激の総音量は、個々のインプラント・ユーザにとって安全で許容できるレベルに制限すればよい。この制限は、推定総音量をインプラント・ユーザが快適だと判断する最大音量と比較することによって行えばよい。推定総音量が常に最大許容音量を超える場合、総音量が許容可能になるまで(刺激の電流レベルを低下させることによって)各活性電極に割り当てられた個別音量寄与を同じ比率で低下させればよい。知覚効果を改善するため、この制限関数に時定数を適用してもよい。例えば、限度を超える場合音量を急速に低下させるため短い動作開始時間(例えば5ms)を適用し、音量がすでに限度を超えていない場合はその元のレベルまで比較的ゆっくりと増大するように長い復旧時間(例えば50ms)を適用してもよい。こうした制限技術は従来の補聴器で利用されるものと同様であり、当業者に周知である。
【0048】
本発明の音声処理スキームで利用されうる代替モデルは、個別音量パターンの代わり、またはその追加として、汎用電気励振関数を推定する。このモデルでは、電気励振関数、E(p,t,a)は、蝸牛内の位置(p)、時間(t)、及び刺激振幅(a、これはパルス毎の電荷、電流レベル、及び/または位相持続時間によって表してもよい)の非線形関数として電気刺激の物理パラメータから計算される。Eはある時間と場所における神経活動の総量に関連すると仮定される。単一電極のパルス列によって生成される局所的な電気刺激の場合、刺激の知覚される音量、L(p,a)は、一定の時間間隔Tにわたって積分される、刺激によって生成される電気励振の次式のような非線形単調関数Fである。
【数1】
【0049】
局所的な蝸牛位置では、2以上の(非同時)成分を有する電気刺激によって生成される総電気励振は、個別成分によって生成される励振の合計に等しい。同時、ほぼ同時、または重なり合う電流の場合、非線形変換を励振に適用する前に電流の重み付き加算の計算が必要なことがある。パルスが電極に順次供給される従来のパルス電気刺激の場合、非線形変換の1つの適切な形態は、経時的な指数的減衰である。音声処理装置では、既存の電気励振パターンを連続的に変換し各追加電気パルスが寄与する励振パターンを追加することによって、電気励振パターンを反復的に推定すればよい。個々のパルスが寄与する励振は、そのパルスが電極によって供給された位置から空間的に離れた蝸牛位置での電気励振パターンに影響することもあることに注意されたい。(入力音声信号の実行時分析から計算される)音声処理スキームが要求する瞬間パターンから既存の電気励振パターンを減算することによって、本発明のスキームは、インプラントが供給する電気刺激の最適なパラメータを決定することができる。例えば、望ましい電気励振パターンと推定される既存の電気励振パターンとの間の差を最小化するように、位置(すなわち、選択される電極)と電流レベルを計算してもよい。電気刺激のパラメータを決定するこのアプローチの1つの利点は、電極が供給するパルスが増大し、時間及び空間両方の次元で望ましい励振パターンの精度が改善されることである。例えば、入力信号の急速な変化に関する、より詳細な情報を提供するため、1つの電極位置への短い時間間隔内の多数パルスを提示することが有益なことがある。すなわち、先行技術と比較して、本発明のスキームは、比較的微細なスケールで、刺激の空間的・時間的パラメータを制御することにより、音響信号の詳細な側面について、提供する追加情報をインプラント・ユーザに供給する可能性を有する。
【0050】
本発明の音声処理スキーム及びその変形の上記の説明では、インプラント・ユーザが知覚する総音量(及び/または個別音量または励振パターン)が、正常聴覚を有する仮定聴取者が知覚する総音量(及び/または個別音量または励振パターン)と同様になるようにすることが1つの目的であると一般に仮定したことに注意されたい。しかし、認識されるように、インプラント・ユーザが知覚する音量と、正常聴覚によって知覚される音量との間の代替的関係が可能であり、それは本発明から除外されない。例えば、話し声の了解度を最大化しまたバックグラウンド騒音の音量を最小化するように、平均によるかまたはリアルタイムで適応的に、インプラント・ユーザの個別音量パターンを調整するのが望ましいこともある。こうした調整では、インプラント・ユーザの場合の推定総音量を正常聴取推定音量から導出された範囲内に保持し、または2つのモデルの推定総音量の間の関係が、圧縮または拡張関係のような所定の関数に従うことかが必要とされうる。
【0051】
認識されるように、開示される本発明の一般的な概念の範囲内で変形や追加が可能である。
【図面の簡単な説明】
【図1】 先行技術の装置の構成図である。
【図2】 第1の実施例の構成図である。
【図3】 第2の実施例の構成図である。
Claims (10)
- 聴覚人工器官のための電気刺激を生成するため音声信号を処理する方法であって、
入力信号を受信するステップと、
所定のサンプル周期内の音声信号の様々な周波数成分内の振幅を決定するステップと、
前記人工器官で印加される一組の刺激を決定する際、使用される一組の振幅値を出力するステップと、
前記人工器官によって印加される一組の刺激を決定するステップと、を含み、
前記一組の振幅値をさらに処理して、聴覚正常聴取者が知覚する音響総合音量の値を決定し、前記一組の刺激を処理して、前記一組の刺激が印加された場合に電気聴覚ユーザが知覚する知覚総合音量を決定し、前記音響総合音量と前記知覚総合音量とが所定の関係を満たさない場合には、前記一組の刺激を修正することを特徴とし、かつ、
前記人工器官は、離散的刺激周期で供給される前記刺激を供給する多数の電極を有する電極アレイを含み、
電気聴覚聴取者によって知覚される知覚総合音量は、前記刺激を供給するために選択される電極間の空間的分離が知覚総合音量に対する大きな影響を有さないことを仮定するモデルによって決定され、
知覚総合音量を推定する時各パルスの音量寄与は個別に処理可能である、
方法。 - 正常聴取者の音声知覚における前記各振幅値の重要度に基づいて、前記モデルを反映した前記振幅値に対する重み付けを行う、
請求項1に記載の方法。 - 蝸牛内インプラントのための電気刺激を生成するため音声信号を処理する方法であって、
前記インプラントは、蝸牛内に刺激を供給する多数の電極を有する電極アレイを含み、
前記方法は、
(a)入力信号を受信するステップと、
(b)所定のサンプル周期内の信号の様々な周波数成分内の振幅値を決定するステップと、
(c)前記人工器官で適用される一組の刺激を決定する際使用される一組の振幅値を出力するステップと、
(d)前記人工器官によって印加される一組の刺激を決定するステップと、
(e)聴覚正常者の蝸牛内の推定理想電気励振パターンを電極位置または周波数成分と時間との関数として計算するモデルに基づいて、周波数成分内の前記振幅値を処理するステップと、
(f)前記理想電気励振パターンを、各電極位置または周波数成分の音量についての値を含む個別音量関数に変換するステップと、
(g)前記個別音量関数に基づき、刺激周期内のどの電極を刺激するかを決定するステップと、を含み、
さらに、
(h)聴覚正常聴取者によって知覚される前記入力信号の推定総合音量を決定するため、全ての電極位置または周波数成分にわたって前記個別音量関数を積分するステップと、
(i)最大個別音量を有する周波数成分に対応する第1の電極位置から始めてステップ(g)を反復的に実行し、電気聴覚応答のモデルに応じて前記第1の電極によって供給される刺激の振幅を決定するステップであって、前記刺激は、第1の電極について決定された個別音量値に最良近似することを目的とするステップと、
(j)前記第1の電極位置について決定された刺激を使用して前記モデルを更新するステップと、
(k)電気聴覚応答の前記モデルによって決定される前記刺激の前記総合電気音量を、前記推定総合音量と固有の関係を有する最大値と比較して、前記総合音量が前記固有の関係のための所要量より小さい場合には、電気聴覚応答の前記モデルに応じて、第2の電極によって供給される刺激の振幅を決定することによって、第2の最大個別音量を有する周波数成分について説明された処理を繰り返すステップであって、前記刺激が前記第2の電極について決定された個別音量値に最良近似することを目的とするステップと、
(l)前記第1及び第2の電極位置について決定された刺激を使用して前記モデルを更新するステップと、
(m)電気聴覚応答の前記モデルによって決定された前記刺激の総合電気音量を決定して、前記総合電気音量値が前記最大値より大きい場合には、前記総合電気音量値が前記最大値より小さいかまたはそれに等しくなるように、前記第2の電極によって供給される刺激の振幅を低減するか、または、
前記総合電気音量値が前記最大値より小さい場合には、前記最大値が満たされるかまたは他の基準によって処理が終了されるかの何れかの時点まで、各連続刺激について更新されるモデルを使用してステップ(k)〜(m)を繰り返すステップと、
を含む方法。 - ステップ(f)の後、重み付き個別音量関数を提供するように、個別音量関数の値が音声知覚に対する相対的重要度によって重み付けされ、どの電極位置が最大個別音量を有するかを決定するため、周波数成分における個別音量関数の相対値がステップ(i)で使用される請求項3に記載の方法。
- 最小しきい値以下の振幅が重み付けされないように、最小しきい値が各周波数成分内の振幅に適用される請求項4に記載の方法。
- 前記しきい値が前の周期の振幅に関連して動的に設定される請求項5に記載の方法。
- 聴覚人工器官により続いて提供される電気刺激を生成するために音声信号を処理するのに適合した音声処理装置であって、
所定のサンプル周期内のスペクトル分析ブロックに入力される信号の様々な周波数成分内の振幅値を決定し、前記人工器官で印加される一組の刺激を決定する際、使用される一組の振幅値を出力するのに適合したスペクトル分析ブロックと、
前記一組の振幅値をさらに処理して、聴覚正常聴取者によって知覚される音響総合音量の値を決定する音量処理装置と、
総合音響音量と、決定された一組の刺激を処理することにより得られた知覚総合音量とを比較する比較器と、
前記総合音響音量と知覚総合音量とが所定の関係を満たさない場合に印加される前記一組の刺激を修正する修正器と、
前記聴覚人工器官に提供すべき一組の刺激を決定する振幅処理装置と、
を有し
前記聴覚人工器官は、前記刺激を提供するための複数の電極を有する電極アレイを備え、
前記刺激は離散的刺激周期で供給され、
前記振幅処理装置は、さらに、前記刺激を供給するために選択される電極間の空間的分離が知覚総合音量に対する大きな影響を有さないこと、及び、知覚総合音量を推定する時各パルスの音量寄与は個別に処理可能であること、を仮定するモデルに基づいて、電気聴覚聴取者によって知覚される知覚総合音量を決定するよう構成されている、
音声処理装置。 - 請求項1〜請求項6の何れか1つに記載の方法を行うのに適合した、請求項7に記載の音声処理装置。
- 聴覚人工器官により続いて提供される電気刺激を生成するために音声信号を処理するのに適合した聴覚人工器官であって、
所定のサンプル周期内のスペクトル分析ブロックに入力される信号の様々な周波数成分内の振幅値を決定し、前記人工器官で印加される一組の刺激を決定する際、使用される一組の振幅値を出力するのに適合したスペクトル分析ブロックと、
前記一組の振幅値をさらに処理して、聴覚正常聴取者によって知覚される音響総合音量の値を決定する音量処理装置と、
総合音響音量と、決定された一組の刺激を処理することにより得られた知覚総合音量とを比較する比較器と、
前記総合音響音量と知覚総合音量とが所定の関係を満たさない場合に印加される前記一組の刺激を修正する修正器と、
前記聴覚人工器官に提供すべき一組の刺激を決定する振幅処理装置と、
を有し、
前記聴覚人工器官は、前記刺激を提供するための複数の電極を有する電極アレイを備え、
前記刺激は離散的刺激周期で供給され、
前記振幅処理装置は、さらに、前記刺激を供給するために選択される電極間の空間的分離が知覚総合音量に対する大きな影響を有さないこと、及び、知覚総合音量を推定する時各パルスの音量寄与は個別に処理可能であること、を仮定するモデルに基づいて、電気聴覚聴取者によって知覚される知覚総合音量を決定するよう構成されている、
聴覚人工器官。 - 請求項1〜請求項6の何れか1つに記載の方法を行うのに適合した、請求項9に記
載の聴覚人工器官。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
AUPQ9527 | 2000-08-21 | ||
AUPQ9527A AUPQ952700A0 (en) | 2000-08-21 | 2000-08-21 | Sound-processing strategy for cochlear implants |
PCT/AU2001/001027 WO2002017678A1 (en) | 2000-08-21 | 2001-08-20 | Sound-processing strategy for cochlear implants |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004506398A JP2004506398A (ja) | 2004-02-26 |
JP2004506398A5 JP2004506398A5 (ja) | 2008-08-07 |
JP5196698B2 true JP5196698B2 (ja) | 2013-05-15 |
Family
ID=3823582
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002521409A Expired - Fee Related JP5196698B2 (ja) | 2000-08-21 | 2001-08-20 | 蝸牛インプラント用音声処理方法 |
Country Status (6)
Country | Link |
---|---|
US (2) | US7171272B2 (ja) |
EP (2) | EP1784047A3 (ja) |
JP (1) | JP5196698B2 (ja) |
AU (3) | AUPQ952700A0 (ja) |
CA (1) | CA2419319A1 (ja) |
WO (1) | WO2002017678A1 (ja) |
Families Citing this family (87)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AUPQ952800A0 (en) | 2000-08-21 | 2000-09-14 | Cochlear Limited | Power efficient electrical stimulation |
US8285382B2 (en) * | 2000-08-21 | 2012-10-09 | Cochlear Limited | Determining stimulation signals for neural stimulation |
US9008786B2 (en) * | 2000-08-21 | 2015-04-14 | Cochlear Limited | Determining stimulation signals for neural stimulation |
AUPR604801A0 (en) * | 2001-06-29 | 2001-07-26 | Cochlear Limited | Multi-electrode cochlear implant system with distributed electronics |
WO2004043537A1 (en) * | 2002-11-13 | 2004-05-27 | Advanced Bionics Corporation | Method and system to convey the within-channel fine structure with a cochlear implant |
US7251530B1 (en) * | 2002-12-11 | 2007-07-31 | Advanced Bionics Corporation | Optimizing pitch and other speech stimuli allocation in a cochlear implant |
US20060126859A1 (en) * | 2003-01-31 | 2006-06-15 | Claus Elberling | Sound system improving speech intelligibility |
DE10308483A1 (de) * | 2003-02-26 | 2004-09-09 | Siemens Audiologische Technik Gmbh | Verfahren zur automatischen Verstärkungseinstellung in einem Hörhilfegerät sowie Hörhilfegerät |
AU2003901538A0 (en) * | 2003-03-28 | 2003-05-01 | Cochlear Limited | Maxima search method for sensed signals |
US7149583B1 (en) * | 2003-04-09 | 2006-12-12 | Advanced Bionics Corporation | Method of using non-simultaneous stimulation to represent the within-channel fine structure |
US8811643B2 (en) | 2003-05-08 | 2014-08-19 | Advanced Bionics | Integrated cochlear implant headpiece |
MXPA05012785A (es) * | 2003-05-28 | 2006-02-22 | Dolby Lab Licensing Corp | Metodo, aparato y programa de computadora para el calculo y ajuste de la sonoridad percibida de una senal de audio. |
US20070239227A1 (en) * | 2003-08-15 | 2007-10-11 | Fridman Gene Y | Frequency modulated stimulation strategy for cochlear implant system |
US20070282394A1 (en) * | 2003-09-11 | 2007-12-06 | Segel Philip A | Assistive listening technology integrated into a Behind-The-Ear sound processor |
US20050187592A1 (en) * | 2003-12-24 | 2005-08-25 | Peter Seligman | Combined stimulation for auditory prosthesis |
US7534127B2 (en) * | 2004-01-05 | 2009-05-19 | Cochlear Limited | Implantable connector |
US20050229769A1 (en) * | 2004-04-05 | 2005-10-20 | Nathaniel Resnikoff | System and method for assigning visual markers to the output of a filter bank |
US20060025833A1 (en) * | 2004-07-29 | 2006-02-02 | Cochlear Limited | Variable width electrode scheme |
US7421298B2 (en) * | 2004-09-07 | 2008-09-02 | Cochlear Limited | Multiple channel-electrode mapping |
WO2007120453A1 (en) * | 2006-04-04 | 2007-10-25 | Dolby Laboratories Licensing Corporation | Calculating and adjusting the perceived loudness and/or the perceived spectral balance of an audio signal |
MX2007005027A (es) | 2004-10-26 | 2007-06-19 | Dolby Lab Licensing Corp | Calculo y ajuste de la sonoridad percibida y/o el balance espectral percibido de una senal de audio. |
US8199933B2 (en) * | 2004-10-26 | 2012-06-12 | Dolby Laboratories Licensing Corporation | Calculating and adjusting the perceived loudness and/or the perceived spectral balance of an audio signal |
US9358393B1 (en) * | 2004-11-09 | 2016-06-07 | Andres M. Lozano | Stimulation methods and systems for treating an auditory dysfunction |
US7522961B2 (en) | 2004-11-17 | 2009-04-21 | Advanced Bionics, Llc | Inner hair cell stimulation model for the use by an intra-cochlear implant |
US7242985B1 (en) * | 2004-12-03 | 2007-07-10 | Advanced Bionics Corporation | Outer hair cell stimulation model for the use by an intra—cochlear implant |
TW200638335A (en) * | 2005-04-13 | 2006-11-01 | Dolby Lab Licensing Corp | Audio metadata verification |
TWI397903B (zh) * | 2005-04-13 | 2013-06-01 | Dolby Lab Licensing Corp | 編碼音訊之節約音量測量技術 |
US7545944B2 (en) * | 2005-04-18 | 2009-06-09 | Phonak Ag | Controlling a gain setting in a hearing instrument |
US7564980B2 (en) * | 2005-04-21 | 2009-07-21 | Sensimetrics Corporation | System and method for immersive simulation of hearing loss and auditory prostheses |
US20110040350A1 (en) * | 2005-05-05 | 2011-02-17 | Griffith Glen A | FSK telemetry for cochlear implant |
US8285383B2 (en) | 2005-07-08 | 2012-10-09 | Cochlear Limited | Directional sound processing in a cochlear implant |
US7885714B2 (en) * | 2005-09-01 | 2011-02-08 | University Of Southern California | Cochlear implant fitting |
US8027733B1 (en) | 2005-10-28 | 2011-09-27 | Advanced Bionics, Llc | Optimizing pitch allocation in a cochlear stimulation system |
US20100331913A1 (en) * | 2005-10-28 | 2010-12-30 | Mann Alfred E | Hybrid multi-function electrode array |
US7729775B1 (en) | 2006-03-21 | 2010-06-01 | Advanced Bionics, Llc | Spectral contrast enhancement in a cochlear implant speech processor |
EP2002426B1 (en) * | 2006-04-04 | 2009-09-02 | Dolby Laboratories Licensing Corporation | Audio signal loudness measurement and modification in the mdct domain |
TWI517562B (zh) | 2006-04-04 | 2016-01-11 | 杜比實驗室特許公司 | 用於將多聲道音訊信號之全面感知響度縮放一期望量的方法、裝置及電腦程式 |
WO2007127023A1 (en) | 2006-04-27 | 2007-11-08 | Dolby Laboratories Licensing Corporation | Audio gain control using specific-loudness-based auditory event detection |
US7864968B2 (en) * | 2006-09-25 | 2011-01-04 | Advanced Bionics, Llc | Auditory front end customization |
US7995771B1 (en) | 2006-09-25 | 2011-08-09 | Advanced Bionics, Llc | Beamforming microphone system |
BRPI0717484B1 (pt) * | 2006-10-20 | 2019-05-21 | Dolby Laboratories Licensing Corporation | Método e aparelho para processar um sinal de áudio |
US8521314B2 (en) * | 2006-11-01 | 2013-08-27 | Dolby Laboratories Licensing Corporation | Hierarchical control path with constraints for audio dynamics processing |
KR100726325B1 (ko) * | 2006-11-28 | 2007-06-08 | 최성식 | 진동 스피커 및 그에 사용되는 페이스 플레이트 및 이를구비한 휴대 단말기 |
ATE535906T1 (de) | 2007-07-13 | 2011-12-15 | Dolby Lab Licensing Corp | Tonverarbeitung mittels auditorischer szenenanalyse und spektraler asymmetrie |
US8412340B2 (en) * | 2007-07-13 | 2013-04-02 | Advanced Bionics, Llc | Tonality-based optimization of sound sensation for a cochlear implant patient |
US8600516B2 (en) * | 2007-07-17 | 2013-12-03 | Advanced Bionics Ag | Spectral contrast enhancement in a cochlear implant speech processor |
US9011508B2 (en) * | 2007-11-30 | 2015-04-21 | Lockheed Martin Corporation | Broad wavelength profile to homogenize the absorption profile in optical stimulation of nerves |
WO2010003173A1 (en) * | 2008-07-10 | 2010-01-14 | Cochlear Limited | Cochlear implant with modified intracochlear electrode member |
WO2010033483A1 (en) | 2008-09-18 | 2010-03-25 | Advanced Bionics, Llc | Methods and systems of conveying fine structure information to a cochlear implant patient |
US8401657B1 (en) | 2008-12-01 | 2013-03-19 | Advanced Bionics, Llc | Spectral profile adjustment of incoming audio signals for cochlear implant patients |
CA2750065C (en) * | 2009-01-20 | 2013-12-03 | Med-El Elektromedizinische Geraete Gmbh | High accuracy tonotopic and periodic coding with enhanced harmonic resolution |
FR2944919B1 (fr) | 2009-04-23 | 2011-07-29 | Pierre Sabin | Dispositif de connexion electrique implantable dans le corps humain |
FR2944920B1 (fr) * | 2009-04-23 | 2011-09-02 | Pierre Sabin | Dispositif sous-cutane de connexion electrique percutanee |
US8467881B2 (en) * | 2009-09-29 | 2013-06-18 | Advanced Bionics, Llc | Methods and systems for representing different spectral components of an audio signal presented to a cochlear implant patient |
US20110257704A1 (en) * | 2009-10-23 | 2011-10-20 | Med-El Elektromedizinische Geraete Gmbh | Equal Loudness Contour with Channel Specific Map Laws |
US20110098784A1 (en) * | 2009-10-23 | 2011-04-28 | Med-El Elektromedizinische Geraete Gmbh | Channel-Specific Loudness Mapping for Prosthetic Hearing Systems |
EP2362376A3 (en) * | 2010-02-26 | 2011-11-02 | Fraunhofer-Gesellschaft zur Förderung der Angewandten Forschung e.V. | Apparatus and method for modifying an audio signal using envelope shaping |
EP2542302B1 (en) | 2010-03-04 | 2014-04-30 | Fraunhofer Gesellschaft zur Förderung der angewandten Forschung e.V. | Method and apparatus for generating an electrode stimulation signal in a neural auditory prosthesis |
US20140207456A1 (en) * | 2010-09-23 | 2014-07-24 | Waveform Communications, Llc | Waveform analysis of speech |
US8805519B2 (en) | 2010-09-30 | 2014-08-12 | Nevro Corporation | Systems and methods for detecting intrathecal penetration |
US8515540B2 (en) | 2011-02-24 | 2013-08-20 | Cochlear Limited | Feedthrough having a non-linear conductor |
ES2637383T3 (es) | 2011-11-18 | 2017-10-13 | Boston Scientific Neuromodulation Corporation | Interfaz de usuario de vinculación de electrodos entre sí durante la programación de un sistema de neuroestimulación |
WO2013116097A1 (en) * | 2012-01-30 | 2013-08-08 | Advanced Bionics Ag | Methods and systems for enhancing pitch associated with an audio signal presented to a cochlear implant patient |
US20130345775A1 (en) * | 2012-06-21 | 2013-12-26 | Cochlear Limited | Determining Control Settings for a Hearing Prosthesis |
WO2014024050A2 (en) | 2012-08-07 | 2014-02-13 | Cochlear Limited | Hearing percept parameter adjustment strategy for a hearing prosthesis |
WO2014108201A1 (en) * | 2013-01-11 | 2014-07-17 | Advanced Bionics Ag | Method and system for neural hearing stimulation |
US9643007B2 (en) | 2013-10-30 | 2017-05-09 | Advanced Bionics Ag | Utilization of different loudness encoding schemes in cochlear implant systems |
US9393413B2 (en) | 2013-12-11 | 2016-07-19 | Med-El Elektromedizinische Geraete Gmbh | Feedback gating of an energy signal for neural stimulation |
US9999769B2 (en) | 2014-03-10 | 2018-06-19 | Cisco Technology, Inc. | Excitation modeling and matching |
US11179566B2 (en) * | 2014-06-03 | 2021-11-23 | Cochlear Limited | Fitting method using channels |
EP2962632A1 (en) * | 2014-07-04 | 2016-01-06 | Oticon Medical A/S | Cochlea system and method |
EP3166683B1 (en) | 2014-07-07 | 2020-10-07 | Advanced Bionics AG | System for combined neural and acoustic hearing stimulation |
WO2016024978A1 (en) | 2014-08-14 | 2016-02-18 | Advanced Bionics Ag | Systems and methods for gradually adjusting a control parameter associated with a cochlear implant system |
US10029097B2 (en) * | 2014-12-01 | 2018-07-24 | Advanced Bionics Ag | Targeted channel selection systems and methods |
US9623242B2 (en) | 2015-07-10 | 2017-04-18 | Northwestern University | Methods of frequency-modulated phase coding (FMPC) for cochlear implants and cochlear implants applying same |
US9590580B1 (en) * | 2015-09-13 | 2017-03-07 | Guoguang Electric Company Limited | Loudness-based audio-signal compensation |
WO2017052574A1 (en) * | 2015-09-25 | 2017-03-30 | Advanced Bionics Ag | Systems and methods for emulating a sound booth for a cochlear implant patient |
US11253193B2 (en) * | 2016-11-08 | 2022-02-22 | Cochlear Limited | Utilization of vocal acoustic biomarkers for assistive listening device utilization |
EP3579914A4 (en) | 2017-03-09 | 2020-11-25 | Nevro Corp. | PALLET BYPASSES AND SETTING TOOLS, AND ASSOCIATED SYSTEMS AND PROCESSES |
KR101963962B1 (ko) * | 2017-08-25 | 2019-03-29 | 강원대학교산학협력단 | 비접촉 생체 신호 검출 방법 및 장치 |
AU2019242906A1 (en) | 2018-03-29 | 2020-10-15 | Nevro Corp. | Leads having sidewall openings, and associated systems and methods |
EP3603739A1 (en) * | 2018-07-31 | 2020-02-05 | Oticon Medical A/S | A cochlear stimulation system with an improved method for determining a temporal fine structure parameter |
WO2020078522A1 (en) * | 2018-10-14 | 2020-04-23 | Al Shalash Taha Kais Taha | Enhancement of auditory pathway maturation |
CN111477237B (zh) * | 2019-01-04 | 2022-01-07 | 北京京东尚科信息技术有限公司 | 音频降噪方法、装置和电子设备 |
EP3760279B1 (en) * | 2019-07-05 | 2024-08-28 | Cochlear Limited | A cochlear implant system with improved across-electrode interference model |
WO2022013639A1 (en) * | 2020-07-15 | 2022-01-20 | Cochlear Limited | Binaural loudness cue preservation in bimodal hearing systems |
EP3972292A1 (en) * | 2020-09-18 | 2022-03-23 | Oticon Medical A/S | A generalized method for providing one or more stimulation coding parameters in a hearing aid system for obtaining a perceivable hearing loudness |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4617913A (en) * | 1984-10-24 | 1986-10-21 | The University Of Utah | Artificial hearing device and method |
US4813417A (en) * | 1987-03-13 | 1989-03-21 | Minnesota Mining And Manufacturing Company | Signal processor for and an auditory prosthesis utilizing channel dominance |
US4823795A (en) * | 1987-03-13 | 1989-04-25 | Minnesota Mining And Manufacturing Company | Signal processor for and an auditory prosthesis having spectral to temporal transformation |
DE3821970C1 (ja) * | 1988-06-29 | 1989-12-14 | Ernst-Ludwig Von Dr. 8137 Berg De Wallenberg-Pachaly | |
GB8919591D0 (en) * | 1989-08-30 | 1989-10-11 | Gn Davavox As | Hearing aid having compensation for acoustic feedback |
US5271397A (en) * | 1989-09-08 | 1993-12-21 | Cochlear Pty. Ltd. | Multi-peak speech processor |
US5095904A (en) | 1989-09-08 | 1992-03-17 | Cochlear Pty. Ltd. | Multi-peak speech procession |
JP2568134B2 (ja) * | 1990-09-04 | 1996-12-25 | リオン株式会社 | 補聴器 |
JPH06214597A (ja) * | 1991-07-02 | 1994-08-05 | Univ Melbourne | 音声処理装置 |
US5597380A (en) * | 1991-07-02 | 1997-01-28 | Cochlear Ltd. | Spectral maxima sound processor |
US5402496A (en) * | 1992-07-13 | 1995-03-28 | Minnesota Mining And Manufacturing Company | Auditory prosthesis, noise suppression apparatus and feedback suppression apparatus having focused adaptive filtering |
US5706352A (en) | 1993-04-07 | 1998-01-06 | K/S Himpp | Adaptive gain and filtering circuit for a sound reproduction system |
US6219580B1 (en) * | 1995-04-26 | 2001-04-17 | Advanced Bionics Corporation | Multichannel cochlear prosthesis with flexible control of stimulus waveforms |
US5601617A (en) * | 1995-04-26 | 1997-02-11 | Advanced Bionics Corporation | Multichannel cochlear prosthesis with flexible control of stimulus waveforms |
US6327366B1 (en) * | 1996-05-01 | 2001-12-04 | Phonak Ag | Method for the adjustment of a hearing device, apparatus to do it and a hearing device |
JP3756686B2 (ja) * | 1999-01-19 | 2006-03-15 | 日本放送協会 | 所望信号抽出の度合いを評価する評価値を求める方法および装置、ならびに信号抽出装置のパラメータ制御方法および装置 |
US6728578B1 (en) * | 2000-06-01 | 2004-04-27 | Advanced Bionics Corporation | Envelope-based amplitude mapping for cochlear implant stimulus |
-
2000
- 2000-08-21 AU AUPQ9527A patent/AUPQ952700A0/en not_active Abandoned
-
2001
- 2001-08-20 JP JP2002521409A patent/JP5196698B2/ja not_active Expired - Fee Related
- 2001-08-20 EP EP06026989A patent/EP1784047A3/en not_active Withdrawn
- 2001-08-20 AU AU2001281585A patent/AU2001281585B2/en not_active Ceased
- 2001-08-20 US US10/343,396 patent/US7171272B2/en not_active Expired - Lifetime
- 2001-08-20 CA CA002419319A patent/CA2419319A1/en not_active Abandoned
- 2001-08-20 AU AU8158501A patent/AU8158501A/xx active Pending
- 2001-08-20 WO PCT/AU2001/001027 patent/WO2002017678A1/en not_active Application Discontinuation
- 2001-08-20 EP EP01959968A patent/EP1329131A4/en not_active Withdrawn
-
2006
- 2006-10-27 US US11/588,280 patent/US20070043403A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20070043403A1 (en) | 2007-02-22 |
AU2001281585B2 (en) | 2006-08-17 |
US7171272B2 (en) | 2007-01-30 |
CA2419319A1 (en) | 2002-02-28 |
AU8158501A (en) | 2002-03-04 |
US20030167077A1 (en) | 2003-09-04 |
AUPQ952700A0 (en) | 2000-09-14 |
WO2002017678A1 (en) | 2002-02-28 |
JP2004506398A (ja) | 2004-02-26 |
EP1329131A4 (en) | 2004-12-01 |
EP1329131A1 (en) | 2003-07-23 |
EP1784047A2 (en) | 2007-05-09 |
EP1784047A3 (en) | 2007-05-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5196698B2 (ja) | 蝸牛インプラント用音声処理方法 | |
AU2001281585A1 (en) | Sound-processing strategy for cochlear implants | |
ES2660891T3 (es) | Reducción de sonidos transitorios en implantes auditivos | |
US9008786B2 (en) | Determining stimulation signals for neural stimulation | |
AU2014293429B2 (en) | Optimised channel configuration based on spatial profiles | |
US20210006914A1 (en) | Bimodal hearing stimulation system and method of fitting the same | |
US7822478B2 (en) | Compressed neural coding | |
US8285382B2 (en) | Determining stimulation signals for neural stimulation | |
AU2014309167B2 (en) | Auditory prosthesis using stimulation rate as a multiple of periodicity of sensed sound | |
AU2011322087A1 (en) | Fitting an auditory prosthesis | |
EP2475423B1 (en) | Dynamic noise reduction in auditory prosthesis systems | |
WO2014114337A1 (en) | Hearing system comprising an auditory prosthesis device and a hearing aid | |
AU2016285966B2 (en) | Selective stimulation with cochlear implants | |
CN110520188B (zh) | 双模式听觉刺激系统 | |
Fu | Loudness growth in cochlear implants: effect of stimulation rate and electrode configuration | |
CN114423333B (zh) | 基于神经元状态的耳蜗植入物拟合 | |
US9713714B2 (en) | Method and system for electrical stimulation of a patient's cochlea | |
US11478640B2 (en) | Fitting device for bimodal hearing stimulation system | |
McDermott et al. | Application of loudness models to sound processing for cochlear implants | |
Varsavsky et al. | Application of real-time loudness models can improve speech recognition for cochlear implant users | |
WO2009110243A2 (ja) | 音声変換プロセッサの調整方法 | |
US10368173B1 (en) | Systems and methods for minimizing an effect of system noise generated by a cochlear implant system | |
US20240298928A1 (en) | Optimized Acoustic Chirp based on in-vivo BM-delays in human | |
US20240081691A1 (en) | Estimation of audiogram based on in-vivo acoustic chirp | |
McDermott et al. | Speech perception with a cochlear implant sound processor incorporating loudness models |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080617 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080617 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110510 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20110804 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20110804 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110908 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110916 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20111014 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120605 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20120905 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20120912 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20121004 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20121012 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121024 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130108 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130205 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160215 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D02 |
|
LAPS | Cancellation because of no payment of annual fees |