JP4423398B2 - External sound perception device - Google Patents

External sound perception device Download PDF

Info

Publication number
JP4423398B2
JP4423398B2 JP2007105394A JP2007105394A JP4423398B2 JP 4423398 B2 JP4423398 B2 JP 4423398B2 JP 2007105394 A JP2007105394 A JP 2007105394A JP 2007105394 A JP2007105394 A JP 2007105394A JP 4423398 B2 JP4423398 B2 JP 4423398B2
Authority
JP
Japan
Prior art keywords
signal
unit
external sound
vibration
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007105394A
Other languages
Japanese (ja)
Other versions
JP2008263459A (en
Inventor
誠司 中川
拓也 保手浜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Advanced Industrial Science and Technology AIST filed Critical National Institute of Advanced Industrial Science and Technology AIST
Priority to JP2007105394A priority Critical patent/JP4423398B2/en
Publication of JP2008263459A publication Critical patent/JP2008263459A/en
Application granted granted Critical
Publication of JP4423398B2 publication Critical patent/JP4423398B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、外部音を超音波振動により知覚するための外部音知覚装置に関する。   The present invention relates to an external sound perception apparatus for perceiving external sound by ultrasonic vibration.

音声(言語音)や環境音などの外部音を知覚するための外部音知覚装置として、難聴者用の補聴器が知られている。補聴器には、音の振動が鼓膜を介して脳の聴覚器官に伝達される気導型の補聴器と、音の振動が鼓膜を介さずに頭蓋骨などから直接人体に伝わる骨導型の補聴器とがあり、振動子を人体の所定部位に取り付けて使用する。   Hearing aids for the hearing impaired are known as external sound perception devices for perceiving external sounds such as voice (language sounds) and environmental sounds. Hearing aids include air-conducting hearing aids that transmit sound vibrations through the eardrum to the auditory organ of the brain, and bone-conducting hearing aids that transmit sound vibrations directly from the skull to the human body without passing through the eardrum. Yes, the vibrator is used by attaching it to a predetermined part of the human body.

最近では、超音波振動子を介して超音波振動を脳の聴覚器官に伝達することにより、外部音を知覚可能にした構成が知られている。例えば、特許文献1には、マイクロフォンに入力された外部音に基づいて、複数の超音波振動子から超音波信号が伝達されるように構成された外部音知覚装置が開示されている。
特開2004−343302号公報
Recently, a configuration is known in which external sound can be perceived by transmitting ultrasonic vibration to an auditory organ of the brain via an ultrasonic transducer. For example, Patent Document 1 discloses an external sound perception device configured to transmit ultrasonic signals from a plurality of ultrasonic transducers based on external sound input to a microphone.
JP 2004-343302 A

ところが、超音波振動子による外部音の伝達においては、超音波振動子が呈示する周波数帯域において共振周波数を有している等の理由から、出力振動の周波数特性が歪むおそれがあり、音声や環境音といった周波数の広い帯域にわたる音響情報を明瞭に伝達する上で更に改良の余地があった。   However, in the transmission of external sound by the ultrasonic vibrator, the frequency characteristics of the output vibration may be distorted due to the fact that it has a resonance frequency in the frequency band presented by the ultrasonic vibrator. There is room for further improvement in clearly transmitting acoustic information over a wide frequency band such as sound.

また、超音波振動子の周波数特性は、個体差によって相違するだけでなく、人体に密着させた際の押圧力によっても変化する。例えば、スイープ波による周波数−インピーダンス特性を、超音波振動子を無負荷の状態と、人体(乳様突起)に5.1Nの押圧力で押し付けた状態とで比較すると、前者の場合は、図10(a)に示すように、共振周波数が約40kHzであるのに対し、後者の場合は、図10(b)に示すように、共振周波数が約30kHzへと大きく低下する。このように、上述した周波数特性の歪みを改善する上では、各超音波振動子の特性や取り付け状態などを考慮する必要がある。   Further, the frequency characteristics of the ultrasonic transducer are not only different depending on individual differences, but also change depending on the pressing force when the ultrasonic vibrator is brought into close contact with the human body. For example, when comparing the frequency-impedance characteristics due to the sweep wave between the state where the ultrasonic transducer is unloaded and the state where the ultrasonic body is pressed against the human body (milky protrusion) with a pressing force of 5.1 N, As shown in FIG. 10 (a), the resonance frequency is about 40 kHz, whereas in the latter case, the resonance frequency is greatly reduced to about 30 kHz as shown in FIG. 10 (b). Thus, in order to improve the above-described distortion of the frequency characteristics, it is necessary to consider the characteristics and attachment state of each ultrasonic transducer.

そこで、本発明は、超音波振動子の特性や使用状態に拘わらず、外部音を明瞭に知覚することができる外部音知覚装置の提供を目的とする。   Therefore, an object of the present invention is to provide an external sound perception device that can clearly perceive external sound regardless of the characteristics and use state of an ultrasonic transducer.

本発明の前記目的は、外部音を超音波振動により知覚するための外部音知覚装置であって、外部音が入力されるマイクロフォンと、入力された音信号に基づいてキャリア信号を変調することにより振動信号を生成すると共に、前記振動信号に対して平滑化フィルタリ
ング処理を施す平滑化フィルタ部を有する振動信号生成手段と、前記平滑化フィルタ部のフィルタ係数を設定するフィルタ生成部と、
前記平滑化フィルタ部を通過した前記振動信号に基づいて生体に超音波振動を伝達する振動子とを備え、前記フィルタ生成部は、周波数掃引された正弦波信号を出力する正弦波信号発生部と、周波数掃引正弦波信号を前記振動子に印加することにより該振動子の端子間におけるインピーダンスの周波数特性を測定するインピーダンス測定部と、測定したインピーダンス特性に基づいて前記平滑化フィルタ部のフィルタ係数を設定する演算処理部とを備える外部音知覚装置により達成される。
The object of the present invention is an external sound perception device for perceiving external sound by ultrasonic vibration, by modulating a carrier signal based on a microphone to which the external sound is input and the input sound signal. A vibration signal generating unit having a smoothing filter unit that generates a vibration signal and applies a smoothing filtering process to the vibration signal; a filter generation unit that sets a filter coefficient of the smoothing filter unit;
A vibrator that transmits ultrasonic vibration to a living body based on the vibration signal that has passed through the smoothing filter unit, and the filter generation unit includes a sine wave signal generation unit that outputs a frequency-swept sine wave signal; Applying a frequency swept sine wave signal to the vibrator to measure the frequency characteristics of the impedance between the terminals of the vibrator, and the filter coefficient of the smoothing filter section based on the measured impedance characteristics This is achieved by an external sound perception device including an arithmetic processing unit to be set.

この外部音知覚装置において、前記マイクロフォン及び振動子は、互いに対応付けられてそれぞれ複数設けられ、前記各マイクロフォンに入力された外部音に基づいて、対応する前記各振動子からそれぞれ超音波振動が伝達されるように構成されており、前記振動信号生成手段は、前記各指向性マイクロフォンから入力された外部音毎に固有の変調を行うことができると共に、前記平滑化フィルタ部が、前記各マイクロフォンに対応して複数設
けられており、前記フィルタ生成部は、前記各平滑化フィルタ部のフィルタ係数を個別に設定することが好ましい。
In the external sound perception apparatus, a plurality of microphones and vibrators are provided in association with each other, and ultrasonic vibrations are transmitted from the corresponding vibrators based on external sounds input to the microphones. The vibration signal generating means can perform a specific modulation for each external sound input from each directional microphone, and the smoothing filter section is provided to each microphone. Preferably, a plurality of filters are provided, and the filter generation unit individually sets the filter coefficients of the respective smoothing filter units.

本発明によれば、超音波振動子の特性や使用状態に拘わらず、外部音を明瞭に知覚することができる外部音知覚装置を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the external sound perception apparatus which can perceive an external sound clearly irrespective of the characteristic and use condition of an ultrasonic transducer | vibrator can be provided.

以下、本発明の実態形態について添付図面を参照して説明する。図1は、本発明の一実施形態に係る外部音知覚装置の概略構成を示す正面図であり、図2は、そのブロック図である。図1及び図2に示すように、この外部音知覚装置は、外部音が入力される複数の指向性マイクロフォン10,10と、入力された音信号に基づいて振動信号を生成する振動信号生成部20と、前記振動信号に基づく機械的振動を伝達する複数の振動伝達部30,30とを備える。   Hereinafter, actual forms of the present invention will be described with reference to the accompanying drawings. FIG. 1 is a front view showing a schematic configuration of an external sound perception apparatus according to an embodiment of the present invention, and FIG. 2 is a block diagram thereof. As shown in FIGS. 1 and 2, the external sound perception apparatus includes a plurality of directional microphones 10 and 10 to which external sound is input, and a vibration signal generation unit that generates a vibration signal based on the input sound signal. 20 and a plurality of vibration transmission units 30 and 30 for transmitting mechanical vibration based on the vibration signal.

複数の指向性マイクロフォン10,10は、振動信号生成部20が収容されたケーシング20aにそれぞれ取り付けられている。指向性マイクロフォン10,10の取り付けは、本実施形態においてはそれぞれの指向性の主軸方向が相違するように固定しているが、各主軸方向を調整可能に取り付けてもよい。各指向性マイクロフォン10,10に入力された外部音は、増幅処理が行われた後、振動信号生成部20に入力される。   The plurality of directional microphones 10 and 10 are respectively attached to a casing 20a in which the vibration signal generation unit 20 is accommodated. The directional microphones 10 and 10 are fixed so that the main axis directions of the directivities are different in the present embodiment, but the main axis directions may be attached so as to be adjustable. The external sound input to each of the directional microphones 10 and 10 is input to the vibration signal generation unit 20 after being amplified.

振動信号生成部20は、キャリア信号の発生指示に基づいてキャリア信号を生成するキャリア信号発生部22,22と、キャリア信号の発生指示や、キャリア信号の周波数、振幅、タイミング(位相)、変調方式を入力可能な入力部24,24と、指向性マイクロフォン10,10から入力された音信号に基づいてキャリア信号を変調することにより振動信号を生成するキャリア信号変調部26,26と、生成された振動信号に対して平滑化フィルタリング処理を施す平滑化フィルタ部28,28とを備えており、各指向性マイクロフォン10,10の入力音毎に個別に振動信号を生成する。   The vibration signal generation unit 20 generates carrier signals based on carrier signal generation instructions, carrier signal generation instructions 22, carrier signal generation instructions, carrier signal frequency, amplitude, timing (phase), and modulation method. Are generated, and carrier signal modulation units 26 and 26 that generate a vibration signal by modulating a carrier signal based on a sound signal input from the directional microphones 10 and 10 are generated. Smoothing filter sections 28 and 28 for performing a smoothing filtering process on the vibration signal are provided, and the vibration signal is generated individually for each input sound of the directional microphones 10 and 10.

入力部24は、キャリア信号の周波数、振幅、位相をそれぞれ連続的に変化させることができるように、個別に調整可能なボリュームスイッチ24aを備え、更に、変調方式を選択するためのダイヤル式スイッチ24bを備えている。選択可能な変調方式としては、周波数変調、振幅変調、位相変調などが挙げられ、更に、振幅変調の種類として、例えば、両側波帯(DSB)、単側波帯(抑圧搬送波)(SSB)等を選択することができる。また、入力部24は、設定されたキャリア信号の周波数、振幅及び位相によりキャリア信号の発生を指示するためのキャリア信号発生スイッチ24cを備えている。   The input unit 24 includes a volume switch 24a that can be individually adjusted so that the frequency, amplitude, and phase of the carrier signal can be continuously changed, and further, a dial switch 24b for selecting a modulation method. It has. Examples of selectable modulation methods include frequency modulation, amplitude modulation, phase modulation, and the like, and examples of amplitude modulation include double sideband (DSB), single sideband (suppressed carrier wave) (SSB), and the like. Can be selected. The input unit 24 includes a carrier signal generation switch 24c for instructing the generation of the carrier signal by the set frequency, amplitude, and phase of the carrier signal.

キャリア信号の周波数は、高度の難聴者であっても良好な感音状態が得られるように、超音波領域である20〜100kHzであることが好ましく、20〜50kHzであることがより好ましい。したがって、入力部24は、上記周波数域の一部または全部を含む範囲でキャリア信号の周波数を調整可能であることが好ましい。   The frequency of the carrier signal is preferably from 20 to 100 kHz, more preferably from 20 to 50 kHz, so as to obtain a good sound sensing state even for a highly deaf person. Therefore, it is preferable that the input unit 24 can adjust the frequency of the carrier signal in a range including a part or all of the frequency range.

平滑化フィルタ部28は、キャリア信号変調部26で生成された振動信号の周波数特性を、呈示する周波数帯域において平滑化する。平滑化フィルタ部28は、各指向性マイク
ロフォン10に対応して複数設けられており、それぞれ個別にフィルタ係数が設定されている。
The smoothing filter unit 28 smoothes the frequency characteristic of the vibration signal generated by the carrier signal modulation unit 26 in the frequency band to be presented. A plurality of smoothing filter units 28 are provided corresponding to each directional microphone 10, and filter coefficients are set individually for each.

振動伝達部30は、振動信号を機械的な振動として外部に伝達する振動子をそれぞれ備え、各振動子が複数の指向性マイクロフォン10,10にそれぞれ対応付けられており、いずれかの指向性マイクロフォン10に入力された外部音は、対応する振動子から伝達される。   The vibration transmitting unit 30 includes vibrators that transmit vibration signals to the outside as mechanical vibrations, and each vibrator is associated with a plurality of directional microphones 10 and 10, respectively. The external sound input to 10 is transmitted from the corresponding transducer.

図3に示すように、各振動伝達部30は、振動子31が収容された円筒状のケース32を備えており、ケース32の開口縁に吸盤34を取り付けて構成されている。   As shown in FIG. 3, each vibration transmission unit 30 includes a cylindrical case 32 in which a vibrator 31 is accommodated, and a suction cup 34 is attached to the opening edge of the case 32.

振動子31は、ジンバル機構により、互いに直交する2軸の回りに揺動可能に支持されている。即ち、振動子31は、振動面を露出させるように第1の枠体40に固定されており、第1の枠体40は、第1の支持軸42を介して第2の枠体44に揺動自在に支持されている。そして、第2の枠体44は、第1の支持軸42と直交する第2の支持軸46を介してケース32の内部に揺動自在に支持されている。振動子31の振動面は、ケース32の開口からわずかに突出しており、吸盤34を所定の取付部位に吸着させると、振動子31の振動面が被吸着面に接触して押圧するように構成されている。各ケース32の底部(図の上部)中央には連通孔32aが形成されており、この連通孔32aに球状の袋状体48が結合されている。袋状体48はゴム材などの弾性材からなり、押圧により弾性変形可能に構成されている。袋状体48の内部空間は、連通孔32aを介してケース32の内部と連通している。   The vibrator 31 is supported by a gimbal mechanism so as to be swingable about two axes orthogonal to each other. That is, the vibrator 31 is fixed to the first frame body 40 so that the vibration surface is exposed, and the first frame body 40 is attached to the second frame body 44 via the first support shaft 42. It is swingably supported. The second frame body 44 is swingably supported inside the case 32 via a second support shaft 46 orthogonal to the first support shaft 42. The vibration surface of the vibrator 31 protrudes slightly from the opening of the case 32. When the suction cup 34 is attracted to a predetermined attachment site, the vibration surface of the vibrator 31 is in contact with and pressed against the attracted surface. Has been. A communication hole 32a is formed at the center of the bottom (upper part of the figure) of each case 32, and a spherical bag-like body 48 is coupled to the communication hole 32a. The bag-like body 48 is made of an elastic material such as a rubber material, and is configured to be elastically deformable by pressing. The internal space of the bag-like body 48 communicates with the inside of the case 32 through the communication hole 32a.

また、本実施形態の外部音知覚装置は、平滑化フィルタ部28におけるフィルタ係数を設定するためのフィルタ生成部50を備えている。フィルタ生成部50は、図4に示すように、周波数掃引された正弦波信号を出力する正弦波信号発生部52と、この周波数掃引正弦波信号を振動子31に印加することにより振動子31の端子間におけるインピーダンスの周波数特性を測定するインピーダンス測定部54と、測定したインピーダンス特性に基づいて平滑化フィルタ部28のフィルタ係数を設定する演算処理部56とを備えている。図1に示すように、入力部24は、周波数掃引正弦波信号の発生を指示するための正弦波信号発生スイッチ24dを備えており、正弦波信号発生部52からの出力は、正弦波信号発生スイッチ24dの操作による入力部24からの入力に基づいて行われる。   In addition, the external sound perception apparatus of the present embodiment includes a filter generation unit 50 for setting the filter coefficient in the smoothing filter unit 28. As shown in FIG. 4, the filter generation unit 50 outputs a sine wave signal that is frequency-swept, and a sine wave signal generation unit 52 that outputs the frequency-swept sine wave signal. An impedance measuring unit 54 that measures the frequency characteristics of the impedance between the terminals, and an arithmetic processing unit 56 that sets the filter coefficient of the smoothing filter unit 28 based on the measured impedance characteristics are provided. As shown in FIG. 1, the input unit 24 includes a sine wave signal generation switch 24d for instructing generation of a frequency swept sine wave signal, and an output from the sine wave signal generation unit 52 is a sine wave signal generation. This is performed based on an input from the input unit 24 by operating the switch 24d.

正弦波信号発生部52から出力される正弦波信号の周波数掃引幅は、振動信号を生成するためのキャリア信号の周波数を考慮して設定すればよく、例えば、20〜100kHzである。演算処理部56は、測定されたインピーダンスの周波数特性に基づいて、逆フィルタのフィルタ係数を推定する。具体的には、測定されたインピーダンスの周波数特性の極大及び極小に対応する周波数を、それぞれ反共振周波数及び共振周波数として求め、反共振・共振周波数から、極座標系における逆フィルタの極、零点の偏角(θp,θz)を設
定する。そして、極、零点の動径(rp,rz)及びゲインkをパラメータとして、仮の逆フィルタを作成し、測定及び平滑度の評価を繰り返すことで逆フィルタの最適値を探索する。探索方法は、線形計画法や遺伝的アルゴリズムなどの最適化手法を挙げることができる。こうして、極、零点及びゲインから、フィルタ係数マトリクスに変換することができ、平滑化フィルタ部28のフィルタ係数を設定することができる。
The frequency sweep width of the sine wave signal output from the sine wave signal generation unit 52 may be set in consideration of the frequency of the carrier signal for generating the vibration signal, and is, for example, 20 to 100 kHz. The arithmetic processing unit 56 estimates the filter coefficient of the inverse filter based on the measured frequency characteristic of the impedance. Specifically, the frequencies corresponding to the maximum and minimum of the frequency characteristics of the measured impedance are obtained as the antiresonance frequency and the resonance frequency, respectively. From the antiresonance and resonance frequency, the poles and zeros of the inverse filter in the polar coordinate system are deviated. Set the angle (θp, θz). Then, a temporary inverse filter is created using the radius (rp, rz) and gain k of the poles and zeros as parameters, and the optimum value of the inverse filter is searched by repeating measurement and smoothness evaluation. Search methods can include optimization methods such as linear programming and genetic algorithms. Thus, the pole, zero, and gain can be converted into a filter coefficient matrix, and the filter coefficient of the smoothing filter unit 28 can be set.

本実施形態においては、インピーダンス測定部54において振動子31のインピーダンスの周波数特性を測定し、この測定結果に基づいて、演算処理部56で平滑化フィルタ部28のフィルタ係数を設定するようにしているが、インピーダンス測定部54の代わりにレーザードップラ振動計などの振動計測部を設け、この振動計測部において、振動子31の振動面における振動の周波数特性を測定し、その測定データから平滑化フィルタ部28
のフィルタ係数を設定することも可能である。
In the present embodiment, the impedance measurement unit 54 measures the frequency characteristics of the impedance of the vibrator 31, and the arithmetic processing unit 56 sets the filter coefficient of the smoothing filter unit 28 based on the measurement result. However, instead of the impedance measuring unit 54, a vibration measuring unit such as a laser Doppler vibrometer is provided. In this vibration measuring unit, the frequency characteristic of vibration on the vibration surface of the vibrator 31 is measured, and a smoothing filter unit is obtained from the measured data. 28
It is also possible to set the filter coefficient.

次に、上記外部音知覚装置の作動について説明する。まず、複数の振動伝達部30,30を、人体の所定部位(例えば、左右の乳様突起の近傍)にそれぞれ取り付ける。各振動子31は、袋状体48を手で摘んだ状態で所定部位に吸盤34を押し付けることにより、ジンバル機構によって人体に確実に接触させることができる。この後、摘んでいた手を離すと、袋状体48の形状復元力によりケース32の内部が負圧になって吸着力が得られるので、振動子31の取り付けを確実にすることができる。   Next, the operation of the external sound perception apparatus will be described. First, the plurality of vibration transmission units 30 and 30 are respectively attached to predetermined parts of the human body (for example, in the vicinity of the left and right milky protrusions). Each vibrator 31 can be reliably brought into contact with the human body by the gimbal mechanism by pressing the suction cup 34 against a predetermined portion while the bag-like body 48 is picked by hand. Thereafter, when the hand that has been picked is released, the inside of the case 32 becomes a negative pressure due to the shape restoring force of the bag-like body 48 and an adsorption force is obtained, so the attachment of the vibrator 31 can be ensured.

この後、使用者が正弦波信号発生スイッチ24dをオンにすると、各フィルタ生成部50において、正弦波信号発生部52から周波数掃引された正弦波信号が出力され、平滑化フィルタ部28のフィルタ係数が設定される。そして、各平滑化フィルタ部28のフィルタ係数が設定されると、設定完了がブザー音や確認ランプなどで報知されると共に、正弦波信号発生スイッチ24dは自動的にオフとなり、正弦波信号発生部52における正弦波信号の出力が停止される。このように、平滑化フィルタ部28は、対応する各振動子31の特性や取付状態などを反映して、フィルタ係数の設定を個別に行う。   Thereafter, when the user turns on the sine wave signal generation switch 24d, each filter generation unit 50 outputs a sine wave signal swept in frequency from the sine wave signal generation unit 52, and the filter coefficient of the smoothing filter unit 28 Is set. When the filter coefficient of each smoothing filter unit 28 is set, the completion of setting is notified by a buzzer sound, a confirmation lamp or the like, and the sine wave signal generation switch 24d is automatically turned off, and the sine wave signal generation unit The output of the sine wave signal at 52 is stopped. As described above, the smoothing filter unit 28 individually sets the filter coefficients, reflecting the characteristics and attachment states of the corresponding transducers 31.

ついで、使用者がキャリア信号発生スイッチ24cをオンにして、指向性マイクロフォン10,10に外部音が入力されると、各指向性マイクロフォン10,10から振動信号生成部20に音信号が入力される。各指向性マイクロフォン10,10は、指向性の主軸方向が互いに異なるため、同一の音源に対する入力感度が相違する。図5は、指向性マイクロフォン10に入力された音声信号の時間波形の一例を示しており、「KEISATSU」という音声に対応している。   Next, when the user turns on the carrier signal generation switch 24c and external sound is input to the directional microphones 10 and 10, sound signals are input from the directional microphones 10 and 10 to the vibration signal generation unit 20. . Since the directional microphones 10 and 10 have different directivity main axis directions, input sensitivities to the same sound source are different. FIG. 5 shows an example of a time waveform of an audio signal input to the directional microphone 10 and corresponds to the audio “KEISATSU”.

振動信号生成部20は、キャリア信号発生部22,22が、所定の振幅及び周波数を有するキャリア信号を生成し、キャリア信号変調部26,26が、このキャリア信号を音信号に基づいて変調することにより、各指向性マイクロフォン10,10への入力音に対応した振動信号を生成する。このとき、キャリア信号変調部26,26において、各指向性マイクロフォン10,10への入力音毎にそれぞれ固有の変調が行われるように、入力部24を介して互いに異なる変調条件を入力しておく。例えば、キャリア信号の周波数を各指向性マイクロフォン10,10毎に異なるように設定し、変調方式は同じ両側波帯振幅変調として、それぞれ固有の変調を行うことができる。或いは、キャリア信号は同じ周波数とし、変調方式が互いに異なるようにして(例えば、一方を両側波帯振幅変調とし、他方を抑圧搬送波振幅変調として)、それぞれ固有の変調を行うようにしてもよい。図6は、キャリア信号変調部26において、30kHzのサイン波をキャリア信号として、図5に示す音声信号により両側波帯振幅変調した変調信号の時間波形を示している。   In the vibration signal generation unit 20, the carrier signal generation units 22 and 22 generate a carrier signal having a predetermined amplitude and frequency, and the carrier signal modulation units 26 and 26 modulate the carrier signal based on the sound signal. Thus, a vibration signal corresponding to the input sound to each directional microphone 10, 10 is generated. At this time, different modulation conditions are input via the input unit 24 so that the carrier signal modulation units 26 and 26 perform unique modulation for each input sound to the directional microphones 10 and 10, respectively. . For example, the carrier signal frequency is set to be different for each of the directional microphones 10, 10, and the modulation method is the same double sideband amplitude modulation, and each modulation can be performed. Alternatively, the carrier signals may have the same frequency, and the modulation methods may be different from each other (for example, one is a double sideband amplitude modulation and the other is a suppressed carrier wave amplitude modulation), and each may be subjected to a specific modulation. FIG. 6 shows a time waveform of a modulated signal obtained by performing double-sideband amplitude modulation with the audio signal shown in FIG. 5 using a 30 kHz sine wave as a carrier signal in the carrier signal modulator 26.

こうして生成された振動信号は、平滑化フィルタ部28において平滑化処理が施された後、対応する各振動伝達部30,30にそれぞれ出力される。振動伝達部30,30は、入力された振動信号に基づいて振動子31,31を振動させる。この結果、各指向性マイクロフォン10,10に入力された外部音に基づいて、対応する各振動伝達部30,30からそれぞれ超音波振動が人体に伝達される。なお、キャリア信号変調部26は、音信号が入力されない期間は、振動信号を出力しないように制御する。   The vibration signal generated in this way is subjected to smoothing processing in the smoothing filter unit 28 and then output to the corresponding vibration transmission units 30 and 30. The vibration transmitting units 30 and 30 vibrate the vibrators 31 and 31 based on the input vibration signal. As a result, ultrasonic vibrations are transmitted from the corresponding vibration transmitting units 30 and 30 to the human body based on the external sound input to the directional microphones 10 and 10, respectively. The carrier signal modulation unit 26 performs control so as not to output a vibration signal during a period in which no sound signal is input.

実際の使用においては、超音波振動子の取り付け状態は、毎回の装着時において異なる、あるいは使用中のずれなどにより変化することが想定される。超音波振動子の取り付け状態が変化した場合には、正弦波信号発生スイッチ24dを再度オンにすることで正弦波信号を出力し、平滑化フィルタ部28のフィルタ係数を改めて設定することができる。   In actual use, it is assumed that the attachment state of the ultrasonic transducer is different at each mounting or changes due to a shift during use. When the attachment state of the ultrasonic transducer changes, the sine wave signal generation switch 24d is turned on again to output a sine wave signal, and the filter coefficient of the smoothing filter unit 28 can be set again.

本実施形態の外部音知覚装置によれば、外部音の入力に基づいて生成された振動信号が
、平滑化フィルタ部28においてフィルタリングされた後に、振動伝達部30から伝達されるように構成されているので、伝達する超音波振動の周波数特性を、呈示する周波数帯域で平滑化することが可能になる。この結果、音声や環境音などの外部音の歪みを抑制することができ、使用者が外部音を明瞭に知覚することが可能になる。
According to the external sound perception apparatus of the present embodiment, the vibration signal generated based on the input of the external sound is configured to be transmitted from the vibration transmission unit 30 after being filtered by the smoothing filter unit 28. Therefore, it is possible to smooth the frequency characteristics of the transmitted ultrasonic vibration in the frequency band to be presented. As a result, distortion of external sounds such as voice and environmental sounds can be suppressed, and the user can clearly perceive the external sounds.

図7(a)は、図6に示す変調信号を平滑化フィルタ部28により平滑化処理を行った場合の、振動伝達部30からの出力信号の時間波形を示している。この出力信号を、図7(b)に示す平滑化処理を行わない場合の出力信号と比較すると、平滑化処理によって波形の乱れが抑制されていることがわかる。   FIG. 7A shows a time waveform of the output signal from the vibration transmitting unit 30 when the smoothing process is performed on the modulated signal shown in FIG. When this output signal is compared with the output signal when the smoothing process shown in FIG. 7B is not performed, it can be seen that the waveform disturbance is suppressed by the smoothing process.

図8(a)及び(b)は、それぞれ図7(a)及び(b)に示す出力信号を復調した信号の時間波形を、図5に示す音声信号の時間波形と重ね合わせて示している。平滑化処理を行った場合には、図8(a)に示すように復調信号の時間波形が音声信号の時間波形とほぼ一致しているのに対し、平滑化処理を行わない場合には、図8(b)に示すように復調信号が特に子音部において波形が大きく崩れている。図9(a)及び(b)は、それぞれ図8(a)及び(b)に対応するスペクトル波形を示しており、平滑化処理によって、特に高周波における復調信号と音声信号とのスペクトルとの乖離が抑制されている。このように、平滑化フィルタ部28において平滑化フィルタリング処理を施すことにより、広い周波数帯域において音声情報が明瞭に伝達されていることがわかる。   FIGS. 8A and 8B show the time waveform of a signal obtained by demodulating the output signal shown in FIGS. 7A and 7B, respectively, with the time waveform of the audio signal shown in FIG. . When the smoothing process is performed, as shown in FIG. 8A, the time waveform of the demodulated signal is substantially the same as the time waveform of the audio signal, whereas when the smoothing process is not performed, As shown in FIG. 8B, the waveform of the demodulated signal is greatly broken particularly in the consonant part. FIGS. 9A and 9B show spectral waveforms corresponding to FIGS. 8A and 8B, respectively, and the difference between the spectrum of the demodulated signal and the audio signal, particularly at high frequencies, is obtained by smoothing processing. Is suppressed. Thus, it can be seen that by performing the smoothing filtering process in the smoothing filter unit 28, the voice information is clearly transmitted in a wide frequency band.

また、本実施形態の外部音知覚装置は、振動信号生成部20において、各指向性マイクロフォン10,10から入力された外部音毎に固有の変調を行うことができるように構成されているので、各振動伝達部30,30から伝達される超音波振動の「聞こえ(音色)」の相違を認識できるように各変調条件を予め設定し、それぞれの「聞こえ」に対応する指向性マイクロフォン10,10を使用者が把握しておくことにより、知覚した超音波信号がどの指向性マイクロフォン10から入力されたものかを使用者が判別することができる。例えば、変調方式を両側波帯振幅変調とした場合は、キャリア波のピッチと復調された信号波のピッチの両方が同時に知覚される一方、変調方式を抑圧搬送波振幅変調とした場合は、キャリア波のピッチが知覚されず、もとの信号波の周波数の2倍に相当するピッチだけが知覚されるので、それぞれの「聞こえ」の違いを確実に判別することができる。特に、本実施形態においては、各振動伝達部30,30から伝達される超音波振動が、個別に生成された平滑化フィルタ部28,28において平滑化処理が施されたものであるため、各振動子31の個体差や取り付け時の押圧力などに起因する周波数特性のばらつきを抑制することができ、音源定位を良好に行うことができる。この結果、音声や環境音などの音源の方向を使用者が確実に認識することが可能になり、例えば、災害現場や工事現場などにおける作業時や自動車などの車両運転時において、有効である。   In addition, the external sound perception apparatus of the present embodiment is configured so that the vibration signal generation unit 20 can perform modulation specific to each external sound input from each directional microphone 10, 10. Each modulation condition is set in advance so as to recognize the difference in “hearing (timbre)” of the ultrasonic vibration transmitted from each vibration transmitting unit 30, 30, and the directional microphones 10, 10 corresponding to each “hearing” are set. , The user can determine from which directional microphone 10 the perceived ultrasonic signal is input. For example, if the modulation method is double-sideband amplitude modulation, both the carrier wave pitch and the demodulated signal wave pitch are perceived simultaneously, while if the modulation method is suppressed carrier amplitude modulation, the carrier wave Is not perceived, and only a pitch corresponding to twice the frequency of the original signal wave is perceived, so that the difference in “hearing” can be reliably determined. In particular, in the present embodiment, since the ultrasonic vibrations transmitted from the vibration transmission units 30 and 30 are subjected to smoothing processing in the smoothing filter units 28 and 28 generated individually, Variations in frequency characteristics due to individual differences of the transducers 31 and pressing force at the time of attachment can be suppressed, and sound source localization can be performed satisfactorily. As a result, it becomes possible for the user to surely recognize the direction of the sound source such as voice or environmental sound, which is effective, for example, when working at a disaster site or construction site, or when driving a vehicle such as an automobile.

本実施形態においては、振動伝達部30の上記構成によって振動子31の経時的な位置ずれを効果的に防止することができるが、頭部内の音圧分布は、各振動子31の取り付け位置の僅かな相違によって大きく変化するため、感音状態が最適となる部位に各振動子31を正確に取り付けることは困難である。そこで、各振動子31を取り付けた後、各振動子31に対応するキャリア信号の周波数、位相および振幅などを入力部24の操作により調整し、超音波の干渉によって生じる腹及び節の位置を制御したり、超音波の焦点を絞って局所的に音圧を高めたりすることで、感音状態を最適化することが好ましい。尚、変調条件として、キャリア信号の周波数が各指向性マイクロフォン10,10毎に異なるように設定した場合には、知覚音の方向感が失われないように、感音状態の調整においてキャリア信号の周波数は変更しないことが好ましい。   In the present embodiment, the above-described configuration of the vibration transmitting unit 30 can effectively prevent positional displacement of the transducer 31 over time, but the sound pressure distribution in the head is determined by the mounting position of each transducer 31. Therefore, it is difficult to accurately attach each vibrator 31 to a portion where the sound sensing state is optimal. Therefore, after attaching each transducer 31, the frequency, phase, amplitude, etc. of the carrier signal corresponding to each transducer 31 are adjusted by operating the input unit 24, and the positions of the abdomen and nodes caused by ultrasonic interference are controlled. It is preferable to optimize the sound sensing state by reducing the focal point of the ultrasonic wave and locally increasing the sound pressure. When the modulation condition is set so that the frequency of the carrier signal is different for each directional microphone 10, 10, the carrier signal is adjusted in the adjustment of the sound sensing state so that the sense of direction of the perceived sound is not lost. The frequency is preferably not changed.

感音状態を最適化するための具体的な方法は特に限定されるものではないが、例えば、以下の方法を挙げることができる。まず、複数の振動子31から発せられる超音波の振幅
を小さめに設定し、感音状態が概ね良好となるようにそれぞれ乳様突起に対して適当に取り付けていくことで、各振動子31の位置決めを行う。そして、感音状態がより良好となるように、各振動子31の周波数及び位相を調整し、決定する。例えば振動子31を2個取り付けて使用する場合、各振動子31に対応するキャリア信号の周波数を同時に変化させて、感音状態が最も良好になる周波数をそれぞれ設定する。この後、各振動子31に対応するキャリア信号の位相についても同様の方法で設定することにより、キャリア信号の最適な周波数及び位相及を振動子31毎に個別に得ることができ、感音状態を最適化することができる。周波数及び位相の設定は、どちらが先であってもよい。最後に、所望の感音状態が得られるように、振幅を所望の大きさに設定する。
Although the specific method for optimizing a sound-sensitive state is not specifically limited, For example, the following method can be mentioned. First, the amplitude of the ultrasonic waves emitted from the plurality of vibrators 31 is set to be small, and each of the vibrators 31 is appropriately attached to each mastoid so that the sound-sensing state is generally good. Perform positioning. Then, the frequency and phase of each transducer 31 are adjusted and determined so that the sound sensing state becomes better. For example, when two vibrators 31 are attached and used, the frequency of the carrier signal corresponding to each vibrator 31 is simultaneously changed to set the frequency at which the sound sensing state is the best. Thereafter, by setting the phase of the carrier signal corresponding to each vibrator 31 in the same manner, the optimum frequency and phase of the carrier signal can be obtained individually for each vibrator 31, and the sound sensing state Can be optimized. Either the frequency or phase may be set first. Finally, the amplitude is set to a desired magnitude so that a desired sound sensing state can be obtained.

感音状態を最適化する方法としては、これ以外に、一方の振動子31に対応するキャリア信号の周波数、位相及び振幅をそれぞれ所定値に維持したまま、他方の振動子31に対応するキャリア信号の周波数、位相及び振幅を順次変化させて、感音状態を最適化することも可能である。この場合には、少なくとも1つの振動子31に対応するキャリア信号の周波数、位相及び振幅を入力部24において調整可能に構成されていればよい。いずれにしても、「聞こえ」の違いを確実に判別可能な状態で、キャリア信号の周波数、位相及び振幅を調整することで、良好な感音状態及び方向感の双方を得ることができる。   As another method for optimizing the sound sensing state, the carrier signal corresponding to the other transducer 31 while maintaining the frequency, phase and amplitude of the carrier signal corresponding to one transducer 31 at predetermined values. It is also possible to optimize the sound sensing state by sequentially changing the frequency, phase and amplitude. In this case, it is only necessary that the input unit 24 can adjust the frequency, phase, and amplitude of the carrier signal corresponding to at least one transducer 31. In any case, by adjusting the frequency, phase, and amplitude of the carrier signal in a state where the difference in “hearing” can be reliably determined, it is possible to obtain both a good sound feeling state and a sense of direction.

以上、本発明の一実施形態について詳述したが、本発明の具体的な態様は上記実施形態に限定されない。例えば、本実施形態においては、指向性マイクロフォン10,10を2つ使用し、それぞれの入力音に対して固有の変調を行うように構成しているが、指向性マイクロフォン及びこれに対応する振動伝達部の数は、特に限定されない。例えば、この外部音知覚装置を自動車に設置する場合、4つの指向性マイクロフォンを、指向性の主軸がそれぞれ前方向、後方向、右方向、左方向となるように車両に固定し、それぞれの入力音に対して固有の変調を行った上で、対応する4つの振動伝達部を介して人体に伝達されるように構成してもよい。これによって、緊急車両のサイレンなど運転中に認識する必要がある音源の方向を確実に把握することが可能になる。一方、マイクロフォン及び振動伝達部をそれぞれ1つずつ設けた構成にすることも可能であり、この場合も外部音を明瞭に知覚することが可能である。   As mentioned above, although one Embodiment of this invention was explained in full detail, the specific aspect of this invention is not limited to the said embodiment. For example, in the present embodiment, two directional microphones 10 and 10 are used, and each input sound is configured to perform unique modulation. However, the directional microphone and vibration transmission corresponding to the directional microphone are used. The number of parts is not particularly limited. For example, when this external sound perception device is installed in an automobile, four directional microphones are fixed to the vehicle so that the main axes of directivity are forward, backward, right, and left, respectively. The sound may be configured to be transmitted to the human body through four corresponding vibration transmission units after performing a specific modulation on the sound. This makes it possible to reliably grasp the direction of a sound source that needs to be recognized during driving, such as a siren of an emergency vehicle. On the other hand, it is possible to have a configuration in which one microphone and one vibration transmission unit are provided. In this case as well, it is possible to clearly perceive external sound.

また、本実施形態においては、入力部24を介して変調条件を入力可能に構成しているが、予め使用者に適した変調条件を決定してそのデータをメモリ等に格納しておくことにより、入力部24を有しない構成にすることも可能である。また、入力部24からの変更条件の入力は、手動操作に限定されず、他の装置で測定、演算した結果が自動的に入力されるように構成してもよい。   In this embodiment, the modulation condition can be input via the input unit 24. However, by determining a modulation condition suitable for the user in advance and storing the data in a memory or the like. A configuration without the input unit 24 is also possible. Moreover, the input of the change condition from the input unit 24 is not limited to manual operation, and the result of measurement and calculation by another device may be automatically input.

本発明の一実施形態に係る外部音知覚装置の概略構成を示す正面図である。It is a front view which shows schematic structure of the external sound perception apparatus which concerns on one Embodiment of this invention. 前記外部音知覚装置のブロック図である。It is a block diagram of the external sound perception device. 前記外部音知覚装置における振動伝達部の断面図である。It is sectional drawing of the vibration transmission part in the said external sound perception apparatus. 前記外部音知覚装置におけるフィルタ生成部のブロック図である。It is a block diagram of the filter production | generation part in the said external sound perception apparatus. 前記外部音知覚装置に入力される音声信号の時間波形の一例を示す図である。It is a figure which shows an example of the time waveform of the audio | voice signal input into the said external sound perception apparatus. 前記外部音知覚装置で生成される変調信号の時間波形の一例を示す図である。It is a figure which shows an example of the time waveform of the modulation signal produced | generated with the said external sound perception apparatus. 前記外部音知覚装置からの出力信号の時間波形の一例を示す図であり、(a)は平滑化処理を行った場合、(b)は平滑化処理を行わない場合を示している。It is a figure which shows an example of the time waveform of the output signal from the said external sound perception apparatus, (a) shows the case where smoothing processing is performed, (b) shows the case where smoothing processing is not performed. 前記外部音知覚装置からの出力信号を復調した信号の時間波形の一例を示す図であり、(a)は平滑化処理を行った場合、(b)は平滑化処理を行わない場合を示している。It is a figure which shows an example of the time waveform of the signal which demodulated the output signal from the said external sound perception apparatus, (a) shows the case where smoothing processing is performed, (b) shows the case where smoothing processing is not performed. Yes. 前記外部音知覚装置からの出力信号を復調した信号のスペクトル波形の一例を示す図であり、(a)は平滑化処理を行った場合、(b)は平滑化処理を行わない場合を示している。It is a figure which shows an example of the spectrum waveform of the signal which demodulated the output signal from the said external sound perception apparatus, (a) shows the case where smoothing processing is performed, (b) shows the case where smoothing processing is not performed. Yes. 振動子の取り付け状態を変えてインピーダンス特性を測定した結果を示す図である。It is a figure which shows the result of having measured the impedance characteristic by changing the attachment state of a vibrator | oscillator.

符号の説明Explanation of symbols

10 指向性マイクロフォン
20 振動信号生成部
22 キャリア信号発生部
24 入力部
26 キャリア信号変調部
28 平滑化フィルタ部
30 振動伝達部
31 振動子
50 フィルタ生成部
52 正弦波信号発生部
54 インピーダンス測定部
56 演算処理部
DESCRIPTION OF SYMBOLS 10 Directional microphone 20 Vibration signal generation part 22 Carrier signal generation part 24 Input part 26 Carrier signal modulation part 28 Smoothing filter part 30 Vibration transmission part 31 Vibrator 50 Filter generation part 52 Sine wave signal generation part 54 Impedance measurement part 56 Calculation Processing part

Claims (2)

外部音を超音波振動により知覚するための外部音知覚装置であって、
外部音が入力されるマイクロフォンと、
入力された音信号に基づいてキャリア信号を変調することにより振動信号を生成すると共に、前記振動信号に対して平滑化フィルタリング処理を施す平滑化フィルタ部を有する振動信号生成手段と、
前記平滑化フィルタ部のフィルタ係数を設定するフィルタ生成部と、
前記平滑化フィルタ部を通過した前記振動信号に基づいて生体に超音波振動を伝達する振動子とを備え、
前記フィルタ生成部は、周波数掃引された正弦波信号を出力する正弦波信号発生部と、周波数掃引正弦波信号を前記振動子に印加することにより該振動子の端子間におけるインピーダンスの周波数特性を測定するインピーダンス測定部と、測定したインピーダンス特性に基づいて前記平滑化フィルタ部のフィルタ係数を設定する演算処理部とを備える外部音知覚装置。
An external sound perception device for perceiving external sound by ultrasonic vibration,
A microphone to which external sound is input;
A vibration signal generating unit having a smoothing filter unit that generates a vibration signal by modulating a carrier signal based on an input sound signal and performs a smoothing filtering process on the vibration signal;
A filter generation unit for setting a filter coefficient of the smoothing filter unit;
A vibrator that transmits ultrasonic vibrations to a living body based on the vibration signal that has passed through the smoothing filter unit;
The filter generation unit measures a frequency characteristic of impedance between terminals of the vibrator by applying a frequency swept sine wave signal to the vibrator and a sine wave signal generator that outputs the frequency-swept sine wave signal. An external sound perception apparatus comprising: an impedance measurement unit that performs a calculation; and an arithmetic processing unit that sets a filter coefficient of the smoothing filter unit based on the measured impedance characteristics .
前記マイクロフォン及び振動子は、互いに対応付けられてそれぞれ複数設けられ、前記各マイクロフォンに入力された外部音に基づいて、対応する前記各振動子からそれぞれ超音波振動が伝達されるように構成されており、
前記振動信号生成手段は、前記各指向性マイクロフォンから入力された外部音毎に固有の変調を行うことができると共に、前記平滑化フィルタ部が、前記各マイクロフォンに対応して複数設けられており、
前記フィルタ生成部は、前記各平滑化フィルタ部のフィルタ係数を個別に設定する請求項1に記載の外部音知覚装置。
A plurality of microphones and vibrators are provided in association with each other, and ultrasonic vibrations are transmitted from the corresponding vibrators based on external sounds input to the microphones. And
The vibration signal generation means can perform modulation specific to each external sound input from each directional microphone, and a plurality of the smoothing filter units are provided corresponding to the respective microphones.
The external sound perception apparatus according to claim 1, wherein the filter generation unit individually sets a filter coefficient of each of the smoothing filter units.
JP2007105394A 2007-04-13 2007-04-13 External sound perception device Expired - Fee Related JP4423398B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007105394A JP4423398B2 (en) 2007-04-13 2007-04-13 External sound perception device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007105394A JP4423398B2 (en) 2007-04-13 2007-04-13 External sound perception device

Publications (2)

Publication Number Publication Date
JP2008263459A JP2008263459A (en) 2008-10-30
JP4423398B2 true JP4423398B2 (en) 2010-03-03

Family

ID=39985613

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007105394A Expired - Fee Related JP4423398B2 (en) 2007-04-13 2007-04-13 External sound perception device

Country Status (1)

Country Link
JP (1) JP4423398B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014203854A1 (en) 2013-06-17 2014-12-24 独立行政法人産業技術総合研究所 Method and device for measurement of propagation delay characteristic in multipath propagation environment, and external audio perception device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014203854A1 (en) 2013-06-17 2014-12-24 独立行政法人産業技術総合研究所 Method and device for measurement of propagation delay characteristic in multipath propagation environment, and external audio perception device

Also Published As

Publication number Publication date
JP2008263459A (en) 2008-10-30

Similar Documents

Publication Publication Date Title
JP3174324B2 (en) Ultrasonic bone conduction hearing aid and hearing aid method
KR20220113969A (en) sound output device
WO2014208085A1 (en) Measurement device and measurement system
WO2015162913A1 (en) Earphone
US6997864B2 (en) Method for obtaining diagnostic information relating to a patient having an implanted transducer
CN103988485A (en) Measurement device, measurement system, and measurement method
US9807520B2 (en) Acoustic device and method of using the same
JP2007312367A (en) Output control method of ultrasonic speaker and ultrasonic speaker system
JP4963035B2 (en) Auditory function training method and apparatus
US7181025B2 (en) Ultrasound based parametric loudspeaker system
US20240078991A1 (en) Acoustic devices and methods for determining transfer functions thereof
JP4953081B2 (en) External sound perception device
JP4423398B2 (en) External sound perception device
JP6214012B2 (en) External sound perception method and external sound perception device
JP6234082B2 (en) Measuring system
JP4441614B2 (en) External sound perception device
JP4143832B2 (en) External sound perception device
JP2004165895A (en) Electroacoustic transducer
US9786204B2 (en) Visualizing sound with an electro-optical eardrum
JP3955950B2 (en) Audio information transmitting apparatus and method
JP6221135B2 (en) Ultrasonic sound generator, ultrasonic element, and parametric speaker using the same
CN114630223B (en) Method for optimizing functions of hearing-wearing device and hearing-wearing device
JP4078429B2 (en) Audio information transmission device
JP6234081B2 (en) measuring device
RADIATORS REVIEWS OF ACOUSTICAL PATENTS

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090728

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090925

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091104

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091105

R150 Certificate of patent or registration of utility model

Ref document number: 4423398

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees