JP4330302B2 - 音声入出力装置 - Google Patents
音声入出力装置 Download PDFInfo
- Publication number
- JP4330302B2 JP4330302B2 JP2002008909A JP2002008909A JP4330302B2 JP 4330302 B2 JP4330302 B2 JP 4330302B2 JP 2002008909 A JP2002008909 A JP 2002008909A JP 2002008909 A JP2002008909 A JP 2002008909A JP 4330302 B2 JP4330302 B2 JP 4330302B2
- Authority
- JP
- Japan
- Prior art keywords
- sound
- voice
- control
- listener
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R3/00—Circuits for transducers, loudspeakers or microphones
- H04R3/02—Circuits for transducers, loudspeakers or microphones for preventing acoustic reaction, i.e. acoustic oscillatory feedback
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R3/00—Circuits for transducers, loudspeakers or microphones
- H04R3/12—Circuits for transducers, loudspeakers or microphones for distributing signals to two or more loudspeakers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S1/00—Two-channel systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S1/00—Two-channel systems
- H04S1/002—Non-adaptive circuits, e.g. manually adjustable or static, for enhancing the sound image or the spatial distribution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S3/00—Systems employing more than two channels, e.g. quadraphonic
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S5/00—Pseudo-stereo systems, e.g. in which additional channel signals are derived from monophonic signals by means of phase shifting, time delay or reverberation
- H04S5/02—Pseudo-stereo systems, e.g. in which additional channel signals are derived from monophonic signals by means of phase shifting, time delay or reverberation of the pseudo four-channel type, e.g. in which rear channel signals are derived from two-channel stereo signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
- H04S7/30—Control circuits for electronic adaptation of the sound field
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L2021/02087—Noise filtering the noise being separate speech, e.g. cocktail party
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R2499/00—Aspects covered by H04R or H04S not otherwise provided for in their subgroups
- H04R2499/10—General applications
- H04R2499/13—Acoustic transducers and sound field adaptation in vehicles
Description
【発明の属する技術分野】
本発明は、音声入出力装置に関し、特に、形成される音場に含まれる任意の制御点における音を制御して、回り込み音の影響を低減させるとともに入力音声のS/N比を向上させる音声入出力装置に関する。
【0002】
【従来の技術】
この種の音声入力装置において、マイクとスピーカとが一対となったヘッドセットの装着はユーザにとっては煩わしく、たとえば、特開2000−316049号公報記載の車両用ハンドフリーシステムのように、マイクとスピーカとが特定の位置に固定されたものが提案されている。これによれば、ヘッドセットを装着することなく外部との通信を行うことができる。
ところで、音声入出力装置では、音声入力の正確性の確保、すなわち発話者の音声のS/N比のレベルを保つことが重要である。上掲した従来例の車両用ハンドフリーシステムでは、音源となるスピーカと収音するマイクとを一対として設けるという構成とし、このような構成によって発話者の注意を音が聞こえてくるスピーカに向けさせて、発話者がスピーカに向かって話し掛けるようにし、収音性を高めていた。
【0003】
【発明が解決しようとする課題】
しかしながら、音声入力装置(マイク)と音声出力装置(スピーカ)とを近くに配置した場合、音声出力装置から出力された音声が音声入力装置に受音されてしまうという、いわゆる回り込み音が発生し、収音対象となる音声のS/N値が著しく低下することがあった。さらに、この回り込み音は音声入力装置に取り付けられている増幅器のゲインが1を越えた場合、ハウリングが発生し通話さえも困難となる場合があった。
尤も、このような課題に対しては、音響エコーキャンセラが知られているが、装置自体が複雑になることに加えて、音声入力手段に入力される音のうち、発話者からの音(入力すべき音)と、音声出力装置からの音(排除すべき音)とを区別し、音声出力装置からの音のみを選択的に排除することができなかった。
本発明は、このような従来技術の問題点に鑑みてなされたものであり、形成された音場に含まれる制御点ごとの音声出力信号を生成して、回り込み音の影響を低減させるとともに、発話者の音声のS/N比を向上させた音声入力装置を提供することを目的とする。
【0004】
【課題を解決するための手段】
(1)上記目的を達成するために、本発明によれば、音声が入力される音声入力手段と、供給された音声信号を制御して音声出力信号を生成する音声信号制御手段と、前記生成された音声出力信号に基づいて、聴者へ音声を出力して音場を形成する音声出力手段とを有し、前記音声信号制御手段は、音声出力手段が形成する音場に含まれる所定の制御点の音の音圧が、前記供給された音声信号に対応する音の音圧よりも低い値になるとともに、音声出力手段が形成する音場に含まれる他の所定の制御点の音の音圧が、前記供給された音声信号に対応する音の音圧とほぼ同等となるように、音声信号を制御して音声出力信号を生成する音声入出力装置が提供される。この発明において、前記音声信号制御手段は、予め算出された、前記音声出力手段と前記音場に含まれる所定の制御点との間の音の特性に基づいて、前記制御点の音圧を所定の値とするフィルタ処理の演算式を導き、前記供給された音声信号に前記フィルタ処理を行い、前記音声出力信号を生成することが好ましい。また、前記音声信号制御手段は、前記音声入力手段の位置を制御点とし、当該制御点における音圧が、供給された音声信号に対応する音の音圧よりも低い値になるように音声出力信号を生成することが好ましい。
【0005】
この発明では、音声信号制御手段が、音声出力手段によって形成される音場に含まれる制御点の音圧を含む音のバランスが所定の値となるように、音声信号を制御して音声出力信号を生成する。また、この制御点における音のバランスを所定の値とするためには、音声出力手段と制御点との間の音の特性を得て、これに基づいて制御点の音のバランスを所定の値とするようなフィルタ処理の演算式を導き、供給された音声信号にフィルタ処理を行って音声出力信号を生成する。このように生成された音声出力信号に基づく音声は音声出力手段から出力され、制御点における音圧を含む音のバランスはフィルタ処理に応じた所定の値となる。さらに、音声入力手段の位置(制御点)において、音のバランスのうち、音圧を供給される元の音声信号の音圧よりも低い値とし、音のエネルギーを減衰させて音声入力手段の位置の音を小さくすることができる。
【0006】
このような本願の発明は、所定の位置(制御点)における音圧を含む音のバランスを制御するという理論に基づく。このため、この発明の原理を図1、図2を参照しつつ説明する。 まず、図1には、本発明の音声入出力装置の構成の一例を示した。ここで示した音声入出力装置は、音声信号を供給する外部の音声信号供給手段と制御手段と4つの音声出力手段(以下スピーカとする)と音声入力手段(以下マイクMとする)とを備えている。外部の通信装置、音声合成装置、又はコンピュータ等の音信号供給手段より供給された音声信号は、制御手段にて制御されて音声出力信号となり、この音声出力信号に基づく音声が複数のスピーカS1〜S4を介して出力され、聴者には音声として聴取される。他方、マイクMは発話者の声等を収音して、通信装置やコンピュータへ向けて出力する。
【0007】
これらのスピーカS1〜S4とマイクMとは、スピーカが形成する音場において、所定の位置関係を有するが、この位置関係は音場の所定の空間軸を基準に特定することができる。そして、この空間軸に基づき音場に含まれる所定の制御点の位置を特定することができる。
【0008】
続いて、音の制御手法について図2を参照しつつ説明をする。ここでは、音の制御に関するトランスオーラル方式を例として説明するが、制御点における音圧の制御を実現できる他の理論を適用することはもちろん可能であり、本発明の制御がトランスオーラル方式に対応する制御に限定されることはない。ちなみに、トランスオーラル方式については、”Prospects for Transaural Recording: J Audio Eng. Soc, vol.3, No.1/2, pp3-19(1989)"に示されている。
【0009】
さて、ここで一例として説明する、トランスオーラル方式に基づく、本発明の音声入出力装置の制御は、複数のスピーカを用いて、任意の制御点、例えば聴者の両耳付近の2点の位置の音のバランスを制御する。これを説明するために、図2では4つのスピーカを用いて3点の制御点の音圧を制御する場合の伝達系を示した。
【0010】
音は音源から発せられ、伝達媒体を介して伝播され音場を形成する。このとき音場に含まれる任意の点と音源との間には音の伝達系としての空間伝達経路が形成される。この空間伝達経路における音のエネルギー状態は、音の特性を示す空間伝達特性として表現することができる。図2に示した例に戻ると、音信号供給手段から供給された音声信号X1、X2、X3は、制御手段にて制御処理を受け、音声出力信号が生成されて、4つのスピーカS1〜S4から音声として出力される。この4つのスピーカS1〜S4と音場における制御点C1〜C3との間には、1つのスピーカから3経路、すなわち、全部(4つ)のスピーカから12経路の空間伝達経路が存在し、この経路のそれぞれに音の特性を表わす一態様としての空間伝達特性が存在する。この空間伝達特性は、任意の周波数ωにおいて、次式のような複素伝達特性行列として表わすことができる。もちろん、式(1)は図2で示した例に応じた複素伝達特性行列の例である。
【0011】
【数1】
このとき複素入力信号行列を[Xi(ω)]=[X1(ω),X2(ω),X3(ω)]t(但し、[・]tは[・]の共役転置行列を示す)、制御位置で検出される複素出力信号行列を[Yi(ω)]=[Y1(ω),Y2(ω),Y3(ω)]tとしたとき、伝達系は(2)式のように表現できる。
【0012】
【数2】
ここで、伝達特性[Gij(ω)]を相殺するような逆フィルタ[Hji(ω)]、すなわち、
【数3】
を満たすように逆フィルタ[Hji(ω)]が設計できれば、この逆フィルタを演算式としたフィルタ処理を行うことができる。このフィルタ処理を行うことで、
【数4】
のように複素入力信号行列[Xi(ω)]と制御点における複素出力信号[Yi(ω)]とを一致させることができる。
【0013】
このような逆フィルタ[Hji(ω)]を設計するためには、(3)式より、
[Hji(ω)]=[Gij(ω)]− ([・]−は[・]の一般逆行列)となるような[Hji(ω)]を計算すればよい。[Gij(ω)]−の計算方法としては、例えば、"最小ノルム解を用いた逆フィルタ設計のトランスオーラルシステムへの応用:日本音響学会講演論文集,pp495-496(1998)"、に示されている手法を用いて次式(5)により計算することができる。
【0014】
【数5】
このとき実現される逆フィルタは、
【数6】
として表現され、演算手段が、供給された音声信号に対して、この逆フィルタを実現する演算式に基づいてフィルタ処理を行うことにより、音声出力信号が生成され、(4)式を実現する音声Y1〜Y3が出力される。なお、図2では説明を簡潔にするために(ω)を省略している。以上のとおり、フィルタ処理の演算式として(6)で示した逆フィルタを導ければ、行列の各要素として表現された音源と制御点ごとの空間伝達特性に基づいて、各制御点の音声はそれぞれ独立に制御することができると考えられる。
【0015】
この理論をさらに発展させ、各制御点ごとに異なる制御を行うことを試みる。ここでは、3点の制御点を独立して制御する場合を例にして説明する。この例では、3点の制御点のうち、2点の制御点では供給された音声信号に対応する音圧がそのままとなるように音声を出力し、1点の制御点では供給された音声信号に対応する音圧が小さくなるように音声を出力する手法について述べる。このような制御が可能となれば、ある制御点では音声を明瞭に出力し、ある制御点では音声を小さくすることができることとなる。
【0016】
それでは、その具体的な処理を説明する。この制御の対象となる3点の制御点のうち、2点は供給された音声信号に対応する音圧が保たれるようにし、他の1点では供給された音声信号に対応する音圧がゼロとなるようにするために、(3)式における[Ii]を[Ai]と置き換え、以下のように定義する。
【0017】
このように、
【数7】
と置くことで、2点の制御点では、供給された音声信号に対応する音声をそのまま再現し、他の1点の制御点では音が減衰するように設計することが可能となる。このような設計を行った場合、逆フィルタ[Hji(ω)]は(8)式によって計算され、
【数8】
その結果、
【数9】
として表現され、演算手段が、供給された音声信号に対して、この逆フィルタを実現する演算式に基づいてフィルタ処理を行うことにより、音声出力信号が生成され、2点では供給された音声信号に対応する音声がそのまま出力され、1点で音は減衰する。よって、図2に示した出力音声Y1は、Y1=X1となり、Y2は、Y2=X2となり、Y3は、Y3=0とすることができる。
【0018】
このように、任意の点を制御点とし、各制御点における音圧を制御することができることから、ある制御点では供給された音声信号と同等の音圧を保ち、あたかも制御点が音源であるかのように音声を出力することができる。他方、ある制御点では供給された音声信号よりも小さい音圧とすることができるから、共通の音場でありながら、その制御点では音を小さくすることができ、音場の中の音を制御点ごとに制御することができる。
【0019】
加えて、音声出力手段から出力される音の特性は供給される音声信号から把握できるため、この音を対象とした各制御点における制御を行うことができる。よって、音声入力手段を制御点とした場合には、音声出力手段から出力された音声は、音声入力手段の位置において減衰させることができ、音声入力手段に入力される(音声出力手段から出力された)音声は微小なものとなる。とすれば、音声入力手段への回り込み音の影響を低減させるとともに、発話者の音声のS/N比を向上させた音声入力装置を提供することができる。
【0020】
(2)上記目的を達成するために、本発明によれば、前記音声信号制御手段は、前記聴者の両耳の各位置を制御点とし、当該制御点における音圧が、前記供給された音声信号に対応する音圧とほぼ同等となるように音声出力信号を生成する音声入出力装置が提供される。この発明において、前記音声信号制御手段は、前記聴者の両耳の各位置を検知する検知手段を有し、当該検知手段が検知した前記聴者の両耳の位置を制御点とすることが好ましい。
【0021】
この発明では、聴者の両耳の各位置を制御点とし、この制御点における音圧が音声信号に対応した音圧と実質的に等しくなるように音声信号を制御する。また、聴者の両耳の各位置を検知する検知手段を設ける場合には、聴者の身長等により異なる耳の位置を個別に特定し、正確な制御点及び正確な音の特性を特定することができる。なお、この発明において聴者の両耳の各位置を検知するための情報としては聴者が座るシートの位置情報、聴者の頭部の位置情報、聴者の頭部と耳の位置情報等が含まれ、これらに関する光や画像等の情報に基づいて、光センサや撮像手段等の通常の手法を用いて検知することができる。
【0022】
これにより、上記発明と同等の効果を奏するとともに、聴者には、その聴者の両耳の位置において供給された音声信号がそのまま出力されたかのように感じさせることができる。換言すれば、聴者の耳元に音声出力手段があるかのように感じさせることができる。特に、音声入力手段を制御点としてその付近の音を減衰させた場合であっても、聴者の両耳では、減衰のない音声が出力されることから、音声入力手段の近傍では無音状態として回り込み音を防止しつつ、聴者は対話者の音声を違和感なく聞くことができるという音声入出力装置を提供することができる。
【0023】
(3)本発明と直接関係する態様ではないが、音声信号制御手段は、聴者の両耳の位置を制御点とし、音声入力手段の位置が仮想音源となるように、2つの制御点における音圧を所定のバランスを有する値とすることも可能である。
【0024】
この発明では、音声入力手段の位置を仮想音源となるように、聴者の両耳の位置の制御点の音圧を所定のバランスを有する値とする。
【0025】
ここで、収音に関して説明すると、音声入力手段における音の収音性、収音された音のS/N比は、その音の指向性に関係し、音声入力手段に向かって発話した場合と、音声入力手段がある方向とは別の方向に向かって発話した場合とでは、前者の方がS/N比は高くなる。電話の受話器音声入力が口元にある場合は問題ないが、ハンズフリー方式のように発話者が自由な方向を向いて発話する場合には、発話者の発する音声に指向性を要求することは困難である。しかし、発話者に音声入力手段のある方向が提示されれば、発話者はその方向を意識して発話し、音声の指向性も確保できるものと考えられる。本発明では、音声入力手段の位置を仮想音源とし、この位置から音が聞こえてくるように聴者の両耳に位置する制御点の音圧をそれぞれ制御する。
【0026】
ところで、聴者は、右耳に聞こえる音と左耳に聞こえる音とのバランスに基づいて、音源がどの方向にあるのかを認識する。よって、聴者の両耳に位置する制御点の音のバランスを変える。例えば、音を複数の位置から出力し、音を出力するタイミング(時間)をずらしたり、位相や周波数を変更して制御点の音圧のバランスを変えることで、このバランスに応じて仮想音源の方向を変えることができる。このように、聴者の両耳の位置の制御点の音圧を含む音のバランスを変えることにより、仮想音源の位置を設定することができる。また、仮想音源の位置が特定されれば、聴者が仮想音源を認識できるように両耳の位置の制御点の音圧のバランスを含む音のバランスを特定することができる。本発明では音声入力手段の位置に仮想音源があると聴者が感じるように、両耳位置の制御点の音圧を含む音のバランスを決定する。
【0027】
このように、音声入力手段の位置に仮想音源があるようにすることで、聴者には音声入力手段の位置を指し示すことができる。これにより、この指し示された仮想音源に向かって聴者が発話することが期待できるため、音声入力手段においては、指向性のある音を収音することができ、結果としてS/N比の高い音声入出力装置を提供することができる。もちろん、上記発明と同等の効果をも奏することができ、音声入力手段に入力される回り込み音の影響を排除するとともに、指向性の高い音声の収音をも併せて実現することができ、従来の音響エコーキャンセラ等とは異質の効果を奏する音声入出力装置を提供することができる。
【0028】
(4)上記目的を達成するために、本発明によれば、前記音声信号制御手段は、前記音の特性に寄与する環境状態と、これにフィルタ処理の演算式を対応づけたフィルタ処理テーブル記憶部と、前記音の特性に寄与する環境状態を検知する状態検知部とを有し、前記状態検知部が前記環境状態の変化を検知した場合には、変化後の環境状態に基づいて、前記フィルタ処理テーブルを参照して、前記供給された音声信号に前記フィルタ処理を行い、前記音声出力信号を生成する音声入出力装置が提供される。
【0029】
本発明では音声出力手段と各制御点との間の音の特性に基づいて、音声信号を制御するところ、この音の特性に誤差があると、正確な音の制御を行うことができなくなる恐れがある。この発明では、音の特性を変化せしめる環境状態の変化があった場合、状態検知部がその変化を検知し、変化後の環境状態に基づく音の特性に対応するフィルタ処理を行う。この発明において、環境状態とは、音声入力手段の位置又は向き、聴者の位置又は向き、聴者の位置又は向き、温度、湿度その他の音の特性に寄与するあらゆる情報を含む。この環境状態を示す物理量とフィルタ処理の演算式とは、予め対応させてフィルタ処理テーブルとして記憶される。また、フィルタ処理テーブルには、音の特性及び音の特性からフィルタ処理の演算式を導く過程が記憶されていてもよい。
【0030】
これにより、上記発明と同等の効果を奏するとともに、環境状態に変化が生じ、音の特性に変化があった場合、現実の環境状態及び音の特性に合致したフィルタ処理を行うことができる音声入出力装置を提供することができる。
【0031】
【発明の効果】
(1)本発明によれば、音声入力手段への回り込み音の影響を低減させるとともに、発話者の音声のS/N比を向上させ、音声入力装置を提供することができる。
【0032】
(2)本発明によれば、聴者は、その聴者の両耳の位置において供給された音声信号がそのまま出力されたかのように感じることができる。換言すれば、聴者は耳元に音声出力手段があるかのように感じることができる。特に、音声入力手段を制御点としてその付近の音を減衰させた場合であっても、聴者の両耳では、減衰のない音声が出力されることから、音声入力手段の近傍では無音状態として回り込み音を防止しつつ、聴者は対話者の音声を違和感なく聞くことができる音声入出力装置を提供することができる。
【0033】
(3)本発明によれば、音声入力手段の位置に仮想音源があるようにすることで、聴者には音声入力手段の位置を指し示すことができ、これにより、この指し示された仮想音源に向かって聴者が発話することが期待できるため、音声入力手段においては、指向性のある音を収音することができ、結果としてS/N比の高い音声入出力装置を提供することができる。もちろん、上記発明と同等の効果をも奏することができ、音声入力手段に入力される回り込み音の影響を排除するとともに、指向性の高い音声の収音をも併せて実現することができ、従来の音響エコーキャンセラ等とは異質の効果を奏する音声入出力装置を提供することができる。
【0034】
(4)本発明によれば、上記発明と同等の効果を奏するとともに、環境状態に変化が生じ、音の特性に変化があった場合、現実の環境状態及び音の特性に合致したフィルタ処理を行うことができる音声入出力装置を提供することができる。
【0035】
【発明の実施の形態】
以下、本発明の実施形態を図3から図6に基づいて説明する。図3は本実施形態に係る音声入出力装置100の構成を示す図、図4は本実施形態に係る音声入出力装置100の制御を説明するための図、図5は本実施形態に係る音声入出力装置における各構成の配置を説明する図、図6は本実施形態の環境状態が変化した場合の制御手順を示すフローチャート図である。
【0036】
図1に基づいて、本実施形態に係る音声入出力装置100の構成を説明する。この音声入出力装置100は、主な構成として、音声入力手段1と、音声出力手段2と音声信号制御装置3とを有している。ここでは、車両に搭載された音声入出力装置100を例として説明し、制御される音場も車両の室内空間を例として説明する。もちろん、これは説明を明瞭とするために一例を挙げるものであり、車両に搭載されることに限定されることはなく、また、開放又は密閉のいずれの空間においても適用することができる。
【0037】
まず、上記の構成のうち音声入力手段1について説明をする。音声入力手段1は、発話者の音声を収音するマイクロホン(マイク)1であり、増幅装置11が収音された音声を増幅し、外部装置又は内部装置へ向けて出力する。この外部装置又は内部装置としては通信装置、音声認識装置、音声対話装置等を例示することができる。
【0038】
音声出力手段2は、音声信号制御装置3が生成した音声出力信号に応じた音声を聴者に向けて出力するスピーカ2−1である。スピーカ2−1は、複数個(n個)設けられ車両の室内に音場を形成する。この複数のスピーカ2は、音声出力信号に基づきスピーカ駆動部21によってそれぞれ独立に音量、音質を調整することができる。
【0039】
そして、音声信号制御手段3は、供給された音声信号に基づいて音声出力信号を生成する、本発明の中心的な制御を行う構成の一つである。音声信号制御手段3は、音声出力手段2が車両室内に形成した音場に含まれる制御点の音圧を、所定の値とするように音声信号を制御し、音声出力信号を生成する。この音声信号制御手段5には、発話者の座席位置センサ、発話者の頭部の位置センサ、発話者の頭部方向センサ、温度又は湿度の計測センサ、マイク位置の計測センサ等の各種センサ4と、制御に関するあらゆる情報を記憶させた記憶手段5とを有している。
【0040】
この音声信号制御手段3の制御は、空間において結ばれた2点の音の特性を示す一態様としての空間伝達特性に基づいて行われる。この空間伝達特性とは、音源と観測点との間の伝達系における音の特性であり、音源から発せられる音のエネルギー状態、音場を形成する伝達媒体(例えば空気)、音源から発せられる音の指向性、音場における音の反射要因その他の音の伝達に関与する様々な因子を含む特性であり、上述した式(1)の複素伝達特性行列として表現することができる。
【0041】
この空間伝達特性は、上記の要因が複雑に関与し合うため、音場ごと、制御点ごとの個別の特性として扱うことが好ましい。よって、例えば車内における空間伝達特性については、車内空間、車両内装、スピーカの位置、スピーカの向き等が特定できる場合は、当該車内空間を規定する空間軸を基準として特定される個々の位置について、複数のスピーカによって形成される音場における空間伝達特性を得ることができる。これは、実験に基づいて又は理論計算に基づいて予め求めることが好ましい。もっとも、車両に空間伝達特性を算出するための検知手段を備えて、音声信号制御手段3が音声出力信号を生成する際に空間伝達特性を算出することも可能である。
【0042】
図4では、各スピーカ2−nと制御点との間に形成される各空間伝達特性Gijを示している。図4に示すように、供給されて音声信号Xは、所定の演算処理がなされて、各スピーカ2−nへ出力される。この実施形態では、4つのスピーカ2を備え、音場における制御点はC1〜C3の3点である。あるスピーカ2−nから発せられた音は伝播しつつ音場を形成し、所定の制御点C1〜C3への3点へも伝達される。よって、各スピーカ2−nは、各制御点C1〜C3への3つの空間伝達経路を有し、4つのスピーカ2−1〜2−4では12の空間伝達経路があることとなる。この12の空間伝達経路の特性に基づいて、制御点C1〜c3の音圧を制御する。この制御は、先に説明した原理を用いて行われる。
【0043】
本実施形態の制御を上述した原理にあてはめて簡潔に説明すると、空間伝達特性[Gij(ω)]、音声信号[Xi(ω)]、音声出力信号[Yi(ω)]は、式(2)に示す関係があるから、この空間伝達特性[Gij(ω)]を相殺するような逆フィルタ[Hji(ω)]、すなわち、掛け合わせると単位行列[Ii]となるような[Hji(ω)]に基づいて音声信号Xi(ω)を制御すれば(4)式のように、供給された音声信号Xと生成された音声Yとの関係を制御することができる。式(4)では、音声信号Xと出力される音声Yと等しい関係としたが、これらの間は任意の関係で対応づけることができる。このような逆フィルタ[Hji(ω)]を設計するためには、音の特性を示す空間伝達特性に対する一般逆行列を導くことで式(6)のような演算式が求められる。
【0044】
この原理に基づけば、本実施形態においても制御点C1〜C3の音圧を自由に制御することが可能となると考えられる。本実施形態では、3点の制御点を、聴者の両耳の位置に相当するC1及びC2と、マイク1の位置に相当するC3とし、これらの制御点における音圧をそれぞれ独立に制御する。具体的には、3点の制御点のうち、聴者の両耳の位置における制御点C1及びC2では供給された音声信号に対応する音圧がそのままとなるように音声を出力し、マイク1の位置における制御点C3では供給された音声信号に対応する音圧が小さくなるように音声を出力する。
【0045】
この3点の制御点のうち、2点は供給された音声信号に対応する音圧が保たれるようにし、他の1点では供給された音声信号に対応する音圧がゼロとなるように3点をそれぞれ独立に制御するためには、空間伝達特性[Gij(ω)]と掛け合わせると、3行目×3列目の要素が0である単位行列[Ai]となるような演算式、すなわち式(7)の関係を満たす[Hji(ω)](式9)を求め、この演算式に基づき、音声信号を処理すればよい。
【0046】
こうして、生成された音声出力信号に基づいて、聴者の両耳の制御点C1及びC2に供給された音声のエネルギーは、最初供給された音声信号に対応するエネルギーを保って出力され、マイク1に位置する制御点C3では音のエネルギーは減衰する。よって、図4に示した出力音声Y1は、Y1=X1となり、Y2は、Y2=X2となり、Y3は、Y3=0とすることができる。なお、制御点はそれぞれ独立に制御可能であるから、本実施形態の制御と音響エコーキャンセラとを組み合わせることも当然可能である。
【0047】
以上、本実施形態における音声信号制御手段3の制御手法を説明した。続いて、このように制御された結果を図5に基づき具体的に説明する。本実施形態の音声入出力装置100は、車両の室内空間において構成されるため、図5では、この3つの制御点C1〜C3、4つのスピーカ2−1〜2−4の車両室内における配置を具体的に示した。車両の室内環境は、図5に示すように1.6m×2.0mの壁により仕切られた室内に、4個のスピーカ2−1〜2−4が図5のように配置されている。3点の制御点はC1〜C3とし、制御点C1、C2は聴者又はドライバの両耳の位置に相当し、C3はマイク1の位置に相当する。この実施形態では聴者の両耳の位置C1及びC2ではスピーカ2−1〜2−4から発せられる音声がそのまま聴取されるように制御するとともに、マイク1の位置の制御点C3ではスピーカ2−1〜2−4の音声が減衰するように制御する。
【0048】
こうして、スピーカ2−nと各制御点C1〜C3の位置関係が決定したところで、まず、各制御点と音源の間の空間伝達特性を計測又は算出し、先に説明した手法により、逆フィルタを導く(式(8)(9)を参照)。こうして導かれた逆フィルタを用いて音声信号を処理し、音声出力信号を生成し、音声を出力する。
【0049】
出力された音声によって形成された音場において、それぞれの制御点C1〜C3における複素音圧を計算した。このとき、室の高さ方向の空間は自由空間、壁の反射係数は0.15、気温は20℃とし、200Hzから1000Hzまでを10Hz毎に計算した。全ての複素音圧を加算した後に制御点位置での音のエネルギー(振幅の2乗)を求めた。その結果を下記の表に示す。
【0050】
【表1】
このように、制御点C1と制御点C2においては、音圧が高く、高エネルギー状態であるが、制御点C3においては、音圧が低く、音のエネルギーは−79.97dBと著しく低い値となっている。このことより、制御点C3ではほとんど音が検知できない値にまで音圧が下がっていることがわかる。
【0051】
また、この実施形態では、2つの制御点C1とC2とにおける音圧が異なり、これらは所定のバランスを有するように制御されている。図5に示したように聴者はマイク1のある方向を前方としており、制御点C1は左耳の位置に相当し、制御点C2は右耳の位置に相当する。ここで表を参照してみると、制御点C2すなわち右耳よりも、制御点C1すなわち左耳の方が音のエネルギーが大きいことがわかる。聴者は、右耳に聞こえる音と左耳に聞こえる音とのバランスに基づいて、音源がどの方向にあるのかを認識することから、この場合、聴者にとって、音は左前方のマイク1の方向から聞こえてくる、という状態となる。マイク1の方向から音声が聞こえてくることから、聴者がその方向に注意を向けて発話をするように仕向けることができる。このように、聴者がマイク1の方向を向いて発話すれば、聴者の音声はマイク1の方向の指向性を有することとなり、マイク1にて収音される音声のS/N比を向上させることができる。このように、制御点における音のエネルギーをそれぞれ制御することにより、仮想の音源を任意の場所に設けると同じ効果を得ることができ、本実施形態のように、マイク1の位置に仮想音源があるようにすることで、聴者にはマイク1の位置を指し示すことができる。これにより、この指し示された仮想音源に向かって聴者が発話することが期待できるため、マイク1にて指向性のある音を収音することができ、結果としてS/N比の高い音声入出力装置100を提供することができる。
【0052】
この実施形態では、聴者の両耳の位置の制御点C1及びC2を制御することによりこの効果を得ることができるが、他方、この制御とは独立にマイク1の位置の制御点C3の音圧(音のエネルギー)をも同時に制御することができる。すなわち、制御点C1及びC2の音圧のバランスによってマイク1に仮想音源を形成して指向性の高い音声の収音を可能としつつ、マイク1の制御点C3における音圧を低くすることで、マイク1に収音されてしまう回り込み音の影響を排除することをも併せて実現することができ、従来の音響エコーキャンセラ等とは異質の効果を奏する。
【0053】
以上、特定された空間伝達特性に基づく基本的な制御について説明をした。ここでは、空間伝達特性に変化があった場合の処理について説明をする。この発明は、空間伝達特性に基づいて制御を行うため、空間伝達特性を正確に把握することが精度向上には欠かせない。このため、本実施形態では、空間伝達特性の変化を検知する各種センサ4と、この変更に対して迅速な処理を行うために種々の処理や情報を記憶する記憶手段5を設けた(図3参照)。
【0054】
ここで、空間伝達特性に寄与する環境状態とは、マイク1の位置又は向き、スピーカ2の位置又は向き、聴者の位置又は向き、座席の位置、温度、湿度その他の空間伝達特性に寄与するあらゆる情報を含む。この環境状態を示す物理量と音声信号に施されるフィルタ処理の演算式とは、予め対応させてフィルタ処理テーブルとして記憶されている。このフィルタ処理テーブルには、フィルタ処理が直接記憶されていてもよいし、空間伝達特性及びこの空間伝達特性からフィルタ処理の演算式を導く処理過程が記憶されていてもよい。本実施形態では、処理速度の観点からフィルタ処理テーブルにはフィルタ処理を記憶させている。なお、この記憶手段5は、キャシュメモリ、メインメモリおよびディスクメモリを単独、あるいは組み合わせることにより構成することができる。
【0055】
空間伝達特性に寄与する環境状態は各種センサ4にて検知され、これに変化があった場合には、変化後の環境状態に基づいて、記憶手段5のフィルタ処理テーブルを参照して、供給された音声信号に環境状態に応じたフィルタ処理を行い、音声出力信号を生成する。
【0056】
この、各種センサ4が環境状態の変化を検知した場合の音声信号制御手段3の制御手順を図6のフローチャートに示した。
【0057】
まず、各種センサ4は環境状態に関する信号を検出する(ステップ1)。この信号の検出は音声入出力装置100が作動している際は常に(所定時間間隔で)行われていてもよいし、起動命令に応じて起動してもよい。この検出された信号に基づき環境状態の変化が生じた場合には(ステップ2)、検知した信号を分析する(ステップ3)。続いて、この結果に基づき制御方法(フィルタ処理)を変更する必要があるか否かについて判断する(ステップ4)。たとえば、検出された信号の変化が微差であり設定された閾値を超えない場合には、制御方法を変更するに及ばない。一方、環境状態に大きな変化が検出され、制御方法(フィルタ処理)を変更する必要がある場合には、さらに、制御の可能性を判断する(ステップ5)。このとき、例えば、マイク1に聴者が著しく近づいた場合や、制御されている制御点に聴者が著しく近づいた場合や、ドアが開放されている場合などは、制御方法の変更を行うことは好ましくない。このような場合には制御不能と判断して処理を終了する。一方、制御方法(フィルタ処理)の変更が可能であると判断された場合は、制御方法(フィルタ処理)の変更を行うために、フィルタ処理テーブルを参照して、検出された変化後の環境状態に対応する制御方法(フィルタ処理)を特定する。適当な制御方法(フィルタ処理)が特定されたら(ステップ6)、環境状態に関して検知された情報と適当な制御方法(フィルタ処理)とを音声信号制御手段3へ向けて送出する(ステップ7、8)。これにより、環境状態に変化が生じ、空間伝達特性に変化があった場合、現実の環境状態及び空間伝達特性に合致したフィルタ処理を行うことができる音声入出力装置100を提供することができる。
【0058】
以上のとおり、この実施形態にかかる音声入出力装置100によれば、複数の制御点における音圧をそれぞれ独立に制御することができるため、マイク1の近傍では無音状態として回り込み音の影響を低減させるとともに、聴者の両耳では、減衰のない音声が出力されることから、ハウリングを防止しつつ、聴者は対話者の音声を違和感なく聞くことができ、また、同じく制御点の音圧を制御することにより、任意の方向に仮想音源を形成することができ、聴者をマイク1に向かって発話させる等のS/N比を向上させる手法にこれを用いることができる。これにより、ハウリングの発生を防止し、聴者へは明瞭な音声を供給し、また聴者(発話者)からの音声を明瞭に収音し、通信、音声認識、音声合成等における精度の高い音声入力装置を提供することができる。
【0059】
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
【図面の簡単な説明】
【図1】本発明の音声入出力装置の構成の概要を説明するためのブロック図である。
【図2】本発明の音の制御の原理を説明するための説明図である。
【図3】本実施形態に係る音声入出力装置の構成を示す図である。
【図4】本実施形態に係る音声入出力装置の制御を説明するための図である。
【図5】本実施形態に係る音声入出力装置における各構成の配置を説明する図である。
【図6】本実施形態の環境状態が変化した場合の制御手順を示すフローチャート図である。
【符号の説明】
100…音声入出力手段
1…音声入力手段、マイクロホン、マイク
11…増幅装置
2…音声出力手段、スピーカ
21、22…スピーカ駆動部
2−1〜2−n…各スピーカ
3…音声信号制御手段
4…各種センサ、状態検知部
5…記憶手段
X…供給された音声信号
Y…生成された音声出力信号
Ci…制御点i
Claims (2)
- 聴者による発話音声が入力される音声入力手段と、
供給された音声信号を制御して音声出力信号を生成する音声信号制御手段と、
前記生成された音声出力信号に基づいて、前記聴者へ音声を出力して音場を形成する音声出力手段とを有し、
前記音声信号制御手段は、前記音声入力手段の位置を制御点とするとともに前記聴者の左右の耳の各位置を他の制御点とし、前記音声出力手段から前記制御点となる前記音声入力手段の位置までの空間伝達特性と前記音声出力手段から前記他の制御点となる前記聴者の左右の耳の各位置までの空間伝達特性とに基づいて、前記制御点における音圧が前記供給された音声信号に対応する音の音圧よりも低い値になるとともに前記他の制御点における音圧が前記供給された音声信号に対応する音の音圧とほぼ同等の値となるフィルタ処理を行うための演算式を導き、前記供給された音声信号に前記フィルタ処理を行い、前記音声出力信号を生成する音声入出力装置。 - 前記音声信号制御手段は、
前記空間伝達特性に寄与する環境状態と、当該環境状態にフィルタ処理の演算式を対応づけて記憶しているフィルタ処理テーブル記憶部と、
前記空間伝達特性に寄与する環境状態を検知する状態検知部とを有し、
前記状態検知部が前記環境状態の変化を検知した場合には、変化後の環境状態に基づいて、前記フィルタ処理テーブル記憶部を参照して、前記供給された音声信号に前記フィルタ処理を行い、前記音声出力信号を生成する請求項1に記載の音声入出力装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002008909A JP4330302B2 (ja) | 2001-09-27 | 2002-01-17 | 音声入出力装置 |
US10/253,882 US7191124B2 (en) | 2001-09-27 | 2002-09-25 | Voice input and output apparatus with balancing among sound pressures at control points in a sound field |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001-296641 | 2001-09-27 | ||
JP2001296641 | 2001-09-27 | ||
JP2002008909A JP4330302B2 (ja) | 2001-09-27 | 2002-01-17 | 音声入出力装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003174699A JP2003174699A (ja) | 2003-06-20 |
JP4330302B2 true JP4330302B2 (ja) | 2009-09-16 |
Family
ID=26623079
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002008909A Expired - Fee Related JP4330302B2 (ja) | 2001-09-27 | 2002-01-17 | 音声入出力装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7191124B2 (ja) |
JP (1) | JP4330302B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8641371B2 (en) | 2009-03-27 | 2014-02-04 | Honda Motor Co., Ltd. | Turbine shroud |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004297185A (ja) * | 2003-03-25 | 2004-10-21 | Nappu Enterprise Kk | エコー防止回路 |
JP4029216B2 (ja) * | 2003-07-08 | 2008-01-09 | 展通 海江田 | 車両用スピーカー補助部材 |
KR100532452B1 (ko) * | 2003-07-22 | 2005-11-30 | 삼성전자주식회사 | 음성신호 재생 시스템 및 음성신호 재생방법 |
US20060031067A1 (en) * | 2004-08-05 | 2006-02-09 | Nissan Motor Co., Ltd. | Sound input device |
JP4835151B2 (ja) * | 2005-12-21 | 2011-12-14 | ヤマハ株式会社 | オーディオシステム |
JP4946090B2 (ja) * | 2006-02-21 | 2012-06-06 | ヤマハ株式会社 | 収音放音一体型装置 |
JP2008042390A (ja) * | 2006-08-03 | 2008-02-21 | National Univ Corp Shizuoka Univ | 車内会話支援システム |
JP5330328B2 (ja) | 2010-08-04 | 2013-10-30 | 株式会社東芝 | 音像定位装置 |
JP6020461B2 (ja) * | 2011-11-09 | 2016-11-02 | 日本電気株式会社 | 音声入出力装置、ハウリング防止方法およびハウリング防止用プログラム |
JP5734928B2 (ja) * | 2012-07-31 | 2015-06-17 | 株式会社東芝 | 音場制御装置及び音場制御方法 |
EP2974385A1 (en) | 2013-03-14 | 2016-01-20 | Apple Inc. | Robust crosstalk cancellation using a speaker array |
CN103401985A (zh) * | 2013-07-16 | 2013-11-20 | 珠海市魅族科技有限公司 | 一种语音的控制方法及终端 |
JP6407568B2 (ja) * | 2014-05-30 | 2018-10-17 | 株式会社東芝 | 音響制御装置 |
WO2016160403A1 (en) | 2015-03-27 | 2016-10-06 | Dolby Laboratories Licensing Corporation | Adaptive audio filtering |
WO2020111284A1 (ko) | 2018-11-26 | 2020-06-04 | 엘지전자 주식회사 | 차량 및 그의 동작 방법 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2958930B2 (ja) | 1992-08-27 | 1999-10-06 | 株式会社ケンウッド | カラオケ装置 |
US5572591A (en) * | 1993-03-09 | 1996-11-05 | Matsushita Electric Industrial Co., Ltd. | Sound field controller |
US5548346A (en) * | 1993-11-05 | 1996-08-20 | Hitachi, Ltd. | Apparatus for integrally controlling audio and video signals in real time and multi-site communication control method |
JP3400064B2 (ja) | 1994-02-28 | 2003-04-28 | 株式会社東芝 | 音声符号復号化装置、音声符号化装置及び音声復号化装置 |
JP3369343B2 (ja) | 1995-01-31 | 2003-01-20 | 松下電器産業株式会社 | 車載用オーディオ装置 |
US5809150A (en) * | 1995-06-28 | 1998-09-15 | Eberbach; Steven J. | Surround sound loudspeaker system |
JP3625325B2 (ja) | 1995-10-31 | 2005-03-02 | 株式会社東芝 | 拡声通話装置およびエコーキャンセラ |
DE19620980A1 (de) | 1996-05-24 | 1997-11-27 | Philips Patentverwaltung | Audiogerät für ein Fahrzeug |
US5991385A (en) * | 1997-07-16 | 1999-11-23 | International Business Machines Corporation | Enhanced audio teleconferencing with sound field effect |
JP3711786B2 (ja) | 1999-04-28 | 2005-11-02 | 日産自動車株式会社 | 車両用ハンドフリーシステム |
JP2001119470A (ja) | 1999-10-15 | 2001-04-27 | Fujitsu Ten Ltd | 電話音声処理装置 |
-
2002
- 2002-01-17 JP JP2002008909A patent/JP4330302B2/ja not_active Expired - Fee Related
- 2002-09-25 US US10/253,882 patent/US7191124B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8641371B2 (en) | 2009-03-27 | 2014-02-04 | Honda Motor Co., Ltd. | Turbine shroud |
Also Published As
Publication number | Publication date |
---|---|
US7191124B2 (en) | 2007-03-13 |
US20030065513A1 (en) | 2003-04-03 |
JP2003174699A (ja) | 2003-06-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4330302B2 (ja) | 音声入出力装置 | |
JP5409656B2 (ja) | 補聴装置 | |
JP3101302B2 (ja) | 能動雑音打消を用いた通信システム | |
JP5401760B2 (ja) | ヘッドフォン装置、音声再生システム、音声再生方法 | |
US8693704B2 (en) | Method and apparatus for canceling noise from mixed sound | |
JP6017825B2 (ja) | 特に「ハンズフリー」電話システム向けの近接音声信号を雑音除去するための手段を有するマイクロホンとイヤホンの組合せ型のオーディオ・ヘッドセット | |
JP4780119B2 (ja) | 頭部伝達関数測定方法、頭部伝達関数畳み込み方法および頭部伝達関数畳み込み装置 | |
EP1718103B1 (en) | Compensation of reverberation and feedback | |
EP3833041B1 (en) | Earphone signal processing method and system, and earphone | |
WO2017064839A1 (ja) | 双方向会話補助装置及び双方向会話補助方法 | |
US8682010B2 (en) | Automatic environmental acoustics identification | |
JP2009530950A (ja) | ウェアラブル装置のためのデータ処理 | |
JP2001095083A (ja) | 信号の損失を補償する方法及び装置 | |
US10602274B2 (en) | Audio input/output device | |
JP3095484B2 (ja) | オーディオ信号出力装置 | |
JP5740914B2 (ja) | 音声出力装置 | |
EP3833045B1 (en) | Conversation assistance system, method therefor, and program | |
JP5205993B2 (ja) | 車両用聴覚モニター装置および方法 | |
US20220189450A1 (en) | Audio processing system and audio processing device | |
JP2006352728A (ja) | オーディオ装置 | |
JP7259092B2 (ja) | モジュール式エコーキャンセルユニット | |
TW202341129A (zh) | 聽覺補償裝置及聽覺補償方法 | |
JP5289128B2 (ja) | 信号処理方法、装置及びプログラム | |
JP2009015209A (ja) | 音声明瞭度改善システム及び音声明瞭度改善方法 | |
Schobben et al. | Personalized multi-channel headphone sound reproduction based on active noise cancellation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060217 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060425 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060623 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060811 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20060811 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20060920 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20061013 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090407 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20090407 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090521 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090616 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120626 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120626 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130626 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |