JP2008259022A - 放収音装置 - Google Patents

放収音装置 Download PDF

Info

Publication number
JP2008259022A
JP2008259022A JP2007100489A JP2007100489A JP2008259022A JP 2008259022 A JP2008259022 A JP 2008259022A JP 2007100489 A JP2007100489 A JP 2007100489A JP 2007100489 A JP2007100489 A JP 2007100489A JP 2008259022 A JP2008259022 A JP 2008259022A
Authority
JP
Japan
Prior art keywords
sound
signal
collecting
collection
reference plane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007100489A
Other languages
English (en)
Other versions
JP5050616B2 (ja
Inventor
Toshiaki Ishibashi
利晃 石橋
Makoto Tanaka
田中  良
Norifumi Ukai
訓史 鵜飼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2007100489A priority Critical patent/JP5050616B2/ja
Publication of JP2008259022A publication Critical patent/JP2008259022A/ja
Application granted granted Critical
Publication of JP5050616B2 publication Critical patent/JP5050616B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Telephone Function (AREA)

Abstract

【課題】スピーカ、マイク一体型の構成であっても話者の音声だけを的確に判定し、遠方からの非定常音を誤って話者の音声と判定しないようにした放収音装置を提供する。
【解決手段】信号差分回路191は、収音ビームMB11〜MB14と、収音ビームMB21〜MB24の差分信号MS1〜MS4を出力する。レベル比較器195は、最大レベルの差分信号を選択する。波形整形回路197は、最大レベルの差分信号が所定閾値以上であれば有効音検出信号を制御部10に出力する。制御部10は、有効音検出信号が入力されている場合にのみ、ネットワークに音声信号を出力するよう設定する。
【選択図】図5

Description

この発明は、ネットワーク等を介して複数の地点間で行う音声会議等に用いる放収音装置、特にマイクとスピーカとが比較的近い位置に配置された放収音装置に関するものである。
従来、遠隔地間で音声会議を行う方法として、音声会議を行う地点毎に放収音装置を設置して、これら装置をネットワークで接続し、音声信号を通信する方法が多く用いられている。このような音声会議装置は、マイクで収音した音声の信号レベルから、有音、無音を判定し、無音時には音声情報を送信しない機能が搭載されている。無音時に音声情報を送信しない構成とすることで、送信する情報量を下げることができる。
しかし、上記のような音声会議装置では、高レベルの背景音(空調機などのノイズ)が存在すると、常に有音と判定してしまう。また、話者の発声レベルが低く、話者の入力音声信号レベルが低い場合は、常に無音と判定してしまう。そこで、入力音声信号のパワーを背景音との相対レベルから判定し、背景音が大きい場合や話者の発声レベルが低い場合等であっても、その話者の音声の入力を的確に判定するようにした装置が提案されている(例えば特許文献1参照)。
特開平11−205460号公報
しかしながら、特許文献1の装置では、スピーカからの回り込み音声がマイクに入力されると、これを話者の音声と誤判定してしまうという問題が有った。また、特許文献1の装置では、定常的な背景音を排除することができるが、例えば遠方から入力された非定常音は話者の音声と誤判定してしまうという問題が有った。
この発明は、スピーカ、マイク一体型の構成であっても話者の音声だけを的確に判定し、遠方からの非定常音を誤って話者の音声と判定しないようにした放収音装置を提供することを目的とする。
この発明の放収音装置は、所定基準面に対して対称となる音圧で音声を放音するスピーカと、前記所定基準面の一方側の音声を収音する第1マイク群および他方側の音声を収音する第2マイク群と、前記第1マイク群の収音信号に基づく第1収音ビーム群の各収音ビームと、前記第2マイク群の収音信号に基づく第2収音ビーム群の各収音ビームと、を前記所定基準面に対して対称に生成する収音ビーム生成手段と、前記第1収音ビーム群の各収音ビームと、対称に生成した前記第2収音ビームの各収音ビームと、の差分信号をそれぞれ生成する差分信号生成手段と、各差分信号の絶対レベルを比較し、最大レベルの差分信号を選択する信号比較手段と、前記最大レベルの差分信号の絶対レベルが所定の閾値以上である場合に有効音検出信号を出力する差分信号レベル検出手段と、前記差分信号レベル検出手段が有効音検出信号を出力している場合にのみ、前記信号比較手段が選択した最大レベルの差分信号を出力する収音ビーム出力手段と、を備えたことを特徴とする。
この構成では、第1収音ビーム群の各収音ビームと、第2収音ビーム群の各収音ビームとが基準面に対して対称であるので、面対称の関係にある収音ビーム同士の回り込み音声成分は基準面に垂直な方向に対して同じ大きさになる。この面対称の関係にある各収音ビームを差分して差分信号を生成し、これらの信号レベルを比較する。その結果、最大レベルとなる差分信号を出力信号として選択する。さらに、最大レベルとなる差分信号の絶対レベルが所定閾値以上であるか否かを検出し、所定閾値以上である場合にのみ出力信号を外部出力する。
また、この発明の放収音装置は、前記第1マイク群と前記第2マイク群とは、それぞれに複数のマイクが前記所定基準面に沿って一直線状に配列されたマイクアレイであることを特徴とする。
この構成では、所定基準面に沿ってマイクアレイを構成することで、各マイクの収音信号に基づいて収音ビームを生成する場合に、各収音信号に対して遅延処理等の簡素な信号処理を行うだけでよい。
また、この発明の放収音装置は、前記差分信号レベル検出手段は、前記最大レベルの差分信号の絶対レベルが前記所定の閾値未満である状態が所定時間以上継続したとき有効音検出信号の出力を停止することを特徴とする。
この構成では、最大レベルとなる差分信号の絶対レベルが所定閾値未満である状況が所定時間以上継続した場合に、出力信号を外部に出力しない。所定閾値未満となった時点で即信号出力を停止するのではなく、所定時間以上継続した場合に停止する構成としたことで、短い切れ目が存在する一連の会話内容を続けて出力することができる。
この発明の放収音装置は、所定基準面に対して対称となる音圧で音声を放音するスピーカと、前記所定基準面の一方側の所定エリアの音声を第1の収音信号として収音する第1の収音手段、および前記所定基準面に対して前記第1の収音信号と対称となる他方側のエリアの音声を第2の収音信号として収音する第2の収音手段と、前記第1の収音信号と、前記第2の収音信号と、の差分信号を生成する差分信号生成手段と、前記差分信号の絶対レベルが所定の閾値以上である場合に有効音検出信号を出力する差分信号レベル検出手段と、前記差分信号レベル検出手段が有効音検出信号を出力している場合にのみ、前記差分信号を出力する制御手段と、を備えたことを特徴とする。
この構成では、第1の収音信号と、第2の収音信号とが基準面に対して対称のエリアを収音した音声信号であるので、面対称の関係にある各収音信号の回り込み音声成分は基準面に垂直な方向に対して同じ大きさになる。この面対称の関係にある各収音信号を差分して差分信号を生成する。さらに、最大レベルとなる差分信号の絶対レベルが所定閾値以上であるか否かを検出し、所定閾値以上である場合にのみ差分信号を外部出力する。なお、基準面に対称のエリアを収音するためには、基準面に対して互いに指向軸が対称の方向を向いた2つの単一指向性のマイクを用いればよい。また、複数のマイクからなるマイクアレイを基準面に対して対称に構成することにより、基準面に対して対称な2つの収音ビームを生成するようにしてもよい。
また、この発明の放収音装置は、前記第1の収音手段、および前記第2の収音手段は、それぞれ複数のマイクが前記所定基準面に沿って一直線状に配列されたマイクアレイと、それぞれのマイクアレイに対して収音すべきエリアと反対の方向に仮想焦点を設定し、各マイクが収音した音声信号を、前記仮想焦点までの距離が等しくなるようにそれぞれ遅延して合成することにより、前記第1の収音信号、および第2の収音信号を前記所定基準面に対して対称のエリアから収音する収音ビーム生成手段と、からなることを特徴とする。
この発明では、所定基準面に沿ってマイクアレイを構成する。マイクアレイの後方に焦点を設定し、この焦点に収束する波面で音声信号を収音する。ここで、「仮想焦点までの距離が等しくなるように遅延する」とは、マイクアレイの複数のマイクは仮想焦点との距離がそれぞれ異なるが、これら複数のマイクを仮想焦点から等距離に配列したようなタイミングで信号を合成できるように仮想焦点から遠いマイクの収音信号を遅延させる処理である。このような処理をすることにより、仮想焦点からマイクアレイの両端を通過する2本の半直線で挟まれる範囲が収音エリアとなる。これらの収音エリアを基準面に対して対称とすることにより、第1の収音信号、および第2の収音信号を前記所定基準面に対して対称のエリアから収音する。
また、この発明の放収音装置は、前記差分信号レベル検出手段は、前記最大レベルの差分信号の絶対レベルが前記所定の閾値未満である状態が所定時間以上継続したとき有効音検出信号の出力を停止することを特徴とする。
この発明によれば、面対称の関係にある各収音信号を差分して差分信号を生成し、最大レベルとなる差分信号の絶対レベルが所定閾値以上であるか否かを検出し、所定閾値以上である場合にのみ差分信号を外部出力する構成としたことで、スピーカ、マイク一体型の構成であっても話者の音声(有効な音声)だけを的確に判定し、有効な音声だけを外部に出力することができる。
本発明の第1の実施形態に係る放収音装置について図を参照して説明する。
図1は、本実施形態に係る放収音装置1のマイク、スピーカ配置を示す平面図である。
本実施形態の放収音装置1は、筐体101に、複数のスピーカSP1〜SP3、複数のマイクMIC11〜MIC17,MIC21〜MIC27を備えて成る。
筐体101は一方向に長尺な略直方体形状からなり、筐体101の長尺な辺(面)の両端部には、筐体101の下面を設置面から所定間隔離間する所定高さの脚部(図示せず)が設置されている。なお、以下の説明では、筐体101の四側面のうち、長尺な面を長尺面、短尺な面を短尺面と称する。
筐体101の下面には、同形状からなる無指向性の単体スピーカSP1〜SP3が設置されている。これら単体スピーカSP1〜SP3は長尺方向に沿って一定の間隔で直線状に設置されており、且つ、各単体スピーカSP1〜SP3の中心を結ぶ直線は、筐体101の長尺面に沿い、短尺面の中心間を結ぶ中心軸100に対して水平方向位置が一致するように設置されている。すなわち、中心軸100を含む垂直な基準面にスピーカSP1〜SP3の中心を結ぶ直線が配置される。このように、単体スピーカSP1〜SP3を配列設置することでスピーカアレイSPA10が構成される。このような状態では、スピーカアレイSPA10の各単体スピーカSP1〜SP3から音声を放音すると、放音音声は二つの長尺面に同等に伝わる。この際、二つの対向する長尺面に伝搬する放音音声は、前記基準面に対して直交する互いに対称な方向へ進行する。
筐体101の一方の長尺面には、同一仕様のマイクMIC11〜MIC17が設置されている。これらマイクMIC11〜MIC17は長尺方向に沿って一定の間隔で直線状に設置されており、これによりマイクアレイMA10が構成される。また、筐体101の他方の長尺面にも、同一仕様のマイクMIC21〜MIC27が設置されている。これらマイクMIC21〜MIC27も長尺方向に沿って一定の間隔で直線状に設置されており、これにより、マイクアレイMA20が構成される。マイクアレイMA10とマイクアレイMA20とはその配列軸の垂直位置が一致するように配置されており、さらに、マイクアレイMA10の各マイクMIC11〜MIC17と、マイクアレイMA20の各マイクMIC21〜MIC27とは、それぞれ前記基準面に対して対称な位置に配置されている。具体的に、例えば、マイクMIC11とマイクMIC21とが基準面に対して対称の関係にあり、同様にマイクMIC17とマイクMIC27とが対称の関係にある。
なお、本実施形態では、スピーカアレイSPA10のスピーカ数を3本とし、各マイクアレイMA10,MA20のマイク数をそれぞれ7本としたが、これに限ることなく、仕様に応じてスピーカ数およびマイク数は適宜設定すればよい。また、スピーカアレイの各スピーカ間隔およびマイクアレイの各マイク間隔は一定ではなくてもよく、例えば、長尺方向に沿って中央部で密に配置され、両端部に向かうに従って疎に配置されるような態様でもよい。
本実施形態の放収音装置は、各マイクで収音した音声をそれぞれ遅延して合成することにより、マイクアレイ全体としての収音指向性をビーム化する。この収音ビームの向かう先で、特定のスポットまたはエリアで発生した発話者の音声を高いゲインで収音するとともに、発話者以外の音声(ノイズ)を抑制する。なお、ビーム化された収音指向性を収音ビームと呼ぶ。
この実施形態の放収音装置では、上記収音指向性のビーム化を2つのモードで行うことができる。図2は、この2つのモードを説明する図である。同図(A)は、第1のモードであるスポット収音モードを説明する図である。また、同図(B)は、第2のモードであるエリア収音モードを説明する図である。
同図(A)において、スポット収音モードは、収音したい地点(収音スポット)に焦点を結ぶような収音ビームを形成し、狭い範囲の音声を高ゲインで収音するモードである。ここで、収音スポットP1〜P4は、たとえば会議出席者の着席位置等に設定される。各マイクMIC11〜MIC17(またはMIC21〜MIC27)が収音した音声信号を、焦点(同図においてはF4)から等距離になるように遅延したのち合成することにより、焦点周辺で発生した音声を高ゲインで取り出すことができる。
ここで、焦点から等距離とは、焦点からマイクまでの物理的な距離と、マイクで収音した音声信号の遅延時間に音速を乗じた距離の和が各マイクに関して等しくなるということである。
なお、スポット収音モードでは、収音スポットを、会議室の座席等に合わせて複数設定する。例えば、図3(A)に示すように、マイクアレイMA10は、各収音スポットに向けた収音ビームMB11〜MB14を並行して形成し、マイクアレイMA20は、各収音スポットに向けた収音ビームMB21〜MB24を並行して形成する。
次に、図2(B)は、エリア収音モードを説明する図である。このモードは、マイクアレイの後方に仮想的な焦点F10を設定し、この焦点F10に向かう音声信号をマイクアレイで収音するモードである。このモードでは、前記仮想的な焦点F10からマイクアレイの両端MIC11,MIC17を通過する2本の半直線R10,R11で挟まれた範囲が収音エリアとなる。なお、エリア収音モードにおける仮想焦点位置は、F10の位置に限定されず、収音したいエリアに応じて設定される。図2(B)において、仮想的な焦点F10に最も近いマイクはマイクMIC11であり、その距離はL11である。他のマイクMIC12〜MIC17から焦点F10までの距離L12〜L17は、L11よりも長い。そこで、マイクMIC12〜MIC17から焦点までの仮想的な距離が、マイクMIC11とF10との距離L11に等しくなるように、マイクMIC12〜MIC17で収音した信号に対して、L12〜L17とL11との差に相当する遅延を付与する。これにより、収音エリアから到来した音声は、各マイクで収音されたのち、上記遅延によってタイミングが調整され、略同じタイミングで合成され、レベルを高くすることができる。
エリア収音モードは、上述のスポット収音モードに比べて収音する範囲が広い分、ゲインは高くないが、広いエリアを一括して収音することができ、話者が移動した場合に追従しなくても的確に収音することができる。このエリア収音モードでは、例えば、図3(B)に示すように、マイクアレイMA10は、マイクMIC11〜MIC17の前面収音エリアに向けた収音ビームMB101を形成し、マイクアレイMA20は、マイクMIC21〜MIC27の前面収音エリアに向けた収音ビームMB201を形成する。
次に、図4は、放収音装置1の構成を示すブロック図である。図4に示すように、本実施形態の放収音装置1は、操作部4、制御部10、入出力コネクタ11、入出力I/F12、放音指向性制御部13、D/Aコンバータ14、放音用アンプ15、前述のスピーカアレイSPA10(スピーカSP1〜SP3)、前述のマイクアレイMA10,MA20(マイクMIC11〜MIC17,MIC21〜MIC27)、収音用アンプ16、A/Dコンバータ17、収音ビーム生成部181,182、収音ビーム選択・補正部19、および、エコーキャンセル部20を備える。
制御部10は、放収音装置1を統括的に制御し、収音ビーム生成部181、182、および収音ビーム選択・補正部19に上述の2つの収音モードの切り換えを指示する。操作部4は、利用者からの操作入力を受け付けて制御部10に出力する。利用者は、操作部4を用いて2つの収音モードの切り換え指示をすることができる。また、制御部10は、収音ビーム選択・補正部19が検出する各収音ビームの信号レベルに基づいて、入出力I/F12に対し、音声信号を出力するか否かを設定する。すなわち、収音ビーム選択・補正部19は、各収音ビームの信号レベルから、有効音、無効音を判定し、制御部10は、有効音の判定結果を取得したときのみ音声信号を出力するように設定する。詳細は後述する。
入出力I/F12は、入出力コネクタ11を介して入力された、他の放収音装置からの入力音声信号をネットワークに対応するデータ形式(プロトコル)から変換して、エコーキャンセル部20を介して放音指向性制御部13に与える。また、入出力I/F12は、エコーキャンセル部20で生成される出力音声信号をネットワークに対応するデータ形式(プロトコル)に変換して、入出力コネクタ11を介して、ネットワークに送信する。
放音指向性制御部13は、放音指向性が設定されていなければ、スピーカアレイSPA10の各スピーカSP1〜SP3へ、入力音声信号に基づく放音信号を同時に与える。また、放音指向性制御部13は、仮想点音源の設定等の放音指向性が指定されると、指定された放音指向性に基づいて、スピーカアレイSPA10の各スピーカSP1〜SP3にそれぞれ固有の遅延処理及び振幅処理等を入力音声信号に対して行うことで個別放音信号を生成する。放音指向性制御部13は、これら個別放音信号をスピーカSP1〜SP3毎に設置されたD/Aコンバータ14に出力する。各D/Aコンバータ14は個別放音信号をアナログ形式に変換して各放音用アンプ15に出力し、各放音用アンプ15は個別放音信号を増幅してスピーカSP1〜SP3に与える。
スピーカSP1〜SP3は、与えられた個別放音信号を外部に放音する。スピーカSP1〜SP3は筐体101の下面に設置されているので、放音された音声は、放収音装置1が設置される机の設置面を反射して、装置の横から会議者のいる斜め上方に向かって伝搬される。また、放音音声の一部は、放収音装置1の底面からマイクアレイMA10,MA20が設置された側面へ回り込む。
マイクアレイMA10,MA20の各マイクMIC11〜MIC17、MIC21〜MIC27は、無指向性であっても有指向性であってもよいが、有指向性であることが望ましく、放収音装置1の外部からの音声を収音して収音信号を各収音用アンプ16に出力する。
この際、このようなスピーカアレイSPA10の構成およびマイクアレイMA10,MA20の構成から、基準面に対して対称位置にあるマイクアレイMA10のマイクMIC1n(n=1〜7)と、マイクアレイMA20のマイクMIC2n(n=1〜7)とで、スピーカアレイSPA10の単体スピーカSP1〜SP3からの回り込み音声が、同等に収音される。
各収音用アンプ16は、収音信号を増幅してそれぞれA/Dコンバータ17に与え、A/Dコンバータ17は、収音信号をデジタル変換して収音ビーム生成部181,182に出力する。収音ビーム生成部181には、一方の長尺面に設置されたマイクアレイMA10の各マイクMIC11〜MIC17での収音信号が入力され、収音ビーム生成部182には、他方の長尺面に設置されたマイクアレイMA20のマイクMIC21〜MIC27での収音信号が入力される。
収音ビーム生成部181、収音ビーム生成部182は、制御部10から指定された収音モードに基づいて、図2、図3に示したスポット型の収音ビームまたはエリア型の収音ビームのいずれかを形成するべく、各マイクが収音した音声信号に対して遅延処理を行う。
収音ビーム生成部181は、各マイクMIC11〜MIC17の収音信号に対して所定の遅延処理等を行い、スポット収音モード時には、上述したように特定のスポットから到来する音声を強調した信号である収音ビームMB11〜MB14を生成する。また、エリア収音モード時には、特定のエリアから到来する音声信号を強調した信号である収音ビームMB101を生成する。収音ビームMB11〜MB14は、図3(A)に示すように、マイクMIC11〜MIC17が設置された長尺面側で当該長尺面に沿ってそれぞれに異なる所定幅の領域が収音ビーム領域(収音ビームによって強調される特定の空間、方向)として設定されている。収音ビームMB101は、図3(B)に示すように、マイクMIC11〜MIC17が設置された長尺面側で当該長尺面に沿って所定幅の領域(広エリア)が収音ビーム領域として設定されている。
収音ビーム生成部182は、各マイクMIC21〜MIC27の収音信号に対して所定の遅延処理等を行い、スポット収音モード時には、収音ビームMB21〜MB24を生成する。また、エリア収音モード時には収音ビームMB201を生成する。収音ビームMB21〜MB24は、図3(A)に示すように、マイクMIC21〜MIC27が設置された長尺面側で当該長尺面に沿ってそれぞれに異なる所定幅の領域が収音ビーム領域として設定されている。収音ビーム201は、図3(B)に示すように、マイクMIC21〜MIC27が設置された長尺面側で当該長尺面に沿って所定幅の領域(広エリア)が収音ビーム領域として設定されている。
この際、収音ビームMB11と収音ビームMB21とは、前記中心軸100を有する垂直面(基準面)に対して対称なビームとして形成される。同様に、収音ビームMB12と収音ビームMB22、収音ビームMB13と収音ビームMB23、収音ビームMB14と収音ビームMB24も、前記基準面に対して対称なビームとして形成される。また、収音ビームMB101と収音ビームMB201も、前記基準面に対して対称なビームとして形成される。
収音ビーム選択・補正部19は、スポット収音モード時に入力された収音ビームMB11〜MB14と、収音ビームMB21〜MB24との差分信号をそれぞれ算出し、これらの差分信号のうち最もレベルの高い信号を選択し、その差分信号を補正収音ビームMBとしてエコーキャンセル部20に出力する。また、収音ビーム選択・補正部19は、エリア収音モード時に入力された収音ビームMB101と、収音ビームMB201との差分信号を算出して、この差分信号を補正収音ビームMBとしてエコーキャンセル部20に出力する。
さらに、収音ビーム選択・補正部19は、選択した差分信号の信号レベルから、有効音、無効音の判定結果を制御部10に出力する。収音ビーム選択・補正部19は、差分信号の信号レベルの絶対値が所定の閾値以上であれば有効音、閾値未満が所定時間以上継続していれば無効音として判定する。
図5は、収音ビーム選択・補正部19の主要構成を示すブロック図である。
収音ビーム選択・補正部19は、信号差分回路191、BPF(バンドパスフィルタ)192、全波整流回路193、ピーク検出回路194、レベル比較器195、信号選択回路196、波形整形回路197、および減算器199を備える。
信号差分回路191は、収音ビームMB11〜MB14、MB21〜MB24から、前記基準面に対称な収音ビーム同士を差分演算する。具体的に、収音ビームMB11とMB21とを差分演算して差分信号MS1を生成し、収音ビームMB12とMB22とを差分演算して差分信号MS2を生成する。また、収音ビームMB13とMB23とを差分演算して差分信号MS3を生成し、収音ビームMB14とMB24とを差分演算して差分信号MS4を生成する。このように生成される差分信号MS1〜MS4では、元となる収音ビーム同士が基準面上のスピーカアレイの軸に対して対称になる。
BPF192は、ビーム特性を主に有する帯域および人の音声の主成分帯域を通過帯域とするバンドパスフィルタであり、差分信号MS1〜MS4を帯域通過フィルタ処理して、全波整流回路193に出力する。全波整流回路193は、差分信号MS1〜MS4を全波整流(絶対値化)し、ピーク検出回路194は、全波整流された差分信号MS1〜MS4のピーク検出を行い、ピーク値データPs1〜Ps4を出力する。レベル比較器195は、ピーク値データPs1〜Ps4を比較して、最も高いレベルのピーク値データPsに対応する差分信号MSを選択する選択指示データを信号選択回路196に与える。また、レベル比較器195は、ピーク値データPs1〜Ps4のうち、最も高いレベルのピーク値データPsを波形整形回路197に出力する。
波形整形回路197は、レベル比較器195から入力されたピーク値データPsが所定の閾値以上であるか、閾値未満であるかを判定し、閾値以上であれば有効音検出信号を制御部10に出力し、閾値未満が所定時間以上(例えば50msec)継続していれば無効音検出信号を制御部10に出力する、または有効音検出信号の出力を停止する。波形整形回路197は、レベル比較器195から入力されたピーク値データPsが閾値未満であっても所定時間内であれば有効音検出信号を出力し続ける。制御部10は、有効音検出信号が入力された時のみ入出力I/F12に音声信号を出力するように設定し、無効音検出信号が入力された時(有効音検出信号が入力されない時)は入出力I/F12に音声信号を出力しないように設定する。
これは、発話者が存在する収音領域に対応する収音ビームの信号レベルが他の領域に対応する収音ビームの信号レベルよりも高いことを利用している。すなわち、基準面に対して対称関係にある収音ビーム同士において、一方が発話者の存在する収音領域に対応する収音ビームである場合、差分信号の信号レベルは、発話者からの発声音に基づいて或る程度の高さで存在する。ところが、双方が発話者の存在しない領域に対応する収音ビームである場合、互いの回り込み音声成分が相殺し合い、差分信号の信号レベルは極低くなる。このため、発話者の存在する収音領域に対応する収音ビームを含む差分信号が、他の差分信号よりも信号レベルが高くなる。したがって、最も信号レベルの高い差分信号を選択することで、発話者方向を検出することができ、また、この差分信号の信号レベルが所定閾値以上であれば発話者からの発声音が有ると判断することができる。
図6は、本実施形態の放収音装置1を机C上に配置し、二人の会議者A,Bが会議を行っている状況を示した図であり、(A)は会議者Aが発言している状況、(B)は会議者Bが発言している状況、(C)は会議者A,Bともに発言せず、遠方の音源Dから突発音が発生した状況を示す。
例えば、図6(A)に示すように、収音ビームMB13に対応する領域にいる会議者Aが発言すると、収音ビームMB13の信号レベルが他の収音ビームMB11,MB12,MB14、MB21〜MB24の信号レベルよりも高くなる。このため、収音ビームMB13から収音ビームMB23を差分した差分信号MS3の信号レベルが差分信号MS1,MS2,MS4の信号レベルよりも高くなる。この結果、差分信号MS3のピーク値データPs3が、他のピーク値データPs1,Ps2,Ps4より高くなり、レベル比較器195は、ピーク値データPs3を検出して、差分信号MS3を選択する選択指示データを信号選択回路196に与える。また、ピーク値データPs3は高レベル(閾値以上)であるため、波形整形回路197は、ピーク値データPs3が所定閾値を超えているとして、有効音検出信号を制御部10に出力する。
図7は、各収音ビーム、および差分信号の信号レベル(平均エネルギ)を示した図である。同図に示すグラフの横軸は時間を表す。同図(A)は、各収音ビームの信号レベルを示した図であり、同図(B)は、差分信号のうち、いずれか1つの信号レベルを示した図である。同図(C)は、波形整形回路197が出力する有効音/無効音検出信号を示した図である。
同図(A)に示すように、各収音ビームは、収音領域内で音声が発生していない場合に、平均エネルギが20dB程度を示しており、音声が発生すると、40〜60dB程度の平均エネルギを示す。ここで、各収音ビームは、400〜700msecの区間で40〜60dB程度の平均エネルギを示している。これらの収音ビームは、基準面に対して対称関係にある収音ビーム同士において、双方が同程度の平均エネルギを有するため、同図(B)に示すように、差分信号の平均エネルギがゼロdB程度となる。したがって、この場合、波形整形回路197は、ピーク値データPsが所定閾値未満であり、この状況が所定時間(例えば50msec)以上継続しているとして、無効音検出信号を制御部10に出力する。なお、この場合、レベル比較器195Aは、直前の最高レベルのピーク値データPsに基づいて選択指示データを信号選択回路196に与える。
一方で、各収音ビームは、700〜900msecの区間においても40〜60dB程度の平均エネルギを示しているが、いずれか1つの収音ビームが他の収音ビームよりも10dB程度高い平均エネルギを示す。この状況は、図6(A)に示したようないずれか1つの収音領域で発話者から音声が発生された状態である。したがって、同図(B)に示すように、差分信号MS3の平均エネルギが10dB程度となる。この場合、波形整形回路197は、ピーク値データPs3が所定閾値(例えば5dB)以上であるとして、有効音検出信号を制御部10に出力する。
また、各収音ビームは、続く900〜1100msec区間でも、40〜60dB程度の平均エネルギを示しているが、これらの収音ビームは、基準面に対して対称関係にある収音ビーム同士において、双方が同程度の平均エネルギを有する。したがって、上述のように、差分信号の平均エネルギがゼロdB程度となり、波形整形回路197は、無効音検出信号を制御部10に出力する。
一方、図6(B)に示すように、収音ビームMB21に対応する領域にいる会議者Bが発言すると、レベル比較器195Aは、ピーク値データPs1を検出して、差分信号MS1を選択する選択指示データを信号選択回路196に与える。この場合、図7(A)の、1100〜1200msec区間に示すように、各収音ビームは、40〜60dB程度の平均エネルギを示しているが、いずれか1つの収音ビーム(収音ビームMB21)が他の収音ビームよりも10dB程度高い平均エネルギを示す。
したがって、同図(B)に示すように、差分信号MS1の平均エネルギが−10dB程度となる。なお、この図7(B)では、説明を容易にするために、700〜900msec区間では差分信号MS3を、1100〜1200msec区間では、差分信号MS1の平均エネルギを示しているが、無論本音声会議装置は、それぞれの差分信号を算出しているものとする。ここで、差分信号がマイナスを示しているのは、信号差分回路191がマイクアレイMA10側の収音ビームからマイクアレイMA20側の収音ビームの信号レベルを減算しているからである。この場合、波形整形回路197は、ピーク値データPs1(絶対値)が所定閾値(例えば5dB)以上であるとして、有効音検出信号を制御部10に出力する。
また、図6(C)に示すように双方の会議者A,Bが発言していない状況で、遠方の音源Cから音声が発せられた場合、この音源Cは、いずれの収音ビームの収音領域にも対応していないため、各収音ビームの平均エネルギが高くなることはない。
以上のようにして、レベル比較器195で選択された選択指示データが信号選択回路196に出力され、信号選択回路196は、与えられた選択指示データに指示された差分信号MSを構成する二つの収音ビームMB1x,MB2x(x=1〜4)を選択する。例えば、図6(A)の状況であれば、差分信号MS3を構成する収音ビームMB13,MB23を選択し、図6(B)の状況であれば、差分信号MS1を構成する収音ビームMB11,MB21を選択する。
減算器199は、信号選択回路196から入力される収音ビームMB1xから、収音ビームMB2xを減算補正して、補正収音ビームMBをエコーキャンセル部20に与える。
例えば、図6(A)の状況であれば、収音ビームMB13から収音ビームMB23を減算して補正収音ビームMBとしてエコーキャンセル部20に与え、図6(B)の状況であれば、収音ビームMB11から収音ビームMB21を減算して補正収音ビームMBとしてエコーキャンセル部20に与える。
エコーキャンセル部20は、適応型フィルタ201とポストプロセッサ202とを備える。適応型フィルタ201は、入力音声信号に対して、選択された補正収音ビームMBの収音指向性に基づく擬似回帰音信号を生成する。ポストプロセッサ202は、収音ビーム選択・補正部19から出力される補正収音ビームMBから擬似回帰音信号を減算して、出力音声信号として入出力I/F12に出力する。このようなエコーキャンセル処理を行うことにより、収音ビーム選択・補正部19で抑圧しきれなかった回り込み音声を抑圧し、より高いS/N比で発声音を収音して出力することができる。
最後に、入出力I/F12は、エコーキャンセル部20から入力された出力音声信号を制御部10の設定に応じて出力する。すなわち、入出力I/F12は、図6(A)、同図(B)に示したような状況において、制御部10から音声信号を出力するように設定されている場合にのみ出力音声信号をネットワークに対応するデータ形式(プロトコル)に変換して、入出力コネクタ11を介して、ネットワークに送信する。入出力I/F12は、図6(C)に示したような状況において、制御部10から音声信号を出力しないように設定されている場合には、出力音声信号を変換せずに破棄する。
なお、上記説明では、収音ビームMB1xから収音ビームMB2xを減算補正する例を示しているが、逆に収音ビームMB2xから収音ビームMB1xを減算補正してもよい。いずれにしても、最大レベルを示す差分信号が(信号レベルは反転するが)出力されるため、この信号を受け取る放音側では発話者の音声(上記補正収音ビームMBに基づく音声)が放音される。
また、上記の説明は、収音ビーム選択・補正部19が制御部10からスポット収音モードを指定されている場合に行う動作であるが、エリア収音モード時においても同様の動作を行う。エリア収音モード時においても、収音ビームMB101と収音ビームMB201との差分信号の信号レベルが所定閾値以上であれば、有効音検出信号が収音ビーム選択・補正部19から制御部10に出力され、ネットワークに音声信号が出力されることとなる。一方で収音ビームMB101と収音ビームMB201との差分信号の信号レベルが所定閾値未満で、これが所定時間以上継続していれば、無効音検出信号が収音ビーム選択・補正部19から制御部10に出力され、ネットワークに音声信号が出力されない。
以上のように、一方のマイクアレイで収音される音声と、他方のマイクアレイで収音される音声との差分信号から有効音/無効音を検出し、有効音のみをネットワークに出力する構成により、送信する情報量を下げることができる。
なお、本実施形態の放収音装置がエリア収音モードのみ行う場合、マイクアレイMA10、およびMA20に換えて、基準面に対して互いに指向軸が対称の方向を向いた2つの単一指向性のマイクを用いてもよい。この場合、収音ビーム生成部181、および収音ビーム生成部182は、遅延制御を行うことなく、それぞれの単一指向性のマイクが収音した音声信号を後段に出力すればよい。
本実施形態に係る放収音装置のマイク、スピーカ配置を示す平面図 放収音装置の正面側,背面側の収音モードの設定例を示す図 放収音装置により形成される収音ビーム領域を示す図 放収音装置の構成を示すブロック図 図4に示す収音ビーム選択・補正部19の構成を示すブロック図 本実施形態の放収音装置1を机C上に配置し、二人の会議者A,Bが会議を行っている状況を示した図 各収音ビーム、および差分信号の信号レベル(平均エネルギ)を示した図
符号の説明
1−放収音装置
101−筐体
11−入出力コネクタ
12−入出力I/F
13−放音指向性制御部
14−D/Aコンバータ
15−放音用アンプ
16−収音用アンプ
17−A/Dコンバータ
181,182−収音ビーム生成部
19−収音ビーム選択・補正部
20−エコーキャンセル部
201−適応型フィルタ
202−ポストプロセッサ
SP1〜SP3−スピーカ
SPA10−スピーカアレイ
MIC11〜MIC17,MIC21〜MIC27−マイク
MA10,MA20−マイクアレイ

Claims (6)

  1. 所定基準面に対して対称となる音圧で音声を放音するスピーカと、
    前記所定基準面の一方側の音声を収音する第1マイク群および他方側の音声を収音する第2マイク群と、
    前記第1マイク群の収音信号に基づく第1収音ビーム群の各収音ビームと、前記第2マイク群の収音信号に基づく第2収音ビーム群の各収音ビームと、を前記所定基準面に対して対称に生成する収音ビーム生成手段と、
    前記第1収音ビーム群の各収音ビームと、対称に生成した前記第2収音ビームの各収音ビームと、の差分信号をそれぞれ生成する差分信号生成手段と、
    各差分信号の絶対レベルを比較し、最大レベルの差分信号を選択する信号比較手段と、
    前記最大レベルの差分信号の絶対レベルが所定の閾値以上である場合に有効音検出信号を出力する差分信号レベル検出手段と、
    前記差分信号レベル検出手段が有効音検出信号を出力している場合にのみ、前記信号比較手段が選択した最大レベルの差分信号を出力する収音ビーム出力手段と、
    を備えた放収音装置。
  2. 前記第1マイク群と前記第2マイク群とは、それぞれに複数のマイクが前記所定基準面に沿って一直線状に配列されたマイクアレイである請求項1に記載の放収音装置。
  3. 前記差分信号レベル検出手段は、前記最大レベルの差分信号の絶対レベルが前記所定の閾値未満である状態が所定時間以上継続したとき有効音検出信号の出力を停止する請求項1、または請求項2に記載の放収音装置。
  4. 所定基準面に対して対称となる音圧で音声を放音するスピーカと、
    前記所定基準面の一方側の所定エリアの音声を第1の収音信号として収音する第1の収音手段、および前記所定基準面に対して前記第1の収音信号と対称となる他方側のエリアの音声を第2の収音信号として収音する第2の収音手段と、
    前記第1の収音信号と、前記第2の収音信号と、の差分信号を生成する差分信号生成手段と、
    前記差分信号の絶対レベルが所定の閾値以上である場合に有効音検出信号を出力する差分信号レベル検出手段と、
    前記差分信号レベル検出手段が有効音検出信号を出力している場合にのみ、前記差分信号を出力する制御手段と、
    を備えた放収音装置。
  5. 前記第1の収音手段、および前記第2の収音手段は、それぞれ複数のマイクが前記所定基準面に沿って一直線状に配列されたマイクアレイと、
    それぞれのマイクアレイに対して収音すべきエリアと反対の方向に仮想焦点を設定し、各マイクが収音した音声信号を、前記仮想焦点までの距離が等しくなるようにそれぞれ遅延して合成することにより、前記第1の収音信号、および第2の収音信号を前記所定基準面に対して対称のエリアから収音する収音ビーム生成手段と、
    からなる請求項4に記載の放収音装置。
  6. 前記差分信号レベル検出手段は、前記最大レベルの差分信号の絶対レベルが前記所定の閾値未満である状態が所定時間以上継続したとき有効音検出信号の出力を停止する請求項4、または請求項5に記載の放収音装置。
JP2007100489A 2007-04-06 2007-04-06 放収音装置 Expired - Fee Related JP5050616B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007100489A JP5050616B2 (ja) 2007-04-06 2007-04-06 放収音装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007100489A JP5050616B2 (ja) 2007-04-06 2007-04-06 放収音装置

Publications (2)

Publication Number Publication Date
JP2008259022A true JP2008259022A (ja) 2008-10-23
JP5050616B2 JP5050616B2 (ja) 2012-10-17

Family

ID=39982142

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007100489A Expired - Fee Related JP5050616B2 (ja) 2007-04-06 2007-04-06 放収音装置

Country Status (1)

Country Link
JP (1) JP5050616B2 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10367948B2 (en) 2017-01-13 2019-07-30 Shure Acquisition Holdings, Inc. Post-mixing acoustic echo cancellation systems and methods
USD865723S1 (en) 2015-04-30 2019-11-05 Shure Acquisition Holdings, Inc Array microphone assembly
USD944776S1 (en) 2020-05-05 2022-03-01 Shure Acquisition Holdings, Inc. Audio device
US11297426B2 (en) 2019-08-23 2022-04-05 Shure Acquisition Holdings, Inc. One-dimensional array microphone with improved directivity
US11297423B2 (en) 2018-06-15 2022-04-05 Shure Acquisition Holdings, Inc. Endfire linear array microphone
US11302347B2 (en) 2019-05-31 2022-04-12 Shure Acquisition Holdings, Inc. Low latency automixer integrated with voice and noise activity detection
US11303981B2 (en) 2019-03-21 2022-04-12 Shure Acquisition Holdings, Inc. Housings and associated design features for ceiling array microphones
US11310596B2 (en) 2018-09-20 2022-04-19 Shure Acquisition Holdings, Inc. Adjustable lobe shape for array microphones
US11438691B2 (en) 2019-03-21 2022-09-06 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition functionality
US11445294B2 (en) 2019-05-23 2022-09-13 Shure Acquisition Holdings, Inc. Steerable speaker array, system, and method for the same
US11523212B2 (en) 2018-06-01 2022-12-06 Shure Acquisition Holdings, Inc. Pattern-forming microphone array
US11552611B2 (en) 2020-02-07 2023-01-10 Shure Acquisition Holdings, Inc. System and method for automatic adjustment of reference gain
US11558693B2 (en) 2019-03-21 2023-01-17 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition and voice activity detection functionality
US11678109B2 (en) 2015-04-30 2023-06-13 Shure Acquisition Holdings, Inc. Offset cartridge microphones
US11706562B2 (en) 2020-05-29 2023-07-18 Shure Acquisition Holdings, Inc. Transducer steering and configuration systems and methods using a local positioning system
US11785380B2 (en) 2021-01-28 2023-10-10 Shure Acquisition Holdings, Inc. Hybrid audio beamforming system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03136557A (ja) * 1989-10-23 1991-06-11 Nec Corp ステレオ用音声会議装置
JP2003087890A (ja) * 2001-09-14 2003-03-20 Sony Corp 音声入力装置及び音声入力方法
JP2005333270A (ja) * 2004-05-18 2005-12-02 Sony Corp マイクロフォン信号生成方法および通話装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03136557A (ja) * 1989-10-23 1991-06-11 Nec Corp ステレオ用音声会議装置
JP2003087890A (ja) * 2001-09-14 2003-03-20 Sony Corp 音声入力装置及び音声入力方法
JP2005333270A (ja) * 2004-05-18 2005-12-02 Sony Corp マイクロフォン信号生成方法および通話装置

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11310592B2 (en) 2015-04-30 2022-04-19 Shure Acquisition Holdings, Inc. Array microphone system and method of assembling the same
USD865723S1 (en) 2015-04-30 2019-11-05 Shure Acquisition Holdings, Inc Array microphone assembly
USD940116S1 (en) 2015-04-30 2022-01-04 Shure Acquisition Holdings, Inc. Array microphone assembly
US11832053B2 (en) 2015-04-30 2023-11-28 Shure Acquisition Holdings, Inc. Array microphone system and method of assembling the same
US11678109B2 (en) 2015-04-30 2023-06-13 Shure Acquisition Holdings, Inc. Offset cartridge microphones
US11477327B2 (en) 2017-01-13 2022-10-18 Shure Acquisition Holdings, Inc. Post-mixing acoustic echo cancellation systems and methods
US10367948B2 (en) 2017-01-13 2019-07-30 Shure Acquisition Holdings, Inc. Post-mixing acoustic echo cancellation systems and methods
US11523212B2 (en) 2018-06-01 2022-12-06 Shure Acquisition Holdings, Inc. Pattern-forming microphone array
US11800281B2 (en) 2018-06-01 2023-10-24 Shure Acquisition Holdings, Inc. Pattern-forming microphone array
US11297423B2 (en) 2018-06-15 2022-04-05 Shure Acquisition Holdings, Inc. Endfire linear array microphone
US11770650B2 (en) 2018-06-15 2023-09-26 Shure Acquisition Holdings, Inc. Endfire linear array microphone
US11310596B2 (en) 2018-09-20 2022-04-19 Shure Acquisition Holdings, Inc. Adjustable lobe shape for array microphones
US11303981B2 (en) 2019-03-21 2022-04-12 Shure Acquisition Holdings, Inc. Housings and associated design features for ceiling array microphones
US11438691B2 (en) 2019-03-21 2022-09-06 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition functionality
US11558693B2 (en) 2019-03-21 2023-01-17 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition and voice activity detection functionality
US11778368B2 (en) 2019-03-21 2023-10-03 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition functionality
US11445294B2 (en) 2019-05-23 2022-09-13 Shure Acquisition Holdings, Inc. Steerable speaker array, system, and method for the same
US11800280B2 (en) 2019-05-23 2023-10-24 Shure Acquisition Holdings, Inc. Steerable speaker array, system and method for the same
US11302347B2 (en) 2019-05-31 2022-04-12 Shure Acquisition Holdings, Inc. Low latency automixer integrated with voice and noise activity detection
US11688418B2 (en) 2019-05-31 2023-06-27 Shure Acquisition Holdings, Inc. Low latency automixer integrated with voice and noise activity detection
US11750972B2 (en) 2019-08-23 2023-09-05 Shure Acquisition Holdings, Inc. One-dimensional array microphone with improved directivity
US11297426B2 (en) 2019-08-23 2022-04-05 Shure Acquisition Holdings, Inc. One-dimensional array microphone with improved directivity
US11552611B2 (en) 2020-02-07 2023-01-10 Shure Acquisition Holdings, Inc. System and method for automatic adjustment of reference gain
USD944776S1 (en) 2020-05-05 2022-03-01 Shure Acquisition Holdings, Inc. Audio device
US11706562B2 (en) 2020-05-29 2023-07-18 Shure Acquisition Holdings, Inc. Transducer steering and configuration systems and methods using a local positioning system
US11785380B2 (en) 2021-01-28 2023-10-10 Shure Acquisition Holdings, Inc. Hybrid audio beamforming system

Also Published As

Publication number Publication date
JP5050616B2 (ja) 2012-10-17

Similar Documents

Publication Publication Date Title
JP5050616B2 (ja) 放収音装置
JP4984683B2 (ja) 放収音装置
US11381906B2 (en) Conference system with a microphone array system and a method of speech acquisition in a conference system
JP4816221B2 (ja) 収音装置および音声会議装置
JP4894353B2 (ja) 放収音装置
JP4929740B2 (ja) 音声会議装置
KR101715779B1 (ko) 음원 신호 처리 장치 및 그 방법
JP2006121709A (ja) 天井マイクロホンアセンブリ
JP4802708B2 (ja) 放収音装置
JP7271862B2 (ja) 音声処理装置
JP3932928B2 (ja) 拡声装置
WO2009110576A1 (ja) 収音装置
JP5028833B2 (ja) 放収音装置
JP7060905B1 (ja) 収音システム、収音方法及びプログラム
JP2007318521A (ja) 放収音装置
JP5141442B2 (ja) 収音装置、及び放収音装置
JP4867248B2 (ja) スピーカ装置及び音声会議装置
WO2022102322A1 (ja) 収音システム、収音方法及びプログラム
JP5633144B2 (ja) 音信号処理装置
JP2007006073A (ja) スピーカ装置
JP2007318274A (ja) 放収音装置
JP2009010808A (ja) 拡声装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110502

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110719

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110719

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120611

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120626

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120709

R150 Certificate of patent or registration of utility model

Ref document number: 5050616

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150803

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees