JP2012247300A - 位置測定システム - Google Patents

位置測定システム Download PDF

Info

Publication number
JP2012247300A
JP2012247300A JP2011119072A JP2011119072A JP2012247300A JP 2012247300 A JP2012247300 A JP 2012247300A JP 2011119072 A JP2011119072 A JP 2011119072A JP 2011119072 A JP2011119072 A JP 2011119072A JP 2012247300 A JP2012247300 A JP 2012247300A
Authority
JP
Japan
Prior art keywords
node
nodes
sound
sound source
sound signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011119072A
Other languages
English (en)
Other versions
JP5412470B2 (ja
Inventor
Hiroshi Kawaguchi
博 川口
Masahiko Yoshimoto
雅彦 吉本
Shinpei Soda
心平 祖田
Tomoya Takagi
智也 高木
Shintaro Izumi
慎太郎 和泉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Semiconductor Technology Academic Research Center
Original Assignee
Semiconductor Technology Academic Research Center
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Semiconductor Technology Academic Research Center filed Critical Semiconductor Technology Academic Research Center
Priority to JP2011119072A priority Critical patent/JP5412470B2/ja
Publication of JP2012247300A publication Critical patent/JP2012247300A/ja
Application granted granted Critical
Publication of JP5412470B2 publication Critical patent/JP5412470B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)

Abstract

【課題】従来技術に比較して高精度で端末の位置を測定することができる位置測定システムを提供する。
【解決手段】位置測定システムは、マイクロホンアレイを備えた複数のノードが相互にネットワークで接続されかつ時刻同期されたマイクロホンアレイ・ネットワークシステムを用いて、各ノードの位置を推定する制御部を備える。各ノードは、マイクロホンアレイで受信した、1つのノードからのサウンド信号に基づいて、サウンド信号の到来方向の角度を推定する音源推定処理部と、サウンド信号の送信時刻と受信時刻との差分とサウンド信号の速度に基づいて、サウンド信号を送信したノードからの距離を推定する距離推定部と、推定された到来方向の角度及び距離を他のノードに対してデータ通信で送受信するデータ通信部とを備え、制御部は、推定された到来方向の角度及び距離に基づいて、各ノードの位置を推定して計算する。
【選択図】図14A

Description

本発明は、高音質な音声取得を目的とするマイクロホンアレイ・ネットワークシステムならびにマイクロホンアレイ・ネットワークシステムを用いた位置測定システムに関する。
従来、音声を利用するアプリケーションシステム(例えば、複数台のマイクロホンを接続するような音声会議システム、音声認識するロボットシステム、各種音声インタフェースを備えたシステム等)では、高音質な音声を利用するために、音源定位、音源分離、雑音除去、エコーキャンセル等の様々な音声処理を行っている。
特に、高音質な音声取得を目的として、音源定位や音源分離を主な処理とするマイクロホンアレイが広く研究されている。ここで、音源定位とは音の到達時間差などから音源の方向・位置を特定することであり、また音源分離は音源定位の結果を利用して雑音となる音源を消去し特定方向にある特定音源の抽出を行うことである。
マイクロホンアレイを用いた音声処理は、通常、マイクロホン数が多いほど雑音処理などの音声処理性能が向上することが知られている。また、そのような音声処理では、音源の位置情報を用いる音源定位の手法が多く存在している(例えば、非特許文献1を参照。)。音源定位の結果が正確であるほど音声処理が有効に働くことになる。すなわち、マイクロホン数を増加して音源定位の高精度化と高音質のための雑音除去を同時に図ることが必要とされている。
従来の大規模マイクロホンアレイを用いた音源定位の場合、図10に示すように、音源の位置範囲を網目状に分割し、各区間に対して音源位置を確率的に求める。この計算には、全音声データをワークステーションなどの一箇所の音声処理サーバに収集し、全音声データを一括処理して音源の位置を推定していた(例えば、非特許文献2を参照。)。このような全音声データの一括処理の場合には、音声収集のためのマイクロホンと音声処理サーバ間の信号配線長、通信量や音声処理サーバでの演算量が膨大となっていた。配線長、通信量、音声処理サーバでの演算量の増大、また音声処理サーバ一箇所に多数のA/Dコンバータを配置できないという物理的な制限によって、マイクロホン数を増やせないという問題がある。また、信号配線長が長くなることによるノイズの発生の問題もある。そのため、高音質を追求するためのマイクロホン数の増加が困難であるという問題が生じていた。
かかる問題を改善する方法として、複数のマイクロホンを小アレイに分割し、それを統合するマイクロホンアレイによる音声処理システムが知られている(例えば、非特許文献3を参照。)。
しかしながら、かかる音声処理システムの場合でも、小アレイで取得した全てのマイクロホンの音声データを、ネットワークを介して一箇所の音声サーバに統合することから、ネットワークの通信トラフィックの増加の問題がある。また、通信データ量や通信トラフィック量の増加に伴う音声処理の遅延が生じるという問題がある。
また、今後、ユビキタス・システムにおける収音やテレビ会議システムなどの要求に応えるためには、より多くのマイクロホンが必要となってくる(例えば、特許文献1を参照。)。しかしながら、上述の通り、現状のマイクロホンアレイのネットワークシステムでは、マイクロホンアレイで得られた音声データをそのままサーバに転送しているに過ぎない。マイクロホンアレイの各ノードが相互に音源の位置情報を交換して、システム全体の計算量の低減ならびにネットワークの通信量の低減を図るシステムは見当たらない。
従って、マイクロホンアレイのネットワークシステムの大規模化を想定し、システム全体の計算量の低減ならびにネットワークの通信量を抑えるようなシステムアーキテクチャーが重要となる。
上述したように、音声処理サーバにおける通信量と演算量を抑えながら、数多くのマイクロホンアレイを用いて音源定位精度を高め、雑音除去などの音声処理を有効に行わせることが求められている。
また、昨今、音源を用いた位置測定システムが提案されている。例えば、特許文献2では、超音波タグとマイクロホンアレイとを用いて超音波タグを算定することが開示されている。さらに、特許文献3では、マイクロホンアレイを用いて収音を行うことが開示されている。
特開2008−113164号公報 国際公開第2008/026463号パンフレット 特開2008−058342号公報
R.O. Schmidt, "Multiple emitter location and signal parameter estimation", In Proceedings of the RADC Spectrum Estimation Workshop, pp.243-248, October 1979. E. Weinstein et al., "Loud: A 1020-node modular microphone array and beamformer for intelligent computing spaces", MIT, MIT/LCS Technical Memo MIT-LCS-TM-642, April 2004. A. Brutti et al., "Classification of Acoustic Maps to Determine Speaker Position and Orientation from a Distributed Microphone Network", In Proceedings of ICASSP, Vol. IV, pp. 493-496, April. 2007.
しかしながら、多くのモバイル端末に搭載されているGPSシステムやWiFiシステムの位置測定機能では、地図上のおおまかな位置を取得できても、数十cmといった近距離での端末間の位置関係を取得できないという問題点があった。
本発明の目的は以上の問題点を解決し、従来技術に比較して高精度で端末の位置を測定することができる位置測定システムを提供することにある。
本発明に係る位置測定システムは、マイクロホンアレイを備えた複数のノードが相互にネットワークで接続されかつ時刻同期されたマイクロホンアレイ・ネットワークシステムを用いて、上記各ノードの位置を推定する制御部を備えた位置測定システムであって、
上記各ノードは、
複数のマイクロホンをアレイ状に配列して構成されたマイクロホンアレイと、
上記マイクロホンアレイで受信した、1つのノードからのサウンド信号に基づいて、上記サウンド信号の到来方向の角度を推定する音源推定処理部と、
上記サウンド信号の送信時刻と受信時刻との差分とサウンド信号の速度に基づいて、上記サウンド信号を送信したノードからの距離を推定する距離推定部と、
上記推定された到来方向の角度及び距離を他のノードに対してデータ通信で送受信するデータ通信部とを備え、
上記制御部は、上記推定された到来方向の角度及び距離に基づいて、上記各ノードの位置を推定して計算することを特徴とする。
上記位置測定システムにおいて、上記制御部は、上記各ノードの位置に基づいて座標値を計算して表示し又は出力することを特徴とする。
また、上記位置測定システムにおいて、上記制御部は、上記各ノードの位置を用いて所定のアプリケーションを実行することを特徴とする。
さらに、上記位置測定システムにおいて、上記各ノードは表示部を備え、上記制御部は、上記所定のアプリケーションにおいて、上記計算された各ノードの位置に基づいて、上記表示部上で上記各ノードに対する方向を対応させ、上記表示部上で所定のデータを送信すべきノードに向けてドラッグすることにより、当該送信すべきノードを指示し、当該指示されたノードに対して上記所定のデータを送信することを特徴とする。
またさらに、上記位置測定システムにおいて、上記制御部は、上記各ノード、上記複数のノードのうちの1つのノード、もしくは、上記複数のノードとは別のサーバ装置に設けられたことを特徴とする。
従って、本発明によれば、従来技術に比較して高精度で端末の位置を測定することができる位置測定システムを提供することができる。
本発明の第1の実施形態に係る音源定位システムの構成を示す説明図である。 図1の音源定位システムにおける2次元の音源定位を説明する説明図である。 図1の音源定位システムにおける3次元の音源定位を説明する説明図である。 本発明の実施例1に係るマイクロホンアレイ・ネットワークシステムの構成を示す構成図である。 図4のマイクロホンアレイを備えたノードの構成を示す構成図である。 図4のマイクロホンアレイ・ネットワークシステムの機能を示す機能図である。 図4のマイクロホンアレイ・ネットワークシステムにおける3次元の音源定位精度の実験を説明する説明図である。 図4のマイクロホンアレイ・ネットワークシステムにおける3次元の音源定位精度向上を示す測定結果を示すグラフである。 本発明の実施例2に係るマイクロホンアレイ・ネットワークシステムの構成を示す構成図である。 従来技術に係る音源定位システムを説明する説明図である。 本発明の第2の実施形態に係る位置測定システムで用いるノードの詳細構成を示すブロック図である。 図11の位置測定システムで用いるネットワークの構成を示すブロック図である。 図12の位置測定システムで用いる線形補間付き時間同期を示すグラフである。 図12の位置測定システムにおける各タブレット間の信号伝送手順及び各タブレットで実行される各処理を示すタイミングチャートの第1の部分である。 図12の位置測定システムにおける各タブレット間の信号伝送手順及び各タブレットで実行される各処理を示すタイミングチャートの第2の部分である。 図12の位置測定システムの各タブレットで測定された角度情報から各タブレット間の距離を測定する方法を示す平面図である。 図12の位置測定システムを用いたメッセージ交換システムの概念を示す平面図である。 図15のメッセージ交換システムの1つのアプリケーションを示すディスプレイの表示例である。 図12の位置測定システムを用いたホッケーゲームシステムの概念を示す平面図である。 図17のホッケーゲームシステムのサーバ装置の実行画面の表示例である。 図17のホッケーゲームシステムを実行しているときのタブレットの表示例である。
以下、本発明に係る実施形態について図面を参照して説明する。なお、以下の各実施形態において、同様の構成要素については同一の符号を付している。
(第1の実施形態)
図1は、本発明の音源定位の説明図を示している。図1に示すように、マイクロホンアレイを備えた6つのノードと1つの音声処理サーバ20がネットワーク10で接続されている。複数のマイクロホンをアレイ状に配列して構成されたマイクロホンアレイを備える6つのノードは、室内の四方の壁面に存在し、それぞれのノード内に存在する収音処理用のプロセッサで音源方向の推定を行い、その結果を音声処理サーバに統合することで音源の位置を特定する。各ノードでデータの処理を行うために、ネットワークの通信量が削減でき、ノード間で演算量が分散されるものである。
以下では、2次元の音源定位の場合と3次元の音源定位の場合に分けて詳細に説明する。先ず、本発明の2次元の音源定位方法について図2を参照しながら説明する。図2は2次元の音源定位方法を説明している。図2に示すように、ノード1〜ノード3は、それぞれのマイクロホンアレイから収音した収音信号から音源方向を推定する。各ノードは、各方向に対して、MUSIC法の応答強度を計算して、その最大値をとる方向を音源方向と推定している。図2では、ノード1がマイクロホンアレイの配列面の垂線方向(正面方向)を0°とし、−90°〜90°までの方向に対して、応答強度を計算し、θ1=−30°の方向を音源方向と推定する場合を示している。ノード2やノード3も同様に各方向に対して、応答強度を計算して、その最大値をとる方向を音源方向と推定する。
そして、ノード1とノード2、或いは、ノード1とノード3というように、2つのノードの音源方向推定結果の交点に対して、重み付けを行っていく。ここで、重みは、各ノードのMUSIC法の最大応答強度に基づいて決定している(例えば2つのノードの最大応答強度の積とする)。図2では、重みのスケールを交点部分の丸印の径で表現している。
得られた複数の重みを示す丸印(位置とスケール)は音源位置候補となる。そして、得られた複数の音源位置候補の重心を求めることで音源位置を推定する。図2の場合、複数の音源位置候補の重心を求めるとは、複数の重みを示す丸印(位置とスケール)の重み付き重心を求めることである。
次に、本発明の3次元の音源定位方法について図3を参照しながら説明する。図3は3次元の音源定位方法を説明している。図3に示すように、ノード1〜ノード3は、それぞれのマイクロホンアレイから収音した収音信号から音源方向を推定する。各ノードは、3次元方向に対して、MUSIC法の応答強度を計算して、その最大値をとる方向を音源方向と推定している。図3は、ノード1がマイクロホンアレイの配列面の垂線方向(正面方向)の回転座標系の方向に対して、応答強度を計算し、強度が大きな方向を音源方向と推定する場合を示している。ノード2やノード3も同様に各方向に対して、応答強度を計算して、その最大値をとる方向を音源方向と推定する。
そして、ノード1とノード2、或いは、ノード1とノード3というように、2つのノードの音源方向推定結果の交点に対して、重みを求めていくのであるが、3次元の場合には交点が得られないことが多い。そのため、2つのノードの音源方向推定結果の直線を最短で結ぶ線分上に仮想的に交点を求めることにしている。なお、重みは、2次元と同様に、各ノードのMUSIC法の最大応答強度に基づいて決定している(例えば2つのノードの最大応答強度の積とする)。図3では、図2と同様に、重みのスケールを交点部分の丸印の径で表現している。
得られた複数の重みを示す丸印(位置とスケール)は音源位置候補となる。そして、得られた複数の音源位置候補の重心を求めることで音源位置を推定する。図3の場合、複数の音源位置候補の重心を求めるとは、複数の重みを示す丸印(位置とスケール)の重み付き重心を求めることである。
本発明の一実施形態について説明する。図4は、実施例1のマイクロホンアレイ・ネットワークシステムの構成図を示している。図4は、16個のマイクロホンがアレイ状に配列されたマイクロホンアレイ備えたノード(1a,1b,…,1n)と1つの音声処理サーバ20がネットワーク10で接続されたシステム構成を示している。それぞれのノードは、図5に示すように、16個のアレイ状に配列されたマイクロホン(m11,m12,…,m43,m44)の信号線が収音処理部2の入出力部(I/O部)3に接続されており、マイクロホンから収音された信号が収音処理部2のプロセッサ4に入力される。収音処理部2のプロセッサ4は、入力した収音信号を用いて、MUSIC法のアルゴリズムの処理を行って音源方向の推定を行う。
そして、収音処理部2のプロセッサ4は、図4で示される音声処理サーバ20に対して、音源方向推定結果と最大応答強度を送信する。
このように、各ノード内で分散して音声定位を行い、その結果を音声処理サーバに統合し、上述の2次元定位や3次元定位の処理を行い、音源の位置を推定する。
図6は、実施例1のマイクロホンアレイ・ネットワークシステムの機能図を示している。
マイクロホンアレイを備えるノードは、マイクロホンアレイからの信号をA/D変換し(ステップS11)、各マイクロホンの収音信号を入力する(ステップS13)。各マイクロホンから収音した信号を用いて、ノートに搭載されているプロセッサが収音処理部として音源方向を推定する(ステップS15)。
収音処理部は、図6に示すグラフのように、マイクロホンアレイの正面(垂線方向)を0°とし、その左右−90°〜90°までの方向について、MUSIC法の応答強度を算出する。そして、応答強度が強い方向を音源方向と推定する。その収音処理部は、図示しないネットワークを介して音声処理サーバと接続されており、ノード内で音源方向推定結果(A)と最大応答強度(B)をデータ交換している(ステップS17)。音源方向推定結果(A)と最大応答強度(B)は、音声処理サーバに送られる。
音声処理サーバでは、各ノードから送られてくるデータを受信する(ステップS21)。各ノードの最大応答強度から複数の音源位置候補を算出する(ステップS23)。そして、音源方向推定結果(A)と最大応答強度(B)に基づいて音源の位置を推定する(ステップS25)。
以下では、3次元の音源定位精度を説明する。図7は3次元の音源定位精度の実験の様子を模式図で示したものである。床面積が12m×12mで高さが3mの部屋を想定している。16個のマイクロホンをアレイ状に配列したマイクロホンアレイを床面の四方に等間隔で並べた16のサブアレイを想定した(16サブアレイのケースA)。また、マイクロホンアレイを床面の四方に16個及び天井面の四方に16個のマイクロホンアレイを等間隔で並べ、更に、床面に等間隔に9つのマイクロホンアレイを配置した41のサブアレイを想定した(41サブアレイのケースB)。また、マイクロホンアレイを床面の四方に32個及び天井面の四方に32個のマイクロホンアレイを等間隔で並べ、更に、床面に等間隔に9つのマイクロホンアレイを配置した73のサブアレイを想定した(73サブアレイのケースC)。
この3つのケースA〜Cを用いて、ノード数と各ノードの音源方向推定の誤差ばらつきを変更し、3次元位置推定の結果を比較した。3次元位置推定は、各ノードが通信相手をひとつランダムに選び、仮想交点を求めている。
測定した結果を図8に示す。図8の横軸は、方向推定誤差のばらつき(標準偏差)を示しており、縦軸は、位置推定誤差を示している。図8の結果から、音源方向の推定精度が悪くても、ノード数を増やすことで、3次元位置推定の精度を向上させられることがわかる。
本発明の他の実施形態について説明する。図9は、実施例2のマイクロホンアレイ・ネットワークシステムの構成図を示している。図9は、16個のマイクロホンがアレイ状に配列されたマイクロホンアレイ備えたノード(1a,1b,1c)がネットワーク(11,12)で接続されたシステム構成を示している。実施例2のシステムの場合、実施例1のシステム構成と異なり、音声処理サーバが存在しない。また、それぞれのノードは、実施例1と同様に、図5に示すように、16個のアレイ状に配列されたマイクロホン(m11,m12,…,m43,m44)の信号線が収音処理部2のI/O部3に接続されており、マイクロホンから収音された信号が収音処理部2のプロセッサ4に入力される。収音処理部2のプロセッサ4は、入力した収音信号を用いて、MUSIC法のアルゴリズムの処理を行って音源方向の推定を行う。
そして、収音処理部2のプロセッサ4は、隣接するノードや他のノードとの間で、音源方向推定結果をデータ交換する。収音処理部2のプロセッサ4は、自ノードを含む複数のノードの音源方向推定結果及び最大応答強度から、上述の2次元定位や3次元定位の処理を行い、音源の位置を推定する。
(第2の実施形態)
図11は本発明の第2の実施形態に係る位置測定システムで用いるノードの詳細構成を示すブロック図である。第2の実施形態に係る位置測定システムは、第1の実施形態に係る音源定位システムを用いて、従来技術に比較して高精度で端末の位置を測定することを特徴としている。本実施形態に係る位置測定システムは、例えばユビキタスネットワークシステム(UNS)を用いて構築され、例えば16個のマイクロホンを有する小規模なマイクロホンアレイ(センサノード)を所定のネットワークで結ぶことで、全体として大規模なマイクロホンアレイ音声処理システムを構築することにより、位置測定システムを構成する。ここで、センサノードにはそれぞれマイクロホンロプロセッサを搭載し、分散・協調し合って音声処理を行う。
センサノードのブロック図を図11に示す。各センサノードは、
(1)収音する複数のマイクロホン1に接続されたAD変換回路51と、
(2)AD変換回路51に接続され音声信号を検知するための発話推定処理部(Voice Activity Detection:以下、VAD処理部という。)52と、
(3)AD変換回路51によりAD変換された音声信号又はサウンド信号を含む音声信号等(ここで、サウンド信号は、例えば、500Hzなどの可聴周波数の信号もしくは超音波信号をいう。)を一時的に記憶するSRAM(Static Random Access Memory)54と、
(4)SRAM54から出力される音声信号等のディジタルデータに対して音源の位置を推定する音源定位(Sound Source Localization)処理を実行してその結果をSSS処理部56に出力するSSL処理部55と、
(5)SRAM54及びSSL処理部55から出力される音声信号等のディジタルデータに対して、特定の音源を抽出する音源分離(Sound Source Separation)処理を実行して、それらの処理の結果として得られたSNRの高い音声データを他のノードと、ネットワークインターフェース回路57を介して送受信することにより収集するSSS処理部56と、
(6)他の周囲センサノードNn(n=1,2,…,N)と接続され、音声データを送受信するデータ通信部を構成するネットワークインターフェース回路57とを備えて構成される。
各センサノードNn(n=0,1,2,…,N)は互いに同様の構成を有するが、ベースステーションのセンサノードN0では、上記音声データをネットワーク上で集約することで、さらにSNRが高められた音声データが得られる。なお、VAD処理部52及び電源管理部53は第1の実施形態の音源定位において用いるが、第2の実施形態の位置推定では、原則として用いない。また、後述する距離推定は、例えばSSL処理部55で実行される。
ここで、各センサノードでの処理の一例について以下に説明する。まず、初期段階では全てのセンサノードはスリープ状態にあり、ある程度距離の離れた幾つかのセンサノードは、例えば1つのセンサノードはサウンド信号を所定時間(例えば、3秒間)送信し、当該サウンド信号を検知したセンサノードは、多チャンネル入力による音源方向推定を開始する。同時にウエイクアップメッセージを周辺に存在する他のセンサノードにブロードキャストし、受け取ったセンサノードも即座に音源方向推定を開始する。各センサノードは、音源方向推定完了後、推定結果をベースステーション(サーバ装置に接続されたセンサノード)へ向けて送信する。ベースステーションは収集した各センサノードの方向推定結果を用いて音源位置の推定を行い、音源方向推定を行った全てのセンサノードに向けて結果をブロードキャストする。次に、各センサノードはベースステーションから受け取った位置推定結果を用いて音源分離を行う。音源分離も音源定位と同様に、センサノード内とセンサノード間の2段階に分けて実行される。各センサノードで得られた音声データは、再びネットワークを介してベースステーションへ集約される。最終的に得られたSNRの高い音声信号はベースステーションからサーバ装置に転送され、サーバ装置上で所定のアプリケーションに用いられる。
図12は図11の位置測定システムで用いるネットワークの構成(具体例)を示すブロック図であり、図13は図12の位置測定システムで用いる線形補間付き時間同期を示すグラフである。
図12において、サーバ装置SVを含むセンサノードN0〜N2間は例えばUTPケーブル60で接続され、10BASE−Tのイーサネット(登録商標)を用いて通信を行う。本実施例では、各センサノードN0〜N2は直線トポロジーで接続され、そのうち1つのセンサノードN0がベースステーションとして動作して、例えばパーソナルコンピュータにてなるサーバ装置SVに接続されている。当該通信システムのデータリンク層には低消費電力化のために公知の低電力リスニング法(Low Power Listening)を使用し、ネットワーク層における経路構築には公知のタイニー・ディフュージョン法(Tiny Diffusion)を用いる。
本実施例において、センサノードN0〜N2間で音声データの集約を行うためには、ネットワーク上の全てのセンサノードで時刻(タイマーの値)を同期する必要がある。本実施例では、公知のフラディングタイム同期プロトコル(Flooding Time Synchronization Protocol(FTSP))に線形補間を加えた同期手法を用いる。FTSPは一方向の簡略な通信のみによって高精度の同期を実現するものである。FTSPによる同期の精度は隣接センサノード間で1マイクロ秒以下だが、各センサノードが持つ水晶発振器にはばらつきがあり、図13のように同期処理後は時間と共に時刻ずれが生じてしまう。このずれは1秒間で数マイクロ秒から数十マイクロ秒であり、これでは音源分離の性能を低下させてしまうおそれがある。
そこで、提案する本実施例のシステムでは、FTSPによる時刻同期時にセンサノード間の時刻ずれを記憶し、線形補間によってタイマの進み方を調整する。1度目の同期時の受信タイムスタンプを、2度目の同期時のタイムスタンプを、受信側のタイマ値をとすると、の期間にだけのタイマの進み方を調節することで、発振周波数のずれを補正することができる。これにより、同期完了後の時刻ずれを1秒間で0.17マイクロ秒以内に抑えることができる。FTSPによる時刻同期が1分に1度であったとしても、線形補間を行うことによりセンサノード間の時刻ずれは、10マイクロ秒以内に抑えられ、音源分離の性能を維持することが可能となる。
各センサノードにおいて相対時刻(例えば、最初のセンサノードがオンされた時刻を0として経過時間を相対時刻として定義する。)又は絶対時刻(例えば、暦の日時分秒を時刻とする。)を記憶しておいて、各センサノード間で時刻同期を上述の方法で行う。この時刻同期は、後述するようにセンサノード間の正確な距離を測定するために用いる。
図14A及び図14Bは、図12の位置測定システムにおける各タブレットT1〜T4間の信号伝送手順及び各タブレットT1〜T4で実行される各処理を示すタイミングチャートである。ここで、例えば図11の構成を有する各タブレットT1〜T4は上記センサノードを備えて構成される。以下の説明では、タブレットT1をマスターとし、タブレットT2〜T4をスレーブとした場合の一例について説明するが、タブレットの数や、マスターはいずれのタブレットを使用してもよい。また、サウンド信号は可聴音波又は可聴域の周波数を越える超音波などであってもよい。ここで、サウンド信号は例えばAD変換回路51はDA変換回路も備えてSSL処理部55の指示に応答して1つのマイクロホン1から、例えば無指向性サウンド信号を発生し、もしくは、超音波発生素子を備えてSSL処理部55の指示に応答して超音波の無指向性サウンド信号を発生してもよい。さらに、図14A及び図14BにおいてSSS処理は実行しなくてもよい。
図14Aにおいて、まず、ステップS31では、タブレットT1は、タブレットT2〜T4に対して、「サウンド信号をマイクロホン1で受信する準備を行いかつサウンド信号に応答してSSL処理を実行することを指示するSSL指示信号」を送信した後、所定時間後、サウンド信号を例えば3秒間などの所定時間送信する。SSL指示信号には、サウンド信号の送信時刻情報が含まれており、各タブレットT2〜T4は、サウンド信号を受信した時刻と、上記送信時刻情報の差分、すなわち、サウンド信号の伝送時間を計算し、公知の音波又は超音波の速度に上記計算された伝送時間を乗算することにより、タブレットT1と自分のタブレットとの間の距離を計算して内蔵メモリに記憶する。また、各タブレットT2〜T4は、受信したサウンド信号に基づいて、第1実施形態で詳細説明したMUSIC法を用いて音源定位の処理を行うことによりサウンド信号の到来方向を推定計算して内蔵メモリに記憶する。すなわち、各タブレットT2〜T4のSSL処理では、タブレットT1から自分のタブレットまでの距離と、タブレットT1に対する角度を推定計算して記憶する。
次いで、ステップS32では、タブレットT1は、タブレットT3,T4に対して、「マイクロホン1で受信する準備を行いかつサウンド信号に応答してSSL処理を実行することを指示するSSL指示信号」を送信した後、所定時間後、タブレットT2に対して、サウンド信号を発生することを指示するサウンド発生信号を送信する。ここで、タブレットT1もサウンド信号の待機状態となる。タブレットT2は、サウンド発生信号に応答して、サウンド信号を発生してタブレットT1,T3,T4に送信する。各タブレットT1,T3,T4は、受信したサウンド信号に基づいて、第1実施形態で詳細説明したMUSIC法を用いて音源定位の処理を行うことによりサウンド信号の到来方向を推定計算して内蔵メモリに記憶する。すなわち、各タブレットT1,T3,T4のSSL処理では、タブレットT2に対する角度を推定計算して記憶する。
さらに、ステップS33では、タブレットT1は、タブレットT2,T4に対して、「マイクロホン1で受信する準備を行いかつサウンド信号に応答してSSL処理を実行することを指示するSSL指示信号」を送信した後、所定時間後、タブレットT3に対して、サウンド信号を発生することを指示するサウンド発生信号を送信する。ここで、タブレットT1もサウンド信号の待機状態となる。タブレットT3は、サウンド発生信号に応答して、サウンド信号を発生してタブレットT1,T2,T4に送信する。各タブレットT1,T2,T4は、受信したサウンド信号に基づいて、第1実施形態で詳細説明したMUSIC法を用いて音源定位の処理を行うことによりサウンド信号の到来方向を推定計算して内蔵メモリに記憶する。すなわち、各タブレットT1,T2,T4のSSL処理では、タブレットT3に対する角度を推定計算して記憶する。
またさらに、ステップS34では、タブレットT1は、タブレットT2,T3に対して、「マイクロホン1で受信する準備を行いかつサウンド信号に応答してSSL処理を実行することを指示するSSL指示信号」を送信した後、所定時間後、タブレットT4に対して、サウンド信号を発生することを指示するサウンド発生信号を送信する。ここで、タブレットT1もサウンド信号の待機状態となる。タブレットT4は、サウンド発生信号に応答して、サウンド信号を発生してタブレットT1,T2,T3に送信する。各タブレットT1,T2,T3は、受信したサウンド信号に基づいて、第1実施形態で詳細説明したMUSIC法を用いて音源定位の処理を行うことによりサウンド信号の到来方向を推定計算して内蔵メモリに記憶する。すなわち、各タブレットT1,T2,T3のSSL処理では、タブレットT4に対する角度を推定計算して記憶する。
次いで、データ通信を行うステップS35では、タブレットT1はタブレットT2に対して情報返信指示信号を送信する。これに応答して、タブレットT2は、ステップS31で計算されたタブレットT1とT2間の距離と、ステップS31〜S34で計算された、タブレットT2から各タブレットT1,T3,T4を見たときの角度とを含む情報返信信号をタブレットT1に返信する。また、タブレットT1はタブレットT3に対して情報返信指示信号を送信する。これに応答して、タブレットT3は、ステップS31で計算されたタブレットT1とT3間の距離と、ステップS31〜S34で計算された、タブレットT3から各タブレットT1,T2,T4を見たときの角度とを含む情報返信信号をタブレットT1に返信する。さらに、タブレットT1はタブレットT4に対して情報返信指示信号を送信する。これに応答して、タブレットT4は、ステップS31で計算されたタブレットT1とT4間の距離と、ステップS31〜S34で計算された、タブレットT4から各タブレットT1,T2,T3を見たときの角度とを含む情報返信信号をタブレットT1に返信する。
タブレットT1のSSL全体処理においては、以上のように収集された情報に基づいて、タブレットT1は、図15を参照して説明するように以下のようにして各タブレット間の距離を計算し、また、各タブレットT1〜T4での他のタブレットを見た角度情報に基づいて、例えば、タブレットT1(図15のA)をXY座標の原点としたときの、他のタブレットT2〜T4のXY座標を公知の三角関数の定義式を用いて計算することにより、
すべてのタブレットT1〜T4の座標値を求めることができる。当該座標値は、ディスプレイに表示してもいいし、プリンタに出力して印字してもよい。また、上記座標値を用いて、例えば詳細後述する所定のアプリケーションを実行してもよい。
なお、タブレットT1のSSL全体処理については、マスターであるタブレットT1のみが行ってもよいし、すべてのタブレットT1〜T4で行ってもよい。すなわち、少なくとも1つのタブレット又はサーバ装置(例えば、図12のSV)が実行すればよい。また、上記SSL処理及び上記SSL全体処理は、制御部である例えばSSL処理部55により実行される。
図15は図12の位置測定システムの各タブレットT1〜T4(図15におけるA,B,C,Dに対応する。)で測定された角度情報から各タブレット間の距離を測定する方法を示す平面図である。サーバ装置は、全てのタブレットが角度情報を取得した後、全員分の距離情報を計算する。距離情報の計算では、図15に示すように、12個の角度の値とどれか1辺の長さを用いて、正弦定理により全ての辺の長さを求める。ABの長さをdとすると、ACの長さは次式で求められる。
Figure 2012247300
他の辺の長さも同様に、12個の角度と上記長さdを用いて求めることができる。各センサノードが上述の時刻同期を行うことができれば、上記の計算法を用いずに、各センサノードが発音開始時間と到達時間の差から距離を求めることができる。図15のノード数を4としたが、本発明はこれに限らず、ノード数を2以上でノード数に関わらずノード間距離を求めることができる。
以上の第2の実施形態では、2次元の位置を推定したが、本発明はこれに限らず、同様の数式を用いて3次元の位置を推定してもよい。
さらに、センサノードの移動端末への実装について以下に説明する。当該ネットワークシステムの実用化に際しては、センサノードを壁や天井に固定して使用するだけでなく、ロボットのような移動する端末に実装することも考えられる。被認識者の位置が推定できれば、より解像度な画像の収集や高精度な音声認識のために、ロボットを被認識者に近づけるといった操作が可能となる。また、近年急速に普及が進んでいるスマートフォン等のモバイル端末は、GPS機能を用いて自身の現在位置を取得することができるが、近距離での端末同士の位置関係を取得することは難しい。しかし、当該ネットワークシステムのセンサノードをモバイル端末に実装すれば、端末から音声を発して互いを音源定位することで、GPS機能等では判別できない近距離における端末同士の位置関係の取得が可能となる。本実施形態では、端末同士の位置関係を利用するアプリケーションとして、メッセージ交換システムと多人数ホッケーゲームシステムの2種類を、プログラミング言語javaを用いて実装した。
本実施例では、アプリケーションを実行するタブレットパーソナルコンピュータと、プロトタイプセンサノードとを接続した。タブレットパーソナルコンピュータのOSとしては汎用のOSが搭載されており、2か所のUSB2.0ポートやIEEE802.1b/g/n準拠の無線LAN機能を有して無線ネットワークを構成する。このタブレットパーソナルコンピュータの4辺に、プロトタイプセンサノードのマイクロホンを5cm間隔で配置し、センサノード(FPGAで構成される)では音源定位モジュールが稼動しており、定位結果をタブレットパーソナルコンピュータに出力するように構成した。本実施例における位置推定精度は数cm程度であり、従来技術に比較して大幅に高精度になる。
図16は図12の位置測定システムを用いたメッセージ交換システムの概念を示す平面図であり、図17は図15のメッセージ交換システムの1つのアプリケーションを示すディスプレイの表示例である。
近くにいる相手とモバイル端末上でメッセージのやりとりを行う場合、メールやインスタントメッセンジャーでは、予めアカウントを取得してメールアドレス等で毎回相手を指定しなければならない。本実施例では、そうした煩雑な作業を行わず、「どの角度に誰がいるか」といった相手の角度情報を用いて、直感的にメッセージの送受信を行うメッセージ交換システムのアプリケーションを実装した。
図16の概念図において、各タブレット上でメッセージ交換システムのアプリケーションが起動しており、無線LANで親機に立てられたサーバ装置に接続されている。メッセージ交換システムでは、メッセージの書かれた付箋型のウィンドウをドラッグして(すなわち、当該アプリケーションにおいて、上記計算された各ノードの位置に基づいて、公知のポインティングデバイスを有する表示部であるディスプレイ上で上記各ノードに対する方向を対応させ、上記ディスプレイ上で所定のデータを送信すべきノードに向けて、ドラッグすることにより、当該送信すべきノードを指示する。)相手方のノードへ向けて飛ばすことでメッセージの送信を行う。送られてきた付箋に、メッセージを追加して隣の人に回すといった操作を、接続時に指定する自分の名前、サーバのIPアドレス及びポート番号のみで行うことができる。
メッセージ交換システムを使用するには、予め全てのタブレットに、「他のタブレットが自分から見てどの方向にあるか」という角度情報を取得させる必要があり、図14A及び図14Bを参照して説明した、上述の通信手順及び処理によりすべてのタブレットの角度情報を得ることができる。
メッセージ交換システムのアプリケーションの使用例を示す図17において、普段はタスクトレイに常駐しており、アイコンをダブルクリックすると付箋ウィンドウが画面上に表示される。自分で出した付箋は青、他のタブレットから送られてきた付箋は黄で表示されている。付箋をドラッグ&ドロップすると画面外へ飛んで行き、付箋に書かかれた内容が飛んで行った方向に一番近い相手へ送信される。メッセージを受信した時は、受信したメッセージが書かれた付箋が、送信者の登録されている角度の画面外から飛んでくる。また、付箋は右クリックメニューから削除を選択することで削除できる。
図18は図12の位置測定システムを用いたホッケーゲームシステムの概念を示す平面図である。上述したメッセージ交換システムでは、「どの角度に誰がいるか」という角度情報のみを用いたが、各タブレットが持つ角度情報を集約して各タブレット間の距離を求めることで、データを時間差で伝送することが可能となる。この手法を用いて、タブレット間で互いにボールを送り合って対戦する多人数ホッケーゲームシステムのアプリケーションを実装した。
図18の概念図において、接続方法、角度情報の取得、データの送受信方法はメッセージ交換システムと同様である。ホッケーゲームシステムは、ボールをバーで弾くことで互いに相手の画面へ送り合って対戦する。今回は、ゲームに参加する人数を4人とする。
サーバ装置の実行画面を図19に示す。サーバ装置は、各タブレットの角度情報を収集して距離を計算するSSLボタン、ゲームを開始(Start)、中断(Pause)、リセット(Reset)するボタン、接続を終了するEndボタンを有する。テキストエリアには、接続情報、距離情報計算の終了通知、誰が誰にボールを送ったか等が表示される。サーバは、全てのタブレットが角度情報を取得した後、ゲームを開始する前にSSLボタンを押して全員分の距離情報を計算する。距離情報の計算では、図15に示すように、12個の角度の値とどれか1辺の長さを用いて、正弦定理により全ての辺の長さを求める。ABの長さをとすると、ACの長さは上記(1)式で求められる。また、他の辺の長さも同様に、12個の角度と長さdを用いて求めることができる。各センサノードが上述の時刻同期を行うことができれば、上記の計算法を用いずに、各センサノードが発音開始時間と到達時間の差から距離を求めることができる。今回は参加人数を4人としたが、この方法を使えば参加人数に関わらず距離を求めることができる。
図19は図17のホッケーゲームシステムのサーバ装置の実行画面の表示例であり、図20は図17のホッケーゲームシステムを実行しているときのタブレットの表示例である。図19において、画面上部に得点が表示されており、ボールが画面下部に落ちると−1、自分が送ったボールで相手がミスすると1だけインクリメントされる。画面をタッチすると、バーの少し上にボールが出現し、自分が出したボールや相手から送られてきたボールをバーで弾いて相手に送る。バーは上下左右に動かすことができ、加速をつけてボールを弾くことで、相手に速いボールを送ることができる。ボールの色はプレイヤー毎に異なり、誰から送られてきたボールか区別できる。誰かの得点が10か−30になったところでゲーム終了となる。
本発明は、マイクロホンアレイを用いて端末の位置を高精度に測定できる位置測定システム及びそれを用いたアプリケーションに有用である。
1,m11,m12,…,m43,m44…マイクロホン、
1a,1b,1c,…,1n…マイクロホンアレイ、
2,2a,2b,2c,…,2n…収音処理部、
3…入出力部(I/O部)、
4…プロセッサ、
10,11,12…ネットワーク、
20…音声処理サーバ、
30,30a,30b,30c…ノード、
51…AD変換回路、
52…VAD処理部、
53…電源管理部、
54…SRAM、
55…SSL処理部、
56…SSS処理部、
57…ネットワークインターフェース回路、
N0〜Nn…センサノード(ノード)、
SV…サーバ装置、
T1〜T4…タブレット。

Claims (5)

  1. マイクロホンアレイを備えた複数のノードが相互にネットワークで接続されかつ時刻同期されたマイクロホンアレイ・ネットワークシステムを用いて、上記各ノードの位置を推定する制御部を備えた位置測定システムであって、
    上記各ノードは、
    複数のマイクロホンをアレイ状に配列して構成されたマイクロホンアレイと、
    上記マイクロホンアレイで受信した、1つのノードからのサウンド信号に基づいて、上記サウンド信号の到来方向の角度を推定する音源推定処理部と、
    上記サウンド信号の送信時刻と受信時刻との差分とサウンド信号の速度に基づいて、上記サウンド信号を送信したノードからの距離を推定する距離推定部と、
    上記推定された到来方向の角度及び距離を他のノードに対してデータ通信で送受信するデータ通信部とを備え、
    上記制御部は、上記推定された到来方向の角度及び距離に基づいて、上記各ノードの位置を推定して計算することを特徴とする位置測定システム。
  2. 上記制御部は、上記各ノードの位置に基づいて座標値を計算して表示し又は出力することを特徴とする請求項1記載の位置測定システム。
  3. 上記制御部は、上記各ノードの位置を用いて所定のアプリケーションを実行することを特徴とする請求項1又は2記載の位置測定システム。
  4. 上記各ノードは表示部を備え、
    上記制御部は、上記所定のアプリケーションにおいて、上記計算された各ノードの位置に基づいて、上記表示部上で上記各ノードに対する方向を対応させ、上記表示部上で所定のデータを送信すべきノードに向けてドラッグすることにより、当該送信すべきノードを指示し、当該指示されたノードに対して上記所定のデータを送信することを特徴とする請求項3記載の位置測定システム。
  5. 上記制御部は、上記各ノード、上記複数のノードのうちの1つのノード、もしくは、上記複数のノードとは別のサーバ装置に設けられたことを特徴とする請求項1乃至4のうちのいずれか1つに記載の位置測定システム。
JP2011119072A 2011-05-27 2011-05-27 位置測定システム Expired - Fee Related JP5412470B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011119072A JP5412470B2 (ja) 2011-05-27 2011-05-27 位置測定システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011119072A JP5412470B2 (ja) 2011-05-27 2011-05-27 位置測定システム

Publications (2)

Publication Number Publication Date
JP2012247300A true JP2012247300A (ja) 2012-12-13
JP5412470B2 JP5412470B2 (ja) 2014-02-12

Family

ID=47467874

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011119072A Expired - Fee Related JP5412470B2 (ja) 2011-05-27 2011-05-27 位置測定システム

Country Status (1)

Country Link
JP (1) JP5412470B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106772247A (zh) * 2016-11-30 2017-05-31 努比亚技术有限公司 一种终端和声源定位方法
WO2018223639A1 (zh) * 2017-06-06 2018-12-13 歌尔股份有限公司 一种麦克风阵列声源定位方法和装置
JP2019049414A (ja) * 2017-09-07 2019-03-28 本田技研工業株式会社 音響処理装置、音響処理方法及びプログラム
JP2020038123A (ja) * 2018-09-04 2020-03-12 本田技研工業株式会社 音響処理装置、音響処理方法、およびプログラム
JP2020521236A (ja) * 2017-05-19 2020-07-16 シンテフ ティーティーオー アクティーゼルスカブ タッチ式入力装置
CN112435441A (zh) * 2020-11-19 2021-03-02 维沃移动通信有限公司 睡眠检测方法和可穿戴电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08262121A (ja) * 1995-03-27 1996-10-11 Mitsubishi Electric Corp 測位装置
JP2001166025A (ja) * 1999-12-14 2001-06-22 Matsushita Electric Ind Co Ltd 音源の方向推定方法および収音方法およびその装置
JP2006242640A (ja) * 2005-03-01 2006-09-14 Research Organization Of Information & Systems 超音波距離測定システムおよび超音波距離測定方法
WO2007129731A1 (ja) * 2006-05-10 2007-11-15 Honda Motor Co., Ltd. 音源追跡システム、方法、およびロボット
JP2011023840A (ja) * 2009-07-13 2011-02-03 National Institute Of Information & Communication Technology コグニティブ無線通信における情報共有方法,コグニティブ無線通信デバイス,及びコグニティブ無線通信システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08262121A (ja) * 1995-03-27 1996-10-11 Mitsubishi Electric Corp 測位装置
JP2001166025A (ja) * 1999-12-14 2001-06-22 Matsushita Electric Ind Co Ltd 音源の方向推定方法および収音方法およびその装置
JP2006242640A (ja) * 2005-03-01 2006-09-14 Research Organization Of Information & Systems 超音波距離測定システムおよび超音波距離測定方法
WO2007129731A1 (ja) * 2006-05-10 2007-11-15 Honda Motor Co., Ltd. 音源追跡システム、方法、およびロボット
JP2011023840A (ja) * 2009-07-13 2011-02-03 National Institute Of Information & Communication Technology コグニティブ無線通信における情報共有方法,コグニティブ無線通信デバイス,及びコグニティブ無線通信システム

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106772247A (zh) * 2016-11-30 2017-05-31 努比亚技术有限公司 一种终端和声源定位方法
JP2020521236A (ja) * 2017-05-19 2020-07-16 シンテフ ティーティーオー アクティーゼルスカブ タッチ式入力装置
JP7084425B2 (ja) 2017-05-19 2022-06-14 シンテフ ティーティーオー アクティーゼルスカブ タッチ式入力装置
US11550419B2 (en) 2017-05-19 2023-01-10 Sintef Tto As Touch-based input device
US11809654B2 (en) 2017-05-19 2023-11-07 Sintef Tto As Touch-based input device
WO2018223639A1 (zh) * 2017-06-06 2018-12-13 歌尔股份有限公司 一种麦克风阵列声源定位方法和装置
US10848865B2 (en) 2017-06-06 2020-11-24 Weifang Goertek Microelectronics Co., Ltd. Method and device for sound source positioning using microphone array
JP2019049414A (ja) * 2017-09-07 2019-03-28 本田技研工業株式会社 音響処理装置、音響処理方法及びプログラム
JP2020038123A (ja) * 2018-09-04 2020-03-12 本田技研工業株式会社 音響処理装置、音響処理方法、およびプログラム
JP7001566B2 (ja) 2018-09-04 2022-02-04 本田技研工業株式会社 音響処理装置、音響処理方法、およびプログラム
CN112435441A (zh) * 2020-11-19 2021-03-02 维沃移动通信有限公司 睡眠检测方法和可穿戴电子设备

Also Published As

Publication number Publication date
JP5412470B2 (ja) 2014-02-12

Similar Documents

Publication Publication Date Title
JP5289517B2 (ja) センサネットワークシステムとその通信方法
JP5412470B2 (ja) 位置測定システム
CN107643509B (zh) 定位方法、定位系统及终端设备
Mandal et al. Beep: 3D indoor positioning using audible sound
WO2021037129A1 (zh) 一种声音采集方法及装置
JP5022461B2 (ja) マイクアレイ・ネットワークシステムおよび該システムを用いた音源定位方法
CN105378801A (zh) 全息图快照网格
CN109932686A (zh) 一种定位方法、移动终端及室内定位系统
Kraljević et al. Free-field TDOA-AOA sound source localization using three soundfield microphones
US11641561B2 (en) Sharing locations where binaural sound externally localizes
Uddin et al. RF-Beep: A light ranging scheme for smart devices
CN109451578A (zh) 一种定位方法及装置
KR20240028481A (ko) 실내 공간의 3차원 지도를 생성하기 위한 시스템 및 방법
CN110572600A (zh) 一种录像处理方法及电子设备
CN110517677A (zh) 语音处理系统、方法、设备、语音识别系统及存储介质
US6941246B2 (en) Method for three-dimensional position calibration of audio sensors and actuators on a distributed computing platform
CN109168126A (zh) 定位方法、相关设备以及计算机可读存储介质
KR20150082085A (ko) 명령-감지 메카니즘을 갖는 컴퓨팅 시스템 및 그 동작방법
JP2011033369A (ja) 会議装置
Perez et al. Acoustic event localization on an Arduino-based wireless sensor network
Verreycken et al. Passive acoustic sound source tracking in 3D using distributed microphone arrays
EP2972815A2 (en) Service aware software architecture in wireless device ecosystem
CN111289947B (zh) 信息处理方法、装置以及设备
CN113472943A (zh) 音频处理方法、装置、设备及存储介质
Astapov et al. Collective acoustic localization in a network of dual channel low power devices

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130604

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130730

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131111

LAPS Cancellation because of no payment of annual fees