JP2014514791A - 音声信号の符号化及び認識を使用する音声測位 - Google Patents

音声信号の符号化及び認識を使用する音声測位 Download PDF

Info

Publication number
JP2014514791A
JP2014514791A JP2013555568A JP2013555568A JP2014514791A JP 2014514791 A JP2014514791 A JP 2014514791A JP 2013555568 A JP2013555568 A JP 2013555568A JP 2013555568 A JP2013555568 A JP 2013555568A JP 2014514791 A JP2014514791 A JP 2014514791A
Authority
JP
Japan
Prior art keywords
mobile device
sound source
location
signal
audio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013555568A
Other languages
English (en)
Other versions
JP2014514791A5 (ja
JP5971768B2 (ja
Inventor
シヴァッパ, シャンカー サガドゥール
トニー, エフ. ロドリゲス,
Original Assignee
ディジマーク コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US13/033,372 external-priority patent/US9270807B2/en
Application filed by ディジマーク コーポレイション filed Critical ディジマーク コーポレイション
Publication of JP2014514791A publication Critical patent/JP2014514791A/ja
Publication of JP2014514791A5 publication Critical patent/JP2014514791A5/ja
Application granted granted Critical
Publication of JP5971768B2 publication Critical patent/JP5971768B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/18Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using ultrasonic, sonic, or infrasonic waves
    • G01S5/22Position of source determined by co-ordinating a plurality of position lines defined by path-difference measurements
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/018Audio watermarking, i.e. embedding inaudible data in the audio signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R29/00Monitoring arrangements; Testing arrangements
    • H04R29/007Monitoring arrangements; Testing arrangements for public address systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/021Services related to particular areas, e.g. point of interest [POI] services, venue services or geofences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/024Guidance services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/33Services specially adapted for particular environments, situations or purposes for indoor environments, e.g. buildings

Abstract

施設内での屋内ナビゲーションのための方法が、周辺環境からモバイルデバイスのマイクロホンによって取り込まれた音声に基づいてモバイルデバイスの位置を導出する。方法は、特に、スマートフォンでの動作に向いており、音声が、人間の聴覚の周波数範囲内の音声を取り込むマイクロホンを使用して取り込まれる。方法は、音声信号の識別に基づいて施設内のモバイルデバイスの位置を決定し、モバイルデバイスの位置を監視し、モバイルデバイスの位置が位置に基づく通知に関連する所定の位置内にあるときにモバイルデバイスの出力デバイスで位置に基づく通知を生成する。測位ネットワークが、携帯電話のハンドセットのマイクロホンなどのモバイルデバイスのセンサーを通じて取り込まれた信号で検出可能な一意の特徴を有する信号を送信する信号源のアレイを備える。
【選択図】図3

Description

関連出願
[0001]本出願は、米国で2011年2月23日に出願した米国特許出願第13/033,372号の一部継続出願であり、この米国特許出願は、その全体が参照により援用される。
[0002]本発明は、測位システムと、ナビゲーション及び位置に基づくサービスのための測位の使用とに関する。
[0003]音源の測位は、1つ又は複数の固定センサー(マイクロホン)を使用して、移動音源の位置を測る。通常、対象となる音源は、人の声か、又は何らかのその他の自然音源である。
[0004]この状況を逆に考えれば、これらの音源から受信された音を分析することによって、既知の位置から送信された音声信号を移動するセンサー(例えば、マイクロホンを備えたモバイルデバイス)の位置を決定するために使用することができる。任意の時点で、音源とセンサーとの相対的な位置/向きが、音源についての既知の情報と、センサー又はセンサーアレイで取り込まれた信号から導出された情報との組合せを用いて計算され得る。
[0005]従来の全地球測位システム(GPS)技術は、さまざまなコンシューマデバイスで広く採用されているが、そのような技術は、一部の適用においては、常に有効又は実用的であるとは限らない。音声信号に基づく測位は、音源(例えば、ラウドスピーカー)及びセンサー(例えば、モバイルデバイスのマイクロホン)がどこでも利用でき、比較的安価であるので、特に従来のGPSが効果的でないか又は費用効果が高くない適用領域において従来のGPSの代替となり得る。この技術の適用には、屋内ナビゲーション、店舗内ブラウジング(in−store browsing)、ゲーム、及び拡張現実が含まれる。
[0006]音声に基づく測位は、音響システムが背景音及び場内放送アナウンスのためによく使用されており、したがって、測位ネットワークを実装し得る低コストのインフラストラクチャを提供するので、屋内ナビゲーションへの適用が期待できる。また、音声に基づく測位は、屋内では信頼できない従来の衛星に基づくGPSの代わりとなる。モバイルハンドセットで利用できる屋内ナビゲーションは、ユーザが店舗又はその他の施設(venue)で品物の場所を見つけることを可能にする。さらに、音声に基づく測位は、ハンドセット上に表示された指示及びインタラクティブな地図によって、モバイルハンドセットによりユーザに対するナビゲーション案内ができるようにする。
[0007]また、音声に基づく測位は、モバイルハンドセット上でユーザの位置に基づく店舗内ブラウジングを行うことを可能にする。これは、特定の場所の製品について知ることができる、という消費者にとっての利益と、消費者により良いサービスを提供し、売り上げを最大化する製品提供をより効果的に編成するためのマーケット情報を収集することができる、という店舗所有者にとっての利益とをもたらす。
[0008]音声に基づく測位は、位置に基づくゲームの特徴を利用可能にする。やはり、マイクロホンが携帯電話に通常備わっており、これらのデバイスがゲームのプラットフォームとしてますます利用されるようになってきているので、音声に基づく測位をゲームアプリケーションと組み合わせることによって、その他の位置サービスが信頼できない場所でゲームのための位置に基づく特徴を使えるようにする費用効果の高い方法を提供する。
[0009]拡張現実アプリケーションは、モバイルデバイスのセンサーを使用してデバイスの位置及び向きを決定する。この情報を用いて、次いで、デバイスは、周辺領域のユーザの眺めを、デバイスの位置、向き、及びあり得るその他の感知されたコンテキスト(context)情報から構築された、近隣の領域の空間座標系を使用して構築される合成して作られたグラフィックスによって「拡張する」ことができる。例えば、コンピュータによって生成されたグラフィックスが、(例えば、デバイスのカメラによって、又は地図データベース及びデバイスの位置/向きから構築されたインタラクティブな2D若しくは3D地図によって取り込まれた映像に基づく)周辺領域の画像に重ね合わされる。
[00010]音声測位システムは従来の衛星に基づくGPSの代替となることが期待されるが、実用的な実装の開発には多くの課題が残っている。実行可能な低コストの代替となるためには、音声測位技術は、位置に基づくサービスが望まれる環境で既に使用中の典型的なコンシューマ音響機器と容易に統合されるべきである。この制約により、複雑な構成要素の統合を必要とするシステムはあまり魅力的でなくなる。
[00011]別の課題は、モバイルデバイスで取り込まれた音声信号から位置を導出することを難しくする信号干渉及び信号劣化である。信号干渉は、近くの壁及びその他の物体からのエコー/反射などのさまざまな原因によって起こり得る。測位のためのデータ信号は、その他の音源、周辺雑音、並びに信号生成、再生、及び取り込み機器で混入した雑音からの干渉に遭う可能性もある。
[00012]測位システムは、音源から取り込まれた信号を分析することによって得られるデータの精度及び信頼性に依存する。決まった位置の音源に関して、各音源の位置は、信号源の識別と音源の位置とをインデックス付けしたテーブルに記憶された既知のパラメータとして扱われ得る。言うまでもなく、この手法は、音源の正確な識別を必要とする。到達時間又は伝搬時間(time of flight)に基づいて位置を計算する測位システムは、マスタークロックに対する同期又は較正を必要とする。信号検出は、リアルタイムの計算に十分なだけ速く、しかも、所望の誤差制限内の位置をもたらすのに十分なだけ正確でなければならない。
[00013]音源からの距離の測定値として信号強度を使用する測位システムは、適用の許容誤差内で信号強度を決定し、信号強度から距離を導出する信頼できる方式を必要とする。
[00014]これらの設計の課題は、所望の許容誤差を満たすように専用機器を作ることによって克服され得る。しかしながら、そのような専用機器は、広範囲に配置した場合に常に実用性又は費用対効果が高いとは限らない。既存の音声再生機器及び携帯電話の受信機のための測位システムを設計するとき、信号生成及び取り込みプロセスは、統合が容易であるように設計され、これらの環境で混入する誤差を克服する必要がある。これらの制約は、測位信号を導入するために使用される機器の複雑さを制限する。典型的な構成は、屋内ショッピング施設及びその他の公共施設などの、位置に基づくサービスが付加価値をもたらし、その他の形態のGPSがうまく機能しない空間内で通常の音響構成要素によって駆動される通常のラウドスピーカーを備える。
[00015]通常のモバイルデバイスの音声再生及びマイクロホンによる取り込みは、音源信号の性質を制限する。特に、音源信号は、そのようなマイクロホンによって取り込まれる周辺信号から検出可能でなければならない。実際問題として、これらのデバイスのマイクロホンの周波数応答は、人の可聴周波数範囲、及び特に人の発話に合わせて調整されているので、これらの音源信号は、信頼性高く取り込まれる、この人の可聴周波数範囲内になければならない。これは、音源の音声信号が近くで聞いている人にとって許容できるものでなければならないという別の制約を生じる。したがって、音声信号源の設計にはある程度の柔軟性があるが、音声信号源は、聞く人によって許容できるものでなければならず、背景音楽、買い物をしている人への情報メッセージ、及びその他の場内放送機能を提供することなどの音声再生機器のその他の目的を妨げてはならない。
[00016]電子透かしは、通常の場内放送システムで再生される音声プログラム内にデータチャネルを組み込むことを可能にするので、測位システムのための音源信号を伝達するための実行可能な選択肢を与える。電子透かしは、音楽エンターテインメント及び会話などの音声プログラムを提供するというシステムの一義的な機能に関連する音声品質を知覚可能なほど劣化させることなくシステムの通常の音声コンテンツ内にデータを埋め込む。加えて、ロバストな符号化技術を使用する音声電子透かし方式は、部屋のエコー及び雑音源が存在しても、周辺音声から正確に検出され得る。
[00017]ロバスト性は、技術の組合せを用いて実現される。これらの技術は、データが信号劣化に耐え抜くように、(聞いている人の視点から見て所望の品質レベル未満の)データ信号で音声のロバストな特徴を変調することを含む。データ信号は、ホストコンテンツにデータ信号を適合させるために人の聴覚系を考慮に入れることによって、音声品質を劣化させずによりロバストに符号化される。スペクトル拡散符号化のようなロバストなデータ信号の符号化技術及び誤り訂正が、データの信頼性を高める。ホスト信号及びデータ搬送波の知識によって検出器を最適化することによって、劣化した音声信号からでも弱いデータ信号の検出が可能になる。
[00018]ロバストな透かしのこれらの利点を用いて、音声透かしのロバストな検出が、セル電話又はタブレットPCなどのモバイルデバイスのマイクロホンによって取り込まれた周辺音声から実現され得る。この適用のために音声透かしを設計するための有用な構造として、信号通信プロトコル内の2つのレベル、すなわち、信号特徴の変調レベル及びデータ信号の符号化レベルでロバスト性を高める透かし方式を考案し得る。信号特徴の変調レベルは、副次的データ信号を伝達するように修正されるホスト音声信号特徴を規定するレベルである。データ信号の符号化レベルは、データシンボルがデータ信号にどのようにして符号化されるかを規定する。したがって、透かしプロセスは、通信プロトコルで信号を生成する2つの層、すなわち、メッセージシンボルの可変シーケンスを伝達するためのデータ信号の形成と、データ信号をホスト音声信号に挿入する特徴の変調とを有すると考えられる。これらのプロトコルレベルは、必ずしも独立していない。一部の方式は、ホスト信号特徴の分析を利用して、メッセージシンボルのシーケンス内の符号化されるべき所望のデータシンボルに対応する特徴の変調を決定する。別の考慮すべきことは、同期及び較正信号の使用である。データ信号の一部は、初期検出及び同期のタスクに割り当てられる。
[00019]モバイルデバイスの測位アプリケーションのための透かし方式の特徴の変調レベルを設計するときに、周辺からの取り込みの際に予測される劣化に対してロバストである特徴の変調を選択するべきである。これらの環境でホスト音声プログラムにデータを隠すために副次的なデータ信号で変調されるロバストな音声の特徴は、(例えば、変調の可聴性をマスクする音声マスキングモデルを使用して適合される周波数トーンを変調する方式では)周波数位置のエネルギーなどの、検出窓にわたって蓄積され得る特徴を含む。エコーの挿入も、自己相関のような、ある期間にわたって蓄積され得るロバストな特徴を変調するために使用され得る。この蓄積は、微弱な信号からのエネルギーが、より信頼性高く復号され得るデータからの複合信号を生じるように構造的に追加されることを可能にする。
[00020]測位アプリケーションのためのデータ信号の符号化レベルを設計するときに、周辺からの取り込みに関連して混入した信号の誤りを克服するために使用され得る技術を考慮すべきである。スペクトル拡散データ信号符号化(例えば、直接シーケンス及びチャネルホッピング)並びに軟判定誤り訂正が、これらの変調技術を使用する音声透かしのロバスト性及び信頼性を高める。直接シーケンススペクトル拡散符号化は、搬送波をメッセージシンボルで変調する(例えば、2値の1又は0シンボルを表す1又は−1による2値の正反対の搬送波を乗ずる)ことによって搬送波信号(典型的には疑似乱数搬送波)でメッセージシンボルを拡散する。代替的に、シンボルのアルファベットが、1組の決まった直交する搬送波を用いて構築される可能性がある。データ信号の符号化レベル内で、メッセージの一部の繰り返し符号化、並びに畳み込み符号化及びブロック符号などの誤り訂正符号化などの追加的な下位レベルの信号の符号化が適用される可能性がある。特徴の変調に直接関連するデータ信号の符号化の1つの態様は、特徴空間内における特徴の変調の候補位置を表す特徴へのデータ信号のマッピングである。言うまでもなく、特徴自体が、音声クリップの時間セグメントなどのサンプルグループから計算される量である場合、特徴の変調位置は、そのサンプルのグループ及びそのグループの特徴に対応する。
[00021]1つの手法は、メッセージを1組の符号化されたシンボルを含む符号化されたデータ信号パケットにフォーマットし、次に、パケットを特徴の変調位置の対応するグループに多重化することである。多重化方式は、時間の経過とともにマッピングを変更するか、又は同じパケットのそれぞれの繰り返しで同じマッピングを繰り返す可能性がある。
[00022]データ符号化方式の設計者は、データの符号化とマッピング方式との間に相互作用があることを認識するであろう。例えば、直接シーケンススペクトル拡散法で変調される搬送波の要素(例えば、チップ)が、固定パターン又は不定の乱雑さ(variable scattering)で特徴にマッピングされる。同様に、ホッピングを実装する1つの方法は、離散的な時間又は周波数によって規定され得る、特徴空間上の特徴の変調位置への符号化されたデータシンボルのマッピングを散らすか又は変えることである。
[00023]ロバストな透かし読み取り装置は、これらのロバスト性の強化を利用して、モバイルデバイスのマイクロホンによる周辺音声の取り込みから信頼性高くデータを復元する。ロバストな特徴の変調は、信号劣化に与える信号干渉の影響を最小化する。読み取り装置は、最初に、取り込まれた音声信号をフィルタリングして、変調された特徴を分離する。読み取り装置は、既知の特徴の変調位置のロバストな特徴に対してなされた修正の推定値を蓄積する。特に、読み取り装置は、初期検出及び同期を実行して、埋め込みデータ信号の同期構成要素を特定する。概して、この構成要素は、埋込み信号対雑音比が蓄積によって大きくなるように検出窓にわたって冗長に符号化される。推定値は、予測される透かしデータとの対応(例えば、相関メトリック、又は予測されるシンボルに一致する検出されたシンボルの数)に基づいて重み付けされる。マッピング関数の逆を使用して、同期及び可変のメッセージペイロードを表す符号化されたデータ信号の推定値が判別され、さまざまな埋め込み位置から同じ符号化されたメッセージシンボルに対応する符号化されたデータのインスタンスが集約される。例えば、拡散シーケンスが使用される場合、チップの推定値が、搬送波を用いた復調を通じて集約される。周期的に、符号化されたデータの蓄積された推定値を記憶するバッファが、誤り訂正復号のために、符号化されたデータシーケンスを提供する。有効なメッセージペイロードのシーケンスが誤り検出を使用して検出される場合、メッセージペイロードは正常な検出として出力される。
[00024]これらの及びその他のロバストな透かし手法は、周辺からの取り込みの適用でロバスト性及び信頼性を高めるが、測位情報を計算するために必要な制約が課題をもたらす。好ましくは、測位システムは、ユーザが移動するときにユーザに対して関連する位置及び/又はデバイスの向きのフィードバックを与えるために測位情報を速やかで正確に計算することができるべきである。したがって、より長い検出窓を求める傾向があるロバスト性と、より短い検出窓を求める傾向があるリアルタイム応答との間のトレードオフが存在する。加えて、相対的な到達時間に基づく一部の位置に基づく技術は、音源信号の送信の正確な同期と、異なる音源からの信号到達の差を決定する能力とに依存する。
[00025]信号強度メトリックに依存する代替的な手法も、透かし技術を利用することができる。例えば、透かし信号の強度が、音源からの距離の指標になり得る。モバイルデバイスにおける周辺からの取り込みの後のこれらの信号強度の測定値がモバイルデバイスの音源からの距離に変換され得るように透かし信号を設計するいくつかの潜在的な方法がある。この場合、異なる音源からの透かしが、それぞれの音源からの透かし信号が分析され得るように判別される必要がある。
[00026]上述のアプローチは、異なる音源を判別する能力を利用する。これを実現するための1つの提案されている構成は、一意の透かし信号を各音源に挿入することである。この一意の信号は、データベースで音源及び音源の位置に割り振られる。一意の信号を識別することによって、測位システムは、データベース内でその信号を見つけることによりその信号の音源位置を決定することができる。この手法は、各音源から信号を一意にするための追加の回路又は信号処理を必要とすることによって実装コストを潜在的に増加させる。建物中に分散されたいくつかのスピーカーを備える音響システムに関しては、各信号を一意にし、さらに信頼性高く識別できるようにするコストは、多くの適用にとって非常に高くなる可能性がある。したがって、モバイルデバイスが音源のネットワーク内のどこにあるかを決定する目的で音源又は近隣の音源グループを一意にする低コストの手段に対するニーズが存在する。
[00027]電子透かしが、すべてがほぼ同じように聞こえる音声ストリームを判別するために使用され得る。しかし、一部の電子透かしのシグナリングは、ホスト音声がそのホスト音声に埋め込まれた電子透かし信号の干渉源であるという欠点を有する可能性がある。電子透かしの一部の形態は、検出器がホストを干渉雑音として扱わない、情報に基づく埋め込み(informed embedding)を使用する。これらの手法は、特に信号のロバスト性の領域のその他の課題を生じる。これは、信号の設計者を、音声再生システムによって再生されている音声を通じて音源の識別を伝達するためのロバストな技術である代替的なシグナリング技術に向かわせる可能性がある。
[00028]1つの代替は、一意の音源の位置が一意の音声プログラムの素材に関連付けられるパターン認識又はコンテンツフィンガープリントの形態を使用することである。このプログラムの素材は、音楽又はその他の目立たない背景音である可能性がある。音源を判別するために、異なる音源によって再生される音声が、受信された信号から一意の特徴を抽出し、それらの特徴を音源の位置(又は同一の音声を送信する1組の近隣の音源によって形成される近辺の領域)とともに記憶された予め登録されたパターンのデータベースとマッチングすることによって検出され得る区別の付く特徴を有するように選択又は変更される。1つの手法は、一意の周波数又は位相の特徴を有するマスター音声から変種を作成することによって同じ背景音の一意の変種を生成することである。これらの一意の特徴は、抽出され、その特徴を既知の音源信号の有限のライブラリの一意の特徴とマッチングすることによって検出される。
[00029]電子透かしを挿入する手法又は同じように聞こえる音声の一意の変種を生成する手法は、タスクが、音源が同じように鳴るが、検出器がそれらの音源を判別し、一意の信号のペイロード又はコンテンツの特徴のパターンに関連する位置パラメータを探し出すことができるシグナリング手段を設計することであるという点でいくつかの基本的な原理を共有している。混合の手法も選択肢である。1つの手法は、透かしのようなデジタルペイロードを伝達するが、それ自体が音声に基づく測位システムが実装される建物又は施設の周辺環境に流される背景音である合成信号を設計することである。例えば、透かしシステムのデータ符号化層が、データ信号を生成するために使用される可能性があり、データ信号は、次いで、水の特徴、海の波、又は不快感を与えない背景雑音の音などの心地よい背景音へと整形又は適合される。別の言い方をすれば、データ信号自体が、聞く人にとって何らかの心地よい特質を有するか、又はさらには音楽であるかのように装う形態へと選択又は変更される。一意のデータ信号は、同じように聞こえるが、音源を区別するトーン又はメロディの異なる集合として構築された音声(例えば、MIDI表現)から生成され得る。
[00030]「不快感を与えない」背景音を生成するためのシステムの1つの特定の例は、音声マスキングシステムである。この種のシステムは、自然の音又は人工的な音を環境に追加して、聴覚マスキングを使用して望ましくない音を隠す。白色雑音生成器は、その他の音をマスクするために白色雑音型の音声信号を使用する音声マスキングシステムの形態である。これらの種類のシステムの1つの供給業者は、マサチューセッツ州ケンブリッジのCambridge Sound Management,LLCである。音声マスキングを行うことに加えて、これらのシステムは、呼び出し(paging)又は音楽配信のための補助入力を含む。システムは、いくつかのスピーカーを備える区域をそれぞれが有する、区域を制御する制御モジュールを備える(例えば、モジュールは、各区域の音量、時刻マスキング(time of day masking)、等化、及び自動ランピング(auto−ramping)を独立して制御する)。各制御モジュールは、コンピュータネットワーク又は直接接続によってモジュールに接続されるコンピュータで実行されるブラウザベースのソフトウェアにより構成可能であり、制御可能である。
[00031]背景音を生成するための別のハードウェア構成は、ネットワークコントローラによって駆動される無線スピーカーのネットワークである。これらのシステムは、音声再生システムとスピーカーとの間の有線接続の必要性を減らす。しかし、それでも、受信機が音源を判別することを可能にするシグナリング技術を組み込む費用効率の高い手段に対するニーズが存在し、音源はそのようなシグナリング技術が組み込まれていなければ同じ信号を送信することになる。
[00032]本開示において、我々は、モバイルデバイスの測位システムを実装するための新規の方法及びシステムを説明する。従来のGPSが実用的でないか又は効果的でない環境で、既存の音声又はRF信号の生成などの既存の信号生成及び取り込みインフラストラクチャを使用することを特に強調する。
[00033]本開示で詳細に説明される1つの発明の方法は、モバイルデバイスの位置を決定する方法である。この方法においては、モバイルデバイスが、そのモバイルデバイスのマイクロホンにより2つ以上の異なる音源から音声信号を受信する。音声信号は、背景音及び場内放送機能を提供する音声再生システムの通常の動作に組み込まれる。したがって、音声信号は、聴取者に実質的に同じように聞こえるが、異なる音源を判別するための異なる特徴を有する。音声信号は、音声信号から決定される区別の付く特徴に基づいて互いに判別される。特定の音源を特定することに基づいて、特定の音源の位置が(例えば、識別する特徴に対応する音源の座標を見つけることによって)決定される。特定の音源の位置に基づいて、モバイルデバイスの位置が決定される。
[00034]特定の音源は、信号の変化のパターン、符号化されるデジタルデータ信号などの一意の信号特徴の層を導入することによって特定され得る。特に、第1の層は、ネットワーク内の近隣の音源のグループを特定し、第2の層は、特定の音源を特定する。音源が正確に判別されると、受信機が対応する音源の座標を探し、次いで、その対応する音源の座標が位置計算機に提供される。そのとき、モバイルデバイスの位置は、音源信号の座標及び音源信号から導出されたその他の属性に基づいて精度を改善される。
[00035]本発明のさらなる態様は、音源信号を生成するための方法と、関連する測位システムとを含む。
[00036]これらの技術は、さまざまな測位の方法及びシステムを可能にする。1つのそのようなシステムは、音源デバイスの位置と、音源からの信号の相対的な到達時間とに基づいて位置を決定する。別のシステムは、音源からの信号の相対的な強度に基づいて位置を決定する。例えば、信号が最も強い音源が、モバイルデバイスの位置の推定値を与える。位置のさらなる精度は、信号強度メトリックに基づいて音源からの距離の推定値を導出することによって計算され得る。
[00037]上で要点を述べた方法は、命令(例えば、1つ若しくは複数のプログラミング可能なプロセッサで実行するためのソフトウェア若しくはファームウェア)、回路、又は回路と、プログラミング可能なプロセッサで実行される命令との組合せとして全体又は一部が実装される。
[00038]本発明の別の態様は、施設での屋内ナビゲーションのための方法である。この方法は、周辺環境からモバイルデバイスのマイクロホンによって取り込まれた音声に基づいてモバイルデバイスの位置を導出する。この方法は、特に、スマートフォンでの動作に向いており、音声は、人間の聴覚の周波数範囲内の音(人間の可聴範囲、12〜20kHz)、及び場合によっては人間の聴覚の範囲外の音(人間は聞くことができないが、マイクロホンの周波数応答は、例えば約20kHzのその音をまだ取り込むことができる)を取り込むマイクロホンを用いて取り込まれる。したがって、デバイスの取り込み範囲はより広い可能性があるが、方法は、これらのデバイスでの既存の音声の取り込みを使用するように設計される。方法は、音声信号の識別に基づいて施設内のモバイルデバイスの位置を決定し、モバイルデバイスの位置を監視し、モバイルデバイスの位置が位置に基づく通知に関連する所定の位置内にあるときにモバイルデバイスの出力デバイスで位置に基づく通知を生成する。
[00039]このナビゲーションの方法は、ナビゲーションの経路のリアルタイムのマッピング、代替的な経路の表示、並びにさまざまな形式の入力からのナビゲーションフィードバックの導出及び生成をサポートするさまざまな特徴によって拡張され得る。この入力は、メッセージを通じてそのユーザ若しくはその他のユーザから直接的になされるか、又は間接的になされ、入力がコンテキスト情報から推測される。例には、ユーザによって入力されたショッピングリストに基づくナビゲーション、メッセージシステムからの製品の推薦、(トランザクションの履歴、行動のカレンダーなどの)ユーザコンテキストから推測される製品の嗜好性(preference)、及びソーシャルネットワークから得られた製品の嗜好性が含まれる。店舗などの施設内の経路の形態のナビゲーションの指示が、ナビゲーションセッションの前に計算され、ユーザのアフィニティグループ(affinity group)からの変化する状況(ソーシャルネットワークのポスト又は製品のタグ付け)、変化するユーザコンテキスト、友人又は家族からの更新されたリマインダー、並びに監視された通行に基づく店舗内プロモーションなどの店舗内の変化する状態によってセッション中にリアルタイムで更新される可能性がある。
[00040]本発明の態様は、モバイルデバイス及びネットワーク(例えば、1つ又は複数のサーバコンピュータで提供されるクラウドコンピューティングサービス)で実装される。したがって、本発明は、無線電話のようなモバイルデバイスで、位置計算、監視、及びナビゲーションサービスを提供するネットワークコンピューティングシステムで、並びにそれら両方の組合せで実装されるナビゲーションのための方法、システム、及びデバイスを包含する。実装は、モバイルデバイス、及びモバイルデバイスと通信するサーバのネットワークを含む1つ又は複数のコンピュータで行われ得る。
[00041]例えば、本発明の別の態様は、施設内での屋内ナビゲーションのためのシステムである。システムは、それぞれが位置に対応する一意に特定可能な音声信号を送信する音源の構成を備える。また、システムは、施設内のモバイルデバイスから音声検出イベントを受信するための1つ又は複数のコンピュータを備える。これらの検出イベントは、施設内の音源の識別情報を提供する。1つのコンピュータ(又は複数のコンピュータ)が、検出イベントからモバイルデバイスの位置を計算し、施設内でのモバイルデバイスの位置を監視し、モバイルデバイスの位置が通知に関連する位置にあるときにモバイルデバイスに通知を送信する。
[00042]本発明のさらなる態様は、モバイルデバイス、サーバシステム、又はそれら両方の組合せで実行される命令で実装される方法を含む。
[00043]さらなる特徴は、以下の詳細な説明及び添付の図面を参照することによって明らかになるであろう。
信号源のネットワークの中にあるモバイルデバイスを示す図である。 位置システムで使用するための一意の音源信号を生成するためのシステムを示す図である。 周辺音声信号を分析して音源信号を検出し、特定するためのプロセスのフローチャートである。 信号強度メトリックを分析することによって音源信号から距離を決定するためのプロセスのフローチャートである。 異なる音源からの音声信号の到達時間差を決定するためのプロセスのフローチャートである。 モバイルデバイスのネットワークのための位置に基づくサービスのプラットフォームの上にアプリケーションプログラムを構築するためのシステムアーキテクチャを示す図である。 ナビゲーションアプリケーションの初期データ収集及び移動計画段階を示すフローチャートである。 ナビゲーションセッション中のモバイルデバイスの移動を追跡するためのプロセスを示すフローチャートである。 ナビゲーションアプリケーションのための経路追跡プロセスの例を示すフローチャートである。 ナビゲーションアプリケーションで通知を管理するためのプロセスを示すフローチャートである。
[00054]センサー及び音源の構成
[00055]特定の測位手法の詳細に踏み込む前に、我々は、センサー及び音源の構成の検討と、それぞれの構成から導出され得る位置情報の概要とから始める。音声による測位の場合、センサーはマイクロホンであり、音源は音声送信機(例えば、ラウドスピーカー)である。それぞれが多くの異なる構成として存在する可能性があり、我々はここで主なカテゴリーを概説する。我々は、センサーが、携帯電話又はタブレットコンピュータなどの、消費者の間で人気が高いコンシューマデバイスのよくある構成要素である場合の適用に特に関心がある。したがって、我々の構成の例は、これらのデバイスを使用する。後で、我々は、構成のそれぞれに適用可能な方法の特定の例を与える。
[00056]構成は、以下の3つのカテゴリー、すなわち、1)音源の数、2)モバイルデバイスのマイクロホンの数、及び3)互いに協力するモバイルデバイスの数に応じて整理され得る。
[00057]例示するために、我々は、信号源のネットワークの一般的な例を使用する。図1は、信号源(点で表される、例えば、102、104、及び106)のネットワークの中にあるモバイルデバイス100を示す図である。図1の音源のネットワーク内の所与の位置において、モバイルデバイスの有効範囲内の1つ又は複数の音源を含むネットワークのサブセットが存在する。この有効範囲は、破線の円108として示されている。
[00058]1つのラウドスピーカー:測位システムは、(例えば、最も近い音源などの)1つの音源とのセンサーの近接度を検出又は測定するように構成され得る。図1に示される信号源のネットワーク内であっても、システムは、モバイルデバイス100の有効範囲内の単一の音源、例えば102に限定され得る。最低でも、モバイルデバイスは、そのモバイルデバイスが音源102の近辺にあることを知っている。信号の強度又は音源の方向などの追加の情報によって、より多くの位置情報が計算され、モバイルデバイスのユーザに提供され得る。
[00059]指向性スピーカーが、施設内の特定の位置に円錐状の音(cone of sound)を放つために使用され得る。例えば、店舗用に構成された測位システムにおいて、指向性スピーカーは、店舗の商品陳列棚の間の通路の天井に列をなして配置される。棚は、異なる通路のスピーカーから発せられた音の重なりを最小化するように音を調整する。それぞれの通路内で、指向性スピーカーは、隣接するスピーカーの軸線に垂直な軸線に沿って円錐状の音を下向きに放出する。この構成では、音源の識別は、その音源からの音を取り込んだモバイルデバイスがその音源の円錐状の音の中にあることを示す。加速度計、磁力計、及び/又はジャイロスコープなどの追加のセンサーが、ユーザのモバイルデバイスの向きの情報を提供し、したがって、ユーザのデバイスに最も近い、並びに/又はデバイスが向けられている若しくは移動している方向に位置する棚及び棚の商品が示される。
[00060]2つ、又は好ましくは3つ以上のラウドスピーカー:2つ以上のスピーカーは、センサーの相対的な位置を推定する三角測量を可能にする。図1を参照すると、音源102、104、及び106がモバイルデバイス100の有効範囲内にある。これらの音源からモバイルデバイスへの音声信号の相対的な到達時間は、位置を決定するのに十分なデータを提供する。例えば、モバイルデバイス100に対する有効範囲108内の音源の各ペアは、位置を計算するために解かれ得る1組の式に入力を与える。2つの異なる音源からモバイルデバイスへの相対的な到達時間は、双曲面に沿ってモバイルデバイスの位置の近似を与える。さらなる別のペアは、2つのペアに関して計算された双曲面の交わりとしてモバイルデバイスの計算を行うことを可能にする。モバイルデバイスの有効範囲内の音源ペアの数が増えるにつれて、システムは、それらのペアを解を計算するために使用されるデータに含めることができる。また、使用される特定の音源は、音源から検出された埋め込み信号の信号強度などの信号メトリックにしたがって、それらの音源から得られたデータが含められる前に綿密に調べられることが好ましい。
[00061]この手法は、マルチラテレーション又は双曲線測位と呼ばれることがある。この場合、我々は、異なる送信機からの信号の到達時間差(TDOA)を測定することによって受信機の位置を見つける。2つの送信機の位相差も使用され得る。複数の送信機を用いて、TDOAの手法は、各送信機の既知の座標と、受信機に対する送信機の各ペアのTDOAとに基づいて受信機の3D座標(例えば、x、y、及びz)を見つけるための連立方程式を生成することによって解決される。そのとき、この連立方程式は、特異値分解(SVD)又はガウスの消去法を用いて解かれ得る。最小2乗最小化法が、受信機の位置の解を計算するために使用され得る。
[00062](例えば、3Dの問題を2Dの問題に単純化する)モバイルデバイスが地面の上にあると仮定すること、及びネットワークサイトの地図を使用して、モバイルデバイスの位置の解空間をユーザが移動すると予測される経路に沿った特定の離散的な位置に制限することなどのさらなる仮定は、計算を単純化する。後者においては、SVD法を用いて連立方程式を解こうとするのではなく、システムは、近辺の既知の位置の有限集合を調べてどの位置がデータに最もよく当てはまるかを決定することができる。
[00063]計算の精度は、位置が何らかの誤差範囲(error band)(例えば、モバイルデバイスに対する音源の対応する2つ以上のペアに関する2つ以上の双曲面に沿った2つ以上の誤差範囲の交わり)内で正確であることを規定する可能性がある。
[00064]2つ以上の音源を使用する別の手法は、誤差範囲内で各音源からモバイルデバイスへの対応する距離を与える信号強度メトリックを用いて音源からの距離を近似することである。例えば、検出された信号と予測される信号との間の相関強度又は信号の対応度合いなどの透かし検出メトリックが、モバイルデバイスからの音源の距離を近似するために使用される。信号強度は、音源からの距離の逆2乗の関数である。より高い周波数の信号の強度は、より低い周波数よりも速く低下する。高い周波数の信号に対する低い周波数の信号の相対的な強度を決定する信号強度メトリックが、音源からの距離を推定するために使用され得る。精度は、測位システムの潜在的な位置の解空間を表す、特定の音源の位置及び受信機の想定位置のメトリックを調整することによって改善され得る。例えば、所与の設備に関して、信号強度メトリックと特定の音源からの距離との間の関係が測定され、次に、その設備の音響特性に対してメトリックを較正するためにルックアップテーブルに記憶される。
[00065]1つのマイクロホン又は密集した複数のマイクロホン:これは、典型的なモバイルデバイスの状態であり、それ自体では、それらのモバイルデバイスは、マイクロホンアレイの場合のようには到達方向の推定を実行するのに適していない。
[00066]2つ以上のマイクロホンを備えたマイクロホンアレイ:音声の到達方向を与えるためにマイクロホンアレイを使用することは、マイクロホンアレイを収容するために必要な物理的な寸法を有するタブレットPCなどのデバイスで実用的である。そのようなアレイを使用して、測位方法は、受信デバイスの向きに対する音源の方向を特定し、より優れた三角測量の方式を可能にすることができる。この方向の情報は、受信機が位置する、音源と受信機とを通る線に沿った点を見つけることに、受信機の位置の計算を単純化する。受信機が2つ以上の音源に対する方向及び向きを決定することができるとき、測位システムは、受信機と各音源との間のこれらの線の交点として位置を計算する。マイクロホンアレイによって与えられた向きを用いて、地図アプリケーションを利用可能にする(例えば、ユーザが向かっている方向に基づく向きの品物を示す地図を表示する)ことができる。
[00067]マイクロホンのアレイに加えて、システムは、デバイスの向き/方向と、ネットワークを通るモバイルデバイスの移動経路の方向とを与えるために、カメラ、加速度計、及び磁力計などの追加センサーからのデータも利用する可能性がある。
[00068]2つ以上の音源の中の異なる音源の方向を決定するために、システムは、最初に、一意の音源を特定する。次に、それぞれの一意の音源信号の信号特性が、音源信号をフィルタリングして特定の音源からの信号を分離するために使用される。例えば、整合フィルタ(matched filter)が、特定の音源から受信された信号を分離するために使用される。そして、システムは、マイクロホンアレイ処理を使用して、その分離信号の方向を決定する。このマイクロホンアレイ処理は、アレイ内の異なるマイクロホンからの分離信号の間の相対的な位相の遅れを検出して、アレイの向きに対する到達方向を与える。
[00069]一実施形態において、音源信号は、ホスト音声信号に加えられる直接シーケンススペクトル拡散透かしのために一意になる。相関検出器が、搬送波信号を検出し、次いで、透かし信号を分離する。そして、それぞれのマイクロホンから検出された搬送波信号のペアの間の位相遅れが、到達方向を決定するために使用される。
[00070]単一のモバイルデバイス:これは、単一のモバイルデバイスが、1つ又は複数の音源から異なる音声を取り込み、データから測位を導き出す場合である。モバイルデバイスは、音源の識別、位置、方向、信号強度、及び異なる音源から取り込まれた信号の相対的な特徴などの、(1つ又は複数の)音源について取り込まれた音声からデータを導出する。
[00071]複数のモバイルデバイス:この場合、音源の測位は、デバイスが互いの近接しているときに互いに協力することを可能にすることによって向上し得る。この協力は、近隣のデバイスの間でデバイス間通信の既知の手段を使用してデバイス間で情報を交換するための無線通信プロトコル(例えば、Bluetooth(登録商標)、Wi−Fi規格など)を使用する。
[00072]さまざまな構成を概説したので、我々は、ここで、音声信号測位システムの説明に移る。多くの変更形態が得られる可能性がある1つの方式は、何らかの識別可能な音を連続的に再生するラウドスピーカーで空間を構成することである。モバイルデバイスの(1つ又は複数の)マイクロホンは、この音声信号を取り込み、音源を特定し、音源の相対的な近接度/位置を決定する。
[00073]この種の構成の中には、考慮すべき主要な点が3つあり、その3つとはすなわち、1.音源を特定する手段、2.音源からの信号の周辺からの検出(例えば、「周辺からの」とは、マイクロホンを通じて周辺音声を取り込むことを指す)を実行するための手段、並びに3.音源の近接度及び位置の推定値を決定するための手段である。
[00074]1.識別可能な音源
既存の音源測位方式は、環境内の支配的な音源の位置を見つけることに焦点を当てている。対照的に、我々は、近辺にその他の音源が存在していても特定の(おそらくは非支配的な)音源の位置を見つける能力を必要とする。これを実現する1つの方法は、(例えば、非可聴電子透かし、又は背景音として許容できるように構築されたデータ信号などの)符号化されたデータ信号の存在を探すことである。別の方法は、コンテンツフィンガープリント技術を使用して、特定の音源がモバイルデバイスの近辺に存在することを認識することである。音源は指向性スピーカーである可能性があり、音源から放たれる音声の領域を形作るための追加の遮音構造物をともなって天井、壁、又は棚構造物内に設置される可能性がある。音源は、棚又は陳列棚の端(end−cap)のプロモーション用ディスプレイのような物体の中に配置される音声トランスデューサを備えた専用デバイス又はポータブルデバイス(例えば、シェルフトーカー(shelf talker)デバイス)である可能性がある。音源は、電源から配線されるか、又はバッテリーによってローカルで電力を供給される可能性がある。また、音源は、集中型の音源から駆動されるか、又は各音源若しくは音源の小さなグループが、異なる音源、潜在的には、フラッシュメモリ、圧縮音声デコーダ、デジタルアナログコンバータ、音声出力ドライバ、及び音声出力トランスデューサを含むデジタル音声再生デバイスのような音声出力源によって駆動されるように分散される可能性がある。
モバイルデバイスの動きの自由度は、特定の音源からの音声の取り込みの一貫性及び品質を改善し、モバイルデバイスの位置の計算を簡単にするために制限される可能性もある。屋内ショッピングへの適用では、ユーザのモバイルデバイス用のクレードルがショッピングカートに置かれる可能性がある。クレードルは、ユーザがハンズフリー動作モードでスマートフォンのハンドセットのディスプレイを見ることを可能にしながら、スマートフォンのハンドセットをカートの決まった位置に保持する。位置に基づくサービスのハンズフリーの自律動作モードを可能にすることに加えて、クレードルは、デバイスの位置及び向きの解空間を制限する。クレードルに基づくシステムのさらなる特徴が、以下でさらに検討される。
[00075]2.周辺からの音源の検出
我々は、音声信号で情報を伝達するために使用される埋め込み信号(例えば、電子透かし、又は音源信号でデータを伝達する合成された音声)が、特にショッピングモールなどの騒がしい環境で周辺から取り込まれた音声から信頼性高く復元され得ることを保証する必要がある。とりわけ、電子透かしのロバスト性を向上させる1つの方法は、周辺の「雑音」レベルを感知し、検出が信頼できるように、送信される信号に埋め込まれる透かしの強度をリアルタイムで調整することである。
[00076]3.音源の近接度/位置の推定
音源が特定された後、近接度の情報が推定される。マイクロホンアレイがモバイルデバイスで利用可能な場合、音源の相対的な方向がマイクロホンアレイから決定される。以下でさらに説明される1つの手法は、ロバストな電子透かしとフラジールな電子透かしとの組合せの透かし信号の劣化を測定するメトリックなどの信号強度メトリックを使用することである。そして、このメトリックは、そのメトリックを音源からマイクロホンまでの距離の推定値に変換するためのルックアップテーブルに与えられる。例えば、1つの実装において、透かしは、検出が音源からの距離に依存する異なるロバスト性レベルで埋め込まれる。音源からの距離が短くなるにつれて、次第により低い信号強度又はロバスト性の透かしを復元する能力が高まる。検出されることになる最も弱い透かしは、次に弱い透かしがもはや検出されない地点が音源からの距離に対応するので、音源からの距離の指標を提供する。
[00077]別の例として、埋め込み信号の検出メトリックが、特定の音源からの信号の強度を測定するために使用され得る。1つの実装において、埋め込まれる電子透かしは、選択されたより高い周波数(例えば、やはりモバイルデバイスのマイクロホンの可聴範囲内にあるより高い周波数)の周波数トーンを変調することによって符号化される。これらのトーンの強度は、音源からの距離が広がるにつれて減衰する。したがって、埋め込み信号の高周波数トーンの低周波数トーンに対する比などの検出メトリックが、音源からの距離に対応する検出メトリックを提供する。
[00078]一部の適用では、三角測量に基づく位置推定を可能にするために、複数の音源からの近接度も同時に推定する必要がある可能性がある。
[00079]以下で、我々は、
1.電子透かしを音声ストリームに導入するための異なる手法、
2.周辺音声レベルを感知すること、及びリアルタイムのマスキング計算のために、周辺音声レベルの音響心理学モデリングに基づいて透かしの強度を調整すること、並びに
3.近接度の推定が可能な透かし方式
を含むいくつかの代替的なシステムの実装の詳細を述べる。
[00080]音源を一意に特定する能力は、背景雑音、及び音源信号に干渉する可能性があるその他の音源が存在する中で受信デバイスの測位を可能にする。最初に、測位方法は、測位されているモバイルデバイスがいずれかの関連する音源の近くにあるかどうかを決定しようとする。
[00081]我々は、最も近い音源を決定するためのさまざまな方法を考案した。これらの方法は、任意のホストコンテンツのための透かし手法と、音源信号の定義された組を使用するコンテンツフィンガープリント手法と、音声が特定の情報を伝達するように構築される合成音声手法とを含む。
[00082]図2は、音源のネットワーク内で一意の音声信号を生成するための構成可能なシステムを示すブロック図である。このシステムのタスクは、受信デバイスにおいて取り込まれた周辺音声の分析によって特定される音源(例えば、ラウドスピーカー110、112、114)からの一意の信号を生成することである。引き続き図1のテーマを取り上げて、これらのラウドスピーカーは、測位ネットワークの音源ノードを表す。それぞれのラウドスピーカーは、測位システムが実装される施設で初期化段階でシステムに登録される関連位置を有する。一部の実装において、音源信号は、エコー干渉及びその他の歪みを最小化する特定の部屋又は施設の音響効果に適合される。さらに、上述のように、特定の施設内でのモバイルデバイスの離散的な位置に関する解空間が、ネットワークノードの識別子と関連してマッピングされ、記憶される可能性がある。そして、この情報は、モバイルデバイスで取り込まれた受信信号からのノードの識別に基づく位置計算システムに供給される。
[00083]受信信号強度システム(RSS:received strength of signal system)のための信号強度メトリックは、施設内の離散的な位置で信号の測定を行い、ネットワークノードにおける特定の音源信号に関する1つ又は複数の信号メトリックの値の間の関係を、そのネットワークの位置で(1つ又は複数の)音源信号の(1つ又は複数の)音源識別子によって特定される音源からの対応する距離とともに記憶することに基づいて調整される。
[00084]好ましくは、図2のシステムは、施設内でスピーカーのネットワークを通じて背景音楽若しくはその他のプログラム又は背景音を再生するために使用される典型的な音響機器に容易に組み込まれるように設計される。この音響機器は、前置増幅器、音声再生デバイス(例えば、CDプレイヤー、又はストレージデバイスからのデジタル音声ストリームのプレイヤー)、受信機増幅器、及び最後に出力スピーカーを含む。概要で述べたように、好ましくは、これらのデバイスは、制御モジュールによって制御され得る。制御モジュールは、区域内の音声の再生を制御し、ネットワーク接続によってコントローラに接続された遠隔コンピュータで実行されるソフトウェアによりそれぞれが構成可能であり、制御可能である
[00085]1つの実装において、それぞれのネットワークの位置は、その位置のためのサウンドカードを通じてその位置のためのラウドスピーカーを駆動する音声出力デバイスからの一意の音源を有する。サウンドカードは、音源、白色雑音生成器又は音声プレイヤー(例えば、CDプレイヤー若しくはフラッシュメモリデジタル音声プレイヤー)などの音声出力デバイスのための音声入力を有する。一意の音源信号は、音声プレイヤーのメモリから再生される可能性があり、ネットワーク接続(例えば、イーサネット(登録商標)又はwi−fi)からその音声プレイヤーにストリーミングされる可能性がある。(白色雑音生成器システムを含む)音声マスキングシステム及び場内放送システムは、1つ又はいくつかのスピーカーのそれぞれが異なる音源によって駆動される分散型の構成で設計され得る。その音源を提供する音声出力デバイスは、区域のスピーカー又は出力トランスデューサと同じ場所に置かれる可能性がある。音声信号は、有線又は無線接続を通じて出力ドライバ(例えば、アナログ/デジタル用、有線及び無線I/O用の入力/出力インターフェースを備えた増幅器デバイス)にストリーミングされる可能性があり、さらに、そのようなデバイスから有線又は無線スピーカーにストリーミングされる可能性がある。Archoustics(Archoustics Mountain、コロラド州ルイビル)のような供給業者からの音声マスキングシステムが、各区域が独立した音源を有する分散された区域を用いる音声マスキングユニットを提供する。LogisSon technologyなどの音声マスキング機器が、カナダ、オンタリオ州のK.R.Moeller Associates,Ltd.によって製造されている。もちろん、特定の適用のために適合された有線及び無線インターフェースを備えた特注及び既製の音源と、前置増幅器と、ドライバと、出力トランスデューサ構成要素との組合せを使用して代替的な構成が実装され得る。
[00086]一意の音源信号を生成するための音声処理が、音声信号の生成及び送信経路の中のさまざまな箇所に挿入される可能性がある。図2は、いくつかの異なる選択肢を示す。第1に、音声信号が、データベース120から生じる。一意の信号が、対応する一意のフィンガープリントを有する一意の信号を選択することによって生成されるか、又は識別子を伝達する合成音声信号として生成される態様では、システムは、特定の音源のための一意の音声信号を選択し、出力用のラウドスピーカーへの経路に沿ってその信号を送信するコントローラを有する。この場合、識別子データベース124の役割は、一意の信号のフィンガープリント又は合成信号のペイロードと対応する音源(例えば、ラウドスピーカー)の位置との間の関連付けを記憶することである。システム構成を簡単にするために、データベースは、ラウドスピーカーの位置が設定されるときに設定される位置パラメータへのポインタを記憶する可能性がある。これらのパラメータには、位置の計算を特定のネットワークの位置又は音源信号に適合させるその他のパラメータ(場所の位置の離散的な組、信号の強度の特徴、前置フィルタリング又は検出の助けとなる一意の音源信号特徴など)も含まれる可能性がある。
[00087]電子透かし信号のストリームが位置を特定するために埋め込まれる場合、コントローラ122は、音声ストリームを受信し、その音声ストリームを分析し、埋め込みプロトコルにしたがって電子透かし信号を符号化する電子透かし埋め込み器を含む。このプロトコルは、データ信号の1つ又は複数の層が符号化される特徴空間内の埋め込み位置を規定する。このプロトコルは、データペイロードの構造、冗長性、同期方式などのようなフォーマットパラメータも規定する。この種の実装では、識別子データベースは、符号化された音源識別子と音源の位置との間の関連付けを記憶する。
[00088]透かし手法では、それぞれのラウドスピーカーが、一意に透かしを付けられた音を再生する。コントローラ122は、一意に透かしを付けられた音声信号を対応するスピーカー(例えば、110、112、114)の送信経路へ切り替える。
[00089]代替的に、それぞれのラウドスピーカーに対する一意の埋め込みを実装することが現実的でない場合、近辺の1組のラウドスピーカーが同じ透かしを付けられた信号を再生するが、それらのラウドスピーカーは、受信機が音源を判別することを可能にする追加の署名(signature)を有する。例えば、図2の例を用いると、コントローラは、建物の特定の領域内のラウドスピーカーのサブセットの送信経路に同じ音声信号を送信する。そして、それぞれの特定の音源の送信経路内の信号プロセッサ(例えば、126、128、130)が、一意の署名を音声信号に導入する。この署名は、署名によって変更された音声信号を送信経路の終わりで受信するラウドスピーカーの特定の位置をインデックス付けするために、音源識別子に加えてデータベース124に記憶される。
[00090]信号プロセッサ(例えば、126、128、130)は、音源のネットワーク内のいくつかの位置で必要とされるので、それぞれのラウドスピーカーへのアナログ送信経路に直列に追加され得る安価な回路であることが好ましい。例えば、タップ付き遅延線(tapped delay line)回路が、ネットワークで同じ識別子を共有する音源のサブセット内で音声信号を判別するための、受信機で検出可能なエコーの一意の組を導入するために直列に接続される。タップ付き遅延線回路を構築する1つの手法は、バケツリレー素子を使用することである。これは、NMOS又はPMOS集積回路から構築されたアナログシフトレジスタの形態である。
[00091]この領域内のスピーカーは、近辺の位置を割り振られる。音源の識別以外のさらなる位置データが受信機で導出され得ない場合、この近辺の位置が、少なくとも、スピーカーのサブセットの位置の近接として定義された領域内の正確な位置を与えることができる。支配的な音源から署名が検出可能である場合、支配的な音源からのこの検出は、支配的な音源に近接する正確な位置を与える。最後に、取り込まれた音声でさらに2つの署名が検出されるとき、さらなる位置計算が、TDOA、到達方向、三角測量などに基づいて、既に説明されたように可能にされる。
[00092]多層透かし方式は、ネットワーク内の音源を特定する階層的方式を可能にする。そのような方式では、第1の符号化されたデータ信号が、音源のネットワークの第1のより広い領域(例えば、同じ最上位レベルの識別子を共有するネットワークノードのサブセットを包含する円)を特定する。受信された信号から抽出される追加の情報が、位置を音源のより小さな組、特定の音源、音源からの特定の距離、及び最終的に何らかの許容誤差バブルの範囲内の特定の位置に絞り込む追加のメトリックを提供する。この種の方式で最も単純なものは、各音源からの2つの透かし層、すなわち、ネットワーク内の1組のスピーカー(例えば、特定の領域内でモバイルデバイスの局所的な近辺を定義するこの領域内の1組のスピーカー)によって出力される信号に埋め込まれる共通の透かしと、導入が容易であり、1組のスピーカーを判別するのにちょうどよい、より小さなペイロードを有する下位レベルの透かしとが存在する2層式の手法である。この種の透かしのための技術は、直接シーケンススペクトル拡散(DSSS)透かし、エコーに基づく透かし、振幅又は周波数の変調に基づく透かし、及びこれらの方法の組合せを含み、これらの技術は互いに排他的でない。以下でさらに説明されるように、一実施形態においては、DSSSが、符号化されたデータ信号を系統的に表すために使用され、そのとき、符号化されたデータは、知覚的なマスキングモデルにしたがって、時間及び/又は周波数領域のサンプルなどの信号特徴を変調するために使用される。エコーに基づく技術も、自己相関を変調するために使用される(例えば、特定の遅延で検出されるエコー変調)。1組のマスクされた周波数トーンも、データ信号をホスト音声に符号化するために使用される。
[00093]1つの特定の実装において、我々は、以下のような2層の透かし方式を設計した。透かしの第1の層に関して、透かしエンコーダがDSSSデータ信号を生成する。次に、エンコーダは、符号化されたデータチップを音声の対応する連続する時間ブロックにマッピングして、信号を経時的に拡散する。特定のチップに対応する時間の部分に関して、データ信号が、音声マスキングモデルを使用してその部分の音声信号に対して適合される。知覚的な適合が、対応するチップを符号化するための時間ブロックにおける音声信号の特定の調整をもたらす。これは、周波数領域のマスキングモデルに基づいてデータ信号を音声に対して適合させるための周波数領域の分析を含み得る。チップの信号は1つの帯域で伝達されるか、又はいくつかの周波数帯域に拡散される可能性がある(例えば、時間と周波数との両方で信号が拡散される可能性がある)。この第1の層は、1組の近隣のネットワークノードを含むネットワークの部分の識別子を伝達する。
[00094]第2の層に関して、信号プロセッサが、第1の層によって特定される近隣のネットワークノードの中の特定の音源を特定するための異なるエコーパターンを音声信号に導入する。
[00095]第1の層の信頼性は、信号を時間的に拡散し、チッピングのシーケンス全体のいくつかのセグメントを包含する期間にわたって検出を平均化することによって高められる。この期間はおよそ1秒から5秒までであり得る。
[00096]第2の層の信頼性は、音源のサブセット内の特定の音源を表すためにエコーの異なる組合せを使用することによって高められる。シンボルのアルファベットが、50ミリ秒の最大遅延以内のエコーの組合せから構築される。この最大遅延は、特に、測位システムが使用されることになる適用で存在する周辺雑音を前提として、人間によるエコーの知覚を最小限にする。エコーのそれぞれの組合せは、シンボルに対応するエコーパターンを形成する。第2の層の音源識別子は、アルファベットから選択された1つ又は複数のシンボルの組から形成される。
[00097]ロバスト性は、離間されて(例えば、5ミリ秒離されて)おり、部屋のエコー及びその他の「データではない」エコー又は雑音源との衝突を最小化するように選択される強いエコーの組合せを使用することによってさらに強化される。例えば、部屋の影響から音源を判別するために使用されるエコーパターンは、部屋のエコーから判別可能な時間(遅延の組合せ)及び周波数の構成を有する。周波数の構成は、所定の周波数帯域内の所定のエコーを選択することによって選択され得る(例えば、人間には聞こえないが、通常のセル電話のマイクロホンの可聴取り込み範囲内には入るように選択された信号符号化範囲内の高帯域、中帯域、低帯域の範囲から選択され得る)。
[00098]ロバスト性及び信頼性は、信号検出器の設計によってさらに高められる。検出器の設計は、信号を前置フィルタリングして、信号の不要な部分及び雑音を取り除くことを含む。検出器の設計は、エネルギーをある期間にわたって蓄積して信号対雑音比を改善することも含む。例えば、検出器は、シンボルのアルファベットの所定の離散的な遅延の近辺の自己相関を測定する一連の相関器を使用する。所定の遅延のある期間にわたって蓄積されたエネルギーが、1つのデータシンボル又は複数のデータシンボルに対応するエコーパターンが存在するかどうかを特定するために評価される。
[00099]好ましくは、第2の層を導入する信号プロセッサは、音響システムの増幅器からラウドスピーカーまでの音声信号の電気的な経路に直列に接続される安価な回路である。そのような回路の1つの実装は、本明細書に記載のバケツリレー回路である。これらの回路は、デバイスを通過する音声信号に導入される遅延信号の利得を選択的にオンにするか又は調整することによって構成可能であるように作製され得る。
[000100]1つの実装において、検出器は、ケプストラム分析を用いて、スマートフォン(すなわち、Apple iPhone)のマイクロホンを通じた音声の周辺からの取り込みによって、埋め込まれたエコープロファイルを検出する。この検出器は、ソフトウェアに基づいており、スマートフォンか、又はそのスマートフォンと通信するサーバかのどちらかで実行される。50ms以上のエコー継続時間を使用して、検出器は、ラウドスピーカーから最大9フィート離れた周辺からの取り込みからエコープロファイルを検出した。エコープロファイルが埋め込まれたホスト音声信号の性質は、検出結果に大きな影響を与えなかった。したがって、この手法は、音楽、会話、(例えば、公共の空間における音声マスキングのための白色雑音生成器からの)音声マスキング雑音、海の波のような落ち着く背景音などのような、屋内の場内音響システムによくあるさまざまな音源信号に適合可能である。この例においては、デジタル音声遅延回路がエコープロファイルを与えた。
[000101]埋め込みプロファイルの信号を検出するためにケプストラム分析を使用することは、さまざまな最適化された検出器の実装が得られる可能性があるケプストラム変換の特徴を利用する。ケプストラム分析の特定の詳細はさまざまであるが、それらの詳細は、対象の信号(この場合は、マイクロホンからのデジタル化された音声)の周波数変換の対数を取ることを含むケプストラム変換に基づく。ケプストラム変換は、信号の周波数変換の対数の逆周波数変換として表され得る。例えば、周波数変換としてFFTを使用して、離散的な信号x(n)のケプストラム変換は、x^(n)=iFFT(log(FFT(x(n)))と表され得る。ケプストラム変換を使用すると、2つの信号の畳み込みが、2つの信号のケプストラムの合計に等しくなる。
[000102]ケプストラム変換の別の特徴は、その変換によって検出器がホスト信号のコンテンツの中のエコープロファイルを検出することを可能にすることである。例えば、エコー成分は構造的に累積される一方、その他の成分は累積されないので、ある期間にわたって音声信号のケプストラムを平均化することによって、音声のエコー成分をエコー成分として分離することができる。周辺音声で使用されるホスト信号(例えば、会話、音楽、音のマスキングのための指定された信号、又は背景音)によくあるようにケプストラム領域でのホスト信号の平均値が0になる場合、値のホスト信号成分が0になり、エコープロファイルが残る。概して、ケプストラム領域でフィルタリングに相当する「リフタリング(liftering)」と呼ばれる、エコープロファイルを検出するためにケプストラムをフィルタリングするさまざまな方法が存在する。これらの方法は、ケプストラムの大きさ、大きさの2乗、ケプストラム係数の2乗などの平均化又は加重平均化などによってエコー成分を構造的に組み合わせようとする。したがって、エコープロファイル検出器は、エコープロファイルが一定に保たれるデジタル周辺音声の連続する時間枠のケプストラムを平均化することによって設計され得る。
[000103]第2の層を実装するための代替的な方法は、1組の周波数トーンを導入することである。これらのトーンは、音声マスキングモデルにしたがって振幅を調整され得る。これらのトーンを挿入するための信号プロセッサの1つの形態は、選択された周波数(例えば、10個の所定のトーンの組から選択された3つ又は4つのトーン)で発振器回路を追加することである。複合信号が、比較的聞こえにくいように人間の可聴範囲内で十分に高いことが好ましいが、マイクロホンによる取り込みによって混入する周辺雑音及びその他の雑音源に対してロバストであるだけ十分に低い発振器出力の組合せを選択することによって構築される。また、選択されるトーンは、マイクロホンによって信頼性高く検出されなければならず、したがって、マイクロホンによる取り込みプロセスで大きく歪んではならない。
[000104]周波数変調のこの形態のための相補的な検出器は、所定の周波数トーンの周辺のフィルタバンクを使用する。これらの周波数エネルギーが、ある期間にわたって蓄積され、次いで、所定の識別子又はデータシンボルに対応するトーンの組合せを特定するために分析される。
[000105]音源又は音源グループを判別するためのさらに別の方法は、一時的な揺らぎ(perturbation)又はジッタを導入することである。この手法では、音源又はグループをその他の音源から判別するために、時間尺度(time scale)の変更が、その音源又は音源グループに関連付けられたパターンで音声信号の対応する部分に適用される。時間尺度の変更のこのパターンは、例えば、チップシーケンスと同期することによって検出され得る。例えば、異なる時間尺度でチップシーケンスの相関ピークを探索することは、チップシーケンスが符号化された既知の時間尺度に対するその時間尺度のずれを示す。
[000106]コンテンツフィンガープリント手法では、受信機が、コンテンツフィンガープリントを使用して音源を特定する。特定の実装に関して、測位方式のために使用されることになる、それぞれがコンテンツフィンガープリントデータベースに登録されている、想定されるチップの明確に定義された組が存在する。受信機で取り込まれた音声のセグメントがフィンガープリント(例えば、ロバストなハッシュ又は特徴ベクトル)を導出するために処理され、次いで、そのフィンガープリントが、データベースに登録されたフィンガープリントとマッチングされる。データベース内のマッチするフィンガープリントが音源を示す。
[000107]合成された音声を使用する1つの実装において、それぞれのラウドスピーカーは、−おそらくは、MIDIシーケンスの周波数の微妙な調整、又は透かし信号を海の波若しくは噴水の音のような音に整形することによって−耳に心地よく聞こえるが、隠されたペイロードを伝達する特別に設計された音声クリップを再生する。上述のように、音声マスキングシステムで使用される白色雑音生成器の出力のように聞こえるか、又は音声マスキングシステムの白色雑音生成器からのホスト白色雑音源信号への最適な埋め込みのために設計されている透かし信号が、生成され得る。
[000108]最も近い音源が、上述の特定方式のうちのいずれかを用いて、その音源の一意の識別子に基づいて特定され得る。最も近い音源は、信号強度の分析を用いて決定される可能性もある。透かしを使用する1つの特定の分析は、連続的な異なる強度の透かしを符号化し、次いで、最も近い音源を、これらの透かしのうちで最も弱い透かしが検出される音源として決定することである。
[000109]モバイルデバイスで取り込まれた音声で2つ以上の音源が検出され得るとき、三角測量に基づく測位の形態が、音源に対するモバイルデバイスの方向又は距離の推定を用いて実行され得る。
[000110]周辺からの取り込み
[000111]既に、我々は、受信機で特定され得る音源信号を生成することによって音源を一意に特定するための技術の概要を述べた。この適用は、背景音の品質を劣化させず、さらに、モバイルデバイスのマイクロホンにより取り込まれた周辺音声から信頼性高く検出されるシグナリング技術の設計を必要とする。
[000112]図3は、周辺音声信号を分析して音源信号を検出し、特定するためのプロセスのフローチャートである。このプロセスは、モバイルデバイスで実施されることが好ましい。しかし、プロセスの態様は、処理タスクのためのデータをまとめ、処理及び結果の返却のための別のコンピュータ又はコンピュータのアレイに(例えば、クラウドコンピューティングサービスに)送信することによって別のデバイスに分散される可能性がある。ブロック130において、マイクロホンで取り込まれた音声ストリームの制御が取得される。音声ストリームは、デジタル化され、バッファリングされる。
[000113]ブロック132において、バッファリングされた音声サンプルが、変調された特徴の位置を分離するため(電子透かし若しくは合成データ信号の場合)、又はコンテンツフィンガープリントの特徴を分離するためにフィルタリングされる。
[000114]次に、ブロック134において、電子透かしデコーダが、フィルタリングされたコンテンツを分析して、1つ又は複数の透かし信号を復号する。既に説明されたように、符号化されたデータは、特徴を修正することによって特徴に変調される。この変調は、符号化されたデータ信号の推定値を生成するために特徴から復調される。これらの推定値は、信号の検出を改善するために検出窓にわたって蓄積される。データ符号化の逆の操作によって、識別子を含むペイロードが得られる。例えば、上述の一実施形態は、拡散スペクトル搬送波及び畳み込み符号を使用して第1の透かし層を符号化する。1つの実装において、第1の層は、32ビットのペイロードと、その32ビットのペイロードから計算された24ビットのCRCとを伝達する。合わせて56ビットが、168符号化ビットを生成するように1/3の率の畳み込みエンコーダによって符号化される。これらのビットのそれぞれが、DSSSプロトコルで100チップの搬送波信号を変調する。100チップシーケンスは、各チップが16KHzのサンプリングレートの2〜3個の音声サンプルにマッピングされるようにして時間的に順番にマッピングされる。
[000115]検出器は、重み付けされたビットの推定値をもたらす搬送波信号を復調する。軟誤り訂正デコーダは、データシンボルのペイロードの畳み込み復号のためにビタビデコーダを使用する。復調は、チップの推定値を抽出するスライディング相関器(sliding correlator)として実装される。これらのチップの推定値は、相関メトリックによって重み付けされ、ビタビデコーダに入力され、すると今度は、ビタビデコーダが、56ビットの復号された出力を生成する。CRCが成功する場合、第1の層の識別子が検出されたと見なされる。CRCが失敗する場合、スライディング相関器がシフトし、プロセスを繰り返す。この第1のロバストな透かし層は、少なくとも、受信デバイスが位置するネットワークの近辺を特定する音源識別子を提供する。
[000116]次に、第2の層の検出器が、第1の層が正常に検出した音声の一部を操作し、存在する場合、第2の層の識別子を復号する。この検出器は、例えば、上述の手法を用いるエコートーン又は周波数トーン検出器を適用する。例えば、自己相関検出器が、音声の低域通過フィルタリングされたものを取得し、次に、シフト、乗算、及び加算を実行して所定の遅延に対する自己相関を計算する。ケプストラムに基づく検出器が、入力音声のフレームのケプストラムを計算し、結果を組み合わせてエコープロファイルを抽出する。特に、1つの実装は、各フレームからのケプストラムの平均値を計算することによって組合せを行ってエコープロファイルを抽出し、次に、埋め込まれているデータシンボルを特定するために、抽出されたエコープロファイルを、データシンボルに対応する1組のエコープロファイルとマッチングする。ロバスト性を高めたので、これらのデータシンボルが、今度は、音源ID、位置座標、音源のメタデータに対するポインタなどのような識別情報を含むデータメッセージを与えるように、誤り訂正、誤り検査などのようなシンボル復号技術を使用してさらに復号される。
[000117]コンテンツフィンガープリントに関して、特徴は、データベースに予め登録された特徴ベクトルとマッチングされる特徴ベクトルへとハッシュされる。この種の適用に関して、一意のコンテンツフィンガープリントのライブラリは比較的小さく、ローカルに記憶され得る。しかし、必要に応じて、フィンガープリントのマッチングは、サーバで実行される遠隔サービスが、合致する音源信号の音源識別子を返すようにして遠隔で実行される可能性がある。
[000118]処理ブロック134から得られた音源識別子は、音源に関する関連する位置パラメータを探すために使用される。2つ以上の音源識別子が検出される場合、どれが支配的な音源であるかを推定するために検出メトリックに対してさらなる分析が行われる。より強い検出メトリックを有する音源識別子が、最も近い音源として特定される。
[000119]図4は、信号メトリックの強度を分析することによって音源信号から距離を決定するためのプロセスのフローチャートである。このプロセスは、図3のプロセスのような音源信号の初期検出の後に続くように設計される。ブロック140において、ロバストな信号の層の検出は、弱い透かしデータのより粒度の細かい評価を行うための、デバイスでバッファリングされた音声内の基準フレームを与える。例えば、第1の層のペイロードが正常に検出されるチップシーケンスのブロックの境界が、さらなる動作のための同期をもたらす。ブロック142において、信号メトリックが計算される。1つのメトリックは、検出された透かしの符号化されたデータ信号が誤り訂正の後に再生成され、次いで、軟判定デコーダへの入力と比較される相関メトリックである。この比較は、予測される信号と誤り訂正の前の抽出された信号との間の相関強度の測定値を与える。この手法は、ペイロードが音源識別子をもたらし、強度メトリックが音源からの距離の推定値をもたらすことを可能にする。相関強度のメトリックは、特定の周波数の符号化された音源信号のエネルギーを測定し、これらの周波数における一連の信号強度メトリックを与えることによってさらに改善され得る。例えば、第1の層又は別の第2の層の周波数成分が、明確に測定される。これらの測定に基づく1つの信号強度メトリックは、より高い周波数の特徴位置の符号化されたデータ信号の強度に対する、低い周波数の特徴位置の符号化されたデータ信号の強度の比を計算することである。この特定のメトリックは、音源からの距離を推定するために設計される専用の透かし信号の層から導出され得る。代替的に、周波数トーンの変調が、音源識別子を与える可能性があり、異なる透かしの高周波数成分と低周波数成分との間で計算される強度の比が、強度メトリックを与える。どちらも場合も、距離が音源から離れるにつれて、強度メトリックは減少する。
[000120]ブロック144において、検出メトリックが、距離の推定値を探すために使用される。ブロック146において、音源識別子及び関連する検出メトリックが、位置計算機に供給される。位置計算機は、音源IDから音源の位置を探し、次に、位置及び距離パラメータを入力し、モバイルデバイスの位置の場所の推定値を求める。計算を簡単にするために、解の集合が、ネットワーク内の離散的な位置の集合に狭められる。位置は、これらの離散的な位置の場所と交わる解を見つけることによって決定される。
[000121]図5は、異なる音源からの音声信号の到達時間差を決定するためのプロセスのフローチャートである。1つの実装においては、検出器が、上述のDSSSデータ信号の手法を使用して符号化される異なる音源信号の到達時間差を測定する。この実装に関して、我々は、測位ネットワーク内のノードの間隔に基づいてチップシーケンスの長さを選択する。特に、我々は、少なくとも、我々が予測する音源信号の到達の間の最大遅延に等しいチップシーケンスの長さを選択する。スピーカーの最大距離が50フィートである場合、音源1から音源2までの最大距離の差は約50フィートである。16kHzのサンプリングレートで、チップシーケンスは少なくとも800サンプルであるべきである。
[000122]ブロック150において、検出器が、符号化されたデータ信号の探索を実行する。DSSSデータ符号化プロトコルに関して、検出器は、スライド、相関、及び試行復号プロセスを実行して有効な透かしペイロードを検出する。ブロック152において、検出器が、次いで、異なる音源からの音源信号を判別しようとする。この判別は、音源信号の一意のペイロード及び/又は一意の信号特徴によって行われる。
[000123]ブロック154において、検出器が、異なる信号源の1つ又は複数のペアの間の時間差を測定する。次に、デバイスで受信された異なる音源信号のペアに関する識別子及び時間差が、ブロック156において位置計算機に与えられる。
[000124]ブロック158において、位置計算機が、そのデータを使用してモバイルデバイスの位置を推定する。位置計算機は、既に概略を示したTDOAの手法を使用する。
[000125]我々は、デバイスのマイクロホンにより取り込まれた1つの音源信号又は複数の音源信号の分析からモバイルデバイスの位置を計算するために、音響音声システムに音声による測位信号を組み込むための代替的な手法を説明した。これらの手法は、モバイルデバイスで位置及びナビゲーションを提供するためにさまざまな構成及び組合せで使用され得る。背景プログラム及び場内放送プログラムを提供するための音声再生機器の一義的な機能を妨げることなく使用され得るさまざまな改善がある。
[000126]改善は、周辺音声レベルを感知することに基づいて透かしの強度を適合させることである。周辺音声レベルが高まるにつれて、周辺音声によってもたらされるより高いマスキングの閾値以内に留まるように、透かし信号は、それに応じて大きくされる。
[000127]別の改善は、ホスト信号の組を受信機に与えることであり、そのとき、受信機は、非ブラインド透かし検出(non−blind watermark detection)を実行するために使用される。そのような検出においては、ホスト信号の知識が、符号化されたデータの復元能力を向上させるために使用される。例えば、ホスト信号の知識は、ホスト信号が透かし信号と干渉する場合にホスト信号の干渉を取り除くために使用され得る。別の例として、ホスト信号の知識は、ホスト信号特徴に基づいて透かし信号に適用される利得などの、透かしの符号化のコンテンツに依存するパラメータを突き止めるために使用され得る。
[000128]別の改善は、位置ネットワーク内のスピーカーの特定の近辺の室内音響効果をモデル化し、次に、このモデルを使用して、その近辺で受信機によって取り込まれた音声に関する室内音響効果を反転させることを可能にすることである。
[000129]ラウドスピーカーの範囲は制限されており、したがって、モバイルデバイスの位置を推定するためにいつも三角測量が必要であるとは限らない可能性がある。ただ1つのラウドスピーカーから近接度の情報を推測することができる。
[000130]フラジールな透かしとロバストな透かしとの組合せが使用される可能性があり−より遠い距離で、フラジールな透かしは復元されず、そのことは音源からの距離の指標を提供する。音源信号は、第1の層で主な識別子とともに符号化され、次に、追加の副次的な層で、それぞれ、音源からの距離が離れるにつれて検出できなくなるロバスト性のレベル(例えば、振幅又は周波数帯域)で符号化される。
[000131]さらに、同じ近辺内の複数の電話が、(例えば、Wi−Fiプロトコル又はBluetooth(登録商標)プロトコルを用いて)互いに通信し、相対的な測位に基づいて情報を交換する可能性がある。
[000132]上述の技術のさまざまな態様が、携帯電話などのモバイルデバイスで検出可能なさまざまな種類の音源信号に適用され得る。例えば、携帯電話は、RFID又はNFC信号などのネットワークの位置に対応する音源信号を検出することができるその他の種類のセンサーを搭載する。
[000133]図6は、測位システム上にアプリケーションサービスを構築するためのシステムアーキテクチャを示す図である。ハードウェア層は、エンドユーザのモバイルデバイス160とコンピュータネットワーク162とを含む。ユーザデバイスの観点から見ると、コンピュータネットワークは、追加の計算リソースと、メモリと、その他のモバイルデバイスのセンサーを利用することによってシステムに情報を供給し、さらに、計算リソース及び電力消費をモバイルデバイスからサーバにオフロードする、追加の位置及びコンテキストデータを取り込むための手段(例えば、「クラウド」コンピューティングサービス)とを提供するサーバ並びにその他のピアデバイスのネットワークを含む。ピアモバイルデバイスは、マイクロホン、カメラ、加速度計などのセンサーを有する。ピアモバイルデバイスは、メモリ管理、タスク管理などのようなデバイスの基本的な動作機能と、センサー、及びデバイスのこれらのセンサーから来るデータストリームにプログラムによってアクセスできるようにするためのアプリケーションプログラミングインターフェース(API)とを提供するモバイルオペレーティングシステム(OS)も有する。
[000134]このハードウェアレベルの上に、位置サービスソフトウェア層164がある。この層は、ピアモバイルデバイス及びサーバのネットワークに分散される。上でより詳細に説明されたように、モバイルデバイス上にある測位サービスソフトウェアが、モバイルOSを通じてセンサーからデータを取り込み、モバイルデバイスの位置を計算するためにサーバソフトウェアと連携して動作する。また、測位サービスソフトウェアは、モバイルデバイスに関する追跡セッションを開始、終了するための追跡層にセッション情報を与える。
[000135]追跡層166は、基本サービス層の上にあり、モバイルデバイスのセッションを管理する。追跡層166は、デバイスに関するセッションIDを登録し、デバイスからの位置及びその他の関連するセンサーデータを追跡し、そのデータをセッションID及びデバイスIDと相互に関連付ける。
[000136]アプリケーション層168は、追跡層と、層164から与えられる基本サービスとを使用して位置に基づくアプリケーションを提供する1組のアプリケーションプログラムである。3つの層164〜168のすべては分散されたアプリケーションであるので、それらの層は、モバイルデバイスのピアデバイス160及びコンピュータネットワーク162上に一部が存在するように示されている。
[000137]モバイルデバイスの追加センサー
[000138]上述のように、モバイルデバイスのマイクロホン以外のセンサーが、位置及びナビゲーション情報を提供するのを支援するために使用される可能性がある。これらには、現在、スマートフォンによく搭載されている加速度計、コンパス/磁力計、ジャイロスコープ、カメラ、RFIDデバイス、及び衛星に基づくGPSが含まれる。スマートフォン及びビデオゲームコントローラに搭載されている加速度計又はジャイロスコープなどの加速度計又はジャイロスコープは、モバイルデバイスの向きを提供する。磁力計は、磁界を感知することによってコンパスのように向きを提供する。
[000139]カメラは、測位、ナビゲーション、及びその他の位置に基づくサービスにさまざまな形で寄与する静止画像とビデオストリームとの両方の取り込みを行う。静止画像とビデオとの両方の取り込みは、デバイスが、電子透かし又はバーコードなどの周囲の物体に符号化されたデジタルデータを読み取ることを可能にする。このデジタルデータは、物体の識別を与える。そして今度は、この識別が、その物体自体についての関連情報と、ナビゲーション、並びに位置、向き、拡張現実(AR)などに関するフィードバックを提供する関連するユーザインターフェース(UI)サービスのためのその物体の位置並びに局所的な2D及び3D地図などのその物体のコンテキストとを提供するためにデータベースで参照され得る。デジタルデータを提供することに加えて、マシン読み取り可能な記号表示も向きの情報を与える。特に、システムは、店舗の壁若しくは棚の壁、床、又は天井などの固定表面上のマシン読み取り可能な記号表示の向きを計算することによってモバイルデバイスの向きを導出する。
[000140]デバイスで取り込まれた静止画像及びビデオ画像は、画像認識アプリケーションにも使用され得る。そのようなアプリケーションは、近隣の物体上の一意の画像(例えば、ロゴ、テクスチャ、グラフィックス)から製品、床/天井、及び壁のパターンなどのような近隣のオブジェクトを特定することを含む。別のアプリケーションは、画像フレーム内の画像の特徴を追跡して、幾何学的な基準系が計算され得る壁、床、又は天井のような平坦面などの表面を検出することによって向きの情報を導出することである。例えば、画像特徴の認識が、実質的に平面である表面上の画像特徴を特定するために使用される。そして、これらの特徴位置が、スマートフォンのビデオカメラからの一連のビデオフレーム内のこれらの特徴を検出することによって経時的に追跡される。表面の向きのパラメータが、その表面に対するスマートフォンの位置及び向きの基準系を与えるために特徴位置から導出される。特徴の例には、スケール不変特徴変換(SIFT:Scale Invariant Feature Transforms)、及び高速化ロバストフィーチャー(SURF:Speeded Up Robust Features)と呼ばれるものなどの変種を使用して計算されるロバストな特徴が含まれる。この基準系は、選択されたUIアイテムの合成されたグラフィックスが、デバイスによって取り込まれたビデオストリーム又は近隣の棚及びその他の物体の3D合成表現に幾何学的な基準系内で重ね合わされるAR型ディスプレイのようなUIサービスを可能にする。
[000141]モバイルデバイスでの画像の取り込みによって可能にされる別の能力は、周囲の光源の時間とともに変わるデータシグナリングを読み取る能力である。モバイルデバイスのカメラは、システムが、施設又は物体の照明(例えば、LEDに基づく光シグナリング)、(その他のスマートフォンのディスプレイを含む)ビデオディスプレイ、店舗の照明、製品のディスプレイなどで伝達される信号を読み取り、復号することを可能にする。時間とともに変わるデジタルデータ信号は、デジタルデータストリームによって照明デバイスの出力を変調することによってモバイルデバイスに伝達され得る。店舗内に置かれたビデオディスプレイは、埋め込みリンクを有するデジタル透かしを付けられた画像、又はバーコードデータに符号化されたリンクを有するバーコードを表示することによって、プロモーションへのマシン読み取り可能なリンクを提供することができる。
[000142]上述の測位システムではマイクロホンが主として測位のための音源を感知するために使用されているが、マイクロホンは、製品情報、店舗内プロモーション、又はシステムの追跡若しくはアプリケーション層へのシステムコマンドを参照する透かし情報を復号するためにも使用され得る。
[000143]モバイルデバイスの(近距離通信(NFC:Near Field Communication)デバイスを含む)RFID読み取り装置、Wi−Fiインターフェース、及びBluetooth(登録商標)インターフェースのような追加の無線デバイスセンサーが、システムを拡張する追加のデータを提供する。これらは、画像又は音声シグナリングによって伝達されるその他のデータ搬送波のような近隣の物体を特定することと、さらに、ネットワーク内のデバイス間で位置及びタイミング信号を伝達するための通信チャネルを提供することとを含む。
[000144]周囲の物理的な環境からの入力又はデバイスの動きを取り込むセンサーに加えて、モバイルデバイスのコンピューティングプラットフォームは、ユーザプロファイル及び嗜好性、トランザクションの履歴、カレンダーなどのユーザコンテキスト情報を保有する論理入力も含む。特に、ユーザのスマートフォンシステムの購入及び検索トランザクションの履歴とカレンダーとの両方は、時間、場所、関連する連絡先情報、及びサブジェクト記述子(subject descriptor)のようなユーザコンテキストを示す前のトランザクション及びユーザのカレンダーから嗜好性を推測することを可能にすることによってユーザの嗜好性及びユーザコンテキストの代用となる。
[000145]追跡層
[000146]上で、我々は、モバイルデバイスのユーザ並びにシステムオペレータ及びその他の関係者(constituent)にサービスを提供するために、ハンドセットで取り込まれた位置及び関連するデータ(音源信号、センサーからの向きのデータ)を処理するためのいくつかの方法の概略を述べた。システムに追跡層を導入することは、デバイスの位置を計算する中核機能の精度を高めるだけでなく、経時的なデータの追跡に基づいて構築されたアプリケーション層を通じて提供される追加サービスを可能にする。追跡層は、(例えば、モバイルデバイスと、モバイルデバイスからの位置を記録し、補間し、速度、動きの方向などの追加情報を付け加えられた、モバイルデバイスの連続的な経路を提供する支援ネットワークコンピューティング環境(「クラウド」)上のシステム内に実装される1組のメソッドである。位置検出イベントのこのデータ及びモバイルデバイスからのセンサーフィードは、システムの精度及びロバスト性を高め、位置、向き、連続的な経路、速度、加速度、物体の識別、及びその他の追跡情報を追跡層のAPIを通じてアプリケーション層のアプリケーションプログラムに提供するために使用される。アプリケーション層は、追跡層のサービスを使用して、デバイスのナビゲーション、ショッピングアプリケーション(ショッピングガイド、比較購買、プロモーション及びクーポンの引換え、モバイルデバイスからの電子購買など)、位置に基づく検索サービス、位置に基づくメッセージ及びソーシャルネットワーク、マーケット情報の収集などのようなアプリケーションを構築する。
[000147]追跡層は、ネットワーク内のモバイルデバイスと通信する1つ又は複数のサーバシステムで実装されるネットワークアプリケーションである。任意の所与のアプリケーションで、モバイルデバイスは、ナビゲーションセッションによりネットワークに出入りし、そのナビゲーションセッション中に、追跡層がデバイスにログインし、セッションに関してデバイスからデータを取り込む。このデータには、マイクロホン、加速度計、磁力計、及び/又はデバイスの向きを提供するジャイロスコープ、取り込まれた画像を提供するカメラ、より幅広い位置コンテキストを提供する(例えば、店舗内アプリケーションに関連する店舗若しくはモールにユーザが到達するときに、ユーザのスマートフォンの店舗内モバイルアプリケーションを起動する)GPSのようなデバイスのその他のセンサーなどから取り込まれたデータが含まれる。
[000148]セッション中に、追跡層は、そのセッションにおけるモバイルデバイスの位置及び向きのデータ変化を分析し、速度(デバイスの速さ及び向き)など、位置に基づくサービスのためのさらなる情報を導出する。この情報から、追跡層は、ユーザの動きを予測し、データの異常値を検出し、取り除き、デバイスから取り込まれたデータに基づく計算の精度を向上させるためにユーザデバイスにフィードバックを提供する。
[000149]例えば、モバイルデバイスの位置をそのモバイルデバイスのマイクロホンの範囲内の音源の位置として決定する上述のシステムには、モバイルデバイスが近隣の音源の間の境界にあるときに曖昧さがある。モバイルデバイスが音源の近辺の間を移動するとき、そのモバイルデバイスのマイクロホンは、曖昧さをもたらす2つの音源からの音声を取り込む。システムの追跡層は、検出メトリックを使用して、どちらの音源信号がより信頼でき、したがってより近い音源に対応しているかを評価する。また、追跡層は、検出メトリックを使用してシステムメッセージサービスを実装し、そのシステムメッセージサービスは、これらのサービスを呼び出すアプリケーション層のプログラムがスマートフォンのUIでフィードバックメッセージを提供することを可能にする。したがって、UIは、デバイスの使用方法(例えば、そのデバイスを向ける方向、又はそのデバイスを安定させるか若しくはセッションのためにそのデバイスを初期化する方法)、或いはどこに移動すべきか(通路をゆっくりと進む)についてユーザに案内する。ユーザの位置及び向きを経時的に追跡することによって、追跡層は、近くの音源の方向を予測し、方向予測サービスをアプリケーション層に提供し、アプリケーション層は、これらのサービスを使用して、デバイスでのフィードバック(例えば、ショッピングの通路に沿って進むか又は戻るようにユーザに促すディスプレイ又は音声出力上の単純な出力メッセージ)を通じてそこにいるユーザを案内する。
[000150]曖昧さに対処し、データの異常値を取り除く又はフィルタリングするだけでなく、追跡層は、デバイスの速度(速さ及び方向)並びに加速度を計算し、この情報を、この情報を使用してナビゲーションサービスを提供するアプリケーションに提供する。このサービスのために、追跡層は、デバイスの位置を経時的に予測し、それによって、デバイスの連続的な経路を生成する(例えば、それらの位置決め点を通る経路を経時的に補間する)。ユーザの向き及び移動についての詳細が、加速度計及び磁力計からの経時的な向きのデータを使用し、そのデータをフィルタリングして異常値を平滑化し、フィルタリングされたデータからデバイスの軌跡を描くことによって導出される。
[000151]アプリケーション層
[000152]アプリケーション層は、追跡層を使用してソフトウェアアプリケーションをユーザに提供するソフトウェアプログラミングの層である。このアプリケーションは、少なくとも部分的にユーザのデバイスで実行され、ユーザにサービスを提供するために追跡層のサービスとインタラクションするアプリケーションである可能性がある。また、このアプリケーションは、主としてシステム又はサーバ側で実行され、マーケット情報のデータ収集及び報告のようなサービスを企業に提供するアプリケーションである可能性がある。次の節で、我々は、アプリケーション層のさまざまなナビゲーションに関連するアプリケーションを説明する。
[000153]ナビゲーション
[000154]ナビゲーションアプリケーションは、追跡層からの基本的な位置情報と、デバイスの移動、向き、及び方向に関する追加情報とを使用してナビゲーションサービスを提供する。ナビゲーションアプリケーションは、デバイスのユーザを目的地又はひと続きの目的地に案内するアプリケーションを含む。これらの目的地は、ユーザによってインタラクティブに入力され、その他のユーザ入力に基づいて導出され、及び/又はコンテキストデータ若しくはコンテキストデータから導き出された推論からユーザセッション中に動的に生成される可能性がある。
[000155]上述の測位技術は特に屋内の測位アプリケーションに適合されているが、最も有用なナビゲーションアプリケーションの一部は、大型の店舗又はショッピングモール内でのユーザのショッピング体験(shopping experience)を楽にすることに関連する。1つのそのようなアプリケーションは、システムのナビゲーションサービスに基づいて組み立てられた案内付きのショッピング体験である。
[000156]図7〜10は、ショッピング向けに作られたナビゲーションアプリケーションの例を示すフローチャートである。これらの図に示された特定の処理フローに加えて、我々は、それと異なるさまざまな代替的プロセスモジュール及びシーケンスも説明する。処理モジュール及び動作のシーケンスは、構成を変更され、その他の特徴を付け加えられる可能性があり、これらは、単なる代表的な例である。
[000157]図7は、ナビゲーションアプリケーションの初期データ収集及び移動計画段階を示すフローチャートである。ブロック170は、嗜好性がユーザによって直接与えられ、その他の入力から導出されるデータ収集プロセスを示す。直接入力は、店舗、製品カテゴリーなどによって編成されたドロップダウンメニュー及び検索インターフェースのオプションによって容易にされ得るユーザのショッピングリスト上の品物を含む。間接入力は、さまざまなソースから導出される。1つのソースは、例えば、Groupon又はLivingSocialなどのプロモーションサービスを通じてシステムに電子的に送信されるプロモーション又はクーポンである。別のソースは、ユーザが製品からクーポンをスキャンすること、又はスマートフォンのカメラを使用した表示による。
[000158]入力の別のソースは、電子メール、テキスト、ソーシャルネットワークアプリケーションのようなメッセージアプリケーションからシステムにポストされたメッセージ(例えば、Facebook、Twitter、Foursquareアカウントへのポスト)から与えられる。この種の入力は、家族及び友人がしばしば買い物をするよくある方法、すなわち、家族が他の家族にショッピングリスト及び提案を渡すこと、友人が他の友人が好きそうな製品を推薦すること、子供が両親にプレゼントのリストを送ることなどに対応する。このメッセージをサポートするために、アプリケーションは、製品ポスト(product posting)が電子メールで送られるか、テキストメッセージで送られるか、ソーシャルネットワークサービス(例えば、Facebook、Twitterなど)へのポストで送られるかに関係なく、さまざまな形式のそれらの製品ポストをアプリケーションが読み取ることを可能にするメッセージインターフェースを有する。推薦のテキスト、又は音声/ビデオクリップのような友人からの追加入力も、ポストされ、システムによって取り込まれ、ショッピング中の適切な時間及び場所で買い物をしている人に通知メッセージとして再生するために記録される可能性がある。
[000159]ブロック172は、前に収集されたさまざまな形式のユーザデータから嗜好性を導出するプロセスを表す。これは、直接入力又は間接入力、及びアプリケーションに記憶された以前のユーザのショッピング履歴からまとめられたショッピングリストを含む。さらなる嗜好性が、検索履歴などのその他のアプリケーションの履歴、ユーザのカレンダー、ユーザのソーシャルネットワークアプリケーションの嗜好性の設定などから嗜好性を推測することによって導出され得る。
[000160]ブロック174は、前のステップで収集された情報に基づいて嗜好性の複合的な組をまとめるプロセスを表す。もちろん、ユーザは、アプリケーションがアクセスできるソースの種類を選択することによって特定の種類の嗜好性が使用されるか又は使用されない動作モードを選択する機会を与えられ得る。それが終わると、アプリケーションは、ブロック176に示されるようにショッピング施設(例えば、ユーザのお気に入りリストにある店舗、モール、又は特定の地域の店舗グループ)に関してデータベースに問い合わせる。この問い合わせは、ユーザの嗜好性に合致する製品と、それらの製品の関連する位置とを返す。ユーザの好みの品物又は関連する品物に関して店舗の運営者がシステムに入力した任意の販売促進のための提案が返される。この段階で、ユーザは、特定の製品、製品カテゴリー、又はプロモーションに関する関心のレベルを高められる可能性がある。
[000161]次に、ブロック178は、ユーザにとって関心のある店舗又は店舗の組に関するショッピングの経路を計算するプロセスを表す。主要な経路及び副次的な経路が、ユーザが選択した品物(主要な経路)か、店舗の運営者からのプロモーションに基づいて関心があるかもしれない追加の品物、若しくはユーザが直接入力した品物との関連性に基づいて関心があるかもしれない関連する製品(副次的な経路)かのどちらかのショッピングのみに関するユーザの関心に基づいて計算される。経路は、各経路に関する製品の位置と、店舗内のこれらの品物の地図とに基づいて計算される。主要な経路は、その経路に関連する品物のための効率的な移動経路を与えるように計算される。副次的な経路は、店舗の運営者が、買い物をしている人に、店舗内のその他の製品及びプロモーションに関する追加の選択肢を与える機会を提供する。
[000162]ブロック180は、店舗の地図(例えば、見取り図)に関連して経路をグラフィカルに示す経路の地図を生成するプロセスを表す。このグラフィカルな図は、ショッピング前及びショッピング中に利用可能な選択肢をユーザに知らせる手段を提供する。ユーザは、主要な経路及び副次的な経路を見て、ズームインし、経路上に示される品物又はプロモーションを選択又は選択解除(un−select)することができる。ユーザが関心のある1つの経路又は複数の経路を承認すると、アプリケーションは、ブロック182に示されるように、選択された製品、プロモーション、他の人によるメッセージのポストなどに対応する1組の通知オプションを生成する。アプリケーションは、ユーザが通知オプションを吟味し、それらの通知オプションを見て、リマインダーを追加/削除するためのUIを提供する。このUIは、以下でさらに説明されるように設定された通知を更新するために、ショッピング前及びショッピング中に呼び出される可能性がある。
[000163]ユーザによって予め設定された任意のデフォルトの承認を含め、ユーザによって承認されると、アプリケーションは、ブロック184に示されるように、通知をスケジューリングする。スケジューリングプロセスは、通知を、各通知を位置によってインデックス付けするキューに入れ、その結果、アプリケーションは、ユーザの位置がキューに入れられた通知の位置に合致するときにキューからの通知をトリガーする。アプリケーションは、キューにアクセスし、スケジューリングされた通知を吟味し、(システム又は友人からの関連するテキスト、ビデオメッセージ、又は音声メッセージを含む)通知を再生し、必要に応じてそれらの通知を更新するためのUIをユーザに提供する。
[000164]図8は、セッション中のモバイルデバイスの移動を追跡するためのプロセスを示すフローチャートである。このプロセスは、基本的な測位サービス(例えば、図6の層164)と、追跡サービス(例えば、図6の追跡層166)と、アプリケーション層168で実行されるアプリケーションプログラムとの組合せを用いて実装され得る。この例においては、位置サービスが、デバイスの位置を計算し、追跡層が、セッション中のモバイルデバイスの移動を追跡する。プロセスは、特定のシステムに検出されるイベントが発生するときに自動的に開始されるか、(例えば、ユーザが位置に基づくショッピングサービスが有効化される店舗に到達するときに)ユーザがアプリケーションプログラムのUIを通じてプロセスを起動するときに手動で開始されるか、又はシステムがナビゲーションサービスを利用可能であることをユーザに知らせ、ナビゲーションアプリケーションを自動的に起動し、それに応じて、ユーザが同意し、所望の1つの経路若しくは複数の経路を選択し、ナビゲーションセッションを開始する、手動トリガーとコンピュータにより自動化されたトリガーとの混合によって開始される可能性がある(ブロック190)。この移動追跡プロセスの開始によって、ブロック192に示されるように、追跡層がセッションに関するモバイルデバイスの移動を追跡する追跡セッションが開始される。
[000165]セッション中、セッションを制御するアプリケーションプログラムは、デバイスの位置及び向きを決定するために使用されるセンサーをオンにするためにシステムに呼び出しを行う。この例示的なスマートフォンアプリケーションの場合、マイクロホンが周辺音声を感知するために使用される。ブロック194に示されるように、位置サービス層が、上で詳細に示された技術で説明されたように音源を検出することによって位置を計算する。追跡層が、ブロック196に示されるように位置データを記録する。ブロック198で言及されたように、追跡層は、デバイス(特に、加速度計、コンパス、及び/又はジャイロスコープ)から取り込まれた向きデータと、経時的に計算された位置データの履歴から導出された速度とをさらに記録する。ブロック194〜198の処理は、セッションがブロック200で終了するまで継続する。セッションの始まりと同じように、セッションの終了は、(例えば、デバイスが現在の施設を離れるときに)自動的に、又はアプリケーションのUIを通じてユーザによってトリガーされ得る。
[000166]移動追跡プロセスは、モバイルデバイスの位置、向き、及び移動(速度、加速度)の履歴を提供し、その履歴から、さらなるサービスが提供される。図9及び10は、これらのさらなるサービスの例である。
[000167]図9は、経路追跡プロセスの例を示すフローチャートである。このプロセスは、ナビゲーションアプリケーションと連携して追跡層によって行われる。この例において、ユーザの移動の追跡は、セッション中のユーザのリアルタイムの経路を計算するために使用される。経路追跡サービスは、ブロック210に示されるように、セッションの始まりに開始される。ブロック212において、追跡層が、最新の時間枠内の位置及び向きのデータをフィルタリングして異常値を取り除き、データを平滑化する。次に、追跡層は、ブロック214に示されるように、位置データによってリアルタイムの経路を計算する。このリアルタイムの経路の計算は、フィルタリングされたデータに曲線を当てはめることをともなう。
[000168]そして今度は、リアルタイムの経路が、ナビゲーションの案内を提供するためにアプリケーション層に与えられる。ブロック216〜218の処理フローに示される1つのそのような例は、ショッピング施設の館内地図上に経路を重ね、次に、モバイルデバイスのUI表示でその地図を描画して、商品ディスプレイ、壁、及びショッピング施設内のその他の物体に対するユーザの位置及び移動を示すことである。この経路の描画の詳細はアプリケーションのUIの設計の問題であり、多くの代替的なUIの特徴があり得る。
[000169]例えば、経路は、2D又は3Dの館内地図上に重ね合わされ、任意で、AR型の特徴によって拡張され、図7のようなプロセスで計算された最適な経路に関連して表示される可能性がある。1つのUIの構成においては、アプリケーションのUIが、ユーザが図7で計算されたショッピングの経路の中から選択することを可能にする。そして、ユーザは、選択された経路に沿ってユーザを案内し、及び/又はスケジューリングされた通知条件が満たされるときに通知を発するように、クレードルにつながれている間にアプリケーションがさまざまなレベルの通知を送る自律モードにアプリケーションを切り替えることができる。代替的に、ユーザは、ユーザがスマートフォンのディスプレイ上に描画された事前に計算された経路に対するそのユーザの経路を見ることができるインタラクティブモードにアプリケーションを切り替えることができる。
[000170]モバイルハンドセットの電力消費を節約するために、描画は、特定のユーザの表示要求に制限される可能性があり、視覚的/聴覚的/触覚的(デバイスの振動)通知は、通知条件が満たされるときにだけ与えられる。経路を表示する代わりに、ユーザが選択されたショッピングの経路からそれたことをシステムが検出するときにトリガーされるシステムの通知に応答して、案内を行うために合成音声出力が使用される可能性がある。
[000171]ショッピングカートのクレードルに置かれたスマートフォンは、追加的なUI、物体認識、及びデータ読み取り機能をサポートするためにカメラモードに切り替えられる可能性がある。例えば、1つの構成において、スマートフォンは、前を向いたカメラがカートの前の店舗内の物体のビデオを取り込むようにクレードルにつながれる。クレードルの動きの自由度は、電話が正しく前を向くか、又は製品の棚に正対して横を向くように制限される可能性がある。モバイルデバイスのカメラからの入力は、周囲の環境の画像だけでなく、近隣の物体、表面(例えば、床、天井、及び商品棚)の拡張現実の表示を構築するために近隣の物体の向きが導出され得る画像フレームのストリームも提供する。
[000172]UIの表示は、合成によって生成された地図のグラフィックスを含むか、AR機能が取り込まれたビデオをグラフィカルな要素と混合することを含むか、又はそれら両方の何らかの組合せを含むかにかかわらず、UI上に示される店舗の部分にある製品又は商品に対応するプロモーションに対応するグラフィカルな描写でさらに埋められる可能性がある。上述のように、多くの代替的な構成が可能であり、我々は、通知を管理するための一連の例示的なアプリケーションプログラムの特徴に関連するこのUIの概念に戻る。
[000173]図10は、ナビゲーションアプリケーションで通知を管理するためのプロセスを示すフローチャートである。上述のように、通知は、図7に関連して説明されたのと同じ方法で、一部がショッピングリスト及びメッセージアプリケーションから前もって計算され、その他は嗜好性から計算されるいくつかの異なるソースから導出されるが、店舗内でユーザの動的なコンテキストに基づいて動的にそのような導出が行われ、ユーザの嗜好性が、店舗においてセッション中に、自動的に検出された変化する条件、又はユーザ若しくはそのユーザの友人による入力に応答してリアルタイムで動的に更新される。動的なコンテキストは、滞在中にユーザに勧められた店舗内プロモーション、コンテスト(contest)などに対するユーザの反応、他者から(例えば、品物の受け取りの閉店間際のリマインダー(last minute reminder)、又はソーシャルネットワークサービスのアカウントにポストされた更新から)受信されたメッセージなどの入力によって操作される。また、動的なコンテキストは、店舗のショッピングのオプションをブラウジングしている間にショッピングアプリケーション上のオプションのメニューからユーザがプルした項目に基づいて更新される。プッシュ型か又はプル型かのどちらかの通知の生成によって新しい通知が入力されるとき、それらの通知は、通知のキューに追加され、スケジューリングされ、店舗内の位置にすべてインデックス付けされる。
[000174]図10を参照すると、ナビゲーションアプリケーションが、ブロック220に示されるようにセッション中に通知を監視する。これは、周期的に更新されたキューを追跡層に渡し、そして次に、追跡層が、店舗の領域内のユーザの特定の位置及び大域的な位置(macro location)を追跡することに基づいて通知をトリガーするための条件(例えば、買い物をしている人は、ちょうど建物に入るのか、顧客サービス窓口のところに立っているのか、通路を見て回っているのか、又は精算を待っているのか)を監視することによって実施される可能性がある。通知は、その他の感知されたコンテキストに基づき、メッセージアプリケーション又はその他のモバイルOSレベルのイベントを通じてアプリケーションとインターフェースするその他のプログラムのプロセスからの直接の要求に応答してトリガーされる。
[000175]決定ブロック222に概要が示されているように通知条件が満たされるとき、アプリケーションは通知を出力する。UIの詳細は変わり得るが、好ましくは、通知は、ユーザの嗜好性(表示、振動、及び/又は音声メッセージ)にしたがい、さらなるユーザの選択肢とともに出力され、さらなるユーザの選択肢とは、すなわち、経路の再計算、メッセージ(友人からのビデオ若しくは音声、製品のプロモーションビデオ、製品の動作を実演する取扱説明ビデオなど)の再生、通知の管理(削除、延期、応答など)、又はユーザのデバイスの任意の数のその他の関連するモバイルアプリケーションの起動である。
[000176]通知からアプリケーションを起動する可能性は、非常にたくさんある。ブロック226〜232において、図10は、位置及びコンテキストに基づく通知によって起動されるアプリケーションのいくつかの例を特定する。1つのアプリケーションは、買い物をしている人が選択した製品が、ショッピングリストで指定され、買い物をしている人が店舗内の製品の位置に着くときにトリガーされる通知で強調される製品と一致することを買い物をしている人が検証するのを手助けする製品検証アプリケーション226を開始することになる。このアプリケーションは、ユーザのモバイルデバイスのカメラを使用してバーコードを読み取るか又は製品パッケージを認識し、一致することを確かめる。その上、ショッピングカート内の品物の価格の合計を表にすること、ショッピングリストに反して取得された品物の成り行き(progress)を示すこと、提供されたクーポン又はプロモーションを適用することによって得られる節約を示すこと、カート内の品物を店舗の販売時点情報管理支払いネットワーク又は後方業務コンピューティングシステムに伝えることによって精算を速くすること、電子決済など、さらなるショッピングの効率を高める特徴が、このアプリケーションに追加される可能性がある。
[000177]別の例は、ユーザがそのユーザのリスト上に有するか、若しくはリストの別の製品に関連する製品か、又は買い物をしている人からの導出されたコンテキスト及び買い物をしている人のセッションコンテキストに基づいて買い物をしている人に見返りを与えるために店舗が提供しようとする製品かのどちらかの製品をプロモートするように設計されたモバイルアプリケーションであるプロモーションアプリケーション228である。このコンテキストは、セッションの履歴から、買い物をしている人が店舗内のいくつかの場所を訪れたこと、及び/又は(例えば、スマートフォンのセンサーを使用して製品についての情報をサンプリングすることによって)特定の製品に関心を示したことを観察することによって導出される。この例において、買い物をしている人の位置又はその他の買い物をしている人のコンテキストは、プロモーションの通知が、特定の場所、又は店舗内の所定の場合(例えば、経過時間、及び/又は移動の履歴を追跡することによって部分的に導出される製品の関心)にスケジューリングされるようにする。その買い物をしている人の通行のパターンを知ることで、店舗の運営者は、追跡セッションから見極められた買い物をしている人の行動に見返りを与えるためのたくさんのプロモーションを立案することができる。
[000178]プロモーションの通知に関するコンテキストは、追跡セッションによって決定される店舗内のショッピング行動の集合的な監視によって操作される可能性もある。通知は、特定の位置で検出された通行の特定の流れに役立つか、又は、集約されたセッションのログに示された、訪れていないその他の場所に通行を向かわせるように生成される可能性がある。
[000179]買い物をしている人のセッションの監視はユーザが選択可能なプライバシーの制約にしたがう(例えば、追跡を行うことに対するプロモーション上の報奨があるオプトイン追跡(opt in tracking))が、モバイルデバイスの測位システムから収集されたデータは、ユーザがそのユーザのショッピングのセッションを非公開のままにしておきたい場合でも、店舗が通行のパターンを個人を特定できないような形でやはり監視することができるように、店舗の通行の監視の際にその他のデータを付け加えられる可能性がある。通行の監視は、店舗の通路を通る通行の流れを検出し、測定するために、光、音声、又は圧力センサーなどのその他の種類のセンサーによって実行される可能性がある。1つのそのようなセンサーネットワークは、店舗の床をユーザが歩くことによる振動を感知し、信号認識プロセスに基づいてその振動の特徴を明らかにし、そして、認識イベントを通行パターンデータへと集約する光ファイバーケーブルネットワークである。光ファイバーセンサーネットワークと信号特徴を明らかにするシステムとは、F.Blackmon及びJ.Pollock、「Blue Rose Perimeter Defense and Security System」、Technologies for Homeland Security and Homeland Defense V、SPIE会報、6201巻、620123ページ、2006年に記載されており、この文献は、参照により本明細書に援用される。モール又は店舗でこの種のセンサーシステムを実装するために、光ファイバーを備えたセンサーネットワークが施設の床に設置される。光ファイバーは、レイリー光散乱によって、買い物をしている人が床を歩くことによって伝わる音圧を感知する。音声と同様の特性を有する感知された信号は、光受信機から取り込まれ、デジタル信号に変換され、それから、そのデジタル信号が、コンピュータで実行される信号認識プログラムに供給される。信号認識プログラムは、床の上を歩く人と相互に関連付けられる信号パターンを検出し、歩行者の通行の測定値へと集約される検出イベントを提供する。
[000180]ユーザがショッピングのためにそのユーザのスマートフォンを使用することを選択しない場合、カートが、同様の機能を持つ専用のモバイルデバイスによって有効化される可能性がある。
[000181]ローカルのコンテキストによって操作される通知によってトリガーされる別の例示的なアプリケーションは、ソーシャルネットワークアプリケーション230である。この場合、ユーザの店舗内コンテキスト(in store context)が、スマートフォンのソーシャルネットワークアプリケーションのアカウントで登録されたソーシャルネットワークサービスに関連する通知をトリガーする。上述のように、この通知は、店舗の品物に関して友人によって与えられる推薦である可能性がある。買い物をしている人がこれらの品物のうちの1つの場所に到達するとき、ソーシャルアプリケーションは、ユーザの友人の推薦を送り出し、表示する。通知は、その買い物をしている人及びその他の買い物をしている人によっても生成され得る。買い物をしている人は、店舗内コンテキストによってトリガーされるソーシャルネットワークサービスからの通知を受信することができるだけでなく、特定の製品又は店舗のディスプレイの売り物をタグ付けすることによってソーシャルネットワークにメッセージをポストすることもできる。例えば、ユーザは、特定の店舗内の位置にインデックス付けされた製品に関する推薦又はフィードバック(例えば、製品の評価、製品についての質問、製品アイデア、及びレシピのような使用方法など)をソーシャルネットワークサイトにポストすることができる。ソーシャルネットワークサイトは、店舗のセクションに固有の場所であるか、店舗に固有であるか、又はユーザに固有である(ユーザ自身のFacebookページ若しくはTwitterアカウント)可能性がある。店舗内の製品又は店舗によってかき立てられたフィードバックのソーシャルネットワークのタグ付けのこのコンテキストに基づくトリガーは、ナビゲーションアプリケーションが、ユーザがショッピング体験によって高揚している間にソーシャルなインタラクティブ性を引き起こすことを可能にする。これは、買い物をしている人が、店舗における特定の製品コンテキスト(product context)に結びつけられたショッピング体験中に、店舗の運営者、その他の買い物をしている人、及び友人からのフィードバックを直ちに共有し、得ることを可能にする。ソーシャル体験(social experience)が、製品及び店舗内の製品の位置に対するソーシャルな入力(social input)をユーザがタグ付けすることによって集約されるので、ナビゲーションアプリケーションは、大勢の人のポストが(例えば、図7のプロセスのようなプロセスから導出されるような)買い物をしている人のセッションの通知条件を満たすときに、他の人のこの大勢の人に基づくタグ付けについてユーザに通知することによってショッピング体験を高める。
[000182]好ましくは、製品品目のソーシャルなタグ付け(social tagging)は、店舗の在庫管理システムに逆に結びつけられる。商品データベースは、リレーショナルデータベース管理を使用して、製品の入手可能性を動的に更新し、この入手可能性を製品の位置に相互に関連付ける。又は、製品が店舗内で移動されるとき、1つの位置にタグ付けされた製品は、新しい製品の位置を用いてデータベースにおいて動的に更新される。
[000183]さらに別の例は、ブロック232に示されるように、検索アプリケーションである。この検索アプリケーションは、製品レビュー、比較購買、製品取扱説明書などの検索を容易にするように設計され得る。ナビゲーションアプリケーションは、対象の検索エンジンの問い合わせを組み立てるための、位置に基づき、買い物をしている人のセッションから導出されたコンテキストを提供する。通知が検索アプリケーションを起動する特定の場合、この検索アプリケーションは、(店舗内の製品のディスプレイのコンテキスト及び店舗のコンテキストを含む)製品の識別及び位置、関連するプロモーション、並びに買い物をしている人のセッションの履歴を含む、その通知の店舗内コンテキストを与えられる。これは、検索がその検索及びその検索結果をより効果的に組み立てることを可能にする。
[000184]クレードルによる拡張
[000185]我々が上で述べたように、ユーザのスマートフォン用のクレードル又は同様の形態のドッキングポートが、いくつかの特徴及び利点をもたらす。クレードル又は同様の形態のドッキングポートは、ハンズフリー自律動作モードを容易にする。さらに、クレードル又は同様の形態のドッキングポートは、ショッピングカートの基準系に対して、スマートフォン又はその他のモバイルデバイスのマイクロホン及びカメラを含むセンサーの位置を固定する。クレードル又は同様の形態のドッキングポートが対処する別の課題は、使い勝手である。買い物をしている人は、買い物をしているときにそれらの買い物をしている人のスマートフォンのモバイルアプリケーションとインタラクションする便利な方法を持たない場合、それらのモバイルアプリケーションを使用する可能性が低い。ユーザがデバイスとインタラクションすることをより簡単にすることによって、ユーザがモバイルアプリケーションを使用する可能性が高くなる。
[000186]使い勝手は、ユーザを、それらのユーザのデバイスをクレードルに取り付ける気にさせる特徴及び構成要素を追加することによってさらに高められる。1つの構成要素は、バッテリー充電器である。これは、スマートフォンが測位アプリケーションのための連続リスニングモード(及び/又はカメラによるルックモード(looking mode))である間の電力消費の問題と、デバイスを充電されたままにするという利点をユーザに提供することとの両方に対処する。充電器を実装する1つの方法は、ショッピングカートに取り付けられたバッテリーからデバイスに電力を供給する電磁誘導充電クレードルポートを設けることである。バッテリーは、ポートと、ポートに置かれたモバイルデバイスとの間の電磁結合によって電力を供給する充電ステーションとして働く。このカートに取り付けられたバッテリー自体は、カートスタンドの充電ステーションにバッテリーを直接差し込むか、又はカートのバッテリーと、使用されていないときにカートが返却されるショッピングカートポートに接続された第2の充電ステーションとの間のより強力な電磁結合を使用するかのどちらかによって充電され得る。
[000187]電磁誘導充電器は、誘導コイルを使用して充電基地局内から交流電磁場を発生させ、ポータブルデバイス内の第2の誘導コイルが、電磁場から電力を得て、その電力をバッテリーを受電するための電流に戻す。近くの2つの誘導コイルが組み合わさって、変圧器を形成する。スマートフォンのクレードルの場合、誘導コイルは、スマートフォンが差し込まれるポート(例えば、スリーブ(sleeve))に配置される。バッテリーも、そのバッテリーがショッピングカート返却ポートの充電基地局によって発せられた電磁場によって充電されることを可能にするように、カートのそのバッテリーのハウジング内で誘導コイルとペアにされる。
おわりに
[000188]特定の実装を参照して技術の原理を説明し、図示したが、技術は多くのその他の異なる形態で実装され得ることが認識されるであろう。不必要に本明細書を引き延ばすことなく包括的な開示を行うために、出願人は、上で参照された特許及び特許出願を参照により援用する。
[000189]上述の方法、プロセス、及びシステムは、ハードウェア、ソフトウェア、又はハードウェアとソフトウェアとの組合せで実装される可能性がある。例えば、音源を判別し、位置を計算するための信号処理操作は、メモリに記憶され、(ソフトウェア命令とファームウェア命令との両方を含む)プログラミング可能なコンピュータで実行される命令として実装されるか、専用のデジタル回路のデジタル論理回路として実装されるか、又は1つ若しくは複数のプロセッサで実行される命令とデジタル論理回路モジュールとの組合せで実装される可能性がある。上述の方法及びプロセスは、システムのメモリ(電子的、光学的、又は磁気的ストレージデバイスなどのコンピュータ可読媒体)から実行されるプログラムで実装され得る。方法、命令、及び回路は、電子信号、又はその他の電磁的形態の信号に基づいて動作する。これらの信号は、イメージセンサーで取り込まれた画像信号、音声センサーで取り込まれた音声、及びその他の物理的な信号の種類のためのセンサーで取り込まれたその他の物理的な信号の種類のような物理的な信号をさらに表す。これらの電磁的な信号の表現は、信号の属性を検出すること、パターン認識及びマッチングを実行すること、デジタルデータ信号を符号化及び復号すること、異なる音源からの音源信号の相対的な属性を計算することなどのために、上で詳細に示されたように異なる状態に変換される。
[000190]上述の方法、命令、及びハードウェアは、基準信号成分(reference signal component)及び疑わしい信号成分(suspect signal component)に基づいて動作する。信号は信号を基本的な関数に投影(project)することによって形成された信号成分の合計として表され得るので、概して、上述の方法は、さまざまな信号の種類に適用される。例えば、フーリエ変換は、信号を1組の基本的な関数への信号の投影の合計として表す。
[000191]上で詳細に示された実施形態の要素及び特徴の特定の組合せは例示的であるに過ぎず、これらの教示を、本出願及び参照により援用される特許/出願のその他の教示と入れ替える及び置き換えることも考えられる。

Claims (55)

  1. 施設内での屋内ナビゲーションのための方法であって、
    モバイルデバイスのマイクロホンを通じて音声信号を受信するステップであり、前記マイクロホンが、前記施設内で人間の聴覚の周波数範囲を含む周波数範囲内の音を取り込む、ステップと、
    前記音声信号の識別に基づいて前記施設内で前記モバイルデバイスの位置を決定するステップと、
    前記モバイルデバイスの前記位置を監視するステップと、
    前記モバイルデバイスの前記位置が、位置に基づく通知に関連する所定の位置内にあるときに、前記モバイルデバイスの出力デバイスで前記位置に基づく通知を出力するステップとを含む、方法。
  2. 前記決定するステップが、前記音声信号から識別情報を抽出することを含む、請求項1に記載の方法。
  3. 前記音声信号が、屋内施設内の人に音声コンテンツを出力するためのラウドスピーカーの構成から出力される1組の音声信号のうちの1つである、請求項1に記載の方法。
  4. ラウドスピーカーの前記構成が、音声マスキングシステムのラウドスピーカーを含む、請求項3に記載の方法。
  5. ラウドスピーカーの前記構成が、場内放送システムのラウドスピーカーを含む、請求項3に記載の方法。
  6. 前記監視するステップが、前記モバイルデバイスの前記マイクロホンにより取り込まれた音声信号から導出された位置を追跡することと、前記位置の追跡に基づいて、前記施設内での屋内ナビゲーションに関するフィードバックを提供することとを含む、請求項1に記載の方法。
  7. 前記フィードバックが、前記モバイルデバイスの周辺領域の地図に、前記モバイルデバイスの連続的な移動経路を描画することを含む、請求項6に記載の方法。
  8. 前記フィードバックが、ユーザ入力から導出された嗜好性に基づいて計算された前記施設内の経路に対する前記移動経路を描画することを含む、請求項7に記載の方法。
  9. 前記フィードバックが、
    前記施設内の製品についての嗜好性を入力情報から導出することと、
    前記施設内の前記製品の位置を決定することと、
    前記モバイルデバイスが前記施設内の前記製品の前記位置に近接していると検出されるときにトリガーされるように、位置に基づく通知をスケジューリングすることと、
    によって計算される位置に基づく通知に対応する、請求項6に記載の方法。
  10. 前記導出することが、前記入力情報として入力されたショッピングリスト内で前記製品を特定することを含む、請求項9に記載の方法。
  11. 前記導出することが、電子メッセージによりユーザに送信された電子的プロモーション内で前記製品を特定することを含む、請求項9に記載の方法。
  12. 前記導出することが、前記モバイルデバイスのユーザに関連するソーシャルネットワークサイトにポストされた電子メッセージから前記製品を特定することを含む、請求項9に記載の方法。
  13. 前記導出することが、モバイルデバイスでの製品のクーポン又はプロモーションの画像取込みによって取り込まれた入力情報から製品を特定することを含む、請求項9に記載の方法。
  14. 前記フィードバックが、前記モバイルデバイスがショッピングカートのクレードルにつながれている間にナビゲーションの指示を提供する前記モバイルデバイスからの自動音声メッセージを含む、請求項6に記載の方法。
  15. 前記モバイルデバイスの方位センサーからの方位データのサンプリングに基づいて前記モバイルデバイスの向きを追跡するステップを含む、請求項1に記載の方法。
  16. 音声取込みから導出された位置、及び方位データのサンプリングからの向きに基づいて前記モバイルデバイスで製品の通知を提供するステップを含む、請求項15に記載の方法。
  17. 前記施設内のユーザの通行を監視するステップと、前記施設内の前記ユーザの通行を監視する前記ステップから製品の通知を導出するステップとを含む、請求項1に記載の方法。
  18. 前記ユーザの通行が、前記モバイルデバイスで取り込まれた音声信号から前記施設内のモバイルデバイスの位置を検出することによって監視される、請求項17に記載の方法。
  19. 前記ユーザの通行が、前記施設内の光ファイバーケーブルセンサーのネットワークによって監視される、請求項17に記載の方法。
  20. 前記モバイルデバイスで第1の位置で製品に関連する入力情報をユーザから受け、前記第1の位置で前記モバイルデバイスの位置を検出し、前記ユーザの入力情報及び前記第1の位置を含むポストをソーシャルネットワークに送信することによって、前記ソーシャルネットワークに位置に基づくポストを行うステップを含む、請求項1に記載の方法。
  21. モバイルデバイスが第1の位置に近接しているときを判定し、位置に基づくポストが前記モバイルデバイスのユーザの嗜好性を満足するかどうかを判定し、前記位置に基づくポストが前記モバイルデバイスの前記ユーザの前記嗜好性を満足すると判定することに応答して、前記モバイルデバイスでソーシャルネットワークでの前記ポストについて通知を発するステップを含む、請求項1に記載の方法。
  22. 施設内での屋内ナビゲーションのためのシステムであって、
    位置に対応する一意に特定可能な音声信号をそれぞれが送信する音源の構成と、
    前記施設内の音源の識別情報を提供する音声検出イベントを前記施設内のモバイルデバイスから受信し、前記検出イベントからモバイルデバイスの位置を計算し、前記施設内で前記モバイルデバイスの位置を監視し、前記モバイルデバイスの前記位置が通知に関連する位置にあるときに前記モバイルデバイスに前記通知を送信するための1つ又は複数のコンピュータとを備える、システム。
  23. 前記音源が、前記施設内の場内音声再生システムのラウドスピーカーを備える、請求項22に記載のシステム。
  24. 前記場内音声再生システムが、場内放送システムを備える、請求項23に記載のシステム。
  25. 前記場内音声再生システムが、音声マスキングシステムを備える、請求項23に記載のシステム。
  26. 前記モバイルデバイスが、無線電話を備え、前記音声検出イベントが、前記施設内のスピーカーから出力され、前記無線電話のマイクロホンにより取り込まれた音声内の識別情報の検出イベントである、請求項22に記載のシステム。
  27. 前記モバイルデバイスが、前記施設内のショッピングカートのクレードルにつながれる、請求項22に記載のシステム。
  28. 前記モバイルデバイスが、無線電話を備え、前記ショッピングカートのクレードルが、無線電話のためのバッテリー充電ステーションを含む、請求項27に記載のシステム。
  29. 通行監視システムをさらに備え、前記通行監視システムが、前記施設内の通行についての情報を提供し、前記情報から位置に基づく通知が生成され、前記施設内の前記モバイルデバイスに送信される、請求項22に記載のシステム。
  30. 前記通行監視システムが、光ファイバーセンサーのネットワークを備える、請求項29に記載のシステム。
  31. コンピュータによって実行されるときに、
    マイクロホンで取り込まれた音声信号から音源識別情報を検出するステップと、
    施設内のモバイルデバイスの位置を計算するためのプロセスに前記音源識別情報を提供するステップと、
    前記モバイルデバイスの前記位置が位置に基づく通知に関連する前記施設内の所定の位置内にあるときに、前記モバイルデバイスの出力デバイスで前記位置に基づく通知を生成するステップとを含む、屋内ナビゲーションのための方法を実行する命令が記憶されているコンピュータ可読媒体。
  32. 前記モバイルデバイスのメモリを備える、請求項31に記載のコンピュータ可読媒体。
  33. 前記モバイルデバイスが、無線電話を備え、前記マイクロホンが、前記無線電話のマイクロホンである、請求項32に記載のコンピュータ可読媒体。
  34. コンピュータによって実行されるときに、
    モバイルデバイスのマイクロホンから取り込まれた音声内で検出された音源識別情報を受信するステップと、
    前記音源識別情報を使用して施設内のモバイルデバイスの位置を計算するステップと、
    前記モバイルデバイスの前記位置が位置に基づく通知に関連する前記施設内の所定の位置内にあるときに、前記モバイルデバイスで出力するための前記位置に基づく通知を生成するステップとを含む、屋内ナビゲーションのための方法を実行する命令が記憶されているコンピュータ可読媒体。
  35. 前記モバイルデバイスと通信するサーバコンピュータのメモリを備える、請求項34に記載のコンピュータ可読媒体。
  36. モバイルデバイスの位置を決定するための方法であって、
    前記モバイルデバイスのマイクロホンで2つ以上の異なる音源からの音声信号を受信するステップであり、前記音声信号が、聴取者に実質的に同じように聞こえるが、前記異なる音源を判別するための異なる特徴を有する、ステップと、
    前記音声信号から決定される区別の付く特徴の2つ以上の層に基づいて前記音声信号を互いに判別するステップであり、第1の層が、音源のグループを特定するための情報を提供し、第2の層が、前記グループ内の特定の音源を特定するための情報を提供する、ステップと、
    前記特定の音源の特定に基づいて、前記特定の音源の位置を決定するステップと、
    前記特定の音源の前記位置に基づいて前記モバイルデバイスの位置を決定するステップとを含む、方法。
  37. 前記音源の前記位置と、前記受信された音声信号の相対的な属性とに基づいて前記モバイルデバイスの位置を決定するステップを含む、請求項36に記載の方法。
  38. 前記相対的な属性が、前記受信された音声信号の到達時間を含む、請求項37に記載の方法。
  39. 前記相対的な属性が、異なる音源からの音声信号の強度の分析から導出された信号強度メトリックを含む、請求項37に記載の方法。
  40. 前記モバイルデバイスが、携帯電話を備える、請求項36に記載の方法。
  41. 前記音声信号を判別するステップが、ホスト音声コンテンツに符号化された電子透かしを検出することを含む、請求項36に記載の方法。
  42. 前記音声信号を判別するステップが、コンテンツフィンガープリントの認識を実行することによって異なる音源を判別することを含む、請求項36に記載の方法。
  43. 前記判別するステップが、音源のグループ又は特定の音源に関連するエコーパターンを検出することを含む、請求項36に記載の方法。
  44. 前記判別するステップが、周波数トーンのパターンを検出することを含む、請求項36に記載の方法。
  45. 前記判別するステップが、それぞれの音源デバイスからの前記音声信号の出力の前に前記音声信号に加えられた変化のパターンを検出することを含み、前記変化が別々に検出可能であるが、前記出力された音声信号が聴取者によって同じ信号であると知覚される、請求項36に記載の方法。
  46. 前記変化のパターンが、音声再生システムからスピーカーへの経路にある信号処理回路によって挿入される、請求項45に記載の方法。
  47. 前記変化のパターンが、一時的なジッタを含む、請求項45に記載の方法。
  48. 可聴範囲内の音源信号を受信して電子信号に変換するためのマイクロホンであり、前記音源信号が、聴取者に実質的に同じように聞こえるが、異なる音源を判別するための異なる特徴を有する、マイクロホンと、
    受信された音声信号に対応する前記電子信号にアクセスし、第1の層が音源のグループを特定するための情報を提供し、第2の層が前記グループ内の特定の音源を特定するための情報を提供する、前記音声信号から決定される区別の付く特徴の2つ以上の層に基づいて前記音声信号を互いに判別し、前記特定の音源の特定に基づいて前記特定の音源の位置を決定し、前記特定の音源の前記位置に基づいてモバイルデバイスの位置を決定するための1つ又は複数のプロセッサとを備える位置システム。
  49. 音声再生デバイスによって出力される音声信号を制御するためのコントローラであり、前記音声信号が、前記音声再生デバイスに接続された複数のラウドスピーカーのグループを特定するための特徴の第1の層を備える、コントローラと、
    前記音声再生デバイスと第1のラウドスピーカーとの間に接続された信号プロセッサであり、前記信号プロセッサが接続されている前記第1のラウドスピーカーからの前記音声信号を判別するために前記音声信号に信号特徴の第2の層を導入する、信号プロセッサと、
    前記音声信号の一意の特徴の層と前記複数のラウドスピーカーの位置との間の関連付けを記憶するデータベースであり、問い合わせに応答して、前記複数のラウドスピーカーからの音声信号から導出された一意の特徴に対応するラウドスピーカーの位置を提供する、データベースとを備える、音声信号生成システム。
  50. 前記信号プロセッサが、遅延線回路を備え、前記遅延線回路が、前記遅延線回路に接続されている特定のラウドスピーカーに関連するエコーパターンを導入する、請求項49に記載のシステム。
  51. 前記信号プロセッサが、前記信号プロセッサが接続されている特定のラウドスピーカーに関連する周波数トーンのパターンを導入するための周波数発振器を備える、請求項49に記載のシステム。
  52. モバイルデバイスの位置を決定するための方法であって、
    前記モバイルデバイスのセンサーで2つ以上の異なる音源からの音源信号を受信するステップと、
    前記音源信号から決定される区別の付く特徴の2つ以上の層に基づいて前記音源信号を互いに判別するステップであり、第1の層が、音源のグループを特定するための情報を提供し、第2の層が、前記グループ内の特定の音源を特定するための情報を提供する、ステップと、
    前記特定の音源の特定に基づいて、前記特定の音源の位置を決定するステップと、
    前記特定の音源の前記位置と、受信された音源信号の相対的な属性とに基づいて前記モバイルデバイスの位置を決定するステップとを含む、方法。
  53. モバイルデバイスの位置を決定するための方法であって、
    前記モバイルデバイスのマイクロホンで2つ以上の異なる音源からの音声信号を受信するステップであり、前記音声信号が、聴取者に実質的に同じように聞こえるが、前記異なる音源を判別するための異なる特徴を有する、ステップと、
    前記音声信号から決定された区別の付く特徴に基づいて前記音声信号を互いに判別するステップであり、前記区別の付く特徴が、特定の音源を特定するための情報を提供する、ステップと、
    前記特定の音源の特定に基づいて、前記特定の音源の位置を決定するステップと、
    前記特定の音源の前記位置と、前記受信された音声信号の相対的な属性とに基づいて前記モバイルデバイスの位置を決定するステップとを含む、方法。
  54. 前記相対的な属性が、異なる音声信号の到達時間を含む、請求項51に記載の方法。
  55. 前記相対的な属性が、異なる音声信号源からの信号の強度を含む、請求項51に記載の方法。
JP2013555568A 2011-02-23 2012-02-23 音声信号の符号化及び認識を使用する音声測位 Active JP5971768B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US13/033,372 US9270807B2 (en) 2011-02-23 2011-02-23 Audio localization using audio signal encoding and recognition
US13/033,372 2011-02-23
US13/195,715 2011-08-01
US13/195,715 US8660581B2 (en) 2011-02-23 2011-08-01 Mobile device indoor navigation
PCT/US2012/026361 WO2012125269A1 (en) 2011-02-23 2012-02-23 Audio localization using audio signal encoding and recognition

Publications (3)

Publication Number Publication Date
JP2014514791A true JP2014514791A (ja) 2014-06-19
JP2014514791A5 JP2014514791A5 (ja) 2015-04-02
JP5971768B2 JP5971768B2 (ja) 2016-08-17

Family

ID=46653167

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013555568A Active JP5971768B2 (ja) 2011-02-23 2012-02-23 音声信号の符号化及び認識を使用する音声測位

Country Status (5)

Country Link
US (4) US8660581B2 (ja)
EP (1) EP2679042B1 (ja)
JP (1) JP5971768B2 (ja)
CN (1) CN103503503B (ja)
WO (1) WO2012125269A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017122624A (ja) * 2016-01-06 2017-07-13 中部電力株式会社 観測地震の距離パラメータを推定する方法ならびに距離パラメータ推定プログラムおよび距離パラメータ推定プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2019211917A (ja) * 2018-06-01 2019-12-12 東芝テック株式会社 誘導装置及びプログラム
WO2020202694A1 (ja) * 2019-03-29 2020-10-08 日本電気株式会社 監視システム、監視装置、監視方法、及び非一時的なコンピュータ可読媒体

Families Citing this family (231)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9047579B2 (en) * 2008-04-17 2015-06-02 Seagate Technology Llc Advanced material tracking system (AMTS)
US9626405B2 (en) * 2011-10-27 2017-04-18 Edmond K. Chow Trust network effect
US9749607B2 (en) 2009-07-16 2017-08-29 Digimarc Corporation Coordinated illumination and image signal capture for enhanced signal detection
JP5977256B2 (ja) 2011-01-14 2016-08-24 フラッシュ・シーツ・エルエルシーFlash Seats,LLC モバイルアプリケーションのバーコード識別方法およびそのシステム
US11531743B2 (en) 2011-01-14 2022-12-20 Flash Seats, Llc Systems and methods for enhancing biometric matching accuracy
EP2671413A4 (en) * 2011-02-03 2016-10-05 Nokia Technologies Oy DEVICE CONFIGURATED TO SELECT A CONTEXTUAL POSITIONING SYSTEM
US8660581B2 (en) * 2011-02-23 2014-02-25 Digimarc Corporation Mobile device indoor navigation
US9270807B2 (en) 2011-02-23 2016-02-23 Digimarc Corporation Audio localization using audio signal encoding and recognition
US8856056B2 (en) * 2011-03-22 2014-10-07 Isentium, Llc Sentiment calculus for a method and system using social media for event-driven trading
JP2013042360A (ja) 2011-08-16 2013-02-28 Sony Corp 情報処理装置、情報処理方法、及びプログラム
US9367770B2 (en) 2011-08-30 2016-06-14 Digimarc Corporation Methods and arrangements for identifying objects
US11288472B2 (en) 2011-08-30 2022-03-29 Digimarc Corporation Cart-based shopping arrangements employing probabilistic item identification
US20130050499A1 (en) * 2011-08-30 2013-02-28 Qualcomm Incorporated Indirect tracking
EP2565667A1 (en) * 2011-08-31 2013-03-06 Friedrich-Alexander-Universität Erlangen-Nürnberg Direction of arrival estimation using watermarked audio signals and microphone arrays
US8548497B2 (en) * 2011-12-16 2013-10-01 Microsoft Corporation Indoor localization using commercial frequency-modulated signals
US10013857B2 (en) * 2011-12-21 2018-07-03 Qualcomm Incorporated Using haptic technologies to provide enhanced media experiences
US20130188922A1 (en) * 2012-01-23 2013-07-25 Research In Motion Limited Multimedia File Support for Media Capture Device Position and Location Timed Metadata
US20150127748A1 (en) * 2012-04-13 2015-05-07 Google Inc. Recommendations for enhanced content in social posts
US8639621B1 (en) * 2012-04-25 2014-01-28 Wells Fargo Bank, N.A. System and method for a mobile wallet
CN103379433B (zh) * 2012-04-27 2017-02-01 华为终端有限公司 测距报警的方法与装置
WO2013171679A1 (en) 2012-05-15 2013-11-21 Albert-Ludwigs-Universität Freiburg Handheld-device-based indoor localization system and method
US11727737B2 (en) 2012-07-26 2023-08-15 John C. S. Koo Retail light-based sensor-driven messaging systems
US10679448B2 (en) * 2012-07-26 2020-06-09 John C. S. Koo Light-based commercial messaging systems
US11049344B2 (en) 2012-07-26 2021-06-29 John C. S. Koo Dual-mode commercial messaging systems
US20140032250A1 (en) * 2012-07-27 2014-01-30 Ebay, Inc. Interactive Venue Seat Map
US8676653B2 (en) * 2012-07-31 2014-03-18 Wal-Mart Stores, Inc. Use of optical images to authenticate and enable a return with an electronic receipt
US20140089118A1 (en) * 2012-08-01 2014-03-27 Randy J. Templeton "Pay/load" product sale at national retailers
US10209946B2 (en) * 2012-08-23 2019-02-19 Red Hat, Inc. Augmented reality personal identification
EP2708911B1 (en) * 2012-09-17 2019-02-20 BlackBerry Limited Localization of a wireless user equipment (EU) device based on out-of-hearing band audio signatures for ranging
EP2708910B1 (en) * 2012-09-17 2019-04-17 BlackBerry Limited Localization of a mobile user equipment with audio signals containing audio signatures
US9285455B2 (en) * 2012-09-19 2016-03-15 Polaris Wireless, Inc. Estimating the location of a wireless terminal based on the lighting and acoustics in the vicinity of the wireless terminal
US9805721B1 (en) * 2012-09-21 2017-10-31 Amazon Technologies, Inc. Signaling voice-controlled devices
US9460590B2 (en) * 2012-09-24 2016-10-04 Wal-Mart Stores, Inc. Determination of customer proximity to a register through use of sound and methods thereof
US9401153B2 (en) 2012-10-15 2016-07-26 Digimarc Corporation Multi-mode audio recognition and auxiliary data encoding and decoding
US9305559B2 (en) * 2012-10-15 2016-04-05 Digimarc Corporation Audio watermark encoding with reversing polarity and pairwise embedding
US9449121B2 (en) * 2012-10-30 2016-09-20 Apple Inc. Venue based real time crowd modeling and forecasting
US9730029B2 (en) 2012-11-08 2017-08-08 Duke University Unsupervised indoor localization and heading directions estimation
US20140156346A1 (en) * 2012-12-04 2014-06-05 Sap Ag Methods and systems for dynamic demand sensing
US9378520B2 (en) 2012-12-05 2016-06-28 At&T Intellectual Property I, L.P. Method, medium, and system for obtaining ratings using a rating service
US9406305B2 (en) 2012-12-21 2016-08-02 Digimarc Corpororation Messaging by writing an image into a spectrogram
WO2014108764A1 (en) * 2013-01-14 2014-07-17 Turkcell Teknoloji Arastirma Ve Gelistirme Anonim Sirketi A location based notification system
US9099080B2 (en) 2013-02-06 2015-08-04 Muzak Llc System for targeting location-based communications
US9959674B2 (en) 2013-02-26 2018-05-01 Qualcomm Incorporated Directional and X-ray view techniques for navigation using a mobile device
US9311640B2 (en) 2014-02-11 2016-04-12 Digimarc Corporation Methods and arrangements for smartphone payments and transactions
US9384754B2 (en) 2013-03-12 2016-07-05 Comcast Cable Communications, Llc Removal of audio noise
US9264860B2 (en) 2013-03-14 2016-02-16 Samsung Electronics Co., Ltd. Communication system with indoor navigation mechanism and method of operation thereof
US9824387B2 (en) * 2013-03-15 2017-11-21 Proximity Concepts, LLC Systems and methods involving proximity, mapping, indexing, mobile, advertising and/or other features
WO2014152430A1 (en) 2013-03-15 2014-09-25 Huntington Ingalls, Inc. Method and system for disambiguation of augmented reality tracking databases
CN104101863A (zh) * 2013-04-07 2014-10-15 苏州红亭信息科技有限公司 基于智能移动设备的定位系统和定位方法
KR20140126788A (ko) * 2013-04-22 2014-11-03 한국전자통신연구원 은닉된 시간 동기화 신호를 이용한 위치 측정 시스템 및 이를 이용한 위치 측정 방법
US10593326B2 (en) * 2013-04-25 2020-03-17 Sensory, Incorporated System, method, and apparatus for location-based context driven speech recognition
EP2989807A4 (en) 2013-05-03 2016-11-09 Digimarc Corp WATERMARK MARKING AND SIGNAL RECOGNITION FOR ADMINISTERING AND DIVISION OF INTEGRATED CONTENT, METADATA RECORDING AND RELATED ARRANGEMENTS
US9255983B2 (en) * 2013-05-07 2016-02-09 Ebay Inc. Systems and methods for tracking a user's location
WO2014182963A2 (en) 2013-05-08 2014-11-13 Digimarc Corporation Methods and arrangements involving substrate marking
US20140358722A1 (en) * 2013-06-04 2014-12-04 Sony Corporation Smart shopping reminders while driving
US9380404B2 (en) * 2013-06-25 2016-06-28 Qualcomm Incorporated Method and apparatus for use in providing context-aware identification of mobile device applications
US9727129B2 (en) * 2013-06-28 2017-08-08 Harman International Industries, Incorporated System and method for audio augmented reality
US9565503B2 (en) 2013-07-12 2017-02-07 Digimarc Corporation Audio and location arrangements
US10325309B2 (en) * 2013-08-01 2019-06-18 Ebay Inc. Omnichannel retailing
EP2866046B1 (en) * 2013-10-25 2015-12-30 Albert-Ludwigs-Universität Freiburg Self-locating mobile receiving device
US10254383B2 (en) * 2013-12-06 2019-04-09 Digimarc Corporation Mobile device indoor navigation
US10891562B1 (en) 2014-01-10 2021-01-12 Flash Seats Llc Paperless venue entry and location-based services
US9506761B2 (en) * 2014-01-10 2016-11-29 Alcatel Lucent Method and apparatus for indoor position tagging
US10901765B2 (en) * 2014-01-22 2021-01-26 Nike, Inc. Systems and methods of socially-driven product offerings
US9832353B2 (en) 2014-01-31 2017-11-28 Digimarc Corporation Methods for encoding, decoding and interpreting auxiliary data in media signals
US10424038B2 (en) 2015-03-20 2019-09-24 Digimarc Corporation Signal encoding outside of guard band region surrounding text characters, including varying encoding strength
US9635378B2 (en) 2015-03-20 2017-04-25 Digimarc Corporation Sparse modulation for robust signaling and synchronization
JP2015148441A (ja) * 2014-02-04 2015-08-20 Pioneer DJ株式会社 位置推定装置及び方法、並びにコンピュータプログラム
US11615430B1 (en) * 2014-02-05 2023-03-28 Videomining Corporation Method and system for measuring in-store location effectiveness based on shopper response and behavior analysis
US20150334346A1 (en) * 2014-05-16 2015-11-19 Elwha Llc Systems and methods for automatically connecting a user of a hands-free intercommunication system
US20160118036A1 (en) 2014-10-23 2016-04-28 Elwha Llc Systems and methods for positioning a user of a hands-free intercommunication system
WO2015130971A1 (en) 2014-02-26 2015-09-03 Blazer And Flip Flops, Inc. Dba The Experience Engine, Inc. Increasing customer monetization
US9741022B2 (en) 2014-02-26 2017-08-22 Blazer and Flip Flops, Inc. Parental controls
WO2015130969A1 (en) * 2014-02-26 2015-09-03 Blazer And Flip Flops, Inc. Dba The Experience Engine, Inc. Live branded dynamic mapping
CN104880693B (zh) * 2014-02-27 2018-07-20 华为技术有限公司 室内定位方法和装置
US9674337B2 (en) * 2014-03-07 2017-06-06 2236008 Ontario Inc. System and method for distraction mitigation
US9282434B2 (en) 2014-03-17 2016-03-08 International Business Machines Corporation Query based volume determination
JP2015200514A (ja) * 2014-04-04 2015-11-12 Necプラットフォームズ株式会社 ショッピングカート誘導システムおよびショッピングカート
US10466056B2 (en) 2014-04-25 2019-11-05 Samsung Electronics Co., Ltd. Trajectory matching using ambient signals
CN103986959B (zh) * 2014-05-08 2017-10-03 海信集团有限公司 一种智能电视设备自动调整参数的方法及装置
US9332522B2 (en) * 2014-05-20 2016-05-03 Disney Enterprises, Inc. Audiolocation system combining use of audio fingerprinting and audio watermarking
US11526916B2 (en) 2015-04-28 2022-12-13 Blazer and Flip Flops, Inc. Intelligent prediction of queue wait times
GB2526806A (en) * 2014-06-03 2015-12-09 Here Global Bv Trail interpolation
CN105185397B (zh) * 2014-06-17 2018-09-14 北京司响无限文化传媒有限公司 视频标记方法和装置
US9756438B2 (en) * 2014-06-24 2017-09-05 Microsoft Technology Licensing, Llc Proximity discovery using audio signals
US10169047B2 (en) * 2014-06-24 2019-01-01 Intel Corporation Computing devices, methods, and storage media for a sensor layer and sensor usages in an operating system-absent environment
US10721594B2 (en) * 2014-06-26 2020-07-21 Microsoft Technology Licensing, Llc Location-based audio messaging
US9392389B2 (en) * 2014-06-27 2016-07-12 Microsoft Technology Licensing, Llc Directional audio notification
US9503853B2 (en) 2014-07-01 2016-11-22 At&T Mobility Ii Llc Aggregation of mobile device data for facilitation of rule-based action
US9797731B2 (en) * 2014-07-31 2017-10-24 Wal-Mart Stores, Inc. Consolidating and transforming object-descriptive input data to distributed rendered location data
US9905233B1 (en) 2014-08-07 2018-02-27 Digimarc Corporation Methods and apparatus for facilitating ambient content recognition using digital watermarks, and related arrangements
US10102507B2 (en) 2014-09-25 2018-10-16 Google Llc Systems and methods to faciliate replacement of depleted batteries
CN104297729B (zh) * 2014-09-28 2017-06-27 联想(北京)有限公司 一种信息处理方法及电子设备
CN104463761A (zh) * 2014-11-17 2015-03-25 无锡知谷网络科技有限公司 一种机场移动自助服务方法和系统
US9600754B2 (en) 2014-12-23 2017-03-21 Digimarc Corporation Machine-readable glass
US20160189277A1 (en) 2014-12-24 2016-06-30 Digimarc Corporation Self-checkout arrangements
US20160249132A1 (en) * 2015-02-23 2016-08-25 Invensense, Inc. Sound source localization using sensor fusion
EP3262435A1 (en) * 2015-02-23 2018-01-03 Universidade do Porto Positioning system and method with steganographic encoded data streams in audible-frequency audio
US10783601B1 (en) 2015-03-20 2020-09-22 Digimarc Corporation Digital watermarking and signal encoding with activable compositions
US9524435B2 (en) 2015-03-20 2016-12-20 Google Inc. Detecting the location of a mobile device based on semantic indicators
US9754341B2 (en) 2015-03-20 2017-09-05 Digimarc Corporation Digital watermarking and data hiding with narrow-band absorption materials
US20160294484A1 (en) * 2015-03-31 2016-10-06 Qualcomm Technologies International, Ltd. Embedding codes in an audio signal
US10451708B2 (en) * 2015-04-01 2019-10-22 Tata Consultancy Services Limited Backtracking indoor trajectories using mobile sensors
EP3286942A4 (en) 2015-04-23 2018-12-05 Blazer and Flip Flops, Inc. DBA The Experience Engine Targeted venue message distribution
WO2016179098A1 (en) 2015-05-01 2016-11-10 Blazer and Flip Flops, Inc. dba The Experience Engine Map based beacon management
US10147433B1 (en) 2015-05-03 2018-12-04 Digimarc Corporation Digital watermark encoding and decoding with localization and payload replacement
US10982868B2 (en) * 2015-05-04 2021-04-20 Johnson Controls Technology Company HVAC equipment having locating systems and methods
EP3292703B8 (en) * 2015-05-15 2021-03-10 Nureva Inc. System and method for embedding additional information in a sound mask noise signal
US10552933B1 (en) 2015-05-20 2020-02-04 Digimarc Corporation Image processing methods and arrangements useful in automated store shelf inspections
US10007964B1 (en) 2015-05-20 2018-06-26 Digimarc Corporation Image processing methods and arrangements
US9472075B1 (en) 2015-06-04 2016-10-18 Tyco Fire & Security Gmbh Systems and methods for locating items in a facility
US9818414B2 (en) * 2015-06-04 2017-11-14 Intel Corporation Dialogue system with audio watermark
US10134253B2 (en) 2015-06-04 2018-11-20 Tyco Fire & Security Gmbh Systems and methods for locating and determining the orientation of a handheld device
US9794719B2 (en) * 2015-06-15 2017-10-17 Harman International Industries, Inc. Crowd sourced audio data for venue equalization
US10460345B2 (en) 2015-06-18 2019-10-29 International Business Machines Corporation Content targeting with probabilistic presentation time determination
CN105025439B (zh) * 2015-06-26 2019-02-05 上海汇纳信息科技股份有限公司 室内定位系统及所应用的数据库、方法和装置
JP6741306B2 (ja) 2015-07-16 2020-08-19 ディジマーク コーポレイション デジタルデータ抽出のための画像の幾何変換を推定するための方法、装置およびコンピュータ可読媒体
US10043527B1 (en) 2015-07-17 2018-08-07 Digimarc Corporation Human auditory system modeling with masking energy adaptation
JP6907456B2 (ja) * 2015-08-10 2021-07-21 株式会社リコー 出力装置、位置情報管理システム、位置情報の管理方法、及びプログラム
US10042038B1 (en) 2015-09-01 2018-08-07 Digimarc Corporation Mobile devices and methods employing acoustic vector sensors
CN108353219A (zh) * 2015-09-16 2018-07-31 夜莺智能解决方案公司 无线发声装置、以及用于远程地控制发声装置的系统
US9769607B2 (en) 2015-09-24 2017-09-19 Cisco Technology, Inc. Determining proximity of computing devices using ultrasonic audio signatures
US9832617B1 (en) 2015-09-30 2017-11-28 Apple Inc. Using periodic magnetometer signals for indoor navigation
US10849205B2 (en) 2015-10-14 2020-11-24 Current Lighting Solutions, Llc Luminaire having a beacon and a directional antenna
CN106597379A (zh) * 2015-10-20 2017-04-26 沈阳新松机器人自动化股份有限公司 基于复合算法的平面声源定位方法
US9648063B1 (en) 2015-11-05 2017-05-09 Samsung Electronics Co., Ltd. Personalized content delivery using a dynamic network
WO2017100801A1 (en) 2015-12-07 2017-06-15 Blazer and Flip Flops, Inc. dba The Experience Engine Wearable device
KR102549689B1 (ko) * 2015-12-24 2023-06-30 삼성전자 주식회사 전자 장치 및 전자 장치의 동작 제어 방법
US10223737B2 (en) 2015-12-28 2019-03-05 Samsung Electronics Co., Ltd. Automatic product mapping
US9843877B2 (en) * 2015-12-31 2017-12-12 Ebay Inc. Sound recognition
WO2017138043A1 (en) * 2016-02-12 2017-08-17 Sony Mobile Communications Inc. Acoustic ranging based positioning of objects using sound recordings by terminals
US10516703B2 (en) * 2016-03-07 2019-12-24 Precision Biometrics, Inc. Monitoring and controlling the status of a communication session
CN105824416B (zh) * 2016-03-16 2019-09-17 成都电锯互动科技有限公司 一种将虚拟现实技术与云服务技术结合的方法
CN105807931B (zh) * 2016-03-16 2019-09-17 成都电锯互动科技有限公司 一种虚拟现实的实现方法
CN105824417B (zh) * 2016-03-16 2019-12-10 成都电锯互动科技有限公司 一种采用虚拟现实技术的人与物的结合方法
US10241193B2 (en) 2016-03-28 2019-03-26 Symbol Technologies, Llc Arrangement for, and method of, accurately locating products in a noisy venue
US10236031B1 (en) 2016-04-05 2019-03-19 Digimarc Corporation Timeline reconstruction using dynamic path estimation from detections in audio-video signals
US20170297586A1 (en) * 2016-04-13 2017-10-19 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for driver preferences for autonomous vehicles
US9800330B1 (en) * 2016-05-03 2017-10-24 Microsoft Technology Licensing, Llc Methods and systems for providing a fiber optic cable network testing platform
CN106093862B (zh) * 2016-06-15 2019-06-04 惠州Tcl移动通信有限公司 一种增强可观察到达时间差分的室内定位方法及系统
US10771528B2 (en) 2016-06-29 2020-09-08 Oneview Controls, Inc. Common distribution of audio and power signals
US10129698B2 (en) 2016-07-14 2018-11-13 United Parcel Service Of America, Inc. Internal location address and automatic routing of intra-facility movement
CN106249989B (zh) * 2016-07-20 2020-03-31 努比亚技术有限公司 一种分享内容时的社交应用程序图标排列方法及移动终端
US10546328B2 (en) * 2016-08-04 2020-01-28 Walmart Apollo, Llc In-store navigation systems and methods
IT201600085079A1 (it) * 2016-08-12 2018-02-12 Intendime Srls Dispositivo di segnalazione per allarmi sonori e simili
US10679275B2 (en) * 2016-08-19 2020-06-09 Jacob Kaufman System and method for locating in-store products
US20180053240A1 (en) * 2016-08-19 2018-02-22 Wal-Mart Stores, Inc. Systems and methods for delivering requested merchandise to customers
CN106921728A (zh) 2016-08-31 2017-07-04 阿里巴巴集团控股有限公司 一种定位用户的方法、信息推送方法及相关设备
US20180077532A1 (en) * 2016-09-09 2018-03-15 Symbol Technologies, Llc Arrangement for, and method of, locating and tracking a mobile target with improved performance in a venue
EP3510547A1 (en) * 2016-09-12 2019-07-17 SonoBeacon GmbH Unique audio identifier synchronization system
WO2018052787A1 (en) * 2016-09-13 2018-03-22 Walmart Apollo, Llc System and methods for estimating storage capacity and identifying actions based on sound detection
US10650621B1 (en) 2016-09-13 2020-05-12 Iocurrents, Inc. Interfacing with a vehicular controller area network
US10070238B2 (en) 2016-09-13 2018-09-04 Walmart Apollo, Llc System and methods for identifying an action of a forklift based on sound detection
CA3033218A1 (en) 2016-09-21 2018-03-29 Walmart Apollo, Llc Sensing device for shopping cart
WO2018063243A1 (en) 2016-09-29 2018-04-05 Hewlett-Packard Development Company, L.P. Adjusting settings on computing devices based on location
US10783682B2 (en) 2016-11-02 2020-09-22 United Parcel Service Of America, Inc. Displaying items of interest in an augmented reality environment
US10177845B2 (en) * 2016-11-16 2019-01-08 Adobe Systems Incorporated Location tracking using short-range infrared transmission
US10673917B2 (en) * 2016-11-28 2020-06-02 Microsoft Technology Licensing, Llc Pluggable components for augmenting device streams
US11032523B2 (en) * 2016-11-30 2021-06-08 Ncr Corporation Automated image metadata processing
DE102018100454B4 (de) 2017-01-16 2019-10-24 DEJ Technology GmbH Verfahren zum personalisierten Informationsaustausch sowie Anordnung zur Durchführung eines personalisierten Informationsaustausches
US10586106B2 (en) * 2017-02-02 2020-03-10 Microsoft Technology Licensing, Llc Responsive spatial audio cloud
US9980076B1 (en) * 2017-02-21 2018-05-22 At&T Intellectual Property I, L.P. Audio adjustment and profile system
US20180252793A1 (en) * 2017-03-02 2018-09-06 Amazon Technologies, Inc. Using unique audio signals to detect locations
WO2018160570A1 (en) * 2017-03-02 2018-09-07 Amazon Technologies, Inc. Using unique audio signals to detect customer locations
US20180255429A1 (en) * 2017-03-02 2018-09-06 Amazon Technologies, Inc. Using background audio signals to detect locations
KR102572998B1 (ko) * 2017-03-02 2023-08-30 링컨 글로벌, 인크. 헤드 업 디스플레이 및 음성 명령이 지원되는 용접 헬멧
KR102079935B1 (ko) * 2017-03-13 2020-02-21 한국전자통신연구원 측위 인프라 db 갱신을 위한 사용자 참여형 데이터 선별 장치 및 그 방법
KR102130933B1 (ko) * 2017-03-16 2020-07-08 론프록스 코퍼레이션 무선 위치지정 노드를 사용하여 실내 위치를 지정하기 위한 시스템 및 방법
US10051107B1 (en) 2017-03-16 2018-08-14 Microsoft Technology Licensing, Llc Opportunistic timing of device notifications
DE102017205278A1 (de) * 2017-03-29 2018-10-04 Robert Bosch Gmbh Verfahren zur Lokalisierung und Lokalisierungssystem mit einer Vorrichtung eingerichtet zur Lokalisierung
GB201705655D0 (en) * 2017-04-07 2017-05-24 Farfetch Uk Ltd Tracking user interaction in a retail environment
US10692023B2 (en) * 2017-05-12 2020-06-23 International Business Machines Corporation Personal travel assistance system and method for traveling through a transport hub
US11176396B2 (en) 2017-06-29 2021-11-16 Hewlett-Packard Development Company, L.P. Detection of whether mobile computing device is pointing to visual code
US11482308B2 (en) 2017-08-10 2022-10-25 Nuance Communications, Inc. Automated clinical documentation system and method
US11316865B2 (en) 2017-08-10 2022-04-26 Nuance Communications, Inc. Ambient cooperative intelligence system and method
US11797910B2 (en) * 2017-08-15 2023-10-24 United Parcel Service Of America, Inc. Hands-free augmented reality system for picking and/or sorting assets
SG10201706797SA (en) * 2017-08-21 2019-03-28 Certis Cisco Security Pte Ltd System and method for determining a location of a mobile device based on audio localization techniques
KR102545721B1 (ko) * 2017-09-27 2023-06-21 애플 인크. 공간적 오디오 내비게이션
US10482901B1 (en) 2017-09-28 2019-11-19 Alarm.Com Incorporated System and method for beep detection and interpretation
CN107677992B (zh) * 2017-09-30 2021-06-22 深圳市沃特沃德股份有限公司 移动侦测方法、装置和监控设备
US10896307B2 (en) 2017-11-07 2021-01-19 Digimarc Corporation Generating and reading optical codes with variable density to adapt for visual quality and reliability
US11062108B2 (en) 2017-11-07 2021-07-13 Digimarc Corporation Generating and reading optical codes with variable density to adapt for visual quality and reliability
US10872392B2 (en) 2017-11-07 2020-12-22 Digimarc Corporation Generating artistic designs encoded with robust, machine-readable data
US20200333429A1 (en) * 2017-12-29 2020-10-22 Ubicquia Iq Llc Sonic pole position triangulation in a lighting system
CN109994128B (zh) * 2017-12-30 2021-06-04 中国移动通信集团贵州有限公司 语音质量问题定位方法、装置、设备及介质
US10885336B1 (en) 2018-01-13 2021-01-05 Digimarc Corporation Object identification and device communication through image and audio signals
US10698109B2 (en) 2018-01-19 2020-06-30 Sony Corporation Using direction of arrival with unique audio signature for object location detection
US10636264B2 (en) * 2018-01-26 2020-04-28 Nec Corporation Office building security system using fiber sensing
WO2019145923A2 (en) * 2018-01-29 2019-08-01 Wilfred Edwin Booij Ad hoc positioning of mobile devices using near ultrasound signals
GB2571572A (en) 2018-03-02 2019-09-04 Nokia Technologies Oy Audio processing
WO2019166988A2 (en) * 2018-03-02 2019-09-06 Wilfred Edwin Booij Acoustic positioning transmitter and receiver system and method
US11250382B2 (en) 2018-03-05 2022-02-15 Nuance Communications, Inc. Automated clinical documentation system and method
WO2019173333A1 (en) 2018-03-05 2019-09-12 Nuance Communications, Inc. Automated clinical documentation system and method
US20190272895A1 (en) 2018-03-05 2019-09-05 Nuance Communications, Inc. System and method for review of automated clinical documentation
CN108375376B (zh) * 2018-03-08 2020-11-24 浙江师范大学 转角检测方法及装置
US10462422B1 (en) * 2018-04-09 2019-10-29 Facebook, Inc. Audio selection based on user engagement
CN108519583A (zh) * 2018-04-11 2018-09-11 吉林大学 适用于各向异性二维板的声发射源定位方法
US20200005378A1 (en) * 2018-06-28 2020-01-02 Blake Anderson System, device, and mobile application to facilitate grocery shopping at a grocery store
WO2020037280A1 (en) 2018-08-17 2020-02-20 Dts, Inc. Spatial audio signal decoder
US11205435B2 (en) 2018-08-17 2021-12-21 Dts, Inc. Spatial audio signal encoder
US10580429B1 (en) * 2018-08-22 2020-03-03 Nuance Communications, Inc. System and method for acoustic speaker localization
WO2020056000A1 (en) * 2018-09-11 2020-03-19 Otto Engineering, Inc. Remote speaker microphone with tracking and display
WO2020060012A1 (en) * 2018-09-19 2020-03-26 Samsung Electronics Co., Ltd. A computer implemented platform for providing contents to an augmented reality device and method thereof
US11089432B2 (en) * 2018-09-20 2021-08-10 Nec Corporation Tracking indoor objects from an unmanned aerial vehicle
US11126861B1 (en) 2018-12-14 2021-09-21 Digimarc Corporation Ambient inventorying arrangements
US10943602B2 (en) 2019-01-07 2021-03-09 Stmicroelectronics International N.V. Open vs enclosed spatial environment classification for a mobile or wearable device using microphone and deep learning method
US11308979B2 (en) 2019-01-07 2022-04-19 Stmicroelectronics, Inc. Open vs enclosed spatial environment classification for a mobile or wearable device using microphone and deep learning method
US11423628B2 (en) 2019-02-06 2022-08-23 Concept Safety Systems (Holdings) Pty Ltd. System and method for converting a two-dimensional floor plan into an interactable three-dimensional simulation
US10575276B1 (en) * 2019-05-21 2020-02-25 At&T Intellectual Property I, L.P. User equipment localization through time series search
US11216480B2 (en) 2019-06-14 2022-01-04 Nuance Communications, Inc. System and method for querying data points from graph data structures
US11227679B2 (en) 2019-06-14 2022-01-18 Nuance Communications, Inc. Ambient clinical intelligence system and method
US11043207B2 (en) 2019-06-14 2021-06-22 Nuance Communications, Inc. System and method for array data simulation and customized acoustic modeling for ambient ASR
US11531807B2 (en) 2019-06-28 2022-12-20 Nuance Communications, Inc. System and method for customized text macros
US11670408B2 (en) 2019-09-30 2023-06-06 Nuance Communications, Inc. System and method for review of automated clinical documentation
EP4042317A1 (en) * 2019-10-07 2022-08-17 Telefonaktiebolaget LM Ericsson (publ) Technique of determining a measure of proximity between two devices
WO2021072558A1 (en) * 2019-10-17 2021-04-22 D-Box Technologies Inc. Method and system for synchronizing a viewer-effect signal of a media content with a media signal of the media content
WO2021081054A1 (en) * 2019-10-22 2021-04-29 Tyler Jonathan A Device, system, and method for determining a location of a vehicle
CN111061418A (zh) * 2019-11-13 2020-04-24 深圳市优必选科技股份有限公司 一种语音留言收听方法、装置、计算机设备及存储介质
CN113284504A (zh) * 2020-02-20 2021-08-20 北京三星通信技术研究有限公司 姿态检测方法、装置、电子设备及计算机可读存储介质
CN111400542B (zh) * 2020-03-20 2023-09-08 腾讯科技(深圳)有限公司 音频指纹的生成方法、装置、设备及存储介质
US11568887B1 (en) * 2020-04-17 2023-01-31 Aglogica Holding, Inc. Devices, systems, and methods for real time surveillance of audio streams and uses therefore
CN111968654B (zh) * 2020-08-24 2022-09-16 成都潜在人工智能科技有限公司 一种自适应混合域音频水印嵌入方法
US11222103B1 (en) 2020-10-29 2022-01-11 Nuance Communications, Inc. Ambient cooperative intelligence system and method
WO2022118072A1 (en) * 2020-12-03 2022-06-09 Dolby International Ab Pervasive acoustic mapping
US11604219B2 (en) 2020-12-15 2023-03-14 Teradyne, Inc. Automatic test equipement having fiber optic connections to remote servers
CN113009411A (zh) * 2021-02-25 2021-06-22 浙江德清知路导航研究院有限公司 一种具有定位功能的音频编解码芯片、定位方法及应用
US20230097334A1 (en) * 2021-09-24 2023-03-30 International Business Machines Corporation Measuring distance between two devices
US11863682B2 (en) 2021-12-07 2024-01-02 AXS Group LLC Systems and methods for encrypted multifactor authentication using imaging devices and image enhancement
CN114257959B (zh) * 2021-12-27 2023-04-25 中国科学技术大学 一种基于音频室内定位的自校准家庭监护方法及系统
US11501586B1 (en) 2022-03-31 2022-11-15 AXS Group LLC Systems and methods for providing temporary access credentials to access physical locations
US20230417890A1 (en) * 2022-06-27 2023-12-28 Samsung Electronics Co., Ltd. System and method for measuring proximity between devices using acoustics

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008242810A (ja) * 2007-03-27 2008-10-09 Fujitsu Component Ltd 情報提供システム、及び、情報提供方法
JP2009198209A (ja) * 2008-02-19 2009-09-03 Yamaha Corp 位置通知システム
WO2010016589A1 (ja) * 2008-08-08 2010-02-11 ヤマハ株式会社 変調装置及び復調装置
US20110019999A1 (en) * 2009-07-24 2011-01-27 Jacob George Location Tracking Using Fiber Optic Array Cables and Related Systems and Methods

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6411725B1 (en) 1995-07-27 2002-06-25 Digimarc Corporation Watermark enabled video objects
US7562392B1 (en) 1999-05-19 2009-07-14 Digimarc Corporation Methods of interacting with audio and ambient music
US6356905B1 (en) * 1999-03-05 2002-03-12 Accenture Llp System, method and article of manufacture for mobile communication utilizing an interface support framework
US7254249B2 (en) 2001-03-05 2007-08-07 Digimarc Corporation Embedding location data in video
US20040111320A1 (en) * 2002-12-05 2004-06-10 Jorg Schlieffers Electronic shopping system
WO2006037014A2 (en) 2004-09-27 2006-04-06 Nielsen Media Research, Inc. Methods and apparatus for using location information to manage spillover in an audience monitoring system
US8286493B2 (en) * 2006-09-01 2012-10-16 Audiozoom Ltd. Sound sources separation and monitoring using directional coherent electromagnetic waves
US8108501B2 (en) * 2006-11-01 2012-01-31 Yahoo! Inc. Searching and route mapping based on a social network, location, and time
US20100114344A1 (en) 2008-10-31 2010-05-06 France Telecom Communication system incorporating ambient sound pattern detection and method of operation thereof
US8508357B2 (en) 2008-11-26 2013-08-13 The Nielsen Company (Us), Llc Methods and apparatus to encode and decode audio for shopper location and advertisement presentation tracking
TR200809675A1 (tr) * 2008-12-19 2010-07-21 Turkcell �Let���M H�Zmetler� Anon�M ��Rket� Konum tespit ve bilgi iletim yöntemi
US20110029360A1 (en) * 2009-07-29 2011-02-03 Prasad Gollapalli System and method for providing smart phone functionality for retailers to distribute sale and discount coupons
US8489112B2 (en) 2009-07-29 2013-07-16 Shopkick, Inc. Method and system for location-triggered rewards
US20110054890A1 (en) 2009-08-25 2011-03-03 Nokia Corporation Apparatus and method for audio mapping
CN101694524B (zh) * 2009-10-21 2013-04-03 钟勇 用于室内商场导购、会展导览和景物导游的精确导航系统
US8121618B2 (en) 2009-10-28 2012-02-21 Digimarc Corporation Intuitive computing methods and systems
US9197736B2 (en) 2009-12-31 2015-11-24 Digimarc Corporation Intuitive computing methods and systems
US8468012B2 (en) 2010-05-26 2013-06-18 Google Inc. Acoustic model adaptation using geographic information
EP2410769B1 (en) 2010-07-23 2014-10-22 Sony Ericsson Mobile Communications AB Method for determining an acoustic property of an environment
US8606293B2 (en) 2010-10-05 2013-12-10 Qualcomm Incorporated Mobile device location estimation using environmental information
US8706540B2 (en) 2010-12-08 2014-04-22 Motorola Solutions, Inc. Task management in a workforce environment using an acoustic map constructed from aggregated audio
US8660581B2 (en) * 2011-02-23 2014-02-25 Digimarc Corporation Mobile device indoor navigation
US9270807B2 (en) 2011-02-23 2016-02-23 Digimarc Corporation Audio localization using audio signal encoding and recognition
US8175297B1 (en) 2011-07-06 2012-05-08 Google Inc. Ad hoc sensor arrays

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008242810A (ja) * 2007-03-27 2008-10-09 Fujitsu Component Ltd 情報提供システム、及び、情報提供方法
JP2009198209A (ja) * 2008-02-19 2009-09-03 Yamaha Corp 位置通知システム
WO2010016589A1 (ja) * 2008-08-08 2010-02-11 ヤマハ株式会社 変調装置及び復調装置
US20110019999A1 (en) * 2009-07-24 2011-01-27 Jacob George Location Tracking Using Fiber Optic Array Cables and Related Systems and Methods

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017122624A (ja) * 2016-01-06 2017-07-13 中部電力株式会社 観測地震の距離パラメータを推定する方法ならびに距離パラメータ推定プログラムおよび距離パラメータ推定プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2019211917A (ja) * 2018-06-01 2019-12-12 東芝テック株式会社 誘導装置及びプログラム
WO2020202694A1 (ja) * 2019-03-29 2020-10-08 日本電気株式会社 監視システム、監視装置、監視方法、及び非一時的なコンピュータ可読媒体
JPWO2020202694A1 (ja) * 2019-03-29 2020-10-08
CN113678178A (zh) * 2019-03-29 2021-11-19 日本电气株式会社 监视系统、监视设备、监视方法和非暂时性计算机可读介质
JP7243814B2 (ja) 2019-03-29 2023-03-22 日本電気株式会社 監視システム、監視装置、監視方法、及びプログラム

Also Published As

Publication number Publication date
CN103503503B (zh) 2017-06-06
US20140285338A1 (en) 2014-09-25
US20170131384A1 (en) 2017-05-11
WO2012125269A1 (en) 2012-09-20
US9952309B2 (en) 2018-04-24
US20150380003A1 (en) 2015-12-31
US9064398B2 (en) 2015-06-23
EP2679042B1 (en) 2017-12-20
JP5971768B2 (ja) 2016-08-17
US20120214515A1 (en) 2012-08-23
EP2679042A1 (en) 2014-01-01
CN103503503A (zh) 2014-01-08
US8660581B2 (en) 2014-02-25
EP2679042A4 (en) 2016-03-16
US9412387B2 (en) 2016-08-09

Similar Documents

Publication Publication Date Title
JP5971768B2 (ja) 音声信号の符号化及び認識を使用する音声測位
US11604247B2 (en) Mobile device indoor navigation
US9270807B2 (en) Audio localization using audio signal encoding and recognition
CN104170413B (zh) 基于环境上下文控制移动装置中的应用程序
US9389308B1 (en) Proximity detection via audio
TWI615788B (zh) 終端裝置、控制終端裝置之方法及程式
US8606293B2 (en) Mobile device location estimation using environmental information
EP2605485A1 (en) Communication system incorporating ambient sound pattern detection and method of operation thereof
US10887031B2 (en) Vehicle-based media system with audio ad and navigation-related action synchronization feature
US9813091B2 (en) Methods and apparatus for communicating with a receiving unit
EP3516796B1 (en) Efficient near-field communication based on audio signals
CN109952588B (zh) 唯一音频标识符同步系统
WO2013132393A1 (en) System and method for indoor positioning using sound masking signals
Jeon et al. Developing a location-aware mobile guide system for GLAMs based on TAPIR sound tag: A case study of the Lee Ungno museum
WO2018088450A1 (ja) 音声提供装置、音声再生装置、音声提供方法及び音声再生方法
Javed Enabling indoor location-based services using ultrasound
US11545122B2 (en) Systems and methods for embedding data in media content
WO2020095779A1 (ja) 情報提供方法、情報提供システム、情報処理方法、およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150212

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160301

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160614

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160707

R150 Certificate of patent or registration of utility model

Ref document number: 5971768

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250