JP6170625B2 - 常時オンのモバイル機器用音声制御 - Google Patents

常時オンのモバイル機器用音声制御 Download PDF

Info

Publication number
JP6170625B2
JP6170625B2 JP2016528017A JP2016528017A JP6170625B2 JP 6170625 B2 JP6170625 B2 JP 6170625B2 JP 2016528017 A JP2016528017 A JP 2016528017A JP 2016528017 A JP2016528017 A JP 2016528017A JP 6170625 B2 JP6170625 B2 JP 6170625B2
Authority
JP
Japan
Prior art keywords
memory controller
memory
circuit
audio
samples
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016528017A
Other languages
English (en)
Other versions
JP2017506353A (ja
Inventor
ティモシー ジェイ. ミレット,
ティモシー ジェイ. ミレット,
マニュ グラティ,
マニュ グラティ,
マイケル, エフ. カルバート,
マイケル, エフ. カルバート,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Publication of JP2017506353A publication Critical patent/JP2017506353A/ja
Application granted granted Critical
Publication of JP6170625B2 publication Critical patent/JP6170625B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3228Monitoring task completion, e.g. by use of idle timers, stop commands or wait commands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234Power saving characterised by the action undertaken
    • G06F1/3287Power saving characterised by the action undertaken by switching off individual functional units in the computer system
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Telephone Function (AREA)
  • Power Sources (AREA)
  • Stored Programmes (AREA)
  • Artificial Intelligence (AREA)
  • Circuit For Audible Band Transducer (AREA)

Description

本発明は、モバイル機器の分野に関するものであり、より詳細には、モバイル機器の音声制御に関する。
モバイル機器が普及してきている。モバイル機器は、携帯型電源(例えば電池)で動作するように、かつユーザによって容易に運ばれるように設計された任意の電子機器を含むことができる。モバイル機器としては、携帯電話、「スマート」フォン、iTouch(登録商標)などのパーソナルデジタルアシスタント(PDA)、iPod(登録商標)及びMP3プレーヤなどの娯楽機器、ラップトップコンピュータ、ネットトップコンピュータ、iPad(登録商標)及びウィンドウズ(登録商標)ベースのタブレットなどのタブレット機器などを挙げることができる。これらの機器の多くは、無線接続(例えば、WiFi(登録商標)、セル接続等)を含んでおり、したがって、直接機器上で実行することができるさまざまなローカルアプリケーションを提供するのに加えて、情報源として使用することができる。
モバイル機器は、タッチスクリーン、機器の一部であるか、又は機器に接続されたキーボード、種々のポインティング機器(例えば、マウス、タッチパッド、その他)などのユーザインターフェースによって、制御することができる。より最近では、音声制御が、より一般的になり始めている。例えば、アップル社のiデバイス(iPhone(登録商標)、iPad(登録商標)など)のいくつかは、Siri(登録商標)アプリケーションによる音声制御を採用している。ユーザは、機器を取り上げ、ボタンを押したままにして、Siriの応答を待つことができる。Siriが応答すると、ユーザは口頭で質問をするか、又はコマンドを与えることができ、Siriはそれを解釈して応えようとする。Siriが応答するまでボタンを押し続ける動作は、機器をアクティブ化し(アイドル状態の場合)、オペレーティングシステムを初期化し、入力の受け入れ準備を整えるようにSiriアプリケーションをアクティブ化する役割を果たす。
モバイル機器の中には、機器がアイドル状態のときに、限られた音声コマンドのアクティブ化機能を実施し始めたものがある。機器は、ユーザには「オフ」に見える場合(電子メール、電話、又はテキストメッセージなどの電子通信を受け入れることができるために、機器がオンであることを、ユーザがたとえ知っているとしても)、アイドルである場合がある。アイドル状態の機器は、通常、表示画面をオンにしておらず、多くの内部構成要素は、電源が切断されている可能性があり、機器が完全に機能するためには、初期化される必要がある。限定された音声コマンドのアクティブ化機能を備えたモバイル機器において、ユーザは、キーワード又はフレーズを声に出し、機器を「オン」にし、更なる音声制御を受け入れさせることができる。例えば、1つのかかるフレーズは、アンドロイドスマート電話で使用されている「Hey、Google(登録商標)now」である。
限定されたコマンドがアクティブ化されると、ユーザは、キーフレーズを発話した後に停止し、更なる入力に対して機器の準備ができていることの視覚的及び/又は聴覚的な指示を待たなければならない。機器がアイドル状態にある間、機器は、マイクロフォンをオンにして、独立したデジタル信号プロセッサ(DSP)を用いて、キーワード/フレーズに聞き耳をたてている。一旦、キーワード/フレーズが認識されると、DSPは、残りの機器に、初期化(又はブート)するよう合図し、準備ができたときに、ユーザに応答する。このキーワード/フレーズの発話と、続く所望の質問/コマンドとの間の遅延により、インターフェースが扱いにくくなる。したがって、この限定されたコマンドのアクティブ化は、上述したような、機器を持ち上げて、ボタンを押し続けることに比べて、わずかに改良されるだけである。
ある実施形態では、一つの集積回路(例えば、システムオンチップ、即ちSOC)は、1つ以上の中央処理装置(CPU)、メモリコントローラ、及び、SOCの残りが電源を切断された場合にも、電源をオンされ続けるように構成された回路、を含むことができる。本回路は、マイクロフォンによって感知された音に対応する音声サンプルを受信するように構成され、更に、SOCを含む機器のユーザからの可能性のあるコマンドを検出するために、それらの音声サンプルを所定のパターンと比較するように、構成することができる。この所定のパターンは、例えば、キーワード又はフレーズを発話するユーザの声を表してもよい。サンプル中に所定のパターンを検出したことに応答して、本回路は、メモリコントローラに電源投入させ、メモリコントローラが接続されたメモリに、音声サンプルを記憶することができる。本回路は、メモリコントローラが初期化されるまでサンプルのバッファリングを継続するように構成することができ、次いで、サンプルをメモリに書き込むことができる。本回路は、更に、CPUに電源をオンさせて、初期化し、オペレーティングシステム(OS)をブートすることができる。CPUが初期化し、OSがブートしている間、本回路及びメモリは、音声サンプルをキャプチャすることができる。OS(又はOS上で動作するアプリケーション)は、メモリからのサンプルを処理して、コマンド/要求を判断することができる。
ある実施形態では、メモリへのサンプルのキャプチャによって、そうでなければ記録されないで終わるサンプルのキャプチャが可能となり得る。したがって、ユーザは、入力の準備が整ったことの機器の指示を待つことなく、所望のコマンド/質問を発話してもよく、そのコマンド/質問は、CPU上で実行されるソフトウェアによって正確に処理することができる。機器とのインターフェースはより簡単かつ自然なものとすることができ、したがってユーザは、機器の音声コマンド機能を使用したいという気持ちがより強くなる可能性がある。
以下の詳細な説明は、添付の図面を参照するが、これら図面について、次に簡単に記載する。
機器の一実施形態のブロック図。 図1に示す音声フィルタ回路の一実施形態の動作を例示するフローチャート。 メモリコントローラ及び音声フィルタ回路の初期化の一実施形態を例示するフローチャート。 図1に示した機器の一実施形態の動作を例示するタイミング図。
本発明はさまざまな変更及び代替的な形態を受け入れる余地があるが、その特定の実施形態が、例として図面に示されており、本明細書で詳細に説明することとする。しかし、図面及びそれらに対する詳細な説明は、本発明を、開示されている特定の形態に限定することを意図するものではなく、逆にその意図は、添付の請求項によって定義される本発明の趣旨及び範囲内に入る全ての変更、均等物及び代替物を範囲に含むことを理解されたい。本明細書で使用される表題は、構成目的のみに過ぎず、説明の範囲を制限するために使用することを意図するものではない。本出願全体を通じて使用されるとき、「〜してもよい(may)」という語は、義務的な意味(即ち、〜なければならない(must)を意味する)ではなく、許容的な意味で使用される(即ち、〜する可能性を有していることを意味する)。同様に、単語「含む(include)」、「含む(including)」、及び「含む(includes)」は、何かを含むことを意味するが、それには限定されない。
さまざまなユニット、回路、又はその他の構成要素は、タスク又はタスク群を実行する「〜するように構成される(configured to)」と説明される場合がある。このような状況において、「〜するように構成される」は、一般的に、動作中に1つ又は複数のタスクを遂行する「回路を有する」ことを意味する構造を広く説明するものである。したがって、ユニット/回路/構成要素は、これらが現在動作していない場合であっても、タスクを実行するよう構成可能である。概して、「〜するように構成される(configured to)」に対応する構造を形成する回路は、ハードウェア回路、及び/又は操作を実施するために実行可能なプログラム命令を記憶するメモリを含んでもよい。メモリとして、スタティックランダムアクセスメモリ若しくはダイナミックランダムアクセスメモリ等の揮発性メモリ、及び/又は、光ディスク記憶装置若しくは磁気ディスク記憶装置、フラッシュメモリ、プログラム可能読み出し専用メモリ、その他、などの不揮発性メモリを挙げることができる。同様に、さまざまなユニット/回路/構成要素は、説明の中で、便宜上、タスク又はタスク群を実行すると記載される場合がある。かかる説明は、「〜するように構成される」というフレーズを含むと解釈するべきである。1つ以上のタスクを実行するように構成されるユニット/回路/構成要素と表現することは、そのユニット/回路/構成要素に関する米国特許法第112条第6項の解釈を招来しないことを明示的に意図している。
本明細書は、「一実施形態」又は「ある実施形態」に対する参照を含む。本発明の特徴の任意の組み合わせを含む実施形態が全般的に意図されているが、本明細書で明示的に否定しない限り、「一実施形態で」又は「ある実施形態で」のフレーズの形態は、必ずしも同じ実施形態を指すものではない。特定の機能、構造又は特性は、本開示に整合する任意の好適な方法で組み合わせることができる。
次に図1を参照すると、機器5の一実施形態のブロック図が示されている。図示の実施形態では、機器5は、集積回路(IC)10(この例では、SOCであり得る)を含んでもよい。SOC 10は、メモリ12、外部音声符号器/復号器(コーデック)16、及び電力管理ユニット(PMU)20に連結することができる。音声コーデック16は、1つ以上の音声センサ(まとめてセンサ26と呼ぶ)に連結することができる。例えば、音声コーデック16は、1つ以上のマイクロフォン(マイク)26A〜26B、及び1つ以上のスピーカ(spkr)26C〜26Dに連結してもよい。
名前により示されるように、SOC 10の構成要素は、集積回路の「チップ」としての単一の半導体基板の上に集積化することができる。いくつかの実施形態では、構成要素は、システムの2以上の個別のチップ上に、実装してもよい。更に、さまざまな構成要素を、任意の集積回路(即ち、SOCである必要はない)上に集積化してもよい。しかし、本明細書では、SOC 10を例として用いる。図示の実施形態では、SOC 10の構成要素には、中央処理装置(CPU)複合体14、周辺構成要素18A〜18B(より簡単には、「周辺機器」)、メモリコントローラ22、音声フィルタ回路24、電力管理回路(PMGR)28、及び通信ファブリック27が含まれる。構成要素14、18A〜18B、22、24、及び28は、全て、通信ファブリック27に連結することができる。メモリコントローラ22は、使用中に、メモリ12に連結することができる。同様に、周辺機器18Aは、使用中に、音声コーデック16に連結されたインターフェースユニット(IFU)とすることができ、音声コーデック16は、更に、使用中に、音声センサ26に連結される。
機器5は、セル電話、スマートフォン、PDA、ラップトップコンピュータ、ネットトップコンピュータ、タブレット機器、エンターテインメント機器、その他、等のいかなる種類の携帯型電子機器であってもよい。いくつかの実施形態では、機器5は、デスクトップコンピュータなどの非携帯型電子機器とすることも、またできる。かかる非携帯型機器もまた、本明細書に記載された音声機器制御機能から恩恵を得ることができる。
機器5がアイドル状態である間、SOC 10の一部は、電源を切断することができる。特に、CPU複合体14、メモリコントローラ22、周辺機器18B、相互接続27、及びPMGR 28の一部は、電源を切断することができる。一方、機器5がアイドル状態であるが、完全には電源が切断されない場合、音声フィルタ回路24は、IFU 18Aと同様に、電力供給され続けてもよい。機器5がアイドル状態にあるとき、SOC 10の外部にある構成要素は、必要に応じて、電源投入するか、又は切断することができる。特に、メモリ12は、電力を供給され続け、したがって、そこに記憶されたデータを保持可能な状態を維持することができる。メモリ12が、さまざまな種類のうちの1つの種類のDRAMである実施形態では、メモリ12は、機器5がアイドル状態である間に記憶されたデータを保持するために、セルフリフレッシュモードにすることができる。
アイドル時間中に、音声フィルタ回路24は、音声コーデック16から、IFU 18Aを介して、音声サンプルを受信するように構成され、サンプル中に所定のパターン(例えば、ユーザの発話したコマンド又は要求に応えるために機器5を起動させるキーワード/フレーズ)を検出しようと試みることができる。所定のパターンは、音声フィルタ回路24にプログラムされてもよいし、又は音声フィルタ回路24にハードコード化されてもよい。ある実施形態では、所定のパターンは、キーワード/フレーズを口頭で発話しているユーザからキャプチャすることができ、ユーザ固有の声に機器5をトレーニングする。別の実施形態では、所定のパターンは、さまざまな抑揚、音質などを伴って話されたキーワード/フレーズを表す一般的なパターンである。
パターンの検出に応答して、音声フィルタ24は、メモリコントローラに電源投入させ、初期化させるように(一致するサンプル及び後続のサンプルをメモリに記憶することができるように)構成してもよいし、更に、CPU複合体14に電源投入させてオペレーティングシステム(及び、実施態様に応じて、場合によっては、SOC 10の他の部分も)をブートさせるように構成してもよい。ある実施形態では、メモリコントローラ22は、相対的に迅速に、電源投入することができる。メモリコントローラ22の位相ロックループがロックされ、更に、メモリコントローラ22が初期化されるが、それは、オペレーティングシステムのブートアップよりも短い、かなり予測可能な遅延しか生じない。相互接続27は、同様に電源投入することができ、これによって、音声フィルタ回路24は、以下に述べるパラメータ及びサンプルをメモリ12に書き込むメモリ書き込み動作を送信することができる。音声フィルタ回路24は、サンプルバッファ30を含んでいてもよく、所定のパターンと比較するために、音声フィルタ回路24は、サンプルバッファ30にサンプルを一時的にバッファし、一旦パターンが検出されると、メモリコントローラ22がメモリ12への書き込みを受信する準備ができるまで、更に、サンプルをバッファするように、構成してもよい。したがって、サンプルバッファ30の大きさは、そのパターンを検出してから、メモリコントローラ22の準備が整うまでの遅延に基づくこととなる。いくつかの実施形態では、サンプルバッファ30は、所定のパターンに一致するサンプル、メモリコントローラの準備が整うまでの遅延に基づいて、続いて受信されたサンプル、及び、所定のパターン(即ち、キーワード/フレーズ/音)と一致する前の1つ以上のサンプル、のバッファリングを可能にする大きさにする場合がある。この一致する前のサンプルは、マイクロフォンによりキャプチャされた背景雑音を判断するために、処理することができ、これによって、後続サンプルのより正確な処理に役立てることができる。
いくつかの実施形態では、メモリコントローラ22は、進歩したDRAM技術をサポートすることができ、これは、メモリコントローラ22及びメモリ12を両者間のリンク上で適切に同期するようにトレーニングすることを含んでいる。メモリコントローラ22の構成パラメータは、トレーニングを介して直接ハードウェアによるか、又はソフトウェアによるか、のいずれかにより、メモリコントローラ22の中に、プログラムすることができる(参照番号34A)。音声フィルタ回路24からメモリコントローラ22に、動作をより迅速に回復させるために、音声フィルタ回路24は、パラメータ(参照番号34B)をシャドウイングしてもよい。あるいは、パラメータ34Bは、DRAMの全てのバージョン及び、機器10の全ての動作条件にわたって適切に動作することが知られている、保守的なのパラメータのセットとすることができる。音声フィルタ回路24は、パラメータ34Bをメモリコントローラ22に転送し、メモリコントローラがメモリ12に書き込む準備を整えることを確実にすることができる。
CPUは、オペレーティングシステムの実行を開始し、SOC 10が再アクティブ化している理由は、音声フィルタ24が、キーワード/フレーズを検出したことであると判断することができる。CPUは、メモリ12からサンプルを読み出し、キーワード/フレーズが実際に検出されたことを検証することができる。例えば、いくつかの実施形態では、音声フィルタ24は、CPUにより実行されるコードによってサポートすることができるよりも、より単純であり、より精度の低い(より正確でない)マッチング処理を使用することができる。CPUは、符号を検出したことを検証することが可能であり、受信された音声サンプルの残りの処理に進んで、キーワード/フレーズの後に話されたコマンド/要求を判断することができる。
別の実施形態では、CPU複合体14は、メモリコントローラ22と並列に起動されなくてもよい。例えば、いくつかの実施形態では、音声フィルタ回路24は、後続のサンプルの処理を実行する(が、メモリ12内でサンプルを記憶するスペースを利用するために、メモリコントローラ22をパワーアップさせてもよい)ように構成することができる。別の実施形態では、音声フィルタ回路24は、機器5がアイドル状態であるときに、他の動作を実行するように構成されてもよく、音声フィルタ回路24は、これら動作のいくつかを記憶するためにメモリ12を使用することができる。かかる実施形態では、メモリコントローラ22の電源は、CPU複合体14を電源投入することなく、投入することができる。
SOC 10の種々の構成要素を電源投入することは、PMU 20との通信を含む場合がある。ある実施形態では、音声フィルタ回路24は、他のSOC回路部を電源投入させるために、PMU 20と通信するように構成することができる。あるいは、SOC 10のさまざまな構成要素が電源投入/切断するために、オンチップ電力ゲーティングを実装してもよい。内部のPMGR 28は、オンチップ電力ゲーティングを実装するように構成されてもよく、音声フィルタ回路24は、PMGR 28と通信して、電源投入を発生させるように、構成することができる。更に他の実施形態では、PMGR 28及びPMU 20の組み合わせを使用してもよい。更に別の実施形態では、PMGR 28は、PMU 20と通信するように構成することができ、音声フィルタ回路24は、電源投入要求をPMGR 28に伝達し、必要に応じて、PMU 20と通信することができる。
サンプルバッファ30とメモリ12との間には、マイクロフォン(1つ又は複数)26A〜26Bからの音声データのサンプルの損失は、ほとんど又は全く、なくすることができる。したがって、ユーザは、キーワード/フレーズを発話し、いかなる必要な躊躇なく、続けて要求/コマンドを発話することができる。
さまざまな実施形態において、音声フィルタ回路24は、固定されたハードウェアの任意の組み合わせ、及び/又はソフトウェアを実行する1つ以上のプロセッサを含んでもよい。ソフトウェアは、音声フィルタ回路24に含まれるファームウェアであってもよい(例えば、音声フィルタ回路24の不揮発性メモリに記憶された)。あるいは、ファームウェアは、実行のためにアクセスできるように機器5内の他の不揮発性記憶機器に含まれていてもよい。固定されたハードウェア実装が用いられる場合、サンプルパターンは、固定されたハードウェアへの入力として、プログラム可能とすることができる。かかるプログラム化の可能性は、異なるキーワード/フレーズ/音等の使用が可能となり、複数の言語をサポートすることなどができる。固定されたハードウェア音声フィルタ回路24の実装は、ソフトウェアを実行するプロセッサが提供し得るよりも、音声サンプルの監視に対して、より電力効率のよい解決策を提供することができる。
なお、ここでの説明は、コマンドモードをアクティブ化するために使用することができるキーワード又はフレーズに言及しているが、一般的には、任意の音(例えば、笛、拍手など、非言語的経口発生音、その他)を、さまざまな実施形態で使用しよいことに留意されたい。
本明細書で使用される場合、「電源投入(power up)」という用語は、現在は電源切断(又は電源オフ)状態にある回路に電力を印加することを指し得る。いくつかの実施形態では、与えられた回路は、2以上の電力状態(例えば、電圧及び周波数の組み合わせ)をサポートすることができる。電源投入は、回路によってサポートされた電力状態のいずれかを設定することを指す場合がある。電源投入(powering up)は、電源オン(powering on)と呼ぶこともまたできる。「電源切断(power down)」又は「電源オフ(power off)」という用語は、電源供給電圧の大きさを0Vに低減することを意味し得る。
音声コーデック16は、音声データの一般的な符号器/復号器とすることができる。このコーデックは、マイクロフォン26A〜26Bから受信された信号を、SOC 10に送信することができるデジタルサンプルに変換するように、構成されたアナログデジタル変換器を含んでもよい。コーデックは、SOC 10からデジタル音声データを受信して、デジタル音声データをアナログ信号に変換してスピーカで再生するように構成された、デジタルアナログ変換器を含むことができる。ある実施形態では、音声コーデック16は、機器5がアイドル状態である間に使用することができる1つ以上の低電力モードをサポートしてもよい。例えば、音声コーデック16は、開放された(又は「オン」の)マイクロフォンの数を減少させ、スピーカをオフにすることができる。いくつかの実施形態では、音声サンプルレートは、低電力モードにおいて、減少させることができる。
CPU複合体14は、SOC 10のCPUとして機能する1つ以上のプロセッサを含むことができる。システムのCPUには、オペレーティングシステムなどのシステムの主制御ソフトウェアを実行するプロセッサ(1つ又は複数)が含まれる。概して、使用中にCPUによって実行されるソフトウェアは、機器5の所望の機能を実現する、機器5/SOC 10の他の構成要素を制御することができる。CPUプロセッサはまた、アプリケーションプログラムなどの、他のソフトウェアを実行することができる。アプリケーションプログラムは、ユーザ機能を提供することができ、下位レベルの機器制御に関して、オペレーティングシステムに依存することができる。したがって、CPUプロセッサは、アプリケーションプロセッサと呼ぶこともできる。CPU複合体は、レベル2(L2)キャッシュ、及び/又は、システムの他の構成要素とのインターフェース(例えば、通信ファブリック27とのインターフェース)などの、他のハードウェアを更に含んでもよい。
周辺機器18A〜18Bは、SOC 10に含まれる追加のハードウェア機能の任意の集合とすることができる。より具体的には、周辺機器18Aは、音声コーデック16と連結するように構成されたインターフェースユニットであってもよい。任意のインターフェースを用いてもよい(例えば、シリアル周辺インターフェース(SPI)、シリアル又はパラレルポート、音声コーデック16用の独自のインターフェース、その他)。周辺機器18Bは、ビデオ符号器/復号器、スケーラ、回転器、ブレンダ、グラフィックス処理ユニット、ディスプレイコントローラ、その他、などのビデオ周辺機器を含むことができる。周辺機器としては、ユニバーサルシリアルバス(USB)、PCIエクスプレス(PCIe)を含む周辺構成要素相互接続(PCI)、シリアルポート及びパラレルポート、その他などのインターフェースを含む、SOC 10の外部の種々のインターフェースに関するインターフェースコントローラを挙げることができる。周辺機器は、メディアアクセスコントローラ(MAC)などのネットワーク周辺機器を含んでもよい。ハードウェアの任意の集合を含んでも良い。
メモリコントローラ22は、SOC 10の他の構成要素からメモリ要求を受信するため、及び、メモリ要求を完了するためにメモリ12にアクセスするため、の回路を通常含むことができる。メモリコントローラ22は、任意の形式のメモリ12にアクセスするように構成することができる。例えば、メモリ12は、スタティックランダムアクセスメモリ(SRAM)、ダブルデータレート(DDR、DDR2、DDR3、その他)DRAMを含む同期DRAM(SDRAM)などのダイナミックRAM(DRAM)であってもよい。DDR DRAMの低電力/モバイルバージョンをサポートすることができる(例えば、LPDDR、mDDR、その他)。いくつかの実施形態では、メモリ12は、SOC 10とは別個に(例えばシングルインラインメモリモジュール(SIMM)、デュアルインラインメモリモジュール(DIMM)、又は、SOC 10が実装された回路基板に搭載された1つ以上のDRAMチップに)実装されてもよい。他の実施形態では、メモリ12は、SOC 10と共に実装されてもよい(例えば、パッケージオンパッケージ又はチップオンチップ構成で)。
通信ファブリック27は、SOC 10の構成要素間で通信するための任意の通信相互接続及びプロトコルとすることができる。通信ファブリック27は、共有バス構成、クロスバー構成、及び、ブリッジを有する階層化されたバス、を含むバスベースとすることができる。通信ファブリック27は、またパケットベースとすることもでき、ブリッジを有する階層構造、クロスバー、ポイントツーポイント、又は他の相互接続とすることもできる。
上述したように、電力管理回路28は、SOC 10内の内部電源逐次開閉制御の順序付けを管理することができる。電力管理回路28は、機器5の計算上の需要と消費電力をバランスさせるために、SOC 10内のさまざまな構成要素のさまざまな電力/性能状態を設定するように、構成することができる。電力管理回路28は、所望の電力/性能状態にプログラム可能であってもよいし、プログラムされた状態に基づいて、さまざまな構成要素の電源ON/OFF、及びクロック周波数設定を管理してもよい。
PMU 20は、SOC 10、音声コーデック16、周辺機器26A〜26D、及びメモリ12を含む機器5の構成要素に、電力を供給する役割を果たすことができる。PMU 20は、構成要素(例えば、SOC 10)の少なくとも一部から、電圧値の要求を受信するように連結されてもよく、更に、要求された電圧を供給するように構成された電圧レギュレータを含んでもよい。SOC 10は、複数の電圧(例えば、CPU複合体14用のCPU電圧、キャッシュなどのSOC 10のメモリアレイ用のメモリ電圧、SOC電圧又はSOCの他の構成要素用の電圧、その他)を受け取ることができる。
マイクロフォン26A〜26Bは、音を受信し、受信した音声を表す出力信号を提供することができる任意の機器としてもよい。いくつかの場合には、2つ以上のマイクロフォンが望ましい場合がある。例えば、ビデオ機能を有するスマートフォン内には、音声通話の場合に、ユーザの口がある近くにマイクロフォンを含むことが望ましいだけでなく、撮影の対象から音をキャプチャするためには、ビデオカメラの近くにマイクロフォンを含むことが望ましい。任意の数のマイクロフォンが、さまざまな実施形態に含まれていてもよく、含まれているマイクロフォンのうちの任意の数のものが、機器5がアイドル状態である場合に、開放されていてもよい。
スピーカ26C〜26Dは、入力信号を受信し、該信号により表される音声を生成可能な任意の機器であってもよい。いくつかの場合には、2つ以上のスピーカが望ましい場合がある。例えば、複数のスピーカによって、ステレオ形式の音響効果が可能となり、機器の向きに基づいて、最適化される音声の生成が可能になり得る。任意の数のスピーカを、さまざまな実施形態に含むことができる。
SOC 10の構成要素の数(及び、CPU複合体14の中などの、図1に示されるもののサブ構成要素の数)は、実施形態ごとに異なる可能性があることに留意されたい。各構成要素/サブ構成要素の数は、図1に示されるよりも多いか、又は、少ない場合がある。同様に、SOC 10の外部だが機器5の中にある構成要素の種類及び数は、変動する可能性があり、図1に示されていない他の構成要素(例えば、視覚インターフェースをユーザに提供するタッチディスプレイなどのディスプレイ、ネットワーク構成要素、アンテナ、WiFi又は携帯電話の構成要素などの無線周波構成要素、その他)が含まれていてもよい。
次に図2を参照すると、電力を節約するために、SOC 10(又は、少なくとも、CPU複合体14及びメモリコントローラ22)の電源が切断されている間(例えば、機器5がアイドルであるとき)の、機器5の音声フィルタ回路24及び特定の他の部分、の一実施形態の動作を例示するフローチャートが、示されている。理解を容易にするために、ブロックは、特定の順序で示されているが、他の順序を用いてもよい。ブロックは、音声フィルタ回路24内の組み合わせ論理回路によって、並列に実行することができる(図2に明示的に並列に示されているブロックあるいは他のブロック、を含む)。ブロック、ブロックの組み合わせ、及び/又はフローチャート全体は、複数のクロックサイクルにわたって、パイプライン処理されることができる。ブロックは、いくつかの実施形態では、ソフトウェアを実行するプロセッサによって実施されてもよく、又はブロックは、固定されたハードウェア、又はそれらの任意の組み合わせであってもよい。音声フィルタ回路24は、図2に示す動作を実行するように構成することができる。
音声フィルタ回路24は、音声コーデック16から、サンプルバッファ30の中に、1以上の音声サンプルを受信し(ブロック40)、機器5の音声コマンドモードをアクティブ化するために、キーワード/フレーズ/音として使用される所定のパターンとサンプルを比較する(ブロック42)ことができる。一致がない場合には(判断ブロック44の「いいえ」の脚)、音声フィルタ回路24は、サンプルバッファ30にサンプルを受信し、サンプルを比較し続けることができる。サンプルバッファ30が一杯になると、サンプルバッファ30は、最も古いサンプルを新しいサンプルで上書きしてもよい。即ち、サンプルのN個(Nは正の整数)のエントリを有するサンプルバッファ30は、任意の時刻に、最新のN個のサンプルを有することができる。
一致(判断ブロック44の「はい」の脚)の検出に応答して、音声フィルタ回路24は、CPU複合体14及びメモリコントローラ22が電源投入されることを要求する(ブロック46)ように構成されてもよい。この要求は、実装に応じて、PMU 20、PMGR 28、又は両者の組み合わせに送信することができる。前述したように、他の実施形態では、メモリコントローラ22だけが、電源投入することができる。あるいは、メモリコントローラ22の電源が最初に投入され、続いて、CPU複合体14を電源投入してもよい。CPU複合体14と並行した、メモリコントローラ22(及びファブリック27)の電源投入が、投入中に、電流の許容量を超える(いわゆる「突入電流」)可能性を有する場合に、かかる時間をずらした電源投入を使用することができる。
メモリコントローラ22が電源投入され、そして、音声フィルタ回路24から、メモリコントローラパラメータ34Bを、メモリコントローラ22のパラメータ34Aに復元する(ブロック48)ことができる。パラメータ34Bが、メモリコントローラ22で使用していた(メモリコントローラ22の電源を切断する前に)最新のパラメータ34Aのシャドウである場合、そのパラメータは、「復元」することができる。前述したように、別の実施形態では、パラメータ34Bは、メモリ12への正常なアクセスを可能にする一方で最大性能のために最適化されていない保守的な「既知の良好な」パラメータのセットとしてもよい。この場合、パラメータを「復元する」というのは、パラメータ34Aとして、この保守的なパラメータ34Bを設定することをいう。続いて、メモリコントローラ22は、メモリ12向けにトレーニングされる場合があり、パラメータを修正することができる。ある実施形態において、音声フィルタ回路24は、一致したサンプル及び後続サンプルを、サンプルバッファ30から、メモリコントローラ22を介して、メモリ12に書き込み、そして、動作がCPU複合体14によって終了されるまで、サンプルの書き込みを継続することができる(ブロック50)。
更に、CPU複合体14のプロセッサが電源投入され、リセットされた後に、オペレーティングシステムをブートすることができる(ブロック52)。CPU複合体14上で実行されるオペレーティングシステムは、メモリ12に記憶されたサンプルを処理し、キーワード/フレーズ/音が確かに検出されたことを確認し、ユーザの要求が何であるかを判断することができる。機器5は、コマンド/要求(ブロック54)の実行に取りかかることができる。
オペレーティングシステムのブートは、SOC 10のさまざまな構成要素を試験し、プログラムすることを含むので、メモリコントローラ22の電源投入及び復元と比較して、時間を要するタスクとなる恐れがある。オペレーティングシステムは、ブート処理の早い段階で、ブートの理由が、キーワード/フレーズ/音声の検出によるか否かをチェックするように設計することができ、検出を検証するために、少なくとも、キーワード/フレーズ/音を表すサンプルを処理する場合がある。オペレーティングシステムは、音声フィルタ回路24による検出が誤りであったと判断した場合には、オペレーティングシステムはブート処理を中断し、機器5をアイドル状態に戻す(CPU複合体14及びメモリコントローラ22の電源をオフする)ことができる。
図3はメモリコントローラ22をトレーニングし、音声フィルタ回路24にシャドウメモリコントローラパラメータを提供するための、オペレーティングシステムの一実施形態の動作を例示するフローチャートである。理解を容易にするために、特定の順序でブロックを示しているが、他の順序を用いてもよい。いくつかの実施形態では、前述のように、ブロックは、オペレーティングシステムソフトウェアを実行するプロセッサによって、実行することができる。
オペレーティングシステムは、メモリコントローラ22内のトレーニングをアクティブ化し、メモリコントローラ22をメモリ12と同期させて、メモリ12への高性能接続を確立することができる(ブロック60)。トレーニングの完了に応じて、パラメータ34Aは、構成を表し得る。オペレーティングシステムは、パラメータ34Aをシャドウパラメータ34Bにコピーする(ブロック62)場合がある。あるいは、シャドウイングは、ハードウェアで実現されてもよい。更に別の実施形態では、異なるパラメータの組が、シャドウパラメータ34Bに提供されることにより、メモリコントローラ22が、キーワード/フレーズ/音の検出によって復元された場合、適切に動作することを確実にすることができる。
次に図4に移ると、機器5の一実施形態の動作を例示するタイミング図が示されている。図4において、時間は左から右へ増加する。タイミング図の開始において、左側で、機器5はアイドル状態の可能性があり、したがって、音声フィルタ回路24は、音声サンプルを監視することができる。メモリコントローラ22及びCPU複合体14などのSOC10の他の部分の電源は、切断されている可能性がある。タイミング図の上方を横切る文は、ユーザにより発話されてもよく、この例ではキーフレーズは、「Hey Siri」とすることができる。しかし、さまざまな実施形態において、任意のキーワード/フレーズを使用することができる。
音声フィルタ24によって、マイクロフォンに応答して生成された音声サンプルが処理されるにつれて、音声フィルタ24は、キーフレーズ(参照数字70)を検出することができる。この検出に応答して、音声フィルタ24は、メモリコントローラ22及びCPU複合体14の電源投入を要求することができる(参照数字72及び74)。音声フィルタ24は、パラメータ34Bからメモリコントローラ22を復元することができ、これによって、メモリコントローラ22は、書き込み動作を受け入れるように利用可能となり得る。続いて、音声フィルタ24は、パターンと一致する音声サンプル及び後続のサンプル(「一番近いピザ屋はどこ?」を表す)をメモリに書き込む(参照数字76)ことができる。
一方、CPUは、電源投入し、リセットし、そして、オペレーティングシステム(参照数字74、78)をブートすることができる。図4に例示されるように、音声サンプルの処理を開始することができる(参照数字80)ようになる時点までの、オペレーティングシステムのブートは、メモリコントローラ22の復元よりも時間を要する恐れがある。メモリコントローラによって受信されキャプチャされるサンプル、例えば、キーワードの直後のワード(単数又は複数)は、ブート後のワードだけをオペレーティングシステムがキャプチャしていた場合には、キャプチャされることはない。したがって、ユーザによる連続的な発話をキャプチャすることができ、より自然な(ユーザに対して)インターフェースを利用することができる。前述のように、いくつかの実施形態では、CPUは、メモリコントローラ22と並列には、電源投入しなくてもよい。
上述の開示を十分に理解すれば、多くの変形及び改良が、当業者には明らかとなるであろう。以下の特許請求の範囲は、かかる変形及び改良の全てを包含するように解釈されることが意図される。

Claims (16)

  1. 集積回路であって、
    1つ以上のプロセッサと、
    少なくとも1つのメモリコントローラと、
    前記1つ以上のプロセッサ及び前記メモリコントローラに連結された第1回路と、
    を備え、前記第1回路は、前記1つ以上のプロセッサ及び前記メモリコントローラが、電源切断されている時間中に、電源投入されたままであるように構成され、前記第1回路は、前記1つ以上のプロセッサ及び前記メモリコントローラの電源が切断されている時間中に、1つ以上の音声入力機器によってキャプチャされた音声サンプルを受信し、前記音声サンプル中の所定のパターンを検出するように構成され、前記第1回路は、前記所定のパターンの検出に応答して、前記メモリコントローラ及び前記1つ以上のプロセッサに電源投入させるように構成され、前記第1回路は、前記メモリコントローラが書き込み動作の受信が可能であるが、前記1つ以上のプロセッサがサンプルを処理する準備が整っていない時間の間、前記所定のパターンと一致する前記音声サンプル及び続いて受信されたサンプルを、前記メモリコントローラを介して、メモリに書き込むように構成された、集積回路。
  2. 前記所定のパターンは、1つ以上の単語の発語を含む音声を表す、請求項1に記載の集積回路。
  3. 前記所定のパターンは、ユーザの音声からキャプチャされる、請求項2に記載の集積回路。
  4. 前記所定のパターンは、非言語音を含む音を表す、請求項1に記載の集積回路。
  5. 前記第1回路は、前記メモリとの動作に関する、前記メモリコントローラをプログラムするための1つ以上のメモリコントローラパラメータを前記メモリコントローラに提供するように構成された、請求項1に記載の集積回路。
  6. 前記第1回路は、複数の前記音声サンプルを記憶するように構成されたバッファを含み、前記複数の音声サンプルの数が、前記メモリコントローラが、前記音声サンプルの前記メモリへの書き込みを受信するために利用可能となるまで、前記パターンに一致する前記音声サンプル、及び、続いて受信されたサンプル、を格納するのに十分である、請求項1に記載の集積回路。
  7. 前記第1回路は、前記音声サンプル内の少なくとも前記所定のパターンの前記検出を行い、かつ、前記プロセッサ及び前記メモリコントローラの前記電源投入をさせるために、複数の命令を実行するように構成されたプロセッサを含む、請求項1に記載の集積回路。
  8. 前記第1回路は、前記音声サンプル内の前記所定のパターンを検出するように構成されたハードウェア回路を含む、請求項1に記載の集積回路。
  9. システムであって、
    音声入力機器と、
    前記音声入力機器に連結されて、前記音声入力機器によって検出された音声から音声サンプルを生成するように構成された音声符号器/復号器(コーデック)と、
    メモリと、
    請求項1に記載の集積回路と、
    を備え、前記集積回路は、前記音声コーデック及び前記メモリに連結されている、システム。
  10. 前記音声入力機器は、前記システムに含まれる複数のマイクロフォンのうちの1つであり、前記複数のマイクロフォンのうちの他のものは、前記メモリコントローラの電源が切断されている時間中は、無効にされている、請求項9に記載のシステム。
  11. 前記第1回路は、前記音声サンプル中の前記所定のパターンの検出に応答して、前記1つ以上のプロセッサを前記メモリコントローラと並列に電源投入させるように構成された、請求項9に記載のシステム。
  12. 前記1つ以上のプロセッサは、前記所定のパターンが検出されたことを確認して、前記続いて受信された音声サンプルを解釈するために、複数の命令を実行するように構成された、請求項11に記載のシステム。
  13. 集積回路における中央処理装置(CPU)複合体及びメモリコントローラの電源を切断することと、
    前記CPU複合体及び前記メモリコントローラの電源が切断されている時間中に、前記集積回路内の、電源投入されたままの第1回路において音声サンプルを監視することと、
    前記1つ以上のプロセッサ及び前記メモリコントローラの電源が切断されている時間中に、前記第1回路における前記音声サンプル中の所定のパターンを検出することと、
    前記検出に応答して、少なくとも前記メモリコントローラの電源投入を要求することと、
    前記メモリコントローラが利用可能になるまで、前記第1回路内の前記音声サンプル及び続いて受信された音声サンプルをバッファリングし、前記バッファリングされた音声サンプルをメモリに書き込むことによって、前記音声サンプル及び続いて受信された音声サンプルが失われないことを確実にし、音声サンプルの連続ストリームが、前記メモリ内での処理のために利用可能となることと、
    を含み、前記メモリコントローラは書き込み動作の受信が可能であるが、前記1つ以上のプロセッサはサンプルを処理する準備が整っていない時間の間、音声サンプルが前記メモリに書き込まれる、方法。
  14. 前記CPU複合体の電源投入を要求することを更に含む、請求項13に記載の方法。
  15. 前記CPU複合体上のオペレーティングシステムをブートすることと、
    前記メモリからの前記バッファリングされた音声サンプルを処理することと、
    を更に含む、請求項14に記載の方法。
  16. 前記処理することは、
    前記所定のパターンが検出されたことを検証することと、
    前記続いて受信された音声サンプルを解釈することと、
    を含む、請求項15に記載の方法。
JP2016528017A 2013-11-12 2014-09-29 常時オンのモバイル機器用音声制御 Active JP6170625B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201361903002P 2013-11-12 2013-11-12
US61/903,002 2013-11-12
US14/109,101 US10079019B2 (en) 2013-11-12 2013-12-17 Always-on audio control for mobile device
US14/109,101 2013-12-17
PCT/US2014/057958 WO2015073125A1 (en) 2013-11-12 2014-09-29 Always-on audio control for mobile device

Publications (2)

Publication Number Publication Date
JP2017506353A JP2017506353A (ja) 2017-03-02
JP6170625B2 true JP6170625B2 (ja) 2017-07-26

Family

ID=53044518

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016528017A Active JP6170625B2 (ja) 2013-11-12 2014-09-29 常時オンのモバイル機器用音声制御

Country Status (8)

Country Link
US (7) US10079019B2 (ja)
EP (1) EP3069226B1 (ja)
JP (1) JP6170625B2 (ja)
KR (1) KR101770932B1 (ja)
CN (1) CN105745615B (ja)
AU (1) AU2014349166B2 (ja)
TW (1) TWI562130B (ja)
WO (1) WO2015073125A1 (ja)

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9467785B2 (en) 2013-03-28 2016-10-11 Knowles Electronics, Llc MEMS apparatus with increased back volume
US9503814B2 (en) 2013-04-10 2016-11-22 Knowles Electronics, Llc Differential outputs in multiple motor MEMS devices
US10028054B2 (en) 2013-10-21 2018-07-17 Knowles Electronics, Llc Apparatus and method for frequency detection
US9711166B2 (en) 2013-05-23 2017-07-18 Knowles Electronics, Llc Decimation synchronization in a microphone
US10020008B2 (en) 2013-05-23 2018-07-10 Knowles Electronics, Llc Microphone and corresponding digital interface
US9633655B1 (en) 2013-05-23 2017-04-25 Knowles Electronics, Llc Voice sensing and keyword analysis
US20180317019A1 (en) 2013-05-23 2018-11-01 Knowles Electronics, Llc Acoustic activity detecting microphone
CN105379308B (zh) 2013-05-23 2019-06-25 美商楼氏电子有限公司 麦克风、麦克风系统及操作麦克风的方法
US9386370B2 (en) 2013-09-04 2016-07-05 Knowles Electronics, Llc Slew rate control apparatus for digital microphones
US9502028B2 (en) 2013-10-18 2016-11-22 Knowles Electronics, Llc Acoustic activity detection apparatus and method
US9147397B2 (en) 2013-10-29 2015-09-29 Knowles Electronics, Llc VAD detection apparatus and method of operating the same
US10079019B2 (en) * 2013-11-12 2018-09-18 Apple Inc. Always-on audio control for mobile device
US20150221307A1 (en) * 2013-12-20 2015-08-06 Saurin Shah Transition from low power always listening mode to high power speech recognition mode
US10031000B2 (en) 2014-05-29 2018-07-24 Apple Inc. System on a chip with always-on processor
US9712915B2 (en) 2014-11-25 2017-07-18 Knowles Electronics, Llc Reference microphone for non-linear and time variant echo cancellation
WO2016112113A1 (en) 2015-01-07 2016-07-14 Knowles Electronics, Llc Utilizing digital microphones for low power keyword detection and noise suppression
WO2016118480A1 (en) 2015-01-21 2016-07-28 Knowles Electronics, Llc Low power voice trigger for acoustic apparatus and method
US10121472B2 (en) 2015-02-13 2018-11-06 Knowles Electronics, Llc Audio buffer catch-up apparatus and method with two microphones
US9866938B2 (en) 2015-02-19 2018-01-09 Knowles Electronics, Llc Interface for microphone-to-microphone communications
US9883270B2 (en) 2015-05-14 2018-01-30 Knowles Electronics, Llc Microphone with coined area
US10291973B2 (en) 2015-05-14 2019-05-14 Knowles Electronics, Llc Sensor device with ingress protection
US9478234B1 (en) 2015-07-13 2016-10-25 Knowles Electronics, Llc Microphone apparatus and method with catch-up buffer
US10045104B2 (en) 2015-08-24 2018-08-07 Knowles Electronics, Llc Audio calibration using a microphone
US10018977B2 (en) * 2015-10-05 2018-07-10 Savant Systems, Llc History-based key phrase suggestions for voice control of a home automation system
CN106653010B (zh) 2015-11-03 2020-07-24 络达科技股份有限公司 电子装置及其透过语音辨识唤醒的方法
US10168985B2 (en) * 2015-12-21 2019-01-01 Intel Corporation Dynamic audio codec enumeration
US9894437B2 (en) * 2016-02-09 2018-02-13 Knowles Electronics, Llc Microphone assembly with pulse density modulated signal
US10880833B2 (en) * 2016-04-25 2020-12-29 Sensory, Incorporated Smart listening modes supporting quasi always-on listening
US10499150B2 (en) 2016-07-05 2019-12-03 Knowles Electronics, Llc Microphone assembly with digital feedback loop
US10257616B2 (en) 2016-07-22 2019-04-09 Knowles Electronics, Llc Digital microphone assembly with improved frequency response and noise characteristics
US11024309B2 (en) * 2016-10-17 2021-06-01 Harman International Industries, Incorporated Portable audio device with voice capabilities
DE112017005458T5 (de) 2016-10-28 2019-07-25 Knowles Electronics, Llc Wandleranordnungen und verfahren
WO2018126151A1 (en) 2016-12-30 2018-07-05 Knowles Electronics, Llc Microphone assembly with authentication
US10121494B1 (en) * 2017-03-30 2018-11-06 Amazon Technologies, Inc. User presence detection
WO2019051218A1 (en) 2017-09-08 2019-03-14 Knowles Electronics, Llc CLOCK SYNCHRONIZATION IN A MASTER-ASSERTED COMMUNICATION SYSTEM
US11061642B2 (en) 2017-09-29 2021-07-13 Knowles Electronics, Llc Multi-core audio processor with flexible memory allocation
CN107861618A (zh) * 2017-11-10 2018-03-30 联想(北京)有限公司 电子设备控制方法和控制系统
US11438682B2 (en) 2018-09-11 2022-09-06 Knowles Electronics, Llc Digital microphone with reduced processing noise
US10908880B2 (en) 2018-10-19 2021-02-02 Knowles Electronics, Llc Audio signal circuit with in-place bit-reversal
GB201821048D0 (en) 2018-12-21 2019-02-06 Sae Hearing As System for monitoring sound
CN109785845B (zh) 2019-01-28 2021-08-03 百度在线网络技术(北京)有限公司 语音处理方法、装置及设备
CN110806990A (zh) * 2019-10-15 2020-02-18 四川豪威尔信息科技有限公司 一种存储器集成电路及其预取方法
CN113126740A (zh) * 2019-12-30 2021-07-16 美光科技公司 管理降低功率的存储器操作
US20240062756A1 (en) * 2022-08-18 2024-02-22 Cypress Semiconductor Corporation Systems, methods, and devices for staged wakeup word detection

Family Cites Families (113)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5615296A (en) 1993-11-12 1997-03-25 International Business Machines Corporation Continuous speech recognition and voice response system and method to enable conversational dialogues with microprocessors
US5461588A (en) * 1994-11-15 1995-10-24 Digital Equipment Corporation Memory testing with preservation of in-use data
JP3674990B2 (ja) 1995-08-21 2005-07-27 セイコーエプソン株式会社 音声認識対話装置および音声認識対話処理方法
US5774841A (en) * 1995-09-20 1998-06-30 The United States Of America As Represented By The Adminstrator Of The National Aeronautics And Space Administration Real-time reconfigurable adaptive speech recognition command and control apparatus and method
US6593845B1 (en) 1998-01-09 2003-07-15 Intermac Ip Corp. Active RF tag with wake-up circuit to prolong battery life
WO2001054753A2 (en) * 2000-01-21 2001-08-02 Medical Research Group, Inc. Microprocessor controlled ambulatory medical apparatus with hand held communication device
US6748548B2 (en) 2000-12-29 2004-06-08 Intel Corporation Computer peripheral device that remains operable when central processor operations are suspended
JP2003023252A (ja) 2001-07-10 2003-01-24 Ibiden Co Ltd 多層プリント配線板
US6408396B1 (en) * 2001-05-04 2002-06-18 Intel Corporation Method and apparatus for supporting wake-on voice and wake-on MIC technology
US6775750B2 (en) 2001-06-29 2004-08-10 Texas Instruments Incorporated System protection map
JP4640667B2 (ja) 2001-12-03 2011-03-02 横浜特殊船舶株式会社 レンタル自転車の錠システム
JP4436583B2 (ja) 2001-12-19 2010-03-24 富士フイルム株式会社 デジタルカメラ
EP1331539B1 (en) 2002-01-16 2016-09-28 Texas Instruments France Secure mode for processors supporting MMU and interrupts
JP2003278418A (ja) * 2002-03-22 2003-10-02 Denso Corp 車載無線機装置
EP1351146A1 (en) 2002-04-04 2003-10-08 Hewlett-Packard Company Power management system and method with recovery after power failure
US7134028B2 (en) 2003-05-01 2006-11-07 International Business Machines Corporation Processor with low overhead predictive supply voltage gating for leakage power reduction
US7418392B1 (en) 2003-09-25 2008-08-26 Sensory, Inc. System and method for controlling the operation of a device by voice commands
US8864822B2 (en) 2003-12-23 2014-10-21 Mitralign, Inc. Devices and methods for introducing elements into tissue
US8112618B2 (en) 2004-04-08 2012-02-07 Texas Instruments Incorporated Less-secure processors, integrated circuits, wireless communications apparatus, methods and processes of making
JP2006107127A (ja) 2004-10-05 2006-04-20 Nec Electronics Corp 半導体集積回路装置
US7797523B2 (en) 2006-09-25 2010-09-14 Hewlett-Packard Development Company, L.P. Method and system of executing stack-based memory reference code
US8117475B2 (en) 2006-12-15 2012-02-14 Microchip Technology Incorporated Direct memory access controller
US8041968B2 (en) 2007-01-04 2011-10-18 Apple Inc. Power management for driving display with baseband portion when application portion is in low power mode
KR100862316B1 (ko) * 2007-03-08 2008-10-13 주식회사 하이닉스반도체 반도체 메모리장치, 반도체 메모리장치의 zq캘리브래이션동작 제어회로 및 반도체 메모리장치의 zq캘리브래이션방법
US7991992B2 (en) 2007-03-13 2011-08-02 Intel Corporation Power reduction for system on chip
US8065546B2 (en) 2007-05-03 2011-11-22 Microchip Technology Incorporated Interrupt/wake-up of an electronic device in a low power sleep mode when detecting a sensor or frequency source activated frequency change
US7941682B2 (en) 2007-05-09 2011-05-10 Gainspan, Inc. Optimum power management of system on chip based on tiered states of operation
EP2003534A3 (en) * 2007-06-11 2009-02-18 MediaTek Inc. Method of and apparatus for reducing power consumption within an integrated circuit.
CN101578571A (zh) 2007-07-09 2009-11-11 索尼株式会社 电子设备及其控制方法
JP4949956B2 (ja) 2007-07-20 2012-06-13 株式会社リコー 画像形成装置
US9613215B2 (en) 2008-04-10 2017-04-04 Nvidia Corporation Method and system for implementing a secure chain of trust
US20090259865A1 (en) 2008-04-11 2009-10-15 Qualcomm Incorporated Power Management Using At Least One Of A Special Purpose Processor And Motion Sensing
US20090292934A1 (en) 2008-05-22 2009-11-26 Ati Technologies Ulc Integrated circuit with secondary-memory controller for providing a sleep state for reduced power consumption and method therefor
US8533504B2 (en) * 2008-05-29 2013-09-10 International Business Machines Corporation Reducing power consumption during execution of an application on a plurality of compute nodes
US8065540B2 (en) 2008-10-31 2011-11-22 Dell Products, Lp Power control for information handling system having shared resources
US8103803B2 (en) 2008-11-21 2012-01-24 Nvidia Corporation Communication between a processor and a controller
JP5080510B2 (ja) 2009-02-12 2012-11-21 株式会社日立製作所 宅内ゲートウェイ装置
US8405505B2 (en) 2009-05-26 2013-03-26 Qualcomm Incorporated Power management of sensors within a mobile device
US8078800B2 (en) * 2009-06-05 2011-12-13 Apple Inc. Dynamic operating point modification in an integrated circuit
US8515609B2 (en) 2009-07-06 2013-08-20 Honeywell International Inc. Flight technical control management for an unmanned aerial vehicle
GB2472050B (en) 2009-07-22 2013-06-19 Wolfson Microelectronics Plc Power management apparatus and methods
KR101624903B1 (ko) 2009-09-16 2016-05-30 삼성전자주식회사 휴대용 단말기에서 전력 소모를 줄이기 위한 장치 및 방법
US9098274B2 (en) 2009-12-03 2015-08-04 Intel Corporation Methods and apparatuses to improve turbo performance for events handling
JP2011129041A (ja) 2009-12-21 2011-06-30 Fujitsu Ltd 情報処理装置、認証処理制御プログラムおよび認証処理制御方法
US8656198B2 (en) 2010-04-26 2014-02-18 Advanced Micro Devices Method and apparatus for memory power management
US20110291801A1 (en) * 2010-06-01 2011-12-01 Sommer William R Personal warning device
US8751802B2 (en) 2010-06-30 2014-06-10 Sandisk Il Ltd. Storage device and method and for storage device state recovery
US8438416B2 (en) 2010-10-21 2013-05-07 Advanced Micro Devices, Inc. Function based dynamic power control
US9483103B2 (en) * 2010-10-22 2016-11-01 Hewlett-Packard Development Company, L.P. Process state of a computing machine
US8706172B2 (en) 2010-10-26 2014-04-22 Miscrosoft Corporation Energy efficient continuous sensing for communications devices
US9226069B2 (en) * 2010-10-29 2015-12-29 Qualcomm Incorporated Transitioning multiple microphones from a first mode to a second mode
US9135213B2 (en) 2011-01-13 2015-09-15 Xilinx, Inc. Extending a processor system within an integrated circuit and offloading processes to process-specific circuits
US20120254878A1 (en) 2011-04-01 2012-10-04 Lama Nachman Mechanism for outsourcing context-aware application-related functionalities to a sensor hub
US9229489B2 (en) 2011-05-03 2016-01-05 Facebook, Inc. Adjusting mobile device state based on user intentions and/or identity
US20120311009A1 (en) * 2011-06-01 2012-12-06 Jarrett Ben D Hybrid adder using dynamic and static circuits
US20130124891A1 (en) 2011-07-15 2013-05-16 Aliphcom Efficient control of power consumption in portable sensing devices
US8954017B2 (en) 2011-08-17 2015-02-10 Broadcom Corporation Clock signal multiplication to reduce noise coupled onto a transmission communication signal of a communications device
US8862917B2 (en) 2011-09-19 2014-10-14 Qualcomm Incorporated Dynamic sleep for multicore computing devices
US8768707B2 (en) 2011-09-27 2014-07-01 Sensory Incorporated Background speech recognition assistant using speaker verification
US9804678B2 (en) 2011-10-18 2017-10-31 Slyde Watch Sa Method and circuit for switching a wristwatch from a first power mode to a second power mode
US8812761B2 (en) 2011-10-28 2014-08-19 Apple Inc. System and method for adjusting power usage to reduce interrupt latency
US8972180B1 (en) * 2011-11-08 2015-03-03 Marvell International Ltd. Method and apparatus for managing multiple sensors in a navigation system
US8666751B2 (en) * 2011-11-17 2014-03-04 Microsoft Corporation Audio pattern matching for device activation
US9281827B2 (en) 2011-11-21 2016-03-08 Cirrus Logic International Semiconductor Ltd. Clock generator
KR20160036104A (ko) 2011-12-07 2016-04-01 퀄컴 인코포레이티드 디지털화된 오디오 스트림을 분석하는 저전력 집적 회로
US9958926B2 (en) 2011-12-13 2018-05-01 Intel Corporation Method and system for providing instant responses to sleep state transitions with non-volatile random access memory
US9377830B2 (en) 2011-12-30 2016-06-28 Samsung Electronics Co., Ltd. Data processing device with power management unit and portable device having the same
CN102622079B (zh) 2012-02-25 2015-02-04 华为终端有限公司 一种休眠方法、唤醒方法和移动终端设备
US9838810B2 (en) 2012-02-27 2017-12-05 Qualcomm Technologies International, Ltd. Low power audio detection
US9063574B1 (en) 2012-03-14 2015-06-23 Amazon Technologies, Inc. Motion detection systems for electronic devices
US8892269B2 (en) 2012-03-30 2014-11-18 Intel Corporation Power down and quick start of thermal sensor
US9552037B2 (en) * 2012-04-23 2017-01-24 Google Inc. Switching a computing device from a low-power state to a high-power state
US9117449B2 (en) 2012-04-26 2015-08-25 Nuance Communications, Inc. Embedded system for construction of small footprint speech recognition with user-definable constraints
US20130318382A1 (en) 2012-05-23 2013-11-28 Canon Kabushiki Kaisha Power management apparatus, image forming apparatus and power management method
US9182999B2 (en) 2012-05-30 2015-11-10 Advanced Micro Devices, Inc. Reintialization of a processing system from volatile memory upon resuming from a low-power state
KR101896666B1 (ko) 2012-07-05 2018-09-07 삼성전자주식회사 이미지 센서 칩, 이의 동작 방법, 및 이를 포함하는 시스템
KR102045511B1 (ko) 2012-07-18 2019-11-15 삼성전자 주식회사 센서 허브를 포함하는 단말기 및 단말기의 제어 방법
US9063731B2 (en) 2012-08-27 2015-06-23 Samsung Electronics Co., Ltd. Ultra low power apparatus and method to wake up a main processor
US9152205B2 (en) 2012-08-28 2015-10-06 Intel Corporation Mechanism for facilitating faster suspend/resume operations in computing systems
TWI492545B (zh) 2012-09-14 2015-07-11 Univ Nat Chiao Tung 具有增益校正之鎖相迴路、用於鎖相迴路之增益量測方法、校正方法及抖動量測方法
US9208371B2 (en) 2012-09-28 2015-12-08 Synaptics Incorporated Low power navigation devices, systems and methods
KR101927096B1 (ko) 2012-10-19 2018-12-10 삼성전자주식회사 어플리케이션 프로세서, 이를 구비하는 모바일 기기 및 어플리케이션 프로세서를 위한 클럭 신호 선택 방법
JP6096301B2 (ja) 2012-10-25 2017-03-15 インテル コーポレイション ファームウェアにおける盗難防止
CN103838339B (zh) * 2012-11-21 2016-08-17 华硕电脑股份有限公司 功率整合模块及电子装置
US9760150B2 (en) 2012-11-27 2017-09-12 Nvidia Corporation Low-power states for a computer system with integrated baseband
US9081571B2 (en) 2012-11-29 2015-07-14 Amazon Technologies, Inc. Gesture detection management for an electronic device
KR102179811B1 (ko) * 2012-12-03 2020-11-17 엘지전자 주식회사 포터블 디바이스 및 음성 인식 서비스 제공 방법
US9794736B2 (en) 2012-12-21 2017-10-17 Qualcomm Incorporated Low power always-on determination of indoor versus outdoor state
US9424127B2 (en) 2013-02-01 2016-08-23 Broadcom Corporation Charger detection and optimization prior to host control
US20140218372A1 (en) 2013-02-05 2014-08-07 Apple Inc. Intelligent digital assistant in a desktop environment
KR20240132105A (ko) 2013-02-07 2024-09-02 애플 인크. 디지털 어시스턴트를 위한 음성 트리거
EP2962403A4 (en) 2013-02-27 2016-11-16 Knowles Electronics Llc LANGUAGE-CONTROLLED COMMUNICATION CONNECTIONS
US9542933B2 (en) 2013-03-08 2017-01-10 Analog Devices Global Microphone circuit assembly and system with speech recognition
US9335809B2 (en) 2013-03-15 2016-05-10 Seagate Technology Llc Volatile memory storing system data during low power mode operation and monitoring the voltage supplied to the memory during low power mode
US9189248B2 (en) 2013-04-25 2015-11-17 Insyde Software Corp. Specialized boot path for speeding up resume from sleep state
US9541984B2 (en) 2013-06-05 2017-01-10 Apple Inc. L2 flush and memory fabric teardown
US9338003B2 (en) 2013-06-18 2016-05-10 Maxim Integrated Products, Inc. Secure modules using unique identification elements
WO2015005927A1 (en) 2013-07-11 2015-01-15 Intel Corporation Device wake and speaker verification using the same audio input
US9756699B2 (en) 2013-08-30 2017-09-05 Avago Technologies General Ip (Singapore) Pte. Ltd Low-power data acquisition system and sensor interface
US20150089245A1 (en) 2013-09-26 2015-03-26 Asher M. Altman Data storage in persistent memory
US9171133B2 (en) 2013-10-11 2015-10-27 Landis+Gyr Innovations, Inc. Securing a device and data within the device
US20150127300A1 (en) 2013-11-03 2015-05-07 Microsoft Corporation Sensor Selection Based on Context and Policy
US10079019B2 (en) * 2013-11-12 2018-09-18 Apple Inc. Always-on audio control for mobile device
US20150149801A1 (en) 2013-11-26 2015-05-28 Synaptics Incorporated Complex wakeup gesture framework
CN103619056B (zh) 2013-12-02 2018-01-12 华为终端(东莞)有限公司 一种上报传感器数据的方法和终端
US9836113B2 (en) 2013-12-23 2017-12-05 Intel Corporation Method and apparatus to manage power usage in a processor
US9665155B2 (en) 2013-12-28 2017-05-30 Intel Corporation Techniques for increasing energy efficiency of sensor controllers that receive data from one or more sensors
US9443111B2 (en) 2014-02-28 2016-09-13 Seagate Technology Llc Device security using an encrypted keystore data structure
US9348358B2 (en) 2014-04-18 2016-05-24 Fujitsu Limited Clock multiplication and distribution
US9619377B2 (en) 2014-05-29 2017-04-11 Apple Inc. System on a chip with always-on processor which reconfigures SOC and supports memory-only communication mode
US10031000B2 (en) 2014-05-29 2018-07-24 Apple Inc. System on a chip with always-on processor
US9778728B2 (en) 2014-05-29 2017-10-03 Apple Inc. System on a chip with fast wake from sleep
US10540043B2 (en) 2016-03-02 2020-01-21 Synaptics Incorporated Hybrid in-cell sensor topology

Also Published As

Publication number Publication date
US10431224B1 (en) 2019-10-01
KR101770932B1 (ko) 2017-08-23
US11049503B2 (en) 2021-06-29
US10079019B2 (en) 2018-09-18
US20190287532A1 (en) 2019-09-19
KR20160074656A (ko) 2016-06-28
US10276165B2 (en) 2019-04-30
TW201521010A (zh) 2015-06-01
US10573319B2 (en) 2020-02-25
CN105745615A (zh) 2016-07-06
EP3069226A1 (en) 2016-09-21
AU2014349166A1 (en) 2016-04-14
EP3069226B1 (en) 2019-12-18
CN105745615B (zh) 2019-03-22
JP2017506353A (ja) 2017-03-02
US20180350369A1 (en) 2018-12-06
WO2015073125A1 (en) 2015-05-21
US11862173B2 (en) 2024-01-02
US20150134331A1 (en) 2015-05-14
US20190378514A1 (en) 2019-12-12
US20240144932A1 (en) 2024-05-02
AU2014349166B2 (en) 2017-02-16
US20210287677A1 (en) 2021-09-16
TWI562130B (en) 2016-12-11
US20200184976A1 (en) 2020-06-11

Similar Documents

Publication Publication Date Title
JP6170625B2 (ja) 常時オンのモバイル機器用音声制御
JP6401870B2 (ja) 常時オンの構成要素におけるクロック切り替え
US10976990B2 (en) Mechanism for retrieval of previously captured audio
US10643621B2 (en) Speech recognition using electronic device and server
US9852731B2 (en) Mechanism and apparatus for seamless voice wake and speaker verification
CN111164675A (zh) 用于具有语音功能的计算机系统的用户定义的唤醒关键短语的动态注册

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170626

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170630

R150 Certificate of patent or registration of utility model

Ref document number: 6170625

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250