JP2022013610A - 音声インタラクション制御方法、装置、電子機器、記憶媒体及びシステム - Google Patents
音声インタラクション制御方法、装置、電子機器、記憶媒体及びシステム Download PDFInfo
- Publication number
- JP2022013610A JP2022013610A JP2021002323A JP2021002323A JP2022013610A JP 2022013610 A JP2022013610 A JP 2022013610A JP 2021002323 A JP2021002323 A JP 2021002323A JP 2021002323 A JP2021002323 A JP 2021002323A JP 2022013610 A JP2022013610 A JP 2022013610A
- Authority
- JP
- Japan
- Prior art keywords
- wake word
- reliability
- audio signal
- result
- voice
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000003993 interaction Effects 0.000 title claims abstract description 267
- 238000000034 method Methods 0.000 title claims abstract description 101
- 230000005236 sound signal Effects 0.000 claims abstract description 285
- 238000001514 detection method Methods 0.000 claims description 124
- 230000015654 memory Effects 0.000 claims description 25
- 238000004590 computer program Methods 0.000 claims description 6
- 230000005540 biological transmission Effects 0.000 claims description 3
- 230000004044 response Effects 0.000 description 18
- 238000010586 diagram Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 241000282414 Homo sapiens Species 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000008929 regeneration Effects 0.000 description 2
- 238000011069 regeneration method Methods 0.000 description 2
- 235000008247 Echinochloa frumentacea Nutrition 0.000 description 1
- 240000004072 Panicum sumatrense Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/14—Speech classification or search using statistical models, e.g. Hidden Markov Models [HMMs]
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/28—Constructional details of speech recognition systems
- G10L15/30—Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L2015/088—Word spotting
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/225—Feedback of the input speech
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computational Linguistics (AREA)
- Acoustics & Sound (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Telephonic Communication Services (AREA)
- Telephone Function (AREA)
- Selective Calling Equipment (AREA)
- Transmitters (AREA)
Abstract
Description
オーディオ信号を収集するステップと、
前記オーディオ信号におけるウェイクワードを検出して、ウェイクワードの結果と音声コマンドの結果を取得するステップと、
ウェイクワードの結果に基づいて提示音を再生する及び/またはオーディオ信号における音声コマンドを実行するステップと、を含む。
オーディオ信号を取得するステップと、
前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得するステップと、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御するステップと、を含む。
オーディオ信号を収集することに用いられる収集モジュールと、
前記オーディオ信号におけるウェイクワードを検出することに用いられる検出モジュールと、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/またはオーディオ信号における音声コマンドを実行することに用いられる実行モジュールと、を含む。
オーディオ信号を取得することに用いられる取得モジュールと、
前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得することに用いられる検出モジュールと、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御することに用いられる制御モジュールと、を含む。
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能なコマンドが記憶され、前記コマンドは、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサがいずれかの実施例に記載の音声インタラクション制御方法を実行できる。
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能なコマンドが記憶され、前記コマンドは、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサがいずれかの実施例に記載の音声インタラクション制御方法を実行できる。
前記音声インタラクション端末は、オーディオ信号を収集し、前記オーディオ信号におけるウェイクワードを検出し、検出されたウェイクワードの結果に基づいてウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信する及び/または提示音を再生し、前記サーバから返された音声コマンド及び/または提示音再生コマンドを受信して実行することに用いられ、
前記サーバは、前記音声インタラクション端末から送信されたオーディオ信号を受信し、受信された前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出し、検出されたウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて前記音声インタラクション端末に音声コマンド及び/または提示音再生コマンドを発行することに用いられる。
オーディオ信号を収集することに用いられる収集モジュール801と、
オーディオ信号におけるウェイクワードを検出することに用いられる検出モジュール802と、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/またはオーディオ信号における音声コマンドを実行することに用いられる実行モジュール803と、を含む。
オーディオ信号を取得することに用いられる取得モジュール901と、
オーディオ信号の先頭にあるウェイクワード、及びウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得することに用いられる検出モジュール902と、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御することに用いられる制御モジュール903と、を含む。
Claims (43)
- 音声インタラクション制御方法であって、
オーディオ信号を収集するステップと、
前記オーディオ信号におけるウェイクワードを検出するステップと、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/または前記オーディオ信号における音声コマンドを実行するステップと、を含む、
音声インタラクション制御方法。 - 前記ウェイクワードの結果は第1の信頼度を含み、前記第1の信頼度は、ターゲットウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/または前記オーディオ信号における音声コマンドを実行するステップは、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、前記音声コマンドを実行するステップと、
前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生するステップと、を含む、
ことを特徴とする請求項1に記載の方法。 - 検出されたウェイクワードの結果に基づいて前記オーディオ信号における音声コマンドを実行するステップのときまたはその前に、
前記提示音を再生しないステップをさらに含む、
ことを特徴とする請求項1または2に記載の方法。 - 前記ウェイクワードの結果は第2の信頼度を含み、前記第2の信頼度は、通常のウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
検出されたウェイクワードの結果に基づいて提示音を再生するステップは、
前記第2の信頼度が第2の信頼度閾値要件を満たし、かつ前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生するステップを含む、
ことを特徴とする請求項2に記載の方法。 - 前記通常のウェイクワードは少なくとも1つの前記ターゲットウェイクワードを含み、
前記オーディオ信号におけるウェイクワードを検出するステップは、
ウェイクワード検出モデルを使用して前記オーディオ信号におけるターゲットウェイクワードを初期検出し、初期検出結果を得るステップと、
前記初期検出した後の設定期間内において前記ターゲットウェイクワードを再検出し、再検出結果を得るステップと、
前記初期検出結果と前記再検出結果に基づいて前記第1の信頼度と前記第2の信頼度を決定するステップと、を含む、
ことを特徴とする請求項4に記載の方法。 - 前記音声コマンドは、前記オーディオ信号における前記ウェイクワードに続く部分を検出することによって得られる、
ことを特徴とする請求項1または2に記載の方法。 - 前記方法は音声インタラクション端末によって実行され、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、前記音声コマンドを実行するステップは、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、サーバが受信されたオーディオ信号の先頭にあるウェイクワード及び前記ウェイクワードに続く音声コマンドを検出するように、前記ターゲットウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信するステップと、
前記サーバから前記音声コマンドを取得して実行するステップと、を含む、
ことを特徴とする請求項2に記載の方法。 - 前記ターゲットウェイクワードは4つ未満の音節を有する単語であり、
前記通常のウェイクワードは4つ以上の音節を有する単語である、
ことを特徴とする請求項2、4、5または7に記載の方法。 - 前記ターゲットウェイクワードと前記通常のウェイクワードは音節数が同じである、
ことを特徴とする請求項2、4、5または7に記載の方法。 - 音声インタラクション制御方法であって、
オーディオ信号を取得するステップと、
前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得するステップと、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御するステップと、を含む、
音声インタラクション制御方法。 - 前記ウェイクワードの結果は第3の信頼度を含み、前記第3の信頼度はターゲットウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御するステップは、
前記第3の信頼度が第3の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声コマンドを実行するように前記音声インタラクション端末を制御するステップと、
前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記提示音を再生するように前記音声インタラクション端末を制御するステップと、を含む、
ことを特徴とする請求項10に記載の方法。 - 前記ウェイクワードの結果は第4の信頼度を含み、前記第4の信頼度は通常のウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御するステップは、
前記第4の信頼度が第4の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声コマンドを実行する及び/または前記提示音を再生するように前記音声インタラクション端末を制御するステップと、
前記第4の信頼度が前記第4の信頼度閾値要件に満たず、かつ前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記音声インタラクション端末にヌルコマンドを送信するステップと、を含む、
ことを特徴とする請求項11に記載の方法。 - 前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得するステップは、
前記オーディオ信号の認識テキストの先頭に対してウェイクワード検出を行い、先頭のウェイクワードの検出結果を取得するステップと、
前記オーディオ信号の音響特徴表現と前記オーディオ信号の認識テキストに関連付けられたテキスト特徴表現のうちの少なくとも一つに基づいて、前記オーディオ信号のインタラクション信頼度を決定し、前記インタラクション信頼度は、前記端末とのインタラクションに使用される音声コマンドとしての前記オーディオ信号の信頼性を示すステップと、
前記認識テキストと前記オーディオ信号とのマッチングステータスを決定し、前記マッチングステータスは前記認識テキストが前記オーディオ信号に含まれる情報を正しく反映している度合いを示すステップと、
前記インタラクション信頼度、前記マッチングステータス及び先頭のウェイクワードの検出結果に基づいて前記ウェイクワードの結果と前記音声コマンドの結果を得るステップと、を含む、
ことを特徴とする請求項10に記載の方法。 - 前記方法はサーバによって実行され、
オーディオ信号を取得するステップは、
音声インタラクション端末から送信された前記オーディオ信号を受信するステップを含む、
ことを特徴とする請求項10~13のいずれかに記載の方法。 - 音声インタラクション制御装置であって、
オーディオ信号を収集することに用いられる収集モジュールと、
前記オーディオ信号におけるウェイクワードを検出することに用いられる検出モジュールと、
検出されたウェイクワードの結果に基づいて提示音を再生する及び/または前記オーディオ信号における音声コマンドを実行することに用いられる実行モジュールと、を含む、
音声インタラクション制御装置。 - 前記ウェイクワードの結果は第1の信頼度を含み、前記第1の信頼度は、ターゲットウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
前記実行モジュールは、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、前記音声コマンドを実行することに用いられるコマンド実行ユニットと、
前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生することに用いられる再生ユニットと、を含む、
ことを特徴とする請求項15に記載の装置。 - 検出されたウェイクワードの結果に基づいて前記オーディオ信号における音声コマンドを実行するときまたはその前に、前記提示音を再生しないことに用いられる非再生モジュールをさらに含む、
ことを特徴とする請求項15または16に記載の装置。 - 前記ウェイクワードの結果は第2の信頼度を含み、前記第2の信頼度は、通常のウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
前記実行モジュールは、検出されたウェイクワードの結果に基づいて提示音を再生するとき、具体的には、前記第2の信頼度が第2の信頼度閾値要件を満たし、かつ前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生することに用いられる、
ことを特徴とする請求項16に記載の装置。 - 前記通常のウェイクワードは少なくとも1つの前記ターゲットウェイクワードを含み、
前記検出モジュールは、
ウェイクワード検出モデルを使用して前記オーディオ信号におけるターゲットウェイクワードを初期検出し、初期検出結果を得ることに用いられる初期検出モジュールと、
前記初期検出した後の設定期間内において前記ターゲットウェイクワードを再検出し、再検出結果を得ることに用いられる再検出モジュールと、
前記初期検出結果と前記再検出結果に基づいて前記第1の信頼度と前記第2の信頼度を決定することに用いられる決定モジュールと、を含む、
ことを特徴とする請求項18に記載の装置。 - 前記音声コマンドは、前記オーディオ信号における前記ウェイクワードに続く部分を検出することによって得られる、
ことを特徴とする請求項15または16に記載の装置。 - 前記装置は音声インタラクション端末に配置され、
前記コマンド実行ユニットは、
前記第1の信頼度が第1の信頼度閾値要件を満たす場合、サーバが受信されたオーディオ信号の先頭にあるウェイクワード及び前記ウェイクワードに続く音声コマンドを検出するように、前記ターゲットウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信することに用いられる送信サブユニットと、
前記サーバから前記音声コマンドを取得して実行することに用いられる取得サブユニットと、を含む、
ことを特徴とする請求項16に記載の装置。 - 前記ターゲットウェイクワードは4つ未満の音節を有する単語であり、
前記通常のウェイクワードは4つ以上の音節を有する単語である、
ことを特徴とする請求項16、18、19または21に記載の装置。 - 前記ターゲットウェイクワードと前記通常のウェイクワードは音節数が同じである、
ことを特徴とする請求項16、18、19または21に記載の装置。 - 音声インタラクション制御装置であって、
オーディオ信号を取得することに用いられる取得モジュールと、
前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得することに用いられる検出モジュールと、
ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて提示音を再生する及び/または音声コマンドを実行するように音声インタラクション端末を制御することに用いられる制御モジュールと、を含む、
音声インタラクション制御装置。 - 前記ウェイクワードの結果は第3の信頼度を含み、前記第3の信頼度はターゲットウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
前記制御モジュールは、
前記第3の信頼度が第3の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声コマンドを実行するように前記音声インタラクション端末を制御することに用いられる第1の実行ユニットと、
前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記提示音を再生するように前記音声インタラクション端末を制御することに用いられる制御ユニットと、を含む、
ことを特徴とする請求項24に記載の装置。 - 前記ウェイクワードの結果は第4の信頼度を含み、前記第4の信頼度は通常のウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
前記制御モジュールは、
前記第4の信頼度が第4の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声コマンドを実行する及び/または前記提示音を再生するように前記音声インタラクション端末を制御することに用いられる第2の実行ユニットと、
前記第4の信頼度が前記第4の信頼度閾値要件に満たず、かつ前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記音声インタラクション端末にヌルコマンドを送信することに用いられる送信ユニットと、を含む、
ことを特徴とする請求項25に記載の装置。 - 前記検出モジュールは、
前記オーディオ信号の認識テキストの先頭に対してウェイクワード検出を行い、首部のウェイクワードの検出結果を取得することに用いられる検出ユニットと、
前記オーディオ信号の音響特徴表現と前記オーディオ信号の認識テキストに関連付けられたテキスト特徴表現のうちの少なくとも一つに基づいて、前記オーディオ信号のインタラクション信頼度を決定することに用いられるインタラクション信頼度決定ユニットであって、前記インタラクション信頼度は、前記端末とのインタラクションに使用される音声コマンドとしての前記オーディオ信号の信頼性を示すインタラクション信頼度決定ユニットと、
前記認識テキストと前記オーディオ信号とのマッチングステータスを決定することに用いられるマッチングステータス決定ユニットであって、前記マッチングステータスは前記認識テキストが前記オーディオ信号に含まれる情報を正しく反映している度合いを示すマッチングステータス決定ユニットと、
前記インタラクション信頼度、前記マッチングステータス及び首部のウェイクワードの検出結果に基づいて前記ウェイクワードの結果と前記音声コマンドの結果を得ることに用いられる結果取得ユニットと、を含む、
ことを特徴とする請求項24に記載の装置。 - 前記装置はサーバに配置され、
前記取得モジュールは、音声インタラクション端末から送信された前記オーディオ信号を受信することに用いられる、
ことを特徴とする請求項24~27のいずれかに記載の装置。 - 電子機器であって、
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能なコマンドが記憶され、前記コマンドは、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサが請求項1~9のいずれかに記載の音声インタラクション制御方法を実行できる、
電子機器。 - 電子機器であって、
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能なコマンドが記憶され、前記コマンドは、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサが請求項10~14のいずれかに記載の音声インタラクション制御方法を実行できる、
電子機器。 - コンピュータコマンドが記憶された非一時的なコンピュータ読み取り可能な記憶媒体であって、
前記コンピュータコマンドは請求項1~14のいずれかに記載の音声インタラクション制御方法を前記コンピュータに実行させることに用いられる、
非一時的なコンピュータ読み取り可能な記憶媒体。 - 音声インタラクション制御システムであって、
音声インタラクション端末及びサーバを含み、
前記音声インタラクション端末は、オーディオ信号を収集し、前記オーディオ信号におけるウェイクワードを検出し、検出されたウェイクワードの結果に基づいてウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信する及び/または提示音を再生し、前記サーバから返された音声コマンド及び/または提示音再生コマンドを受信して実行することに用いられ、
前記サーバは、前記音声インタラクション端末から送信されたオーディオ信号を受信し、受信された前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出して、ウェイクワードの結果と音声コマンドの結果を取得しウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて前記音声インタラクション端末に前記音声コマンド及び/または前記提示音再生コマンドを発行することに用いられる、
音声インタラクション制御システム。 - 前記ウェイクワードの結果は第1の信頼度を含み、前記第1の信頼度は、ターゲットウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
前記音声インタラクション端末は、検出されたウェイクワードの結果に基づいてウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信するとき、具体的には、前記第1の信頼度が第1の信頼度閾値要件を満たす場合、ターゲットウェイクワードに対応するオーディオ信号及び後続のオーディオ信号を前記サーバに送信することに用いられ、
前記音声インタラクション端末は、検出されたウェイクワードの結果に基づいて提示音を再生するとき、具体的には、前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生することに用いられる、
ことを特徴とする請求項32に記載のシステム。 - 前記音声インタラクション端末は、前記サーバから返された音声コマンドを実行するときまたはその前に、前記提示音を再生しないことに用いられる、
ことを特徴とする請求項32または33に記載のシステム。 - 前記ウェイクワードの結果は第2の信頼度を含み、前記第2の信頼度は、通常のウェイクワードを含む前記オーディオ信号の確実度を表現することに用いられ、
前記音声インタラクション端末は、検出されたウェイクワードの結果に基づいて提示音を再生するとき、具体的には、前記第2の信頼度が第2の信頼度閾値要件を満たし、かつ前記第1の信頼度が前記第1の信頼度閾値要件を満たさない場合、前記提示音を再生することに用いられる、
ことを特徴とする請求項33に記載のシステム。 - 前記通常のウェイクワードは少なくとも1つの前記ターゲットウェイクワードを含み、
前記音声インタラクション端末は、前記オーディオ信号におけるウェイクワードを検出するとき、具体的には、
ウェイクワード検出モデルを使用して前記オーディオ信号におけるターゲットウェイクワードを初期検出し、初期検出結果を得、
前記初期検出した後の設定期間内において前記ターゲットウェイクワードを再検出し、再検出結果を得、
前記初期検出結果と前記再検出結果に基づいて前記第1の信頼度と前記第2の信頼度を決定することに用いられる、
ことを特徴とする請求項35に記載のシステム。 - 前記音声コマンドは、前記オーディオ信号における前記ウェイクワードに続く部分を検出することによって得られる、
ことを特徴とする請求項32または33に記載のシステム。 - 前記ターゲットウェイクワードは4つ未満の音節を有する単語であり、
前記通常のウェイクワードは4つ以上の音節を有する単語である、
ことを特徴とする請求項33、35または36に記載のシステム。 - 前記ターゲットウェイクワードと前記通常のウェイクワードは音節数が同じである、
ことを特徴とする請求項33、35または36に記載のシステム。 - 前記ウェイクワードの結果は第3の信頼度を含み、前記第3の信頼度はターゲットウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
前記サーバは、ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて前記音声インタラクション端末に前記音声コマンド及び/または前記提示音再生コマンドを発行するとき、具体的には、
前記第3の信頼度が第3の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声インタラクション端末に前記音声コマンドを発行し、
前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記音声インタラクション端末に提示音再生コマンドを発行することに用いられる、
ことを特徴とする請求項32に記載のシステム。 - 前記ウェイクワードの結果は第4の信頼度を含み、前記第4の信頼度は通常のウェイクワードを含む前記オーディオ信号の先頭の確実度を表現することに用いられ、
前記サーバは、ウェイクワードの結果と音声コマンドの結果のうちの少なくとも一つに基づいて前記音声インタラクション端末に前記音声コマンド及び/または前記提示音再生コマンドを発行するとき、具体的には、
前記第4の信頼度が第4の信頼度閾値要件を満たす場合、前記音声コマンドの結果に基づいて前記音声インタラクション端末に前記音声コマンド及び/または前記提示音再生コマンドを発行し、
前記第4の信頼度が前記第4の信頼度閾値要件に満たずかつ前記第3の信頼度が前記第3の信頼度閾値要件を満たさない場合、前記音声インタラクション端末にヌルコマンドを発行することに用いられる、
ことを特徴とする請求項40に記載のシステム。 - 前記サーバは、受信された前記オーディオ信号の先頭にあるウェイクワード、及び前記ウェイクワードに続く音声コマンドを検出するとき、具体的には、
前記オーディオ信号の認識テキストの先頭に対してウェイクワード検出を行い、首部のウェイクワードの検出結果を取得し、
前記オーディオ信号の音響特徴表現と前記オーディオ信号の認識テキストに関連付けられたテキスト特徴表現のうちの少なくとも一つに基づいて、前記オーディオ信号のインタラクション信頼度を決定し、前記インタラクション信頼度は、前記端末とのインタラクションに使用される音声コマンドとしての前記オーディオ信号の信頼性を示し、
前記認識テキストと前記オーディオ信号とのマッチングステータスを決定し、前記マッチングステータスは前記認識テキストが前記オーディオ信号に含まれる情報を正しく反映している度合いを示し、
前記インタラクション信頼度、前記マッチングステータス及び首部のウェイクワードの検出結果に基づいて前記ウェイクワードの結果と前記音声コマンドの結果を得ることに用いられる、
ことを特徴とする請求項32に記載のシステム。 - コンピュータ上に実行される場合、前記コンピュータに請求項1~14のいずれかに記載の音声インタラクション制御方法を実行させる、
コンピュータプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010622594.5 | 2020-06-30 | ||
CN202010622594.5A CN111768783B (zh) | 2020-06-30 | 2020-06-30 | 语音交互控制方法、装置、电子设备、存储介质和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022013610A true JP2022013610A (ja) | 2022-01-18 |
JP7328265B2 JP7328265B2 (ja) | 2023-08-16 |
Family
ID=72723342
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021002323A Active JP7328265B2 (ja) | 2020-06-30 | 2021-01-08 | 音声インタラクション制御方法、装置、電子機器、記憶媒体及びシステム |
Country Status (5)
Country | Link |
---|---|
US (2) | US11615784B2 (ja) |
EP (1) | EP3933831A1 (ja) |
JP (1) | JP7328265B2 (ja) |
KR (1) | KR20210088467A (ja) |
CN (1) | CN111768783B (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11756531B1 (en) * | 2020-12-18 | 2023-09-12 | Vivint, Inc. | Techniques for audio detection at a control system |
US20220293109A1 (en) * | 2021-03-11 | 2022-09-15 | Google Llc | Device arbitration for local execution of automatic speech recognition |
CN113010216B (zh) * | 2021-03-12 | 2021-10-08 | 深圳市超维实业有限公司 | 一种基于吸顶灯唤醒事件的管理方法 |
CN113488053A (zh) * | 2021-08-10 | 2021-10-08 | 合肥美菱物联科技有限公司 | 一种茶吧机的语音模块唤醒控制方法 |
CN113674732B (zh) * | 2021-08-16 | 2022-05-17 | 北京百度网讯科技有限公司 | 语音置信度检测方法、装置、电子设备和存储介质 |
CN114979781A (zh) * | 2022-04-22 | 2022-08-30 | 海信视像科技股份有限公司 | 显示设备、设备控制方法及可读存储介质 |
CN114974308A (zh) * | 2022-06-20 | 2022-08-30 | 宁波奥克斯电气股份有限公司 | 一种语音模块自动测试方法及系统 |
CN117334198B (zh) * | 2023-09-14 | 2024-04-30 | 中关村科学城城市大脑股份有限公司 | 语音信号处理方法、装置、电子设备和计算机可读介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019026313A1 (ja) * | 2017-08-02 | 2019-02-07 | パナソニックIpマネジメント株式会社 | 情報処理装置、音声認識システム、及び、情報処理方法 |
US20200013407A1 (en) * | 2019-05-21 | 2020-01-09 | Lg Electronics Inc. | Method and apparatus for recognizing a voice |
JP2020502555A (ja) * | 2016-10-19 | 2020-01-23 | ソノズ インコーポレイテッド | アービトレーションに基づく音声認識 |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10332508B1 (en) * | 2016-03-31 | 2019-06-25 | Amazon Technologies, Inc. | Confidence checking for speech processing and query answering |
US10276161B2 (en) * | 2016-12-27 | 2019-04-30 | Google Llc | Contextual hotwords |
US11164570B2 (en) * | 2017-01-17 | 2021-11-02 | Ford Global Technologies, Llc | Voice assistant tracking and activation |
CN107134279B (zh) * | 2017-06-30 | 2020-06-19 | 百度在线网络技术(北京)有限公司 | 一种语音唤醒方法、装置、终端和存储介质 |
US10510340B1 (en) * | 2017-12-05 | 2019-12-17 | Amazon Technologies, Inc. | Dynamic wakeword detection |
CN108538293B (zh) * | 2018-04-27 | 2021-05-28 | 海信视像科技股份有限公司 | 语音唤醒方法、装置及智能设备 |
CN109215647A (zh) * | 2018-08-30 | 2019-01-15 | 出门问问信息科技有限公司 | 语音唤醒方法、电子设备及非暂态计算机可读存储介质 |
US11100923B2 (en) | 2018-09-28 | 2021-08-24 | Sonos, Inc. | Systems and methods for selective wake word detection using neural network models |
CN109545207A (zh) * | 2018-11-16 | 2019-03-29 | 广东小天才科技有限公司 | 一种语音唤醒方法及装置 |
US10861446B2 (en) * | 2018-12-10 | 2020-12-08 | Amazon Technologies, Inc. | Generating input alternatives |
CN109360567B (zh) * | 2018-12-12 | 2021-07-20 | 思必驰科技股份有限公司 | 可定制唤醒的方法和装置 |
CN109584878A (zh) * | 2019-01-14 | 2019-04-05 | 广东小天才科技有限公司 | 一种语音唤醒方法及系统 |
CN109754788B (zh) * | 2019-01-31 | 2020-08-28 | 百度在线网络技术(北京)有限公司 | 一种语音控制方法、装置、设备及存储介质 |
US11361756B2 (en) * | 2019-06-12 | 2022-06-14 | Sonos, Inc. | Conditional wake word eventing based on environment |
CN110534102B (zh) * | 2019-09-19 | 2020-10-30 | 北京声智科技有限公司 | 一种语音唤醒方法、装置、设备及介质 |
CN110570861B (zh) * | 2019-09-24 | 2022-02-25 | Oppo广东移动通信有限公司 | 用于语音唤醒的方法、装置、终端设备及可读存储介质 |
CN110718212A (zh) * | 2019-10-12 | 2020-01-21 | 出门问问信息科技有限公司 | 语音唤醒方法、装置及系统、终端和计算机可读存储介质 |
CN110718223B (zh) * | 2019-10-28 | 2021-02-12 | 百度在线网络技术(北京)有限公司 | 用于语音交互控制的方法、装置、设备和介质 |
-
2020
- 2020-06-30 CN CN202010622594.5A patent/CN111768783B/zh active Active
- 2020-12-11 US US17/118,869 patent/US11615784B2/en active Active
-
2021
- 2021-01-05 EP EP21150163.0A patent/EP3933831A1/en active Pending
- 2021-01-08 JP JP2021002323A patent/JP7328265B2/ja active Active
- 2021-01-26 US US17/158,726 patent/US11823662B2/en active Active
- 2021-06-25 KR KR1020210083352A patent/KR20210088467A/ko not_active Application Discontinuation
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020502555A (ja) * | 2016-10-19 | 2020-01-23 | ソノズ インコーポレイテッド | アービトレーションに基づく音声認識 |
WO2019026313A1 (ja) * | 2017-08-02 | 2019-02-07 | パナソニックIpマネジメント株式会社 | 情報処理装置、音声認識システム、及び、情報処理方法 |
US20200013407A1 (en) * | 2019-05-21 | 2020-01-09 | Lg Electronics Inc. | Method and apparatus for recognizing a voice |
Also Published As
Publication number | Publication date |
---|---|
US20210407494A1 (en) | 2021-12-30 |
CN111768783B (zh) | 2024-04-02 |
KR20210088467A (ko) | 2021-07-14 |
CN111768783A (zh) | 2020-10-13 |
US11615784B2 (en) | 2023-03-28 |
US20210407496A1 (en) | 2021-12-30 |
EP3933831A1 (en) | 2022-01-05 |
JP7328265B2 (ja) | 2023-08-16 |
US11823662B2 (en) | 2023-11-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7328265B2 (ja) | 音声インタラクション制御方法、装置、電子機器、記憶媒体及びシステム | |
US20230267921A1 (en) | Systems and methods for determining whether to trigger a voice capable device based on speaking cadence | |
JP6325626B2 (ja) | ハイブリッド性能スケーリングまたは音声認識 | |
KR102371313B1 (ko) | 사용자 발화를 처리하는 전자 장치 및 그 전자 장치의 제어 방법 | |
CN112466302B (zh) | 语音交互的方法、装置、电子设备和存储介质 | |
KR101986354B1 (ko) | 키워드 오인식을 방지하는 음성 제어 장치 및 이의 동작 방법 | |
KR102413616B1 (ko) | 온-디바이스 음성 인식 모델 트레이닝을 위한 텍스트 세그먼트의 온-디바이스 음성 합성 | |
CN114041283A (zh) | 利用事件前和事件后输入流来接洽自动化助理 | |
WO2020024620A1 (zh) | 语音信息的处理方法以及装置、设备和存储介质 | |
EP3966809B1 (en) | Wake word selection assistance architectures and methods | |
US20140304606A1 (en) | Information processing apparatus, information processing method and computer program | |
US20140303975A1 (en) | Information processing apparatus, information processing method and computer program | |
JP7063937B2 (ja) | 音声対話するための方法、装置、電子デバイス、コンピュータ読み取り可能な記憶媒体、及びコンピュータプログラム | |
CN108055617B (zh) | 一种麦克风的唤醒方法、装置、终端设备及存储介质 | |
US20200219487A1 (en) | Information processing apparatus and information processing method | |
KR20190096308A (ko) | 전자기기 | |
KR20200099380A (ko) | 음성 인식 서비스를 제공하는 방법 및 그 전자 장치 | |
KR20230005966A (ko) | 거의 일치하는 핫워드 또는 구문 검출 | |
CN113611316A (zh) | 人机交互方法、装置、设备以及存储介质 | |
KR102061206B1 (ko) | 키워드 오인식을 방지하는 음성 제어 장치 및 이의 동작 방법 | |
US20230215422A1 (en) | Multimodal intent understanding for automated assistant | |
US11501762B2 (en) | Compounding corrective actions and learning in mixed mode dictation | |
CN118339609A (zh) | 自动化助理装置之间的暖词仲裁 | |
CN115148188A (zh) | 语种识别方法、装置、电子设备和介质 | |
KR20200092763A (ko) | 사용자 음성을 처리하는 전자장치 및 그 제어 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220516 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220830 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221130 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230404 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230704 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230725 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230803 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7328265 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |