RU2017124103A - Совершение задачи без монитора в цифровом персональном помощнике - Google Patents

Совершение задачи без монитора в цифровом персональном помощнике Download PDF

Info

Publication number
RU2017124103A
RU2017124103A RU2017124103A RU2017124103A RU2017124103A RU 2017124103 A RU2017124103 A RU 2017124103A RU 2017124103 A RU2017124103 A RU 2017124103A RU 2017124103 A RU2017124103 A RU 2017124103A RU 2017124103 A RU2017124103 A RU 2017124103A
Authority
RU
Russia
Prior art keywords
voice
task
user
party application
computing device
Prior art date
Application number
RU2017124103A
Other languages
English (en)
Other versions
RU2710984C2 (ru
RU2017124103A3 (ru
Inventor
Вишвак Сена КАННАН
Александар УЗЕЛАК
Дэниел Дж. ХВАНГ
Роберт Л. ЧАМБЕРС
Томас СОЭМО
Адина Магдалена ТРУФИНЕСКУ
Кхурам ШАХИД
Али ЭМАМИ
Original Assignee
МАЙКРОСОФТ ТЕКНОЛОДЖИ ЛАЙСЕНСИНГ, ЭлЭлСи
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by МАЙКРОСОФТ ТЕКНОЛОДЖИ ЛАЙСЕНСИНГ, ЭлЭлСи filed Critical МАЙКРОСОФТ ТЕКНОЛОДЖИ ЛАЙСЕНСИНГ, ЭлЭлСи
Publication of RU2017124103A publication Critical patent/RU2017124103A/ru
Publication of RU2017124103A3 publication Critical patent/RU2017124103A3/ru
Application granted granted Critical
Publication of RU2710984C2 publication Critical patent/RU2710984C2/ru

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • G06F9/453Help systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/162Interface to dedicated audio devices, e.g. audio drivers, interface to CODECs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/1822Parsing for meaning understanding
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • User Interface Of Digital Computer (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Machine Translation (AREA)
  • Document Processing Apparatus (AREA)
  • Collating Specific Patterns (AREA)

Claims (40)

1. Вычислительное устройство, содержащее
блок обработки данных;
память; и
один или более микрофонов;
при этом вычислительное устройство оснащено цифровым персональным помощником с речевым управлением, причем операции содержат:
прием речевого ввода, сгенерированного пользователем, через один или более микрофонов;
выполнение распознавания речи, используя речевой ввод, чтобы выявить произносимую команду, при этом произносимая команда содержит запрос на выполнение задачи стороннего приложения, и при этом задача идентифицируется с использованием структуры данных, которая определяет задачи сторонних приложений, являющихся активируемыми произносимой командой;
установление того, является ли задача стороннего приложения приспособленной для исполнения без монитора;
предписание стороннему приложению исполняться в качестве фонового процесса, чтобы исполнять без монитора задачу, когда установлено, что задача стороннего приложения приспособлена для исполнения без монитора;
прием от стороннего приложения ответа, указывающего состояние, ассоциированное с задачей;
предоставление, посредством пользовательского интерфейса цифрового персонального помощника с речевым управлением, ответа пользователю на основе принятого состояния, ассоциированного с задачей, так что ответ происходит в контексте пользовательского интерфейса цифрового персонального помощника с речевым управлением без демонстрации пользовательского интерфейса стороннего приложения.
2. Вычислительное устройство по п. 1, в котором установление того, что задача стороннего приложения приспособлена для исполнения без монитора, содержит установление того, что структура данных определяет задачу в качестве фоновой задачи.
3. Вычислительное устройство по п. 1, в котором установление того, что задача стороннего приложения приспособлена для исполнения без монитора, содержит установление того, что пользователь использует вычислительное устройство в режиме «свободные руки».
4. Вычислительное устройство по п. 1, в котором операции дополнительно содержат инициирование последовательности прогрева стороннего приложения при выполнении распознавания речи и перед завершением выявления произносимой команды.
5. Вычислительное устройство по п. 4, в котором последовательность прогрева включает в себя выделение участка памяти, упреждающую выборку инструкций, создание сеанса связи, извлечение информации из базы данных, пуск нового потока исполнения или выдачу прерывания.
6. Вычислительное устройство по п. 1, в котором структура данных, которая определяет задачи стороннего приложения, которые являются активируемыми произносимой командой, включает в себя соотнесение состояний, ассоциированных с задачами, с ответами пользователя.
7. Вычислительное устройство по п. 1, в котором операции дополнительно содержат
пуск таймера, когда стороннему приложению предписывается исполняться в качестве фонового процесса; и
прекращение фонового процесса, если таймер истекает.
8. Вычислительное устройство по п. 1, в котором ответ от стороннего приложения указывает состояние подтверждения, и ответ пользователю на основе состояния подтверждения приглашает пользователя ответить с помощью ответа да или нет.
9. Способ, реализуемый посредством вычислительного устройства, содержащего микрофон, при этом способ содержит этапы, на которых:
принимают, посредством цифрового персонального помощника с голосовым управлением, цифровой голосовой ввод, сгенерированный пользователем, при этом цифровой голосовой ввод принимается через микрофон;
выполняют обработку естественного языка, используя цифровой голосовой ввод, чтобы выявить голосовую команду пользователя, при этом голосовая команда пользователя содержит запрос на выполнение предварительно определенной функции стороннего приложения с голосовой поддержкой, и при этом предварительно определенная функция идентифицируется с использованием структуры данных, которая определяет функции, поддерживаемые доступными сторонними приложениями с голосовой поддержкой, используя голосовой ввод;
предписывают стороннему приложению с голосовой поддержкой исполнить предварительно определенную функцию в качестве фонового процесса, без появления пользовательского интерфейса стороннего приложения с голосовой поддержкой на дисплее вычислительного устройства;
принимают от стороннего приложения с голосовой поддержкой ответ, включающий в себя состояние, ассоциированное с предварительно определенной функцией; и
предоставляют, посредством пользовательского интерфейса цифрового персонального помощника с голосовым управлением, ответ пользователю на основе принятого состояния, ассоциированного с предварительно определенной функцией, так что ответ происходит в контексте пользовательского интерфейса цифрового персонального помощника с голосовым управлением без демонстрации пользовательского интерфейса стороннего приложения с голосовой поддержкой.
10. Способ по п. 9, дополнительно содержащий этап, на котором инициируют последовательность прогрева стороннего приложения с голосовой поддержкой при выполнении обработки естественного языка и перед завершением выявления голосовой команды пользователя.
11. Способ по п. 10, в котором этап, на котором инициируют последовательность прогрева, содержит этап, на котором отправляют упреждающую функцию стороннему приложению с голосовой поддержкой.
12. Способ по п. 9, в котором структура данных является расширяемой через схему команды, используемую для связывания запросов от пользователя с предварительно определенными функциями одного или более сторонних приложений с голосовой поддержкой.
13. Способ по п. 9, в котором структура данных содержит
первое соотнесение голосовых команд с функциями, поддерживаемыми доступными сторонними приложениями с голосовой поддержкой; и
второе соотнесение состояний, принимаемых от функций, с ответами, предоставляемыми пользователю от цифрового персонального помощника с голосовым управлением.
14. Машиночитаемый носитель информации, хранящий исполняемые компьютером инструкции для предписания вычислительному устройству выполнять операции для совершения задачи приложения с голосовой поддержкой в контексте цифрового персонального помощника с голосовым управлением, причем операции содержат
прием, посредством цифрового персонального помощника с голосовым управлением, цифрового голосового ввода, сгенерированного пользователем, при этом цифровой голосовой ввод принимается через микрофон;
выполнение обработки естественного языка, используя цифровой голосовой ввод, чтобы выявить голосовую команду пользователя, при этом голосовая команда пользователя содержит запрос на выполнение задачи приложения с голосовой поддержкой, и при этом задача идентифицируется с использованием расширяемой структуры данных, которая соотносит голосовые команды пользователя с задачами приложений с голосовой поддержкой;
установление того, является ли задача приложения с голосовой поддержкой приоритетной задачей или фоновой задачей;
когда установлено, что задача является фоновой задачей, предписание приложению с голосовой поддержкой исполнять задачу в качестве фоновой задачи и в контексте цифрового персонального помощника с голосовым управлением без демонстрации пользовательского интерфейса приложения с голосовой поддержкой;
прием от приложения с голосовой поддержкой ответа, указывающего состояние, ассоциированное с задачей; и
предоставление ответа пользователю на основе принятого состояния, ассоциированного с задачей, причем ответ предоставляется в контексте цифрового персонального помощника с голосовым управлением без демонстрации пользовательского интерфейса приложения с голосовой поддержкой, когда установлено, что задача является фоновой задачей.
15. Машиночитаемый носитель информации по п. 14, в котором операции дополнительно содержат инициирование последовательности прогрева приложения с голосовой поддержкой при выполнении обработки естественного языка и перед завершением выявления голосовой команды пользователя.
RU2017124103A 2015-01-09 2015-12-29 Совершение задачи без монитора в цифровом персональном помощнике RU2710984C2 (ru)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/593,584 2015-01-09
US14/593,584 US9959129B2 (en) 2015-01-09 2015-01-09 Headless task completion within digital personal assistants
PCT/US2015/067759 WO2016111881A1 (en) 2015-01-09 2015-12-29 Headless task completion within digital personal assistants

Publications (3)

Publication Number Publication Date
RU2017124103A true RU2017124103A (ru) 2019-01-09
RU2017124103A3 RU2017124103A3 (ru) 2019-07-17
RU2710984C2 RU2710984C2 (ru) 2020-01-14

Family

ID=55305053

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2017124103A RU2710984C2 (ru) 2015-01-09 2015-12-29 Совершение задачи без монитора в цифровом персональном помощнике

Country Status (18)

Country Link
US (1) US9959129B2 (ru)
EP (2) EP3584787B1 (ru)
JP (1) JP6666920B2 (ru)
KR (1) KR102490776B1 (ru)
CN (1) CN107111516B (ru)
AU (1) AU2015375326B2 (ru)
BR (1) BR112017013524B1 (ru)
CA (2) CA2970725C (ru)
CL (1) CL2017001755A1 (ru)
CO (1) CO2017007028A2 (ru)
IL (1) IL252458B (ru)
MX (1) MX2017008926A (ru)
MY (1) MY186956A (ru)
NZ (2) NZ732357A (ru)
PH (1) PH12017550012A1 (ru)
RU (1) RU2710984C2 (ru)
SG (1) SG11201705282XA (ru)
WO (1) WO2016111881A1 (ru)

Families Citing this family (196)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10706373B2 (en) 2011-06-03 2020-07-07 Apple Inc. Performing actions associated with task items that represent tasks to perform
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US8682667B2 (en) 2010-02-25 2014-03-25 Apple Inc. User profiling for selecting user specific voice input processing information
US8688514B1 (en) 2011-06-24 2014-04-01 Google Inc. Ad selection using image data
US11087424B1 (en) 2011-06-24 2021-08-10 Google Llc Image recognition-based content item selection
US10972530B2 (en) * 2016-12-30 2021-04-06 Google Llc Audio-based data structure generation
US10630751B2 (en) 2016-12-30 2020-04-21 Google Llc Sequence dependent data message consolidation in a voice activated computer network environment
US10956485B2 (en) 2011-08-31 2021-03-23 Google Llc Retargeting in a search environment
US11093692B2 (en) 2011-11-14 2021-08-17 Google Llc Extracting audiovisual features from digital components
US10586127B1 (en) 2011-11-14 2020-03-10 Google Llc Extracting audiovisual features from content elements on online documents
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
CN113470641B (zh) 2013-02-07 2023-12-15 苹果公司 数字助理的语音触发器
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
US10748529B1 (en) 2013-03-15 2020-08-18 Apple Inc. Voice activated device for use with a voice-based digital assistant
US11030239B2 (en) 2013-05-31 2021-06-08 Google Llc Audio based entity-action pair based selection
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
KR101772152B1 (ko) 2013-06-09 2017-08-28 애플 인크. 디지털 어시스턴트의 둘 이상의 인스턴스들에 걸친 대화 지속성을 가능하게 하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스
CN105453026A (zh) 2013-08-06 2016-03-30 苹果公司 基于来自远程设备的活动自动激活智能响应
US9703757B2 (en) 2013-09-30 2017-07-11 Google Inc. Automatically determining a size for a content item for a web page
US10614153B2 (en) 2013-09-30 2020-04-07 Google Llc Resource size-based content item selection
US10431209B2 (en) 2016-12-30 2019-10-01 Google Llc Feedback controller for data transmissions
US10296160B2 (en) 2013-12-06 2019-05-21 Apple Inc. Method for extracting salient dialog usage from live data
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
WO2015184186A1 (en) 2014-05-30 2015-12-03 Apple Inc. Multi-command single utterance input method
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9898170B2 (en) 2014-12-10 2018-02-20 International Business Machines Corporation Establishing user specified interaction modes in a question answering dialogue
US11127055B1 (en) * 2015-02-27 2021-09-21 State Farm Mutual Automobile Insurance Company System and method for navigating an automated process using audio and tactile feedback
US10152299B2 (en) 2015-03-06 2018-12-11 Apple Inc. Reducing response latency of intelligent automated assistants
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US10460227B2 (en) 2015-05-15 2019-10-29 Apple Inc. Virtual assistant in a communication session
US10200824B2 (en) 2015-05-27 2019-02-05 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US9578173B2 (en) 2015-06-05 2017-02-21 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US20160378747A1 (en) 2015-06-29 2016-12-29 Apple Inc. Virtual assistant for media playback
US10650067B2 (en) 2015-08-13 2020-05-12 Samsung Electronics Co., Ltd. Cloud-enabled architecture for on-demand native application crawling
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10740384B2 (en) 2015-09-08 2020-08-11 Apple Inc. Intelligent automated assistant for media search and playback
US10331312B2 (en) 2015-09-08 2019-06-25 Apple Inc. Intelligent automated assistant in a media environment
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10956666B2 (en) 2015-11-09 2021-03-23 Apple Inc. Unconventional virtual assistant interactions
KR20170072652A (ko) * 2015-12-17 2017-06-27 삼성전자주식회사 디스플레이 장치 및 디스플레이 방법
US10079021B1 (en) * 2015-12-18 2018-09-18 Amazon Technologies, Inc. Low latency audio interface
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10120954B2 (en) 2015-12-31 2018-11-06 Samsung Electronics Co., Ltd. Transformation and presentation of on-demand native application crawling results
US10229677B2 (en) * 2016-04-19 2019-03-12 International Business Machines Corporation Smart launching mobile applications with preferred user interface (UI) languages
US10783178B2 (en) 2016-05-17 2020-09-22 Google Llc Generating a personal database entry for a user based on natural language user interface input of the user and generating output based on the entry in response to further natural language user interface input of the user
US11227589B2 (en) 2016-06-06 2022-01-18 Apple Inc. Intelligent list reading
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
US11093834B2 (en) * 2016-07-06 2021-08-17 Palo Alto Research Center Incorporated Computer-implemented system and method for predicting activity outcome based on user attention
US10474753B2 (en) 2016-09-07 2019-11-12 Apple Inc. Language identification using recurrent neural networks
US10395652B2 (en) * 2016-09-20 2019-08-27 Allstate Insurance Company Personal information assistant computing system
US11204787B2 (en) * 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
US10467509B2 (en) 2017-02-14 2019-11-05 Microsoft Technology Licensing, Llc Computationally-efficient human-identifying smart assistant computer
US11010601B2 (en) 2017-02-14 2021-05-18 Microsoft Technology Licensing, Llc Intelligent assistant device communicating non-verbal cues
US11100384B2 (en) 2017-02-14 2021-08-24 Microsoft Technology Licensing, Llc Intelligent device user interactions
US10574825B2 (en) * 2017-02-15 2020-02-25 Microsoft Technology Licensing, Llc Assisted-communication with intelligent personal assistant
US11323665B2 (en) * 2017-03-31 2022-05-03 Ecolink Intelligent Technology, Inc. Method and apparatus for interaction with an intelligent personal assistant
KR102339819B1 (ko) * 2017-04-05 2021-12-15 삼성전자주식회사 프레임워크를 이용한 자연어 표현 생성 방법 및 장치
US10726056B2 (en) * 2017-04-10 2020-07-28 Sap Se Speech-based database access
US11170768B2 (en) * 2017-04-17 2021-11-09 Samsung Electronics Co., Ltd Device for performing task corresponding to user utterance
KR102414122B1 (ko) * 2017-04-19 2022-06-29 삼성전자주식회사 사용자 발화를 처리하는 전자 장치 및 그 동작 방법
US20180316634A1 (en) * 2017-04-26 2018-11-01 Microsoft Technology Licensing, Llc Extending application functionality via conversational interfaces
KR102298947B1 (ko) 2017-04-28 2021-09-08 삼성전자주식회사 음성 데이터 처리 방법 및 이를 지원하는 전자 장치
KR102380717B1 (ko) * 2017-04-30 2022-03-31 삼성전자주식회사 사용자 발화를 처리하는 전자 장치 및 이 전자 장치의 제어 방법
DK201770383A1 (en) 2017-05-09 2018-12-14 Apple Inc. USER INTERFACE FOR CORRECTING RECOGNITION ERRORS
US10395654B2 (en) 2017-05-11 2019-08-27 Apple Inc. Text normalization based on a data-driven learning network
DK180048B1 (en) 2017-05-11 2020-02-04 Apple Inc. MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
US11301477B2 (en) 2017-05-12 2022-04-12 Apple Inc. Feedback analysis of a digital assistant
DK201770429A1 (en) 2017-05-12 2018-12-14 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
US11436417B2 (en) 2017-05-15 2022-09-06 Google Llc Providing access to user-controlled resources by automated assistants
US10127227B1 (en) * 2017-05-15 2018-11-13 Google Llc Providing access to user-controlled resources by automated assistants
DK201770411A1 (en) 2017-05-15 2018-12-20 Apple Inc. MULTI-MODAL INTERFACES
US20180336892A1 (en) 2017-05-16 2018-11-22 Apple Inc. Detecting a trigger of a digital assistant
US11048995B2 (en) * 2017-05-16 2021-06-29 Google Llc Delayed responses by computational assistant
DK179560B1 (en) 2017-05-16 2019-02-18 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
US10311144B2 (en) 2017-05-16 2019-06-04 Apple Inc. Emoji word sense disambiguation
US10303715B2 (en) 2017-05-16 2019-05-28 Apple Inc. Intelligent automated assistant for media exploration
US10679192B2 (en) 2017-05-25 2020-06-09 Microsoft Technology Licensing, Llc Assigning tasks and monitoring task performance based on context extracted from a shared contextual graph
US10769138B2 (en) 2017-06-13 2020-09-08 International Business Machines Corporation Processing context-based inquiries for knowledge retrieval
KR102365649B1 (ko) 2017-06-28 2022-02-22 삼성전자주식회사 화면 제어 방법 및 이를 지원하는 전자 장치
US10449440B2 (en) * 2017-06-30 2019-10-22 Electronic Arts Inc. Interactive voice-controlled companion application for a video game
US10366691B2 (en) * 2017-07-11 2019-07-30 Samsung Electronics Co., Ltd. System and method for voice command context
US11004444B2 (en) * 2017-09-08 2021-05-11 Amazon Technologies, Inc. Systems and methods for enhancing user experience by communicating transient errors
US10621317B1 (en) 2017-09-14 2020-04-14 Electronic Arts Inc. Audio-based device authentication system
US10423873B2 (en) * 2017-12-01 2019-09-24 International Business Machines Corporation Information flow analysis for conversational agents
US11113026B2 (en) * 2017-12-08 2021-09-07 Toonimo, Inc. System and method for voice-directed website walk-through
US10629192B1 (en) 2018-01-09 2020-04-21 Electronic Arts Inc. Intelligent personalized speech recognition
US20190213528A1 (en) * 2018-01-10 2019-07-11 Microsoft Technology Licensing, Llc Digital assistant task management
US10643632B2 (en) * 2018-01-12 2020-05-05 Wells Fargo Bank, N.A. Automated voice assistant personality selector
US11422848B2 (en) 2018-01-12 2022-08-23 Google Llc Systems, methods, and apparatuses for processing routine interruption requests
EP3742301A4 (en) * 2018-01-17 2020-11-25 Sony Corporation INFORMATION PROCESSING DEVICE AND INFORMATION PROCESSING PROCESS
US10592604B2 (en) 2018-03-12 2020-03-17 Apple Inc. Inverse text normalization for automatic speech recognition
KR102617265B1 (ko) * 2018-03-13 2023-12-26 삼성전자주식회사 사용자 음성 입력을 처리하는 장치
CN108521500A (zh) * 2018-03-13 2018-09-11 努比亚技术有限公司 一种语音场景控制方法、设备及计算机可读存储介质
US10818288B2 (en) 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
CN110321201A (zh) * 2018-03-29 2019-10-11 努比亚技术有限公司 一种后台程序处理方法、终端及计算机可读存储介质
BR102019007123A2 (pt) * 2018-04-16 2019-10-29 Panasonic Avionics Corp assistentes digitais e métodos associados para um veículo de transporte
US11307880B2 (en) 2018-04-20 2022-04-19 Meta Platforms, Inc. Assisting users with personalized and contextual communication content
US11886473B2 (en) 2018-04-20 2024-01-30 Meta Platforms, Inc. Intent identification for agent matching by assistant systems
US11715042B1 (en) 2018-04-20 2023-08-01 Meta Platforms Technologies, Llc Interpretability of deep reinforcement learning models in assistant systems
US10782986B2 (en) 2018-04-20 2020-09-22 Facebook, Inc. Assisting users with personalized and contextual communication content
US11676220B2 (en) 2018-04-20 2023-06-13 Meta Platforms, Inc. Processing multimodal user input for assistant systems
US10824432B2 (en) * 2018-04-30 2020-11-03 Servicenow, Inc. Systems and methods for providing multiple console sessions that enable line-by-line execution of scripts on a server application
US11087761B2 (en) 2018-05-07 2021-08-10 Google Llc Platform selection for performing requested actions in audio-based computing environments
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US11144278B2 (en) * 2018-05-07 2021-10-12 Google Llc Verifying operational statuses of agents interfacing with digital assistant applications
CN112997143B (zh) * 2018-05-07 2024-07-09 谷歌有限责任公司 提供用于控制连接设备的复合图形助理界面的方法、系统和装置
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
EP4361810A3 (en) * 2018-05-07 2024-07-03 Google Llc Platform selection for performing requested actions in audio-based computing environments
US11487501B2 (en) * 2018-05-16 2022-11-01 Snap Inc. Device control using audio data
KR20190136832A (ko) * 2018-05-31 2019-12-10 휴렛-팩커드 디벨롭먼트 컴퍼니, 엘.피. 음성 명령을 프린팅 서비스를 지원하는 텍스트 코드 블록들로 변환
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
DK179822B1 (da) 2018-06-01 2019-07-12 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
DK201870355A1 (en) * 2018-06-01 2019-12-16 Apple Inc. VIRTUAL ASSISTANT OPERATION IN MULTI-DEVICE ENVIRONMENTS
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
AU2019100576C4 (en) * 2018-06-03 2020-01-30 Apple Inc. Accelerated task performance
DK180091B1 (en) * 2018-06-03 2020-04-22 Apple Inc. ACCELERATED TASK PERFORMANCE
US10496705B1 (en) 2018-06-03 2019-12-03 Apple Inc. Accelerated task performance
CN112262381B (zh) 2018-08-07 2024-04-09 谷歌有限责任公司 汇编和评估对隐私问题的自动助理响应
EP3608906B1 (en) * 2018-08-07 2024-05-22 Samsung Electronics Co., Ltd. System for processing user voice utterance and method for operating same
KR102607666B1 (ko) * 2018-08-08 2023-11-29 삼성전자 주식회사 전자 장치에서 사용자 의도 확인을 위한 피드백 제공 방법 및 장치
US11010561B2 (en) 2018-09-27 2021-05-18 Apple Inc. Sentiment prediction from textual data
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
US11170166B2 (en) 2018-09-28 2021-11-09 Apple Inc. Neural typographical error modeling via generative adversarial networks
US10839159B2 (en) 2018-09-28 2020-11-17 Apple Inc. Named entity normalization in a spoken dialog system
US11205422B2 (en) 2018-10-02 2021-12-21 International Business Machines Corporation Methods and systems for managing chatbots with data access
US11475898B2 (en) 2018-10-26 2022-10-18 Apple Inc. Low-latency multi-speaker speech recognition
CN111465932B (zh) * 2018-11-21 2024-04-02 谷歌有限责任公司 将来自查询的响应整合到异构数据源
KR102701868B1 (ko) * 2018-12-03 2024-09-03 삼성전자주식회사 전자 장치 및 전자 장치의 제어 방법
US10878805B2 (en) * 2018-12-06 2020-12-29 Microsoft Technology Licensing, Llc Expediting interaction with a digital assistant by predicting user responses
US11238857B2 (en) * 2018-12-28 2022-02-01 Google Llc Supplementing voice inputs to an automated assistant according to selected suggestions
US11638059B2 (en) 2019-01-04 2023-04-25 Apple Inc. Content playback on multiple devices
US11380214B2 (en) * 2019-02-19 2022-07-05 International Business Machines Corporation Memory retention enhancement for electronic text
WO2020171809A1 (en) * 2019-02-20 2020-08-27 Google Llc Utilizing pre-event and post-event input streams to engage an automated assistant
JP7280066B2 (ja) * 2019-03-07 2023-05-23 本田技研工業株式会社 エージェント装置、エージェント装置の制御方法、およびプログラム
US11348573B2 (en) 2019-03-18 2022-05-31 Apple Inc. Multimodality in digital assistant systems
DK201970509A1 (en) 2019-05-06 2021-01-15 Apple Inc Spoken notifications
EP4435587A2 (en) * 2019-05-06 2024-09-25 Google Llc Rendering visual components on applications in response to voice commands
US11475884B2 (en) 2019-05-06 2022-10-18 Apple Inc. Reducing digital assistant latency when a language is incorrectly determined
US11307752B2 (en) 2019-05-06 2022-04-19 Apple Inc. User configurable task triggers
US11423908B2 (en) 2019-05-06 2022-08-23 Apple Inc. Interpreting spoken requests
US11140099B2 (en) 2019-05-21 2021-10-05 Apple Inc. Providing message response suggestions
US20220191162A1 (en) * 2019-05-28 2022-06-16 Telefonaktiebolaget Lm Ericsson (Publ) Network nodes and methods performed therein for handling messages
US11289073B2 (en) 2019-05-31 2022-03-29 Apple Inc. Device text to speech
DK180129B1 (en) 2019-05-31 2020-06-02 Apple Inc. USER ACTIVITY SHORTCUT SUGGESTIONS
US11496600B2 (en) 2019-05-31 2022-11-08 Apple Inc. Remote execution of machine-learned models
DK201970510A1 (en) 2019-05-31 2021-02-11 Apple Inc Voice identification in digital assistant systems
US11468890B2 (en) 2019-06-01 2022-10-11 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
US11360641B2 (en) 2019-06-01 2022-06-14 Apple Inc. Increasing the relevance of new available information
US20200388280A1 (en) * 2019-06-05 2020-12-10 Google Llc Action validation for digital assistant-based applications
WO2020246975A1 (en) * 2019-06-05 2020-12-10 Google Llc Action validation for digital assistant-based applications
US10926173B2 (en) 2019-06-10 2021-02-23 Electronic Arts Inc. Custom voice control of video game character
US10901689B1 (en) * 2019-07-11 2021-01-26 International Business Machines Corporation Dynamic augmented reality interface creation
EP4002087A4 (en) * 2019-07-19 2023-04-12 LG Electronics Inc. DISPLAY DEVICE AND ARTIFICIAL INTELLIGENCE SERVER CAPABLE OF CONTROLLING A HOME APPLIANCE VIA A USER'S VOICE
US11449308B2 (en) * 2019-07-19 2022-09-20 Google Llc Condensed spoken utterances for automated assistant control of an intricate application GUI
WO2021056255A1 (en) 2019-09-25 2021-04-01 Apple Inc. Text detection using global geometry estimators
US11567788B1 (en) 2019-10-18 2023-01-31 Meta Platforms, Inc. Generating proactive reminders for assistant systems
US11636438B1 (en) 2019-10-18 2023-04-25 Meta Platforms Technologies, Llc Generating smart reminders by assistant systems
US11574634B2 (en) 2019-11-27 2023-02-07 Google Llc Interfacing with applications via dynamically updating natural language processing
CN114600081B (zh) * 2019-11-27 2024-10-11 谷歌有限责任公司 经由动态更新自然语言处理与应用交互
CN111261156A (zh) * 2019-12-30 2020-06-09 北京梧桐车联科技有限责任公司 语音采集方法、装置及计算机可读存储介质
US11907298B2 (en) * 2020-02-04 2024-02-20 Intuition Robotics, Ltd. System and method thereof for automatically updating a decision-making model of an electronic social agent by actively collecting at least a user response
US11782986B2 (en) 2020-03-27 2023-10-10 Trushant Mehta Interactive query based network communication through a media device
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US11183193B1 (en) 2020-05-11 2021-11-23 Apple Inc. Digital assistant hardware abstraction
US11755276B2 (en) 2020-05-12 2023-09-12 Apple Inc. Reducing description length based on confidence
US11556707B2 (en) 2020-06-18 2023-01-17 Google Llc Fulfillment of actionable requests ahead of a user selecting a particular autocomplete suggestion for completing a current user input
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones
US11587568B2 (en) 2020-12-08 2023-02-21 Google Llc Streaming action fulfillment based on partial hypotheses
CN112698872A (zh) * 2020-12-21 2021-04-23 北京百度网讯科技有限公司 语音数据处理的方法、装置、设备及存储介质
US11947783B2 (en) * 2021-01-25 2024-04-02 Google Llc Undoing application operation(s) via user interaction(s) with an automated assistant
US11978449B2 (en) 2021-03-02 2024-05-07 Samsung Electronics Co., Ltd. Electronic device for processing user utterance and operation method therefor
US20220293128A1 (en) * 2021-03-10 2022-09-15 Comcast Cable Communications, Llc Systems and methods for improved speech and command detection
US20220366338A1 (en) * 2021-05-13 2022-11-17 At&T Intellectual Property I, L.P. Contextual presentation of multiple steps in performing a task
US20220366905A1 (en) * 2021-05-17 2022-11-17 Google Llc Enabling natural conversations for an automated assistant
WO2022245339A1 (en) * 2021-05-18 2022-11-24 Google Llc Indexing application actions for voice-based execution
US12021806B1 (en) 2021-09-21 2024-06-25 Apple Inc. Intelligent message delivery
US20230297484A1 (en) * 2022-03-17 2023-09-21 International Business Machines Corporation Predicting target applications

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3725566B2 (ja) * 1992-12-28 2005-12-14 株式会社東芝 音声認識インターフェース
US6791529B2 (en) * 2001-12-13 2004-09-14 Koninklijke Philips Electronics N.V. UI with graphics-assisted voice control system
US7003464B2 (en) * 2003-01-09 2006-02-21 Motorola, Inc. Dialog recognition and control in a voice browser
DE102005016853A1 (de) * 2005-04-12 2006-10-19 Siemens Ag Verfahren zur Kontrolle von sprachgesteuerten Applikationen und zugehöriges Kontrollsystem
EP2177010B1 (en) * 2006-12-13 2015-10-28 Quickplay Media Inc. Mobile media platform
US8595642B1 (en) 2007-10-04 2013-11-26 Great Northern Research, LLC Multiple shell multi faceted graphical user interface
WO2011076989A1 (en) * 2009-12-25 2011-06-30 Nokia Corporation Method and apparatus for persistent display of navigation content
US20120209413A1 (en) 2011-02-14 2012-08-16 Microsoft Corporation Background Audio on Mobile Devices
US9063629B2 (en) * 2011-10-31 2015-06-23 Nokia Technologies Oy Responding to a received message in a locked user interaction mode
CN102510426A (zh) 2011-11-29 2012-06-20 安徽科大讯飞信息科技股份有限公司 个人助理应用访问方法及系统
US9052197B2 (en) 2012-06-05 2015-06-09 Apple Inc. Providing navigation instructions while device is in locked mode
CN103593230B (zh) 2012-08-13 2017-05-10 百度在线网络技术(北京)有限公司 移动终端的后台任务控制方法及移动终端
US10276157B2 (en) * 2012-10-01 2019-04-30 Nuance Communications, Inc. Systems and methods for providing a voice agent user interface
US9384732B2 (en) 2013-03-14 2016-07-05 Microsoft Technology Licensing, Llc Voice command definitions used in launching application with a command
US9658740B2 (en) * 2013-03-15 2017-05-23 Apple Inc. Device, method, and graphical user interface for managing concurrently open software applications
KR101505127B1 (ko) * 2013-03-15 2015-03-26 주식회사 팬택 음성 명령에 의한 오브젝트 실행 장치 및 방법
US9386152B2 (en) * 2013-03-15 2016-07-05 Genesys Telecommunications Laboratories, Inc. Intelligent automated agent and interactive voice response for a contact center
CN103257787B (zh) 2013-05-16 2016-07-13 小米科技有限责任公司 一种语音助手应用的开启方法和装置
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US9749209B2 (en) * 2013-11-01 2017-08-29 The Nielsen Company (Us), Llc Methods and apparatus to credit background applications
US9741343B1 (en) * 2013-12-19 2017-08-22 Amazon Technologies, Inc. Voice interaction application selection

Also Published As

Publication number Publication date
AU2015375326B2 (en) 2020-08-27
WO2016111881A1 (en) 2016-07-14
IL252458A0 (en) 2017-07-31
CO2017007028A2 (es) 2017-09-29
RU2710984C2 (ru) 2020-01-14
BR112017013524A2 (pt) 2018-01-02
EP3243199A1 (en) 2017-11-15
US20160203002A1 (en) 2016-07-14
CL2017001755A1 (es) 2018-02-16
PH12017550012A1 (en) 2017-10-18
BR112017013524B1 (pt) 2023-03-07
AU2015375326A1 (en) 2017-06-15
NZ732357A (en) 2022-10-28
JP6666920B2 (ja) 2020-03-18
KR102490776B1 (ko) 2023-01-19
KR20170103801A (ko) 2017-09-13
IL252458B (en) 2019-11-28
NZ770836A (en) 2022-10-28
MX2017008926A (es) 2017-10-11
EP3584787A1 (en) 2019-12-25
CA3158979A1 (en) 2016-07-14
US9959129B2 (en) 2018-05-01
SG11201705282XA (en) 2017-07-28
CA2970725C (en) 2023-05-23
MY186956A (en) 2021-08-26
EP3584787B1 (en) 2022-02-23
CA3158979C (en) 2024-06-04
CN107111516A (zh) 2017-08-29
RU2017124103A3 (ru) 2019-07-17
CA2970725A1 (en) 2016-07-14
JP2018511095A (ja) 2018-04-19
EP3243199B1 (en) 2019-06-19
CN107111516B (zh) 2021-07-30

Similar Documents

Publication Publication Date Title
RU2017124103A (ru) Совершение задачи без монитора в цифровом персональном помощнике
JP2018511095A5 (ru)
US10838765B2 (en) Task execution method for voice input and electronic device supporting the same
EP3605315B1 (en) Electronic device for processing user speech and operating method therefor
TWI644307B (zh) 用於操作一虛擬助理之方法,電腦可讀儲存媒體,及系統
US9640183B2 (en) Speech recognition using electronic device and server
TWI603258B (zh) 用於隨時聽取語音觸發之動態臨限值
JP7313378B2 (ja) ルーチンの実行中のクライアントデバイス同士の間の自動アシスタントルーチンの転送
KR101295711B1 (ko) 음성 인식으로 애플리케이션의 실행 가능한 이동통신 단말 장치 및 방법
US20130085753A1 (en) Hybrid Client/Server Speech Recognition In A Mobile Device
US10355931B2 (en) Troubleshooting voice-enabled home setup
RU2017121803A (ru) Масштабирование агентов цифровых персональных помощников по устройствам
JP2013142903A5 (ru)
US20150304480A1 (en) Terminal and operation method for controlling terminal
JP2015018238A5 (ru)
US11062708B2 (en) Method and apparatus for dialoguing based on a mood of a user
EP3157003A1 (en) Terminal control method and device, voice control device and terminal
WO2016201767A1 (zh) 一种语音控制方法、装置及计算机存储介质
KR102501083B1 (ko) 음성 인식 방법 및 이를 사용하는 전자 장치
CN112313606B (zh) 为自动助理扩展物理运动手势词典
US11178280B2 (en) Input during conversational session
US11024314B2 (en) Method and apparatus for acquiring and processing an operation instruction
TW201512987A (zh) 應用程式的啓動控制方法與裝置及電腦可讀取儲存介質
WO2016082344A1 (zh) 一种语音控制的方法、装置及存储介质
KR20190113130A (ko) 사용자 음성 입력을 처리하는 장치