KR20200039030A - 디지털 어시스턴트 서비스의 원거리 확장 - Google Patents
디지털 어시스턴트 서비스의 원거리 확장 Download PDFInfo
- Publication number
- KR20200039030A KR20200039030A KR1020207010065A KR20207010065A KR20200039030A KR 20200039030 A KR20200039030 A KR 20200039030A KR 1020207010065 A KR1020207010065 A KR 1020207010065A KR 20207010065 A KR20207010065 A KR 20207010065A KR 20200039030 A KR20200039030 A KR 20200039030A
- Authority
- KR
- South Korea
- Prior art keywords
- user
- electronic device
- digital assistant
- notification
- devices
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/20—Speech recognition techniques specially adapted for robustness in adverse environments, e.g. in noise, of stress induced speech
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification
- G10L17/22—Interactive procedures; Man-machine interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
- G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/16—Speech classification or search using artificial neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/28—Constructional details of speech recognition systems
- G10L15/30—Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/18—Speech classification or search using natural language modelling
- G10L15/183—Speech classification or search using natural language modelling using context dependencies, e.g. language models
- G10L15/187—Phonemic context, e.g. pronunciation rules, phonotactical constraints or phoneme n-grams
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/226—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/226—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
- G10L2015/228—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of application context
Abstract
지능형 자동화 어시스턴트를 동작시켜 디지털 어시스턴트 서비스의 확장을 제공하기 위한 시스템 및 프로세스가 제공된다. 예시적인 방법은, 하나 이상의 프로세서를 갖는 전자 디바이스에서, 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하는 단계를 포함한다. 방법은 제1 사용자의 신원을 획득하는 단계; 및 사용자 신원에 따라, 사용자 요청의 표현을 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나에 제공하는 단계를 추가로 포함한다. 방법은, 제2 전자 디바이스 또는 제3 전자 디바이스, 또는 둘 모두가, 제1 전자 디바이스에 응답을 제공할 것인지에 대한 결정에 기초하여, 제2 전자 디바이스 또는 제3 전자 디바이스로부터 사용자 요청에 대한 응답을 수신하는 단계를 추가로 포함한다. 방법은 응답의 표현을 제1 사용자에게 제공하는 단계를 추가로 포함한다.
Description
관련 출원에 대한 상호 참조
본 출원은 2017년 5월 16일자로 출원되고, 발명의 명칭이 "FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICE"인 미국 가특허 출원 제62/507,151호; 2017년 6월 2일자로 출원되고, 발명의 명칭이 "FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES"인 덴마크 특허 출원 PA 제2017 70434호; 2017년 6월 2일자로 출원되고, 발명의 명칭이 "FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES"인 덴마크 특허 출원 PA 제2017 70435호; 및 2017년 8월 16일자로 출원되고, 발명의 명칭이 "FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES"인 미국 정규특허 출원 제15/679,108호에 대한 우선권을 주장하며, 이들의 각각의 내용은 그 전문이 본 명세서에 참조로서 편입된다.
기술분야
이는 일반적으로 지능형 자동화 어시스턴트에 관한 것으로, 더 구체적으로는, 디지털 어시스턴트 서비스의 원거리 확장에 관한 것이다.
지능형 자동화 어시스턴트들(또는 디지털 어시스턴트(digital assistant)들)은 인간 사용자들과 전자 디바이스들 사이의 유익한 인터페이스를 제공할 수 있다. 이러한 어시스턴트들은 사용자들이 음성(spoken) 및/또는 텍스트 형태들의 자연 언어를 사용하여 디바이스들 또는 시스템들과 상호작용하도록 할 수 있다. 예를 들어, 사용자는 전자 디바이스 상에서 동작하는 디지털 어시스턴트에게 사용자 요청을 포함하는 스피치 입력을 제공할 수 있다. 디지털 어시스턴트는 스피치 입력으로부터 사용자의 의도를 해석하고 사용자의 의도를 태스크들로 조작할 수 있다. 이어서, 태스크들은 전자 디바이스의 하나 이상의 서비스를 실행함으로써 수행될 수 있고, 사용자 요청에 응답하는 관련 출력이 사용자에게 반환될 수 있다.
통상적으로 디지털 어시스턴트를 사용하는 것은 사용자와 디지털 어시스턴트 간의 직접적인 상호작용을 요구한다. 예를 들어, 사용자는 디지털 어시스턴트가 동작하는 전자 디바이스와 매우 근접하게 있도록(예컨대, 같은 방 안) 요구받을 수 있다. 그럼으로써 디지털 어시스턴트는 사용자의 스피치 입력을 그것의 마이크로폰을 통해 직접 수신하고, 그것의 스피커를 통해 사용자에게 응답을 제공할 수 있다. 소정 환경 하에서, 사용자에게 전자 디바이스와 매우 근접하게 있도록 요구하는 것은 사용자가 디지털 어시스턴트와 상호작용하는 데 애로 및 불편함을 야기할 수 있다. 예를 들어, 사용자와 디지털 어시스턴트가 동작하는 전자 디바이스가 디지털 어시스턴트가 사용자의 스피치 입력을 수신하는 것이 불가능하거나, 또는 어려울 정도로 멀리 떨어져 있는 경우(예컨대, 다른 방), 디지털 어시스턴트는 사용자에게 디지털 어시스턴트 서비스를 제공하는 것이 불가능할 수 있다. 따라서, 디지털 어시스턴트 서비스의 원거리 확장을 위한 기술이 요구된다.
또한, 상이한 유형들의 전자 디바이스는 상이한 역량들을 가질 수 있다. 결과적으로, 상이한 디바이스들에서 제공되는 디지털 어시스턴트 서비스는 상이할 수 있다. 소정 디지털 어시스턴트 서비스는 디바이스 역량 한계로 인해 소정 디바이스들에서 제공되지 않을 수 있다. 예를 들어, 스마트폰 디바이스 상에서 동작하는 디지털 어시스턴트는 텍스트 메시지를 읽어주는 음성을 출력할 수 있는 반면, TV 셋톱 박스 상에서 동작하는 디지털 어시스턴트는 디바이스 한계로 인해 동일한 동작을 하지 못할 수 있다. 따라서, 디바이스 역량 한계를 완화하기 위하여 다수의 디바이스들을 이용하여 디지털 어시스턴트 서비스를 제공하는 것이 바람직하다.
디지털 어시스턴트 서비스를 제공하기 위한 시스템 및 프로세스들이 제공된다.
예시적인 방법들이 본 명세서에 개시된다. 예시적인 방법은, 하나 이상의 프로세서를 갖는 전자 디바이스에서, 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하는 단계를 포함한다. 방법은 제1 사용자의 신원을 획득하는 단계; 및 사용자 신원에 따라, 사용자 요청의 표현을 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나에 제공하는 단계를 추가로 포함한다. 방법은, 제2 전자 디바이스 또는 제3 전자 디바이스, 또는 둘 모두가, 제1 전자 디바이스에 응답을 제공할 것인지에 대한 결정에 기초하여, 제2 전자 디바이스 또는 제3 전자 디바이스로부터 사용자 요청에 대한 응답을 수신하는 단계를 추가로 포함한다. 방법은 응답의 표현을 제1 사용자에게 제공하는 단계를 추가로 포함한다.
예시적인 비일시적인 컴퓨터 판독가능 매체가 본 명세서에 개시된다. 예시적인 비일시적인 컴퓨터 판독가능 저장 매체는 하나 이상의 프로그램들을 저장한다. 하나 이상의 프로그램은, 전자 디바이스의 하나 이상의 프로세서에 의해 실행될 때, 전자 디바이스로 하여금, 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하게 하는 명령어들을 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금 제1 사용자의 신원을 획득하게 하고; 사용자 신원에 따라, 사용자 요청의 표현을 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나에 제공하게 하는 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금, 제2 전자 디바이스 또는 제3 전자 디바이스, 또는 둘 모두가 제1 전자 디바이스에 응답을 제공할 것인지에 대한 결정에 기초하여, 제2 전자 디바이스 또는 제3 전자 디바이스로부터 사용자 요청에 대한 응답을 수신하게 하는 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금 응답의 표현을 제1 사용자에게 제공하게 하는 명령어들을 추가로 포함한다.
예시적인 전자 디바이스들이 본 명세서에 개시된다. 예시적인 전자 디바이스는 하나 이상의 프로세서; 메모리; 및 하나 이상의 프로그램을 포함하고, 하나 이상의 프로그램은 메모리에 저장되고 하나 이상의 프로세서에 의해 실행되도록 구성되며, 하나 이상의 프로그램은 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하기 위한 명령어들을 포함한다. 하나 이상의 프로그램은 제1 사용자의 신원을 획득하고; 사용자 신원에 따라, 사용자 요청의 표현을 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나에 제공하기 위한 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 제2 전자 디바이스 또는 제3 전자 디바이스, 또는 둘 모두가 제1 전자 디바이스에 응답을 제공할 것인지에 대한 결정에 기초하여, 제2 전자 디바이스 또는 제3 전자 디바이스로부터 사용자 요청에 대한 응답을 수신하기 위한 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 응답의 표현을 제1 사용자에게 제공하기 위한 명령어들을 추가로 포함한다.
예시적인 전자 디바이스는 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하기 위한 수단을 포함한다. 전자 디바이스는 제1 사용자의 신원을 획득하기 위한 수단; 및 사용자 신원에 따라, 사용자 요청의 표현을 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나에 제공하기 위한 수단을 추가로 포함한다. 전자 디바이스는 제2 전자 디바이스 또는 제3 전자 디바이스, 또는 둘 모두가, 제1 전자 디바이스에 응답을 제공할 것인지에 대한 결정에 기초하여, 제2 전자 디바이스 또는 제3 전자 디바이스로부터 사용자 요청에 대한 응답을 수신하기 위한 수단을 추가로 포함한다. 전자 디바이스는 응답의 표현을 제1 사용자에게 제공하기 위한 수단을 추가로 포함한다.
예시적인 방법들이 본 명세서에 개시된다. 예시적인 방법은, 하나 이상의 프로세서를 갖는 전자 디바이스에서, 제1 사용자와 연관된 이벤트의 통지를 수신하는 단계를 포함한다. 방법은, 통지를 수신하는 것에 응답하여, 통지의 표시를 출력하는 단계를 추가로 포함한다. 방법은 하나 이상의 스피치 입력을 수신하는 단계; 및 하나 이상의 스피치 입력에 따라, 통지가 제1 전자 디바이스에서 제공될 것인지 결정하는 단계를 추가로 포함한다. 방법은, 통지가 제1 전자 디바이스에서 제공될 것이라는 결정에 따라, 제1 전자 디바이스에서 통지를 제공하는 단계를 추가로 포함한다.
예시적인 비일시적인 컴퓨터 판독가능 매체가 본 명세서에 개시된다. 예시적인 비일시적인 컴퓨터 판독가능 저장 매체는 하나 이상의 프로그램들을 저장한다. 하나 이상의 프로그램은, 전자 디바이스의 하나 이상의 프로세서에 의해 실행될 때, 전자 디바이스로 하여금 제1 사용자와 연관된 이벤트의 통지를 수신하게 하는 명령어들을 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금 통지를 수신하는 것에 응답하여 통지의 표시를 출력하게 하는 명령어들 추가로 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금 하나 이상의 스피치 입력을 수신하고; 하나 이상의 스피치 입력에 따라, 통지가 제1 전자 디바이스에서 제공될 것인지 결정하게 하는 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금, 통지가 제1 전자 디바이스에서 제공될 것이라는 결정에 따라, 제1 전자 디바이스에서 통지를 제공하게 하는 명령어들을 추가로 포함한다.
예시적인 전자 디바이스들이 본 명세서에 개시된다. 예시적인 전자 디바이스는 하나 이상의 프로세서; 메모리; 및 하나 이상의 프로그램을 포함하고, 하나 이상의 프로그램은 메모리에 저장되고 하나 이상의 프로세서에 의해 실행되도록 구성되며, 하나 이상의 프로그램은 제1 사용자와 연관된 이벤트의 통지를 수신하기 위한 명령어들을 포함한다. 하나 이상의 프로그램은, 통지를 수신하는 것에 응답하여, 통지의 표시를 출력하기 위한 명령어들을 포함한다. 하나 이상의 프로그램은 하나 이상의 스피치 입력을 수신하고; 하나 이상의 스피치 입력에 따라, 통지가 제1 전자 디바이스에서 제공될 것인지 결정하기 위한 명령어들을 포함한다. 하나 이상의 프로그램은, 통지가 제1 전자 디바이스에서 제공될 것이라는 결정에 따라, 제1 전자 디바이스에서 통지를 제공하기 위한 명령어들을 포함한다.
예시적인 전자 디바이스는 제1 사용자와 연관된 이벤트의 통지를 수신하기 위한 수단을 포함한다. 전자 디바이스는 통지를 수신하는 것에 응답하여 통지의 표시를 출력하기 위한 수단을 추가로 포함한다. 전자 디바이스는 하나 이상의 스피치 입력을 수신하기 위한 수단; 및 하나 이상의 스피치 입력에 따라, 통지가 제1 전자 디바이스에서 제공될 것인지 결정하기 위한 수단을 추가로 포함한다. 전자 디바이스는, 통지가 제1 전자 디바이스에서 제공될 것이라는 결정에 따라, 제1 전자 디바이스에서 통지를 제공하기 위한 수단을 추가로 포함한다.
예시적인 방법들이 본 명세서에 개시된다. 예시적인 방법은, 하나 이상의 프로세서를 갖는 전자 디바이스에서, 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하는 단계를 포함한다. 방법은 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터를 획득하는 단계를 추가로 포함한다. 방법은, 역량 데이터에 따라, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스로부터, 사용자 요청에 대한 응답의 적어도 일부분을 제공하기 위한 제2 전자 디바이스를 식별하는 단계를 추가로 포함한다. 방법은 제2 전자 디바이스로 하여금 응답의 적어도 일부분을 제1 사용자에게 제공하게 하는 단계를 추가로 포함한다.
예시적인 비일시적인 컴퓨터 판독가능 매체가 본 명세서에 개시된다. 예시적인 비일시적인 컴퓨터 판독가능 저장 매체는 하나 이상의 프로그램들을 저장한다. 하나 이상의 프로그램은, 전자 디바이스의 하나 이상의 프로세서에 의해 실행될 때, 전자 디바이스로 하여금, 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하게 하는 명령어들을 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터를 획득하게 하는 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금, 역량 데이터에 따라, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스로부터, 사용자 요청에 대한 응답의 적어도 일부분을 제공하기 위한 제2 전자 디바이스를 식별하게 하는 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 전자 디바이스로 하여금 응답의 적어도 일부분을 제1 사용자에게 제공하게 하는 명령어들을 추가로 포함한다.
예시적인 전자 디바이스들이 본 명세서에 개시된다. 예시적인 전자 디바이스는 하나 이상의 프로세서; 메모리; 및 하나 이상의 프로그램을 포함하고, 하나 이상의 프로그램은 메모리에 저장되고 하나 이상의 프로세서에 의해 실행되도록 구성되며,
하나 이상의 프로그램은 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하기 위한 명령어들을 포함한다. 하나 이상의 프로그램은 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터를 획득하기 위한 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 역량 데이터에 따라, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스로부터, 사용자 요청에 대한 응답의 적어도 일부분을 제공하기 위한 제2 전자 디바이스를 식별하기 위한 명령어들을 추가로 포함한다. 하나 이상의 프로그램은 제2 전자 디바이스로 하여금 응답의 적어도 일부분을 제1 사용자에게 제공하게 하기 위한 명령어들을 추가로 포함한다.
예시적인 전자 디바이스는 제1 사용자로부터, 사용자 요청을 표현하는 제1 스피치 입력을 수신하기 위한 수단을 포함한다. 전자 디바이스는 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터를 획득하기 위한 수단을 추가로 포함한다. 전자 디바이스는, 역량 데이터에 따라, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스로부터, 사용자 요청에 대한 응답의 적어도 일부분을 제공하기 위한 제2 전자 디바이스를 식별하기 위한 수단을 추가로 포함한다. 전자 디바이스는 제2 전자 디바이스로 하여금 응답의 적어도 일부분을 제1 사용자에게 제공하게 하기 위한 수단을 추가로 포함한다.
하나 이상의 서비스-확장 디바이스에 의한 디지털 어시스턴트 서비스의 원거리 확장을 위한 기술은 사용자-상호작용 인터페이스를 개선할 수 있다. 예를 들어, 하나 이상의 서비스-확장 디바이스를 이용하여, 사용자는 더 이상 전자 디바이스 상에서 동작하는 디지털 어시스턴트에 의해 제공되는 디지털 어시스턴트 서비스를 수신하기 위하여 전자 디바이스와 매우 근접하게(예컨대, 같은 방 안) 있을 필요가 없다. 또한, 서비스-확장 디바이스들은 사용자 요청의 내용에 따라, 사용자의 부근에 배치된 디바이스 및/또는 원격 배치된 디바이스로부터 사용자 요청들에 대한 응답들을 유연하게 획득할 수 있다. 예를 들어, 사용자가 개인 정보(예컨대, 캘린더 이벤트)를 요청하는 경우, 서비스-확장 디바이스는 원격 디바이스 대신에 사용자의 부근에 배치된 디바이스(예컨대, 사용자의 스마트폰)로부터 응답을 획득함으로써, 서비스를 사용자에게 제공하는 데 요구되는 시간을 줄일 수 있다. 일부 환경 하에서, 로컬 디바이스로부터 응답을 획득하는 것은 또한 사생활 문제를 경감시킬 수 있는데, 그 이유는 민감하거나 또는 은밀한 정보가 로컬 디바이스들 간의 통신에 포함될 수 있기 때문이다. 또한, 상이한 디바이스들로부터 응답들을 획득하는 능력은 응답들을 사용자에게 제공하는 서비스-확장 디바이스의 역량을 향상시킨다. 예를 들어, 사용자가 요청한 정보가 한 디바이스(예컨대, 사용자의 스마트폰)로부터 획득될 수 없는 경우, 서비스-확장 디바이스는 응답을 다른 디바이스(예컨대, 서버)로부터 획득할 수 있다. 결과적으로, 서비스-확장 디바이스는 역동적으로 응답들을 하나 이상의 디바이스로부터 획득하고, 다수의 디바이스들로부터 디지털 어시스턴트 서비스를 효율적으로 확장할 수 있다.
하나 이상의 서비스-확장 디바이스는 또한 디지털 어시스턴트 서비스 제공의 연속성을 강화하기 위하여 디지털 어시스턴트 서비스를 확장할 수 있다. 예를 들어, 하나 이상의 서비스-확장 디바이스는 사용자의 위치, 이동, 선호도 등에 따라, 사용자 요청에 대한 응답(예컨대, 음악을 재생)이 임의의 특정 서비스-확장 디바이스에서 제공될 것인지 아니면 다른 전자 디바이스에서 제공될 것인지 결정할 수 있다. 서비스 확장을 제공할 최선의 디바이스를 선택하는 이러한 역량은 다수의 디바이스들 사이에서 디지털 어시스턴트 서비스를 제공하는 연속성을 강화하고 추가로 사용자-상호작용 인터페이스를 개선한다. 또한, 하나 이상의 서비스-확장 디바이스는 다수의 사용자들(예컨대, 가족 구성원)에 의해 공유될 수 있고, 디바이스들의 동작은 다수의 사용자들의 인증에 기초할 수 있다. 결과적으로, 동일한 서비스-확장 디바이스들은 다수의 사용자들과 연관된 다수의 전자 디바이스들로부터 디지털 어시스턴트 서비스를 확장할 수 있다. 서비스-확장 디바이스들을 공유하는 이러한 역량은 디지털 어시스턴트 확장 서비스를 제공하는 데 효율성을 강화한다.
또한, 하나 이상의 서비스-확장 디바이스를 이용하여 통지를 사용자에게 제공하기 위한 기술들은 확장된 거리에 있는 사용자에게 촉구 통지를 제공할 수 있다. 예를 들어, 사용자는 사용자 디바이스로부터 일정 거리만큼 이격될 수 있고, 따라서 사용자 디바이스에 의해 제공되는 통지들을 직접 수신할 수 없을 수 있다. 하나 이상의 서비스-확장 디바이스는 사용자 디바이스(예컨대, 사용자의 스마트폰)로부터 통지들을 수신하고, 통지와 연관된 청각적 및/또는 시각적 출력을 사용자에게 제공할 수 있다. 따라서, 서비스-확장 디바이스들은 사용자 디바이스가 통지들을 사용자에게 제공할 수 있는 거리를 효과적으로 확장할 수 있다.
또한, 다수의 디바이스들을 이용하여 디지털 어시스턴트 서비스를 제공하기 위한 기술들이 디바이스 역량 한계를 완화할 수 있다. 예를 들어, 사용자 디바이스는 그것의 역량의 한계(예컨대, 작은 스크린 크기, 요청된 정보의 부족 등)로 인해 사용자 요청에 응답하여 서비스를 제공하지 못할 수 있다. 사용자 디바이스는 서비스를 제공할 수 있는 다른 디바이스를 식별하고, 다른 디바이스로 하여금 요청된 서비스를 사용자에게 제공하게 할 수 있다. 요청된 서비스를 제공할 수 있는 다른 디바이스를 식별하는 능력은 디지털 어시스턴트 서비스를 사용자에게 제공하는 디바이스들의 수집의 역량을 배가시키고, 적합한 디바이스를 찾는 사용자의 부담을 덜어 줌으로써 사용자-상호작용 효율성을 강화한다.
또한, 이러한 기술들은 디바이스의 동작성을 강화하고 사용자-디바이스 인터페이스를 더 효율적으로 만들 뿐만 아니라, 추가적으로, 사용자가 디바이스를 더 빠르고 효율적으로 사용하게 함으로써 전력 사용을 감소시키고 디바이스의 배터리 수명을 개선한다.
도 1은 다양한 예들에 따른, 디지털 어시스턴트를 구현하기 위한 시스템 및 환경을 도시하는 블록도이다.
도 2a는 다양한 예들에 따른, 디지털 어시스턴트의 클라이언트 측 부분을 구현하는 휴대용 다기능 디바이스를 도시하는 블록도이다.
도 2b는 다양한 예들에 따른, 이벤트 처리를 위한 예시적인 컴포넌트들을 도시하는 블록도이다.
도 3은 다양한 예들에 따른, 디지털 어시스턴트의 클라이언트 측 부분을 구현하는 휴대용 다기능 디바이스를 도시한다.
도 4는 다양한 예들에 따른, 디스플레이 및 터치 감응형 표면을 갖는 예시적인 다기능 디바이스의 블록도이다.
도 5a는 다양한 예들에 따른, 휴대용 다기능 디바이스 상의 애플리케이션들의 메뉴에 대한 예시적인 사용자 인터페이스를 도시한다.
도 5b는 다양한 예들에 따른, 디스플레이로부터 분리된 터치 감응형 표면을 갖는 다기능 디바이스에 대한 예시적인 사용자 인터페이스를 도시한다.
도 6a는 다양한 예들에 따른 개인 전자 디바이스를 도시한다.
도 6b는 다양한 예들에 따른 개인 전자 디바이스를 도시하는 블록도이다.
도 7a는 다양한 예들에 따른 디지털 어시스턴트 시스템 또는 그의 서버 부분을 도시하는 블록도이다.
도 7b는 다양한 예들에 따른, 도 7a에 도시된 디지털 어시스턴트의 기능들을 도시한다.
도 7c는 다양한 예들에 따른 온톨로지(ontology)의 일부분을 도시한다.
도 8a 및 도 8b는 다양한 예들에 따른, 사용자 입력에 기초하여 제1 전자 디바이스에서 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 9a 및 도 9c는 다양한 예들에 따른, 제1 전자 디바이스에서 사용자의 신원을 획득하는 기능들을 도시한다.
도 10a 내지 도 10c는 다양한 예들에 따른, 정보에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 11a 내지 도 11d는 다양한 예들에 따른, 태스크를 수행하는 것에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 12a 내지 도 12c는 다양한 예들에 따른, 정보에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 13a 및 도 13b는 다양한 예들에 따른, 제1 전자 디바이스 또는 추가적인 전자 디바이스들에서 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 14는 다양한 예들에 따른, 상이한 전자 디바이스들 간의 디지털 어시스턴트 서비스의 연속성을 제공하는 기능들을 도시한다.
도 15a 내지 도 15g는 다양한 예들에 따른, 이벤트의 통지에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 16a 내지 도 16i는 다양한 예들에 따른, 제1 전자 디바이스에서 사용자 입력에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스를 도시한다.
도 17a 내지 도 17d는 다양한 예들에 따른, 이벤트의 통지에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스를 도시한다.
도 18a 내지 도 18e는 다양한 예들에 따른, 다수의 전자 디바이스들의 역량에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 기능들을 도시한다.
도 19a 내지 도 19d는 다양한 예들에 따른, 다수의 전자 디바이스들의 역량에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스를 도시한다.
도 2a는 다양한 예들에 따른, 디지털 어시스턴트의 클라이언트 측 부분을 구현하는 휴대용 다기능 디바이스를 도시하는 블록도이다.
도 2b는 다양한 예들에 따른, 이벤트 처리를 위한 예시적인 컴포넌트들을 도시하는 블록도이다.
도 3은 다양한 예들에 따른, 디지털 어시스턴트의 클라이언트 측 부분을 구현하는 휴대용 다기능 디바이스를 도시한다.
도 4는 다양한 예들에 따른, 디스플레이 및 터치 감응형 표면을 갖는 예시적인 다기능 디바이스의 블록도이다.
도 5a는 다양한 예들에 따른, 휴대용 다기능 디바이스 상의 애플리케이션들의 메뉴에 대한 예시적인 사용자 인터페이스를 도시한다.
도 5b는 다양한 예들에 따른, 디스플레이로부터 분리된 터치 감응형 표면을 갖는 다기능 디바이스에 대한 예시적인 사용자 인터페이스를 도시한다.
도 6a는 다양한 예들에 따른 개인 전자 디바이스를 도시한다.
도 6b는 다양한 예들에 따른 개인 전자 디바이스를 도시하는 블록도이다.
도 7a는 다양한 예들에 따른 디지털 어시스턴트 시스템 또는 그의 서버 부분을 도시하는 블록도이다.
도 7b는 다양한 예들에 따른, 도 7a에 도시된 디지털 어시스턴트의 기능들을 도시한다.
도 7c는 다양한 예들에 따른 온톨로지(ontology)의 일부분을 도시한다.
도 8a 및 도 8b는 다양한 예들에 따른, 사용자 입력에 기초하여 제1 전자 디바이스에서 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 9a 및 도 9c는 다양한 예들에 따른, 제1 전자 디바이스에서 사용자의 신원을 획득하는 기능들을 도시한다.
도 10a 내지 도 10c는 다양한 예들에 따른, 정보에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 11a 내지 도 11d는 다양한 예들에 따른, 태스크를 수행하는 것에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 12a 내지 도 12c는 다양한 예들에 따른, 정보에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 13a 및 도 13b는 다양한 예들에 따른, 제1 전자 디바이스 또는 추가적인 전자 디바이스들에서 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 14는 다양한 예들에 따른, 상이한 전자 디바이스들 간의 디지털 어시스턴트 서비스의 연속성을 제공하는 기능들을 도시한다.
도 15a 내지 도 15g는 다양한 예들에 따른, 이벤트의 통지에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다.
도 16a 내지 도 16i는 다양한 예들에 따른, 제1 전자 디바이스에서 사용자 입력에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스를 도시한다.
도 17a 내지 도 17d는 다양한 예들에 따른, 이벤트의 통지에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스를 도시한다.
도 18a 내지 도 18e는 다양한 예들에 따른, 다수의 전자 디바이스들의 역량에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 기능들을 도시한다.
도 19a 내지 도 19d는 다양한 예들에 따른, 다수의 전자 디바이스들의 역량에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스를 도시한다.
예들의 다음 설명에서, 첨부된 도면들이 참조되며, 실시될 수 있는 특정 예들이 도면들 내에서 예시로서 도시된다. 다양한 예들의 범주를 벗어나지 않으면서 다른 예들이 이용될 수 있고 구조적 변경이 행해질 수 있다는 것이 이해되어야 한다.
본 개시내용은 하나 이상의 서비스-확장 디바이스에 의한 디지털 어시스턴트 서비스의 원거리 확장을 위한 기술을 제공한다. 기재된 바와 같이, 서비스-확장 디바이스들을 이용함으로써 사용자-상호작용 인터페이스를 개선할 수 있다. 일부 예들에서, 제1 전자 디바이스는 서비스-확장 디바이스일 수 있다. 제1 전자 디바이스는 사용자 요청을 표현하는 스피치 입력을 수신할 수 있다. 제1 전자 디바이스는, 예를 들어, 제2 전자 디바이스 및/또는 제3 전자 디바이스에 의한 사용자의 인증에 기초하여 사용자의 신원을 획득할 수 있다. 일부 예들에서, 제2 전자 디바이스는 제1 전자 디바이스로부터 원격 배치된 디바이스일 수 있고(예컨대, 원격 서버); 제3 전자 디바이스는 제1 전자 디바이스의 부근에 배치된 디바이스일 수 있다(예컨대, 사용자의 스마트폰). 식별된 것이 획득된 후, 제1 전자 디바이스는 제2 전자 디바이스 및 제3 전자 디바이스 중 적어도 하나에 사용자 요청의 표현을 제공할 수 있다. 제2 전자 디바이스 및 제3 전자 디바이스 중 하나 또는 둘 모두는 제1 전자 디바이스에 응답을 제공할 것인지 결정할 수 있다. 제1 전자 디바이스(예컨대, 서비스-확장 디바이스)는 응답을 수신하고 응답의 표현을 사용자에게 제공할 수 있다. 그와 같이, 제1 전자 디바이스는 효과적으로 제2 전자 디바이스 및 제3 전자 디바이스 중 하나 또는 둘 모두에 의해 제공되는 디지털 어시스턴트 서비스를 확장한다.
본 개시내용은 추가로 하나 이상의 서비스-확장 디바이스를 이용하여 통지들을 제공하기 위한 기술들을 제공한다. 위에 기재된 바와 같이, 하나 이상의 서비스-확장 디바이스를 이용하여, 통지들은 확장된 거리에서 즉시 사용자에게 제공될 수 있다. 일부 예들에서, 제1 전자 디바이스는 다른 디바이스(예컨대, 사용자의 스마트폰)로부터 통지를 수신하고, 통지의 표시(예컨대, 삐 소리)를 출력할 수 있다. 제1 전자 디바이스는 표시에 관해 문의하고 제1 전자 디바이스로 하여금 통지의 동작(예컨대, 통지를 출력)을 수행하도록 지시하는 하나 이상의 스피치 입력을 수신할 수 있다. 제1 전자 디바이스는 통지가 제공되어야 하는지 결정하고; 결정에 따라 통지를 제공할 수 있다.
본 개시내용은 추가로 다수의 디바이스들을 이용하여 디지털 어시스턴트 서비스를 제공하기 위한 기술들을 제공한다. 위에 기재된 바와 같이, 다수의 디바이스들을 이용하여 디지털 어시스턴트 서비스를 제공함으로써 디바이스 역량 한계를 완화할 수 있다. 일부 예들에서, 제1 전자 디바이스는 사용자 요청을 표현하는 스피치 입력을 수신하고 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터를 획득한다. 역량 데이터는 디바이스 역량 및 정보 역량을 포함할 수 있다. 역량 데이터에 따라, 제1 전자 디바이스는 사용자 요청에 대한 응답의 적어도 일부분을 제공하기 위한 제2 전자 디바이스를 식별하고; 제2 전자 디바이스로 하여금 응답의 적어도 일부분을 제공하게 할 수 있다.
이하의 설명이 다양한 요소들을 기술하기 위해 "제1", "제2" 등과 같은 용어들을 사용하지만, 이 요소들이 그 용어들에 의해 제한되어서는 안된다. 이들 용어들은 하나의 요소를 다른 요소와 구별하는 데에만 사용된다. 예를 들어, 다양하게 기술된 예들의 범주로부터 벗어남이 없이, 제1 입력이 제2 입력으로 지칭될 수 있을 것이고, 이와 유사하게, 제2 입력이 제1 입력으로 지칭될 수 있을 것이다. 제1 입력 및 제2 입력은 둘 모두 입력이고, 일부 경우들에서, 별개의 상이한 입력이다.
본 명세서에서 다양하게 기술된 예들의 설명에 사용되는 용어는 특정 예들을 기술하는 목적만을 위한 것이고, 제한하려는 의도는 아니다. 다양하게 기술된 예들의 설명 및 첨부된 청구범위에 사용되는 바와 같이, 단수의 형태("a", "an", 및 "the")는 문맥상 명백히 달리 나타내지 않는다면 복수의 형태도 마찬가지로 포함하려는 것으로 의도된다. 또한, 본 명세서에서 사용되는 바와 같은 "및/또는"이라는 용어는 열거되는 연관된 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합들을 나타내고 그들을 포괄하는 것임이 이해될 것이다. 용어들 "포함한다(include)", "포함하는(including)", "포함한다(comprise)", 및/또는 "포함하는(comprising)"은, 본 명세서에서 사용될 때, 언급된 특징들, 정수들, 단계들, 동작들, 요소들, 및/또는 컴포넌트들의 존재를 특정하지만, 하나 이상의 다른 특징들, 정수들, 단계들, 동작들, 요소들, 컴포넌트들, 및/또는 이들의 그룹들의 존재 또는 추가를 배제하지 않음이 추가로 이해될 것이다.
용어 "~할 경우(if)"는 문맥에 따라 "~할 때(when)" 또는 "~할 시(upon)" 또는 "결정하는 것에 응답하여(in response to determining)" 또는 "검출하는 것에 응답하여(in response to detecting)"를 의미하는 것으로 해석될 수 있다. 유사하게, 구절 "~라고 결정된 경우" 또는 "[언급된 조건 또는 이벤트가] 검출된 경우"는 문맥에 따라 "~라고 결정할 시" 또는 "~라고 결정하는 것에 응답하여" 또는 "[언급된 조건 또는 이벤트]를 검출할 시" 또는 "[언급된 조건 또는 이벤트]를 검출하는 것에 응답하여"를 의미하는 것으로 해석될 수 있다.
1.
시스템 및 환경
도 1은 다양한 예들에 따른 시스템(100)의 블록도를 도시한다. 일부 예들에서, 시스템(100)은 디지털 어시스턴트를 구현한다. 용어들 "디지털 어시스턴트", "가상 어시스턴트", "지능형 자동화 어시스턴트", 또는 "자동 디지털 어시스턴트"는 구어적 및/또는 문어적 형태로 입력되는 자연 언어를 해석하여 사용자 의도를 추론하고, 추론된 사용자 의도에 기초하여 동작들을 수행하는 임의의 정보 처리 시스템을 지칭한다. 예를 들어, 추론된 사용자 의도에 따라 동작하기 위해, 시스템은 다음 중 하나 이상을 수행한다: 추론된 사용자 의도를 달성하도록 설계된 단계들 및 파라미터들을 이용하여 태스크 흐름을 식별하는 것; 추론된 사용자 의도로부터의 특정 요건들을 태스크 흐름 내에 입력하는 것; 프로그램들, 방법들, 서비스들, API들 등을 호출(invoke)함으로써 태스크 흐름을 실행하는 것; 및 청각적(예컨대, 스피치) 및/또는 시각적 형태로 사용자에 대한 출력 응답들을 생성하는 것.
구체적으로, 디지털 어시스턴트는 적어도 부분적으로 자연 언어 커맨드, 요청, 진술, 서술, 및/또는 질문의 형태로 사용자 요청을 수용할 수 있다. 전형적으로, 사용자 요청은 디지털 어시스턴트에 의해 정보 제공형 답변 또는 태스크의 수행 중 어느 하나를 구한다. 사용자 요청에 대한 만족스러운 응답은 요청된 정보제공형 답변의 제공, 요청된 태스크의 수행, 또는 이 둘의 조합을 포함한다. 예를 들어, 사용자는 디지털 어시스턴트에게, "내가 지금 어디에 있지?"와 같은 질문을 한다. 사용자의 현재 위치에 기초하여, 디지털 어시스턴트는 "당신은 웨스트 게이트 근처 센트럴 파크에 있습니다"라고 답변한다. 사용자는 또한 태스크의 수행, 예를 들어 "다음주 내 여자친구의 생일 파티에 내 친구들을 초대해 줘."를 요청한다. 이에 응답하여, 디지털 어시스턴트는 "네, 바로 하겠습니다"라고 말함으로써 요청을 승인확인(acknowledge)할 수 있고, 이어서 사용자의 전자 주소록에 열거된 사용자의 친구들 각각에게 사용자를 대신하여 적절한 행사 예정 초대장(calendar invite)을 전송할 수 있다. 요청된 태스크의 수행 동안, 디지털 어시스턴트는 때때로 연장된 기간 내내 다수의 정보 교환을 수반하는 연속 대화로 사용자와 상호작용한다. 디지털 어시스턴트와 상호작용하여 정보 또는 다양한 태스크의 수행을 요청하는 수많은 다른 방식이 있다. 구두 응답들을 제공하는 것 및 프로그래밍된 행동들을 취하는 것 외에도, 디지털 어시스턴트는 또한 예컨대, 텍스트, 알림들, 음악, 비디오들, 애니메이션들 등과 같은 다른 시각적 또는 청각적 형태들의 응답들을 제공한다.
도 1에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 클라이언트-서버 모델에 따라 구현된다. 디지털 어시스턴트는 사용자 디바이스(104) 상에서 실행되는 클라이언트 측 부분(102)(이하, "DA 클라이언트(102)"), 및 서버 시스템(108) 상에서 실행되는 서버 측 부분(106)(이하, "DA 서버(106)")을 포함한다. DA 클라이언트(102)는 하나 이상의 네트워크(110)를 통해 DA 서버(106)와 통신한다. DA 클라이언트(102)는 사용자 대면 입력 및 출력 처리, 및 DA 서버(106)와의 통신과 같은 클라이언트 측 기능들을 제공한다. DA 서버(106)는 개개의 사용자 디바이스(104) 상에 각각 상주하는 임의의 수의 DA 클라이언트들(102)에 서버 측 기능들을 제공한다.
일부 예들에서, DA 서버(106)는 클라이언트 대면 I/O 인터페이스(112), 하나 이상의 처리 모듈(114), 데이터 및 모델들(116), 및 외부 서비스들에 대한 I/O 인터페이스(118)를 포함한다. 클라이언트 대면 I/O 인터페이스(112)는 DA 서버(106)에 대한 클라이언트 대면 입력 및 출력 처리를 용이하게 한다. 하나 이상의 처리 모듈(114)은 데이터 및 모델들(116)을 이용하여 스피치 입력을 처리하고 자연 언어 입력에 기초하여 사용자의 의도를 결정한다. 또한, 하나 이상의 처리 모듈(114)은 추론된 사용자 의도에 기초하여 태스크 실행을 수행한다. 일부 예들에서, DA 서버(106)는 태스크 완수 또는 정보 획득을 위해 네트워크(들)(110)를 통해 외부 서비스들(120)과 통신한다. 외부 서비스들에 대한 I/O 인터페이스(118)는 그러한 통신을 가능하게 한다.
사용자 디바이스(104)는 임의의 적합한 전자 디바이스일 수 있다. 일부 예들에서, 사용자 디바이스는 휴대용 다기능 디바이스(예컨대, 도 2a를 참조하여 후술되는 디바이스(200)), 다기능 디바이스(예컨대, 도 4를 참조하여 후술되는 디바이스(400)), 또는 개인 전자 디바이스(예컨대, 도 6a 및 도 6b를 참조하여 후술되는 디바이스(600))이다. 휴대용 다기능 디바이스는, 예를 들어, PDA 및/또는 음악 재생기 기능들과 같은 다른 기능들을 또한 포함하는 모바일 전화기이다. 휴대용 다기능 디바이스들의 구체적인 예들은 미국 캘리포니아주 쿠퍼티노 소재의 애플 인크.(Apple Inc.)로부터의 아이폰(iPhone)®, 아이팟 터치(iPod Touch)®, 및 아이패드(iPad)® 디바이스들을 포함한다. 휴대용 다기능 디바이스들의 다른 예들은 랩톱 또는 태블릿 컴퓨터들을 제한없이 포함한다. 또한, 일부 예들에서, 사용자 디바이스(104)는 비휴대용 다기능 디바이스이다. 특히, 사용자 디바이스(104)는 데스크톱 컴퓨터, 게임 콘솔, 텔레비전, 또는 텔레비전 셋톱 박스이다. 일부 예들에서, 사용자 디바이스(104)는 터치 감응형 표면(예컨대, 터치 스크린 디스플레이들 및/또는 터치패드들)을 포함한다. 또한, 사용자 디바이스(104)는 선택적으로 물리적 키보드, 마우스 및/또는 조이스틱과 같은 하나 이상의 다른 물리적 사용자 인터페이스 디바이스들을 포함한다. 다기능 디바이스들과 같은 전자 디바이스들의 다양한 예들이 더욱 상세하게 후술된다.
통신 네트워크(들)(110)의 예들은 근거리 통신망(LAN) 및 광역 통신망(WAN), 예컨대, 인터넷을 포함한다. 통신 네트워크(들)(110)는, 예를 들어 이더넷(Ethernet), 범용 직렬 버스(Universal Serial Bus; USB), 파이어와이어(FIREWIRE), GSM(Global System for Mobile Communications), EDGE(Enhanced Data GSM Environment), 코드 분할 다중 접속(code division multiple access; CDMA), 시간 분할 다중 접속(time division multiple access; TDMA), 블루투스(Bluetooth), Wi-Fi, VoIP(voice over Internet Protocol), Wi-MAX, 또는 임의의 다른 적합한 통신 프로토콜과 같은 다양한 유선 또는 무선 프로토콜들을 포함하는 임의의 알려진 네트워크 프로토콜을 이용하여 구현된다.
서버 시스템(108)은 하나 이상의 독립형 데이터 처리 장치 또는 분산형 컴퓨터 네트워크 상에 구현된다. 일부 예들에서, 서버 시스템(108)은 서버 시스템(108)의 기본 컴퓨팅 리소스들 및/또는 인프라구조 리소스들을 제공하기 위해 제3자 서비스 제공자들(예컨대, 제3자 클라우드 서비스 제공자들)의 다양한 가상 디바이스들 및/또는 서비스들을 또한 채용한다.
일부 예들에서, 사용자 디바이스(104)는 제2 사용자 디바이스(122)를 통해 DA 서버(106)와 통신한다. 제2 사용자 디바이스(122)는 사용자 디바이스(104)와 유사 또는 동일하다. 예를 들어, 제2 사용자 디바이스(122)는 도 2a, 도 4, 및 도 6a와 도 6b를 참조하여 후술되는 디바이스들(200, 400, 또는 600)과 유사하다. 사용자 디바이스(104)는 직접 통신 접속, 예컨대, 블루투스, NFC, BTLE 등을 통해, 또는 유선 또는 무선 네트워크, 예컨대, 로컬 Wi-Fi 네트워크를 통해 제2 사용자 디바이스(122)에 통신가능하게 결합되도록 구성된다. 일부 예들에서, 제2 사용자 디바이스(122)는 사용자 디바이스(104)와 DA 서버(106) 사이의 프록시(proxy)로서 동작하도록 구성된다. 예를 들어, 사용자 디바이스(104)의 DA 클라이언트(102)는 제2 사용자 디바이스(122)를 통해 DA 서버(106)로 정보(예컨대, 사용자 디바이스(104)에서 수신된 사용자 요청)를 송신하도록 구성된다. DA 서버(106)는 정보를 프로세싱하고 제2 사용자 디바이스(122)를 통해 사용자 디바이스(104)로 관련 데이터(예컨대, 사용자 요청에 응답하는 데이터 콘텐츠)를 반환한다.
일부 예들에서, 사용자 디바이스(104)는 사용자 디바이스(104)로부터 송신되는 정보의 양을 감소시키기 위해 데이터에 대한 단축 요청(abbreviated request)들을 제2 사용자 디바이스(122)로 통신하도록 구성된다. 제2 사용자 디바이스(122)는 DA 서버(106)로 송신할 완전한 요청을 생성하기 위해 단축 요청에 추가하기 위한 보완 정보를 결정하도록 구성된다. 이러한 시스템 아키텍처는, 유리하게도, 제한된 통신 능력들 및/또는 제한된 배터리 전력을 갖는 사용자 디바이스(104)(예컨대, 시계 또는 유사한 소형 전자 디바이스)가, 보다 큰 통신 능력들 및/또는 배터리 전력을 갖는 제2 사용자 디바이스(122)(예컨대, 모바일 전화기, 랩톱 컴퓨터, 태블릿 컴퓨터 등)를 DA 서버(106)에 대한 프록시로서 사용함으로써, DA 서버(106)에 의해 제공되는 서비스들에 액세스하도록 할 수 있다. 2개의 사용자 디바이스들(104, 122)만이 도 1에 도시되어 있지만, 일부 예들에서, 시스템(100)은 DA 서버 시스템(106)과 통신하기 위해 이러한 프록시 구성으로 구성되는 임의의 개수 및 유형의 사용자 디바이스들을 포함한다는 것이 이해되어야 한다.
도 1에 도시된 디지털 어시스턴트가 클라이언트 측 부분(예컨대, DA 클라이언트(102)) 및 서버 측 부분(예컨대, DA 서버(106)) 둘 모두를 포함하지만, 일부 예들에서, 디지털 어시스턴트의 기능들은 사용자 디바이스 상에 설치된 독립형 애플리케이션으로서 구현된다. 게다가, 디지털 어시스턴트의 클라이언트 측 부분과 서버 측 부분 사이의 기능들의 분담은 상이한 구현예들에서 다를 수 있다. 예를 들어, 일부 예들에서, DA 클라이언트는, 오로지 사용자 대면 입력 및 출력 프로세싱 기능들만을 제공하고 디지털 어시스턴트의 다른 모든 기능들을 백엔드 서버에 위임하는 씬-클라이언트(thin-client)이다.
2.
전자 디바이스
이제, 디지털 어시스턴트의 클라이언트 측 부분을 구현하기 위한 전자 디바이스들의 실시예들에 주목한다. 도 2a는 일부 실시예들에 따른, 터치 감응형 디스플레이 시스템(212)을 갖는 휴대용 다기능 디바이스(200)를 도시하는 블록도이다. 터치 감응형 디스플레이(212)는 때때로 편의상 "터치 스크린"이라고 지칭되고 때때로 "터치 감응형 디스플레이 시스템"으로 알려지거나 지칭된다. 디바이스(200)는 메모리(202)(선택적으로, 하나 이상의 컴퓨터 판독가능 저장 매체를 포함함), 메모리 제어기(222), 하나 이상의 프로세싱 유닛(CPU)(220), 주변기기 인터페이스(218), RF 회로부(208), 오디오 회로부(210), 스피커(211), 마이크로폰(213), 입/출력(I/O) 서브시스템(206), 다른 입력 제어 디바이스들(216), 및 외부 포트(224)를 포함한다. 디바이스(200)는 선택적으로 하나 이상의 광 센서(optical sensor)(264)를 포함한다. 디바이스(200)는, 선택적으로, 디바이스(200)(예컨대, 디바이스(200)의 터치 감응형 디스플레이 시스템(212)과 같은 터치 감응형 표면) 상의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서(265)를 포함한다. 디바이스(200)는, 선택적으로, 디바이스(200) 상에 촉각적 출력들을 생성(예컨대, 디바이스(200)의 터치 감응형 디스플레이 시스템(212)과 같은 터치 감응형 표면 또는 디바이스(400)의 터치 패드(455) 상에 촉각적 출력들을 생성)하기 위한 하나 이상의 촉각적 출력 생성기(267)를 포함한다. 이들 컴포넌트는 선택적으로 하나 이상의 통신 버스 또는 신호 라인(203)을 통해 통신한다.
명세서 및 청구범위에서 사용되는 바와 같이, 터치 감응형 표면 상의 접촉의 "세기"라는 용어는 터치 감응형 표면 상의 접촉(예컨대, 손가락 접촉)의 힘 또는 압력(단위 면적 당 힘), 또는 터치 감응형 표면 상의 접촉의 힘 또는 압력에 대한 대체물(프록시(proxy))을 지칭한다. 접촉의 세기는, 적어도 4개의 구별되는 값들을 포함하고 더 전형적으로는 수백 개(예컨대, 적어도 256개)의 구별되는 값들을 포함하는 일정 범위의 값들을 갖는다. 접촉의 세기는 다양한 접근법들, 및 다양한 센서들 또는 센서들의 조합들을 이용하여, 선택적으로 결정(또는 측정)된다. 예를 들어, 터치 감응형 표면 아래의 또는 그에 인접한 하나 이상의 힘 센서는 터치 감응형 표면 상의 다양한 지점들에서 힘을 측정하는 데 선택적으로 사용된다. 일부 구현예들에서는, 다수의 힘 센서들로부터의 힘 측정치들이 접촉의 추정되는 힘을 판정하기 위해 조합(예컨대, 가중 평균)된다. 유사하게, 스타일러스의 압력 감응형 팁(tip)이 터치 감응형 표면 상의 스타일러스의 압력을 판정하는 데 선택적으로 사용된다. 대안으로, 터치 감응형 표면 상에서 검출된 접촉 면적의 크기 및/또는 그에 대한 변화들, 접촉 부근의 터치 감응형 표면의 커패시턴스 및/또는 그에 대한 변화들, 및/또는 접촉 부근의 터치 감응형 표면의 저항 및/또는 그에 대한 변화들은 터치 감응형 표면 상의 접촉의 힘 또는 압력에 대한 대체물로서 선택적으로 이용된다. 일부 구현예들에서, 접촉 힘 또는 압력에 대한 대체 측정치들은 세기 임계치가 초과되었는지 여부를 판정하는 데 직접 이용된다(예컨대, 세기 임계치는 대체 측정치들에 대응하는 단위로 기술된다). 일부 구현예들에서, 접촉 힘 또는 압력에 대한 대체 측정치들은 추정된 힘 또는 압력으로 변환되고, 추정된 힘 또는 압력은 세기 임계치가 초과되었는지 여부를 판정하기 위해 이용된다(예컨대, 세기 임계치는 압력의 단위로 측정된 압력 임계치이다). 사용자 입력의 속성으로서 접촉의 세기를 사용함으로써, 사용자는 그렇지 않았으면 어포던스들을 (예컨대, 터치 감응형 디스플레이 상에) 디스플레이하고/하거나 (예컨대, 터치 감응형 디스플레이, 터치 감응형 표면, 또는 노브(knob) 또는 버튼과 같은 물리적/기계적 제어부를 통해) 사용자 입력을 수신하기 위하여 한정된 실면적을 갖는 축소된 디바이스 상에서 사용자에 의해 액세스가 가능하지 않을 수도 있는 부가적인 디바이스 기능에 액세스할 수 있다.
명세서 및 청구범위에 사용되는 바와 같이, "촉각적 출력"이라는 용어는 디바이스의 이전 위치에 대한 디바이스의 물리적 변위, 디바이스의 다른 컴포넌트(예컨대, 하우징)에 대한 디바이스의 컴포넌트(예컨대, 터치 감응형 표면)의 물리적 변위, 또는 사용자의 촉각을 이용하여 사용자에 의해 검출될 디바이스의 질량 중심에 대한 컴포넌트의 변위를 지칭한다. 예를 들면, 디바이스 또는 디바이스의 컴포넌트가 터치에 감응하는 사용자의 표면(예컨대, 손가락, 손바닥, 또는 사용자의 손의 기타 부분)과 접촉하는 상황에서, 물리적 변위에 의해 생성된 촉각적 출력은 사용자에 의해 디바이스 또는 디바이스의 컴포넌트의 물리적 특성들에서의 인지된 변화에 대응하는 촉감(tactile sensation)으로서 해석될 것이다. 예를 들어, 터치 감응형 표면(예를 들어, 터치 감응형 디스플레이 또는 트랙패드)의 이동은 선택적으로 물리적 액추에이터 버튼의 "다운 클릭(down click)" 또는 "업 클릭(up click)"으로서 사용자에 의해 해석된다. 일부 경우에, 사용자는 사용자의 이동에 의해 물리적으로 눌리는(예를 들어, 변위되는) 터치 감응형 표면과 연관된 물리적 액추에이터 버튼의 이동이 없는 경우에도, "다운 클릭" 또는 "업 클릭"과 같은 촉감을 느낄 것이다. 다른 예로서, 터치 감응형 표면의 이동은, 선택적으로, 터치 감응형 표면의 평탄성의 변화가 없을 때에도 터치 감응형 표면의 "거칠기(roughness)"로서 사용자에 의해 해석되거나 감지된다. 사용자에 의한 터치의 이러한 해석들이 사용자의 개별화된 감각 인지(sensory perception)에 영향을 받을 것이지만, 대다수의 사용자들에게 보편적인 많은 터치 감각 인지가 있다. 따라서, 촉각적 출력이 사용자의 특정 감각 인지(예컨대, "업 클릭", "다운 클릭", "거칠기")에 대응하는 것으로서 설명될 때, 달리 언급되지 않는다면, 생성된 촉각적 출력은 전형적인(또는 평균적인) 사용자에 대한 설명된 감각 인지를 생성할 디바이스 또는 그의 컴포넌트의 물리적 변위에 대응한다.
디바이스(200)는 휴대용 다기능 디바이스의 일례일 뿐이고, 디바이스(200)는, 선택적으로, 도시된 것보다 더 많거나 더 적은 컴포넌트들을 갖거나, 선택적으로, 2개 이상의 컴포넌트들을 조합하거나, 또는 선택적으로 컴포넌트들의 상이한 구성 또는 배열을 갖는다는 것이 인식되어야 한다. 도 2a에 도시된 다양한 컴포넌트들은 하나 이상의 신호 프로세싱 및/또는 ASIC(application-specific integrated circuit)들을 비롯한, 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어 둘 모두의 조합으로 구현된다.
메모리(202)는 하나 이상의 컴퓨터 판독가능 저장 매체를 포함한다. 컴퓨터 판독가능 저장 매체들은, 예를 들어, 유형적(tangible)이고 비일시적이다. 메모리(202)는 고속 랜덤 액세스 메모리를 포함하고, 또한 하나 이상의 자기 디스크 저장 디바이스, 플래시 메모리 디바이스, 또는 다른 비휘발성 솔리드 스테이트 메모리 디바이스(non-volatile solid-state memory device)와 같은 비휘발성 메모리를 포함한다. 메모리 제어기(222)는 디바이스(200)의 다른 컴포넌트들에 의한 메모리(202)에의 액세스를 제어한다.
일부 예들에서, 메모리(202)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대, 컴퓨터 기반 시스템, 프로세서-포함 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치(fetch)하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 후술되는 프로세스들의 양태들을 수행하기 위한) 명령어들을 저장하는 데 사용된다. 다른 예들에서, (예컨대, 후술한 프로세스들의 양태들을 수행하기 위한) 명령어들은 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체(도시되지 않음) 상에 저장되거나 또는 메모리(202)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담된다.
주변기기 인터페이스(218)는 디바이스의 입력 및 출력 주변기기들을 CPU(220) 및 메모리(202)에 결합하는 데 사용된다. 하나 이상의 프로세서(220)는 디바이스(200)에 대한 다양한 기능들을 수행하기 위해 그리고 데이터를 프로세싱하기 위해 메모리(202)에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 세트들을 구동 또는 실행시킨다. 일부 실시예들에서, 주변기기 인터페이스(218), CPU(220) 및 메모리 제어기(222)는 칩(204)과 같은 단일 칩 상에서 구현된다. 일부 다른 실시예들에서, 이들은 별개의 칩들 상에서 구현된다.
RF(radio frequency) 회로부(208)는 전자기 신호들이라고도 지칭되는 RF 신호들을 수신 및 전송한다. RF 회로부(208)는 전기 신호들을 전자기 신호들로/로부터 변환하고, 전자기 신호들을 통해 통신 네트워크들 및 다른 통신 디바이스들과 통신한다. RF 회로부(208)는, 선택적으로, 안테나 시스템, RF 송수신기, 하나 이상의 증폭기, 튜너, 하나 이상의 발진기, 디지털 신호 프로세서, CODEC 칩셋, SIM(subscriber identity module) 카드, 메모리 등을 포함하지만 이들로 제한되지 않는, 이러한 기능들을 수행하기 위한 잘 알려진 회로부를 포함한다. RF 회로부(208)는, 선택적으로, 네트워크들, 예컨대 월드 와이드 웹(WWW)으로도 지칭되는 인터넷, 인트라넷, 및/또는 무선 네트워크, 예컨대 셀룰러 전화 네트워크, 무선 LAN(local area network) 및/또는 MAN(metropolitan area network), 및 다른 디바이스들과 무선 통신에 의해 통신한다. RF 회로부(208)는 선택적으로, 예컨대 단거리 통신 무선기기에 의해, 근거리 통신(near field communication; NFC) 필드를 검출하기 위한 잘 알려진 회로부를 포함한다. 무선 통신은, 선택적으로, GSM(Global System for Mobile Communications), EDGE(Enhanced Data GSM Environment), HSDPA(high-speed downlink packet access), HSUPA(high-speed uplink packet access), EV-DO(Evolution, Data-Only), HSPA, HSPA+, DC-HSPDA(Dual-Cell HSPA), LTE(long term evolution), NFC(near field communication), W-CDMA(wideband code division multiple access), CDMA(code division multiple access), TDMA(time division multiple access), 블루투스, BTLE(Bluetooth Low Energy), Wi-Fi(Wireless Fidelity)(예컨대, IEEE 802.11a, IEEE 802.11b, IEEE 802.11g, IEEE 802.11n 및/또는 IEEE 802.11ac), VoIP(voice over Internet Protocol), Wi-MAX, 이메일용 프로토콜(예컨대, IMAP(Internet message access protocol) 및/또는 POP(post office protocol)), 인스턴트 메시징(예컨대, XMPP(extensible messaging and presence protocol), SIMPLE(Session Initiation Protocol for Instant Messaging and Presence Leveraging Extensions), IMPS(Instant Messaging and Presence Service)), 및/또는 SMS(Short message Service), 또는 본 문서의 출원일 당시 아직 개발되지 않은 통신 프로토콜들을 비롯한, 임의의 다른 적합한 통신 프로토콜을 포함하지만 이들로 제한되지는 않는, 복수의 통신 표준들, 프로토콜들 및 기술들 중 임의의 것을 이용한다.
오디오 회로부(210), 스피커(211), 및 마이크로폰(213)은 사용자와 디바이스(200) 사이에서 오디오 인터페이스를 제공한다. 오디오 회로부(210)는 주변기기 인터페이스(218)로부터 오디오 데이터를 수신하고, 그 오디오 데이터를 전기 신호로 변환하고, 그 전기 신호를 스피커(211)로 송신한다. 스피커(211)는 전기 신호를 사람이 들을 수 있는 음파로 변환한다. 오디오 회로부(210)는 또한 마이크로폰(213)에 의해 음파로부터 변환된 전기 신호를 수신한다. 오디오 회로부(210)는 전기 신호를 오디오 데이터로 변환하고, 프로세싱을 위해 오디오 데이터를 주변기기 인터페이스(218)에 송신한다. 오디오 데이터는 주변기기 인터페이스(218)에 의해 메모리(202) 및/또는 RF 회로부(208)로부터 인출(retrieve)되고/되거나 이로 송신된다. 일부 실시예들에서, 오디오 회로부(210)는 또한 헤드셋 잭(예컨대, 도 3의 312)을 포함한다. 헤드셋 잭은 출력-전용 헤드폰들, 또는 출력(예컨대, 한쪽 또는 양쪽 귀용 헤드폰) 및 입력(예컨대, 마이크로폰) 양쪽 모두를 갖는 헤드셋과 같은 분리가능한 오디오 입/출력 주변기기들과 오디오 회로부(210) 사이의 인터페이스를 제공한다.
I/O 서브시스템(206)은 터치 스크린(212) 및 다른 입력 제어 디바이스들(216)과 같은, 디바이스(200) 상의 입/출력 주변기기들을 주변기기 인터페이스(218)에 결합한다. I/O 서브시스템(206)은 선택적으로 디스플레이 제어기(256), 광 센서 제어기(258), 세기 센서 제어기(259), 햅틱 피드백 제어기(261) 및 다른 입력 또는 제어 디바이스들을 위한 하나 이상의 입력 제어기(260)를 포함한다. 하나 이상의 입력 제어기(260)는 다른 입력 제어 디바이스들(216)로부터/로 전기 신호들을 수신/전송한다. 다른 입력 제어 디바이스들(216)은 선택적으로 물리적 버튼들(예컨대, 푸시 버튼(push button), 로커 버튼(rocker button) 등), 다이얼, 슬라이더 스위치, 조이스틱, 클릭 휠 등을 포함한다. 일부 대안적인 실시예들에서, 입력 제어기(들)(260)는 선택적으로 키보드, 적외선 포트, USB 포트, 및 마우스와 같은 포인터 디바이스 중 임의의 것에 결합된다(또는 어떤 것에도 결합되지 않는다). 하나 이상의 버튼(예를 들어, 도 3의 308)은 선택적으로 스피커(211) 및/또는 마이크로폰(213)의 음량 제어를 위한 업/다운 버튼을 포함한다. 하나 이상의 버튼은 선택적으로 푸시 버튼(예를 들어, 도 3의 306)을 포함한다.
푸시 버튼의 빠른 누르기(quick press)는 터치 스크린(212)의 잠금을 풀거나, 디바이스를 잠금해제하기 위해 터치 스크린 상의 제스처들을 사용하는 프로세스를 시작하며, 이는 2005년 12월 23일자로 출원된 미국 특허 출원 제11/322,549호(미국 특허 제7,657,849호), "Unlocking a Device by Performing Gestures on an Unlock Image"에 기술된 바와 같으며, 이는 참조 문헌으로서 그 전문이 본 명세서에 편입된다. 푸시 버튼(예컨대, 306)의 더 길게 누르기는 디바이스(200)의 전원을 켜거나 끈다. 사용자는 버튼들 중 하나 이상의 버튼의 기능을 사용자 지정(customize)할 수 있다. 터치 스크린(212)은 가상 또는 소프트 버튼들 및 하나 이상의 소프트 키보드를 구현하는 데 사용된다.
터치 감응형 디스플레이(212)는 디바이스와 사용자 사이의 입력 인터페이스 및 출력 인터페이스를 제공한다. 디스플레이 제어기(256)는 터치 스크린(212)으로부터/으로 전기 신호들을 수신하고/하거나 전송한다. 터치 스크린(212)은 사용자에게 시각적 출력을 디스플레이한다. 시각적 출력은 그래픽, 텍스트, 아이콘들, 비디오 및 이들의 임의의 조합(총칭하여 "그래픽"으로 지칭함)을 포함한다. 일부 실시예들에서, 시각적 출력의 일부 또는 전부가 사용자-인터페이스 객체들에 대응한다.
터치 스크린(212)은 햅틱 및/또는 촉각적 접촉에 기초하는 사용자로부터의 입력을 수용하는 터치 감응형 표면, 센서 또는 센서들의 세트를 갖는다. 터치 스크린(212) 및 디스플레이 제어기(256)는 (메모리(202) 내의 임의의 연관된 모듈들 및/또는 명령어들의 세트들과 함께) 터치 스크린(212) 상의 접촉(및 접촉의 임의의 이동 또는 중단)을 검출하고, 검출된 접촉을 터치 스크린(212) 상에 디스플레이된 사용자 - 인터페이스 객체들(예컨대, 하나 이상의 소프트 키, 아이콘, 웹페이지 또는 이미지)과의 상호작용으로 변환한다. 예시적인 실시예에서, 터치 스크린(212)과 사용자 사이의 접촉 지점은 사용자의 손가락에 대응한다.
터치 스크린(212)은, LCD(liquid crystal display) 기술, LPD(light emitting polymer display) 기술, 또는 LED(light emitting diode) 기술을 이용하지만, 다른 실시예들에서는 다른 디스플레이 기술들이 이용될 수 있다. 터치 스크린(212) 및 디스플레이 제어기(256)는, 용량성, 저항성, 적외선, 및 표면 음향파 기술들뿐만 아니라 다른 근접 센서 어레이들, 또는 터치 스크린(212)과의 하나 이상의 접촉 지점을 결정하기 위한 다른 요소들을 포함하지만 이들로 한정되지 않는, 현재 공지되어 있거나 추후에 개발되는 복수의 터치 감지 기술 중 임의의 것을 사용하여, 접촉 및 그의 임의의 이동 또는 중단을 검출한다. 예시적인 실시예에서, 미국 캘리포니아주 쿠퍼티노 소재의 애플 인크.로부터의 아이폰® 및 아이팟 터치®에서 발견되는 것과 같은 투영형 상호 정전용량 감지 기술(projected mutual capacitance sensing technology)이 이용된다.
터치 스크린(212)의 일부 실시예들에서의 터치 감응형 디스플레이는 하기 미국 특허들: 제6,323,846호(Westerman 외), 제6,570,557호(Westerman 외), 및/또는 제6,677,932호(Westerman), 및/또는 미국 특허 공개 공보 제2002/0015024A1호에 기재된 다중-터치 감응형 터치 패드들과 유사하며, 이들 각각은 그 전체가 참고로 본 명세서에 포함된다. 그러나, 터치 스크린(212)은 디바이스(200)로부터의 시각적 출력을 디스플레이하는 반면, 터치 감응형 터치 패드들은 시각적 출력을 제공하지 않는다.
터치 스크린(212)의 일부 실시예들에서의 터치 감응형 디스플레이는 하기 출원들에 기재되는 바와 같다: (1) 2006년 5월 2일자로 출원되고 발명의 명칭이 "Multipoint Touch Surface Controller"인 미국 특허 출원 제11/381,313호; (2) 2004년 5월 6일자로 출원되고 발명의 명칭이 "Multipoint Touchscreen"인 미국 특허 출원 제10/840,862호; (3) 2004년 7월 30일자로 출원되고 발명의 명칭이 "Gestures For Touch Sensitive Input Devices"인 미국 특허 출원 제10/903,964호; (4) 2005년 1월 31일 월요일자로 출원된 미국 특허 출원 제11/048,264호, "Gestures For Touch Sensitive Input Devices"; (5) 2005년 1월 18일자로 출원되고 발명의 명칭이 "Mode-Based Graphical User Interfaces For Touch Sensitive Input Devices"인 미국 특허 출원 제11/038,590호; (6) 2005년 9월 16일자로 출원되고 발명의 명칭이 "Virtual Input Device Placement On A Touch Screen User Interface"인 미국 특허 출원 제11/228,758호; (7) 2005년 9월 16일자로 출원되고 발명의 명칭이 "Operation Of A Computer With A Touch Screen Interface"인 미국 특허 출원 제11/228,700호; (8) 2005년 9월 16일자로 출원된 미국 특허 출원 제11/228,737호, "Activating Virtual Keys Of A Touch-Screen Virtual Keyboard"; 및 (9) 2006년 3월 3일자로 출원된 미국 특허 출원 제11/367,749호, "Multi-Functional Hand-Held Device". 이 출원들 모두는 그 전체가 참고로 본 명세서에 포함된다.
터치 스크린(212)은, 예를 들어, 100 dpi를 초과하는 비디오 해상도를 갖는다. 일부 실시예들에서, 터치 스크린은 대략 160 dpi의 비디오 해상도를 갖는다. 사용자는 스타일러스, 손가락 등과 같은 임의의 적합한 물체 또는 부속물을 사용하여 터치 스크린(212)과 접촉한다. 일부 실시예들에서, 사용자 인터페이스는 주로 손가락 기반 접촉들 및 제스처들을 이용하여 동작하도록 설계되는데, 이는 터치 스크린 상에서의 손가락의 더 넓은 접촉 면적으로 인해 스타일러스 기반 입력보다 덜 정밀할 수 있다. 일부 실시예들에서, 디바이스는 대략적인 손가락 기반 입력을 사용자가 원하는 동작들을 수행하기 위한 정밀한 포인터/커서 위치 또는 커맨드(command)로 변환한다.
일부 실시예들에서, 터치 스크린 외에도, 디바이스(200)는 특정 기능들을 활성화 또는 비활성화시키기 위한 터치패드(도시되지 않음)를 포함한다. 일부 실시예들에서, 터치 패드는, 터치 스크린과는 달리, 시각적 출력을 디스플레이하지 않는 디바이스의 터치 감응 영역이다. 터치 패드는 터치 스크린(212)과는 별개인 터치 감응형 표면 또는 터치 스크린에 의해 형성되는 터치 감응형 표면의 연장부이다.
디바이스(200)는 또한 다양한 컴포넌트들에 전력을 공급하기 위한 전력 시스템(262)을 포함한다. 전력 시스템(262)은 전력 관리 시스템, 하나 이상의 전원들(예컨대, 배터리, 교류 전류(alternating current: AC)), 재충전 시스템, 전력 고장 검출 회로, 전력 변환기 또는 인버터, 전력 상태 표시자(예컨대, 발광 다이오드(LED)), 및 휴대용 디바이스들 내에서의 전력의 생성, 관리 및 분배와 연관된 임의의 다른 컴포넌트들을 포함한다.
디바이스(200)는 또한 하나 이상의 광 센서(264)를 포함한다. 도 2a는 I/O 서브시스템(206) 내의 광 센서 제어기(258)에 결합되는 광 센서를 도시한다. 광 센서(264)는 전하-결합 소자(charge-coupled device, CCD) 또는 상보성 금속-산화물 반도체(complementary metal-oxide semiconductor, CMOS) 포토트랜지스터들을 포함한다. 광 센서(264)는 하나 이상의 렌즈를 통해 투영되는, 주변환경으로부터의 광을 수광하고, 그 광을 이미지를 표현하는 데이터로 변환한다. 이미징 모듈(243)(카메라 모듈이라고도 지칭됨)과 함께, 광 센서(264)는 정지 이미지들 또는 비디오를 캡처한다. 일부 실시예들에서, 광 센서는 디바이스 전면 상의 터치 스크린 디스플레이(212)의 반대편인 디바이스(200)의 배면 상에 위치되어, 터치 스크린 디스플레이가 정지 및/또는 비디오 영상 획득을 위한 뷰파인더로서 사용되게 한다. 일부 실시예들에서, 광 센서가 디바이스의 전면 상에 위치되어, 사용자가 터치 스크린 디스플레이 상에서 다른 화상 회의 참여자들을 보는 동안, 사용자의 이미지가 화상 회의를 위해 획득되게 한다. 일부 실시예들에서, 광 센서(264)의 위치는 (예컨대, 디바이스 하우징 내의 렌즈 및 센서를 회전시킴으로써) 사용자에 의해 변경되어, 단일 광 센서(264)가 터치 스크린 디스플레이와 함께 화상 회의와 정지 및/또는 비디오 이미지 획득 둘 모두에 사용되게 할 수 있다.
디바이스(200)는 또한, 선택적으로, 하나 이상의 접촉 세기 센서(265)를 포함한다. 도 2a는 I/O 서브시스템(206) 내의 세기 센서 제어기(259)에 결합된 접촉 세기 센서를 도시한다. 접촉 세기 센서(265)는, 선택적으로, 하나 이상의 압전 저항 변형 게이지, 용량성 힘 센서, 전기적 힘 센서, 압전 힘 센서, 광학적 힘 센서, 용량성 터치 감응형 표면, 또는 다른 세기 센서들(예컨대, 터치 감응형 표면 상의 접촉의 힘(또는 압력)을 측정하는 데 사용되는 센서들)을 포함한다. 접촉 세기 센서(265)는 주변환경으로부터 접촉 세기 정보(예컨대, 압력 정보 또는 압력 정보에 대한 프록시)를 수신한다. 일부 실시예들에서, 적어도 하나의 접촉 세기 센서는 터치 감응형 표면(예컨대, 터치 감응형 디스플레이 시스템(212))과 함께 위치(collocate)되거나 그에 근접한다. 일부 실시예들에서, 적어도 하나의 접촉 세기 센서는 디바이스(200)의 전면 상에 위치된 터치 스크린 디스플레이(212)의 반대편인 디바이스(200)의 배면 상에 위치된다.
디바이스(200)는 또한 하나 이상의 근접 센서(266)를 포함한다. 도 2a는 주변기기 인터페이스(218)에 결합된 근접 센서(266)를 도시한다. 대안적으로, 근접 센서(266)는 I/O 서브시스템(206) 내의 입력 제어기(260)에 결합된다. 근접 센서(266)는, 발명의 명칭이 "Proximity Detector In Handheld Device"인 미국 특허 출원 제11/241,839호; 발명의 명칭이 "Proximity Detector In Handheld Device"인 제11/240,788호; 발명의 명칭이 "Using Ambient Light Sensor To Augment Proximity Sensor Output"인 제11/620,702호; 발명의 명칭이 "Automated Response To And Sensing Of User Activity In Portable Devices"인 제11/586,862호; 및 발명의 명칭이 "Methods And Systems For Automatic Configuration Of Peripherals"인 제11/638,251호에 기재된 것과 같이 작동하며, 이들은 이로써 그 전체가 참고로 본 명세서에 포함된다. 일부 실시예들에서, 근접 센서는 다기능 디바이스가 사용자의 귀 근처에 위치될 때(예컨대, 사용자가 전화 통화를 하고 있을 때) 터치 스크린(212)을 끄고 디스에이블시킨다.
디바이스(200)는 또한, 선택적으로, 하나 이상의 촉각적 출력 생성기들(267)을 포함한다. 도 2a는 I/O 서브시스템(206) 내의 햅틱 피드백 제어기(261)에 결합된 촉각적 출력 생성기를 도시한다. 촉각적 출력 생성기(267)는, 선택적으로, 스피커들 또는 다른 오디오 컴포넌트들과 같은 하나 이상의 전자음향 디바이스 및/또는 모터, 솔레노이드, 전기활성 중합체, 압전 액추에이터, 정전 액추에이터, 또는 다른 촉각적 출력 생성 컴포넌트(예컨대, 전기 신호들을 디바이스 상의 촉각적 출력들로 변환하는 컴포넌트)와 같은, 에너지를 선형 모션(linear motion)으로 변환하는 전자기계 디바이스들을 포함한다. 접촉 세기 센서(265)는 햅틱 피드백 모듈(233)로부터 촉각적 피드백 생성 명령어들을 수신하여 디바이스(200)의 사용자에 의해 감지될 수 있는 디바이스(200) 상의 촉각적 출력들을 생성한다. 일부 실시예들에서, 적어도 하나의 촉각적 출력 생성기는 터치 감응형 표면(예컨대, 터치 감응형 디스플레이 시스템(212))과 함께 위치되거나 그에 근접하며, 선택적으로, 터치 감응형 표면을 수직으로(예컨대, 디바이스(200)의 표면 내/외로) 또는 측방향으로(예컨대, 디바이스(200)의 표면과 동일한 평면에서 전후로) 이동시킴으로써 촉각적 출력을 생성한다. 일부 실시예들에서, 적어도 하나의 촉각적 출력 생성기 센서는 디바이스(200)의 전면 상에 위치된 터치 스크린 디스플레이(212)의 반대편인 디바이스(200)의 배면 상에 위치된다.
디바이스(200)는 또한 하나 이상의 가속도계(268)를 포함한다. 도 2a는 주변기기 인터페이스(218)에 결합된 가속도계(268)를 도시한다. 대안적으로, 가속도계(268)는 I/O 서브시스템(206) 내의 입력 제어기(260)에 결합된다. 가속도계(268)는, 예를 들어, 미국 특허 공개 공보 제20050190059호, "Acceleration-based Theft Detection System for Portable Electronic Devices" 및 미국 특허 공개 공보 제20060017692호, "Methods And Apparatuses For Operating A Portable Device Based On An Accelerometer"에 기술된 것과 같이 작동하며, 이들 둘 모두는 그 전체가 참고로 본 명세서에 포함된다. 일부 실시예들에서, 하나 이상의 가속도계로부터 수신된 데이터의 분석에 기초하여 터치 스크린 디스플레이 상에 세로보기(portrait view) 또는 가로보기(landscape view)로 정보가 디스플레이된다. 디바이스(200)는, 선택적으로, 가속도계(들)(268) 외에도, 자력계(도시되지 않음), 및 디바이스(200)의 위치 및 배향(예컨대, 세로 또는 가로)에 관한 정보를 얻기 위한 GPS(또는 GLONASS 또는 다른 글로벌 내비게이션 시스템) 수신기(도시되지 않음)를 포함한다.
일부 실시예들에서, 메모리(202)에 저장된 소프트웨어 컴포넌트들은 운영 체제(226), 통신 모듈(또는 명령어들의 세트)(228), 접촉/모션 모듈(또는 명령어들의 세트)(230), 그래픽 모듈(또는 명령어들의 세트)(232), 텍스트 입력 모듈(또는 명령어들의 세트)(234), GPS 모듈(또는 명령어들의 세트)(235), 디지털 어시스턴트 클라이언트 모듈(229), 및 애플리케이션들(또는 명령어들의 세트들)(236)을 포함한다. 또한, 메모리(202)는 데이터 및 모델들, 예컨대, 사용자 데이터 및 모델들(231)을 저장한다. 게다가, 일부 실시예들에서, 메모리(도 2a의 202 또는 도 4의 470)는 도 2a 및 도 4에 도시된 바와 같이 디바이스/글로벌 내부 상태(257)를 저장한다. 디바이스/글로벌 내부 상태(257)는, 존재하는 경우, 어떤 애플리케이션들이 현재 활성인지를 나타내는 활성 애플리케이션 상태; 어떤 애플리케이션들, 뷰들, 또는 다른 정보가 터치 스크린 디스플레이(212)의 다양한 영역들을 점유하는지를 나타내는 디스플레이 상태; 디바이스의 다양한 센서들 및 입력 제어 디바이스(216)들로부터 획득된 정보를 포함하는 센서 상태; 및 디바이스의 위치 및/또는 자세에 관한 위치 정보 중 하나 이상을 포함한다.
운영 체제(226)(예컨대, Darwin, RTXC, LINUX, UNIX, OS X, iOS, WINDOWS, 또는 VxWorks와 같은 임베디드 운영 체제)는 일반적인 시스템 태스크들(예컨대, 메모리 관리, 저장 디바이스 제어, 전력 관리 등)을 제어 및 관리하기 위한 다양한 소프트웨어 컴포넌트들 및/또는 드라이버들을 포함하고, 다양한 하드웨어와 소프트웨어 컴포넌트들 사이의 통신을 용이하게 한다.
통신 모듈(228)은 하나 이상의 외부 포트(224)를 통한 다른 디바이스들과의 통신을 용이하게 하고, 또한 RF 회로부(208) 및/또는 외부 포트(224)에 의해 수신되는 데이터를 처리하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다. 외부 포트(224)(예컨대, USB(Universal Serial Bus), 파이어와이어(FIREWIRE) 등)는 다른 디바이스들에 직접적으로 또는 네트워크(예컨대, 인터넷, 무선 LAN 등)를 통해 간접적으로 결합하도록 구성된다. 일부 실시예들에서, 외부 포트는 아이팟®(애플 인크.의 상표) 디바이스들에서 사용되는 30-핀 커넥터와 동일하거나 유사하고 그리고/또는 그와 호환 가능한 멀티-핀(예컨대, 30-핀) 커넥터이다.
접촉/모션 모듈(230)은, 선택적으로, (디스플레이 제어기(256)와 함께) 터치 스크린(212), 및 다른 터치 감응형 디바이스들(예컨대, 터치 패드 또는 물리적 클릭 휠)과의 접촉을 검출한다. 접촉/모션 모듈(230)은 접촉이 발생했는지를 판정하는 것(예컨대, 손가락-다운 이벤트(finger-down event)를 검출하는 것), 접촉의 세기(예컨대, 접촉의 힘 또는 압력, 또는 접촉의 힘 또는 압력에 대한 대체물)를 결정하는 것, 접촉의 이동이 있는지를 판정하고 터치 감응형 표면을 가로지르는 이동을 추적하는 것(예컨대, 하나 이상의 손가락-드래그 이벤트(finger-dragging event)를 검출하는 것), 및 접촉이 중단되었는지를 판정하는 것(예컨대, 손가락-업 이벤트(finger-up event) 또는 접촉 중단을 검출하는 것)과 같은, 접촉의 검출에 관련된 다양한 동작들을 수행하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다. 접촉/모션 모듈(230)은 터치 감응형 표면으로부터 접촉 데이터를 수신한다. 일련의 접촉 데이터에 의해 표현되는 접촉 지점의 이동을 결정하는 것은, 선택적으로, 접촉 지점의 속력(크기), 속도(크기 및 방향), 및/또는 가속도(크기 및/또는 방향의 변화)를 결정하는 것을 포함한다. 이 동작들은, 선택적으로, 단일 접촉들(예컨대, 한 손가락 접촉들)에 또는 다수의 동시 접촉들(예컨대, "멀티터치"/다수의 손가락 접촉들)에 적용된다. 일부 실시예들에서, 접촉/모션 모듈(230) 및 디스플레이 제어기(256)는 터치패드 상의 접촉을 검출한다.
일부 실시예들에서, 접촉/모션 모듈(230)은 동작이 사용자에 의해 수행되었는지 여부를 결정하는 데(예컨대, 사용자가 아이콘에 대해 "클릭"했는지 여부를 결정하는 데) 하나 이상의 세기 임계치들의 세트를 이용한다. 일부 실시예들에서, 적어도 세기 임계치들의 서브세트가 소프트웨어 파라미터들에 따라 결정된다(예컨대, 세기 임계치들은 특정 물리적 액추에이터들의 활성화 임계치들에 의해 결정되지 않으며, 디바이스(200)의 물리적 하드웨어를 변경함이 없이 조정될 수 있다). 예를 들면, 트랙패드 또는 터치 스크린 디스플레이의 마우스 "클릭" 임계치는 트랙패드 또는 터치 스크린 디스플레이 하드웨어를 변경함이 없이 넓은 범위의 미리 정의된 임계치 값들 중 임의의 것으로 설정될 수 있다. 추가로, 일부 구현예들에서, 디바이스의 사용자는 (예컨대, 개개의 세기 임계치들을 조정함으로써 그리고/또는 복수의 세기 임계치들을 시스템 레벨 클릭 "세기" 파라미터로 한꺼번에 조정함으로써) 세기 임계치들의 세트 중 하나 이상의 세기 임계치를 조정하기 위한 소프트웨어 설정값들을 제공받는다.
접촉/모션 모듈(230)은, 선택적으로, 사용자에 의한 제스처 입력을 검출한다. 터치 감응형 표면 상의 상이한 제스처들은 상이한 접촉 패턴들(예컨대, 상이한 모션들, 타이밍들, 및/또는 검출된 접촉들의 세기들)을 갖는다. 따라서, 제스처는 선택적으로 특정 접촉 패턴을 검출함으로써 검출된다. 예를 들면, 손가락 탭 제스처(finger tap gesture)를 검출하는 것은 손가락-다운 이벤트를 검출한 다음에 손가락-다운 이벤트와 동일한 위치(또는 실질적으로 동일한 위치)(예컨대, 아이콘의 위치)에서 손가락-업(리프트오프(liftoff)) 이벤트를 검출하는 것을 포함한다. 다른 예로서, 터치 감응형 표면 상에서 손가락 스와이프 제스처(finger swipe gesture)를 검출하는 것은 손가락-다운 이벤트를 검출한 다음에 하나 이상의 손가락-드래그 이벤트를 검출하고, 그에 후속하여 손가락-업(리프트오프) 이벤트를 검출하는 것을 포함한다.
그래픽 모듈(232)은, 디스플레이되는 그래픽의 시각적 효과(예컨대, 밝기, 투명도, 채도, 콘트라스트 또는 다른 시각적 속성)를 변경하기 위한 컴포넌트들을 포함하는, 터치 스크린(212) 또는 다른 디스플레이 상에서 그래픽을 렌더링 및 디스플레이하기 위한 다양한 공지된 소프트웨어 컴포넌트들을 포함한다. 본 명세서에 사용되는 바와 같이, 용어 "그래픽"은 텍스트, 웹 페이지들, 아이콘들(예를 들어, 소프트 키들을 포함한 사용자 인터페이스 객체들), 디지털 이미지들, 비디오들, 애니메이션들 등을 제한 없이 포함하는, 사용자에게 디스플레이될 수 있는 임의의 객체를 포함한다.
일부 실시예들에서, 그래픽 모듈(232)은 사용될 그래픽을 표현하는 데이터를 저장한다. 각각의 그래픽에는 선택적으로 대응하는 코드가 할당된다. 그래픽 모듈(232)은, 필요한 경우 좌표 데이터 및 다른 그래픽 속성 데이터와 함께, 디스플레이될 그래픽을 특정하는 하나 이상의 코드를 애플리케이션들 등으로부터 수신하며, 이어서 스크린 이미지 데이터를 생성하여 디스플레이 제어기(256)에 출력한다.
햅틱 피드백 모듈(233)은 디바이스(200)와의 사용자 상호작용들에 응답하여 디바이스(200) 상의 하나 이상의 위치에서 촉각적 출력들을 생성하기 위하여 촉각적 출력 생성기(들)(267)에 의해 이용되는 명령어들을 생성하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다.
일부 예들에서, 그래픽 모듈(232)의 컴포넌트인 텍스트 입력 모듈(234)은 다양한 애플리케이션들(예컨대, 연락처(237), 이메일(240), IM(241), 브라우저(247), 및 텍스트 입력을 필요로 하는 임의의 다른 애플리케이션)에서 텍스트를 입력하기 위한 소프트 키보드들을 제공한다.
GPS 모듈(235)은 디바이스의 위치를 결정하고, 이 정보를 다양한 애플리케이션들에서의 사용을 위해 (예컨대, 위치 기반 다이얼링에서 사용하기 위해 전화(238)에; 사진/비디오 메타데이터로서 카메라(243)에; 그리고 날씨 위젯들, 지역 옐로 페이지 위젯들 및 지도/내비게이션 위젯들과 같은 위치 기반 서비스들을 제공하는 애플리케이션들에) 제공한다.
디지털 어시스턴트 클라이언트 모듈(229)은 디지털 어시스턴트의 클라이언트 측 기능들을 제공하기 위한 다양한 클라이언트 측 디지털 어시스턴트 명령어들을 포함한다. 예를 들어, 디지털 어시스턴트 클라이언트 모듈(229)은 휴대용 다기능 디바이스(200)의 다양한 사용자 인터페이스들(예컨대, 마이크로폰(213), 가속도계(들)(268), 터치 감응형 디스플레이 시스템(212), 광 센서(들)(229), 다른 입력 제어 디바이스들(216) 등)을 통하여 음성 입력(예컨대, 스피치 입력), 텍스트 입력, 터치 입력, 및/또는 제스처 입력을 수용할 수 있다. 디지털 어시스턴트 클라이언트 모듈(229)은 또한, 휴대용 다기능 디바이스(200)의 다양한 출력 인터페이스들(예컨대, 스피커(211), 터치 감응형 디스플레이 시스템(212), 촉각적 출력 생성기(들)(267) 등)을 통하여 청각적(예컨대, 스피치 출력), 시각적, 및/또는 촉각적 형태들의 출력을 제공할 수 있다. 예를 들어, 출력은 음성, 소리, 경고, 텍스트 메시지, 메뉴, 그래픽, 비디오, 애니메이션, 진동, 및/또는 이들 중 둘 이상의 것들의 조합들로서 제공된다. 동작 동안, 디지털 어시스턴트 클라이언트 모듈(229)은 RF 회로부(208)를 사용하여 DA 서버(106)와 통신한다.
사용자 데이터 및 모델들(231)은, 디지털 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 사용자와 연관된 다양한 데이터(예컨대, 사용자-특정 어휘 데이터, 사용자 선호도 데이터, 사용자-특정 이름 발음들, 사용자의 전자 주소록으로부터의 데이터, 할 일 목록들, 쇼핑 목록들 등)를 포함한다. 또한, 사용자 데이터 및 모델들(231)은 사용자 입력을 프로세싱하고 사용자 의도를 결정하기 위해 다양한 모델들(예컨대, 스피치 인식 모델들, 통계 언어 모델들, 자연 언어 프로세싱 모델들, 온톨로지, 태스크 흐름 모델들, 서비스 모델들 등)을 포함한다.
일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(229)은 사용자와 연관된 컨텍스트, 현재 사용자 상호작용, 및/또는 현재 사용자 입력을 확립하기 위해 휴대용 다기능 디바이스(200)의 다양한 센서들, 서브시스템들, 및 주변기기 디바이스들을 이용하여 휴대용 다기능 디바이스(200)의 주위 환경으로부터 추가 정보를 수집한다. 일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(229)은 DA 서버(106)에 사용자 입력과 함께 컨텍스트 정보 또는 그의 서브세트를 제공하여 사용자의 의도를 추론하는 것을 돕는다. 일부 예들에서, 디지털 어시스턴트는 또한 컨텍스트 정보를 이용하여 어떻게 출력들을 준비하여 사용자에게 전달할 것인지를 결정한다. 컨텍스트 정보는 컨텍스트 데이터라고 지칭된다.
일부 예들에서, 사용자 입력을 동반하는 컨텍스트 정보는 센서 정보, 예컨대, 조명, 주변 잡음, 주변 온도, 주위 환경의 이미지들 또는 비디오들 등을 포함한다. 일부 예들에서, 컨텍스트 정보는 또한 디바이스의 물리적 상태, 예컨대, 디바이스 배향, 디바이스 위치, 디바이스 온도, 전력 레벨, 속력, 가속도, 모션 패턴들, 셀룰러 신호 강도 등을 포함할 수 있다. 일부 예들에서, DA 서버(106)의 소프트웨어 상태에 관련된 정보, 예를 들어 실행 중인 프로세스들, 설치된 프로그램들, 과거 및 현재의 네트워크 활동성들, 백그라운드 서비스들, 에러 로그들, 리소스 사용 등, 및 휴대용 다기능 디바이스(200)의 정보는 사용자 입력과 연관된 컨텍스트 정보로서 DA 서버(106)에 제공된다.
일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(229)은 DA 서버(106)로부터의 요청들에 응답하여 휴대용 다기능 디바이스(200) 상에 저장된 정보(예컨대, 사용자 데이터(231))를 선택적으로 제공한다. 일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(229)은 또한 DA 서버(106)에 의한 요청에 따라 자연 언어 대화 또는 다른 사용자 인터페이스들을 통해 사용자로부터 추가 입력을 이끌어낸다. 디지털 어시스턴트 클라이언트 모듈(229)은 DA 서버(106)에 추가 입력을 전달하여, 사용자 요청에서 표현되는 사용자의 의도의 의도 추론 및/또는 이행 시에 DA 서버(106)를 돕는다.
디지털 어시스턴트의 더욱 상세한 설명이 도 7a 내지 도 7c를 참조하여 후술된다. 디지털 어시스턴트 클라이언트 모듈(229)이 후술되는 디지털 어시스턴트 모듈(726)의 임의의 개수의 하위모듈들을 포함할 수 있다는 것이 인식되어야 한다.
애플리케이션들(236)은 하기의 모듈들(또는 명령어들의 세트들), 또는 이들의 서브세트 또는 수퍼세트(superset)를 포함한다:
일부 예들에서, 날씨 위젯(249-1), 주식 위젯(249-2), 계산기 위젯(249-3), 알람 시계 위젯(249-4), 사전 위젯(249-5), 및 사용자에 의해 획득되는 다른 위젯들뿐 아니라 사용자생성 위젯들(249-6) 중 하나 이상을 포함하는 위젯 모듈들(249);
메모리(202)에 저장되는 다른 애플리케이션들(236)의 예들은 다른 워드 프로세싱 애플리케이션들, 다른 이미지 편집 애플리케이션들, 그리기 애플리케이션들, 프레젠테이션 애플리케이션들, JAVA-작동식 애플리케이션들, 암호화, 디지털 권한 관리, 음성 인식, 및 음성 복제를 포함한다
터치 스크린(212), 디스플레이 제어기(256), 접촉 /모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 연락처 모듈(237)은 주소록 또는 연락처 목록(예를 들어, 메모리(202) 또는 메모리(470) 내의 연락처 모듈(237)의 애플리케이션 내부 상태(292)에 저장됨)을 관리하는 데 사용될 수 있으며, 이는 하기를 포함한다: 이름(들)을 주소록에 추가하는 것; 주소록으로부터 이름(들)을 삭제하는 것; 전화번호(들), 이메일 주소(들), 물리적 주소(들) 또는 다른 정보를 이름과 연관시키는 것; 이미지를 이름과 연관시키는 것; 이름들을 분류 및 정렬하는 것; 전화(238), 화상 회의 모듈(239), 이메일(240) 또는 IM(241)에 의한 통신을 개시하고/하거나 용이하게 하기 위해 전화번호들 또는 이메일 주소들을 제공하는 것 등.
RF 회로부(208), 오디오 회로부(210), 스피커(211), 마이크로폰(213), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 및 텍스트 입력 모듈(234)과 함께, 전화 모듈(238)은, 전화번호에 대응하는 문자들의 시퀀스를 입력하고, 연락처 모듈(237) 내의 하나 이상의 전화번호에 액세스하며, 입력된 전화번호를 수정하고, 개개의 전화번호를 다이얼링하며, 대화를 하고, 대화가 완료된 때 접속해제하거나 끊는 데 사용된다. 전술된 바와 같이, 무선 통신은 복수의 통신 표준들, 프로토콜들 및 기술들 중 임의의 것을 이용한다.
RF 회로부(208), 오디오 회로부(210), 스피커(211), 마이크로폰(213), 터치 스크린(212), 디스플레이 제어기(256), 광 센서(264), 광 센서 제어기(258), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234), 연락처 모듈(237) 및 전화 모듈(238)과 함께, 화상 회의 모듈(239)은 사용자 지시들에 따라 사용자와 한 명 이상의 다른 참여자들 사이의 화상 회의를 개시, 시행 및 종료하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 이메일 클라이언트 모듈(240)은 사용자 지시들에 응답하여 이메일을 작성, 전송, 수신, 및 관리하도록 하는 실행가능한 명령어들을 포함한다. 이미지 관리 모듈(244)과 함께, 이메일 클라이언트 모듈(240)은 카메라 모듈(243)로 촬영된 정지 또는 비디오 이미지들을 갖는 이메일들을 생성 및 전송하는 것을 매우 용이하게 한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 인스턴트 메시징 모듈(241)은, 인스턴트 메시지에 대응하는 문자들의 시퀀스를 입력하고, 이전에 입력된 문자들을 수정하고, (예를 들어, 전화 기반 인스턴트 메시지들을 위한 단문자 메시지 서비스(Short Message Service; SMS) 또는 멀티미디어 메시지 서비스(Multimedia Message Service; MMS) 프로토콜을 이용하거나, 인터넷 기반 인스턴트 메시지들을 위한 XMPP, SIMPLE 또는 IMPS를 이용하여) 개개의 인스턴트 메시지를 송신하고, 인스턴트 메시지들을 수신하고, 수신된 인스턴트 메시지들을 보도록 하는 실행가능한 명령어들을 포함한다. 일부 실시예들에서, 전송 및/또는 수신되는 인스턴트 메시지들은 그래픽, 사진들, 오디오 파일들, 비디오 파일들, 그리고/또는 MMS 및/또는 EMS(Enhanced Messaging Service)에서 지원되는 바와 같은 다른 첨부물들을 포함한다. 본 명세서에서 사용되는 바와 같이, "인스턴트 메시징"은 전화 기반 메시지들(예컨대, SMS 또는 MMS를 이용하여 전송되는 메시지들) 및 인터넷 기반 메시지들(예컨대, XMPP, SIMPLE 또는 IMPS를 이용하여 전송되는 메시지들) 둘 모두를 지칭한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234), GPS 모듈(235), 지도 모듈(254), 및 음악 재생기 모듈과 함께, 운동 지원 모듈(242)은, (예컨대, 시간, 거리, 및/또는 열량 소비 목표와 함께) 운동들을 고안하고; 운동 센서들(스포츠 디바이스들)과 통신하고; 운동 센서 데이터를 수신하고; 운동을 모니터링하는 데 사용되는 센서들을 교정하고; 운동을 위한 음악을 선택 및 재생하고; 운동 데이터를 디스플레이, 저장 및 송신하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 광 센서(들)(264), 광 센서 제어기(258), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 이미지 관리 모듈(244)과 함께, 카메라 모듈(243)은, 정지 이미지들 또는 비디오(비디오 스트림을 포함함)를 캡처하고 이들을 메모리(202) 내에 저장하거나, 정지 이미지 또는 비디오의 특성을 수정하거나, 메모리(202)로부터 정지 이미지 또는 비디오를 삭제하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234) 및 카메라 모듈(243)과 함께, 이미지 관리 모듈(244)은 정지 및/또는 비디오 이미지들을 배열하거나, 수정(예컨대, 편집)하거나, 또는 그렇지 않으면 조작하고, 라벨링하고, 삭제하고, (예컨대, 디지털 슬라이드 쇼 또는 앨범에) 제시하고, 저장하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 브라우저 모듈(247)은, 웹 페이지들 또는 이들의 부분들뿐만 아니라 웹 페이지들에 링크된 첨부물들 및 다른 파일들을 검색하고, 그들에 링크하고, 수신하고, 그리고 디스플레이하는 것을 비롯한, 사용자 지시들에 따라 인터넷을 브라우징하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234), 이메일 클라이언트 모듈(240), 및 브라우저 모듈(247)과 함께, 캘린더 모듈(248)은 사용자 지시들에 따라 캘린더들 및 캘린더들과 연관된 데이터(예컨대, 캘린더 엔트리들, 할 일 목록들 등)를 생성하도록, 디스플레이하도록, 수정하도록, 그리고 저장하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234) 및 브라우저 모듈(247)과 함께, 위젯 모듈들(249)은 사용자에 의해 다운로드 및 사용되거나(예컨대, 날씨 위젯(249-1), 주식 위젯(249-2), 계산기 위젯(249-3), 알람 시계 위젯(249-4) 및 사전 위젯(249-5)), 또는 사용자에 의해 생성되는(예컨대, 사용자-생성 위젯(249-6)) 미니-애플리케이션(mini-application)들이다. 일부 실시예들에서, 위젯은 HTML(Hypertext Markup Language) 파일, CSS(Cascading Style Sheets) 파일 및 자바스크립트(JavaScript) 파일을 포함한다. 일부 실시예들에서, 위젯은 XML(Extensible Markup Language) 파일 및 자바스크립트 파일(예컨대, Yahoo! 위젯들)을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234) 및 브라우저 모듈(247)과 함께, 위젯 생성기 모듈(250)은 사용자에 의해 위젯들을 생성(예를 들어, 웹 페이지의 사용자 지정 부분을 위젯으로 변경)하는 데 사용된다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 검색 모듈(251)은 사용자 지시들에 따라 하나 이상의 검색 기준(예컨대, 하나 이상의 사용자 특정 검색어)에 매칭되는 메모리(202) 내의 텍스트, 음악, 사운드, 이미지, 비디오, 및/또는 다른 파일들을 검색하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 오디오 회로부(210), 스피커(211), RF 회로부(208) 및 브라우저 모듈(247)과 함께, 비디오 및 음악 재생기 모듈(252)은, 사용자가 MP3 또는 AAC 파일들과 같은 하나 이상의 파일 포맷으로 저장된 기록된 음악 및 다른 사운드 파일들을 다운로드 및 재생할 수 있도록 하는 실행가능한 명령어들, 및 비디오들을 (예컨대, 터치 스크린(212) 상에서 또는 외부 포트(224)를 통해 외부의 접속된 디스플레이 상에서) 디스플레이하도록, 상영하도록, 또는 다른 방식으로 재생하도록 하는 실행가능한 명령어들을 포함한다. 일부 실시예들에서, 디바이스(200)는 선택적으로 아이팟(애플 인크.의 상표)과 같은 MP3 재생기의 기능을 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 메모 모듈(253)은 사용자 지시들에 따라 메모들, 할 일 목록들 등을 생성 및 관리하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234), GPS 모듈(235) 및 브라우저 모듈(247)과 함께, 지도 모듈(254)은 사용자 지시들에 따라 지도들 및 지도들과 연관된 데이터(예컨대, 운전 방향; 특정한 위치에서의 또는 그 인근의 상점들 및 다른 관심 지점들에 관한 데이터; 및 다른 위치 기반 데이터)를 수신하고, 디스플레이하고, 수정하고, 저장하는 데 사용된다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 오디오 회로부(210), 스피커(211), RF 회로부(208), 텍스트 입력 모듈(234), 이메일 클라이언트 모듈(240) 및 브라우저 모듈(247)과 함께, 온라인 비디오 모듈(255)은 사용자가 H.264와 같은 하나 이상의 파일 포맷의 온라인 비디오들에 액세스하고, 그들을 브라우징하고, (예컨대, 스트리밍 및/또는 다운로드에 의해) 수신하고, (예컨대, 터치 스크린 상에서 또는 외부 포트(224)를 통해 외부의 접속된 디스플레이 상에서) 재생하고, 특정한 온라인 비디오로의 링크와 함께 이메일을 전송하고, 그렇지 않으면 관리하게 하는 명령어들을 포함한다. 일부 실시예들에서, 이메일 클라이언트 모듈(240)보다는 오히려 인스턴트 메시징 모듈(241)이 특정 온라인 비디오로의 링크를 전송하는 데 사용된다. 온라인 비디오 애플리케이션에 대한 추가적 설명은, 2007년 6월 20일자로 출원된 미국 가특허 출원 제60/936,562호, "Portable Multifunction Device, Method, and Graphical User Interface for Playing Online Videos" 및 2007년 12월 31일자로 출원된 미국 특허 출원 제11/968,067호, "Portable Multifunction Device, Method, and Graphical User Interface for Playing Online Videos"에서 찾아볼 수 있으며, 이들의 내용은 이로써 그 전체가 참고로 본 명세서에 포함된다.
상기의 식별된 모듈들 및 애플리케이션들 각각은 전술된 하나 이상의 기능들 및 본 출원에 기술되는 방법들(예컨대, 본 명세서에 기술되는 컴퓨터 구현 방법들 및 다른 정보 프로세싱 방법들)을 수행하기 위한 실행가능한 명령어들의 세트에 대응한다. 이들 모듈들(예컨대, 명령어들의 세트들)은 별도의 소프트웨어 프로그램들, 절차들 또는 모듈들로서 구현될 필요는 없으며, 따라서 이들 모듈들의 다양한 서브세트들이 다양한 실시예들에서 조합되거나 달리 재배열될 수 있다. 예를 들어, 비디오 재생기 모듈은 음악 재생기 모듈과 조합되어 단일 모듈(예컨대, 도 2a의 비디오 및 음악 재생기 모듈(252))로 될 수 있다. 일부 실시예들에서, 메모리(202)는 앞서 식별된 모듈들 및 데이터 구조들의 서브세트를 저장한다. 또한, 메모리(202)는 전술되지 않은 추가의 모듈들 및 데이터 구조들을 저장한다.
일부 실시예들에서, 디바이스(200)는 디바이스 상의 미리 정의된 세트의 기능들의 동작이 터치 스크린 및/또는 터치 패드를 통해 전용으로 수행되는 디바이스이다. 터치 스크린 및/또는 터치 패드를 디바이스(200)의 동작을 위한 주 입력 제어 디바이스로서 사용함으로써, 디바이스(200) 상의 (푸시 버튼들, 다이얼들 등과 같은) 물리적 입력 제어 디바이스들의 수가 감소된다.
전적으로 터치 스크린 및/또는 터치 패드를 통해 수행되는 미리 정의된 세트의 기능들은, 선택적으로, 사용자 인터페이스들 간의 내비게이션을 포함한다. 일부 실시예들에서, 터치 패드는, 사용자에 의해 터치될 때, 디바이스(200)를 디바이스(200) 상에 디스플레이되는 임의의 사용자 인터페이스로부터 메인, 홈 또는 루트 메뉴로 내비게이팅(navigating)한다. 이러한 실시예들에서, "메뉴 버튼"이 터치 패드를 이용하여 구현된다. 일부 다른 실시예들에서, 메뉴 버튼은 터치 패드 대신에 물리적 푸시 버튼 또는 다른 물리적 입력 제어 디바이스이다.
도 2b는 일부 실시예들에 따른, 이벤트 처리를 위한 예시적인 컴포넌트들을 도시하는 블록도이다. 일부 실시예들에서, 메모리(도 2a의 202 또는 도 4의 470)는 (예컨대, 운영 체제(226)에서의) 이벤트 분류기(270) 및 개개의 애플리케이션(236-1)(예컨대, 전술된 애플리케이션들(237 내지 251, 255, 480 내지 490) 중 임의의 것)을 포함한다.
이벤트 분류기(270)는 이벤트 정보를 수신하고 그 이벤트 정보를 전달할 애플리케이션(236-1) 및 애플리케이션(236-1)의 애플리케이션 뷰(291)를 결정한다. 이벤트 분류기(270)는 이벤트 모니터(271)와 이벤트 디스패처 모듈(event dispatcher module)(274)을 포함한다. 일부 실시예들에서, 애플리케이션(236-1)은 애플리케이션이 활성이거나 실행 중일 때 터치 감응형 디스플레이(212) 상에 디스플레이되는 현재 애플리케이션 뷰(들)를 나타내는 애플리케이션 내부 상태(292)를 포함한다. 일부 실시예들에서, 디바이스/글로벌 내부 상태(257)는 이벤트 분류기(270)에 의해 어느 애플리케이션(들)이 현재 활성인지 결정하는 데 이용되며, 애플리케이션 내부 상태(292)는 이벤트 분류기(270)에 의해 이벤트 정보를 전달할 애플리케이션 뷰들(291)을 결정하는 데 이용된다.
일부 실시예들에서, 애플리케이션 내부 상태(292)는 애플리케이션(236-1)이 실행을 재개할 때 이용될 재개 정보, 애플리케이션(236-1)에 의해 디스플레이되고 있거나 디스플레이될 준비가 된 정보를 나타내는 사용자 인터페이스 상태 정보, 사용자가 애플리케이션(236-1)의 이전 상태 또는 뷰로 되돌아가도록 인에이블하기 위한 상태 큐(queue), 및 사용자에 의해 취해진 이전 액션들의 재실행(redo)/실행취소(undo) 큐 중 하나 이상과 같은 추가 정보를 포함한다.
이벤트 모니터(271)는 주변기기 인터페이스(218)로부터 이벤트 정보를 수신한다. 이벤트 정보는 서브이벤트(예를 들어, 다중 터치 제스처의 일부로서 터치 감응형 디스플레이(212) 상에서의 사용자 터치)에 대한 정보를 포함한다. 주변기기 인터페이스(218)는 I/O 서브시스템(206) 또는 센서, 예컨대, 근접 센서(266), 가속도계(들)(268), 및/또는 (오디오 회로부(210)를 통한) 마이크로폰(213)으로부터 수신하는 정보를 송신한다. 주변기기 인터페이스(218)가 I/O 서브시스템(206)으로부터 수신하는 정보는 터치 감응형 디스플레이(212) 또는 터치 감응형 표면으로부터의 정보를 포함한다.
일부 실시예들에서, 이벤트 모니터(271)는 요청들을 미리결정된 간격으로 주변기기 인터페이스(218)에 전송한다. 이에 응답하여, 주변기기 인터페이스(218)는 이벤트 정보를 송신한다. 다른 실시예들에서, 주변기기 인터페이스(218)는 중요한 이벤트(예컨대, 미리결정된 잡음 임계치를 초과하는 입력 및/또는 미리결정된 지속기간 초과 동안의 입력을 수신하는 것)가 있을 때에만 이벤트 정보를 송신한다.
일부 실시예들에서, 이벤트 분류기(270)는 또한 히트 뷰(hit view) 결정 모듈(272) 및/또는 활성 이벤트 인식기 결정 모듈(273)을 포함한다.
히트 뷰 결정 모듈(272)은 터치 감응형 디스플레이(212)가 둘 이상의 뷰를 디스플레이하는 경우에, 하나 이상의 뷰들 내에서 서브이벤트가 발생한 곳을 결정하기 위한 소프트웨어 절차들을 제공한다. 뷰들은 사용자가 디스플레이 상에서 볼 수 있는 제어부들 및 다른 요소들로 구성된다.
애플리케이션과 연관된 사용자 인터페이스의 다른 양태는 본 명세서에서 때때로 애플리케이션 뷰들 또는 사용자 인터페이스 창(user interface window)들로 지칭되는 한 세트의 뷰들이며, 여기서 정보가 디스플레이되고 터치 기반 제스처가 발생한다. 터치가 검출되는 (각자의 애플리케이션의) 애플리케이션 뷰들은 애플리케이션의 프로그램 또는 뷰 계층구조 내의 프로그램 레벨들에 대응한다. 예를 들어, 터치가 검출되는 최하위 레벨의 뷰는 히트 뷰로 지칭되고, 적절한 입력들로서 인식되는 이벤트들의 세트는 터치 기반 제스처를 시작하는 초기 터치의 히트 뷰에 적어도 부분적으로 기초하여 결정된다.
히트 뷰 결정 모듈(272)은 터치 기반 제스처의 서브이벤트들에 관련된 정보를 수신한다. 애플리케이션이 계층구조에서 조직화된 다수의 뷰들을 갖는 경우, 히트 뷰 결정 모듈(272)은 히트 뷰를, 서브이벤트를 처리해야 하는 계층구조 내의 최하위 뷰로서 식별한다. 대부분의 상황들에서, 히트 뷰는 개시되는 서브이벤트(예컨대, 이벤트 또는 잠재적 이벤트를 형성하는 서브이벤트들의 시퀀스 내의 첫 번째 서브이벤트)가 발생하는 최하위 레벨 뷰이다. 일단 히트 뷰가 히트 뷰 결정 모듈(272)에 의해 식별되면, 히트 뷰는 전형적으로 그것이 히트 뷰로서 식별되게 하는 것과 동일한 터치 또는 입력 소스에 관련된 모든 서브이벤트들을 수신한다.
활성 이벤트 인식기 결정 모듈(273)은 뷰 계층구조 내에서 어느 뷰 또는 뷰들이 서브이벤트들의 특정 시퀀스를 수신해야 하는지를 결정한다. 일부 실시예들에서, 활성 이벤트 인식기 결정 모듈(273)은 히트 뷰만이 서브이벤트들의 특정 시퀀스를 수신해야 하는 것으로 결정한다. 다른 실시예들에서, 활성 이벤트 인식기 결정 모듈(273)은 서브이벤트의 물리적 위치를 포함하는 모든 뷰들이 적극 참여 뷰(actively involved view)들인 것으로 결정하고, 그에 따라 모든 적극 참여 뷰들이 서브이벤트들의 특정 시퀀스를 수신해야 하는 것으로 결정한다. 다른 실시예들에서, 터치 서브이벤트들이 전적으로 하나의 특정 뷰와 연관된 영역으로 한정되었더라도, 계층구조 내의 상위 뷰들은 여전히 적극 참여 뷰들로서 유지될 것이다.
이벤트 디스패처 모듈(274)은 이벤트 정보를 이벤트 인식기(예컨대, 이벤트 인식기(280))에 디스패치한다. 활성 이벤트 인식기 결정 모듈(273)을 포함하는 실시예들에서, 이벤트 디스패처 모듈(274)은 이벤트 정보를 활성 이벤트 인식기 결정 모듈(273)에 의해 결정된 이벤트 인식기에 전달한다. 일부 실시예들에서, 이벤트 디스패처 모듈(274)은 이벤트 큐 내에 이벤트 정보를 저장하는데, 이벤트 정보는 개개의 이벤트 수신기(282)에 의해 인출된다.
일부 실시예들에서, 운영 체제(226)는 이벤트 분류기(270)를 포함한다. 대안적으로, 애플리케이션(236-1)은 이벤트 분류기(270)를 포함한다. 또 다른 실시예들에서, 이벤트 분류기(270)는 독립형 모듈이거나, 또는 접촉/모션 모듈(230)과 같이 메모리(202)에 저장되는 다른 모듈의 일부이다.
일부 실시예들에서, 애플리케이션(236-1)은 복수의 이벤트 핸들러(290) 및 하나 이상의 애플리케이션 뷰(291)를 포함하며, 이들의 각각은 애플리케이션의 사용자 인터페이스의 개개의 뷰 내에 발생하는 터치 이벤트들을 처리하기 위한 명령어들을 포함한다. 애플리케이션(236-1)의 각각의 애플리케이션 뷰(291)는 하나 이상의 이벤트 인식기(280)를 포함한다. 전형적으로, 개개의 애플리케이션 뷰(291)는 복수의 이벤트 인식기(280)를 포함한다. 다른 실시예들에서, 이벤트 인식기들(280) 중 하나 이상은 사용자 인터페이스 키트(도시되지 않음) 또는 애플리케이션(236-1)이 방법들 및 다른 속성들을 물려받는 상위 레벨 객체와 같은 별개의 모듈의 일부이다. 일부 실시예들에서, 개개의 이벤트 핸들러(290)는 데이터 업데이터(276), 객체 업데이터(277), GUI 업데이터(278), 및/또는 이벤트 분류기(270)로부터 수신된 이벤트 데이터(279) 중 하나 이상을 포함한다. 이벤트 핸들러(290)는 데이터 업데이터(276), 객체 업데이터(277) 또는 GUI 업데이터(278)를 이용하거나 호출하여 애플리케이션 내부 상태(292)를 업데이트한다. 대안적으로, 애플리케이션 뷰들(291) 중 하나 이상은 하나 이상의 개개의 이벤트 핸들러(290)를 포함한다. 또한, 일부 실시예들에서, 데이터 업데이터(276), 객체 업데이터(277), 및 GUI 업데이터(278) 중 하나 이상은 개개의 애플리케이션 뷰(291) 내에 포함된다.
개개의 이벤트 인식기(280)는 이벤트 분류기(270)로부터 이벤트 정보(예컨대, 이벤트 데이터(279))를 수신하고 그 이벤트 정보로부터 이벤트를 식별한다. 이벤트 인식기(280)는 이벤트 수신기(282) 및 이벤트 비교기(284)를 포함한다. 일부 실시예들에서, 이벤트 인식기(280)는 또한 적어도 메타데이터(283) 및 이벤트 전달 명령어들(288)(서브이벤트 전달 명령어들을 포함함)의 서브세트를 포함한다.
이벤트 수신기(282)는 이벤트 분류기(270)로부터 이벤트 정보를 수신한다. 이벤트 정보는 서브이벤트, 예를 들어 터치 또는 터치 이동에 관한 정보를 포함한다. 서브이벤트에 따라, 이벤트 정보는 또한 서브이벤트의 위치와 같은 추가 정보를 포함한다. 서브이벤트가 터치의 모션에 관한 것일 때, 이벤트 정보는 또한 서브이벤트의 속력 및 방향을 포함한다. 일부 실시예들에서, 이벤트들은 하나의 배향으로부터 다른 배향으로(예컨대, 세로 배향으로부터 가로 배향으로, 또는 그 반대로)의 디바이스의 회전을 포함하며, 이벤트 정보는 디바이스의 현재 배향(디바이스 자세로도 지칭됨)에 관한 대응하는 정보를 포함한다.
이벤트 비교기(284)는 이벤트 정보를 미리정의된 이벤트 또는 서브이벤트 정의들과 비교하고, 그 비교에 기초하여, 이벤트 또는 서브이벤트를 결정하거나, 이벤트 또는 서브이벤트의 상태를 결정 또는 업데이트한다. 일부 실시예들에서, 이벤트 비교기(284)는 이벤트 정의들(286)을 포함한다. 이벤트 정의들(286)은 이벤트들(예컨대, 서브이벤트들의 미리정의된 시퀀스들), 예를 들어 이벤트 1(287-1), 이벤트 2(287-2) 등의 정의들을 포함한다. 일부 실시예들에서, 이벤트(287) 내의 서브이벤트들은, 예를 들어, 터치 시작, 터치 종료, 터치 이동, 터치 취소, 및 다중 터치를 포함한다. 일례에서, 이벤트 1(287-1)에 대한 정의는 디스플레이된 객체 상에의 더블 탭이다. 더블 탭은, 예를 들어, 미리결정된 페이즈(phase) 동안의 디스플레이된 객체 상의 제1 터치(터치 시작), 미리결정된 페이즈 동안의 제1 리프트오프(터치 종료), 미리결정된 페이즈 동안의 디스플레이된 객체 상의 제2 터치(터치 시작), 및 미리결정된 페이즈 동안의 제2 리프트오프(터치 종료)를 포함한다. 다른 예에서, 이벤트 2(287-2)에 대한 정의는 디스플레이된 객체 상에의 드래깅이다. 드래깅은, 예를 들어, 미리결정된 페이즈 동안의 디스플레이된 객체 상의 터치(또는 접촉), 터치 감응형 디스플레이(212)를 가로지르는 터치의 이동, 및 터치의 리프트오프(터치 종료)를 포함한다. 일부 실시예들에서, 이벤트는 또한 하나 이상의 연관된 이벤트 핸들러(290)에 대한 정보를 포함한다.
일부 실시예들에서, 이벤트 정의(287)는 개개의 사용자 인터페이스 객체에 대한 이벤트의 정의를 포함한다. 일부 실시예들에서, 이벤트 비교기(284)는 어느 사용자 인터페이스 객체가 서브이벤트와 연관되는지 결정하도록 히트 테스트(hit test)를 수행한다. 예를 들어, 3개의 사용자 인터페이스 객체들이 터치 감응형 디스플레이(212) 상에 디스플레이된 애플리케이션 뷰에서, 터치 감응형 디스플레이(212) 상에서 터치가 검출되는 경우, 이벤트 비교기(284)는 3개의 사용자 인터페이스 객체 중 어느 것이 터치(서브이벤트)와 연관되는지를 결정하도록 히트 테스트를 수행한다. 각각의 디스플레이된 객체가 개개의 이벤트 핸들러(290)와 연관되는 경우, 이벤트 비교기는 어느 이벤트 핸들러(290)가 활성화되어야 하는지 결정하는 데 히트 테스트의 결과를 이용한다. 예를 들어, 이벤트 비교기(284)는 히트 테스트를 트리거하는 객체 및 서브이벤트와 연관된 이벤트 핸들러를 선택한다.
일부 실시예들에서, 개개의 이벤트(287)에 대한 정의는 또한 서브이벤트들의 시퀀스가 이벤트 인식기의 이벤트 유형에 대응하는지 대응하지 않는지 여부가 결정된 후까지 이벤트 정보의 전달을 지연하는 지연된 동작들을 포함한다.
개개의 이벤트 인식기(280)가 일련의 서브이벤트들이 이벤트 정의들(286) 내의 이벤트들 중 어떠한 것과도 매칭되지 않는 것으로 결정하면, 개개의 이벤트 인식기(280)는 이벤트 불가능, 이벤트 실패, 또는 이벤트 종료 상태에 진입하고, 그 후 개개의 이벤트 인식기는 터치 기반 제스처의 후속적인 서브이벤트들을 무시한다. 이러한 상황에서, 만일 있다면, 히트 뷰에 대해 활성 상태로 유지되는 다른 이벤트 인식기들이 진행 중인 터치 기반 제스처의 서브이벤트들을 계속해서 추적 및 프로세싱한다.
일부 실시예들에서, 개개의 이벤트 인식기(280)는 이벤트 전달 시스템이 어떻게 적극 참여 이벤트 인식기들에 대한 서브이벤트 전달을 수행해야 하는지를 나타내는 구성가능한 속성들, 플래그(flag)들, 및/또는 목록들을 갖는 메타데이터(283)를 포함한다. 일부 실시예들에서, 메타데이터(283)는 이벤트 인식기들이 어떻게 서로 상호작용하는지, 또는 상호작용하게 되는지를 나타내는 구성가능한 속성들, 플래그들, 및/또는 목록들을 포함한다. 일부 실시예들에서, 메타데이터(283)는, 서브이벤트들이 뷰 또는 프로그램 계층구조에서의 다양한 레벨들에 전달되는지 여부를 나타내는 구성가능한 속성들, 플래그들, 및/또는 목록들을 포함한다.
일부 실시예들에서, 개개의 이벤트 인식기(280)는 이벤트의 하나 이상의 특정 서브이벤트가 인식될 때 이벤트와 연관된 이벤트 핸들러(290)를 활성화시킨다. 일부 실시예들에서, 개개의 이벤트 인식기(280)는 이벤트와 연관된 이벤트 정보를 이벤트 핸들러(290)에 전달한다. 이벤트 핸들러(290)를 활성화시키는 것은 개개의 히트 뷰에 서브이벤트들을 전송(및 지연 전송)하는 것과는 별개이다. 일부 실시예들에서, 이벤트 인식기(280)는 인식된 이벤트와 연관된 플래그를 보내고, 그 플래그와 연관된 이벤트 핸들러(290)는 그 플래그를 캐치하고 미리정의된 프로세스를 수행한다.
일부 실시예들에서, 이벤트 전달 명령어들(288)은 이벤트 핸들러를 활성화시키지 않으면서 서브이벤트에 관한 이벤트 정보를 전달하는 서브이벤트 전달 명령어들을 포함한다. 대신에, 서브이벤트 전달 명령어들은 일련의 서브이벤트들과 연관된 이벤트 핸들러들에 또는 적극 참여 뷰들에 이벤트 정보를 전달한다. 일련의 서브이벤트들 또는 적극 참여 뷰들과 연관된 이벤트 핸들러들은 이벤트 정보를 수신하고 미리결정된 프로세스를 수행한다.
일부 실시예들에서, 데이터 업데이터(276)는 애플리케이션(236-1)에서 이용되는 데이터를 생성 및 업데이트한다. 예를 들어, 데이터 업데이터(276)는 연락처 모듈(237)에서 이용되는 전화 번호를 업데이트하거나, 비디오 재생기 모듈에서 이용되는 비디오 파일을 저장한다. 일부 실시예들에서, 객체 업데이터(277)는 애플리케이션(236-1)에서 이용되는 객체들을 생성 및 업데이트한다. 예를 들어, 객체 업데이터(277)는 새로운 사용자 인터페이스 객체를 생성하거나, 또는 사용자 인터페이스 객체의 위치를 업데이트한다. GUI 업데이터(278)는 GUI를 업데이트한다. 예를 들어, GUI 업데이터(278)는 터치 감응형 디스플레이 상의 디스플레이를 위해 디스플레이 정보를 준비하고 이를 그래픽 모듈(232)에 전송한다.
일부 실시예들에서, 이벤트 핸들러(들)(290)는 데이터 업데이터(276), 객체 업데이터(277), 및 GUI 업데이터(278)를 포함하거나 이들에 액세스 권한이 있다. 일부 실시예들에서, 데이터 업데이터(276), 객체 업데이터(277), 및 GUI 업데이터(278)는 개개의 애플리케이션(236-1) 또는 애플리케이션 뷰(291)의 단일 모듈 내에 포함된다. 다른 실시예들에서, 이들은 2개 이상의 소프트웨어 모듈 내에 포함된다.
터치 감응형 디스플레이들 상의 사용자 터치들의 이벤트 처리에 관하여 전술한 논의는 또한 입력 디바이스들을 갖는 다기능 디바이스들(200)을 동작시키기 위한 다른 형태들의 사용자 입력들에도 적용되지만, 그 모두가 터치 스크린들 상에서 개시되는 것이 아니라는 것을 이해해야 한다. 예를 들어, 단일 또는 다수의 키보드 누르기 또는 유지(hold)와 선택적으로 조화된 마우스 이동 및 마우스 버튼 누르기; 터치 패드 상에서의 탭, 드래그, 스크롤 등과 같은 접촉 이동들; 펜 스타일러스 입력들; 디바이스의 이동; 구두 명령어들; 검출된 눈 이동들; 생체 측정 입력들; 및/또는 이들의 임의의 조합은, 인식될 이벤트를 정의하는 서브이벤트들에 대응하는 입력들로서 선택적으로 이용된다.
도 3은 일부 실시예들에 따른, 터치 스크린(212)을 갖는 휴대용 다기능 디바이스(200)를 도시한다. 터치 스크린은, 선택적으로, 사용자 인터페이스(UI)(300) 내에서 하나 이상의 그래픽을 디스플레이한다. 이러한 실시예는 물론 아래에 기술되는 다른 실시예들에서, 사용자는, 예를 들어, 하나 이상의 손가락(302)(도면에서 축척대로 도시되지 않음) 또는 하나 이상의 스타일러스(303)(도면에서 축척대로 도시되지 않음)를 이용하여 그래픽 상에 제스처를 행함으로써 그래픽들 중 하나 이상을 선택하는 것이 가능하게 된다. 일부 실시예들에서, 하나 이상의 그래픽의 선택은 사용자가 하나 이상의 그래픽과의 접촉을 중단할 때 발생한다. 일부 실시예들에서, 제스처는 선택적으로 디바이스(200)와 접촉한 손가락의 하나 이상의 탭, (좌에서 우로, 우에서 좌로, 위로 및/또는 아래로의) 하나 이상의 스와이프 및/또는 (우에서 좌로, 좌에서 우로, 위로 및/또는 아래로의) 롤링을 포함한다. 일부 구현예들 또는 상황들에서, 그래픽과 부주의하여 접촉되면 그 그래픽은 선택되지 않는다. 예를 들면, 선택에 대응하는 제스처가 탭일 때, 애플리케이션 아이콘 위를 스윕(sweep)하는 스와이프 제스처는 선택적으로, 대응하는 애플리케이션을 선택하지 않는다.
디바이스(200)는 또한 "홈" 또는 메뉴 버튼(304)과 같은 하나 이상의 물리적 버튼을 포함한다. 이전에 기술된 바와 같이, 메뉴 버튼(304)은 디바이스(200) 상에서 실행되는 애플리케이션들의 세트 내의 임의의 애플리케이션(236)으로 내비게이팅하기 위해 사용된다. 대안적으로, 일부 실시예들에서, 메뉴 버튼은 터치 스크린(212) 상에 디스플레이된 GUI에서 소프트 키로서 구현된다.
일 실시예에서, 디바이스(200)는 터치 스크린(212), 메뉴 버튼(304), 디바이스의 전원을 온/오프하고 디바이스를 잠그기 위한 푸시 버튼(306), 음량 조절 버튼(들)(308), 가입자 식별 모듈(SIM) 카드 슬롯(310), 헤드셋 잭(312), 및 도킹/충전 외부 포트(224)를 포함한다. 푸시 버튼(306)은 선택적으로 버튼을 누르고 버튼을 미리정의된 시간 간격 동안 누른 상태로 유지함으로써 디바이스의 전력을 온/오프시키고; 버튼을 누르고 미리정의된 시간 간격이 경과하기 전에 버튼을 누름해제함으로써 디바이스를 잠그고; 그리고/또는 디바이스를 잠금해제하거나 잠금해제 프로세스를 개시하는 데 사용된다. 대안적인 실시예에서, 디바이스(200)는 또한 마이크로폰(213)을 통해 일부 기능들의 활성화 또는 비활성화를 위한 구두 입력을 수용한다. 디바이스(200)는 또한, 선택적으로, 터치 스크린(212) 상의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서(265) 및/또는 디바이스(200)의 사용자를 위해 촉각적 출력들을 생성하기 위한 하나 이상의 촉각적 출력 생성기(267)를 포함한다.
도 4는 일부 실시예들에 따른, 디스플레이 및 터치 감응형 표면을 갖는 예시적인 다기능 디바이스의 블록도이다. 디바이스(400)가 휴대용일 필요는 없다. 일부 실시예들에서, 디바이스(400)는, 랩톱 컴퓨터, 데스크톱 컴퓨터, 태블릿 컴퓨터, 멀티미디어 재생기 디바이스, 내비게이션 디바이스, (어린이 학습 장난감과 같은) 교육용 디바이스, 게이밍 시스템, 또는 제어 디바이스(예컨대, 가정용 또는 산업용 제어기)이다. 디바이스(400)는 전형적으로 하나 이상의 프로세싱 유닛(CPU)(410), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(460), 메모리(470), 및 이들 컴포넌트를 상호연결하기 위한 하나 이상의 통신 버스(420)를 포함한다. 통신 버스들(420)은 선택적으로 시스템 컴포넌트들을 상호접속하고 이들 사이의 통신을 제어하는 회로부(때때로 칩셋이라고 지칭됨)를 포함한다. 디바이스(400)는 전형적으로 터치 스크린 디스플레이인 디스플레이(440)를 포함하는 입/출력(I/O) 인터페이스(430)를 포함한다. I/O 인터페이스(430)는 또한, 선택적으로, 키보드 및/또는 마우스(또는 다른 포인팅 디바이스)(450) 및 터치 패드(455), 디바이스(400) 상에 촉각적 출력들을 생성하기 위한 촉각적 출력 생성기(457)(예컨대, 도 2a를 참조하여 전술된 촉각적 출력 생성기(들)(267)와 유사함), 및 센서들(459)(예컨대, 도 2a를 참조하여 전술된 접촉 세기 센서(들)(265)와 유사한 광 센서, 가속도 센서, 근접 센서, 터치 감응형 센서, 및/또는 접촉 세기 센서)을 포함한다. 메모리(470)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은 고속 랜덤 액세스 메모리를 포함하며; 선택적으로 하나 이상의 자기 디스크 저장 디바이스, 광 디스크 저장 디바이스, 플래시 메모리 디바이스, 또는 다른 비휘발성 솔리드 스테이트 저장 디바이스와 같은 비휘발성 메모리를 포함한다. 메모리(470)는 선택적으로 CPU(들)(410)로부터 다른 곳에 위치하는 하나 이상의 저장 디바이스를 포함한다. 일부 실시예들에서, 메모리(470)는 휴대용 다기능 디바이스(200)(도 2a)의 메모리(202)에 저장된 프로그램들, 모듈들, 및 데이터 구조들과 유사한 프로그램들, 모듈들, 및 데이터 구조들, 또는 이들의 서브세트를 저장한다. 또한, 메모리(470)는, 선택적으로, 휴대용 다기능 디바이스(200)의 메모리(202) 내에 존재하지 않는 추가의 프로그램들, 모듈들 및 데이터 구조들을 저장한다. 예를 들어, 디바이스(400)의 메모리(470)는, 선택적으로, 그리기 모듈(480), 프레젠테이션 모듈(482), 워드 프로세싱 모듈(484), 웹사이트 제작 모듈(486), 디스크 저작 모듈(488), 및/또는 스프레드시트 모듈(490)을 저장하는 반면, 휴대용 다기능 디바이스(200)(도 2a)의 메모리(202)는, 선택적으로, 이들 모듈들을 저장하지 않는다.
도 4에서의 앞서 식별된 요소들 각각은, 일부 예들에서, 이전에 언급된 메모리 디바이스들 중 하나 이상에 저장된다. 앞서 식별된 모듈들 각각은 전술된 기능을 수행하기 위한 명령어들의 세트에 대응한다. 앞서 식별된 모듈들 또는 프로그램들(예컨대, 명령어들의 세트들)은 별개의 소프트웨어 프로그램들, 절차들 또는 모듈들로서 구현될 필요는 없으며, 따라서 이러한 모듈들의 다양한 서브세트들이 다양한 실시예들에서 조합되거나 다른 방식으로 재배열된다. 일부 실시예들에서, 메모리(470)는 앞서 식별된 모듈들 및 데이터 구조들의 서브세트를 저장한다. 또한, 메모리(470)는 전술되지 않은 추가의 모듈들 및 데이터 구조들을 저장한다.
이제, 예를 들어 휴대용 다기능 디바이스(200) 상에서 구현될 수 있는 사용자 인터페이스들의 실시예들을 살펴본다.
도 5a는 일부 실시예들에 따른, 휴대용 다기능 디바이스(200) 상의 애플리케이션들의 메뉴에 대한 예시적인 사용자 인터페이스를 도시한다. 유사한 사용자 인터페이스들이 디바이스(400) 상에서 구현된다. 일부 실시예들에서, 사용자 인터페이스(500)는 하기의 요소들, 또는 그들의 서브세트나 수퍼세트를 포함한다:
셀룰러 및 Wi-Fi 신호들과 같은 무선 통신(들)에 대한 신호 강도 표시자(들)(502);
o
부재 중 전화들 또는 음성메일 메시지들의 개수의 표시자(514)를 선택적으로 포함하는 "전화"라고 라벨링된 전화 모듈(238)에 대한 아이콘(516);
o
읽지 않은 이메일들의 개수의 표시자(510)를 선택적으로 포함하는 "메일"이라고 라벨링된 이메일 클라이언트 모듈(240)에 대한 아이콘(518);
o
"브라우저"라고 라벨링된 브라우저 모듈(247)에 대한 아이콘(520);및
o
아이팟(애플 인크.의 상표) 모듈(252)로도 지칭되는, "아이팟"이라고 라벨링된 비디오 및 음악 재생기 모듈(252)에 대한 아이콘(522); 및
o
"메시지"라고 라벨링된 IM 모듈(241)에 대한 아이콘(524);
o
"캘린더"라고 라벨링된 캘린더 모듈(248)에 대한 아이콘(526);
o
"사진"이라고 라벨링된 이미지 관리 모듈(244)에 대한 아이콘(528);
o
"카메라"라고 라벨링된 카메라 모듈(243)에 대한 아이콘(530);
o
"온라인 비디오"라고 라벨링된 온라인 비디오 모듈(255)에 대한 아이콘(532);
o
"주식"이라고 라벨링된 주식 위젯(249-2)에 대한 아이콘(534);
o
"지도"라고 라벨링된 지도 모듈(254)에 대한 아이콘(536);
o
"날씨"라고 라벨링된 날씨 위젯(249-1)에 대한 아이콘(538);
o
"시계"라고 라벨링된 알람 시계 위젯(249-4)에 대한 아이콘(540);
o
"운동 지원"이라고 라벨링된 운동 지원 모듈(242)에 대한 아이콘(542);
o
"메모"라고 라벨링된 메모 모듈(253)에 대한 아이콘(544); 및
o
디바이스(200) 및 그의 다양한 애플리케이션들(236)에 대한 설정에의 액세스를 제공하는, "설정"이라고 라벨링된, 설정 애플리케이션 또는 모듈에 대한 아이콘(546).
도 5a에 도시된 아이콘 라벨들은 단지 예시적인 것임에 유의해야 한다. 예를 들어, 비디오 및 음악 재생기 모듈(252)에 대한 아이콘(522)은 선택적으로 "음악" 또는 "음악 재생기"라고 라벨링된다. 기타 라벨들이 선택적으로 다양한 애플리케이션 아이콘들에 대해 사용된다. 일부 실시예들에서, 각각의 애플리케이션 아이콘에 대한 라벨은 각각의 애플리케이션 아이콘에 대응하는 애플리케이션의 이름을 포함한다. 일부 실시예들에서, 특정 애플리케이션 아이콘에 대한 라벨은 특정 애플리케이션 아이콘에 대응하는 애플리케이션의 이름과 별개이다.
도 5b는 디스플레이(550)(예컨대, 터치 스크린 디스플레이(212))와 별개인 터치 감응형 표면(551)(예컨대, 태블릿 또는 터치패드(455), 도 4)을 갖는 디바이스(예컨대, 디바이스(400), 도 4) 상의 예시적인 사용자 인터페이스를 도시한다. 디바이스(400)는 또한, 선택적으로, 터치 감응형 표면(551) 상의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서(예컨대, 센서들(457) 중 하나 이상) 및/또는 디바이스(400)의 사용자에 대한 촉각적 출력들을 생성하기 위한 하나 이상의 촉각적 출력 생성기(459)를 포함한다.
후속하는 일부 예들이(터치 감응형 표면과 디스플레이가 조합된) 터치 스크린 디스플레이(212) 상의 입력들을 참조하여 제공될 것이지만, 일부 실시예들에서, 디바이스는 도 5b에 도시된 바와 같이 디스플레이와 별개인 터치 감응형 표면 상의 입력들을 검출한다. 일부 실시예들에서, 터치 감응형 표면(예컨대, 도 5b의 551)은 디스플레이(예컨대, 550) 상의 주축(예컨대, 도 5b의 553)에 대응하는 주축(예컨대, 도 5b의 552)을 갖는다. 이 실시예들에 따르면, 디바이스는 디스플레이 상의 개개의 위치들에 대응하는 위치들(예컨대, 도 5b에서, 560은 568에 대응하고, 562는 570에 대응함)에서 터치 감응형 표면(551)과의 접촉들(예컨대, 도 5b의 560, 562)을 검출한다. 이러한 방식으로, 터치 감응형 표면(예컨대, 도 5b의 551) 상에서 디바이스에 의해 검출된 사용자 입력들(예컨대, 접촉들(560, 562) 및 그 이동들)은 터치 감응형 표면이 디스플레이와 별개일 때 디바이스에 의해 다기능 디바이스의 디스플레이(예컨대, 도 5b의 550) 상의 사용자 인터페이스를 조작하는 데 사용된다. 유사한 방법들이, 선택적으로, 본 명세서에 기술된 다른 사용자 인터페이스들에 이용된다는 것이 이해되어야 한다.
추가적으로, 하기의 예들이 손가락 입력들(예컨대, 손가락 접촉들, 손가락 탭 제스처들, 손가락 스와이프 제스처들)을 주로 참조하여 주어지는 반면, 일부 실시예들에서, 손가락 입력들 중 하나 이상은 다른 입력 디바이스로부터의 입력(예컨대, 마우스 기반 입력 또는 스타일러스 입력)으로 대체된다는 것이 이해되어야 한다. 예를 들면, 스와이프 제스처가 선택적으로 (예를 들면, 접촉 대신의) 마우스 클릭 및 뒤이은 (예컨대, 접촉의 이동 대신의) 스와이프의 경로를 따른 커서의 이동으로 대체된다. 다른 예로서, (예를 들면, 접촉의 검출 및 뒤이은 접촉을 검출하는 것을 중지하는 것 대신에) 커서가 탭 제스처의 위치 위에 위치되는 동안에 탭 제스처가 선택적으로 마우스 클릭으로 대체된다. 유사하게, 다수의 사용자 입력이 동시에 검출되는 경우, 다수의 컴퓨터 마우스가 선택적으로 동시에 사용되거나, 또는 마우스와 손가락 접촉들이 선택적으로 동시에 사용되는 것으로 이해하여야 한다.
도 6a는 예시적인 개인 전자 디바이스(600)를 도시한다. 디바이스(600)는 몸체(602)를 포함한다. 일부 실시예들에서, 디바이스(600)는 디바이스들(200, 400)(예컨대, 도 2a 내지 도 4b)에 대하여 기술된 특징부들의 일부 또는 전부를 포함한다. 일부 실시예들에서, 디바이스(600)는 터치 감응형 디스플레이 스크린(604)(이하, 터치 스크린(604))을 갖는다. 터치 스크린(604)에 대한 대안으로 또는 추가로, 디바이스(600)는 디스플레이 및 터치 감응형 표면을 갖는다. 디바이스들(200, 400)과 마찬가지로, 일부 실시예들에서, 터치 스크린(604)(또는 터치 감응형 표면)은 가해지는 접촉들(예컨대, 터치들)의 세기를 검출하기 위한 하나 이상의 세기 센서를 갖는다. 터치 스크린(604)(또는 터치 감응형 표면)의 하나 이상의 세기 센서는 터치들의 세기를 표현하는 출력 데이터를 제공한다. 디바이스(600)의 사용자 인터페이스는 터치들의 세기에 기초하여 터치들에 응답하고, 이는 상이한 세기들의 터치들이 디바이스(600) 상의 상이한 사용자 인터페이스 동작들을 호출(invoke)할 수 있다는 것을 의미한다.
터치 세기를 검출 및 프로세싱하기 위한 기술들은, 예를 들어, 관련 출원들: 2013년 5월 8일자로 출원되고 발명의 명칭이 "Device, Method, and Graphical User Interface for Displaying User Interface Objects Corresponding to an Application"인 국제 특허 출원 제PCT/US2013/040061호, 및 2013년 11월 11일자로 출원되고 발명의 명칭이 "Device, Method, and Graphical User Interface for Transitioning Between Touch Input to Display Output Relationships"인 국제 특허 출원 제PCT/US2013/069483호에서 찾을 수 있으며, 이들 각각은 그 전문이 본 명세서에 참조로서 편입된다.
일부 실시예들에서, 디바이스(600)는 하나 이상의 입력 메커니즘(606, 608)을 갖는다. 입력 메커니즘들(606, 608)(포함되어 있는 경우)은 물리적이다. 물리적 입력 메커니즘들의 예들은 푸시 버튼들 및 회전가능 메커니즘들을 포함한다. 일부 실시예들에서, 디바이스(600)는 하나 이상의 부착 메커니즘들을 갖는다. 이러한 부착 메커니즘들(포함되어 있는 경우)은 디바이스(600)가, 예를 들어, 모자, 안경, 귀걸이, 목걸이, 셔츠, 재킷, 팔찌, 시계줄, 쇠줄(chain), 바지, 벨트, 신발, 지갑, 배낭 등에 부착될 수 있게 한다. 이 부착 메커니즘들은 디바이스(600)가 사용자에 착용될 수 있도록 한다.
도 6b는 예시적인 개인 전자 디바이스(600)를 도시한다. 일부 실시예들에서, 디바이스(600)는 도 2a, 도 2b, 및 도 4에 대하여 기술된 컴포넌트들의 일부 또는 전부를 포함한다. 디바이스(600)는 I/O 섹션(614)을 하나 이상의 컴퓨터 프로세서(616) 및 메모리(618)와 동작가능하게 결합하는 버스(612)를 갖는다. I/O 섹션(614)은 터치 감응형 컴포넌트(622), 및 선택적으로, 터치 세기 감응형 컴포넌트(624)를 가질 수 있는 디스플레이(604)에 연결된다. 더욱이, I/O 섹션(614)은, Wi-Fi, 블루투스, 근거리 통신(NFC), 셀룰러 및/또는 다른 무선 통신 기법들을 사용하여, 애플리케이션 및 운영 체제 데이터를 수신하기 위해 통신 유닛(630)과 연결된다. 디바이스(600)는 입력 메커니즘들(606 및/또는 608)을 포함한다. 입력 메커니즘(606)은, 예를 들어, 회전가능 입력 디바이스 또는 누름가능 및 회전가능 입력 디바이스이다. 일부 예들에서, 입력 메커니즘(608)은 버튼이다.
일부 예들에서, 입력 메커니즘(608)은 마이크로폰이다. 개인 전자 디바이스(600)는, 예를 들어, GPS 센서(632), 가속도계(634), 방향 센서(640)(예컨대, 나침반), 자이로스코프(636), 모션 센서(638), 및/또는 이들의 조합과 같은, 다양한 센서들을 포함하고, 이들 모두는 I/O 섹션(614)에 동작가능하게 접속된다.
개인 전자 디바이스(600)의 메모리(618)는, 예를 들어, 하나 이상의 컴퓨터 프로세서(616)에 의해 실행될 때, 컴퓨터 프로세서들로 하여금 후술되는 기법들 및 프로세스들을 수행하게 하는, 컴퓨터 실행가능한 명령어들을 저장하기 위한 비일시적인 컴퓨터 판독가능 저장 매체이다. 컴퓨터 실행가능한 명령어들은, 예를 들어, 또한 명령어 실행 시스템, 장치 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 컴퓨터 기반 시스템, 프로세서 포함(processor-containing) 시스템, 또는 다른 시스템과 같은, 명령어 실행 시스템, 장치 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 임의의 비일시적 컴퓨터 판독가능 저장 매체 내에 저장 및/또는 전달될 수 있다. 개인 전자 디바이스(600)는 도 6b의 컴포넌트들 및 구성에 한정되지 않고, 다수의 구성들에서 다른 또는 추가적인 컴포넌트들을 포함할 수 있다.
여기서 사용되는 바와 같이, "어포던스"라는 용어는, 예를 들어, 디바이스들(200, 400, 600, 810A 내지 810C, 820, 830, 840, 1182, 1186, 1880, 및/또는 1882)(도 2, 도 4, 도 6, 도 8a 및 도 8b, 도 9a 내지 도 9c, 도 10a 내지 도 10c, 도 11a 내지 도 11d, 도 12a 내지 도 12c, 도 13a 및 도 13b, 도 14, 도 15a 내지 도 15g, 및 도 18a 내지 도 18e)의 디스플레이 스크린 상에 표시되는 사용자 상호작용 그래픽 사용자 인터페이스 객체를 지칭한다. 예를 들어, 이미지(예컨대, 아이콘), 버튼, 및 텍스트(예컨대, 하이퍼링크)는 각각 어포던스를 구성한다.
본 명세서에 사용되는 바와 같이, "포커스 선택자"라는 용어는 사용자와 상호작용하고 있는 사용자 인터페이스의 현재 부분을 나타내는 입력 요소를 지칭한다. 커서 또는 다른 위치 마커(location marker)를 포함하는 일부 구현예들에서, 커서가 특정의 사용자 인터페이스 요소(예컨대, 버튼, 창, 슬라이더 또는 다른 사용자 인터페이스 요소) 위에 있는 동안 터치 감응형 표면(예컨대, 도 4의 터치 패드(455) 또는 도 5b의 터치 감응형 표면(551)) 상에서 입력(예컨대, 누르기 입력)이 검출될 때, 특정의 사용자 인터페이스 요소가 검출된 입력에 따라 조정되도록, 커서가 "포커스 셀렉터"로서 기능한다. 터치 스크린 디스플레이 상의 사용자 인터페이스 요소들과의 직접적인 상호작용을 가능하게 하는 터치 스크린 디스플레이(예컨대, 도 2a의 터치 감응형 디스플레이 시스템(212) 또는 도 5a의 터치 스크린(212))를 포함하는 일부 구현예들에서, 입력(예컨대, 접촉에 의한 누르기 입력)이 특정의 사용자 인터페이스 요소(예컨대, 버튼, 창, 슬라이더 또는 다른 사용자 인터페이스 요소)의 위치에 있는 터치 스크린 디스플레이 상에서 검출될 때, 특정의 사용자 인터페이스 요소가 검출된 입력에 따라 조정되도록, 터치 스크린 상의 검출된 접촉이 "포커스 셀렉터"로서 기능한다. 일부 구현예들에서, (예를 들어 포커스를 하나의 버튼으로부터 다른 버튼으로 움직이도록 탭 키 또는 화살표 키를 사용함으로써) 터치 스크린 디스플레이 상의 대응하는 커서의 이동 또는 접촉의 이동 없이 포커스가 사용자 인터페이스의 하나의 구역으로부터 사용자 인터페이스의 다른 구역으로 이동되며; 이러한 구현예들에서, 포커스 선택자는 사용자 인터페이스의 상이한 영역들 사이에서의 포커스의 이동에 따라 움직인다. 포커스 선택자가 가지는 특정 형태와 무관하게, 포커스 선택자는 일반적으로 (예컨대, 사용자가 상호작용하고자 하는 사용자 인터페이스의 요소를 디바이스에 나타내는 것에 의해) 사용자 인터페이스와의 사용자의 의도된 상호작용을 전달하기 위해 사용자에 의해 제어되는 사용자 인터페이스 요소(또는 터치 스크린 디스플레이 상의 접촉)이다. 예를 들어, 터치 감응형 표면(예컨대, 터치 패드 또는 터치 스크린) 상에서 누르기 입력이 검출되는 동안 각자의 버튼 위의 포커스 선택자(예컨대, 커서, 접촉, 또는 선택 상자)의 위치는 (디바이스의 디스플레이 상에 보여지는 다른 사용자 인터페이스 요소들과 달리) 사용자가 각자의 버튼을 활성화시키고자 의도하는 중임을 나타낼 것이다.
명세서 및 청구범위에서 사용되는 바와 같이, 접촉의 "특성 세기"라는 용어는 접촉의 하나 이상의 세기에 기초한 접촉의 특성을 지칭한다. 일부 실시예들에서, 특성 세기는 다수의 세기 샘플들에 기초한다. 특성 세기는, 선택적으로, 미리 정의된 수의 세기 샘플들, 또는 미리 정의된 이벤트(예컨대, 접촉을 검출한 후, 접촉의 리프트오프를 검출하기 이전, 접촉의 이동의 시작을 검출하기 이전 또는 이후, 접촉의 종료를 검출하기 이전, 접촉의 세기의 증가를 검출하기 이전 또는 이후, 그리고/또는 접촉의 세기의 감소를 검출하기 이전 또는 이후)에 대해 미리결정된 기간(예컨대, 0.05, 0.1, 0.2, 0.5, 1, 2, 5, 10초) 동안 수집된 세기 샘플들의 세트에 기초한다. 접촉의 특성 세기는, 선택적으로, 접촉의 세기들의 최대 값, 접촉의 세기들의 중간 값(mean value), 접촉의 세기들의 평균값(average value), 접촉의 세기들의 상위 10 백분위 값(top 10 percentile value), 접촉의 세기들의 최대 값의 절반의 값, 접촉의 세기들의 최대 값의 90 퍼센트의 값 등 중 하나 이상에 기초한다. 일부 실시예들에서, 접촉의 지속기간은 (예컨대, 특성 세기가 시간의 경과에 따른 접촉의 세기의 평균일 때) 특성 세기를 결정하는 데 사용된다. 일부 실시예들에서, 동작이 사용자에 의해 수행되었는지 여부를 판정하기 위해, 특성 세기가 하나 이상의 세기 임계치들의 세트와 비교된다. 예를 들어, 하나 이상의 세기 임계치들의 세트는 제1 세기 임계치 및 제2 세기 임계치를 포함한다. 이 예에서, 제1 임계치를 초과하지 않는 특성 세기를 갖는 접촉의 결과, 제1 동작이 행해지고, 제1 세기 임계치를 초과하지만 제2 세기 임계치를 초과하지 않는 특성 세기를 갖는 접촉의 결과, 제2 동작이 행해지며, 제2 임계치 초과의 특성 세기를 갖는 접촉의 결과, 제3 동작이 행해진다. 일부 실시예들에서, 특성 세기와 하나 이상의 임계치 간의 비교는, 제1 동작을 수행할 것인지 제2 동작을 수행할 것인지 결정하기 위해 사용되기보다는, 하나 이상의 동작을 수행할지 여부(예컨대, 개개의 동작을 수행할지 또는 개개의 동작을 수행하는 것을 보류할지 여부)를 결정하기 위해 사용된다.
일부 실시예들에서, 특성 세기를 결정하기 위해 제스처의 일부분이 식별된다. 예를 들어, 터치 감응형 표면은 시작 위치로부터 전이하여 종료 위치(이 지점에서 접촉의 세기가 증가함)에 도달하는 연속적인 스와이프 접촉을 수신한다. 이 예에서, 종료 위치에서의 접촉의 특성 세기는 스와이프 접촉 전체가 아니라 연속적인 스와이프 접촉의 일부분에만(예컨대, 종료 위치에서의 스와이프 접촉의 부분에만) 기초한다. 일부 실시예들에서, 접촉의 특성 세기를 결정하기 전에 스와이프 접촉의 세기들에 평활화 알고리즘이 적용된다. 예를 들어, 평활화 알고리즘은, 선택적으로, 비가중 이동 평균(unweighted sliding-average) 평활화 알고리즘, 삼각(triangular) 평활화 알고리즘, 메디안 필터(median filter) 평활화 알고리즘, 및/또는 지수(exponential) 평활화 알고리즘 중 하나 이상을 포함한다. 일부 상황들에서, 이 평활화 알고리즘들은 특성 세기를 결정하기 위해 스와이프 접촉의 세기들에서의 좁은 급등(spike)들 또는 급감(dip)들을 제거한다.
터치 감응형 표면 상에서의 접촉의 세기는 접촉-검출 세기 임계치, 가볍게 누르기 세기 임계치, 깊게 누르기 세기 임계치, 및/또는 하나 이상의 다른 세기 임계치와 같은, 하나 이상의 세기 임계치에 대해 특성화된다. 일부 실시예들에서, 가볍게 누르기 세기 임계치는, 디바이스가 물리적 마우스의 버튼 또는 트랙패드를 클릭하는 것과 전형적으로 연관된 동작들을 수행하게 될 세기에 대응한다. 일부 실시예들에서, 깊게 누르기 세기 임계치는, 디바이스가 물리적 마우스의 버튼 또는 트랙패드를 클릭하는 것과 전형적으로 연관된 동작들과 상이한 동작들을 수행하게 될 세기에 대응한다. 일부 실시예들에서, 접촉이 가볍게 누르기 세기 임계치 미만의(예컨대, 그리고 공칭 접촉-검출 세기 임계치(이 미만에서는 접촉이 더 이상 검출되지 않음) 초과의) 특성 세기로 검출될 때, 디바이스는 가볍게 누르기 세기 임계치 또는 깊게 누르기 세기 임계치와 연관된 동작을 수행함이 없이 터치 감응형 표면 상의 접촉의 이동에 따라 포커스 선택자를 이동시킬 것이다. 일반적으로, 달리 언급되지 않는 한, 이 세기 임계치들은 사용자 인터페이스 도면들의 상이한 세트들 사이에서 일관성이 있다.
가볍게 누르기 세기 임계치 미만의 세기로부터 가볍게 누르기 세기 임계치와 깊게 누르기 세기 임계치 사이의 세기로의 접촉의 특성 세기의 증가는 때때로 "가볍게 누르기" 입력으로서 지칭된다. 깊게 누르기 세기 임계치 미만의 세기로부터 깊게 누르기 세기 임계치 초과의 세기로의 접촉의 특성 세기의 증가는 때때로 "깊게 누르기" 입력으로서 지칭된다. 접촉-검출 세기 임계치 미만의 세기로부터 접촉-검출 세기 임계치와 가볍게 누르기 세기 임계치 사이의 세기로의 접촉의 특성 세기의 증가는 때때로 터치 표면 상의 접촉의 검출로서 지칭된다. 접촉-검출 세기 임계치 초과의 세기로부터 접촉-검출 세기 임계치 미만의 세기로의 접촉의 특성 세기의 감소는 때때로 터치 표면으로부터의 접촉의 리프트오프의 검출로서 지칭된다. 일부 실시예들에서, 접촉-검출 세기 임계치는 0이다. 일부 실시예들에서, 접촉-검출 세기 임계치는 0 초과이다.
본 명세서에 기술된 일부 실시예들에서, 하나 이상의 동작은, 각자의 누르기 입력을 포함하는 제스처를 검출하는 것에 응답하여 또는 각자의 접촉(또는 복수의 접촉들)으로 수행되는 각자의 누르기 입력을 검출하는 것에 응답하여 수행되며, 여기서 각자의 누르기 입력은 누르기-입력 세기 임계치 초과의 접촉(또는 복수의 접촉들)의 세기의 증가를 검출하는 것에 적어도 부분적으로 기초하여 검출된다. 일부 실시예들에서, 각자의 동작은, 누르기-입력 세기 임계치 초과의 각자의 접촉의 세기의 증가(예컨대, 각자의 누르기 입력의 "다운 스트로크(down stroke)")를 검출하는 것에 응답하여 수행된다. 일부 실시예들에서, 누르기 입력은 누르기-입력 세기 임계치 초과의 각자의 접촉의 세기의 증가 및 누르기-입력 세기 임계치 미만의 접촉의 세기의 후속하는 감소를 포함하며, 각자의 동작은 누르기-입력 임계치 미만의 각자의 접촉의 세기의 후속하는 감소(예컨대, 각자의 누르기 입력의 "업 스트로크(up stroke)")를 검출하는 것에 응답하여 수행된다.
일부 실시예들에서, 디바이스는 때때로 "지터(jitter)"라고 불리는 돌발적인 입력들을 회피하기 위해 세기 히스테리시스를 이용하며, 여기서 디바이스는 누르기-입력 세기 임계치에 대한 사전정의된 관계를 갖는 히스테리시스 세기 임계치(예컨대, 히스테리시스 세기 임계치는 누르기-입력 세기 임계치보다 더 낮은 X 세기 단위이거나, 히스테리시스 세기 임계치는 누르기-입력 세기 임계치의 75%, 90% 또는 어떤 적절한 비율임)를 정의하거나 선택한다. 이와 같이, 일부 실시예들에서, 누르기 입력은 누르기-입력 세기 임계치 초과의 각자의 접촉의 세기의 증가 및 누르기-입력 세기 임계치에 대응하는 히스테리시스 세기 임계치 미만의 접촉의 세기의 후속하는 감소를 포함하며, 각자의 동작은 히스테리시스 세기 임계치 미만의 각자의 접촉의 세기의 후속하는 감소(예컨대, 각자의 누르기 입력의 "업 스트로크")를 검출하는 것에 응답하여 수행된다. 이와 유사하게, 일부 실시예들에서, 누르기 입력은 히스테리시스 세기 임계치 이하의 세기로부터 누르기-입력 세기 임계치 이상의 세기로의 접촉의 세기의 증가 그리고, 선택적으로, 히스테리시스 세기 이하의 세기로의 접촉의 세기의 후속하는 감소를 디바이스가 검출할 때에만 검출되며, 각자의 동작은 누르기 입력(예컨대, 상황에 따라, 접촉의 세기의 증가 또는 접촉의 세기의 감소)을 검출하는 것에 응답하여 수행된다.
설명의 편의상, 누르기-입력 세기 임계치와 연관된 누르기 입력에 응답하여 또는 누르기 입력을 포함하는 제스처에 응답하여 수행되는 동작들의 설명은, 선택적으로, 누르기-입력 세기 임계치 초과의 접촉의 세기의 증가, 히스테리시스 세기 임계치 미만의 세기로부터 누르기-입력 세기 임계치 초과의 세기로의 접촉의 세기의 증가, 누르기-입력 세기 임계치 미만의 접촉의 세기의 감소, 및/또는 누르기-입력 세기 임계치에 대응하는 히스테리시스 세기 임계치 미만의 접촉의 세기의 감소 중 어느 하나를 검출하는 것에 응답하여 트리거된다. 또한, 동작이 누르기-입력 세기 임계치 미만의 접촉의 세기의 감소를 검출하는 것에 응답하여 수행되는 것으로서 기술되어 있는 예들에서, 동작은, 선택적으로, 누르기-입력 세기 임계치에 대응하고 그보다 더 낮은 히스테리시스 세기 임계치 미만의 접촉의 세기의 감소를 검출하는 것에 응답하여 수행된다.
3.
디지털 어시스턴트 시스템
도 7a는 다양한 예들에 따른 디지털 어시스턴트 시스템(700)의 블록도를 도시한다. 일부 예들에서, 디지털 어시스턴트 시스템(700)은 독립형 컴퓨터 시스템 상에서 구현된다. 일부 예들에서, 디지털 어시스턴트 시스템(700)은 다수의 컴퓨터에 걸쳐 분산된다. 일부 예들에서, 디지털 어시스턴트의 모듈들 및 기능들 중 일부는 서버 부분과 클라이언트 부분으로 나뉘는데, 여기서 클라이언트 부분은 하나 이상의 사용자 디바이스(예컨대, 디바이스들(104, 122, 200, 400, 600, 810A 내지 810C, 830, 840, 1182, 1186, 1880, 및/또는 1882)) 상에 존재하고, 예컨대, 도 1에 도시된 바와 같은 하나 이상의 네트워크를 통해 서버 부분(예컨대, 서버 시스템(108))과 통신한다. 일부 예들에서, 디지털 어시스턴트 시스템(700)은 도 1에 도시된 서버 시스템(108)(및/또는 DA 서버(106))의 일 구현예이다. 디지털 어시스턴트 시스템(700)은 단지 디지털 어시스턴트 시스템의 일례일 뿐이라는 것, 및 디지털 어시스턴트 시스템(700)이 도시된 것보다 더 많거나 더 적은 컴포넌트들을 가질 수 있거나, 둘 이상의 컴포넌트를 조합할 수 있거나, 또는 상이한 구성 또는 배열의 컴포넌트들을 가질 수 있다는 것에 유의해야 한다. 도 7a에 도시된 다양한 컴포넌트들은 하나 이상의 신호 프로세싱 및/또는 주문형 집적 회로를 비롯한, 하드웨어, 하나 이상의 프로세서에 의한 실행을 위한 소프트웨어 명령어들, 펌웨어, 또는 이들의 조합으로 구현된다.
디지털 어시스턴트 시스템(700)은 메모리(702), 하나 이상의 프로세서(704), 입/출력(I/O) 인터페이스(706), 및 네트워크 통신 인터페이스(708)를 포함한다. 이들 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인(710)을 통해 서로 통신할 수 있다.
일부 예들에서, 메모리(702)는 비일시적 컴퓨터 판독가능 매체, 예컨대, 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 자기 디스크 저장 디바이스, 플래시 메모리 디바이스, 또는 기타 비휘발성 솔리드 스테이트 메모리 디바이스)를 포함한다.
일부 예들에서, I/O 인터페이스(706)는 디스플레이들, 키보드들, 터치 스크린들, 및 마이크로폰들과 같은 디지털 어시스턴트 시스템(700)의 입/출력 디바이스들(716)을 사용자 인터페이스 모듈(722)에 결합한다. I/O 인터페이스(706)는, 사용자 인터페이스 모듈(722)과 함께, 사용자 입력들(예컨대, 음성 입력, 키보드 입력들, 터치 입력들 등)을 수신하고 그에 따라 이들을 처리한다. 일부 예들에서, 예컨대, 디지털 어시스턴트가 독립형 사용자 디바이스 상에서 구현되는 경우, 디지털 어시스턴트 시스템(700)은 도 2, 도 4, 도 6a 및 도 6b, 도 8a 및 도 8b, 도 9a 내지 도 9c, 도 10a 내지 도 10c, 도 11a 내지 도 11d, 도 12a 내지 도 12c, 도 13a 및 도 13b, 도 14, 도 15a 내지 도 15g, 및 도 18a 내지 도 18e의 디바이스들(200, 400, 600, 810A 내지 810C, 820, 830, 840, 1182, 1186, 1880, 및/또는 1882) 각각에 대하여 기재된 컴포넌트들 및 I/O 통신 인터페이스들 중 임의의 것을 포함한다. 일부 예들에서, 디지털 어시스턴트 시스템(700)은 디지털 어시스턴트 구현예의 서버 부분을 표현하고, 사용자 디바이스(예컨대, 디바이스들(104, 200, 400, 600, 810A 내지 810C, 830, 840, 1182, 1186, 1880, 및/또는 1882)) 상에 존재하는 클라이언트 측 부분을 통해 사용자와 상호작용할 수 있다.
일부 예들에서, 네트워크 통신 인터페이스(708)는 유선 통신 포트(들)(712) 및/또는 무선 송신 및 수신 회로부(714)를 포함한다. 유선 통신 포트(들)는 하나 이상의 유선 인터페이스, 예컨대, 이더넷, 범용 직렬 버스(USB), 파이어와이어 등을 통해 통신 신호들을 수신하고 전송한다. 무선 회로부(714)는 통신 네트워크들 및 기타 통신 디바이스들로부터/로 RF 신호들 및/또는 광학 신호들을 수신하고 전송한다. 무선 통신은 GSM, EDGE, CDMA, TDMA, 블루투스, Wi-Fi, VoIP, Wi-MAX, 또는 임의의 기타 적합한 통신 프로토콜과 같은 복수의 통신 표준들, 프로토콜들, 및 기술들 중 임의의 것을 이용한다. 네트워크 통신 인터페이스(708)는 인터넷, 인트라넷, 및/또는 무선 네트워크, 예컨대, 셀룰러 전화 네트워크, 무선 근거리 통신망(LAN), 및/또는 도시권 통신망(MAN)과 같은 네트워크들을 이용하는 디지털 어시스턴트 시스템(700)과 기타 디바이스들 간의 통신을 가능하게 한다.
일부 예들에서, 메모리(702) 또는 메모리(702)의 컴퓨터 판독가능 저장 매체들은, 운영 체제(718), 통신 모듈(720), 사용자 인터페이스 모듈(722), 하나 이상의 애플리케이션(724), 및 디지털 어시스턴트 모듈(726)의 전체 또는 그들의 서브세트를 포함한, 프로그램들, 모듈들, 명령어들, 및 데이터 구조들을 저장한다. 특히, 메모리(702) 또는 메모리(702)의 컴퓨터 판독가능 저장 매체는 후술되는 프로세스들을 수행하기 위한 명령어들을 저장한다. 하나 이상의 프로세서(704)는 이러한 프로그램들, 모듈들, 및 명령어들을 실행하고, 데이터 구조들로부터/로 판독/기록한다.
운영 체제(718)(예를 들어, 다윈(Darwin), RTXC, LINUX, UNIX, iOS, OS X, WINDOWS, 또는 VxWorks와 같은 임베디드 운영 체제)는 일반적인 시스템 태스크들(예를 들어, 메모리 관리, 저장 디바이스 제어, 전력 관리 등)을 제어하고 관리하기 위한 다양한 소프트웨어 컴포넌트들 및/또는 드라이버들을 포함하고, 다양한 하드웨어, 펌웨어, 및 소프트웨어 컴포넌트들 간의 통신들을 용이하게 한다.
통신 모듈(720)은 네트워크 통신 인터페이스(708)를 통해 디지털 어시스턴트 시스템(700)과 기타 디바이스들 간의 통신을 용이하게 한다. 예를 들어, 통신 모듈(720)은 도 2a, 도 4, 도 6a와 도 6b 각각에 도시된 디바이스들(200, 400, 600)과 같은 전자 디바이스들의 RF 회로부(208)와 통신한다. 통신 모듈(720)은 또한 무선 회로부(714) 및/또는 유선 통신 포트(712)에 의해 수신된 데이터를 처리하기 위한 다양한 컴포넌트들을 포함한다.
사용자 인터페이스 모듈(722)은 I/O 인터페이스(706)를 통해 사용자로부터(예컨대, 키보드, 터치 스크린, 포인팅 디바이스, 제어기, 및/또는 마이크로폰으로부터) 커맨드들 및/또는 입력들을 수신하고, 디스플레이 상에 사용자 인터페이스 객체들을 생성한다. 사용자 인터페이스 모듈(722)은 또한 출력들(예컨대, 스피치, 사운드, 애니메이션, 텍스트, 아이콘들, 진동들, 햅틱 피드백, 조명 등)을 준비하고, I/O 인터페이스(706)를 통해(예컨대, 디스플레이들, 오디오 채널들, 스피커들, 및 터치 패드들 등을 통해) 사용자에게 그들을 전달한다.
애플리케이션들(724)은 하나 이상의 프로세서(704)에 의해 실행되도록 구성된 프로그램들 및/또는 모듈들을 포함한다. 예를 들어, 디지털 어시스턴트 시스템이 독립형 사용자 디바이스 상에 구현되는 경우, 애플리케이션들(724)은 게임들, 캘린더 애플리케이션, 내비게이션 애플리케이션, 또는 이메일 애플리케이션과 같은 사용자 애플리케이션들을 포함한다. 디지털 어시스턴트 시스템(700)이 서버 상에서 구현되는 경우, 애플리케이션들(724)은, 예를 들어 리소스 관리 애플리케이션들, 진단 애플리케이션들, 또는 스케줄링 애플리케이션들을 포함한다.
메모리(702)는 또한 디지털 어시스턴트 모듈(726)(또는 디지털 어시스턴트의 서버 부분)을 저장한다. 일부 예들에서, 디지털 어시스턴트 모듈(726)은 하기의 하위모듈들, 또는 그들의 서브세트 또는 수퍼세트를 포함한다: 입/출력 처리 모듈(728), 스피치-텍스트(speech-to-text: STT) 처리 모듈(730), 자연 언어 처리 모듈(732), 대화 흐름 처리 모듈(734), 태스크 흐름 처리 모듈(736), 서비스 처리 모듈(738), 및 스피치 합성 모듈(740). 이러한 모듈들 각각은 디지털 어시스턴트 모듈(726)의 하기의 시스템 또는 데이터 및 모델들, 또는 그들의 서브세트 또는 수퍼세트 중 하나 이상에 대해 액세스 권한이 있다: 온톨로지(760), 어휘 인덱스(744), 사용자 데이터(748), 태스크 흐름 모델들(754), 서비스 모델들(756), 및 ASR 시스템.
일부 예들에서, 디지털 어시스턴트 모듈(726)에서 구현되는 모델들, 데이터, 및 처리 모듈들을 사용하여, 디지털 어시스턴트는 다음 중 적어도 일부를 수행할 수 있다: 스피치 입력을 텍스트로 변환하는 것; 사용자로부터 수신된 자연 언어 입력에 표현된 사용자의 의도를 식별하는 것; 사용자의 의도를 완전히 추론하는 데 필요한 정보를(예컨대, 단어들, 게임들, 의도들 등의 중의성을 해소함(disambiguating)으로써) 능동적으로 이끌어내고 얻는 것; 추론된 의도를 이행하기 위한 태스크 흐름을 결정하는 것; 및 태스크 흐름을 실행하여 추론된 의도를 이행하는 것.
일부 예들에서, 도 7b에 도시된 바와 같이, I/O 처리 모듈(728)은 도 7a의 I/O 디바이스들(716)을 통해 사용자와 상호작용하거나 또는 도 7a의 네트워크 통신 인터페이스(708)를 통해 사용자 디바이스(예컨대, 디바이스들(104, 200, 400, 또는 600))와 상호작용하여, 사용자 입력(예컨대, 스피치 입력)을 획득하고 사용자 입력에 대한 응답들(예컨대, 스피치 출력들로서)을 제공한다. I/O 처리 모듈(728)은 사용자 입력의 수신과 함께 또는 사용자 입력의 수신 직후에, 사용자 디바이스로부터 사용자 입력과 연관된 컨텍스트 정보를 선택적으로 획득한다. 컨텍스트 정보는 사용자-특정 데이터, 어휘, 및/또는 사용자 입력과 관련된 선호도들을 포함한다. 일부 예들에서, 컨텍스트 정보는 또한 사용자 요청이 수신된 시간에서의 사용자 디바이스의 소프트웨어 및 하드웨어 상태 및/또는 사용자 요청이 수신되는 시간에서의 사용자의 주위 환경에 관련된 정보를 포함한다. 일부 예들에서, I/O 처리 모듈(728)은 또한 사용자 요청에 관하여 사용자에게 후속 질문들을 전송하고, 그로부터 답변들을 수신한다. 사용자 요청이 I/O 처리 모듈(728)에 의해 수신되고 사용자 요청이 스피치 입력을 포함하는 경우, I/O 처리 모듈(728)은 스피치-텍스트 변환을 위해 스피치 입력을 STT 처리 모듈(730)(또는 스피치 인식기)로 전달한다.
STT 처리 모듈(730)은 하나 이상의 ASR 시스템을 포함한다. 하나 이상의 ASR 시스템은 I/O 처리 모듈(728)을 통해 수신된 스피치 입력을 처리하여 인식 결과를 생성할 수 있다. 각각의 ASR 시스템은 프론트-엔드 스피치 프리프로세서(front-end speech pre-processor)를 포함한다. 프론트-엔드 스피치 프리프로세서는 스피치 입력으로부터 대표적인 특징을 추출한다. 예를 들어, 프론트-엔드 스피치 프리프로세서는 스피치 입력을 푸리에 변환을 수행하여 대표적인 다차원 벡터의 시퀀스로서 스피치 입력을 특징짓는 스펙트럼 특징을 추출한다. 또한, 각각의 ASR 시스템은 하나 이상의 스피치 인식 모델(예컨대, 음향 모델 및/또는 언어 모델)을 포함하고, 하나 이상의 스피치 인식 엔진을 구현한다. 스피치 인식 모델의 예는 은닉 마르코프 모델(hidden Markov models), 가우시안 혼합 모델(Gaussian-Mixture Models), 딥 신경망 모델(Deep Neural Network Models), n-gram 언어 모델, 및 기타 통계 모델을 포함한다. 스피치 인식 엔진의 예는 동적 시간 왜곡 기반 엔진 및 가중치 유한 상태 변환기(WFST) 기반 엔진을 포함한다. 하나 이상의 스피치 인식 모델 및 하나 이상의 스피치 인식 엔진은 중간 인식 결과들(예를 들어, 음소, 음소 문자열, 및 하위 단어들), 및 궁극적으로 텍스트 인식 결과들(예컨대, 단어, 단어 문자열, 또는 토큰들의 시퀀스)을 생성하기 위해 프론트-엔드 스피치 프리프로세서의 추출된 대표 특징들을 처리하는 데 사용된다. 일부 예들에서, 스피치 입력은 제3자 서비스에 의해 또는 사용자의 디바이스(예컨대, 디바이스(104, 200, 400, 또는 600)) 상에서 적어도 부분적으로 프로세싱되어 인식 결과를 생성한다. STT 처리 모듈(730)이 텍스트 문자열(예를 들어, 단어들, 또는 단어들의 시퀀스, 또는 토큰들의 시퀀스)을 포함하는 인식 결과를 생성하면, 인식 결과는 의도 추론을 위해 자연 언어 처리 모듈(732)로 전달된다. 일부 예들에서, STT 처리 모듈(730)은 스피치 입력의 다수의 후보 텍스트 표현들을 생성한다. 각각의 후보 텍스트 표현은 스피치 입력에 대응하는 단어들 또는 토큰들의 시퀀스이다. 일부 예들에서, 각각의 후보 텍스트 표현은 스피치 인식 신뢰도 점수와 연관된다. 스피치 인식 신뢰도 점수에 기초하여, STT 처리 모듈(730)은 후보 텍스트 표현들의 순위를 정하고, 의도 추론을 위해 상위 n번째(예컨대, n번째로 높은 순위) 후보 텍스트 표현(들)을 자연 언어 처리 모듈(732)에 제공하는데, 여기서 n은 0보다 큰 미리결정된 정수이다. 예를 들어, 일례에서, 가장 높은 순위(n=1) 후보 텍스트 표현만이 의도 추론을 위해 자연 언어 처리 모듈(732)에 전달된다. 다른 예에서, 5번째 순위(n=5) 후보 텍스트 표현들이 의도 추론을 위해 자연 언어 처리 모듈(732)에 전달된다.
스피치-텍스트 프로세싱에 대한 더 많은 상세사항들은 2011년 9월 20일자로 출원된 "Consolidating Speech Recognition Results"에 대한 미국 실용신안 출원 제13/236,942호에 기재되어 있으며, 그 전체 개시 내용은 본 명세서에 참고로 포함된다.
일부 예들에서, STT 처리 모듈(730)은 음성 기호 변환 모듈(731)을 통해 인식가능한 단어들의 어휘를 포함하고/하거나 이에 액세스한다. 각각의 어휘 단어는 스피치 인식 음성 기호로 표현된 단어의 하나 이상의 후보 발음과 연관된다. 특히, 인식가능한 단어의 어휘는 복수의 후보 발음과 연관된 단어를 포함한다. 예를 들어, 어휘는 // 및 //의 후보 발음과 연관된 "tomato"라는 단어를 포함한다. 또한, 어휘 단어는 사용자로부터의 이전 스피치 입력에 기초한 맞춤형 후보 발음과 연관된다. 이러한 맞춤형 후보 발음은 STT 처리 모듈(730)에 저장되고, 디바이스 상의 사용자의 프로필을 통해 특정 사용자와 연관된다. 일부 예들에서, 단어에 대한 후보 발음은 단어의 철자 및 하나 이상의 언어 및/또는 음성 규칙에 기초하여 결정된다. 일부 예들에서, 후보 발음은 예를 들어, 알려진 정준 발음(canonical pronunciations)에 기초하여 수동으로 생성된다.
일부 예들에서, 후보 발음은 후보 발음의 공통성에 기초하여 순위를 매긴다. 예를 들어, 후보 발음 //는 //보다 높은 순위가 되는데, 그 이유는 이전 발음이 더 일반적으로 사용되는 발음이기 때문이다(예를 들어, 모든 사용자 중에서, 특정 지리적 지역에 있는 사용자의 경우, 또는 임의의 다른 적절한 사용자들의 서브셋의 경우). 일부 예들에서, 후보 발음은 후보 발음이 사용자와 연관된 맞춤형 후보 발음인지 여부에 기초하여 순위가 매겨진다. 예를 들어, 맞춤형 후보 발음은 정준 후보 발음보다 높은 순위가 매겨진다. 이는 정준 발음에서 벗어나는 고유한 발음을 가진 고유 명사를 인식하는 데 유용할 수 있다. 일부 예들에서, 후보 발음은 지리적인 기원, 국적, 또는 민족성과 같은 하나 이상의 스피치 특성과 연관된다. 예를 들어, 후보 발음 //는 미국과 연관되는 반면, 후보 발음 //는 영국과 연관된다. 또한, 후보 발음의 순위는 디바이스 상의 사용자 프로필에 저장된 사용자의 하나 이상의 특성(예를 들어, 지리적 기원, 국적, 민족성 등)에 기초한다. 예를 들어, 사용자가 미국과 연관되어 있다는 사용자의 프로필로부터 결정될 수 있다. 미국과 연관되어 있는 사용자에 기초하여, 후보 발음 //(미국과 연관됨)는 후보 발음 //(영국과 연관됨)보다 높은 순위가 매겨진다. 일부 예들에서, 순위가 매겨진 후보 발음들 중 하나는 예측된 발음(예를 들어, 가장 가능성이 있는 발음)으로서 선택된다.
스피치 입력이 수신될 때, STT 처리 모듈(730)은(예를 들어, 음향 모델을 사용하여) 스피치 입력에 대응하는 음소를 결정하고, 이어서(예를 들어, 언어 모델을 사용하여) 음소에 매칭되는 단어를 결정하고자 시도하는 데 사용된다. 예를 들어, STT 처리 모듈(730)이 스피치 입력의 일부에 대응하는 음소들의 시퀀스 //를 먼저 식별하는 경우, 그것은 이어서 어휘 인덱스(744)에 기초하여 이 시퀀스가 단어 "tomato"에 대응한다고 결정할 수 있다.
일부 예들에서, STT 처리 모듈(730)은 근사 매칭 기술을 사용하여 발화 중인 단어를 결정한다. 따라서, 예를 들어, STT 처리 모듈(730)은 음소들의 특정 시퀀스가 그 단어에 대한 음소들의 후보 시퀀스 중 하나가 아니더라도 음소들의 시퀀스 //가 단어 "tomato"에 대응한다고 결정한다.
디지털 어시스턴트의 자연 언어 처리 모듈(732)("자연 언어 프로세서")은 STT 처리 모듈(730)에 의해 생성된 상위 n번째 후보 텍스트 표현(들)("단어 시퀀스(들)" 또는 "토큰 시퀀스(들)")을 취하고, 후보 텍스트 표현들의 각각을 디지털 어시스턴트에 의해 인식된 하나 이상의 "행동가능한 의도들"과 연관시키고자 시도한다. "행동가능한 의도"(또는 "사용자 의도")는 디지털 어시스턴트에 의해 수행될 수 있는 태스크를 표현하고, 태스크 흐름 모델들(754)에서 구현되는 연관 태스크 흐름을 가질 수 있다. 연관 태스크 흐름은 디지털 어시스턴트가 태스크를 수행하기 위해 취하는 일련의 프로그래밍된 행동들 및 단계들이다. 디지털 어시스턴트의 능력들의 범주는 태스크 흐름 모델들(754)에서 구현되고 저장된 태스크 흐름들의 수 및 종류, 또는 다시 말해, 디지털 어시스턴트가 인식하는 "행동가능한 의도들"의 수 및 종류에 의존한다. 그러나, 디지털 어시스턴트의 효율성도 또한 자연 언어로 표현된 사용자 요청으로부터 정확한 "행동가능한 의도(들)"를 추론하는 어시스턴트의 능력에 의존한다.
일부 예들에서, STT 처리 모듈(730)로부터 획득된 단어들 또는 토큰 시퀀스에 부가하여, 자연 언어 처리 모듈(732)은 또한 예를 들어, I/O 처리 모듈(728)로부터 사용자 요청과 연관된 컨텍스트 정보를 수신한다. 자연 언어 처리 모듈(732)은 선택적으로 컨텍스트 정보를 이용하여, STT 처리 모듈(730)로부터 수신된 후보 텍스트 표현들에 포함된 정보를 명확하게 하고, 보완하고/하거나 추가로 정의한다. 컨텍스트 정보는, 예를 들어 사용자 선호도들, 사용자 디바이스의 하드웨어 및/또는 소프트웨어 상태들, 사용자 요청 전, 요청 중, 또는 요청 직후에 수집되는 센서 정보, 디지털 어시스턴트와 사용자 사이의 이전 상호작용들(예컨대, 대화) 등을 포함한다. 본 명세서에 기술하는 바와 같이, 일부 예들에서, 컨텍스트 정보는 동적이고, 시간, 위치, 대화의 내용, 및 기타 인자들에 따라 변한다.
일부 예들에서, 자연 언어 처리는, 예컨대, 온톨로지(760)에 기초한다. 온톨로지(760)는 많은 노드들을 포함하는 계층 구조(hierarchical structure)이며, 각각의 노드는 "행동가능한 의도"또는 "행동가능한 의도들" 중 하나 이상에 관련된 "속성(property)", 또는 기타 "속성들" 중 어느 하나를 표현한다. 전술한 바와 같이, "행동가능한 의도"는 디지털 어시스턴트가 수행할 수 있는 태스크, 즉 그것이 "행동가능"하거나 또는 영향을 미칠 수 있는 태스크를 표현한다. "속성"은 행동가능한 의도 또는 다른 속성의 하위 양태와 연관되는 파라미터를 표현한다. 온톨로지(760) 내의 행동가능한 의도 노드와 속성 노드 간의 연결성(linkage)은 속성 노드에 의해 표현되는 파라미터가 행동가능한 의도 노드에 의해 표현되는 태스크에 어떻게 관련되는지 여부를 정의한다.
일부 예들에서, 온톨로지(760)는 행동가능한 의도 노드들 및 속성 노드들로 구성된다. 온톨로지(760) 내에서, 각각의 행동가능한 의도 노드는 직접적으로 또는 하나 이상의 중간 속성 노드를 통해 하나 이상의 속성 노드에 연결된다. 유사하게, 각각의 속성 노드는 직접적으로 또는 하나 이상의 중간 속성 노드들을 통해 하나 이상의 액션가능 의도 노드들에 링크된다. 예를 들어, 도 7c에 도시된 바와 같이, 온톨로지(760)는 "레스토랑 예약" 노드(즉, 행동가능한 의도 노드)를 포함한다. 속성 노드들 "레스토랑", (예약을 위한) "날짜/시간", 및 "인원수"는 행동가능한 의도 노드(즉, "레스토랑 예약" 노드)에 각각 직접적으로 링크된다.
추가로, 속성 노드들 "요리", "가격대", "전화 번호", 및 "위치"는 속성 노드 "레스토랑"의 하위노드들이고, 중간 속성 노드 "레스토랑"을 통해 "레스토랑 예약" 노드(즉, 행동가능한 의도 노드)에 각각 링크된다. 다른 예를 들어, 도 7c에 도시된 바와 같이, 온톨로지(760)는 또한 "리마인더 설정" 노드(즉, 다른 행동가능한 의도 노드)를 포함한다. 속성 노드들(리마인더를 설정하기 위한) "날짜/시간" 및(리마인더를 위한) "주제"는 "리마인더 설정" 노드에 각각 링크된다. 속성 "날짜/시간"이 레스토랑 예약을 하는 태스크 및 리마인더를 설정하는 태스크 둘 모두에 관련되기 때문에, 속성 노드 "날짜/시간"은 온톨로지(760) 내의 "레스토랑 예약" 노드 및 "리마인더 설정" 노드 둘 모두에 링크된다.
행동가능한 의도 노드는, 그것의 연결된 개념 노드들과 함께, "도메인"으로 기술된다. 본 논의에서, 각각의 도메인은 개개의 행동가능한 의도와 연관되고, 특정한 행동가능한 의도와 연관된 노드들(및 이들 사이의 관계들)의 그룹을 지칭한다. 예를 들어, 도 7c에 도시된 온톨로지(760)는 온톨로지(760) 내의 레스토랑 예약 도메인(762)의 일례 및 리마인더 도메인(764)의 일례를 포함한다. 레스토랑 예약 도메인은 행동가능한 의도 노드 "레스토랑 예약", 속성 노드들 "레스토랑", "날짜/시간", 및 "인원수", 및 하위속성 노드들 "요리", "가격대", "전화 번호", 및 "위치"를 포함한다. 리마인더 도메인(764)은 행동가능한 의도 노드 "리마인더 설정", 및 속성 노드들 "주제" 및 "날짜/시간"을 포함한다. 일부 예들에서, 온톨로지(760)는 많은 도메인들로 구성된다. 각각의 도메인은 하나 이상의 속성 노드를 하나 이상의 다른 도메인과 공유한다. 예를 들어, "날짜/시간" 속성 노드는 레스토랑 예약 도메인(762) 및 리마인더 도메인(764) 외에도, 많은 상이한 도메인들(예컨대, 스케줄링 도메인, 여행 예약 도메인, 영화 티켓 도메인 등)과 연관된다.
도 7c가 온톨로지(760) 내의 2개의 예시적인 도메인들을 도시하지만, 다른 도메인들은, 예를 들어 "영화를 찾다", "전화 통화를 개시한다", "길을 찾는다", "회의를 스케줄링한다", "메시지를 전송한다", "질문에 대한 답변을 제공한다", "목록을 읽는다", "내비게이션 명령어들을 제공한다", "태스크에 대한 명령어들을 제공한다" 등을 포함한다. "메시지를 전송한다" 도메인은 "메시지를 전송한다" 행동가능한 의도 노드와 연관되고, "수신자(들)", "메시지 유형", 및 메시지 본문"과 같은 속성 노드들을 추가로 포함한다. 속성 노드 "수신자"는, 예를 들어 "수신자 이름" 및 "메시지 주소"와 같은 하위속성 노드들에 의해 추가로 정의된다.
일부 예들에서, 온톨로지(760)는 디지털 어시스턴트가 이해할 수 있고 그에 의거하여 동작할 수 있는 모든 도메인들(및 그에 따른 행동가능한 의도들)을 포함한다. 일부 예들에서, 온톨로지(760)는, 예컨대, 전체 도메인들 또는 노드들을 추가하거나 제거함으로써 또는 온톨로지(760) 내에서 노드들 사이의 관계를 수정함으로써 수정된다.
일부 예들에서, 다수의 관련 행동가능한 의도들과 연관된 노드들은 온톨로지(760) 내에서 "상위 도메인" 아래에 군집된다. 예를 들어, "여행" 상위 도메인은 여행에 관련된 속성 노드들 및 행동가능한 의도 노드들의 군집을 포함한다. 여행에 관련된 행동가능한 의도 노드들은 "항공 예약", "호텔 예약", "자동차 렌탈", "길찾기", "관심 지점 찾기" 등을 포함한다. 동일한 상위 도메인(예컨대, "여행" 상위 도메인) 아래의 행동가능한 의도 노드들은 많은 속성 노드들을 공동으로 갖는다. 예를 들어, "항공 예약", "호텔 예약", "자동차 렌탈", "길찾기", 및 "관심 지점 찾기"에 대한 행동가능한 의도 노드들은 속성 노드들 "시작 위치", "목적지", "출발 날짜/시간", "도착 날짜/시간", 및 "인원수" 중 하나 이상을 공유한다.
일부 예들에서, 온톨로지(760) 내의 각각의 노드는, 노드에 의해 표현되는 속성 또는 행동가능한 의도와 관련된 단어들 및/또는 구절(phrase)들의 세트와 연관된다. 각각의 노드와 연관된 단어들 및/또는 구절들의 개개의 세트는 노드와 연관된 소위 "어휘"이다. 각각의 노드와 연관된 단어들 및/또는 구절들의 개개의 세트는 노드에 의해 표현되는 속성 또는 행동가능한 의도와 관련하여 어휘 인덱스(744)에 저장된다. 예를 들어, 도 7b로 돌아와서, "레스토랑"의 속성에 대한 노드와 연관된 어휘는 "음식", "음료", "요리", "배고프다", "먹다", "피자", "패스트푸드", "식사" 등과 같은 단어들을 포함한다. 다른 예를 들어, "전화 통화 개시"의 행동가능한 의도에 대한 노드와 연관된 어휘는 "통화", "전화", "다이얼", "벨소리", "이 번호로 전화", "~에게 전화" 등과 같은 단어들 및 구절들을 포함한다. 어휘 인덱스(744)는 상이한 언어들의 단어들 및 구절들을 선택적으로 포함한다.
자연 언어 처리 모듈(732)은 STT 처리 모듈(730)로부터 후보 텍스트 표현들(예컨대, 텍스트 문자열(들) 또는 토큰 시퀀스(들))을 수신하고, 각각의 후보 표현에 대하여, 어떤 노드들이 후보 텍스트 표현 내의 단어들과 연관되는지 결정한다. 일부 예들에서, 후보 텍스트 표현 내의 단어 또는 구절이 (어휘 인덱스(744)를 통해) 온톨로지(760) 내의 하나 이상의 노드와 연관되는 것으로 밝혀지는 경우, 단어 또는 구절은 이들 노드들을 "트리거" 또는 "활성화"시킨다. 활성화된 노드들의 양 및/또는 상대적 중요도에 기초하여, 자연 언어 처리 모듈(732)은 사용자가 디지털 어시스턴트로 하여금 수행하도록 의도했던 태스크로서 행동가능한 의도들 중 하나를 선택한다. 일부 예들에서, 가장 많이 "트리거된" 노드들을 갖는 도메인이 선택된다. 일부 예들에서, 가장 높은 신뢰도 값(예컨대, 그것의 다양한 트리거된 노드들의 상대적 중요도에 기초함)을 갖는 도메인이 선택된다. 일부 예들에서, 도메인은 트리거된 노드들의 수 및 중요도의 조합에 기초하여 선택된다. 일부 예들에서, 디지털 어시스턴트가 사용자로부터의 유사한 요청을 이전에 정확하게 해석했는지 여부와 같은 추가 요인들도 노드를 선택하는 데 있어 마찬가지로 고려된다.
사용자 데이터(748)는 사용자-특정 정보, 예컨대, 사용자-특정 어휘, 사용자 선호도, 사용자 주소, 사용자의 초기설정 언어 및 제2 언어, 사용자의 연락처 목록, 및 각각의 사용자에 대한 기타 단기 또는 장기 정보를 포함한다. 일부 예들에서, 자연 언어 처리 모듈(732)은 사용자-특정 정보를 이용하여 사용자 입력에 포함된 정보를 보완하여 사용자 의도를 추가로 정의한다. 예를 들어, "내 생일 파티에 내 친구들을 초대하라"라는 사용자 요청에 대하여, 자연 언어 처리 모듈(732)은, "친구들"이 누구인지 그리고 "생일 파티"가 언제, 어디에서 열릴지를 결정하기 위해 사용자에게 그의/그녀의 요청에서 그러한 정보를 명확하게 제공하도록 요구하는 대신, 사용자 데이터(748)에 액세스할 수 있다.
일부 예들에서, 자연 언어 처리 모듈(732)은 하나 이상의 기계 학습 메커니즘(예컨대, 신경망)을 이용하여 구현됨을 인식해야 한다. 특히, 하나 이상의 기계 학습 메커니즘은 후보 텍스트 표현 및 후보 텍스트 표현과 연관된 컨텍스트 정보를 수신하도록 구성된다. 후보 텍스트 표현 및 연관된 컨텍스트 정보에 기초하여, 하나 이상의 기계 학습 메커니즘은 후보 행동가능한 의도들의 세트에 대하여 의도 신뢰도 점수들을 결정하도록 구성된다. 자연 언어 처리 모듈(732)은 결정된 의도 신뢰도 점수들에 기초하여 후보 행동가능한 의도들의 세트로부터 하나 이상의 후보 행동가능한 의도들을 선택할 수 있다. 일부 예들에서, 온톨로지(예컨대, 온톨로지(760))는 또한 후보 행동가능한 의도들의 세트로부터 하나 이상의 후보 행동가능한 의도를 선택하는 데 사용된다.
토큰 문자열에 기초하여 온톨로지를 검색하는 다른 상세 사항들이 2008년 12월 22일자로 출원된 "Method and Apparatus for Searching Using An Active Ontology"에 대한 미국 실용 특허 출원 제12/341,743호에 기재되어 있으며, 이 출원의 전체 개시내용은 본 명세서에 참조로서 편입된다.
일부 예들에서, 일단 자연 언어 처리 모듈(732)이 사용자 요청에 기초하여 행동가능한 의도(또는 도메인)를 식별하면, 자연 언어 처리 모듈(732)은 식별된 행동가능한 의도를 표현하기 위해 구조화된 질의(structured query)를 생성한다. 일부 예들에서, 구조화된 질의는, 행동가능한 의도를 위한 도메인 내의 하나 이상의 노드에 대한 파라미터들을 포함하고, 파라미터들 중 적어도 일부에는 사용자 요청 내에 지정되는 특정 정보 및 요건들이 덧붙여져 있다. 예를 들어, 사용자는 "7시에 스시 가게에 저녁 예약을 하라"라고 말한다. 이러한 경우, 자연 언어 처리 모듈(732)은 사용자 입력에 기초하여 행동가능한 의도가 "레스토랑 예약"이라고 정확하게 식별한다. 온톨로지에 따라, "레스토랑 예약" 도메인에 대한 구조화된 질의는 {요리}, {시간}, {날짜}, {인원수} 등과 같은 파라미터들을 포함한다. 일부 예들에서, 스피치 입력, 및 STT 처리 모듈(730)을 사용하여 스피치 입력으로부터 도출된 텍스트에 기초하여, 자연 언어 처리 모듈(732)은 레스토랑 예약 도메인에 대한 부분 구조화된 질의를 생성하며, 여기서 부분 구조화된 질의는 파라미터들 {요리 = "스시"} 및 {시간 = "7pm"}을 포함한다. 그러나, 이 예에서, 사용자의 발화는 도메인과 연관된 구조화된 질의를 완성하기에 불충분한 정보를 포함한다. 따라서, {인원수} 및 {날짜}와 같은 기타 필수 파라미터들은 현재 이용가능한 정보에 기초하여 구조화된 질의에 특정되어 있지 않다. 일부 예들에서, 자연 언어 처리 모듈(732)은 구조화된 질의의 일부 파라미터들에 수신된 컨텍스트 정보를 덧붙인다. 예를 들어, 일부 예들에서, 사용자가 "내 근처"의 스시 레스토랑을 요청했다면, 자연 언어 처리 모듈(732)은 구조화된 질의 내의 {위치} 파라미터에 사용자 디바이스로부터의 GPS 좌표들을 덧붙인다.
일부 예들에서, 자연 언어 처리 모듈(732)은 STT 처리 모듈(730)로부터 수신된 각각의 후보 텍스트 표현에 대하여 다수의 후보 행동가능한 의도들을 식별한다. 또한, 일부 예들에서, 각각의 식별된 후보 행동가능한 의도에 대하여 각자의 구조화된 질의(부분 또는 완전)가 생성된다. 자연 언어 처리 모듈(732)은 각각의 후보 행동가능한 의도에 대하여 의도 신뢰도 점수를 결정하고 의도 신뢰도 점수들에 기초하여 후보 행동가능한 의도들의 순위를 정한다. 일부 예들에서, 자연 언어 처리 모듈(732)은 생성된 구조화된 질의(또는 질의들)(임의의 완성된 파라미터들을 포함함)를 태스크 흐름 처리 모듈(736)("태스크 흐름 프로세서")로 전달한다. 일부 예들에서, 상위 m번째(예컨대, m번째 높은 순위) 후보 행동가능한 의도들에 대한 구조화된 질의(또는 질의들)가 태스크 흐름 처리 모듈(736)에 제공되며, 여기서 m은 0보다 큰 미리결정된 정수이다. 일부 예들에서, 상위 m번째 후보 행동가능한 의도들에 대한 구조화된 질의(또는 질의들)는 대응하는 후보 텍스트 표현(들)과 함께 태스크 흐름 처리 모듈(736)에 제공된다.
스피치 입력의 다수의 후보 텍스트 표현들로부터 결정된 다수의 후보 행동가능한 의도들에 기초하여 사용자 의도를 추론하는 다른 상세사항들은 2014년 6월 6일자로 출원되고, 발명의 명칭이 "System and Method for Inferring User Intent From Speech Inputs"인, 미국 실용신안 출원 제14/298,725호에 기재되어 있으며, 그 전체 개시 내용은 본 명세서에 참고로 포함된다.
태스크 흐름 처리 모듈(736)은 자연 언어 처리 모듈(732)로부터 구조화된 질의(또는 질의들)를 수신하도록, 필요하다면, 구조화된 질의를 완성하도록, 그리고 사용자의 궁극적인 요청을 "완성"하는 데 필요한 동작들을 수행하도록 구성된다. 일부 예들에서, 이들 태스크들을 완수하는 데 필요한 다양한 절차들이 태스크 흐름 모델들(754)에서 제공된다. 일부 예들에서, 태스크 흐름 모델들(754)은 사용자로부터 추가 정보를 획득하기 위한 절차들, 및 행동가능한 의도와 연관된 동작들을 수행하기 위한 태스크 흐름들을 포함한다.
전술한 바와 같이, 구조화된 질의를 완성하기 위해, 태스크 흐름 처리 모듈(736)은 추가 정보를 획득하고/하거나 잠재적으로 모호한 발화들을 명확히 구분하기 위해 사용자와의 추가 대화를 개시할 필요가 있다. 그와 같은 상호작용이 필요한 경우, 태스크 흐름 처리 모듈(736)은 대화 흐름 처리 모듈(734)을 호출하여 사용자와의 대화에 참여한다. 일부 예들에서, 대화 흐름 처리 모듈(734)은 어떻게(및/또는 언제) 사용자에게 추가 정보를 물을지를 결정하고, 사용자 응답을 수신하고 처리한다. 질문들은 I/O 처리 모듈(728)을 통해 사용자들에게 제공되고 그들로부터 답변들이 수신된다. 일부 예들에서, 대화 흐름 처리 모듈(734)은 오디오 및/또는 시각적 출력을 통해 사용자에게 대화 출력을 제시하고, 구어적 또는 물리적(예컨대, 클릭킹) 응답들을 통해 사용자로부터 입력을 수신한다. 상기 예에 이어서, 태스크 흐름 처리 모듈(736)이 대화 흐름 처리 모듈(734)을 호출하여 도메인 "레스토랑 예약"과 연관된 구조화된 질의를 위한 "인원수" 및 "날짜" 정보를 결정하는 경우, 대화 흐름 처리 모듈(734)은 "몇 명입니까?" 및 "언제입니까?"와 같은 질문들을 생성하여 사용자에게 전달할 수 있다. 사용자로부터 답변들이 수신되면, 이어서 대화 흐름 처리 모듈(734)은 구조화된 질의에 누락 정보를 덧붙이거나, 또는 태스크 흐름 처리 모듈(736)에 정보를 전달하여 구조화된 질의로부터 누락 정보를 완성한다.
일단 태스크 흐름 처리 모듈(736)이 행동가능한 의도에 대한 구조화된 질의를 완성했다면, 태스크 흐름 처리 모듈(736)은 행동가능한 의도와 연관된 궁극적인 태스크를 수행하도록 진행한다. 따라서, 태스크 흐름 처리 모듈(736)은 구조화된 질의에 포함된 특정 파라미터들에 따라 태스크 흐름 모델에서 단계들 및 명령어들을 실행한다. 예를 들어, "레스토랑 예약"의 행동가능한 의도에 대한 태스크 흐름 모델은 레스토랑에 연락하기 위한 그리고 특정 시간의 특정 인원수에 대한 예약을 실제로 요청하기 위한 단계들 및 명령어들을 포함한다. 예를 들어, {레스토랑 예약, 레스토랑 = ABC 카페, 날짜 = 3/12/2012, 시간 = 7pm, 인원수 = 5}와 같은 구조화된 질의를 사용하여, 태스크 흐름 처리 모듈(736)은, (1) OPENTABLE®과 같은 레스토랑 예약 시스템 또는 ABC 카페의 서버에 로그온하는 단계; (2) 웹사이트 상에서 일정 양식으로 날짜, 시간, 및 인원수 정보를 입력하는 단계; (3) 그 양식을 제출하는 단계; 및(4) 사용자의 캘린더 내에 예약을 위한 캘린더 엔트리를 만드는 단계를 수행한다.
일부 예들에서, 태스크 흐름 처리 모듈(736)은 사용자 입력에서 요청된 태스크를 완성하거나 또는 사용자 입력에서 요청된 정보제공형 답변을 제공하기 위해 서비스 처리 모듈(738)("서비스 처리 모듈")의 어시스턴트를 채용한다. 예를 들어, 서비스 처리 모듈(738)은 태스크 흐름 처리 모듈(736)을 대신해서 전화 통화하도록, 캘린더 엔트리를 설정하도록, 지도 검색을 호출하도록, 사용자 디바이스 상에 설치된 다른 사용자 애플리케이션들을 호출하거나 그들과 상호작용하도록, 그리고 제3자 서비스들(예를 들어, 레스토랑 예약 포탈, 사회적 네트워킹 웹사이트, 은행업무 포탈 등)을 호출하거나 그들과 상호작용하도록 동작한다. 일부 예들에서, 각각의 서비스에 의해 요구되는 프로토콜들 및 애플리케이션 프로그래밍 인터페이스(API)들은 서비스 모델들(756) 중 개개의 서비스 모델에 의해 특정된다. 서비스 처리 모듈(738)은 서비스를 위한 적절한 서비스 모델에 액세스하고, 서비스 모델에 따른 서비스에 의해 요구되는 프로토콜들 및 API들에 따라 서비스에 대한 요청들을 생성한다.
예를 들어, 레스토랑이 온라인 예약 서비스를 가능하게 했다면, 레스토랑은 예약을 하는 데 필요한 파라미터들 및 온라인 예약 서비스에 필요한 파라미터의 값들을 전달하기 위한 API들을 특정하는 서비스 모델을 제출한다. 태스크 흐름 처리 모듈(736)에 의해 요청될 때, 서비스 처리 모듈(738)은 서비스 모델에 저장된 웹 주소를 사용하여 온라인 예약 서비스와의 네트워크 접속을 확립하고, 온라인 예약 서비스의 API에 따른 포맷으로 예약의 필요한 파라미터들(예컨대, 시간, 날짜, 인원수)을 온라인 예약 인터페이스에 송신한다.
일부 예들에서, 자연 언어 처리 모듈(732), 대화 흐름 처리 모듈(734), 및 태스크 흐름 처리 모듈(736)은 사용자의 의도를 추론 및 정의하도록, 사용자 의도를 더 명확히 하고 정제하게 하기 위해 정보를 획득하도록, 그리고 최종적으로 사용자의 의도를 이행하기 위해 응답(즉, 사용자에게로의 출력, 또는 태스크의 완수)을 생성하도록 총체적이고 반복적으로 사용된다. 생성된 응답은 사용자의 의도를 적어도 부분적으로 이행하는 스피치 입력에 대한 대화 응답이다. 또한, 일부 예들에서, 생성된 응답은 스피치 출력으로서 출력된다. 이들 예에서, 생성된 응답은 스피치 합성 모듈(740)(예컨대, 스피치 합성기)로 전송될 수 있으며, 여기서 스피치 합성 모듈(740)은 스피치 형태로 대화 응답을 합성하도록 처리된다. 또 다른 예들에서, 생성된 응답은 스피치 입력에서 사용자 요청을 만족시키는 것과 관련된 데이터 콘텐츠이다.
태스크 흐름 처리 모듈(736)이 자연 언어 처리 모듈(732)로부터 다수의 구조화된 질의들을 수신하는 예들에서, 태스크 흐름 처리 모듈(736)은 초기에 수신된 구조화된 질의들 중 제1 구조화된 질의를 처리하여 제1 구조화된 질의를 완성하고자 시도하고/하거나 제1 구조화된 질의에 의해 표현되는 하나 이상의 태스크들 또는 행동들을 실행한다. 일부 예들에서, 제1 구조화된 질의는 가장 높은 순위의 행동가능한 의도에 대응한다. 다른 예들에서, 제1 구조화된 질의는 대응하는 스피치인식 신뢰도 점수들 및 대응하는 의도 신뢰도 점수들의 조합에 기초하여 수신된 구조화된 질의들로부터 선택된다. 일부 예들에서, 태스크 흐름 처리 모듈(736)이 제1 구조화된 질의의 처리 시 오류를 겪게 되는 경우(예컨대, 필수 파라미터를 결정할 능력 부족으로 인해), 태스크 흐름 처리 모듈(736)은 더 낮은 순위의 행동가능한 의도에 대응하는 수신된 구조화된 질의들의 제2 구조화된 질의를 선택 및 처리하도록 진행할 수 있다. 제2 구조화된 질의는, 예를 들어, 대응하는 후보 텍스트 표현의 스피치 인식 신뢰도 점수, 대응하는 후보 행동가능한 의도의 의도 신뢰도 점수, 제1 구조화된 질의 내의 누락된 필수 파라미터, 또는 이들의 임의의 조합에 기초하여 선택된다.
스피치 합성 모듈(740)은 사용자에게의 제시를 위한 스피치 출력을 합성하도록 구성된다. 스피치 합성 모듈(740)은 디지털 어시스턴트에 의해 제공된 텍스트에 기초하여 스피치 출력을 합성한다. 예를 들어, 생성된 대화 응답은 텍스트 문자열의 형태이다. 스피치 합성 모듈(740)은 텍스트 문자열을 가청 스피치 출력으로 변환한다. 스피치 합성 모듈(740)은, 텍스트로부터의 스피치 출력을 생성하기 위하여 임의의 적절한 스피치 합성 기법을 사용하는데, 이는 편집 합성(concatenative synthesis), 단위 선택 합성, 다이폰 합성, 도메인-특정 합성, 포먼트 합성(Formant synthesis), 조음 합성(Articulatory synthesis), HMM(hidden Markov model) 기반 합성, 및 정현파 합성(sinewave synthesis)을 포함하지만 이로 한정되지 않는다. 일부 예들에서, 스피치 합성 모듈(740)은 단어들에 대응하는 음소 문자열에 기초하여 개별 단어들을 합성하도록 구성된다. 예를 들어, 음소 문자열은 생성된 대화 응답의 단어와 연관된다. 음소 문자열은 단어와 연관된 메타데이터에 저장된다. 스피치 합성 모델(740)은 스피치 형태의 단어를 합성하기 위해 메타데이터 내의 음소 문자열을 직접 프로세싱하도록 구성된다.
일부 예들에서, 스피치 합성 모듈(740)을 사용하는 대신에(또는 그에 부가하여), 스피치 합성은 원격 디바이스(예컨대, 서버 시스템(108)) 상에서 수행되고, 합성된 스피치는 사용자에게의 출력을 위해 사용자 디바이스로 전송된다. 예를 들어, 이는 디지털 어시스턴트에 대한 출력이 서버 시스템에서 생성되는 일부 구현예들에서 발생할 수 있다. 그리고 서버 시스템은 일반적으로 사용자 디바이스보다 많은 처리 능력 또는 리소스를 갖기 때문에, 클라이언트 측 합성에서 실제보다 높은 품질의 스피치 출력을 획득하는 것이 가능하다.
디지털 어시스턴트에 대한 추가적인 상세 사항들은 2011년 1월 10일자로 출원되고 발명의 명칭이 "Intelligent Automated Assistant"인 미국 실용 특허 출원 제12/987,982호, 및 2011년 9월 30일자로 출원되고 발명의 명칭이 "Generating and Processing Task Items That Represent Tasks to Perform"인 미국 실용 특허 출원 제13/251,088호에서 발견될 수 있고, 이 출원들의 전체 개시내용들은 본 명세서에 참조로서 편입된다.
4.
사용자 입력에 기초하여 디지털 어시스턴트 서비스를 제공하는 디지털 어시스턴트의 예시적인 기능들.
도 2, 도 4, 도 6, 도 8a 및 도 8b, 도 9a 내지 도 9c, 도 10a 내지 도 10c, 도 11a 내지 도 11d, 도 12a 내지 도 12c, 도 13a 및 도 13b, 및 도 14는 전자 디바이스 상에서 동작하는 디지털 어시스턴트에 의해 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다. 일부 예들에서, 디지털 어시스턴트(예컨대, 디지털 어시스턴트 시스템(700))는 다양한 예들에 따른 사용자 디바이스에 의해 구현된다. 일부 예들에서, 사용자 디바이스, 서버(예컨대, 서버(108), 디바이스(820)), 또는 이들의 조합은 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))을 구현할 수 있다. 사용자 디바이스는, 예를 들어, 디바이스(200, 400, 600, 810A 내지 810C, 820, 830, 840, 1182, 및/또는 1186)를 이용하여 구현될 수 있다. 일부 예들에서, 사용자 디바이스는 오디오 출력 역량 및 네트워크 연결성을 갖는 디바이스, 스마트폰, 랩톱 컴퓨터, 데스크톱 컴퓨터, 또는 태블릿 컴퓨터이다.
도 8a 및 도 8b는 다양한 예들에 따른, 사용자 입력에 기초하여 하나 이상의 전자 디바이스(810A 내지 810C)에서 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다. 일부 예들에서, 전자 디바이스(810A)(및 유사한 다른 전자 디바이스들(810B, 810C))는 하나 이상의 오디오 입력 및 출력 디바이스(예컨대, 마이크로폰 및 하나 이상의 스피커) 및 하나 이상의 네트워크 통신 인터페이스를 포함할 수 있다. 디바이스(810A) 및 디바이스들(810B, 810C)은 전자 디바이스들(810) 또는 디바이스들(810)로 총칭된다. 디바이스(810A), 및 유사하게 디바이스들(810B, 810C)은 서라운드 사운드를 제공하는 다수의 스피커들을 포함할 수 있다. 일부 예에서, 전자 디바이스(810)는 디바이스 동작 표시를 제공하기 위하여 하나 이상의 표시자(예컨대, 라이트들)를 추가로 포함할 수 있다. 예를 들어, 디바이스(810A)의 하나 이상의 표시자는 디바이스(810A)가 전력 공급되고, 네트워크에 연결되고, 오디오를 출력하고 있음 등을 나타내기 위하여 발광할 수 있다 디바이스들(810A 내지 810C)은 다른 디바이스들로부터 디지털 어시스턴트 서비스를 확장하는 서비스-확장 디바이스들일 수 있다.
도 8a에 도시된 바와 같이, 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 다른 전자 디바이스들(예컨대, 디바이스들(810B, 810C, 820, 830, 및/또는 840))에 직접 통신 접속, 예컨대, 블루투스, 근거리 통신(NFC), BTLE(Bluetooth Low Energy) 등을 통해, 또는 유선 또는 무선 네트워크, 예컨대, 로컬 Wi-Fi 네트워크를 통해 통신가능하게 결합하도록 구성될 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 블루투스 발견을 통해 디바이스들(810B, 810C)을 검출하고, 디바이스들(810B, 810C)에 블루투스 연결을 통해 통신가능하게 결합될 수 있다. 다른 예로서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 Wi-Fi 네트워크를 검출하고, 디바이스들(830, 840)에 Wi-Fi 네트워크를 통해 통신가능하게 결합될 수 있다. 다른 예로서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)(예컨대, 사용자의 스마트폰과 같은 클라이언트 디바이스)가 디바이스(810A)와 매우 근접하거나, 또는 물리적으로 접촉할 때 근거리 통신을 검출할 수 있다. 예를 들어, 디바이스(810A)와 디바이스(830)를 페어링하기 위하여, 사용자(804)는 디바이스(810A)를 디바이스(830)로 두드림으로써, 두 디바이스들 간에 근거리 통신을 구축할 수 있다. 다른 예로서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)(예컨대, 사용자의 스마트폰과 같은 클라이언트 디바이스)가 미리결정된 거리 내(예컨대, 블루투스 통신의 범위 내)에 있음을 검출하여 디바이스(830)와의 연결을 구축할 수 있다. 예를 들어, 사용자(804)가 디바이스(830)를 구비한 채 영역(800)에 접근하거나 또는 진입함에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)가 통신 범위 내에 있고, 따라서 디바이스(830)와 연결됨을 검출할 수 있다. 다른 예로서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 두 디바이스들 간의 하나 이상의 이전에 구축된 연결에 기초하여 디바이스(830)와의 연결을 구축할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 그것이 과거에 연결된 디바이스들을 나타내는 로그 파일, 및 선택적으로 연결 파라미터들을 저장할 수 있다. 따라서, 로그 파일에 기초하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는, 예를 들어, 그것이 전에 디바이스(830)에 연결되었다고 결정할 수 있다. 이러한 결정에 기초하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)와의 연결을 구축할 수 있다.
일부 예들에서, 전자 디바이스(820)는 서버일 수 있고; 디바이스들(830, 840)은 전자 디바이스들(810)의 부근에 배치된 클라이언트 디바이스들일 수 있다. 예를 들어, 디바이스(820)는 원격 배치된 클라우드 서버일 수 있고; 디바이스들(830, 840)은 각각 사용자의 스마트폰 및 TV 셋톱 박스일 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스들(820, 830, 840) 중 적어도 하나와의 하나 이상의 연결을 구축한 후, 그것은 사용자 요청들을 포함하는 사용자 입력을 수신하고/하거나 사용자 요청들의 표현들을 디바이스들(820, 830, 840) 중 하나 이상에 제공할 수 있다. 사용자 입력을 수신하고 사용자 요청들의 표현들을 디바이스들(820, 830, 및/또는 840)에 제공하는 것은 아래 더 상세하게 기재된다. 연결을 구축한 후 사용자 입력들을 수신하고 사용자 요청들의 표현들을 다른 디바이스들에 제공함으로써 사용자 요청들에 대한 응답들을 제공하는 동작 효율성 및 속도를 개선할 수 있다. 예를 들어, 사전에 연결을 구축함으로써, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 입력이 수신된 후에 연결을 구축하는 시간을 낭비하지 않을 수 있다.
일부 예들에서, 디바이스(810A)와 디바이스(830)(예컨대, 사용자의 스마트폰과 같은 클라이언트 디바이스) 간에 연결을 구축한 후, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트 및/또는 디바이스(830)는 구축된 연결에 대하여 디바이스(820)(예컨대, 서버)에게 통지할 수 있다. 아래 더 상세하게 기재된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답들을 획득하기 위하여 디바이스(820)와 디바이스(830) 중 하나 또는 둘 모두에게 사용자 요청의 표현들을 제공할 수 있다. 디바이스(820)는 서버와 같은 원격 디바이스일 수 있고 디바이스(830)는 디바이스(810A)의 부근에 배치된 디바이스일 수 있다. 따라서, 디바이스(810A)와 디바이스(830) 간의 연결에 대하여 디바이스(820)(예컨대, 원격 서버)에게 통지함으로써 효율적인 동작을 가능하게 할 수 있다. 예를 들어, 아래 기재된 바와 같이, 일부 실시예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청의 표현들을 디바이스(820)와 디바이스(830) 둘 모두에게 제공할 수 있다. 디바이스(820) 및/또는 디바이스(830)는 디바이스(830)(예컨대, 클라이언트 디바이스(810A)의 부근에 배치된 디바이스)가 응답을 제공할 수 있다고 결정할 수 있다. 따라서, 디바이스(830)와 디바이스(810A)가 연결되어 있다고 디바이스(820)에게 통지되었기 때문에, 디바이스(820)는 응답을 디바이스(810A)에게 제공하지 않을 수 있다. 대신, 디바이스(820)는 디바이스(830)와 조정하여 응답을 제공할 수 있다. 일부 예들에서, 디바이스(830)(예컨대, 사용자의 스마트폰)가 디바이스(810A)의 부근에 배치되어 있기 때문에, 응답은 더 빠르고 더 효율적인 방식으로 제공될 수 있다.
일부 예들에서, 디바이스들(810A) 상에서 동작하는 디지털 어시스턴트는 동일한 유형을 갖는 하나 이상의 디바이스와 연결들을 구축할 수 있다. 예를 들어, 도 8a에 도시된 바와 같이, 복수의 디바이스(810A 내지 810C)는 서비스-확장 디바이스들일 수 있고, 영역(800)에 배치될 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 따라서 디바이스(810B) 및 디바이스(810C)의 각각과 연결을 구축할 수 있다. 아래 더 상세하게 기재된 바와 같이, 디바이스들(810A, 810B, 810C) 간의 연결을 구축함으로써 영역(800)에 배치된 임의의 디바이스(810A 내지 810C)에 의해 응답들이 사용자(804)에게 제공되도록 한다. 이는 유연성을 제공하고 사용자-상호작용 효율성을 개선한다. 예를 들어, 사용자(804)는 스피치 입력(예컨대, "음악 틀어 줘.")을 디바이스(810A)에 제공하고, 디바이스(810C)에 의해 응답을 수신할 수 있다 (예컨대, 디바이스(810C)에서 음악 재생).
일부 실시예들에서, 디바이스들(810A 내지 810C)은 하나의 디바이스에서 다른 디바이스로 디지털 어시스턴트 서비스를 확장하기 위한 서비스-확장 디바이스들일 수 있다. 예를 들어, 도 8a에 도시된 바와 같이, 디바이스들(810A 내지 810C)은 전자 디바이스(830)(예컨대, 스마트폰 디바이스) 및/또는 전자 디바이스(840)(예컨대, TV 셋톱 박스)의 부근에 배치되어 전자 디바이스들(830 및/또는 840)에 의해 제공되는 디지털 어시스턴트 서비스를 확장할 수 있다. 일부 예들에서, 디바이스들(810A 내지 810C)을 디바이스들(830 및/또는 840)의 부근에 배치하는 것은 디바이스들(810A 내지 810C)을 디바이스들(830 및/또는 840)을 둘러싸는 미리결정된 경계, 또는 그로부터 미리결정된 거리 내에 배치하는 것을 포함할 수 있다. 예를 들어, 디바이스들(810A 내지 810C)은 디바이스들(830 또는 840)과 동일한 집 또는 건물 내에 배치될 수 있다. 도 8a에 도시된 바와 같이, 사용자(804)는 물리적으로 영역(800) 내에 또는 인근에 있을 수 있는데, 이는 하나 이상의 방(871, 873, 875)을 포함할 수 있다. 사용자(804)는 물리적으로 방(871) 안에 위치할 수 있는 반면, 전자 디바이스(830)(예컨대, 사용자의 스마트폰)는 다른 방(873)에 배치될 수 있다. 일부 예들에서, 디바이스(830)가 사용자(804)와 직접 통신할 수 없음에도 불구하고(예컨대, 디바이스(830)가 사용자(804)의 스피치 입력을 그것의 마이크로폰을 통해 직접 수신하지 않을 수 있음), 사용자(804)는 디바이스(830)에 의해 제공되는 디지털 어시스턴트 서비스에 액세스하기를 원할 수 있다. 일부 예들에서, 디바이스들(810A 내지 810C)은 디바이스(830)에 의해 제공되는 디지털 어시스턴트 서비스를 확장하기 위하여 서비스-확장 디바이스들의 역할을 할 수 있고, 이는 아래 더 상세하게 기재된 바와 같다.
일부 실시예들에서, 하나 이상의 디바이스(810A 내지 810C)는 단일 디바이스 또는 사용자와 연관되거나 또는 연관되지 않을 수 있다. 디바이스들(810A 내지 810C)(예컨대, 서비스-확장 디바이스들)은 다수의 사용자들에 의해 공유될 수 있고 다수의 디바이스들에 대하여 디지털 어시스턴트 서비스를 확장할 수 있다. 일부 예들에서, 하나 이상의 디바이스(810A 내지 810C)는 디지털 어시스턴트 서비스를 복수의 사용자에게 확장할 수 있다. 도 8b에 도시된 바와 같이, 사용자(804) 및 사용자(806)는 하나 이상의 디바이스(810A 내지 810C)를 공유할 수 있다. 예를 들어, 사용자(804)는 연관된 디바이스(830)(예컨대, 사용자(804)의 스마트폰 또는 스마트 워치)를 가질 수 있고; 사용자(806)는 연관된 디바이스(832)(예컨대, 사용자(806)의 스마트폰 또는 태블릿)를 가질 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 자신과 디바이스(830) 간의 연결; 및 자신과 디바이스(832) 간의 연결을 구축할 수 있다. 그와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스들(830, 832) 중 하나 또는 둘 모두에 대하여 디지털 어시스턴트 서비스를 확장할 수 있다. 다수의 디바이스들에 대하여 디지털 어시스턴트 서비스를 확장하는 역량은 디바이스들(810A 내지 810C)이, 예를 들어, 다수의 사용자들(예컨대, 가족 구성원)에 의해 공유되도록 한다.
도 8a를 다시 참조하면, 일부 실시예들에서, 전자 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(804)로부터 사용자 요청을 표현하는 스피치 입력을 수신할 수 있다. 예를 들어, 사용자(804)는 하나 이상의 스피치 입력, 예컨대, "내일 내 캘린더에 뭐가 있지?", "내 첫번째 회의가 언제지?", "날씨 어때?" 또는 "내 영화 애플리케이션에서 스타워즈 틀어 줘."를 제공할 수 있다. 일부 예들에서, 사용자 요청은 사용자(804)에 특정된 정보에 대한 요청일 수 있다. 예를 들어, 스피치 입력들, 예컨대, "내일 내 캘린더에 뭐가 있지?" 또는 "내일 내 첫번째 회의가 언제지?"는 사용자(804)에 특정된 정보에 대한 요청들을 표현한다. 일부 예들에서, 사용자 요청은 비-사용자 특정 정보에 대한 요청일 수 있다. 예를 들어, 스피치 입력들, 예컨대, "내일 날씨 어때?" 또는 "오늘 AAPL 주가는 얼마야?"는 임의의 특정 사용자에 특정되지 않는 정보에 대한 요청들을 표현한다.
일부 실시예들에서, 사용자의 스피치 입력을 수신하기 전에, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 미리결정된 콘텐츠를 포함하는 추가적인 스피치 입력을 수신할 수 있다. 추가적인 스피치 입력을 수신하는 것에 응답하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(810A)를 활성화할 수 있다. 예를 들어, 디바이스(810A)는 대기 모드 또는 저전력 모드에 들어갈 수 있다. 디바이스(810A)를 대기 모드 또는 저전력 모드에 들어가게 함으로써 전력 소모를 감소시킬 수 있고, 일부 예들에서, 사용자의 사생활 보호를 강화한다. 예를 들어, 대기 모드 또는 저전력 모드 동안, 오직 제한된 음성 검출 및/또는 스피치 처리 기능들만이 디바이스(810A) 상에서 동작하는 디지털 어시스턴트에 대하여 인에이블될 수 있다. 디바이스(810A)의 다른 기능들(예컨대, 카메라, 표시등, 스피커 등)은 디스에이블될 수 있다. 일부 예들에서, 대기 모드 또는 저전력 모드 동안, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 여전히 스피치 입력을 검출하고 스피치 입력이 미리결정된 콘텐츠, 예컨대, "일어나, 스피커" 또는 "이봐, 스피커"를 포함하는지 결정할 수 있다. 결정에 기초하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(810A)를 활성화할 수 있다. 일부 예들에서, 디바이스(810A)가 활성화된 후, 디바이스(810A)는 대기 모드를 빠져나와 정상 동작 모드로 전환된다. 정상 동작 모드에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 추가적인 기능들을 수행할 수 있다.
도 8a에 도시된 바와 같이, 영역(800)(예컨대, 집)에서, 복수의 디바이스(810A 내지 810C)가 배치될 수 있다. 일부 예들에서, 디바이스(810A 내지 810C) 중 하나를 활성화하는 스피치 입력은 부근에 배치되어 있는 다른 디바이스들을 활성화하거나 또는 활성화하지 않을 수 있다. 예를 들어, 위에 기재된 바와 같이, 사용자(804)는 미리결정된 콘텐츠(예컨대, "일어나, 스피커")를 포함하는 스피치 입력을 디바이스(810A)에 제공할 수 있다. 일부 예들에서, 디바이스(810B)는 영역(800)의 다른 부분(예컨대, 다른 방)에 배치될 수 있고 따라서 스피치 입력을 수신하지 않을 수 있다. 결과적으로, 디바이스(810B)는 활성화되지 않을 수 있다. 일부 예들에서, 디바이스(810B)는 디바이스(810A)의 부근(예컨대, 같은 방 안)에 배치될 수 있고 또한 미리결정된 콘텐츠를 포함하는 스피치 입력을 수신할 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(810B)와 조정하여 어떤 디바이스가 활성화되어야 하는지 결정할 수 있다. 예를 들어, 디바이스(810A) 및 디바이스(810B) 상에서 동작하는 디지털 어시스턴트들은 둘 모두 스피치 입력과 연관된 음량 또는 음압을 검출하고 기록할 수 있다. 디바이스(810A)에서 검출된 음압과 디바이스(810B)에서 검출된 음압의 비교에 기초하여, 두 디바이스들에 대한 사용자의 위치가 결정될 수 있다. 예를 들어, 사용자가 물리적으로 디바이스(810B)보다 디바이스(810A)에 더 가깝다고 결정될 수 있다. 결과적으로, 디바이스(810A)는 활성화될 수 있는 반면, 디바이스(810B)는 활성화되지 않을 수 있다. 어떤 디바이스가 활성화될 것인지에 대한 결정은 사용자의 스피치 입력(예컨대, 사용자(804)가 "일어나, 거실 스피커"를 제공함) 및/또는 임의의 컨텍스트 정보, 예컨대, 사용자의 선호도, 사용자의 상대적 위치, 디바이스들의 역량 및 속성들(예컨대, 한 디바이스는 소정 태스크들을 수행하는 데 다른 디바이스보다 더 좋음) 등에 기초할 수 있음을 이해할 것이다.
일부 실시예들에서, 사용자의 스피치 입력을 수신한 후, 전자 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청에 관한 하나 이상의 스피치 문의를 출력할 수 있다. 예를 들어, 사용자의 스피치 입력에 기초하여 사용자 의도가 결정되지 않거나 분명하지 않을 수 있고; 또는 디바이스(810A) 상에서 동작하는 디지털 어시스턴트가 적절히 스피치 입력을 수신하지 않았을 수 있다. 그와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 "그게 뭐예요?" 또는 "그것을 확실히 이해하지 못했습니다."와 같은 스피치 문의를 출력함으로써, 사용자 요청을 분명히 할 것을 요구할 수 있다. 하나 이상의 스피치 문의에 응답하여, 사용자(804)는 그에 따라 그 또는 그녀의 요청들을 분명히 하는 하나 이상의 추가적인 스피치 입력을 제공할 수 있다(예컨대, 이전 스피치 입력을 반복하거나 또는 바꾸어 말함). 그리고 디바이스(810A)는 하나 이상의 추가적인 스피치 입력을 수신할 수 있다.
일부 실시예들에서, 사용자의 스피치 입력을 수신한 후, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(804)의 신원을 획득할 수 있다. 기재된 바와 같이, 전자 디바이스(810A)는 하나 이상의 사용자(예컨대, 사용자들(804, 806), 도 8b에 도시된 바와 같음)와 연관된 다수의 디바이스들(예컨대, 디바이스들(830, 832))에 대하여 디지털 어시스턴트 서비스를 확장할 수 있다. 따라서, 특정 사용자(예컨대, 사용자(804) 또는 사용자(806))와 연관된 적절한 디바이스로부터 디지털 어시스턴트 서비스의 확장을 제공하기 위하여, 전자 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자의 신원을 획득할 수 있다. 도 9a 내지 도 9c는 다양한 예들에 따른, 전자 디바이스(810A)에서 사용자(804)의 신원을 획득하는 기능들을 도시한다. 도 8a 및 도 9a 내지 도 9c를 참조하여, 일부 예들에서, 전자 디바이스(810A)는 인증 모듈(912)을 포함할 수 있다. 인증 모듈(912)은 음성 생체인식 센서, 안면 인식 시스템, 지문 판독기, NFC 센서 등과 같은 하나 이상의 센서를 포함할 수 있다. 일부 예들에서, 도 9a에 도시된 바와 같이, 인증 모듈(912)은 사용자(804)와 연관된 인증 데이터(906)를 획득할 수 있다. 일부 예들에서, 인증 데이터(906)는 사용자의 음성 생체인식, 및/또는 지문, 및/또는 사용자의 안면 인식 데이터를 포함할 수 있다. 예를 들어, 사용자(804)의 음성 생체인식은 음향 패턴 또는 성문과 같은 사용자의 음성 특징들을 포함할 수 있다. 사용자(804)의 안면 인식 데이터는 사용자를 고유하게 식별할 수 있는 사용자의 얼굴 특징들, 예컨대, 눈, 코, 광대뼈, 턱 등의 상대적 위치, 크기, 및/또는 형상을 포함할 수 있다.
일부 예들에서, 인증 데이터(906)는 사용자를 식별하는 다른 전자 디바이스의 감지를 포함할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(804)의 웨어러블 디바이스(예컨대, 스마트 워치)가 디바이스(810A)의 부근에 배치되어 있음을 검출하고, NFC(예컨대, 블루투스)를 통해 웨어러블 디바이스와 통신하고, (예컨대, 사용자의 워치 상에서 이미 인증된) 웨어러블 디바이스로부터 인증 데이터(906)를 획득할 수 있다. 다른 예로서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(810A)가 사용자를 식별하는 사용자의 스마트폰과 물리적으로 접촉하고 있음을 검출하고, NFC(예컨대, 블루투스)를 통해 사용자의 스마트폰과 통신하고, 사용자의 스마트폰으로부터 인증 데이터(906)를 획득할 수 있다. 일부 예들에서, 인증 데이터(906)는 사용자의 지문, 패스워드 등과 같은 사용자의 다른 크리덴셜들을 포함할 수 있다. 전자 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(804)와 연관된 임의의 인증 데이터를 임의의 방식으로 획득할 수 있음을 이해할 것이다.
도 8a 및 도 9a 내지 도 9c를 참조하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 인증 데이터(906)에 기초한 사용자(804)의 신원의 결정을 획득할 수 있다. 도 9b에 도시된 바와 같이, 일부 실시예들에서, 전자 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 인증을 위하여 획득된 인증 데이터(906)를 전자 디바이스(830)에 제공할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자의 음성 생체인식 데이터, 사용자의 안면 인식 데이터, 사용자의 지문 데이터, 디바이스 감지 데이터, 및/또는 기타 크리덴셜들을 전자 디바이스(830)에 제공할 수 있다. 기재된 바와 같이, 전자 디바이스(830)는 사용자(804)와 연관된 디바이스(예컨대, 사용자(804)의 스마트폰)일 수 있고, 따라서 사용자 신원 정보를 저장할 수 있다. 수신된 인증 데이터(906)에 기초하여, 디바이스(830)는 인증 데이터(906)가 저장된 사용자 신원 정보와 매칭되는 크리덴셜들(예컨대, 패스워드 또는 지문)을 포함하는지 결정할 수 있다. 인증 데이터(906)가 사용자 신원 정보와 매칭되는 크리덴셜들을 포함하는 경우, 디바이스(830)는 사용자(804)의 사용자 신원(910)의 결정을 디바이스(810A)에 전송할 수 있다.
도 9c를 참조하여, 기재된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 인증 데이터(906)를 디바이스(830)에 제공할 수 있다. 일부 실시예들에서, 디바이스(830)(예컨대, 스마트폰)는 사용자(804)의 신원을 획득하지 못할 수 있고, 따라서 인증 데이터(906)를 전자 디바이스(820)에 전달할 수 있다. 예를 들어, 디바이스(830)는 사용자를 식별할 수 있는 음성 생체인식 정보를 저장하지 않을 수 있고, 따라서 사용자(804)의 신원에 대하여 결정을 내리지 못할 수 있다. 디바이스(830)는 그에 따라 인증 데이터(906)를 디바이스(820)에 전달할 수 있다. 일부 예들에서, 디바이스(820)는 디바이스들(810A, 830)로부터 원격 배치될 수 있다. 예를 들어, 디바이스(820)는 네트워크(들)(850)를 통해 디바이스들(810A, 830)에 통신가능하게 결합된 서버일 수 있다. 디바이스(820)는 사용자 신원 정보를 저장할 수 있고 따라서 인증 데이터(906)가 저장된 신원 정보와 매칭되는 크리덴셜들을 포함하는지 결정할 수 있다. 디바이스(820)가 인증 데이터(906)가 사용자(804)의 사용자 신원 정보와 매칭되는 크리덴셜들을 포함한다고 결정하는 경우, 디바이스(820)는 사용자(804)의 사용자 신원(926)의 결정을 디바이스(810A)에 전송할 수 있다. 일부 예들에서, 디바이스(820)는 사용자(804)의 사용자 신원(926)의 결정을 디바이스(810A)에 직접 전송할 수 있다. 일부 예들에서, 디바이스(820)는 사용자(804)의 사용자 신원(926)의 결정을 디바이스(830)에 전송할 수 있고, 이는 이어서 디바이스(810A)로 전달된다.
일부 예들에서, 사용자(804)의 신원을 획득하는 것은 미리결정된 콘텐츠를 포함하는 스피치 입력에 기초할 수 있다. 위에 기재된 바와 같이, 미리결정된 콘텐츠를 포함하는 스피치 입력(예컨대, "일어나, 스피커" 또는 "이봐, 스피커")에 기초하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(810A)를 활성화할 수 있다. 미리결정된 콘텐츠를 포함하는 스피치 입력은 또한 사용자(804)의 음성 생체인식을 결정하는 데 사용될 수 있으며, 이는 음향 패턴 또는 성문과 같은 사용자의 음성 특징들을 포함할 수 있다. 결과적으로, 미리결정된 콘텐츠를 포함하는 스피치 입력(예컨대, 디바이스(810A)를 활성화하기 위한 스피치 입력)이 위에서 기재한 것들과 유사한 방식으로 사용자(804)를 식별하는 데 사용될 수 있다.
도 10a 내지 도 10c는 다양한 예들에 따른, 정보에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다. 도 8a 및 도 10a 내지 도 10c를 참조하여, 획득된 사용자 신원에 따라, 전자 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청(1008)의 표현을 디바이스(820) 또는 디바이스(830) 중 적어도 하나에 제공할 수 있다. 위에 기재된 바와 같이, 일부 예들에서, 디바이스(820)는 디바이스들(810A 내지 810C, 830)로부터 원격 배치된 서버일 수 있다. 디바이스(830)는 사용자(804)와 연관된 클라이언트 디바이스(예컨대, 사용자의 스마트폰)일 수 있고, 디바이스들(810A 내지 810C)의 부근(예컨대, 동일한 집 또는 건물 안)에 배치될 수 있다.
일부 실시예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청(1008)의 표현을 원격 디바이스에 제공하기 전에, 사용자 요청의 표현을 디바이스(810A)의 부근에 배치된 디바이스에 제공할 수 있다. 도 10a에 도시된 바와 같이, 사용자(804)는 스피치 입력(1006), 예컨대, "내일 내 첫번째 회의가 언제지?"를 제공할 수 있다. 따라서, 스피치 입력(1006)은, 예를 들어, 다음날의 사용자(804)의 첫번째 회의 시간에 관한 정보에 대한 사용자 요청을 포함한다. 일부 실시예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)가 디바이스(810A)에 통신가능하게 결합되어 있는지 결정할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)가 통신의 범위 내에 있는지 그리고 블루투스 또는 Wi-Fi 연결과 같은 NFC를 통해 연결이 구축될 수 있는지 검출할 수 있다. 디바이스(830)가 디바이스(810A)에 통신가능하게 결합되어 있다는 결정에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청(1008)의 표현을 디바이스(830)에 제공할 수 있다. 일부 실시예들에서, 디바이스(830)는 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 사용자의 스마트폰)이고; 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청의 표현을 도 8a에 도시된 디바이스(820)와 같은 원격 디바이스에 추가로 제공하지 않을 수 있다. 결과적으로, 사용자 요청은 원격으로 전송되지 않고, 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 사용자의 개인용 디바이스들) 내에 머무를 수 있다. 사용자 요청(1008)의 표현을 디바이스(810A)의 부근에 배치된 디바이스(830)에만 제공함으로써, 원격 디바이스와의 통신을 위해 시간을 소모할 필요 없이 빠르고 효율적인 방식으로 디바이스(830)로부터의 응답이 획득될 수 있다. 결과적으로, 디바이스(810A)에서 사용자 요청에 응답하는 속도가 개선될 수 있다. 또한, 사용자 요청(예컨대, 스피치 입력(1006)에 포함된 사용자가 요청한 것)은 민감하거나 또는 은밀한 사용자-특정 정보(예컨대, 사용자의 캘린더 정보)에 대한 요청을 포함할 수 있다. 결과적으로, 사생활 문제로 인해, 사용자 요청(1008)의 표현을 클라우드 서버와 같은 원격 디바이스에 전송하지 않는 것이 바람직할 수 있다.
도 10a에 도시된 바와 같이, 일부 예에서, 디바이스(830)는 디바이스(810A)로부터 사용자 요청(1008)의 표현을 수신하고 그것이 사용자 요청에 대한 응답을 제공할 수 있는지 결정한다. 예를 들어, 기재된 바와 같이, 사용자 요청은 다음날의 사용자(804)의 첫번째 회의 시간에 관한 정보에 대한 요청을 포함할 수 있다. 디바이스(830)는 사용자(804)의 캘린더 정보가 디바이스(830)에 저장되어 있다고 결정하고, 따라서 사용자 요청에 대한 응답을 제공할 수 있다고 결정할 수 있다. 그에 따라, 디바이스(830)는 사용자 요청에 대한 응답(1010)을 디바이스(810A)로 전송할 수 있다. 응답(1010)은, 예를 들어, 다음날의 사용자(804)의 첫번째 회의 시간을 포함할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청에 대한 응답(1010)을 디바이스(830)로부터 수신하고, 응답(1010)의 표현을 사용자(804)에게 제공할 수 있다. 도 10a에 도시된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 스피치 출력(1012), 예컨대, "당신의 첫번째 회의는 내일 아침 9시입니다."를 제공할 수 있다.
기재된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)가 디바이스(810A)에 통신가능하게 결합되어 있는지 결정할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)가 통신의 범위 내에 있는지 그리고 블루투스 또는 Wi-Fi 연결을 통해 두 디바이스들 간의 연결이 구축될 수 있는지 검출할 수 있다. 도 10b를 참조하여, 일부 실시예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)가 디바이스(810A)에 통신가능하게 결합되어 있지 않다고 결정할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는, 디바이스(830)가 통신의 범위를 벗어나거나, 또는 두 디바이스들 간에 연결이 구축될 수 없음으로 인해 디바이스(830)를 검출하지 못할 수 있다. 디바이스(830)가 디바이스(810A)에 통신가능하게 결합되어 있지 않다는 결정에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청(1008)의 표현을 디바이스(820)에 제공할 수 있다. 위에 기재된 바와 같이, 디바이스(820)는 서버와 같은 원격 디바이스일 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 네트워크(들)(850)를 통해 사용자 요청(1008)의 표현을 디바이스(820)에 제공할 수 있다.
일부 실시예들에서, 도 10b에 도시된 바와 같이, 디바이스(820)는 디바이스(810A)로부터 사용자 요청(1008)의 표현을 수신하고 그것이 사용자 요청에 대한 응답을 제공할 수 있는지 결정한다. 예를 들어, 기재된 바와 같이, 사용자 요청은 다음날의 사용자(804)의 첫번째 회의 시간에 관한 정보에 대한 요청을 포함할 수 있다. 디바이스(820)는 그것이 사용자(804)의 캘린더 정보를 저장하고 있거나, 또는 (예컨대, 사용자(804)의 클라우드 계정에 저장된) 사용자(804)의 캘린더 정보에 액세스 권한이 있다고 결정하고, 그에 따라 그것이 사용자 요청에 대한 응답을 제공할 수 있다고 결정할 수 있다. 그에 따라, 디바이스(820)는 사용자 요청에 대한 응답(1014)을 디바이스(810A)에 전송할 수 있다. 사용자 요청에 대한 응답(1014)은, 예를 들어, 다음날의 사용자의 첫번째 회의 시간을 포함할 수 있다. 디바이스(810A)는 사용자 요청에 대한 응답(1014)을 디바이스(820)로부터 수신하고, 응답(1014)의 표현을 사용자(804)에게 제공할 수 있다. 도 10b에 도시된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 스피치 출력(1012), 예컨대, "당신의 첫번째 회의는 내일 아침 9시입니다."를 제공할 수 있다. 일부 예들에서, 사용자(804)에게 응답을 제공한 후, 디바이스(810A)는 계속해서 후속 스피치 입력들을 모니터할 수 있다.
도 10c를 참조하여, 일부 실시예들에서, 사용자(804)는 스피치 입력(1020), 예컨대, "오늘 AAPL 주가는 얼마지?"를 제공할 수 있다. 이런 유형의 스피치 입력은 비-사용자-특정 정보에 대한 사용자 요청을 표현한다. 비-사용자-특정 정보는 특정 사용자에 특정되지 않고, 일반적인 정보, 예컨대, 날씨 정보, 주가 정보, 스포츠 경기 정보 등일 수 있다. 일부 실시예들에서, 도 10c에 도시된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 비-사용자-특정 정보에 대한 사용자 요청(1022)의 표현을 디바이스(820)에 제공하고 디바이스(830)에는 제공하지 않을 수 있다. 기재된 바와 같이, 디바이스(820)는 디바이스(810A)로부터 원격 배치된 서버일 수 있고, 디바이스(830)는 디바이스(810A)의 부근에 배치된 사용자의 스마트폰일 수 있다. 일부 실시예들에서, 비-사용자-특정 정보(예컨대, 날씨, 주가, 경기 스코어 등)는 디바이스(830)(예컨대, 사용자의 스마트폰)에서 이용가능하지 않고/않거나 업데이트되지 않을 수 있다. 따라서, 디바이스(810A)는 원격 디바이스(예컨대, 서버)로부터 비-사용자-특정 정보를 획득하는 것이, 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 사용자의 개인용 디바이스)보다 더 적절하고 효율적이라고 결정할 수 있다. 그와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 네트워크(들)(850)를 통해 비-사용자-특정 정보에 대한 사용자 요청(1022)의 표현을 디바이스(820)(예컨대, 서버)에 제공할 수 있다.
도 10c에 도시된 바와 같이, 디바이스(820)는 사용자 요청(1022)의 표현을 디바이스(810A)로부터 수신하고, 그것이 사용자 요청에 대한 응답을 제공할 수 있다고 결정한다. 예를 들어, 기재된 바와 같이, 사용자 요청은 AAPL의 주가 정보에 대한 요청을 포함할 수 있다. 디바이스(820)는 정보를 관련 데이터 소스(예컨대, 금융 웹사이트)로부터 획득할 수 있고, 따라서 사용자 요청에 대한 응답을 제공할 수 있다고 결정할 수 있다. 그에 따라, 디바이스(820)는 사용자 요청에 대한 응답(1024)을 디바이스(810A)에 전송할 수 있다. 사용자 요청에 대한 응답(1024)은, 예를 들어, AAPL의 현재 주가를 포함할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1024)을 디바이스(820)로부터 수신하고, 응답(1024)의 표현을 사용자(804)에게 제공할 수 있다. 도 10c에 도시된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 스피치 출력(1026), 예컨대, "AAPL은 오늘 $200에서 마감하였습니다."를 제공할 수 있다.
도 11a 내지 도 11d는 다양한 예들에 따른, 태스크를 수행하는 것에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다. 도 11a 및 도 11b를 참조하여, 일부 실시예들에서, 사용자(804)는 태스크를 수행하는 것에 대한 사용자 요청을 표현하는 스피치 입력(1106)을 제공할 수 있다. 예를 들어, 스피치 입력(1106)은 "탑건(Top Gun)에서 나온 마이티 윙즈(Mighty Wings) 틀어 줘."를 포함할 수 있다. 스피치 입력(1106)은 따라서 특정 곡의 음악을 재생하는 태스크를 수행하기 위한 요청을 표현한다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 (예컨대, 충분한 정보의 부족으로 인해) 사용자 요청에 대한 응답이 디바이스(830)(예컨대, 사용자(804)의 개인용 스마트폰과 같은 디바이스(810A)의 부근에 배치된 디바이스)에 의해 제공될 수 있는지 아니면 디바이스(820)(예컨대, 원격 서버)에 의해 제공될 수 있는지 결정하지 못할 수 있다. 위의 예에서, 디바이스(810A)는 사용자(804)의 스마트폰 또는 서버가 노래 "마이티 윙즈"를 저장하고 있는지 결정하기에 충분한 정보를 갖지 않을 수 있다. 그에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청(1108)의 표현을 디바이스(830)와 디바이스(820) 둘 모두에게 제공할 수 있다.
도 11a에 도시된 바와 같이, 디바이스(820)와 디바이스(830) 둘 모두는 사용자 요청(1108)의 표현(예컨대, 태스크를 수행하기 위한 사용자 요청)을 수신한다. 디바이스(820)와 디바이스(830) 중 하나 또는 둘 모두는 각각의 디바이스가 사용자 요청(1108)에 대한 응답을 제공할 수 있는지 결정할 수 있다. 예를 들어, 디바이스(830)는 그것이 노래 마이트 윙즈를 저장하고 있는지 결정하고, 그런 경우, 그것이 응답을 제공할 수 있다고 결정할 수 있다. 디바이스(820)는 유사한 결정을 내릴 수 있다. 일부 예들에서, 결정들은 디바이스(820) 및 디바이스(830) 상에서 별개로 그리고 독립적으로 이루어질 수 있다. 예를 들어, 두 디바이스들(820, 830)은 그것들이 노래 "마이티 윙즈"를 저장하고 있는지 결정하고, 결정의 결과를 다른 디바이스에 전달할 수 있다. 일부 예들에서, 디바이스(820) 또는 디바이스(830) 중 하나가 먼저 결정을 내리고, 표시를 다른 디바이스에 전송할 수 있다. 예를 들어, 디바이스(830)는 노래 "마이티 윙즈"가 디바이스(830)에 저장되어 있는지 결정하고, 결정의 표시를 디바이스(820)에 전송할 수 있다. 디바이스(830)가 그것이 노래 "마이티 윙즈"를 저장하고 있다고 결정하는 경우, 그것은 대응하는 표시를 디바이스(820)에 전송하여 디바이스(820)가 임의의 추가적인 결정을 내리지 않도록 할 수 있다. 디바이스(830)가 그것이 노래 "마이티 윙즈"를 갖고 있지 않다고 결정하는 경우, 그것은 대응하는 표시를 디바이스(820)에 전송하여, 디바이스(820)가 이어서 그것이 요청된 노래를 저장하고 있는지 또는 그것에 액세스 권한이 있는지 결정할 수 있도록 할 수 있다. 유사하게, 디바이스(820)가 먼저 결정을 내리고 이어서 표시를 디바이스(830)에 전송할 수 있다. 일부 실시예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 하나 또는 둘 모두의 디바이스들(820, 830)로 하여금 각각의 디바이스가 사용자 요청에 대한 응답을 제공할 수 있는지 결정하게 할 수 있다. 예를 들어, 디바이스들(820, 830)에 전송된 사용자 요청(1108)의 표현은 하나 또는 둘 모두의 디바이스들(820, 830)이 하나 또는 둘 모두의 디바이스들이 요청된 응답을 제공할 수 있는지 결정하도록 하는 명시적 또는 암시적 요청을 포함할 수 있다.
도 11a에 도시된 바와 같이, 일부 예들에서, 디바이스(820)(예컨대, 서버)는 그것이 사용자 요청에 대한 응답을 제공할 수 있다고 결정할 수 있고; 디바이스(830)(예컨대, 사용자의 스마트폰)는 그것이 사용자 요청에 대한 응답을 제공할 수 없다고 결정할 수 있다. 예를 들어, 디바이스(820)는 그것이 요청된 노래 "마이티 윙즈"를 저장하고 있거나, 또는 그것에 액세스 권한이 없다고 결정할 수 있고, 디바이스(830)는 그것이 그 노래를 저장하고 있지 않다고 결정할 수 있다. 그에 따라, 디바이스(820)는 사용자 요청에 대한 응답(1112)을 디바이스(810A)에 제공할 수 있다. 예를 들어, 디바이스(820)는 노래 "마이티 윙즈"를 디바이스(810A)로 스트리밍할 수 있다. 디바이스(810A)는 응답(1112)을 디바이스(820)로부터 수신하고, 응답(1112)의 표현을 사용자(804)에게 제공한다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 노래 "마이티 윙즈"의 스트리밍을 수신하고, 노래의 오디오 출력들(1114)을 제공한다.
도 11b를 참조하여, 일부 예들에서, 디바이스(830)(예컨대, 사용자의 스마트폰)는 그것이 사용자 요청에 대한 응답을 제공할 수 있다고 결정할 수 있고; 디바이스(820)(예컨대, 서버)는 그것이 사용자 요청에 대한 응답을 제공할 수 없다고 결정할 수 있다. 예를 들어, 디바이스(830)는 그것이 노래 "마이티 윙즈"를 저장하고 있다고 결정할 수 있고, 디바이스(820)는 그것이 그 노래를 저장하고 있지 않거나, 또는 추가적인 사용자 상호작용을 요구(예컨대, 사용자에게 그 노래를 구매하도록 요구)하지 않고 요청된 노래에 액세스 권한이 없다고 결정할 수 있다. 그에 따라, 디바이스(830)는 사용자 요청에 대한 응답(1112)을 디바이스(810A)에 제공할 수 있다. 예를 들어, 디바이스(830)는 노래 "마이티 윙즈"를 디바이스(810A)로 스트리밍할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1122)을 디바이스(830)로부터 수신하고 응답(1122)의 표현을 사용자(804)에게 제공한다. 예를 들어, 디바이스(810A)는 노래 "마이티 윙즈"의 스트리밍을 수신하고 노래의 오디오 출력들(1124)을 제공한다.
도 11a 및 도 11b를 참조하여, 일부 예들에서, 디바이스(830)(예컨대, 사용자의 스마트폰)와 디바이스(820)(예컨대, 서버) 둘 모두는 각각의 디바이스가 사용자 요청에 대한 응답을 제공할 수 있다고 결정할 수 있다. 예를 들어, 디바이스(830)는 그것이 노래 "마이티 윙즈"를 저장하고 있다고 결정할 수 있고, 디바이스(820)는 그것 또한 요청된 노래를 (예컨대, 사용자의 클라우드 계정에) 저장하고 있거나 또는 추가적인사용자 상호작용을 요구하지 않고(예컨대, 사용자에게 노래를 구매하도록 요구하지 않고) 노래에 액세스 권한이 있다고 결정할 수 있다. 그에 따라, 디바이스(820) 또는 디바이스(830) 중 어느 하나는 사용자 요청에 대한 응답을 디바이스(810A)에 제공할 수 있다. 일부 예들에서, 응답을 제공하기 위한 다수의 디바이스들로부터의 디바이스의 선택은 미리결정된 조건에 기초할 수 있다. 예를 들어, 미리결정된 조건은 사전구성 정책(예컨대, 둘 이상의 디바이스가 응답들을 제공할 수 있는 경우, 디바이스(830)가 응답을 제공할 디폴트 디바이스임), 연결 대역폭의 조건(예컨대, 더 높은 연결의 대역폭을 갖는 디바이스가 응답을 제공할 디바이스임), 사용자의 선호도의 조건(예컨대, 셀룰러 데이터 사용을 아끼기 위하여, 사용자는 응답들을 제공하기 위하여 Wi-Fi를 통해 디바이스(810A)에 연결된 디바이스를 사용하기를 선호함) 등을 포함할 수 있다. 미리결정된 조건에 기초하여, 디바이스(820)와 디바이스(830) 중 하나는 노래 "마이티 윙즈"를 디바이스(810A)에 스트리밍할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청에 대한 응답을 수신하고, 응답의 표현을 사용자에게 제공한다. 예를 들어, 디바이스(810A)는 노래 "마이티 윙즈"의 스트리밍을 수신하고 노래의 오디오 출력들을 제공한다.
도 11c를 참조하여, 일부 실시예들에서, 사용자(804)는 태스크를 수행하는 것에 대한 사용자 요청을 표현하는 스피치 입력(1126)을 제공할 수 있다. 스피치 입력(1126)은, 예를 들어, "영화 스타워즈 틀어 줘."를 포함할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1126)을 수신한다. 일부 예들에서, 스피치 입력(1126)에 기초하여, 디바이스(810A)는 사용자 요청(1128)의 표현을 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 디바이스(840))에 제공하고, 원격 디바이스(예컨대, 서버와 같은 디바이스(820))에 제공하지 않을 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 수많은 이유들로 인해 사용자 요청(1128)의 표현을 원격 디바이스에 제공하지 않을 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 정보는 디바이스(810A)의 부근에 배치된 디바이스(예컨대, TV 셋톱 박스와 같은 디바이스(840))에 이용가능한 경향이 있다거나; 원격 디바이스에 대한 연결이 없거나 또는 열악하다거나; 원격 디바이스에 대한 대역폭이 제한되거나 또는 열등하다거나; 미리결정된 구성이 사용자 요청들의 표현들을 디바이스(810A)의 부근에 있는 디바이스(예컨대, Wi-Fi를 통해 디바이스(810A)에 연결된 디바이스)에 제공하는 것을 요구하는 등을 결정할 수 있다. 위에 기재된 바와 같이, 디바이스(840)는 디바이스(810A)의 부근에 배치된 TV 셋톱 박스일 수 있고, 디바이스(820)는 원격 배치된 서버일 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 항상 사용자 요청의 표현을 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 디바이스(840))에 제공하도록 구성될 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청의 유형 및/또는 내용에 기초하여 사용자 요청의 표현을 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 디바이스(840)) 또는 원격 디바이스(예컨대, 디바이스(820))에 제공하도록 구성될 수 있다. 위에 기재된 바와 같이, 일부 예들에서, 사용자 요청이 사용자-특정 정보에 대한 요청인 경우, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청의 표현을 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 사용자의 스마트폰)에 제공할 수 있고; 사용자 요청이 비-사용자-특정 정보에 대한 요청인 경우, 디바이스(810A)는 사용자 요청의 표현을 원격 디바이스(예컨대, 서버)에 제공할 수 있다.
도 11c에 도시된 바와 같이, 디바이스(840)는 사용자 요청(1128)의 표현을 수신하는데, 이는 디바이스(840)로 하여금 그것이 사용자 요청에 대한 응답을 제공할 수 있는지 결정하게 할 수 있다. 예를 들어, 디바이스(840)는 그것이 영화 스타워즈를 저장하고 있고 따라서 디바이스(810A)에 응답을 제공할 수 있다고 결정할 수 있다. 다른 예들로서, 디바이스(840)는 그것이 사용자의 개인용 캘린더, 연락처, 사진, 미디어 아이템 등을 포함하는 데이터를 저장하고 있고, 따라서 이러한 저장된 데이터를 이용하여 정보 또는 태스크 수행에 대한 사용자 요청에 대한 응답을 제공할 수 있다고 결정할 수 있다. 디바이스(840)가 사용자 요청에 대한 응답을 제공할 수 있다는 결정에 따라, 디바이스(840)는 응답(1134)을 디바이스(810A)에 제공할 수 있다. 예를 들어, 디바이스(840)는 영화 "스타워즈"를 디바이스(810A)로 스트리밍할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1134)을 디바이스(810A)로부터 수신하고, 응답(1134)의 표현을 사용자에게 제공한다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 그것의 디스플레이 및 스피커들을 이용하여 오디오 출력들(1136)을 제공할 수 있다(예컨대, 영화 "스타워즈"를 재생함). 일부 예들에서, 디바이스(840)는 응답의 적어도 일부분을 디바이스(810A)에 제공하는 반면, 응답의 다른 부분들을 하나 이상의 다른 디바이스들에 제공할 수 있다. 예를 들어, 디바이스(840)는 영화 "스타워즈"의 오디오 부분을 디바이스(810A)에 제공하는 반면, 영화의 비디오 부분을 디바이스(1137)(예컨대, TV)에 제공할 수 있다.
도 11c를 참조하여, 기재된 바와 같이, 디바이스(840)는 사용자 요청(1128)의 표현을 수신하는데, 이는 디바이스(840)로 하여금 그것이 사용자 요청에 대한 응답을 제공할 수 있는지 결정하게 할 수 있다. 일부 예들에서, 디바이스(840)는 그것이 사용자 요청에 대한 응답을 제공할 수 없다고 결정할 수 있다. 예를 들어, 디바이스(840)는 그것이 영화 "스타워즈"를 저장하고 있지 않고 따라서 응답을 제공할 수 없다고 결정할 수 있다. 다른 예들로서, 디바이스(840)는 사용자 요청이 디바이스(840)에 저장되지 않은 정보(예컨대, 주식 정보, 웹 검색 요청 등)에 대한 것이라고 결정하고, 따라서 그것이 응답을 제공할 수 없다고 결정할 수 있다.
도 11c에 도시된 바와 같이, 디바이스(840)가 사용자 요청에 대한 응답을 제공할 수 없다는 결정에 따라, 디바이스(840)는 사용자 요청(1128)의 표현을 디바이스(820)에 네트워크(들)(850)를 통해 전달할 수 있다. 기재된 바와 같이, 디바이스(820)는 서버일 수 있다. 사용자 요청(1128)의 표현에 기초하여, 디바이스(820)는 이어서 그것이 응답을 제공할 수 있는지 결정할 수 있다. 예를 들어, 디바이스(820)는 그것이 요청된 영화를 저장하고 있는지, 또는 요청된 영화가 사용자(804)의 클라우드 계정 또는 웹 소스(예컨대, 미디어 웹사이트)로부터 액세스가능한지 결정할 수 있다. 디바이스(820)가 그것이 요청된 영화를 저장하고 있다거나 또는 요청된 영화가 액세스가능하다고 결정하는 경우, 디바이스(820)는 그것이 응답을 제공할 수 있다고 결정한다. 일부 예들에서, 디바이스(820)는 응답(1132)을 디바이스(840)에 제공할 수 있는데, 이는 이어서 디바이스(810A) 및 선택적으로 디바이스(1137)(예컨대, TV)로 전달될 수 있다. 일부 예들에서, 디바이스(820)는 응답(1132)을 직접 디바이스(810A) 및 선택적으로 디바이스(1137)에 제공할 수 있다. 예를 들어, 디바이스(820)는 영화 스타워즈의 오디오 부분을 디바이스(810A)에 전송하는 반면, 영화 스타워즈의 비디오 부분을 디바이스(1137)로 (디바이스(840)를 통해) 전송할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트, 및 선택적으로 디바이스(1137)는 응답(1132)을 수신하고, 응답(1132)의 표현을 사용자에게 제공한다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트, 및 선택적으로 디바이스(1137)는 수신된 응답(1132)에 기초하여 출력(1136)을 제공할 수 있다(예컨대, 영화 "스타워즈"를 재생함).
도 11c에 도시된 예를 이용하여, 스피치 입력(1126)을 제공하는 대신에, 사용자(804)는 스피치 입력, 예컨대, "영화 스타워즈를 내 TV에서 틀어 주고, 내 컴퓨터에 다른 화면 설정해 줘."를 제공할 수 있다. 위에서 기재한 것들과 유사하게, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청의 표현을 디바이스(840)에 제공하고, 디바이스(840)(예컨대, 디바이스(810A)의 부근에 배치된 TV 셋톱 박스) 또는 디바이스(820)(예컨대, 서버)가 응답을 제공할 수 있는지에 대한 결정에 기초하여 사용자 요청에 대한 응답을 디바이스(840) 또는 디바이스(820)로부터 수신할 수 있다. 일부 실시예들에서, 사용자 요청은 사용자 요청에 대한 응답이 다수의 디바이스들에 제공될 것이라고 나타낼 수 있다. 따라서, 디바이스(840) 및/또는 디바이스(820)는 그에 따라 응답을 제공할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답의 일부분(예컨대, 영화의 오디오 부분)을 수신할 수 있고; 디바이스(1137)는 응답의 다른 부분(예컨대, 영화의 비디오 부분)을 수신할 수 있고; 다른 디바이스(예컨대, 사용자의 컴퓨터)는 응답의 복사본(예컨대, 영화의 오디오 부분 및 비디오 부분 둘 모두의 사본)을 수신할 수 있다. 일부 예들에서, 사용자(804)는 디바이스(810A)를 이용하지 않고 그 또는 그녀의 컴퓨터 또는 태블릿과 같은 디바이스를 이용하여 영화를 보길 원할 수 있다. 사용자(804)는 스피치 입력, 예컨대, "내 컴퓨터에서 영화 스타워즈 틀어 줘." 또는 "내 태블릿에서 영화 스타워즈 틀어 줘."를 제공할 수 있다. 스피치 입력은 태스크 수행을 시작하기 위한 초기 입력(예컨대, 영화 스타워즈 재생 시작해 줘)으로서 제공될 수 있다. 스피치 입력은 또한 태스크가 수행되고 있는 동안 (예컨대, 디바이스(840)가 영화를 디바이스(810A) 및/또는 디바이스(1137)로 스트리밍하고 있는 동안) 후속 입력으로서 제공될 수 있다. 위에서 기재한 것들과 유사하게, 디바이스(810A)는 사용자 요청의 표현을 디바이스(840) 및/또는 디바이스(820)에 제공할 수 있다. 사용자 요청의 표현은 응답이 사용자의 컴퓨터 또는 태블릿(도 11c에 미도시)에 제공될 것이라고 나타낼 수 있다. 사용자의 컴퓨터 또는 태블릿은 따라서 디바이스(840)(예컨대, 디바이스(810A)의 부근에 배치된 TV 셋톱 박스) 또는 디바이스(820)(예컨대, 서버)가 응답을 제공할 수 있는지에 대한 결정에 기초하여, 사용자 요청에 대한 응답을 디바이스(840) 또는 디바이스(820)로부터 수신할 수 있다.
도 11d를 참조하여, 일부 실시예들에서, 사용자(804)는 스피치 입력(1152), 예컨대, "제인에게 전화걸고, 케빈을 회의참여시켜 줘."를 제공할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1152)을 수신하고, 사용자 요청(1154)의 표현을 디바이스(830)(예컨대, 사용자의 스마트폰)에 제공할 수 있다. 사용자 요청(1154)은 디바이스(830)에서 태스크를 수행하기 위한 요청(예컨대, 제인에게 전화걸고 케빈을 회의참여시킴)을 포함할 수 있다. 디바이스(830)는 사용자 요청(1154)의 표현을 수신하고, 그것이 태스크를 수행할 수 있다고 결정한다. 도 1 내지 도 7c와 관련하여 위에서 기재한 바와 같이, 다른 예들에서와 유사하게, 디바이스(830)(및/또는 디바이스(810A)) 상에서 동작하는 디지털 어시스턴트의 자연 언어 처리 모듈은 사용자 요청에 기초하여 행동가능한 의도를 식별하고, 식별된 행동가능한 의도를 표현하는 구조 질의를 생성할 수 있다. 예를 들어, 스피치 입력(1152)에 기초하여, 디바이스(830)는 따라서 행동가능한 의도가 "전화를 거는 것"인지 결정할 수 있다. 일부 예들에서, 디지털 어시스턴트는 (예컨대, 단어들을 명확히 하고, 사용자로부터 명확화 입력들을 추가적으로 이끌어내고/내거나 사용자의 연락처 목록과 같은 컨텍스트 정보를 사용함으로써) 사용자 의도를 완전히 추론하는 데 필요한 정보를 능동적으로 이끌어내고 획득할 수 있다. "전화를 걸기"위한 구조화된 질의는 {전화받는 사람}, {전화번호} 등과 같은 파라미터들을 포함할 수 있다. 그 다음, 디지털 어시스턴트의 태스크 흐름 처리 모듈은 구조화된 질의를 수신하고, 사용자 요청에 대한 응답을 제공하는 데 요구되는 행동들을 수행할 수 있다. 그에 따라, 디바이스(830)는 사용자 요청(1154)에 따라 태스크를 수행할 수 있다(예컨대, 사용자(1194)의 디바이스(1182)에 전화를 걸고 사용자(1196)의 디바이스(1186)를 회의참여시킴). 태스크의 수행에 기초하여, 디바이스(830)는 또한 응답(1157)을 디바이스(810A)에 제공할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1157)을 디바이스(830)로부터 수신할 수 있는데, 이는 사용자(1194)(예컨대, 제인) 및 사용자(1196)(예컨대, 케빈)와의 회의가 성사되었음을 나타낸다. 그에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 오디오 출력(1162), 예컨대, "제인과 케빈이 연결되어 있습니다."를 제공할 수 있다.
도 12a 내지 도 12c는 다양한 예들에 따른, 정보에 대한 사용자 요청에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다. 도 12a를 참조하여, 사용자(804)는 스피치 입력(1206), 예컨대, "제인의 이동전화번호 찾아 줘."를 제공할 수 있다. 스피치 입력(1206)은 따라서 전화번호에 대한 사용자 요청을 표현한다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1206)을 수신하고, 사용자 요청(1208)의 표현을 네트워크(들)(850)를 통해 원격 디바이스(예컨대, 서버와 같은 디바이스(820))에 제공하고, 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 사용자의 스마트폰과 같은 디바이스(830))에 제공하지 않는다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 수많은 이유들로 인해 사용자 요청(1208)의 표현을 디바이스(810A)의 부근에 배치된 디바이스에 제공하지 않을 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 정보는 디바이스(810A)의 부근에 배치된 디바이스(예컨대, 디바이스(830))에 이용가능한 경향이 없다거나; 디바이스(810A)의 부근에 있는 디바이스에 대한 연결이 없거나 또는 열악하다거나(예컨대, 디바이스(830)가 디바이스(810A)와의 통신 범위 밖에 있음); 디바이스(810A)의 부근에 배치된 디바이스에 대한 대역폭이 제한되거나 또는 열등하다거나; 미리결정된 구성이 사용자 요청들의 표현들을 원격 디바이스에 제공하기를 요구하는 등을 결정할 수 있다.
일부 실시예들에서, 디바이스(820)는 사용자 요청(1208)의 표현을 수신하는데, 이는 디바이스(820)로 하여금 그것이 사용자 요청에 대한 응답을 제공할 수 있는지 결정하게 할 수 있다. 예를 들어, 디바이스(820)는 사용자(804)의 클라우드 계정이 요청된 전화번호를 저장하고 있고, 따라서 사용자 요청에 대한 응답을 제공할 수 있다고 결정할 수 있다. 디바이스(820)가 사용자 요청에 대한 응답을 제공할 수 있다는 결정에 따라, 디바이스(820)는 응답(1210)을 디바이스(810A)에 제공할 수 있다. 예를 들어, 디바이스(820)는 제인의 전화번호를 디바이스(810A)에 제공할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1210)을 디바이스(820)로부터 수신하고 응답(1210)의 표현을 사용자(804)에게 제공한다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 오디오 출력(1212), 예컨대, "제인의 번호는 123-456-7890입니다."를 제공할 수 있다.
도 12b를 참조하여, 도 12a와 유사하게, 디바이스(810A)는 스피치 입력(1226), 예컨대, "제인의 전화번호를 찾아 줘."를 수신한 후, 그것은 사용자 요청(1228)의 표현을 네트워크(들)(850)을 통해 디바이스(820)에 제공할 수 있다. 일부 실시예들에서, 디바이스(820)는 사용자 요청(1228)의 표현을 수신하는데, 이는 디바이스(820)로 하여금 그것이 사용자 요청(1228)에 대한 응답을 제공할 수 있는지 결정하게 할 수 있다. 예를 들어, 디바이스(820)는 사용자(804)의 클라우드 계정이 제인의 전화번호를 저장하고 있지 않고, 따라서 사용자 요청에 대한 응답을 제공할 수 없다고 결정할 수 있다. 디바이스(820)가 사용자 요청에 대한 응답을 제공할 수 없다는 결정에 따라, 디바이스(820)는 사용자 요청(1228)의 표현을 디바이스(830)로 전달할 수 있다. 디바이스(830)는 디바이스(810A)의 부근에 배치된 디바이스일 수 있고, 사용자(804)와 연관된 디바이스(예컨대, 스마트폰과 같은 사용자(804)의 개인용 디바이스)일 수 있다. 위에서 기재한 것들과 유사하게, 디바이스(830)는 그것이 사용자 요청에 대한 응답을 제공할 수 있는지(예컨대, 그것이 제인의 전화번호를 저장하고 있는지) 결정할 수 있고, 결정에 따라 응답(1232)을 디바이스(810A)에 제공한다. 예를 들어, 디바이스(830)가 제인의 전화번호를 제공할 수 있다는 결정에 따라, 디바이스(830)는 제인의 전화번호를 디바이스(810A)에 제공할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1232)을 디바이스(830)로부터 수신하고, 응답(1232)의 표현을 사용자에게 제공한다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 오디오 출력(1234), 예컨대, "제인의 번호는 123-456-7890입니다."를 제공할 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답을 직접 디바이스(830)로부터 수신할 수 있다. 일부 실시예들에서, 디바이스(830)는 응답을 디바이스(820)에 제공할 수 있는데, 이는 이어서 응답을 디바이스(810A)로 전달하며, 이는 아래에 기재된 바와 같다.
도 12c를 참조하고, 도 12b와 관련하여 기재된 위 예에 연속하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1252)을 간접적으로 디바이스(830)로부터 수신할 수 있다. 예를 들어, 디바이스(830)는 응답(1252)(예컨대, 제인의 전화번호)을 디바이스(820)(예컨대, 서버)에 제공할 수 있는데, 이는 이어서 응답(1252)을 디바이스(810A)로 전달할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1252)을 디바이스(820)로부터 수신하고 응답(1252)의 표현을 사용자(804)에게 제공한다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 오디오 출력(1256), 예컨대, "제인의 번호는 123-456-7890입니다."를 제공할 수 있다.
도 13a 및 도 13b는 다양한 예들에 따른, 제1 전자 디바이스 또는 추가적인 전자 디바이스들에서 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다. 도 13a를 참조하여, 위에 기재된 바와 같이, 복수의 디바이스(810A 내지 810C)는 하나의 디바이스에서 다른 디바이스로 디지털 어시스턴트 서비스를 확장하기 위한 서비스-확장 디바이스들일 수 있다. 예를 들어, 도 13a에 도시된 바와 같이, 디바이스들(810A 내지 810C)은 디바이스(830)(예컨대, 사용자(804)의 스마트폰 디바이스)의 부근에 배치되어 디바이스(830)에 의해 제공되는 디지털 어시스턴트 서비스를 확장할 수 있다. 일부 예들에서, 복수의 디바이스(810A 내지 810C)를 디바이스(830)의 부근에 배치하는 것은 디바이스들(810A 내지 810C)을 디바이스(830)의 미리결정된 경계 또는 거리 내에 배치하는 것을 포함할 수 있다. 예를 들어, 디바이스들(810A 내지 810C)은 디바이스(830)와 동일한 집 또는 건물 내에 배치될 수 있다. 도 13a에 도시된 바와 같이, 일부 실시예들에서, 디바이스들(810A 내지 810C)은 디지털 어시스턴트 서비스를 영역(1300)의 상이한 부분들로 확장하기 위한 방식으로 배치될 수 있다. 도 13에 도시된 바와 같이, 영역(1300)은, 예를 들어, 거실(1320), 사무실(1340), 및 침실(1360)을 포함할 수 있다. 일부 예들에서, 디바이스(810A)는 거실(1320)에 배치될 수 있고, 디바이스(810B)는 사무실(1340)에 배치될 수 있고; 디바이스(810C)는 침실(1360)에 배치될 수 있다. 위에 기재된 바와 같이, 디바이스들(810A 내지 810C)은 서로 그리고 다른 디바이스들(예컨대, 디바이스들(820, 830))에 통신가능하게 결합될 수 있다.
도 13a에 도시된 바와 같이, 사용자(804)는 거실(1302) 내에 위치할 수 있는데, 여기는 디바이스(810A)가 배치되어 있다. 사용자(804)는 일부 가벼운 음악과 함께 잠자리에 들기를 원할 수 있고, 따라서 스피치 입력(1306), 예컨대, "내 침실 스피커로 가벼운 음악 틀어 줘."를 디바이스(810A)에 제공할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청을 표현하는 스피치 입력(1306)을 수신한다. 위에서 기재한 것들과 유사하게, 디바이스(810A)는 사용자 요청의 표현을 디바이스(830)(예컨대, 디바이스(810A)의 부근에 배치된 사용자의 스마트폰) 또는 디바이스(820)(예컨대, 원격 배치된 서버) 중 적어도 하나에 제공할 수 있다. 디바이스(820) 또는 디바이스(830) 중 적어도 하나는 각각의 디바이스가 사용자 요청에 대한 응답을 제공할 수 있는지 결정하고, 응답을 디바이스(810A)에 제공한다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 이어서 응답의 표현(예컨대, 오디오 출력)을 사용자(804)에게 제공할 수 있다.
일부 실시예들에서, 응답의 표현을 사용자(804)에게 제공하기 전에, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답의 표현이 디바이스(810A) 또는 다른 디바이스에 의해 제공될 것인지 결정할 수 있다. 예를 들어, 스피치 입력(1306)은 "내 침실 스피커로 가벼운 음악 틀어 줘."를 포함할 수 있다. 그에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 의도가 디바이스(810A) 상에서 음악을 재생하려는 것이 아니고, 침실(1360) 내에 배치된 디바이스(810C) 상에서 재생하려는 것이라고 결정할 수 있다. 결정은, 예를 들어, 위에서 기재된 자연 언어 처리를 이용하여 이루어질 수 있다. 응답의 표현이 디바이스(810A)에 의해 제공되지 않을 것이라는 결정에 따라, 디바이스(810A)는 응답을 침실(1360)에 배치된 디바이스(810C)로 전달하거나, 또는 응답으로 하여금 침실(1360)에 배치된 디바이스(810C)에 제공되게 할 수 있다. 디바이스(810C)는 따라서 사용자가 요청한 가벼운 음악을 재생하는 오디오 출력(1310)을 제공할 수 있다. 다른 예들에서, 응답의 표현이 디바이스(810A)에 의해 제공될 것이라는 결정에 따라, 디바이스(810A)는 스스로 응답의 표현을 사용자(804)에게 제공할 수 있다. 위에 기재된 바와 같이, 다수의 디바이스들(810A 내지 810C)은 영역(1400)에 배치될 수 있다. 일부 예들에서, 디지털 어시스턴트(디바이스(810A, 810B, 810C), 디바이스(830) 등에서 동작하는 디지털 어시스턴트)는 (예컨대, 초기 구성에 기초하여) 각각의 디바이스(810A 내지 810C)의 위치를 결정할 수 있다. 예를 들어, 초기 구성 시, 디바이스 또는 디바이스 세트는 사용자의 집 안에서 그것의 위치에 기초하여 "거실"과 같은 이름이 배정될 수 있다. 일부 실시예들에서, 디바이스 또는 디바이스 세트의 이름은 "디바이스 1" 또는 "디바이스 1 - 거실"과 같은 디폴트 이름이다. 일부 실시예들에서, 디바이스 위치(예컨대, 방 이름) 및 다른 디바이스 구성들이 구성 데이터에 포함된다. 구성 프로세스 동안, 구성 데이터는 디바이스들에 의해 수신되고 저장된다.
위에 기재된 바와 같이, 응답의 표현을 사용자(804)에게 제공하기 전에, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답의 표현이 디바이스(810A) 또는 다른 디바이스에 의해 제공될 것인지 결정할 수 있다. 일부 예들에서, 이러한 결정은 사용자의 스피치 입력(예컨대, "내 침실 스피커로 가벼운 음악 틀어 줘.")에 의해 표현되는 사용자 요청에 기초할 수 있다. 일부 예들에서, 이러한 결정은 사용자의 위치를 검출하거나 또는 사용자의 이동을 추적하는 것 중 적어도 하나에 기초할 수 있다. 도 13b를 참조하여, 사용자(804)는 거실(1302) 내에 위치할 수 있는데, 여기는 디바이스(810A)가 배치되어 있다. 사용자(804)는 사무실(1340)로 가서 일부 가벼운 음악을 듣기를 원할 수 있고, 따라서 스피치 입력(1326), 예컨대, "가벼운 음악 틀어 줘."를 디바이스(810A)에 제공할 수 있다. 스피치 입력(1326)은 어떤 디바이스(810A 내지 810C)에서 사용자가 음악이 재생되기를 원하는지 나타내지 않는다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 요청을 표현하는 스피치 입력(1326)을 수신한다. 위에서 기재한 것들과 유사하게, 디바이스(810A)는 사용자 요청의 표현을 디바이스(830)(예컨대, 디바이스(810A)의 부근에 배치된 사용자의 스마트폰) 또는 디바이스(820)(예컨대, 원격 배치된 서버) 중 적어도 하나에 제공할 수 있다. 디바이스(820) 또는 디바이스(830) 중 적어도 하나는 각각의 디바이스가 사용자 요청에 대한 응답을 제공할 수 있는지 결정하고, 응답을 디바이스(810A)에 제공한다.
응답의 표현을 사용자(804)에게 제공하기 전에, 디바이스(810A)는 응답의 표현(예컨대, 오디오 출력)이 디바이스(810A) 또는 다른 디바이스에 의해 제공될 것인지 결정할 수 있다. 일부 예들에서, 디바이스(810A)는 사용자(804)의 위치를 검출하거나 또는 사용자(804)의 이동을 추적하는 것 중 적어도 하나에 기초하여 이러한 결정을 내릴 수 있다. 예를 들어, 디바이스(810A)는 사용자(804)가 거실(1320)에 위치하지만 사무실(1340)을 향해 이동하고 있음을 검출할 수 있다. 디바이스(810A)는, 예를 들어, 모션 센서, 포지셔닝 시스템, 카메라 등과 같은 하나 이상의 센서를 이용하여 위치 및/또는 이동을 검출할 수 있다. 사용자(804)가 사무실(1340)을 향해 이동하고 있다는 결정에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는, 사용자 의도는 디바이스(810A) 상에서 음악을 재생하려는 것이 아니라, 사무실(1340) 내에 배치된 디바이스(810B) 상에서 재생하려는 것이라거나, 또는 음악 재생이 디바이스(810A) 상에서 시작되지만, 사무실(1340)에 배치된 디바이스(810B) 상에서 이어져야 한다(그리고 선택적으로 디바이스(810A) 상에서 중단됨)고 결정할 수 있다. 응답의 표현의 디바이스(810A)에 의해 제공되지 않을 것이라는 결정에 따라, 디바이스(810A)는 응답을 사무실(1340)에 배치된 디바이스(810B)로 전달하거나, 또는 응답으로 하여금 사무실(1340)에 배치된 디바이스(810B)에 제공되게 할 수 있다. 디바이스(810B)는 따라서 사용자가 요청한 가벼운 음악을 재생하는 오디오 출력(1328)을 제공할 수 있다.
다른 예들에서, 응답의 표현이 디바이스(810A)에 의해 제공될 것이라는 결정에 따라(예컨대, 사용자(804)는 거실(1320)에 위치하고 이동하지 않음), 디바이스(810A)는 스스로 응답의 표현을 사용자(804)에게 제공할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 임의의 컨텍스트 정보, 예컨대, 사용자의 선호도(예컨대, 사용자(804)가 취침시간 전에 음악 듣는 것을 선호함), 응답들을 제공하는 데 사용된 과거 디바이스들, 디바이스 속성 및 역량(예컨대, 디바이스(810A)는 디바이스(810B)보다 더 좋은 사운드를 제공할 수 있음) 등에 기초하여 응답이 디바이스(810A) 또는 다른 디바이스에 제공될 것인지 결정할 수 있다고 이해될 것이다.
도 14는 다양한 예들에 따른, 상이한 전자 디바이스들 간의 디지털 어시스턴트 서비스의 연속성을 제공하는 기능들을 도시한다. 도 14에 도시된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1406)을 사용자(804)에게 제공(예컨대, 음악을 재생) 중일 수 있다. 디바이스(810A)가 응답(1406)을 제공하는 프로세스에 있지만, 사용자(804)는 디바이스(810A)가 배치된 영역(1400) 밖으로 이동할 수 있다. 예를 들어, 사용자(804)는 그 또는 그녀의 집을 떠나 출근할 수 있다. 일부 실시예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1406)이 이어서 상이한 전자 디바이스에 제공될 것인지 결정할 수 있다. 예를 들어, 디바이스(810A)가 응답(1406)을 제공하고 있는 동안, 사용자(804)는 스피치 입력, 예컨대, "음악을 내 스마트폰에서 이어서 틀어 줘."를 제공할 수 있다. 디바이스(810A)는 이 스피치 입력을 수신하고, 사용자 의도는 음악을 디바이스(830)(예컨대, 사용자의 스마트폰) 상에서 이어서 재생하려는 것이라고 결정할 수 있다. 이러한 결정은 위에서 기재한 자연 언어 처리 기술들을 이용하여 내려질 수 있다. 결정된 사용자 의도에 기초하여, 디바이스(810A)는 응답(1406)은 음악을 상이한 디바이스에서 이어서 재생해야 한다고 결정할 수 있다.
일부 실시예들에서, 사용자(804)는 또한 스피치 입력, 예컨대, "음악을 내 스마트폰에서 이어서 틀어 줘."를 디바이스(810A) 대신에 디바이스(830)에 제공할 수 있다. 스피치 입력 및 컨텍스트 정보(예컨대, 디바이스(810A)가 현재 오디오 출력들을 제공하고 있음)에 기초하여, 디바이스(830)는 사용자 의도는 디바이스(810A)에서 수행되고 있는 태스크를 이어서 수행하려는 것이라고 결정할 수 있다. 예를 들어, 디바이스(830)는 디바이스(810A)의 상태 정보를 결정하기 위하여 디바이스(810A)(및 디바이스(830)에 통신가능하게 결합된 다른 디바이스들)와 통신할 수 있다. 디바이스(810A)의 상태 정보는 그것이 현재 음악을 재생중이라고 나타낼 수 있다. 그에 따라, 디바이스(830)는 사용자 의도는 현재 디바이스(810A) 상에서 재생중인 음악을 이어서 재생하려는 것이라고 결정할 수 있다. 결정에 기초하여, 디바이스(830)는 현재 디바이스(810A)에 의해 수행중인 태스크를 이어서 수행하기 위하여 디바이스(810A)와 통신할 수 있다. 예를 들어, 디바이스(830)는 콘텐츠 및/또는 메타데이터(예컨대, 현재 재생중인 음악과 연관된 타임 스탬프)를 획득하고, 음악을 디바이스(830)에 의해 이어서 재생하고, 디바이스(810A)로 하여금 재생을 중단하게 할 수 있다.
도 14에 도시된 다른 예로서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트가 응답(1406)을 제공하는 동안, 디바이스(810A)는 사용자의 위치를 검출 또는 사용자의 이동을 추적하는 것 중 적어도 하나를 수행할 수 있다. 디바이스(810A)는, 예를 들어, 모션 센서와 같은 하나 이상의 센서, 포지셔닝 시스템, 카메라 등을 이용하여 위치 및/또는 이동을 검출할 수 있다. 예를 들어, 디바이스(810A)는 연속적으로 또는 주기적으로 사용자(804)의 현재 위치 및/또는 이동을 추적할 수 있다. 일부 예들에서, 디바이스(810A)는 디바이스(810A)에 대한 사용자(804)의 위치 변동이 미리결정된 조건을 충족하는지 검출할 수 있다. 예를 들어, 디바이스(810A)는 사용자(804)가 영역(1400)(예컨대, 집)의 미리결정된 경계 밖으로 이동했음을 검출할 수 있다. 결과적으로, 디바이스(810A)는 응답(1406)이 상이한 디바이스에서 이어서 제공되어야 한다고 결정할 수 있다.
다른 예로서, 디바이스(810A)가 응답(1406)을 제공하는 프로세스에 있는 동안, 그것은 사용자(804)와 연관된 디바이스(예컨대, 사용자의 스마트폰과 같은 디바이스(830))의 이동을 검출할 수 있다. 예를 들어, 디바이스(810A)는 디바이스(830)의 통신 신호 강도가 짧은 지속시간 동안 감소했음을 결정할 수 있는데, 이는 디바이스(830)가 영역(1400)의 경계 밖으로 이동한 가능성이 높음을 나타낸다. 결과적으로, 디바이스(810A)는 응답(1406)이 상이한 디바이스(예컨대, 디바이스(830))에서 이어서 제공되어야 한다고 결정할 수 있다.
일부 실시예들에서, 응답(1406)이 상이한 전자 디바이스에서 이어서 제공될 것이라는 결정에 따라, 디바이스(810A)는 응답(1406)으로 하여금 하나 이상의 상이한 전자 디바이스에 의해 이어서 제공되게 할 수 있다. 예를 들어, 디바이스(810A)는 응답(1406)을 제공하기 위한 나머지 콘텐츠(예컨대, 응답(1406)의 남은 부분) 및/또는 응답을 제공(1406)하는 것과 연관된 메타데이터(예컨대, 디바이스(820) 또는 디바이스(830)로부터 스트리밍된 현재 재생중인 미디어의 타임스탬프)를 디바이스(830)(예컨대, 사용자의 스마트폰)에 전송할 수 있다. 일부 예들에서, 디바이스(810A)는 또한 통지를 다른 디바이스(예컨대, 디바이스(820))에 보낼 수 있는데, 그로부터 응답(1406)의 콘텐츠가 획득된다. 통지는 응답(1406)이 다른 디바이스에서 이어서 제공될 것이고 따라서 응답(1406)의 콘텐츠가 그 디바이스에 제공되어야 한다고 나타내거나 또는 요청할 수 있다. 수신된 나머지 콘텐츠 및/또는 메타데이터에 기초하여, 디바이스(830)는 응답(1406)을 사용자(804)에게 이어서 제공할 수 있다. 상이한 디바이스 상에서 이어서 디지털 어시스턴트 서비스를 제공하는 것에 대한 더 상세사항들은 2016년 9월 21일자로 출원되고, 발명의 명칭이 "INTELLIGENT DIGITAL ASSISTANT IN A MULTI-TASKING ENVIRONMENT"인, 동시 계류중인 미국 특허 출원 제15/271,766호에 기재되어 있으며, 이것의 내용은 전체적으로 참조로서 본 명세서에 포함되고, 부록에 포함된다.
도 8a 및 도 8b, 도 9a 내지 도 9c, 도 10a 내지 도 10c, 도 11a 내지 도 11d, 도 12a 내지 도 12c, 도 13a 및 도 13b, 및 도 14와 연관한 위 설명에서, 디바이스(820)는 서버와 같은 원격 디바이스일 수 있다. 일부 실시예들에서, 디바이스(820)에 대한 프록시 디바이스로서 동작하는 디바이스가 디바이스들(810A 내지 810C)의 부근에 배치될 수 있다. 예를 들고 도 8a를 다시 참조하면, 디바이스(840)(예컨대, TV 셋톱 박스)는 디바이스(820)에 대한 프록시 디바이스(예컨대, 원격 서버)로서 동작할 수 있다. 프록시 디바이스는 클라이언트 디바이스들(예컨대, 디바이스(810A))로부터의 요청들에 대한 중개장치로서 동작하여 다른 디바이스들(예컨대, 서버들)로부터 리소스들을 구할 수 있다. 프록시로서, 디바이스(840)는 복수의 홈 자동화 디바이스(예컨대, 스마트 온도조절기, 스마트 도어, 스마트 조명 스위치 등)로부터의 요청들을 처리하도록 동작할 수 있다. 예를 들어, 사용자의 스피치 입력들(예컨대, 디바이스(810A)를 통해 수신된 스피치 입력)에 기초하여, 스마트 온도조절기는 온도 및/또는 습도 레벨을 조정하는 태스크를 수행하도록 요구될 수 있다. 스마트 온도조절기는 따라서 디바이스(840)와 통신하여 다양한 센서들로부터의 현재 온도 및 습도 데이터를 요청할 수 있다. 디바이스(840)는 따라서 프록시로서 동작하여 요청을 적절한 디바이스들 및/또는 센서들에 전달하고 데이터를 스마트 온도조절기에 제공할 수 있다.
5.
이벤트들의 통지들에 기초하여 디지털 어시스턴트 서비스를 제공하는 디지털 어시스턴트의 예시적인 기능들.
도 2, 도 4, 도 6, 및 도 15a 내지 도 15g는 전자 디바이스 상에서 동작하는 디지털 어시스턴트에 의해 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다. 일부 예들에서, 디지털 어시스턴트(예컨대, 디지털 어시스턴트 시스템(700))는 다양한 예들에 따른 사용자 디바이스에 의해 구현된다. 일부 예들에서, 사용자 디바이스, 서버(예컨대, 서버(108), 디바이스(820)), 또는 이들의 조합은 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))을 구현할 수 있다. 사용자 디바이스는, 예를 들어, 디바이스(200, 400, 600, 810A 내지 도 810C, 820, 및/또는 830)를 이용하여 구현될 수 있다. 일부 예들에서, 사용자 디바이스는 오디오 출력 역량 및 네트워크 연결성을 갖는 디바이스, 스마트폰, 랩톱 컴퓨터, 데스크톱 컴퓨터, 또는 태블릿 컴퓨터이다.
도 15a 내지 도 15g는 다양한 예들에 따른, 이벤트들의 통지들에 기초하여 디지털 어시스턴트 서비스를 제공하는 기능들을 도시한다. 도 15a에 도시된 바와 같이, 디바이스(810A)는 사용자(1504)와 연관된 하나 이상의 이벤트의 통지(1506 및/또는 1508)를 수신할 수 있다. 위에 기재된 바와 같이, 디바이스(810A)(및 유사한 다른 디바이스들(810B, 810C))는 디바이스 동작 표시들을 제공하기 위한 하나 이상의 오디오 입력 및 출력 디바이스(예컨대, 마이크로폰 및 하나 이상의 스피커), 하나 이상의 네트워크 통신 인터페이스, 및 선택적으로 하나 이상의 표시자(예컨대, 광)를 포함할 수 있다. 일부 예들에서, 도 15a에 도시된 바와 같이, 디바이스(810A)는 통지(1506)를 디바이스(830)(예컨대, 사용자의 스마트폰)로부터 수신하고/하거나 통지(1508)를 디바이스(820)(예컨대, 원격 서버)로부터 수신할 수 있다.
일부 예들에서, 이벤트의 통지는 착신 통화, 리마인더, 메시지, 음성메일, 뉴스 알림 등 중 적어도 하나의 표현을 포함할 수 있다. 예를 들어, 디바이스(830) 상에서 동작하는 디지털 어시스턴트는 캘린더 애플리케이션으로부터 캘린더 리마인더를 수신할 수 있고, 캘린더 리마인더의 표현을 디바이스(810A)에 전달할 수 있다. 도 15a에 도시된 바와 같이, 통지(1506 및/또는 1508)를 수신하는 것에 응답하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지(1506 및/또는 1508)의 하나 이상의 표시(1510)를 출력할 수 있다. 일부 예들에서, 표시(1510)는 청각적 표시(예컨대, 삐 소리, 톤 등), 시각적 표시(예컨대, 플래시 광, 디스플레이된 메시지 등), 또는 청각적 및 시각적 표시들의 조합일 수 있다. 도 15a는 표시(1510)가 디바이스(810A)에 의해 제공되는 것으로 도시하지만, 표시(1510)는 또한 다른 디바이스들, 예컨대, 디바이스(830) 및/또는 디바이스들(810B, 810C)(도 15a에 미도시)에 의해 제공될 수 있다. 기재된 바와 같이, 디바이스(830)는, 예를 들어, 사용자의 스마트폰, 스마트 워치, 태블릿 등일 수 있고; 디바이스들(810B, 810C)은 디바이스(810A)와 유사한 유형의 디바이스들일 수 있고, 디바이스(810A)의 부근(예컨대, 동일한 집 안)에 배치된다. 따라서, 통지의 표시는 임의의 위치에 있는 임의의 디바이스에 의해 사용자(1504)에 제공될 수 있다. 다양한 위치들에 배치된 다수의 디바이스들에 의해 표시들을 제공함으로써 통지들에 관한 사용자(1504)의 주의를 끌 가능성을 개선할 수 있다. 일부 예들에서, 사용자(1504)에 대한 방해를 최소화하기 위하여 단지 하나의 디바이스(예컨대, 디바이스(810A))에 의해서 통지가 제공된다.
도 15b에 도시된 바와 같이 그리고 위 예에 이어서, 사용자(1504)는 표시(1510)를 수신하고 표시(1510)에 관해 문의하는 스피치 입력(1516)을 제공할 수 있다. 예를 들어, 스피치 입력(1516)은 "그게 뭐야?"를 포함할 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1516)을 수신하고, 이벤트의 통지에 따라 응답(1518)을 출력할 수 있다. 예를 들어, 도 15b에 도시된 바와 같이, 이벤트의 통지가 존으로부터의 음성 메시지의 표현을 포함한 경우, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1518), 예컨대, "존의 음성메일이 있습니다."를 출력할 수 있다. 이벤트의 통지가 캘린더 리마인더의 표현을 포함한 경우, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1518), 예컨대, "당신의 캘린더 상에 예정된 이벤트가 있습니다."를 출력할 수 있다. 이벤트의 통지가 존으로부터의 착신 통화의 표현을 포함한 경우, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 응답(1518), 예컨대, "존으로부터 전화가 왔습니다."를 출력할 수 있다.
도 15c에 도시된 바와 같이 그리고 위 예에 이어서, 이벤트의 통지에 따라 응답(1518)을 출력한 후, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는, 예를 들어, 응답(1518) 중 또는 그 후에 사용자 발화에 주목함으로써 사용자 입력들을 계속해서 모니터할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 후속 스피치 입력(1526)을 수신할 수 있다. 스피치 입력(1526)은, 예를 들어, "메시지 읽어 줘.", "이벤트가 뭐지?", 또는 "존의 전화를 받아 줘."를 포함할 수 있다.
일부 예들에서, 도 15c에 도시된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1526)을 수신하고, 스피치 입력(1526)에 기초하여 사용자 의도를 결정할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자 의도가 존으로부터의 음성메일을 읽거나, 예정된 캘린더 이벤트를 듣거나, 또는 존으로부터의 전화를 받으려는 것이라고 결정할 수 있다. 그에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 결정된 사용자 의도에 따라 통지를 사용자(1504)에게 제공할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 존으로부터의 음성 메일(예컨대, "안녕, 빌, 나 존이야. 내일 같이 점심 먹을래?")에 대응하는 오디오 출력(1528)을 제공할 수 있다.
일부 실시예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 하나 이상의 스피치 입력에 따라 통지가 디바이스(810A)에서 제공될 것인지 결정할 수 있다. 위에 기재된 바와 같이, 일부 예들에서, 디바이스(810A)는 다수의 사용자들 간에 공유될 수 있다. 따라서, 디바이스(810A)가 수신하는 이벤트의 통지가 특정 사용자(예컨대, 사용자(1504))에 대한 것이거나 또는 특정 사용자(예컨대, 사용자(1504))에 대한 것일 수 있다. 도 15d에 도시된 바와 같이 그리고 디바이스(810A)가 이벤트의 통지에 따라 응답(예컨대, "빌, 존의 음성메일이 있습니다")을 출력하는 위 예에 이어서, 디바이스(810A)는 사용자(1505)로부터 후속 스피치 입력(1536)을 수신할 수 있는데, 그는 이벤트의 통지를 제공하기 위하여 의도된 사용자와 상이한 사용자이다. 스피치 입력(1536)은, 예를 들어, "난 빌이 아니야. 그는 여기 없어."를 포함할 수 있다.
일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 하나 이상의 스피치 입력을 제공하는 사용자의 신원을 획득하고, 하나 이상의 스피치 입력을 제공하는 사용자에게 통지가 제공될 것인지 결정할 수 있다. 도 15d에 도시된 바와 같이, 예를 들어, 스피치 입력(1536)(예컨대, "난 빌이 아니야. 그는 여기 없어")에 기초하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(1505)가 통지가 제공되도록 의도된 사용자가 아니라고 (예컨대, "빌이 아님") 결정할 수 있다. 그에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지가 사용자(1505)에게 제공되어서는 안된다고 결정할 수 있다.
일부 예들에서, 하나 이상의 스피치 입력을 제공하는 사용자의 신원을 획득하기 위하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자와 연관된 인증 데이터를 획득할 수 있다. 도 15e에 도시된 바와 같이 그리고 디바이스(810A)가 이벤트의 통지에 따라 응답(예컨대, "빌, 존의 음성메일이 있습니다")을 출력하는 위 예에 이어서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(1507)로부터 후속 스피치 입력(1546)을 수신할 수 있는데, 그는 이벤트의 통지를 제공하기 위하여 의도된 사용자와 상이한 사용자이다. 사용자(1507)는, 예를 들어, 사용자(1504)(예컨대, 빌)의 집에 온 손님일 수 있다. 사용자(1507)는 빌의 메시지를 들으려고 결심할 수 있고 따라서 스피치 입력(1546)은, 예를 들어, "메시지 읽어 줘."를 포함할 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(1507)와 연관된 인증 데이터를 획득할 수 있다. 위에서 기재한 것들과 유사하게, 인증 데이터는 사용자(1507)의 음성 생체인식, 사용자(1507)의 안면 인식 데이터, 사용자(1507)를 식별하는 다른 디바이스(예컨대, 사용자의 스마트 워치)의 감지, 및 사용자의 다른 크리덴셜들(1507)(예컨대, 지문, 패스워드 등)을 포함할 수 있다. 인증 데이터에 기초하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(1507)의 신원의 결정을 획득할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 인증 데이터에 기초하여 사용자(1507)를 인증할 수 있다. 다른 예로서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 인증을 위하여 인증 데이터를 디바이스(830)(예컨대, 빌의 스마트폰) 또는 디바이스(820)(예컨대, 서버) 중 적어도 하나에 제공할 수 있다. 디바이스(830) 및/또는 디바이스(820)는 인증 데이터를 수신하고, 사용자(1507)의 신원을 획득하기 위하여 인증을 수행(예컨대, 음성 생체인식, 지문, 패스워드 등을 매칭)할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 따라서 디바이스(830) 또는 디바이스(820) 중 적어도 하나로부터 사용자(1507)의 신원을 수신할 수 있다.
일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는, 사용자의 신원에 기초하여 그리고 수신된 통지에 기초하여, 통지가 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자에게 제공되어야 하는지 결정할 수 있다. 예를 들어, 도 15e에 도시된 바와 같이, 사용자(1507)의 신원(예컨대, 사용자(1504)의 집에 온 손님) 및 통지(1506)(예컨대, 빌에 대한 음성메일의 표현)에 기초하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(1507)의 신원이 통지가 의도된 사용자와 매칭되지 않기 때문에(예컨대, 사용자(1507)는 빌이 아니거나 또는 인가되지 않음) 통지(1506)가 사용자(1507)에게 제공되어서는 안된다고 결정할 수 있다. 그에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(1507)에게 그 또는 그녀는 통지를 수신하도록 인가되지 않음을 알리는 오디오 출력(1548)(예컨대, "죄송합니다만, 당신은 이 메시지를 들을 수 있도록 인가되지 않았습니다.")을 제공할 수 있다. 한편, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(1507)의 신원이 통지가 의도된 사용자와 매칭되거나(예컨대, 사용자(1507)가 빌임) 또는 인가되어 있기 때문에 통지(1506)가 사용자(1507)에게 제공되어야 한다고 결정할 수 있다. 예를 들어, 사용자(1507)는 사용자(1504)의 가족 구성원일 수 있고, 사용자(1504)에 대한 통지들을 수신하도록 인가된다. 그에 따라, 디바이스(810A)는 통지(1506)의 콘텐츠를 포함하는 오디오 출력을 제공할 수 있다.
일부 예들에서, 통지가 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자에게 제공될 것이라는 결정에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지가 디바이스(810A)에서 제공될 것인지 추가로 결정할 수 있다. 도 15f에 도시된 바와 같이, 스피치 입력(1556)(예컨대, "메시지 읽어 줘.")에 기초하여, 디바이스(810A)는 사용자(1504)의 신원을 획득하고 사용자(1504)가 통지를 수신하도록 인가되어 있다고 결정할 수 있다. 그에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지가 사용자(1504)에게 제공되어야 한다고 결정할 수 있다. 일부 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지가 디바이스(810A)에서 제공될 것인지 추가로 결정할 수 있다. 도 15a에 도시된 바와 같이, 하나 이상의 디바이스는 사용자(1504)의 부근에 배치될 수 있다. 예를 들어, 디바이스(810A)는 거실(1520)에 배치될 수 있고; 디바이스(810B)는 사무실(1540)에 배치될 수 있고; 디바이스(810C)는 침실(1560)에 배치될 수 있다. 일부 예들에서, 디바이스(810A)는 통지들을 사용자(1504)에게 제공하는 데 최적의 디바이스일 수 있거나 또는 아닐 수 있다. 예를 들어, 사용자(1504)는 디바이스(810A)로부터 멀리 이동중일 수 있다(예컨대, 사무실(1540)을 향해 이동). 다른 예로서, 거실(1520)에 배치된 디바이스(810A) 근처에 다른 사용자들(예컨대, 손님들)이 있을 수 있고, 따라서 사용자(1504)는 사생활 문제로 인해 통지들을 디바이스(810A)로부터 수신하기를 원하지 않을 수 있다.
위에서 기재한 것들과 유사하게, 일부 예들에서, 통지가 디바이스(810A)에서 제공될 것인지에 대한 결정은 사용자의 스피치 입력(예컨대, "내 사무실 스피커에서 메시지 읽어 줘.")으로 표현되는 사용자 요청에 기초할 수 있다. 일부 예들에서, 이러한 결정은 사용자의 위치를 검출하거나 또는 사용자의 이동을 추적하는 것 중 적어도 하나에 기초할 수 있다. 예를 들어, 사용자(1504)는 사무실(1540)로 가서 통지를 수신하기(예컨대, 음성메일 듣기, 전화 받기 등)를 원할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(804)가 거실(1520)에 위치하지만 사무실(1540)을 향해 이동하고 있음을 검출할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는, 예를 들어, 모션 센서와 같은 하나 이상의 센서, 포지셔닝 시스템, 카메라, 다양한 디바이스들에 대한 신호 세기 측정치 등을 이용하여 위치 및/또는 이동을 검출할 수 있다. 사용자 이동의 검출에 기초하여, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지가 거실(1520)에 배치된 디바이스(810A) 대신에 사무실(1540)에 배치된 디바이스(810B)에 의해 제공되어야 한다고 결정할 수 있다. 다른 예들에서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 사용자(804)가 이동중이 아니고 거실(1520)에 머물러 있음을 검출할 수 있다. 그에 따라, 디바이스(810A)는 통지가 거실(1520)에 배치된 디바이스(810A)에 의해 제공되어야 한다고 결정할 수 있다.
도 15g는 디바이스(810A)는 통지가 다른 디바이스에 의해 제공되어야 한다고 결정할 수 있는 다른 예를 도시한다. 도 15g에 도시된 바와 같이, 통지(1572)(예컨대, 존으로부터의 음성메일의 표현)를 수신하는 동안, 디바이스(810A)는 오디오 출력들(1576)을 제공(예컨대, 미디어 아이템을 재생)중일 수 있다. 따라서, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 오디오 출력(1576)을 제공하는 것의 방해를 피하기 위하여 통지(1572)가 디바이스(810A)에서 제공되지 않아야 한다고 결정할 수 있다. 그에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지(1572)를 제공하기 위한 추가적인 디바이스를 결정할 수 있다. 일부 예들에서, 이러한 결정은 컨텍스트 정보에 기초한다. 예를 들어, 디바이스(810A)가 현재 오디오 출력(1576)을 제공중이라는 정보에 기초하여 그리고 디바이스(830)의 검출에 기초하여, 디바이스(810A)는 통지(1572)가 디바이스(830)에서 제공될 수 있다고 결정할 수 있다. 일부 예들에서, 디바이스(810A)는 사용자(1504)에게 통지(1572)가 다른 디바이스에서 제공되어야 한다고 승낙받는 출력(예컨대, 청각적 및/또는 시각적 출력)을 제공할 수 있다. 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 임의의 컨텍스트 정보, 예컨대, 사용자의 선호도(예컨대, 사용자(1504)가 동료로부터의 음성메일을 사무실(1540) 내의 디바이스(810B) 상에서 듣는 것을 선호함), 통지들을 제공하는 데 사용된 과거 디바이스들, 디바이스 속성 및 역량(예컨대, 디바이스(810B)는 디바이스(810A)보다 더 좋은 사운드를 제공할 수 있음) 등에 기초하여 통지가 디바이스(810A)에서 또는 다른 디바이스에서 제공될 것인지 결정할 수 있음을 이해할 것이다.
일부 실시예들에서, 통지가 디바이스(810A)에서 제공될 것이라는 결정에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지를 디바이스(810A)에서 제공할 수 있다. 예를 들어, 위의 예들에서 도시된 바와 같이, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지(예컨대, 출력 음성메일, 전화 통화, 캘린더 리마인더 등)를 포함하는 오디오 출력들을 제공할 수 있다. 통지가 디바이스(810A)와 상이한 디바이스에서 제공될 것이라는 결정에 따라, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지로 하여금 다른 디바이스에서 제공되게 할 수 있다. 예를 들어, 디바이스(810A) 상에서 동작하는 디지털 어시스턴트는 통지를 디바이스(830)에 전달하거나, 또는 통지를 디바이스(830)에서 제공하기 위한 요청을 디바이스(830)에 전송할 수 있다. 통지 또는 요청에 기초하여, 디바이스(830)는 통지(예컨대, 출력 음성메일, 전화 통화, 캘린더 리마인더 등)의 콘텐츠를 포함하는 오디오 출력들(1574)을 제공할 수 있다.
6.
사용자 입력들에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스.
도 16a 내지 도 16i는 다양한 예들에 따른, 사용자 입력들에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 디지털 어시스턴트를 동작시키기 위한 프로세스(1600)를 도시한다. 프로세스(1600)는, 예를 들어, 디지털 어시스턴트를 구현하는 하나 이상의 전자 디바이스를 이용하여 수행된다. 일부 예들에서, 프로세스(1600)는 클라이언트-서버 시스템(예컨대, 시스템(100))을 이용하여 수행되고, 프로세스(1600)의 블록들은 서버(예컨대, DA 서버(106))와 클라이언트 디바이스 사이에서 임의의 방식으로 분담된다. 다른 예들에서, 프로세스(1600)의 블록들은 서버와 다수의 클라이언트 디바이스들(예컨대, 모바일 전화기 및 스마트 워치) 사이에서 분담된다. 따라서, 프로세스(1600)의 일부분들이 클라이언트-서버 시스템의 특정 디바이스들에 의해 수행되는 것으로 본 명세서에 기술되지만, 프로세스(1600)는 그렇게 제한되지 않는다는 것이 이해될 것이다. 다른 예들에서, 프로세스(1600)는 단지 하나의 클라이언트 디바이스(예컨대, 사용자 디바이스(104), 전자 디바이스(810A), 디바이스(830), 또는 디바이스(840)) 또는 다수의 클라이언트 디바이스들만을 이용하여 수행된다. 프로세스(1600)에서, 일부 블록들은, 선택적으로, 조합되고, 일부 블록들의 순서는, 선택적으로, 변경되고, 일부 블록들은, 선택적으로, 생략된다. 일부 예들에서, 추가 단계들이 프로세스(1600)와 조합하여 수행될 수 있다.
도 16a를 참조하여, 블록(1602)에서, 미리결정된 콘텐츠(예컨대, "일어나, 스피커" 또는 "이봐, 스피커")를 포함하는 제2 스피치 입력이 수신된다. 블록(1604)에서, 제2 스피치 입력을 수신하는 것에 응답하여, 제1 전자 디바이스는 활성화된다. 제1 전자 디바이스는 서비스-확장 디바이스(예컨대, 도 8a 내지 도 15g에 도시된 바와 같은 디바이스(810A))일 수 있다. 블록(1606)에서, 일부 예들에서, 제2 스피치 입력은 하나 이상의 추가적인 전자 디바이스로 하여금 활성화되게 하지 않는다. 하나 이상의 추가적인 전자 디바이스는 제1 전자 디바이스의 부근에 배치될 수 있다. 예를 들어, 스피치 입력과 연관된 음량 또는 음압은 제1 전자 디바이스 및 추가적인 전자 디바이스 둘 모두에 의해 검출되고 기록될 수 있다. 두 디바이스들에서 검출된 음압의 비교에 기초하여, 두 디바이스들에 대한 사용자의 위치가 결정될 수 있다. 예를 들어, 사용자가 물리적으로 다른 디바이스보다 제1 전자 디바이스에 더 가깝다고 결정될 수 있다. 결과적으로, 제1 전자 디바이스는 활성화될 수 있는 반면, 다른 디바이스는 활성화되지 못할 수 있다.
블록(1608)에서, 사용자 요청을 표현하는 제1 스피치 입력이 제1 사용자로부터 수신된다. 블록(1610)에서, 사용자 요청은 제1 사용자에 특정된 정보(예컨대, 제1 사용자의 캘린더, 연락처 등)에 대한 요청을 포함한다. 블록(1612)에서, 사용자 요청은 비-사용자-특정 정보(예컨대, 날씨 정보, 주가, 스포츠 경기 정보 등)에 관한 요청을 포함한다. 블록(1614)에서, 사용자 요청은 태스크를 수행(예컨대, 음악을 재생, 회의를 성사 등)하기 위한 요청을 포함한다.
블록(1616)에서, 제1 사용자의 신원이 획득된다. 블록(1618)에서, 제1 사용자와 연관된 인증 데이터가 획득된다. 인증 데이터는, 예를 들어, 사용자의 음성 생체인식, 사용자의 안면 인식 데이터, 사용자를 식별하는 다른 전자 디바이스의 감지, 사용자의 지문, 패스워드 등과 같은 사용자의 다른 크리덴셜들을 포함할 수 있다. 블록(1620)에서, 제1 사용자의 신원의 결정이 인증 데이터에 기초하여 획득된다. 블록(1622)에서, 제1 사용자의 신원을 획득하기 위하여, 인증 데이터는 제2 전자 디바이스(예컨대, 원격 서버) 또는 제3 전자 디바이스(예컨대, 사용자의 스마트폰) 중 적어도 하나에 제공된다. 블록(1624)에서, 제1 사용자의 신원은 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나로부터 수신된다. 제1 사용자의 신원은 인증 데이터에 기초하여 결정된다. 블록(1626)에서, 제1 사용자의 신원은 제2 스피치 입력(예컨대, "일어나, 스피커" 또는 "이봐, 스피커")에 기초하여 획득된다. 위에 기재된 바와 같이, 제2 스피치 입력은 사용자의 음성 생체인식과 연관될 수 있고 사용자의 신원의 결정에 사용될 수 있다.
도 16b를 참조하여, 블록(1628)에서, 제1 스피치 입력에 의해 표현되는 사용자 요청에 관한 하나 이상의 스피치 문의가 출력된다. 스피치 문의들은 제1 스피치 입력을 명확히 하기 위하여 제1 사용자에게 사용될 수 있다(예컨대, "그게 뭐예요?" 또는 "그것을 확실히 이해하지 못했습니다"). 블록(1630)에서, 하나 이상의 스피치 문의에 응답하여 제1 사용자로부터 추가적인 스피치 입력이 수신된다. 예를 들어, 제1 사용자는 제1 스피치 입력을 반복하거나 또는 바꾸어 말할 수 있다.
블록(1632)에서, 제1 전자 디바이스(예컨대, 서버-확장 디바이스)와 제2 전자 디바이스(예컨대, 원격 서버) 또는 제3 전자 디바이스(예컨대, 제1 전자 디바이스의 부근에 배치된 디바이스) 중 적어도 하나 사이에 연결이 구축된다. 블록(1634)에서, 연결을 구축하는 것은 제1 전자 디바이스와 제3 전자 디바이스 간의 근거리 통신에 기초한다. 블록(1636)에서, 연결을 구축하는 것은 제1 전자 디바이스로부터 미리결정된 거리 내에 있는 제3 전자 디바이스의 검출에 기초한다. 블록(1638)에서, 연결을 구축하는 것은 제1 전자 디바이스와 제3 전자 디바이스 간의 이전에 구축된 연결에 기초한다. 예를 들어, 연결은 제1 전자 디바이스와 제3 전자 디바이스가 이전 과거에 연결되었음을 나타내는 로그 파일에 기초하여 구축될 수 있다. 로그 파일은 또한 이전 연결에 사용된 연결 파라미터들을 나타낼 수 있다.
위에 기재된 바와 같이, 서버-확장 디바이스는 다수의 사용자들에 의해 공유되고, 따라서 하나 이상의 사용자와 연관된 다수의 디바이스들에 연결될 수 있다. 블록(1640)에서, 제1 전자 디바이스(예컨대, 서비스-확장 디바이스)와 제3 전자 디바이스(예컨대, 제1 사용자의 클라이언트 디바이스) 사이에 연결이 구축된다. 제3 전자 디바이스는 제1 사용자와 연관된다. 블록(1642)에서, 제1 전자 디바이스와 제4 전자 디바이스(예컨대, 제2 사용자의 태블릿 디바이스) 사이에 연결이 구축된다. 제4 전자 디바이스는 제2 사용자와 연관된다. 블록(1644)에서, 일부 예들에서, 제1 전자 디바이스와 제3 전자 디바이스 간의 연결을 구축한 후, 제2 전자 디바이스는 구축된 연결에 관해 통지받는다. 예를 들어, 서버-확장 디바이스(예컨대, 도 8a 및 도 8b에 도시된 디바이스(810A))와 스마트폰 디바이스 간의 연결이 구축된 후, 서버는 구축된 연결에 관해 통지받을 수 있다.
도 16c를 참조하여, 위에 기재된 바와 같이, 제1 사용자의 신원이 획득된다. 블록(1646)에서, 사용자 신원에 따라, 사용자 요청의 표현이 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나에 제공된다. 블록(1648)에서, 제2 전자 디바이스는 제1 전자 디바이스로부터 원격 배치된 서버이고; 제3 전자 디바이스는 제1 전자 디바이스의 부근에 배치된 클라이언트 디바이스이다. 블록(1650)에서, 제3 전자 디바이스는 서버의 프록시 디바이스이다. 예를 들어, 클라이언트 디바이스(예컨대, 도 8a에 도시된 디바이스(840))는 다른 디바이스들(예컨대, 지능형 온도조절기와 같은 홈 자동화 디바이스들)로부터의 요청을 처리하는 서버에 대한 프록시 디바이스(예컨대, 도 8a에 도시된 디바이스(820))로서 동작할 수 있다.
블록(1652)에서, 일부 예들에서, 사용자 요청의 표현을 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나에 제공하기 위하여, 제3 전자 디바이스(예컨대, 제1 전자 디바이스의 부근에 배치된 클라이언트 디바이스)가 제1 전자 디바이스(예컨대, 서비스-확장 디바이스)에 통신가능하게 결합되어 있는지 결정된다. 블록(1654)에서, 제3 전자 디바이스가 제1 전자 디바이스에 통신가능하게 결합되어 있다는 결정에 따라, 사용자 요청의 표현은 제3 전자 디바이스에 제공되고 제2 전자 디바이스에 제공되지 않는다. 블록(1656)에서, 제3 전자 디바이스가 제1 전자 디바이스에 통신가능하게 결합되어 있지 않다는 결정에 따라, 사용자 요청의 표현은 제2 전자 디바이스에 제공된다.
블록(1658)에서, 일부 예들에서, 사용자 요청의 표현은 제2 전자 디바이스(예컨대, 원격 서버)에 제공되고, 제3 전자 디바이스(예컨대, 제1 전자 디바이스의 부근에 배치된 클라이언트 디바이스)에 제공되지 않는다. 블록(1660)에서, 일부 예들에서, 사용자 요청의 표현은 제2 전자 디바이스 및 제3 전자 디바이스 둘 모두에 제공된다.
위에 기재된 바와 같이, 제2 전자 디바이스 및/또는 제3 전자 디바이스는 사용자 요청의 표현을 수신하고, 하나 또는 둘 모두 제1 전자 디바이스에 응답을 제공할 것인지 결정할 수 있다. 도 16c를 참조하여, 블록(1662)에서, 제2 전자 디바이스 또는 제3 전자 디바이스, 또는 둘 모두 제1 전자 디바이스에 응답을 제공할 것인지에 관한 결정에 기초하여, 사용자 요청에 대한 응답은 제2 전자 디바이스 또는 제3 전자 디바이스로부터 수신된다.
블록(1664)에서, 위에 기재된 바와 같이, 일부 예들에서, 사용자 요청의 표현은 제3 전자 디바이스에 제공되고, 제2 전자 디바이스에 제공되지 않는다. 블록(1666)에서, 사용자 요청에 대한 응답을 수신하기 위하여, 제3 전자 디바이스(예컨대, 클라이언트 디바이스)로 하여금 제3 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 있는지 결정하게 한다. 블록(1668)에서, 제3 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 있다는 결정에 따라, 제1 전자 디바이스에서, 사용자 요청에 대한 응답이 제3 전자 디바이스로부터 수신된다. 블록(1670)에서, 제3 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 없다는 결정이 내려진다. 블록(1672)에서, 이와 같은 결정에 따라, 사용자 요청의 표현은 제3 전자 디바이스에 의해 제2 전자 디바이스로 전달된다. 블록(1674)에서, 사용자 요청에 대한 응답은 제1 전자 디바이스에서 제2 전자 디바이스로부터 수신된다.
도 16e를 참조하여, 위에 기재된 바와 같이, 일부 예들에서, 블록(1676)에서, 사용자 요청의 표현은 제2 전자 디바이스(예컨대, 원격 서버)에 제공되고, 제3 전자 디바이스(예컨대, 클라이언트 디바이스)에 제공되지 않는다. 블록(1678)에서, 제1 전자 디바이스에서 사용자 요청에 대한 응답을 수신하기 위하여, 제2 전자 디바이스로 하여금 제2 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 있는지 결정하게 한다. 블록(1680)에서, 제2 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 있다는 결정에 따라, 사용자 요청에 대한 응답은 제1 전자 디바이스에서 제2 전자 디바이스로부터 수신된다. 블록(1682)에서, 제2 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 없다고 결정된다.
블록(1684)에서, 이와 같은 결정에 따라, 사용자 요청의 표현은 제2 전자 디바이스에 의해 제3 전자 디바이스로 전달된다. 제3 전자 디바이스(예컨대, 클라이언트 디바이스)는 따라서 사용자 요청에 기초하여 응답을 제공할 수 있다. 블록(1686)에서, 사용자 요청에 대한 응답은 제1 전자 디바이스에서 수신된다. 블록(1688)에서, 제1 전자 디바이스는 사용자 요청에 대한 응답을 제3 전자 디바이스로부터 수신한다. 블록(1690)에서, 제1 전자 디바이스는 제3 전자 디바이스에 의해 제2 전자 디바이스에 제공된 응답에 기초하여, 사용자 요청에 대한 응답을 제2 전자 디바이스(예컨대, 원격 서버)로부터 수신한다. 예를 들어, 클라이언트 디바이스는 응답을 원격 서버에 전달할 수 있고, 이는 응답을 제1 전자 디바이스(예컨대, 서버-확장 디바이스)에 제공한다.
도 16f를 참조하여, 기재된 바와 같이, 일부 예들에서, 블록(1692)에서, 사용자 요청의 표현은 제1 전자 디바이스로부터 제2 전자 디바이스 및 제3 전자 디바이스 둘 모두에 제공된다. 블록(1694)에서, 사용자 요청에 대한 응답을 수신하기 위하여, 제2 전자 디바이스(예컨대, 원격 서버)로 하여금 제2 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 있는지 결정하게 한다. 블록(1696)에서, 사용자 요청에 대한 응답을 수신하기 위하여, 제3 전자 디바이스(예컨대, 제1 전자 디바이스의 부근에 배치된 클라이언트 디바이스)로 하여금 제3 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 있는지 결정하게 한다. 블록(1694) 및 블록(1696)의 결정들 중 하나 또는 둘 모두가 수행될 수 있다.
블록(1698)에서, 제2 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 있고, 제3 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 없다는 결정에 따라, 사용자 요청에 대한 응답은 제1 전자 디바이스에서 제2 전자 디바이스로부터 수신된다. 블록(1700)에서, 제3 전자 디바이스는 사용자 요청에 대한 응답을 제공할 수 있고, 제2 전자 디바이스가 사용자 요청에 대한 응답을 제공할 수 없다는 결정에 따라, 사용자 요청에 대한 응답은 제1 전자 디바이스에서 제3 전자 디바이스로부터 수신된다. 블록(1702)에서, 제2 전자 디바이스 및 제3 전자 디바이스 둘 모두 사용자 요청에 대한 응답을 제공할 수 있다는 결정에 따라, 사용자 요청에 대한 응답은 미리결정된 조건에 기초하여 제1 전자 디바이스에서 제2 전자 디바이스 또는 제3 전자 디바이스로부터 수신된다. 미리결정된 조건은, 예를 들어, 사전구성 정책(예컨대, 제3 전자 디바이스가 응답을 제공하는 디폴트 디바이스임), 사용자 선호도, 제2 및 제3 전자 디바이스들 등에 대한 연결의 대역폭 조건 등일 수 있다.
도 16g를 참조하여, 블록(1704)에서, 응답의 표현이 제1 전자 디바이스(예컨대, 서비스-확장 디바이스)에 의해 제공될 것인지 결정한다. 블록(1706)에서, 응답이 제1 전자 디바이스에 의해 제공될 것인지에 대한 결정은 사용자 요청에 기초한다(예컨대, 사용자의 스피치 입력이 응답이 상이한 전자 디바이스에서 제공될 것이라고 나타냄). 블록(1708)에서, 응답이 제1 전자 디바이스에 의해 제공될 것인지에 대한 결정은 사용자의 위치를 검출 또는 사용자의 이동을 추적하는 것 중 적어도 하나에 기초한다. 예를 들어, 사용자가 제1 전자 디바이스로부터 멀리 다른 디바이스를 향해 이동 중임이 검출되는 경우, 응답은 제1 전자 디바이스에 의해 제공되지 않을 수 있다.
블록(1710)에서, 응답의 표현이 제1 전자 디바이스에 의해 제공될 것이라는 결정에 따라, 응답의 표현은 제1 전자 디바이스에 의해 제1 사용자에게 제공된다. 블록(1712)에서, 응답의 표현이 제1 전자 디바이스에 의해 제공되지 않을 것이라는 결정에 따라, 응답은 하나 이상의 추가적인 전자 디바이스로 전달되고, 이는 응답을 제1 사용자에게 제공할 수 있다.
도 16h를 참조하여, 블록(1714)에서, 응답의 표현이 제1 사용자에게 제공된다. 블록(1716)에서, 응답의 표현을 제공하기 위하여, 사용자 요청에 응답하는 정보를 포함하는 스피치 출력이 제1 전자 디바이스에서 제공된다. 블록(1718)에서, 정보는 제2 전자 디바이스 또는 제3 전자 디바이스에 의해 제1 전자 디바이스에 제공된다.
블록(1720)에서, 응답의 표현을 제공하기 위하여, 사용자 요청에 따라 태스크를 수행하는 것과 연관된 스피치 출력이 제1 전자 디바이스에서 제공된다. 블록(1722)에서, 일부 예들에서, 태스크는 제3 전자 디바이스(예컨대, 제1 사용자의 스마트폰 같은 클라이언트 디바이스)에 의해 수행된다. 블록(1724)에서, 일부 예들에서, 태스크는 제1 전자 디바이스 및 제3 전자 디바이스에 의해 수행된다. 예를 들어, 제1 전자 디바이스는 응답의 오디오 부분을 출력할 수 있는 반면, 제3 전자 디바이스(예컨대, TV 스크린에 연결된 TV 셋톱 박스)는 응답의 비디오 부분을 출력할 수 있다. 블록(1726)에서, 태스크는 하나 이상의 추가적인 전자 디바이스에 의해 추가로 수행된다. 예를 들어, 서비스-확장 디바이스 및 TV 셋톱 박스와 같은 클라이언트 디바이스에서 응답을 제공(예컨대, 영화를 재생)할 뿐만 아니라, 응답은 랩톱 컴퓨터와 같은 추가적인 디바이스에서 추가로 제공될 수 있다.
블록(1728)에서, 일부 예들에서, 하나 이상의 연결은 제1 전자 디바이스와 하나 이상의 추가적인 전자 디바이스 간에 구축된다. 추가적인 전자 디바이스들은 제1 전자 디바이스와 동일한 유형의 디바이스들이다. 예를 들어, 다수의 서비스-확장 디바이스들(예컨대, 도 8a 및 도 8b에 도시된 바와 같은 디바이스들(810A 내지 810C)) 사이에 연결이 구축될 수 있다.
블록(1730)에서, 응답은 제1 전자 디바이스에 의해 제1 사용자에게 제공되고 있다. 블록(1732)에서, 제1 전자 디바이스에 의해 제1 사용자에게 응답을 제공하는 동안, 응답이 상이한 전자 디바이스(예컨대, 사용자의 스마트폰과 같은 클라이언트 디바이스)에서 이어서 제공될 것인지 결정된다. 블록(1734)에서, 응답이 상이한 전자 디바이스에서 이어서 제공될 것인지에 대한 결정은 제3 스피치 입력(예컨대, "내 전화기에서 노래를 이어서 틀어 줘."와 같은 제1 사용자로부터의 스피치 입력)에 기초한다. 블록(1736)에서, 응답이 상이한 전자 디바이스에서 이어서 제공될 것인지에 대한 결정은 제1 전자 디바이스에 대한 제1 사용자의 위치 변동이 미리결정된 조건을 충족하는지 검출하는 것에 기초한다. 예를 들어, 제1 사용자가 미리결정된 경계 밖으로 이동해서 응답이 제1 전자 디바이스와 상이한 디바이스에서 이어서 제공되어야 하는지 결정될 수 있다.
블록(1738)에서, 응답이 상이한 전자 디바이스에서 이어서 제공될 것이라는 결정에 따라, 응답으로 하여금 제3 전자 디바이스 또는 하나 이상의 추가적인 전자 디바이스 중 적어도 하나에 의해 이어서 제공되게 한다.
블록(1740)에서, 응답을 제1 사용자에게 제공한 후, 후속 스피치 입력들이 모니터된다.
7.
이벤트들의 통지들에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스.
도 17a 내지 도 17d는 다양한 예들에 따른, 이벤트들의 통지들에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 디지털 어시스턴트를 동작시키기 위한 프로세스(1800)를 도시한다. 프로세스(1800)는, 예를 들어, 디지털 어시스턴트를 구현하는 하나 이상의 전자 디바이스를 이용하여 수행된다. 일부 예들에서, 프로세스(1800)는 클라이언트-서버 시스템(예컨대, 시스템(100))을 이용하여 수행되고, 프로세스(1800)의 블록들은 서버(예컨대, DA 서버(106))와 클라이언트 디바이스 사이에서 임의의 방식으로 분담된다. 다른 예들에서, 프로세스(1800)의 블록들은 서버와 다수의 클라이언트 디바이스들(예컨대, 모바일 전화기 및 스마트 워치) 사이에서 분담된다. 따라서, 프로세스(1800)의 일부분들이 클라이언트-서버 시스템의 특정 디바이스들에 의해 수행되는 것으로 본 명세서에 기술되지만, 프로세스(1800)는 그렇게 제한되지 않는다는 것이 이해될 것이다. 다른 예들에서, 프로세스(1800)는 단지 하나의 클라이언트 디바이스(예컨대, 사용자 디바이스(104), 디바이스들(810A 내지 810C))만을 또는 다수의 클라이언트 디바이스들만을 사용하여 수행된다. 프로세스(1800)에서, 일부 블록들은, 선택적으로, 조합되고, 일부 블록들의 순서는, 선택적으로, 변경되고, 일부 블록들은, 선택적으로, 생략된다. 일부 예들에서, 추가 단계들이 프로세스(1800)와 조합하여 수행될 수 있다.
도 17a를 참조하여, 블록(1802)에서, 이벤트의 통지를 수신하기 전에, 제1 전자 디바이스(예컨대, 서비스-확장 디바이스)와 제2 전자 디바이스(예컨대, 서버) 또는 제3 전자 디바이스(예컨대, 제1 전자 디바이스의 부근에 배치된 클라이언트 디바이스) 중 적어도 하나 사이에 연결이 구축된다. 블록(1804)에서, 연결을 구축하는 것은 제1 전자 디바이스와 제3 전자 디바이스 간의 근거리 통신에 기초한다. 블록(1806)에서, 연결을 구축하는 것은 제1 전자 디바이스로부터 미리결정된 거리 내에 있는 제3 전자 디바이스의 검출에 기초한다. 블록(1808)에서, 연결을 구축하는 것은 제1 전자 디바이스와 제3 전자 디바이스 간의 이전에 구축된 연결에 기초한다.
위에 기재된 바와 같이, 제1 전자 디바이스(예컨대, 서비스-확장 디바이스)는 다수의 사용자들에 의해 공유될 수 있다. 블록(1810)에서, 제1 전자 디바이스와 제3 전자 디바이스 간의 연결이 구축되고; 제3 전자 디바이스는 제1 사용자와 연관된다. 블록(1812)에서, 제1 전자 디바이스와 제4 전자 디바이스 간의 연결이 구축되고; 제4 전자 디바이스는 제2 사용자와 연관된다. 블록(1814)에서, 제1 전자 디바이스와 제3 전자 디바이스 간의 연결을 구축한 후, 제2 전자 디바이스(예컨대, 원격 서버)는 구축된 연결에 관해 통지받는다.
도 17b를 참조하여, 블록(1816)에서, 제1 사용자와 연관된 이벤트의 통지가 수신된다. 블록(1818)에서, 이벤트의 통지는 착신 통화, 리마인더, 메시지, 음성메일, 또는 뉴스 알림 중 적어도 하나의 표현을 포함한다. 블록(1820)에서, 통지는 제2 전자 디바이스(예컨대, 원격 서버) 또는 제3 전자 디바이스(예컨대, 제1 전자 디바이스의 부근에 배치된 클라이언트 디바이스) 중 적어도 하나로부터 수신된다.
블록(1822)에서, 통지를 수신하는 것에 응답하여, 통지의 표시가 출력된다. 표시는, 예를 들어, 삐 소리, 알림, 링톤 등일 수 있다. 블록(1824)에서, 통지의 표시는 제1 전자 디바이스 또는 제1 전자 디바이스에 통신가능하게 결합되어 있는 추가적인 전자 디바이스들 중 하나에 의해 출력된다. 예를 들어, 사용자의 스마트폰과 같은 클라이언트 디바이스가 통지의 표시를 출력할 수 있고; 다른 서비스-확장 디바이스가 통지의 표시를 출력할 수 있다.
블록(1826)에서, 하나 이상의 스피치 입력이 수신된다. 블록(1828)에서, 예를 들어, 통지에 관한 제1 스피치 입력이 수신된다(예컨대, 사용자는 "그게 뭐야?"와 같은 이벤 통지의 표시에 관하여 문의하는 제1 스피치 입력을 제공할 수 있음). 블록(1830)에서, 이벤트의 통지에 따라 응답이 출력된다. 예를 들어, "존의 음성메일이 있습니다."와 같은 스피치 출력이 제공될 수 있다. 블록(1832)에서, 제2 스피치 입력이 수신된다. 예를 들어, 사용자는 "음성메일 재생해 줘."라고 말할 수 있다.
도 17c를 참조하여, 블록(1834)에서, 하나 이상의 스피치 입력에 따라, 통지가 제1 전자 디바이스에서 제공될 것인지 결정된다. 블록(1836)에서, 통지가 제1 전자 디바이스에서 제공될 것인지 결정하기 위하여, 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자의 신원이 획득된다. 블록(1838)에서, 사용자의 신원을 획득하기 위하여, 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자와 연관된 인증 데이터가 획득된다. 인증 데이터는, 예를 들어, 사용자의 생체인식, 지문, 안면 인식 데이터, 패스워드 등을 포함할 수 있다. 블록(1840)에서, 인증 데이터에 기초하여 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자의 신원의 결정이 획득된다.
블록(1842)에서, 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자의 신원의 결정을 획득하기 위하여, 인증 데이터는 제2 전자 디바이스 및 제3 전자 디바이스 중 적어도 하나에 제공된다 블록(1844)에서, 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자의 신원이 제2 전자 디바이스 및 제3 전자 디바이스 중 적어도 하나로부터 수신된다. 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자의 신원은 인증 데이터에 기초하여 결정된다.
블록(1846)에서, 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자의 신원에 기초하여 그리고 통지에 기초하여, 통지가 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자에게 제공될 것인지 결정된다. 블록(1848)에서, 통지가 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자에게 제공될 것이라는 결정에 따라, 통지가 제1 전자 디바이스에서 제공될 것인지 결정된다.
도 17d를 참조하여, 블록(1850)에서, 통지가 제1 전자 디바이스에서 제공될 것이라는 결정에 따라, 통지는 제1 전자 디바이스에서 제공된다. 블록(1852)에서, 제1 전자 디바이스에서 통지를 제공하기 위하여, 통지와 연관된 오디오 출력이 제1 전자 디바이스에서 제공된다.
블록(1854)에서, 통지가 제1 전자 디바이스에서 제공되지 않을 것이라는 결정에 따라, 통지를 제공하기 위한 추가적인 전자 디바이스가 결정된다. 블록(1856)에서, 통지를 제공하기 위한 추가적인 전자 디바이스를 결정하는 것은 하나 이상의 스피치 입력에 기초한다. 블록(1858)에서, 통지를 제공하기 위한 추가적인 전자 디바이스를 결정하는 것은 컨텍스트 정보에 기초한다.
도 16a 내지 도 16i 및 도 17a 내지 도 17d를 참조하여 위에서 기재한 동작들은 선택적으로 도 1 내지 도 4, 도 6a 및 도 6b, 및 도 7a 내지 도 7c에 도시된 컴포넌트들로 구현된다. 예를 들어, 프로세스(1600) 및 프로세스(1800)의 동작들은 디지털 어시스턴트 시스템(700)에 의해 구현될 수 있다. 다른 프로세스들이 도 1 내지 도 4, 도 6a 및 도 6b, 및 도 7a 내지 도 7c에 도시된 컴포넌트들에 기초하여 어떻게 구현되는지는 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 자명할 것이다.
8.
다수의 디바이스들을 이용하여 디지털 어시스턴트 서비스를 제공하는 예시적인 기능들.
위에 기재된 바와 같이, 디지털 어시스턴트 서비스는 하나 이상의 디바이스에 의해 제공될 수 있다. 디바이스 역량 한계로 인해, 소정 디바이스들은 소정 디지털 어시스턴트 서비스를 제공할 수 없거나, 또는 소정 디지털 어시스턴트 서비스를 제공하는 데 최적이 아닐 수 있다. 예를 들어, 스마트워치는 통상적으로 스크린 크기가 작아서 비디오를 재생하기에 최적이 아니다. 다른 예로서, 스마트폰과 다르게, TV 셋톱 박스는 텍스트 메시지를 위한 스피치 출력을 제공할 수 없다.
도 18a 내지 도 18e는 다양한 예들에 따른, 다수의 전자 디바이스들의 역량에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 기능들을 도시한다. 일부 예들에서, 디지털 어시스턴트(예컨대, 디지털 어시스턴트 시스템(700))는 다양한 예들에 따른 사용자 디바이스에 의해 구현된다. 일부 예들에서, 사용자 디바이스, 서버(예컨대, 서버(108), 디바이스(820)), 또는 이들의 조합은 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))을 구현할 수 있다. 사용자 디바이스는, 예를 들어, 디바이스(200, 400, 600, 820, 830, 840, 1880, 및/또는 1882)를 이용하여 구현될 수 있다. 일부 예들에서, 사용자 디바이스는 오디오 출력 역량 및 네트워크 연결성을 갖는 디바이스, 스마트 워치, 스마트폰, 랩톱 컴퓨터, 데스크톱 컴퓨터, 또는 태블릿 컴퓨터이다.
도 18a에 도시된 바와 같이, 사용자(804)는 스피치 입력(1886), 예컨대, "내가 지난 일요일에 봤던 비디오 보여줘."를 제공할 수 있다. 스피치 입력(1886)은 사용자 요청(예컨대, 정보에 대한 요청 또는 태스크를 수행하기 위한 요청)을 표현할 수 있다. 일부 예들에서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1886)을 사용자(804)로부터 수신한다. 디바이스(1880)는, 예를 들어, 클라이언트 디바이스(예컨대, 스마트 워치와 같은 웨어러블 디바이스)일 수 있다. 디바이스(1880)는 또한 위에서 기재된 디바이스(810A)와 유사한 디바이스일 수 있는데, 이는 하나 이상의 오디오 입력 및 출력 디바이스(예컨대, 마이크로폰 및 하나 이상의 스피커) 및 하나 이상의 네트워크 통신 인터페이스를 포함할 수 있다. 디바이스(1880)는 사용자 요청에 응답할 수 있거나, 또는 할 수 없거나, 또는 사용자 요청에 응답(예컨대, 요청된 정보를 제공 또는 요청된 태스크들을 수행)하기에 최적이거나, 또는 최적이 아닐 수 있다. 예를 들어, 디바이스(1880)는 디스플레이를 갖지 않을 수 있거나 또는 비디오를 재생하기에 최적이 아닌 소형의 디스플레이를 가질 수 있다.
일부 실시예들에서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(1880)에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터를 획득할 수 있다. 예를 들어, 도 18a에 도시된 바와 같이, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(820)(예컨대, 원격 서버), 디바이스(830)(예컨대, 사용자의 스마트폰과 같은 클라이언트 디바이스), 디바이스(840)(TV 셋톱 박스)는 디바이스(1880)에 통신가능하게 결합되어 있다고 결정할 수 있다. 결정은, 예를 들어, 디바이스(810A)에 대하여 위에서 기재한 것과 유사하게, 블루투스 페어링, Wi-Fi 연결 등을 통해 내려질 수 있다. 디바이스들(820, 830, 840)이 통신가능하게 결합되어 있다는 결정에 기초하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 이러한 디바이스들과 연관된 역량 데이터를 획득할 수 있다. 일부 예들에서, 일부 디바이스들은 디바이스(1880)의 부근에 배치된 클라이언트 디바이스들이고, 일부 디바이스들은 디바이스(1880)로부터 원격 배치되어 있다. 예를 들어, 디바이스(1880), 디바이스(830), 및 디바이스(840)는 미리결정된 경계(예컨대, 집, 건물, 차 등) 내에 배치된 클라이언트 디바이스들이고; 디바이스(820)는 원격 배치된 서버이다.
일부 예들에서, 역량 데이터는 디바이스(1880)에 통신가능하게 결합될 수 있는 전자 디바이스들과 연관된 디바이스 역량들을 포함할 수 있다. 디바이스 역량들은 하나 이상의 물리적 역량 및/또는 정보 역량을 포함할 수 있다. 디바이스의 물리적 역량은 디바이스의 디스플레이 여부, 디스플레이의 크기, 스피커의 개수, 네트워크 역량 등과 같은 디바이스의 물리적 속성들을 포함할 수 있다. 디바이스의 정보 역량은 디바이스가 제공할 수 있는 데이터를 포함할 수 있다. 예를 들어, 디바이스(830)는 사용자(804)가 찍은 미디어 아이템들(예컨대, 비디오들 및 사진들)을 저장할 수 있고, 따라서 저장된 미디어 아이템들을 디바이스(830)에 통신가능하게 연결된 다른 디바이스들에 제공할 수 있다.
일부 예들에서, 역량 데이터를 획득하기 이전에, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 다른 전자 디바이스들(예컨대, 디바이스들(820, 830, 및/또는 840))과 통신을 구축하도록 구성될 수 있다. 일부 예들에서, 통신은 직접 통신 접속, 예컨대, 블루투스, 근거리 통신(NFC), BTLE(Bluetooth Low Energy) 등을 통해, 또는 로컬 Wi-Fi 네트워크와 같은 유선 또는 무선 네트워크를 통해 구축될 수 있다. 예를 들어, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 블루투스 발견을 통해 디바이스(830)를 검출하고, 블루투스 연결을 통해 디바이스들(830)에 통신가능하게 결합될 수 있다. 다른 예로서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 Wi-Fi 네트워크를 검출하고, Wi-Fi 네트워크를 통해 디바이스(840)에 결합할 수 있다. 다른 예로서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)(예컨대, 사용자의 스마트폰과 같은 클라이언트 디바이스)가 디바이스(1880)와 매우 근접하거나, 또는 물리적으로 접촉할 때 근거리 통신을 검출할 수 있다. 예를 들어, 디바이스(1880)와 디바이스(830)를 페어링하기 위하여, 사용자(804)는 디바이스(1880)를 디바이스(830)로 두드림으로써, 두 디바이스들 간에 근거리 통신을 구축할 수 있다. 다른 예로서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)(예컨대, 사용자의 스마트폰과 같은 클라이언트 디바이스)가 미리결정된 거리 내(예컨대, 블루투스 통신의 범위 내)에 있고 디바이스(830)와의 연결을 구축함을 검출할 수 있다. 예를 들어, 사용자(804)가 디바이스(830)를 구비한 채 디바이스(1880)에 접근함에 따라, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)가 통신 범위 내에 있음을 검출하고, 따라서 디바이스(1880)를 디바이스(830)와 연결한다. 다른 예로서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 두 디바이스들 간의 하나 이상의 이전에 구축된 연결에 기초하여 디바이스(830)와의 연결을 구축할 수 있다. 예를 들어, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 그것이 과거에 연결된 디바이스들을 포함하는 로그 파일, 및 선택적으로 연결 파라미터들을 저장할 수 있다. 따라서, 로그 파일에 기초하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는, 예를 들어, 그것이 전에 디바이스(830)에 연결되었다고 결정할 수 있다. 이러한 결정에 기초하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)와의 연결을 다시 구축할 수 있다.
일부 예들에서, 역량 데이터를 획득하기 이전에, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 사용자(804)에게 디바이스(1880)에 통신가능하게 결합될 수 있는 하나 이상의 디바이스에 액세스하는 것에 관하여 문의할 수 있다. 예를 들어, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 스피치 출력, 예컨대, "당신의 전화기 및 TV에 액세스해도 되겠습니까?"를 제공할 수 있다. 일부 예들에서, 사용자(804)는 액세스를 허용하거나 또는 액세스를 거부하는 스피치 입력으로 응답할 수 있다. 스피치 입력을 수신하는 것에 응답하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(1880)에 통신가능하게 결합된 디바이스들에 액세스하도록 인가되는지 결정할 수 있다. 예를 들어, 사용자(804)의 스피치 입력이 "OK"인 경우, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스들(830, 840)에 액세스하도록 인가된다고 결정할 수 있다. 사용자(804)의 스피치 입력이 "아니야"인 경우, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스들(830, 840)에 액세스하도록 인가되지 않는다고 결정할 수 있다. 사용자(804)의 스피치 입력이 "내 전화기는 되고, 내 TV는 안돼"(예컨대, 사용자(804)는 디바이스(840) 및 디바이스(1882)(예컨대, TV 디스플레이)를 이용하여 다른 비디오를 보는 중일 수 있고, 디바이스(1882) 상에서 재생중인 비디오를 방해하지 않길 바랄 수 있음)인 경우, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)에 액세스하도록 인가되지만 디바이스(1882) 상에서 비디오를 재생하기 위한 디바이스(840)는 안된다고 결정할 수 있다.
도 18a 및 도 18b를 참조하여, 일부 실시예들에서, 역량 데이터에 따라, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는, 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스로부터, 사용자 요청에 대한 응답의 적어도 일부분을 제공하기 위한 디바이스를 식별할 수 있다. 일부 예들에서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1886)에 기초하여 사용자 요청에 응답하기 위한 하나 이상의 단계를 획득할 수 있다. 사용자 요청에 응답하기 위한 하나 이상의 단계는 요청된 정보를 제공하기 위한 단계들 및/또는 요청된 태스크를 수행하기 위한 단계들을 포함할 수 있다. 예를 들어, 스피치 입력(1886), 예컨대, "내가 지난 일요일에 봤던 비디오 보여줘."에 기초하여, 디바이스(1880)는 사용자 요청이 사용자(804)가 지난 일요일에 봤던 비디오를 찾아서 그것을 재생하는 것이라고 결정할 수 있다. 결정은 위에서 기재한 자연 언어 처리 기술들을 이용하여 내려질 수 있다.
결정된 사용자 요청에 따라, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 사용자 요청에 응답하는 데 요구되는 하나 이상의 단계를 결정할 수 있다. 예를 들어, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 사용자(804)가 지난 일요일에 봤던 비디오를 재생하기 위한 첫번째 단계가 사용자(804)가 지난 일요일에 봤던 특정 비디오를 찾는 것이고; 두번째 단계가 특정 비디오를 재생하는 것이라고 결정할 수 있다. 일부 실시예들에서, 하나 이상의 단계의 결정은 다른 디바이스(예컨대, 원격 서버와 같은 디바이스(820)) 상에서 내려져서 디바이스(1880)에 제공될 수 있다. 일부 실시예들에서, 하나 이상의 단계의 결정은 디바이스(820) 및 디바이스(1880) 둘 모두를 이용하여 내려질 수 있다. 예를 들어, 디지털 어시스턴트는 사용자(804)와 접속하는 프론트엔드에 있는 디바이스(1880) 상에서 동작하고, 사용자 입력을 처리하는 백엔드에 있는 디바이스(820) 상에서 동작할 수 있다. 일부 실시예들에서, 사용자 요청에 응답하기 위한 하나 이상의 단계는 실행 계획의 적어도 일부분을 형성할 수 있다. 실행 계획은 사용자 요청에 응답하기 위한 단계들 및 단계들의 각각을 수행하기 위한 디바이스를 포함할 수 있다.
일부 실시예들에서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(1880)에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터에 기초하여 사용자 요청에 응답하기 위한 단계들을 수행하기 위한 하나 이상의 디바이스를 식별할 수 있다. 위 예에 이어서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 사용자(804)가 지난 일요일에 봤던 특정 비디오를 찾는 첫번째 단계를 수행하기 위한 디바이스를 식별하고; 특정 비디오를 재생하는 두번째 단계를 수행하기 위한 디바이스를 식별할 수 있다. 도 18b에 도시된 바와 같이, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는, 디바이스(1880)에 통신가능하게 연결된 디바이스들(예컨대, 디바이스들(820, 830, 840) 중에서, 디바이스(830)(예컨대, 사용자의 스마트폰과 같은 클라이언트 디바이스)의 역량 데이터는 디바이스(830)가 사용자(804)가 지난 일요일에 봤던 특정 비디오를 찾는 역량을 가지고 있음을 나타낸다고 결정할 수 있다. 예를 들어, 사용자(804)가 지난 일요일에 디바이스(830)를 이용하여 비디오를 봤고, 따라서 디바이스(830)의 정보제공 역량 데이터는 디바이스(830)에 저장된 파일이 비디오의 포맷 및 지난 일요일의 타임 스탬프를 가지고 있음을 나타낼 수 있다. 그에 따라, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 사용자(804)가 의도한 특정 비디오를 찾는 첫번째 단계를 수행하기 위한 디바이스(830)를 식별할 수 있다.
다른 예로서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는, 디바이스들(820, 830, 840) 중에서, 디바이스(840)(예컨대, TV 셋톱 박스)의 역량 데이터는 디바이스(840)가 비디오들을 재생하는 두번째 단계를 수행하기에 최적의 디바이스임을 나타낸다고 결정할 수 있다. 예를 들어, 디바이스들(830, 840)의 디바이스 역량 데이터 둘 모두는 디바이스들이 비디오들을 재생할 수 있음을 나타낼 수 있다. 디바이스(840)의 디바이스 역량 데이터는 디바이스(840)가 비디오를 재생할 수 있는 디바이스(1882)(예컨대, TV 스크린)의 하나 이상의 디바이스 속성들(예컨대, 디스플레이 크기/해상도/스피커 개수)이 디바이스(830)의 디바이스 속성들보다 우월함을 추가로 나타낼 수 있다. 예를 들어, 디바이스(1882)의 디스플레이 크기는 디바이스(830)의 디스플레이 크기보다 크다. 결과적으로, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 비디오를 재생하는 두번째 단계를 수행하기 위하여 디바이스(830) 대신에 디바이스(840)를 식별할 수 있다.
일부 실시예들에서, 도 18b에 도시된 바와 같이, 사용자 요청에 응답하기 위한 단계들을 수행하기 위한 디바이스들의 결정에 기초하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 사용자 요청에 응답하기 위하여 식별된 디바이스들에 액세스하기 위한 승낙 또는 허가를 구하는 스피치 출력을 사용자(804)에게 제공할 수 있다. 예를 들어, 도 18b에 도시된 바와 같이, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 스피치 출력(1883), 예컨대, "당신의 전화기에서 비디오를 검색하여 당신의 TV에서 재생하려고 하는데, 진행해도 되겠습니까?"를 제공할 수 있다. 도 18c를 참조하여, 일부 예들에서, 디바이스(1880)는 후속 스피치 입력(1885)을 사용자(804)로부터 수신할 수 있다. 스피치 입력(1885)을 수신하는 것에 응답하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 응답의 적어도 일부분이 디바이스(1880)에 통신가능하게 결합된 하나 이상의 디바이스에 의해 제공될 것인지 결정할 수 있다. 예를 들어, 스피치 입력(1885)이 "OK"를 포함하는 경우, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 비디오가 디바이스(830)로부터 검색되어, 디바이스(840)(예컨대, TV 셋톱 박스)를 이용하여 디바이스(1882)(예컨대, TV 디스플레이) 상에서 재생되어야 한다고 결정할 수 있다. 스피치 입력(1885)이 "아니, 내 전화기에서 비디오 틀어 줘."를 포함하는 경우, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 비디오가 디바이스(830)로부터 검색되지만, 디바이스(1882)가 아니라 디바이스(830) 상에서 재생되어야 한다고 결정할 수 있다. 일부 예들에서, 승낙/허가를 구하는 스피치 출력(1883)을 제공하고 후속 사용자 입력(1885)을 수신하는 것은 옵션적임을 이해할 것이다.
일부 실시예들에서, 사용자 요청에 응답하기 위하여 식별된 디바이스들을 사용하도록 사용자에게 승낙하거나 또는 허가를 요청하는 스피치 출력을 제공하기 이전에, 디지털 어시스턴트는 사용자 요청에 응답하기 위한 하나 이상의 단계에 주석을 달고, 주석에 기초하여 스피치 출력을 제공할 수 있다. 위 예를 이용하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 특정 단계를 수행하는 것이 디바이스의 상태의 변경을 요구하게 될지 결정할 수 있다. 예를 들어, 디바이스(1882)(예컨대, TV 디스플레이) 상에서 비디오를 재생하는 두번째 단계를 수행하기 위하여, 디바이스(840)의 상태는 변경(예컨대, 전원이 꺼진 상태에서 켜진 상태로 변경, 현재 재생중인 비디오에서 사용자가 요청한 비디오로 전환 등)될 수 있다. 결과적으로, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 두번째 단계에 식별된 디바이스의 상태의 변경을 요구하는 단계로서 주석을 달 수 있다.
다른 예로서, 사용자(804)가 지난 일요일에 봤던 비디오를 찾는 첫번째 단계를 수행하기 위하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 첫번째 단계를 수행하는 것이 디바이스(830)의 상태의 변경을 요구하지 않을 것이라고 결정할 수 있다. 결과적으로, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 첫번째 단계에 식별된 디바이스의 상태의 변경을 요구하는 단계로서 주석을 달지 않을 수 있다. 일부 예들에서, 주석에 기초하여, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 이어서 사용자 요청에 응답하기 위하여 식별된 디바이스들을 이용하기 위한 승낙 또는 허가를 구하는 스피치 출력을 제공할 수 있다. 위 예를 이용하여, 비디오를 재생하는 두번째 단계는 식별된 디바이스(840)에 대하여 상태변경 단계이기 때문에, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(840)에 액세스할 수 있는 허가를 구하는 스피치 출력을 제공할 수 있다. 스피치 출력은, 예를 들어, "당신의 TV에서 비디오를 재생하려고 하는데, 진행해도 되겠습니까?"를 포함할 수 있다. 그리고 비디오를 찾는 첫번째 단계는 식별된 디바이스(830)에 대하여 상태변경 단계가 아니기 때문에, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)에 액세스할 수 있는 허가를 구하는 스피치 출력을 제공하지 않을 수 있다.
도 18c를 참조하여, 일부 실시예들에서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 하나 이상의 식별된 디바이스로 하여금 사용자 요청에 대한 응답의 적어도 일부분을 제공하게 할 수 있다. 예를 들어, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(830)에게 사용자(804)가 지난 일요일에 봤던 비디오를 검색하고 찾아서 비디오를 디바이스(840)에 전송하도록 요청할 수 있다. 그것은 디바이스(840)에게 디바이스(1882)(예컨대, TV) 상에서 비디오를 재생하도록 추가로 요청할 수 있다.
위에 기재된 바와 같이, 일부 예들에서, 역량 데이터를 획득하기 이전에, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(1880)에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스에 액세스할 수 있는 승낙 또는 허가를 구할 수 있다. 예를 들어, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 스피치 출력, 예컨대, "당신의 전화기에 액세스해도 되겠습니까?"를 제공할 수 있다. 도 18d를 참조하여, 일부 실시예들에서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 디바이스(1880)에 통신가능하게 결합될 수 있는 디바이스들에 액세스하기 위한 하나 이상의 지속기간 옵션을 제공할 수 있다. 예를 들어, 도 18d에 도시된 바와 같이, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 옵션들(1884A 내지 1884C)을 디바이스(1880) 상에 디스플레이할 수 있다. 옵션(1884A)은 "한번만 허용"을 포함할 수 있으며, 이는 디바이스(1880)로부터 디바이스(830)에 액세스하는 것이 이번에만 허용됨을 나타낸다. 옵션(1884B)은 "두 디바이스들 모두 집에 있는 동안 허용"을 포함할 수 있고, 이는 디바이스(1880)로부터 디바이스(830)에 액세스하는 것이 두 디바이스들 모두 미리결정된 경계(예컨대, 집 안 또는 근처) 내에 있는 동안 허용됨을 나타낸다. 옵션(1884C)은 "항상 허용"을 포함할 수 있고, 디바이스(1880)로부터 디바이스(830)에 액세스하는 것이 항상 허용됨을 나타낸다. 일부 예들에서, 디지털 어시스턴트는 옵션(1884D)(미도시)을 또한 제공할 수 있고, 이는 "허용 안됨"을 포함할 수 있는데, 이는 디바이스(1880)로부터 디바이스(830)에 액세스하는 것이 거부됨을 나타낸다. 일부 실시예들에서, 유사한 지속기간 옵션들(1887A 내지 1887D)이 디바이스(830) 상에 디스플레이되어, 디바이스(830)의 사용자(예컨대, 디바이스(1880)의 사용자와 동일하거나 또는 동일하지 않을 수 있는 사용자)가 디바이스(830)의 액세스를 제어하게 할 수 있다.
일부 실시예들에서, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 지속기간 옵션의 선택을 사용자(804)로부터 수신하고, 선택된 지속기간 옵션에 기초하여 디바이스(1880)에 통신가능하게 결합될 수 있는 디바이스들에 액세스할 수 있다. 예를 들어, 선택이 "한번만 허용"과 같은 옵션(1884A)인 경우, 디바이스(1880) 상에서 동작하는 디지털 어시스턴트는 사용자가 요청한 비디오를 찾기 위하여 단지 이번에만 디바이스(830)에 액세스할 수 있다.
위에 기재된 바와 같이, 일부 실시예들에서, 디지털 어시스턴트는 하나 이상의 식별된 디바이스로 하여금 사용자 요청에 대한 응답의 적어도 일부분을 제공하게 할 수 있다. 일부 실시예들에서, 식별된 디바이스들로 하여금 응답을 제공하게 하기 이전에, 디지털 어시스턴트는 사용자의 신원을 획득하고 그 사용자가 응답의 적어도 일부분을 수신하도록 인가되는지 결정할 수 있다. 도 18e에 도시된 바와 같이, 예를 들어, 디바이스(840)는 다수의 사용자들 사이에 공유되는 디바이스(예컨대, TV 셋톱 박스)일 수 있고, 따라서 사용자(1888)는 디바이스(840)에 액세스하도록 인가된 사용자일 수 있다. 디바이스(830)는 다른 사용자(예컨대, 사용자(804))의 스마트폰과 같은 클라이언트 디바이스일 수 있다. 사용자(1888)는 디바이스(830)에 액세스하도록 인가되지 않을 수 있다. 일부 예들에서, 사용자(1888)는 스피치 입력(1889), 예컨대, "빌이 지난 일요일에 그의 전화기에서 봤던 비디오 틀어 줘."를 제공할 수 있다. 디바이스(840) 상에서 동작하는 디지털 어시스턴트는, 디바이스(840)에 통신가능하게 결합된 디바이스들의 역량 데이터에 기초하여, 사용자 요청에 대한 응답의 적어도 일부분을 제공하기 위한 디바이스(830)를 식별할 수 있다. 일부 실시예들에서, 사용자 요청에 응답하기 위한 단계를 수행하기 위하여 디바이스(830)에 액세스하기 전에, 디바이스(840) 상에서 동작하는 디지털 어시스턴트는 사용자(1888)의 신원을 획득할 수 있다. 일부 예들에서, 사용자(1888)의 신원을 획득하는 것은 음성 프로필에 기초할 수 있다. 음성 프로필은 사용자의 음성 특징들(예컨대, 음향 패턴, 성문, 사용자의 악센트 등)과 같은 음성 생체인식을 포함할 수 있다. 음성 프로필이 특정 사용자와 연관될 수 있고 고유하게 그 사용자를 식별한다. 예를 들어, 사용자(1888)의 음성 프로필은 사용자(1888)의 음성 특징들을 포함하고, 따라서 고유하게 사용자(1888)를 식별할 수 있다. 일부 예들에서, 음성 프로필은 또한 더 정확하게 사용자 의도를 결정하도록 위에서 기재된 자연 언어 처리를 보조할 수 있다. 예를 들어, 스피치-텍스트 변환 프로세스는 사용자의 악센트 데이터를 포함하는 음성 프로필을 이용하여 더 정확하게 수행될 수 있다.
도 18e를 참조하여, 디바이스(840) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1889)의 음성 특징들을 디바이스(830)의 하나 이상의 인가된 사용자의 하나 이상의 음성 프로필과 비교할 수 있다. 비교에 기초하여, 디바이스(840) 상에서 동작하는 디지털 어시스턴트는 스피치 입력(1889)의 음성 특징들이 디바이스(830)의 인가된 사용자에 대한 어떠한 음성 프로필에도 매칭되지 않는다고 결정할 수 있다. 결과적으로, 디바이스(840) 상에서 동작하는 디지털 어시스턴트는 사용자(1888)는 디바이스(830)에 액세스하도록 인가되지 않고, 따라서 디바이스(830)에 저장된 비디오에 액세스하도록 인가되지 않는다고 결정할 수 있다.
9.
다수의 디바이스들을 이용하여 디지털 어시스턴트 서비스를 제공하기 위한 프로세스.
도 19a 내지 도 19d는 다양한 예들에 따른, 이벤트들의 통지들에 기초하여 디지털 어시스턴트 서비스를 제공하기 위한 디지털 어시스턴트를 동작시키기 위한 프로세스(1900)를 도시한다. 프로세스(1900)는, 예를 들어, 디지털 어시스턴트를 구현하는 하나 이상의 전자 디바이스를 이용하여 수행된다. 일부 예들에서, 프로세스(1900)는 클라이언트-서버 시스템(예컨대, 시스템(100))을 이용하여 수행되고, 프로세스(1900)의 블록들은 서버(예컨대, DA 서버(106))와 클라이언트 디바이스 사이에서 임의의 방식으로 분담된다. 다른 예들에서, 프로세스(1900)의 블록들은 서버와 다수의 클라이언트 디바이스들(예컨대, 모바일 전화기 및 스마트 워치) 사이에서 분담된다. 따라서, 프로세스(1900)의 일부분들이 클라이언트-서버 시스템의 특정 디바이스들에 의해 수행되는 것으로 본 명세서에 기술되지만, 프로세스(1900)는 그렇게 제한되지 않는다는 것이 이해될 것이다. 다른 예들에서, 프로세스(1900)는 단지 하나의 클라이언트 디바이스(예컨대, 사용자 디바이스(104), 디바이스(1880))만을 또는 다수의 클라이언트 디바이스들만을 사용하여 수행된다. 프로세스(1900)에서, 일부 블록들은, 선택적으로, 조합되고, 일부 블록들의 순서는, 선택적으로, 변경되고, 일부 블록들은, 선택적으로, 생략된다. 일부 예들에서, 추가 단계들이 프로세스(1900)와 조합하여 수행될 수 있다.
도 19a를 참조하여, 블록(1902)에서, 사용자 요청을 표현하는 제1 스피치 입력이 제1 사용자로부터 수신된다. 블록(1904)에서, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터를 획득하기 이전에, 제1 전자 디바이스와 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스 사이에 연결이 구축된다. 일부 예들에서, 제1 전자 디바이스 및 제1 전자 디바이스에 통신가능하게 결합될 수 있는 전자 디바이스들은 미리결정된 경계(예컨대, 집) 내에 배치된다. 일부 예들에서, 연결을 구축하는 것은 제1 전자 디바이스와 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스 간의 근거리 통신에 기초한다. 일부 예들에서, 연결을 구축하는 것은 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스가 제1 전자 디바이스로부터 미리결정된 거리 내에 있는 것을 검출하는 것에 기초한다. 일부 예들에서, 연결을 구축하는 것은 제1 전자 디바이스와 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스 간의 하나 이상의 이전에 구축된 연결에 기초한다.
블록(1906)에서, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터를 획득하기 이전에, 제1 사용자는, 제1 전자 디바이스에 의해, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스에 액세스하는 것에 관해 문의를 받는다. 블록(1908)에서, 제1 사용자로부터 제3 스피치 입력이 수신된다. 제3 스피치 입력은 제1 전자 디바이스가 다른 디바이스들에 액세스하도록 인가되는지 나타낼 수 있다. 블록(1910)에서, 제3 스피치 입력을 수신하는 것에 응답하여, 제1 전자 디바이스가 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스에 액세스하도록 인가되는지 결정된다.
블록(1912)에서, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스에 액세스하기 위한 하나 이상의 지속기간 옵션이 제공된다. 지속기간 옵션들은, 예를 들어, 한번만 허용, 두 디바이스들 모두 집에 있는 동안 허용, 항상 허용, 허용 안됨을 포함할 수 있다. 블록(1914)에서, 제1 사용자로부터 지속기간 옵션의 선택이 수신된다. 블록(1916)에서, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스는 선택된 지속기간 옵션에 기초하여 액세스된다.
도 19b를 참조하여, 블록(1918)에서, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 역량 데이터가 획득된다. 블록(1920)에서, 역량 데이터를 획득하기 위하여, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 디바이스 역량들이 획득된다. 블록(1922)에서, 디바이스 역량들은 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스와 연관된 하나 이상의 물리적 속성을 포함한다. 블록(1924)에서, 디바이스 역량들은 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스에 의해 제공될 수 있는 데이터를 포함한다.
블록(1926)에서, 역량 데이터에 따라, 제1 전자 디바이스에 통신가능하게 결합될 수 있는 하나 이상의 전자 디바이스로부터, 사용자 요청에 대한 응답의 적어도 일부분을 제공하기 위한 제2 전자 디바이스가 식별된다. 블록(1928)에서, 제2 전자 디바이스를 식별하기 위하여, 사용자 요청에 응답하기 위한 하나 이상의 단계는 제1 스피치 입력에 기초하여 획득된다. 일부 예들에서, 블록(1930)에서, 하나 이상의 단계를 획득하기 위하여, 사용자 요청에 응답하기 위한 계획이 제1 전자 디바이스로부터 멀리 위치한 제3 전자 디바이스(예컨대, 서버)로부터 수신된다. 일부 예들에서, 블록(1932)에서, 사용자 요청에 응답하기 위한 계획이 제1 전자 디바이스(예컨대, 웨어러블 디바이스와 같은 클라이언트 디바이스)에 의해 결정되고, 계획은 사용자 요청에 응답하기 위한 하나 이상의 단계를 포함한다.
블록(1934)에서, 역량 데이터에 기초하여, 사용자 요청에 응답하기 위한 적어도 하나의 단계를 수행하기 위한 제2 전자 디바이스(예컨대, TV 셋톱 박스와 같은 디바이스(840))가 식별된다. 블록(1936)에서, 역량 데이터에 기초하여, 사용자 요청에 응답하기 위한 남은 단계들을 수행하기 위한 하나 이상의 추가적인 전자 디바이스가 식별된다.
도 19c를 참조하여, 블록(1938)에서, 제2 전자 디바이스에 의해 응답의 적어도 일부분을 제공하는 것에 관한 제1 스피치 출력이 제1 사용자에게 제공된다. 예를 들어, 제1 스피치 출력은 제2 전자 디바이스에 액세스할 수 있는 인가를 요청하는 스피치 출력일 수 있다. 블록(1940)에서, 제1 스피치 출력을 제공하기 위하여, 사용자 요청에 응답하기 위한 하나 이상의 단계에 주석을 단다. 예를 들어, 일부 단계들은 상태변경 단계들로 주석이 달릴 수 있고, 그에 따라 인가를 요구할 수 있고; 일부 단계들은 주석이 달리지 않아서 그에 따라 인가를 요구하지 않을 수 있다. 블록(1942)에서, 제1 스피치 출력은 하나 이상의 단계의 주석에 기초하여 제1 사용자에게 제공된다.
블록(1944)에서, 제1 사용자로부터 제2 스피치 입력이 수신된다. 제2 스피치 입력은 제1 사용자가 소정 디바이스들에 액세스하는 것을 인가하는지 나타낼 수 있다. 블록(1946)에서, 제2 스피치 입력을 수신하는 것에 응답하여, 응답의 적어도 일부분이 제2 전자 디바이스에 의해 제공될 것인지 결정된다.
블록(1948)에서, 일부 예들에서, 제2 전자 디바이스로 하여금 응답의 적어도 일부분을 제1 사용자에게 제공하게 하기 이전에, 제1 사용자의 신원이 획득된다. 블록(1950)에서, 신원은 음성 프로필에 기초하여 획득된다. 블록(1952)에서, 제1 사용자의 신원에 기초하여, 제1 사용자가 사용자 요청에 대한 응답의 적어도 일부분을 수신하도록 인가되는지 결정된다.
도 19d를 참조하여, 블록(1954)에서, 제2 전자 디바이스로 하여금 사용자 요청에 대한 응답의 적어도 일부분을 제공하게 한다. 블록(1956)에서, 제2 전자 디바이스로 하여금 사용자 요청에 응답하기 위한 적어도 하나의 단계를 수행하게 한다. 블록(1958)에서, 하나 이상의 추가적인 전자 디바이스로 하여금 사용자 요청에 응답하기 위한 남은 단계들을 수행하게 한다.
도 19a 내지 도 19d를 참조하여 위에서 기재한 동작들은 선택적으로 도 1 내지 도 4, 도 6a 및 도 6b, 및 도 7a 내지 도 7c에 도시된 컴포넌트들에 의해 구현된다. 예를 들어, 프로세스(1900)의 동작들은 디지털 어시스턴트 시스템(700)에 의해 구현될 수 있다. 다른 프로세스들이 도 1 내지 도 4, 도 6a 및 도 6b, 및 도 7a 내지 도 7c에 도시된 컴포넌트들에 기초하여 어떻게 구현될 수 있는지는 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 자명할 것이다.
일부 구현예들에 따르면, 전자 디바이스의 하나 이상의 프로세서에 의한 실행을 위한 하나 이상의 프로그램을 저장하는 컴퓨터 판독가능 저장 매체(예를 들어, 비일시적 컴퓨터 판독가능 저장 매체)가 제공되며, 여기서 하나 이상의 프로그램은 본 명세서에 설명된 방법 또는 프로세스 중 임의의 것을 수행하기 위한 명령어들을 포함한다.
일부 구현예들에 따르면, 본 명세서에 설명된 방법 또는 프로세스 중 임의의 것을 수행하기 위한 수단을 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공된다.
일부 구현예들에 따라, 본 명세서에 설명된 방법 또는 프로세스 중 임의의 것을 수행하도록 구성된 프로세싱 유닛을 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공된다.
일부 구현예들에 따르면, 하나 이상의 프로세서 및 하나 이상의 프로세서에 의한 실행을 위한 하나 이상의 프로그램을 저장하는 메모리를 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공되며, 여기서 하나 이상의 프로그램은 본 명세서에 기재된 방법 또는 프로세스 중 임의의 것을 실행하기 위한 명령어들을 포함한다.
전술한 설명은, 설명의 목적을 위해, 특정 실시예들을 참조하여 기술되었다. 그러나, 상기의 예시적인 논의들은 본 발명을 개시된 정확한 형태들로 규명하거나 제한하려는 의도는 아니다. 많은 수정들 및 변형들이 상기 교시 내용들의 관점에서 가능하다. 실시예들은 기술들의 원리 및 그것들의 실제적인 응용을 가장 잘 설명하기 위하여 선택되고 기술되었다. 따라서 당업자들은 기술들을 가장 잘 활용하도록 될 수 있고, 다양하게 수정된 다양한 실시예들은 고려되는 특정 용도에 적합하다.
본 개시내용 및 예들이 첨부의 도면들을 참조하여 충분히 설명되었지만, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 다양한 변경들 및 수정들이 명백할 것이라는 것에 주목하여야 한다. 그러한 변경들 및 수정들은 청구항들에 의해 정의되는 바와 같은 개시내용 및 예들의 범주 내에 포함되는 것으로 이해되어야 한다.
위에 기재된 바와 같이, 본 기술의 일 양태는 사용자의 신원을 획득하기 위한 다양한 소스들로부터 이용가능한 데이터의 수집 및 사용이다. 위에 기재된 바와 같이, 사용자를 인증하기 위한 데이터는 음성 생체인식, 안면 인식 데이터, 지문 등을 포함할 수 있다. 본 발명은, 일부 경우들에 있어서, 이러한 수집된 데이터가 특정 개인을 고유하게 식별하거나 또는 그와 연락하거나 그의 위치를 확인하는 데 이용될 수 있는 개인 정보 데이터를 포함할 수 있음을 고려한다. 위에 기재된 바와 같이, 클라이언트 디바이스들의 정보 역량이 획득될 수 있다. 클라이언트 디바이스들의 정보 역량은 개인 정보 데이터를 포함할 수 있다. 그러한 개인 정보 데이터는 개인용 식별 데이터, 인구통계 데이터, 위치 기반 데이터, 전화 번호들, 이메일 주소들, 집 주소들, 또는 임의의 다른 식별 정보를 포함할 수 있다.
본 발명은 본 기술에서의 그러한 개인 정보 데이터의 이용이 사용자들에게 이득을 주기 위해 사용될 수 있음을 인식한다. 예를 들어, 개인 정보 데이터는 사용자에게 더 큰 관심대상인 타깃 콘텐츠를 전달하는 데 이용될 수 있다. 따라서, 그러한 개인 정보 데이터의 이용은 전달된 콘텐츠의 계산된 제어를 가능하게 한다. 게다가, 사용자에 이득을 주는 개인 정보 데이터에 대한 다른 이용들이 또한 본 발명에 의해 고려된다.
본 개시내용은 그러한 개인 정보 데이터의 수집, 분석, 공개, 전달, 저장, 또는 다른 이용을 책임지고 있는 엔티티들이 잘 확립된 프라이버시 정책들 및/또는 프라이버시 관례들을 준수할 것이라는 것을 추가로 고려한다. 특히, 그러한 엔티티들은, 대체로 개인 정보 데이터를 사적이고 안전하게 유지시키기 위한 산업적 또는 행정적 요건들을 충족시키거나 넘어서는 것으로 인식되는 프라이버시 정책들 및 관례들을 구현하고 지속적으로 이용해야 한다. 예를 들어, 사용자들로부터의 개인 정보는 엔티티의 적법하며 적정한 사용들을 위해 수집되어야 하고, 이들 적법한 사용들을 벗어나서 공유되거나 판매되지 않아야 한다. 또한, 그러한 수집은 단지 사용자들의 고지에 입각한 동의를 수신한 후에만 발생해야 한다. 부가적으로, 그러한 엔티티들은 그러한 개인 정보 데이터에 대한 액세스를 보호하고 안전하게 하며 개인 정보 데이터에 대한 액세스를 갖는 다른 사람들이 그들의 프라이버시 정책들 및 절차들을 고수한다는 것을 보장하기 위한 임의의 필요한 단계들을 취할 것이다. 게다가, 그러한 엔티티들은 널리 인정된 프라이버시 정책들 및 관례들에 대한 그들의 고수를 증명하기 위해 제3자들에 의해 그들 자신들이 평가를 받을 수 있다.
전술한 것에도 불구하고, 본 발명은 또한 사용자가 개인 정보 데이터의 이용, 또는 그에 대한 액세스를 선택적으로 차단하는 실시예들을 고려한다. 즉, 본 발명은 그러한 개인 정보 데이터에 대한 액세스를 방지하거나 차단하기 위해 하드웨어 및/또는 소프트웨어 요소들이 제공될 수 있다는 것을 고려한다. 예를 들어, 광고 전달 서비스들의 경우에, 본 기술은 사용자들이 서비스를 위한 등록 중에 개인 정보 데이터의 수집 시의 참여의 "동의함" 또는 "동의하지 않음"을 선택하는 것을 허용하도록 구성될 수 있다. 다른 예에서, 사용자들은 타깃 콘텐츠 전달 서비스들을 위한 위치 정보를 제공하지 않도록 선택할 수 있다. 또 다른 예에서, 사용자들은 정확한 위치 정보를 제공하지 않지만 위치 구역 정보의 전달을 허용하도록 선택할 수 있다.
따라서, 본 발명이 하나 이상의 다양한 개시된 실시예들을 구현하기 위해 개인 정보 데이터의 사용을 광범위하게 커버하지만, 본 발명은 다양한 실시예들이 또한 그러한 개인 정보 데이터에 액세스할 필요 없이 구현될 수 있다는 것을 또한 고려한다. 즉, 본 기술의 다양한 실시예들은 그러한 개인 정보 데이터의 모두 또는 일부분의 결여로 인해 동작 불가능하게 되지는 않는다. 예를 들어, 콘텐츠는, 사용자와 연관된 디바이스에 의해 요청되는 콘텐츠, 콘텐츠 전달 서비스들에 대해 이용가능한 다른 비-개인 정보, 또는 공개적으로 입수가능한 정보와 같은 비-개인 정보 데이터 또는 최소량의 개인 정보에 기초하여 선호도를 추론함으로써 선택되고 사용자들에게 전달될 수 있다.
[부록]
[발명의 설명]
[발명의 명칭]
멀티 태스킹 환경에서의 지능형 디지털 어시스턴트
[기술분야]
관련 출원에 대한 상호 참조
본 출원은 2016년 6월 10일자로 출원되고, 발명의 명칭이 “INTELLIGENT DIGITAL ASSISTANT IN A MULTI-TASKING ENVIRONMENT”인, 미국 가출원 특허 제62/348,728호에 대한 우선권을 주장하며, 이는 모든 목적을 위해 그 전문이 본 명세서에 참조로서 편입된다.
기술분야
본 개시내용은 일반적으로 디지털 어시스턴트에 관한 것으로, 더 구체적으로는, 사용자와 상호작용하여 멀티 태스킹 환경에서 태스크를 수행하는 디지털 어시스턴트에 관한 것이다.
[배경기술]
디지털 어시스턴트의 인기는 점점 증가하고 있다. 데스크톱 또는 태블릿 환경에서, 사용자는 파일 또는 정보를 검색하고, 파일 또는 폴더를 관리하고, 영화 또는 노래를 재생하고, 문서를 편집하고, 시스템 구성을 조정하고, 이메일을 송신하는 등 빈번하게 멀티 태스크를 수행한다. 사용자가 수동으로 다수의 태스크들을 병행하고 빈번하게 태스크들을 스위칭하는 것은 종종 번거롭고 불편하다. 따라서 디지털 어시스턴트가 사용자의 음성 입력에 기초하여 사용자가 멀티 태스킹 환경에서 일부 태스크들을 수행하도록 돕는 능력을 갖는 것이 바람직할 수 있다.
[발명의 내용]
사용자가 멀티 태스킹 환경에서 태스크를 수행하도록 돕는 일부 기존의 기술들은, 예를 들어, 구술(dictation)을 포함할 수 있다. 통상적으로, 사용자는 멀티 태스킹 환경에서 많은 다른 태스크들을 수동으로 수행하도록 요구받을 수 있다. 예를 들어, 사용자는 어제 자신의 데스크톱 컴퓨터에서 프레젠테이션을 작업중이었을 수 있고, 계속해서 프레젠테이션 작업을 하길 바랄 수 있다. 사용자는 통상적으로 수동으로 자신의 데스크톱 컴퓨터에서 프레젠테이션을 위치파악하고, 프레젠테이션을 열고, 프레젠테이션의 편집을 계속해야 한다.
다른 예를 들어, 사용자는 자신의 데스크톱 컴퓨터에서 멀리 있을 때 사용자는 자신의 스마트폰에서 항공편을 예약하고 있을 수 있다. 사용자는 데스크톱 컴퓨터가 이용가능할 때 계속해서 항공편을 예약하기를 바랄 수 있다. 기존의 기술들에서, 사용자는 사용자의 데스크톱 컴퓨터에서 웹 브라우저를 켜고 항공편 예약 프로세스를 시작해야 한다. 다시 말해서, 사용자가 스마트폰에서 했던 이전 항공편 예약 진행이 사용자의 데스크톱 컴퓨터에서 계속되지 않을 수 있다.
다른 예를 들어, 사용자는 자신의 데스크톱 컴퓨터에서 문서를 편집하면서, 스크린의 밝기 레벨을 변경하거나, 블루투스 연결을 켜는 등의 시스템 구성을 변경하기를 바랄 수 있다. 기존의 기술들에서, 사용자는 문서의 편집을 중단하고, 밝기 구성 애플리케이션을 찾아서 기동시키고, 수동으로 설정을 변경할 필요가 있을 수 있다. 멀티 태스킹 환경에서, 일부 기존 기술들은 사용자의 스피치 입력에 기초하여 위 예들에 기재된 바와 같이 태스크들을 수행하지 못할 수 있다. 따라서 멀티 태스킹 환경에서 음성 지원 디지털 어시스턴트를 제공하는 것은 바람직하고 유리할 수 있다.
디지털 어시스턴트를 동작시키기 위한 시스템들 및 프로세스들 제공된다. 하나 이상의 예에 따라, 방법은, 하나 이상의 프로세서 및 메모리를 구비한 사용자 디바이스에서, 사용자로부터 제1 스피치 입력을 수신하는 단계를 포함한다. 방법은 사용자 디바이스와 연관된 컨텍스트 정보를 식별하는 단계 및 제1 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 단계를 추가로 포함한다. 방법은 사용자 의도가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하는 단계를 추가로 포함한다. 검색 프로세스는 사용자 디바이스에 내부적으로 또는 외부적으로 저장된 데이터를 검색하도록 구성되고, 객체 관리 프로세스는 사용자 디바이스와 연관된 객체들을 관리하도록 구성된다. 방법은, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 검색 프로세스를 이용하여 태스크를 수행하는 단계를 추가로 포함한다. 방법은, 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 객체 관리 프로세스를 이용하여 태스크를 수행하는 단계를 추가로 포함한다.
하나 이상의 예에 따라, 방법은, 하나 이상의 프로세서 및 메모리를 구비한 사용자 디바이스에서, 태스크를 수행하기 위하여 사용자로부터 스피치 입력을 수신하는 단계를 포함한다. 방법은 사용자 디바이스와 연관된 컨텍스트 정보를 식별하는 단계 및 스피치 입력 및 사용자 디바이스와 연관된 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 단계를 추가로 포함한다. 방법은, 사용자 의도에 따라, 태스크가 사용자 디바이스에서 수행될 것인지 또는 사용자 디바이스에 통신가능하게 연결된 제1 전자 디바이스에서 수행될 것인지 결정하는 단계를 추가로 포함한다. 방법은, 태스크가 사용자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 태스크를 수행하기 위한 콘텐츠를 수신하는 단계를 추가로 포함한다. 방법은, 태스크가 제1 전자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 제1 전자 디바이스와 다른 곳에 위치한다는 결정에 따라, 태스크를 수행하기 위한 콘텐츠를 제1 전자 디바이스에 제공하는 단계를 추가로 포함한다.
하나 이상의 예에 따라, 방법은, 하나 이상의 프로세서 및 메모리를 구비한 사용자 디바이스에서, 사용자 디바이스의 하나 이상의 시스템 구성을 관리하기 위하여 사용자로부터 스피치 입력을 수신하는 단계를 포함한다. 사용자 디바이스는 복수의 사용자 인터페이스를 동시에 제공하도록 구성된다. 방법은 사용자 디바이스와 연관된 컨텍스트 정보를 식별하는 단계 및 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 단계를 추가로 포함한다. 방법은 사용자 의도가 정보제공 요청을 나타내는지 아니면 태스크를 수행하기 위한 요청을 나타내는지 결정하는 단계를 추가로 포함한다. 방법은, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 정보제공 요청에 음성 응답을 제공하는 단계를 추가로 포함한다. 방법은, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 태스크를 수행할 사용자 디바이스와 연관된 프로세스를 즉시실행(instantiating)하는 단계를 추가로 포함한다.
이러한 기능들을 수행하기 위한 실행가능한 명령어들은, 옵션적으로, 하나 이상의 프로세서에 의한 실행을 위해 구성된 비일시적 컴퓨터 판독가능 저장 매체 또는 다른 컴퓨터 프로그램 제품에 포함된다. 이러한 기능들을 수행하기 위한 실행가능한 명령어들은, 선택적으로, 하나 이상의 프로세서에 의한 실행을 위해 구성된 일시적 컴퓨터 판독가능 저장 매체 또는 다른 컴퓨터 프로그램 제품에 포함된다.
[도면의 간단한 설명]
다양하게 기술된 실시예들의 보다 양호한 이해를 위해, 유사한 도면 부호들이 도면 전체에 걸쳐서 대응 부분들을 나타내는 하기의 도면들과 관련하여 하기의 발명을 실시하기 위한 구체적인 내용이 참조되어야 한다.
도 1은 다양한 예에 따른, 디지털 어시스턴트를 구현하기 위한 시스템 및 환경을 도시하는 블록도이다.
도 2a는 일부 실시예들에 따른, 디지털 어시스턴트의 클라이언트 측 부분을 구현하는 휴대용 다기능 디바이스를 도시하는 블록도이다.
도 2b는 다양한 예들에 따른, 이벤트 처리를 위한 예시적인 컴포넌트들을 도시하는 블록도이다.
도 3은 다양한 예들에 따른, 디지털 어시스턴트의 클라이언트 측 부분을 구현하는 휴대용 다기능 디바이스를 도시한다.
도 4는 다양한 예들에 따른, 디스플레이 및 터치 감응형 표면을 갖는 예시적인 다기능 디바이스의 블록도이다.
도 5a는 다양한 예들에 따른, 휴대용 다기능 디바이스 상의 애플리케이션들의 메뉴에 대한 예시적인 사용자 인터페이스를 도시한다.
도 5b는 다양한 예들에 따른, 디스플레이로부터 분리된 터치 감응형 표면을 갖는 다기능 디바이스에 대한 예시적인 사용자 인터페이스를 도시한다.
도 6a는 다양한 예들에 따른 개인 전자 디바이스를 도시한다.
도 6b는 다양한 예들에 따른 개인 전자 디바이스를 도시하는 블록도이다.
도 7a는 다양한 예들에 따른 디지털 어시스턴트 시스템 또는 그의 서버 부분을 도시하는 블록도이다.
도 7b는 다양한 예들에 따른, 도 7a에 도시된 디지털 어시스턴트의 기능들을 도시한다.
도 7c는 다양한 예들에 따른 온톨로지(ontology)의 일부분을 도시한다.
도 8a 내지 도 8f는 다양한 예들에 따른 디지털 어시스턴트에 의한 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 기능들을 도시한다.
도 9a 내지 도 9h는 다양한 예들에 따른 디지털 어시스턴트에 의한 검색 프로세스를 이용하여 태스크를 수행하는 기능들을 도시한다.
도 10a 및 도 10b는 다양한 예들에 따른 디지털 어시스턴트에 의한 객체 관리 프로세스를 이용하여 태스크를 수행하는 기능들을 도시한다.
도 11a 내지 도 11d는 다양한 예들에 따른 디지털 어시스턴트에 의한 검색 프로세스를 이용하여 태스크를 수행하는 기능들을 도시한다.
도 12a 내지 도 12d는 다양한 예들에 따른 디지털 어시스턴트에 의한 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 기능들을 도시한다.
도 13a 내지 도 13c는 다양한 예들에 따른 디지털 어시스턴트에 의한 객체 관리 프로세스를 이용하여 태스크를 수행하는 기능들을 도시한다.
도 14a 내지 도 14d는 다양한 예들에 따른 디지털 어시스턴트에 의해 다른 곳에 위치한 콘텐츠를 이용하여 사용자 디바이스에서 태스크를 수행하는 기능들을 도시한다.
도 15a 내지 도 15d는 다양한 예들에 따른 디지털 어시스턴트에 의해 다른 곳에 위치한 콘텐츠를 이용하여 제1 전자 디바이스에서 태스크를 수행하는 기능들을 도시한다.
도 16a 내지 도 16c는 다양한 예들에 따른 디지털 어시스턴트에 의해 다른 곳에 위치한 콘텐츠를 이용하여 제1 전자 디바이스에서 태스크를 수행하는 기능들을 도시한다.
도 17a 내지 도 17e는 다양한 예들에 따른 디지털 어시스턴트에 의해 다른 곳에 위치한 콘텐츠를 이용하여 사용자 디바이스에서 태스크를 수행하는 기능들을 도시한다.
도 18a 내지 도 18f는 다양한 예들에 따른 디지털 어시스턴트에 의한 사용자의 정보제공 요청에 응답하여 시스템 구성 정보를 제공하는 기능들을 도시한다.
도 19a 내지 도 19d는 다양한 예들에 따른 디지털 어시스턴트에 의한 사용자 요청에 응답하여 태스크를 수행하는 기능들을 도시한다.
도 20a 내지 도 20g는 다양한 예들에 따른 디지털 어시스턴트를 동작시키기 위한 예시적인 프로세스의 흐름도를 도시한다.
도 21a 내지 도 21e는 다양한 예들에 따른 디지털 어시스턴트를 동작시키기 위한 예시적인 프로세스의 흐름도를 도시한다.
도 22a 내지 도 22d는 다양한 예들에 따른 디지털 어시스턴트를 동작시키기 위한 예시적인 프로세스의 흐름도를 도시한다.
도 23은 다양한 예들에 따른 전자 디바이스의 블록도를 도시한다.
[발명을 실시하기 위한 구체적인 내용]
본 발명 및 실시예들의 다음 설명에서, 첨부된 도면들이 참조되며, 실시될 수 있는 특정 실시예들이 도면들 내에서 예시로서 도시된다. 본 발명의 범주를 벗어나지 않으면서 다른 실시예들 및 예들이 실시될 수 있고, 변경들이 이루어질 수 있다는 것이 이해되어야 한다.
멀티 태스킹 환경에서 디지털 어시스턴트를 제공하기 위한 기술이 바람직하다. 본 명세서에 기재된 바와 같이, 멀티 태스킹 환경에서 디지털 어시스턴트를 제공하기 위한 기술은 객체들 또는 정보를 검색하는 번거로움을 줄여주고, 효율적인 객체 관리를 가능하게 하고, 사용자 디바이스와 다른 전자 디바이스에서 수행되는 태스크들 간의 연속성을 유지하고, 시스템 구성을 조정하는 사용자의 수고를 덜어주는 것과 같은 다양한 목적들에 바람직하다. 이러한 기술들은 유리하게 사용자가 디지털 어시스턴트를 동작시켜 멀티 태스킹 환경에서 스피치 입력들을 이용하여 다양한 태스크들을 수행하도록 한다. 또한, 이러한 기술들은 멀티 태스킹 환경에서 다양한 태스크들을 수행하는 것과 연관된 번거로움 또는 불편함을 해소한다. 또한, 사용자가 말로써 태스크들을 수행하게 함으로써, 컨텍스트 전환을 요구할 수 있는 태스킹을 수행하는 동안 그들은 두 손을 키보드 또는 마우스 위에 계속 올려 놓을 수 있어서 - 실질적으로, 사용자의 "제3의 손"처럼 디지털 어시스턴트가 태스크들을 수행하게 한다. 이해되는 바와 같이, 사용자가 말로써 태스크들을 수행하게 함으로써, 사용자는 더 효율적으로 여러 애플리케이션들과 다수의 상호작용을 필요로 할 수 있는 태스크들을 완수할 수 있다. 예를 들어, 이미지를 검색하여 개인에게 이메일로 송신하는 것은 검색 인터페이스를 열고, 검색어를 입력하고, 하나 이상의 결과물을 선택하고, 작성할 이메일을 열고, 결과물 파일들을 열어 놓은 이메일에 복사 또는 이동하고, 이메일에 주소를 지정하고 송신하는 것을 요구할 수 있다. 이와 같은 태스크는 더 효율적으로 "X 데이트에서 사진들을 찾아서 우리 집사람한테 보내줘."와 같은 명령을 담은 음성에 의해 완수될 수 있다. 파일들을 이동하고, 인터넷에서 정보를 검색하고, 메시지를 작성하는 유사한 요청들이 모두 음성을 이용하여 더 효과적으로 이루어질 수 있고, 동시에 사용자가 자신의 손을 이용하여 다른 태스크들을 수행할 수 있게 한다.
이하의 설명이 다양한 요소들을 기술하기 위해 "제1", "제2" 등과 같은 용어들을 사용하지만, 이 요소들이 그 용어들에 의해 제한되어서는 안된다. 이들 용어들은 하나의 요소를 다른 요소와 구별하는 데에만 사용된다. 예를 들어, 다양하게 기술된 예들의 범주로부터 벗어남이 없이, 제1 저장장치는 제2 저장장치로 지칭될 수 있고, 유사하게, 제2 저장장치는 제1 저장장치로 지칭될 수 있다. 제1 저장장치 및 제2 저장장치는 둘 모두 저장장치일 수 있고, 일부 경우들에서, 별개의 상이한 저장장치들일 수 있다.
본 명세서에서 다양하게 기술된 예들의 설명에 사용되는 용어는 특정 예들을 기술하는 목적만을 위한 것이고, 제한하려는 의도는 아니다. 다양하게 기술된 예들의 설명 및 첨부된 청구범위에 사용되는 바와 같이, 단수의 형태("a", "an", 및 "the")는 문맥상 명백히 달리 나타내지 않는다면 복수의 형태도 마찬가지로 포함하려는 것으로 의도된다. 또한, 본 명세서에서 사용되는 바와 같은 "및/또는"이라는 용어는 열거되는 연관된 항목들 중 하나 이상의 항목의 임의의 그리고 모든 가능한 조합들을 나타내고 그들을 포괄하는 것임이 이해될 것이다. 용어들 "포함한다(include)", "포함하는(including)", "포함한다(comprise)", 및/또는 "포함하는(comprising)"은, 본 명세서에서 사용될 때, 언급된 특징들, 정수들, 단계들, 동작들, 요소들, 및/또는 컴포넌트들의 존재를 특정하지만, 하나 이상의 다른 특징들, 정수들, 단계들, 동작들, 요소들, 컴포넌트들, 및/또는 이들의 그룹들의 존재 또는 추가를 배제하지 않음이 추가로 이해될 것이다.
용어 "~할 경우(if)"는 문맥에 따라 "~할 때(when)" 또는 "~할 시(upon)" 또는 "결정하는 것에 응답하여(in response to determining)" 또는 "검출하는 것에 응답하여(in response to detecting)"를 의미하는 것으로 해석될 수 있다. 유사하게, 구절 "~라고 결정된 경우" 또는 "[언급된 조건 또는 이벤트가] 검출된 경우"는 문맥에 따라 "~라고 결정할 시" 또는 "~라고 결정하는 것에 응답하여" 또는 "[언급된 조건 또는 이벤트]를 검출할 시" 또는 "[언급된 조건 또는 이벤트]를 검출하는 것에 응답하여"를 의미하는 것으로 해석될 수 있다.
1. 시스템 및 환경
도 1은 다양한 예들에 따른 시스템(100)의 블록도를 도시한다. 일부 예들에서, 시스템(100)은 디지털 어시스턴트를 구현할 수 있다. 용어들 "디지털 어시스턴트", "가상 어시스턴트", "지능형 자동화 어시스턴트", 또는 "자동 디지털 어시스턴트"는 구어적 및/또는 문어적 형태로 입력되는 자연 언어를 해석하여 사용자 의도를 추론하고, 추론된 사용자 의도에 기초하여 동작들을 수행하는 임의의 정보 처리 시스템을 지칭할 수 있다. 예를 들어, 추론된 사용자 의도에 따라 동작하기 위해, 시스템은 다음 중 하나 이상을 수행할 수 있다: 추론된 사용자 의도를 달성하도록 설계된 단계들 및 파라미터들을 이용하여 태스크 흐름을 식별하는 것; 추론된 사용자 의도로부터의 특정 요건들을 태스크 흐름 내에 입력하는 것; 프로그램들, 방법들, 서비스들, API들 등을 호출(invoke)함으로써 태스크 흐름을 실행하는 것; 및 청각적(예컨대, 스피치) 및/또는 시각적 형태로 사용자에 대한 출력 응답들을 생성하는 것.
구체적으로, 디지털 어시스턴트는 적어도 부분적으로 자연 언어 커맨드, 요청, 진술, 서술, 및/또는 질문의 형태로 사용자 요청을 수용할 수 있다. 전형적으로, 사용자 요청은 정보제공형 답변 또는 디지털 어시스턴트에 의한 태스크의 수행 중 어느 하나를 구할 수 있다. 사용자 요청에 대한 만족스러운 응답은 요청된 정보제공형 답변의 제공, 요청된 태스크의 수행, 또는 이 둘의 조합일 수 있다. 예를 들어, 사용자는 디지털 어시스턴트에게, "내가 지금 어디에 있지?"와 같은 질문을 할 수 있다. 사용자의 현재 위치에 기초하여, 디지털 어시스턴트는 "당신은 웨스트 게이트 근처 센트럴 파크에 있습니다"라고 답변할 수 있다. 사용자는 또한 태스크의 수행, 예를 들어 "다음주 내 여자친구의 생일 파티에 내 친구들을 초대해 줘"를 요청할 수 있다. 이에 응답하여, 디지털 어시스턴트는 "네, 바로 하겠습니다"라고 말함으로써 요청을 승인확인(acknowledge)할 수 있고, 이어서 사용자의 전자 주소록에 열거된 사용자의 친구들 각각에게 사용자를 대신하여 적절한 행사 예정 초대장(calendar invite)을 전송할 수 있다. 요청된 태스크의 수행 동안, 디지털 어시스턴트는 때때로 연장된 기간에 걸쳐 다수의 정보 교환을 수반하는 연속 대화로 사용자와 상호작용할 수 있다. 디지털 어시스턴트와 상호작용하여 정보 또는 다양한 태스크의 수행을 요청하는 수많은 다른 방식이 있다. 구두 응답들을 제공하는 것 및 프로그래밍된 동작들을 취하는 것 외에도, 디지털 어시스턴트는 또한 다른 시각적 또는 청각적 형태들의 응답들, 예컨대, 텍스트, 알림들, 음악, 비디오들, 애니메이션들 등을 제공할 수 있다.
도 1에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 클라이언트-서버 모델에 따라 구현될 수 있다. 디지털 어시스턴트는 사용자 디바이스(104) 상에서 실행되는 클라이언트 측 부분(102)(이하, "DA 클라이언트(102)"), 및 서버 시스템(108) 상에서 실행되는 서버 측 부분(106)(이하, "DA 서버(106)")을 포함할 수 있다. DA 클라이언트(102)는 하나 이상의 네트워크(110)를 통해 DA 서버(106)와 통신할 수 있다. DA 클라이언트(102)는 사용자 대면 입력 및 출력 처리, 및 DA 서버(106)와의 통신과 같은 클라이언트 측 기능들을 제공할 수 있다. DA 서버(106)는 개개의 사용자 디바이스(104) 상에 각각 상주하는 임의의 수의 DA 클라이언트들(102)에 서버 측 기능들을 제공할 수 있다.
일부 예들에서, DA 서버(106)는 클라이언트 대면 I/O 인터페이스(112), 하나 이상의 프로세싱 모듈들(114), 데이터 및 모델들(116), 및 외부 서비스들에 대한 I/O 인터페이스(118)를 포함할 수 있다. 클라이언트 대면 I/O 인터페이스(112)는 DA 서버(106)에 대한 클라이언트 대면 입력 및 출력 처리를 용이하게 할 수 있다. 하나 이상의 프로세싱 모듈(114)은 데이터 및 모델들(116)을 이용하여 스피치 입력을 처리하고 자연 언어 입력에 기초하여 사용자의 의도를 결정할 수 있다. 또한, 하나 이상의 프로세싱 모듈(114)은 추론된 사용자 의도에 기초하여 태스크 실행을 수행한다. 일부 예들에서, DA 서버(106)는 태스크 완수 또는 정보 획득을 위해 네트워크(들)(110)를 통해 외부 서비스들(120)과 통신할 수 있다. 외부 서비스들에 대한 I/O 인터페이스(118)는 그러한 통신들을 용이하게 할 수 있다.
사용자 디바이스(104)는 임의의 적합한 전자 디바이스일 수 있다. 예를 들어, 사용자 디바이스들은 휴대용 다기능 디바이스(예컨대, 도 2a를 참조하여 후술되는 디바이스(200)), 다기능 디바이스(예컨대, 도 4를 참조하여 후술되는 디바이스(400)), 또는 개인 전자 디바이스(예컨대, 도 6a 및 도 6b를 참조하여 후술되는 디바이스(600))일 수 있다. 휴대용 다기능 디바이스는, 예를 들어, PDA 및/또는 음악 재생기 기능들과 같은 다른 기능들을 또한 포함하는 모바일 전화기일 수 있다. 휴대용 다기능 디바이스들의 특정 예들은 미국 캘리포니아주 쿠퍼티노 소재의 애플 인크.(Apple Inc.)로부터의 아이폰(iPhone)®, 아이팟 터치(iPod Touch)®, 및 아이패드(iPad)® 디바이스들을 포함할 수 있다. 휴대용 다기능 디바이스들의 다른 예들은 랩톱 또는 태블릿 컴퓨터들을 제한없이 포함할 수 있다. 또한, 일부 예들에서, 사용자 디바이스(104)는 비휴대용 다기능 디바이스일 수 있다. 특히, 사용자 디바이스(104)는 데스크톱 컴퓨터, 게임 콘솔, 텔레비전, 또는 텔레비전 셋톱 박스일 수 있다. 일부 예들에서, 사용자 디바이스(104)는 멀티 태스킹 환경에서 동작할 수 있다. 멀티 태스킹 환경을 통해 사용자는 다수의 태스크들을 병행하여 수행하도록 디바이스(104)롤 동작할 수 있다. 예를 들어, 멀티 태스킹 환경은 데스크톱 또는 랩톱 환경일 수 있고, 여기서 디바이스(104)는 물리적 사용자-인터페이스 디바이스로부터 수신된 사용자 입력에 응답하여 하나의 태스크를 수행할 수 있고, 동시에, 사용자의 음성 입력에 응답하여 다른 태스크를 수행할 수 있다. 일부 예들에서, 사용자 디바이스(104)는 터치 감응형 표면(예컨대, 터치 스크린 디스플레이들 및/또는 터치패드들)을 포함할 수 있다. 또한, 사용자 디바이스(104)는 옵션적으로 물리적 키보드, 마우스 및/또는 조이스틱과 같은 하나 이상의 다른 물리적 사용자 인터페이스 디바이스들을 포함할 수 있다. 다기능 디바이스들과 같은 전자 디바이스들의 다양한 예들이 더욱 상세하게 후술된다.
통신 네트워크(들)(110)의 예들은 근거리 통신망(LAN) 및 광역 통신망(WAN), 예컨대 인터넷을 포함할 수 있다. 통신 네트워크(들)(110)는, 예를 들어 이더넷(Ethernet), 범용 직렬 버스(Universal Serial Bus; USB), 파이어와이어(FIREWIRE), GSM(Global System for Mobile Communications), EDGE(Enhanced Data GSM Environment), 코드 분할 다중 접속(code division multiple access; CDMA), 시간 분할 다중 접속(time division multiple access; TDMA), 블루투스(Bluetooth), Wi-Fi, VoIP(voice over Internet Protocol), Wi-MAX, 또는 임의의 다른 적합한 통신 프로토콜과 같은 다양한 유선 또는 무선 프로토콜들을 포함하는 임의의 알려진 네트워크 프로토콜을 이용하여 구현될 수 있다.
서버 시스템(108)은 하나 이상의 독립형 데이터 처리 장치 또는 분산형 컴퓨터 네트워크 상에 구현될 수 있다. 일부 예들에서, 서버 시스템(108)은 서버 시스템(108)의 기본 컴퓨팅 리소스들 및/또는 인프라구조 리소스들을 제공하기 위해 제3자 서비스 제공자들(예컨대, 제3자 클라우드 서비스 제공자들)의 다양한 가상 디바이스들 및/또는 서비스들을 또한 채용할 수 있다.
일부 예들에서, 사용자 디바이스(104)는 제2 사용자 디바이스(122)를 통해 DA 서버(106)와 통신할 수 있다. 제2 사용자 디바이스(122)는 사용자 디바이스(104)와 유사 또는 동일할 수 있다. 예를 들어, 제2 사용자 디바이스(122)는 도 2a, 도 4, 도 6a 및 도 6b를 참조하여 후술되는 디바이스들(200, 400, 또는 600)과 유사할 수 있다. 사용자 디바이스(104)는 직접 통신 접속, 예컨대, 블루투스, NFC, BTLE 등을 통해, 또는 유선 또는 무선 네트워크, 예컨대 로컬 Wi-Fi 네트워크를 통해 제2 사용자 디바이스(122)에 통신가능하게 결합되도록 구성될 수 있다. 일부 예들에서, 제2 사용자 디바이스(122)는 사용자 디바이스(104)와 DA 서버(106) 사이의 프록시(proxy)로서 동작하도록 구성될 수 있다. 예를 들어, 사용자 디바이스(104)의 DA 클라이언트(102)는 제2 사용자 디바이스(122)를 통해 DA 서버(106)로 정보(예컨대, 사용자 디바이스(104)에서 수신된 사용자 요청)를 송신하도록 구성될 수 있다. DA 서버(106)는 정보를 프로세싱하고 제2 사용자 디바이스(122)를 통해 사용자 디바이스(104)로 관련 데이터(예컨대, 사용자 요청에 응답하는 데이터 콘텐츠)를 반환할 수 있다.
일부 예들에서, 사용자 디바이스(104)는 사용자 디바이스(104)로부터 송신되는 정보의 양을 감소시키기 위해 데이터에 대한 단축 요청(abbreviated request)들을 제2 사용자 디바이스(122)로 통신하도록 구성될 수 있다. 제2 사용자 디바이스(122)는 DA 서버(106)로 송신할 완전한 요청을 생성하기 위해 단축 요청에 추가하기 위한 보완 정보를 결정하도록 구성될 수 있다. 이러한 시스템 아키텍처는, 유리하게도, 제한된 통신 능력들 및/또는 제한된 배터리 전력을 갖는 사용자 디바이스(104)(예컨대, 시계 또는 유사한 소형 전자 디바이스)가, 보다 큰 통신 능력들 및/또는 배터리 전력을 갖는 제2 사용자 디바이스(122)(예컨대, 모바일 전화기, 랩톱 컴퓨터, 태블릿 컴퓨터 등)를 DA 서버(106)에 대한 프록시로서 사용함으로써, DA 서버(106)에 의해 제공되는 서비스들에 액세스하도록 할 수 있다. 2개의 사용자 디바이스들(104, 122)만이 도 1에 도시되어 있지만, 시스템(100)은 DA 서버 시스템(106)과 통신하기 위해 이러한 프록시 구성으로 구성되는 임의의 개수 및 유형의 사용자 디바이스들을 포함할 수 있다는 것이 이해되어야 한다.
도 1에 도시된 디지털 어시스턴트가 클라이언트 측 부분(예컨대, DA 클라이언트(102)) 및 서버 측 부분(예컨대, DA 서버(106)) 둘 모두를 포함할 수 있지만, 일부 예들에서, 디지털 어시스턴트의 기능들은 사용자 디바이스 상에 설치된 독립형 애플리케이션으로서 구현될 수 있다. 게다가, 디지털 어시스턴트의 클라이언트 측 부분과 서버 측 부분 사이의 기능들의 분담은 상이한 구현예들에서 다를 수 있다. 예를 들어, 일부 예들에서, DA 클라이언트는, 오로지 사용자 대면 입력 및 출력 프로세싱 기능들만을 제공하고 디지털 어시스턴트의 다른 모든 기능들을 백엔드 서버에 위임하는 씬-클라이언트(thin-client)일 수 있다.
2.
전자 디바이스
이제, 디지털 어시스턴트의 클라이언트 측 부분을 구현하기 위한 전자 디바이스들의 실시예들에 주목한다. 도 2a는 일부 실시예들에 따른, 터치 감응형 디스플레이 시스템(212)을 갖는 휴대용 다기능 디바이스(200)를 도시하는 블록도이다. 터치 감응형 디스플레이(212)는 때때로 편의상 "터치 스크린"이라고 지칭되고, 때때로 "터치 감응형 디스플레이 시스템"으로 알려지거나 지칭된다. 디바이스(200)는 메모리(202)(옵션적으로, 하나 이상의 컴퓨터 판독가능 저장 매체를 포함함), 메모리 제어기(222), 하나 이상의 프로세싱 유닛(CPU)(220), 주변기기 인터페이스(218), RF 회로부(208), 오디오 회로부(210), 스피커(211), 마이크로폰(213), 입/출력(I/O) 서브시스템(206), 다른 입력 제어 디바이스들(216), 및 외부 포트(224)를 포함한다. 디바이스(200)는 선택적으로 하나 이상의 광 센서(optical sensor)(264)를 포함한다. 디바이스(200)는, 선택적으로, 디바이스(200)(예컨대, 디바이스(200)의 터치 감응형 디스플레이 시스템(212)과 같은 터치 감응형 표면) 상의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서(265)를 포함한다. 디바이스(200)는, 선택적으로, 디바이스(200) 상의 촉각적 출력들을 생성하기(예컨대, 디바이스(200)의 터치 감응형 디스플레이 시스템(212) 또는 디바이스(400)의 터치패드(455)와 같은 터치 감응형 표면 상의 촉각적 출력들을 생성하기) 위한 하나 이상의 촉각적 출력 생성기(267)를 포함한다. 이들 컴포넌트는 선택적으로 하나 이상의 통신 버스 또는 신호 라인(203)을 통해 통신한다.
명세서 및 청구범위에서 사용되는 바와 같이, 터치 감응형 표면 상의 접촉의 "세기"라는 용어는 터치 감응형 표면 상의 접촉(예컨대, 손가락 접촉)의 힘 또는 압력(단위 면적 당 힘), 또는 터치 감응형 표면 상의 접촉의 힘 또는 압력에 대한 대체물(대용물(proxy))을 지칭한다. 접촉의 세기는, 적어도 4개의 구별되는 값들을 포함하고 더 전형적으로는 수백 개(예컨대, 적어도 256개)의 구별되는 값들을 포함하는 일정 범위의 값들을 갖는다. 접촉의 세기는, 선택적으로, 다양한 접근법들, 및 다양한 센서들 또는 센서들의 조합들을 이용하여 결정(또는 측정)된다. 예를 들어, 터치 감응형 표면 아래의 또는 그에 인접한 하나 이상의 힘 센서는 터치 감응형 표면 상의 다양한 지점들에서 힘을 측정하는 데 선택적으로 사용된다. 일부 구현예들에서는, 다수의 힘 센서들로부터의 힘 측정치들이 접촉의 추정되는 힘을 결정하기 위해 조합(예컨대, 가중 평균)된다. 유사하게, 스타일러스의 압력 감응형 팁(tip)이 터치 감응형 표면 상의 스타일러스의 압력을 결정하는 데 선택적으로 사용된다. 대안적으로, 터치 감응형 표면 상에서 검출된 접촉 면적의 크기 및/또는 그에 대한 변화들, 접촉 부근의 터치 감응형 표면의 용량 및/또는 그에 대한 변화들, 및/또는 접촉 부근의 터치 감응형 표면의 저항 및/또는 그에 대한 변화들은 터치 감응형 표면 상의 접촉의 힘 또는 압력에 대한 대체물로서 선택적으로 이용된다. 일부 구현예들에서, 접촉 힘 또는 압력에 대한 대체 측정치들은 세기 임계치가 초과되었는지 여부를 결정하는 데 직접 이용된다(예를 들어, 세기 임계치는 대체 측정치들에 대응하는 단위로 기술된다). 일부 구현예들에서, 접촉 힘 또는 압력에 대한 대체 측정치들은 추정된 힘 또는 압력으로 변환되고, 추정된 힘 또는 압력은 세기 임계치가 초과되었는지 여부를 결정하기 위해 이용된다(예를 들어, 세기 임계치는 압력의 단위로 측정된 압력 임계치이다). 사용자 입력의 속성으로서 접촉의 세기를 사용하는 것은, 그렇지 않았으면 어포던스들을 (예를 들어, 터치 감응형 디스플레이 상에) 디스플레이하고/하거나 (예를 들어, 터치 감응형 디스플레이, 터치 감응형 표면, 또는 노브(knob) 또는 버튼과 같은 물리적/기계적 제어부를 통해) 사용자 입력을 수신하기 위하여 한정된 실면적을 갖는 감소된 크기의 디바이스 상에서 사용자에 의해 액세스 가능하지 않을 수 있는 부가적인 디바이스 기능에의 사용자 액세스를 가능하게 한다.
명세서 및 청구범위에 사용되는 바와 같이, "촉각적 출력"이라는 용어는 디바이스의 이전 위치에 대한 디바이스의 물리적 변위, 디바이스의 다른 컴포넌트(예컨대, 하우징)에 대한 디바이스의 컴포넌트(예컨대, 터치 감응형 표면)의 물리적 변위, 또는 사용자의 촉각을 이용하여 사용자에 의해 검출될 디바이스의 질량 중심에 대한 컴포넌트의 변위를 지칭한다. 예를 들어, 디바이스 또는 디바이스의 컴포넌트가 터치에 감응하는 사용자의 표면(예컨대, 손가락, 손바닥, 또는 사용자의 손의 기타 부분)과 접촉하는 상황에서, 물리적 변위에 의해 생성된 촉각적 출력은 사용자에 의해 디바이스 또는 디바이스의 컴포넌트의 물리적 특성들에서의 인지된 변화에 대응하는 촉감(tactile sensation)으로서 해석될 것이다. 예를 들어, 터치 감응형 표면(예를 들어, 터치 감응형 디스플레이 또는 트랙패드)의 이동은 선택적으로 물리적 액추에이터 버튼의 "다운 클릭(down click)" 또는 "업 클릭(up click)"으로서 사용자에 의해 해석된다. 일부 경우에, 사용자는 사용자의 이동에 의해 물리적으로 눌리는(예를 들어, 변위되는) 터치 감응형 표면과 연관된 물리적 액추에이터 버튼의 이동이 없는 경우에도, "다운 클릭" 또는 "업 클릭"과 같은 촉감을 느낄 것이다. 다른 예로서, 터치 감응형 표면의 이동은, 터치 감응형 표면의 평활도(smoothness)의 변화가 없는 경우에도, 선택적으로, 사용자에 의해 터치 감응형 표면의 "거칠기(roughness)"로서 해석 또는 감지된다. 사용자에 의한 터치의 이러한 해석들이 사용자의 개별화된 감각 인지(sensory perception)에 영향을 받을 것이지만, 대다수의 사용자들에게 보편적인 많은 터치 감각 인지가 있다. 따라서, 촉각적 출력이 사용자의 특정 감각 인지(예컨대, "업 클릭", "다운 클릭", "거칠기")에 대응하는 것으로서 설명될 때, 달리 언급되지 않는다면, 생성된 촉각적 출력은 전형적인(또는 평균적인) 사용자에 대한 설명된 감각 인지를 생성할 디바이스 또는 그의 컴포넌트의 물리적 변위에 대응한다.
디바이스(200)는 휴대용 다기능 디바이스의 일례일 뿐이고, 디바이스(200)는, 선택적으로, 도시된 것보다 더 많거나 더 적은 컴포넌트들을 갖거나, 선택적으로, 둘 이상의 컴포넌트들을 조합하거나, 또는 선택적으로 컴포넌트들의 상이한 구성 또는 배열을 갖는다는 것이 이해되어야 한다. 도 2a에 도시된 다양한 컴포넌트들은 하나 이상의 신호 프로세싱 및/또는 ASIC(application-specific integrated circuit)들을 비롯한, 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어 둘 모두의 조합으로 구현된다.
메모리(202)는 하나 이상의 컴퓨터 판독가능 저장 매체를 포함할 수 있다. 컴퓨터 판독가능 저장 매체들은 유형적(tangible)이고 비일시적일 수 있다. 메모리(202)는 고속 랜덤 액세스 메모리를 포함할 수 있고, 또한 하나 이상의 자기 디스크 저장 디바이스들, 플래시 메모리 디바이스들, 또는 다른 비휘발성 솔리드 스테이트 메모리 디바이스들과 같은 비휘발성 메모리를 포함할 수 있다. 메모리 제어기(222)는 디바이스(200)의 다른 컴포넌트들에 의한 메모리(202)에의 액세스를 제어할 수 있다.
일부 예들에서, 메모리(202)의 비일시적인 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치(fetch)하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 후술되는 프로세스(1200)의 태양들을 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 후술되는 프로세스(1200)의 태양들을 수행하기 위한) 명령어들은 서버 시스템(108)의 비일시적인 컴퓨터 판독가능 저장 매체(도시되지 않음) 상에 저장될 수 있거나 또는 메모리(202)의 비일시적인 컴퓨터 판독가능 저장 매체와 서버 시스템(108)의 비일시적인 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적인 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
주변기기 인터페이스(218)는 디바이스의 입력 및 출력 주변기기들을 CPU(220) 및 메모리(202)에 결합하는 데 사용될 수 있다. 하나 이상의 프로세서(220)는 디바이스(200)에 대한 다양한 기능들을 수행하기 위해 그리고 데이터를 프로세싱하기 위해 메모리(202)에 저장된 다양한 소프트웨어 프로그램들 및/또는 명령어들의 세트들을 구동 또는 실행시킨다. 일부 실시예들에서, 주변기기 인터페이스(218), CPU(220) 및 메모리 제어기(222)는 칩(204)과 같은 단일 칩 상에서 구현될 수 있다. 일부 다른 실시예들에서, 이들은 별개의 칩들 상에서 구현될 수 있다.
RF(radio frequency) 회로부(208)는 전자기 신호들이라고도 지칭되는 RF 신호들을 수신 및 전송한다. RF 회로부(208)는 전기 신호들을 전자기 신호들로/로부터 변환하고, 전자기 신호들을 통해 통신 네트워크들 및 다른 통신 디바이스들과 통신한다. RF 회로부(208)는, 선택적으로, 안테나 시스템, RF 송수신기, 하나 이상의 증폭기, 튜너, 하나 이상의 발진기, 디지털 신호 프로세서, CODEC 칩셋, SIM(subscriber identity 모듈) 카드, 메모리 등을 포함하지만 이들로 제한되지 않는, 이러한 기능들을 수행하기 위한 잘 알려진 회로부를 포함한다. RF 회로부(208)는, 선택적으로, 네트워크들, 예컨대 월드 와이드 웹(WWW)으로도 지칭되는 인터넷, 인트라넷, 및/또는 무선 네트워크, 예컨대 셀룰러 전화 네트워크, 무선 LAN(local area network) 및/또는 MAN(metropolitan area network), 및 다른 디바이스들과 무선 통신에 의해 통신한다. RF 회로부(208)는, 옵션적으로, 예컨대 단거리 통신 무선기기(short-range communication radio)에 의해, 근거리 통신(near field communication, NFC) 필드들을 검출하기 위한 잘 알려진 회로부를 포함한다. 무선 통신은, 옵션적으로, GSM(Global System for Mobile Communications), EDGE(Enhanced Data GSM Environment), HSDPA(high-speed downlink packet access), HSUPA(high-speed uplink packet access), EV-DO(Evolution, Data-Only), HSPA, HSPA+, DC-HSPDA(Dual-Cell HSPA), LTE(long term evolution), NFC(near field communication), W-CDMA(wideband code division multiple access), CDMA(code division multiple access), TDMA(time division multiple access), 블루투스, BTLE(Bluetooth Low Energy), Wi-Fi(Wireless Fidelity)(예컨대, IEEE 802.11a, IEEE 802.11b, IEEE 802.11g, IEEE 802.11n 및/또는 IEEE 802.11ac), VoIP(voice over Internet Protocol), Wi-MAX, 이메일용 프로토콜(예컨대, IMAP(Internet message access protocol) 및/또는 POP(post office protocol)), 인스턴트 메시징(예컨대, XMPP(extensible messaging and presence protocol), SIMPLE(Session Initiation Protocol for Instant Messaging and Presence Leveraging Extensions), IMPS(Instant Messaging and Presence Service)), 및/또는 SMS(Short message Service), 또는 본 문서의 출원일 당시 아직 개발되지 않은 통신 프로토콜들을 비롯한, 임의의 다른 적합한 통신 프로토콜을 포함하지만 이들로 제한되지는 않는, 복수의 통신 표준들, 프로토콜들 및 기술들 중 임의의 것을 이용한다.
오디오 회로부(210), 스피커(211), 및 마이크로폰(213)은 사용자와 디바이스(200) 사이에서 오디오 인터페이스를 제공한다. 오디오 회로부(210)는 주변기기 인터페이스(218)로부터 오디오 데이터를 수신하고, 그 오디오 데이터를 전기 신호로 변환하고, 그 전기 신호를 스피커(211)로 송신한다. 스피커(211)는 전기 신호를 사람이 들을 수 있는 음파로 변환한다. 오디오 회로부(210)는 또한 마이크로폰(213)에 의해 음파로부터 변환된 전기 신호를 수신한다. 오디오 회로부(210)는 전기 신호를 오디오 데이터로 변환하고, 프로세싱을 위해 오디오 데이터를 주변기기 인터페이스(218)에 송신한다. 오디오 데이터는 주변기기 인터페이스(218)에 의해 메모리(202) 및/또는 RF 회로부(208)로부터 인출(retrieve)되고/되거나 이로 송신될 수 있다. 일부 실시예들에서, 오디오 회로부(210)는 또한 헤드셋 잭(예컨대, 도 3의 312)을 포함한다. 헤드셋 잭은 출력-전용 헤드폰들, 또는 출력(예컨대, 한쪽 또는 양쪽 귀용 헤드폰) 및 입력(예컨대, 마이크로폰) 양쪽 모두를 갖는 헤드셋과 같은 분리가능한 오디오 입/출력 주변기기들과 오디오 회로부(210) 사이의 인터페이스를 제공한다.
I/O 서브시스템(206)은 터치 스크린(212) 및 다른 입력 제어 디바이스들(216)과 같은, 디바이스(200) 상의 입/출력 주변기기들을 주변기기 인터페이스(218)에 결합한다. I/O 서브시스템(206)은 선택적으로 디스플레이 제어기(256), 광 센서 제어기(258), 세기 센서 제어기(259), 햅틱 피드백 제어기(261), 및 다른 입력 또는 제어 디바이스들을 위한 하나 이상의 입력 제어기(260)를 포함한다. 하나 이상의 입력 제어기(260)는 다른 입력 제어 디바이스들(216)로부터/로 전기 신호들을 수신/전송한다. 다른 입력 제어 디바이스들(216)은 옵션적으로 물리적 버튼들(예컨대, 푸시 버튼(push button), 로커 버튼(rocker button) 등), 다이얼, 슬라이더 스위치, 조이스틱, 클릭 휠 등을 포함한다. 일부 대안적인 실시예들에서, 입력 제어기(들)(260)는 옵션적으로 키보드, 적외선 포트, USB 포트, 및 마우스와 같은 포인터 디바이스 중 임의의 것에 결합된다(또는 어떤 것에도 결합되지 않는다). 하나 이상의 버튼(예를 들어, 도 3의 308)은 옵션적으로 스피커(211) 및/또는 마이크로폰(213)의 음량 제어를 위한 업/다운 버튼을 포함한다. 하나 이상의 버튼은 옵션적으로 푸시 버튼(예를 들어, 도 3의 306)을 포함한다.
푸시 버튼의 빠른 누르기(quick press)는 터치 스크린(212)의 잠금을 풀거나, 디바이스를 잠금해제하기 위해 터치 스크린 상의 제스처들을 사용하는 프로세스를 시작할 수 있으며, 이는 2005년 12월 23일자로 출원된 미국 특허 출원 제11/322,549호(미국 특허 제7,657,849호), "Unlocking a Device by Performing Gestures on an Unlock Image"에 기술된 바와 같으며, 이는 참조 문헌으로서 그 전문이 본 명세서에 편입된다. 푸시 버튼(예컨대, 306)의 더 긴 누르기는 디바이스(200)의 전원을 켜거나 끌 수 있다. 사용자는 버튼들 중 하나 이상의 버튼의 기능을 사용자 지정(customize)할 수 있다. 터치 스크린(212)은 가상 또는 소프트 버튼들 및 하나 이상의 소프트 키보드를 구현하는 데 사용된다.
터치 감응형 디스플레이(212)는 디바이스와 사용자 사이의 입력 인터페이스 및 출력 인터페이스를 제공한다. 디스플레이 제어기(256)는 터치 스크린(212)으로부터/으로 전기 신호들을 수신하고/하거나 전송한다. 터치 스크린(212)은 사용자에게 시각적 출력을 디스플레이한다. 시각적 출력은 그래픽, 텍스트, 아이콘, 비디오 및 이들의 임의의 조합("그래픽"으로 총칭함)을 포함할 수 있다. 일부 실시예들에서, 시각적 출력의 일부 또는 전부가 사용자 인터페이스 객체들에 대응할 수 있다.
터치 스크린(212)은 햅틱 및/또는 촉각적 접촉에 기초하는 사용자로부터의 입력을 수용하는 터치 감응형 표면, 센서 또는 센서들의 세트를 갖는다. 터치 스크린(212) 및 디스플레이 제어기(256)는 (메모리(202) 내의 임의의 연관된 모듈들 및/또는 명령어들의 세트들과 함께) 터치 스크린(212) 상의 접촉(및 접촉의 임의의 이동 또는 중단)을 검출하고, 검출된 접촉을 터치 스크린(212) 상에 디스플레이된 사용자 인터페이스 객체들(예컨대, 하나 이상의 소프트 키, 아이콘, 웹페이지 또는 이미지)과의 상호작용으로 변환한다. 예시적인 실시예에서, 터치 스크린(212)과 사용자 사이의 접촉 지점은 사용자의 손가락에 대응한다.
터치 스크린(212)은, LCD(liquid crystal display) 기술, LPD(light emitting polymer display) 기술, 또는 LED(light emitting diode) 기술을 이용할 수 있지만, 다른 실시예들에서는 다른 디스플레이 기술들이 이용될 수 있다. 터치 스크린(212) 및 디스플레이 제어기(256)는, 용량성, 저항성, 적외선, 및 표면 음향파 기술들뿐만 아니라 다른 근접 센서 어레이들, 또는 터치 스크린(212)과의 하나 이상의 접촉 지점을 결정하기 위한 다른 요소들을 포함하지만 이들로 한정되지 않는, 현재 공지되어 있거나 추후에 개발되는 복수의 터치 감지 기술 중 임의의 것을 사용하여, 접촉 및 그의 임의의 이동 또는 중단을 검출할 수 있다. 예시적인 실시예에서, 미국 캘리포니아주 쿠퍼티노 소재의 애플 인크.로부터의 아이폰® 및 아이팟 터치®에서 발견되는 것과 같은 투영형 상호 정전용량 감지 기술(projected mutual capacitance sensing technology)이 이용된다.
터치 스크린(212)의 일부 실시예들에서의 터치 감응형 디스플레이는 하기 미국 특허들 제6,323,846호(Westerman 외), 제6,570,557호(Westerman 외), 및/또는 제6,677,932호(Westerman), 및/또는 미국 특허 공개 제2002/0015024A1호에 기재된 다중-터치 감응형 터치패드들과 유사할 수 있으며, 이들 각각은 그 전문이 본 명세서에 참조로서 편입된다. 그러나, 터치 스크린(212)은 디바이스(200)로부터의 시각적 출력을 디스플레이하는 반면, 터치 감응형 터치패드들은 시각적 출력을 제공하지 않는다.
터치 스크린(212)의 일부 실시예들에서의 터치 감응형 디스플레이는 하기 출원들에 기재된 바와 같을 수 있다: (1) 2006년 5월 2일자로 출원된 미국 특허 출원 제11/381,313호, "Multipoint Touch Surface Controller"; (2) 2004년 5월 6일자로 출원된 미국 특허 출원 제10/840,862호, "Multipoint Touchscreen"; (3) 2004년 7월 30일자로 출원된 미국 특허 출원 제10/903,964호, "Gestures For Touch Sensitive Input Devices"; (4) 2005년 1월 31일자로 출원된 미국 특허 출원 제11/048,264호, "Gestures For Touch Sensitive Input Devices"; (5) 2005년 1월 18일자로 출원된 미국 특허 출원 제11/038,590호, "Mode-Based Graphical User Interfaces For Touch Sensitive Input Devices"; (6) 2005년 9월 16일자로 출원된 미국 특허 출원 제11/228,758호, "Virtual Input Device Placement On A Touch Screen User Interface"; (7) 2005년 9월 16일자로 출원된 미국 특허 출원 제11/228,700호, "Operation Of A Computer With A Touch Screen Interface"; (8) 2005년 9월 16일자로 출원된 미국 특허 출원 제11/228,737호, "Activating Virtual Keys Of A Touch-Screen Virtual Keyboard"; 및 (9) 2006년 3월 3일자로 출원된 미국 특허 출원 제11/367,749호, "Multi-Functional Hand-Held Device". 이 출원들 모두는 그 전문이 본 명세서에 참조로서 편입된다.
터치 스크린(212)은 100 dpi를 초과하는 비디오 해상도를 가질 수 있다. 일부 실시예들에서, 터치 스크린은 대략 160 dpi의 비디오 해상도를 갖는다. 사용자는 스타일러스, 손가락 등과 같은 임의의 적합한 물체 또는 부속물을 사용하여 터치 스크린(212)과 접촉할 수 있다. 일부 실시예들에서, 사용자 인터페이스는 주로 손가락 기반 접촉들 및 제스처들을 이용하여 동작하도록 설계되는데, 이는 터치 스크린 상에서의 손가락의 더 넓은 접촉 면적으로 인해 스타일러스 기반 입력보다 덜 정밀할 수 있다. 일부 실시예들에서, 디바이스는 대략적인 손가락 기반 입력을 사용자가 원하는 액션들을 수행하기 위한 정밀한 포인터/커서 위치 또는 커맨드로 변환한다.
일부 실시예들에서, 터치 스크린 이외에, 디바이스(200)는 특정 기능들을 활성화 또는 비활성화시키기 위한 터치패드(도시되지 않음)를 포함할 수 있다. 일부 실시예들에서, 터치패드는, 터치 스크린과는 달리, 시각적 출력을 디스플레이하지 않는 디바이스의 터치 감응형 영역이다. 터치패드는 터치 스크린(212)과는 별개인 터치 감응형 표면 또는 터치 스크린에 의해 형성되는 터치 감응형 표면의 연장부일 수 있다.
디바이스(200)는 또한 다양한 컴포넌트에 전력을 공급하기 위한 전력 시스템(262)을 포함한다. 전력 시스템(262)은, 전력 관리 시스템, 하나 이상의 전원(예컨대, 배터리 또는 교류 전류(alternating current, AC)), 재충전 시스템, 전력 고장 검출 회로, 전력 변환기 또는 인버터, 전력 상태 표시자(예컨대, 발광 다이오드), 및 휴대용 디바이스들 내에서의 전력의 생성, 관리 및 분배와 연관된 임의의 다른 컴포넌트들을 포함할 수 있다.
디바이스(200)는 또한 하나 이상의 광 센서(264)를 포함할 수 있다. 도 2a는 I/O 서브시스템(206) 내의 광 센서 제어기(258)에 결합되는 광 센서를 도시한다. 광 센서(264)는 전하-결합 소자(charge-coupled device, CCD) 또는 상보성 금속-산화물 반도체(complementary metal-oxide semiconductor, CMOS) 포토트랜지스터들을 포함할 수 있다. 광 센서(264)는 하나 이상의 렌즈를 통해 투영되는, 주변환경으로부터의 광을 수광하고, 그 광을 이미지를 표현하는 데이터로 변환한다. 이미징 모듈(243)(카메라 모듈이라고도 지칭됨)과 함께, 광 센서(264)는 정지 이미지들 또는 비디오를 캡처할 수 있다. 일부 실시예들에서, 광 센서는 디바이스 전면 상에 있는 터치 스크린 디스플레이(212)의 반대편인 디바이스(200)의 배면 상에 위치되어, 터치 스크린 디스플레이가 정지 및/또는 비디오 이미지 획득을 위한 뷰파인더로서 사용될 수 있게 한다. 일부 실시예들에서, 광 센서가 디바이스의 전면 상에 위치되어, 사용자가 터치 스크린 디스플레이 상에서 다른 화상 회의 참여자들을 보는 동안, 사용자의 이미지가 화상 회의를 위해 획득될 수 있게 한다. 일부 실시예들에서, 광 센서(264)의 위치는 사용자에 의해 변경되어(예컨대, 디바이스 하우징 내의 렌즈 및 센서를 회전시킴으로써), 단일 광 센서(264)가 터치 스크린 디스플레이와 함께 화상 회의와 정지 및/또는 비디오 이미지 획득 둘 모두에 사용되게 할 수 있다.
디바이스(200)는 또한, 선택적으로, 하나 이상의 접촉 세기 센서(265)를 포함한다. 도 2a는 I/O 서브시스템(206) 내의 세기 센서 제어기(259)에 결합된 접촉 세기 센서를 도시한다. 접촉 세기 센서(265)는, 옵션적으로, 하나 이상의 압전 저항 변형 게이지, 용량성 힘 센서, 전기적 힘 센서, 압전 힘 센서, 광학적 힘 센서, 용량성 터치 감응형 표면, 또는 다른 세기 센서들(예컨대, 터치 감응형 표면 상의 접촉의 힘(또는 압력)을 측정하는 데 사용되는 센서들)을 포함한다. 접촉 세기 센서(265)는 주변환경으로부터 접촉 세기 정보(예컨대, 압력 정보 또는 압력 정보에 대한 대용물)를 수신한다. 일부 실시예들에서, 적어도 하나의 접촉 세기 센서는 터치 감응형 표면(예컨대, 터치 감응형 디스플레이 시스템(212))과 함께 위치(collocate)되거나 그에 근접한다. 일부 실시예들에서, 적어도 하나의 접촉 세기 센서는 디바이스(200)의 전면 상에 위치된 터치 스크린 디스플레이(212)의 반대편인 디바이스(200)의 배면 상에 위치된다.
디바이스(200)는 또한 하나 이상의 근접 센서(266)를 포함할 수 있다. 도 2a는 주변기기 인터페이스(218)에 결합된 근접 센서(266)를 도시한다. 대안적으로, 근접 센서(266)는 I/O 서브시스템(206) 내의 입력 제어기(260)에 결합될 수 있다. 근접 센서(266)는 미국 특허 출원들 제11/241,839호, "Proximity Detector In Handheld Device"; 제11/240,788호, "Proximity Detector In Handheld Device"; 제11/620,702호, "Using Ambient Light Sensor To Augment Proximity Sensor Output"; 제11/586,862호, "Automated Response To And Sensing Of User Activity In Portable Devices"; 및 제11/638,251호, "Methods And Systems For Automatic Configuration Of Peripherals"에 기술된 바와 같이 수행할 수 있으며, 이들은 그 전문이 본 명세서에 참조로서 편입된다. 일부 실시예들에서, 근접 센서는 다기능 디바이스가 사용자의 귀 근처에 위치될 때(예컨대, 사용자가 전화 통화를 하고 있을 때) 터치 스크린(212)을 끄고 디스에이블시킨다.
디바이스(200)는 또한, 선택적으로, 하나 이상의 촉각적 출력 생성기(267)를 포함한다. 도 2a는 I/O 서브시스템(206) 내의 햅틱 피드백 제어기(261)에 결합된 촉각적 출력 생성기를 도시한다. 촉각적 출력 생성기(267)는, 옵션적으로, 스피커들 또는 다른 오디오 컴포넌트들과 같은 하나 이상의 전자음향 디바이스 및/또는 모터, 솔레노이드, 전기활성 중합체, 압전 액추에이터, 정전 액추에이터, 또는 다른 촉각적 출력 생성 컴포넌트(예컨대, 전기 신호들을 디바이스 상의 촉각적 출력들로 변환하는 컴포넌트)와 같은, 에너지를 선형 모션(linear motion)으로 변환하는 전자기계 디바이스들을 포함한다. 접촉 세기 센서(265)는 햅틱 피드백 모듈(233)로부터 촉각적 피드백 생성 명령어들을 수신하여 디바이스(200)의 사용자에 의해 감지될 수 있는 디바이스(200) 상의 촉각적 출력들을 생성한다. 일부 실시예들에서, 적어도 하나의 촉각적 출력 생성기는 터치 감응형 표면(예컨대, 터치 감응형 디스플레이 시스템(212))과 함께 위치되거나 그에 근접하며, 선택적으로, 터치 감응형 표면을 수직으로(예컨대, 디바이스(200)의 표면 내/외로) 또는 측방향으로(예컨대, 디바이스(200)의 표면과 동일한 평면에서 전후로) 이동시킴으로써 촉각적 출력을 생성한다. 일부 실시예들에서, 적어도 하나의 촉각적 출력 생성기 센서는 디바이스(200)의 전면 상에 위치된 터치 스크린 디스플레이(212)의 반대편인 디바이스(200)의 배면 상에 위치된다.
디바이스(200)는 또한 하나 이상의 가속도계(268)를 포함할 수 있다. 도 2a는 주변기기 인터페이스(218)에 결합된 가속도계(268)를 도시한다. 대안적으로, 가속도계(268)는 I/O 서브시스템(206) 내의 입력 제어기(260)에 결합될 수 있다. 가속도계(268)는 미국 특허 공개 제20050190059호, "Acceleration-based Theft Detection System for Portable Electronic Devices", 및 미국 특허 공개 제20060017692호, "Methods And Apparatuses For Operating A Portable Device Based On An Accelerometer"에 기술된 바와 같이 수행할 수 있으며, 이들 둘 다는 그 전문이 본 명세서에 참조로서 편입된다. 일부 실시예들에서, 하나 이상의 가속도계로부터 수신된 데이터의 분석에 기초하여 터치 스크린 디스플레이 상에 세로보기(portrait view) 또는 가로보기(landscape view)로 정보가 디스플레이된다. 디바이스(200)는, 선택적으로, 가속도계(들)(268) 외에도, 자력계(도시되지 않음), 및 디바이스(200)의 위치 및 배향(예컨대, 세로 또는 가로)에 관한 정보를 얻기 위한 GPS(또는 GLONASS 또는 다른 글로벌 내비게이션 시스템) 수신기(도시되지 않음)를 포함한다.
일부 실시예들에서, 메모리(202)에 저장된 소프트웨어 컴포넌트들은 운영 체제(226), 통신 모듈(또는 명령어들의 세트)(228), 접촉/모션 모듈(또는 명령어들의 세트)(230), 그래픽 모듈(또는 명령어들의 세트)(232), 텍스트 입력 모듈(또는 명령어들의 세트)(234), GPS 모듈(또는 명령어들의 세트)(235), 디지털 어시스턴트 클라이언트 모듈(229), 및 애플리케이션들(또는 명령어들의 세트들)(236)을 포함한다. 또한, 메모리(202)는 데이터 및 모델들, 예컨대 사용자 데이터 및 모델들(231)을 저장할 수 있다. 게다가, 일부 실시예들에서, 메모리(도 2a의 202 또는 도 4의 470)는 도 2a 및 도 4에 도시된 바와 같이 디바이스/글로벌 내부 상태(257)를 저장한다. 디바이스/글로벌 내부 상태(257)는, 존재하는 경우, 어떤 애플리케이션들이 현재 활성인지를 나타내는 활성 애플리케이션 상태; 어떤 애플리케이션들, 뷰들, 또는 다른 정보가 터치 스크린 디스플레이(212)의 다양한 영역들을 점유하는지를 나타내는 디스플레이 상태; 디바이스의 다양한 센서들 및 입력 제어 디바이스(216)들로부터 획득된 정보를 포함하는 센서 상태; 및 디바이스의 위치 및/또는 자세에 관한 위치 정보 중 하나 이상을 포함한다.
운영 체제(226)(예컨대, Darwin, RTXC, LINUX, UNIX, OS X, iOS, WINDOWS, 또는 VxWorks와 같은 임베디드 운영 체제)는 일반적인 시스템 태스크들(예컨대, 메모리 관리, 저장 디바이스 제어, 전력 관리 등)을 제어 및 관리하기 위한 다양한 소프트웨어 컴포넌트들 및/또는 드라이버들을 포함하고, 다양한 하드웨어와 소프트웨어 컴포넌트들 사이의 통신을 용이하게 한다.
통신 모듈(228)은 하나 이상의 외부 포트(224)를 통한 다른 디바이스들과의 통신을 용이하게 하고, 또한 RF 회로부(208) 및/또는 외부 포트(224)에 의해 수신되는 데이터를 처리하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다. 외부 포트(224)(예컨대, USB(Universal Serial Bus), 파이어와이어(FIREWIRE) 등)는 다른 디바이스들에 직접적으로 또는 네트워크(예컨대, 인터넷, 무선 LAN 등)를 통해 간접적으로 결합하도록 구성된다. 일부 실시예들에서, 외부 포트는 아이팟®(애플 인크.의 상표) 디바이스들에서 사용되는 30-핀 커넥터와 동일하거나 유사하고/하거나 이와 호환가능한 멀티-핀(예컨대, 30-핀) 커넥터이다.
접촉/모션 모듈(230)은, 옵션적으로, (디스플레이 제어기(256)와 함께) 터치 스크린(212), 및 다른 터치 감응형 디바이스들(예컨대, 터치패드 또는 물리적 클릭 휠)과의 접촉을 검출한다. 접촉/모션 모듈(230)은 접촉이 발생했는지를 판정하는 것(예컨대, 손가락-다운 이벤트(finger-down event)를 검출하는 것), 접촉의 세기(예컨대, 접촉의 힘 또는 압력, 또는 접촉의 힘 또는 압력에 대한 대체물)를 결정하는 것, 접촉의 이동이 있는지를 판정하고 터치 감응형 표면을 가로지르는 이동을 추적하는 것(예컨대, 하나 이상의 손가락-드래그 이벤트(finger-dragging event)를 검출하는 것), 및 접촉이 중단되었는지를 판정하는 것(예컨대, 손가락-업 이벤트(finger-up event) 또는 접촉 중단을 검출하는 것)과 같은, 접촉의 검출에 관련된 다양한 동작들을 수행하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다. 접촉/모션 모듈(230)은 터치 감응형 표면으로부터 접촉 데이터를 수신한다. 일련의 접촉 데이터에 의해 표현되는 접촉 지점의 이동을 결정하는 것은, 선택적으로, 접촉 지점의 속력(크기), 속도(크기 및 방향), 및/또는 가속도(크기 및/또는 방향의 변화)를 결정하는 것을 포함한다. 이 동작들은, 옵션적으로, 단일 접촉들(예컨대, 한 손가락 접촉들)에 또는 다수의 동시 접촉들(예컨대, "멀티터치"/다수의 손가락 접촉들)에 적용된다. 일부 실시예들에서, 접촉/모션 모듈(230) 및 디스플레이 제어기(256)는 터치패드 상의 접촉을 검출한다.
일부 실시예들에서, 접촉/모션 모듈(230)은 동작이 사용자에 의해 수행되었는지 여부를 결정하는 데(예컨대, 사용자가 아이콘에 대해 "클릭"했는지 여부를 결정하는 데) 하나 이상의 세기 임계치들의 세트를 이용한다. 일부 실시예들에서, 적어도 세기 임계치들의 서브세트가 소프트웨어 파라미터들에 따라 결정된다(예컨대, 세기 임계치들은 특정 물리적 액추에이터들의 활성화 임계치들에 의해 결정되지 않으며, 디바이스(200)의 물리적 하드웨어를 변경함이 없이 조정될 수 있다). 예를 들어, 트랙패드 또는 터치 스크린 디스플레이의 마우스 "클릭" 임계치는 트랙패드 또는 터치 스크린 디스플레이 하드웨어를 변경함이 없이 넓은 범위의 미리정의된 임계 값들 중 임의의 것으로 설정될 수 있다. 추가로, 일부 구현예들에서, 디바이스의 사용자는 (예컨대, 개별 세기 임계치들을 조정함으로써 그리고/또는 복수의 세기 임계치를 시스템 레벨 클릭 "세기" 파라미터로 한꺼번에 조정함으로써) 소정 세트의 세기 임계치들 중 하나 이상을 조정하기 위한 소프트웨어 설정들을 제공받는다.
접촉/모션 모듈(230)은, 선택적으로, 사용자에 의한 제스처 입력을 검출한다. 터치 감응형 표면 상에서의 상이한 제스처들은 상이한 접촉 패턴들(예컨대, 상이한 모션들, 타이밍들, 및/또는 검출된 접촉들의 세기들)을 갖는다. 따라서, 제스처는 선택적으로 특정 접촉 패턴을 검출함으로써 검출된다. 예를 들어, 손가락 탭 제스처(finger tap gesture)를 검출하는 것은 손가락-다운 이벤트를 검출한 다음에 손가락-다운 이벤트와 동일한 위치(또는 실질적으로 동일한 위치)에서(예컨대, 아이콘의 위치에서) 손가락-업(리프트오프(liftoff)) 이벤트를 검출하는 것을 포함한다. 다른 예로서, 터치 감응형 표면 상에서 손가락 스와이프 제스처(finger swipe gesture)를 검출하는 것은 손가락-다운 이벤트를 검출한 다음에 하나 이상의 손가락-드래깅 이벤트를 검출하고, 그에 후속하여 손가락-업(리프트오프) 이벤트를 검출하는 것을 포함한다.
그래픽 모듈(232)은, 디스플레이되는 그래픽의 시각적 효과(예컨대, 밝기, 투명도, 채도, 콘트라스트 또는 다른 시각적 속성)를 변경하기 위한 컴포넌트들을 포함하는, 터치 스크린(212) 또는 다른 디스플레이 상에서 그래픽을 렌더링 및 디스플레이하기 위한 다양한 공지된 소프트웨어 컴포넌트들을 포함한다. 본 명세서에서 사용되는 바와 같이, 용어 "그래픽"은 텍스트, 웹 페이지들, 아이콘들(예컨대, 소프트 키들을 포함하는 사용자 인터페이스 객체들), 디지털 이미지들, 비디오들, 애니메이션들 등을 제한 없이 포함하는, 사용자에게 디스플레이될 수 있는 임의의 객체를 포함한다.
일부 실시예들에서, 그래픽 모듈(232)은 사용될 그래픽을 표현하는 데이터를 저장한다. 각각의 그래픽에는 선택적으로 대응하는 코드가 할당된다. 그래픽 모듈(232)은, 필요한 경우 좌표 데이터 및 다른 그래픽 속성 데이터와 함께, 디스플레이될 그래픽을 특정하는 하나 이상의 코드들을 애플리케이션들 등으로부터 수신하며, 이어서 스크린 이미지 데이터를 생성하여 디스플레이 제어기(256)에 출력한다.
햅틱 피드백 모듈(233)은 디바이스(200)와의 사용자 상호작용들에 응답하여 디바이스(200) 상의 하나 이상의 위치에서 촉각적 출력들을 생성하기 위하여 촉각적 출력 생성기(들)(267)에 의해 이용되는 명령어들을 생성하기 위한 다양한 소프트웨어 컴포넌트들을 포함한다.
그래픽 모듈(232)의 컴포넌트일 수 있는 텍스트 입력 모듈(234)은 다양한 애플리케이션들(예컨대, 연락처(237), 이메일(240), IM(241), 브라우저(247), 및 텍스트 입력을 필요로 하는 임의의 다른 애플리케이션)에서 텍스트를 입력하기 위한 소프트 키보드들을 제공한다.
GPS 모듈(235)은 디바이스의 위치를 결정하고, 이 정보를 다양한 애플리케이션들에서의 사용을 위해 (예컨대, 위치 기반 다이얼링에서 사용하기 위해 전화(238)에; 사진/비디오 메타데이터로서 카메라(243)에; 그리고 날씨 위젯들, 지역 옐로 페이지 위젯들 및 지도/내비게이션 위젯들과 같은 위치 기반 서비스들을 제공하는 애플리케이션들에) 제공한다.
디지털 어시스턴트 클라이언트 모듈(229)은 디지털 어시스턴트의 클라이언트 측 기능들을 제공하기 위한 다양한 클라이언트 측 디지털 어시스턴트 명령어들을 포함할 수 있다. 예를 들어, 디지털 어시스턴트 클라이언트 모듈(229)은 휴대용 다기능 디바이스(200)의 다양한 사용자 인터페이스들(예컨대, 마이크로폰(213), 가속도계(들)(268), 터치 감응형 디스플레이 시스템(212), 광 센서(들)(264), 다른 입력 제어 디바이스들(216) 등)을 통하여 음성 입력(예컨대, 스피치 입력), 텍스트 입력, 터치 입력, 및/또는 제스처 입력을 수용할 수 있다. 디지털 어시스턴트 클라이언트 모듈(229)은 또한, 휴대용 다기능 디바이스(200)의 다양한 출력 인터페이스들(예컨대, 스피커(211), 터치 감응형 디스플레이 시스템(212), 촉각적 출력 생성기(들)(267) 등)을 통하여 청각적(예컨대, 스피치 출력), 시각적, 및/또는 촉각적 형태들의 출력을 제공할 수 있다. 예를 들어, 출력은 음성, 소리, 알림, 텍스트 메시지, 메뉴, 그래픽, 비디오, 애니메이션, 진동, 및/또는 이들 중 둘 이상의 것들의 조합들로서 제공될 수 있다. 동작 동안, 디지털 어시스턴트 클라이언트 모듈(229)은 RF 회로부(208)를 사용하여 DA 서버(106)와 통신할 수 있다.
사용자 데이터 및 모델들(231)은, 디지털 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 사용자와 연관된 다양한 데이터(예컨대, 사용자-특정 어휘 데이터, 사용자 선호도 데이터, 사용자-특정 이름 발음들, 사용자의 전자 주소록으로부터의 데이터, 할 일 목록들, 쇼핑 목록들 등)를 포함할 수 있다. 또한, 사용자 데이터 및 모델들(231)은 사용자 입력을 프로세싱하고 사용자 의도를 결정하기 위해 다양한 모델들(예컨대, 스피치 인식 모델들, 통계 언어 모델들, 자연 언어 프로세싱 모델들, 온톨로지, 태스크 흐름 모델들, 서비스 모델들 등)을 포함할 수 있다.
일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(229)은 사용자와 연관된 컨텍스트, 현재 사용자 상호작용, 및/또는 현재 사용자 입력을 확립하기 위해 휴대용 다기능 디바이스(200)의 다양한 센서들, 서브시스템들, 및 주변기기 디바이스들을 이용하여 휴대용 다기능 디바이스(200)의 주위 환경으로부터 추가 정보를 수집할 수 있다. 일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(229)은 DA 서버(106)에 사용자 입력과 함께 컨텍스트 정보 또는 그의 서브세트를 제공하여 사용자의 의도를 추론하는 것을 도울 수 있다. 일부 예들에서, 디지털 어시스턴트는 또한 컨텍스트 정보를 이용하여 어떻게 출력들을 준비하여 사용자에게 전달할지를 결정할 수 있다. 컨텍스트 정보는 컨텍스트 데이터라고 지칭될 수 있다.
일부 예들에서, 사용자 입력을 동반하는 컨텍스트 정보는 센서 정보, 예컨대 조명, 주변 잡음, 주변 온도, 주위 환경의 이미지들 또는 비디오들 등을 포함할 수 있다. 일부 예들에서, 컨텍스트 정보는 또한 디바이스의 물리적 상태, 예컨대 디바이스 배향, 디바이스 위치, 디바이스 온도, 전력 레벨, 속력, 가속도, 모션 패턴들, 셀룰러 신호 강도 등을 포함할 수 있다. 일부 예들에서, DA 서버(106)의 소프트웨어 상태에 관련된 정보, 예를 들어 실행 중인 프로세스들, 설치된 프로그램들, 과거 및 현재의 네트워크 활동성들, 백그라운드 서비스들, 에러 로그들, 리소스 사용 등, 및 휴대용 다기능 디바이스(200)의 정보는 사용자 입력과 연관된 컨텍스트 정보로서 DA 서버(106)에 제공될 수 있다.
일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(229)은 DA 서버(106)로부터의 요청들에 응답하여 휴대용 다기능 디바이스(200) 상에 저장된 정보(예컨대, 사용자 데이터(231))를 옵션적으로 제공할 수 있다. 일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(229)은 또한 DA 서버(106)에 의한 요청에 따라 자연 언어 대화 또는 다른 사용자 인터페이스들을 통해 사용자로부터 추가 입력을 이끌어낼 수 있다. 디지털 어시스턴트 클라이언트 모듈(229)은 DA 서버(106)에 추가 입력을 전달하여, 사용자 요청에서 표현되는 사용자의 의도의 의도 추론 및/또는 이행 시에 DA 서버(106)를 도울 수 있다.
디지털 어시스턴트의 더욱 상세한 설명이 도 7a 내지 도 7c를 참조하여 후술된다. 디지털 어시스턴트 클라이언트 모듈(229)이 후술되는 디지털 어시스턴트 모듈(726)의 임의의 개수의 하위모듈들을 포함할 수 있다는 것이 인식되어야 한다.
애플리케이션들(236)은 하기의 모듈들(또는 명령어들의 세트들), 또는 이들의 서브세트 또는 수퍼세트(superset)를 포함할 수 있다:
날씨 위젯(249-1), 주식 위젯(249-2), 계산기 위젯(249-3), 알람 시계 위젯(249-4), 사전 위젯(249-5), 및 사용자에 의해 획득되는 다른 위젯들뿐 아니라 사용자생성 위젯들(249-6) 중 하나 이상을 포함할 수 있는 위젯 모듈들(249);
메모리(202)에 저장될 수 있는 다른 애플리케이션들(236)의 예들은 다른 워드 프로세싱 애플리케이션들, 다른 이미지 편집 애플리케이션들, 그리기 애플리케이션들, 프레젠테이션 애플리케이션들, JAVA-인에이블형 애플리케이션들, 암호화, 디지털 권한 관리, 음성 인식, 및 음성 복제를 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 연락처 모듈(237)은 주소록 또는 연락처 목록(예를 들어, 메모리(202) 또는 메모리(470) 내의 연락처 모듈(237)의 애플리케이션 내부 상태(292)에 저장됨)을 관리하는 데 사용될 수 있으며, 이는 하기를 포함한다: 이름(들)을 주소록에 추가하는 것; 주소록으로부터 이름(들)을 삭제하는 것; 전화 번호(들), 이메일 주소(들), 물리적 주소(들) 또는 다른 정보를 이름과 연관시키는 것; 이미지를 이름과 연관시키는 것; 이름들을 분류 및 정렬하는 것; 전화(238), 화상 회의 모듈(239), 이메일(240) 또는 IM(241)에 의한 통신을 개시하고/하거나 용이하게 하기 위해 전화 번호들 또는 이메일 주소들을 제공하는 것 등등.
RF 회로부(208), 오디오 회로부(210), 스피커(211), 마이크로폰(213), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 및 텍스트 입력 모듈(234)과 함께, 전화 모듈(238)은, 전화번호에 대응하는 문자들의 시퀀스를 입력하고, 연락처 모듈(237) 내의 하나 이상의 전화번호에 액세스하며, 입력된 전화번호를 수정하고, 개개의 전화번호를 다이얼링하며, 대화를 하고, 대화가 완료된 때 접속해제하거나 끊는 데 사용될 수 있다. 전술된 바와 같이, 무선 통신은 복수의 통신 표준들, 프로토콜들 및 기술들 중 임의의 것을 이용할 수 있다.
RF 회로부(208), 오디오 회로부(210), 스피커(211), 마이크로폰(213), 터치 스크린(212), 디스플레이 제어기(256), 광 센서(264), 광 센서 제어기(258), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234), 연락처 모듈(237) 및 전화 모듈(238)과 함께, 화상 회의 모듈(239)은 사용자 지시들에 따라 사용자와 한 명 이상의 다른 참여자들 사이의 화상 회의를 개시, 시행 및 종료하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 이메일 클라이언트 모듈(240)은 사용자 지시들에 응답하여 이메일을 작성, 전송, 수신, 및 관리하도록 하는 실행가능한 명령어들을 포함한다. 이미지 관리 모듈(244)과 함께, 이메일 클라이언트 모듈(240)은 카메라 모듈(243)로 촬영된 정지 또는 비디오 이미지들을 갖는 이메일들을 작성 및 전송하는 것을 매우 용이하게 한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 인스턴트 메시징 모듈(241)은, 인스턴트 메시지에 대응하는 문자들의 시퀀스를 입력하고, 이전에 입력된 문자들을 수정하고, (예를 들어, 전화 기반 인스턴트 메시지들을 위한 단문자 메시지 서비스(Short Message Service; SMS) 또는 멀티미디어 메시지 서비스(Multimedia Message Service; MMS) 프로토콜을 이용하거나, 인터넷 기반 인스턴트 메시지들을 위한 XMPP, SIMPLE 또는 IMPS를 이용하여) 각자의 인스턴트 메시지를 송신하고, 인스턴트 메시지들을 수신하고, 수신된 인스턴트 메시지들을 보도록 하는 실행가능한 명령어들을 포함한다. 일부 실시예들에서, 송신 및/또는 수신되는 인스턴트 메시지들은 그래픽, 사진들, 오디오 파일들, 비디오 파일들, 그리고/또는 MMS 및/또는 향상된 메시징 서비스(Enhanced Messaging Service, EMS)에서 지원되는 바와 같은 다른 첨부물들을 포함할 수 있다. 본 명세서에서 사용되는 바와 같이, "인스턴트 메시징"은 전화 기반 메시지들(예컨대, SMS 또는 MMS를 이용하여 전송되는 메시지들) 및 인터넷 기반 메시지들(예컨대, XMPP, SIMPLE 또는 IMPS를 이용하여 전송되는 메시지들) 둘 모두를 지칭한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234), GPS 모듈(235), 지도 모듈(254), 및 음악 재생기 모듈과 함께, 운동 지원 모듈(242)은, (예컨대, 시간, 거리, 및/또는 열량 소비 목표와 함께) 운동들을 고안하고; 운동 센서들(스포츠 디바이스들)과 통신하고; 운동 센서 데이터를 수신하고; 운동을 모니터링하는 데 사용되는 센서들을 교정하고; 운동을 위한 음악을 선택 및 재생하고; 운동 데이터를 디스플레이, 저장 및 송신하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 광 센서(들)(264), 광 센서 제어기(258), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 이미지 관리 모듈(244)과 함께, 카메라 모듈(243)은, 정지 이미지들 또는 비디오(비디오 스트림을 포함함)를 캡처하고 이들을 메모리(202) 내에 저장하거나, 정지 이미지 또는 비디오의 특성을 수정하거나, 메모리(202)로부터 정지 이미지 또는 비디오를 삭제하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234) 및 카메라 모듈(243)과 함께, 이미지 관리 모듈(244)은 정지 및/또는 비디오 이미지들을 배열하거나, 수정(예컨대, 편집)하거나, 또는 그렇지 않으면 조작하고, 라벨링하고, 삭제하고, (예컨대, 디지털 슬라이드 쇼 또는 앨범에) 제시하고, 저장하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 브라우저 모듈(247)은, 웹 페이지들 또는 이들의 부분들뿐만 아니라 웹 페이지들에 링크된 첨부물들 및 다른 파일들을 검색하고, 그들에 링크하고, 수신하고, 그리고 디스플레이하는 것을 비롯한, 사용자 지시들에 따라 인터넷을 브라우징하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234), 이메일 클라이언트 모듈(240), 및 브라우저 모듈(247)과 함께, 캘린더 모듈(248)은 사용자 지시들에 따라 캘린더들 및 캘린더들과 연관된 데이터(예컨대, 캘린더 엔트리들, 할 일 목록들 등)를 생성하도록, 디스플레이하도록, 수정하도록, 그리고 저장하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234) 및 브라우저 모듈(247)과 함께, 위젯 모듈들(249)은 사용자에 의해 다운로드 및 사용될 수 있거나(예컨대, 날씨 위젯(249-1), 주식 위젯(249-2), 계산기 위젯(249-3), 알람 시계 위젯(249-4) 및 사전 위젯(249-5)), 또는 사용자에 의해 생성될 수 있는(예컨대, 사용자-생성 위젯(249-6)) 미니-애플리케이션(mini-application)들이다. 일부 실시예들에서, 위젯은 HTML(Hypertext Markup Language) 파일, CSS(Cascading Style Sheets) 파일 및 자바스크립트(JavaScript) 파일을 포함한다. 일부 실시예들에서, 위젯은 XML(Extensible Markup Language) 파일 및 자바스크립트 파일(예컨대, 야후(Yahoo)! 위젯들)을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234) 및 브라우저 모듈(247)과 함께, 위젯 생성기 모듈(250)은 사용자에 의해 위젯들을 생성(예를 들어, 웹 페이지의 사용자-특정 부분을 위젯으로 변경)하는 데 사용될 수 있다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 검색 모듈(251)은 사용자 지시들에 따라 하나 이상의 검색 기준(예컨대, 하나 이상의 사용자 특정 검색어)에 매칭되는 메모리(202) 내의 텍스트, 음악, 사운드, 이미지, 비디오, 및/또는 다른 파일들을 검색하도록 하는 실행가능한 명령어들을 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 오디오 회로부(210), 스피커(211), RF 회로부(208) 및 브라우저 모듈(247)과 함께, 비디오 및 음악 재생기 모듈(252)은, 사용자가 MP3 또는 AAC 파일들과 같은 하나 이상의 파일 포맷으로 저장된 기록된 음악 및 다른 사운드 파일들을 다운로드 및 재생할 수 있도록 하는 실행가능한 명령어들, 및 비디오들을 (예컨대, 터치 스크린(212) 상에서 또는 외부 포트(224)를 통해 외부의 접속된 디스플레이 상에서) 디스플레이하도록, 보여주도록, 또는 다른 방식으로 재생하도록 하는 실행가능한 명령어들을 포함한다. 일부 실시예들에서, 디바이스(200)는 선택적으로 아이팟(애플 인크.의 상표)과 같은 MP3 재생기의 기능을 포함한다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232) 및 텍스트 입력 모듈(234)과 함께, 메모 모듈(253)은 사용자 지시들에 따라 메모들, 할 일 목록들 등을 생성 및 관리하도록 하는 실행가능한 명령어들을 포함한다.
RF 회로부(208), 터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 텍스트 입력 모듈(234), GPS 모듈(235), 및 브라우저 모듈(247)과 함께, 지도 모듈(254)은 사용자 지시들에 따라 지도들 및 지도들과 연관된 데이터(예컨대, 운전 길 안내; 특정 위치에서의 또는 그 인근의 상점들 및 다른 관심 지점들에 관한 데이터; 및 다른 위치-기반 데이터)를 수신하고, 디스플레이하고, 수정하고, 저장하는 데 사용될 수 있다.
터치 스크린(212), 디스플레이 제어기(256), 접촉/모션 모듈(230), 그래픽 모듈(232), 오디오 회로부(210), 스피커(211), RF 회로부(208), 텍스트 입력 모듈(234), 이메일 클라이언트 모듈(240) 및 브라우저 모듈(247)과 함께, 온라인 비디오 모듈(255)은 사용자가 H.264와 같은 하나 이상의 파일 포맷의 온라인 비디오들에 액세스하고, 그들을 브라우징하고, (예컨대, 스트리밍 및/또는 다운로드에 의해) 수신하고, (예컨대, 터치 스크린 상에서 또는 외부 포트(224)를 통해 외부의 접속된 디스플레이 상에서) 재생하고, 특정 온라인 비디오로의 링크와 함께 이메일을 전송하고, 달리 관리하게 하는 명령어들을 포함한다. 일부 실시예들에서, 이메일 클라이언트 모듈(240)보다는 오히려 인스턴트 메시징 모듈(241)이 특정 온라인 비디오로의 링크를 전송하는 데 사용된다. 온라인 비디오 애플리케이션에 대한 추가적 설명은, 2007년 6월 20일자로 출원된 미국 가특허 출원 제60/936,562호, "Portable Multifunction Device, Method, and Graphical User Interface for Playing Online Videos" 및 2007년 12월 31일자로 출원된 미국 특허 출원 제11/968,067호, "Portable Multifunction Device, Method, and Graphical User Interface for Playing Online Videos"에서 찾아볼 수 있으며, 이들의 내용은 이로써 그 전체가 참조로서 본 명세서에 편입된다.
앞서 식별된 모듈들 및 애플리케이션들 각각은 위에서 기술된 하나 이상의 기능 및 본 출원에 기술되는 방법들(예컨대, 본 명세서에 기술되는 컴퓨터 구현 방법들 및 다른 정보 프로세싱 방법들)을 수행하기 위한 실행가능한 명령어들의 세트에 대응한다. 이들 모듈들(예컨대, 명령어들의 세트들)은 별도의 소프트웨어 프로그램들, 절차들 또는 모듈들로서 구현될 필요는 없으며, 따라서 이들 모듈들의 다양한 서브세트들이 다양한 실시예들에서 조합되거나 달리 재배열될 수 있다. 예를 들어, 비디오 재생기 모듈은 음악 재생기 모듈과 조합되어 단일 모듈(예컨대, 도 2a의 비디오 및 음악 재생기 모듈(252))로 될 수 있다. 일부 실시예들에서, 메모리(202)는 앞서 식별된 모듈들 및 데이터 구조들의 서브세트를 저장할 수 있다. 또한, 메모리(202)는 전술되지 않은 추가의 모듈들 및 데이터 구조들을 저장할 수 있다.
일부 실시예들에서, 디바이스(200)는 디바이스 상의 미리정의된 세트의 기능들의 동작이 터치 스크린 및/또는 터치패드를 통해 전용으로 수행되는 디바이스이다. 터치 스크린 및/또는 터치패드를 디바이스(200)의 동작을 위한 주 입력 제어 디바이스로서 사용함으로써, 디바이스(200) 상의 (푸시 버튼들, 다이얼들 등과 같은) 물리적 입력 제어 디바이스들의 수가 감소될 수 있다.
터치 스크린 및/또는 터치패드를 통해 전용으로 수행되는 미리정의된 세트의 기능들은 선택적으로 사용자 인터페이스들 사이의 내비게이션을 포함한다. 일부 실시예들에서, 터치패드는, 사용자에 의해 터치될 때, 디바이스(200)를 디바이스(200) 상에 디스플레이되는 임의의 사용자 인터페이스로부터 메인, 홈 또는 루트 메뉴로 내비게이팅한다. 이러한 실시예들에서, "메뉴 버튼"이 터치패드를 이용하여 구현된다. 일부 다른 실시예들에서, 메뉴 버튼은 터치패드 대신에 물리적 푸시 버튼 또는 다른 물리적 입력 제어 디바이스이다.
도 2b는 일부 실시예들에 따른, 이벤트 처리를 위한 예시적인 컴포넌트들을 도시하는 블록도이다. 일부 실시예들에서, 메모리(도 2a의 202 또는 도 4의 470)는 (예컨대, 운영 체제(226)에서의) 이벤트 분류기(270) 및 개개의 애플리케이션(236-1)(예컨대, 전술된 애플리케이션들(237 내지 251, 255, 480 내지 490) 중 임의의 것)을 포함한다.
이벤트 분류기(270)는 이벤트 정보를 수신하고, 이벤트 정보를 전달할 애플리케이션(236-1), 및 애플리케이션(236-1)의 애플리케이션 뷰(291)를 결정한다. 이벤트 분류기(270)는 이벤트 모니터(271) 및 이벤트 디스패처 모듈(event dispatcher module)(274)을 포함한다. 일부 실시예들에서, 애플리케이션(236-1)은 애플리케이션이 활성이거나 실행 중일 때 터치 감응형 디스플레이(212) 상에 디스플레이되는 현재 애플리케이션 뷰(들)를 나타내는 애플리케이션 내부 상태(292)를 포함한다. 일부 실시예들에서, 디바이스/글로벌 내부 상태(257)는 이벤트 분류기(270)에 의해 어느 애플리케이션(들)이 현재 활성인지 결정하는 데 이용되며, 애플리케이션 내부 상태(292)는 이벤트 분류기(270)에 의해 이벤트 정보를 전달할 애플리케이션 뷰들(291)을 결정하는 데 이용된다.
일부 실시예들에서, 애플리케이션 내부 상태(292)는 애플리케이션(236-1)이 실행을 재개할 때 이용될 재개 정보, 애플리케이션(236-1)에 의해 디스플레이되고 있거나 디스플레이될 준비가 된 정보를 나타내는 사용자 인터페이스 상태 정보, 사용자가 애플리케이션(236-1)의 이전 상태 또는 뷰로 되돌아가도록 인에이블하기 위한 상태 큐(queue), 및 사용자에 의해 취해진 이전 액션들의 재실행(redo)/실행취소(undo) 큐 중 하나 이상과 같은 추가 정보를 포함한다.
이벤트 모니터(271)는 주변기기 인터페이스(218)로부터 이벤트 정보를 수신한다. 이벤트 정보는 서브이벤트(예를 들어, 다중 터치 제스처의 일부로서 터치 감응형 디스플레이(212) 상에서의 사용자 터치)에 대한 정보를 포함한다. 주변기기 인터페이스(218)는 I/O 서브시스템(206) 또는 센서, 예컨대 근접 센서(266), 가속도계(들)(268), 및/또는 (오디오 회로부(210)를 통한) 마이크로폰(213)으로부터 수신하는 정보를 송신한다. 주변기기 인터페이스(218)가 I/O 서브시스템(206)으로부터 수신하는 정보는 터치 감응형 디스플레이(212) 또는 터치 감응형 표면으로부터의 정보를 포함한다.
일부 실시예들에서, 이벤트 모니터(271)는 요청들을 미리결정된 간격으로 주변기기 인터페이스(218)에 전송한다. 이에 응답하여, 주변기기 인터페이스(218)는 이벤트 정보를 송신한다. 다른 실시예들에서, 주변기기 인터페이스(218)는 중요한 이벤트(예컨대, 미리결정된 잡음 임계치를 초과하는 입력 및/또는 미리결정된 지속기간 초과 동안의 입력을 수신하는 것)가 있을 때에만 이벤트 정보를 송신한다.
일부 실시예들에서, 이벤트 분류기(270)는 또한 히트 뷰(hit view) 결정 모듈(272) 및/또는 활성 이벤트 인식기 결정 모듈(273)을 포함한다.
히트 뷰 결정 모듈(272)은 터치 감응형 디스플레이(212)가 둘 이상의 뷰를 디스플레이하는 경우에, 하나 이상의 뷰들 내에서 서브이벤트가 발생한 곳을 결정하기 위한 소프트웨어 절차들을 제공한다. 뷰들은 사용자가 디스플레이 상에서 볼 수 있는 제어부들 및 다른 요소들로 구성된다.
애플리케이션과 연관된 사용자 인터페이스의 다른 양태는 본 명세서에서 때때로 애플리케이션 뷰들 또는 사용자 인터페이스 윈도우(user interface window)들로 지칭되는 한 세트의 뷰들이며, 여기서 정보가 디스플레이되고 터치 기반 제스처가 발생한다. 터치가 검출되는 (개개의 애플리케이션의) 애플리케이션 뷰들은 애플리케이션의 프로그램 또는 뷰 계층구조 내의 프로그램 레벨들에 대응할 수 있다. 예를 들어, 터치가 검출되는 최하위 레벨의 뷰는 히트 뷰로 지칭될 수 있고, 적절한 입력들로서 인식되는 이벤트들의 세트는 터치 기반 제스처를 시작하는 초기 터치의 히트 뷰에 적어도 부분적으로 기초하여 결정될 수 있다.
히트 뷰 결정 모듈(272)은 터치 기반 제스처의 서브이벤트들에 관련된 정보를 수신한다. 애플리케이션이 계층구조에서 조직화된 다수의 뷰들을 갖는 경우, 히트 뷰 결정 모듈(272)은 히트 뷰를, 서브이벤트를 처리해야 하는 계층구조 내의 최하위 뷰로서 식별한다. 대부분의 상황들에서, 히트 뷰는 개시되는 서브이벤트(예컨대, 이벤트 또는 잠재적 이벤트를 형성하는 서브이벤트들의 시퀀스에서의 제1 서브이벤트)가 발생하는 최하위 레벨 뷰이다. 일단 히트 뷰가 히트 뷰 결정 모듈(272)에 의해 식별되면, 히트 뷰는 전형적으로 그것이 히트 뷰로서 식별되게 한 것과 동일한 터치 또는 입력 소스에 관련된 모든 서브이벤트들을 수신한다.
활성 이벤트 인식기 결정 모듈(273)은 뷰 계층구조 내에서 어느 뷰 또는 뷰들이 서브이벤트들의 특정 시퀀스를 수신해야 하는지를 결정한다. 일부 실시예들에서, 활성 이벤트 인식기 결정 모듈(273)은 히트 뷰만이 서브이벤트들의 특정 시퀀스를 수신해야 하는 것으로 결정한다. 다른 실시예들에서, 활성 이벤트 인식기 결정 모듈(273)은 서브이벤트의 물리적 위치를 포함하는 모든 뷰들이 적극 참여 뷰(actively involved view)들인 것으로 결정하고, 그에 따라 모든 적극 참여 뷰들이 서브이벤트들의 특정 시퀀스를 수신해야 하는 것으로 결정한다. 다른 실시예들에서, 터치 서브이벤트들이 전적으로 하나의 특정 뷰와 연관된 영역으로 한정되었더라도, 계층구조 내의 상위 뷰들은 여전히 적극 참여 뷰들로서 유지될 것이다.
이벤트 디스패처 모듈(274)은 이벤트 정보를 이벤트 인식기(예컨대, 이벤트 인식기(280))에 디스패치한다. 활성 이벤트 인식기 결정 모듈(273)을 포함하는 실시예들에서, 이벤트 디스패처 모듈(274)은 이벤트 정보를 활성 이벤트 인식기 결정 모듈(273)에 의해 결정된 이벤트 인식기에 전달한다. 일부 실시예들에서, 이벤트 디스패처 모듈(274)은 이벤트 큐 내에 이벤트 정보를 저장하는데, 이벤트 정보는 개개의 이벤트 수신기(282)에 의해 인출된다.
일부 실시예들에서, 운영 체제(226)는 이벤트 분류기(270)를 포함한다. 대안적으로, 애플리케이션(236-1)은 이벤트 분류기(270)를 포함한다. 또 다른 실시예들에서, 이벤트 분류기(270)는 독립형 모듈이거나, 또는 접촉/모션 모듈(230)과 같이 메모리(202)에 저장되는 다른 모듈의 일부이다.
일부 실시예들에서, 애플리케이션(236-1)은 복수의 이벤트 핸들러(290) 및 하나 이상의 애플리케이션 뷰(291)를 포함하며, 이들의 각각은 애플리케이션의 사용자 인터페이스의 개개의 뷰 내에 발생하는 터치 이벤트들을 처리하기 위한 명령어들을 포함한다. 애플리케이션(236-1)의 각각의 애플리케이션 뷰(291)는 하나 이상의 이벤트 인식기들(280)을 포함한다. 전형적으로, 개개의 애플리케이션 뷰(291)는 복수의 이벤트 인식기(280)를 포함한다. 다른 실시예들에서, 이벤트 인식기들(280) 중 하나 이상은 사용자 인터페이스 키트(도시되지 않음) 또는 애플리케이션(236-1)이 방법들 및 다른 속성들을 물려받는 상위 레벨 객체와 같은 별개의 모듈의 일부이다. 일부 실시예들에서, 개개의 이벤트 핸들러(290)는 데이터 업데이터(276), 객체 업데이터(277), GUI 업데이터(278), 및/또는 이벤트 분류기(270)로부터 수신된 이벤트 데이터(279) 중 하나 이상을 포함한다. 이벤트 핸들러(290)는 데이터 업데이터(276), 객체 업데이터(277) 또는 GUI 업데이터(278)를 이용하거나 호출하여 애플리케이션 내부 상태(292)를 업데이트할 수 있다. 대안적으로, 애플리케이션 뷰들(291) 중 하나 이상은 하나 이상의 개개의 이벤트 핸들러(290)를 포함한다. 또한, 일부 실시예들에서, 데이터 업데이터(276), 객체 업데이터(277), 및 GUI 업데이터(278) 중 하나 이상은 개개의 애플리케이션 뷰(291) 내에 포함된다.
개개의 이벤트 인식기(280)는 이벤트 분류기(270)로부터 이벤트 정보(예컨대, 이벤트 데이터(279))를 수신하고 그 이벤트 정보로부터 이벤트를 식별한다. 이벤트 인식기(280)는 이벤트 수신기(282) 및 이벤트 비교기(284)를 포함한다. 일부 실시예들에서, 이벤트 인식기(280)는 또한 적어도 메타데이터(283) 및 이벤트 전달 명령어들(288)(서브이벤트 전달 명령어들을 포함할 수 있음)의 서브세트를 포함한다.
이벤트 수신기(282)는 이벤트 분류기(270)로부터 이벤트 정보를 수신한다. 이벤트 정보는 서브이벤트, 예를 들어 터치 또는 터치 이동에 관한 정보를 포함한다. 서브이벤트에 따라, 이벤트 정보는 또한 서브이벤트의 위치와 같은 추가 정보를 포함한다. 서브이벤트가 터치의 모션에 관한 것일 때, 이벤트 정보는 또한 서브이벤트의 속력 및 방향을 포함할 수 있다. 일부 실시예들에서, 이벤트들은 하나의 배향으로부터 다른 배향으로(예컨대, 세로 배향으로부터 가로 배향으로, 또는 그 반대로)의 디바이스의 회전을 포함하며, 이벤트 정보는 디바이스의 현재 배향(디바이스 자세로도 지칭됨)에 관한 대응하는 정보를 포함한다.
이벤트 비교기(284)는 이벤트 정보를 미리정의된 이벤트 또는 서브이벤트 정의들과 비교하고, 그 비교에 기초하여, 이벤트 또는 서브이벤트를 결정하거나, 이벤트 또는 서브이벤트의 상태를 결정 또는 업데이트한다. 일부 실시예들에서, 이벤트 비교기(284)는 이벤트 정의들(286)을 포함한다. 이벤트 정의들(286)은 이벤트들(예컨대, 서브이벤트들의 미리정의된 시퀀스들), 예를 들어 이벤트 1(287-1), 이벤트 2(287-2) 등의 정의들을 포함한다. 일부 실시예들에서, 이벤트(287) 내의 서브이벤트들은, 예를 들어, 터치 시작, 터치 종료, 터치 이동, 터치 취소, 및 다중 터치를 포함한다. 일례에서, 이벤트 1(287-1)에 대한 정의는 디스플레이된 객체 상에의 더블 탭이다. 더블 탭은, 예를 들어, 미리결정된 페이즈(phase) 동안의 디스플레이된 객체 상의 제1 터치(터치 시작), 미리결정된 페이즈 동안의 제1 리프트오프(터치 종료), 미리결정된 페이즈 동안의 디스플레이된 객체 상의 제2 터치(터치 시작), 및 미리결정된 페이즈 동안의 제2 리프트오프(터치 종료)를 포함한다. 다른 예에서, 이벤트 2(287-2)에 대한 정의는 디스플레이된 객체 상에의 드래깅이다. 드래깅은, 예를 들어, 미리결정된 페이즈 동안의 디스플레이된 객체 상의 터치(또는 접촉), 터치 감응형 디스플레이(212)를 가로지르는 터치의 이동, 및 터치의 리프트오프(터치 종료)를 포함한다. 일부 실시예들에서, 이벤트는 또한 하나 이상의 연관된 이벤트 핸들러(290)에 대한 정보를 포함한다.
일부 실시예들에서, 이벤트 정의(287)는 개개의 사용자 인터페이스 객체에 대한 이벤트의 정의를 포함한다. 일부 실시예들에서, 이벤트 비교기(284)는 어느 사용자 인터페이스 객체가 서브이벤트와 연관되는지 결정하도록 히트 테스트(hit test)를 수행한다. 예를 들어, 3개의 사용자 인터페이스 객체들이 터치 감응형 디스플레이(212) 상에 디스플레이된 애플리케이션 뷰에서, 터치 감응형 디스플레이(212) 상에서 터치가 검출되는 경우, 이벤트 비교기(284)는 3개의 사용자 인터페이스 객체 중 어느 것이 터치(서브이벤트)와 연관되는지를 결정하도록 히트 테스트를 수행한다. 각각의 디스플레이된 객체가 개개의 이벤트 핸들러(290)와 연관되는 경우, 이벤트 비교기는 어느 이벤트 핸들러(290)가 활성화되어야 하는지 결정하는 데 히트 테스트의 결과를 이용한다. 예를 들어, 이벤트 비교기(284)는 히트 테스트를 트리거하는 객체 및 서브이벤트와 연관된 이벤트 핸들러를 선택한다.
일부 실시예들에서, 개개의 이벤트(287)에 대한 정의는 또한 서브이벤트들의 시퀀스가 이벤트 인식기의 이벤트 유형에 대응하는지 대응하지 않는지 여부가 결정된 후까지 이벤트 정보의 전달을 지연하는 지연된 동작들을 포함한다.
개개의 이벤트 인식기(280)가 일련의 서브이벤트들이 이벤트 정의들(286) 내의 이벤트들 중 어떠한 것과도 매칭되지 않는 것으로 결정하면, 개개의 이벤트 인식기(280)는 이벤트 불가능, 이벤트 실패, 또는 이벤트 종료 상태에 진입하고, 그 후 개개의 이벤트 인식기는 터치 기반 제스처의 후속적인 서브이벤트들을 무시한다. 이러한 상황에서, 만일 있다면, 히트 뷰에 대해 활성 상태로 유지되는 다른 이벤트 인식기들이 진행 중인 터치 기반 제스처의 서브이벤트들을 계속해서 추적 및 프로세싱한다.
일부 실시예들에서, 개개의 이벤트 인식기(280)는 이벤트 전달 시스템이 어떻게 적극 참여 이벤트 인식기들에 대한 서브이벤트 전달을 수행해야 하는지를 나타내는 구성가능한 속성들, 플래그(flag)들, 및/또는 목록들을 갖는 메타데이터(283)를 포함한다. 일부 실시예들에서, 메타데이터(283)는 이벤트 인식기들이 어떻게 서로 상호작용할 수 있는지, 또는 상호작용하도록 인에이블되는지를 나타내는 구성가능한 속성들, 플래그들, 및/또는 목록들을 포함한다. 일부 실시예들에서, 메타데이터(283)는, 서브이벤트들이 뷰 또는 프로그램 계층구조에서의 다양한 레벨들에 전달되는지 여부를 나타내는 구성가능한 속성들, 플래그들, 및/또는 목록들을 포함한다.
일부 실시예들에서, 개개의 이벤트 인식기(280)는 이벤트의 하나 이상의 특정 서브이벤트가 인식될 때 이벤트와 연관된 이벤트 핸들러(290)를 활성화시킨다. 일부 실시예들에서, 개개의 이벤트 인식기(280)는 이벤트와 연관된 이벤트 정보를 이벤트 핸들러(290)에 전달한다. 이벤트 핸들러(290)를 활성화시키는 것은 개개의 히트 뷰에 서브이벤트들을 전송(및 지연 전송)하는 것과는 별개이다. 일부 실시예들에서, 이벤트 인식기(280)는 인식된 이벤트와 연관된 플래그를 보내고, 그 플래그와 연관된 이벤트 핸들러(290)는 그 플래그를 캐치하고 미리정의된 프로세스를 수행한다.
일부 실시예들에서, 이벤트 전달 명령어들(288)은 이벤트 핸들러를 활성화시키지 않으면서 서브이벤트에 관한 이벤트 정보를 전달하는 서브이벤트 전달 명령어들을 포함한다. 대신에, 서브이벤트 전달 명령어들은 일련의 서브이벤트들과 연관된 이벤트 핸들러들에 또는 적극 참여 뷰들에 이벤트 정보를 전달한다. 일련의 서브이벤트들 또는 적극 참여 뷰들과 연관된 이벤트 핸들러들은 이벤트 정보를 수신하고 미리결정된 프로세스를 수행한다.
일부 실시예들에서, 데이터 업데이터(276)는 애플리케이션(236-1)에서 이용되는 데이터를 생성 및 업데이트한다. 예를 들어, 데이터 업데이터(276)는 연락처 모듈(237)에서 이용되는 전화 번호를 업데이트하거나, 비디오 재생기 모듈에서 이용되는 비디오 파일을 저장한다. 일부 실시예들에서, 객체 업데이터(277)는 애플리케이션(236-1)에서 이용되는 객체들을 생성 및 업데이트한다. 예를 들어, 객체 업데이터(277)는 새로운 사용자 인터페이스 객체를 생성하거나, 또는 사용자 인터페이스 객체의 위치를 업데이트한다. GUI 업데이터(278)는 GUI를 업데이트한다. 예를 들어, GUI 업데이터(278)는 터치 감응형 디스플레이 상의 디스플레이를 위해 디스플레이 정보를 준비하고 이를 그래픽 모듈(232)에 전송한다.
일부 실시예들에서, 이벤트 핸들러(들)(290)는 데이터 업데이터(276), 객체 업데이터(277), 및 GUI 업데이터(278)를 포함하거나 이들에 액세스한다. 일부 실시예들에서, 데이터 업데이터(276), 객체 업데이터(277), 및 GUI 업데이터(278)는 개개의 애플리케이션(236-1) 또는 애플리케이션 뷰(291)의 단일 모듈 내에 포함된다. 다른 실시예들에서, 이들은 2개 이상의 소프트웨어 모듈 내에 포함된다.
터치 감응형 디스플레이들 상의 사용자 터치들의 이벤트 처리에 관하여 전술한 논의는 또한 입력 디바이스들을 갖는 다기능 디바이스들(200)을 동작시키기 위한 다른 형태들의 사용자 입력들에도 적용되지만, 그 모두가 터치 스크린들 상에서 개시되는 것이 아니라는 것을 이해해야 한다. 예를 들어, 단일 또는 다수의 키보드 누르기 또는 유지(hold)와 선택적으로 조화된 마우스 이동 및 마우스 버튼 누르기; 터치패드 상에서의, 탭, 드래그, 스크롤 등과 같은 접촉 이동들; 펜 스타일러스 입력들; 디바이스의 이동; 구두 명령어들; 검출된 눈 이동들; 생체 측정 입력들; 및/또는 이들의 임의의 조합은, 인식될 이벤트를 정의하는 서브이벤트들에 대응하는 입력들로서 선택적으로 이용된다.
도 3은 일부 실시예들에 따른, 터치 스크린(212)을 갖는 휴대용 다기능 디바이스(200)를 도시한다. 터치 스크린은, 선택적으로, 사용자 인터페이스(UI)(300) 내에서 하나 이상의 그래픽을 디스플레이한다. 이러한 실시예는 물론 아래에 기술되는 다른 실시예들에서, 사용자는, 예를 들어, 하나 이상의 손가락(302)(도면에서 축척대로 도시되지 않음) 또는 하나 이상의 스타일러스(303)(도면에서 축척대로 도시되지 않음)를 이용하여 그래픽 상에 제스처를 행함으로써 그래픽들 중 하나 이상을 선택하는 것이 가능하게 된다. 일부 실시예들에서, 하나 이상의 그래픽의 선택은 사용자가 하나 이상의 그래픽과의 접촉을 중단할 때 발생한다. 일부 실시예들에서, 제스처는 선택적으로 디바이스(200)와 접촉한 손가락의 하나 이상의 탭들, (좌에서 우로, 우에서 좌로, 위로 및/또는 아래로의) 하나 이상의 스와이프, 및/또는 (우에서 좌로, 좌에서 우로, 위로 및/또는 아래로의) 롤링을 포함한다. 일부 구현예들 또는 상황들에서, 그래픽과의 의도하지 않은 접촉은 그래픽을 선택하지 않는다. 예를 들어, 선택에 대응하는 제스처가 탭일 때, 애플리케이션 아이콘 위를 스윕(sweep)하는 스와이프 제스처는 선택적으로, 대응하는 애플리케이션을 선택하지 않는다.
디바이스(200)는 또한 "홈" 또는 메뉴 버튼(304)과 같은 하나 이상의 물리적 버튼을 포함할 수 있다. 전술한 바와 같이, 메뉴 버튼(304)은 디바이스(200) 상에서 실행될 수 있는 애플리케이션들의 세트 내의 임의의 애플리케이션(236)으로 내비게이팅하기 위해 사용될 수 있다. 대안적으로, 일부 실시예들에서, 메뉴 버튼은 터치 스크린(212) 상에 디스플레이된 GUI에서 소프트 키로서 구현된다.
일 실시예에서, 디바이스(200)는 터치 스크린(212), 메뉴 버튼(304), 디바이스의 전원을 온/오프하고 디바이스를 잠그기 위한 푸시 버튼(306), 음량 조절 버튼(들)(308), 가입자 식별 모듈(SIM) 카드 슬롯(310), 헤드셋 잭(312), 및 도킹/충전 외부 포트(224)를 포함한다. 푸시 버튼(306)은 선택적으로 버튼을 누르고 버튼을 미리정의된 시간 간격 동안 누른 상태로 유지함으로써 디바이스의 전력을 온/오프시키고; 버튼을 누르고 미리정의된 시간 간격이 경과하기 전에 버튼을 누름해제함으로써 디바이스를 잠그고; 그리고/또는 디바이스를 잠금해제하거나 잠금해제 프로세스를 개시하는 데 사용된다. 대안적인 실시예에서, 디바이스(200)는 또한 마이크로폰(213)을 통해 일부 기능들의 활성화 또는 비활성화를 위한 구두 입력을 수용한다. 디바이스(200)는 또한, 옵션적으로, 터치 스크린(212) 상의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서(265) 및/또는 디바이스(200)의 사용자를 위해 촉각적 출력들을 생성하기 위한 하나 이상의 촉각적 출력 생성기(267)를 포함한다.
도 4는 일부 실시예들에 따른, 디스플레이 및 터치 감응형 표면을 갖는 예시적인 다기능 디바이스의 블록도이다. 디바이스(400)가 휴대용일 필요는 없다. 일부 실시예들에서, 디바이스(400)는, 랩톱 컴퓨터, 데스크톱 컴퓨터, 태블릿 컴퓨터, 멀티미디어 재생기 디바이스, 내비게이션 디바이스, (어린이 학습 장난감과 같은) 교육용 디바이스, 게이밍 시스템, 또는 제어 디바이스(예컨대, 가정용 또는 산업용 제어기)이다. 디바이스(400)는 전형적으로 하나 이상의 프로세싱 유닛(CPU)(410), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(460), 메모리(470), 및 이들 컴포넌트를 상호연결하기 위한 하나 이상의 통신 버스(420)를 포함한다. 통신 버스들(420)은 선택적으로 시스템 컴포넌트들을 상호접속하고 이들 사이의 통신을 제어하는 회로부(때때로 칩셋이라고 지칭됨)를 포함한다. 디바이스(400)는 전형적으로 터치 스크린 디스플레이인 디스플레이(440)를 포함하는 입/출력(I/O) 인터페이스(430)를 포함한다. I/O 인터페이스(430)는 또한, 옵션적으로, 키보드 및/또는 마우스(또는 다른 포인팅 디바이스)(450) 및 터치 패드(455), 디바이스(400) 상에 촉각적 출력들을 생성하기 위한 촉각적 출력 생성기(457)(예컨대, 도 2a를 참조하여 전술된 촉각적 출력 생성기(들)(267)와 유사함), 및 센서들(459)(예컨대, 도 2a를 참조하여 전술된 접촉 세기 센서(들)(265)와 유사한 광 센서, 가속도 센서, 근접 센서, 터치 감응형 센서, 및/또는 접촉 세기 센서)을 포함한다. 메모리(470)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은 고속 랜덤 액세스 메모리를 포함하며; 옵션적으로 하나 이상의 자기 디스크 저장 디바이스, 광 디스크 저장 디바이스, 플래시 메모리 디바이스, 또는 다른 비휘발성 솔리드 스테이트 저장 디바이스와 같은 비휘발성 메모리를 포함한다. 메모리(470)는 선택적으로 CPU(들)(410)로부터 다른 곳에 위치하는 하나 이상의 저장 디바이스를 포함한다. 일부 실시예들에서, 메모리(470)는 휴대용 다기능 디바이스(200)(도 2a)의 메모리(202)에 저장된 프로그램들, 모듈들, 및 데이터 구조들과 유사한 프로그램들, 모듈들, 및 데이터 구조들, 또는 이들의 서브세트를 저장한다. 또한, 메모리(470)는, 선택적으로, 휴대용 다기능 디바이스(200)의 메모리(202) 내에 존재하지 않는 추가의 프로그램들, 모듈들 및 데이터 구조들을 저장한다. 예를 들어, 디바이스(400)의 메모리(470)는, 옵션적으로, 드로잉 모듈(480), 프레젠테이션 모듈(482), 워드 프로세싱 모듈(484), 웹사이트 제작 모듈(486), 디스크 저작 모듈(488), 및/또는 스프레드시트 모듈(490)을 저장하는 반면, 휴대용 다기능 디바이스(200)(도 2a)의 메모리(202)는, 옵션적으로, 이들 모듈들을 저장하지 않는다.
도 4에서의 앞서 식별된 요소들 각각은 이전에 언급된 메모리 디바이스들 중 하나 이상에 저장될 수 있다. 앞서 식별된 모듈들 각각은 전술된 기능을 수행하기 위한 명령어들의 세트에 대응한다. 앞서 식별된 모듈들 또는 프로그램들(예컨대, 명령어들의 세트들)은 별개의 소프트웨어 프로그램들, 절차들 또는 모듈들로서 구현될 필요는 없으며, 따라서 이 모듈들의 다양한 서브세트들이 다양한 실시예들에서 조합되거나 다른 방식으로 재배열될 수 있다. 일부 실시예들에서, 메모리(470)는 앞서 식별된 모듈들 및 데이터 구조들의 서브세트를 저장할 수 있다. 또한, 메모리(470)는 전술되지 않은 추가의 모듈들 및 데이터 구조들을 저장할 수 있다.
이제, 예를 들어 휴대용 다기능 디바이스(200) 상에서 구현될 수 있는 사용자 인터페이스들의 실시예들을 살펴본다.
도 5a는 일부 실시예들에 따른, 휴대용 다기능 디바이스(200) 상의 애플리케이션들의 메뉴에 대한 예시적인 사용자 인터페이스를 도시한다. 유사한 사용자 인터페이스들이 디바이스(400) 상에 구현될 수 있다. 일부 실시예들에서, 사용자 인터페이스(500)는 하기의 요소들, 또는 그들의 서브세트나 수퍼세트를 포함한다:
셀룰러 및 Wi-Fi 신호들과 같은 무선 통신(들)에 대한 신호 강도 표시자(들)(502);
o
부재 중 전화들 또는 음성메일 메시지들의 개수의 표시자(514)를 선택적으로 포함하는 "전화"라고 라벨링된 전화 모듈(238)에 대한 아이콘(516);
o
읽지 않은 이메일들의 개수의 표시자(510)를 선택적으로 포함하는 "메일"이라고 라벨링된 이메일 클라이언트 모듈(240)에 대한 아이콘(518);
o
"브라우저"라고 라벨링된 브라우저 모듈(247)에 대한 아이콘(520);및
o
아이팟(애플 인크.의 상표) 모듈(252)로도 지칭되는, "아이팟"이라고 라벨링된 비디오 및 음악 재생기 모듈(252)에 대한 아이콘(522);및
o
"메시지"라고 라벨링된 IM 모듈(241)에 대한 아이콘(524);
o
"캘린더"라고 라벨링된 캘린더 모듈(248)에 대한 아이콘(526);
o
"사진"이라고 라벨링된 이미지 관리 모듈(244)에 대한 아이콘(528);
o
"카메라"라고 라벨링된 카메라 모듈(243)에 대한 아이콘(530);
o
"온라인 비디오"라고 라벨링된 온라인 비디오 모듈(255)에 대한 아이콘(532);
o
"주식"이라고 라벨링된 주식 위젯(249-2)에 대한 아이콘(534);
o
"지도"라고 라벨링된 지도 모듈(254)에 대한 아이콘(536);
o
"날씨"라고 라벨링된 날씨 위젯(249-1)에 대한 아이콘(538);
o
"시계"라고 라벨링된 알람 시계 위젯(249-4)에 대한 아이콘(540);
o
"운동 지원"이라고 라벨링된 운동 지원 모듈(242)에 대한 아이콘(542);
o
"메모"라고 라벨링된 메모 모듈(253)에 대한 아이콘(544); 및
o
디바이스(200) 및 그의 다양한 애플리케이션들(236)에 대한 설정에의 액세스를 제공하는, "설정"이라고 라벨링된, 설정 애플리케이션 또는 모듈에 대한 아이콘(546).
도 5a에 도시된 아이콘 라벨들은 단지 예시적인 것임에 유의해야 한다. 예를 들어, 비디오 및 음악 재생기 모듈(252)에 대한 아이콘(522)은 옵션적으로 "음악" 또는 "음악 재생기"라고 라벨링될 수 있다. 기타 라벨들이 옵션적으로 다양한 애플리케이션 아이콘들에 대해 사용된다. 일부 실시예들에서, 개개의 애플리케이션 아이콘에 대한 라벨은 개개의 애플리케이션 아이콘에 대응하는 애플리케이션의 이름을 포함한다. 일부 실시예들에서, 특정 애플리케이션 아이콘에 대한 라벨은 특정 애플리케이션 아이콘에 대응하는 애플리케이션의 이름과 별개이다.
도 5b는 디스플레이(550)(예컨대, 터치 스크린 디스플레이(212))와 별개인 터치 감응형 표면(551)(예컨대, 태블릿 또는 터치패드(455), 도 4)을 갖는 디바이스(예컨대, 디바이스(400), 도 4) 상의 예시적인 사용자 인터페이스를 도시한다. 디바이스(400)는 또한, 선택적으로, 터치 감응형 표면(551) 상의 접촉들의 세기를 검출하기 위한 하나 이상의 접촉 세기 센서(예컨대, 센서들(457) 중 하나 이상) 및/또는 디바이스(400)의 사용자에 대한 촉각적 출력들을 생성하기 위한 하나 이상의 촉각적 출력 생성기(459)를 포함한다.
후속하는 일부 예들이(터치 감응형 표면과 디스플레이가 조합된) 터치 스크린 디스플레이(212) 상의 입력들을 참조하여 제공될 것이지만, 일부 실시예들에서, 디바이스는 도 5b에 도시된 바와 같이 디스플레이와 별개인 터치 감응형 표면 상의 입력들을 검출한다. 일부 실시예들에서, 터치 감응형 표면(예컨대, 도 5b의 551)은 디스플레이(예컨대, 550) 상의 주축(예컨대, 도 5b의 553)에 대응하는 주축(예컨대, 도 5b의 552)을 갖는다. 이 실시예들에 따르면, 디바이스는 디스플레이 상의 개개의 위치들에 대응하는 위치들(예컨대, 도 5b에서, 560은 568에 대응하고, 562는 570에 대응함)에서 터치 감응형 표면(551)과의 접촉들(예컨대, 도 5b의 560, 562)을 검출한다. 이러한 방식으로, 터치 감응형 표면(예컨대, 도 5b의 551) 상에서 디바이스에 의해 검출된 사용자 입력들(예컨대, 접촉들(560, 562) 및 그 이동들)은 터치 감응형 표면이 디스플레이와 별개일 때 디바이스에 의해 다기능 디바이스의 디스플레이(예컨대, 도 5b의 550) 상의 사용자 인터페이스를 조작하는 데 사용된다. 유사한 방법들이, 선택적으로, 본 명세서에 기술된 다른 사용자 인터페이스들에 이용된다는 것이 이해되어야 한다.
추가로, 하기의 예들이 손가락 입력들(예컨대, 손가락 접촉들, 손가락 탭 제스처들, 및/또는 손가락 스와이프 제스처들)을 주로 참조하여 주어지는 반면, 일부 실시예들에서, 손가락 입력들 중 하나 이상은 다른 입력 디바이스로부터의 입력(예컨대, 마우스 기반 입력 또는 스타일러스 입력)으로 대체된다는 것이 이해되어야 한다. 예를 들면, 스와이프 제스처가 선택적으로 (예컨대, 접촉 대신의) 마우스 클릭 및 뒤이은 (예컨대, 접촉의 이동 대신의) 스와이프의 경로를 따른 커서의 이동으로 대체된다. 다른 예로서, (예컨대, 접촉의 검출 및 뒤이은 접촉을 검출하는 것이 중지되는 것 대신에) 커서가 탭 제스처의 위치 위에 위치되는 동안에 탭 제스처가 선택적으로 마우스 클릭으로 대체된다. 유사하게, 다수의 사용자 입력이 동시에 검출되는 경우, 다수의 컴퓨터 마우스가 선택적으로 동시에 사용되거나, 또는 마우스와 손가락 접촉들이 선택적으로 동시에 사용되는 것으로 이해하여야 한다.
도 6a는 예시적인 개인 전자 디바이스(600)를 도시한다. 디바이스(600)는 몸체(602)를 포함한다. 일부 실시예들에서, 디바이스(600)는 디바이스들(200, 400)(예컨대, 도 2a 내지 도 4b)에 대하여 기술된 특징부들의 일부 또는 전부를 포함할 수 있다. 일부 실시예들에서, 디바이스(600)는 터치 감응형 디스플레이 스크린(604)(이하, 터치 스크린(604))을 갖는다. 터치 스크린(604)에 대한 대안으로 또는 추가로, 디바이스(600)는 디스플레이 및 터치 감응형 표면을 갖는다. 디바이스들(200, 400)에서와 같이, 일부 실시예들에서, 터치 스크린(604)(또는 터치 감응형 표면)은 가해지는 접촉들(예컨대, 터치들)의 세기를 검출하기 위한 하나 이상의 세기 센서를 가질 수 있다. 터치 스크린(604)(또는 터치 감응형 표면)의 하나 이상의 세기 센서는 터치들의 세기를 표현하는 출력 데이터를 제공할 수 있다. 디바이스(600)의 사용자 인터페이스는 터치들의 세기에 기초하여 터치들에 응답할 수 있고, 이는 상이한 세기들의 터치들이 디바이스(600) 상의 상이한 사용자 인터페이스 동작들을 호출할 수 있다는 것을 의미한다.
터치 세기를 검출 및 프로세싱하기 위한 기술들은, 예를 들어, 관련 출원들: 2013년 5월 8일자로 출원되고 발명의 명칭이 "Device, Method, and Graphical User Interface for Displaying User Interface Objects Corresponding to an Application"인 국제 특허 출원 제PCT/US2013/040061호, 및 2013년 11월 11일자로 출원되고 발명의 명칭이 "Device, Method, and Graphical User Interface for Transitioning Between Touch Input to Display Output Relationships"인 국제 특허 출원 제PCT/US2013/069483호에서 찾을 수 있으며, 이들 각각은 그 전문이 본 명세서에 참조로서 편입된다.
일부 실시예들에서, 디바이스(600)는 하나 이상의 입력 메커니즘(606, 608)을 갖는다. 입력 메커니즘들(606, 608)(포함되어 있는 경우)은 물리적인 것일 수 있다. 물리적 입력 메커니즘들의 예들은 푸시 버튼들 및 회전가능 메커니즘들을 포함한다. 일부 실시예들에서, 디바이스(600)는 하나 이상의 부착 메커니즘들을 갖는다. 이러한 부착 메커니즘들(포함되어 있는 경우)은 디바이스(600)가, 예를 들어, 모자, 안경, 귀걸이, 목걸이, 셔츠, 재킷, 팔찌, 시계줄, 쇠줄(chain), 바지, 벨트, 신발, 지갑, 배낭 등에 부착될 수 있게 한다. 이들 부착 메커니즘들은 디바이스(600)가 사용자에 의해 착용되게 할 수 있다.
도 6b는 예시적인 개인 전자 디바이스(600)를 도시한다. 일부 실시예들에서, 디바이스(600)는 도 2a, 도 2b, 및 도 4에 대하여 기술된 컴포넌트들의 일부 또는 전부를 포함할 수 있다. 디바이스(600)는 I/O 섹션(614)을 하나 이상의 컴퓨터 프로세서(616) 및 메모리(618)와 동작가능하게 결합하는 버스(612)를 갖는다. I/O 섹션(614)은 터치 감응형 컴포넌트(622), 및 옵션적으로, 터치 세기 감응형 컴포넌트(624)를 가질 수 있는 디스플레이(604)에 연결될 수 있다. 더욱이, I/O 섹션(614)은, Wi-Fi, 블루투스, 근거리 통신(NFC), 셀룰러 및/또는 다른 무선 통신 기법들을 사용하여, 애플리케이션 및 운영 체제 데이터를 수신하기 위해 통신 유닛(630)과 연결될 수 있다. 디바이스(600)는 입력 메커니즘들(606 및/또는 608)을 포함할 수 있다. 입력 메커니즘(606)은, 예를 들어, 회전가능 입력 디바이스 또는 누름가능 및 회전가능 입력 디바이스일 수 있다. 입력 메커니즘(608)은, 일부 예들에서, 버튼일 수 있다.
입력 메커니즘(608)은, 일부 예들에서, 마이크로폰일 수 있다. 개인용 전자 디바이스(600)는, GPS 센서(632), 가속도계(634), 방향 센서(640)(예컨대, 나침반), 자이로스코프(636), 모션 센서(638), 및/또는 이들의 조합과 같은, 다양한 센서들을 포함할 수 있고, 이들 모두는 I/O 섹션(614)에 동작가능하게 연결될 수 있다.
개인 전자 디바이스(600)의 메모리(618)는, 예를 들어, 하나 이상의 컴퓨터 프로세서(616)에 의해 실행될 때, 컴퓨터 프로세서들로 하여금, 프로세스(1200)(도 12a 내지 도 12d)를 포함하는, 후술되는 기법들을 수행하게 할 수 있는, 컴퓨터 실행가능한 명령어들을 저장하기 위한 비일시적인 컴퓨터 판독가능 저장 매체일 수 있다. 컴퓨터 실행가능한 명령어들은 또한, 명령어 실행 시스템, 장치 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 컴퓨터 기반 시스템, 프로세서 포함(processor-containing) 시스템, 또는 다른 시스템과 같은, 명령어 실행 시스템, 장치 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 임의의 비일시적 컴퓨터 판독가능 저장 매체 내에 저장 및/또는 전달될 수 있다. 개인 전자 디바이스(600)는 도 6b의 컴포넌트들 및 구성에 한정되지 않고, 다수의 구성들에서 다른 또는 추가적인 컴포넌트들을 포함할 수 있다.
본 명세서에서 사용되는 바와 같이, "어포던스"라는 용어는 디바이스들(200, 400, 및/또는 600)(도 2, 도 4, 및 도 6)의 디스플레이 스크린 상에 디스플레이될 수 있는 사용자 상호작용 그래픽 사용자 인터페이스 객체(user-interactive graphical user interface object)를 지칭한다. 예를 들어, 이미지(예컨대, 아이콘), 버튼, 및 텍스트(예컨대, 링크)는 각각이 어포던스를 구성할 수 있다.
본 명세서에 사용되는 바와 같이, "포커스 선택자(focus selector)"라는 용어는 사용자와 상호작용하고 있는 사용자 인터페이스의 현재 부분을 나타내는 입력 요소를 지칭한다. 커서 또는 다른 위치 마커(location marker)를 포함하는 일부 구현예들에서, 커서가 특정의 사용자 인터페이스 요소(예컨대, 버튼, 창, 슬라이더 또는 다른 사용자 인터페이스 요소) 위에 있는 동안 터치 감응형 표면(예컨대, 도 4의 터치 패드(455) 또는 도 5b의 터치 감응형 표면(551)) 상에서 입력(예컨대, 누르기 입력)이 검출될 때, 특정의 사용자 인터페이스 요소가 검출된 입력에 따라 조정되도록, 커서가 "포커스 선택자"로서 기능한다. 터치 스크린 디스플레이 상의 사용자 인터페이스 요소들과의 직접적인 상호작용을 가능하게 하는 터치 스크린 디스플레이(예컨대, 도 2a의 터치 감응형 디스플레이 시스템(212) 또는 도 5a의 터치 스크린(212))를 포함하는 일부 구현예들에서, 입력(예컨대, 접촉에 의한 누르기 입력)이 특정의 사용자 인터페이스 요소(예컨대, 버튼, 창, 슬라이더 또는 다른 사용자 인터페이스 요소)의 위치에 있는 터치 스크린 디스플레이 상에서 검출될 때, 특정의 사용자 인터페이스 요소가 검출된 입력에 따라 조정되도록, 터치 스크린 상의 검출된 접촉이 "포커스 선택자"로서 기능한다. 일부 구현예들에서, (예를 들어 포커스를 하나의 버튼으로부터 다른 버튼으로 움직이도록 탭 키 또는 화살표 키를 사용함으로써) 터치 스크린 디스플레이 상의 대응하는 커서의 이동 또는 접촉의 이동 없이 포커스가 사용자 인터페이스의 하나의 구역으로부터 사용자 인터페이스의 다른 구역으로 이동되며; 이러한 구현예들에서, 포커스 선택자는 사용자 인터페이스의 상이한 영역들 사이에서의 포커스의 이동에 따라 움직인다. 포커스 선택자가 갖는 특정 형태와 무관하게, 포커스 선택자는 일반적으로 (예컨대, 사용자가 상호작용하고자 하는 사용자 인터페이스의 요소를 디바이스에 나타내는 것에 의해) 사용자 인터페이스와의 사용자의 의도된 상호작용을 전달하기 위해 사용자에 의해 제어되는 사용자 인터페이스 요소(또는 터치 스크린 디스플레이 상의 접촉)이다. 예를 들어, 터치 감응형 표면(예컨대, 터치패드 또는 터치 스크린) 상에서 누르기 입력이 검출되는 동안 개개의 버튼 위의 포커스 선택자(예컨대, 커서, 접촉 또는 선택 상자)의 위치는 (디바이스의 디스플레이 상에 보여지는 다른 사용자 인터페이스 요소들과 달리) 사용자가 개개의 버튼을 활성화시키려고 하고 있다는 것을 나타낼 것이다.
명세서 및 청구범위에서 사용되는 바와 같이, 접촉의 "특성 세기"라는 용어는 접촉의 하나 이상의 세기들에 기초한 접촉의 특성을 지칭한다. 일부 실시예들에서, 특성 세기는 다수의 세기 샘플들에 기초한다. 특성 세기는, 선택적으로, 미리정의된 수의 세기 샘플들, 또는 미리정의된 이벤트에 대해 (예컨대, 접촉을 검출한 후에, 접촉의 리프트오프를 검출하기 이전에, 접촉의 이동의 시작을 검출하기 이전 또는 이후에, 접촉의 종료를 검출하기 이전에, 접촉의 세기의 증가를 검출하기 이전 또는 이후에, 및/또는 접촉의 세기의 감소를 검출하기 이전 또는 이후에) 미리결정된 기간(예컨대, 0.05, 0.1, 0.2, 0.5, 1, 2, 5, 10 초) 동안 수집된 세기 샘플들의 세트에 기초한다. 접촉의 특성 세기는, 옵션적으로, 접촉의 세기들의 최대 값, 접촉의 세기들의 중간 값(mean value), 접촉의 세기들의 평균값(average value), 접촉의 세기들의 상위 10 백분위 값(top 10 percentile value), 접촉의 세기들의 최대 값의 절반의 값, 접촉의 세기들의 최대 값의 90 퍼센트의 값 등 중 하나 이상에 기초한다. 일부 실시예들에서, 접촉의 지속기간은 (예컨대, 특성 세기가 시간의 경과에 따른 접촉의 세기의 평균일 때) 특성 세기를 결정하는 데 사용된다. 일부 실시예들에서, 동작이 사용자에 의해 수행되었는지 여부를 결정하기 위해, 특성 세기가 하나 이상의 세기 임계치들의 세트와 비교된다. 예를 들어, 하나 이상의 세기 임계치의 세트는 제1 세기 임계치 및 제2 세기 임계치를 포함할 수 있다. 이 예에서, 제1 임계치를 초과하지 않는 특성 세기를 갖는 접촉의 결과, 제1 동작이 행해지고, 제1 세기 임계치를 초과하지만 제2 세기 임계치를 초과하지 않는 특성 세기를 갖는 접촉의 결과, 제2 동작이 행해지며, 제2 임계치 초과의 특성 세기를 갖는 접촉의 결과, 제3 동작이 행해진다. 일부 실시예들에서, 특성 세기와 하나 이상의 임계치 간의 비교는, 제1 동작을 수행할 것인지 제2 동작을 수행할 것인지 결정하기 위해 사용되기보다는, 하나 이상의 동작을 수행할지 여부(예컨대, 개개의 동작을 수행할지 또는 개개의 동작을 수행하는 것을 보류할지 여부)를 결정하기 위해 사용된다.
일부 실시예들에서, 특성 세기를 결정하기 위해 제스처의 일부분이 식별된다. 예를 들어, 터치 감응형 표면은 시작 위치로부터 이동하여 종료 위치(이 지점에서 접촉의 세기가 증가함)에 도달하는 연속적인 스와이프 접촉을 수신할 수 있다. 이 예에서, 종료 위치에서의 접촉의 특성 세기는 스와이프 접촉 전체가 아니라 연속적인 스와이프 접촉의 일부분에만(예컨대, 종료 위치에서의 스와이프 접촉의 부분에만) 기초할 수 있다. 일부 실시예들에서, 접촉의 특성 세기를 결정하기 전에 스와이프 접촉의 세기들에 평활화 알고리즘(smoothing algorithm)이 적용될 수 있다. 예를 들어, 평활화 알고리즘은, 선택적으로, 비가중 이동 평균(unweighted sliding-average) 평활화 알고리즘, 삼각(triangular) 평활화 알고리즘, 메디안 필터(median filter) 평활화 알고리즘, 및/또는 지수(exponential) 평활화 알고리즘 중 하나 이상을 포함한다. 일부 상황들에서, 이 평활화 알고리즘들은 특성 세기를 결정하기 위해 스와이프 접촉의 세기들에서의 좁은 급등(spike)들 또는 급감(dip)들을 제거한다.
터치 감응형 표면 상에서의 접촉의 세기는, 접촉-검출 세기 임계치, 가볍게 누르기 세기 임계치, 깊게 누르기 세기 임계치, 및/또는 하나 이상의 다른 세기 임계치와 같은, 하나 이상의 세기 임계치에 대해 특성화될 수 있다. 일부 실시예들에서, 가볍게 누르기 세기 임계치는, 디바이스가 물리적 마우스의 버튼 또는 트랙패드를 클릭하는 것과 전형적으로 연관된 동작들을 수행하게 될 세기에 대응한다. 일부 실시예들에서, 깊게 누르기 세기 임계치는, 디바이스가 물리적 마우스의 버튼 또는 트랙패드를 클릭하는 것과 전형적으로 연관된 동작들과 상이한 동작들을 수행하게 될 세기에 대응한다. 일부 실시예들에서, 접촉이 가볍게 누르기 세기 임계치 미만의(예컨대, 그리고 공칭 접촉-검출 세기 임계치(이 미만에서는 접촉이 더 이상 검출되지 않음) 초과의) 특성 세기로 검출될 때, 디바이스는 가볍게 누르기 세기 임계치 또는 깊게 누르기 세기 임계치와 연관된 동작을 수행함이 없이 터치 감응형 표면 상의 접촉의 이동에 따라 포커스 선택자를 이동시킬 것이다. 일반적으로, 달리 언급되지 않는 한, 이 세기 임계치들은 사용자 인터페이스 도면들의 상이한 세트들 사이에서 일관성이 있다.
가볍게 누르기 세기 임계치 미만의 세기로부터 가볍게 누르기 세기 임계치와 깊게 누르기 세기 임계치 사이의 세기로의 접촉의 특성 세기의 증가는 때때로 "가볍게 누르기" 입력으로서 지칭된다. 깊게 누르기 세기 임계치 미만의 세기로부터 깊게 누르기 세기 임계치 초과의 세기로의 접촉의 특성 세기의 증가는 때때로 "깊게 누르기" 입력으로서 지칭된다. 접촉 검출 세기 임계치 미만의 세기로부터 접촉 검출 세기 임계치와 가볍게 누르기 세기 임계치 사이의 세기로의 접촉의 특성 세기의 증가는 때때로 터치 표면 상의 접촉을 검출하는 것으로서 지칭된다. 접촉 검출 세기 임계치 초과의 세기로부터 접촉 검출 세기 임계치 미만의 세기로의 접촉의 특성 세기의 감소는 때때로 터치 표면으로부터의 접촉의 리프트오프를 검출하는 것으로서 지칭된다. 일부 실시예들에서, 접촉-검출 세기 임계치는 영(0)이다. 일부 실시예들에서, 접촉-검출 세기 임계치는 0 초과이다.
본 명세서에 기술된 일부 실시예들에서, 하나 이상의 동작은, 개개의 누르기 입력을 포함하는 제스처를 검출하는 것에 응답하여 또는 개개의 접촉(또는 복수의 접촉)으로 수행되는 개개의 누르기 입력을 검출하는 것에 응답하여 수행되며, 여기서 개개의 누르기 입력은 누르기-입력 세기 임계치 초과의 접촉(또는 복수의 접촉)의 세기의 증가를 검출하는 것에 적어도 부분적으로 기초하여 검출된다. 일부 실시예들에서, 개개의 동작은, 누르기-입력 세기 임계치 초과의 개개의 접촉의 세기의 증가(예컨대, 개개의 누르기 입력의 "다운 스트로크(down stroke)")를 검출하는 것에 응답하여 수행된다. 일부 실시예들에서, 누르기 입력은 누르기-입력 세기 임계치 초과의 개개의 접촉의 세기의 증가 및 누르기-입력 세기 임계치 미만의 접촉의 세기의 후속하는 감소를 포함하며, 개개의 동작은 누르기-입력 임계치 미만의 개개의 접촉의 세기의 후속하는 감소(예컨대, 개개의 누르기 입력의 "업 스트로크(up stroke)")를 검출하는 것에 응답하여 수행된다.
일부 실시예들에서, 디바이스는 때때로 "지터(jitter)"라고 불리는 돌발적인 입력들을 회피하기 위해 세기 히스테리시스를 이용하며, 여기서 디바이스는 누르기-입력 세기 임계치에 대한 사전정의된 관계를 갖는 히스테리시스 세기 임계치(예컨대, 히스테리시스 세기 임계치는 누르기-입력 세기 임계치보다 더 낮은 X 세기 단위이거나, 히스테리시스 세기 임계치는 누르기-입력 세기 임계치의 75%, 90% 또는 어떤 적절한 비율임)를 정의하거나 선택한다. 이와 같이, 일부 실시예들에서, 누르기 입력은 누르기-입력 세기 임계치 초과의 개개의 접촉의 세기의 증가 및 누르기-입력 세기 임계치에 대응하는 히스테리시스 세기 임계치 미만의 접촉의 세기의 후속하는 감소를 포함하며, 개개의 동작은 히스테리시스 세기 임계치 미만의 개개의 접촉의 세기의 후속하는 감소(예컨대, 개개의 누르기 입력의 "업 스트로크")를 검출하는 것에 응답하여 수행된다. 유사하게, 일부 실시예들에서, 누르기 입력은 디바이스가 히스테리시스 세기 임계치 이하에서의 세기로부터 누르기-입력 세기 임계치 이상에서의 세기로의 접촉의 세기의 증가, 및 선택적으로, 히스테리시스 세기 이하에서의 세기로의 접촉의 세기의 후속하는 감소를 검출하는 경우에만 검출되고, 개개의 동작은 누르기 입력(예컨대, 주변환경에 따른 접촉의 세기의 증가 또는 접촉의 세기의 감소)을 검출하는 것에 응답하여 수행된다.
설명의 편의상, 누르기-입력 세기 임계치와 연관된 누르기 입력에 응답하여 또는 누르기 입력을 포함하는 제스처에 응답하여 수행되는 동작들의 설명은, 옵션적으로, 누르기-입력 세기 임계치 초과의 접촉의 세기의 증가, 히스테리시스 세기 임계치 미만의 세기로부터 누르기-입력 세기 임계치 초과의 세기로의 접촉의 세기의 증가, 누르기-입력 세기 임계치 미만의 접촉의 세기의 감소, 및/또는 누르기-입력 세기 임계치에 대응하는 히스테리시스 세기 임계치 미만의 접촉의 세기의 감소 중 어느 하나를 검출하는 것에 응답하여 트리거된다. 또한, 동작이 누르기-입력 세기 임계치 미만의 접촉의 세기의 감소를 검출하는 것에 응답하여 수행되는 것으로서 기술되어 있는 예들에서, 동작은, 선택적으로, 누르기-입력 세기 임계치에 대응하고 그보다 더 낮은 히스테리시스 세기 임계치 미만의 접촉의 세기의 감소를 검출하는 것에 응답하여 수행된다.
3.
디지털 어시스턴트 시스템
도 7a는 다양한 예들에 따른 디지털 어시스턴트 시스템(700)의 블록도를 도시한다. 일부 예들에서, 디지털 어시스턴트 시스템(700)은 독립형 컴퓨터 시스템 상에서 구현될 수 있다. 일부 예들에서, 디지털 어시스턴트 시스템(700)은 다수의 컴퓨터에 걸쳐 분산될 수 있다. 일부 예들에서, 디지털 어시스턴트의 모듈들 및 기능들 중 일부는 서버 부분과 클라이언트 부분으로 나뉠 수 있는데, 여기서 클라이언트 부분은 하나 이상의 사용자 디바이스(예컨대, 디바이스들(104, 122, 200, 400, 또는 600)) 상에 존재하고, 예컨대 도 1에 도시된 바와 같은 하나 이상의 네트워크를 통해 서버 부분(예컨대, 서버 시스템(108))과 통신한다. 일부 예들에서, 디지털 어시스턴트 시스템(700)은 도 1에 도시된 서버 시스템(108)(및/또는 DA 서버(106))의 일 구현예일 수 있다. 디지털 어시스턴트 시스템(700)은 단지 디지털 어시스턴트 시스템의 일례일 뿐이라는 것, 및 디지털 어시스턴트 시스템(700)이 도시된 것보다 더 많거나 더 적은 컴포넌트들을 가질 수 있거나, 둘 이상의 컴포넌트를 조합할 수 있거나, 또는 상이한 구성 또는 배열의 컴포넌트들을 가질 수 있다는 것에 유의해야 한다. 도 7a에 도시된 다양한 컴포넌트들은 하나 이상의 신호 프로세싱 및/또는 주문형 집적 회로를 비롯한, 하드웨어, 하나 이상의 프로세서에 의한 실행을 위한 소프트웨어 명령어들, 펌웨어, 또는 이들의 조합으로 구현될 수 있다.
디지털 어시스턴트 시스템(700)은 메모리(702), 하나 이상의 프로세서(704), 입/출력(I/O) 인터페이스(706), 및 네트워크 통신 인터페이스(708)를 포함할 수 있다. 이들 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인(710)을 통해 서로 통신할 수 있다.
일부 예들에서, 메모리(702)는 비일시적 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 자기 디스크 저장 디바이스, 플래시 메모리 디바이스, 또는 기타 비휘발성 솔리드 스테이트 메모리 디바이스)를 포함할 수 있다.
일부 예들에서, I/O 인터페이스(706)는 디스플레이들, 키보드들, 터치 스크린들, 및 마이크로폰들과 같은 디지털 어시스턴트 시스템(700)의 입/출력 디바이스들(716)을 사용자 인터페이스 모듈(722)에 결합할 수 있다. I/O 인터페이스(706)는, 사용자 인터페이스 모듈(722)과 함께, 사용자 입력들(예컨대, 음성 입력, 키보드 입력들, 터치 입력들 등)을 수신하고 그에 따라 이들을 처리할 수 있다. 일부 예들에서, 예컨대 디지털 어시스턴트가 독립형 사용자 디바이스 상에서 구현되는 경우, 디지털 어시스턴트 시스템(700)은 도 2a, 도 4, 도 6a와 도 6b 각각의 디바이스들(200, 400, 또는 600)에 대해 기재된 컴포넌트들 및 I/O 통신 인터페이스들 중 임의의 것을 포함할 수 있다. 일부 예들에서, 디지털 어시스턴트 시스템(700)은 디지털 어시스턴트 구현예의 서버 부분을 표현할 수 있고, 사용자 디바이스(예컨대, 디바이스들(104, 200, 400, 또는 600)) 상에 상주하는 클라이언트 측 부분을 통해 사용자와 상호작용할 수 있다.
일부 예들에서, 네트워크 통신 인터페이스(708)는 유선 통신 포트(들)(712) 및/또는 무선 송신 및 수신 회로부(714)를 포함할 수 있다. 유선 통신 포트(들)(712)는 하나 이상의 유선 인터페이스들, 예컨대 이더넷, 범용 직렬 버스(USB), 파이어와이어 등을 통해 통신 신호들을 수신하고 전송할 수 있다. 무선 회로부(714)는 통신 네트워크들 및 기타 통신 디바이스들로부터/로 RF 신호들 및/또는 광학 신호들을 수신하고 전송할 수 있다. 무선 통신은 GSM, EDGE, CDMA, TDMA, 블루투스, Wi-Fi, VoIP, Wi-MAX, 또는 임의의 기타 적합한 통신 프로토콜과 같은 복수의 통신 표준들, 프로토콜들, 및 기술들 중 임의의 것을 이용할 수 있다. 네트워크 통신 인터페이스(708)는 인터넷, 인트라넷, 및/또는 무선 네트워크, 예컨대 셀룰러 전화 네트워크, 무선 근거리 통신망(LAN), 및/또는 도시권 통신망(MAN)과 같은 네트워크들을 이용하는 디지털 어시스턴트 시스템(700)과 기타 디바이스들 간의 통신을 가능하게 할 수 있다.
일부 예들에서, 메모리(702) 또는 메모리(702)의 컴퓨터 판독가능 저장 매체들은, 운영 체제(718), 통신 모듈(720), 사용자 인터페이스 모듈(722), 하나 이상의 애플리케이션(724), 및 디지털 어시스턴트 모듈(726)의 전체 또는 그들의 서브세트를 포함한, 프로그램들, 모듈들, 명령어들, 및 데이터 구조들을 저장할 수 있다. 특히, 메모리(702) 또는 메모리(702)의 컴퓨터 판독가능 저장 매체는 후술되는 프로세스(1200)를 수행하기 위한 명령어들을 저장할 수 있다. 하나 이상의 프로세서(704)는 이러한 프로그램들, 모듈들, 및 명령어들을 실행할 수 있고, 데이터 구조들로부터/로 판독/기록할 수 있다.
운영 체제(718)(예를 들어, 다윈(Darwin), RTXC, LINUX, UNIX, iOS, OS X, WINDOWS, 또는 VxWorks와 같은 임베디드 운영 체제)는 일반적인 시스템 태스크들(예를 들어, 메모리 관리, 저장 디바이스 제어, 전력 관리 등)을 제어하고 관리하기 위한 다양한 소프트웨어 컴포넌트들 및/또는 드라이버들을 포함하고, 다양한 하드웨어, 펌웨어, 및 소프트웨어 컴포넌트들 간의 통신들을 용이하게 할 수 있다.
통신 모듈(720)은 네트워크 통신 인터페이스(708)를 통해 디지털 어시스턴트 시스템(700)과 기타 디바이스들 간의 통신을 용이하게 할 수 있다. 예를 들어, 통신 모듈(720)은 도 2a, 도 4, 도 6a 및 도 6b에 각각 도시된 디바이스들(200, 400, 600)과 같은 전자 디바이스들의 RF 회로부(208)와 통신할 수 있다. 통신 모듈(720)은 또한 무선 회로부(714) 및/또는 유선 통신 포트(712)에 의해 수신된 데이터를 처리하기 위한 다양한 컴포넌트들을 포함할 수 있다.
사용자 인터페이스 모듈(722)은 I/O 인터페이스(706)를 통해 사용자로부터(예컨대, 키보드, 터치 스크린, 포인팅 디바이스, 제어기, 및/또는 마이크로폰으로부터) 커맨드들 및/또는 입력들을 수신하고, 디스플레이 상에 사용자 인터페이스 객체들을 생성할 수 있다. 사용자 인터페이스 모듈(722)은 또한 출력들(예컨대, 스피치, 사운드, 애니메이션, 텍스트, 아이콘들, 진동들, 햅틱 피드백, 조명 등)을 준비하고, I/O 인터페이스(706)를 통해(예컨대, 디스플레이들, 오디오 채널들, 스피커들, 및 터치 패드들 등을 통해) 사용자에게 그들을 전달할 수 있다.
애플리케이션들(724)은 하나 이상의 프로세서(704)에 의해 실행되도록 구성된 프로그램들 및/또는 모듈들을 포함할 수 있다. 예를 들어, 디지털 어시스턴트 시스템이 독립형 사용자 디바이스 상에 구현되는 경우, 애플리케이션들(724)은 게임들, 캘린더 애플리케이션, 내비게이션 애플리케이션, 또는 이메일 애플리케이션과 같은 사용자 애플리케이션들을 포함할 수 있다. 디지털 어시스턴트 시스템(700)이 서버 상에서 구현되는 경우, 애플리케이션들(724)은, 예를 들어 리소스 관리 애플리케이션들, 진단 애플리케이션들, 또는 스케줄링 애플리케이션들을 포함할 수 있다.
메모리(702)는 또한 디지털 어시스턴트 모듈(726)(또는 디지털 어시스턴트의 서버 부분)을 저장할 수 있다. 일부 예들에서, 디지털 어시스턴트 모듈(726)은 하기의 하위모듈들, 또는 그들의 서브세트 또는 수퍼세트를 포함할 수 있다: 입/출력 처리 모듈(728), 스피치-텍스트(speech-to-text: STT) 처리 모듈(730), 자연 언어 처리 모듈(732), 대화 흐름 처리 모듈(734), 태스크 흐름 처리 모듈(736), 서비스 처리 모듈(738), 및 스피치 합성 모듈(740). 이러한 모듈들 각각은 디지털 어시스턴트 모듈(726)의 하기의 시스템 또는 데이터 및 모델들, 또는 그들의 서브세트 또는 수퍼세트 중 하나 이상에 대해 액세스할 수 있다: 온톨로지(760), 어휘 인덱스(744), 사용자 데이터(748), 태스크 흐름 모델들(754), 서비스 모델들(756), 및 ASR 시스템(731).
일부 예들에서, 디지털 어시스턴트 모듈(726)에서 구현되는 모델들, 데이터, 및 처리 모듈들을 사용하여, 디지털 어시스턴트는 다음 중 적어도 일부를 수행할 수 있다: 스피치 입력을 텍스트로 변환하는 것; 사용자로부터 수신된 자연 언어 입력에 표현된 사용자의 의도를 식별하는 것; 사용자의 의도를 완전히 추론하는 데 필요한 정보를(예컨대, 단어들, 게임들, 의도들 등의 중의성을 해소함(disambiguating)으로써) 능동적으로 이끌어내고 얻는 것; 추론된 의도를 이행하기 위한 태스크 흐름을 결정하는 것; 및 태스크 흐름을 실행하여 추론된 의도를 이행하는 것.
일부 예들에서, 도 7b에 도시된 바와 같이, I/O 처리 모듈(728)은 도 7a의 I/O 디바이스들(716)을 통해 사용자와 상호작용하거나 또는 도 7a의 네트워크 통신 인터페이스(708)를 통해 사용자 디바이스(예컨대, 디바이스들(104, 200, 400, 또는 600))와 상호작용하여, 사용자 입력(예컨대, 스피치 입력)을 획득하고 사용자 입력에 대한 응답들(예컨대, 스피치 출력들로서)을 제공할 수 있다. I/O 처리 모듈(728)은 사용자 입력의 수신과 함께 또는 사용자 입력의 수신 직후에, 사용자 디바이스로부터 사용자 입력과 연관된 컨텍스트 정보를 옵션적으로 획득할 수 있다. 컨텍스트 정보는 사용자-특정 데이터, 어휘, 및/또는 사용자 입력과 관련된 선호도들을 포함할 수 있다. 일부 예들에서, 컨텍스트 정보는 또한 사용자 요청이 수신된 시간에서의 사용자 디바이스의 소프트웨어 및 하드웨어 상태 및/또는 사용자 요청이 수신되는 시간에서의 사용자의 주위 환경에 관련된 정보를 포함한다. 일부 예들에서, I/O 처리 모듈(728)은 또한 사용자 요청에 관하여 사용자에게 후속 질문들을 전송하고, 그로부터 답변들을 수신할 수 있다. 사용자 요청이 I/O 처리 모듈(728)에 의해 수신되고 사용자 요청이 스피치 입력을 포함할 수 있는 경우, I/O 처리 모듈(728)은 스피치-텍스트 변환을 위해 스피치 입력을 STT 처리 모듈(730)(또는 스피치 인식기)로 전달할 수 있다.
STT 처리 모듈(730)은 하나 이상의 ASR 시스템을 포함할 수 있다. 하나 이상의 ASR 시스템은 I/O 처리 모듈(728)을 통해 수신된 스피치 입력을 처리하여 인식 결과를 생성할 수 있다. 각각의 ASR 시스템은 프론트-엔드 스피치 프리프로세서(front-end speech pre-processor)를 포함할 수 있다. 프론트-엔드 스피치 프리프로세서는 스피치 입력으로부터 대표적인 특징을 추출할 수 있다. 예를 들어, 프론트-엔드 스피치 프리프로세서는 스피치 입력을 푸리에 변환을 수행하여 대표적인 다차원 벡터의 시퀀스로서 스피치 입력을 특징짓는 스펙트럼 특징을 추출할 수 있다. 또한, 각각의 ASR 시스템은 하나 이상의 스피치 인식 모델(예컨대, 음향 모델 및/또는 언어 모델)을 포함할 수 있고, 하나 이상의 스피치 인식 엔진을 구현할 수 있다. 스피치 인식 모델의 예는 은닉 마르코프 모델(hidden Markov models), 가우시안 혼합 모델(Gaussian-Mixture Models), 딥 신경망 모델(Deep Neural Network Models), n-gram 언어 모델, 및 기타 통계 모델을 포함할 수 있다. 스피치 인식 엔진의 예는 동적 시간 왜곡 기반 엔진 및 가중치 유한 상태 변환기(WFST) 기반 엔진을 포함할 수 있다. 하나 이상의 스피치 인식 모델 및 하나 이상의 스피치 인식 엔진은 중간 인식 결과들(예를 들어, 음소, 음소 문자열, 및 하위 단어들), 및 궁극적으로 텍스트 인식 결과들(예컨대, 단어, 단어 문자열, 또는 토큰들의 시퀀스)을 생성하기 위해 프론트-엔드 스피치 프리프로세서의 추출된 대표 특징들을 처리하는 데 사용될 수 있다. 일부 예들에서, 스피치 입력은 제3자 서비스에 의해 또는 사용자의 디바이스(예컨대, 디바이스(104, 200, 400, 또는 600)) 상에서 적어도 부분적으로 프로세싱되어 인식 결과를 생성할 수 있다. STT 처리 모듈(730)이 텍스트 문자열(예를 들어, 단어들, 또는 단어들의 시퀀스, 또는 토큰들의 시퀀스)을 포함하는 인식 결과를 생성하면, 인식 결과는 의도 추론을 위해 자연 언어 처리 모듈(732)로 전달될 수 있다.
스피치-텍스트 프로세싱에 대한 더 많은 상세사항들은 2011년 9월 20일자로 출원된 "Consolidating Speech Recognition Results"에 대한 미국 실용신안 출원 제13/236,942호에 기재되어 있으며, 그 전체 개시 내용은 본 명세서에 참고로 포함된다.
일부 예들에서, STT 처리 모듈(730)은 음성 기호 변환 모듈(731)을 통해 인식가능한 단어들의 어휘를 포함하고/하거나 이에 액세스할 수 있다. 각각의 어휘 단어는 스피치 인식 음성 기호로 표현된 단어의 하나 이상의 후보 발음과 연관될 수 있다. 특히, 인식가능한 단어의 어휘는 복수의 후보 발음과 연관된 단어를 포함할 수 있다. 예를 들어, 어휘는 // 및 //의 후보 발음과 연관된 "tomato"라는 단어를 포함할 수 있다. 또한, 어휘 단어는 사용자로부터의 이전 스피치 입력에 기초한 맞춤형 후보 발음과 연관될 수 있다. 이러한 맞춤형 후보 발음은 STT 처리 모듈(730)에 저장될 수 있고, 디바이스 상의 사용자의 프로필을 통해 특정 사용자와 연관될 수 있다. 일부 예들에서, 단어에 대한 후보 발음은 단어의 철자 및 하나 이상의 언어 및/또는 음성 규칙에 기초하여 결정될 수 있다. 일부 예들에서, 후보 발음은 예를 들어, 알려진 정준 발음(canonical pronunciations)에 기초하여 수동으로 생성될 수 있다.
일부 예들에서, 후보 발음은 후보 발음의 공통성에 기초하여 순위를 매길 수 있다. 예를 들어, 후보 발음 //는 //보다 높은 순위가 될 수 있는데, 그 이유는 이전 발음이 더 일반적으로 사용되는 발음이기 때문이다(예를 들어, 모든 사용자 중에서, 특정 지리적 지역에 있는 사용자의 경우, 또는 임의의 다른 적절한 사용자들의 서브셋의 경우). 일부 예들에서, 후보 발음은 후보 발음이 사용자와 연관된 맞춤형 후보 발음인지 여부에 기초하여 순위가 매겨질 수 있다. 예를 들어, 맞춤형 후보 발음은 정준 후보 발음보다 높은 순위가 매겨질 수 있다. 이는 정준 발음에서 벗어나는 고유한 발음을 가진 고유 명사를 인식하는 데 유용할 수 있다. 일부 예들에서, 후보 발음은 지리적인 기원, 국적, 또는 민족성과 같은 하나 이상의 스피치 특성과 연관될 수 있다. 예를 들어, 후보 발음 //는 미국과 연관될 수 있는 반면, 후보 발음 //는 영국과 연관될 수 있다. 또한, 후보 발음의 순위는 디바이스 상의 사용자 프로필에 저장된 사용자의 하나 이상의 특성(예를 들어, 지리적 기원, 국적, 민족성 등)에 기초할 수 있다. 예를 들어, 사용자가 미국과 연관되어 있다는 사용자의 프로필로부터 결정될 수 있다. 미국과 연관되어 있는 사용자에 기초하여, 후보 발음 //(미국과 연관됨)는 후보 발음 //(영국과 연관됨)보다 높은 순위가 매겨질 수 있다. 일부 예들에서, 순위가 매겨진 후보 발음들 중 하나는 예측된 발음(예를 들어, 가장 가능성이 있는 발음)으로서 선택될 수 있다.
스피치 입력이 수신될 때, STT 처리 모듈(730)은(예를 들어, 음향 모델을 사용하여) 스피치 입력에 대응하는 음소를 결정하는 데 사용될 수 있고, 이어서(예를 들어, 언어 모델을 사용하여) 음소에 매칭되는 단어를 결정하고자 시도할 수 있다. 예를 들어, STT 처리 모듈(730)이 스피치 입력의 일부에 대응하는 음소들의 시퀀스 //를 먼저 식별할 수 있는 경우, 그것은 이어서 어휘 인덱스(744)에 기초하여 이 시퀀스가 단어 "tomato"에 대응한다고 결정할 수 있다.
일부 예들에서, STT 처리 모듈(730)은 근사 매칭 기술을 사용하여 음성 입력에서의 단어들을 결정할 수 있다. 따라서, 예를 들어, STT 처리 모듈(730)은 음소들의 특정 시퀀스가 그 단어에 대한 음소들의 후보 시퀀스 중 하나가 아니더라도 음소들의 시퀀스 //가 단어 "tomato"에 대응한다고 결정할 수 있다.
디지털 어시스턴트의 자연 언어 처리 모듈(732)("자연 언어 프로세서")은 STT 처리 모듈(730)에 의해 생성된 단어들 또는 토큰들의 시퀀스("토큰 시퀀스")를 취하고, 토큰 시퀀스를 디지털 어시스턴트에 의해 인식되는 하나 이상의 "행동가능한 의도들"과 연관시키고자 시도할 수 있다. "행동가능한 의도"는 디지털 어시스턴트에 의해 수행될 수 있는 태스크를 표현할 수 있고, 태스크 흐름 모델들(754)에서 구현되는 연관 태스크 흐름을 가질 수 있다. 연관 태스크 흐름은 디지털 어시스턴트가 태스크를 수행하기 위해 취하는 일련의 프로그래밍된 동작들 및 단계들일 수 있다. 디지털 어시스턴트의 능력들의 범주는 태스크 흐름 모델들(754)에서 구현되고 저장된 태스크 흐름들의 수 및 종류, 또는 다시 말해, 디지털 어시스턴트가 인식하는 "행동가능한 의도들"의 수 및 종류에 의존할 수 있다. 그러나, 디지털 어시스턴트의 효율성은 또한 자연 언어로 표현된 사용자 요청으로부터 정확한 "행동가능한 의도(들)"를 추론하는 어시스턴트의 능력에 의존할 수 있다.
일부 예들에서, STT 처리 모듈(730)로부터 획득된 단어들 또는 토큰 시퀀스에 부가하여, 자연 언어 처리 모듈(732)은 또한 예를 들어, I/O 처리 모듈(728)로부터 사용자 요청과 연관된 컨텍스트 정보를 수신할 수 있다. 자연 언어 처리 모듈(732)은 옵션적으로 컨텍스트 정보를 이용하여, STT 처리 모듈(730)로부터 수신된 토큰 시퀀스에 포함된 정보를 명확하게 하고, 보완하고/하거나 추가로 정의할 수 있다. 컨텍스트 정보는, 예를 들어 사용자 선호도들, 사용자 디바이스의 하드웨어 및/또는 소프트웨어 상태들, 사용자 요청 전, 요청 중, 또는 요청 직후에 수집되는 센서 정보, 디지털 어시스턴트와 사용자 사이의 이전 상호작용들(예컨대, 대화) 등을 포함할 수 있다. 본 명세서에 기술하는 바와 같이, 컨텍스트 정보는 동적일 수 있고, 시간, 위치, 대화의 내용, 및 기타 인자들에 따라 변화할 수 있다.
일부 예들에서, 자연 언어 처리는, 예컨대 온톨로지(760)에 기초할 수 있다. 온톨로지(760)는 많은 노드들을 포함하는 계층 구조(hierarchical structure)일 수 있는데, 각각의 노드는 "행동가능한 의도"또는 "행동가능한 의도들" 중 하나 이상에 관련된 "속성(property)", 또는 기타 "속성들" 중 어느 하나를 표현한다. 전술한 바와 같이, "행동가능한 의도"는 디지털 어시스턴트가 수행할 수 있는 태스크, 즉 그것이 "행동가능"하거나 또는 영향을 미칠 수 있는 태스크를 표현할 수 있다. "속성"은 행동가능한 의도 또는 다른 속성의 하위 양태와 연관되는 파라미터를 표현할 수 있다. 온톨로지(760) 내의 행동가능한 의도 노드와 속성 노드 간의 연결성(linkage)은 속성 노드에 의해 표현되는 파라미터가 행동가능한 의도 노드에 의해 표현되는 태스크에 어떻게 관련되는지 여부를 정의할 수 있다.
일부 예들에서, 온톨로지(760)는 행동가능한 의도 노드들 및 속성 노드들로 구성될 수 있다. 온톨로지(760) 내에서, 각각의 행동가능한 의도 노드는 직접적으로 또는 하나 이상의 중간 속성 노드를 통해 하나 이상의 속성 노드에 연결될 수 있다. 유사하게, 각각의 속성 노드는 직접적으로 또는 하나 이상의 중간 속성 노드를 통해 하나 이상의 행동가능한 의도 노드에 연결될 수 있다. 예를 들어, 도 7c에 도시된 바와 같이, 온톨로지(760)는 "레스토랑 예약" 노드(즉, 행동가능한 의도 노드)를 포함할 수 있다. 속성 노드들 "레스토랑", (예약을 위한) "날짜/시간", 및 "인원수"는 행동가능한 의도 노드(즉, "레스토랑 예약" 노드)에 각각 직접적으로 링크될 수 있다.
추가로, 속성 노드들 "요리", "가격대", "전화 번호", 및 "위치"는 속성 노드 "레스토랑"의 하위노드들일 수 있고, 중간 속성 노드 "레스토랑"을 통해 "레스토랑 예약" 노드(즉, 행동가능한 의도 노드)에 각각 링크될 수 있다. 다른 예를 들어, 도 7c에 도시된 바와 같이, 온톨로지(760)는 또한 "리마인더 설정" 노드(즉, 다른 행동가능한 의도 노드)를 포함할 수 있다. 속성 노드들(리마인더를 설정하기 위한) "날짜/시간" 및(리마인더를 위한) "주제"는 "리마인더 설정" 노드에 각각 링크될 수 있다. 속성 "날짜/시간"이 레스토랑 예약을 하는 태스크 및 리마인더를 설정하는 태스크 둘 모두에 관련될 수 있기 때문에, 속성 노드 "날짜/시간"은 온톨로지(760) 내의 "레스토랑 예약" 노드 및 "리마인더 설정" 노드 둘 모두에 링크될 수 있다.
행동가능한 의도 노드는, 그것의 연결된 개념 노드들과 함께, "도메인"으로 기술될 수 있다. 본 논의에서, 각각의 도메인은 개개의 행동가능한 의도와 연관될 수 있고, 특정한 행동가능한 의도와 연관된 노드들(및 이들 사이의 관계들)의 그룹을 지칭한다. 예를 들어, 도 7c에 도시된 온톨로지(760)는 온톨로지(760) 내의 레스토랑 예약 도메인(762)의 일례 및 리마인더 도메인(764)의 일례를 포함할 수 있다. 레스토랑 예약 도메인은 행동가능한 의도 노드 "레스토랑 예약", 속성 노드들 "레스토랑", "날짜/시간", 및 "인원수", 및 하위속성 노드들 "요리", "가격대", "전화 번호", 및 "위치"를 포함한다. 리마인더 도메인(764)은 행동가능한 의도 노드 "리마인더 설정", 및 속성 노드들 "주제" 및 "날짜/시간"을 포함할 수 있다. 일부 예들에서, 온톨로지(760)는 많은 도메인들로 구성될 수 있다. 각각의 도메인은 하나 이상의 속성 노드를 하나 이상의 다른 도메인과 공유할 수 있다. 예를 들어, "날짜/시간" 속성 노드는 레스토랑 예약 도메인(762) 및 리마인더 도메인(764) 외에도, 많은 상이한 도메인들(예컨대, 스케줄링 도메인, 여행 예약 도메인, 영화 티켓 도메인 등)과 연관될 수 있다.
도 7c가 온톨로지(760) 내의 2개의 예시적인 도메인들을 도시하지만, 다른 도메인들은, 예를 들어 "영화를 찾다", "전화 통화를 개시한다", "길을 찾는다", "회의를 스케줄링한다", "메시지를 전송한다", "질문에 대한 답변을 제공한다", "목록을 읽는다", "내비게이션 명령어들을 제공한다", "태스크에 대한 명령어들을 제공한다" 등을 포함할 수 있다. "메시지를 전송한다" 도메인은 "메시지를 전송한다" 행동가능한 의도 노드와 연관될 수 있고, "수신자(들)", "메시지 유형", 및 메시지 본문"과 같은 속성 노드들을 추가로 포함할 수 있다. 속성 노드 "수신자"는, 예를 들어 "수신자 이름" 및 "메시지 주소"와 같은 하위속성 노드들에 의해 추가로 정의될 수 있다.
일부 예들에서, 온톨로지(760)는 디지털 어시스턴트가 이해할 수 있고 그에 의거하여 동작할 수 있는 모든 도메인들(및 그에 따른 행동가능한 의도들)을 포함할 수 있다. 일부 예들에서, 온톨로지(760)는, 예컨대 전체 도메인들 또는 노드들을 추가하거나 제거함으로써 또는 온톨로지(760) 내에서 노드들 사이의 관계를 수정함으로써 수정될 수 있다.
일부 예들에서, 다수의 관련 행동가능한 의도들과 연관된 노드들은 온톨로지(760) 내에서 "상위 도메인" 아래에 군집될 수 있다. 예를 들어, "여행" 상위 도메인은 여행에 관련된 속성 노드들 및 행동가능한 의도 노드들의 군집을 포함할 수 있다. 여행에 관련된 행동가능한 의도 노드들은 "항공 예약", "호텔 예약", "자동차 렌탈", "길찾기", "관심 지점 찾기" 등을 포함할 수 있다. 동일한 상위 도메인(예컨대, "여행" 상위 도메인) 아래의 행동가능한 의도 노드들은 많은 속성 노드들을 공동으로 가질 수 있다. 예를 들어, "항공 예약", "호텔 예약", "자동차 렌탈", "길찾기", 및 "관심 지점 찾기"에 대한 행동가능한 의도 노드들은 속성 노드들 "시작 위치", "목적지", "출발 날짜/시간", "도착 날짜/시간", 및 "인원수" 중 하나 이상을 공유할 수 있다.
일부 예들에서, 온톨로지(760) 내의 각각의 노드는, 노드에 의해 표현되는 속성 또는 행동가능한 의도와 관련된 단어들 및/또는 구절(phrase)들의 세트와 연관될 수 있다. 각각의 노드와 연관된 단어들 및/또는 구절들의 개개의 세트는 노드와 연관된 소위 "어휘"일 수 있다. 각각의 노드와 연관된 단어들 및/또는 구절들의 개개의 세트는 노드에 의해 표현되는 속성 또는 행동가능한 의도와 관련하여 어휘 인덱스(744)에 저장될 수 있다. 예를 들어, 도 7b로 돌아와서, "레스토랑"의 속성에 대한 노드와 연관된 어휘는 "음식", "음료", "요리", "배고프다", "먹다", "피자", "패스트푸드", "식사" 등과 같은 단어들을 포함할 수 있다. 다른 예를 들어, "전화 통화 개시"의 행동가능한 의도에 대한 노드와 연관된 어휘는 "통화", "전화", "다이얼", "벨소리", "이 번호로 전화", "~에게 전화" 등과 같은 단어들 및 구절들을 포함할 수 있다. 어휘 인덱스(744)는 상이한 언어들의 단어들 및 구절들을 옵션적으로 포함할 수 있다.
자연 언어 처리 모듈(732)은 STT 처리 모듈(730)로부터 토큰 시퀀스(예컨대, 텍스트 문자열)를 수신하고, 토큰 시퀀스 내의 단어들에 의해 어떤 노드들이 연루되는지 여부를 결정할 수 있다. 일부 예들에서, 토큰 시퀀스 내의 단어 또는 구절이 (어휘 인덱스(744)를 통해) 온톨로지(760) 내의 하나 이상의 노드와 연관되는 것으로 밝혀지는 경우, 단어 또는 구절은 이들 노드들을 "트리거" 또는 "활성화"시킬 수 있다. 활성화된 노드들의 양 및/또는 상대적 중요도에 기초하여, 자연 언어 처리 모듈(732)은 사용자가 디지털 어시스턴트로 하여금 수행하도록 의도했던 태스크로서 행동가능한 의도들 중 하나를 선택할 수 있다. 일부 예들에서, 가장 많이 "트리거된" 노드들을 갖는 도메인이 선택될 수 있다. 일부 예들에서, 가장 높은 신뢰도 값(예컨대, 그것의 다양한 트리거된 노드들의 상대적 중요도에 기초함)을 갖는 도메인이 선택될 수 있다. 일부 예들에서, 도메인은 트리거된 노드들의 수 및 중요도의 조합에 기초하여 선택될 수 있다. 일부 예들에서, 디지털 어시스턴트가 사용자로부터의 유사한 요청을 이전에 정확하게 해석했는지 여부와 같은 추가 요인들도 노드를 선택하는 데 있어 마찬가지로 고려된다.
사용자 데이터(748)는 사용자-특정 정보, 예컨대 사용자-특정 어휘, 사용자 선호도, 사용자 주소, 사용자의 초기설정 언어 및 제2 언어, 사용자의 연락처 목록, 및 각각의 사용자에 대한 기타 단기 또는 장기 정보를 포함할 수 있다. 일부 예들에서, 자연 언어 처리 모듈(732)은 사용자-특정 정보를 이용하여 사용자 입력에 포함된 정보를 보완하여 사용자 의도를 추가로 정의할 수 있다. 예를 들어, "내 생일 파티에 내 친구들을 초대하라"라는 사용자 요청에 대하여, 자연 언어 처리 모듈(732)은, "친구들"이 누구인지 그리고 "생일 파티"가 언제, 어디에서 열릴지를 결정하기 위해 사용자에게 그의/그녀의 요청에서 그러한 정보를 명확하게 제공하도록 요구하는 대신, 사용자 데이터(748)에 액세스할 수 있다.
토큰 문자열에 기초하여 온톨로지를 검색하는 다른 상세 사항들이 2008년 12월 22일자로 출원된 "Method and Apparatus for Searching Using An Active Ontology"에 대한 미국 실용 특허 출원 제12/341,743호에 기재되어 있으며, 이 출원의 전체 개시내용은 본 명세서에 참조로서 편입된다.
일부 예들에서, 일단 자연 언어 처리 모듈(732)이 사용자 요청에 기초하여 행동가능한 의도(또는 도메인)를 식별하면, 자연 언어 처리 모듈(732)은 식별된 행동가능한 의도를 표현하기 위해 구조화된 질의(structured query)를 생성할 수 있다. 일부 예들에서, 구조화된 질의는, 행동가능한 의도를 위한 도메인 내의 하나 이상의 노드에 대한 파라미터들을 포함할 수 있고, 파라미터들 중 적어도 일부에는 사용자 요청 내에 지정되는 특정 정보 및 요건들이 덧붙여져 있다. 예를 들어, 사용자는 "7시에 스시 가게에 저녁 예약을 하라"라고 말할 수 있다. 이러한 경우, 자연 언어 처리 모듈(732)은 사용자 입력에 기초하여 행동가능한 의도가 "레스토랑 예약"이라고 정확하게 식별할 수 있다. 온톨로지에 따라, "레스토랑 예약" 도메인에 대한 구조화된 질의는 {요리}, {시간}, {날짜}, {인원수} 등과 같은 파라미터들을 포함할 수 있다. 일부 예들에서, 스피치 입력, 및 STT 처리 모듈(730)을 사용하여 스피치 입력으로부터 도출된 텍스트에 기초하여, 자연 언어 처리 모듈(732)은 레스토랑 예약 도메인에 대한 부분 구조화된 질의를 생성할 수 있으며, 여기서 부분 구조화된 질의는 파라미터들 {요리 = "스시"} 및 {시간 = "7pm"}을 포함한다. 그러나, 이 예에서, 사용자의 스피치 입력은 도메인과 연관된 구조화된 질의를 완성하기에 불충분한 정보를 포함한다. 따라서, {인원수} 및 {날짜}와 같은 기타 필수 파라미터들은 현재 이용가능한 정보에 기초하여 구조화된 질의에 특정되어 있지 않을 수 있다. 일부 예들에서, 자연 언어 처리 모듈(732)은 구조화된 질의의 일부 파라미터들에 수신된 컨텍스트 정보를 덧붙일 수 있다. 예를 들어, 일부 예들에서, 사용자가 "내 근처"의 스시 레스토랑을 요청했다면, 자연 언어 처리 모듈(732)은 구조화된 질의 내의 {위치} 파라미터에 사용자 디바이스로부터의 GPS 좌표들을 덧붙일 수 있다.
일부 예들에서, 자연 언어 처리 모듈(732)은 생성된 구조화된 질의(임의의 완성된 파라미터들을 포함함)를 태스크 흐름 처리 모듈(736)("태스크 흐름 프로세서")로 전달할 수 있다. 태스크 흐름 처리 모듈(736)은 자연 언어 처리 모듈(732)로부터 구조화된 질의를 수신하도록, 필요하다면, 구조화된 질의를 완성하도록, 그리고 사용자의 궁극적인 요청을 "완성"하는 데 필요한 동작들을 수행하도록 구성될 수 있다. 일부 예들에서, 이들 태스크들을 완수하는 데 필요한 다양한 절차들이 태스크 흐름 모델들(754)에서 제공될 수 있다. 일부 예들에서, 태스크 흐름 모델들(754)은 사용자로부터 추가 정보를 획득하기 위한 절차들, 및 행동가능한 의도와 연관된 동작들을 수행하기 위한 태스크 흐름들을 포함할 수 있다.
전술한 바와 같이, 구조화된 질의를 완성하기 위해, 태스크 흐름 처리 모듈(736)은 추가 정보를 획득하고/하거나 잠재적으로 모호한 스피치 입력들을 명확히 구분하기 위해 사용자와의 추가 대화를 개시할 필요가 있을 수 있다. 그와 같은 상호작용이 필요한 경우, 태스크 흐름 처리 모듈(736)은 대화 흐름 처리 모듈(734)을 호출하여 사용자와의 대화에 참여할 수 있다. 일부 예들에서, 대화 흐름 처리 모듈(734)은 어떻게(및/또는 언제) 사용자에게 추가 정보를 물을지를 결정할 수 있고, 사용자 응답을 수신하고 프로세싱할 수 있다. 질문들은 I/O 처리 모듈(728)을 통해 사용자들에게 제공될 수 있고 그들로부터 답변들이 수신될 수 있다. 일부 예들에서, 대화 흐름 처리 모듈(734)은 오디오 및/또는 시각적 출력을 통해 사용자에게 대화 출력을 제시할 수 있고, 구어적 또는 물리적(예컨대, 클릭킹) 응답들을 통해 사용자로부터 입력을 수신할 수 있다. 상기 예에 이어서, 태스크 흐름 처리 모듈(736)이 대화 흐름 처리 모듈(734)을 호출하여 도메인 "레스토랑 예약"과 연관된 구조화된 질의를 위한 "인원수" 및 "날짜" 정보를 결정하는 경우, 대화 흐름 처리 모듈(734)은 "몇 명입니까?" 및 "언제입니까?"와 같은 질문들을 생성하여 사용자에게 전달할 수 있다. 사용자로부터 답변들이 수신되면, 이어서 대화 흐름 처리 모듈(734)은 구조화된 질의에 누락 정보를 덧붙이거나, 또는 태스크 흐름 처리 모듈(736)에 정보를 전달하여 구조화된 질의로부터 누락 정보를 완성할 수 있다.
일단 태스크 흐름 처리 모듈(736)이 행동가능한 의도에 대한 구조화된 질의를 완성했다면, 태스크 흐름 처리 모듈(736)은 행동가능한 의도와 연관된 궁극적인 태스크를 수행하도록 진행할 수 있다. 따라서, 태스크 흐름 처리 모듈(736)은 구조화된 질의에 포함된 특정 파라미터들에 따라 태스크 흐름 모델에서 단계들 및 명령어들을 실행할 수 있다. 예를 들어, "레스토랑 예약"의 행동가능한 의도에 대한 태스크 흐름 모델은 레스토랑에 연락하기 위한 그리고 특정 시간의 특정 인원수에 대한 예약을 실제로 요청하기 위한 단계들 및 명령어들을 포함할 수 있다. 예를 들어, {레스토랑 예약, 레스토랑 = ABC 카페, 날짜 = 3/12/2012, 시간 = 7pm, 인원수 = 5}와 같은 구조화된 질의를 사용하여, 태스크 흐름 처리 모듈(736)은, (1) OPENTABLE®과 같은 레스토랑 예약 시스템 또는 ABC 카페의 서버에 로그온하는 단계; (2) 웹사이트 상에서 일정 양식으로 날짜, 시간, 및 인원수 정보를 입력하는 단계; (3) 그 양식을 제출하는 단계; 및(4) 사용자의 캘린더 내에 예약을 위한 캘린더 엔트리를 만드는 단계를 수행할 수 있다.
일부 예들에서, 태스크 흐름 처리 모듈(736)은 사용자 입력에서 요청된 태스크를 완성하거나 또는 사용자 입력에서 요청된 정보제공형 답변을 제공하기 위해 서비스 처리 모듈(738)("서비스 처리 모듈")의 어시스턴트를 채용할 수 있다. 예를 들어, 서비스 처리 모듈(738)은 태스크 흐름 처리 모듈(736)을 대신해서 전화 통화하도록, 캘린더 엔트리를 설정하도록, 지도 검색을 호출하도록, 사용자 디바이스 상에 설치된 다른 사용자 애플리케이션들을 호출하거나 그들과 상호작용하도록, 그리고 제3자 서비스들(예를 들어, 레스토랑 예약 포탈, 사회적 네트워킹 웹사이트, 은행업무 포탈 등)을 호출하거나 그들과 상호작용하도록 동작할 수 있다. 일부 예들에서, 각각의 서비스에 의해 요구되는 프로토콜들 및 애플리케이션 프로그래밍 인터페이스(API)들은 서비스 모델들(756) 중 개개의 서비스 모델에 의해 특정될 수 있다. 서비스 처리 모듈(738)은 서비스를 위한 적절한 서비스 모델에 액세스하고, 서비스 모델에 따른 서비스에 의해 요구되는 프로토콜들 및 API들에 따라 서비스에 대한 요청들을 생성할 수 있다.
예를 들어, 레스토랑이 온라인 예약 서비스를 가능하게 했다면, 레스토랑은 예약을 하는 데 필요한 파라미터들 및 온라인 예약 서비스에 필요한 파라미터의 값들을 전달하기 위한 API들을 특정하는 서비스 모델을 제출할 수 있다. 태스크 흐름 처리 모듈(736)에 의해 요청될 때, 서비스 처리 모듈(738)은 서비스 모델에 저장된 웹 주소를 사용하여 온라인 예약 서비스와의 네트워크 접속을 확립할 수 있고, 온라인 예약 서비스의 API에 따른 포맷으로 예약의 필요한 파라미터들(예컨대, 시간, 날짜, 인원수)을 온라인 예약 인터페이스에 송신할 수 있다.
일부 예들에서, 자연 언어 처리 모듈(732), 대화 흐름 처리 모듈(734), 및 태스크 흐름 처리 모듈(736)은 사용자의 의도를 추론 및 정의하도록, 사용자 의도를 더 명확히 하고 정제하게 하기 위해 정보를 획득하도록, 그리고 최종적으로 사용자의 의도를 이행하기 위해 응답(즉, 사용자에게로의 출력, 또는 태스크의 완수)을 생성하도록 총체적이고 반복적으로 사용될 수 있다. 생성된 응답은 사용자의 의도를 적어도 부분적으로 이행하는 스피치 입력에 대한 대화 응답일 수 있다. 또한, 일부 예들에서, 생성된 응답은 스피치 출력으로서 출력될 수 있다. 이들 예에서, 생성된 응답은 스피치 합성 모듈(740)(예컨대, 스피치 합성기)로 전송될 수 있으며, 여기서 스피치 합성 모듈(740)은 스피치 형태로 대화 응답을 합성하도록 처리될 수 있다. 또 다른 예들에서, 생성된 응답은 스피치 입력에서 사용자 요청을 만족시키는 것과 관련된 데이터 콘텐츠일 수 있다.
스피치 합성 모듈(740)은 사용자에게의 제시를 위한 스피치 출력을 합성하도록 구성될 수 있다. 스피치 합성 모듈(740)은 디지털 어시스턴트에 의해 제공된 텍스트에 기초하여 스피치 출력을 합성한다. 예를 들어, 생성된 대화 응답은 텍스트 문자열의 형태일 수 있다. 스피치 합성 모듈(740)은 텍스트 문자열을 가청 스피치 출력으로 변환할 수 있다. 스피치 합성 모듈(740)은, 텍스트로부터의 스피치 출력을 생성하기 위하여 임의의 적절한 스피치 합성 기법을 사용할 수 있는데, 이는 연접 합성(concatenative synthesis), 단위 선택 합성, 다이폰 합성, 도메인-특정 합성, 포먼트 합성(Formant synthesis), 조음 합성(Articulatory synthesis), 은닉 마르코프 모델(hidden Markov model, HMM) 기반 합성, 및 정현파 합성(sinewave synthesis)을 포함하지만 이로 한정되지 않는다. 일부 예들에서, 스피치 합성 모듈(740)은 단어들에 대응하는 음소 문자열에 기초하여 개별 단어들을 합성하도록 구성될 수 있다. 예를 들어, 음소 문자열은 생성된 대화 응답의 단어와 연관될 수 있다. 음소 문자열은 단어와 연관된 메타데이터에 저장될 수 있다. 스피치 합성 모듈(740)은 스피치 형태의 단어를 합성하기 위해 메타데이터 내의 음소 문자열을 직접 프로세싱하도록 구성될 수 있다.
일부 예들에서, 스피치 합성 모듈(740)을 사용하는 대신에(또는 그에 부가하여), 스피치 합성은 원격 디바이스(예컨대, 서버 시스템(108)) 상에서 수행될 수 있고, 합성된 스피치는 사용자에게의 출력을 위해 사용자 디바이스로 전송될 수 있다. 예를 들어, 이는 디지털 어시스턴트에 대한 출력이 서버 시스템에서 생성되는 일부 구현예들에서 발생할 수 있다. 그리고 서버 시스템은 일반적으로 사용자 디바이스보다 많은 처리 능력 또는 리소스를 갖기 때문에, 클라이언트 측 합성에서 실제보다 높은 품질의 스피치 출력을 획득하는 것이 가능할 수 있다.
디지털 어시스턴트에 대한 추가적인 상세 사항들은 2011년 1월 10일자로 출원되고 발명의 명칭이 "Intelligent Automated Assistant"인 미국 실용 특허 출원 제12/987,982호, 및 2011년 9월 30일자로 출원되고 발명의 명칭이 "Generating and Processing Task Items That Represent Tasks to Perform"인 미국 실용 특허 출원 제13/251,088호에서 발견될 수 있고, 이 출원들의 전체 개시내용들은 본 명세서에 참조로서 편입된다.
4. 예시적인 디지털 어시스턴트의 기능들 - 지능형 검색 및 객체 관리
도 8a 내지 도 8f, 도 9a 내지 도 9h, 도 10a 및 도 10b, 도 11a 내지 도 11d, 도 12a 내지 도 12d, 및 도 13a 내지 도 13c는 디지털 어시스턴트에 의한 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 기능들을 도시한다. 일부 예들에서, 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))은 다양한 예들에 따른 사용자 디바이스에 의해 구현된다. 일부 예들에서, 사용자 디바이스, 서버(예컨대, 서버(108)), 또는 이들의 조합은 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))을 구현할 수 있다. 사용자 디바이스는, 예를 들어, 디바이스(104, 200, 또는 400)를 이용하여 구현될 수 있다. 일부 예들에서, 사용자 디바이스는 랩톱 컴퓨터, 데스크톱 컴퓨터, 또는 태블릿 컴퓨터이다. 사용자 디바이스는 데스크톱 환경과 같은 멀티 태스킹 환경에서 동작할 수 있다.
도 8a 내지 도 8f, 도 9a 내지 도 9h, 도 10a 및 도 10b, 도 11a 내지 도 11d, 도 12a 내지 도 12d, 및 도 13a 내지 도 13c를 참조하여, 일부 예들에서, 사용자 디바이스는 다양한 사용자 인터페이스들(예컨대, 사용자 인터페이스들(810, 910, 1010, 1110, 1210, 및 1310)을 제공한다. 사용자 디바이스는 사용자 디바이스와 연관된 디스플레이(예컨대, 터치 감응형 디스플레이 시스템(212), 디스플레이(440)) 상에 다양한 사용자 인터페이스들을 디스플레이한다. 다양한 사용자 인터페이스들은 상이한 프로세스들을 나타내는 하나 이상의 어포던스(예컨대, 검색 프로세스들을 나타내는 어포던스들(820, 920, 1020, 1120, 1220, 및 1320); 및 객체 관리 프로세스들을 나타내는 어포던스들(830, 930, 1030, 1130, 1230, 및 1330))를 제공한다. 하나 이상의 프로세스가 사용자에 의해 직접 또는 간접적으로 즉시실행될 수 있다. 예를 들어, 사용자는 키보드, 마우스, 조이스틱, 손가락 등과 같은 입력 디바이스를 이용하여 어포던스들을 선택함으로써 하나 이상의 프로세스를 즉시실행한다. 사용자는 또한 스피치 입력을 이용하여 하나 이상의 프로세스를 즉시실행할 수 있고, 이는 아래에 더 상세하게 기재된 바와 같다. 프로세스를 즉시실행하는 것은 프로세스가 아직 실행중이 아닌 경우 프로세스를 호출하는 것을 포함한다. 프로세스의 적어도 하나의 인스턴스(instance)가 실행 중인 경우, 프로세스를 즉시실행하는 것은 프로세스의 기존의 인스턴스를 실행시키는 것 또는 프로세스의 새로운 인스턴스를 생성하는 것을 포함한다. 예를 들어, 객체 관리 프로세스를 즉시실행하는 것은 기존 객체 관리 프로세스를 이용하여 객체 관리 프로세스를 호출하는 것, 또는 객체 관리 프로세스의 새로운 인스턴스를 생성하는 것을 포함한다.
도 8a 내지 도 8f, 도 9a 내지 도 9h, 도 10a 및 도 10b, 도 11a 내지 도 11d, 도 12a 내지 도 12d, 및 도 13a 내지 도 13c에 도시된 바와 같이, 사용자 디바이스는, 사용자 인터페이스(예컨대, 사용자 인터페이스(810, 910, 1010, 1110, 1210, 및 1310)) 상에 디지털 어시스턴트 서비스를 즉시실행하기 위한 어포던스(예컨대, 어포던스(840, 940, 1040, 1140, 1240, 및 1340))를 디스플레이한다. 어포던스는, 예를 들어, 디지털 어시스턴트를 나타내는 마이크로폰 아이콘일 수 있다. 어포던스는 사용자 인터페이스 상의 임의의 위치에 디스플레이될 수 있다. 예를 들어, 어포던스는 사용자 인터페이스의 하부에 있는 도크(예컨대, 도크(808, 908, 1008, 1108, 1208, 및 1308)), 사용자 인터페이스 상부에 있는 메뉴 바(예컨대 메뉴 바(806, 906, 1006, 1106, 1206, 및 1306)), 사용자 인터페이스의 우측에 있는 통지 센터 등에 디스플레이될 수 있다. 어포던스는 또한 사용자 인터페이스 상에서 역동적으로 디스플레이될 수 있다. 예를 들어, 사용자 디바이스는 어포던스를 애플리케이션 사용자 인터페이스(예컨대, 애플리케이션 창) 근처에 디스플레이하여 디지털 어시스턴트 서비스가 편리하게 즉시실행될 수 있도록 한다.
일부 예들에서, 디지털 어시스턴트는 사전결정된 구절을 수신하는 것에 응답하여 즉시실행된다. 예를 들어, 디지털 어시스턴트는 "이봐, 어시스턴트", "일어나, 어시스턴트", "잘 들어, 어시스턴트", "OK, 어시스턴트" 등과 같은 구절을 수신하는 것에 응답하여 호출된다. 일부 예들에서, 디지털 어시스턴트는 어포던스의 선택을 수신하는 것에 응답하여 즉시실행된다. 예를 들어, 사용자는 마우스, 스타일러스, 손가락 등과 같은 입력 디바이스를 이용하여 어포던스(840, 940, 1040, 1140, 1240, 및/또는 1340)를 선택한다. 사용자 디바이스 상의 디지털 어시스턴트를 제공하는 것은 연산 리소스들(예컨대, 전력, 네트워크 대역폭, 메모리, 및 프로세서 사이클)을 소모한다. 일부 예들에서, 디지털 어시스턴트는 사용자가 그것을 호출할 때까지 유예되거나 또는 셧다운된다. 일부 예들에서, 디지털 어시스턴트는 다양한 기간 동안 활성화된다. 예를 들어, 디지털 어시스턴트는 다양한 사용자 인터페이스들이 디스플레이되는 시간 동안, 사용자 디바이스가 켜진 시간 동안, 사용자 디바이스가 동면 또는 수면 중인 시간 동안, 사용자가 로그 오프한 시간 동안, 또는 이들의 조합된 시간 동안 활성화되어 사용자의 스피치 입력을 모니터링할 수 있다.
도 8a 내지 도 8f, 도 9a 내지 도 9h, 도 10a 및 도 10b, 도 11a 내지 도 11d, 도 12a 내지 도 12d, 및 도 13a 내지 도 13c를 참조하여, 디지털 어시스턴트는 사용자로부터 스피치 입력들(852, 854, 855, 856, 952, 954, 1052, 1054, 1152, 1252, 또는 1352)과 같은 하나 이상의 스피치 입력을 수신한다. 사용자는, 예를 들어, 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하기 위한 다양한 스피치 입력들을 제공한다. 일부 예들에서, 디지털 어시스턴트는 사용자 디바이스에서 사용자로부터 직접 스피치 입력들을 수신하거나 또는 사용자 디바이스에 통신가능하게 연결된 다른 전자 디바이스를 통해 간접적으로 스피치 입력들을 수신한다. 디지털 어시스턴트는, 예를 들어, 사용자 디바이스의 마이크로폰(예컨대, 마이크로폰(213))을 통해 사용자로부터 직접 스피치 입력들을 수신한다. 사용자 디바이스는 멀티 태스킹 환경에서 동작하도록 구성된 디바이스, 예컨대, 랩톱 컴퓨터, 데스크톱 컴퓨터, 태블릿, 서버 등을 포함한다. 디지털 어시스턴트는 또한 헤드셋, 스마트폰, 태블릿 등과 같은 하나 이상의 전자 디바이스를 통해 간접적으로 스피치 입력들을 수신할 수 있다. 예를 들어, 사용자는 헤드셋(미도시)에 말을 할 수 있다. 헤드셋은 사용자로부터 스피치 입력을 수신하고, 스피치 입력 또는 그것의 표현을, 예를 들어, 헤드셋과 사용자 디바이스 간의 블루투스 연결을 통해 사용자 디바이스의 디지털 어시스턴트에 전송한다.
도 8a 내지 도 8f, 도 9a 내지 도 9h, 도 10a 및 도 10b, 도 11a 내지 도 11d, 도 12a 내지 도 12d, 및 도 13a 내지 도 13c를 참조하여, 일부 실시예들에서, 디지털 어시스턴트(예컨대, 어포던스(840, 940, 1040, 1140, 1240, 및 1340)에 의해 표현됨)는 사용자 디바이스와 연관된 컨텍스트 정보를 식별한다. 컨텍스트 정보는, 예를 들어, 사용자 특정 데이터, 하나 이상의 객체와 연관된 메타데이터, 센서 데이터, 및 사용자 디바이스 구성 데이터를 포함한다. 객체는 태스크를 수행하는 것과 연관된 프로세스(예컨대, 객체 관리 프로세스)의 타겟 또는 컴포넌트 또는 현재 스크린 상에 디스플레이되는 그래픽 요소일 수 있고, 객체 또는 그래픽 요소는 포커스(예컨대, 현재 선택됨)를 갖거나 또는 현재 갖지 않을 수 있다. 예를 들어, 객체는 파일(예컨대, 사진, 문서), 폴더, 통신(예컨대, 이메일, 메시지, 통지, 또는 음성메일), 연락처, 캘린더, 애플리케이션, 온라인 리소스 등을 포함할 수 있다. 일부 예들에서, 사용자 특정 데이터는 로그 정보, 사용자 선호도, 사용자와 사용자 디바이스의 상호작용 이력 등을 포함한다. 로그 정보는 프로세스에서 사용된 최근 객체들(예컨대, 프레젠테이션 파일)을 나타낸다. 일부 예들에서, 하나 이상의 객체와 연관된 메타데이터는 객체의 제목, 객체의 시간 정보, 객체의 작성자, 객체의 요약 등을 포함한다. 일부 예들에서, 센서 데이터는 사용자 디바이스와 연관된 센서에 의해 수집되는 다양한 데이터를 포함한다. 예를 들어, 센서 데이터는 사용자 디바이스의 물리적 위치를 나타내는 위치 데이터를 포함한다. 일부 예들에서, 사용자 디바이스 구성 데이터는 현재 디바이스 구성을 포함한다. 예를 들어, 디바이스 구성은 사용자 디바이스가 스마트폰, 태블릿 등과 같은 하나 이상의 전자 디바이스에 통신가능하게 연결됨을 나타낸다. 아래 더 상세하게 기재된 바와 같이, 사용자 디바이스는 컨텍스트 정보를 이용하여 하나 이상의 프로세스를 수행할 수 있다.
도 8a 내지 도 8f, 도 9a 내지 도 9h, 도 10a 및 도 10b, 도 11a 내지 도 11d, 도 12a 내지 도 12d, 및 도 13a 내지 도 13c를 참조하여, 스피치 입력을 수신하는 것에 응답하여, 디지털 어시스턴트는 스피치 입력에 기초하여 사용자 의도를 결정한다. 위에 기재된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 I/O 처리 모듈(예컨대, 도 7b에 도시된 바와 같은 I/O 처리 모듈(728)), STT 처리 모듈(예컨대, 도 7b에 도시된 바와 같은 STT 처리 모듈(730)), 및 자연 언어 처리 모듈(예컨대, 도 7b에 도시된 바와 같은 자연 언어 처리 모듈(732))을 통해 스피치 입력을 프로세싱한다. I/O 처리 모듈은 스피치-텍스트 변환을 위해 스피치 입력을 STT 처리 모듈 (또는 스피치 인식기)에 전달한다. 스피치-텍스트 변환은 스피치 입력에 기초하여 텍스트를 생성한다. 위에 기재된 바와 같이, STT 처리 모듈은 단어들 또는 토큰들의 시퀀스("토큰 시퀀스")를 생성하고, 토큰 시퀀스를 자연 언어 처리 모듈에 제공한다. 자연 언어 처리 모듈은 텍스트의 자연 언어 프로세싱을 수행하고 자연 언어 프로세싱의 결과에 기초하여 사용자 의도를 결정한다. 예를 들어, 자연 언어 처리 모듈은 토큰 시퀀스를 디지털 어시스턴트에 의해 인식되는 하나 이상의 행동가능한 의도와 연관시키도록 시도할 수 있다. 기재된 바와 같이, 자연 언어 처리 모듈이 사용자 입력에 기초하여 행동가능한 의도를 식별하면, 그것은 식별된 행동가능한 의도를 나타내기 위한 구조화된 질의를 생성한다. 구조화된 질의는 행동가능한 의도와 연관된 하나 이상의 파라미터를 포함한다. 하나 이상의 파라미터는 행동가능한 의도에 기초하여 태스크의 수행을 용이하게 하는 데 이용된다.
일부 실시예들에서, 디지털 어시스턴트는, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 추가로 결정한다. 검색 프로세스는 사용자 디바이스에 내부적으로 또는 외부적으로 저장된 데이터를 검색하도록 구성된다. 객체 관리 프로세스는 사용자 디바이스와 연관된 객체들을 관리하도록 구성된다. 사용자 의도를 결정하는 다양한 예들이 도 8a 내지 도 8f, 도 9a 내지 도 9h, 도 10a 및 도 10b, 도 11a 내지 도 11d, 도 12a 내지 도 12d, 및 도 13a 내지 도 13c에 대하여 아래 더 상세하게 제공된다.
도 8a를 참조하여, 일부 예들에서, 사용자 디바이스는 사용자로부터 스피치 입력(852)을 수신하여 디지털 어시스턴트를 즉시실행한다. 스피치 입력(852)은, 예를 들어, "이봐, 어시스턴트"를 포함한다. 스피치 입력에 응답하여, 사용자 디바이스는 어포던스(840 또는 841)에 의해 표시되는 디지털 어시스턴트를 즉시실행하여, 디지털 어시스턴트가 능동적으로 후속 스피치 입력들을 모니터링하도록 한다. 일부 예들에서, 디지털 어시스턴트는 그것이 즉시실행됨을 알리는 음성 출력(872)을 제공한다. 예를 들어, 음성 출력(872)은 "말씀하세요. 듣고 있습니다."를 포함한다. 일부 예들에서, 사용자 디바이스는 사용자로부터 디지털 어시스턴트를 즉시실행하기 위한 어포던스(840) 또는 어포던스(841)의 선택을 수신한다. 어포던스의 선택은 마우스, 스타일러스, 손가락 등과 같은 입력 디바이스를 이용하여 수행된다.
도 8b를 참조하여, 일부 예들에서, 디지털 어시스턴트는 스피치 입력(854)을 수신한다. 스피치 입력(854)은, 예를 들어, "검색 프로세스 열어서 오늘 AAPL 주가를 찾아줘.", 또는 간단히 "오늘 AAPL 주가를 보여줘."를 포함한다. 스피치 입력(854)에 기초하여, 디지털 어시스턴트는 사용자 의도를 결정한다. 예를 들어, 사용자 의도를 결정하기 위하여, 디지털 어시스턴트는 행동가능한 의도는 온라인 정보를 획득하는 것이고, 이 행동가능한 의도와 연관된 하나 이상의 파라미터가 "AAPL 주가", 및 "오늘"을 포함한다고 결정한다.
기재된 바와 같이, 일부 예들에서, 디지털 어시스턴트는, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 추가로 결정한다. 일부 실시예들에서, 결정을 내리기 위하여, 디지털 어시스턴트는 스피치 입력이 검색 프로세스 또는 객체 관리 프로세스를 나타내는 하나 이상의 키워드를 포함하는지 결정한다. 예를 들어, 디지털 어시스턴트는 스피치 입력(854)이 "검색 프로세스를 열어."와 같은 키워드 또는 구절을 포함한다고 결정하는데, 이는 사용자 의도가 태스크를 수행하기 위하여 검색 프로세스를 이용하는 것이라고 나타낸다. 결과적으로, 디지털 어시스턴트는 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것이라고 결정한다.
도 8b에 도시된 바와 같이, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 디지털 어시스턴트는 검색 프로세스를 이용하여 태스크를 수행한다. 기재된 바와 같이, 디지털 어시스턴트의 자연 언어 처리 모듈은 사용자 의도에 기초하여 구조화된 질의를 생성하고, 생성된 구조화된 질의를 태스크 흐름 처리 모듈(예컨대, 태스크 흐름 처리 모듈(736))에 전달한다. 태스크 흐름 처리 모듈은 자연 언어 처리 모듈로부터 구조화된 질의를 수신하고, 필요한 경우 구조화된 질의를 완성하고, 사용자의 궁극적인 요청을 "완수"하는 데 필요한 행동들을 수행한다. 검색 프로세스를 이용하여 태스크를 수행하는 것은, 예를 들어, 적어도 하나의 객체를 검색하는 것을 포함한다. 일부 실시예들에서, 적어도 하나의 객체는 폴더, 파일(예컨대, 사진, 오디오, 비디오), 통신(예컨대, 이메일, 메시지, 통지, 음성메일), 연락처, 캘린더, 애플리케이션(예컨대, 키노트(Keynote), 넘버(Number), 아이튠즈(iTunes), 사파리(Safari)), 온라인 정보제공원(예컨대, 구글(Google), 야후(Yahoo), 블룸버그(Bloomberg)), 또는 이들의 조합을 포함한다. 일부 예들에서, 객체를 검색하는 것은 객체와 연관된 메타데이터에 기초한다. 예를 들어, 파일 또는 폴더의 검색은 태그, 날짜, 시간, 작성자, 제목, 파일 유형, 크기, 페이지 수, 및/또는 폴더 또는 파일과 연관된 파일 위치와 같은 메타데이터를 이용할 수 있다. 일부 예들에서, 파일 또는 폴더는 사용자 디바이스에 내부적으로 또는 외부적으로 저장된다. 예를 들어, 파일 또는 폴더는 사용자 디바이스의 하드 디스크 상에 저장되거나 또는 클라우드 서버 상에 저장될 수 있다. 일부 예들에서, 통신을 검색하는 것은 통신과 연관된 메타데이터에 기초한다. 예를 들어, 이메일의 검색은 이메일을 보낸 사람, 이메일을 받은 사람, 이메일을 보낸/받은 날짜 등과 같은 메타데이터를 사용한다.
도 8b에 도시된 바와 같이, 사용자 의도가 검색 프로세스를 이용하여 AAPL 주가를 획득하는 것이라는 결정에 따라, 디지털 어시스턴트는 검색을 수행한다. 예를 들어, 디지털 어시스턴트는 어포던스(820)에 의해 표현되는 검색 프로세스를 즉시실행하고, 검색 프로세스로 하여금 오늘의 AAPL 주가를 검색하게 한다. 일부 예들에서, 디지털 어시스턴트는 추가로 검색 프로세스로 하여금 스피치 입력(854)(예컨대, "검색 프로세스 열어서 오늘 AAPL 주가를 찾아줘.")에 대응하는 텍스트를 제공하는 사용자 인터페이스(822)(예컨대, 스니펫 또는 창)를 디스플레이하게 한다.
도 8c를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 검색 프로세스를 이용하여 태스크를 수행하는 것의 결과에 기초하여 응답을 제공한다. 도 8c에 도시된 바와 같이, AAPL 주가를 검색한 결과로서, 디지털 어시스턴트는 검색 프로세스를 이용하여 태스크를 수행한 결과를 제공하는 사용자 인터페이스(824)(예컨대, 스니펫 또는 창)를 디스플레이한다. 일부 실시예들에서, 사용자 인터페이스(824)는 사용자 인터페이스(822) 내에 별개의 사용자 인터페이스로서 위치한다. 일부 실시예들에서, 사용자 인터페이스들(824, 822)은 단일 사용자 인터페이스로서 서로 통합된다. 사용자 인터페이스(824) 상에, AAPL의 주가의 검색 결과가 디스플레이된다. 일부 실시예들에서, 사용자 인터페이스(824)는 어포던스들(831, 833)을 추가로 제공한다. 어포던스(831)는 사용자 인터페이스(824)의 닫힘을 인에이블한다. 예를 들어, 디지털 어시스턴트가 사용자의 어포던스(831)의 선택을 수신한 경우, 사용자 인터페이스(824)는 사용자 디바이스의 디스플레이로부터 사라지거나 또는 닫힌다. 어포던스(833)는 사용자 인터페이스(824) 상에 디스플레이되는 검색 결과를 이동 또는 공유하도록 인에이블한다. 예를 들어, 디지털 어시스턴트가 사용자의 어포던스(833)의 선택을 수신한 경우, 그것은 사용자 인터페이스(824)(또는 그것의 검색 결과)를 이동하거나 또는 통지 애플리케이션과 공유하기 위한 프로세스(예컨대, 객체 관리 프로세스)를 즉시실행한다. 도 8c에 도시된 바와 같이, 디지털 어시스턴트는 AAPL 주가의 검색 결과를 제공하기 위한 통지 애플리케이션과 연관된 사용자 인터페이스(826)를 디스플레이한다. 일부 실시예들에서, 사용자 인터페이스(826)는 어포던스(827)를 디스플레이한다. 어포던스(827)는 사용자가 사용자 인터페이스(826) 내의 전체 콘텐츠(예컨대, 다수의 통지들)를 볼 수 있게 사용자 인터페이스(826) 내의 스크롤을 인에이블하고/하거나 그것의 전체 길이 및/또는 폭에 대한 문서의 상대적인 위치를 나타낸다. 일부 실시예들에서, 사용자 인터페이스(826)는 디지털 어시스턴트에 의해 저장된 결과들 및/또는 대화 이력(예컨대, 현재 및/또는 과거 검색 프로세스로부터 획득된 검색 결과들)을 디스플레이한다. 또한, 일부 예들에서, 태스크의 수행의 결과들은 시간이 경과함에 따라 역동적으로 업데이트된다. 예를 들어, AAPL 주가는 시간이 경과함에 따라 역동적으로 업데이트될 수 있고 사용자 인터페이스(826) 상에 디스플레이될 수 있다.
일부 실시예들에서, 디지털 어시스턴트는 또한 검색 결과에 대응하는 음성 출력을 제공한다. 예를 들어, 디지털 어시스턴트(예컨대, 어포던스(840)에 의해 표시됨)는 "오늘의 AAPL 가격은 $100.00입니다."를 포함하는 음성 출력(874)을 제공한다. 일부 예들에서, 사용자 인터페이스(822)는 음성 출력(874)에 대응하는 텍스트를 포함한다.
도 8d를 참조하여, 일부 예들에서, 디지털 어시스턴트는 사용자 인터페이스(824) 상에 디스플레이되는 검색 결과를 후속 스피치 입력에 응답하여 이동 또는 공유하기 위한 프로세스(예컨대, 객체 관리 프로세스)를 즉시실행한다. 예를 들어, 디지털 어시스턴트는 "AAPL 주가를 내 메모장에 복사해 줘."와 같은 스피치 입력(855)을 수신한다. 이에 응답하여, 디지털 어시스턴트는 검색 결과(예컨대, AAPL 주가)를 사용자의 메모장에 이동 또는 복사하기 위한 프로세스를 즉시실행한다. 도 8d에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 사용자의 메모장에 복사 또는 이동된 검색 결과를 제공하는 사용자 인터페이스(825)를 추가로 디스플레이한다. 일부 예들에서, 디지털 어시스턴트는 "네, AAPL 주가가 당신의 메모장에 복사되었습니다."와 같은 음성 출력(875)을 추가로 제공한다. 일부 예들에서, 사용자 인터페이스(822)는 음성 출력(875)에 대응하는 텍스트를 포함한다.
도 8e를 참조하여, 일부 예들에서, 디지털 어시스턴트는 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라고 결정하고, 객체 관리 프로세스를 이용하여 태스크를 수행한다. 예를 들어, 디지털 어시스턴트는 "객체 관리 프로세스 열어서 콜로라도 여행에서 찍은 사진을 모두 보여줘.", 또는 간단히 "콜로라도 여행에서 찍은 사진을 모두 보여줘."와 같은 스피치 입력(856)을 수신한다. 스피치 입력(856) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도를 결정한다. 예를 들어, 디지털 어시스턴트는 행동가능한 의도가 사진들을 디스플레이하는 것이라고 결정하고, "모두", 및 "콜로라도 여행"과 같은 하나 이상의 파라미터를 결정한다. 디지털 어시스턴트는 컨텍스트 정보를 이용하여 어떤 사진들이 사용자의 콜로라도 여행에 대응하는지 추가로 결정한다. 기재된 바와 같이, 컨텍스트 정보는 사용자 특정 데이터, 하나 이상의 객체의 메타데이터, 센서 데이터, 및/또는 디바이스 구성 데이터를 포함한다. 예를 들어, 하나 이상의 파일들(예컨대, 사용자 인터페이스(832)에 디스플레이된 파일 1, 파일 2, 및 파일 3)과 연관된 메타데이터는 파일 이름들이 "콜로라도" 또는 콜로라도의 도시 이름(예컨대, "덴버")의 단어를 포함함을 나타낸다. 메타데이터는 또한 폴더 이름이 "콜로라도" 또는 콜로라도의 도시 이름(예컨대, "덴버")의 단어를 포함함을 나타낼 수 있다. 다른 예를 들어, 센서 데이터(예컨대, GPS 데이터)는 사용자가 특정 기간 동안 콜로라도 내에서 여행하고 있었음을 나타낸다. 결과적으로, 그 특정 기간 동안 사용자가 찍은 임의의 사진들은 사용자의 콜로라도 여행 동안 찍은 사진들이다. 뿐만 아니라, 사진들 자체에 사진을 그것이 찍힌 위치와 연관시키는 지리정보가 삽입된 메타데이터를 포함할 수 있다. 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가, 예를 들어, 폴더 이름이 "콜로라도 여행"인 폴더에 저장된 사진들을 디스플레이하거나, 또는 사용자가 콜로라도 내에서 여행하고 있던 기간 동안 찍은 사진들을 디스플레이하는 것이라고 결정한다.
기재된 바와 같이, 일부 예들에서, 디지털 어시스턴트는, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정한다. 그러한 결정을 내리기 위하여, 디지털 어시스턴트는 스피치 입력이 검색 프로세스 또는 객체 관리 프로세스를 나타내는 하나 이상의 키워드를 포함하는지 결정한다. 예를 들어, 디지털 어시스턴트는 스피치 입력(856)이 "객체 관리 프로세스를 열어"와 같은 키워드 또는 구절을 포함한다고 결정하는데, 이는 사용자 의도가 태스크를 수행하기 위하여 객체 관리 프로세스를 이용하는 것이라고 나타낸다.
사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 디지털 어시스턴트는 객체 관리 프로세스를 이용하여 태스크를 수행한다. 예를 들어, 디지털 어시스턴트는 객체 관리 프로세스를 이용하여 적어도 하나의 객체를 검색한다. 일부 예들에서, 적어도 하나의 객체는 적어도 하나의 폴더 또는 파일을 포함한다. 파일은 적어도 하나의 사진, 오디오(예컨대, 노래), 또는 비디오(예컨대, 영화)를 포함할 수 있다. 일부 예들에서, 파일 또는 폴더를 검색하는 것은 폴더 또는 파일과 연관된 메타데이터에 기초한다. 예를 들어, 파일 또는 폴더의 검색은 태그, 날짜, 시간, 작성자, 제목, 파일 유형, 크기, 페이지 수, 및/또는 폴더 또는 파일과 연관된 파일 위치와 같은 메타데이터를 이용한다. 일부 예들에서, 파일 또는 폴더는 사용자 디바이스에 내부적으로 또는 외부적으로 저장될 수 있다. 예를 들어, 파일 또는 폴더는 사용자 디바이스의 하드 디스크 상에 저장되거나 또는 클라우드 서버 상에 저장될 수 있다.
도 8e에 도시된 바와 같이, 사용자 의도가, 예를 들어, 폴더 이름이 "콜로라도 여행"인 폴더에 저장된 사진들을 디스플레이하거나, 또는 사용자가 콜로라도 내에서 여행하고 있던 기간 동안 찍은 사진들을 디스플레이하는 것이라는 결정에 따라, 디지털 어시스턴트는 객체 관리 프로세스를 이용하여 태스크를 수행한다. 예를 들어, 디지털 어시스턴트는 어포던스(830)에 의해 표시되는 객체 관리 프로세스를 즉시실행하고, 객체 관리 프로세스로 하여금 사용자의 콜로라도 여행에서 찍은 사진들을 검색하게 한다. 일부 예들에서, 디지털 어시스턴트는 또한 객체 관리 프로세스로 하여금 사용자의 스피치 입력(856)의 텍스트를 제공하는 스니펫 또는 창(미도시)을 디스플레이하게 한다.
도 8f를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과에 기초한 응답을 추가로 제공한다. 도 8f에 도시된 바와 같이, 사용자의 콜로라도 여행의 사진들을 검색한 결과로서, 디지털 어시스턴트는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과를 제공하는 사용자 인터페이스(834)(예컨대, 스니펫 또는 창)를 디스플레이한다. 예를 들어, 사용자 인터페이스(834) 상에, 사진들의 미리보기가 디스플레이된다. 일부 예들에서, 디지털 어시스턴트는 문서에 사진들을 삽입하거나 또는 이메일에 사진들을 첨부하는 것과 같은, 사진에 추가적인 태스크를 수행하기 위한 프로세스(예컨대, 객체 관리 프로세스)를 즉시실행한다. 아래 더 상세하게 기재된 바와 같이, 디지털 어시스턴트는 사용자의 추가적인 스피치 입력에 응답하여 추가적인 태스크를 수행하기 위한 프로세스를 즉시실행할 수 있다. 뿐만 아니라, 디지털 어시스턴트는 "콜로라도 여행에서 찍은 사진들을 이메일로 엄마한테 보내줘."와 같이 단일 스피치 입력에 응답하여 다수의 태스크들을 수행할 수 있다. 디지털 어시스턴트는 또한 입력 디바이스(예컨대, 하나 이상의 어포던스를 선택하거나 또는 드래그 앤드 드롭 동작을 수행하기 위한 마우스 입력)를 이용하는 사용자의 입력에 응답하여 그러한 추가적인 태스크들을 수행하기 위한 프로세스를 즉시실행할 수 있다. 일부 실시예들에서, 디지털 어시스턴트는 추가로 결과에 대응하는 음성 출력을 제공한다. 예를 들어, 디지털 어시스턴트는 "여기에 콜로라도 여행에서 찍은 사진들이 있습니다."를 포함하는 음성 출력(876)을 제공한다.
도 9a를 참조하여, 일부 예들에서, 사용자의 스피치 입력은 사용자 의도가 검색 프로세스를 이용하는 것인지 또는 객체 관리 프로세스를 이용하는 것인지 나타내는 하나 이상의 키워드를 포함하지 않을 수 있다. 예를 들어, 사용자는 "오늘의 워리어스 경기의 스코어가 어떻게 되지?"와 같은 스피치 입력(952)을 제공한다. 스피치 입력(952)은 "검색 프로세스" 또는 "객체 관리 프로세스"를 나타내는 키워드들을 포함하지 않는다. 결과적으로, 키워드들은 디지털 어시스턴트가 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하는 데 이용가능하지 않을 수 있다.
일부 실시예들에서, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하기 위하여, 디지털 어시스턴트는 태스크가 스피치 입력에 기초하여 검색과 연관되는지 결정한다. 일부 예들에서, 검색과 연관된 태스크가 검색 프로세스 또는 객체 관리 프로세스 중 어느 하나에 의해 수행될 수 있다. 예를 들어, 검색 프로세스 및 객체 관리 프로세스 둘 모두 폴더 및 파일을 검색할 수 있다. 일부 예들에서, 검색 프로세스는 온라인 정보 소스(예컨대, 웹사이트), 통신(예컨대, 이메일), 연락처, 캘린더 등을 포함하는 다양한 객체들을 추가로 검색할 수 있다. 일부 예들에서, 객체 관리 프로세스는 온라인 정보 소스와 같은 특정 객체들을 검색하도록 구성되지 않을 수 있다.
태스크가 검색과 연관된다는 결정에 따라, 디지털 어시스턴트는 추가로 태스크를 수행하는 것이 검색 프로세스를 요구하는지 결정한다. 기재된 바와 같이, 태스크가 검색과 연관되는 경우, 검색 프로세스 또는 객체 관리 프로세스 중 어느 하나가 태스크를 수행하는 데 사용될 수 있다. 그러나, 객체 관리 프로세스는 특정 객체들을 검색하도록 구성되지 않을 수 있다. 결과적으로, 사용자 의도가 검색 프로세스를 이용하는 것인지 아니면 객체 관리 프로세스를 이용하는 것인지 결정하기 위하여, 디지털 어시스턴트는 추가로 태스크가 검색 프로세스를 요구하는지 결정한다. 예를 들어, 도 9a에 도시된 바와 같이, 스피치 입력(952)에 기초하여, 디지털 어시스턴트는 사용자 의도가, 예를 들어, 오늘의 워리어스 경기의 스코어를 알고 싶은 것인지 결정한다. 사용자 의도에 따라, 디지털 어시스턴트는 추가로 태스크를 수행하는 것은 온라인 정보 소스를 검색하는 것을 요구하고, 따라서 검색과 연관된다고 결정한다. 디지털 어시스턴트는 추가로 태스크를 수행하는 것이 검색 프로세스를 요구하는지 결정한다. 기재된 바와 같이, 일부 예들에서, 검색 프로세스는 웹사이트와 같은 온라인 정보 소스들을 검색하도록 구성되는 반면, 객체 관리 프로세스는 그러한 온라인 정보 소스들을 검색하도록 구성되지 않을 수 있다. 결과적으로, 디지털 어시스턴트는 온라인 정보 소스들을 검색하는 것(예컨대, 스코어를 알아내기 위하여 워리어스의 웹사이트를 검색하는 것)이 검색 프로세스를 요구한다고 결정한다.
도 9b를 참조하여, 일부 실시예들에서, 태스크를 수행하는 것이 검색 프로세스를 요구한다는 결정에 따라, 디지털 어시스턴트는 검색 프로세스를 이용하여 태스크를 수행한다. 예를 들어, 오늘의 워리어스 경기의 스코어를 검색하는 것이 검색 프로세스를 요구한다는 결정에 따라, 디지털 어시스턴트는 어포던스(920)에 의해 표시되는 검색 프로세스를 즉시실행하고, 검색 프로세스로 하여금 오늘의 워리어스 경기의 스코어를 검색하게 한다. 일부 예들에서, 디지털 어시스턴트는 추가로 검색 프로세스로 하여금 사용자 스피치 입력(952)의 텍스트(예컨대, "오늘의 워리어스 경기의 스코어가 어떻게 되지?")를 제공하는 사용자 인터페이스(922)(예컨대, 스니펫 또는 창)를 디스플레이하게 한다. 사용자 인터페이스(922)는 하나 이상의 어포던스(921, 927)를 포함한다. 위에서 기재한 바와 유사하게, 어포던스(921)(예컨대, 닫기 버튼)는 사용자 인터페이스(922)의 닫힘을 인에이블하고, 어포던스(927)(예컨대, 스크롤 바)는 사용자가 사용자 인터페이스(922) 내의 전체 콘텐츠를 볼 수 있도록 사용자 인터페이스(922) 내에서 스크롤을 인에이블한다.
도 9b를 참조하여, 일부 예들에서, 검색 결과들에 기초하여, 디지털 어시스턴트는 추가로 하나 이상의 응답을 제공한다. 도 9b에 도시된 바와 같이, 오늘의 워리어스 경기의 스코어를 검색한 결과로서, 디지털 어시스턴트는 검색 프로세스를 이용하여 태스크를 수행한 결과를 제공하는 사용자 인터페이스(924)(예컨대, 스니펫 또는 창)를 디스플레이한다. 일부 실시예들에서, 사용자 인터페이스(924)는 사용자 인터페이스(922) 내에 별개의 사용자 인터페이스로서 위치한다. 일부 실시예들에서, 사용자 인터페이스들(924, 922)은 단일 사용자 인터페이스로서 서로 통합된다. 일부 예들에서, 디지털 어시스턴트는 현재 검색 결과들(예컨대, 워리어스 경기 스코어)을 제공하는 사용자 인터페이스(924)를 이전 검색 결과들(예컨대, AAPL 주가)을 제공하는 다른 사용자 인터페이스(예컨대, 도 8c에 도시된 사용자 인터페이스(824))와 함께 디스플레이한다. 일부 실시예들에서, 디지털 어시스턴트는 현재 검색 결과들을 제공하는 사용자 인터페이스(924)만을 디스플레이하고, 이전 검색 결과들을 제공하는 다른 사용자 인터페이스를 디스플레이하지 않는다. 도 9b에 도시된 바와 같이, 디지털 어시스턴트는 현재 검색 결과들(예컨대, 워리어스 경기 스코어)을 제공하기 위한 사용자 인터페이스(924)만을 디스플레이한다. 일부 예들에서, 어포던스(927)(예컨대, 스크롤 바)는 사용자가 이전 검색 결과들을 볼 수 있도록 사용자 인터페이스(922) 내의 스크롤을 인에이블한다. 또한, 일부 예들에서, 이전 검색 결과들은, 예컨대, 주가, 스포츠 스코어, 일기 예보 등이 시간이 경과함에 따라 업데이트되도록 역동적으로 업데이트 또는 갱신된다.
도 9b에 도시된 바와 같이, 사용자 인터페이스(924) 상에서, 오늘의 워리어스 경기의 스코어의 검색 결과가 디스플레이된다(예컨대, 워리어스 104-89 캐벌리어스). 일부 실시예들에서, 사용자 인터페이스(924)는 어포던스들(923, 925)을 추가로 제공한다. 어포던스(923)는 사용자 인터페이스(924)의 닫힘을 인에이블한다. 예를 들어, 디지털 어시스턴트가 사용자의 어포던스(923)의 선택을 수신한 경우, 사용자 인터페이스(924)는 사용자 디바이스의 디스플레이로부터 사라지거나 또는 닫힌다. 어포던스(925)는 사용자 인터페이스(924) 상에 디스플레이되는 검색 결과를 이동 또는 공유하도록 인에이블한다. 예를 들어, 디지털 어시스턴트가 사용자의 어포던스(925)의 선택을 수신한 경우, 그것은 사용자 인터페이스(924)(또는 그것의 검색 결과)를 이동하거나 또는 통지 애플리케이션과 공유한다. 도 9b에 도시된 바와 같이, 디지털 어시스턴트는 워리어스 경기 스코어의 검색 결과를 제공하기 위한 통지 애플리케이션과 연관된 사용자 인터페이스(926)를 디스플레이한다. 기재된 바와 같이, 태스크의 수행 결과들은 시간이 경과함에 따라 역동적으로 업데이트된다. 예를 들어, 워리어스 경기 스코어는 경기가 진행중인 동안 시간이 경과함에 따라 역동적으로 업데이트될 수 있고 사용자 인터페이스(924)(예컨대, 스니펫 또는 창) 및/또는 사용자 인터페이스(926)(예컨대, 통지 애플리케이션 사용자 인터페이스) 상에 디스플레이될 수 있다. 일부 실시예들에서, 디지털 어시스턴트는 추가로 검색 결과에 대응하는 음성 출력을 제공한다. 예를 들어, 어포던스(940 또는 941)에 의해 표시되는 디지털 어시스턴트는 "워리어스가 캐벌리어스를 104-89로 이깁니다."와 같은 음성 출력(972)을 제공한다. 일부 예들에서, 사용자 인터페이스(922)(예컨대, 스니펫 또는 창)는 음성 출력(972)에 대응하는 텍스트를 제공한다.
위에 기재된 바와 같이, 일부 실시예들에서, 디지털 어시스턴트는 태스크가 검색과 연관되는지 결정하고, 그와 같은 결정에 따라, 디지털 어시스턴트는 태스크를 수행하는 것이 검색 프로세스를 요구하는지 결정한다. 도 9c를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 태스크를 수행하는 것이 검색 프로세스를 필요로 하지 않는다고 결정한다. 예를 들어, 도 9c에 도시된 바와 같이, 디지털 어시스턴트는 "비용이라고 불리는 파일들을 모두 보여줘."와 같은 스피치 입력(954)을 수신한다. 스피치 입력(954) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 그것들의 파일 이름, 메타데이터, 파일들의 내용 등에 포함된 "비용"이라는 단어(또는 이들의 일부분, 변형, 동의어)를 포함하는 모든 파일들을 디스플레이하는 것이라고 결정한다. 사용자 의도에 따라, 디지털 어시스턴트는 수행될 태스크가 "비용"이라는 단어와 연관된 모든 파일들을 검색하는 것을 포함한다고 결정한다. 결과적으로, 디지털 어시스턴트는 태스크를 수행하는 것이 검색과 연관된다고 결정한다. 위에 기재된 바와 같이, 일부 예들에서, 검색 프로세스 및 객체 관리 프로세스는 둘 모두 파일들의 검색을 수행할 수 있다. 결과적으로, 디지털 어시스턴트는 "비용"이라는 단어와 연관된 모든 파일들을 검색하는 태스크를 수행하는 것이 검색 프로세스를 필요로 하지 않는다고 결정한다.
도 9d를 참조하여, 일부 예들에서, 태스크를 수행하는 것이 검색 프로세스를 필요로 하지 않는다는 결정에 따라, 디지털 어시스턴트는, 사전결정된 구성에 기초하여, 태스크가 검색 프로세스를 이용하여 수행될 것인지 아니면 객체 관리 프로세스를 이용하여 수행될 것인지 결정한다. 예를 들어, 검색 프로세스 및 객체 관리 프로세스 둘 모두 태스크를 수행할 수 있는 경우, 사전결정된 구성은 태스크가 검색 프로세스를 이용하여 수행될 것을 나타낼 수 있다. 사전결정된 구성은 사용자 선호도 또는 사용자 특정 데이터와 같은 컨텍스트 정보를 이용하여 생성 및 업데이트될 수 있다. 예를 들어, 디지털 어시스턴트는, 특정 사용자의 경우, 과거 파일 검색을 위하여 객체 관리 프로세스보다 검색 프로세스가 더 빈번하게 선택되었음을 결정한다. 결과적으로, 디지털 어시스턴트는 검색 프로세스가 파일들을 검색하기 위한 디폴트 프로세스임을 나타내기 위한 사전결정된 구성을 생성 또는 업데이트한다. 일부 예들에서, 디지털 어시스턴트는 객체 관리 프로세스가 디폴트 프로세스임을 나타내기 위한 사전결정된 구성을 생성 또는 업데이트한다.
도 9d에 도시된 바와 같이, 사전결정된 구성에 기초하여, 디지털 어시스턴트는 "비용"이라는 단어와 연관된 모든 파일들을 검색하는 태스크는 검색 프로세스를 이용하여 수행될 것임을 결정한다. 결과적으로, 디지털 어시스턴트는 검색 프로세스를 이용하여 "비용"이라는 단어와 연관된 모든 파일들의 검색을 수행한다. 예를 들어, 디지털 어시스턴트는 사용자 인터페이스(910) 상에 디스플레이되는 어포던스(920)에 의해 표시되는 검색 프로세스를 즉시실행하고, 검색 프로세스로 하여금 "비용"이라는 단어와 연관된 모든 파일들을 검색하게 한다. 일부 예들에서, 디지털 어시스턴트는 추가로 음성 출력(974)을 제공하여, 사용자에게 태스크가 수행되고 있음을 알린다. 음성 출력(974)은, 예를 들어, "네, '비용'으로 불리는 모든 파일들을 검색합니다."를 포함한다. 일부 예들에서, 디지털 어시스턴트는 추가로 검색 프로세스로 하여금 스피치 입력(954) 및 음성 출력(974)에 대응하는 텍스트를 제공하는 사용자 인터페이스(928)(예컨대, 스니펫 또는 창)를 디스플레이하게 한다.
도 9e를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 추가로 검색 프로세스를 이용하여 태스크를 수행한 결과에 기초하여 하나 이상의 응답을 제공한다. 도 9e에 도시된 바와 같이, "비용"이라는 단어와 연관된 모든 파일들을 검색한 결과로서, 디지털 어시스턴트는 검색 결과들을 제공하는 사용자 인터페이스(947)(예컨대, 스니펫 또는 창)를 디스플레이한다. 일부 실시예들에서, 사용자 인터페이스(947)는 사용자 인터페이스(928) 내에 별개의 사용자 인터페이스로서 위치한다. 일부 실시예들에서, 사용자 인터페이스들(947, 928)은 단일 사용자 인터페이스로서 서로 통합된다. 사용자 인터페이스(947) 상에, "비용"이라는 단어와 연관된 파일들의 리스트가 디스플레이된다. 일부 실시예들에서, 디지털 어시스턴트는 추가로 검색 결과에 대응하는 음성 출력을 제공한다. 예를 들어, 어포던스(940 또는 941)에 의해 표시되는 디지털 어시스턴트는 "여기에 비용이라고 불리는 모든 파일들이 있습니다."와 같은 음성 출력(976)을 제공한다. 일부 예들에서, 디지털 어시스턴트는 추가로, 사용자 인터페이스(928) 상에, 음성 출력(976)에 대응하는 텍스트를 제공한다.
일부 실시예들에서, 디지털 어시스턴트는 검색 프로세스를 이용하여 태스크를 수행한 결과와 연관된 하나 이상의 링크를 제공한다. 링크는 검색 결과를 이용하여 프로세스의 즉시실행(예컨대, 파일 열기, 객체 관리 프로세스 호출하기)을 인에이블한다. 도 9e에 도시된 바와 같이, 사용자 인터페이스(947) 상에서, 그것들의 파일 이름들에 의해 표시되는 파일들의 리스트(예컨대, 비용 파일 1, 비용 파일 2, 비용 파일 3)는 링크와 연관될 수 있다. 예를 들어, 각각의 파일 이름의 한 쪽에 링크가 디스플레이된다. 다른 예를 들어, 파일 이름들은 파일 이름들이 링크들과 연관됨을 나타내는 특정 색상(예컨대, 청색)으로 디스플레이된다. 일부 예들에서, 링크들과 연관된 파일 이름들은 사용자 인터페이스(947) 상에 디스플레이된 다른 아이템들과 동일한 색상으로 디스플레이된다.
기재된 바와 같이, 링크는 검색 결과를 이용하여 프로세스의 즉시실행을 인에이블한다. 프로세스를 즉시실행하는 것은, 프로세스가 아직 실행 중이 아닌 경우 프로세스를 호출하는 것을 포함한다. 프로세스의 적어도 하나의 인스턴스가 실행 중인 경우, 프로세스를 즉시실행하는 것은 프로세스의 기존의 인스턴스를 실행시키는 것 또는 프로세스의 새로운 인스턴스를 생성하는 것을 포함한다. 예를 들어, 객체 관리 프로세스를 즉시실행하는 것은 기존 객체 관리 프로세스를 이용하여 객체 관리 프로세스를 호출하는 것, 또는 객체 관리 프로세스의 새로운 인스턴스를 생성하는 것을 포함한다. 도 9e 및 도 9f에 도시된 바와 같이, 사용자 인터페이스(947) 상에 디스플레이된 링크는 링크와 연관된 객체(예컨대, 파일)의 관리를 인에이블한다. 예를 들어, 사용자 인터페이스(947)는 파일(예컨대, "비용 파일 3")과 연관된 링크의 사용자 선택(예컨대, 커서(934)에 의한 선택)을 수신한다. 이에 응답하여, 디지털 어시스턴트는 파일의 관리를 인에이블하기 위한 어포던스(930)에 의해 표시되는 객체 관리 프로세스를 즉시실행한다. 도 9f에 도시된 바와 같이, 디지털 어시스턴트는 링크와 연관된 파일(예컨대, "비용 파일 3")을 포함하는 폴더를 제공하는 사용자 인터페이스(936)(예컨대, 스니펫 또는 창)를 디스플레이한다. 사용자 인터페이스(936)를 이용하여, 디지털 어시스턴트는 파일들에 대한 하나 이상의 추가적인 태스크(예컨대, 복사, 편집, 보기, 이동, 압축 등)를 수행하기 위하여 객체 관리 프로세스를 즉시실행한다.
도 9e를 다시 참조하여, 일부 예들에서, 사용자 인터페이스(947) 상에 디스플레이되는 링크는 객체의 직접 보기 및/또는 편집을 인에이블한다. 예를 들어, 디지털 어시스턴트는, 사용자 인터페이스(947)를 통해, 파일(예컨대, "비용 파일 3")과 연관된 링크(예컨대, 커서(934)에 의한 선택)의 선택을 수신한다. 이에 응답하여, 디지털 어시스턴트는 파일 보기 및/또는 편집을 위하여 프로세스(예컨대, 문서 보기/편집 프로세스)를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 객체 관리 프로세스를 즉시실행하지 않고 파일 보기 및/또는 편집을 위하여 프로세스를 즉시실행한다. 예를 들어, 디지털 어시스턴트는 비용 파일 3을 보기 및/또는 편집하기 위하여 넘버 프로세스 또는 엑셀 프로세스를 직접 즉시실행한다.
도 9e 및 도 9g를 참조하여, 일부 예들에서, 디지털 어시스턴트는 검색 결과들을 걸러내기 위한 프로세스(예컨대, 검색 프로세스)를 즉시실행한다. 도 9e 및 도 9g에 도시된 바와 같이, 사용자는 사용자 인터페이스(947) 상에 디스플레이된 검색 결과를 걸러내기를 바랄 수 있다. 예를 들어, 사용자는 검색 결과들로부터 하나 이상의 파일을 선택하기를 바랄 수 있다. 일부 예들에서, 디지털 어시스턴트는, 사용자로부터, "켈빈이 나한테 보낸 것 중에서 내가 초안으로 태그한 것들만"과 같이 스피치 입력(977)을 수신한다. 스피치 입력(977) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 켈빈으로부터 송신되었고 초안 태그와 연관된 비용 파일들만을 디스플레이하는 것이라고 결정한다. 사용자 의도에 기초하여, 디지털 어시스턴트는 검색 결과들을 걸러내기 위한 프로세스(예컨대, 검색 프로세스)를 즉시실행한다. 예를 들어, 도 9g에 도시된 바와 같이, 검색 결과에 기초하여, 디지털 어시스턴트는 비용 파일 1 및 비용 파일 2가 켈빈으로부터 사용자에게 송신되었고 태그되어 있다고 결정한다. 결과적으로, 디지털 어시스턴트는 계속해서 이 두 파일을 사용자 인터페이스(947) 상에 디스플레이하고 비용 파일 3을 사용자 인터페이스(947)에서 제거한다. 일부 예들에서, 디지털 어시스턴트는 "여기에 켈빈이 보낸 것 중에서 당신이 초안으로 태그한 것들만 있습니다."와 같은 음성 출력(978)을 제공한다. 디지털 어시스턴트는 추가로 사용자 인터페이스(928) 상에 음성 출력(978)에 대응하는 텍스트를 제공할 수 있다.
도 9h를 참조하여, 일부 예들에서, 디지털 어시스턴트는 객체 관리 태스크(예컨대, 복사, 이동, 공유 등)를 수행하기 위한 프로세스(예컨대, 객체 관리 프로세스)를 즉시실행한다. 예를 들어, 도 9h에 도시된 바와 같이, 디지털 어시스턴트는, 사용자로부터, "비용 파일 1을 문서 폴더로 옮겨줘."와 같은 스피치 입력(984)을 수신한다. 스피치 입력(984) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 비용 파일 1을 현재 폴더에서 문서 폴더로 복사 또는 이동하는 것이라고 결정한다. 사용자 의도에 따라, 디지털 어시스턴트는 비용 파일 1을 그것의 현재 폴더에서 문서 폴더로 복사 또는 이동하기 위한 프로세스(예컨대, 객체 관리 프로세스)를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 "네, 비용 파일 1을 당신의 문서 폴더로 이동하고 있습니다."와 같은 음성 출력(982)을 제공한다. 일부 예들에서, 디지털 어시스턴트는 추가로 사용자 인터페이스(928) 상에 음성 출력(982)에 대응하는 텍스트를 제공한다.
기재된 바와 같이, 일부 예들에서, 사용자의 스피치 입력은 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 나타내는 키워드들을 포함하지 않을 수 있다. 도 10a 및 도 10b를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 태스크를 수행하는 것이 검색 프로세스를 필요로 하지 않는다고 결정한다. 결정에 따라, 디지털 어시스턴트는 사용자가 검색 프로세스 또는 객체 관리 프로세스를 선택하도록 요청하는 음성 출력을 제공한다. 예를 들어, 도 10a에 도시된 바와 같이, 디지털 어시스턴트는, 사용자로부터, "'비용'이라고 불리는 파일들을 모두 보여줘."와 같은 스피치 입력(1052)을 수신한다. 스피치 입력(1052) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 "비용"이라는 단어와 연관된 모든 파일들을 디스플레이하는 것이라고 결정한다. 사용자 의도에 따라, 디지털 어시스턴트는 추가로 태스크가 검색 프로세스 또는 객체 관리 프로세스 중 어느 하나에 의해 수행될 수 있고, 따라서 검색 프로세스가 필요하지 않다고 결정한다. 일부 예들에서, 디지털 어시스턴트는 "검색 프로세스 또는 객체 관리 프로세스를 이용하여 검색할까요?"와 같은 음성 출력(1072)을 제공한다. 일부 예들에서, 디지털 어시스턴트는, 사용자로부터, "객체 관리 프로세스"와 같은 스피치 입력(1054)을 수신한다. 스피치 입력(1054)은 그에 따라 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라고 나타낸다. 선택에 따라, 예를 들어, 디지털 어시스턴트는 "비용"이라는 단어와 연관된 모든 파일들을 검색하기 위하여 어포던스(1030)에 의해 표시되는 객체 관리 프로세스를 즉시실행한다. 도 10b에 도시된 바와 같이, 위에서 기재된 것들과 유사하게, 검색의 결과로서, 디지털 어시스턴트는 "비용"이라는 단어와 연관된 파일들을 포함하는 폴더를 제공하는 사용자 인터페이스(1032)(예컨대, 스니펫 또는 창)를 디스플레이한다. 위에서 기재된 것들과 유사하게, 사용자 인터페이스(1032)를 이용하여, 디지털 어시스턴트는 파일들에 대하여 추가적인 하나 이상의 태스크(예컨대, 복사, 편집, 보기, 이동, 압축 등)를 수행하기 위하여 객체 관리 프로세스를 즉시실행한다.
도 11a 및 도 11b를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 컨텍스트 정보를 식별하고 컨텍스트 정보 및 사용자의 스피치 입력에 기초하여 사용자 의도를 결정한다. 도 11a에 도시된 바와 같이, 어포던스(1140 또는1141)에 의해 표시되는 디지털 어시스턴트는 "어젯밤 내가 만든 키노트 프레젠테이션 열어줘."와 같은 스피치 입력(1152)을 수신한다. 스피치 입력(1152)을 수신하는 것에 응답하여, 디지털 어시스턴트는 사용자와 사용자 디바이스의 상호작용의 이력, 사용자가 최근에 작업한 파일들과 연관된 메타데이터 등과 같은 컨텍스트 정보를 식별한다. 예를 들어, 디지털 어시스턴트는 날짜, 시간, 및 사용자가 어제 6p.m.에서 2a.m.까지 작업한 파일들의 유형과 같은 메타데이터를 식별한다. 식별된 컨텍스트 정보 및 스피치 입력(1152)에 기초하여, 디지털 어시스턴트는, 사용자 의도가 파일이 어제 대략 6p.m.에서 12a.m까지 편집되었음을 나타내는 메타데이터와 연관된 키노트 프레젠테이션 파일을 검색하는 것; 및 프레젠테이션 파일을 열기 위하여 프로세스를 즉시실행(예컨대, 키노트 프로세스)하는 것을 포함한다고 결정한다.
일부 예들에서, 컨텍스트 정보는 애플리케이션 이름 또는 신분(ID)을 포함한다. 예를 들어, 사용자의 스피치 입력은 "키노트 프레젠테이션 열어줘.", "내 페이지 문서 찾아줘.", 또는 "내 핫뉴앱(HotNewApp) 문서 찾아줘."를 제공한다. 컨텍스트 정보는 애플리케이션 이름들(예컨대, 키노트, 페이지, 핫뉴앱) 또는 애플리케이션 ID를 포함한다. 일부 예들에서, 컨텍스트 정보는 역동적으로 업데이트 또는 동기화된다. 예를 들어, 컨텍스트 정보는, 사용자가 이름이 핫뉴앱인 새로운 애플리케이션을 설치한 이후에 실시간으로 업데이트된다. 일부 예들에서, 디지털 어시스턴트는 업데이트된 컨텍스트 정보를 역동적으로 식별하고 사용자 의도를 결정한다. 예를 들어, 디지털 어시스턴트는 애플리케이션 이름들, 즉, 키노트, 페이지, 핫뉴앱 또는 그것들의 ID를 식별하고, 애플리케이션 이름들/ID 및 스피치 입력들에 따라 사용자 의도를 결정한다.
사용자 의도에 따라, 디지털 어시스턴트는, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 추가로 결정한다. 기재된 바와 같이, 디지털 어시스턴트는 스피치 입력에 포함된 하나 이상의 키워드에 기초하여, 태스크가 검색 프로세스를 요구하는지에 기초하여, 사전결정된 구성에 기초하여, 및/또는 사용자의 선택에 기초하여 그러한 결정을 내린다. 도 11a에 도시된 바와 같이, 스피치 입력(1152)은 사용자 의도가 검색 프로세스를 이용하는 것인지 아니면 객체 관리 프로세스를 이용하는 것인지 나타내는 키워드들을 포함하지 않는다. 결과적으로, 디지털 어시스턴트는, 예를 들어, 사전결정된 구성에 기초하여 사용자 의도가 객체 관리 프로세스를 이용하는 것이라고 결정한다. 결정에 따라, 디지털 어시스턴트는 파일이 어제 대략 6p.m.에서 12a.m까지 편집되었음을 나타내는 메타데이터와 연관된 키노트 프레젠테이션 파일을 검색하기 위하여 객체 관리 프로세스를 즉시실행한다. 일부 실시예들에서, 디지털 어시스턴트는 추가로 "네, 어젯밤에 만든 키노트 프레젠테이션을 검색합니다."와 같은 음성 출력(1172)을 제공한다.
일부 실시예들에서, 컨텍스트 정보는 태스크를 수행하는 데 사용된다. 예를 들어, 애플리케이션 이름들 및/또는 ID는 애플리케이션 이름/ID와 연관된 애플리케이션 및/또는 객체들(예컨대, 파일들)을 검색하기 위한 질의를 형성하는 데 사용될 수 있다. 일부 예들에서, 서버(예컨대, 서버(108))는 애플리케이션 이름들(예컨대, 키노트, 페이지, 핫뉴앱) 및/또는 ID를 이용하여 질의를 형성하고 사용자 디바이스의 디지털 어시스턴트에 질의를 송신한다. 질의에 기초하여, 디지털 어시스턴트는 하나 이상의 애플리케이션 및/또는 객체를 검색하기 위하여 검색 프로세스 또는 객체 관리 프로세스를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 애플리케이션 이름/ID에 대응하는 객체들(예컨대, 파일들)만을 검색한다. 예를 들어, 질의가 애플리케이션 이름 "페이지"를 포함하는 경우, 디지털 어시스턴트는 페이지 파일들만을 검색하고, 페이지 애플리케이션에 의해 열릴 수 있는 다른 파일들(예컨대, 워드 파일들)을 검색하지 않는다. 일부 예들에서, 디지털 어시스턴트는 질의에 있는 애플리케이션 이름/ID와 연관된 모든 객체들을 검색한다.
도 11b 및 도 11c를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 태스크를 수행한 결과와 연관된 신뢰 수준에 따라 하나 이상의 응답을 제공한다. 부정확성이 존재하거나 또는 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 사용자 의도를 결정하는 동안, 및/또는 태스크를 수행하는 동안 발생할 수 있다. 일부 예들에서, 디지털 어시스턴트는 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 정확성을 나타내는 신뢰 수준을 결정하는데, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하는 정확성이고, 검색 프로세스 또는 객체 관리 프로세스, 또는 이들의 조합을 이용하여 태스크를 수행하는 정확성이다.
도 11a에 도시되는 위 예에 이어서, "내가 어젯밤에 만든 키노트 프레젠테이션 열어줘."와 같은 스피치 입력(1152)에 기초하여, 디지털 어시스턴트는 파일이 어제 대략 6p.m.에서 12a.m까지 편집되었음을 나타내는 메타데이터와 연관된 키노트 프레젠테이션 파일의 검색을 수행하기 위하여 객체 관리 프로세스를 즉시실행한다. 검색 결과는 검색 기준과 완전히 매칭되는 단일 파일을 포함할 수 있다. 즉, 단일 파일은 어제 대략 6p.m.에서 12a.m까지 편집된 프레젠테이션 파일이다. 따라서, 디지털 어시스턴트는 검색의 정확성이 높다고 결정하고, 그에 따라 신뢰 수준이 높다고 결정한다. 다른 예를 들어, 검색 결과는 검색 기준과 부분적으로 매칭되는 복수의 파일을 포함할 수 있다. 예를 들어, 어제 대략 6p.m.에서 12a.m까지 편집된 프레젠테이션 파일이 없거나, 또는 어제 대략 6p.m.에서 12a.m까지 편집된 프레젠테이션 파일들이 여러개이다. 따라서, 디지털 어시스턴트는 검색의 정확성이 중간 또는 낮다고 결정하고, 그에 따라 신뢰 수준이 중간 또는 낮다고 결정한다.
도 11b 및 도 11c에 도시된 바와 같이, 디지털 어시스턴트는 신뢰 수준의 결정에 따라 응답을 제공한다. 일부 예들에서, 디지털 어시스턴트는 신뢰 수준이 임계 신뢰 수준 이상인지 결정한다. 신뢰 수준이 임계 신뢰 수준 이상이라는 결정에 따라, 디지털 어시스턴트는 제1 응답을 제공한다. 신뢰 수준이 임계 신뢰 수준 미만이라는 결정에 따라, 디지털 어시스턴트는 제2 응답을 제공한다. 일부 예들에서, 제2 응답은 제1 응답과 상이하다. 도 11b에 도시된 바와 같이, 디지털 어시스턴트가 신뢰 수준이 임계 신뢰 수준 이상이라고 결정하는 경우, 디지털 어시스턴트는 파일의 보기 및 편집을 인에이블하기 위하여 프로세스(예컨대, 사용자 인터페이스(1142)에 의해 표시된 키노트 프로세스)를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 "여기에 어젯밤 만든 프레젠테이션이 있습니다."와 같은 음성 출력을 제공하고, 사용자 인터페이스(1143)에 음성 출력의 텍스트를 디스플레이한다. 도 11c에 도시된 바와 같이, 디지털 어시스턴트가 신뢰 수준이 임계 신뢰 수준 미만이라고 결정하는 경우, 디지털 어시스턴트는 후보 파일들의 리스트를 제공하는 사용자 인터페이스(1122)(예컨대, 스니펫 또는 창)를 디스플레이한다. 후보 파일들의 각각은 검색 기준을 부분적으로 충족할 수 있다. 일부 실시예들에서, 신뢰 수준은 사전결정되고/되거나 사용자 선호도, 과거 정확도 등에 기초하여 역동적으로 업데이트될 수 있다. 일부 예들에서, 디지털 어시스턴트는 추가로 "여기에 어젯밤 만든 모든 프레젠테이션들이 있습니다."와 같은 음성 출력(1174)을 제공하고, 사용자 인터페이스(1122) 상에 음성 출력(1174)에 대응하는 텍스트를 디스플레이한다.
도 11d를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 추가적인 태스크들을 수행하기 위하여 프로세스(예컨대, 키노트 프레젠테이션 프로세스)를 즉시실행한다. 상기 예에 이어서, 도 11b 및 도 11d에 도시된 바와 같이, 사용자는 프레젠테이션 파일을 전체 화면 모드로 디스플레이하기를 바랄 수 있다. 디지털 어시스턴트는, 사용자로부터, "전체 화면으로 해줘."와 같은 스피치 입력(1154)을 수신한다. 스피치 입력(1154) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 프레젠테이션 파일을 전체 화면 모드로 디스플레이하는 것이라고 결정한다. 사용자 의도에 따라, 디지털 어시스턴트는 키노트 프레젠테이션 프로세스로 하여금 슬라이드들을 전체 화면 모드로 디스플레이하게 한다. 일부 예들에서, 디지털 어시스턴트는 "네, 프레젠테이션을 전체 화면으로 보여드립니다."와 같은 음성 출력(1176)을 제공한다.
도 12a 내지 도 12c를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는, 단일 스피치 입력 또는 발화에 기초하여, 사용자 의도가 복수의 태스크를 수행하는 것이라고 결정한다. 사용자 의도에 따라, 디지털 어시스턴트는 복수의 태스크를 수행하기 위하여 하나 이상의 프로세스를 추가로 즉시실행한다. 예를 들어, 도 12a에 도시된 바와 같이, 어포던스(1240 또는 1241)에 의해 표시되는 디지털 어시스턴트는 "콜로라도 여행에서 찍은 사진을 모두 보여주고, 그것들을 우리 엄마한테 보내줘."와 같은 단일 스피치 입력(1252)을 수신한다. 스피치 입력(1252) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 제1 태스크 및 제2 태스크를 수행하는 것이라고 결정한다. 위에서 기재된 것들과 유사하게, 제1 태스크는 폴더 이름이 "콜로라도 여행"인 폴더에 저장된 사진들을 디스플레이하거나, 또는 사용자가 콜로라도 내에서 여행하고 있는 기간 동안 찍었던 사진들을 디스플레이하는 것이다. 제2 태스크에 대하여, 컨텍스트 정보는 사용자의 연락처에 저장된 특정 이메일 주소가 사용자의 엄마로 태그되어 있음을 나타낼 수 있다. 따라서, 제2 태스크는 콜로라도 여행과 연관된 사진들을 포함하는 이메일을 특정 이메일 주소로 송신하는 것이다.
일부 예들에서, 디지털 어시스턴트는, 각각의 태스크에 대하여, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정한다. 예를 들어, 디지털 어시스턴트는 제1 태스크가 검색과 연관되고 사용자 의도가 객체 관리 프로세스를 이용하여 제1 태스크를 수행하는 것이라고 결정한다. 도 12b에 도시된 바와 같이, 사용자 의도가 객체 관리 프로세스를 이용하여 제1 태스크를 수행하는 것이라는 결정에 따라, 디지털 어시스턴트는 사용자의 콜로라도 여행과 연관된 사진들을 검색하기 위하여 객체 관리 프로세스를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 검색 결과(예컨대, 사진들 1, 2, 및 3)를 포함하는 폴더를 제공하는 사용자 인터페이스(1232)(예컨대, 스니펫 또는 창)를 디스플레이한다. 다른 예를 들어, 디지털 어시스턴트는 제1 태스크가 검색과 연관되고 사용자 의도가 검색 프로세스를 이용하여 제1 태스크를 수행하는 것이라고 결정한다. 도 12c에 도시된 바와 같이, 사용자 의도가 검색 프로세스를 이용하여 제1 태스크를 수행하는 것이라는 결정에 따라, 디지털 어시스턴트는 사용자의 콜로라도 여행과 연관된 사진들을 검색하기 위하여 검색 프로세스를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 사진들 및/또는 검색 결과와 연관된 링크들(예컨대, 사진들 1, 2, 및 3)을 제공하는 사용자 인터페이스(1234)(예컨대, 스니펫 또는 창)를 디스플레이한다.
다른 예를 들어, 디지털 어시스턴트는 제2 태스크(예컨대, 콜로라도 여행과 연관된 사진들을 포함하는 이메일을 특정 이메일 주소로 송신하기)가 검색 또는 객체를 관리하는 것과 연관되지 않는다고 결정한다. 결정에 따라, 디지털 어시스턴트는 태스크가 사용자 디바이스에 이용가능한 프로세스를 이용하여 수행될 수 있는지 결정한다. 예를 들어, 디지털 어시스턴트는 제2 태스크가 사용자 디바이스에서 이메일 프로세스를 이용하여 수행될 수 있다고 결정한다. 결정에 따라, 디지털 어시스턴트는 제2 태스크를 수행하기 위한 프로세스를 개시한다. 도 12b 및 도 12c에 도시된 바와 같이, 디지털 어시스턴트는 이메일 프로세스를 즉시실행하고, 이메일 프로세스와 연관된 사용자 인터페이스들(1242, 1244)을 디스플레이한다. 이메일 프로세스는 사용자의 콜로라도 여행과 연관된 사진들을 이메일 메시지들에 첨부한다. 도 12b 및 도 12c에 도시된 바와 같이, 일부 실시예들에서, 디지털 어시스턴트는 추가로 음성 출력들(1272, 1274), 예컨대, "여기에 콜로라도 여행에서 찍은 사진들이 있습니다. 사진들을 당신의 엄마에게 보낼 준비가 되었습니다. 진행하시겠습니까?"를 제공한다. 일부 예들에서, 디지털 어시스턴트는 사용자 인터페이스(1244) 상에 음성 출력(1274)에 대응하는 텍스트를 디스플레이한다. 음성 출력들(1272, 1274)에 응답하여, 사용자는 스피치 입력, 예컨대, "OK"를 제공한다. 사용자로부터 스피치 입력을 수신하게 되면, 디지털 어시스턴트는 이메일 프로세스로 하여금 이메일 메시지들을 송신하게 한다.
단일 스피치 입력 또는 발화 내에 포함된 다중 커맨드들에 기초하여 복수의 태스크를 수행하기 위한 기술들을 관련 출원들에서 볼 수 있는데, 예를 들어: 2015년 5월 28일자로 출원되고, 발명의 명칭이 "MULTI-COMMAND SINGLE UTTERANCE INPUT METHOD"인, 미국 특허 출원 제14/724,623호가 있으며, 이는 2014년 5월 30일자로 출원되고, 발명의 명칭이 "MULTI-COMMAND SINGLE UTTERANCE INPUT METHOD"인, 미국 가특허 출원 제62/005,556호; 및 2015년 3월 8일자로 출원되고, 발명의 명칭이 "MULTI-COMMAND SINGLE UTTERANCE INPUT METHOD"인, 미국 가특허 출원 제62/129,851호의 우선권의 이익을 주장한다. 이들 출원들의 각각은 그 전체가 참조로서 본 명세서에 포함된다.
도 12c 및 도 12d에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 프로세스로 하여금 사용자의 추가적인 스피치 입력들에 기초하여 추가적인 태스크들을 수행하게 한다. 예를 들어, 사용자 인터페이스(1234)에 디스플레이되는 검색 결과의 화면에서, 사용자는 사진들 중 전부는 아니지만, 일부를 전송하기를 바랄 수 있다. 사용자는 스피치 입력(1254), 예컨대, "사진 1과 사진 2만 보내 줘."를 제공한다. 일부 예들에서, 디지털 어시스턴트는 사용자가 어포던스(1235)(예컨대, 사용자 인터페이스(1234) 상에 디스플레이되는 마이크로폰 아이콘)를 선택한 후 스피치 입력(1254)을 수신한다. 디지털 어시스턴트는, 스피치 입력(1254) 및 컨텍스트 정보에 기초하여, 사용자 의도가 사진 1과 사진 2만 첨부한 이메일을 송신하는 것이라고 결정한다. 사용자 의도에 따라, 디지털 어시스턴트는 이메일 프로세스로 하여금 이메일 메시지로부터 사진 3을 삭제하게 한다. 일부 예들에서, 디지털 어시스턴트는 음성 출력(1276), 예컨대, "네, 사진 1과 사진 2를 당신의 이메일에 첨부하였습니다."를 제공하고, 음성 출력(1276)에 대응하는 텍스트를 사용자 인터페이스(1234) 상에 디스플레이한다.
도 13a를 참조하여, 일부 실시예들에서, 태스크가 검색과 연관되지 않는다는 결정에 따라, 디지털 어시스턴트는 태스크가 적어도 하나의 객체를 관리하는 것과 연관되는지 결정한다. 도 13a에 도시된 바와 같이, 예를 들어, 디지털 어시스턴트는 스피치 입력(1352), 예컨대, "바탕 화면에 프로젝트들이라고 불리는 새로운 폴더를 생성해 줘."를 수신한다. 스피치 입력(1352) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 바탕화면에 폴더 이름이 "프로젝트들"인 새로운 폴더를 생성하는 것이라고 결정한다. 디지털 어시스턴트는 추가로 사용자 의도가 검색과 연관되지 않고, 대신 객체(예컨대, 폴더)를 관리하는 것과 연관된다고 결정한다. 따라서, 디지털 어시스턴트는 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라고 결정한다.
일부 예들에서, 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 디지털 어시스턴트는 객체 관리 프로세스를 이용하여 태스크를 수행한다. 객체 관리 프로세스를 이용하여 태스크를 수행하는 것은, 예를 들어, 적어도 하나의 객체를 생성하는 것(예컨대, 폴더 또는 파일을 생성), 적어도 하나의 객체를 저장하는 것(예컨대, 폴더, 파일, 또는 통신을 저장), 및 적어도 하나의 객체를 압축하는 것(예컨대, 폴더들 및 파일들을 압축)을 포함할 수 있다. 객체 관리 프로세스를 이용하여 태스크를 수행하는 것은, 예를 들어, 적어도 하나의 객체를 제1 물리적 또는 가상 저장장치에서 제2 물리적 또는 가상 저장장치로 복사 또는 이동하는 것을 추가로 포함할 수 있다. 예를 들어, 디지털 어시스턴트는 사용자로부터 디바이스 플래시 드라이브 또는 클라우드 드라이브로 파일을 잘라 붙이기 위하여 객체 관리 프로세스를 즉시실행한다.
객체 관리 프로세스를 이용하여 태스크를 수행하는 것은, 예를 들어, 물리적 또는 가상 저장장치에 저장된 적어도 하나의 객체를 삭제하는 것(예컨대, 폴더 또는 파일을 삭제) 및/또는 물리적 또는 가상 저장장치에 저장된 적어도 하나의 객체를 복구하는 것(예컨대, 삭제된 폴더 또는 삭제된 파일을 복구)을 추가로 포함할 수 있다. 객체 관리 프로세스를 이용하여 태스크를 수행하는 것은, 예를 들어, 적어도 하나의 객체에 마킹하는 것을 추가로 포함할 수 있다. 일부 예들에서, 객체의 마킹은 보일 수도 있고 또는 안 보일 수도 있다. 예를 들어, 디지털 어시스턴트는 객체 관리 프로세스로 하여금 소셜 미디어 포스트에 "좋아요" 표시를 생성하고, 이메일에 태그를 걸고, 파일을 마킹 등을 하게 할 수 있다. 마킹은, 예를 들어, 플래그, 표시 등을 디스플레이함으로써 보일 수 있다. 마킹은 또한 객체의 메타데이터에 대하여 수행되어 메타데이터의 저장장치(예컨대, 메모리) 콘텐츠가 변경될 수 있다. 메타데이터는 보일 수 있거나 또는 보이지 않을 수 있다.
객체 관리 프로세스를 이용하여 태스크를 수행하는 것은, 예를 들어, 적어도 하나의 객체를 백업하기 위한 사전결정된 기간에 따라 또는 사용자의 요청 시 백업하는 것을 추가로 포함할 수 있다. 예를 들어, 디지털 어시스턴트는 객체 관리 프로세스로 하여금 폴더들 및 파일들을 백업하기 위하여 백업 프로그램(예컨대, 시간 기계 프로그램)을 즉시실행하게 할 수 있다. 백업은 자동으로 사전결정된 스케줄에 따라(예컨대, 하루 한번, 일주일에 한번, 한달에 한번 등) 또는 사용자 요청에 따라 수행될 수 있다.
객체 관리 프로세스를 이용하여 태스크를 수행하는 것은, 예를 들어, 사용자 디바이스에 통신가능하게 연결된 하나 이상의 전자 디바이스 사이에 적어도 하나의 객체를 공유하는 것을 추가로 포함할 수 있다. 예를 들어, 디지털 어시스턴트는 객체 관리 프로세스로 하여금 사용자 디바이스 상에 저장된 사진을 다른 전자 디바이스(예컨대, 사용자의 스마트폰 또는 태블릿)와 공유하게 할 수 있다.
도 13b에 도시된 바와 같이, 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 디지털 어시스턴트는 객체 관리 프로세스를 이용하여 태스크를 수행한다. 예를 들어, 디지털 어시스턴트는 사용자 인터페이스(1310)의 바탕 화면 상에 이름이 "프로젝트들"인 폴더를 생성하기 위하여 객체 관리 프로세스를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 객체 관리 프로세스로 하여금 자동으로 또는 추가적인 사용자 입력에 응답하여 폴더를 추가로 열게 할 수 있다. 예를 들어, 디지털 어시스턴트는 음성 출력(1372), 예컨대, "네, 바탕 화면에 프로젝트들이라고 불리는 폴더를 생성했습니다, 열어 보시겠습니까?"를 제공한다. 사용자는 스피치 입력(1374), 예컨대, "그래"를 제공한다. 사용자의 스피치 입력(1374)에 응답하여, 디지털 어시스턴트는 객체 관리 프로세스로 하여금 프로젝트들 폴더를 열고, 프로젝트들 폴더에 대응하는 사용자 인터페이스(1332)를 디스플레이하게 한다.
도 13c를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 사용자가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과를 조작하도록 인에이블하는 하나 이상의 어포던스를 제공한다. 하나 이상의 어포던스는, 예를 들어, 편집 버튼, 취소 버튼, 재실행 버튼, 실행취소 버튼 등을 포함한다. 예를 들어, 도 13c에 도시된 바와 같이, 이름이 "프로젝트들"인 폴더를 바탕 화면 상에 생성한 후, 디지털 어시스턴트는 사용자 인터페이스(1334)를 제공하는데, 이는 편집 버튼(1336A), 실행취소 버튼(1336B), 및 재실행 버튼(1336C)을 디스플레이한다. 일부 예들에서, 편집 버튼(1336A)은 사용자가 객체의 하나 이상의 양태를 편집하도록(예컨대, 프로젝트들 폴더의 이름을 편집) 인에이블하고; 실행취소 버튼(1336B)은 사용자가 객체 관리 프로세스에 의해 수행된 마지막 태스크(예컨대, 프로젝트들 폴더를 삭제)를 번복하게 인에이블하고; 재실행 버튼(1336C)은 사용자가 객체 관리 프로세스에 의해 수행된 마지막 태스크(예컨대, 객체 관리 프로세스를 이용하여 다른 폴더를 생성)를 반복하게 인에이블한다. 디지털 어시스턴트가 사용자가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과의 임의의 조작을 수행하게 인에이블하는 임의의 바람직한 어포던스들을 제공할 수 있음을 이해하게 된다.
기재된 바와 같이, 디지털 어시스턴트는, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정할 수 있다. 일부 예들에서, 디지털 어시스턴트는 사용자 의도가 검색 프로세스 또는 객체 관리 프로세스와 연관되지 않는다고 결정한다. 예를 들어, 사용자는 스피치 입력, 예컨대, "구술을 시작해"를 제공한다. 디지털 어시스턴트는 구술의 태스크가 검색과 연관되지 않는다고 결정한다. 일부 예들에서, 태스크가 검색과 연관되지 않는다는 결정에 따라, 디지털 어시스턴트는 태스크가 적어도 하나의 객체를 관리하는 것과 연관되는지 추가로 결정한다. 예를 들어, 디지털 어시스턴트는 구술의 태스크가 또한 객체를 관리하는 것, 예컨대, 파일, 폴더, 또는 이메일의 복사, 이동, 또는 삭제와 연관되지 않는다고 결정한다. 일부 예들에서, 태스크가 객체를 관리하는 것과 연관되지 않는다는 결정에 따라, 디지털 어시스턴트는 태스크가 사용자 디바이스에 이용가능한 프로세스를 이용하여 수행될 수 있는지 결정한다. 예를 들어, 디지털 어시스턴트는 구술의 태스크가 사용자 디바이스에 이용가능한 구술 프로세스를 이용하여 수행될 수 있다고 결정한다. 일부 예들에서, 디지털 어시스턴트는 사용자 디바이스에 이용가능한 프로세스를 이용하여 태스크를 수행하는 것에 관하여 사용자와 대화를 개시한다. 예를 들어, 디지털 어시스턴트는 음성 출력, 예컨대, "네, 구술을 시작합니다." 또는 "지금 작업 중인 이 프레젠테이션에 구술을 하시겠습니까?"를 제공한다. 음성 출력을 제공한 후, 디지털 어시스턴트는 사용자로부터, 예를 들어, 사용자 의도가 사용자가 현재 작업 중인 프레젠테이션에 구술하는 것임을 확인하는 응답을 수신한다.
5. 디지털 어시스턴트의 예시적인 기능들 - 연속성
도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 및 도 17a 내지 도 17e는 사용자 디바이스 또는 제1 전자 디바이스에서 디지털 어시스턴트에 의해 다른 곳에 위치한 콘텐츠를 이용하여 태스크를 수행하는 기능들을 도시한다. 일부 예들에서, 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))은 다양한 예들에 따라 사용자 디바이스(예컨대, 디바이스들(1400, 1500, 1600, 1700)에 의해 구현된다. 일부 예들에서, 사용자 디바이스, 서버(예컨대, 서버(108)), 또는 이들의 조합은 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))을 구현할 수 있다. 사용자 디바이스는, 예를 들어, 디바이스(104, 200, 또는 400)를 이용하여 구현될 수 있다. 일부 예들에서, 사용자 디바이스는 랩톱 컴퓨터, 데스크톱 컴퓨터, 또는 태블릿 컴퓨터일 수 있다. 사용자 디바이스는 데스크톱 환경과 같은 멀티 태스킹 환경에서 동작한다.
도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 및 도 17a 내지 도 17e에 대하여, 일부 예들에서, 사용자 디바이스(예컨대, 디바이스들(1400, 1500, 1600, 및 1700))는 다양한 사용자 인터페이스들(예컨대, 사용자 인터페이스들(1410, 1510, 1610, 및 1710))을 제공한다. 위에서 기재된 것들과 유사하게, 사용자 디바이스는 다양한 사용자 인터페이스들을 디스플레이 상에 디스플레이하고, 다양한 사용자 인터페이스들은 사용자가 하나 이상의 프로세스(예컨대, 영화 프로세스, 사진 프로세스, 웹 브라우징 프로세스)를 즉시실행하게 인에이블한다.
도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 및 도 17a 내지 도 17e에 도시된 바와 같이, 위에서 기재된 것들과 유사하게, 사용자 디바이스(예컨대, 디바이스들(1400, 1500, 1600, 및 1700))는 사용자 인터페이스(예컨대, 사용자 인터페이스들(1410, 1510, 1610, 및 1710)) 상에 디지털 어시스턴트 서비스를 즉시실행하기 위한 어포던스(예컨대, 어포던스(1440, 1540, 1640, 및 1740))를 디스플레이한다. 위에서 기재된 것들과 유사하게, 일부 예들에서, 디지털 어시스턴트는 사전결정된 구절을 수신하는 것에 응답하여 즉시실행된다. 일부 예들에서, 디지털 어시스턴트는 어포던스의 선택을 수신하는 것에 응답하여 즉시실행된다.
도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 및 도 17a 내지 도 17e를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 사용자로부터 스피치 입력들(1452, 1454, 1456, 1458, 1552, 1554, 1556, 1652, 1654, 1656, 1752, 및 1756)과 같은 하나 이상의 스피치 입력을 수신한다. 사용자는, 예를 들어, 사용자 디바이스(예컨대, 디바이스들(1400, 1500, 1600, 및 1700)) 또는 제1 전자 디바이스(예컨대, 전자 디바이스들(1420, 1520, 1530, 1522, 1532, 1620, 1622, 1630, 1720, 및 1730))에서 다른 곳에 위치한 콘텐츠를 이용하여 태스크를 수행하기 위한 다양한 스피치 입력들을 제공할 수 있다. 위에서 기재된 것들과 유사하게, 일부 예들에서, 디지털 어시스턴트는 사용자 디바이스에서 사용자로부터 직접 스피치 입력들을 수신하거나 또는 사용자 디바이스에 통신가능하게 연결된 다른 전자 디바이스를 통해 간접적으로 스피치 입력들을 수신할 수 있다.
도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 및 도 17a 내지 도 17e를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 사용자 디바이스와 연관된 컨텍스트 정보를 식별한다. 컨텍스트 정보는, 예를 들어, 사용자 특정 데이터, 센서 데이터, 및 사용자 디바이스 구성 데이터를 포함한다. 일부 예들에서, 사용자 특정 데이터는 사용자 선호도, 사용자와 사용자 디바이스(예컨대, 디바이스들(1400, 1500, 1600, 및 1700)), 및/또는 사용자 디바이스에 통신가능하게 연결된 전자 디바이스들의 상호작용 이력 등을 나타내는 로그 정보를 포함한다. 예를 들어, 사용자 특정 데이터는 사용자가 최근에 전자 디바이스(1420)(예컨대, 스마트폰)를 이용하여 자화상 사진을 찍었고; 사용자가 최근에 팟캐스트, 웹캐스트, 영화, 노래, 오디오 북 등에 액세스했음을 나타낸다. 일부 예들에서, 센서 데이터는 사용자 디바이스 또는 다른 전자 디바이스들과 연관된 센서에 의해 수집되는 다양한 데이터를 포함한다. 예를 들어, 센서 데이터는 사용자 디바이스 또는 사용자 디바이스에 통신가능하게 연결된 전자 디바이스들의 물리적 위치를 임의의 시점에 또는 임의의 기간 동안 나타내는 GPS 위치 데이터를 포함한다. 예를 들어, 센서 데이터는 전자 디바이스(1420)에 저장된 사진이 하와이에서 찍혔음을 나타낸다. 일부 예들에서, 사용자 디바이스 구성 데이터는 현재 또는 과거 이력 디바이스 구성을 포함한다. 예를 들어, 사용자 디바이스 구성 데이터는 사용자 디바이스가 현재 일부 전자 디바이스들에 통신가능하게 연결되어 있지만 다른 전자 디바이스들로부터 연결해제되어 있음을 나타낸다. 전자 디바이스들은, 예를 들어, 스마트폰, 셋톱 박스, 태블릿 등을 포함한다. 아래 더 상세하게 기재된 바와 같이, 컨텍스트 정보는 사용자 의도를 결정 및/또는 하나 이상의 태스크를 수행하는 데 사용될 수 있다.
도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 및 도 17a 내지 도 17e를 참조하여, 위에서 기재된 것들과 유사하게, 스피치 입력을 수신하는 것에 응답하여, 디지털 어시스턴트는 스피치 입력에 기초하여 사용자 의도를 결정한다. 디지털 어시스턴트는 자연 언어 프로세싱의 결과에 기초하여 사용자 의도를 결정한다. 예를 들어, 디지털 어시스턴트는 사용자 입력에 기초하여 행동가능한 의도를 식별하고, 식별된 행동가능한 의도를 나타내기 위한 구조화된 질의를 생성한다. 구조화된 질의는 행동가능한 의도와 연관된 하나 이상의 파라미터를 포함한다. 하나 이상의 파라미터는 행동가능한 의도에 기초하여 태스크의 수행을 용이하게 하는 데 이용될 수 있다. 예를 들어, 스피치 입력, 예컨대, "내가 찍은 셀카 보여줘."에 기초하여, 디지털 어시스턴트는 행동가능한 의도가 사진을 디스플레이하는 것이고, 파라미터들은 사용자가 최근에 지난 며칠 동안 찍은 자화상을 포함한다고 결정한다. 일부 실시예들에서, 디지털 어시스턴트는 추가로 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정한다. 예를 들어, 컨텍스트 정보는 사용자 디바이스가 블루투스 연결을 이용하여 사용자의 전화기에 통신가능하게 연결되어 있음을 나타내고, 자화상 사진이 이틀 전에 사용자의 전화기에 추가되었음을 나타낸다. 결과적으로, 디지털 어시스턴트는 사용자 의도가 이틀 전에 사용자의 전화기에 추가된 자화상인 사진을 디스플레이하는 것이라고 결정한다. 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 것은 아래 다양한 예들에서 더 상세하게 기재된다.
일부 실시예들에서, 사용자 의도에 따라, 디지털 어시스턴트는 추가로 태스크가 사용자 디바이스에서 수행될 것인지 아니면 사용자 디바이스에 통신가능하게 연결된 제1 전자 디바이스에서 수행될 것인지 결정한다. 결정의 다양한 예들이 도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 및 도 17a 내지 도 17e에 대하여 아래 더 상세하게 제공된다.
도 14a를 참조하여, 일부 예들에서, 사용자 디바이스(1400)는 디지털 어시스턴트를 호출하기 위한 스피치 입력(1452)을 사용자로부터 수신한다. 도 14a에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 사용자 인터페이스(1410) 상에 디스플레이되는 어포던스들(1440 또는 1441)에 의해 표현된다. 스피치 입력(1452)은, 예를 들어, "이봐, 어시스턴트"를 포함한다. 스피치 입력(1452)에 응답하여, 사용자 디바이스(1400)는 디지털 어시스턴트를 호출하여 디지털 어시스턴트가 능동적으로 후속 스피치 입력들을 모니터하게 한다. 일부 예들에서, 디지털 어시스턴트는 그것이 호출됨을 알리는 음성 출력(1472)을 제공한다. 예를 들어, 음성 출력(1472)은 "말씀하세요. 듣고 있습니다."를 포함한다. 도 14a에 도시된 바와 같이, 일부 예들에서, 사용자 디바이스(1400)는 전자 디바이스(1420)와 같은 하나 이상의 전자 디바이스에 통신가능하게 연결된다. 전자 디바이스(1420)는 유선 또는 무선 네트워크를 이용하여 사용자 디바이스(1400)와 통신할 수 있다. 예를 들어, 전자 디바이스(1420)는 블루투스 연결을 이용하여 사용자 디바이스(1400)와 통신하여 음성 및 데이터(예컨대, 오디오 및 비디오 파일들)가 두 디바이스들 간에 교환될 수 있도록 한다.
도 14b를 참조하여, 일부 예들에서, 디지털 어시스턴트는 스피치 입력(1454), 예컨대, "내가 내 전화기로 찍은 셀카들을 이 디바이스에서 보여줘."를 수신한다. 스피치 입력(1454) 및/또는 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도를 결정한다. 예를 들어, 도 14b에 도시된 바와 같이, 컨텍스트 정보는 사용자 디바이스(1400)가 유선 또는 무선 네트워크(예컨대, 블루투스 연결, Wi-Fi 연결 등)를 이용하여 전자 디바이스(1420)에 통신가능하게 연결되어 있음을 나타낸다. 컨텍스트 정보는 또한 사용자가 최근에 자화상을 찍었고, 이는 전자 디바이스(1420)에 이름이 "selfie0001"으로 저장되어 있음을 나타낸다. 결과적으로, 디지털 어시스턴트는 사용자 의도가 전자 디바이스(1420)에 저장된, 이름이 selfie0001인 사진을 디스플레이하는 것이라고 결정한다. 대안적으로, 사진은 사진 인식 소프트웨어에 의해 사용자의 얼굴을 담고 있는 것으로 태그되었을 수 있고, 그에 따라 식별될 수 있다.
기재된 바와 같이, 사용자 의도에 따라, 디지털 어시스턴트는 추가로 태스크가 사용자 디바이스에서 수행될 것인지 아니면 사용자 디바이스에 통신가능하게 연결된 제1 전자 디바이스에서 수행될 것인지 결정한다. 일부 실시예들에서, 태스크가 사용자 디바이스에서 수행될 것인지 아니면 제1 전자 디바이스에서 수행될 것인지 결정하는 것은 스피치 입력에 포함된 하나 이상의 키워드에 기초한다. 예를 들어, 디지털 어시스턴트는 스피치 입력(1454)이 태스크가 사용자 디바이스(1400) 상에서 수행될 것임을 나타내는 키워드 또는 구절, 예컨대, "이 디바이스에서"를 포함한다고 결정한다. 결과적으로, 디지털 어시스턴트는 전자 디바이스(1420)에 저장된 이름이 selfie0001인 사진을 디스플레이하는 것은 사용자 디바이스(1400)에서 수행될 것이라고 결정한다. 사용자 디바이스(1400) 및 전자 디바이스(1420)는 상이한 디바이스들이다. 예를 들어, 사용자 디바이스(1400)는 랩톱 컴퓨터일 수 있고, 전자 디바이스(1420)는 전화기일 수 있다.
일부 실시예들에서, 디지털 어시스턴트는 추가로 태스크의 수행과 연관된 콘텐츠가 다른 곳에 위치하고 있는지 결정한다. 디지털 어시스턴트가 어떤 디바이스가 태스크를 수행할지 결정하는 시점 또는 그 즈음에, 태스크를 수행하기 위한 콘텐츠의 적어도 일부분이 태스크를 수행하도록 결정된 디바이스에 저장되어 있지 않은 경우 콘텐츠는 다른 곳에 위치해 있다. 예를 들어, 도 14b에 도시된 바와 같이, 사용자 디바이스(1400)의 디지털 어시스턴트가 사용자 의도는 사용자 디바이스(1400)에서 이름이 selfie0001인 사진을 디스플레이하는 것이라고 결정하는 시점에 또는 그 즈음에, 이름이 selfie0001인 사진이 사용자 디바이스(1400)에 저장되어 있지 않고 대신 전자 디바이스(1420)(예컨대, 스마트폰)에 저장되어 있다. 따라서, 디지털 어시스턴트는 사진이 사용자 디바이스(1400)와 다른 곳에 위치한다고 결정한다.
도 14b에 도시된 바와 같이, 일부 실시예들에서, 태스크가 사용자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 사용자 디바이스의 디지털 어시스턴트는 태스크를 수행하기 위한 콘텐츠를 수신한다. 일부 예들에서, 사용자 디바이스(1400)의 디지털 어시스턴트는 전자 디바이스(1420)에 저장된 콘텐츠의 적어도 일부분을 수신한다. 예를 들어, 이름이 selfie0001인 사진을 디스플레이하기 위해, 사용자 디바이스(1400)의 디지털 어시스턴트는 이름이 selfie0001인 사진을 획득하기 위한 요청을 전자 디바이스(1420)에 송신한다. 전자 디바이스(1420)는 요청을 수신하고, 이에 응답하여, 이름이 selfie0001인 사진을 사용자 디바이스(1400)에 전송한다. 사용자 디바이스(1400)의 디지털 어시스턴트는 이어서 이름이 selfie0001인 사진을 수신한다.
도 14b에 도시된 바와 같이, 일부 실시예들에서, 다른 곳에 위치한 콘텐츠를 수신한 후, 디지털 어시스턴트는 사용자 디바이스에서 응답을 제공한다. 일부 예들에서, 응답을 제공하는 것은 수신된 콘텐츠를 이용하여 태스크를 수행하는 것을 포함한다. 예를 들어, 사용자 디바이스(1400)의 디지털 어시스턴트는 이름이 selfie0001인 사진의 화면(1443)을 제공하는 사용자 인터페이스(1442)(예컨대, 스니펫 또는 창)를 디스플레이한다. 화면(1443)은 이름이 selfie0001인 사진의 미리보기(예컨대, 썸네일), 아이콘, 또는 전체 화면일 수 있다.
일부 예들에서, 응답을 제공하는 것은 사용자 디바이스에서 수행될 태스크와 연관된 링크를 제공하는 것을 포함한다. 링크는 프로세스의 즉시실행을 인에이블한다. 기재된 바와 같이, 프로세스를 즉시실행하는 것은, 프로세스가 아직 실행 중이 아닌 경우 프로세스를 호출하는 것을 포함한다. 프로세스의 적어도 하나의 인스턴스가 실행 중인 경우, 프로세스를 즉시실행하는 것은 프로세스의 기존의 인스턴스를 실행시키는 것 또는 프로세스의 새로운 인스턴스를 생성하는 것을 포함한다. 도 14b에 도시된 바와 같이, 사용자 인터페이스(1442)는 이름이 selfie0001인 사진의 화면(1443)과 연관된 링크(1444)를 제공할 수 있다. 링크(1444)는, 예를 들어, 사진의 전체 화면을 보여주거나 또는 사진을 편집하기 위하여 사진 프로세스를 즉시실행하는 것을 인에이블한다. 예를 들어, 링크(1444)는 화면(1443)의 일측에 디스플레이된다. 다른 예를 들어, 화면(1443)은 자체적으로 링크(1444)를 포함하거나 또는 통합하여 화면(1443)의 선택이 사진 프로세스를 즉시실행하도록 한다.
일부 실시예들에서, 응답을 제공하는 것은 사용자가 태스크의 수행의 결과물을 추가로 조작하도록 인에이블하는 하나 이상의 어포던스를 제공하는 것을 포함한다. 도 14b에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 사용자 인터페이스(1442)(예컨대, 스니펫 또는 창) 상에서 어포던스들(1445, 1446)을 제공한다. 어포던스(1445)는 사진을 앨범에 추가하기 위한 버튼을 포함할 수 있고, 어포던스(1446)는 사진의 화면(1443)을 취소하기 위한 버튼을 포함할 수 있다. 사용자는 어포던스들(1445, 1446) 중 하나 또는 둘 모두를 선택할 수 있다. 어포던스(1445)의 선택에 응답하여, 예를 들어, 사진 프로세스는 화면(1443)과 연관된 사진을 앨범에 추가한다. 어포던스(1446)의 선택에 응답하여, 예를 들어, 사진 프로세스는 사용자 인터페이스(1442)에서 화면(1443)을 제거한다.
일부 실시예들에서, 응답을 제공하는 것은 사용자 디바이스에서 수행될 태스크에 따른 음성 출력을 제공하는 것을 포함한다. 도 14b에 도시된 바와 같이, 어포던스들(1440 또는 1441)에 의해 표시되는 디지털 어시스턴트는 음성 출력(1474), 예컨대, "당신의 전화기에 있는 가장 최근 셀카입니다."를 제공한다.
도 14c를 참조하여, 일부 예들에서, 단일 스피치 입력/발화 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 복수의 태스크를 수행하는 것이라고 결정한다. 도 14c에 도시된 바와 같이, 디지털 어시스턴트는 스피치 입력(1456), 예컨대, "내가 내 전화기로 찍은 셀카들을 이 디바이스에서 보여주고 그것을 내 배경화면으로 설정해 줘."를 수신한다. 스피치 입력(1456) 및 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 의도가 전자 디바이스(1420)에 저장된 이름이 selfie0001인 사진을 디스플레이하는 제1 태스크를 수행하는 것이라고 결정하고, 이름이 selfie0001인 사진을 배경화면으로 설정하는 제2 태스크를 수행한다. 따라서, 단일 스피치 입력(1456)에 기초하여, 디지털 어시스턴트는 사용자 의도가 다수의 태스크들을 수행하는 것이라고 결정한다.
일부 실시예들에서, 디지털 어시스턴트는 복수의 태스크가 사용자 디바이스에서 수행될 것인지 아니면 사용자 디바이스에 통신가능하게 연결된 전자 디바이스에서 수행될 것인지 결정한다. 예를 들어, 스피치 입력(1456)에 포함된 키워드들 "이 디바이스"를 이용하여, 디지털 어시스턴트는 복수의 태스크가 사용자 디바이스(1400)에서 수행될 것이라고 결정한다. 위에서 기재된 것들과 유사하게, 디지털 어시스턴트는 추가로 적어도 하나의 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치하고 있는지 결정한다. 예를 들어, 디지털 어시스턴트는 적어도 제1 태스크(예컨대, 이름이 selfie0001인 사진을 디스플레이하기)를 수행하기 위한 콘텐츠가 다른 곳에 위치한다고 결정한다. 일부 실시예들에서, 복수의 태스크가 사용자 디바이스에서 수행될 것이고 적어도 하나의 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 디지털 어시스턴트는 다른 전자 디바이스(예컨대, 전자 디바이스(1420))로부터 콘텐츠를 요청하고, 태스크를 수행하기 위한 콘텐츠를 수신하고, 사용자 디바이스에서 응답을 제공한다.
일부 실시예들에서, 응답을 제공하는 것은 복수의 태스크를 수행하는 것을 포함한다. 예를 들어, 도 14c에 도시된 바와 같이, 응답을 제공하는 것은 이름이 selfie0001인 사진의 화면(1449)을 디스플레이하는 제1 태스크를 수행하는 것, 및 이름이 selfie0001인 사진을 배경화면으로 설정하는 제2 태스크를 수행하는 것을 포함한다. 일부 예들에서, 디지털 어시스턴트는 자동으로 바탕화면 설정 구성 프로세스를 이용하여 배경화면이 이름이 selfi0001인 사진이 되도록 구성한다. 일부 예들에서, 디지털 어시스턴트는 바탕화면 설정(1450)에 대한 링크를 제공하는데, 이는 사용자가 수동으로 이름이 selfie0001인 사진을 이용하여 배경화면을 설정하도록 인에이블한다. 예를 들어, 사용자는 입력 디바이스, 예컨대, 마우스, 스타일러스, 또는 손가락을 이용함으로써 바탕화면 설정(1450)에 대한 링크를 선택할 수 있다. 바탕화면 설정(1450)에 대한 링크의 선택을 수신하게 되면, 디지털 어시스턴트는 사용자가 이름이 selfie0001인 사진을 선택하고 그것을 사용자 디바이스(1400)의 배경화면으로 설정하도록 인에이블하는 바탕화면 설정 구성 프로세스를 개시한다.
도 14c에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 사용자와 대화를 개시하고 사용자로부터 스피치 입력을 수신하는 것에 응답하여 배경화면의 구성을 용이하게 한다. 예를 들어, 디지털 어시스턴트는 음성 출력(1476), 예컨대, "당신의 전화기에 있는 가장 최근 셀카입니다. 배경화면으로 설정하시겠습니까?"를 제공한다. 사용자는 스피치 입력, 예컨대, "OK"를 제공한다. 스피치 입력을 수신하게 되면, 디지털 어시스턴트는 배경화면을 이름이 selfie0001인 사진으로 구성하기 위하여 바탕화면 설정 구성 프로세스를 즉시실행한다.
기재된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정한다. 도 14d를 참조하여, 일부 예들에서, 스피치 입력은 사용자 의도를 결정하는 데 충분한 정보를 포함하지 않을 수 있다. 예를 들어, 스피치 입력은 태스크를 수행하기 위한 콘텐츠의 위치를 나타내지 않을 수 있다. 도 14d에 도시된 바와 같이, 디지털 어시스턴트는 스피치 입력(1458), 예컨대, "내가 찍은 셀카 보여줘."를 수신한다. 스피치 입력(1458)은 어떤 사진이 디스플레이될지 또는 셀카가 디스플레이될 위치를 나타내는 하나 이상의 키워드를 포함하지 않는다. 결과적으로, 사용자 의도는 스피치 입력(1458)에 단독으로 기초하여 결정되지 않을 수 있다. 일부 예들에서, 디지털 어시스턴트는 스피치 입력(1458) 및 컨텍스트 정보에 기초하여 사용자 의도를 결정한다. 예를 들어, 컨텍스트 정보에 기초하여, 디지털 어시스턴트는 사용자 디바이스(1400)가 전자 디바이스(1420)에 통신가능하게 연결되어 있다고 결정한다. 일부 예들에서, 디지털 어시스턴트는 사용자가 최근에 사용자 디바이스(1400) 및 전자 디바이스(1420)에서 찍은 사진들을 검색하기 위하여 검색 프로세스를 즉시실행한다. 검색 결과에 기초하여, 디지털 어시스턴트는 이름이 selfie0001인 사진이 전자 디바이스(1420)에 저장되어 있다고 결정한다. 따라서, 디지털 어시스턴트는 사용자 의도가 전자 디바이스(1420)에 위치한, 이름이 selfie0001인 사진을 디스플레이하는 것이라고 결정한다. 일부 예들에서, 사용자 의도가 스피치 입력 및 컨텍스트 정보에 기초하여 결정될 수 없는 경우, 디지털 어시스턴트는 사용자 의도를 추가로 명료하게 또는 분명하게 하기 위하여 사용자와 대화를 개시한다.
도 14d에 도시된 바와 같이, 일부 예들에서, 스피치 입력은 태스크가 사용자 디바이스에서 수행될 것인지 아니면 사용자 디바이스에 통신가능하게 연결된 전자 디바이스에서 수행될 것인지 나타내는 하나 이상의 키워드를 포함하지 않을 수 있다. 예를 들어, 스피치 입력(1458)은 셀카를 디스플레이하는 태스크가 사용자 디바이스(1400)에서 수행될 것인지 아니면 전자 디바이스(1420)에서 수행될 것인지 나타내지 않는다. 일부 예들에서, 디지털 어시스턴트는 컨텍스트 정보에 기초하여 태스크가 사용자 디바이스에서 수행될 것인지 아니면 전자 디바이스에서 수행될 것인지 결정한다. 예를 들어, 컨텍스트 정보는 디지털 어시스턴트가 스피치 입력(1458)을 전자 디바이스(1420)가 아니라, 사용자 디바이스(1400)에서 수신한다고 나타낸다. 결과적으로, 디지털 어시스턴트는 셀카를 디스플레이하는 태스크가 사용자 디바이스(1400)에서 수행될 것이라고 결정한다. 다른 예를 들어, 컨텍스트 정보는 사용자 선호도에 따라 사진이 전자 디바이스(1420) 상에서 디스플레이될 것이라고 나타낸다. 결과적으로, 디지털 어시스턴트는 셀카를 디스플레이하는 태스크가 전자 디바이스(1420)에서 수행될 것이라고 결정한다. 디지털 어시스턴트는 임의의 컨텍스트 정보에 기초하여 태스크가 사용자 디바이스에서 수행될 것인지 아니면 전자 디바이스에서 수행될 것인지 결정할 수 있음을 이해하게 된다.
도 15a를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 태스크가 사용자 디바이스(예컨대, 사용자 디바이스(1500))에 통신가능하게 연결된 전자 디바이스(예컨대, 전자 디바이스(1520 및/또는 1530))에서 수행될 것이라고 결정하고, 콘텐츠가 전자 디바이스에 다른 곳에 위치한다고 결정한다. 도 15a에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 스피치 입력(1552), 예컨대, "이 영화를 내 TV에서 틀어 줘."를 수신한다. 기재된 바와 같이, 디지털 어시스턴트는 스피치 입력(1552) 및 컨텍스트 정보에 기초하여 사용자 의도를 결정할 수 있다. 예를 들어, 컨텍스트 정보는 사용자 인터페이스(1542)가 이름이 ABC.mov인 영화를 디스플레이하고 있음을 나타낸다. 결과적으로, 디지털 어시스턴트는 사용자 의도가 이름이 ABC.mov인 영화를 재생하는 것이라고 결정한다.
사용자 의도에 따라, 디지털 어시스턴트는 추가로 태스크가 사용자 디바이스에서 수행될 것인지 아니면 사용자 디바이스에 통신가능하게 연결된 제1 전자 디바이스에서 수행될 것인지 결정한다. 일부 실시예들에서, 태스크가 사용자 디바이스에서 수행될 것인지 아니면 제1 전자 디바이스에서 수행될 것인지 결정하는 것은 스피치 입력에 포함된 하나 이상의 키워드에 기초한다. 예를 들어, 스피치 입력(1552)은 단어들 또는 구절, "내 TV에서"를 포함한다. 일부 예들에서, 컨텍스트 정보는 사용자 디바이스(1500)가, 예를 들어, 유선 연결, 블루투스 연결, 또는 Wi-Fi 연결을 이용하여 셋톱 박스(1520) 및/또는 TV(1530)에 연결되어 있음을 나타낸다. 결과적으로, 디지털 어시스턴트는 이름이 ABC.mov인 영화를 재생하는 태스크가 셋톱 박스(1520) 및/또는 TV(1530) 상에서 수행될 것이라고 결정한다.
일부 실시예들에서, 디지털 어시스턴트는 추가로 태스크의 수행과 연관된 콘텐츠가 다른 곳에 위치하고 있는지 결정한다. 기재된 바와 같이, 디지털 어시스턴트가 어떤 디바이스가 태스크를 수행할지 결정하는 시점 또는 그 즈음에, 태스크를 수행하기 위한 콘텐츠의 적어도 일부분이 태스크를 수행하도록 결정된 디바이스에 저장되어 있지 않은 경우 콘텐츠는 다른 곳에 위치해 있다. 예를 들어, 도 15a에 도시된 바와 같이, 사용자 디바이스(1500)의 디지털 어시스턴트가 영화 ABC.mov가 셋톱 박스(1520) 및/또는 TV(1530)에서 재생될 것이라고 결정하는 시점 또는 그 즈음에, 영화 ABC.mov의 적어도 일부분이 사용자 디바이스(1500)(예컨대, 랩톱 컴퓨터) 및/또는 서버(미도시)에 저장되어 있고, 셋톱 박스(1520) 및/또는 TV(1530)에 저장되어 있지 않다. 따라서, 디지털 어시스턴트는 영화 ABC.mov가 셋톱 박스(1520) 및/또는 TV(1530)와 다른 곳에 위치하고 있다고 결정한다.
도 15b를 참조하여, 태스크가 제1 전자 디바이스(예컨대, 셋톱 박스(1520) 및/또는 TV(1530))에서 수행될 것이고, 태스크를 수행하기 위한 콘텐츠가 제1 전자 디바이스와 다른 곳에 위치한다는 결정에 따라, 사용자 디바이스의 디지털 어시스턴트는 콘텐츠를 태스크를 수행할 제1 전자 디바이스에 제공한다. 예를 들어, 영화 ABC.mov를 셋톱 박스(1520) 및/또는 TV(1530) 상에서 재생하기 위하여, 사용자 디바이스(1500)의 디지털 어시스턴트는 영화 ABC.mov의 적어도 일부분을 셋톱 박스(1520) 및/또는 TV(1530)로 전송한다.
일부 예들에서, 사용자 디바이스로부터 콘텐츠를 제공하는 대신에, 사용자 디바이스의 디지털 어시스턴트는 콘텐츠의 적어도 일부분으로 하여금 다른 전자 디바이스(예컨대, 서버)로부터 태스크를 수행할 제1 전자 디바이스로 제공되게 한다. 예를 들어, 영화 ABC.mov는 서버(미도시)에 저장되어 있고 사용자 디바이스(1500)에 저장되어 있지 않는다. 결과적으로, 사용자 디바이스(1500)의 디지털 어시스턴트는 이름이 ABC.mov인 영화의 적어도 일부분으로 하여금 서버로부터 셋톱 박스(1520) 및/또는 TV(1530)로 전송되게 한다. 일부 예들에서, 태스크를 수행하기 위한 콘텐츠가 셋톱 박스(1520)에 제공되며, 이는 이어서 콘텐츠를 TV(1530)에 전송한다. 일부 예들에서, 태스크를 수행하기 위한 콘텐츠가 TV(1530)에 직접 제공된다.
도 15b에 도시된 바와 같이, 일부 예들에서, 콘텐츠가 제1 전자 디바이스(예컨대, 셋톱 박스(1520) 및/또는 TV(1530))에 제공된 후, 사용자 디바이스(1500)의 디지털 어시스턴트는 사용자 디바이스(1500)에서 응답을 제공한다. 일부 예들에서, 응답을 제공하는 것은 태스크로 하여금 셋톱 박스(1520) 및/또는 TV(1530)에서 콘텐츠를 이용하여 수행되게 하는 것을 포함한다. 예를 들어, 사용자 디바이스(1500)의 디지털 어시스턴트는 영화 ABC.mov를 재생하는 멀티미디어 프로세스를 개시하기 위한 요청을 셋톱 박스(1520) 및/또는 TV(1530)에 송신한다. 요청에 응답하여, 셋톱 박스(1520) 및/또는 TV(1530)는 영화 ABC.mov를 재생하기 위하여 멀티미디어 프로세스를 개시한다.
일부 예들에서, 제1 전자 디바이스(예컨대, 셋톱 박스(1520) 및/또는 TV(1530))에서 수행될 태스크는 제1 전자 디바이스와 다른 곳에 수행되는 태스크의 연속이다. 예를 들어, 도 15a 및 도 15b에 도시된 바와 같이, 사용자 디바이스(1500)의 디지털 어시스턴트는 사용자 디바이스(1500)의 멀티미디어 프로세스로 하여금 영화 ABC.mov의 일부분을 사용자 디바이스(1500)에서 재생하게 하였다. 사용자 의도가 영화 ABC.mov를 제1 전자 디바이스(예컨대, 셋톱 박스(1520) 및/또는 TV(1530))에서 재생하는 것이라는 결정에 따라, 사용자 디바이스(1500)의 디지털 어시스턴트는 제1 전자 디바이스로 하여금 영화 ABC.mov를 처음부터 재생하기 시작하는 것이 아니라, 영화 ABC.mov의 남은 부분을 계속해서 재생하게 한다. 결과적으로, 사용자 디바이스(1500)의 디지털 어시스턴트는 사용자가 계속해서 영화를 보도록 인에이블한다.
도 15b에 도시된 바와 같이, 일부 실시예들에서, 응답을 제공하는 것은 사용자가 태스크의 수행의 결과물을 추가로 조작하도록 인에이블하는 하나 이상의 어포던스를 제공하는 것을 포함한다. 도 15b에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 사용자 인터페이스(1544)(예컨대, 스니펫 또는 창) 상에서 어포던스들(1547, 1548)을 제공한다. 어포던스(1547)는 제1 전자 디바이스(예컨대, 셋톱 박스(1520) 및/또는 TV(1530)) 상에서 영화 ABC.mov의 재생을 취소하기 위한 버튼일 수 있다. 어포던스(1548)는 제1 전자 디바이스 상에서 재생되고 있는 영화 ABC.mov의 재생을 일시정지 또는 재개하기 위한 버튼일 수 있다. 사용자는 입력 디바이스, 예컨대, 마우스, 스타일러스, 또는 손가락을 이용하여 어포던스(1547 또는 1548)를 선택할 수 있다. 어포던스(1547)의 선택을 수신하게 되면, 예를 들어, 디지털 어시스턴트는 제1 전자 디바이스 상의 영화 ABC.mov의 재생을 중단하게 한다. 일부 예들에서, 제1 전자 디바이스 상의 재생이 중단된 후, 디지털 어시스턴트는 또한 사용자 디바이스(1500) 상에서 영화 ABC.mov의 재생을 재개하게 한다. 어포던스(1548)의 선택을 수신하게 되면, 예를 들어, 디지털 어시스턴트는 제1 전자 디바이스 상의 영화 ABC.mov의 재생을 일시정지 또는 재개하게 한다.
일부 실시예들에서, 응답을 제공하는 것은 제1 전자 디바이스에서 수행될 태스크에 따른 음성 출력을 제공하는 것을 포함한다. 도 15b에 도시된 바와 같이, 어포던스(1540 또는 1541)에 의해 표시되는 디지털 어시스턴트는 음성 출력(1572), 예컨대, "당신의 영화를 TV에서 재생합니다."를 제공한다.
기재된 바와 같이, 태스크가 제1 전자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 제1 전자 디바이스와 다른 곳에 위치한다는 결정에 따라, 디지털 어시스턴트는 태스크를 수행하기 위한 콘텐츠를 제1 전자 디바이스에 제공한다. 도 15c를 참조하여, 태스크를 수행하기 위한 콘텐츠는, 예를 들어, 문서(예컨대, 문서(1560)) 또는 위치 정보를 포함할 수 있다. 예를 들어, 사용자 디바이스(1500)의 디지털 어시스턴트는 스피치 입력(1556), 예컨대, "이 pdf를 내 태블릿에서 열어 줘."를 수신한다. 디지털 어시스턴트는 사용자 의도가 문서(1560)를 디스플레이하는 태스크를 수행하는 것이라고 결정하고, 태스크가 사용자 디바이스(1500)에 통신가능하게 연결된 태블릿(1532)에서 수행될 것이라고 결정한다. 결과적으로, 디지털 어시스턴트는 문서(1560)를 디스플레이할 태블릿(1532)에 제공한다. 다른 예를 들어, 사용자 디바이스(1500)의 디지털 어시스턴트는 스피치 입력(1554), 예컨대, "이 위치를 내 전화기에 보내 줘."를 수신한다. 디지털 어시스턴트는 사용자 의도가 위치 정보를 이용하여 네비게이션의 태스크를 수행하는 것이라고 결정하고, 태스크가 사용자 디바이스(1500)에 통신가능하게 연결된 전화기(1522)(예컨대, 스마트폰)에서 수행될 것이라고 결정한다. 결과적으로, 디지털 어시스턴트는 위치 정보(예컨대, 1234 Main St.)를 네비게이션의 태스크를 수행할 전화기(1522)에 제공한다.
기재된 바와 같이, 일부 예들에서, 태스크를 수행하기 위한 콘텐츠를 제1 전자 디바이스에 제공한 후, 디지털 어시스턴트는 사용자 디바이스에서 응답을 제공한다. 일부 실시예들에서, 응답을 제공하는 것은 태스크가 제1 전자 디바이스에서 수행되게 하는 것을 포함한다. 예를 들어, 도 15d에 도시된 바와 같이, 사용자 디바이스(1500)의 디지털 어시스턴트는 1234 Main St.의 위치로 길안내하는 태스크를 수행하기 위한 요청을 전화기(1522)에 전송한다. 사용자 디바이스(1500)의 디지털 어시스턴트는 문서(1560)를 디스플레이하는 태스크를 수행하기 위한 요청을 태블릿(1532)에 추가로 전송한다. 일부 예들에서, 사용자 디바이스에서 응답을 제공하는 것은 제1 전자 디바이스에서 수행될 태스크에 따른 음성 출력을 제공하는 것을 포함한다. 도 15d에 도시된 바와 같이, 디지털 어시스턴트는 음성 출력(1574), 예컨대, "pdf를 당신의 태블릿에서 보여 드립니다." 및 음성 출력(1576), 예컨대, "당신의 전화기에서 1234 Main St으로 길안내합니다."를 제공한다.
기재된 바와 같이, 일부 예들에서, 스피치 입력은 태스크가 사용자 디바이스에서 수행될 것인지 아니면 사용자 디바이스에 통신가능하게 연결된 제1 전자 디바이스에서 수행될 것인지 나타내는 하나 이상의 키워드를 포함하지 않을 수 있다. 도 16a를 참조하여, 예를 들어, 디지털 어시스턴트는 스피치 입력(1652), 예컨대, "이 영화 틀어 줘."를 수신한다. 스피치 입력(1652)은 영화를 재생하는 태스크가 사용자 디바이스(1600)에서 수행될 것인지 아니면 제1 전자 디바이스(예컨대, 셋톱 박스(1620) 및/또는 TV(1630), 전화기(1622), 또는 태블릿(1632))에서 수행될 것인지 나타내지 않는다.
일부 실시예들에서, 태스크가 사용자 디바이스에서 수행될 것인지 아니면 제1 전자 디바이스에서 수행될 것인지 결정하기 위하여, 사용자 디바이스의 디지털 어시스턴트는 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정한다. 수행 기준은 태스크의 수행을 평가하는 것을 용이하게 한다. 예를 들어, 도 16a에 도시된 바와 같이, 디지털 어시스턴트는 사용자 의도가 영화 ABC.mov를 재생하는 태스킹을 수행하는 것이라고 결정한다. 영화를 재생하기 위한 수행 기준은, 예를 들어, 영화를 재생하는 품질 기준(예컨대, 480p, 720p, 1080p), 영화를 재생하는 평활도 기준(예컨대, 지연 또는 대기 없음), 스크린 크기 기준(예컨대, 48 인치의 최소 스크린 크기), 사운드 효과 기준(예컨대, 스테레오 사운드, 스피커의 개수) 등을 포함한다. 수행 기준은 사전구성되고/되거나 역동적으로 업데이트될 수 있다. 일부 예들에서, 수행 기준은 컨텍스트 정보, 예컨대, 사용자 특정 데이터(예컨대, 사용자 선호도), 디바이스 구성 데이터(예컨대, 스크린 해상도 및 전자 디바이스들의 크기) 등에 기초하여 결정된다.
일부 예들에서, 사용자 디바이스(1600)의 디지털 어시스턴트는 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족한다고 결정한다. 예를 들어, 도 16a에 도시된 바와 같이, 사용자 디바이스(1600)는 저해상도 온라인 비디오일 수 있는 영화 ABC.mov를 재생하는 수행 기준을 충족하는 스크린 해상도, 스크린 크기, 및 사운드 효과를 가질 수 있다. 사용자 디바이스(1600)에서 태스크를 수행하는 것이 수행 기준을 충족한다는 결정에 따라, 디지털 어시스턴트는 태스크가 사용자 디바이스(1600)에서 수행될 것이라고 결정한다.
일부 예들에서, 사용자 디바이스(1600)의 디지털 어시스턴트는 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하지 않는다고 결정한다. 예를 들어, 사용자 디바이스(1600)는 고해상도 블루레이 비디오일 수 있는 영화 ABC.mov를 재생하는 수행 기준을 충족하는 스크린 크기, 해상도, 및/또는 사운드 효과를 갖지 않을 수 있다. 일부 예들에서, 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하지 않는다는 결정에 따라, 사용자 디바이스(1600)의 디지털 어시스턴트는 제1 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정한다. 도 16b에 도시된 바와 같이, 사용자 디바이스(1600)의 디지털 어시스턴트는 셋톱 박스(1620) 및/또는 TV(1630)에서 영화 ABC.mov를 재생하는 태스크를 수행하는 것이 수행 기준을 충족한다고 결정한다. 예를 들어, 셋톱 박스(1620) 및/또는 TV(1630)는 52 인치의 스크린 크기를 가질 수 있고, 1080p 해상도를 가질 수 있고, 8개의 연결된 스피커를 가질 수 있다. 결과적으로, 디지털 어시스턴트는 태스크가 셋톱 박스(1620) 및/또는 TV(1630)에서 수행될 것이라고 결정된다.
일부 예들에서, 사용자 디바이스(1600)의 디지털 어시스턴트는 제1 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하지 않는다고 결정한다. 결정에 따라, 디지털 어시스턴트는 제2 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정한다. 예를 들어, 도 16b에 도시된 바와 같이, TV(1630)는 수행 기준(예컨대, 1080p)을 충족하지 않는 스크린 해상도(예컨대, 720p)를 가질 수 있다. 결과적으로, 디지털 어시스턴트는 전화기(1622)(예컨대, 스마트폰) 또는 태블릿(1632) 중 어느 하나가 수행 기준을 충족하는지 결정한다.
일부 예들에서, 디지털 어시스턴트는 어느 디바이스가 태스크의 최적의 수행을 제공하는지 결정한다. 예를 들어, 도 16b에 도시된 바와 같이, 디지털 어시스턴트는 사용자 디바이스(1600), 셋톱 박스(1620) 및 TV(1630), 전화기(1622), 및 태블릿(1632)의 각각에서 영화 ABC.mov를 재생하는 태스크의 수행을 평가 또는 추정한다. 평가 또는 추정에 기초하여, 디지털 어시스턴트는 한 디바이스(예컨대, 사용자 디바이스(1600))에서 태스크를 수행하는 것이 다른 디바이스(예컨대, 전화기(1622))에서보다 나은지 결정하고, 최적의 수행을 위한 디바이스를 결정한다.
기재된 바와 같이, 일부 예들에서, 태스크를 수행하기 위한 디바이스의 결정에 따라, 디지털 어시스턴트는 사용자 디바이스(1600)에서 응답을 제공한다. 일부 실시예들에서, 응답을 제공하는 것은 디바이스에서 수행될 태스크에 따른 음성 출력을 제공하는 것을 포함한다. 도 16b에 도시된 바와 같이, 어포던스들(1640 또는 1641)에 의해 표시되는 디지털 어시스턴트는 음성 출력(1672), 예컨대, "이 영화를 당신의 TV에서 틀어 드리겠습니다, 진행할까요?"를 제공한다. 일부 예들에서, 디지털 어시스턴트는 사용자로부터 스피치 입력(1654), 예컨대, "OK"를 수신한다. 이에 응답하여, 디지털 어시스턴트는 영화 ABC.mov가, 예를 들어, 셋톱 박스(1620) 및 TV(1630)에서 재생되게 하고, 음성 출력(1674), 예컨대, "당신의 영화를 당신의 TV에서 재생합니다."를 제공한다.
일부 예들에서, 응답을 제공하는 것은 사용자가 태스크의 수행을 위한 다른 전자 디바이스를 선택하도록 인에이블하는 하나 이상의 어포던스를 제공하는 것을 포함한다. 도 16b에 도시된 바와 같이, 예를 들어, 디지털 어시스턴트는 어포던스들(1655A, 1655B)(예컨대, 취소 버튼 및 태블릿 버튼)을 제공한다. 어포던스(1655A)는 사용자가 셋톱 박스(1620) 및 TV(1630)에서 영화 ABC.mov를 재생하는 것을 취소하도록 인에이블한다. 어포던스(1655B)는 사용자가 영화 ABC.mov를 계속해서 재생할 태블릿(1632)을 선택하도록 인에이블한다.
도 16c를 참조하여, 일부 실시예들에서, 태스크를 수행하기 위한 디바이스를 결정하기 위하여, 사용자 디바이스(1600)의 디지털 어시스턴트는 사용자와 대화를 개시한다. 예를 들어, 디지털 어시스턴트는 음성 출력(1676), 예컨대, "TV 또는 태블릿에서 당신의 영화를 재생할까요?"를 제공한다. 사용자는 스피치 입력(1656), 예컨대, "내 태블릿에서"를 제공한다. 스피치 입력(1656)을 수신하게 되면, 디지털 어시스턴트는 영화를 재생하는 태스크가 사용자 디바이스(1600)에 통신가능하게 연결된 태블릿(1632)에서 수행될 것이라고 결정한다. 일부 예들에서, 디지털 어시스턴트는 추가로 음성 출력(1678), 예컨대, "당신의 태블릿에서 당신의 영화를 재생합니다."를 제공한다.
도 17a를 참조하여, 일부 실시예들에서, 사용자 디바이스(1700)의 디지털 어시스턴트는 제1 전자 디바이스에서 다른 곳에서 부분적으로 수행되었던 태스크를 계속해서 수행한다. 일부 실시예들에서, 사용자 디바이스의 디지털 어시스턴트는 제3 전자 디바이스로부터 수신된 콘텐츠를 이용하여 계속해서 태스크를 수행한다. 도 17a에 도시된 바와 같이, 일부 예들에서, 전화기(1720)는 제3 전자 디바이스, 예컨대, 서버(1730)로부터의 콘텐츠를 이용하여 항공편 예약의 태스크를 수행 중이었을 수 있다. 예를 들어, 사용자는 전화기(1720)를 이용하여 Kayak.com으로부터 항공편을 예약중이었을 수 있다. 결과적으로, 전화기(1720)는 Kayak.com과 연관된 서버(1730)로부터 전송된 콘텐츠를 수신한다. 일부 예들에서, 사용자는 전화기(1720) 상에서 자신의 항공편을 예약하는 동안 방해받을 수 있고, 사용자 디바이스(1700)를 이용하여 항공편 예약을 계속하기를 바랄 수 있다. 일부 예들에서, 사용자는 간편하게 항공편 예약을 이어서 하기를 바랄 수 있는데, 그 이유는 사용자 디바이스(1700)를 이용하는 것이 더 편리하기 때문이다. 따라서, 사용자는 스피치 입력(1752), 예컨대, "내 전화기로 하던 Kayak 항공편 예약 이어서 해 줘."를 제공할 수 있다.
도 17b를 참조하여, 스피치 입력(1752)을 수신하게 되면, 디지털 어시스턴트는 사용자 의도가 항공편 예약의 태스크를 수행하는 것이라고 결정한다. 일부 예들에서, 디지털 어시스턴트는 추가로 컨텍스트 정보에 기초하여 태스크가 사용자 디바이스(1700)에서 수행될 것이라고 결정한다. 예를 들어, 디지털 어시스턴트는 스피치 입력(1752)이 사용자 디바이스(1700)에서 수신된다고 결정하고, 따라서 태스크가 사용자 디바이스(1700)에서 수행될 것이라고 결정한다. 일부 예들에서, 디지털 어시스턴트는 추가로 컨텍스트 정보, 예컨대, 사용자 선호도(예컨대, 사용자 디바이스(1700)는 과거에 빈번하게 항공편 예약에 사용됨)를 이용하여 태스크가 사용자 디바이스(1700)에서 수행될 것이라고 결정한다.
도 17b에 도시된 바와 같이, 태스크가 사용자 디바이스(1700)에서 수행될 것이고, 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 디지털 어시스턴트는 태스크를 수행하기 위한 콘텐츠를 수신한다. 일부 예들에서, 디지털 어시스턴트는 콘텐츠의 적어도 일부분을 전화기(1720)(예컨대, 스마트폰)로부터 수신하고/하거나 콘텐츠의 적어도 일부분을 서버(1730)로부터 수신한다. 예를 들어, 디지털 어시스턴트는 전화기(1720)로부터 항공편 예약의 상태를 나타내는 데이터를 수신하여 사용자 디바이스(1700)가 항공편 예약을 이어서 할 수 있도록 한다. 일부 예들에서, 항공편 예약의 상태를 나타내는 데이터는 서버(1730), 예컨대, Kayak.com과 연관된 서버에 저장된다. 따라서 디지털 어시스턴트는 항공편 예약을 이어서 하기 위하여 서버(1730)로부터 데이터를 수신한다.
도 17b에 도시된 바와 같이, 전화기(1720) 및/또는 서버(1730)로부터 콘텐츠를 수신한 후, 디지털 어시스턴트는 사용자 디바이스(1700)에서 응답을 제공한다. 일부 예들에서, 응답을 제공하는 것은 전화기(1720)에서 다른 곳에서 부분적으로 수행되었던 항공편 예약의 태스크를 계속해서 수행하는 것을 포함한다. 예를 들어, 디지털 어시스턴트는 사용자가 Kayak.com에서 항공편의 예약을 이어서 하도록 인에이블하는 사용자 인터페이스(1742)를 디스플레이한다. 일부 예들에서, 응답을 제공하는 것은 사용자 디바이스(1700)에서 수행될 태스크와 연관된 링크를 제공하는 것을 포함한다. 예를 들어, 디지털 어시스턴트는 현재 항공편 예약의 상태를 제공하는(예컨대, 이용가능한 항공편을 나타냄) 사용자 인터페이스(1742)(예컨대, 스니펫 또는 창)를 디스플레이한다. 사용자 인터페이스(1742)는 또한 항공편 예약의 태스크를 계속해서 수행하기 위한 링크(1744)(예컨대, 웹 브라우저에 대한 링크)를 제공한다. 일부 실시예들에서, 디지털 어시스턴트는 또한 음성 출력(1772), 예컨대, "Kayak에서의 예약입니다. 당신의 웹 브라우저에서 계속 하시겠습니까?"를 제공한다.
도 17b 및 도 17c에 도시된 바와 같이, 예를 들어, 사용자가 링크(1744)를 선택하는 경우, 디지털 어시스턴트는 웹 브라우징 프로세스를 즉시실행하고 항공편 예약 태스크를 이어서 하기 위한 사용자 인터페이스(1746)(예컨대, 스니펫 또는 창)를 디스플레이한다. 일부 예들에서, 음성 출력(1772)에 응답하여, 사용자는 사용자가 사용자 디바이스(1700)의 웹 브라우저를 이용하여 항공편 예약을 이어서 하기를 바람을 확인하는 스피치 입력(1756), 예컨대, "OK"를 제공한다. 스피치 입력(1756)을 수신하게 되면, 디지털 어시스턴트는 웹 브라우징 프로세스를 즉시실행하고, 항공편 예약 태스크를 이어서 하기 위한 사용자 인터페이스(1746)(예컨대, 스니펫 또는 창)를 디스플레이한다.
도 17d를 참조하여, 일부 실시예들에서, 사용자 디바이스(1700)의 디지털 어시스턴트는 제1 전자 디바이스에서 다른 곳에서 부분적으로 수행되었던 태스크를 계속해서 수행한다. 일부 실시예들에서, 사용자 디바이스의 디지털 어시스턴트는 서버와 같은 제3 전자 디바이스가 아니라, 제1 전자 디바이스로부터 수신된 콘텐츠를 이용하여 계속해서 태스크를 수행한다. 도 17d에 도시된 바와 같이, 일부 예들에서, 제1 전자 디바이스(예컨대, 전화기(1720) 또는 태블릿(1732))는 태스크를 수행 중이었을 수 있다. 예를 들어, 사용자는 전화기(1720)를 이용하여 이메일을 작성중이었거나 또는 태블릿(1732)을 이용하여 사진과 같은 문서를 편집중이었을 수 있다. 일부 예들에서, 사용자는 전화기(1720) 또는 태블릿(1732)을 이용하는 동안 방해를 받거나, 및/또는 사용자 디바이스(1700)를 이용하여 태스크의 수행을 이어서 하기를 바란다. 일부 예들에서, 사용자는 간편하게 태스크의 수행을 이어서 하기를 바랄 수 있는데, 그 이유는 사용자 디바이스(1700)를 이용하는 것이 더 편리하기 때문이다(예컨대, 더 큰 스크린). 따라서, 사용자는 스피치 입력(1758), 예컨대, "내가 편집하던 문서 열어 줘." 또는 스피치 입력(1759), 예컨대, "내가 초안작성하던 이메일 열어 줘."를 제공할 수 있다.
도 17d를 참조하여, 스피치 입력(1758 또는 1759)을 수신하게 되면, 디지털 어시스턴트는 사용자 의도가 문서를 편집 또는 이메일을 작성하는 태스크를 수행하는 것이라고 결정한다. 위에서 기재된 것들과 유사하게, 일부 예들에서, 디지털 어시스턴트는 추가로 태스크가 사용자 디바이스(1700)에서 컨텍스트 정보에 기초하여 수행될 것이라고 결정하고, 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다고 결정한다. 위에서 기재한 바와 유사하게, 일부 예들에서, 디지털 어시스턴트는, 컨텍스트 정보(예컨대, 사용자 특정 데이터)에 기초하여, 콘텐츠가 서버가 아닌 다른 곳에 위치한, 제1 전자 디바이스에서 (예컨대, 전화기(1720) 또는 태블릿(1732)에서) 위치한다고 결정한다. 도 17d에 도시된 바와 같이, 태스크가 사용자 디바이스(1700)에서 수행될 것이고, 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 디지털 어시스턴트는 태스크를 수행하기 위한 콘텐츠를 수신한다. 일부 예들에서, 디지털 어시스턴트는 콘텐츠의 적어도 일부분을 전화기(1720)(예컨대, 스마트폰)로부터 수신하고/하거나 콘텐츠의 적어도 일부분을 태블릿(1730)으로부터 수신한다. 전화기(1720) 및/또는 태블릿(1732)으로부터 콘텐츠를 수신한 후, 디지털 어시스턴트는 사용자 디바이스(1700)에서 응답을 제공하는데, 예컨대, 사용자가 문서의 편집을 이어서 하기 위한 사용자 인터페이스(1748)를 디스플레이하고/하거나 사용자가 이메일의 작성을 이어서 하기 위한 사용자 인터페이스(1749)를 디스플레이한다. 사용자 디바이스(1700)의 디지털 어시스턴트는 또한 제1 전자 디바이스로 하여금 다른 곳인 사용자 디바이스(1700)에서 부분적으로 수행되었던 태스크를 계속해서 수행하게 할 수 있음이 이해될 것이다. 예를 들어, 사용자는 사용자 디바이스(1700) 상에서 이메일을 작성 중일 수 있고 나가야 할 수 있다. 사용자는 스피치 입력, 예컨대, "내 전화기에서 초안작성중인 이메일 열어 줘."를 제공한다. 스피치 입력에 기초하여, 디지털 어시스턴트는 사용자 의도가 전화기(1720) 상에서 태스크를 계속해서 수행하는 것이고, 콘텐츠가 다른 곳인 사용자 디바이스(1700)에 위치하고 있다고 결정한다. 일부 예들에서, 디지털 어시스턴트는 태스크를 수행하기 위한 콘텐츠를 제1 전자 디바이스에 제공하고, 위에서 기재된 것들과 유사하게 제1 전자 디바이스로 하여금 태스크를 계속해서 수행하게 한다.
도 17e를 참조하여, 일부 실시예들에서, 태스크를 계속해서 수행하는 것은, 예를 들어, 사용자 디바이스(1700) 및 제1 전자 디바이스(예컨대, 전화기(1720))를 포함하는 복수의 디바이스 간의 공유 또는 동기화되는 컨텍스트 정보에 기초한다. 기재된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정한다. 컨텍스트 정보는 자체에 또는 다른 곳에 저장될 수 있다. 예를 들어, 도 17e에 도시된 바와 같이, 사용자는 스피치 입력(1760), 예컨대, "뉴욕 날씨 어때?"를 전화기(1720)에 제공한다. 전화기(1720)의 디지털 어시스턴트는 사용자 의도를 결정하고, 뉴욕의 날씨 정보를 획득하기 위한 태스크를 수행하고, 뉴욕의 날씨 정보를 전화기(1720)의 사용자 인터페이스 상에 디스플레이한다. 사용자는 후속적으로 스피치 입력(1761), 예컨대, "로스엔젤레스는 어때?"를 사용자 디바이스(1700)에 제공한다. 일부 예들에서, 사용자 디바이스(1700)의 디지털 어시스턴트는 전화기(1720)에 직접 저장되고/되거나, 전화기(1720)에 의해 서버를 통해 공유되는 컨텍스트 정보를 이용하여 사용자 의도를 결정한다. 컨텍스트 정보는, 예를 들어, 전화기(1720)와 연관된 과거 사용자 데이터, 대화 상태, 시스템 상태 등을 포함한다. 과거 사용자 데이터와 대화 상태는 둘 모두 사용자가 날씨 정보에 관해 문의하고 있었음을 나타낸다. 따라서, 사용자 디바이스(1700)의 디지털 어시스턴트는 사용자 의도가 로스엔젤레스의 날씨 정보를 획득하는 것이라고 결정한다. 사용자 의도에 기초하여, 사용자 디바이스(1700)의 디지털 어시스턴트는, 예를 들어, 서버로부터 날씨 정보를 수신하고, 사용자 디바이스(1710) 상에 날씨 정보를 디스플레이하는 사용자 인터페이스(1751)를 제공한다.
6. 디지털 어시스턴트의 예시적인 기능들 - 음성 지원 시스템 구성 관리
도 18a 내지 도 18f 및 도 19a 내지 도 19d는 시스템 구성 정보를 제공하거나 또는 사용자 요청에 응답하여 디지털 어시스턴트에 의해 태스크를 수행하는 기능들을 도시한다. 일부 예들에서, 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))은 다양한 예들에 따른 사용자 디바이스에 의해 구현될 수 있다. 일부 예들에서, 사용자 디바이스, 서버(예컨대, 서버(108)), 또는 이들의 조합은 디지털 어시스턴트 시스템(예컨대, 디지털 어시스턴트 시스템(700))을 구현할 수 있다. 사용자 디바이스는, 예를 들어, 디바이스(104, 200, 또는 400)를 이용하여 구현된다. 일부 예들에서, 사용자 디바이스는 랩톱 컴퓨터, 데스크톱 컴퓨터, 또는 태블릿 컴퓨터이다. 사용자 디바이스는 데스크톱 환경과 같은 멀티 태스킹 환경에서 동작한다.
도 18a 내지 도 18f 및 도 19a 내지 도 19d를 참조하여, 일부 예들에서, 사용자 디바이스는 다양한 사용자 인터페이스들(예컨대, 사용자 인터페이스들(1810, 1910))을 제공한다. 위에서 기재된 것들과 유사하게, 사용자 디바이스는 다양한 사용자 인터페이스들을 디스플레이 상에 디스플레이하고, 다양한 사용자 인터페이스들은 사용자가 하나 이상의 프로세스(예컨대, 시스템 구성 프로세스들)를 즉시실행하게 인에이블한다.
도 18a 내지 도 18f 및 도 19a 내지 도 19d에 도시된 바와 같이, 위에서 기재된 것들과 유사하게, 사용자 디바이스는, 사용자 인터페이스(예컨대, 사용자 인터페이스들(1810, 1910)) 상에, 디지털 어시스턴트 서비스의 즉시실행을 용이하게 하기 위한 어포던스(예컨대, 어포던스(1840, 1940))를 디스플레이한다.
위에서 기재된 것들과 유사하게, 일부 예들에서, 디지털 어시스턴트는 사전결정된 구절을 수신하는 것에 응답하여 즉시실행된다. 일부 예들에서, 디지털 어시스턴트는 어포던스의 선택을 수신하는 것에 응답하여 즉시실행된다.
도 18a 내지 도 18f 및 도 19a 내지 도 19d를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 사용자로부터 하나 이상의 스피치 입력, 예컨대, 스피치 입력들(1852, 1854, 1856, 1858, 1860, 1862, 1952, 1954, 1956, 및 1958)을 수신한다. 사용자는 사용자 디바이스의 하나 이상의 시스템 구성을 관리할 목적으로 다양한 스피치 입력들을 제공한다. 시스템 구성들은 오디오 구성들, 날짜 및 시간 구성들, 구술 구성, 디스플레이 구성들, 입력 디바이스 구성들, 통지 구성들, 인쇄 구성들, 보안 구성들, 백업 구성들, 애플리케이션 구성들, 사용자 인터페이스 구성들 등을 포함할 수 있다. 오디오 구성들을 관리하기 위해, 스피치 입력은 "내 마이크로폰 꺼 줘.", "볼륨을 다 올려 줘.", "볼륨을 10% 올려 줘." 등을 포함할 수 있다. 날짜 및 시간 구성들을 관리하기 위하여, 스피치 입력은 "내 시간대가 뭐지?", "내 시간대를 쿠페르티노 시간대로 바꿔 줘.", "런던 시간대를 추가해 줘." 등을 포함할 수 있다. 구술 구성들을 관리하기 위하여, 스피치 입력은 "구술하기 켜 줘.", "구술하기 꺼 줘.", "중국어로 구술해 줘.", "고급 커맨드 인에이블해 줘." 등을 포함할 수 있다. 디스플레이 구성들을 관리하기 위하여, 스피치 입력은 "내 스크린 더 밝게 해 줘.", "내 콘트라스트를 20% 올려줘.", "내 스크린을 제2 모니터로 연장해 줘.", "내 디스플레이를 미러링해 줘." 등을 포함할 수 있다. 입력 디바이스 구성들을 관리하기 위하여, 스피치 입력은 "내 블루투스 키보드 연결해 줘.", "내 마우스 포인터 더 크게 해 줘." 등을 포함할 수 있다. 네트워크 구성들을 관리하기 위하여, 스피치 입력은 "Wi-Fi 켜 줘.", "Wi-Fi 꺼 줘.", "무슨 Wi-Fi 네트워크에 연결되어 있어?", "내 전화기에 연결되어 있어?" 등을 포함할 수 있다. 통지 구성을 관리하기 위하여, 스피치 입력은 "방해 금지모드 켜 줘.", "이 통지들 나한테 그만 보여줘.", "새로운 이메일들만 보여줘.", "텍스트 메시지에 알림하지 마." 등을 포함할 수 있다. 인쇄 구성들을 관리하기 위하여, 스피치 입력은 "내 프린터에 잉크가 충분해?", "내 프린터 연결되어 있어?" 등을 포함할 수 있다. 보안 구성들을 관리하기 위하여, 스피치 입력은 "John의 계정에 패스워드 바꿔 줘.", "방화벽 켜 줘.", "쿠키 디스에이블해 줘." 등을 포함할 수 있다. 백업 구성들을 관리하기 위하여, 스피치 입력은 "지금 백업 실행해 줘.", "한 달에 한 번 간격으로 백업 설정해 줘.", "작년 7월 4일 백업 복구해 줘." 등을 포함할 수 있다. 애플리케이션 구성들을 관리하기 위하여, 스피치 입력은 "내 디폴트 웹 브라우저를 사파리로 바꿔 줘.", "내가 서명할 때마다 자동으로 메시지 애플리케이션에 로그인해 줘." 등을 포함할 수 있다. 사용자 인터페이스 구성들을 관리하기 위하여, 스피치 입력은 "내 바탕화면의 배경화면 바꿔 줘.", "도크(dock) 숨겨 줘.", "도크에 에버노트(Evernote) 추가해 줘." 등을 포함할 수 있다. 스피치 입력들을 이용하여 시스템 구성들을 관리하는 다양한 예들이 아래 더 상세하게 기재되어 있다.
위에서 기재된 것들과 유사하게, 일부 예들에서, 디지털 어시스턴트는 사용자 디바이스에서 사용자로부터 직접 스피치 입력들을 수신하거나 또는 사용자 디바이스에 통신가능하게 연결된 다른 전자 디바이스를 통해 간접적으로 스피치 입력들을 수신한다.
도 18a 내지 도 18f 및 도 19a 내지 도 19d를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 사용자 디바이스와 연관된 컨텍스트 정보를 식별한다. 컨텍스트 정보는, 예를 들어, 사용자 특정 데이터, 센서 데이터, 및 사용자 디바이스 구성 데이터를 포함한다. 일부 예들에서, 사용자 특정 데이터는 사용자 선호도, 사용자와 사용자 디바이스의 상호작용 이력 등을 나타내는 로그 정보를 포함한다. 예를 들어, 사용자 특정 데이터는 사용자의 시스템이 백업되었던 마지막 시간을 나타내고; 여러 Wi-Fi 네트워크들이 이용가능할 때 특정 Wi-Fi 네트워크에 대한 사용자의 선호 등을 나타낸다. 일부 예들에서, 센서 데이터는 센서에 의해 수집된 다양한 데이터를 포함한다. 예를 들어, 센서 데이터는 프린터 잉크 레벨 센서에 의해 수집된 프린터 잉크 레벨을 나타낸다. 일부 예들에서, 사용자 디바이스 구성 데이터는 현재 및 과거 디바이스 구성들을 포함한다. 예를 들어, 사용자 디바이스 구성 데이터는 사용자 디바이스가 현재 블루투스 연결을 이용하여 하나 이상의 전자 디바이스에 통신가능하게 연결되어 있음을 나타낸다. 전자 디바이스들은, 예를 들어, 스마트폰, 셋톱 박스, 태블릿 등을 포함할 수 있다. 아래 더 상세하게 기재된 바와 같이, 사용자 디바이스는 사용자 의도를 결정하고/하거나 컨텍스트 정보를 이용하여 하나 이상의 프로세스를 수행할 수 있다.
도 18a 내지 도 18f 및 도 19a 내지 도 19d를 참조하여, 위에서 기재된 것들과 유사하게, 스피치 입력을 수신하는 것에 응답하여, 디지털 어시스턴트는 스피치 입력에 기초하여 사용자 의도를 결정한다. 디지털 어시스턴트는 자연 언어 프로세싱의 결과에 기초하여 사용자 의도를 결정한다. 예를 들어, 디지털 어시스턴트는 사용자 입력에 기초하여 행동가능한 의도를 식별하고, 식별된 행동가능한 의도를 나타내기 위한 구조화된 질의를 생성한다. 구조화된 질의는 행동가능한 의도와 연관된 하나 이상의 파라미터를 포함한다. 하나 이상의 파라미터는 행동가능한 의도에 기초하여 태스크의 수행을 용이하게 하는 데 이용될 수 있다. 예를 들어, 스피치 입력, 예컨대, "볼륨을 10%만큼 올려 줘."에 기초하여, 디지털 어시스턴트는 행동가능한 의도가 시스템 볼륨을 조정하는 것이라고 결정하고, 파라미터들은 볼륨을 현재 볼륨 레벨보다 10% 높게 설정하는 것을 포함한다. 일부 실시예들에서, 디지털 어시스턴트는 또한 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정한다. 예를 들어, 컨텍스트 정보는 사용자 디바이스의 현재 볼륨이 50%임을 나타낼 수 있다. 결과적으로, 스피치 입력, 예컨대, "볼륨을 10%만큼 올려 줘."를 수신하게 되면, 디지털 어시스턴트는 사용자 의도가 볼륨 레벨을 60%로 증가시키는 것이라고 결정한다. 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 것은 아래 다양한 예들에서 더 상세하게 기재된다.
일부 실시예들에서, 디지털 어시스턴트는 추가로 사용자 의도가 정보제공 요청을 나타내는지 아니면 태스크를 수행하기 위한 요청을 나타내는지 결정한다. 결정의 다양한 예들이 도 18a 내지 도 18f 및 도 19a 내지 도 19d에 대하여 아래 더 상세하게 제공된다.
도 18a를 참조하여, 일부 예들에서, 사용자 디바이스는 태스크를 수행하는 것과 연관된 사용자 인터페이스(1832)를 디스플레이한다. 예를 들어, 태스크는 회의 초대장을 작성하는 것을 포함한다. 회의 초대장을 작성할 때, 사용자는 회의 초대장이 적절히 작성될 수 있도록 사용자 디바이스의 시간대를 알고 싶어할 수 있다. 일부 예들에서, 사용자는 어포던스(1840 또는 1841)에 의해 표시되는 디지털 어시스턴트를 호출하기 위한 스피치 입력(1852)을 제공한다. 스피치 입력(1852)은, 예를 들어, "이봐, 어시스턴트"를 포함한다. 사용자 디바이스는 스피치 입력(1852)을 수신하고, 이에 응답하여, 디지털 어시스턴트를 호출하여 디지털 어시스턴트가 능동적으로 후속 스피치 입력들을 모니터하게 한다. 일부 예들에서, 디지털 어시스턴트는 그것이 호출됨을 알리는 음성 출력(1872)을 제공한다. 예를 들어, 음성 출력(1872)은 "말씀하세요. 듣고 있습니다."를 포함한다.
도 18b를 참조하여, 일부 예들에서, 사용자는 스피치 입력(1854), 예컨대, "내 시간대가 뭐지?"를 제공한다. 디지털 어시스턴트는 사용자 의도가 사용자 디바이스의 시간대를 획득하는 것이라고 결정한다. 디지털 어시스턴트는 추가로 사용자 의도가 정보제공 요청을 나타내는지 아니면 태스크를 수행하기 위한 요청을 나타내는지 결정한다. 일부 예들에서, 사용자 의도가 정보제공 요청을 나타내는지 아니면 태스크를 수행하기 위한 요청을 나타내는지 결정하는 것은 사용자 의도가 시스템 구성을 변경하는 것인지 결정하는 것을 포함한다. 예를 들어, 사용자 의도가 사용자 디바이스의 시간대를 획득하는 것이라는 결정에 기초하여, 디지털 어시스턴트는 시스템 구성이 변경되지 않는다고 결정한다. 결과적으로, 디지털 어시스턴트는 사용자 의도가 정보제공 요청을 나타낸다고 결정한다.
일부 실시예들에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 정보제공 요청에 대한 음성 응답을 제공한다. 일부 예들에서, 디지털 어시스턴트는 정보제공 요청에 따라 하나 이상의 시스템 구성의 상태를 획득하고, 하나 이상의 시스템 구성의 상태에 따라 음성 응답을 제공한다. 도 18b에 도시된 바와 같이, 디지털 어시스턴트는 사용자 의도가 사용자 디바이스의 시간대를 획득하는 것이고, 이 사용자 의도는 정보제공 요청을 나타낸다고 결정한다. 따라서, 디지털 어시스턴트는 사용자 디바이스의 시간 및 날짜 구성으로부터 시간대 상태를 획득한다. 시간대 상태는, 예를 들어, 사용자 디바이스가 태평양 시간대에 설정되어 있음을 나타낸다. 시간대 상태에 기초하여, 디지털 어시스턴트는 음성 출력(1874), 예컨대, "당신의 컴퓨터는 태평양 표준 시간에 설정되어 있습니다."를 제공한다. 일부 예들에서, 디지털 어시스턴트는 추가로 정보제공 요청과 연관된 링크를 제공한다. 도 18b에 도시된 바와 같이, 디지털 어시스턴트는 사용자가 추가로 데이터 및 시간 구성들을 관리하도록 인에이블하는 링크(1834)를 제공한다. 일부 예들에서, 사용자는 입력 디바이스(예컨대, 마우스)를 사용하여 링크(1834)를 선택한다. 링크(1834)의 사용자의 선택을 수신하게 되면, 디지털 어시스턴트는 날짜 및 시간 구성 프로세스를 즉시실행하고, 연관된 날짜 및 시간 구성 사용자 인터페이스를 디스플레이한다. 사용자는 따라서 날짜 및 시간 구성 사용자 인터페이스를 이용하여 추가로 날짜 및 시간 구성들을 관리할 수 있다.
도 18c를 참조하여, 일부 예들에서, 사용자 디바이스는 태스크를 수행하는 것과 연관된 사용자 인터페이스(1836)를 디스플레이한다. 예를 들어, 태스크는 비디오(예컨대, ABC.mov)를 재생하는 것을 포함한다. 비디오를 보는 경험을 향상시키기 위하여, 사용자는 스피커를 사용하기를 바랄 수 있고, 블루투스 스피커가 연결되어 있는지 알고 싶어할 수 있다. 일부 예들에서, 사용자는 스피치 입력(1856), 예컨대, "내 블루투스 스피커 연결되어 있어?"를 제공한다. 디지털 어시스턴트는 사용자 의도가 블루투스 스피커(1820)의 연결 상태를 획득하는 것이라고 결정한다. 디지털 어시스턴트는 추가로 블루투스 스피커(1820)의 연결 상태를 획득하는 것은 어떠한 시스템 구성도 변경하지 않으며, 따라서 이는 정보제공 요청이라고 결정한다.
일부 실시예들에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 정보제공 요청에 따라 시스템 구성들의 상태를 획득하고, 시스템 구성들의 상태에 따라 음성 응답을 제공한다. 도 18c에 도시된 바와 같이, 디지털 어시스턴트는 사용자 디바이스의 네트워크 구성으로부터 연결 상태를 획득한다. 연결 상태는, 예를 들어, 사용자 디바이스(1800)가 블루투스 스피커(1820)에 연결되어 있지 않음을 나타낸다. 연결 상태에 기초하여, 디지털 어시스턴트는 음성 출력(1876), 예컨대, "아니오, 연결되어 있지 않습니다만, 네트워크 구성들에서 블루투스 디바이스들을 확인하실 수 있습니다."를 제공한다. 일부 예들에서, 디지털 어시스턴트는 추가로 정보제공 요청과 연관된 링크를 제공한다. 도 18c에 도시된 바와 같이, 디지털 어시스턴트는 사용자가 추가로 네트워크 구성들을 관리하도록 인에이블하는 링크(1838)를 제공한다. 일부 예들에서, 사용자는 입력 디바이스(예컨대, 마우스)를 사용하여 링크(1838)를 선택한다. 링크(1838)의 사용자의 선택을 수신하게 되면, 디지털 어시스턴트는 네트워크 구성 프로세스를 즉시실행하고, 연관된 네트워크 구성 사용자 인터페이스를 디스플레이한다. 사용자는 따라서 네트워크 구성 사용자 인터페이스를 이용하여 추가로 네트워크 구성들을 관리할 수 있다.
도 18d를 참조하여, 일부 예들에서, 사용자 디바이스는 태스크를 수행하는 것과 연관된 사용자 인터페이스(1842)를 디스플레이한다. 예를 들어, 태스크는 문서 보기 및/또는 문서 편집하기를 포함한다. 사용자는 문서를 인쇄하기를 바랄 수 있고, 프린터(1830)의 잉크가 인쇄 작업에 충분한지 알고 싶어할 수 있다. 일부 예들에서, 사용자는 스피치 입력(1858), 예컨대, "내 프린터에 잉크가 충분해?"를 제공한다. 디지털 어시스턴트는 사용자 의도가 프린터의 프린터 잉크 레벨 상태를 획득하는 것이라고 결정한다. 디지털 어시스턴트는 추가로 프린터 레벨 상태를 획득하는 것은 어떠한 시스템 구성도 변경하지 않으며, 따라서 이는 정보제공 요청이라고 결정한다.
일부 실시예들에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 정보제공 요청에 따라 시스템 구성들의 상태를 획득하고, 시스템 구성들의 상태에 따라 음성 응답을 제공한다. 도 18d에 도시된 바와 같이, 디지털 어시스턴트는 사용자 디바이스의 인쇄 구성으로부터 프린터 잉크 레벨 상태를 획득한다. 프린터 잉크 레벨 상태는, 예를 들어, 프린터(1830)의 프린터 잉크 레벨이 50%임을 나타낸다. 연결 상태에 기초하여, 디지털 어시스턴트는 음성 출력(1878), 예컨대, "네, 당신의 프린터에 잉크가 충분합니다. 또한 프린터 구성들에서 프린터 공급 레벨을 찾아보실 수 있습니다."를 제공한다. 일부 예들에서, 디지털 어시스턴트는 추가로 정보제공 요청과 연관된 링크를 제공한다. 도 18d에 도시된 바와 같이, 디지털 어시스턴트는 사용자가 추가로 인쇄 구성들을 관리하도록 인에이블하는 링크(1844)를 제공한다. 일부 예들에서, 사용자는 입력 디바이스(예컨대, 마우스)를 사용하여 링크(1844)를 선택한다. 링크의 사용자의 선택을 수신하게 되면, 디지털 어시스턴트는 프린터 구성 프로세스를 즉시실행하고, 연관된 프린터 구성 사용자 인터페이스를 디스플레이한다. 사용자는 따라서 프린터 구성 사용자 인터페이스를 이용하여 추가로 프린터 구성들을 관리할 수 있다.
도 18e를 참조하여, 일부 예들에서, 사용자 디바이스는 태스크를 수행하는 것과 연관된 사용자 인터페이스(1846)를 디스플레이한다. 예를 들어, 태스크는 웹 브라우저(예컨대, 사파리)를 이용하여 인터넷을 브라우징하는 것을 포함한다. 인터넷을 브라우징하기 위하여, 사용자는 이용가능한 Wi-Fi 네트워크들을 알고 싶어할 수 있고, 연결할 하나의 Wi-Fi 네트워크를 선택할 수 있다. 일부 예들에서, 사용자는 스피치 입력(1860), 예컨대, "어떤 Wi-Fi 네트워크가 이용가능하지?"를 제공한다. 디지털 어시스턴트는 사용자 의도가 이용가능한 Wi-Fi 네트워크들의 목록을 획득하는 것이라고 결정한다. 디지털 어시스턴트는 추가로 이용가능한 Wi-Fi 네트워크들의 목록을 획득하는 것은 어떠한 시스템 구성도 변경하지 않으며, 따라서 이는 정보제공 요청이라고 결정한다.
일부 실시예들에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 정보제공 요청에 따라 시스템 구성들의 상태를 획득하고, 시스템 구성들의 상태에 따라 음성 응답을 제공한다. 도 18e에 도시된 바와 같이, 디지털 어시스턴트는 사용자 디바이스의 네트워크 구성으로부터 현재 이용가능한 Wi-Fi 네트워크들의 상태를 획득한다. 현재 이용가능한 Wi-Fi 네트워크들의 상태는, 예를 들어, Wi-Fi 네트워크 1, Wi-Fi 네트워크 2, 및 Wi-Fi 네트워크 3이 이용가능함을 나타낸다. 일부 예들에서, 상태는 추가로 Wi-Fi 네트워크들의 각각의 신호 강도를 나타낸다. 디지털 어시스턴트는 상태에 따라 정보를 제공하는 사용자 인터페이스(1845)를 디스플레이한다. 예를 들어, 사용자 인터페이스(1845)는 이용가능한 Wi-Fi 네트워크들의 목록을 제공한다. 디지털 어시스턴트는 또한 음성 출력(1880), 예컨대, "이용가능한 Wi-Fi 네트워크들의 목록입니다."를 제공한다. 일부 예들에서, 디지털 어시스턴트는 추가로 정보제공 요청과 연관된 링크를 제공한다. 도 18e에 도시된 바와 같이, 디지털 어시스턴트는 사용자가 추가로 네트워크 구성들을 관리하도록 인에이블하는 링크(1847)를 제공한다. 일부 예들에서, 사용자는 입력 디바이스(예컨대, 마우스)를 사용하여 링크(1847)를 선택한다. 링크(1847)의 사용자의 선택을 수신하게 되면, 디지털 어시스턴트는 네트워크 구성 프로세스를 즉시실행하고, 연관된 네트워크 구성 사용자 인터페이스를 디스플레이한다. 사용자는 따라서 네트워크 구성 사용자 인터페이스를 이용하여 추가로 구성들을 관리할 수 있다.
도 18f를 참조하여, 일부 예들에서, 사용자 디바이스는 태스크를 수행하는 것과 연관된 사용자 인터페이스(1890)를 디스플레이한다. 예를 들어, 태스크는 회의 안건을 준비하는 것을 포함한다. 회의 안건을 준비할 때, 사용자는 회의의 날짜 및 시간을 찾기를 바랄 수 있다. 일부 예들에서, 사용자는 스피치 입력(1862), 예컨대, "내 캘린더에서 다음주 화요일의 아침 회의 시간을 찾아 줘."를 제공한다. 디지털 어시스턴트는 사용자 의도가 사용자의 캘린더 상에서 화요일 아침에 이용가능한 시간 슬롯을 찾는 것이라고 결정한다. 디지털 어시스턴트는 추가로 시간 슬롯을 찾는 것은 어떠한 시스템 구성도 변경하지 않으며, 따라서 이는 정보제공 요청이라고 결정한다.
일부 실시예들에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 정보제공 요청에 따라 시스템 구성들의 상태를 획득하고, 시스템 구성들의 상태에 따라 음성 응답을 제공한다. 도 18f에 도시된 바와 같이, 디지털 어시스턴트는 캘린더 구성들로부터 사용자의 캘린더의 상태를 획득한다. 사용자의 캘린더의 상태는, 예를 들어, 화요일 9a.m. 또는 11a.m.이 아직 이용가능함을 나타낸다. 디지털 어시스턴트는 상태에 따라 정보를 제공하는 사용자 인터페이스(1891)를 디스플레이한다. 예를 들어, 사용자 인터페이스(1891)는 사용자가 요청한 날짜 및 시간에 근접한 사용자의 캘린더를 제공한다. 일부 예들에서, 디지털 어시스턴트는 또한 음성 출력(1882), 예컨대, "화요일 9a.m. 또는 11a.m이 이용가능한 것 같습니다."를 제공한다. 일부 예들에서, 디지털 어시스턴트는 추가로 정보제공 요청과 연관된 링크를 제공한다. 도 18f에 도시된 바와 같이, 디지털 어시스턴트는 사용자가 추가로 캘린더 구성들을 관리하도록 인에이블하는 링크(1849)를 제공한다. 일부 예들에서, 사용자는 입력 디바이스(예컨대, 마우스)를 사용하여 링크(1849)를 선택한다. 링크(1849)의 사용자의 선택을 수신하게 되면, 디지털 어시스턴트는 캘린더 구성 프로세스를 즉시실행하고, 연관된 캘린더 구성 사용자 인터페이스를 디스플레이한다. 사용자는 따라서 캘린더 구성 사용자 인터페이스를 이용하여 추가로 구성들을 관리할 수 있다.
도 19a를 참조하여, 사용자 디바이스는 태스크를 수행하는 것과 연관된 사용자 인터페이스(1932)를 디스플레이한다. 예를 들어, 태스크는 비디오(예컨대, ABC.mov)를 재생하는 것을 포함한다. 비디오가 재생되는 동안, 사용자는 볼륨을 높이기를 바랄 수 있다. 일부 예들에서, 사용자는 스피치 입력(1952), 예컨대, "볼륨을 다 올려 줘."를 제공한다. 디지털 어시스턴트는 사용자 의도가 볼륨을 그것의 최대 레벨까지 증가시키는 것이라고 결정한다. 디지털 어시스턴트는 추가로 사용자 의도가 정보제공 요청을 나타내는지 아니면 태스크를 수행하기 위한 요청을 나타내는지 결정한다. 예를 들어, 사용자 의도가 사용자 디바이스의 볼륨을 증가시키는 것이라는 결정에 기초하여, 디지털 어시스턴트는 오디오 구성이 변경되고, 따라서 사용자 의도가 태스크를 수행하기 위한 요청을 나타냄을 결정한다.
일부 실시예들에서, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 태스크를 수행하기 위하여 사용자 디바이스와 연관된 프로세스를 즉시실행한다. 프로세스를 즉시실행하는 것은, 프로세스가 아직 실행 중이 아닌 경우 프로세스를 호출하는 것을 포함한다. 프로세스의 적어도 하나의 인스턴스가 실행 중인 경우, 프로세스를 즉시실행하는 것은 프로세스의 기존의 인스턴스를 실행시키는 것 또는 프로세스의 새로운 인스턴스를 생성하는 것을 포함한다. 예를 들어, 오디오 구성 프로세스를 즉시실행하는 것은 오디오 구성 프로세스를 호출하거나, 기존 오디오 구성 프로세스를 이용하거나, 또는 오디오 구성 프로세스의 새로운 인스턴스를 생성하는 것을 포함한다. 일부 예들에서, 프로세스를 즉시실행하는 것은 프로세스를 이용하여 태스크를 수행하는 것을 포함한다. 예를 들어, 도 19a에 도시된 바와 같이, 볼륨을 그것의 최대 레벨까지 증가시키려는 사용자 의도에 따라, 디지털 어시스턴트는 볼륨을 그것의 최대 레벨로 설정하기 위하여 오디오 구성 프로세스를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 추가로 음성 출력(1972), 예컨대, "네, 볼륨을 다 올렸습니다."를 제공한다.
도 19b를 참조하여, 사용자 디바이스는 태스크를 수행하는 것과 연관된 사용자 인터페이스(1934)를 디스플레이한다. 예를 들어, 태스크는 문서 보기 또는 문서 편집하기를 포함한다. 사용자는 시력 보호를 위해 스크린 밝기를 낮추기를 바랄 수 있다. 일부 예들에서, 사용자는 스피치 입력(1954), 예컨대, "내 스크린 밝기를 10% 낮게 해 줘."를 제공한다. 디지털 어시스턴트는 스피치 입력(1954) 및 컨텍스트 정보에 기초하여 사용자 의도를 결정한다. 예를 들어, 컨텍스트 정보는 현재 밝기 구성이 90%에 있음을 나타낸다. 결과적으로, 디지털 어시스턴트는 사용자 의도가 밝기 레벨을 90%에서 80%로 감소시키는 것이라고 결정한다. 디지털 어시스턴트는 추가로 사용자 의도가 정보제공 요청을 나타내는지 아니면 태스크를 수행하기 위한 요청을 나타내는지 결정한다. 예를 들어, 사용자 의도가 스크린 밝기를 80%로 변경하는 것이라는 결정에 기초하여, 디지털 어시스턴트는 디스플레이 구성이 변경되고, 따라서 사용자 의도는 태스크를 수행하기 위한 요청을 나타냄을 결정한다.
일부 실시예들에서, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 태스크를 수행하기 위하여 프로세스를 즉시실행한다. 예를 들어, 도 19b에 도시된 바와 같이, 밝기 레벨을 변경하려는 사용자 의도에 따라, 디지털 어시스턴트는 밝기 레벨을 80%로 감소시키기 위하여 디스플레이 구성 프로세스를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 추가로 음성 출력(1974), 예컨대, "네, 당신의 스크린 밝기를 80%로 하였습니다."를 제공한다. 일부 예들에서, 도 19b에 도시된 바와 같이, 디지털 어시스턴트는 사용자가 태스크를 수행한 결과를 조작하게 하도록 인에이블하는 어포던스(1936)를 제공한다. 예를 들어, 어포던스(1936)는 사용자가 추가로 밝기 레벨을 변경하게 하는 슬라이딩 바일 수 있다.
도 19c를 참조하여, 사용자 디바이스는 태스크를 수행하는 것과 연관된 사용자 인터페이스(1938)를 디스플레이한다. 예를 들어, 태스크는 하나 이상의 통지를 제공하는 것을 포함한다. 통지는 이메일, 메시지, 리마인더 등의 알림을 포함할 수 있다. 일부 예들에서, 사용자 인터페이스(1938)에 통지들이 제공된다. 통지는 사용자에게 실시간으로 또는 사용자 디바이스에서 이용가능하게 된 직후에 디스플레이되거나 또는 제공될 수 있다. 예를 들어, 사용자 디바이스가 통지를 수신한 직후에 통지는 사용자 인터페이스(1938) 및/또는 사용자 인터페이스(1910) 상에 나타난다. 때때로, 사용자는 중요한 태스크(예컨대, 문서를 편집)를 수행 중일 수 있고 통지들에 의해 방해받고 싶지 않을 수 있다. 일부 예들에서, 사용자는 스피치 입력(1956), 예컨대, "받은 이메일에 대해서 통지하지 마."를 제공한다. 디지털 어시스턴트는 사용자 의도가 이메일들의 알림을 끄는 것이라고 결정한다. 사용자 의도가 받은 이메일들의 알림을 끄는 것이라는 결정에 기초하여, 디지털 어시스턴트는 통지 구성이 변경되고, 따라서 사용자 의도는 태스크를 수행하기 위한 요청을 나타냄을 결정한다.
일부 실시예들에서, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 태스크를 수행하기 위하여 프로세스를 즉시실행한다. 예를 들어, 도 19c에 도시된 바와 같이, 사용자 의도에 따라, 디지털 어시스턴트는 이메일들의 알림을 끄기 위하여 통지 구성 프로세스를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트는 추가로 음성 출력(1976), 예컨대, "네, 메일에 대한 통지를 껐습니다."를 제공한다. 일부 예들에서, 도 19c에 도시된 바와 같이, 디지털 어시스턴트는 사용자가 태스크를 수행한 결과를 조작하도록 인에이블하는 사용자 인터페이스(1942)(예컨대, 스니펫 또는 창)를 제공한다. 예를 들어, 사용자 인터페이스(1942)는 어포던스(1943)(예컨대, 취소 버튼)를 제공한다. 사용자가 이메일들의 통지를 계속해서 수신하기를 바라는 경우, 예를 들어, 사용자는 이메일들의 통지를 다시 켜기 위한 어포던스(1943)를 선택할 수 있다. 일부 예들에서, 사용자는 또한 이메일들의 통지를 켜기 위하여 다른 스피치 입력, 예컨대, "받은 이메일들에 대해서 나한테 통지해 줘."를 제공할 수 있다.
도 19d를 참조하여, 일부 실시예들에서, 디지털 어시스턴트는 사용자의 스피치 입력에 기초하여 태스크를 완수할 수 없을 수 있고, 따라서 사용자가 태스크를 수행하도록 인에이블하는 사용자 인터페이스를 또한 제공할 수 있다. 도 19d에 도시된 바와 같이, 일부 예들에서, 사용자는 스피치 입력(1958), 예컨대, "내 화면 보호기에 커스텀 메시지 보여줘."를 제공한다. 디지털 어시스턴트는 사용자 의도가 커스텀 메시지를 보여주도록 화면 보호기 설정을 변경하는 것이라고 결정한다. 디지털 어시스턴트는 추가로 사용자 의도가 디스플레이 구성을 변경하고, 따라서 사용자 의도는 태스크를 수행하기 위한 요청을 나타냄을 결정한다.
일부 실시예들에서, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 디지털 어시스턴트는 태스크를 수행하기 위하여 사용자 디바이스와 연관된 프로세스를 즉시실행한다. 일부 예들에서, 디지털 어시스턴트가 사용자 의도에 기초하여 태스크를 완수할 수 없을 때, 그것은 사용자가 태스크를 수행하도록 인에이블하는 사용자 인터페이스를 제공한다. 예를 들어, 스피치 입력(1958)에 기초하여, 디지털 어시스턴트는 화면 보호기 상에 도시될 커스텀 메시지의 콘텐츠를 결정할 수 없을 수 있고, 따라서 커스텀 메시지를 디스플레이하는 태스크를 완수할 수 없다. 도 19d에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 디스플레이 구성 프로세스를 즉시실행하고, 사용자가 수동으로 화면 보호기 설정을 변경하도록 인에이블하는 사용자 인터페이스(1946)(예컨대, 스니펫 또는 창)를 제공한다. 다른 예를 들어, 디지털 어시스턴트는 사용자가 태스크를 수행하도록 인에이블하는 링크(1944)(예컨대, 디스플레이 구성들에 대한 링크)를 제공한다. 사용자는 입력 디바이스, 예컨대, 마우스, 손가락, 또는 스타일러스를 이용하여 링크(1944)를 선택한다. 사용자의 선택을 수신하게 되면, 디지털 어시스턴트는 디스플레이 구성 프로세스를 즉시실행하고, 사용자가 화면 보호기 설정을 변경하도록 인에이블하는 사용자 인터페이스(1946)를 디스플레이한다. 일부 예들에서, 디지털 어시스턴트는 추가로 음성 출력(1978), 예컨대, "화면 보호기 구성에서 화면 보호기 옵션들을 탐색하실 수 있습니다."를 제공한다.
7. 디지털 어시스턴트를 동작시키기 위한 프로세스 - 지능형 검색 및 객체 관리.
도 20a 내지 도 20g는 일부 실시예들에 따른 디지털 어시스턴트를 동작시키기 위한 예시적인 프로세스(2000)의 흐름도를 도시한다. 프로세스(2000)는 하나 이상의 디바이스들(104, 108, 200, 400, 또는 600)(도 1, 도 2a, 도 4, 또는 도 6a 및 도 6b)을 사용하여 수행될 수 있다. 프로세스(2000)에서의 동작들은, 선택적으로, 조합 또는 분할되고 그리고/또는 일부 동작들의 순서는 선택적으로 변경된다.
도 20a를 참조하여, 블록(2002)에서, 제1 스피치 입력을 수신하기 이전에, 디지털 어시스턴트 서비스를 호출하기 위한 어포던스가 사용자 디바이스와 연관된 디스플레이 상에 디스플레이된다. 블록(2003)에서, 디지털 어시스턴트는 사전결정된 구절을 수신하는 것에 응답하여 호출된다. 블록(2004)에서, 디지털 어시스턴트는 어포던스의 선택을 수신하는 것에 응답하여 호출된다.
블록(2006)에서, 사용자로부터 제1 스피치 입력이 수신된다. 블록(2008)에서, 사용자 디바이스와 연관된 컨텍스트 정보가 식별된다. 블록(2009)에서, 컨텍스트 정보는 다음 중 적어도 하나를 포함한다: 사용자 특정 데이터, 하나 이상의 객체와 연관된 메타데이터, 센서 데이터, 및 사용자 디바이스 구성 데이터.
블록(2010)에서, 제1 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도가 결정된다. 블록(2012)에서, 사용자 의도를 결정하기 위하여, 하나 이상의 행동가능한 의도가 결정된다. 블록(2013)에서, 행동가능한 의도와 연관된 하나 이상의 파라미터가 결정된다.
도 20b를 참조하여, 블록(2015)에서, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정된다. 검색 프로세스는 사용자 디바이스에 내부적으로 또는 외부적으로 저장된 데이터를 검색하도록 구성되고, 객체 관리 프로세스는 사용자 디바이스와 연관된 객체들을 관리하도록 구성된다. 블록(2016)에서, 스피치 입력이 검색 프로세스를 나타내는 하나 이상의 키워드를 포함하는지 아니면 객체 관리 프로세스를 나타내는 하나 이상의 키워드를 포함하는지 결정된다. 블록(2018)에서, 태스크가 검색과 연관되는지 결정된다. 블록(2020)에서, 태스크가 검색과 연관된다는 결정에 따라, 태스크를 수행하는 것이 검색 프로세스를 요구하는지 결정된다. 블록(2021)에서, 태스크를 수행하는 것이 검색 프로세스를 필요로 하지 않는다는 결정에 따라, 검색 프로세스 또는 객체 관리 프로세스를 선택하기 위한 음성 요청이 출력되고, 사용자로부터 제2 스피치 입력이 수신된다. 제2 스피치 입력은 검색 프로세스 또는 객체 관리 프로세스의 선택을 나타낸다.
블록(2022)에서, 태스크를 수행하는 것이 검색 프로세스를 필요로 하지 않는다는 결정에 따라, 사전결정된 구성에 기초하여, 태스크가 검색 프로세스를 이용하여 수행될 것인지 아니면 객체 관리 프로세스를 이용하여 수행될 것인지 결정된다.
도 20c를 참조하여, 블록(2024)에서, 태스크가 검색과 연관되지 않는다는 결정에 따라, 태스크가 적어도 하나의 객체를 관리하는 것과 연관되는지 결정된다. 블록(2025)에서, 태스크가 적어도 하나의 객체를 관리하는 것과 연관되지 않는다는 결정에 따라, 다음 중 적어도 하나가 수행된다: 태스크가 사용자 디바이스에 이용가능한 제4 프로세스를 이용하여 수행될 수 있는지 결정하기 및 사용자와 대화를 개시하기.
블록(2026)에서, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 태스크는 검색 프로세스를 이용하여 수행된다. 블록(2028)에서, 검색 프로세스를 이용하여 적어도 하나의 객체가 검색된다. 블록(2029)에서, 적어도 하나의 객체는 적어도 하나의 폴더 또는 파일을 포함한다. 블록(2030)에서, 파일은 적어도 하나의 사진, 오디오, 또는 비디오를 포함한다. 블록(2031)에서, 파일은 사용자 디바이스에 내부적으로 또는 외부적으로 저장된다. 블록(2032)에서, 적어도 하나의 폴더 또는 파일을 검색하는 것은 폴더 또는 파일과 연관된 메타데이터에 기초한다. 블록(2034)에서, 적어도 하나의 객체는 통신을 포함한다. 블록(2035)에서, 통신은 적어도 하나의 이메일, 메시지, 통지, 또는 음성메일을 포함한다. 블록(2036)에서, 통신과 연관된 메타데이터가 검색된다.
도 20d를 참조하여, 블록(2037)에서, 적어도 하나의 객체는 적어도 하나의 연락처 또는 캘린더를 포함한다. 블록(2038)에서, 적어도 하나의 객체는 애플리케이션을 포함한다. 블록(2039)에서, 적어도 하나의 객체는 온라인 정보제공 소스를 포함한다.
블록(2040)에서, 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 태스크는 객체 관리 프로세스를 이용하여 수행된다. 블록(2042)에서, 태스크는 검색과 연관되고, 적어도 하나의 객체는 객체 관리 프로세스를 이용하여 검색된다. 블록(2043)에서, 적어도 하나의 객체는 적어도 하나의 폴더 또는 파일을 포함한다. 블록(2044)에서, 파일은 적어도 하나의 사진, 오디오, 또는 비디오를 포함한다. 블록(2045)에서, 파일은 사용자 디바이스에 내부적으로 또는 외부적으로 저장된다. 블록(2046)에서, 적어도 하나의 폴더 또는 파일을 검색하는 것은 폴더 또는 파일과 연관된 메타데이터에 기초한다.
블록(2048)에서, 객체 관리 프로세스는 즉시실행된다. 객체 관리 프로세스를 즉시실행하는 것은 객체 관리 프로세스를 호출하기, 객체 관리 프로세스의 새로운 인스턴스를 생성하기, 또는 객체 관리 프로세스의 기존 인스턴스를 실행하기를 포함한다.
도 20e를 참조하여, 블록(2049)에서, 적어도 하나의 객체가 생성된다. 블록(2050)에서, 적어도 하나의 객체가 저장된다. 블록(2051)에서, 적어도 하나의 객체가 압축된다. 블록(2052)에서, 적어도 하나의 객체는 제1 물리적 또는 가상 저장장치로부터 제2 물리적 또는 가상 저장장치로 이동된다. 블록(2053)에서, 적어도 하나의 객체는 제1 물리적 또는 가상 저장장치로부터 제2 물리적 또는 가상 저장장치로 복사된다. 블록(2054)에서, 물리적 또는 가상 저장장치에 저장된 적어도 하나의 객체는 삭제된다. 블록(2055)에서, 물리적 또는 가상 저장장치에 저장된 적어도 하나의 객체가 복구된다. 블록(2056)에서, 적어도 하나의 객체가 마킹된다. 적어도 하나의 객체의 마킹은 표시되거나 또는 적어도 하나의 객체의 메타데이터와 연관되는 것 중 적어도 하나이다. 블록(2057)에서, 적어도 하나의 객체는 백업을 위한 사전결정된 기간에 따라 백업된다. 블록(2058)에서, 적어도 하나의 객체는 사용자 디바이스에 통신가능하게 연결된 하나 이상의 전자 디바이스 사이에서 공유된다.
도 20f를 참조하여, 블록(2060)에서, 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과에 기초하여 응답이 제공된다. 블록(2061)에서, 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과를 제공하는 제1 사용자 인터페이스가 디스플레이된다. 블록(2062)에서, 검색 프로세스를 이용하여 태스크를 수행한 결과와 연관된 링크가 디스플레이된다. 블록(2063)에서, 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과에 따라 음성 출력이 제공된다.
블록(2064)에서, 사용자가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과를 조작하도록 인에이블하는 어포던스가 제공된다. 블록(2065)에서, 태스크를 수행한 결과를 이용하여 동작하는 제3 프로세스가 즉시실행된다.
도 20f를 참조하여, 블록(2066)에서, 신뢰 수준이 결정된다. 블록(2067)에서, 신뢰 수준은 제1 스피치 입력 및 사용자 디바이스와 연관된 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 정확성을 나타낸다. 블록(2068)에서, 신뢰 수준은 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하는 정확성을 나타낸다.
도 20g를 참조하여, 블록(2069)에서, 신뢰 수준은 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 정확성을 나타낸다.
블록(2070)에서, 응답은 신뢰 수준의 결정에 따라 제공된다. 블록(2071)에서, 신뢰 수준이 임계 신뢰 수준 이상인지 결정된다. 블록(2072)에서, 신뢰 수준이 임계 신뢰 수준 이상이라는 결정에 따라, 제1 응답이 제공된다. 블록(2073)에서, 신뢰 수준이 임계 신뢰 수준 미만이라는 결정에 따라, 제2 응답이 제공된다.
8. 디지털 어시스턴트를 동작시키기 위한 프로세스 - 연속성.
도 21a 내지 도 21e는 일부 실시예들에 따른 디지털 어시스턴트를 동작시키기 위한 예시적인 프로세스(2100)의 흐름도를 도시한다. 프로세스(2100)는 하나 이상의 디바이스들(104, 108, 200, 400, 600, 1400, 1500, 1600, 또는 1700)을 이용하여 수행될 수 있다(도 1, 도 2a, 도 4, 도 6a 및 도 6b, 도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 및 도 17a 내지 도 17e). 프로세스(2100)에서의 동작들은, 선택적으로, 조합 또는 분할되고 그리고/또는 일부 동작들의 순서는 선택적으로 변경된다.
도 21a를 참조하여, 블록(2102)에서, 제1 스피치 입력을 수신하기 이전에, 디지털 어시스턴트 서비스를 호출하기 위한 어포던스가 사용자 디바이스와 연관된 디스플레이 상에 디스플레이된다. 블록(2103)에서, 디지털 어시스턴트는 사전결정된 구절을 수신하는 것에 응답하여 호출된다. 블록(2104)에서, 디지털 어시스턴트는 어포던스의 선택을 수신하는 것에 응답하여 호출된다.
블록(2106)에서, 사용자로부터 태스크를 수행하기 위한 제1 스피치 입력이 수신된다. 블록(2108)에서, 사용자 디바이스와 연관된 컨텍스트 정보가 식별된다. 블록(2109)에서, 사용자 디바이스는 복수의 사용자 인터페이스를 제공하도록 구성된다. 블록(2110)에서, 사용자 디바이스는 랩톱 컴퓨터, 데스크톱 컴퓨터, 또는 서버를 포함한다. 블록(2112)에서, 컨텍스트 정보는 다음 중 적어도 하나를 포함한다: 사용자 특정 데이터, 하나 이상의 객체와 연관된 메타데이터, 센서 데이터, 및 사용자 디바이스 구성 데이터.
블록(2114)에서, 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도가 결정된다. 블록(2115)에서, 사용자 의도를 결정하기 위하여, 하나 이상의 행동가능한 의도가 결정된다. 블록(2116)에서, 행동가능한 의도와 연관된 하나 이상의 파라미터가 결정된다.
도 21b를 참조하여, 블록(2118)에서, 사용자 의도에 따라, 태스크가 사용자 디바이스에서 수행될 것인지 아니면 사용자 디바이스에 통신가능하게 연결된 제1 전자 디바이스에서 수행될 것인지 결정된다. 블록(2120)에서, 제1 전자 디바이스는 랩톱 컴퓨터, 데스크톱 컴퓨터, 서버, 스마트폰, 태블릿, 셋톱 박스, 또는 시계를 포함한다. 블록(2121)에서, 태스크가 사용자 디바이스에서 수행될 것인지 아니면 제1 전자 디바이스에서 수행될 것인지 결정하는 것은 스피치 입력에 포함된 하나 이상의 키워드에 기초한다. 블록(2122)에서, 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정된다. 블록(2123)에서, 수행 기준은 하나 이상의 사용자 선호도에 기초하여 결정된다. 블록(2124)에서, 수행 기준은 디바이스 구성 데이터에 기초하여 결정된다. 블록(2125)에서, 수행 기준은 역동적으로 업데이트된다. 블록(2126)에서, 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족한다는 결정에 따라, 태스크는 사용자 디바이스에서 수행될 것이라고 결정된다.
도 21c를 참조하여, 블록(2128)에서, 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하지 않는다는 결정에 따라, 제1 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정된다. 블록(2130)에서, 제1 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족한다는 결정에 따라, 태스크가 제1 전자 디바이스에서 수행될 것이라고 결정된다. 블록(2132)에서, 제1 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하지 않는다는 결정에 따라, 제2 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정된다.
블록(2134)에서, 태스크가 사용자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 태스크를 수행하기 위한 콘텐츠가 수신된다. 블록(2135)에서, 콘텐츠의 적어도 일부분이 제1 전자 디바이스로부터 수신된다. 콘텐츠의 적어도 일부분이 제1 전자 디바이스에 저장되어 있다. 블록(2136)에서, 콘텐츠의 적어도 일부분이 제3 전자 디바이스로부터 수신된다.
도 21d를 참조하여, 블록(2138)에서, 태스크가 제1 전자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 제1 전자 디바이스와 다른 곳에 위치한다는 결정에 따라, 태스크를 수행하기 위한 콘텐츠가 제1 전자 디바이스에 제공된다. 블록(2139)에서, 콘텐츠의 적어도 일부분이 사용자 디바이스로부터 제1 전자 디바이스로 제공된다. 콘텐츠의 적어도 일부분이 사용자 디바이스에 저장된다. 블록(2140)에서, 콘텐츠의 적어도 일부분이 제4 전자 디바이스로부터 제1 전자 디바이스로 제공되게 된다. 콘텐츠의 적어도 일부분이 제4 전자 디바이스에 저장된다.
블록(2142)에서, 태스크는 사용자 디바이스에서 수행될 것이다. 수신된 콘텐츠를 이용하여 제1 응답이 사용자 디바이스에 제공된다. 블록(2144)에서, 태스크는 사용자 디바이스에서 수행될 것이다. 블록(2145)에서, 사용자 디바이스에서 태스크를 수행하는 것은 사용자 디바이스와 다른 곳에서 부분적으로 수행된 태스크의 연속이다. 블록(2146)에서, 수행될 태스크와 연관된 제1 사용자 인터페이스가 사용자 디바이스에서 디스플레이된다. 블록(2148)에서, 태스크와 연관된 링크가 사용자 디바이스에서 수행될 것이다. 블록(2150)에서, 수행될 태스크에 따른 음성 출력이 사용자 디바이스에서 제공된다.
도 21e를 참조하여, 블록(2152)에서, 태스크가 제1 전자 디바이스에서 수행될 것이고, 제2 응답이 사용자 디바이스에서 제공된다. 블록(2154)에서, 태스크는 제1 전자 디바이스에서 수행될 것이다. 블록(2156)에서, 제1 전자 디바이스에서 수행될 태스크는 제1 전자 디바이스와 다른 곳에서 수행된 태스크의 연속이다. 블록(2158)에서, 수행될 태스크에 따른 음성 출력이 제1 전자 디바이스에서 제공된다. 블록(2160)에서, 수행될 태스크에 따른 음성 출력이 제1 전자 디바이스에서 제공된다.
9. 디지털 어시스턴트를 동작시키기 위한 프로세스 - 시스템 구성 관리.
도 22a 내지 도 22d는 일부 실시예들에 따른 디지털 어시스턴트를 동작시키기 위한 예시적인 프로세스(2200)의 흐름도를 도시한다. 프로세스(2200)는 하나 이상의 디바이스들(104, 108, 200, 400, 600, 또는 1800)(도 1, 도 2a, 도 4, 도 6a 및 도 6b, 및 도 18c 및 도 18d)을 이용하여 수행될 수 있다. 프로세스(2200)에서의 동작들은, 선택적으로, 조합 또는 분할되고 그리고/또는 일부 동작들의 순서는 선택적으로 변경된다.
도 22a를 참조하여, 블록(2202)에서, 스피치 입력을 수신하기 이전에, 디지털 어시스턴트 서비스를 호출하기 위한 어포던스가 사용자 디바이스와 연관된 디스플레이 상에 디스플레이된다. 블록(2203)에서, 디지털 어시스턴트는 사전결정된 구절을 수신하는 것에 응답하여 호출된다. 블록(2204)에서, 디지털 어시스턴트는 어포던스의 선택을 수신하는 것에 응답하여 호출된다.
블록(2206)에서, 사용자 디바이스의 하나 이상의 시스템 구성을 관리하기 위한 스피치 입력이 사용자로부터 수신된다. 사용자 디바이스는 복수의 사용자 인터페이스를 동시에 제공하도록 구성된다. 블록(2207)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 오디오 구성들을 포함한다. 블록(2208)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 날짜 및 시간 구성들을 포함한다. 블록(2209)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 구술 구성들을 포함한다. 블록(2210)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 디스플레이 구성들을 포함한다. 블록(2211)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 입력 디바이스 구성들을 포함한다. 블록(2212)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 네트워크 구성들을 포함한다. 블록(2213)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 통지 구성들을 포함한다.
도 22b를 참조하여, 블록(2214)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 프린터 구성들을 포함한다. 블록(2215)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 보안 구성들을 포함한다. 블록(2216)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 백업 구성들을 포함한다. 블록(2217)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 애플리케이션 구성들을 포함한다. 블록(2218)에서, 사용자 디바이스의 하나 이상의 시스템 구성은 사용자 인터페이스 구성들을 포함한다.
블록(2220)에서, 사용자 디바이스와 연관된 컨텍스트 정보가 식별된다. 블록(2223)에서, 컨텍스트 정보는 다음 중 적어도 하나를 포함한다: 사용자 특정 데이터, 디바이스 구성 데이터, 및 센서 데이터. 블록(2224)에서, 사용자 의도는 스피치 입력 및 컨텍스트 정보에 기초하여 결정된다. 블록(2225)에서, 하나 이상의 행동가능한 의도가 결정된다. 블록(2226)에서, 행동가능한 의도와 연관된 하나 이상의 파라미터가 결정된다.
도 22c를 참조하여, 블록(2228)에서, 사용자 의도가 정보제공 요청을 나타내는지 아니면 태스크를 수행하기 위한 요청을 나타내는지 결정된다. 블록(2229)에서, 사용자 의도가 시스템 구성을 변경하는 것인지 결정된다.
블록(2230)에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 음성 응답이 정보제공 요청에 제공된다. 블록(2231)에서, 정보제공 요청에 따라 하나 이상의 시스템 구성의 상태가 획득된다. 블록(2232)에서, 하나 이상의 시스템 구성의 상태에 따라 음성 응답이 제공된다.
블록(2234)에서, 정보제공 요청에 대한 음성 응답을 제공하는 것에 추가하여, 하나 이상의 시스템 구성의 상태에 따라 정보를 제공하기 위한 제1 사용자 인터페이스가 디스플레이된다. 블록(2236)에서, 정보제공 요청에 대한 음성 응답을 제공하는 것에 추가하여, 정보제공 요청과 연관된 링크가 제공된다.
블록(2238)에서, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 태스크를 수행하기 위하여 사용자 디바이스와 연관된 프로세스가 즉시실행된다. 블록(2239)에서, 태스크는 프로세스를 이용하여 수행된다. 블록(2240)에서, 태스크를 수행한 결과에 따라 제1 음성 출력이 제공된다.
도 22d를 참조하여, 블록(2242)에서, 사용자가 태스크를 수행한 결과를 조작하도록 인에이블하는 제2 사용자 인터페이스가 제공된다. 블록(2244)에서, 제2 사용자 인터페이스는 태스크를 수행한 결과와 연관된 링크를 포함한다.
블록(2246)에서, 사용자가 태스크를 수행하도록 인에이블하는 제3 사용자 인터페이스가 제공된다. 블록(2248)에서, 제3 사용자 인터페이스는 사용자가 태스크를 수행하도록 인에이블하는 링크를 포함한다. 블록(2250)에서, 제3 사용자 인터페이스와 연관된 제2 음성 출력이 제공된다.
10. 전자 디바이스 - 지능형 검색 및 객체 관리
도 23은 도 8a 내지 도 8f, 도 9a 내지 도 9h, 도 10a 및 도 10b, 도 11a 내지 도 11f, 도 12a 내지 도 12d, 도 13a 내지 도 13c, 도 14a 내지 도 14d, 도 15a 내지 도 15d, 도 16a 내지 도 16c, 도 17a 내지 도 17e, 도 18a 내지 도 18f, 및 도 19a 내지 도 19d를 참조하여 기술된 것들을 포함하는, 다양한 기술된 예들의 원리들에 따라 구성된 전자 디바이스(2300)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 옵션적으로, 다양한 기술된 예들의 원리들을 수행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 다양하게 기술된 예들의 원리들을 구현하기 위해 도 23에서 기술된 기능 블록들이 옵션적으로 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에 의해 이해된다. 따라서, 본 명세서의 설명은, 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합, 분리 또는 추가 정의를 지원한다.
도 23에 도시된 바와 같이, 전자 디바이스(2300)는 마이크로폰(2302) 및 프로세싱 유닛(2308)을 포함할 수 있다. 일부 예들에서, 프로세싱 유닛(2308)은 수신 유닛(2310), 식별 유닛(2312), 결정 유닛(2314), 수행 유닛(2316), 제공 유닛(2318), 즉시실행 유닛(2320), 디스플레이 유닛(2322), 출력 유닛(2324), 개시 유닛(2326), 검색 유닛(2328), 생성 유닛(2330), 실행 유닛(2332), 창조 유닛(2334), 즉시실행 유닛(2335), 저장 유닛(2336), 압축 유닛(2338), 복사 유닛(2340), 삭제 유닛(2342), 복구 유닛(2344), 마킹 유닛(2346), 백업 유닛(2348), 공유 유닛(2350), 사역 유닛(2352), 및 획득 유닛(2354)을 포함한다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 수신 유닛(2310)을 이용하여) 사용자로부터 제1 스피치 입력을 수신하고; (예컨대, 식별 유닛(2312)을 이용하여) 사용자 디바이스와 연관된 컨텍스트 정보를 식별하고; (예컨대, 결정 유닛(2314)을 이용하여) 제1 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하도록 구성된다. 검색 프로세스는 사용자 디바이스에 내부적으로 또는 외부적으로 저장된 데이터를 검색하도록 구성되고, 객체 관리 프로세스는 사용자 디바이스와 연관된 객체들을 관리하도록 구성된다.
일부 예들에서, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 수행 유닛(2316)을 이용하여) 검색 프로세스를 이용하여 태스크를 수행하도록 구성된다. 일부 예들에서, 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 수행 유닛(2316)을 이용하여) 객체 관리 프로세스를 이용하여 태스크를 수행하도록 구성된다.
일부 예들에서, 제1 스피치 입력을 수신하기 이전에, 프로세싱 유닛(2308)은 (예컨대, 디스플레이 유닛(2322)을 이용하여), 사용자 디바이스와 연관된 디스플레이 상에, 디지털 어시스턴트 서비스를 호출하기 위한 어포던스를 디스플레이하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 호출 유닛(2320)을 이용하여) 사전결정된 구절을 수신하는 것에 응답하여 디지털 어시스턴트를 호출하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 호출 유닛(2320)을 이용하여) 어포던스의 선택을 수신하는 것에 응답하여 디지털 어시스턴트를 호출하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 하나 이상의 행동가능한 의도를 결정하고; (예컨대, 결정 유닛(2314)을 이용하여) 행동가능한 의도와 연관된 하나 이상의 파라미터를 결정하도록 구성된다.
일부 예들에서, 컨텍스트 정보는 다음 중 적어도 하나를 포함한다: 사용자 특정 데이터, 하나 이상의 객체와 연관된 메타데이터, 센서 데이터, 및 사용자 디바이스 구성 데이터.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 스피치 입력이 검색 프로세스를 나타내는 하나 이상의 키워드를 포함하는지 아니면 객체 관리 프로세스를 나타내는 하나 이상의 키워드를 포함하는지 결정하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 태스크가 검색과 연관되는지 결정하도록 구성된다. 태스크가 검색과 연관된다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 태스크를 수행하는 것이 검색 프로세스를 필요로 하는지 결정하고; 태스크가 검색과 연관되지 않는다는 결정에 따라, (예컨대, 결정 유닛(2314)을 이용하여) 태스크가 적어도 하나의 객체를 관리하는 것과 연관되는지 결정하도록 구성된다.
일부 예들에서, 태스크는 검색과 연관되고, 태스크를 수행하는 것이 검색 프로세스를 필요로 하지 않는다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 출력 유닛(2324)을 이용하여) 검색 프로세스 또는 객체 관리 프로세스를 선택하기 위한 음성 요청을 출력하고, (예컨대, 수신 유닛(2310)을 이용하여), 사용자로부터, 검색 프로세스 또는 객체 관리 프로세스의 선택을 나타내는 제2 스피치 입력을 수신하도록 구성된다.
일부 예들에서, 태스크는 검색과 연관되고, 태스크를 수행하는 것이 검색 프로세스를 필요로 하지 않는다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여), 사전결정된 구성에 기초하여, 태스크가 검색 프로세스를 이용하여 수행될 것인지 아니면 객체 관리 프로세스를 이용하여 수행될 것인지 결정하도록 구성된다.
일부 예들에서, 태스크는 검색과 연관되지 않고, 태스크는 적어도 하나의 객체를 관리하는 것과 연관되지 않는다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 수행 유닛(2316)을 이용하여) 다음 중 적어도 하나를 수행하도록 구성된다: (예컨대, 결정 유닛(2314)을 이용하여) 태스크가 사용자 디바이스에 이용가능한 제4 프로세스를 이용하여 수행될 수 있는지 결정하기; 및 (예컨대, 개시 유닛(2326)을 이용하여) 사용자와 대화를 개시하기.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 검색 유닛(2328)을 이용하여) 검색 프로세스를 이용하여 적어도 하나의 객체를 검색하도록 구성된다.
일부 예들에서, 적어도 하나의 객체는 적어도 하나의 폴더 또는 파일을 포함한다. 파일은 적어도 하나의 사진, 오디오, 또는 비디오를 포함한다. 파일은 사용자 디바이스에 내부적으로 또는 외부적으로 저장된다.
일부 예들에서, 적어도 하나의 폴더 또는 파일을 검색하는 것은 폴더 또는 파일과 연관된 메타데이터에 기초한다.
일부 예들에서, 적어도 하나의 객체는 통신을 포함한다. 통신은 적어도 하나의 이메일, 메시지, 통지, 또는 음성메일을 포함한다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 검색 유닛(2328)을 이용하여) 통신과 연관된 메타데이터를 검색하도록 구성된다.
일부 예들에서, 적어도 하나의 객체는 연락처 또는 캘린더 중 적어도 하나를 포함한다.
일부 예들에서, 적어도 하나의 객체는 애플리케이션을 포함한다.
일부 예들에서, 적어도 하나의 객체는 온라인 정보제공 소스를 포함한다.
일부 예들에서, 태스크는 검색과 연관되고, 프로세싱 유닛(2308)은 (예컨대, 검색 유닛(2328)을 이용하여) 객체 관리 프로세스를 이용하여 적어도 하나의 객체를 검색하도록 구성된다.
일부 예들에서, 적어도 하나의 객체는 적어도 하나의 폴더 또는 파일을 포함한다. 파일은 적어도 하나의 사진, 오디오, 또는 비디오를 포함한다. 파일은 사용자 디바이스에 내부적으로 또는 외부적으로 저장된다.
일부 예들에서, 적어도 하나의 폴더 또는 파일을 검색하는 것은 폴더 또는 파일과 연관된 메타데이터에 기초한다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 즉시실행 유닛(2335)을 이용하여) 객체 관리 프로세스를 즉시실행하도록 구성된다. 객체 관리 프로세스를 즉시실행하는 것은 객체 관리 프로세스를 호출하기, 객체 관리 프로세스의 새로운 인스턴스를 생성하기, 또는 객체 관리 프로세스의 기존 인스턴스를 실행하기를 포함한다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 창조 유닛(2334)을 이용하여) 적어도 하나의 객체를 생성하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 저장 유닛(2336)을 이용하여) 적어도 하나의 객체를 저장하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 압축 유닛(2338)을 이용하여) 적어도 하나의 객체를 압축하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 이동 유닛(2339)을 이용하여) 적어도 하나의 객체를 제1 물리적 또는 가상 저장장치로부터 제2 물리적 또는 가상 저장장치로 이동하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 복사 유닛(2340)을 이용하여) 적어도 하나의 객체를 제1 물리적 또는 가상 저장장치로부터 제2 물리적 또는 가상 저장장치로 복사하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 삭제 유닛(2342)을 이용하여) 물리적 또는 가상 저장장치에 저장된 적어도 하나의 객체를 삭제하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 복구 유닛(2344)을 이용하여) 물리적 또는 가상 저장장치에 저장된 적어도 하나의 객체를 복구하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 마킹 유닛(2346)을 이용하여) 적어도 하나의 객체를 마킹하도록 구성된다. 적어도 하나의 객체의 마킹은 표시되거나 또는 적어도 하나의 객체의 메타데이터와 연관되는 것 중 적어도 하나이다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 백업 유닛(2348)을 이용하여) 백업을 위한 사전결정된 기간에 따라 적어도 하나의 객체를 백업하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 공유 유닛(2350)을 이용하여) 사용자 디바이스에 통신가능하게 연결된 하나 이상의 전자 디바이스 사이에 적어도 하나의 객체를 공유하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과에 기초하여 응답을 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 디스플레이 유닛(2322)을 이용하여) 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과를 제공하는 제1 사용자 인터페이스를 디스플레이하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 검색 프로세스를 이용하여 태스크를 수행한 결과와 연관된 링크를 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과에 따른 음성 출력을 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 사용자가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행한 결과를 조작하도록 인에이블하는 어포던스를 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 즉시실행 유닛(2335)을 이용하여) 태스크를 수행한 결과를 이용하여 동작하는 제3 프로세스를 즉시실행하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 신뢰 수준을 결정하고; (예컨대, 제공 유닛(2318)을 이용하여) 신뢰 수준의 결정에 따른 응답을 제공하도록 구성된다.
일부 예들에서, 신뢰 수준은 제1 스피치 입력 및 사용자 디바이스와 연관된 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 정확성을 나타낸다.
일부 예들에서, 신뢰 수준은 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것인지 아니면 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하는 정확성을 나타낸다.
일부 예들에서, 신뢰 수준은 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 정확성을 나타낸다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 신뢰 수준이 임계 신뢰 수준 이상인지 결정하도록 구성된다. 신뢰 수준이 임계 신뢰 수준 이상이라는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 제1 응답을 제공하도록 구성되고; 신뢰 수준이 임계 신뢰 수준 미만이라는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 제2 응답을 제공하도록 구성된다.
11. 전자 디바이스 - 연속성
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 수신 유닛(2310)을 이용하여) 사용자로부터 태스크를 수행하기 위한 스피치 입력을 수신하고; (예컨대, 식별 유닛(2312)을 이용하여) 사용자 디바이스와 연관된 컨텍스트 정보를 식별하고; (예컨대, 결정 유닛(2314)을 이용하여) 스피치 입력 및 사용자 디바이스와 연관된 컨텍스트 정보에 기초하여 사용자 의도를 결정하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은, 사용자 의도에 따라, (예컨대, 결정 유닛(2314)을 이용하여) 태스크가 사용자 디바이스에서 수행될 것인지 아니면 사용자 디바이스에 통신가능하게 연결된 제1 전자 디바이스에서 수행될 것인지 결정하도록 구성된다.
일부 예들에서, 태스크가 사용자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 수신 유닛(2310)을 이용하여) 태스크를 수행하기 위한 콘텐츠를 수신하도록 구성된다.
일부 예들에서, 태스크가 제1 전자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 제1 전자 디바이스와 다른 곳에 위치한다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 태스크를 수행하기 위한 콘텐츠를 제1 전자 디바이스에 제공하도록 구성된다.
일부 예들에서, 사용자 디바이스는 복수의 사용자 인터페이스를 제공하도록 구성된다.
일부 예들에서, 사용자 디바이스는 랩톱 컴퓨터, 데스크톱 컴퓨터, 또는 서버를 포함한다.
일부 예들에서, 제1 전자 디바이스는 랩톱 컴퓨터, 데스크톱 컴퓨터, 서버, 스마트폰, 태블릿, 셋톱 박스, 또는 시계를 포함한다.
일부 예들에서, 프로세싱 유닛(2308)은, 스피치 입력을 수신하기 이전에, (예컨대, 디스플레이 유닛(2322)을 이용하여), 사용자 디바이스의 디스플레이 상에, 디지털 어시스턴트를 호출하기 위한 어포던스를 디스플레이하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 호출 유닛(2320)을 이용하여) 사전결정된 구절을 수신하는 것에 응답하여 디지털 어시스턴트를 호출하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 호출 유닛(2320)을 이용하여) 어포던스의 선택을 수신하는 것에 응답하여 디지털 어시스턴트를 호출하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 하나 이상의 행동가능한 의도를 결정하고; (예컨대, 결정 유닛(2314)을 이용하여) 행동가능한 의도와 연관된 하나 이상의 파라미터를 결정하도록 구성된다.
일부 예들에서, 컨텍스트 정보는 다음 중 적어도 하나를 포함한다: 사용자 특정 데이터, 센서 데이터, 및 사용자 디바이스 구성 데이터.
일부 예들에서, 태스크가 사용자 디바이스에서 수행될 것인지 아니면 제1 전자 디바이스에서 수행될 것인지 결정하는 것은 스피치 입력에 포함된 하나 이상의 키워드에 기초한다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정하도록 구성된다.
일부 예들에서, 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족한다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 태스크가 사용자 디바이스에서 수행될 것이라고 결정하도록 구성된다.
일부 예들에서, 사용자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하지 않는다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 제1 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정하도록 구성된다.
일부 예들에서, 제1 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족한다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 결정(2314)을 이용하여) 태스크가 제1 전자 디바이스에서 수행될 것이라고 결정하도록 구성된다.
일부 예들에서, 제1 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하지 않는다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 제2 전자 디바이스에서 태스크를 수행하는 것이 수행 기준을 충족하는지 결정하도록 구성된다.
일부 예들에서, 수행 기준은 하나 이상의 사용자 선호도에 기초하여 결정된다.
일부 예들에서, 수행 기준은 디바이스 구성 데이터에 기초하여 결정된다.
일부 예들에서, 수행 기준은 역동적으로 업데이트된다.
일부 예들에서, 태스크가 사용자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 수신 유닛(2310)을 이용하여) 콘텐츠의 적어도 일부분을 제1 전자 디바이스로부터 수신하도록 구성되고, 콘텐츠의 적어도 일부분은 제1 전자 디바이스에 저장되어 있다.
일부 예들에서, 태스크가 사용자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 다른 곳에 위치한다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 수신 유닛(2310)을 이용하여) 콘텐츠의 적어도 일부분을 제3 전자 디바이스로부터 수신하도록 구성된다.
일부 예들에서, 태스크가 제1 전자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 제1 전자 디바이스와 다른 곳에 위치한다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 콘텐츠의 적어도 일부분을 사용자 디바이스로부터 제1 전자 디바이스로 제공하도록 구성되며, 콘텐츠의 적어도 일부분은 사용자 디바이스에 저장되어 있다.
일부 예들에서, 태스크가 제1 전자 디바이스에서 수행될 것이고 태스크를 수행하기 위한 콘텐츠가 제1 전자 디바이스와 다른 곳에 위치한다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 사역 유닛(2352)을 이용하여) 콘텐츠의 적어도 일부분으로 하여금 제4 전자 디바이스로부터 제1 전자 디바이스로 제공되게 하도록 구성된다. 콘텐츠의 적어도 일부분이 제4 전자 디바이스에 저장된다.
일부 예들에서, 태스크는 사용자 디바이스에서 수행될 것이고, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 사용자 디바이스에서 수신된 콘텐츠를 이용하여 제1 응답을 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 수행 유닛(2316)을 이용하여) 사용자 디바이스에서 태스크를 수행하도록 구성된다.
일부 예들에서, 사용자 디바이스에서 태스크를 수행하는 것은 사용자 디바이스와 다른 곳에서 부분적으로 수행된 태스크의 연속이다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 디스플레이 유닛(2322)을 이용하여) 사용자 디바이스에서 수행될 태스크와 연관된 제1 사용자 인터페이스를 디스플레이하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 사용자 디바이스에서 수행될 태스크와 연관된 링크를 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 사용자 디바이스에서 수행될 태스크에 따른 음성 출력을 제공하도록 구성된다.
일부 예들에서, 태스크가 제1 전자 디바이스에서 수행될 것이고, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 사용자 디바이스에서 제2 응답을 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 사역 유닛(2352)을 이용하여) 제1 전자 디바이스에서 태스크가 수행되게 하도록 구성된다.
일부 예들에서, 제1 전자 디바이스에서 수행될 태스크는 제1 전자 디바이스와 다른 곳에서 수행된 태스크의 연속이다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 제1 전자 디바이스에서 수행될 태스크에 따른 음성 출력을 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 사용자가 태스크의 수행을 위한 다른 전자 디바이스를 선택하도록 인에이블하는 어포던스를 제공하도록 구성된다.
12. 전자 디바이스 - 시스템 구성 관리
일부 예들에서, 프로세싱 유닛(2308)은 사용자 디바이스의 하나 이상의 시스템 구성을 관리하기 위한 스피치 입력을 사용자로부터 수신하도록 (예컨대, 수신 유닛(2310)을 이용하여) 구성된다. 사용자 디바이스는 복수의 사용자 인터페이스를 동시에 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 식별 유닛(2312)을 이용하여) 사용자 디바이스와 연관된 컨텍스트 정보를 식별하고; (예컨대, 결정 유닛(2314)을 이용하여) 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 사용자 의도가 정보제공 요청을 나타내는지 아니면 태스크를 수행하기 위한 요청을 나타내는지 결정하도록 구성된다.
일부 예들에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 정보제공 요청에 대한 음성 응답을 제공하도록 구성된다.
일부 예들에서, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 즉시실행 유닛(2335)을 이용하여) 태스크를 수행하기 위하여 사용자 디바이스와 연관된 프로세스를 즉시실행하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은, 스피치 입력을 수신하기 이전에, (예컨대, 디스플레이 유닛(2322)을 이용하여), 사용자 디바이스의 디스플레이 상에, 디지털 어시스턴트를 호출하기 위한 어포던스를 디스플레이하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 호출 유닛(2320)을 이용하여) 사전결정된 구절을 수신하는 것에 응답하여 디지털 어시스턴트 서비스를 호출하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 호출 유닛(2320)을 이용하여) 어포던스의 선택을 수신하는 것에 응답하여 디지털 어시스턴트 서비스를 호출하도록 구성된다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 오디오 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 날짜 및 시간 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 구술 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 디스플레이 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 입력 디바이스 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 네트워크 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 통지 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 프린터 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 보안 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 백업 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 애플리케이션 구성들을 포함한다.
일부 예들에서, 사용자 디바이스의 하나 이상의 시스템 구성은 사용자 인터페이스 구성들을 포함한다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 하나 이상의 행동가능한 의도를 결정하고; (예컨대, 결정 유닛(2314)을 이용하여) 행동가능한 의도와 연관된 하나 이상의 파라미터를 결정하도록 구성된다.
일부 예들에서, 컨텍스트 정보는 다음 중 적어도 하나를 포함한다: 사용자 특정 데이터, 디바이스 구성 데이터, 및 센서 데이터.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 결정 유닛(2314)을 이용하여) 사용자 의도가 시스템 구성을 변경하는 것인지 결정하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 획득 유닛(2354)을 이용하여) 정보제공 요청에 따른 하나 이상의 시스템 구성의 상태를 획득하고; (예컨대, 제공 유닛(2318)을 이용하여) 하나 이상의 시스템 구성의 상태에 따른 음성 응답을 제공하도록 구성된다.
일부 예들에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 프로세싱 유닛(2308)은, 정보제공 요청에 대한 음성 응답을 제공하는 것에 추가하여, (예컨대, 디스플레이 유닛(2322)을 이용하여) 하나 이상의 시스템 구성의 상태에 따른 정보를 제공하는 제1 사용자 인터페이스를 디스플레이하도록 구성된다.
일부 예들에서, 사용자 의도가 정보제공 요청을 나타낸다는 결정에 따라, 프로세싱 유닛(2308)은, 정보제공 요청에 대한 음성 응답을 제공하는 것에 추가하여, (예컨대, 제공 유닛(2318)을 이용하여) 정보제공 요청과 연관된 링크를 제공하도록 구성된다.
일부 예들에서, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 수행 유닛(2316)을 이용하여) 프로세스를 이용하여 태스크를 수행하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 태스크를 수행한 결과에 따른 제1 음성 출력을 제공하도록 구성된다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 사용자가 태스크를 수행한 결과를 조작하도록 인에이블하는 제2 사용자 인터페이스를 제공하도록 구성된다.
일부 예들에서, 제2 사용자 인터페이스는 태스크를 수행한 결과와 연관된 링크를 포함한다.
일부 예들에서, 사용자 의도가 태스크를 수행하기 위한 요청을 나타낸다는 결정에 따라, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 사용자가 태스크를 수행하도록 인에이블하는 제3 사용자 인터페이스를 제공하도록 구성된다.
일부 예들에서, 제3 사용자 인터페이스는 사용자가 태스크를 수행하도록 인에이블하는 링크를 포함한다.
일부 예들에서, 프로세싱 유닛(2308)은 (예컨대, 제공 유닛(2318)을 이용하여) 제3 사용자 인터페이스와 연관된 제2 음성 출력을 제공하도록 구성된다.
도 23에 관해 전술된 동작은, 선택적으로, 도 1, 도 2a, 도 4, 도 6a 및 도 6b, 또는 도 7a 및 도 7b에 도시된 컴포넌트들에 의해 구현된다. 예를 들어, 수신 동작(2310), 식별 동작(2312), 결정 동작(2314), 수행 동작(2316), 및 제공 동작(2318)은 프로세서(들)(220)에 의해 선택적으로 구현된다. 다른 프로세스들이 도 1, 도 2a, 도 4, 도 6a 및 도 6b, 또는 도 7a 및 도 7b에 도시된 컴포넌트들에 기초하여 어떻게 구현될 수 있는지는 당업자에게 자명할 것이다.
당업자라면 도 12에 기술된 기능 블록들이, 선택적으로, 다양하게 기술된 실시예들의 원리들을 구현하기 위해 조합되거나 하위 블록들로 분리될 수 있음을 알 것이다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다. 예를 들어, 프로세싱 유닛(2308)은, 동작을 가능하게 하도록 프로세싱 유닛(2308)과 동작가능하게 결합되는 연관된 "제어기" 유닛을 가질 수 있다. 이러한 제어기 유닛은 도 23에 별도로 도시되지 않지만, 디바이스(2300)와 같은, 프로세싱 유닛(2308)을 갖는 디바이스를 설계하는 당업자의 이해 범위 내에 있음을 알 것이다. 다른 예로서, 수신 유닛(2310)과 같은 하나 이상의 유닛들은, 일부 실시예들에서 프로세싱 유닛(2308)의 외부에 있는 하드웨어 유닛들일 수 있다. 따라서, 본 명세서의 설명은 선택적으로 본 명세서에 기술된 기능 블록들의 조합, 분리, 및/또는 추가 정의를 지원한다.
전술한 설명은, 설명의 목적을 위해, 특정 실시예들을 참조하여 기술되었다. 그러나, 상기의 예시적인 논의들은 본 발명을 개시된 정확한 형태들로 규명하거나 제한하려는 의도는 아니다. 많은 수정들 및 변형들이 상기 교시 내용들의 관점에서 가능하다. 실시예들은 기술들의 원리 및 그것들의 실제적인 응용을 가장 잘 설명하기 위하여 선택되고 기술되었다. 따라서, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들은 고려된 특정 사용에 적합한 바와 같이 다양한 수정을 이용하여 기술들 및 다양한 실시예들을 최상으로 활용하는 것이 가능하게 된다.
본 개시내용 및 예들이 첨부의 도면들을 참조하여 충분히 설명되었지만, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 다양한 변경들 및 수정들이 명백할 것이라는 것에 주목하여야 한다. 그러한 변경들 및 수정들은 청구항들에 의해 정의되는 바와 같은 개시내용 및 예들의 범주 내에 포함되는 것으로 이해되어야 한다.
[청구범위]
[청구항 1]
전자 디바이스로서,
하나 이상의 프로세서; 메모리; 및
메모리에 저장된 하나 이상의 프로그램을 포함하고, 상기 하나 이상의 프로그램은:
사용자로부터 제1 스피치 입력을 수신하고;
상기 사용자 디바이스와 연관된 컨텍스트 정보를 식별하고;
상기 제1 스피치 입력 및 상기 컨텍스트 정보에 기초하여 사용자 의도를 결정하고; 상기 사용자 의도가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하고 -
상기 검색 프로세스는 상기 사용자 디바이스에 내부적으로 또는 외부적으로 저장된 데이터를 검색하도록 구성되고, 상기 객체 관리 프로세스는 상기 사용자 디바이스와 연관된 객체들을 관리하도록 구성됨 -;
상기 사용자 의도가 상기 검색 프로세스를 이용하여 상기 태스크를 수행하는 것이라는 결정에 따라, 상기 검색 프로세스를 이용하여 상기 태스크를 수행하고;
상기 사용자 의도가 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것이라는 상기 결정에 따라, 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하기 위한 명령어들을 포함하는, 전자 디바이스.
[청구항 2]
제1항에 있어서, 상기 제1 스피치 입력을 수신하기 이전에:
사전결정된 구절을 수신하는 것에 응답하여 상기 디지털 어시스턴트를 호출하거나, 또는 어포던스의 선택을 수신하는 것에 응답하여 상기 디지털 어시스턴트를 호출하는 것을 추가로 포함하는, 전자 디바이스.
[청구항 3]
제1항에 있어서, 상기 사용자 의도를 결정하는 것은: 하나 이상의 행동가능한 의도를 결정하는 것; 및
행동가능한 의도와 연관된 하나 이상의 파라미터를 결정하는 것을 포함하는, 전자 디바이스.
[청구항 4]
제1항에 있어서, 상기 컨텍스트 정보는 사용자 특정 데이터, 하나 이상의 객체와 연관된 메타데이터, 센서 데이터, 및 사용자 디바이스 구성 데이터 중 적어도 하나를 포함하는, 전자 디바이스.
[청구항 5]
제1항에 있어서, 상기 사용자 의도가 상기 검색 프로세스를 이용하여 상기 태스크를 수행하는 것인지 아니면 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것인지 결정하는 것은:
상기 스피치 입력이 상기 검색 프로세스를 나타내는 하나 이상의 키워드를 포함하는지 아니면 상기 객체 관리 프로세스를 나타내는 하나 이상의 키워드를 포함하는지 결정하는 것을 포함하는, 전자 디바이스.
[청구항 6]
제1항에 있어서, 상기 사용자 의도가 상기 검색 프로세스를 이용하여 상기 태스크를 수행하는 것인지 아니면 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것인지 결정하는 것은:
상기 태스크가 검색과 연관되는지 결정하는 것;
상기 태스크가 검색과 연관된다는 결정에 따라, 상기 태스크를 수행하는 것이 상기 검색 프로세스를 필요로 하는지 결정하는 것; 및
상기 태스크가 검색과 연관되지 않는다는 결정에 따라, 상기 태스크가 적어도 하나의 객체를 관리하는 것과 연관되는지 결정하는 것을 포함하는, 전자 디바이스.
[청구항 7]
제6항에 있어서, 상기 태스크는 검색과 연관되고,
상기 태스크를 수행하는 것이 상기 검색 프로세스를 필요로 하지 않는다는 결정에 따라,
상기 검색 프로세스 또는 상기 객체 관리 프로세스를 선택하기 위한 음성 요청을 출력하는 것, 및
상기 사용자로부터, 상기 검색 프로세스 또는 상기 객체 관리 프로세스의 상기 선택을 나타내는 제2 스피치 입력을 수신하는 것을 추가로 포함하는, 전자 디바이스.
[청구항 8]
제6항에 있어서, 상기 태스크는 검색과 연관되고,
상기 태스크를 수행하는 것이 상기 검색 프로세스를 필요로 하지 않는다는 결정에 따라, 사전결정된 구성에 기초하여, 상기 태스크가 상기 검색 프로세스를 이용하여 수행될 것인지 아니면 상기 객체 관리 프로세스를 이용하여 수행될 것인지 결정하는 것을 추가로 포함하는, 전자 디바이스.
[청구항 9]
제6항에 있어서, 상기 태스크는 검색과 연관되지 않고,
상기 태스크가 상기 적어도 하나의 객체를 관리하는 것과 연관되지 않는다는 결정에 따라:
상기 태스크가 상기 사용자 디바이스에 이용가능한 제4 프로세스를 이용하여 수행될 수 있는지 결정하는 것; 및
상기 사용자와 대화를 개시하는 것 중 적어도 하나를 수행하는 것을 추가로 포함하는, 전자 디바이스.
[청구항 10]
제1항에 있어서, 상기 검색 프로세스를 이용하여 상기 태스크를 수행하는 것은:
상기 검색 프로세스를 이용하여 적어도 하나의 객체를 검색하는 것을 포함하는, 전자 디바이스.
[청구항 11]
제10항에 있어서, 상기 적어도 하나의 객체는: 폴더, 파일, 통신, 연락처, 캘린더, 애플리케이션, 및 온라인 정보제공 소스 중 적어도 하나를 포함하는, 전자 디바이스.
[청구항 12]
제11항에 있어서, 상기 파일은 적어도 하나의 사진, 오디오, 또는 비디오를 포함하고; 상기 파일은 상기 사용자 디바이스에 내부적으로 또는 외부적으로 저장되고; 적어도 하나의 상기 폴더 또는 상기 파일을 검색하는 것은 상기 폴더 또는 상기 파일과 연관된 메타데이터에 기초하는, 전자 디바이스.
[청구항 13]
제11항에 있어서, 상기 통신은 적어도 하나의 이메일, 메시지, 통지, 또는 음성메일을 포함하는, 전자 디바이스.
[청구항 14]
제11항에 있어서, 상기 통신과 연관된 메타데이터를 검색하는 것을 추가로 포함하는, 전자 디바이스.
[청구항 15]
제1항에 있어서, 상기 태스크는 검색과 연관되고, 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것은:
상기 객체 관리 프로세스를 이용하여 상기 적어도 하나의 객체를 검색하는 것을 포함하는, 전자 디바이스.
[청구항 16]
제15항에 있어서, 상기 적어도 하나의 객체는 적어도 하나의 폴더 또는 파일을 포함하는, 전자 디바이스.
[청구항 17]
제16항에 있어서, 상기 파일은 적어도 하나의 사진, 오디오, 또는 비디오를 포함하고; 상기 파일은 상기 사용자 디바이스에 내부적으로 또는 외부적으로 저장되고; 적어도 하나의 상기 폴더 또는 상기 파일을 검색하는 것은 상기 폴더 또는 상기 파일과 연관된 메타데이터에 기초하는, 전자 디바이스.
[청구항 18]
제1항에 있어서, 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것은 상기 객체 관리 프로세스를 즉시실행하는 것을 포함하고, 상기 객체 관리 프로세스를 즉시실행하는 것은 상기 객체 관리 프로세스를 호출하는 것, 상기 객체 관리 프로세스의 새로운 인스턴스를 생성하는 것, 또는 상기 객체 관리 프로세스의 기존 인스턴스를 실행하는 것을 포함하는, 전자 디바이스.
[청구항 19]
제1항에 있어서, 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것은:
상기 적어도 하나의 객체를 생성하는 것; 상기 적어도 하나의 객체를 저장하는 것; 상기 적어도 하나의 객체를 압축하는 것;
상기 적어도 하나의 객체를 제1 물리적 또는 가상 저장장치로부터 제2 물리적 또는 가상 저장장치로 이동하는 것;
상기 적어도 하나의 객체를 제1 물리적 또는 가상 저장장치로부터 제2 물리적 또는 가상 저장장치로 복사하는 것;
물리적 또는 가상 저장장치에 저장된 상기 적어도 하나의 객체를 삭제하는 것;
물리적 또는 가상 저장장치에 저장된 적어도 하나의 객체를 복구하는 것;
상기 적어도 하나의 객체를 마킹하는 것 - 상기 적어도 하나의 객체를 마킹하는 것은
상기 적어도 하나의 객체의 메타데이터를 보여주거나 또는 이와 연관되는 것 중 적어도 하나임 -;
백업을 위한 사전결정된 기간에 따라 상기 적어도 하나의 객체를 백업하는 것; 및
상기 사용자 디바이스에 통신가능하게 연결된 하나 이상의 전자 디바이스 사이에 상기 적어도 하나의 객체를 공유하는 것 중 적어도 하나를 포함하는, 전자 디바이스.
[청구항 20]
제1항에 있어서, 상기 검색 프로세스 또는 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행한 결과에 기초하여 응답을 제공하는 것을 추가로 포함하는, 전자 디바이스.
[청구항 21]
제20항에 있어서, 상기 검색 프로세스 또는 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행한 상기 결과에 기초하여 상기 응답을 제공하는 것은:
상기 검색 프로세스 또는 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행한 상기 결과를 제공하는 제1 사용자 인터페이스를 디스플레이하는 것;
상기 검색 프로세스를 이용하여 상기 태스크를 수행한 상기 결과와 연관된 링크를 제공하는 것;
상기 검색 프로세스 또는 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행한 상기 결과에 따른 음성 출력을 제공하는 것;
상기 사용자가 상기 검색 프로세스 또는 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행한 상기 결과를 조작하도록 인에이블하는 어포던스를 제공하는 것; 및
상기 태스크를 수행한 상기 결과를 이용하여 동작하는 제3 프로세스를 즉시실행하는 것 중 적어도 하나를 포함하는, 전자 디바이스.
[청구항 22]
제20항에 있어서, 검색 프로세스 또는 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행한 상기 결과에 기초하여 상기 응답을 제공하는 것은:
신뢰 수준을 결정하는 것; 및
상기 신뢰 수준의 상기 결정에 따른 상기 응답을 제공하는 것을 포함하는, 전자 디바이스.
[청구항 23]
제22항에 있어서, 상기 신뢰 수준은: 상기 제1 스피치 입력 및 상기 사용자 디바이스와 연관된 컨텍스트에 기초하여 상기 사용자 의도를 결정하는 상기 정확성;
상기 사용자 의도가 상기 검색 프로세스를 이용하여 상기 태스크를 수행하는 것인지 아니면 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것인지 결정하는 상기 정확성; 및
상기 검색 프로세스 또는 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 상기 정확성
중 적어도 하나를 나타내는, 전자 디바이스.
[청구항 24]
제22항에 있어서, 상기 신뢰 수준의 상기 결정에 따른 상기 응답을 제공하는 것은:
상기 신뢰 수준이 임계 신뢰 수준 이상인지 결정하는 것;
상기 신뢰 수준이 상기 임계 신뢰 수준 이상이라는 결정에 따라, 제1 응답을 제공하는 것; 및
상기 신뢰 수준이 임계 신뢰 수준 미만이라는 결정에 따라, 제2 응답을 제공하는 것을 포함하는, 전자 디바이스.
[청구항 25]
하나 이상의 프로그램을 저장하는 비일시적인 컴퓨터 판독가능 저장 매체로서, 상기 하나 이상의 프로그램은, 전자 디바이스의 하나 이상의 프로세서에 의해 실행될 때, 상기 전자 디바이스로 하여금:
사용자로부터 제1 스피치 입력을 수신하고;
상기 사용자 디바이스와 연관된 컨텍스트 정보를 식별하고;
상기 제1 스피치 입력 및 상기 컨텍스트 정보에 기초하여 사용자 의도를 결정하고; 상기 사용자 의도가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하고 - 상기 검색 프로세스는 상기 사용자 디바이스에 내부적으로 또는 외부적으로 저장된 데이터를 검색하도록 구성되고, 상기 객체 관리 프로세스는 상기 사용자 디바이스와 연관된 객체들을 관리하도록 구성됨 -;
상기 사용자 의도가 상기 검색 프로세스를 이용하여 상기 태스크를 수행하는 것이라는 결정에 따라, 상기 검색 프로세스를 이용하여 상기 태스크를 수행하고;
상기 사용자 의도가 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것이라는 상기 결정에 따라, 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하게 하는 명령어들을 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
[청구항 26]
디지털 어시스턴트 서비스를 제공하기 위한 방법으로서, 사용자로부터 제1 스피치 입력을 수신하는 단계;
상기 사용자 디바이스와 연관된 컨텍스트 정보를 식별하는 단계;
상기 제1 스피치 입력 및 상기 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 단계; 상기 사용자 의도가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하는 단계 - 상기 검색 프로세스는 상기 사용자 디바이스에 내부적으로 또는 외부적으로 저장된 데이터를 검색하도록 구성되고, 상기 객체 관리 프로세스는 상기 사용자 디바이스와 연관된 객체들을 관리하도록 구성됨 -;
상기 사용자 의도가 상기 검색 프로세스를 이용하여 상기 태스크를 수행하는 것이라는 결정에 따라, 상기 검색 프로세스를 이용하여 상기 태스크를 수행하는 단계; 및
상기 사용자 의도가 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 것이라는 상기 결정에 따라, 상기 객체 관리 프로세스를 이용하여 상기 태스크를 수행하는 단계를 포함하는, 방법.
[요약서]
[요약]
디지털 어시스턴트를 동작시키기 위한 시스템들 및 프로세스들이 제공된다. 일 예에서, 방법은 사용자로부터 제1 스피치 입력을 수신하는 단계를 포함한다. 방법은 컨텍스트 정보를 식별하는 단계 및 제1 스피치 입력 및 컨텍스트 정보에 기초하여 사용자 의도를 결정하는 단계를 추가로 포함한다. 방법은 사용자 의도가 검색 프로세스 또는 객체 관리 프로세스를 이용하여 태스크를 수행하는 것인지 결정하는 단계를 추가로 포함한다. 검색 프로세스는 데이터를 검색하도록 구성되고, 객체 관리 프로세스는 객체들을 관리하도록 구성된다. 방법은, 사용자 의도가 검색 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 검색 프로세스를 이용하여 태스크를 수행하는 단계; 및 사용자 의도가 객체 관리 프로세스를 이용하여 태스크를 수행하는 것이라는 결정에 따라, 객체 관리 프로세스를 이용하여 태스크를 수행하는 단계를 추가로 포함한다.
[도면]
[도 1]
[도 2a]
[도 2b]
[도 3]
[도 4]
[도 5a]
[도 5b]
[도 6a]
[도 6b]
[도 7a]
[도 7b]
[도 7c]
[도 8a]
[도 8b]
[도 8c]
[도 8d]
[도 8e]
[도 8f]
[도 9a]
[도 9b]
[도 9c]
[도 9d]
[도 9e]
[도 9f]
[도 9g]
[도 9h]
[도 10a]
[도 10b]
[도 11a]
[도 11b]
[도 11c]
[도 11d]
[도 12a]
[도 12b]
[도 12c]
[도 12d]
[도 13a]
[도 13b]
[도 13c]
[도 14a]
[도 14b]
[도 14c]
[도 14d]
[도 15a]
[도 15b]
[도 15c]
[도 15d]
[도 16a]
[도 16b]
[도 16c]
[도 17a]
[도 17b]
[도 17c]
[도 17d]
[도 17e]
[도 18a]
[도 18b]
[도 18c]
[도 18d]
[도 18e]
[도 18f]
[도 19a]
[도 19b]
[도 19c]
[도 19d]
[도 20a]
[도 20b]
[도 20c]
[도 20d]
[도 20e]
[도 20f]
[도 20g]
[도 21a]
[도 21b]
[도 21c]
[도 21d]
[도 21e]
[도 22a]
[도 22b]
[도 22c]
[도 22d]
[도 23]
Claims (20)
- 디지털 어시스턴트 서비스를 제공하기 위한 방법으로서,
하나 이상의 프로세서 및 메모리를 갖는 제1 전자 디바이스에서 - 상기 제1 전자 디바이스는 복수의 사용자의 신원들에 기초하여 상기 복수의 사용자에 대한 스피치 기반 디지털 어시스턴트 서비스들을 확장하도록 구성되고, 상기 스피치 기반 디지털 어시스턴트 서비스는 상기 제1 전자 디바이스와 다른 하나 이상의 전자 디바이스에 의해 제공됨 -:
제1 사용자와 연관된 이벤트의 통지를 수신하는 단계;
상기 통지를 수신하는 것에 응답하여, 상기 통지의 표시를 출력하는 단계;
하나 이상의 스피치 입력을 수신하는 단계;
상기 하나 이상의 스피치 입력에 따라,
상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자의 신원을 획득하는 단계;
상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자의 상기 신원에 기초하여 그리고 상기 통지에 기초하여, 상기 통지가 상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자에게 제공되어야 하는지를 결정하는 단계; 및
상기 통지가 상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 사용자에게 제공되어야 한다는 결정에 따라, 상기 통지가 상기 제1 전자 디바이스 또는 다른 전자 디바이스에서 제공되어야 하는지를 결정하는 단계; 및
상기 통지가 상기 제1 전자 디바이스에 제공되어야 한다는 결정에 따라, 상기 제1 전자 디바이스에 상기 통지를 제공하는 단계
를 포함하는 방법. - 제1항에 있어서, 상기 이벤트의 상기 통지는 착신 통화, 리마인더, 메시지, 음성 메일 또는 뉴스 알림 중 적어도 하나의 표현을 포함하는 방법.
- 제1항에 있어서, 상기 이벤트의 상기 통지를 수신하는 단계는 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나로부터 상기 통지를 수신하는 단계를 포함하는 방법.
- 제1항에 있어서, 상기 통지의 표시를 출력하는 단계는 상기 제1 전자 디바이스 또는 상기 제1 전자 디바이스에 통신가능하게 결합된 추가적인 전자 디바이스들 중 하나에 의해 상기 통지의 상기 표시를 출력하는 단계를 포함하는 방법.
- 제1항에 있어서, 상기 하나 이상의 스피치 입력을 수신하는 단계는,
상기 통지에 관한 제1 스피치 입력을 수신하는 단계;
상기 이벤트의 상기 통지에 따라 응답을 출력하는 단계; 및
제2 스피치 입력을 수신하는 단계
를 포함하는 방법. - 제1항에 있어서,
상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자의 상기 신원을 획득하는 단계는:
상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자와 연관된 인증 데이터를 획득하는 단계; 및
상기 인증 데이터에 기초하여 상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자의 상기 신원의 결정을 획득하는 단계
를 포함하는 방법. - 제6항에 있어서, 상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자의 상기 신원의 상기 결정을 획득하는 단계는:
상기 인증 데이터를 제2 전자 디바이스 및 제3 전자 디바이스 중 적어도 하나에 제공하는 단계; 및
상기 제2 전자 디바이스 및 상기 제3 전자 디바이스 중 적어도 하나로부터 상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자의 상기 신원을 수신하는 단계
를 포함하고, 상기 하나 이상의 스피치 입력 중 적어도 하나를 제공하는 상기 사용자의 상기 신원은 상기 인증 데이터에 기초하여 결정되는 방법. - 제1항에 있어서, 상기 제1 전자 디바이스에 상기 통지를 제공하는 단계는 상기 제1 전자 디바이스에 상기 통지와 연관된 오디오 출력을 제공하는 단계를 포함하는 방법.
- 제1항에 있어서, 상기 통지가 상기 제1 전자 디바이스에 제공되지 않아야 한다는 결정에 따라, 상기 통지를 제공할 추가적인 전자 디바이스를 결정하는 단계를 더 포함하는 방법.
- 제9항에 있어서, 상기 통지를 제공할 상기 추가적인 전자 디바이스를 결정하는 단계는 상기 하나 이상의 스피치 입력에 기초하는 방법.
- 제9항에 있어서, 상기 통지를 제공할 상기 추가적인 전자 디바이스를 결정하는 단계는 컨텍스트 정보에 기초하는 방법.
- 제1항에 있어서, 상기 통지를 수신하기 전에, 상기 제1 전자 디바이스와 제2 전자 디바이스 또는 제3 전자 디바이스 중 적어도 하나 사이의 접속을 확립하는 단계를 더 포함하는 방법.
- 제12항에 있어서, 상기 접속을 확립하는 단계는 상기 제1 전자 디바이스와 상기 제3 전자 디바이스 사이의 근거리 통신에 기초하는 방법.
- 제12항에 있어서, 상기 접속을 확립하는 단계는 상기 제3 전자 디바이스가 상기 제1 전자 디바이스로부터 미리 결정된 거리 내에 있는 것을 검출하는 것에 기초하는 방법.
- 제12항에 있어서, 상기 접속을 확립하는 단계는 상기 제1 전자 디바이스와 상기 제3 전자 디바이스 사이의 이전에 확립된 접속에 기초하는 방법.
- 제12항에 있어서,
상기 제1 전자 디바이스와 상기 제3 전자 디바이스 사이의 접속을 확립하는 단계 - 상기 제3 전자 디바이스는 상기 제1 사용자와 연관됨 -; 및
상기 제1 전자 디바이스와 제4 전자 디바이스 사이의 접속을 확립하는 단계
를 포함하고, 상기 제4 전자 디바이스는 제2 사용자와 연관되는 방법. - 제12항에 있어서, 상기 제1 전자 디바이스와 상기 제3 전자 디바이스 사이의 접속을 확립한 후에, 상기 제2 전자 디바이스에 상기 확립된 접속을 통지하는 단계를 더 포함하는 방법.
- 제1항에 있어서, 상기 제1 전자 디바이스와 하나 이상의 추가적인 전자 디바이스 사이의 하나 이상의 접속을 확립하는 단계를 더 포함하고, 상기 하나 이상의 추가적인 전자 디바이스는 상기 제1 전자 디바이스와 동일한 유형의 디바이스인 방법.
- 제1 전자 디바이스로서,
하나 이상의 프로세서;
메모리; 및
메모리에 저장된 하나 이상의 프로그램
을 포함하고, 상기 하나 이상의 프로그램은 제1항 내지 제18항 중 어느 한 항의 방법을 수행하기 위한 명령어들을 포함하는 제1 전자 디바이스. - 제1 전자 디바이스의 하나 이상의 프로세서에 의한 실행을 위한 하나 이상의 프로그램을 포함하는 컴퓨터 판독가능 저장 매체로서,
상기 하나 이상의 프로그램은 상기 하나 이상의 프로세서에 의해 실행될 때 상기 제1 전자 디바이스로 하여금 제1항 내지 제18항 중 어느 한 항의 방법을 수행하게 하는 명령어들을 포함하는 컴퓨터 판독가능 저장 매체.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020217022175A KR102355966B1 (ko) | 2017-05-16 | 2018-05-16 | 디지털 어시스턴트 서비스의 원거리 확장 |
Applications Claiming Priority (10)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762507151P | 2017-05-16 | 2017-05-16 | |
US62/507,151 | 2017-05-16 | ||
DKPA201770434A DK179549B1 (en) | 2017-05-16 | 2017-06-02 | FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES |
DKPA201770434 | 2017-06-02 | ||
DKPA201770435 | 2017-06-02 | ||
DKPA201770435A DK179560B1 (en) | 2017-05-16 | 2017-06-02 | FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES |
US15/679,108 US11217255B2 (en) | 2017-05-16 | 2017-08-16 | Far-field extension for digital assistant services |
US15/679,108 | 2017-08-16 | ||
KR1020187038134A KR102100742B1 (ko) | 2017-05-16 | 2018-05-16 | 디지털 어시스턴트 서비스의 원거리 확장 |
PCT/US2018/032919 WO2018213415A1 (en) | 2017-05-16 | 2018-05-16 | Far-field extension for digital assistant services |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020187038134A Division KR102100742B1 (ko) | 2017-05-16 | 2018-05-16 | 디지털 어시스턴트 서비스의 원거리 확장 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020217022175A Division KR102355966B1 (ko) | 2017-05-16 | 2018-05-16 | 디지털 어시스턴트 서비스의 원거리 확장 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20200039030A true KR20200039030A (ko) | 2020-04-14 |
KR102279647B1 KR102279647B1 (ko) | 2021-07-21 |
Family
ID=64269680
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020207010065A KR102279647B1 (ko) | 2017-05-16 | 2018-05-16 | 디지털 어시스턴트 서비스의 원거리 확장 |
Country Status (3)
Country | Link |
---|---|
US (3) | US11217255B2 (ko) |
KR (1) | KR102279647B1 (ko) |
DK (3) | DK179560B1 (ko) |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20210137873A (ko) * | 2020-05-11 | 2021-11-18 | 애플 인크. | 오디오 메시지를 위한 사용자 인터페이스 |
US11467719B2 (en) | 2021-01-31 | 2022-10-11 | Apple Inc. | User interfaces for wide angle video conference |
US11513661B2 (en) | 2014-05-31 | 2022-11-29 | Apple Inc. | Message user interfaces for capture and transmittal of media and location content |
US11513667B2 (en) | 2020-05-11 | 2022-11-29 | Apple Inc. | User interface for audio message |
US11620103B2 (en) | 2019-05-31 | 2023-04-04 | Apple Inc. | User interfaces for audio media control |
US11683408B2 (en) | 2017-05-16 | 2023-06-20 | Apple Inc. | Methods and interfaces for home media control |
US11714597B2 (en) | 2019-05-31 | 2023-08-01 | Apple Inc. | Methods and user interfaces for sharing audio |
US11743375B2 (en) | 2007-06-28 | 2023-08-29 | Apple Inc. | Portable electronic device with conversation management for incoming instant messages |
US11750734B2 (en) | 2017-05-16 | 2023-09-05 | Apple Inc. | Methods for initiating output of at least a component of a signal representative of media currently being played back by another device |
US11755273B2 (en) | 2019-05-31 | 2023-09-12 | Apple Inc. | User interfaces for audio media control |
US11770600B2 (en) | 2021-09-24 | 2023-09-26 | Apple Inc. | Wide angle video conference |
US11782598B2 (en) | 2020-09-25 | 2023-10-10 | Apple Inc. | Methods and interfaces for media control with dynamic feedback |
US11785387B2 (en) | 2019-05-31 | 2023-10-10 | Apple Inc. | User interfaces for managing controllable external devices |
US11822761B2 (en) | 2021-05-15 | 2023-11-21 | Apple Inc. | Shared-content session user interfaces |
US11824898B2 (en) | 2019-05-31 | 2023-11-21 | Apple Inc. | User interfaces for managing a local network |
US11849255B2 (en) | 2018-05-07 | 2023-12-19 | Apple Inc. | Multi-participant live communication user interface |
US11895391B2 (en) | 2018-09-28 | 2024-02-06 | Apple Inc. | Capturing and displaying images with multiple focal planes |
US11893214B2 (en) | 2021-05-15 | 2024-02-06 | Apple Inc. | Real-time communication user interface |
US11907605B2 (en) | 2021-05-15 | 2024-02-20 | Apple Inc. | Shared-content session user interfaces |
Families Citing this family (154)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8677377B2 (en) | 2005-09-08 | 2014-03-18 | Apple Inc. | Method and apparatus for building an intelligent automated assistant |
US9318108B2 (en) | 2010-01-18 | 2016-04-19 | Apple Inc. | Intelligent automated assistant |
US8977255B2 (en) | 2007-04-03 | 2015-03-10 | Apple Inc. | Method and system for operating a multi-function portable electronic device using voice-activation |
US8676904B2 (en) | 2008-10-02 | 2014-03-18 | Apple Inc. | Electronic devices with voice command and contextual data processing capabilities |
US10255566B2 (en) | 2011-06-03 | 2019-04-09 | Apple Inc. | Generating and processing task items that represent tasks to perform |
US10276170B2 (en) | 2010-01-18 | 2019-04-30 | Apple Inc. | Intelligent automated assistant |
US10417037B2 (en) | 2012-05-15 | 2019-09-17 | Apple Inc. | Systems and methods for integrating third party services with a digital assistant |
BR112015018905B1 (pt) | 2013-02-07 | 2022-02-22 | Apple Inc | Método de operação de recurso de ativação por voz, mídia de armazenamento legível por computador e dispositivo eletrônico |
US10652394B2 (en) | 2013-03-14 | 2020-05-12 | Apple Inc. | System and method for processing voicemail |
US10748529B1 (en) | 2013-03-15 | 2020-08-18 | Apple Inc. | Voice activated device for use with a voice-based digital assistant |
EP3008641A1 (en) | 2013-06-09 | 2016-04-20 | Apple Inc. | Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant |
US10176167B2 (en) | 2013-06-09 | 2019-01-08 | Apple Inc. | System and method for inferring user intent from speech inputs |
US10170123B2 (en) | 2014-05-30 | 2019-01-01 | Apple Inc. | Intelligent assistant for home automation |
CN106471570B (zh) | 2014-05-30 | 2019-10-01 | 苹果公司 | 多命令单一话语输入方法 |
US9715875B2 (en) | 2014-05-30 | 2017-07-25 | Apple Inc. | Reducing the need for manual start/end-pointing and trigger phrases |
US9338493B2 (en) | 2014-06-30 | 2016-05-10 | Apple Inc. | Intelligent automated assistant for TV user interactions |
US9721566B2 (en) | 2015-03-08 | 2017-08-01 | Apple Inc. | Competing devices responding to voice triggers |
US9886953B2 (en) | 2015-03-08 | 2018-02-06 | Apple Inc. | Virtual assistant activation |
US10460227B2 (en) | 2015-05-15 | 2019-10-29 | Apple Inc. | Virtual assistant in a communication session |
US10200824B2 (en) | 2015-05-27 | 2019-02-05 | Apple Inc. | Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device |
US9578173B2 (en) | 2015-06-05 | 2017-02-21 | Apple Inc. | Virtual assistant aided communication with 3rd party service in a communication session |
US20160378747A1 (en) | 2015-06-29 | 2016-12-29 | Apple Inc. | Virtual assistant for media playback |
US10331312B2 (en) | 2015-09-08 | 2019-06-25 | Apple Inc. | Intelligent automated assistant in a media environment |
US10740384B2 (en) | 2015-09-08 | 2020-08-11 | Apple Inc. | Intelligent automated assistant for media search and playback |
US10747498B2 (en) | 2015-09-08 | 2020-08-18 | Apple Inc. | Zero latency digital assistant |
US10671428B2 (en) | 2015-09-08 | 2020-06-02 | Apple Inc. | Distributed personal assistant |
US10691473B2 (en) | 2015-11-06 | 2020-06-23 | Apple Inc. | Intelligent automated assistant in a messaging environment |
US10956666B2 (en) | 2015-11-09 | 2021-03-23 | Apple Inc. | Unconventional virtual assistant interactions |
US10223066B2 (en) | 2015-12-23 | 2019-03-05 | Apple Inc. | Proactive assistance based on dialog communication between devices |
US9826306B2 (en) | 2016-02-22 | 2017-11-21 | Sonos, Inc. | Default playback device designation |
US10264030B2 (en) | 2016-02-22 | 2019-04-16 | Sonos, Inc. | Networked microphone device control |
US10095470B2 (en) | 2016-02-22 | 2018-10-09 | Sonos, Inc. | Audio response playback |
US11227589B2 (en) | 2016-06-06 | 2022-01-18 | Apple Inc. | Intelligent list reading |
US10586535B2 (en) | 2016-06-10 | 2020-03-10 | Apple Inc. | Intelligent digital assistant in a multi-tasking environment |
DK201670540A1 (en) | 2016-06-11 | 2018-01-08 | Apple Inc | Application integration with a digital assistant |
DK179415B1 (en) | 2016-06-11 | 2018-06-14 | Apple Inc | Intelligent device arbitration and control |
US10115400B2 (en) | 2016-08-05 | 2018-10-30 | Sonos, Inc. | Multiple voice services |
US10181323B2 (en) | 2016-10-19 | 2019-01-15 | Sonos, Inc. | Arbitration-based voice recognition |
US11204787B2 (en) | 2017-01-09 | 2021-12-21 | Apple Inc. | Application integration with a digital assistant |
US10438584B2 (en) | 2017-04-07 | 2019-10-08 | Google Llc | Multi-user virtual assistant for verbal device control |
DK201770383A1 (en) | 2017-05-09 | 2018-12-14 | Apple Inc. | USER INTERFACE FOR CORRECTING RECOGNITION ERRORS |
DK180048B1 (en) | 2017-05-11 | 2020-02-04 | Apple Inc. | MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION |
US10726832B2 (en) | 2017-05-11 | 2020-07-28 | Apple Inc. | Maintaining privacy of personal information |
DK179496B1 (en) | 2017-05-12 | 2019-01-15 | Apple Inc. | USER-SPECIFIC Acoustic Models |
DK201770427A1 (en) | 2017-05-12 | 2018-12-20 | Apple Inc. | LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT |
DK179745B1 (en) | 2017-05-12 | 2019-05-01 | Apple Inc. | SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT |
DK179560B1 (en) | 2017-05-16 | 2019-02-18 | Apple Inc. | FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES |
US20180336892A1 (en) | 2017-05-16 | 2018-11-22 | Apple Inc. | Detecting a trigger of a digital assistant |
US20180336275A1 (en) | 2017-05-16 | 2018-11-22 | Apple Inc. | Intelligent automated assistant for media exploration |
US10475449B2 (en) | 2017-08-07 | 2019-11-12 | Sonos, Inc. | Wake-word detection suppression |
US10546583B2 (en) * | 2017-08-30 | 2020-01-28 | Amazon Technologies, Inc. | Context-based device arbitration |
US10048930B1 (en) | 2017-09-08 | 2018-08-14 | Sonos, Inc. | Dynamic computation of system response volume |
US10366291B2 (en) | 2017-09-09 | 2019-07-30 | Google Llc | Systems, methods, and apparatus for providing image shortcuts for an assistant application |
US10867128B2 (en) * | 2017-09-12 | 2020-12-15 | Microsoft Technology Licensing, Llc | Intelligently updating a collaboration site or template |
US10482868B2 (en) | 2017-09-28 | 2019-11-19 | Sonos, Inc. | Multi-channel acoustic echo cancellation |
US10466962B2 (en) | 2017-09-29 | 2019-11-05 | Sonos, Inc. | Media playback system with voice assistance |
US10749855B2 (en) * | 2017-10-30 | 2020-08-18 | Vmware, Inc. | Securely managing digital assistants that access third-party applications |
US11514905B2 (en) * | 2017-10-30 | 2022-11-29 | Sony Corporation | Information processing apparatus and information processing method |
CN111989650A (zh) * | 2018-03-12 | 2020-11-24 | 谷歌有限责任公司 | 用于管理未完成的自动助理动作的系统、方法和装置 |
US10818288B2 (en) | 2018-03-26 | 2020-10-27 | Apple Inc. | Natural assistant interaction |
JP7313378B2 (ja) * | 2018-04-23 | 2023-07-24 | グーグル エルエルシー | ルーチンの実行中のクライアントデバイス同士の間の自動アシスタントルーチンの転送 |
JP7004833B2 (ja) | 2018-04-25 | 2022-01-21 | グーグル エルエルシー | ネットワーク化環境における遅延2要素認証 |
US11113372B2 (en) * | 2018-04-25 | 2021-09-07 | Google Llc | Delayed two-factor authentication in a networked environment |
US11145294B2 (en) | 2018-05-07 | 2021-10-12 | Apple Inc. | Intelligent automated assistant for delivering content from user experiences |
US10928918B2 (en) | 2018-05-07 | 2021-02-23 | Apple Inc. | Raise to speak |
US11175880B2 (en) | 2018-05-10 | 2021-11-16 | Sonos, Inc. | Systems and methods for voice-assisted media content selection |
US10959029B2 (en) | 2018-05-25 | 2021-03-23 | Sonos, Inc. | Determining and adapting to changes in microphone performance of playback devices |
US10892996B2 (en) | 2018-06-01 | 2021-01-12 | Apple Inc. | Variable latency device coordination |
DK180639B1 (en) | 2018-06-01 | 2021-11-04 | Apple Inc | DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT |
DK179822B1 (da) | 2018-06-01 | 2019-07-12 | Apple Inc. | Voice interaction at a primary device to access call functionality of a companion device |
US10811014B1 (en) * | 2018-06-28 | 2020-10-20 | Amazon Technologies, Inc. | Contact list reconciliation and permissioning |
US11386304B2 (en) * | 2018-08-20 | 2022-07-12 | Samsung Electronics Co., Ltd. | Electronic device and method of controlling the same |
EP3631793B1 (en) * | 2018-08-21 | 2022-03-30 | Google LLC | Dynamic and/or context-specific hot words to invoke automated assistant |
EP4343534A2 (en) * | 2018-08-23 | 2024-03-27 | Google Llc | Regulating assistant responsiveness according to characteristics of a multi-assistant environment |
WO2020056236A1 (en) * | 2018-09-14 | 2020-03-19 | Aondevices, Inc. | System architecture and embedded circuit to locate a lost portable device using voice command |
US10587430B1 (en) | 2018-09-14 | 2020-03-10 | Sonos, Inc. | Networked devices, systems, and methods for associating playback devices based on sound codes |
US11024331B2 (en) | 2018-09-21 | 2021-06-01 | Sonos, Inc. | Voice detection optimization using sound metadata |
US11010561B2 (en) | 2018-09-27 | 2021-05-18 | Apple Inc. | Sentiment prediction from textual data |
US11170166B2 (en) | 2018-09-28 | 2021-11-09 | Apple Inc. | Neural typographical error modeling via generative adversarial networks |
US11100923B2 (en) | 2018-09-28 | 2021-08-24 | Sonos, Inc. | Systems and methods for selective wake word detection using neural network models |
US11462215B2 (en) | 2018-09-28 | 2022-10-04 | Apple Inc. | Multi-modal inputs for voice commands |
US10839159B2 (en) | 2018-09-28 | 2020-11-17 | Apple Inc. | Named entity normalization in a spoken dialog system |
US11899519B2 (en) | 2018-10-23 | 2024-02-13 | Sonos, Inc. | Multiple stage network microphone device with reduced power consumption and processing load |
US11475898B2 (en) | 2018-10-26 | 2022-10-18 | Apple Inc. | Low-latency multi-speaker speech recognition |
JP7224863B2 (ja) * | 2018-11-09 | 2023-02-20 | キヤノン株式会社 | 中継サーバおよび制御方法 |
EP3861639A2 (en) * | 2018-11-12 | 2021-08-11 | Zodiac Pool Systems LLC | Sensor systems principally for swimming pools and spas |
US11159510B2 (en) | 2018-12-05 | 2021-10-26 | Bank Of America Corporation | Utilizing federated user identifiers to enable secure information sharing |
US11176230B2 (en) | 2018-12-05 | 2021-11-16 | Bank Of America Corporation | Processing authentication requests to secured information systems based on user behavior profiles |
US11113370B2 (en) | 2018-12-05 | 2021-09-07 | Bank Of America Corporation | Processing authentication requests to secured information systems using machine-learned user-account behavior profiles |
US11048793B2 (en) | 2018-12-05 | 2021-06-29 | Bank Of America Corporation | Dynamically generating activity prompts to build and refine machine learning authentication models |
US11120109B2 (en) | 2018-12-05 | 2021-09-14 | Bank Of America Corporation | Processing authentication requests to secured information systems based on machine-learned event profiles |
US11036838B2 (en) | 2018-12-05 | 2021-06-15 | Bank Of America Corporation | Processing authentication requests to secured information systems using machine-learned user-account behavior profiles |
EP3891598A4 (en) * | 2018-12-06 | 2022-08-17 | D&M Holdings, Inc. | VIRTUAL MEDIA SERVICE |
US11183183B2 (en) | 2018-12-07 | 2021-11-23 | Sonos, Inc. | Systems and methods of operating media playback systems having multiple voice assistant services |
CN109545225B (zh) * | 2018-12-07 | 2022-04-15 | 四川长虹电器股份有限公司 | 一种基于电子设备远场语音且可动态调整的蓝牙交互方法 |
US11132989B2 (en) | 2018-12-13 | 2021-09-28 | Sonos, Inc. | Networked microphone devices, systems, and methods of localized arbitration |
US11638059B2 (en) | 2019-01-04 | 2023-04-25 | Apple Inc. | Content playback on multiple devices |
WO2020153736A1 (en) | 2019-01-23 | 2020-07-30 | Samsung Electronics Co., Ltd. | Method and device for speech recognition |
CN111490915A (zh) * | 2019-01-29 | 2020-08-04 | 佛山市顺德区美的电热电器制造有限公司 | 语音控制智能家电的方法及其系统 |
US10971159B2 (en) * | 2019-02-19 | 2021-04-06 | Salesforce.Com, Inc. | Cross account access for a virtual personal assistant via voice printing |
US11194448B2 (en) | 2019-03-04 | 2021-12-07 | Samsung Electronics Co., Ltd. | Apparatus for vision and language-assisted smartphone task automation and method thereof |
US11455987B1 (en) * | 2019-03-06 | 2022-09-27 | Amazon Technologies, Inc. | Multiple skills processing |
US11348573B2 (en) | 2019-03-18 | 2022-05-31 | Apple Inc. | Multimodality in digital assistant systems |
JP7318241B2 (ja) * | 2019-03-18 | 2023-08-01 | コニカミノルタ株式会社 | 音声情報処理装置及びプログラム |
US11003419B2 (en) * | 2019-03-19 | 2021-05-11 | Spotify Ab | Refinement of voice query interpretation |
WO2020213116A1 (ja) * | 2019-04-18 | 2020-10-22 | マクセル株式会社 | 情報処理装置およびデジタルアシスタントシステム |
US11069346B2 (en) * | 2019-04-22 | 2021-07-20 | International Business Machines Corporation | Intent recognition model creation from randomized intent vector proximities |
US11120794B2 (en) | 2019-05-03 | 2021-09-14 | Sonos, Inc. | Voice assistant persistence across multiple network microphone devices |
DK201970509A1 (en) | 2019-05-06 | 2021-01-15 | Apple Inc | Spoken notifications |
US11475884B2 (en) | 2019-05-06 | 2022-10-18 | Apple Inc. | Reducing digital assistant latency when a language is incorrectly determined |
US11307752B2 (en) | 2019-05-06 | 2022-04-19 | Apple Inc. | User configurable task triggers |
US11423908B2 (en) | 2019-05-06 | 2022-08-23 | Apple Inc. | Interpreting spoken requests |
EP3888084A4 (en) * | 2019-05-16 | 2022-01-05 | Samsung Electronics Co., Ltd. | METHOD AND DEVICE FOR PROVIDING A VOICE RECOGNITION SERVICE |
US11140099B2 (en) | 2019-05-21 | 2021-10-05 | Apple Inc. | Providing message response suggestions |
DK201970511A1 (en) | 2019-05-31 | 2021-02-15 | Apple Inc | Voice identification in digital assistant systems |
DK180129B1 (en) | 2019-05-31 | 2020-06-02 | Apple Inc. | USER ACTIVITY SHORTCUT SUGGESTIONS |
US10802843B1 (en) | 2019-05-31 | 2020-10-13 | Apple Inc. | Multi-user configuration |
US11496600B2 (en) | 2019-05-31 | 2022-11-08 | Apple Inc. | Remote execution of machine-learned models |
US11289073B2 (en) | 2019-05-31 | 2022-03-29 | Apple Inc. | Device text to speech |
US11360641B2 (en) | 2019-06-01 | 2022-06-14 | Apple Inc. | Increasing the relevance of new available information |
US11227599B2 (en) | 2019-06-01 | 2022-01-18 | Apple Inc. | Methods and user interfaces for voice-based control of electronic devices |
US11509479B2 (en) | 2019-06-04 | 2022-11-22 | Vmware, Inc. | Service authentication through a voice assistant |
US11200894B2 (en) | 2019-06-12 | 2021-12-14 | Sonos, Inc. | Network microphone device with command keyword eventing |
US11867791B2 (en) | 2019-06-14 | 2024-01-09 | Lg Electronics Inc. | Artificial intelligence apparatus for determining path of user and method for the same |
US11122423B2 (en) | 2019-06-26 | 2021-09-14 | Vmware, Inc. | Proximity based authentication of a user through a voice assistant device |
KR20210015428A (ko) | 2019-08-02 | 2021-02-10 | 삼성전자주식회사 | 사용자 인터페이스를 제공하는 전자 장치 및 방법 |
KR20210031265A (ko) * | 2019-09-11 | 2021-03-19 | 삼성전자주식회사 | 전자 장치 및 그 동작방법 |
US11488406B2 (en) | 2019-09-25 | 2022-11-01 | Apple Inc. | Text detection using global geometry estimators |
WO2021066685A1 (en) * | 2019-09-30 | 2021-04-08 | Telefonaktiebolaget Lm Ericsson (Publ) | Server node, digital assistant and methods in a communications network for handling access control |
US11934741B2 (en) * | 2019-10-10 | 2024-03-19 | T-Mobile Usa, Inc. | Enhanced voice user interface experience via preview services on an external assistance channel |
US11189286B2 (en) | 2019-10-22 | 2021-11-30 | Sonos, Inc. | VAS toggle based on device orientation |
CN111124332B (zh) * | 2019-11-18 | 2024-03-01 | 北京小米移动软件有限公司 | 设备呈现内容的控制方法、控制装置及存储介质 |
US11570165B2 (en) | 2019-12-09 | 2023-01-31 | Vmware, Inc. | Single sign-on service authentication through a voice assistant |
US20210194716A1 (en) * | 2019-12-19 | 2021-06-24 | Lenovo (Singapore) Pte. Ltd. | Methods and devices to manage action of remote electronic devices |
US11200900B2 (en) * | 2019-12-20 | 2021-12-14 | Sonos, Inc. | Offline voice control |
US11830098B2 (en) | 2020-01-02 | 2023-11-28 | Vmware, Inc. | Data leak prevention using user and device contexts |
US11482231B2 (en) * | 2020-01-06 | 2022-10-25 | Vmware, Inc. | Skill redirections in a voice assistant |
US11562740B2 (en) | 2020-01-07 | 2023-01-24 | Sonos, Inc. | Voice verification for media playback |
US11830500B2 (en) * | 2020-04-01 | 2023-11-28 | Arris Enterprises Llc | System and method for digital assistant management |
US11038934B1 (en) | 2020-05-11 | 2021-06-15 | Apple Inc. | Digital assistant hardware abstraction |
US11061543B1 (en) | 2020-05-11 | 2021-07-13 | Apple Inc. | Providing relevant data items based on context |
US11755276B2 (en) | 2020-05-12 | 2023-09-12 | Apple Inc. | Reducing description length based on confidence |
US11482224B2 (en) | 2020-05-20 | 2022-10-25 | Sonos, Inc. | Command keywords with input detection windowing |
KR20220005348A (ko) | 2020-07-06 | 2022-01-13 | 삼성전자주식회사 | 인공지능 가상 비서 서비스에서의 화면 제공 방법 및 이를 지원하는 사용자 단말 장치 및 서버 |
US11490204B2 (en) | 2020-07-20 | 2022-11-01 | Apple Inc. | Multi-device audio adjustment coordination |
US11438683B2 (en) | 2020-07-21 | 2022-09-06 | Apple Inc. | User identification using headphones |
US11551674B2 (en) * | 2020-08-18 | 2023-01-10 | Bank Of America Corporation | Multi-pipeline language processing platform |
WO2022072154A1 (en) * | 2020-10-01 | 2022-04-07 | Arris Enterprises Llc | Controlling a media device to provide an improved sonic environment for the reception of a voice command |
KR20220099831A (ko) | 2021-01-07 | 2022-07-14 | 삼성전자주식회사 | 전자 장치 및 전자 장치에서 사용자 발화 처리 방법 |
US20220283826A1 (en) * | 2021-03-08 | 2022-09-08 | Lexie Systems, Inc. | Artificial intelligence (ai) system and method for automatically generating browser actions using graph neural networks |
KR20220141137A (ko) * | 2021-04-12 | 2022-10-19 | 삼성전자주식회사 | 사용자 발화를 처리하는 전자 장치, 및 그 전자 장치의 제어 방법 |
US20220343066A1 (en) * | 2021-04-15 | 2022-10-27 | Apple Inc. | Digital assistant handling of personal requests |
EP4089523A1 (en) * | 2021-05-10 | 2022-11-16 | Koninklijke Philips N.V. | Medical system and method |
US11830489B2 (en) | 2021-06-30 | 2023-11-28 | Bank Of America Corporation | System and method for speech processing based on response content |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150013631A (ko) * | 2012-05-15 | 2015-02-05 | 애플 인크. | 제3자 서비스를 디지털 어시스턴트와 통합하기 위한 시스템 및 방법 |
KR20160010523A (ko) * | 2013-06-07 | 2016-01-27 | 애플 인크. | 지능형 자동 어시스턴트 |
Family Cites Families (4853)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0505621A3 (en) | 1991-03-28 | 1993-06-02 | International Business Machines Corporation | Improved message recognition employing integrated speech and handwriting information |
KR100318330B1 (ko) | 1991-04-08 | 2002-04-22 | 가나이 쓰도무 | 감시장치 |
US10304450B2 (en) * | 2016-05-10 | 2019-05-28 | Google Llc | LED design language for visual affordance of voice user interfaces |
US6081750A (en) | 1991-12-23 | 2000-06-27 | Hoffberg; Steven Mark | Ergonomic man-machine interface incorporating adaptive pattern recognition based control system |
US5903454A (en) | 1991-12-23 | 1999-05-11 | Hoffberg; Linda Irene | Human-factored interface corporating adaptive pattern recognition based controller apparatus |
US6400996B1 (en) | 1999-02-01 | 2002-06-04 | Steven M. Hoffberg | Adaptive pattern recognition based control system and method |
US6222525B1 (en) | 1992-03-05 | 2001-04-24 | Brad A. Armstrong | Image controllers with sheet connected sensors |
EP0634042B1 (en) | 1992-03-06 | 2001-07-11 | Dragon Systems Inc. | Speech recognition system for languages with compound words |
US6055514A (en) | 1992-03-20 | 2000-04-25 | Wren; Stephen Corey | System for marketing foods and services utilizing computerized centraland remote facilities |
US5390236A (en) | 1992-03-31 | 1995-02-14 | Klausner Patent Technologies | Telephone answering device linking displayed data with recorded audio message |
JPH064093A (ja) | 1992-06-18 | 1994-01-14 | Matsushita Electric Ind Co Ltd | Hmm作成装置、hmm記憶装置、尤度計算装置及び、認識装置 |
US5758313A (en) | 1992-10-16 | 1998-05-26 | Mobile Information Systems, Inc. | Method and apparatus for tracking vehicle location |
US6092043A (en) | 1992-11-13 | 2000-07-18 | Dragon Systems, Inc. | Apparatuses and method for training and operating speech recognition systems |
US5909666A (en) | 1992-11-13 | 1999-06-01 | Dragon Systems, Inc. | Speech recognition system which creates acoustic models by concatenating acoustic models of individual words |
US8073695B1 (en) | 1992-12-09 | 2011-12-06 | Adrea, LLC | Electronic book with voice emulation features |
US7835989B1 (en) | 1992-12-09 | 2010-11-16 | Discovery Communications, Inc. | Electronic book alternative delivery systems |
US5561444A (en) | 1992-12-21 | 1996-10-01 | Apple Computer, Inc. | Method and apparatus for providing visual feedback during manipulation of text on a computer screen |
US6311157B1 (en) | 1992-12-31 | 2001-10-30 | Apple Computer, Inc. | Assigning meanings to utterances in a speech recognition system |
US6122616A (en) | 1993-01-21 | 2000-09-19 | Apple Computer, Inc. | Method and apparatus for diphone aliasing |
US6055531A (en) | 1993-03-24 | 2000-04-25 | Engate Incorporated | Down-line transcription system having context sensitive searching capability |
US6496793B1 (en) | 1993-04-21 | 2002-12-17 | Borland Software Corporation | System and methods for national language support with embedded locale-specific language driver identifiers |
DE69432199T2 (de) | 1993-05-24 | 2004-01-08 | Sun Microsystems, Inc., Mountain View | Graphische Benutzerschnittstelle mit Verfahren zur Schnittstellebildung mit fernsteuernden Einrichtungen |
US5818182A (en) | 1993-08-13 | 1998-10-06 | Apple Computer, Inc. | Removable media ejection system |
US6594688B2 (en) | 1993-10-01 | 2003-07-15 | Collaboration Properties, Inc. | Dedicated echo canceler for a workstation |
US5689641A (en) | 1993-10-01 | 1997-11-18 | Vicor, Inc. | Multimedia collaboration system arrangement for routing compressed AV signal through a participant site without decompressing the AV signal |
US6606101B1 (en) | 1993-10-25 | 2003-08-12 | Microsoft Corporation | Information pointers |
JP2813728B2 (ja) | 1993-11-01 | 1998-10-22 | インターナショナル・ビジネス・マシーンズ・コーポレイション | ズーム/パン機能付パーソナル通信機 |
US6243071B1 (en) | 1993-11-03 | 2001-06-05 | Apple Computer, Inc. | Tool set for navigating through an electronic book |
US6081782A (en) | 1993-12-29 | 2000-06-27 | Lucent Technologies Inc. | Voice command control and verification system |
US6463176B1 (en) | 1994-02-02 | 2002-10-08 | Canon Kabushiki Kaisha | Image recognition/reproduction method and apparatus |
AU684872B2 (en) | 1994-03-10 | 1998-01-08 | Cable And Wireless Plc | Communication system |
US5548507A (en) | 1994-03-14 | 1996-08-20 | International Business Machines Corporation | Language identification process using coded language words |
JPH0869470A (ja) | 1994-06-21 | 1996-03-12 | Canon Inc | 自然言語処理装置及びその方法 |
DE69533479T2 (de) | 1994-07-01 | 2005-09-22 | Palm Computing, Inc., Los Altos | Zeichensatz mit zeichen aus mehreren strichen und handschrifterkennungssystem |
US6442523B1 (en) | 1994-07-22 | 2002-08-27 | Steven H. Siegel | Method for the auditory navigation of text |
JP3359745B2 (ja) | 1994-07-29 | 2002-12-24 | シャープ株式会社 | 動画像再生装置、及び動画像記録装置 |
JP3565453B2 (ja) | 1994-08-23 | 2004-09-15 | キヤノン株式会社 | 画像入出力装置 |
GB9419388D0 (en) | 1994-09-26 | 1994-11-09 | Canon Kk | Speech analysis |
DE4440598C1 (de) | 1994-11-14 | 1996-05-23 | Siemens Ag | Durch gesprochene Worte steuerbares Hypertext-Navigationssystem, Hypertext-Dokument für dieses Navigationssystem und Verfahren zur Erzeugung eines derartigen Dokuments |
US6122482A (en) | 1995-02-22 | 2000-09-19 | Global Communications, Inc. | Satellite broadcast receiving and distribution system |
JP4112613B2 (ja) | 1995-04-12 | 2008-07-02 | ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー | 波形言語合成 |
US6070140A (en) | 1995-06-05 | 2000-05-30 | Tran; Bao Q. | Speech recognizer |
US6268859B1 (en) | 1995-06-06 | 2001-07-31 | Apple Computer, Inc. | Method and system for rendering overlapping opaque graphical objects in graphic imaging systems |
US6496182B1 (en) | 1995-06-07 | 2002-12-17 | Microsoft Corporation | Method and system for providing touch-sensitive screens for the visually impaired |
FI99072C (fi) | 1995-06-08 | 1997-09-25 | Nokia Telecommunications Oy | Menetelmä toimitusvahvistusten antamiseksi puhelinverkossa suoritetuista sanomatoimituksista |
JP3385146B2 (ja) | 1995-06-13 | 2003-03-10 | シャープ株式会社 | 会話文翻訳装置 |
DE69620399T2 (de) | 1995-06-13 | 2002-11-07 | British Telecomm | Sprachsynthese |
JPH0916598A (ja) | 1995-07-03 | 1997-01-17 | Fujitsu Ltd | エラー・パターンを用いた文字列修正システムおよび方法 |
US6038533A (en) | 1995-07-07 | 2000-03-14 | Lucent Technologies Inc. | System and method for selecting training text |
US6026388A (en) | 1995-08-16 | 2000-02-15 | Textwise, Llc | User interface and other enhancements for natural language information retrieval system and method |
JP3697748B2 (ja) | 1995-08-21 | 2005-09-21 | セイコーエプソン株式会社 | 端末、音声認識装置 |
KR19990044030A (ko) | 1995-09-02 | 1999-06-25 | 에이지마. 헨리 | 라우드스피커를 구비하는 악기 |
DE19533541C1 (de) | 1995-09-11 | 1997-03-27 | Daimler Benz Aerospace Ag | Verfahren zur automatischen Steuerung eines oder mehrerer Geräte durch Sprachkommandos oder per Sprachdialog im Echtzeitbetrieb und Vorrichtung zum Ausführen des Verfahrens |
US6173261B1 (en) | 1998-09-30 | 2001-01-09 | At&T Corp | Grammar fragment acquisition using syntactic and semantic clustering |
US5771276A (en) | 1995-10-10 | 1998-06-23 | Ast Research, Inc. | Voice templates for interactive voice mail and voice response system |
US5970457A (en) | 1995-10-25 | 1999-10-19 | Johns Hopkins University | Voice command and control medical care system |
US6560707B2 (en) | 1995-11-06 | 2003-05-06 | Xerox Corporation | Multimedia coordination system |
US6064959A (en) | 1997-03-28 | 2000-05-16 | Dragon Systems, Inc. | Error correction in speech recognition |
US5799279A (en) | 1995-11-13 | 1998-08-25 | Dragon Systems, Inc. | Continuous speech recognition of text and commands |
US6240384B1 (en) | 1995-12-04 | 2001-05-29 | Kabushiki Kaisha Toshiba | Speech synthesis method |
JPH09179719A (ja) | 1995-12-26 | 1997-07-11 | Nec Corp | 音声合成装置 |
US6067520A (en) | 1995-12-29 | 2000-05-23 | Lee And Li | System and method of recognizing continuous mandarin speech utilizing chinese hidden markou models |
US6119101A (en) | 1996-01-17 | 2000-09-12 | Personal Agents, Inc. | Intelligent agents for electronic commerce |
US6125356A (en) | 1996-01-18 | 2000-09-26 | Rosefaire Development, Ltd. | Portable sales presentation system with selective scripted seller prompts |
US6011585A (en) | 1996-01-19 | 2000-01-04 | Apple Computer, Inc. | Apparatus and method for rotating the display orientation of a captured image |
SE506034C2 (sv) | 1996-02-01 | 1997-11-03 | Ericsson Telefon Ab L M | Förfarande och anordning för förbättring av parametrar representerande brusigt tal |
US6073101A (en) | 1996-02-02 | 2000-06-06 | International Business Machines Corporation | Text independent speaker recognition for transparent command ambiguity resolution and continuous access control |
US6535610B1 (en) | 1996-02-07 | 2003-03-18 | Morgan Stanley & Co. Incorporated | Directional microphone utilizing spaced apart omni-directional microphones |
US6076088A (en) | 1996-02-09 | 2000-06-13 | Paik; Woojin | Information extraction system and method using concept relation concept (CRC) triples |
US20050182765A1 (en) | 1996-02-09 | 2005-08-18 | Technology Innovations, Llc | Techniques for controlling distribution of information from a secure domain |
FI102343B1 (fi) | 1996-02-20 | 1998-11-13 | Finland Telecom Oy | Järjestelmä ja menetelmä datan lähettämiseksi |
WO1997032299A1 (en) | 1996-02-27 | 1997-09-04 | Philips Electronics N.V. | Method and apparatus for automatic speech segmentation into phoneme-like units |
US6226533B1 (en) | 1996-02-29 | 2001-05-01 | Sony Corporation | Voice messaging transceiver message duration indicator and method |
US6069622A (en) | 1996-03-08 | 2000-05-30 | Microsoft Corporation | Method and system for generating comic panels |
JP4218982B2 (ja) | 1996-03-29 | 2009-02-04 | ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー | 音声処理 |
US5901287A (en) | 1996-04-01 | 1999-05-04 | The Sabre Group Inc. | Information aggregation and synthesization system |
US6173194B1 (en) | 1996-04-15 | 2001-01-09 | Nokia Mobile Phones Limited | Mobile terminal having improved user interface |
US6493006B1 (en) | 1996-05-10 | 2002-12-10 | Apple Computer, Inc. | Graphical user interface having contextual menus |
US6366883B1 (en) | 1996-05-15 | 2002-04-02 | Atr Interpreting Telecommunications | Concatenation of speech segments by use of a speech synthesizer |
US6556712B1 (en) | 1996-05-23 | 2003-04-29 | Apple Computer, Inc. | Methods and apparatus for handwriting recognition |
US5848386A (en) | 1996-05-28 | 1998-12-08 | Ricoh Company, Ltd. | Method and system for translating documents using different translation resources for different portions of the documents |
JP2856390B2 (ja) | 1996-07-26 | 1999-02-10 | 株式会社日立製作所 | 情報記録媒体及びそれを用いた記録再生方法 |
US5966533A (en) | 1996-06-11 | 1999-10-12 | Excite, Inc. | Method and system for dynamically synthesizing a computer program by differentially resolving atoms based on user context data |
US6952799B2 (en) | 1996-06-17 | 2005-10-04 | British Telecommunications | User interface for network browser including pre-processor for links embedded in hypermedia documents |
US6070147A (en) | 1996-07-02 | 2000-05-30 | Tecmark Services, Inc. | Customer identification and marketing analysis systems |
US6054990A (en) | 1996-07-05 | 2000-04-25 | Tran; Bao Q. | Computer system with handwriting annotation |
US6453281B1 (en) | 1996-07-30 | 2002-09-17 | Vxi Corporation | Portable audio database device with icon-based graphical user-interface |
KR100260760B1 (ko) | 1996-07-31 | 2000-07-01 | 모리 하루오 | 터치패널을 병설한 정보표시장치 |
US7113958B1 (en) | 1996-08-12 | 2006-09-26 | Battelle Memorial Institute | Three-dimensional display of document set |
US6298174B1 (en) | 1996-08-12 | 2001-10-02 | Battelle Memorial Institute | Three-dimensional display of document set |
US6216102B1 (en) | 1996-08-19 | 2001-04-10 | International Business Machines Corporation | Natural language determination using partial words |
US7191135B2 (en) | 1998-04-08 | 2007-03-13 | Symbol Technologies, Inc. | Speech recognition system and method for employing the same |
EP0922275A4 (en) | 1996-08-28 | 2002-08-21 | Via Inc | SYSTEMS AND METHODS RELATING TO A TOUCH SCREEN |
EP0829811A1 (en) | 1996-09-11 | 1998-03-18 | Nippon Telegraph And Telephone Corporation | Method and system for information retrieval |
JP3359236B2 (ja) | 1996-09-25 | 2002-12-24 | 株式会社アクセス | インターネットユニットおよびインターネットテレビ |
EP0863466A4 (en) | 1996-09-26 | 2005-07-20 | Mitsubishi Electric Corp | INTERACTIVE PROCESSOR |
US6181935B1 (en) | 1996-09-27 | 2001-01-30 | Software.Com, Inc. | Mobility extended telephone application programming interface and method of use |
JPH10105556A (ja) | 1996-09-27 | 1998-04-24 | Sharp Corp | 電子式辞書および情報表示方法 |
US6208932B1 (en) | 1996-09-30 | 2001-03-27 | Mazda Motor Corporation | Navigation apparatus |
US20020120925A1 (en) | 2000-03-28 | 2002-08-29 | Logan James D. | Audio and video program recording, editing and playback systems using metadata |
US6199076B1 (en) | 1996-10-02 | 2001-03-06 | James Logan | Audio program player including a dynamic program selection controller |
US20070026852A1 (en) | 1996-10-02 | 2007-02-01 | James Logan | Multimedia telephone system |
US5890172A (en) | 1996-10-08 | 1999-03-30 | Tenretni Dynamics, Inc. | Method and apparatus for retrieving data from a network using location identifiers |
US6622148B1 (en) | 1996-10-23 | 2003-09-16 | Viacom International Inc. | Interactive video title selection system and method |
US7051096B1 (en) | 1999-09-02 | 2006-05-23 | Citicorp Development Center, Inc. | System and method for providing global self-service financial transaction terminals with worldwide web content, centralized management, and local and remote administration |
US5950160A (en) | 1996-10-31 | 1999-09-07 | Microsoft Corporation | Method and system for displaying a variable number of alternative words during speech recognition |
US6073033A (en) | 1996-11-01 | 2000-06-06 | Telxon Corporation | Portable telephone with integrated heads-up display and data terminal functions |
EP0840396B1 (en) | 1996-11-04 | 2003-02-19 | Molex Incorporated | Electrical connector for telephone handset |
US5956667A (en) | 1996-11-08 | 1999-09-21 | Research Foundation Of State University Of New York | System and methods for frame-based augmentative communication |
US5915001A (en) | 1996-11-14 | 1999-06-22 | Vois Corporation | System and method for providing and using universally accessible voice and speech data files |
US5836771A (en) | 1996-12-02 | 1998-11-17 | Ho; Chi Fai | Learning method and system based on questioning |
US6282511B1 (en) | 1996-12-04 | 2001-08-28 | At&T | Voiced interface with hyperlinked information |
US5889888A (en) | 1996-12-05 | 1999-03-30 | 3Com Corporation | Method and apparatus for immediate response handwriting recognition system that handles multiple character sets |
US6665639B2 (en) | 1996-12-06 | 2003-12-16 | Sensory, Inc. | Speech recognition in consumer electronic products |
US6078914A (en) | 1996-12-09 | 2000-06-20 | Open Text Corporation | Natural language meta-search system and method |
JP3349905B2 (ja) | 1996-12-10 | 2002-11-25 | 松下電器産業株式会社 | 音声合成方法および装置 |
US6023676A (en) | 1996-12-12 | 2000-02-08 | Dspc Israel, Ltd. | Keyword recognition system and method |
US6157935A (en) | 1996-12-17 | 2000-12-05 | Tran; Bao Q. | Remote data access and management system |
US6177931B1 (en) | 1996-12-19 | 2001-01-23 | Index Systems, Inc. | Systems and methods for displaying and recording control interface with television programs, video, advertising information and program scheduling information |
US5932869A (en) | 1996-12-27 | 1999-08-03 | Graphic Technology, Inc. | Promotional system with magnetic stripe and visual thermo-reversible print surfaced medium |
IL119948A (en) | 1996-12-31 | 2004-09-27 | News Datacom Ltd | Voice activated communication system and program guide |
US6111562A (en) | 1997-01-06 | 2000-08-29 | Intel Corporation | System for generating an audible cue indicating the status of a display object |
US7787647B2 (en) | 1997-01-13 | 2010-08-31 | Micro Ear Technology, Inc. | Portable system for programming hearing aids |
US6108640A (en) | 1997-01-14 | 2000-08-22 | Slotznick; Benjamin | System for calculating occasion dates and converting between different calendar systems, and intelligent agent for using same |
JP3579204B2 (ja) | 1997-01-17 | 2004-10-20 | 富士通株式会社 | 文書要約装置およびその方法 |
US6684376B1 (en) | 1997-01-27 | 2004-01-27 | Unisys Corporation | Method and apparatus for selecting components within a circuit design database |
US6076051A (en) | 1997-03-07 | 2000-06-13 | Microsoft Corporation | Information retrieval utilizing semantic representation of text |
US6144377A (en) | 1997-03-11 | 2000-11-07 | Microsoft Corporation | Providing access to user interface elements of legacy application programs |
US6604124B1 (en) | 1997-03-13 | 2003-08-05 | A:\Scribes Corporation | Systems and methods for automatically managing work flow based on tracking job step completion status |
US6260013B1 (en) | 1997-03-14 | 2001-07-10 | Lernout & Hauspie Speech Products N.V. | Speech recognition system employing discriminatively trained models |
US6097391A (en) | 1997-03-31 | 2000-08-01 | Menai Corporation | Method and apparatus for graphically manipulating objects |
US6954899B1 (en) | 1997-04-14 | 2005-10-11 | Novint Technologies, Inc. | Human-computer interface including haptically controlled interactions |
US7321783B2 (en) | 1997-04-25 | 2008-01-22 | Minerva Industries, Inc. | Mobile entertainment and communication device |
US6073036A (en) | 1997-04-28 | 2000-06-06 | Nokia Mobile Phones Limited | Mobile station with touch input having automatic symbol magnification function |
US6233545B1 (en) | 1997-05-01 | 2001-05-15 | William E. Datig | Universal machine translator of arbitrary languages utilizing epistemic moments |
US6047300A (en) | 1997-05-15 | 2000-04-04 | Microsoft Corporation | System and method for automatically correcting a misspelled word |
US6226614B1 (en) | 1997-05-21 | 2001-05-01 | Nippon Telegraph And Telephone Corporation | Method and apparatus for editing/creating synthetic speech message and recording medium with the method recorded thereon |
US6026233A (en) | 1997-05-27 | 2000-02-15 | Microsoft Corporation | Method and apparatus for presenting and selecting options to modify a programming language statement |
US6803905B1 (en) | 1997-05-30 | 2004-10-12 | International Business Machines Corporation | Touch sensitive apparatus and method for improved visual feedback |
US6582342B2 (en) | 1999-01-12 | 2003-06-24 | Epm Development Systems Corporation | Audible electronic exercise monitor |
JPH113338A (ja) | 1997-06-11 | 1999-01-06 | Toshiba Corp | 多言語入力システム、多言語入力方法及び多言語入力プログラムを記録した記録媒体 |
DE69816185T2 (de) | 1997-06-12 | 2004-04-15 | Hewlett-Packard Co. (N.D.Ges.D.Staates Delaware), Palo Alto | Bildverarbeitungsverfahren und -vorrichtung |
US6415250B1 (en) | 1997-06-18 | 2002-07-02 | Novell, Inc. | System and method for identifying language using morphologically-based techniques |
US6017219A (en) | 1997-06-18 | 2000-01-25 | International Business Machines Corporation | System and method for interactive reading and language instruction |
US6138098A (en) | 1997-06-30 | 2000-10-24 | Lernout & Hauspie Speech Products N.V. | Command parsing and rewrite system |
JP3593241B2 (ja) | 1997-07-02 | 2004-11-24 | 株式会社日立製作所 | 計算機の再起動方法 |
CA2242065C (en) | 1997-07-03 | 2004-12-14 | Henry C.A. Hyde-Thomson | Unified messaging system with automatic language identification for text-to-speech conversion |
US6587404B1 (en) | 1997-07-09 | 2003-07-01 | Advanced Audio Devices, Llc | Optical storage device capable of recording a set of sound tracks on a compact disc |
CA2796908C (en) | 1997-07-09 | 2014-01-28 | Advanced Audio Devices, Llc | Device for editing and non-volatile optical storage of digital audio |
JP3224760B2 (ja) | 1997-07-10 | 2001-11-05 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 音声メールシステム、音声合成装置およびこれらの方法 |
US20020138254A1 (en) | 1997-07-18 | 2002-09-26 | Takehiko Isaka | Method and apparatus for processing speech signals |
US5933822A (en) | 1997-07-22 | 1999-08-03 | Microsoft Corporation | Apparatus and methods for an information retrieval system that employs natural language processing of search results to improve overall precision |
US6356864B1 (en) | 1997-07-25 | 2002-03-12 | University Technology Corporation | Methods for analysis and evaluation of the semantic content of a writing based on vector length |
WO1999006804A1 (fr) | 1997-07-31 | 1999-02-11 | Kyoyu Corporation | Systeme de commande vocale au moyen de faisceau laser |
US6904110B2 (en) | 1997-07-31 | 2005-06-07 | Francois Trans | Channel equalization system and method |
JPH1153384A (ja) | 1997-08-05 | 1999-02-26 | Mitsubishi Electric Corp | キーワード抽出装置及びキーワード抽出方法並びにキーワード抽出プログラムを格納したコンピュータ読み取り可能な記録媒体 |
US6073091A (en) | 1997-08-06 | 2000-06-06 | International Business Machines Corporation | Apparatus and method for forming a filtered inflected language model for automatic speech recognition |
JP3516328B2 (ja) | 1997-08-22 | 2004-04-05 | 株式会社日立製作所 | 情報通信端末装置 |
US6081774A (en) | 1997-08-22 | 2000-06-27 | Novell, Inc. | Natural language information retrieval system and method |
US7385359B2 (en) | 1997-08-26 | 2008-06-10 | Philips Solid-State Lighting Solutions, Inc. | Information systems |
US5974412A (en) | 1997-09-24 | 1999-10-26 | Sapient Health Network | Intelligent query system for automatically indexing information in a database and automatically categorizing users |
US6404876B1 (en) | 1997-09-25 | 2002-06-11 | Gte Intelligent Network Services Incorporated | System and method for voice activated dialing and routing under open access network control |
US7046813B1 (en) | 1997-09-25 | 2006-05-16 | Fumio Denda | Auditory sense training method and sound processing method for auditory sense training |
KR100552085B1 (ko) | 1997-09-25 | 2006-02-20 | 테직 커뮤니케이션 인코포레이티드 | 감소된 키보드 명확화 시스템 |
US6115040A (en) | 1997-09-26 | 2000-09-05 | Mci Communications Corporation | Graphical user interface for Web enabled applications |
US6023684A (en) | 1997-10-01 | 2000-02-08 | Security First Technologies, Inc. | Three tier financial transaction system with cache memory |
US6876947B1 (en) | 1997-10-02 | 2005-04-05 | Fitsense Technology, Inc. | Monitoring activity of a user in locomotion on foot |
US6298314B1 (en) | 1997-10-02 | 2001-10-02 | Personal Electronic Devices, Inc. | Detecting the starting and stopping of movement of a person on foot |
US6163769A (en) | 1997-10-02 | 2000-12-19 | Microsoft Corporation | Text-to-speech using clustered context-dependent phoneme-based units |
US6018705A (en) | 1997-10-02 | 2000-01-25 | Personal Electronic Devices, Inc. | Measuring foot contact time and foot loft time of a person in locomotion |
US6336365B1 (en) | 1999-08-24 | 2002-01-08 | Personal Electronic Devices, Inc. | Low-cost accelerometer |
US6611789B1 (en) | 1997-10-02 | 2003-08-26 | Personal Electric Devices, Inc. | Monitoring activity of a user in locomotion on foot |
US6122340A (en) | 1998-10-01 | 2000-09-19 | Personal Electronic Devices, Inc. | Detachable foot mount for electronic device |
US6493652B1 (en) | 1997-10-02 | 2002-12-10 | Personal Electronic Devices, Inc. | Monitoring activity of a user in locomotion on foot |
US6882955B1 (en) | 1997-10-02 | 2005-04-19 | Fitsense Technology, Inc. | Monitoring activity of a user in locomotion on foot |
US6560903B1 (en) | 2000-03-07 | 2003-05-13 | Personal Electronic Devices, Inc. | Ambulatory foot pod |
US6385662B1 (en) | 1997-10-03 | 2002-05-07 | Ericsson Inc. | Method of processing information using a personal communication assistant |
JP2001509285A (ja) | 1997-10-07 | 2001-07-10 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 話者依存及び話者非依存音声認識を用いた多局ネットワークの音声制御された機能を作動する方法及び装置 |
JP2001507482A (ja) | 1997-10-08 | 2001-06-05 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 語彙及び/又は言語モデルのトレーニング |
US7027568B1 (en) | 1997-10-10 | 2006-04-11 | Verizon Services Corp. | Personal message service with enhanced text to speech synthesis |
KR100238189B1 (ko) | 1997-10-16 | 2000-01-15 | 윤종용 | 다중 언어 tts장치 및 다중 언어 tts 처리 방법 |
US6035336A (en) | 1997-10-17 | 2000-03-07 | International Business Machines Corporation | Audio ticker system and method for presenting push information including pre-recorded audio |
EP0980574B1 (en) | 1997-10-20 | 2004-03-10 | Koninklijke Philips Electronics N.V. | Pattern recognition enrolment in a distributed system |
US6304846B1 (en) | 1997-10-22 | 2001-10-16 | Texas Instruments Incorporated | Singing voice synthesis |
US6266098B1 (en) | 1997-10-22 | 2001-07-24 | Matsushita Electric Corporation Of America | Function presentation and selection using a rotatable function menu |
EP0911808B1 (en) | 1997-10-23 | 2002-05-08 | Sony International (Europe) GmbH | Speech interface in a home network environment |
GB2330670B (en) | 1997-10-24 | 2002-09-11 | Sony Uk Ltd | Data processing |
US6108627A (en) | 1997-10-31 | 2000-08-22 | Nortel Networks Corporation | Automatic transcription tool |
US6230322B1 (en) | 1997-11-05 | 2001-05-08 | Sony Corporation | Music channel graphical user interface |
US6182028B1 (en) | 1997-11-07 | 2001-01-30 | Motorola, Inc. | Method, device and system for part-of-speech disambiguation |
KR100287366B1 (ko) | 1997-11-24 | 2001-04-16 | 윤순조 | 엠피이지 방식을 이용한 휴대용 음향 재생장치 및 방법 |
US6310610B1 (en) | 1997-12-04 | 2001-10-30 | Nortel Networks Limited | Intelligent touch display |
US6047255A (en) | 1997-12-04 | 2000-04-04 | Nortel Networks Corporation | Method and system for producing speech signals |
US6026375A (en) | 1997-12-05 | 2000-02-15 | Nortel Networks Corporation | Method and apparatus for processing orders from customers in a mobile environment |
US6151574A (en) | 1997-12-05 | 2000-11-21 | Lucent Technologies Inc. | Technique for adaptation of hidden markov models for speech recognition |
US6163809A (en) | 1997-12-08 | 2000-12-19 | Microsoft Corporation | System and method for preserving delivery status notification when moving from a native network to a foreign network |
US6219641B1 (en) | 1997-12-09 | 2001-04-17 | Michael V. Socaciu | System and method of transmitting speech at low line rates |
KR980004126A (ko) | 1997-12-16 | 1998-03-30 | 양승택 | 다국어 웹 문서 검색을 위한 질의어 변환 장치 및 방법 |
US6347315B1 (en) | 1997-12-12 | 2002-02-12 | Canon Kabushiki Kaisha | Method and apparatus for selecting and utilizing one of computers or databases |
US6983138B1 (en) | 1997-12-12 | 2006-01-03 | Richard J. Helferich | User interface for message access |
US6295541B1 (en) | 1997-12-16 | 2001-09-25 | Starfish Software, Inc. | System and methods for synchronizing two or more datasets |
US6064963A (en) | 1997-12-17 | 2000-05-16 | Opus Telecom, L.L.C. | Automatic key word or phrase speech recognition for the corrections industry |
US6064960A (en) | 1997-12-18 | 2000-05-16 | Apple Computer, Inc. | Method and apparatus for improved duration modeling of phonemes |
US6061646A (en) | 1997-12-18 | 2000-05-09 | International Business Machines Corp. | Kiosk for multiple spoken languages |
US6094649A (en) | 1997-12-22 | 2000-07-25 | Partnet, Inc. | Keyword searches of structured databases |
US6310400B1 (en) | 1997-12-29 | 2001-10-30 | Intel Corporation | Apparatus for capacitively coupling electronic devices |
US6188986B1 (en) | 1998-01-02 | 2001-02-13 | Vos Systems, Inc. | Voice activated switch method and apparatus |
US6116907A (en) | 1998-01-13 | 2000-09-12 | Sorenson Vision, Inc. | System and method for encoding and retrieving visual signals |
US6064767A (en) | 1998-01-16 | 2000-05-16 | Regents Of The University Of California | Automatic language identification by stroke geometry analysis |
JP3216084B2 (ja) | 1998-01-19 | 2001-10-09 | 株式会社ネットワークコミュニティクリエイション | チャット画面表示方法 |
US20020002039A1 (en) | 1998-06-12 | 2002-01-03 | Safi Qureshey | Network-enabled audio device |
US6411924B1 (en) | 1998-01-23 | 2002-06-25 | Novell, Inc. | System and method for linguistic filter and interactive display |
US20060033724A1 (en) | 2004-07-30 | 2006-02-16 | Apple Computer, Inc. | Virtual input device placement on a touch screen user interface |
US7840912B2 (en) | 2006-01-30 | 2010-11-23 | Apple Inc. | Multi-touch gesture dictionary |
EP1717681B1 (en) | 1998-01-26 | 2015-04-29 | Apple Inc. | Method for integrating manual input |
US7844914B2 (en) | 2004-07-30 | 2010-11-30 | Apple Inc. | Activating virtual keys of a touch-screen virtual keyboard |
US7614008B2 (en) | 2004-07-30 | 2009-11-03 | Apple Inc. | Operation of a computer with touch screen interface |
US8479122B2 (en) | 2004-07-30 | 2013-07-02 | Apple Inc. | Gestures for touch sensitive input devices |
US9292111B2 (en) | 1998-01-26 | 2016-03-22 | Apple Inc. | Gesturing with a multipoint sensing device |
US7663607B2 (en) | 2004-05-06 | 2010-02-16 | Apple Inc. | Multipoint touchscreen |
US6782510B1 (en) | 1998-01-27 | 2004-08-24 | John N. Gross | Word checking tool for controlling the language content in documents using dictionaries with modifyable status fields |
JP2938420B2 (ja) | 1998-01-30 | 1999-08-23 | インターナショナル・ビジネス・マシーンズ・コーポレイション | ファンクション選択方法及び装置、ファンクションを選択するための制御プログラムを格納した記憶媒体、オブジェクトの操作方法及び装置、オブジェクトを操作するための制御プログラムを格納した記憶媒体、複合アイコンを格納した記憶媒体 |
US6035303A (en) | 1998-02-02 | 2000-03-07 | International Business Machines Corporation | Object management system for digital libraries |
US6092038A (en) | 1998-02-05 | 2000-07-18 | International Business Machines Corporation | System and method for providing lossless compression of n-gram language models in a real-time decoder |
JPH11224179A (ja) | 1998-02-05 | 1999-08-17 | Fujitsu Ltd | 対話インタフェース・システム |
US6216131B1 (en) | 1998-02-06 | 2001-04-10 | Starfish Software, Inc. | Methods for mapping data fields from one data set to another in a data processing environment |
US6226403B1 (en) | 1998-02-09 | 2001-05-01 | Motorola, Inc. | Handwritten character recognition using multi-resolution models |
US6421707B1 (en) | 1998-02-13 | 2002-07-16 | Lucent Technologies Inc. | Wireless multi-media messaging communications method and apparatus |
US6249606B1 (en) | 1998-02-19 | 2001-06-19 | Mindmaker, Inc. | Method and system for gesture category recognition and training using a feature vector |
US6295391B1 (en) | 1998-02-19 | 2001-09-25 | Hewlett-Packard Company | Automatic data routing via voice command annotation |
US20020080163A1 (en) | 1998-02-23 | 2002-06-27 | Morey Dale D. | Information retrieval system |
US6623529B1 (en) | 1998-02-23 | 2003-09-23 | David Lakritz | Multilingual electronic document translation, management, and delivery system |
US6345250B1 (en) | 1998-02-24 | 2002-02-05 | International Business Machines Corp. | Developing voice response applications from pre-recorded voice and stored text-to-speech prompts |
US6356920B1 (en) | 1998-03-09 | 2002-03-12 | X-Aware, Inc | Dynamic, hierarchical data exchange system |
JP3854713B2 (ja) | 1998-03-10 | 2006-12-06 | キヤノン株式会社 | 音声合成方法および装置および記憶媒体 |
US6173287B1 (en) | 1998-03-11 | 2001-01-09 | Digital Equipment Corporation | Technique for ranking multimedia annotations of interest |
US6272456B1 (en) | 1998-03-19 | 2001-08-07 | Microsoft Corporation | System and method for identifying the language of written text having a plurality of different length n-gram profiles |
US6356287B1 (en) | 1998-03-20 | 2002-03-12 | Nuvomedia, Inc. | Citation selection and routing feature for hand-held content display device |
US6331867B1 (en) | 1998-03-20 | 2001-12-18 | Nuvomedia, Inc. | Electronic book with automated look-up of terms of within reference titles |
DE69908121T2 (de) | 1998-03-23 | 2004-04-01 | Microsoft Corp., Redmond | Anwendungsprogrammierungsschnittstelle in einem betriebssystem |
US6963871B1 (en) | 1998-03-25 | 2005-11-08 | Language Analysis Systems, Inc. | System and method for adaptive multi-cultural searching and matching of personal names |
GB2335822B (en) | 1998-03-25 | 2003-09-10 | Nokia Mobile Phones Ltd | Context sensitive pop-up window for a portable phone |
US6675233B1 (en) | 1998-03-26 | 2004-01-06 | O2 Micro International Limited | Audio controller for portable electronic devices |
US6195641B1 (en) | 1998-03-27 | 2001-02-27 | International Business Machines Corp. | Network universal spoken language vocabulary |
US6418431B1 (en) | 1998-03-30 | 2002-07-09 | Microsoft Corporation | Information retrieval and speech recognition based on language models |
US6026393A (en) | 1998-03-31 | 2000-02-15 | Casebank Technologies Inc. | Configuration knowledge as an aid to case retrieval |
US6233559B1 (en) | 1998-04-01 | 2001-05-15 | Motorola, Inc. | Speech control of multiple applications using applets |
US6115686A (en) | 1998-04-02 | 2000-09-05 | Industrial Technology Research Institute | Hyper text mark up language document to speech converter |
US6173279B1 (en) | 1998-04-09 | 2001-01-09 | At&T Corp. | Method of using a natural language interface to retrieve information from one or more data resources |
US6151401A (en) | 1998-04-09 | 2000-11-21 | Compaq Computer Corporation | Planar speaker for multimedia laptop PCs |
US7194471B1 (en) | 1998-04-10 | 2007-03-20 | Ricoh Company, Ltd. | Document classification system and method for classifying a document according to contents of the document |
US6018711A (en) | 1998-04-21 | 2000-01-25 | Nortel Networks Corporation | Communication system user interface with animated representation of time remaining for input to recognizer |
US6240303B1 (en) | 1998-04-23 | 2001-05-29 | Motorola Inc. | Voice recognition button for mobile telephones |
US6088731A (en) | 1998-04-24 | 2000-07-11 | Associative Computing, Inc. | Intelligent assistant for use with a local computer and with the internet |
US6289124B1 (en) | 1998-04-27 | 2001-09-11 | Sanyo Electric Co., Ltd. | Method and system of handwritten-character recognition |
US6081780A (en) | 1998-04-28 | 2000-06-27 | International Business Machines Corporation | TTS and prosody based authoring system |
US6931255B2 (en) | 1998-04-29 | 2005-08-16 | Telefonaktiebolaget L M Ericsson (Publ) | Mobile terminal with a text-to-speech converter |
US6029132A (en) | 1998-04-30 | 2000-02-22 | Matsushita Electric Industrial Co. | Method for letter-to-sound in text-to-speech synthesis |
US6016471A (en) | 1998-04-29 | 2000-01-18 | Matsushita Electric Industrial Co., Ltd. | Method and apparatus using decision trees to generate and score multiple pronunciations for a spelled word |
US6343267B1 (en) | 1998-04-30 | 2002-01-29 | Matsushita Electric Industrial Co., Ltd. | Dimensionality reduction for speaker normalization and speaker and environment adaptation using eigenvoice techniques |
US6285786B1 (en) | 1998-04-30 | 2001-09-04 | Motorola, Inc. | Text recognizer and method using non-cumulative character scoring in a forward search |
US6138158A (en) | 1998-04-30 | 2000-10-24 | Phone.Com, Inc. | Method and system for pushing and pulling data using wideband and narrowband transport systems |
US6222347B1 (en) | 1998-04-30 | 2001-04-24 | Apple Computer, Inc. | System for charging portable computer's battery using both the dynamically determined power available based on power consumed by sub-system devices and power limits from the battery |
US6278443B1 (en) | 1998-04-30 | 2001-08-21 | International Business Machines Corporation | Touch screen with random finger placement and rolling on screen to control the movement of information on-screen |
US6314165B1 (en) | 1998-04-30 | 2001-11-06 | Matsushita Electric Industrial Co., Ltd. | Automated hotel attendant using speech recognition |
US6144938A (en) | 1998-05-01 | 2000-11-07 | Sun Microsystems, Inc. | Voice user interface with personality |
US6076060A (en) | 1998-05-01 | 2000-06-13 | Compaq Computer Corporation | Computer method and apparatus for translating text to sound |
JP4286345B2 (ja) | 1998-05-08 | 2009-06-24 | 株式会社リコー | 検索支援システム及びコンピュータ読み取り可能な記録媒体 |
US6297818B1 (en) | 1998-05-08 | 2001-10-02 | Apple Computer, Inc. | Graphical user interface having sound effects for operating control elements and dragging objects |
US6078885A (en) | 1998-05-08 | 2000-06-20 | At&T Corp | Verbal, fully automatic dictionary updates by end-users of speech synthesis and recognition systems |
JPH11327870A (ja) | 1998-05-15 | 1999-11-30 | Fujitsu Ltd | ドキュメント読み上げ装置、読み上げ制御方法及び記 録媒体 |
US6125283A (en) | 1998-05-18 | 2000-09-26 | Ericsson Inc. | Multi-mode mobile terminal and methods for operating the same |
US6122647A (en) | 1998-05-19 | 2000-09-19 | Perspecta, Inc. | Dynamic generation of contextual links in hypertext documents |
US7603684B1 (en) | 1998-05-19 | 2009-10-13 | United Video Properties, Inc. | Program guide system with video-on-demand browsing |
US6438523B1 (en) | 1998-05-20 | 2002-08-20 | John A. Oberteuffer | Processing handwritten and hand-drawn input and speech input |
FI981154A (fi) | 1998-05-25 | 1999-11-26 | Nokia Mobile Phones Ltd | Menetelmä ja laite puheen tunnistamiseksi |
US6424983B1 (en) | 1998-05-26 | 2002-07-23 | Global Information Research And Technologies, Llc | Spelling and grammar checking system |
US6101470A (en) | 1998-05-26 | 2000-08-08 | International Business Machines Corporation | Methods for generating pitch and duration contours in a text to speech system |
US6188967B1 (en) | 1998-05-27 | 2001-02-13 | International Business Machines Corporation | Audio feedback control for manufacturing processes |
US20070094224A1 (en) | 1998-05-28 | 2007-04-26 | Lawrence Au | Method and system for determining contextual meaning for network search applications |
US6778970B2 (en) | 1998-05-28 | 2004-08-17 | Lawrence Au | Topological methods to organize semantic network data flows for conversational applications |
US7711672B2 (en) | 1998-05-28 | 2010-05-04 | Lawrence Au | Semantic network methods to disambiguate natural language meaning |
US7266365B2 (en) | 1998-05-29 | 2007-09-04 | Research In Motion Limited | System and method for delayed transmission of bundled command messages |
JP3622503B2 (ja) | 1998-05-29 | 2005-02-23 | 株式会社日立製作所 | 特徴文字列抽出方法および装置とこれを用いた類似文書検索方法および装置並びに特徴文字列抽出プログラムを格納した記憶媒体および類似文書検索プログラムを格納した記憶媒体 |
CN1274440A (zh) | 1998-06-02 | 2000-11-22 | 索尼公司 | 信息处理装置和方法、及信息提供媒体 |
US6092036A (en) | 1998-06-02 | 2000-07-18 | Davox Corporation | Multi-lingual data processing system and system and method for translating text used in computer software utilizing an embedded translator |
JP3180764B2 (ja) | 1998-06-05 | 2001-06-25 | 日本電気株式会社 | 音声合成装置 |
US6563769B1 (en) | 1998-06-11 | 2003-05-13 | Koninklijke Philips Electronics N.V. | Virtual jukebox |
US6411932B1 (en) | 1998-06-12 | 2002-06-25 | Texas Instruments Incorporated | Rule-based learning of word pronunciations from training corpora |
US5969283A (en) | 1998-06-17 | 1999-10-19 | Looney Productions, Llc | Music organizer and entertainment center |
US6742003B2 (en) | 2001-04-30 | 2004-05-25 | Microsoft Corporation | Apparatus and accompanying methods for visualizing clusters of data and hierarchical cluster classifications |
US6212564B1 (en) | 1998-07-01 | 2001-04-03 | International Business Machines Corporation | Distributed application launcher for optimizing desktops based on client characteristics information |
US6300947B1 (en) | 1998-07-06 | 2001-10-09 | International Business Machines Corporation | Display screen and window size related web page adaptation system |
US6542171B1 (en) | 1998-07-08 | 2003-04-01 | Nippon Telegraph Amd Telephone Corporation | Scheme for graphical user interface using polygonal-shaped slider |
US6188391B1 (en) | 1998-07-09 | 2001-02-13 | Synaptics, Inc. | Two-layer capacitive touchpad and method of making same |
US6144958A (en) | 1998-07-15 | 2000-11-07 | Amazon.Com, Inc. | System and method for correcting spelling errors in search queries |
US6105865A (en) | 1998-07-17 | 2000-08-22 | Hardesty; Laurence Daniel | Financial transaction system with retirement saving benefit |
US6405238B1 (en) | 1998-07-31 | 2002-06-11 | Hewlett-Packard Co. | Quick navigation upon demand to main areas of web site |
US6421708B2 (en) | 1998-07-31 | 2002-07-16 | Glenayre Electronics, Inc. | World wide web access for voice mail and page |
JP2000059497A (ja) | 1998-08-04 | 2000-02-25 | Hitachi Ltd | 電話機 |
JP3865946B2 (ja) | 1998-08-06 | 2007-01-10 | 富士通株式会社 | 文字メッセージ通信システム、文字メッセージ通信装置、文字メッセージ通信サーバ、文字メッセージ通信プログラムを記録したコンピュータ読み取り可能な記録媒体、文字メッセージ通信管理プログラムを記録したコンピュータ読み取り可能な記録媒体、文字メッセージ送受信方法及び文字メッセージ通信管理方法 |
US6389114B1 (en) | 1998-08-06 | 2002-05-14 | At&T Corp. | Method and apparatus for relaying communication |
JP3275840B2 (ja) | 1998-08-12 | 2002-04-22 | 日本電気株式会社 | 機器操作システム及び方法、並びに記録媒体 |
US6169538B1 (en) | 1998-08-13 | 2001-01-02 | Motorola, Inc. | Method and apparatus for implementing a graphical user interface keyboard and a text buffer on electronic devices |
US6359970B1 (en) | 1998-08-14 | 2002-03-19 | Maverick Consulting Services, Inc. | Communications control method and apparatus |
US6490563B2 (en) | 1998-08-17 | 2002-12-03 | Microsoft Corporation | Proofreading with text to speech feedback |
US6493428B1 (en) | 1998-08-18 | 2002-12-10 | Siemens Information & Communication Networks, Inc | Text-enhanced voice menu system |
EP0982732A1 (en) | 1998-08-24 | 2000-03-01 | Saehan Information Systems Inc. | Portable MP3 player having various functions |
US6345240B1 (en) | 1998-08-24 | 2002-02-05 | Agere Systems Guardian Corp. | Device and method for parallel simulation task generation and distribution |
ATE374421T1 (de) | 1998-08-28 | 2007-10-15 | Ibm | Segmentierungsverfahren zur erweiterung des aktiven vokabulars von spracherkennern |
US6208964B1 (en) | 1998-08-31 | 2001-03-27 | Nortel Networks Limited | Method and apparatus for providing unsupervised adaptation of transcriptions |
US6173263B1 (en) | 1998-08-31 | 2001-01-09 | At&T Corp. | Method and system for performing concatenative speech synthesis using half-phonemes |
US6542584B1 (en) | 1998-08-31 | 2003-04-01 | Intel Corporation | Digital telephone system with automatic voice mail redirection |
US6359572B1 (en) | 1998-09-03 | 2002-03-19 | Microsoft Corporation | Dynamic keyboard |
US6271835B1 (en) | 1998-09-03 | 2001-08-07 | Nortel Networks Limited | Touch-screen input device |
US6141644A (en) | 1998-09-04 | 2000-10-31 | Matsushita Electric Industrial Co., Ltd. | Speaker verification and speaker identification based on eigenvoices |
US6684185B1 (en) | 1998-09-04 | 2004-01-27 | Matsushita Electric Industrial Co., Ltd. | Small footprint language and vocabulary independent word recognizer using registration by word spelling |
US6499013B1 (en) | 1998-09-09 | 2002-12-24 | One Voice Technologies, Inc. | Interactive user interface using speech recognition and natural language processing |
US6434524B1 (en) | 1998-09-09 | 2002-08-13 | One Voice Technologies, Inc. | Object interactive user interface using speech recognition and natural language processing |
US6369811B1 (en) | 1998-09-09 | 2002-04-09 | Ricoh Company Limited | Automatic adaptive document help for paper documents |
US6111572A (en) | 1998-09-10 | 2000-08-29 | International Business Machines Corporation | Runtime locale-sensitive switching of calendars in a distributed computer enterprise environment |
DE29825146U1 (de) | 1998-09-11 | 2005-08-18 | Püllen, Rainer | Teilnehmereinheit und System für einen Multimediadienst |
US6266637B1 (en) | 1998-09-11 | 2001-07-24 | International Business Machines Corporation | Phrase splicing and variable substitution using a trainable speech synthesizer |
US6792082B1 (en) | 1998-09-11 | 2004-09-14 | Comverse Ltd. | Voice mail system with personal assistant provisioning |
US6594673B1 (en) | 1998-09-15 | 2003-07-15 | Microsoft Corporation | Visualizations for collaborative information |
JP2000099225A (ja) | 1998-09-18 | 2000-04-07 | Sony Corp | 情報処理装置および方法、並びに提供媒体 |
US6317831B1 (en) | 1998-09-21 | 2001-11-13 | Openwave Systems Inc. | Method and apparatus for establishing a secure connection over a one-way data path |
US9037451B2 (en) | 1998-09-25 | 2015-05-19 | Rpx Corporation | Systems and methods for multiple mode voice and data communications using intelligently bridged TDM and packet buses and methods for implementing language capabilities using the same |
US6154551A (en) | 1998-09-25 | 2000-11-28 | Frenkel; Anatoly | Microphone having linear optical transducers |
EP1131946A1 (en) | 1998-09-28 | 2001-09-12 | Varicom Communications Ltd. | A method of sending and forwarding e-mail messages to a telephone |
JP3396639B2 (ja) | 1998-09-30 | 2003-04-14 | 株式会社東芝 | 階層記憶装置及び階層記憶制御方法 |
JP2000105595A (ja) | 1998-09-30 | 2000-04-11 | Victor Co Of Japan Ltd | 歌唱装置及び記録媒体 |
WO2000019410A1 (en) | 1998-09-30 | 2000-04-06 | Lernout & Hauspie Speech Products N.V. | Graphic user interface for navigation in speech recognition system grammars |
US6324511B1 (en) | 1998-10-01 | 2001-11-27 | Mindmaker, Inc. | Method of and apparatus for multi-modal information presentation to computer users with dyslexia, reading disabilities or visual impairment |
US6836651B2 (en) | 1999-06-21 | 2004-12-28 | Telespree Communications | Portable cellular phone system having remote voice recognition |
US7003463B1 (en) | 1998-10-02 | 2006-02-21 | International Business Machines Corporation | System and method for providing network coordinated conversational services |
US7418382B1 (en) | 1998-10-02 | 2008-08-26 | International Business Machines Corporation | Structure skeletons for efficient voice navigation through generic hierarchical objects |
US6275824B1 (en) | 1998-10-02 | 2001-08-14 | Ncr Corporation | System and method for managing data privacy in a database management system |
US6161087A (en) | 1998-10-05 | 2000-12-12 | Lernout & Hauspie Speech Products N.V. | Speech-recognition-assisted selective suppression of silent and filled speech pauses during playback of an audio recording |
US6360237B1 (en) | 1998-10-05 | 2002-03-19 | Lernout & Hauspie Speech Products N.V. | Method and system for performing text edits during audio recording playback |
GB9821969D0 (en) | 1998-10-08 | 1998-12-02 | Canon Kk | Apparatus and method for processing natural language |
WO2000022820A1 (en) | 1998-10-09 | 2000-04-20 | Sarnoff Corporation | Method and apparatus for providing vcr-type controls for compressed digital video sequences |
US6928614B1 (en) | 1998-10-13 | 2005-08-09 | Visteon Global Technologies, Inc. | Mobile office with speech recognition |
US7110998B1 (en) | 1998-10-13 | 2006-09-19 | Virtual Gold, Inc. | Method and apparatus for finding hidden patterns in the context of querying applications |
DE19847419A1 (de) | 1998-10-14 | 2000-04-20 | Philips Corp Intellectual Pty | Verfahren zur automatischen Erkennung einer buchstabierten sprachlichen Äußerung |
US6453312B1 (en) | 1998-10-14 | 2002-09-17 | Unisys Corporation | System and method for developing a selectably-expandable concept-based search |
GB2342802B (en) | 1998-10-14 | 2003-04-16 | Picturetel Corp | Method and apparatus for indexing conference content |
US6487663B1 (en) | 1998-10-19 | 2002-11-26 | Realnetworks, Inc. | System and method for regulating the transmission of media data |
JP2000122781A (ja) | 1998-10-20 | 2000-04-28 | Sony Corp | 情報処理装置および方法、並びに提供媒体 |
US6768979B1 (en) | 1998-10-22 | 2004-07-27 | Sony Corporation | Apparatus and method for noise attenuation in a speech recognition system |
US6163794A (en) | 1998-10-23 | 2000-12-19 | General Magic | Network system extensible by users |
US6453292B2 (en) | 1998-10-28 | 2002-09-17 | International Business Machines Corporation | Command boundary identifier for conversational natural language |
JP3551044B2 (ja) | 1998-10-29 | 2004-08-04 | 松下電器産業株式会社 | ファクシミリ装置 |
US6292778B1 (en) | 1998-10-30 | 2001-09-18 | Lucent Technologies Inc. | Task-independent utterance verification with subword-based minimum verification error training |
US6208971B1 (en) | 1998-10-30 | 2001-03-27 | Apple Computer, Inc. | Method and apparatus for command recognition using data-driven semantic inference |
US6321092B1 (en) | 1998-11-03 | 2001-11-20 | Signal Soft Corporation | Multiple input data management for wireless location-based applications |
US6839669B1 (en) | 1998-11-05 | 2005-01-04 | Scansoft, Inc. | Performing actions identified in recognized speech |
US6469732B1 (en) | 1998-11-06 | 2002-10-22 | Vtel Corporation | Acoustic source location using a microphone array |
US6519565B1 (en) | 1998-11-10 | 2003-02-11 | Voice Security Systems, Inc. | Method of comparing utterances for security control |
US6504990B1 (en) | 1998-11-12 | 2003-01-07 | Max Abecassis | Randomly and continuously playing fragments of a video segment |
US6965863B1 (en) | 1998-11-12 | 2005-11-15 | Microsoft Corporation | Speech recognition user interface |
US6446076B1 (en) | 1998-11-12 | 2002-09-03 | Accenture Llp. | Voice interactive web-based agent system responsive to a user location for prioritizing and formatting information |
US6606599B2 (en) | 1998-12-23 | 2003-08-12 | Interactive Speech Technologies, Llc | Method for integrating computing processes with an interface controlled by voice actuated grammars |
CA2354871A1 (en) | 1998-11-13 | 2000-05-25 | Lernout & Hauspie Speech Products N.V. | Speech synthesis using concatenation of speech waveforms |
US7447637B1 (en) | 1998-12-23 | 2008-11-04 | Eastern Investments, Llc | System and method of processing speech within a graphic user interface |
US6421305B1 (en) | 1998-11-13 | 2002-07-16 | Sony Corporation | Personal music device with a graphical display for contextual information |
IL127073A0 (en) | 1998-11-15 | 1999-09-22 | Tiktech Software Ltd | Software translation system and method |
EP1131812A2 (en) | 1998-11-17 | 2001-09-12 | Lernout & Hauspie Speech Products N.V. | Method and apparatus for improved part-of-speech tagging |
US20030069873A1 (en) | 1998-11-18 | 2003-04-10 | Kevin L. Fox | Multiple engine information retrieval and visualization system |
US6122614A (en) | 1998-11-20 | 2000-09-19 | Custom Speech Usa, Inc. | System and method for automating transcription services |
US6298321B1 (en) | 1998-11-23 | 2001-10-02 | Microsoft Corporation | Trie compression using substates and utilizing pointers to replace or merge identical, reordered states |
JP4542637B2 (ja) | 1998-11-25 | 2010-09-15 | セイコーエプソン株式会社 | 携帯情報機器及び情報記憶媒体 |
US6246981B1 (en) | 1998-11-25 | 2001-06-12 | International Business Machines Corporation | Natural language task-oriented dialog manager and method |
US6260016B1 (en) | 1998-11-25 | 2001-07-10 | Matsushita Electric Industrial Co., Ltd. | Speech synthesis employing prosody templates |
US6144939A (en) | 1998-11-25 | 2000-11-07 | Matsushita Electric Industrial Co., Ltd. | Formant-based speech synthesizer employing demi-syllable concatenation with independent cross fade in the filter parameter and source domains |
US7082397B2 (en) | 1998-12-01 | 2006-07-25 | Nuance Communications, Inc. | System for and method of creating and browsing a voice web |
US6292772B1 (en) | 1998-12-01 | 2001-09-18 | Justsystem Corporation | Method for identifying the language of individual words |
US6260024B1 (en) | 1998-12-02 | 2001-07-10 | Gary Shkedy | Method and apparatus for facilitating buyer-driven purchase orders on a commercial network system |
US7881936B2 (en) | 1998-12-04 | 2011-02-01 | Tegic Communications, Inc. | Multimodal disambiguation of speech recognition |
US8938688B2 (en) | 1998-12-04 | 2015-01-20 | Nuance Communications, Inc. | Contextual prediction of user words and user actions |
US7679534B2 (en) | 1998-12-04 | 2010-03-16 | Tegic Communications, Inc. | Contextual prediction of user words and user actions |
US7712053B2 (en) | 1998-12-04 | 2010-05-04 | Tegic Communications, Inc. | Explicit character filtering of ambiguous text entry |
US7319957B2 (en) | 2004-02-11 | 2008-01-15 | Tegic Communications, Inc. | Handwriting and voice input with automatic correction |
US6317707B1 (en) | 1998-12-07 | 2001-11-13 | At&T Corp. | Automatic clustering of tokens from a corpus for grammar acquisition |
US6177905B1 (en) | 1998-12-08 | 2001-01-23 | Avaya Technology Corp. | Location-triggered reminder for mobile user devices |
US20030187925A1 (en) | 1998-12-08 | 2003-10-02 | Inala Suman Kumar | Software engine for enabling proxy chat-room interaction |
US6233547B1 (en) | 1998-12-08 | 2001-05-15 | Eastman Kodak Company | Computer program product for retrieving multi-media objects using a natural language having a pronoun |
US6417873B1 (en) | 1998-12-11 | 2002-07-09 | International Business Machines Corporation | Systems, methods and computer program products for identifying computer file characteristics that can hinder display via hand-held computing devices |
US6460015B1 (en) | 1998-12-15 | 2002-10-01 | International Business Machines Corporation | Method, system and computer program product for automatic character transliteration in a text string object |
JP2000181993A (ja) | 1998-12-16 | 2000-06-30 | Fujitsu Ltd | 文字認識方法および装置 |
US6308149B1 (en) | 1998-12-16 | 2001-10-23 | Xerox Corporation | Grouping words with equivalent substrings by automatic clustering based on suffix relationships |
US6523172B1 (en) | 1998-12-17 | 2003-02-18 | Evolutionary Technologies International, Inc. | Parser translator system and method |
DE69833987T2 (de) | 1998-12-17 | 2006-11-16 | Sony Corp. | Halbüberwachte Sprecheradaptation |
US6363342B2 (en) | 1998-12-18 | 2002-03-26 | Matsushita Electric Industrial Co., Ltd. | System for developing word-pronunciation pairs |
US6842877B2 (en) | 1998-12-18 | 2005-01-11 | Tangis Corporation | Contextual responses based on automated learning techniques |
GB9827930D0 (en) | 1998-12-19 | 1999-02-10 | Symbian Ltd | Keyboard system for a computing device with correction of key based input errors |
US6651218B1 (en) | 1998-12-22 | 2003-11-18 | Xerox Corporation | Dynamic content database for multiple document genres |
US6259436B1 (en) | 1998-12-22 | 2001-07-10 | Ericsson Inc. | Apparatus and method for determining selection of touchable items on a computer touchscreen by an imprecise touch |
CA2284304A1 (en) | 1998-12-22 | 2000-06-22 | Nortel Networks Corporation | Communication systems and methods employing automatic language indentification |
FR2787902B1 (fr) | 1998-12-23 | 2004-07-30 | France Telecom | Modele et procede d'implementation d'un agent rationnel dialoguant, serveur et systeme multi-agent pour la mise en oeuvre |
US6460029B1 (en) | 1998-12-23 | 2002-10-01 | Microsoft Corporation | System for improving search text |
US6167369A (en) | 1998-12-23 | 2000-12-26 | Xerox Company | Automatic language identification using both N-gram and word information |
US6191939B1 (en) | 1998-12-23 | 2001-02-20 | Gateway, Inc. | Keyboard illumination via reflection of LCD light |
US6762777B2 (en) | 1998-12-31 | 2004-07-13 | International Business Machines Corporation | System and method for associating popup windows with selective regions of a document |
US6523061B1 (en) | 1999-01-05 | 2003-02-18 | Sri International, Inc. | System, method, and article of manufacture for agent-based navigation in a speech-based data navigation system |
US6851115B1 (en) | 1999-01-05 | 2005-02-01 | Sri International | Software-based architecture for communication and cooperation among distributed electronic agents |
US7036128B1 (en) | 1999-01-05 | 2006-04-25 | Sri International Offices | Using a community of distributed electronic agents to support a highly mobile, ambient computing environment |
US6513063B1 (en) | 1999-01-05 | 2003-01-28 | Sri International | Accessing network-based electronic information through scripted online interfaces using spoken input |
US6742021B1 (en) | 1999-01-05 | 2004-05-25 | Sri International, Inc. | Navigating network-based electronic information using spoken input with multimodal error feedback |
US6757718B1 (en) | 1999-01-05 | 2004-06-29 | Sri International | Mobile navigation of network-based electronic information using spoken input |
JP4812941B2 (ja) | 1999-01-06 | 2011-11-09 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 注目期間を有する音声入力装置 |
US7152070B1 (en) | 1999-01-08 | 2006-12-19 | The Regents Of The University Of California | System and method for integrating and accessing multiple data sources within a data warehouse architecture |
US6179432B1 (en) | 1999-01-12 | 2001-01-30 | Compaq Computer Corporation | Lighting system for a keyboard |
JP2000206982A (ja) | 1999-01-12 | 2000-07-28 | Toshiba Corp | 音声合成装置及び文音声変換プログラムを記録した機械読み取り可能な記録媒体 |
JP2000207167A (ja) | 1999-01-14 | 2000-07-28 | Hewlett Packard Co <Hp> | ハイパ―・プレゼンテ―ション用言語の記述方法、ハイパ―・プレゼンテ―ション・システム、モバイル・コンピュ―タ、およびハイパ―・プレゼンテ―ション方法 |
US6643824B1 (en) | 1999-01-15 | 2003-11-04 | International Business Machines Corporation | Touch screen region assist for hypertext links |
DE20022700U1 (de) | 1999-01-19 | 2002-01-24 | Integra5 Communications Inc | Vorrichtung zur Auswahl und Anzeige von Multimedianachrichten |
JP2000216910A (ja) | 1999-01-25 | 2000-08-04 | Matsushita Electric Ind Co Ltd | 電話端末装置 |
US6598054B2 (en) | 1999-01-26 | 2003-07-22 | Xerox Corporation | System and method for clustering data objects in a collection |
US6385586B1 (en) | 1999-01-28 | 2002-05-07 | International Business Machines Corporation | Speech recognition text-based language conversion and text-to-speech in a client-server configuration to enable language translation devices |
US6360227B1 (en) | 1999-01-29 | 2002-03-19 | International Business Machines Corporation | System and method for generating taxonomies with applications to content-based recommendations |
US6282507B1 (en) | 1999-01-29 | 2001-08-28 | Sony Corporation | Method and apparatus for interactive source language expression recognition and alternative hypothesis presentation and selection |
US7904187B2 (en) | 1999-02-01 | 2011-03-08 | Hoffberg Steven M | Internet appliance system and method |
JP3231723B2 (ja) | 1999-02-02 | 2001-11-26 | 埼玉日本電気株式会社 | 音声によるダイヤルロック設定方式およびその解除方式 |
US6246862B1 (en) | 1999-02-03 | 2001-06-12 | Motorola, Inc. | Sensor controlled user interface for portable communication device |
US6505183B1 (en) | 1999-02-04 | 2003-01-07 | Authoria, Inc. | Human resource knowledge modeling and delivery system |
US6430531B1 (en) | 1999-02-04 | 2002-08-06 | Soliloquy, Inc. | Bilateral speech system |
US20020095290A1 (en) | 1999-02-05 | 2002-07-18 | Jonathan Kahn | Speech recognition program mapping tool to align an audio file to verbatim text |
WO2000046701A1 (en) | 1999-02-08 | 2000-08-10 | Huntsman Ici Chemicals Llc | Method for retrieving semantically distant analogies |
US6332175B1 (en) | 1999-02-12 | 2001-12-18 | Compaq Computer Corporation | Low power system and method for playing compressed audio data |
US6377530B1 (en) | 1999-02-12 | 2002-04-23 | Compaq Computer Corporation | System and method for playing compressed audio data |
JP3629384B2 (ja) | 1999-06-29 | 2005-03-16 | シャープ株式会社 | 情報選択装置及び記録媒体 |
US6983251B1 (en) | 1999-02-15 | 2006-01-03 | Sharp Kabushiki Kaisha | Information selection apparatus selecting desired information from plurality of audio information by mainly using audio |
PL349929A1 (en) | 1999-02-19 | 2002-10-21 | Custom Speech Usa | Automated transcription system and method using two speech converting instances and computer-assisted correction |
US6961699B1 (en) | 1999-02-19 | 2005-11-01 | Custom Speech Usa, Inc. | Automated transcription system and method using two speech converting instances and computer-assisted correction |
US6606632B1 (en) | 1999-02-19 | 2003-08-12 | Sun Microsystems, Inc. | Transforming transient contents of object-oriented database into persistent textual form according to grammar that includes keywords and syntax |
GB2347239B (en) | 1999-02-22 | 2003-09-24 | Nokia Mobile Phones Ltd | A communication terminal having a predictive editor application |
US6462778B1 (en) | 1999-02-26 | 2002-10-08 | Sony Corporation | Methods and apparatus for associating descriptive data with digital image files |
US6317718B1 (en) | 1999-02-26 | 2001-11-13 | Accenture Properties (2) B.V. | System, method and article of manufacture for location-based filtering for shopping agent in the physical world |
GB9904662D0 (en) | 1999-03-01 | 1999-04-21 | Canon Kk | Natural language search method and apparatus |
US20020013852A1 (en) | 2000-03-03 | 2002-01-31 | Craig Janik | System for providing content, management, and interactivity for thin client devices |
CA2366057C (en) | 1999-03-05 | 2009-03-24 | Canon Kabushiki Kaisha | Database annotation and retrieval |
US6401085B1 (en) | 1999-03-05 | 2002-06-04 | Accenture Llp | Mobile communication and computing system and method |
US6356905B1 (en) | 1999-03-05 | 2002-03-12 | Accenture Llp | System, method and article of manufacture for mobile communication utilizing an interface support framework |
DE50006493D1 (de) | 1999-03-08 | 2004-06-24 | Siemens Ag | Verfahren und anordnung zur ermittlung einer merkmalsbeschreibung eines sprachsignals |
US6324499B1 (en) | 1999-03-08 | 2001-11-27 | International Business Machines Corp. | Noise recognizer for speech recognition systems |
US7596606B2 (en) | 1999-03-11 | 2009-09-29 | Codignotto John D | Message publishing system for publishing messages from identified, authorized senders |
US6374217B1 (en) | 1999-03-12 | 2002-04-16 | Apple Computer, Inc. | Fast update implementation for efficient latent semantic language modeling |
US6185533B1 (en) | 1999-03-15 | 2001-02-06 | Matsushita Electric Industrial Co., Ltd. | Generation and synthesis of prosody templates |
DE19911551B4 (de) | 1999-03-16 | 2009-06-10 | Webasto Ag | Windabweiser für ein Fahrzeugdach |
US6928404B1 (en) | 1999-03-17 | 2005-08-09 | International Business Machines Corporation | System and methods for acoustic and language modeling for automatic speech recognition with large vocabularies |
US6584464B1 (en) | 1999-03-19 | 2003-06-24 | Ask Jeeves, Inc. | Grammar template query system |
US6862710B1 (en) | 1999-03-23 | 2005-03-01 | Insightful Corporation | Internet navigation using soft hyperlinks |
JP2000276471A (ja) | 1999-03-23 | 2000-10-06 | Seiko Epson Corp | リンク先情報の概要提示方法およびリンク先情報の概要提示装置ならびにリンク先情報の概要提示処理プログラムを記録した記録媒体 |
US6510406B1 (en) | 1999-03-23 | 2003-01-21 | Mathsoft, Inc. | Inverse inference engine for high performance web search |
US6469712B1 (en) | 1999-03-25 | 2002-10-22 | International Business Machines Corporation | Projected audio for computer displays |
WO2000058942A2 (en) | 1999-03-26 | 2000-10-05 | Koninklijke Philips Electronics N.V. | Client-server speech recognition |
US6041023A (en) | 1999-03-29 | 2000-03-21 | Lakhansingh; Cynthia | Portable digital radio and compact disk player |
US6671672B1 (en) | 1999-03-30 | 2003-12-30 | Nuance Communications | Voice authentication system having cognitive recall mechanism for password verification |
US6377928B1 (en) | 1999-03-31 | 2002-04-23 | Sony Corporation | Voice recognition for animated agent-based navigation |
US6954902B2 (en) | 1999-03-31 | 2005-10-11 | Sony Corporation | Information sharing processing method, information sharing processing program storage medium, information sharing processing apparatus, and information sharing processing system |
US7761296B1 (en) | 1999-04-02 | 2010-07-20 | International Business Machines Corporation | System and method for rescoring N-best hypotheses of an automatic speech recognition system |
US6356854B1 (en) | 1999-04-05 | 2002-03-12 | Delphi Technologies, Inc. | Holographic object position and type sensing system and method |
US6631346B1 (en) | 1999-04-07 | 2003-10-07 | Matsushita Electric Industrial Co., Ltd. | Method and apparatus for natural language parsing using multiple passes and tags |
WO2000060435A2 (en) | 1999-04-07 | 2000-10-12 | Rensselaer Polytechnic Institute | System and method for accessing personal information |
CN1159661C (zh) | 1999-04-08 | 2004-07-28 | 肯特里奇数字实验公司 | 用于中文的标记和命名实体识别的系统 |
US6647260B2 (en) | 1999-04-09 | 2003-11-11 | Openwave Systems Inc. | Method and system facilitating web based provisioning of two-way mobile communications devices |
US6631186B1 (en) | 1999-04-09 | 2003-10-07 | Sbc Technology Resources, Inc. | System and method for implementing and accessing call forwarding services |
US6408272B1 (en) | 1999-04-12 | 2002-06-18 | General Magic, Inc. | Distributed voice user interface |
US6314397B1 (en) | 1999-04-13 | 2001-11-06 | International Business Machines Corp. | Method and apparatus for propagating corrections in speech recognition software |
US6711620B1 (en) | 1999-04-14 | 2004-03-23 | Matsushita Electric Industrial Co. | Event control device and digital broadcasting system |
US6538665B2 (en) | 1999-04-15 | 2003-03-25 | Apple Computer, Inc. | User interface for presenting media information |
US6502194B1 (en) | 1999-04-16 | 2002-12-31 | Synetix Technologies | System for playback of network audio material on demand |
JP3711411B2 (ja) | 1999-04-19 | 2005-11-02 | 沖電気工業株式会社 | 音声合成装置 |
AU3675200A (en) | 1999-04-19 | 2000-11-02 | Sanyo Electric Co., Ltd. | Portable telephone set |
US6463413B1 (en) | 1999-04-20 | 2002-10-08 | Matsushita Electrical Industrial Co., Ltd. | Speech recognition training for small hardware devices |
US7558381B1 (en) | 1999-04-22 | 2009-07-07 | Agere Systems Inc. | Retrieval of deleted voice messages in voice messaging system |
JP2000305585A (ja) | 1999-04-23 | 2000-11-02 | Oki Electric Ind Co Ltd | 音声合成装置 |
US6924828B1 (en) | 1999-04-27 | 2005-08-02 | Surfnotes | Method and apparatus for improved information representation |
US7292980B1 (en) | 1999-04-30 | 2007-11-06 | Lucent Technologies Inc. | Graphical user interface and method for modifying pronunciations in text-to-speech and speech recognition systems |
US6697780B1 (en) | 1999-04-30 | 2004-02-24 | At&T Corp. | Method and apparatus for rapid acoustic unit selection from a large speech corpus |
US6459913B2 (en) | 1999-05-03 | 2002-10-01 | At&T Corp. | Unified alerting device and method for alerting a subscriber in a communication network based upon the result of logical functions |
US6505155B1 (en) | 1999-05-06 | 2003-01-07 | International Business Machines Corporation | Method and system for automatically adjusting prompt feedback based on predicted recognition accuracy |
GB9910448D0 (en) | 1999-05-07 | 1999-07-07 | Ensigma Ltd | Cancellation of non-stationary interfering signals for speech recognition |
US6766295B1 (en) | 1999-05-10 | 2004-07-20 | Nuance Communications | Adaptation of a speech recognition system across multiple remote sessions with a speaker |
US6741264B1 (en) | 1999-05-11 | 2004-05-25 | Gific Corporation | Method of generating an audible indication of data stored in a database |
EP1052566A1 (en) | 1999-05-14 | 2000-11-15 | Alcatel | Graphical user interface |
JP2000331004A (ja) | 1999-05-17 | 2000-11-30 | Fujitsu Ltd | 検索カートシステム |
US6928149B1 (en) | 1999-05-17 | 2005-08-09 | Interwoven, Inc. | Method and apparatus for a user controlled voicemail management system |
US6161944A (en) | 1999-05-18 | 2000-12-19 | Micron Electronics, Inc. | Retractable keyboard illumination device |
US7821503B2 (en) | 2003-04-09 | 2010-10-26 | Tegic Communications, Inc. | Touch screen and graphical user interface |
US7286115B2 (en) | 2000-05-26 | 2007-10-23 | Tegic Communications, Inc. | Directional input system with automatic correction |
FR2794322B1 (fr) | 1999-05-27 | 2001-06-22 | Sagem | Procede de suppression de bruit |
US7030863B2 (en) | 2000-05-26 | 2006-04-18 | America Online, Incorporated | Virtual keyboard system with automatic correction |
EP1192716B1 (en) | 1999-05-27 | 2009-09-23 | Tegic Communications, Inc. | Keyboard system with automatic correction |
JP2003505778A (ja) | 1999-05-28 | 2003-02-12 | セーダ インコーポレイテッド | 音声制御ユーザインタフェース用の認識文法作成の特定用途を有する句ベースの対話モデル化 |
US20020032564A1 (en) | 2000-04-19 | 2002-03-14 | Farzad Ehsani | Phrase-based dialogue modeling with particular application to creating a recognition grammar for a voice-controlled user interface |
BR0006168A (pt) | 1999-05-28 | 2001-04-17 | Matsushita Electric Ind Co Ltd | Cartão de memória de semicondutor, aparelho de reprodução, aparelho de gravação, processo de reprodução, processo de gravação, e um meio de armazenamento legìvel por computador |
JP2000339137A (ja) | 1999-05-31 | 2000-12-08 | Sanyo Electric Co Ltd | 電子メール受信システム |
US6728675B1 (en) | 1999-06-03 | 2004-04-27 | International Business Machines Corporatiion | Data processor controlled display system with audio identifiers for overlapping windows in an interactive graphical user interface |
US6931384B1 (en) | 1999-06-04 | 2005-08-16 | Microsoft Corporation | System and method providing utility-based decision making about clarification dialog given communicative uncertainty |
US20140098247A1 (en) | 1999-06-04 | 2014-04-10 | Ip Holdings, Inc. | Home Automation And Smart Home Control Using Mobile Devices And Wireless Enabled Electrical Switches |
US6598039B1 (en) | 1999-06-08 | 2003-07-22 | Albert-Inc. S.A. | Natural language interface for searching database |
US6701305B1 (en) | 1999-06-09 | 2004-03-02 | The Boeing Company | Methods, apparatus and computer program products for information retrieval and document classification utilizing a multidimensional subspace |
US6615175B1 (en) | 1999-06-10 | 2003-09-02 | Robert F. Gazdzinski | “Smart” elevator system and method |
US8065155B1 (en) | 1999-06-10 | 2011-11-22 | Gazdzinski Robert F | Adaptive advertising apparatus and methods |
US7093693B1 (en) | 1999-06-10 | 2006-08-22 | Gazdzinski Robert F | Elevator access control system and method |
US7711565B1 (en) | 1999-06-10 | 2010-05-04 | Gazdzinski Robert F | “Smart” elevator system and method |
US6611802B2 (en) | 1999-06-11 | 2003-08-26 | International Business Machines Corporation | Method and system for proofreading and correcting dictated text |
US6658577B2 (en) | 1999-06-14 | 2003-12-02 | Apple Computer, Inc. | Breathing status LED indicator |
JP2000352988A (ja) | 1999-06-14 | 2000-12-19 | Nippon Telegr & Teleph Corp <Ntt> | 自動ヘッダ抽出機能付き選択読み上げ処理方法ならびにそのためのプログラムを記録した記録媒体 |
US6711585B1 (en) | 1999-06-15 | 2004-03-23 | Kanisa Inc. | System and method for implementing a knowledge management system |
US6401065B1 (en) | 1999-06-17 | 2002-06-04 | International Business Machines Corporation | Intelligent keyboard interface with use of human language processing |
US6785869B1 (en) | 1999-06-17 | 2004-08-31 | International Business Machines Corporation | Method and apparatus for providing a central dictionary and glossary server |
US6507829B1 (en) | 1999-06-18 | 2003-01-14 | Ppd Development, Lp | Textual data classification method and apparatus |
US7190883B2 (en) | 1999-06-18 | 2007-03-13 | Intel Corporation | Systems and methods for fast random access and backward playback of video frames using decoded frame cache |
US6347296B1 (en) | 1999-06-23 | 2002-02-12 | International Business Machines Corp. | Correcting speech recognition without first presenting alternatives |
JP2001014319A (ja) | 1999-06-28 | 2001-01-19 | Nissan Motor Co Ltd | ハイパーテキストアクセス装置 |
US6321179B1 (en) | 1999-06-29 | 2001-11-20 | Xerox Corporation | System and method for using noisy collaborative filtering to rank and present items |
JP2001014306A (ja) | 1999-06-30 | 2001-01-19 | Sony Corp | 電子文書処理方法及び電子文書処理装置並びに電子文書処理プログラムが記録された記録媒体 |
AUPQ138199A0 (en) | 1999-07-02 | 1999-07-29 | Telstra R & D Management Pty Ltd | A search system |
US6321196B1 (en) | 1999-07-02 | 2001-11-20 | International Business Machines Corporation | Phonetic spelling for speech recognition |
US6615176B2 (en) | 1999-07-13 | 2003-09-02 | International Business Machines Corporation | Speech enabling labeless controls in an existing graphical user interface |
US6442518B1 (en) | 1999-07-14 | 2002-08-27 | Compaq Information Technologies Group, L.P. | Method for refining time alignments of closed captions |
JP3662780B2 (ja) | 1999-07-16 | 2005-06-22 | 日本電気株式会社 | 自然言語を用いた対話システム |
US6904405B2 (en) | 1999-07-17 | 2005-06-07 | Edwin A. Suominen | Message recognition using shared language model |
DE60019301T2 (de) | 1999-07-21 | 2006-03-09 | Lucent Technologies Inc. | Verbesserte text-zu-sprache umsetzung |
JP3361291B2 (ja) | 1999-07-23 | 2003-01-07 | コナミ株式会社 | 音声合成方法、音声合成装置及び音声合成プログラムを記録したコンピュータ読み取り可能な媒体 |
EP1328871A2 (en) | 1999-07-23 | 2003-07-23 | Merck & Co., Inc. | Method and storage/retrieval system of chemical substances in a database |
US8648692B2 (en) | 1999-07-23 | 2014-02-11 | Seong Sang Investments Llc | Accessing an automobile with a transponder |
US6952155B2 (en) | 1999-07-23 | 2005-10-04 | Himmelstein Richard B | Voice-controlled security system with proximity detector |
JP2001034290A (ja) | 1999-07-26 | 2001-02-09 | Omron Corp | 音声応答装置および方法、並びに記録媒体 |
US6421672B1 (en) | 1999-07-27 | 2002-07-16 | Verizon Services Corp. | Apparatus for and method of disambiguation of directory listing searches utilizing multiple selectable secondary search keys |
JP4019563B2 (ja) | 1999-07-27 | 2007-12-12 | ソニー株式会社 | 移動体通信装置及び移動体通信方法 |
IL131135A0 (en) | 1999-07-27 | 2001-01-28 | Electric Lighthouse Software L | A method and system for electronic mail |
US6628808B1 (en) | 1999-07-28 | 2003-09-30 | Datacard Corporation | Apparatus and method for verifying a scanned image |
EP1384163B1 (en) | 1999-07-30 | 2007-04-18 | Microsoft Corporation | Method and system for prioritized alerts |
US6553263B1 (en) | 1999-07-30 | 2003-04-22 | Advanced Bionics Corporation | Implantable pulse generators using rechargeable zero-volt technology lithium-ion batteries |
US7120865B1 (en) | 1999-07-30 | 2006-10-10 | Microsoft Corporation | Methods for display, notification, and interaction with prioritized messages |
US6493667B1 (en) | 1999-08-05 | 2002-12-10 | International Business Machines Corporation | Enhanced likelihood computation using regression in a speech recognition system |
US6594629B1 (en) | 1999-08-06 | 2003-07-15 | International Business Machines Corporation | Methods and apparatus for audio-visual speech detection and recognition |
US6374226B1 (en) | 1999-08-06 | 2002-04-16 | Sun Microsystems, Inc. | System and method for interfacing speech recognition grammars to individual components of a computer program |
US6763995B1 (en) | 1999-08-09 | 2004-07-20 | Pil, L.L.C. | Method and system for illustrating sound and text |
US8064886B2 (en) | 1999-08-12 | 2011-11-22 | Hewlett-Packard Development Company, L.P. | Control mechanisms for mobile devices |
US7007239B1 (en) | 2000-09-21 | 2006-02-28 | Palm, Inc. | Method and apparatus for accessing a contacts database and telephone services |
US9167073B2 (en) | 1999-08-12 | 2015-10-20 | Hewlett-Packard Development Company, L.P. | Method and apparatus for accessing a contacts database and telephone services |
US7451177B1 (en) | 1999-08-12 | 2008-11-11 | Avintaquin Capital, Llc | System for and method of implementing a closed loop response architecture for electronic commerce |
US6721802B1 (en) | 1999-08-12 | 2004-04-13 | Point2 Technologies Inc. | Method, apparatus and program for the central storage of standardized image data |
US7743188B2 (en) | 1999-08-12 | 2010-06-22 | Palm, Inc. | Method and apparatus for accessing a contacts database and telephone services |
US7069220B2 (en) | 1999-08-13 | 2006-06-27 | International Business Machines Corporation | Method for determining and maintaining dialog focus in a conversational speech system |
JP2001056233A (ja) | 1999-08-17 | 2001-02-27 | Arex:Kk | 車載用音声情報サービス装置及び該装置を利用する音声情報サービスシステム |
US6622121B1 (en) | 1999-08-20 | 2003-09-16 | International Business Machines Corporation | Testing speech recognition systems using test data generated by text-to-speech conversion |
US6792086B1 (en) | 1999-08-24 | 2004-09-14 | Microstrategy, Inc. | Voice network access provider system and method |
US6324512B1 (en) | 1999-08-26 | 2001-11-27 | Matsushita Electric Industrial Co., Ltd. | System and method for allowing family members to access TV contents and program media recorder over telephone or internet |
US6901366B1 (en) | 1999-08-26 | 2005-05-31 | Matsushita Electric Industrial Co., Ltd. | System and method for assessing TV-related information over the internet |
EP1079387A3 (en) | 1999-08-26 | 2003-07-09 | Matsushita Electric Industrial Co., Ltd. | Mechanism for storing information about recorded television broadcasts |
US6513006B2 (en) | 1999-08-26 | 2003-01-28 | Matsushita Electronic Industrial Co., Ltd. | Automatic control of household activity using speech recognition and natural language |
US6862713B1 (en) | 1999-08-31 | 2005-03-01 | International Business Machines Corporation | Interactive process for recognition and evaluation of a partial search query and display of interactive results |
US6697824B1 (en) | 1999-08-31 | 2004-02-24 | Accenture Llp | Relationship management in an E-commerce application framework |
US6601234B1 (en) | 1999-08-31 | 2003-07-29 | Accenture Llp | Attribute dictionary in a business logic services environment |
US6912499B1 (en) | 1999-08-31 | 2005-06-28 | Nortel Networks Limited | Method and apparatus for training a multilingual speech model set |
US6470347B1 (en) | 1999-09-01 | 2002-10-22 | International Business Machines Corporation | Method, system, program, and data structure for a dense array storing character strings |
US6671856B1 (en) | 1999-09-01 | 2003-12-30 | International Business Machines Corporation | Method, system, and program for determining boundaries in a string using a dictionary |
GB2353927B (en) | 1999-09-06 | 2004-02-11 | Nokia Mobile Phones Ltd | User interface for text to speech conversion |
US6448986B1 (en) | 1999-09-07 | 2002-09-10 | Spotware Technologies Llc | Method and system for displaying graphical objects on a display screen |
US6675169B1 (en) | 1999-09-07 | 2004-01-06 | Microsoft Corporation | Method and system for attaching information to words of a trie |
US6779042B1 (en) | 1999-09-10 | 2004-08-17 | Ianywhere Solutions, Inc. | System, method, and computer program product for enabling on-device servers, offline forms, and dynamic ad tracking on mobile devices |
US7127403B1 (en) | 1999-09-13 | 2006-10-24 | Microstrategy, Inc. | System and method for personalizing an interactive voice broadcast of a voice service based on particulars of a request |
US6885734B1 (en) | 1999-09-13 | 2005-04-26 | Microstrategy, Incorporated | System and method for the creation and automatic deployment of personalized, dynamic and interactive inbound and outbound voice services, with real-time interactive voice database queries |
US6836537B1 (en) | 1999-09-13 | 2004-12-28 | Microstrategy Incorporated | System and method for real-time, personalized, dynamic, interactive voice services for information related to existing travel schedule |
US6633932B1 (en) | 1999-09-14 | 2003-10-14 | Texas Instruments Incorporated | Method and apparatus for using a universal serial bus to provide power to a portable electronic device |
DE19943875A1 (de) | 1999-09-14 | 2001-03-15 | Thomson Brandt Gmbh | System zur Sprachsteuerung mit einem Mikrofonarray |
US6217183B1 (en) | 1999-09-15 | 2001-04-17 | Michael Shipman | Keyboard having illuminated keys |
US6918677B2 (en) | 1999-09-15 | 2005-07-19 | Michael Shipman | Illuminated keyboard |
US6601026B2 (en) | 1999-09-17 | 2003-07-29 | Discern Communications, Inc. | Information retrieval by natural language querying |
US7110938B1 (en) | 1999-09-17 | 2006-09-19 | Trados, Inc. | E-services translation portal system |
US7925610B2 (en) | 1999-09-22 | 2011-04-12 | Google Inc. | Determining a meaning of a knowledge item using document-based information |
US6453315B1 (en) | 1999-09-22 | 2002-09-17 | Applied Semantics, Inc. | Meaning-based information organization and retrieval |
US6542868B1 (en) | 1999-09-23 | 2003-04-01 | International Business Machines Corporation | Audio notification management system |
US6463128B1 (en) | 1999-09-29 | 2002-10-08 | Denso Corporation | Adjustable coding detection in a portable telephone |
US6879957B1 (en) | 1999-10-04 | 2005-04-12 | William H. Pechter | Method for producing a speech rendition of text from diphone sounds |
US6963759B1 (en) | 1999-10-05 | 2005-11-08 | Fastmobile, Inc. | Speech recognition technique based on local interrupt detection |
US6868385B1 (en) | 1999-10-05 | 2005-03-15 | Yomobile, Inc. | Method and apparatus for the provision of information signals based upon speech recognition |
US6789231B1 (en) | 1999-10-05 | 2004-09-07 | Microsoft Corporation | Method and system for providing alternatives for text derived from stochastic input sources |
US6505175B1 (en) | 1999-10-06 | 2003-01-07 | Goldman, Sachs & Co. | Order centric tracking system |
US6192253B1 (en) | 1999-10-06 | 2001-02-20 | Motorola, Inc. | Wrist-carried radiotelephone |
US6625583B1 (en) | 1999-10-06 | 2003-09-23 | Goldman, Sachs & Co. | Handheld trading system interface |
DE69904822T2 (de) | 1999-10-07 | 2003-11-06 | Zlatan Ribic | Verfahren und Anordnung zur Aufnahme von Schallsignalen |
US6941275B1 (en) | 1999-10-07 | 2005-09-06 | Remi Swierczek | Music identification system |
US7219123B1 (en) | 1999-10-08 | 2007-05-15 | At Road, Inc. | Portable browser device with adaptive personalization capability |
US7020685B1 (en) | 1999-10-08 | 2006-03-28 | Openwave Systems Inc. | Method and apparatus for providing internet content to SMS-based wireless devices |
US7203721B1 (en) | 1999-10-08 | 2007-04-10 | At Road, Inc. | Portable browser device with voice recognition and feedback capability |
JP3941299B2 (ja) | 1999-10-12 | 2007-07-04 | 三菱電機株式会社 | 音声対話装置 |
US6192340B1 (en) | 1999-10-19 | 2001-02-20 | Max Abecassis | Integration of music from a personal library with real-time information |
AU8030300A (en) | 1999-10-19 | 2001-04-30 | Sony Electronics Inc. | Natural language interface control system |
US6353794B1 (en) | 1999-10-19 | 2002-03-05 | Ar Group, Inc. | Air travel information and computer data compilation, retrieval and display method and system |
US7176372B2 (en) | 1999-10-19 | 2007-02-13 | Medialab Solutions Llc | Interactive digital music recorder and player |
CA2321014C (en) | 1999-10-20 | 2012-06-19 | Paul M. Toupin | Single action audio prompt interface utilising binary state time domain multiple selection protocol |
US6771982B1 (en) | 1999-10-20 | 2004-08-03 | Curo Interactive Incorporated | Single action audio prompt interface utlizing binary state time domain multiple selection protocol |
AU2299701A (en) | 1999-10-22 | 2001-04-30 | Tellme Networks, Inc. | Streaming content over a telephone interface |
US6970915B1 (en) | 1999-11-01 | 2005-11-29 | Tellme Networks, Inc. | Streaming content over a telephone interface |
US6807574B1 (en) | 1999-10-22 | 2004-10-19 | Tellme Networks, Inc. | Method and apparatus for content personalization over a telephone interface |
US6473630B1 (en) | 1999-10-22 | 2002-10-29 | Sony Corporation | Method and apparatus for powering a wireless headset used with a personal electronic device |
JP2001125896A (ja) | 1999-10-26 | 2001-05-11 | Victor Co Of Japan Ltd | 自然言語対話システム |
US7310600B1 (en) | 1999-10-28 | 2007-12-18 | Canon Kabushiki Kaisha | Language recognition using a similarity measure |
US6772195B1 (en) | 1999-10-29 | 2004-08-03 | Electronic Arts, Inc. | Chat clusters for a virtual world application |
GB2355834A (en) | 1999-10-29 | 2001-05-02 | Nokia Mobile Phones Ltd | Speech recognition |
US6725190B1 (en) | 1999-11-02 | 2004-04-20 | International Business Machines Corporation | Method and system for speech reconstruction from speech recognition features, pitch and voicing with resampled basis functions providing reconstruction of the spectral envelope |
US7216079B1 (en) | 1999-11-02 | 2007-05-08 | Speechworks International, Inc. | Method and apparatus for discriminative training of acoustic models of a speech recognition system |
WO2001033569A1 (en) | 1999-11-02 | 2001-05-10 | Iomega Corporation | Portable audio playback device and removable disk drive |
US20030191625A1 (en) | 1999-11-05 | 2003-10-09 | Gorin Allen Louis | Method and system for creating a named entity language model |
US8392188B1 (en) | 1999-11-05 | 2013-03-05 | At&T Intellectual Property Ii, L.P. | Method and system for building a phonotactic model for domain independent speech recognition |
US6535983B1 (en) | 1999-11-08 | 2003-03-18 | 3Com Corporation | System and method for signaling and detecting request for power over ethernet |
US7392185B2 (en) | 1999-11-12 | 2008-06-24 | Phoenix Solutions, Inc. | Speech based learning/training system using semantic decoding |
US7725307B2 (en) | 1999-11-12 | 2010-05-25 | Phoenix Solutions, Inc. | Query engine for processing voice based queries including semantic decoding |
US6633846B1 (en) | 1999-11-12 | 2003-10-14 | Phoenix Solutions, Inc. | Distributed realtime speech recognition system |
US9076448B2 (en) | 1999-11-12 | 2015-07-07 | Nuance Communications, Inc. | Distributed real time speech recognition system |
US6665640B1 (en) | 1999-11-12 | 2003-12-16 | Phoenix Solutions, Inc. | Interactive speech based learning/training system formulating search queries based on natural language parsing of recognized user queries |
US6615172B1 (en) | 1999-11-12 | 2003-09-02 | Phoenix Solutions, Inc. | Intelligent query engine for processing voice based queries |
US6546262B1 (en) | 1999-11-12 | 2003-04-08 | Altec Lansing Technologies, Inc. | Cellular telephone accessory device for a personal computer system |
US7050977B1 (en) | 1999-11-12 | 2006-05-23 | Phoenix Solutions, Inc. | Speech-enabled server for internet website and method |
KR100357098B1 (ko) | 1999-11-12 | 2002-10-19 | 엘지전자 주식회사 | 데이터 방송 수신기의 데이터 정보 표시 방법 및 장치 |
DE19955720C2 (de) | 1999-11-16 | 2002-04-11 | Hosseinzadeh Dolkhani Boris | Verfahren und tragbares Trainingsgerät zum Durchführen eines Trainings |
JP2001148899A (ja) | 1999-11-19 | 2001-05-29 | Matsushita Electric Ind Co Ltd | 通信装置、補聴器、および補聴器の調整方法 |
US7412643B1 (en) | 1999-11-23 | 2008-08-12 | International Business Machines Corporation | Method and apparatus for linking representation and realization data |
US6532446B1 (en) | 1999-11-24 | 2003-03-11 | Openwave Systems Inc. | Server based speech recognition user interface for wireless devices |
US6490547B1 (en) | 1999-12-07 | 2002-12-03 | International Business Machines Corporation | Just in time localization |
US6526382B1 (en) | 1999-12-07 | 2003-02-25 | Comverse, Inc. | Language-oriented user interfaces for voice activated services |
US20040268253A1 (en) | 1999-12-07 | 2004-12-30 | Microsoft Corporation | Method and apparatus for installing and using reference materials in conjunction with reading electronic content |
US7337389B1 (en) | 1999-12-07 | 2008-02-26 | Microsoft Corporation | System and method for annotating an electronic document independently of its content |
US6755743B1 (en) | 1999-12-08 | 2004-06-29 | Kabushiki Kaisha Sega Enterprises | Communication game system and processing method thereof |
US6340937B1 (en) | 1999-12-09 | 2002-01-22 | Matej Stepita-Klauco | System and method for mapping multiple identical consecutive keystrokes to replacement characters |
US20010030660A1 (en) | 1999-12-10 | 2001-10-18 | Roustem Zainoulline | Interactive graphical user interface and method for previewing media products |
GB2357395A (en) | 1999-12-14 | 2001-06-20 | Nokia Mobile Phones Ltd | Message exchange between wireless terminals. |
US7024363B1 (en) | 1999-12-14 | 2006-04-04 | International Business Machines Corporation | Methods and apparatus for contingent transfer and execution of spoken language interfaces |
US6377925B1 (en) | 1999-12-16 | 2002-04-23 | Interactive Solutions, Inc. | Electronic translator for assisting communications |
US6978127B1 (en) | 1999-12-16 | 2005-12-20 | Koninklijke Philips Electronics N.V. | Hand-ear user interface for hand-held device |
US7089292B1 (en) | 1999-12-20 | 2006-08-08 | Vulcan Patents, Llc | Interface including non-visual display for use in browsing an indexed collection of electronic content |
US7434177B1 (en) | 1999-12-20 | 2008-10-07 | Apple Inc. | User interface for providing consolidation and access |
US6760412B1 (en) | 1999-12-21 | 2004-07-06 | Nortel Networks Limited | Remote reminder of scheduled events |
US6397186B1 (en) | 1999-12-22 | 2002-05-28 | Ambush Interactive, Inc. | Hands-free, voice-operated remote control transmitter |
US20060184886A1 (en) | 1999-12-22 | 2006-08-17 | Urbanpixel Inc. | Spatial chat in a multiple browser environment |
JP2001188781A (ja) | 1999-12-28 | 2001-07-10 | Sony Corp | 会話処理装置および方法、並びに記録媒体 |
US20020072915A1 (en) | 1999-12-29 | 2002-06-13 | Bower Ian L. | Hyperspeech system and method |
DE19963812A1 (de) | 1999-12-30 | 2001-07-05 | Nokia Mobile Phones Ltd | Verfahren zum Erkennen einer Sprache und zum Steuern einer Sprachsyntheseeinheit sowie Kommunikationsvorrichtung |
US6526395B1 (en) | 1999-12-31 | 2003-02-25 | Intel Corporation | Application of personality models and interaction with synthetic characters in a computing system |
US20030078779A1 (en) | 2000-01-04 | 2003-04-24 | Adesh Desai | Interactive voice response system |
US20010042107A1 (en) | 2000-01-06 | 2001-11-15 | Palm Stephen R. | Networked audio player transport protocol and architecture |
US7024366B1 (en) | 2000-01-10 | 2006-04-04 | Delphi Technologies, Inc. | Speech recognition with user specific adaptive voice feedback |
US6556983B1 (en) | 2000-01-12 | 2003-04-29 | Microsoft Corporation | Methods and apparatus for finding semantic information, such as usage logs, similar to a query using a pattern lattice data space |
AU2001229402A1 (en) | 2000-01-13 | 2001-07-24 | Digimarc Corporation | Authenticating metadata and embedding metadata in watermarks of media signals |
US6546388B1 (en) | 2000-01-14 | 2003-04-08 | International Business Machines Corporation | Metadata search results ranking system |
US8271287B1 (en) | 2000-01-14 | 2012-09-18 | Alcatel Lucent | Voice command remote control system |
US6661438B1 (en) | 2000-01-18 | 2003-12-09 | Seiko Epson Corporation | Display apparatus and portable information processing apparatus |
US6809724B1 (en) | 2000-01-18 | 2004-10-26 | Seiko Epson Corporation | Display apparatus and portable information processing apparatus |
US6701294B1 (en) | 2000-01-19 | 2004-03-02 | Lucent Technologies, Inc. | User interface for translating natural language inquiries into database queries and data presentations |
US20020055934A1 (en) | 2000-01-24 | 2002-05-09 | Lipscomb Kenneth O. | Dynamic management and organization of media assets in a media player device |
US6732142B1 (en) | 2000-01-25 | 2004-05-04 | International Business Machines Corporation | Method and apparatus for audible presentation of web page content |
US6751621B1 (en) | 2000-01-27 | 2004-06-15 | Manning & Napier Information Services, Llc. | Construction of trainable semantic vectors and clustering, classification, and searching using trainable semantic vectors |
US6269712B1 (en) | 2000-01-28 | 2001-08-07 | John Zentmyer | Automotive full locking differential |
US8374875B2 (en) | 2000-01-31 | 2013-02-12 | Intel Corporation | Providing programming information in response to spoken requests |
US6813607B1 (en) | 2000-01-31 | 2004-11-02 | International Business Machines Corporation | Translingual visual speech synthesis |
US7006973B1 (en) | 2000-01-31 | 2006-02-28 | Intel Corporation | Providing information in response to spoken requests |
TW468323B (en) | 2000-02-01 | 2001-12-11 | Inventec Corp | Method of automatically performing the set mobile phone command in the designated time period |
US20030028380A1 (en) | 2000-02-02 | 2003-02-06 | Freeland Warwick Peter | Speech system |
US6829603B1 (en) | 2000-02-02 | 2004-12-07 | International Business Machines Corp. | System, method and program product for interactive natural dialog |
US20010041021A1 (en) | 2000-02-04 | 2001-11-15 | Boyle Dennis J. | System and method for synchronization of image data between a handheld device and a computer |
GB2359177A (en) | 2000-02-08 | 2001-08-15 | Nokia Corp | Orientation sensitive display and selection mechanism |
US7149964B1 (en) | 2000-02-09 | 2006-12-12 | Microsoft Corporation | Creation and delivery of customized content |
US6728934B1 (en) | 2000-02-10 | 2004-04-27 | Philip M. Scopes | Touch tone voice internet service |
US6895558B1 (en) | 2000-02-11 | 2005-05-17 | Microsoft Corporation | Multi-access mode electronic personal assistant |
US6871346B1 (en) | 2000-02-11 | 2005-03-22 | Microsoft Corp. | Back-end decoupled management model and management system utilizing same |
US6640098B1 (en) | 2000-02-14 | 2003-10-28 | Action Engine Corporation | System for obtaining service-related information for local interactive wireless devices |
US6434529B1 (en) | 2000-02-16 | 2002-08-13 | Sun Microsystems, Inc. | System and method for referencing object instances and invoking methods on those object instances from within a speech recognition grammar |
US6606388B1 (en) | 2000-02-17 | 2003-08-12 | Arboretum Systems, Inc. | Method and system for enhancing audio signals |
GB2365676B (en) | 2000-02-18 | 2004-06-23 | Sensei Ltd | Mobile telephone with improved man-machine interface |
US6850775B1 (en) | 2000-02-18 | 2005-02-01 | Phonak Ag | Fitting-anlage |
US20020137505A1 (en) | 2000-02-18 | 2002-09-26 | Eiche Steven A. | Audio detection for hands-free wireless |
GB2360106B (en) | 2000-02-21 | 2004-09-22 | Ac Properties Bv | Ordering playable works |
US6760754B1 (en) | 2000-02-22 | 2004-07-06 | At&T Corp. | System, method and apparatus for communicating via sound messages and personal sound identifiers |
US20010056342A1 (en) | 2000-02-24 | 2001-12-27 | Piehn Thomas Barry | Voice enabled digital camera and language translator |
US20020055844A1 (en) | 2000-02-25 | 2002-05-09 | L'esperance Lauren | Speech user interface for portable personal devices |
US6847979B2 (en) | 2000-02-25 | 2005-01-25 | Synquiry Technologies, Ltd | Conceptual factoring and unification of graphs representing semantic models |
WO2001065413A1 (en) | 2000-02-28 | 2001-09-07 | C.G.I. Technologies, Llc | Staged image delivery system |
US6499016B1 (en) | 2000-02-28 | 2002-12-24 | Flashpoint Technology, Inc. | Automatically storing and presenting digital images using a speech-based command language |
US6934394B1 (en) | 2000-02-29 | 2005-08-23 | Logitech Europe S.A. | Universal four-channel surround sound speaker system for multimedia computer audio sub-systems |
US6519566B1 (en) | 2000-03-01 | 2003-02-11 | International Business Machines Corporation | Method for hands-free operation of a pointer |
US6720980B1 (en) | 2000-03-01 | 2004-04-13 | Microsoft Corporation | Method and system for embedding voice notes |
US6490560B1 (en) | 2000-03-01 | 2002-12-03 | International Business Machines Corporation | Method and system for non-intrusive speaker verification using behavior models |
US6248946B1 (en) | 2000-03-01 | 2001-06-19 | Ijockey, Inc. | Multimedia content delivery system and method |
US6895380B2 (en) | 2000-03-02 | 2005-05-17 | Electro Standards Laboratories | Voice actuation with contextual learning for intelligent machine control |
US6449620B1 (en) | 2000-03-02 | 2002-09-10 | Nimble Technology, Inc. | Method and apparatus for generating information pages using semi-structured data stored in a structured manner |
US6642940B1 (en) | 2000-03-03 | 2003-11-04 | Massachusetts Institute Of Technology | Management of properties for hyperlinked video |
US6597345B2 (en) | 2000-03-03 | 2003-07-22 | Jetway Technologies Ltd. | Multifunctional keypad on touch screen |
WO2001067225A2 (en) | 2000-03-06 | 2001-09-13 | Kanisa Inc. | A system and method for providing an intelligent multi-step dialog with a user |
US6757362B1 (en) | 2000-03-06 | 2004-06-29 | Avaya Technology Corp. | Personal virtual assistant |
US6466654B1 (en) | 2000-03-06 | 2002-10-15 | Avaya Technology Corp. | Personal virtual assistant with semantic tagging |
US6721489B1 (en) | 2000-03-08 | 2004-04-13 | Phatnoise, Inc. | Play list manager |
US6477488B1 (en) | 2000-03-10 | 2002-11-05 | Apple Computer, Inc. | Method for dynamic context scope selection in hybrid n-gram+LSA language modeling |
US6615220B1 (en) | 2000-03-14 | 2003-09-02 | Oracle International Corporation | Method and mechanism for data consolidation |
US8024415B2 (en) | 2001-03-16 | 2011-09-20 | Microsoft Corporation | Priorities generation and management |
US8645137B2 (en) | 2000-03-16 | 2014-02-04 | Apple Inc. | Fast, language-independent method for user authentication by voice |
US7243130B2 (en) | 2000-03-16 | 2007-07-10 | Microsoft Corporation | Notification platform architecture |
US7634528B2 (en) | 2000-03-16 | 2009-12-15 | Microsoft Corporation | Harnessing information about the timing of a user's client-server interactions to enhance messaging and collaboration services |
US6260011B1 (en) | 2000-03-20 | 2001-07-10 | Microsoft Corporation | Methods and apparatus for automatically synchronizing electronic audio files with electronic text files |
US6510417B1 (en) | 2000-03-21 | 2003-01-21 | America Online, Inc. | System and method for voice access to internet-based information |
KR20000030847A (ko) | 2000-03-21 | 2000-06-05 | 전대식 | 인터넷 통합서비스 시스템 및 이 시스템에 접근하는 것을용이하게 하기 위한 사용자 인터페이스장치 |
US6757646B2 (en) | 2000-03-22 | 2004-06-29 | Insightful Corporation | Extended functionality for an inverse inference engine based web search |
GB2366009B (en) | 2000-03-22 | 2004-07-21 | Canon Kk | Natural language machine interface |
US6934684B2 (en) | 2000-03-24 | 2005-08-23 | Dialsurf, Inc. | Voice-interactive marketplace providing promotion and promotion tracking, loyalty reward and redemption, and other features |
US6658389B1 (en) | 2000-03-24 | 2003-12-02 | Ahmet Alpdemir | System, method, and business model for speech-interactive information system having business self-promotion, audio coupon and rating features |
US20020035474A1 (en) | 2000-07-18 | 2002-03-21 | Ahmet Alpdemir | Voice-interactive marketplace providing time and money saving benefits and real-time promotion publishing and feedback |
US6272464B1 (en) | 2000-03-27 | 2001-08-07 | Lucent Technologies Inc. | Method and apparatus for assembling a prediction list of name pronunciation variations for use during speech recognition |
US7187947B1 (en) | 2000-03-28 | 2007-03-06 | Affinity Labs, Llc | System and method for communicating selected information to an electronic device |
US6918086B2 (en) | 2000-03-28 | 2005-07-12 | Ariel S. Rogson | Method and apparatus for updating database of automatic spelling corrections |
JP2001282813A (ja) | 2000-03-29 | 2001-10-12 | Toshiba Corp | マルチメディアデータ検索方法、インデックス情報提供方法、マルチメディアデータ検索装置、インデックスサーバ及びマルチメディアデータ検索サーバ |
US6304844B1 (en) | 2000-03-30 | 2001-10-16 | Verbaltek, Inc. | Spelling speech recognition apparatus and method for communications |
US6694297B2 (en) | 2000-03-30 | 2004-02-17 | Fujitsu Limited | Text information read-out device and music/voice reproduction device incorporating the same |
JP2001282279A (ja) | 2000-03-31 | 2001-10-12 | Canon Inc | 音声情報処理方法及び装置及び記憶媒体 |
US6704015B1 (en) | 2000-03-31 | 2004-03-09 | Ge Mortgage Holdings, Llc | Methods and apparatus for providing a quality control management system |
JP3728172B2 (ja) | 2000-03-31 | 2005-12-21 | キヤノン株式会社 | 音声合成方法および装置 |
JP2003529845A (ja) | 2000-03-31 | 2003-10-07 | アミカイ・インコーポレイテッド | ネットワーク経由の多言語翻訳を提供する方法と装置 |
US7039588B2 (en) | 2000-03-31 | 2006-05-02 | Canon Kabushiki Kaisha | Synthesis unit selection apparatus and method, and storage medium |
WO2001075858A1 (fr) | 2000-04-03 | 2001-10-11 | Yamaha Corporation | Appareil portable, procede d'economie d'energie et procede de compensation du volume sonore, et support portable |
NL1014847C1 (nl) | 2000-04-05 | 2001-10-08 | Minos B V I O | Gegevensoverdracht. |
US7177798B2 (en) | 2000-04-07 | 2007-02-13 | Rensselaer Polytechnic Institute | Natural language interface using constrained intermediate dictionary of results |
FI20001068A (fi) | 2000-04-07 | 2001-10-08 | Nokia Networks Oy | Telekommunikaatiojärjestelmä |
US6721734B1 (en) | 2000-04-18 | 2004-04-13 | Claritech Corporation | Method and apparatus for information management using fuzzy typing |
US6578022B1 (en) | 2000-04-18 | 2003-06-10 | Icplanet Corporation | Interactive intelligent searching with executable suggestions |
US7478129B1 (en) | 2000-04-18 | 2009-01-13 | Helen Jeanne Chemtob | Method and apparatus for providing group interaction via communications networks |
US7124164B1 (en) | 2001-04-17 | 2006-10-17 | Chemtob Helen J | Method and apparatus for providing group interaction via communications networks |
US6976090B2 (en) | 2000-04-20 | 2005-12-13 | Actona Technologies Ltd. | Differentiated content and application delivery via internet |
US6963841B2 (en) | 2000-04-21 | 2005-11-08 | Lessac Technology, Inc. | Speech training method with alternative proper pronunciation database |
US6865533B2 (en) | 2000-04-21 | 2005-03-08 | Lessac Technology Inc. | Text to speech |
US7194186B1 (en) | 2000-04-21 | 2007-03-20 | Vulcan Patents Llc | Flexible marking of recording data by a recording unit |
US7315809B2 (en) | 2000-04-24 | 2008-01-01 | Microsoft Corporation | Computer-aided reading system and method with cross-language reading wizard |
US6917373B2 (en) | 2000-12-28 | 2005-07-12 | Microsoft Corporation | Context sensitive labels for an electronic device |
US6413792B1 (en) | 2000-04-24 | 2002-07-02 | Eagle Research Development, Llc | Ultra-fast nucleic acid sequencing device and a method for making and using the same |
US7107204B1 (en) | 2000-04-24 | 2006-09-12 | Microsoft Corporation | Computer-aided writing system and method with cross-language writing wizard |
US6829607B1 (en) | 2000-04-24 | 2004-12-07 | Microsoft Corporation | System and method for facilitating user input by automatically providing dynamically generated completion information |
US6810379B1 (en) | 2000-04-24 | 2004-10-26 | Sensory, Inc. | Client/server architecture for text-to-speech synthesis |
US7058888B1 (en) | 2000-04-25 | 2006-06-06 | Microsoft Corporation | Multi-modal text editing correction |
WO2001082031A2 (en) * | 2000-04-26 | 2001-11-01 | Portable Internet Inc. | Portable internet services |
WO2001084535A2 (en) | 2000-05-02 | 2001-11-08 | Dragon Systems, Inc. | Error correction in speech recognition |
US7162482B1 (en) | 2000-05-03 | 2007-01-09 | Musicmatch, Inc. | Information retrieval engine |
AU2001259826A1 (en) * | 2000-05-03 | 2001-11-12 | Daniel Schoeffler | Method of enabling transmission and reception of communication when current destination for recipient is unknown to sender |
US6654720B1 (en) | 2000-05-09 | 2003-11-25 | International Business Machines Corporation | Method and system for voice control enabling device in a service discovery network |
US6784901B1 (en) | 2000-05-09 | 2004-08-31 | There | Method, system and computer program product for the delivery of a chat message in a 3D multi-user environment |
NZ523065A (en) | 2000-05-11 | 2004-11-26 | Nes Stewart Irvine | A graphical user interface where a procedure is activated by movement of a pointer over a predetermined path |
US8024419B2 (en) | 2000-05-12 | 2011-09-20 | Sony Corporation | Method and system for remote access of personal music |
KR100867760B1 (ko) | 2000-05-15 | 2008-11-10 | 소니 가부시끼 가이샤 | 재생장치, 재생방법 및 기록매체 |
JP2001325052A (ja) | 2000-05-17 | 2001-11-22 | Sharp Corp | エージェント表示装置、エージェント表示方法およびエージェント表示プログラムを記録した記録媒体 |
US6873953B1 (en) | 2000-05-22 | 2005-03-29 | Nuance Communications | Prosody based endpoint detection |
US8463912B2 (en) | 2000-05-23 | 2013-06-11 | Media Farm, Inc. | Remote displays in mobile communication networks |
WO2001091109A1 (en) | 2000-05-24 | 2001-11-29 | Stars 1-To-1 | Interactive voice communication method and system for information and entertainment |
JP3728177B2 (ja) | 2000-05-24 | 2005-12-21 | キヤノン株式会社 | 音声処理システム、装置、方法及び記憶媒体 |
FR2809509B1 (fr) | 2000-05-26 | 2003-09-12 | Bull Sa | Systeme et procede d'internationalisation du contenu de documents a balises dans un systeme informatique |
US6910007B2 (en) | 2000-05-31 | 2005-06-21 | At&T Corp | Stochastic modeling of spectral adjustment for high quality pitch modification |
GB2364850B (en) | 2000-06-02 | 2004-12-29 | Ibm | System and method for automatic voice message processing |
EP1160764A1 (en) | 2000-06-02 | 2001-12-05 | Sony France S.A. | Morphological categories for voice synthesis |
US6735562B1 (en) | 2000-06-05 | 2004-05-11 | Motorola, Inc. | Method for estimating a confidence measure for a speech recognition system |
US6754504B1 (en) | 2000-06-10 | 2004-06-22 | Motorola, Inc. | Method and apparatus for controlling environmental conditions using a personal area network |
AU2001268293A1 (en) | 2000-06-12 | 2001-12-24 | L And H Holdings Usa, Inc. | Using utterance-level confidence estimates |
US6889361B1 (en) | 2000-06-13 | 2005-05-03 | International Business Machines Corporation | Educational spell checker |
US6839742B1 (en) | 2000-06-14 | 2005-01-04 | Hewlett-Packard Development Company, L.P. | World wide contextual navigation |
DE10030105A1 (de) | 2000-06-19 | 2002-01-03 | Bosch Gmbh Robert | Spracherkennungseinrichtung |
WO2001098942A2 (en) | 2000-06-19 | 2001-12-27 | Lernout & Hauspie Speech Products N.V. | Package driven parsing using structure function grammar |
US6680675B1 (en) | 2000-06-21 | 2004-01-20 | Fujitsu Limited | Interactive to-do list item notification system including GPS interface |
US6591379B1 (en) | 2000-06-23 | 2003-07-08 | Microsoft Corporation | Method and system for injecting an exception to recover unsaved data |
US6986104B2 (en) | 2000-06-26 | 2006-01-10 | Silver Creek Systems, Inc. | Method and apparatus for normalizing and converting structured content |
US6336727B1 (en) | 2000-06-27 | 2002-01-08 | International Business Machines Corporation | Pointing device keyboard light |
US7080315B1 (en) | 2000-06-28 | 2006-07-18 | International Business Machines Corporation | Method and apparatus for coupling a visual browser to a voice browser |
JP2002014954A (ja) | 2000-06-28 | 2002-01-18 | Toshiba Corp | 中国語入力変換処理装置、中国語入力変換処理方法及び記録媒体 |
JP3573688B2 (ja) | 2000-06-28 | 2004-10-06 | 松下電器産業株式会社 | 類似文書検索装置及び関連キーワード抽出装置 |
JP3524846B2 (ja) | 2000-06-29 | 2004-05-10 | 株式会社Ssr | テキストマイニングにおける文書の特徴量抽出方法及びその装置 |
US7487112B2 (en) | 2000-06-29 | 2009-02-03 | Barnes Jr Melvin L | System, method, and computer program product for providing location based services and mobile e-commerce |
US6823311B2 (en) | 2000-06-29 | 2004-11-23 | Fujitsu Limited | Data processing system for vocalizing web content |
DE10031008A1 (de) | 2000-06-30 | 2002-01-10 | Nokia Mobile Phones Ltd | Verfahren zum Zusammensetzen von Sätzen zur Sprachausgabe |
US7020587B1 (en) | 2000-06-30 | 2006-03-28 | Microsoft Corporation | Method and apparatus for generating and managing a language model data structure |
US6691111B2 (en) | 2000-06-30 | 2004-02-10 | Research In Motion Limited | System and method for implementing a natural language user interface |
US7277855B1 (en) | 2000-06-30 | 2007-10-02 | At&T Corp. | Personalized text-to-speech services |
JP2002083152A (ja) | 2000-06-30 | 2002-03-22 | Victor Co Of Japan Ltd | コンテンツ配信システム及び携帯端末プレーヤ及びコンテンツプロバイダ |
US6684187B1 (en) | 2000-06-30 | 2004-01-27 | At&T Corp. | Method and system for preselection of suitable units for concatenative speech |
US6505158B1 (en) | 2000-07-05 | 2003-01-07 | At&T Corp. | Synthesis-based pre-selection of suitable units for concatenative speech |
US6662023B1 (en) | 2000-07-06 | 2003-12-09 | Nokia Mobile Phones Ltd. | Method and apparatus for controlling and securing mobile phones that are lost, stolen or misused |
US6240362B1 (en) | 2000-07-10 | 2001-05-29 | Iap Intermodal, Llc | Method to schedule a vehicle in real-time to transport freight and passengers |
JP3949356B2 (ja) | 2000-07-12 | 2007-07-25 | 三菱電機株式会社 | 音声対話システム |
US6925307B1 (en) | 2000-07-13 | 2005-08-02 | Gtech Global Services Corporation | Mixed-mode interaction |
US7389225B1 (en) | 2000-10-18 | 2008-06-17 | Novell, Inc. | Method and mechanism for superpositioning state vectors in a semantic abstract |
US6598021B1 (en) | 2000-07-13 | 2003-07-22 | Craig R. Shambaugh | Method of modifying speech to provide a user selectable dialect |
US7672952B2 (en) | 2000-07-13 | 2010-03-02 | Novell, Inc. | System and method of semantic correlation of rich content |
US7653530B2 (en) | 2000-07-13 | 2010-01-26 | Novell, Inc. | Method and mechanism for the creation, maintenance, and comparison of semantic abstracts |
TW521266B (en) | 2000-07-13 | 2003-02-21 | Verbaltek Inc | Perceptual phonetic feature speech recognition system and method |
JP2002033794A (ja) | 2000-07-14 | 2002-01-31 | Matsushita Electric Ind Co Ltd | 携帯型無線通信装置 |
US6621892B1 (en) | 2000-07-14 | 2003-09-16 | America Online, Inc. | System and method for converting electronic mail text to audio for telephonic delivery |
US7289102B2 (en) | 2000-07-17 | 2007-10-30 | Microsoft Corporation | Method and apparatus using multiple sensors in a device with a display |
US8120625B2 (en) | 2000-07-17 | 2012-02-21 | Microsoft Corporation | Method and apparatus using multiple sensors in a device with a display |
JP2002030676A (ja) | 2000-07-18 | 2002-01-31 | Hikari Shobo Kizai Kk | 消火用ホース格納庫の屋外据付けベース |
US6933928B1 (en) | 2000-07-18 | 2005-08-23 | Scott E. Lilienthal | Electronic book player with audio synchronization |
US6633741B1 (en) | 2000-07-19 | 2003-10-14 | John G. Posa | Recap, summary, and auxiliary information generation for electronic books |
US7143040B2 (en) | 2000-07-20 | 2006-11-28 | British Telecommunications Public Limited Company | Interactive dialogues |
US7139709B2 (en) | 2000-07-20 | 2006-11-21 | Microsoft Corporation | Middleware layer between speech related applications and engines |
SE516658C2 (sv) | 2000-07-21 | 2002-02-12 | Ericsson Telefon Ab L M | Förfarande och anordning för förbättrade kortmeddelandetjänster |
US20060143007A1 (en) | 2000-07-24 | 2006-06-29 | Koh V E | User interaction with voice information services |
JP2002041276A (ja) | 2000-07-24 | 2002-02-08 | Sony Corp | 対話型操作支援システム及び対話型操作支援方法、並びに記憶媒体 |
US7308408B1 (en) | 2000-07-24 | 2007-12-11 | Microsoft Corporation | Providing services for an information processing system using an audio interface |
US6789094B2 (en) | 2000-07-25 | 2004-09-07 | Sun Microsystems, Inc. | Method and apparatus for providing extended file attributes in an extended attribute namespace |
KR20020009276A (ko) | 2000-07-25 | 2002-02-01 | 구자홍 | 음악재생기능의 이동통신단말기 및 이동통신단말기에의음악파일 제공방법 |
WO2002010900A2 (en) | 2000-07-28 | 2002-02-07 | Siemens Automotive Corporation | User interface for telematics systems |
US7092928B1 (en) | 2000-07-31 | 2006-08-15 | Quantum Leap Research, Inc. | Intelligent portal engine |
US20020013784A1 (en) | 2000-07-31 | 2002-01-31 | Swanson Raymond H. | Audio data transmission system and method of operation thereof |
US7853664B1 (en) | 2000-07-31 | 2010-12-14 | Landmark Digital Services Llc | Method and system for purchasing pre-recorded music |
JP2002041624A (ja) | 2000-07-31 | 2002-02-08 | Living First:Kk | 不動産情報処理システム及び方法並びに不動産情報処理用ソフトウェアを記録した記録媒体 |
US6714221B1 (en) | 2000-08-03 | 2004-03-30 | Apple Computer, Inc. | Depicting and setting scroll amount |
US20020015064A1 (en) | 2000-08-07 | 2002-02-07 | Robotham John S. | Gesture-based user interface to multi-level and multi-modal sets of bit-maps |
JP2002055935A (ja) | 2000-08-07 | 2002-02-20 | Sony Corp | 情報処理装置および情報処理方法、サービス提供システム、並びに記録媒体 |
US6778951B1 (en) | 2000-08-09 | 2004-08-17 | Concerto Software, Inc. | Information retrieval method with natural language interface |
KR20020013984A (ko) | 2000-08-10 | 2002-02-25 | 한명수,한영수 | 컴퓨터의 음성 인식을 이용한 전화기 시스템, 및 이시스템에 사용되는 베이스 스테이션 셋 |
US20020120697A1 (en) | 2000-08-14 | 2002-08-29 | Curtis Generous | Multi-channel messaging system and method |
JP4197220B2 (ja) | 2000-08-17 | 2008-12-17 | アルパイン株式会社 | 操作装置 |
WO2002015519A2 (en) | 2000-08-17 | 2002-02-21 | Mobileum, Inc. | Method and system for wireless voice channel/data channel integration |
US6915294B1 (en) | 2000-08-18 | 2005-07-05 | Firstrain, Inc. | Method and apparatus for searching network resources |
US20020052747A1 (en) | 2000-08-21 | 2002-05-02 | Sarukkai Ramesh R. | Method and system of interpreting and presenting web content using a voice browser |
US6836759B1 (en) | 2000-08-22 | 2004-12-28 | Microsoft Corporation | Method and system of handling the selection of alternates for recognized words |
JP3075809U (ja) | 2000-08-23 | 2001-03-06 | 新世代株式会社 | カラオケ用マイク |
US6766320B1 (en) | 2000-08-24 | 2004-07-20 | Microsoft Corporation | Search engine with natural language-based robust parsing for user query and relevance feedback learning |
WO2002017128A1 (en) | 2000-08-24 | 2002-02-28 | Science Applications International Corporation | Word sense disambiguation |
WO2002019147A1 (en) | 2000-08-28 | 2002-03-07 | Emotion, Inc. | Method and apparatus for digital media management, retrieval, and collaboration |
TW494323B (en) | 2000-08-29 | 2002-07-11 | Ibm | System and method for locating on a physical document items referenced in another physical document |
NL1016056C2 (nl) | 2000-08-30 | 2002-03-15 | Koninkl Kpn Nv | Methode en systeem voor personalisatie van digitale informatie. |
US7062488B1 (en) | 2000-08-30 | 2006-06-13 | Richard Reisman | Task/domain segmentation in applying feedback to command control |
US7136465B2 (en) | 2000-08-31 | 2006-11-14 | Lamson Holdings Llc | Voice activated, voice responsive product locator system, including product location method utilizing product bar code and product-situated, location-identifying bar code |
DE10042944C2 (de) | 2000-08-31 | 2003-03-13 | Siemens Ag | Graphem-Phonem-Konvertierung |
US6529586B1 (en) | 2000-08-31 | 2003-03-04 | Oracle Cable, Inc. | System and method for gathering, personalized rendering, and secure telephonic transmission of audio data |
US7142934B2 (en) * | 2000-09-01 | 2006-11-28 | Universal Electronics Inc. | Audio converter device and method for using the same |
US6799098B2 (en) | 2000-09-01 | 2004-09-28 | Beltpack Corporation | Remote control system for a locomotive using voice commands |
US6556971B1 (en) | 2000-09-01 | 2003-04-29 | Snap-On Technologies, Inc. | Computer-implemented speech recognition system training |
US20050030175A1 (en) | 2003-08-07 | 2005-02-10 | Wolfe Daniel G. | Security apparatus, system, and method |
US20020052913A1 (en) | 2000-09-06 | 2002-05-02 | Teruhiro Yamada | User support apparatus and system using agents |
JP2002082748A (ja) | 2000-09-06 | 2002-03-22 | Sanyo Electric Co Ltd | ユーザ支援装置 |
GB2366940B (en) | 2000-09-06 | 2004-08-11 | Ericsson Telefon Ab L M | Text language detection |
JP2002082893A (ja) | 2000-09-07 | 2002-03-22 | Hiroyuki Tarumi | チャット手段を有する端末装置、編集装置、チャットサーバ、および記録媒体 |
KR100843112B1 (ko) | 2000-09-07 | 2008-07-02 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 이미지 매칭 |
WO2002021510A1 (en) | 2000-09-08 | 2002-03-14 | Koninklijke Philips Electronics N.V. | Speech recognition method with a replace command |
US20020032591A1 (en) | 2000-09-08 | 2002-03-14 | Agentai, Inc. | Service request processing performed by artificial intelligence systems in conjunctiion with human intervention |
GB2366542B (en) | 2000-09-09 | 2004-02-18 | Ibm | Keyboard illumination for computing devices having backlit displays |
WO2002023796A1 (en) | 2000-09-11 | 2002-03-21 | Sentrycom Ltd. | A biometric-based system and method for enabling authentication of electronic messages sent over a network |
US7095733B1 (en) | 2000-09-11 | 2006-08-22 | Yahoo! Inc. | Voice integrated VOIP system |
US6603837B1 (en) | 2000-09-11 | 2003-08-05 | Kinera, Inc. | Method and system to provide a global integrated messaging services distributed network with personalized international roaming |
US7251507B2 (en) | 2000-09-12 | 2007-07-31 | Matsushita Electric Industrial Co., Ltd. | On-vehicle handsfree system and mobile terminal thereof |
JP3784289B2 (ja) | 2000-09-12 | 2006-06-07 | 松下電器産業株式会社 | メディア編集方法及びその装置 |
US7236932B1 (en) | 2000-09-12 | 2007-06-26 | Avaya Technology Corp. | Method of and apparatus for improving productivity of human reviewers of automatically transcribed documents generated by media conversion systems |
US20040205671A1 (en) | 2000-09-13 | 2004-10-14 | Tatsuya Sukehiro | Natural-language processing system |
US7287009B1 (en) | 2000-09-14 | 2007-10-23 | Raanan Liebermann | System and a method for carrying out personal and business transactions |
EP1319227B1 (en) | 2000-09-15 | 2007-03-14 | Lernout & Hauspie Speech Products N.V. | Fast waveform synchronization for concatenation and time-scale modification of speech |
DE60120062T2 (de) | 2000-09-19 | 2006-11-16 | Thomson Licensing | Sprachsteuerung von elektronischen Geräten |
US6795806B1 (en) | 2000-09-20 | 2004-09-21 | International Business Machines Corporation | Method for enhancing dictation and command discrimination |
HRP20000624A2 (en) | 2000-09-20 | 2001-04-30 | Grabar Ivan | Mp3 jukebox |
JP3818428B2 (ja) | 2000-09-21 | 2006-09-06 | 株式会社セガ | 文字通信装置 |
US7813915B2 (en) | 2000-09-25 | 2010-10-12 | Fujitsu Limited | Apparatus for reading a plurality of documents and a method thereof |
US6704034B1 (en) | 2000-09-28 | 2004-03-09 | International Business Machines Corporation | Method and apparatus for providing accessibility through a context sensitive magnifying glass |
US6999914B1 (en) | 2000-09-28 | 2006-02-14 | Manning And Napier Information Services Llc | Device and method of determining emotive index corresponding to a message |
US20020116420A1 (en) | 2000-09-28 | 2002-08-22 | Allam Scott Gerald | Method and apparatus for displaying and viewing electronic information |
US7216080B2 (en) | 2000-09-29 | 2007-05-08 | Mindfabric Holdings Llc | Natural-language voice-activated personal assistant |
US6836760B1 (en) | 2000-09-29 | 2004-12-28 | Apple Computer, Inc. | Use of semantic inference and context-free grammar with speech recognition system |
US7218226B2 (en) | 2004-03-01 | 2007-05-15 | Apple Inc. | Acceleration-based theft detection system for portable electronic devices |
US6999932B1 (en) | 2000-10-10 | 2006-02-14 | Intel Corporation | Language independent voice-based search system |
US6947728B2 (en) | 2000-10-13 | 2005-09-20 | Matsushita Electric Industrial Co., Ltd. | Mobile phone with music reproduction function, music data reproduction method by mobile phone with music reproduction function, and the program thereof |
US7457750B2 (en) | 2000-10-13 | 2008-11-25 | At&T Corp. | Systems and methods for dynamic re-configurable speech recognition |
US7574272B2 (en) | 2000-10-13 | 2009-08-11 | Eric Paul Gibbs | System and method for data transfer optimization in a portable audio device |
US7219058B1 (en) | 2000-10-13 | 2007-05-15 | At&T Corp. | System and method for processing speech recognition results |
US20020046315A1 (en) | 2000-10-13 | 2002-04-18 | Interactive Objects, Inc. | System and method for mapping interface functionality to codec functionality in a portable audio device |
US7149695B1 (en) | 2000-10-13 | 2006-12-12 | Apple Computer, Inc. | Method and apparatus for speech recognition using semantic inference and word agglomeration |
US7043422B2 (en) | 2000-10-13 | 2006-05-09 | Microsoft Corporation | Method and apparatus for distribution-based language model adaptation |
WO2002031625A2 (en) | 2000-10-13 | 2002-04-18 | Cytaq, Inc. | A system and method of translating a universal query language to sql |
US20020151297A1 (en) | 2000-10-14 | 2002-10-17 | Donald Remboski | Context aware wireless communication device and method |
US6757365B1 (en) | 2000-10-16 | 2004-06-29 | Tellme Networks, Inc. | Instant messaging via telephone interfaces |
US20030046401A1 (en) | 2000-10-16 | 2003-03-06 | Abbott Kenneth H. | Dynamically determing appropriate computer user interfaces |
US6990450B2 (en) | 2000-10-19 | 2006-01-24 | Qwest Communications International Inc. | System and method for converting text-to-voice |
US6862568B2 (en) | 2000-10-19 | 2005-03-01 | Qwest Communications International, Inc. | System and method for converting text-to-voice |
US20020087974A1 (en) | 2000-10-20 | 2002-07-04 | Michael Sprague | System and method of providing relevant interactive content to a broadcast display |
JP4244514B2 (ja) | 2000-10-23 | 2009-03-25 | セイコーエプソン株式会社 | 音声認識方法および音声認識装置 |
JP2002132804A (ja) | 2000-10-24 | 2002-05-10 | Sanyo Electric Co Ltd | ユーザ支援システム |
KR100726582B1 (ko) | 2000-10-25 | 2007-06-11 | 주식회사 케이티 | 무선통신 단말기의 위치 확인에 의한 다국 문자 자판의제공 방법 |
US20020073177A1 (en) | 2000-10-25 | 2002-06-13 | Clark George Philip | Processing content for electronic distribution using a digital rights management system |
US6832194B1 (en) | 2000-10-26 | 2004-12-14 | Sensory, Incorporated | Audio recognition peripheral system |
US6590303B1 (en) | 2000-10-26 | 2003-07-08 | Motorola, Inc. | Single button MP3 player |
US7085716B1 (en) | 2000-10-26 | 2006-08-01 | Nuance Communications, Inc. | Speech recognition using word-in-phrase command |
US7027974B1 (en) | 2000-10-27 | 2006-04-11 | Science Applications International Corporation | Ontology-based parser for natural language processing |
US6795808B1 (en) | 2000-10-30 | 2004-09-21 | Koninklijke Philips Electronics N.V. | User interface/entertainment device that simulates personal interaction and charges external database with relevant data |
IL139347A0 (en) | 2000-10-30 | 2001-11-25 | Speech generating system and method | |
KR100902966B1 (ko) | 2000-10-30 | 2009-06-15 | 마이크로소프트 코포레이션 | 비교를 위해 스트링을 맵핑하는 방법 및 시스템 |
US6731307B1 (en) | 2000-10-30 | 2004-05-04 | Koninklije Philips Electronics N.V. | User interface/entertainment device that simulates personal interaction and responds to user's mental state and/or personality |
US6721706B1 (en) | 2000-10-30 | 2004-04-13 | Koninklijke Philips Electronics N.V. | Environment-responsive user interface/entertainment device that simulates personal interaction |
US6728679B1 (en) | 2000-10-30 | 2004-04-27 | Koninklijke Philips Electronics N.V. | Self-updating user interface/entertainment device that simulates personal interaction |
US20020083068A1 (en) | 2000-10-30 | 2002-06-27 | Quass Dallan W. | Method and apparatus for filling out electronic forms |
US6980953B1 (en) | 2000-10-31 | 2005-12-27 | International Business Machines Corp. | Real-time remote transcription or translation service |
US6970935B1 (en) | 2000-11-01 | 2005-11-29 | International Business Machines Corporation | Conversational networking via transport, coding and control conversational protocols |
US6934756B2 (en) | 2000-11-01 | 2005-08-23 | International Business Machines Corporation | Conversational networking via transport, coding and control conversational protocols |
US7006969B2 (en) | 2000-11-02 | 2006-02-28 | At&T Corp. | System and method of pattern recognition in very high-dimensional space |
JP2002149187A (ja) | 2000-11-07 | 2002-05-24 | Sony Corp | 音声認識装置および音声認識方法、並びに記録媒体 |
US7212827B1 (en) | 2000-11-09 | 2007-05-01 | Agere Systems Inc. | Intelligent reminders for wireless PDA devices |
AU2002226886A1 (en) | 2000-11-09 | 2002-05-21 | Change Tools, Inc. | A user definable interface system, method and computer program product |
TW518482B (en) | 2000-11-10 | 2003-01-21 | Future Display Systems Inc | Method for taking notes on an article displayed by an electronic book |
DE60111329T2 (de) | 2000-11-14 | 2006-03-16 | International Business Machines Corp. | Anpassung des phonetischen Kontextes zur Verbesserung der Spracherkennung |
US7653691B2 (en) | 2000-11-15 | 2010-01-26 | Pacific Datavision Inc. | Systems and methods for communicating using voice messages |
JP2002169588A (ja) | 2000-11-16 | 2002-06-14 | Internatl Business Mach Corp <Ibm> | テキスト表示装置、テキスト表示制御方法、記憶媒体、プログラム伝送装置及び応対支援方法 |
US6807536B2 (en) | 2000-11-16 | 2004-10-19 | Microsoft Corporation | Methods and systems for computing singular value decompositions of matrices and low rank approximations of matrices |
US6502022B1 (en) | 2000-11-16 | 2002-12-31 | International Business Machines Corporation | Method and system for preventing unsafe communication device usage in a vehicle |
KR100551859B1 (ko) | 2000-11-17 | 2006-02-13 | 인피니언 테크놀로지스 노쓰 아메리카 코포레이션 | 패킷 처리 장치 |
US6957076B2 (en) | 2000-11-22 | 2005-10-18 | Denso Corporation | Location specific reminders for wireless mobiles |
US20020152076A1 (en) | 2000-11-28 | 2002-10-17 | Jonathan Kahn | System for permanent alignment of text utterances to their associated audio utterances |
US7013308B1 (en) | 2000-11-28 | 2006-03-14 | Semscript Ltd. | Knowledge storage and retrieval system and method |
US20040085162A1 (en) | 2000-11-29 | 2004-05-06 | Rajeev Agarwal | Method and apparatus for providing a mixed-initiative dialog between a user and a machine |
JP2002169581A (ja) | 2000-11-29 | 2002-06-14 | Matsushita Electric Ind Co Ltd | 音声合成方法およびその装置 |
US6772123B2 (en) | 2000-11-30 | 2004-08-03 | 3Com Corporation | Method and system for performing speech recognition for an internet appliance using a remotely located speech recognition application |
US20020065797A1 (en) | 2000-11-30 | 2002-05-30 | Wizsoft Ltd. | System, method and computer program for automated collaborative filtering of user data |
US6915262B2 (en) | 2000-11-30 | 2005-07-05 | Telesector Resources Group, Inc. | Methods and apparatus for performing speech recognition and using speech recognition results |
GB0029576D0 (en) | 2000-12-02 | 2001-01-17 | Hewlett Packard Co | Voice site personality setting |
US6978239B2 (en) | 2000-12-04 | 2005-12-20 | Microsoft Corporation | Method and apparatus for speech synthesis without prosody modification |
US7113943B2 (en) | 2000-12-06 | 2006-09-26 | Content Analyst Company, Llc | Method for document comparison and selection |
US20020067308A1 (en) | 2000-12-06 | 2002-06-06 | Xerox Corporation | Location/time-based reminder for personal electronic devices |
US20020072816A1 (en) | 2000-12-07 | 2002-06-13 | Yoav Shdema | Audio system |
US7117231B2 (en) | 2000-12-07 | 2006-10-03 | International Business Machines Corporation | Method and system for the automatic generation of multi-lingual synchronized sub-titles for audiovisual data |
US20020072914A1 (en) | 2000-12-08 | 2002-06-13 | Hiyan Alshawi | Method and apparatus for creation and user-customization of speech-enabled services |
US6910186B2 (en) | 2000-12-08 | 2005-06-21 | Kyunam Kim | Graphic chatting with organizational avatars |
US7016847B1 (en) | 2000-12-08 | 2006-03-21 | Ben Franklin Patent Holdings L.L.C. | Open architecture for a voice user interface |
WO2002048866A2 (en) | 2000-12-11 | 2002-06-20 | Microsoft Corporation | Method and system for management of multiple network resources |
US7043420B2 (en) | 2000-12-11 | 2006-05-09 | International Business Machines Corporation | Trainable dynamic phrase reordering for natural language generation in conversational systems |
US7607083B2 (en) | 2000-12-12 | 2009-10-20 | Nec Corporation | Test summarization using relevance measures and latent semantic analysis |
IL140322A0 (en) | 2000-12-14 | 2002-05-23 | Poly Information Ltd | Method and interface for inteligent user machine interaction |
EP1215661A1 (en) | 2000-12-14 | 2002-06-19 | TELEFONAKTIEBOLAGET L M ERICSSON (publ) | Mobile terminal controllable by spoken utterances |
US6718331B2 (en) | 2000-12-14 | 2004-04-06 | International Business Machines Corporation | Method and apparatus for locating inter-enterprise resources using text-based strings |
US20020086268A1 (en) | 2000-12-18 | 2002-07-04 | Zeev Shpiro | Grammar instruction with spoken dialogue |
JP4109414B2 (ja) | 2000-12-18 | 2008-07-02 | セイコーエプソン株式会社 | 音声認識を用いた機器制御方法および音声認識を用いた機器制御システムならびに音声認識を用いた機器制御プログラムを記録した記録媒体 |
EP1346344A1 (en) | 2000-12-18 | 2003-09-24 | Koninklijke Philips Electronics N.V. | Store speech, select vocabulary to recognize word |
US20020077082A1 (en) | 2000-12-18 | 2002-06-20 | Nortel Networks Limited | Voice message presentation on personal wireless devices |
US6910004B2 (en) | 2000-12-19 | 2005-06-21 | Xerox Corporation | Method and computer system for part-of-speech tagging of incomplete sentences |
JP4294853B2 (ja) | 2000-12-19 | 2009-07-15 | アルパイン株式会社 | 操作指示装置 |
US6973336B2 (en) | 2000-12-20 | 2005-12-06 | Nokia Corp | Method and apparatus for providing a notification of received message |
US20040190688A1 (en) | 2003-03-31 | 2004-09-30 | Timmins Timothy A. | Communications methods and systems using voiceprints |
US6762741B2 (en) | 2000-12-22 | 2004-07-13 | Visteon Global Technologies, Inc. | Automatic brightness control system and method for a display device using a logarithmic sensor |
EP1217609A3 (en) | 2000-12-22 | 2004-02-25 | Hewlett-Packard Company | Speech recognition |
AU2002216240A1 (en) | 2000-12-22 | 2002-07-08 | Anthropics Technology Limited | Communication system |
US7197120B2 (en) | 2000-12-22 | 2007-03-27 | Openwave Systems Inc. | Method and system for facilitating mediated communication |
US6738738B2 (en) | 2000-12-23 | 2004-05-18 | Tellme Networks, Inc. | Automated transformation from American English to British English |
US6973427B2 (en) | 2000-12-26 | 2005-12-06 | Microsoft Corporation | Method for adding phonetic descriptions to a speech recognition lexicon |
US7437286B2 (en) | 2000-12-27 | 2008-10-14 | Intel Corporation | Voice barge-in in telephony speech recognition |
TW490655B (en) | 2000-12-27 | 2002-06-11 | Winbond Electronics Corp | Method and device for recognizing authorized users using voice spectrum information |
US6937986B2 (en) | 2000-12-28 | 2005-08-30 | Comverse, Inc. | Automatic dynamic speech recognition vocabulary based on external sources of information |
SE518418C2 (sv) | 2000-12-28 | 2002-10-08 | Ericsson Telefon Ab L M | Ljudbaserad närhetsdetektor |
US20020133347A1 (en) | 2000-12-29 | 2002-09-19 | Eberhard Schoneburg | Method and apparatus for natural language dialog interface |
WO2002054239A2 (en) | 2000-12-29 | 2002-07-11 | General Electric Company | Method and system for identifying repeatedly malfunctioning equipment |
US7254773B2 (en) | 2000-12-29 | 2007-08-07 | International Business Machines Corporation | Automated spell analysis |
US20020087306A1 (en) | 2000-12-29 | 2002-07-04 | Lee Victor Wai Leung | Computer-implemented noise normalization method and system |
KR20020057262A (ko) | 2000-12-30 | 2002-07-11 | 송문섭 | 음성인식을 이용한 이동통신 단말기의 잠금 장치 및 방법 |
US7054419B2 (en) | 2001-01-02 | 2006-05-30 | Soundbite Communications, Inc. | Answering machine detection for voice message delivery method and system |
US7644057B2 (en) | 2001-01-03 | 2010-01-05 | International Business Machines Corporation | System and method for electronic communication management |
US6728681B2 (en) | 2001-01-05 | 2004-04-27 | Charles L. Whitham | Interactive multimedia book |
US6731312B2 (en) | 2001-01-08 | 2004-05-04 | Apple Computer, Inc. | Media player interface |
US7257537B2 (en) | 2001-01-12 | 2007-08-14 | International Business Machines Corporation | Method and apparatus for performing dialog management in a computer conversational interface |
US7085723B2 (en) | 2001-01-12 | 2006-08-01 | International Business Machines Corporation | System and method for determining utterance context in a multi-context speech application |
US7249018B2 (en) | 2001-01-12 | 2007-07-24 | International Business Machines Corporation | System and method for relating syntax and semantics for a conversational speech application |
SE521911C2 (sv) | 2001-01-15 | 2003-12-16 | Decuma Ab Ideon Res Park | Metod, anordning och datorprogram för igenkänning av ett handskrivet tecken |
US7149319B2 (en) | 2001-01-23 | 2006-12-12 | Phonak Ag | Telecommunication system, speech recognizer, and terminal, and method for adjusting capacity for vocal commanding |
US7124300B1 (en) | 2001-01-24 | 2006-10-17 | Palm, Inc. | Handheld computer system configured to authenticate a user and power-up in response to a single action by the user |
US20020099552A1 (en) | 2001-01-25 | 2002-07-25 | Darryl Rubin | Annotating electronic information with audio clips |
US6529608B2 (en) | 2001-01-26 | 2003-03-04 | Ford Global Technologies, Inc. | Speech recognition system |
US7010490B2 (en) | 2001-01-26 | 2006-03-07 | International Business Machines Corporation | Method, system, and apparatus for limiting available selections in a speech recognition system |
US6677932B1 (en) | 2001-01-28 | 2004-01-13 | Finger Works, Inc. | System and method for recognizing touch typing under limited tactile feedback conditions |
GB2374772B (en) | 2001-01-29 | 2004-12-29 | Hewlett Packard Co | Audio user interface |
US6625576B2 (en) | 2001-01-29 | 2003-09-23 | Lucent Technologies Inc. | Method and apparatus for performing text-to-speech conversion in a client/server environment |
JP2002230021A (ja) | 2001-01-30 | 2002-08-16 | Canon Inc | 情報検索装置及び情報検索方法並びに記憶媒体 |
US7123699B2 (en) | 2001-02-01 | 2006-10-17 | Estech Systems, Inc. | Voice mail in a voice over IP telephone system |
US7117442B1 (en) | 2001-02-01 | 2006-10-03 | International Business Machines Corporation | Efficient presentation of database query results through audio user interfaces |
JP2002229955A (ja) | 2001-02-02 | 2002-08-16 | Matsushita Electric Ind Co Ltd | 情報端末装置及び認証システム |
US6964023B2 (en) | 2001-02-05 | 2005-11-08 | International Business Machines Corporation | System and method for multi-modal focus detection, referential ambiguity resolution and mood classification using multi-modal input |
US6983238B2 (en) | 2001-02-07 | 2006-01-03 | American International Group, Inc. | Methods and apparatus for globalizing software |
WO2002063493A1 (en) | 2001-02-08 | 2002-08-15 | 2028, Inc. | Methods and systems for automated semantic knowledge leveraging graph theoretic analysis and the inherent structure of communication |
US20020152255A1 (en) | 2001-02-08 | 2002-10-17 | International Business Machines Corporation | Accessibility on demand |
JP2002236029A (ja) | 2001-02-09 | 2002-08-23 | Alpine Electronics Inc | 音声案内装置 |
US7698652B2 (en) | 2001-02-09 | 2010-04-13 | Koninklijke Philips Electronics N.V. | Rapid retrieval user interface designed around small displays and few buttons for searching long lists |
US8213910B2 (en) | 2001-02-09 | 2012-07-03 | Harris Technology, Llc | Telephone using a connection network for processing data remotely from the telephone |
US6885987B2 (en) | 2001-02-09 | 2005-04-26 | Fastmobile, Inc. | Method and apparatus for encoding and decoding pause information |
US6570557B1 (en) | 2001-02-10 | 2003-05-27 | Finger Works, Inc. | Multi-touch system and method for emulating modifier keys via fingertip chords |
US7030861B1 (en) | 2001-02-10 | 2006-04-18 | Wayne Carl Westerman | System and method for packing multi-touch gestures onto a hand |
US7617099B2 (en) | 2001-02-12 | 2009-11-10 | FortMedia Inc. | Noise suppression by two-channel tandem spectrum modification for speech signal in an automobile |
US7062437B2 (en) | 2001-02-13 | 2006-06-13 | International Business Machines Corporation | Audio renderings for expressing non-audio nuances |
US7395205B2 (en) | 2001-02-13 | 2008-07-01 | International Business Machines Corporation | Dynamic language model mixtures with history-based buckets |
US20020111810A1 (en) | 2001-02-15 | 2002-08-15 | Khan M. Salahuddin | Spatially built word list for automatic speech recognition program and method for formation thereof |
US7171365B2 (en) | 2001-02-16 | 2007-01-30 | International Business Machines Corporation | Tracking time using portable recorders and speech recognition |
US7340389B2 (en) | 2001-02-16 | 2008-03-04 | Microsoft Corporation | Multilanguage UI with localized resources |
US6622136B2 (en) | 2001-02-16 | 2003-09-16 | Motorola, Inc. | Interactive tool for semi-automatic creation of a domain model |
US7013289B2 (en) | 2001-02-21 | 2006-03-14 | Michel Horn | Global electronic commerce system |
US6515239B2 (en) | 2001-02-23 | 2003-02-04 | Gregory Brian Marchant | Motivational apparatus for controlling use of electronic devices and method of use |
US6804677B2 (en) | 2001-02-26 | 2004-10-12 | Ori Software Development Ltd. | Encoding semi-structured data for efficient search and browsing |
US6970820B2 (en) | 2001-02-26 | 2005-11-29 | Matsushita Electric Industrial Co., Ltd. | Voice personalization of speech synthesizer |
US7290039B1 (en) | 2001-02-27 | 2007-10-30 | Microsoft Corporation | Intent based processing |
KR100605854B1 (ko) | 2001-02-28 | 2006-08-01 | 삼성전자주식회사 | 이동통신단말기에서 데이터의 다운로드 및 재생 시 진행시간 표시 방법 |
US8112303B2 (en) * | 2001-02-28 | 2012-02-07 | Digonex Technologies, Inc. | Digital online exchange for pricing items to exhaust inventory by an expiration time |
GB2372864B (en) | 2001-02-28 | 2005-09-07 | Vox Generation Ltd | Spoken language interface |
US6850887B2 (en) | 2001-02-28 | 2005-02-01 | International Business Machines Corporation | Speech recognition in noisy environments |
US20020123804A1 (en) | 2001-03-01 | 2002-09-05 | Allergan Sales, Inc. | Scleral implants for treating presbyopia and methods for implanting the same |
US20030164848A1 (en) | 2001-03-01 | 2003-09-04 | International Business Machines Corporation | Method and apparatus for summarizing content of a document for a visually impaired user |
US6754627B2 (en) | 2001-03-01 | 2004-06-22 | International Business Machines Corporation | Detecting speech recognition errors in an embedded speech recognition system |
US6754626B2 (en) | 2001-03-01 | 2004-06-22 | International Business Machines Corporation | Creating a hierarchical tree of language models for a dialog system based on prompt and dialog context |
US20020123894A1 (en) | 2001-03-01 | 2002-09-05 | International Business Machines Corporation | Processing speech recognition errors in an embedded speech recognition system |
US20020122053A1 (en) | 2001-03-01 | 2002-09-05 | International Business Machines Corporation | Method and apparatus for presenting non-displayed text in Web pages |
US20020166123A1 (en) | 2001-03-02 | 2002-11-07 | Microsoft Corporation | Enhanced television services for digital video recording and playback |
US6721728B2 (en) | 2001-03-02 | 2004-04-13 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | System, method and apparatus for discovering phrases in a database |
US7277853B1 (en) | 2001-03-02 | 2007-10-02 | Mindspeed Technologies, Inc. | System and method for a endpoint detection of speech for improved speech recognition in noisy environments |
US7076738B2 (en) | 2001-03-02 | 2006-07-11 | Semantic Compaction Systems | Computer device, method and article of manufacture for utilizing sequenced symbols to enable programmed application and commands |
AUPR360701A0 (en) | 2001-03-06 | 2001-04-05 | Worldlingo, Inc | Seamless translation system |
US20020126097A1 (en) | 2001-03-07 | 2002-09-12 | Savolainen Sampo Jussi Pellervo | Alphanumeric data entry method and apparatus using reduced keyboard and context related dictionaries |
EP1239459A1 (en) | 2001-03-07 | 2002-09-11 | Sony International (Europe) GmbH | Adaptation of a speech recognizer to a non native speaker pronunciation |
US7000189B2 (en) | 2001-03-08 | 2006-02-14 | International Business Mahcines Corporation | Dynamic data generation suitable for talking browser |
WO2002073595A1 (fr) | 2001-03-08 | 2002-09-19 | Matsushita Electric Industrial Co., Ltd. | Dispositif generateur de prosodie, procede de generation de prosodie, et programme |
US20020173961A1 (en) | 2001-03-09 | 2002-11-21 | Guerra Lisa M. | System, method and computer program product for dynamic, robust and fault tolerant audio output in a speech recognition framework |
US7024364B2 (en) | 2001-03-09 | 2006-04-04 | Bevocal, Inc. | System, method and computer program product for looking up business addresses and directions based on a voice dial-up session |
US7366979B2 (en) | 2001-03-09 | 2008-04-29 | Copernicus Investments, Llc | Method and apparatus for annotating a document |
US7174297B2 (en) | 2001-03-09 | 2007-02-06 | Bevocal, Inc. | System, method and computer program product for a dynamically configurable voice portal |
US20020169605A1 (en) | 2001-03-09 | 2002-11-14 | Damiba Bertrand A. | System, method and computer program product for self-verifying file content in a speech recognition framework |
WO2002073451A2 (en) | 2001-03-13 | 2002-09-19 | Intelligate Ltd. | Dynamic natural language understanding |
WO2002073452A1 (en) | 2001-03-14 | 2002-09-19 | At & T Corp. | Method for automated sentence planning |
US6985958B2 (en) | 2001-03-14 | 2006-01-10 | Microsoft Corporation | Messaging infrastructure for identity-centric data access |
US6513008B2 (en) | 2001-03-15 | 2003-01-28 | Matsushita Electric Industrial Co., Ltd. | Method and tool for customization of speech synthesizer databases using hierarchical generalized speech templates |
US20020169805A1 (en) | 2001-03-15 | 2002-11-14 | Imation Corp. | Web page color accuracy with image supervision |
US7860706B2 (en) | 2001-03-16 | 2010-12-28 | Eli Abir | Knowledge system method and appparatus |
US6448485B1 (en) | 2001-03-16 | 2002-09-10 | Intel Corporation | Method and system for embedding audio titles |
US7209880B1 (en) | 2001-03-20 | 2007-04-24 | At&T Corp. | Systems and methods for dynamic re-configurable speech recognition |
US6985858B2 (en) | 2001-03-20 | 2006-01-10 | Microsoft Corporation | Method and apparatus for removing noise from feature vectors |
JP2002351789A (ja) | 2001-03-21 | 2002-12-06 | Sharp Corp | 電子メール送受信システム及び電子メール送受信プログラム |
JP2002281562A (ja) | 2001-03-21 | 2002-09-27 | Sony Corp | 携帯情報端末装置 |
US6677929B2 (en) | 2001-03-21 | 2004-01-13 | Agilent Technologies, Inc. | Optical pseudo trackball controls the operation of an appliance or machine |
JP3925611B2 (ja) | 2001-03-22 | 2007-06-06 | セイコーエプソン株式会社 | 情報提供システム、情報提供装置、プログラム、情報記憶媒体およびユーザーインタフェースの設定方法 |
US6922726B2 (en) | 2001-03-23 | 2005-07-26 | International Business Machines Corporation | Web accessibility service apparatus and method |
US7058889B2 (en) | 2001-03-23 | 2006-06-06 | Koninklijke Philips Electronics N.V. | Synchronizing text/visual information with audio playback |
US20020138274A1 (en) | 2001-03-26 | 2002-09-26 | Sharma Sangita R. | Server based adaption of acoustic models for client-based speech systems |
US20020143540A1 (en) | 2001-03-28 | 2002-10-03 | Narendranath Malayath | Voice recognition system using implicit speaker adaptation |
FI20010644A (fi) | 2001-03-28 | 2002-09-29 | Nokia Corp | Merkkisekvenssin kielen määrittäminen |
US6738743B2 (en) | 2001-03-28 | 2004-05-18 | Intel Corporation | Unified client-server distributed architectures for spoken dialogue systems |
US6535852B2 (en) | 2001-03-29 | 2003-03-18 | International Business Machines Corporation | Training of text-to-speech systems |
US6591168B2 (en) | 2001-08-31 | 2003-07-08 | Intellisist, Inc. | System and method for adaptable mobile user interface |
US7437670B2 (en) | 2001-03-29 | 2008-10-14 | International Business Machines Corporation | Magnifying the text of a link while still retaining browser function in the magnified display |
US7406421B2 (en) | 2001-10-26 | 2008-07-29 | Intellisist Inc. | Systems and methods for reviewing informational content in a vehicle |
US6834264B2 (en) | 2001-03-29 | 2004-12-21 | Provox Technologies Corporation | Method and apparatus for voice dictation and document production |
US7035794B2 (en) | 2001-03-30 | 2006-04-25 | Intel Corporation | Compressing and using a concatenative speech database in text-to-speech systems |
US6996531B2 (en) | 2001-03-30 | 2006-02-07 | Comverse Ltd. | Automated database assistance using a telephone for a speech based or text based multimedia communication mode |
US6748398B2 (en) | 2001-03-30 | 2004-06-08 | Microsoft Corporation | Relevance maximizing, iteration minimizing, relevance-feedback, content-based image retrieval (CBIR) |
US6792407B2 (en) | 2001-03-30 | 2004-09-14 | Matsushita Electric Industrial Co., Ltd. | Text selection and recording by feedback and adaptation for development of personalized text-to-speech systems |
US20020143523A1 (en) | 2001-03-30 | 2002-10-03 | Lakshmi Balaji | System and method for providing a file in multiple languages |
US7103534B2 (en) | 2001-03-31 | 2006-09-05 | Microsoft Corporation | Machine learning contextual approach to word determination for text input via reduced keypad keys |
US6885989B2 (en) | 2001-04-02 | 2005-04-26 | International Business Machines Corporation | Method and system for collaborative speech recognition for small-area network |
JP3597141B2 (ja) | 2001-04-03 | 2004-12-02 | 泰鈞 温 | 情報入力装置及び方法、並びに携帯電話機及び携帯電話機の文字入力方法 |
JP2002304410A (ja) | 2001-04-03 | 2002-10-18 | Canon Inc | 自然言語処理システム及び方法 |
CN1156819C (zh) | 2001-04-06 | 2004-07-07 | 国际商业机器公司 | 由文本生成个性化语音的方法 |
US20020165717A1 (en) | 2001-04-06 | 2002-11-07 | Solmer Robert P. | Efficient method for information extraction |
US6690828B2 (en) | 2001-04-09 | 2004-02-10 | Gary Elliott Meyers | Method for representing and comparing digital images |
US6724370B2 (en) | 2001-04-12 | 2004-04-20 | International Business Machines Corporation | Touchscreen user interface |
US6904428B2 (en) | 2001-04-18 | 2005-06-07 | Illinois Institute Of Technology | Intranet mediator |
US7155668B2 (en) | 2001-04-19 | 2006-12-26 | International Business Machines Corporation | Method and system for identifying relationships between text documents and structured variables pertaining to the text documents |
US7245706B2 (en) | 2001-04-19 | 2007-07-17 | British Telecommunications Public Limited Company | Voice response system |
TW504916B (en) | 2001-04-24 | 2002-10-01 | Inventec Appliances Corp | Method capable of generating different input values by pressing a single key from multiple directions |
EP1808788B1 (en) | 2001-04-25 | 2010-08-25 | Sony France S.A. | Information type identification method and apparatus, e.g. for music file name content identification |
US20020161865A1 (en) | 2001-04-25 | 2002-10-31 | Gateway, Inc. | Automated network configuration of connected device |
US6820055B2 (en) | 2001-04-26 | 2004-11-16 | Speche Communications | Systems and methods for automated audio transcription, translation, and transfer with text display software for manipulating the text |
JP4225703B2 (ja) | 2001-04-27 | 2009-02-18 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 情報アクセス方法、情報アクセスシステムおよびプログラム |
GB0110326D0 (en) | 2001-04-27 | 2001-06-20 | Ibm | Method and apparatus for interoperation between legacy software and screen reader programs |
WO2002091356A1 (fr) | 2001-05-02 | 2002-11-14 | Sony Corporation | Dispositif robot, appareil de reconnaissance de caracteres, procede de lecture de caracteres, programme de commande et support d'enregistrement |
US6925154B2 (en) | 2001-05-04 | 2005-08-02 | International Business Machines Corproation | Methods and apparatus for conversational name dialing systems |
US6970881B1 (en) | 2001-05-07 | 2005-11-29 | Intelligenxia, Inc. | Concept-based method and system for dynamically analyzing unstructured information |
US7024400B2 (en) | 2001-05-08 | 2006-04-04 | Sunflare Co., Ltd. | Differential LSI space-based probabilistic document classifier |
US6654740B2 (en) | 2001-05-08 | 2003-11-25 | Sunflare Co., Ltd. | Probabilistic information retrieval based on differential latent semantic space |
US6751595B2 (en) | 2001-05-09 | 2004-06-15 | Bellsouth Intellectual Property Corporation | Multi-stage large vocabulary speech recognition system and method |
US20020167534A1 (en) | 2001-05-10 | 2002-11-14 | Garrett Burke | Reading aid for electronic text and displays |
EP1395803B1 (en) | 2001-05-10 | 2006-08-02 | Koninklijke Philips Electronics N.V. | Background learning of speaker voices |
US20020169592A1 (en) | 2001-05-11 | 2002-11-14 | Aityan Sergey Khachatur | Open environment for real-time multilingual communication |
DE10122828A1 (de) | 2001-05-11 | 2002-11-14 | Philips Corp Intellectual Pty | Verfahren zum Training oder zur Adaption eines Spracherkenners |
US7085722B2 (en) | 2001-05-14 | 2006-08-01 | Sony Computer Entertainment America Inc. | System and method for menu-driven voice control of characters in a game environment |
US6766233B2 (en) | 2001-05-15 | 2004-07-20 | Intellisist, Llc | Modular telematic control unit |
US6910012B2 (en) | 2001-05-16 | 2005-06-21 | International Business Machines Corporation | Method and system for speech recognition using phonetically similar word alternatives |
US7620363B2 (en) | 2001-05-16 | 2009-11-17 | Aol Llc | Proximity synchronization of audio content among multiple playback and storage devices |
US7730401B2 (en) | 2001-05-16 | 2010-06-01 | Synaptics Incorporated | Touch screen with user interface enhancement |
US20050024341A1 (en) | 2001-05-16 | 2005-02-03 | Synaptics, Inc. | Touch screen with user interface enhancement |
US7024460B2 (en) | 2001-07-31 | 2006-04-04 | Bytemobile, Inc. | Service-based compression of content within a network communication system |
JP4581290B2 (ja) | 2001-05-16 | 2010-11-17 | パナソニック株式会社 | 音声認識装置および音声認識方法 |
US6839667B2 (en) | 2001-05-16 | 2005-01-04 | International Business Machines Corporation | Method of speech recognition by presenting N-best word candidates |
US6775358B1 (en) | 2001-05-17 | 2004-08-10 | Oracle Cable, Inc. | Method and system for enhanced interactive playback of audio content to telephone callers |
JP3800984B2 (ja) | 2001-05-21 | 2006-07-26 | ソニー株式会社 | ユーザ入力装置 |
JP2002344880A (ja) | 2001-05-22 | 2002-11-29 | Megafusion Corp | コンテンツ配信システム |
GB0112749D0 (en) | 2001-05-25 | 2001-07-18 | Rhetorical Systems Ltd | Speech synthesis |
US6975986B2 (en) | 2001-05-30 | 2005-12-13 | International Business Machines Corporation | Voice spelling in an audio-only interface |
US6944594B2 (en) | 2001-05-30 | 2005-09-13 | Bellsouth Intellectual Property Corporation | Multi-context conversational environment system and method |
AU2002314933A1 (en) | 2001-05-30 | 2002-12-09 | Cameronsound, Inc. | Language independent and voice operated information management system |
US7020663B2 (en) | 2001-05-30 | 2006-03-28 | George M. Hay | System and method for the delivery of electronic books |
US7127397B2 (en) | 2001-05-31 | 2006-10-24 | Qwest Communications International Inc. | Method of training a computer system via human voice input |
US6877003B2 (en) | 2001-05-31 | 2005-04-05 | Oracle International Corporation | Efficient collation element structure for handling large numbers of characters |
US7031916B2 (en) | 2001-06-01 | 2006-04-18 | Texas Instruments Incorporated | Method for converging a G.729 Annex B compliant voice activity detection circuit |
US6810146B2 (en) | 2001-06-01 | 2004-10-26 | Eastman Kodak Company | Method and system for segmenting and identifying events in images using spoken annotations |
JP2002358092A (ja) | 2001-06-01 | 2002-12-13 | Sony Corp | 音声合成システム |
US7076731B2 (en) | 2001-06-02 | 2006-07-11 | Microsoft Corporation | Spelling correction system and method for phrasal strings using dictionary looping |
GB0113570D0 (en) | 2001-06-04 | 2001-07-25 | Hewlett Packard Co | Audio-form presentation of text messages |
GB2376394B (en) | 2001-06-04 | 2005-10-26 | Hewlett Packard Co | Speech synthesis apparatus and selection method |
US20020194003A1 (en) | 2001-06-05 | 2002-12-19 | Mozer Todd F. | Client-server security system and method |
US20030055927A1 (en) | 2001-06-06 | 2003-03-20 | Claudius Fischer | Framework for a device and a computer system needing synchronization |
US7058816B2 (en) | 2001-06-06 | 2006-06-06 | Digeo, Inc. | Apparatus and method for content entry management |
WO2002099597A2 (en) | 2001-06-07 | 2002-12-12 | Unwired Express, Inc. | Method and system for providing context awareness |
JP2002366187A (ja) | 2001-06-08 | 2002-12-20 | Sony Corp | 音声認識装置および音声認識方法、並びにプログラムおよび記録媒体 |
US6792408B2 (en) | 2001-06-12 | 2004-09-14 | Dell Products L.P. | Interactive command recognition enhancement system and method |
GB0114236D0 (en) | 2001-06-12 | 2001-08-01 | Hewlett Packard Co | Artificial language generation |
US7076527B2 (en) | 2001-06-14 | 2006-07-11 | Apple Computer, Inc. | Method and apparatus for filtering email |
SE519177C2 (sv) | 2001-06-14 | 2003-01-28 | Ericsson Telefon Ab L M | En mobilterminal och ett förfarande i ett mobilkommunikationssystem för nedladdning av meddelanden till den mobila terminalen |
US7119267B2 (en) | 2001-06-15 | 2006-10-10 | Yamaha Corporation | Portable mixing recorder and method and program for controlling the same |
JP2003005912A (ja) | 2001-06-20 | 2003-01-10 | Hitachi Ltd | タッチパネル付きディスプレイ装置及び表示方法 |
US20070016563A1 (en) | 2005-05-16 | 2007-01-18 | Nosa Omoigui | Information nervous system |
US20030023426A1 (en) | 2001-06-22 | 2003-01-30 | Zi Technology Corporation Ltd. | Japanese language entry mechanism for small keypads |
US6801604B2 (en) | 2001-06-25 | 2004-10-05 | International Business Machines Corporation | Universal IP-based and scalable architectures across conversational applications using web services for speech and audio processing resources |
US20020198714A1 (en) | 2001-06-26 | 2002-12-26 | Guojun Zhou | Statistical spoken dialog system |
US6671670B2 (en) | 2001-06-27 | 2003-12-30 | Telelogue, Inc. | System and method for pre-processing information used by an automated attendant |
EP1438669B1 (en) | 2001-06-27 | 2014-01-22 | SKKY Incorporated | Improved media delivery platform |
US7139722B2 (en) | 2001-06-27 | 2006-11-21 | Bellsouth Intellectual Property Corporation | Location and time sensitive wireless calendaring |
JP2003015682A (ja) | 2001-06-28 | 2003-01-17 | Toho Gas Co Ltd | 音声認識制御装置及び音声認識制御方法 |
US8831949B1 (en) | 2001-06-28 | 2014-09-09 | At&T Intellectual Property I, L.P. | Voice recognition for performing authentication and completing transactions in a systems interface to legacy systems |
US7606712B1 (en) | 2001-06-28 | 2009-10-20 | At&T Intellectual Property Ii, L.P. | Speech recognition interface for voice actuation of legacy systems |
US20030004703A1 (en) | 2001-06-28 | 2003-01-02 | Arvind Prabhakar | Method and system for localizing a markup language document |
KR100492976B1 (ko) | 2001-06-29 | 2005-06-07 | 삼성전자주식회사 | 단순음성메일서비스를 이용한 이동통신 단말기에서의음성메일 저장 및 전송 방법 |
US6839896B2 (en) | 2001-06-29 | 2005-01-04 | International Business Machines Corporation | System and method for providing dialog management and arbitration in a multi-modal environment |
US7752546B2 (en) | 2001-06-29 | 2010-07-06 | Thomson Licensing | Method and system for providing an acoustic interface |
US6751298B2 (en) | 2001-06-29 | 2004-06-15 | International Business Machines Corporation | Localized voice mail system |
US7092950B2 (en) | 2001-06-29 | 2006-08-15 | Microsoft Corporation | Method for generic object oriented description of structured data (GDL) |
US7328250B2 (en) | 2001-06-29 | 2008-02-05 | Nokia, Inc. | Apparatus and method for handling electronic mail |
US7302686B2 (en) | 2001-07-04 | 2007-11-27 | Sony Corporation | Task management system |
US7246118B2 (en) | 2001-07-06 | 2007-07-17 | International Business Machines Corporation | Method and system for automated collaboration using electronic book highlights and notations |
US20030013483A1 (en) | 2001-07-06 | 2003-01-16 | Ausems Michiel R. | User interface for handheld communication device |
US7188143B2 (en) | 2001-07-06 | 2007-03-06 | Yahoo! Inc. | Messenger-controlled applications in an instant messaging environment |
US7133900B1 (en) | 2001-07-06 | 2006-11-07 | Yahoo! Inc. | Sharing and implementing instant messaging environments |
US20030020760A1 (en) | 2001-07-06 | 2003-01-30 | Kazunori Takatsu | Method for setting a function and a setting item by selectively specifying a position in a tree-structured menu |
US6526351B2 (en) | 2001-07-09 | 2003-02-25 | Charles Lamont Whitham | Interactive multimedia tour guide |
US6604059B2 (en) | 2001-07-10 | 2003-08-05 | Koninklijke Philips Electronics N.V. | Predictive calendar |
US20050134578A1 (en) | 2001-07-13 | 2005-06-23 | Universal Electronics Inc. | System and methods for interacting with a control environment |
US7668718B2 (en) | 2001-07-17 | 2010-02-23 | Custom Speech Usa, Inc. | Synchronized pattern recognition source data processed by manual or automatic means for creation of shared speaker-dependent speech user profile |
US6961912B2 (en) | 2001-07-18 | 2005-11-01 | Xerox Corporation | Feedback mechanism for use with visual selection methods |
US7188085B2 (en) | 2001-07-20 | 2007-03-06 | International Business Machines Corporation | Method and system for delivering encrypted content with associated geographical-based advertisements |
US6766324B2 (en) | 2001-07-20 | 2004-07-20 | International Business Machines Corporation | System and method for defining, configuring and using dynamic, persistent Java classes |
US20030028618A1 (en) * | 2001-07-25 | 2003-02-06 | Currans Kevin G. | Automated publishing content procurement |
EP1280326A1 (en) | 2001-07-25 | 2003-01-29 | The Sound of Data B.V. | Sending a voicemail message as an email attachment with a voice controlled interface for authentication |
US9009590B2 (en) | 2001-07-31 | 2015-04-14 | Invention Machines Corporation | Semantic processor for recognition of cause-effect relations in natural language documents |
JP2003044091A (ja) | 2001-07-31 | 2003-02-14 | Ntt Docomo Inc | 音声認識システム、携帯情報端末、音声情報処理装置、音声情報処理方法および音声情報処理プログラム |
US6940958B2 (en) | 2001-08-02 | 2005-09-06 | Intel Corporation | Forwarding telephone data via email |
US20030025676A1 (en) | 2001-08-02 | 2003-02-06 | Koninklijke Philips Electronics N.V. | Sensor-based menu for a touch screen panel |
US20030026392A1 (en) | 2001-08-06 | 2003-02-06 | Brown Charles M. | Method and apparatus for extracting information from voice messages |
US20030033153A1 (en) | 2001-08-08 | 2003-02-13 | Apple Computer, Inc. | Microphone elements for a computing system |
US7349849B2 (en) | 2001-08-08 | 2008-03-25 | Apple, Inc. | Spacing for microphone elements |
US7185276B2 (en) | 2001-08-09 | 2007-02-27 | Voxera Corporation | System and method for dynamically translating HTML to VoiceXML intelligently |
US7987151B2 (en) | 2001-08-10 | 2011-07-26 | General Dynamics Advanced Info Systems, Inc. | Apparatus and method for problem solving using intelligent agents |
US6778979B2 (en) | 2001-08-13 | 2004-08-17 | Xerox Corporation | System for automatically generating queries |
US20050022114A1 (en) | 2001-08-13 | 2005-01-27 | Xerox Corporation | Meta-document management system with personality identifiers |
US7176931B2 (en) | 2001-08-13 | 2007-02-13 | International Business Machines Corporation | Modifying hyperlink display characteristics |
US7283951B2 (en) | 2001-08-14 | 2007-10-16 | Insightful Corporation | Method and system for enhanced data searching |
US7149813B2 (en) | 2001-08-14 | 2006-12-12 | Microsoft Corporation | Method and system for synchronizing mobile devices |
US6529592B1 (en) | 2001-08-15 | 2003-03-04 | Bellsouth Intellectual Property Corporation | Internet-based message delivery with PSTN billing |
US7692667B2 (en) | 2001-08-17 | 2010-04-06 | Palm, Inc. | Handheld computer having moveable segments that are interactive with an integrated display |
US20030036909A1 (en) | 2001-08-17 | 2003-02-20 | Yoshinaga Kato | Methods and devices for operating the multi-function peripherals |
US7920682B2 (en) | 2001-08-21 | 2011-04-05 | Byrne William J | Dynamic interactive voice interface |
US6810378B2 (en) | 2001-08-22 | 2004-10-26 | Lucent Technologies Inc. | Method and apparatus for controlling a speech synthesis system to provide multiple styles of speech |
KR100761474B1 (ko) | 2001-08-23 | 2007-09-27 | 삼성전자주식회사 | 휴대용 기기 및 그 휴대용 기기를 이용한 음성출력방법과 파일명/디렉토리명 기록방법 |
JP2003076464A (ja) | 2001-08-27 | 2003-03-14 | Internatl Business Mach Corp <Ibm> | コンピュータ装置、キーボードおよび表示メータ |
US20030046075A1 (en) | 2001-08-30 | 2003-03-06 | General Instrument Corporation | Apparatus and methods for providing television speech in a selected language |
US7043431B2 (en) | 2001-08-31 | 2006-05-09 | Nokia Corporation | Multilingual speech recognition system using text derived recognition models |
US6813491B1 (en) | 2001-08-31 | 2004-11-02 | Openwave Systems Inc. | Method and apparatus for adapting settings of wireless communication devices in accordance with user proximity |
US7774388B1 (en) | 2001-08-31 | 2010-08-10 | Margaret Runchey | Model of everything with UR-URL combination identity-identifier-addressing-indexing method, means, and apparatus |
US7577569B2 (en) | 2001-09-05 | 2009-08-18 | Voice Signal Technologies, Inc. | Combined speech recognition and text-to-speech generation |
US7505911B2 (en) | 2001-09-05 | 2009-03-17 | Roth Daniel L | Combined speech recognition and sound recording |
US7809574B2 (en) | 2001-09-05 | 2010-10-05 | Voice Signal Technologies Inc. | Word recognition using choice lists |
WO2004023455A2 (en) | 2002-09-06 | 2004-03-18 | Voice Signal Technologies, Inc. | Methods, systems, and programming for performing speech recognition |
US7953447B2 (en) | 2001-09-05 | 2011-05-31 | Vocera Communications, Inc. | Voice-controlled communications system and method using a badge application |
US7313526B2 (en) | 2001-09-05 | 2007-12-25 | Voice Signal Technologies, Inc. | Speech recognition using selectable recognition modes |
US6892083B2 (en) | 2001-09-05 | 2005-05-10 | Vocera Communications Inc. | Voice-controlled wireless communications system and method |
EP1425746A1 (en) | 2001-09-10 | 2004-06-09 | Thomson Licensing S.A. | Method and apparatus for creating an indexed playlist in a digital audio data player |
JP2005502979A (ja) | 2001-09-11 | 2005-01-27 | トムソン ライセンシング ソシエテ アノニム | 等化モードを自動的に作動化するための方法および装置 |
US7103848B2 (en) | 2001-09-13 | 2006-09-05 | International Business Machines Corporation | Handheld electronic book reader with annotation and usage tracking capabilities |
EP1304680A3 (en) | 2001-09-13 | 2004-03-03 | Yamaha Corporation | Apparatus and method for synthesizing a plurality of waveforms in synchronized manner |
JP4689111B2 (ja) | 2001-09-13 | 2011-05-25 | クラリオン株式会社 | 音楽再生装置 |
US6901364B2 (en) | 2001-09-13 | 2005-05-31 | Matsushita Electric Industrial Co., Ltd. | Focused language models for improved speech input of structured documents |
US20030048881A1 (en) | 2001-09-13 | 2003-03-13 | Koninklijke Philips Electronics N.V. | Method and apparatus for presenting information from telephone messages to a user |
US7039579B2 (en) | 2001-09-14 | 2006-05-02 | International Business Machines Corporation | Monte Carlo method for natural language understanding and speech recognition language models |
US7165030B2 (en) | 2001-09-17 | 2007-01-16 | Massachusetts Institute Of Technology | Concatenative speech synthesis using a finite-state transducer |
US6829018B2 (en) | 2001-09-17 | 2004-12-07 | Koninklijke Philips Electronics N.V. | Three-dimensional sound creation assisted by visual information |
US8046689B2 (en) | 2004-11-04 | 2011-10-25 | Apple Inc. | Media presentation with supplementary media |
US7477240B2 (en) | 2001-09-21 | 2009-01-13 | Lenovo Singapore Pte. Ltd. | Input apparatus, computer apparatus, method for identifying input object, method for identifying input object in keyboard, and computer program |
US7062547B2 (en) | 2001-09-24 | 2006-06-13 | International Business Machines Corporation | Method and system for providing a central repository for client-specific accessibility |
US7403938B2 (en) | 2001-09-24 | 2008-07-22 | Iac Search & Media, Inc. | Natural language query processing |
US7010581B2 (en) | 2001-09-24 | 2006-03-07 | International Business Machines Corporation | Method and system for providing browser functions on a web page for client-specific accessibility |
US20040030559A1 (en) | 2001-09-25 | 2004-02-12 | Payne Michael J. | Color as a visual cue in speech-enabled applications |
JP3452558B2 (ja) | 2001-09-25 | 2003-09-29 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 翻訳対象のリソースと分野別辞書を関連付けるための方法、システムおよびプログラム |
US7050976B1 (en) | 2001-09-26 | 2006-05-23 | Sprint Spectrum L.P. | Method and system for use of navigation history in a voice command platform |
US6985865B1 (en) | 2001-09-26 | 2006-01-10 | Sprint Spectrum L.P. | Method and system for enhanced response to voice commands in a voice command platform |
US20050196732A1 (en) | 2001-09-26 | 2005-09-08 | Scientific Learning Corporation | Method and apparatus for automated training of language learning skills |
US6650735B2 (en) | 2001-09-27 | 2003-11-18 | Microsoft Corporation | Integrated voice access to a variety of personal information services |
US7308404B2 (en) | 2001-09-28 | 2007-12-11 | Sri International | Method and apparatus for speech recognition using a dynamic vocabulary |
JP2003173237A (ja) | 2001-09-28 | 2003-06-20 | Ricoh Co Ltd | 情報入出力システム、プログラム及び記憶媒体 |
US7287056B2 (en) | 2001-09-28 | 2007-10-23 | Microsoft Corporation | Dispatching notification to a device based on the current context of a user with the device |
US6690956B2 (en) | 2001-09-28 | 2004-02-10 | Bellsouth Intellectual Property Corporation | System and method for enabling safe hands-free operation of a wireless telephone in a vehicle |
US7124081B1 (en) | 2001-09-28 | 2006-10-17 | Apple Computer, Inc. | Method and apparatus for speech recognition using latent semantic adaptation |
US6948094B2 (en) | 2001-09-28 | 2005-09-20 | Intel Corporation | Method of correcting a machine check error |
JP3997459B2 (ja) | 2001-10-02 | 2007-10-24 | 株式会社日立製作所 | 音声入力システムおよび音声ポータルサーバおよび音声入力端末 |
US7324947B2 (en) | 2001-10-03 | 2008-01-29 | Promptu Systems Corporation | Global speech user interface |
US7254775B2 (en) | 2001-10-03 | 2007-08-07 | 3M Innovative Properties Company | Touch panel system and method for distinguishing multiple touch inputs |
US7027990B2 (en) | 2001-10-12 | 2006-04-11 | Lester Sussman | System and method for integrating the visual display of text menus for interactive voice response systems |
US6763089B2 (en) | 2001-10-12 | 2004-07-13 | Nortel Networks Limited | System for enabling TDD communication in a telephone network and method for using same |
EP1438710B1 (en) | 2001-10-12 | 2011-01-19 | Nuance Communications Austria GmbH | Speech recognition device to mark parts of a recognized text |
US7167832B2 (en) | 2001-10-15 | 2007-01-23 | At&T Corp. | Method for dialog management |
US20030074457A1 (en) | 2001-10-17 | 2003-04-17 | Kluth Michael R. | Computer system with separable input device |
EP1436728A1 (en) | 2001-10-18 | 2004-07-14 | Yeong Kuang Oon | System and method of improved recording of medical transactions |
US20030078969A1 (en) | 2001-10-19 | 2003-04-24 | Wavexpress, Inc. | Synchronous control of media in a peer-to-peer network |
US7353247B2 (en) | 2001-10-19 | 2008-04-01 | Microsoft Corporation | Querying applications using online messenger service |
US7312785B2 (en) | 2001-10-22 | 2007-12-25 | Apple Inc. | Method and apparatus for accelerated scrolling |
US20030167318A1 (en) | 2001-10-22 | 2003-09-04 | Apple Computer, Inc. | Intelligent synchronization of media player with host computer |
US7046230B2 (en) | 2001-10-22 | 2006-05-16 | Apple Computer, Inc. | Touch pad handheld device |
US7345671B2 (en) | 2001-10-22 | 2008-03-18 | Apple Inc. | Method and apparatus for use of rotational user inputs |
JP4204977B2 (ja) | 2001-10-22 | 2009-01-07 | アップル インコーポレイテッド | メディアプレーヤーのためのインテリジェントなシンクロ操作 |
US6934812B1 (en) | 2001-10-22 | 2005-08-23 | Apple Computer, Inc. | Media player with instant play capability |
US20040054535A1 (en) | 2001-10-22 | 2004-03-18 | Mackie Andrew William | System and method of processing structured text for text-to-speech synthesis |
ITFI20010199A1 (it) | 2001-10-22 | 2003-04-22 | Riccardo Vieri | Sistema e metodo per trasformare in voce comunicazioni testuali ed inviarle con una connessione internet a qualsiasi apparato telefonico |
US7084856B2 (en) | 2001-10-22 | 2006-08-01 | Apple Computer, Inc. | Mouse having a rotary dial |
US7296019B1 (en) | 2001-10-23 | 2007-11-13 | Microsoft Corporation | System and methods for providing runtime spelling analysis and correction |
US6801964B1 (en) | 2001-10-25 | 2004-10-05 | Novell, Inc. | Methods and systems to fast fill media players |
US7599610B2 (en) | 2001-10-25 | 2009-10-06 | Harman International Industries, Incorporated | Interface for audio visual device |
US7913185B1 (en) | 2001-10-25 | 2011-03-22 | Adobe Systems Incorporated | Graphical insertion of JavaScript pop-up menus |
US7379053B2 (en) | 2001-10-27 | 2008-05-27 | Vortant Technologies, Llc | Computer interface for navigating graphical user interface by touch |
GB2381409B (en) | 2001-10-27 | 2004-04-28 | Hewlett Packard Ltd | Asynchronous access to synchronous voice services |
ATE365413T1 (de) | 2001-10-30 | 2007-07-15 | Hewlett Packard Co | Kommunikationssystem und -verfahren |
US7359671B2 (en) | 2001-10-30 | 2008-04-15 | Unwired Technology Llc | Multiple channel wireless communication system |
KR100438826B1 (ko) | 2001-10-31 | 2004-07-05 | 삼성전자주식회사 | 스무딩 필터를 이용한 음성 합성 시스템 및 그 방법 |
US7392391B2 (en) | 2001-11-01 | 2008-06-24 | International Business Machines Corporation | System and method for secure configuration of sensitive web services |
US6912407B1 (en) | 2001-11-03 | 2005-06-28 | Susan Lee Clarke | Portable device for storing and searching telephone listings, and method and computer program product for transmitting telephone information to a portable device |
GB2381638B (en) | 2001-11-03 | 2004-02-04 | Dremedia Ltd | Identifying audio characteristics |
JP3593089B2 (ja) | 2001-11-06 | 2004-11-24 | 株式会社スダックス | 物品取出容器 |
EP1311102A1 (en) | 2001-11-08 | 2003-05-14 | Hewlett-Packard Company | Streaming audio under voice control |
US7069213B2 (en) | 2001-11-09 | 2006-06-27 | Netbytel, Inc. | Influencing a voice recognition matching operation with user barge-in time |
US7212614B1 (en) | 2001-11-09 | 2007-05-01 | At&T Corp | Voice-messaging with attachments |
US7113172B2 (en) | 2001-11-09 | 2006-09-26 | Lifescan, Inc. | Alphanumeric keypad and display system and method |
FI114051B (fi) | 2001-11-12 | 2004-07-30 | Nokia Corp | Menetelmä sanakirjatiedon kompressoimiseksi |
US7181386B2 (en) | 2001-11-15 | 2007-02-20 | At&T Corp. | Systems and methods for generating weighted finite-state automata representing grammars |
NO316480B1 (no) | 2001-11-15 | 2004-01-26 | Forinnova As | Fremgangsmåte og system for tekstuell granskning og oppdagelse |
US7043479B2 (en) | 2001-11-16 | 2006-05-09 | Sigmatel, Inc. | Remote-directed management of media content |
JP2003150529A (ja) | 2001-11-19 | 2003-05-23 | Hitachi Ltd | 情報交換方法、情報交換端末装置、情報交換サーバ装置、プログラム |
US7747655B2 (en) | 2001-11-19 | 2010-06-29 | Ricoh Co. Ltd. | Printable representations for time-based media |
JP3980331B2 (ja) | 2001-11-20 | 2007-09-26 | 株式会社エビデンス | 多言語間会話支援システム |
US20030097407A1 (en) | 2001-11-20 | 2003-05-22 | Litwin Louis Robert | Sending voicemail messages to multiple users |
EP1315084A1 (en) | 2001-11-27 | 2003-05-28 | Sun Microsystems, Inc. | Method and apparatus for localizing software |
US7031530B2 (en) | 2001-11-27 | 2006-04-18 | Lockheed Martin Corporation | Compound classifier for pattern recognition applications |
EP1315086B1 (en) | 2001-11-27 | 2006-07-05 | Sun Microsystems, Inc. | Generation of localized software applications |
US6816578B1 (en) | 2001-11-27 | 2004-11-09 | Nortel Networks Limited | Efficient instant messaging using a telephony interface |
US7447624B2 (en) | 2001-11-27 | 2008-11-04 | Sun Microsystems, Inc. | Generation of localized software applications |
US20030101054A1 (en) | 2001-11-27 | 2003-05-29 | Ncc, Llc | Integrated system and method for electronic speech recognition and transcription |
JP2003163745A (ja) | 2001-11-28 | 2003-06-06 | Matsushita Electric Ind Co Ltd | 電話機、対話応答装置、対話応答端末および対話応答システム |
US20030101045A1 (en) | 2001-11-29 | 2003-05-29 | Peter Moffatt | Method and apparatus for playing recordings of spoken alphanumeric characters |
US6996777B2 (en) | 2001-11-29 | 2006-02-07 | Nokia Corporation | Method and apparatus for presenting auditory icons in a mobile terminal |
US6766294B2 (en) | 2001-11-30 | 2004-07-20 | Dictaphone Corporation | Performance gauge for a distributed speech recognition system |
US7283992B2 (en) | 2001-11-30 | 2007-10-16 | Microsoft Corporation | Media agent to suggest contextually related media content |
US20030177046A1 (en) | 2001-12-03 | 2003-09-18 | John Socha-Leialoha | Method and system for reusing components |
US7996232B2 (en) | 2001-12-03 | 2011-08-09 | Rodriguez Arturo A | Recognition of voice-activated commands |
KR100437142B1 (ko) | 2001-12-07 | 2004-06-25 | 에피밸리 주식회사 | 광 마이크로 폰 |
US7483832B2 (en) | 2001-12-10 | 2009-01-27 | At&T Intellectual Property I, L.P. | Method and system for customizing voice translation of text to speech |
US20060069567A1 (en) | 2001-12-10 | 2006-03-30 | Tischer Steven N | Methods, systems, and products for translating text to speech |
US6791529B2 (en) | 2001-12-13 | 2004-09-14 | Koninklijke Philips Electronics N.V. | UI with graphics-assisted voice control system |
US7490039B1 (en) | 2001-12-13 | 2009-02-10 | Cisco Technology, Inc. | Text to speech system and method having interactive spelling capabilities |
US7240007B2 (en) | 2001-12-13 | 2007-07-03 | Matsushita Electric Industrial Co., Ltd. | Speaker authentication by fusion of voiceprint match attempt results with additional information |
US7124085B2 (en) | 2001-12-13 | 2006-10-17 | Matsushita Electric Industrial Co., Ltd. | Constraint-based speech recognition system and method |
US7103542B2 (en) | 2001-12-14 | 2006-09-05 | Ben Franklin Patent Holding Llc | Automatically improving a voice recognition system |
JP3574106B2 (ja) | 2001-12-14 | 2004-10-06 | 株式会社スクウェア・エニックス | ネットワークゲームシステム、ゲームサーバ装置、ビデオゲーム装置、ネットワークゲームにおけるメッセージの送信方法及び表示制御方法、プログラム、並びに記録媒体 |
US20030115289A1 (en) | 2001-12-14 | 2003-06-19 | Garry Chinn | Navigation in a voice recognition system |
US6944846B2 (en) | 2001-12-14 | 2005-09-13 | Hewlett-Packard Development Company, L.P. | Algorithm for localization of a JAVA application using reflection API and a custom class loader |
US7007026B2 (en) | 2001-12-14 | 2006-02-28 | Sun Microsystems, Inc. | System for controlling access to and generation of localized application values |
US6915246B2 (en) | 2001-12-17 | 2005-07-05 | International Business Machines Corporation | Employing speech recognition and capturing customer speech to improve customer service |
US7231343B1 (en) | 2001-12-20 | 2007-06-12 | Ianywhere Solutions, Inc. | Synonyms mechanism for natural language systems |
GB2388209C (en) | 2001-12-20 | 2005-08-23 | Canon Kk | Control apparatus |
US7302394B1 (en) | 2001-12-20 | 2007-11-27 | Ianywhere Solutions, Inc. | Front-end device independence for natural interaction platform |
GB2383495A (en) | 2001-12-20 | 2003-06-25 | Hewlett Packard Co | Data processing devices which communicate via short range telecommunication signals with other compatible devices |
TW541517B (en) | 2001-12-25 | 2003-07-11 | Univ Nat Cheng Kung | Speech recognition system |
ES2396560T3 (es) | 2001-12-26 | 2013-02-22 | Research In Motion Limited | Interfaz de usuario y método de ver eventos unificados de comunicaciones en un dispositivo móvil |
US8288641B2 (en) | 2001-12-27 | 2012-10-16 | Intel Corporation | Portable hand-held music synthesizer and networking method and apparatus |
US7013275B2 (en) | 2001-12-28 | 2006-03-14 | Sri International | Method and apparatus for providing a dynamic speech-driven control and remote service access system |
US6690387B2 (en) | 2001-12-28 | 2004-02-10 | Koninklijke Philips Electronics N.V. | Touch-screen image scrolling system and method |
US20030125927A1 (en) | 2001-12-28 | 2003-07-03 | Microsoft Corporation | Method and system for translating instant messages |
US7203644B2 (en) | 2001-12-31 | 2007-04-10 | Intel Corporation | Automating tuning of speech recognition systems |
US7493259B2 (en) | 2002-01-04 | 2009-02-17 | Siebel Systems, Inc. | Method for accessing data via voice |
US20030154116A1 (en) | 2002-01-04 | 2003-08-14 | Lofton Jeffrey C. | System and method for scheduling events on an internet based calendar |
US7152222B2 (en) | 2002-01-08 | 2006-12-19 | International Business Machines Corporation | Method and system for localizing Java™ JAR files |
JP3920097B2 (ja) | 2002-01-08 | 2007-05-30 | 三菱電機株式会社 | 車載機器用音声認識装置 |
US20040030554A1 (en) | 2002-01-09 | 2004-02-12 | Samya Boxberger-Oberoi | System and method for providing locale-specific interpretation of text data |
US7065485B1 (en) | 2002-01-09 | 2006-06-20 | At&T Corp | Enhancing speech intelligibility using variable-rate time-scale modification |
US20030128819A1 (en) | 2002-01-10 | 2003-07-10 | Lee Anne Yin-Fee | Method for retrieving multimedia messages from a multimedia mailbox |
US7111248B2 (en) | 2002-01-15 | 2006-09-19 | Openwave Systems Inc. | Alphanumeric information input method |
US7159174B2 (en) | 2002-01-16 | 2007-01-02 | Microsoft Corporation | Data preparation for media browsing |
US20030197736A1 (en) | 2002-01-16 | 2003-10-23 | Murphy Michael W. | User interface for character entry using a minimum number of selection keys |
US20030140088A1 (en) | 2002-01-24 | 2003-07-24 | Robinson Scott H. | Context-based information processing |
US7050796B2 (en) | 2002-01-25 | 2006-05-23 | International Business Machines Corporation | Method of controlling the auditory response of wireless devices |
JP2003223437A (ja) | 2002-01-29 | 2003-08-08 | Internatl Business Mach Corp <Ibm> | 正解語の候補の表示方法、スペルチェック方法、コンピュータ装置、プログラム |
US20030144846A1 (en) | 2002-01-31 | 2003-07-31 | Denenberg Lawrence A. | Method and system for modifying the behavior of an application based upon the application's grammar |
US6826515B2 (en) | 2002-02-01 | 2004-11-30 | Plantronics, Inc. | Headset noise exposure dosimeter |
US7130390B2 (en) | 2002-02-01 | 2006-10-31 | Microsoft Corporation | Audio messaging system and method |
WO2003065179A2 (en) | 2002-02-01 | 2003-08-07 | John Fairweather | A system and method for mining data |
US20030149567A1 (en) | 2002-02-04 | 2003-08-07 | Tony Schmitz | Method and system for using natural language in computer resource utilization analysis via a communications network |
US7139713B2 (en) | 2002-02-04 | 2006-11-21 | Microsoft Corporation | Systems and methods for managing interactions from multiple speech-enabled applications |
US9374451B2 (en) | 2002-02-04 | 2016-06-21 | Nokia Technologies Oy | System and method for multimodal short-cuts to digital services |
US8374879B2 (en) | 2002-02-04 | 2013-02-12 | Microsoft Corporation | Systems and methods for managing interactions from multiple speech-enabled applications |
US6953343B2 (en) | 2002-02-06 | 2005-10-11 | Ordinate Corporation | Automatic reading system and methods |
US7272377B2 (en) | 2002-02-07 | 2007-09-18 | At&T Corp. | System and method of ubiquitous language translation for wireless devices |
US7177814B2 (en) | 2002-02-07 | 2007-02-13 | Sap Aktiengesellschaft | Dynamic grammar for voice-enabled applications |
US20030149978A1 (en) | 2002-02-07 | 2003-08-07 | Bruce Plotnick | System and method for using a personal digital assistant as an electronic program guide |
US6690800B2 (en) | 2002-02-08 | 2004-02-10 | Andrew M. Resnick | Method and apparatus for communication operator privacy |
US6901411B2 (en) | 2002-02-11 | 2005-05-31 | Microsoft Corporation | Statistical bigram correlation model for image retrieval |
US7024362B2 (en) | 2002-02-11 | 2006-04-04 | Microsoft Corporation | Objective measure for estimating mean opinion score of synthesized speech |
US6988063B2 (en) | 2002-02-12 | 2006-01-17 | Sunflare Co., Ltd. | System and method for accurate grammar analysis using a part-of-speech tagged (POST) parser and learners' model |
JP3902483B2 (ja) | 2002-02-13 | 2007-04-04 | 三菱電機株式会社 | 音声処理装置及び音声処理方法 |
US20030152203A1 (en) | 2002-02-13 | 2003-08-14 | Berger Adam L. | Message accessing |
JP2003233568A (ja) | 2002-02-13 | 2003-08-22 | Matsushita Electric Ind Co Ltd | 電子メール送受信装置、および電子メール送受信プログラム |
US8249880B2 (en) | 2002-02-14 | 2012-08-21 | Intellisist, Inc. | Real-time display of system instructions |
US20030158735A1 (en) | 2002-02-15 | 2003-08-21 | Canon Kabushiki Kaisha | Information processing apparatus and method with speech synthesis function |
US20030158737A1 (en) | 2002-02-15 | 2003-08-21 | Csicsatka Tibor George | Method and apparatus for incorporating additional audio information into audio data file identifying information |
US7373291B2 (en) | 2002-02-15 | 2008-05-13 | Mathsoft Engineering & Education, Inc. | Linguistic support for a recognizer of mathematical expressions |
US6895257B2 (en) | 2002-02-18 | 2005-05-17 | Matsushita Electric Industrial Co., Ltd. | Personalized agent for portable devices and cellular phone |
US7035807B1 (en) | 2002-02-19 | 2006-04-25 | Brittain John W | Sound on sound-annotations |
US7009663B2 (en) | 2003-12-17 | 2006-03-07 | Planar Systems, Inc. | Integrated optical light sensitive active matrix liquid crystal display |
KR20030070179A (ko) | 2002-02-21 | 2003-08-29 | 엘지전자 주식회사 | 오디오 스트림 구분화 방법 |
US20030160830A1 (en) | 2002-02-22 | 2003-08-28 | Degross Lee M. | Pop-up edictionary |
US20030167167A1 (en) | 2002-02-26 | 2003-09-04 | Li Gong | Intelligent personal assistants |
US7096183B2 (en) | 2002-02-27 | 2006-08-22 | Matsushita Electric Industrial Co., Ltd. | Customizing the speaking style of a speech synthesizer based on semantic analysis |
GB0204686D0 (en) | 2002-02-28 | 2002-04-17 | Koninkl Philips Electronics Nv | Interactive system using tags |
ITTO20020170A1 (it) | 2002-02-28 | 2003-08-28 | Loquendo Spa | Metodo per velocizzare l'esecuzione di reti neurali per il riconoscimento della voce e relativo dispositivo di riconoscimento vocale. |
US20030167335A1 (en) | 2002-03-04 | 2003-09-04 | Vigilos, Inc. | System and method for network-based communication |
US7221287B2 (en) | 2002-03-05 | 2007-05-22 | Triangle Software Llc | Three-dimensional traffic report |
JP4039086B2 (ja) | 2002-03-05 | 2008-01-30 | ソニー株式会社 | 情報処理装置および情報処理方法、情報処理システム、記録媒体、並びにプログラム |
CN1383109A (zh) | 2002-03-05 | 2002-12-04 | 上海遥薇实业有限公司 | 卫星定位技术、地理信息技术和移动通信技术集成的智能管理系统 |
JP2003255991A (ja) | 2002-03-06 | 2003-09-10 | Sony Corp | 対話制御システム、対話制御方法及びロボット装置 |
US7023979B1 (en) | 2002-03-07 | 2006-04-04 | Wai Wu | Telephony control system with intelligent call routing |
DE10209928A1 (de) | 2002-03-07 | 2003-09-18 | Philips Intellectual Property | Verfahren zum Betrieb eines Sprach-Dialogsystems |
WO2003077079A2 (en) | 2002-03-08 | 2003-09-18 | Enleague Systems, Inc | Methods and systems for modeling and using computer resources over a heterogeneous distributed network using semantic ontologies |
US7031909B2 (en) | 2002-03-12 | 2006-04-18 | Verity, Inc. | Method and system for naming a cluster of words and phrases |
JP4150198B2 (ja) | 2002-03-15 | 2008-09-17 | ソニー株式会社 | 音声合成方法、音声合成装置、プログラム及び記録媒体、並びにロボット装置 |
KR100434545B1 (ko) | 2002-03-15 | 2004-06-05 | 삼성전자주식회사 | 홈네트워크로 연결된 가전기기들을 제어하는 방법 및 장치 |
US7336779B2 (en) | 2002-03-15 | 2008-02-26 | Avaya Technology Corp. | Topical dynamic chat |
US7113169B2 (en) | 2002-03-18 | 2006-09-26 | The United States Of America As Represented By The Secretary Of The Air Force | Apparatus and method for a multiple-user interface to interactive information displays |
US6957183B2 (en) | 2002-03-20 | 2005-10-18 | Qualcomm Inc. | Method for robust voice recognition by analyzing redundant features of source signal |
CA2479302A1 (en) | 2002-03-22 | 2003-10-02 | Sony Ericsson Mobile Communications Ab | Entering text into an electronic communications device |
EP1347361A1 (en) | 2002-03-22 | 2003-09-24 | Sony Ericsson Mobile Communications AB | Entering text into an electronic communications device |
US7016849B2 (en) | 2002-03-25 | 2006-03-21 | Sri International | Method and apparatus for providing speech-driven routing between spoken language applications |
CN1643512A (zh) | 2002-03-27 | 2005-07-20 | 南加利福尼亚大学 | 统计机译中短语化联合概率模型的短语 |
JP3777337B2 (ja) | 2002-03-27 | 2006-05-24 | ドコモ・モバイルメディア関西株式会社 | データサーバのアクセス制御方法、そのシステム、管理装置、及びコンピュータプログラム並びに記録媒体 |
US7185365B2 (en) | 2002-03-27 | 2007-02-27 | Intel Corporation | Security enabled network access control |
WO2003081574A1 (en) | 2002-03-27 | 2003-10-02 | Nokia Corporation | Pattern recognition |
US7330538B2 (en) | 2002-03-28 | 2008-02-12 | Gotvoice, Inc. | Closed-loop command and response system for automatic communications between interacting computer systems over an audio communications channel |
US6870529B1 (en) | 2002-03-28 | 2005-03-22 | Ncr Corporation | System and method for adjusting display brightness levels according to user preferences |
US7360158B1 (en) | 2002-03-28 | 2008-04-15 | At&T Mobility Ii Llc | Interactive education tool |
US7424623B2 (en) | 2002-03-28 | 2008-09-09 | O2 Micro International Limited | Personal computer integrated with personal digital assistant |
JP2003295882A (ja) | 2002-04-02 | 2003-10-15 | Canon Inc | 音声合成用テキスト構造、音声合成方法、音声合成装置及びそのコンピュータ・プログラム |
US7707221B1 (en) | 2002-04-03 | 2010-04-27 | Yahoo! Inc. | Associating and linking compact disc metadata |
US20030191645A1 (en) | 2002-04-05 | 2003-10-09 | Guojun Zhou | Statistical pronunciation model for text to speech |
US7038659B2 (en) | 2002-04-06 | 2006-05-02 | Janusz Wiktor Rajkowski | Symbol encoding apparatus and method |
US7187948B2 (en) | 2002-04-09 | 2007-03-06 | Skullcandy, Inc. | Personal portable integrator for music player and mobile phone |
US7359493B1 (en) | 2002-04-11 | 2008-04-15 | Aol Llc, A Delaware Limited Liability Company | Bulk voicemail |
US7177794B2 (en) | 2002-04-12 | 2007-02-13 | Babu V Mani | System and method for writing Indian languages using English alphabet |
US20030193481A1 (en) | 2002-04-12 | 2003-10-16 | Alexander Sokolsky | Touch-sensitive input overlay for graphical user interface |
JP2003308079A (ja) | 2002-04-15 | 2003-10-31 | Nissan Motor Co Ltd | 音声入力装置 |
US7043474B2 (en) | 2002-04-15 | 2006-05-09 | International Business Machines Corporation | System and method for measuring image similarity based on semantic meaning |
US6952577B2 (en) | 2002-04-16 | 2005-10-04 | Avaya Technology Corp. | Auditory methods for providing information about a telecommunication system's settings and status |
US7073193B2 (en) | 2002-04-16 | 2006-07-04 | Microsoft Corporation | Media content descriptions |
US6882337B2 (en) | 2002-04-18 | 2005-04-19 | Microsoft Corporation | Virtual keyboard for touch-typing using audio feedback |
US6879954B2 (en) | 2002-04-22 | 2005-04-12 | Matsushita Electric Industrial Co., Ltd. | Pattern matching for large vocabulary speech recognition systems |
US7869998B1 (en) | 2002-04-23 | 2011-01-11 | At&T Intellectual Property Ii, L.P. | Voice-enabled dialog system |
US7197460B1 (en) | 2002-04-23 | 2007-03-27 | At&T Corp. | System for handling frequently asked questions in a natural language dialog service |
US6847966B1 (en) | 2002-04-24 | 2005-01-25 | Engenium Corporation | Method and system for optimally searching a document database using a representative semantic space |
US6877001B2 (en) | 2002-04-25 | 2005-04-05 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for retrieving documents with spoken queries |
US7120297B2 (en) | 2002-04-25 | 2006-10-10 | Microsoft Corporation | Segmented layered image system |
AU2002251113A1 (en) | 2002-04-29 | 2003-11-17 | Nokia Corporation | Method and system for rapid navigation in aural user interface |
US20030200858A1 (en) | 2002-04-29 | 2003-10-30 | Jianlei Xie | Mixing MP3 audio and T T P for enhanced E-book application |
US8135115B1 (en) | 2006-11-22 | 2012-03-13 | Securus Technologies, Inc. | System and method for multi-channel recording |
US7490034B2 (en) | 2002-04-30 | 2009-02-10 | Microsoft Corporation | Lexicon with sectionalized data and method of using the same |
AU2003241340A1 (en) | 2002-04-30 | 2003-11-17 | University Of Southern California | Preparing and presenting content |
TWI256562B (en) | 2002-05-03 | 2006-06-11 | Ind Tech Res Inst | Method for named-entity recognition and verification |
FI20020847A (fi) | 2002-05-03 | 2003-11-04 | Nokia Corp | Menetelmä ja laite valikkotoimintojen käyttämiseksi |
US7221937B2 (en) | 2002-05-06 | 2007-05-22 | Research In Motion Limited | Event reminder method |
US6957077B2 (en) | 2002-05-06 | 2005-10-18 | Microsoft Corporation | System and method for enabling instant messaging on a mobile device |
US7191119B2 (en) | 2002-05-07 | 2007-03-13 | International Business Machines Corporation | Integrated development tool for building a natural language understanding application |
US7093199B2 (en) | 2002-05-07 | 2006-08-15 | International Business Machines Corporation | Design environment to facilitate accessible software |
US7149983B1 (en) | 2002-05-08 | 2006-12-12 | Microsoft Corporation | User interface and method to facilitate hierarchical specification of queries using an information taxonomy |
US7190351B1 (en) | 2002-05-10 | 2007-03-13 | Michael Goren | System and method for data input |
US6986106B2 (en) | 2002-05-13 | 2006-01-10 | Microsoft Corporation | Correction widget |
TWI238348B (en) | 2002-05-13 | 2005-08-21 | Kyocera Corp | Portable information terminal, display control device, display control method, and recording media |
US7403890B2 (en) | 2002-05-13 | 2008-07-22 | Roushar Joseph C | Multi-dimensional method and apparatus for automated language interpretation |
JP3574119B2 (ja) | 2002-05-14 | 2004-10-06 | 株式会社スクウェア・エニックス | ネットワークゲームシステム、ビデオゲーム装置、プログラム、及び記録媒体 |
US7380203B2 (en) | 2002-05-14 | 2008-05-27 | Microsoft Corporation | Natural input recognition tool |
US7436947B2 (en) | 2002-05-14 | 2008-10-14 | Avaya Inc. | Method and apparatus for automatic notification and response based on communication flow expressions |
JP3953886B2 (ja) | 2002-05-16 | 2007-08-08 | セイコーエプソン株式会社 | 字幕抽出装置 |
US7136818B1 (en) | 2002-05-16 | 2006-11-14 | At&T Corp. | System and method of providing conversational visual prosody for talking heads |
US7493560B1 (en) | 2002-05-20 | 2009-02-17 | Oracle International Corporation | Definition links in online documentation |
US7062723B2 (en) | 2002-05-20 | 2006-06-13 | Gateway Inc. | Systems, methods and apparatus for magnifying portions of a display |
US8006268B2 (en) | 2002-05-21 | 2011-08-23 | Microsoft Corporation | Interest messaging entertainment system |
JP2003338769A (ja) | 2002-05-22 | 2003-11-28 | Nec Access Technica Ltd | 携帯無線端末装置 |
US8611919B2 (en) | 2002-05-23 | 2013-12-17 | Wounder Gmbh., Llc | System, method, and computer program product for providing location based services and mobile e-commerce |
US7546382B2 (en) | 2002-05-28 | 2009-06-09 | International Business Machines Corporation | Methods and systems for authoring of mixed-initiative multi-modal interactions and related browsing mechanisms |
US6996575B2 (en) | 2002-05-31 | 2006-02-07 | Sas Institute Inc. | Computer-implemented system and method for text-based document processing |
US7522910B2 (en) | 2002-05-31 | 2009-04-21 | Oracle International Corporation | Method and apparatus for controlling data provided to a mobile device |
AU2003241772B2 (en) | 2002-05-31 | 2008-11-06 | Onkyo Corporation | Network type content reproduction system |
US20040006593A1 (en) | 2002-06-14 | 2004-01-08 | Vogler Hartmut K. | Multidimensional approach to context-awareness |
US7398209B2 (en) | 2002-06-03 | 2008-07-08 | Voicebox Technologies, Inc. | Systems and methods for responding to natural language speech utterance |
DE10224816A1 (de) | 2002-06-05 | 2003-12-24 | Philips Intellectual Property | Eine mobile Einheit und ein Verfahren zur Steuerung einer mobilen Einheit |
US7366659B2 (en) | 2002-06-07 | 2008-04-29 | Lucent Technologies Inc. | Methods and devices for selectively generating time-scaled sound signals |
CA2431384C (en) | 2002-06-10 | 2009-08-04 | Research In Motion Limited | Voicemail user interface methods and apparatus for mobile communication devices |
US20030233230A1 (en) | 2002-06-12 | 2003-12-18 | Lucent Technologies Inc. | System and method for representing and resolving ambiguity in spoken dialogue systems |
US7143037B1 (en) | 2002-06-12 | 2006-11-28 | Cisco Technology, Inc. | Spelling words using an arbitrary phonetic alphabet |
FI118549B (fi) | 2002-06-14 | 2007-12-14 | Nokia Corp | Menetelmä ja järjestelmä äänipalautteen järjestämiseksi digitaaliseen langattomaan päätelaitteeseen sekä vastaava päätelaite ja palvelin |
US20060026233A1 (en) | 2002-06-17 | 2006-02-02 | Tenembaum Samuel S | Enabling communication between users surfing the same web page |
US7680649B2 (en) | 2002-06-17 | 2010-03-16 | International Business Machines Corporation | System, method, program product, and networking use for recognizing words and their parts of speech in one or more natural languages |
US20030233237A1 (en) | 2002-06-17 | 2003-12-18 | Microsoft Corporation | Integration of speech and stylus input to provide an efficient natural input experience |
US20030236663A1 (en) | 2002-06-19 | 2003-12-25 | Koninklijke Philips Electronics N.V. | Mega speaker identification (ID) system and corresponding methods therefor |
US8219608B2 (en) | 2002-06-20 | 2012-07-10 | Koninklijke Philips Electronics N.V. | Scalable architecture for web services |
US20030237055A1 (en) | 2002-06-20 | 2003-12-25 | Thomas Lange | Methods and systems for processing text elements |
US7174298B2 (en) | 2002-06-24 | 2007-02-06 | Intel Corporation | Method and apparatus to improve accuracy of mobile speech-enabled services |
US7003522B1 (en) | 2002-06-24 | 2006-02-21 | Microsoft Corporation | System and method for incorporating smart tags in online content |
EP1536638A4 (en) | 2002-06-24 | 2005-11-09 | Matsushita Electric Ind Co Ltd | METADATA PRODUCTION DEVICE, CREATION METHOD DAFUR AND TESTING DEVICE |
US6999066B2 (en) | 2002-06-24 | 2006-02-14 | Xerox Corporation | System for audible feedback for touch screen displays |
US7260529B1 (en) | 2002-06-25 | 2007-08-21 | Lengen Nicholas D | Command insertion system and method for voice recognition applications |
US20030236582A1 (en) | 2002-06-25 | 2003-12-25 | Lee Zamir | Selection of items based on user reactions |
US7568151B2 (en) | 2002-06-27 | 2009-07-28 | Microsoft Corporation | Notification of activity around documents |
KR100464428B1 (ko) | 2002-08-12 | 2005-01-03 | 삼성전자주식회사 | 음성 인식 장치 |
US7065185B1 (en) | 2002-06-28 | 2006-06-20 | Bellsouth Intellectual Property Corp. | Systems and methods for providing real-time conversation using disparate communication devices |
US7299033B2 (en) | 2002-06-28 | 2007-11-20 | Openwave Systems Inc. | Domain-based management of distribution of digital content from multiple suppliers to multiple wireless services subscribers |
US7259752B1 (en) | 2002-06-28 | 2007-08-21 | Microsoft Corporation | Method and system for editing electronic ink |
US7233790B2 (en) | 2002-06-28 | 2007-06-19 | Openwave Systems, Inc. | Device capability based discovery, packaging and provisioning of content for wireless mobile devices |
WO2004003887A2 (en) | 2002-06-28 | 2004-01-08 | Conceptual Speech, Llc | Multi-phoneme streamer and knowledge representation speech recognition system and method |
US7174042B1 (en) | 2002-06-28 | 2007-02-06 | Microsoft Corporation | System and method for automatically recognizing electronic handwriting in an electronic document and converting to text |
US7079713B2 (en) | 2002-06-28 | 2006-07-18 | Microsoft Corporation | Method and system for displaying and linking ink objects with recognized text and objects |
GB0215123D0 (en) | 2002-06-28 | 2002-08-07 | Ibm | Method and apparatus for preparing a document to be read by a text-to-speech-r eader |
US7656393B2 (en) | 2005-03-04 | 2010-02-02 | Apple Inc. | Electronic device having display and surrounding touch sensitive bezel for user interface and control |
US11275405B2 (en) | 2005-03-04 | 2022-03-15 | Apple Inc. | Multi-functional hand-held device |
RU2251737C2 (ru) | 2002-10-18 | 2005-05-10 | Аби Софтвер Лтд. | Способ автоматического определения языка распознаваемого текста при многоязычном распознавании |
DE60222813T2 (de) | 2002-07-12 | 2008-07-03 | Widex A/S | Hörgerät und methode für das erhöhen von redeverständlichkeit |
US7693720B2 (en) | 2002-07-15 | 2010-04-06 | Voicebox Technologies, Inc. | Mobile systems and methods for responding to natural language speech utterance |
JP2004056226A (ja) | 2002-07-16 | 2004-02-19 | Sanyo Electric Co Ltd | ディジタル放送受信装置 |
AU2003252024A1 (en) | 2002-07-16 | 2004-02-02 | Bruce L. Horn | Computer system for automatic organization, indexing and viewing of information from multiple sources |
US20040012556A1 (en) | 2002-07-17 | 2004-01-22 | Sea-Weng Yong | Method and related device for controlling illumination of a backlight of a liquid crystal display |
US8150922B2 (en) | 2002-07-17 | 2012-04-03 | Research In Motion Limited | Voice and text group chat display management techniques for wireless mobile terminals |
US6882971B2 (en) | 2002-07-18 | 2005-04-19 | General Instrument Corporation | Method and apparatus for improving listener differentiation of talkers during a conference call |
US8947347B2 (en) | 2003-08-27 | 2015-02-03 | Sony Computer Entertainment Inc. | Controlling actions in a video game unit |
FR2842643B1 (fr) | 2002-07-22 | 2004-09-03 | France Telecom | Normalisation de score de verification dans un dispositif de reconnaissance vocale de locuteur |
US6799226B1 (en) | 2002-07-23 | 2004-09-28 | Apple Computer, Inc. | Hot unpluggable media storage device |
EP2154613A1 (en) | 2002-07-23 | 2010-02-17 | Research in Motion Limited | Systems and methods of building and using custom word lists |
JP3979209B2 (ja) | 2002-07-23 | 2007-09-19 | オムロン株式会社 | データ入力方法およびデータ入力装置 |
US6876727B2 (en) | 2002-07-24 | 2005-04-05 | Sbc Properties, Lp | Voice over IP method for developing interactive voice response system |
US7143028B2 (en) | 2002-07-24 | 2006-11-28 | Applied Minds, Inc. | Method and system for masking speech |
WO2004012423A2 (en) | 2002-07-25 | 2004-02-05 | Sharp Laboratories Of America, Inc. | Aural user interface |
US7620547B2 (en) | 2002-07-25 | 2009-11-17 | Sony Deutschland Gmbh | Spoken man-machine interface with speaker identification |
US7535997B1 (en) | 2002-07-29 | 2009-05-19 | At&T Intellectual Property I, L.P. | Systems and methods for silent message delivery |
US7166791B2 (en) | 2002-07-30 | 2007-01-23 | Apple Computer, Inc. | Graphical user interface and methods of use thereof in a multimedia player |
GB2391373A (en) | 2002-07-31 | 2004-02-04 | David Toms | A system for the automatic detection of a fraudulent transaction |
US7194413B2 (en) | 2002-07-31 | 2007-03-20 | Deere & Company | Method of providing localized information from a single global transformation source |
TW591488B (en) | 2002-08-01 | 2004-06-11 | Tatung Co | Window scrolling method and device thereof |
US20040024834A1 (en) | 2002-08-02 | 2004-02-05 | Andrew Alegria | Sharing personal information between computing devices |
US7072686B1 (en) | 2002-08-09 | 2006-07-04 | Avon Associates, Inc. | Voice controlled multimedia and communications device |
US8068881B2 (en) | 2002-08-09 | 2011-11-29 | Avon Associates, Inc. | Voice controlled multimedia and communications system |
JP4040555B2 (ja) | 2002-08-09 | 2008-01-30 | 富士通株式会社 | 情報検索装置および情報検索プログラム |
US20050086605A1 (en) | 2002-08-23 | 2005-04-21 | Miguel Ferrer | Method and apparatus for online advertising |
US6950502B1 (en) | 2002-08-23 | 2005-09-27 | Bellsouth Intellectual Property Corp. | Enhanced scheduled messaging system |
US20040210634A1 (en) | 2002-08-23 | 2004-10-21 | Miguel Ferrer | Method enabling a plurality of computer users to communicate via a set of interconnected terminals |
JP2004086356A (ja) | 2002-08-23 | 2004-03-18 | Fujitsu Ten Ltd | 認証方法および認証装置 |
US20040036715A1 (en) | 2002-08-26 | 2004-02-26 | Peter Warren | Multi-level user help |
US7496631B2 (en) | 2002-08-27 | 2009-02-24 | Aol Llc | Delivery of an electronic communication using a lifespan |
GB2392592B (en) | 2002-08-27 | 2004-07-07 | 20 20 Speech Ltd | Speech synthesis apparatus and method |
CN1864204A (zh) | 2002-09-06 | 2006-11-15 | 语音信号技术有限公司 | 用来完成语音识别的方法、系统和程序 |
US20040049391A1 (en) | 2002-09-09 | 2004-03-11 | Fuji Xerox Co., Ltd. | Systems and methods for dynamic reading fluency proficiency assessment |
WO2004025938A1 (en) | 2002-09-09 | 2004-03-25 | Vertu Ltd | Cellular radio telephone |
JP2004101901A (ja) | 2002-09-10 | 2004-04-02 | Matsushita Electric Works Ltd | 音声対話装置及び音声対話プログラム |
US20040125922A1 (en) | 2002-09-12 | 2004-07-01 | Specht Jeffrey L. | Communications device with sound masking system |
US20040054534A1 (en) | 2002-09-13 | 2004-03-18 | Junqua Jean-Claude | Client-server voice customization |
US7047193B1 (en) | 2002-09-13 | 2006-05-16 | Apple Computer, Inc. | Unsupervised data-driven pronunciation modeling |
US6907397B2 (en) | 2002-09-16 | 2005-06-14 | Matsushita Electric Industrial Co., Ltd. | System and method of media file access and retrieval using speech recognition |
US7103157B2 (en) | 2002-09-17 | 2006-09-05 | International Business Machines Corporation | Audio quality when streaming audio to non-streaming telephony devices |
US7567902B2 (en) | 2002-09-18 | 2009-07-28 | Nuance Communications, Inc. | Generating speech recognition grammars from a large corpus of data |
US6999918B2 (en) | 2002-09-20 | 2006-02-14 | Motorola, Inc. | Method and apparatus to facilitate correlating symbols to sounds |
US7194697B2 (en) | 2002-09-24 | 2007-03-20 | Microsoft Corporation | Magnification engine |
US7899500B2 (en) | 2002-09-24 | 2011-03-01 | At&T Intellectual Property I, L. P. | Apparatus and method for providing hands-free operation of a device |
US7027842B2 (en) | 2002-09-24 | 2006-04-11 | Bellsouth Intellectual Property Corporation | Apparatus and method for providing hands-free operation of a device |
US7328155B2 (en) | 2002-09-25 | 2008-02-05 | Toyota Infotechnology Center Co., Ltd. | Method and system for speech recognition using grammar weighted based upon location information |
JP2004117905A (ja) | 2002-09-26 | 2004-04-15 | Fujitsu Ltd | 音声を用いた情報アクセス装置及び方法 |
US7260190B2 (en) | 2002-09-26 | 2007-08-21 | International Business Machines Corporation | System and method for managing voicemails using metadata |
US7434167B2 (en) | 2002-09-30 | 2008-10-07 | Microsoft Corporation | Accessibility system and method |
US20040061717A1 (en) | 2002-09-30 | 2004-04-01 | Menon Rama R. | Mechanism for voice-enabling legacy internet content for use with multi-modal browsers |
CA2406131A1 (en) | 2002-09-30 | 2004-03-30 | Idelix Software Inc. | A graphical user interface using detail-in-context folding |
BR0313490A (pt) | 2002-09-30 | 2005-07-05 | Microsoft Corp | Sistema e método para tornar elementos de interface de usuário conhecidos por uma aplicação e usuário |
CA2406025A1 (en) | 2002-09-30 | 2004-03-30 | Ibm Canada Limited-Ibm Canada Limitee | Validating content of localization data files |
CN1685313A (zh) | 2002-09-30 | 2005-10-19 | 陈宁萍 | 由指针发起的对电子文档中文本信息的即时双语注释 |
US20060276230A1 (en) * | 2002-10-01 | 2006-12-07 | Mcconnell Christopher F | System and method for wireless audio communication with a computer |
US9342829B2 (en) * | 2002-10-01 | 2016-05-17 | Andrew H B Zhou | Systems and methods for mobile application, wearable application, transactional messaging, calling, digital multimedia capture and payment transactions |
US7123696B2 (en) | 2002-10-04 | 2006-10-17 | Frederick Lowe | Method and apparatus for generating and distributing personalized media clips |
US7231597B1 (en) | 2002-10-07 | 2007-06-12 | Microsoft Corporation | Method, apparatus, and computer-readable medium for creating asides within an electronic document |
US6925438B2 (en) | 2002-10-08 | 2005-08-02 | Motorola, Inc. | Method and apparatus for providing an animated display with translated speech |
US20040073428A1 (en) | 2002-10-10 | 2004-04-15 | Igor Zlokarnik | Apparatus, methods, and programming for speech synthesis via bit manipulations of compressed database |
US7467087B1 (en) | 2002-10-10 | 2008-12-16 | Gillick Laurence S | Training and using pronunciation guessers in speech recognition |
US7124082B2 (en) | 2002-10-11 | 2006-10-17 | Twisted Innovations | Phonetic speech-to-text-to-speech system and method |
US7054888B2 (en) | 2002-10-16 | 2006-05-30 | Microsoft Corporation | Optimizing media player memory during rendering |
US7136874B2 (en) | 2002-10-16 | 2006-11-14 | Microsoft Corporation | Adaptive menu system for media players |
US7373612B2 (en) | 2002-10-21 | 2008-05-13 | Battelle Memorial Institute | Multidimensional structured data visualization method and apparatus, text visualization method and apparatus, method and apparatus for visualizing and graphically navigating the world wide web, method and apparatus for visualizing hierarchies |
JP4330376B2 (ja) | 2002-10-22 | 2009-09-16 | 富士通株式会社 | 光半導体装置及びその駆動方法 |
JP2004153306A (ja) | 2002-10-28 | 2004-05-27 | Sharp Corp | 携帯端末装置及びセキュリティシステム |
US7003457B2 (en) | 2002-10-29 | 2006-02-21 | Nokia Corporation | Method and system for text editing in hand-held electronic device |
US7519534B2 (en) | 2002-10-31 | 2009-04-14 | Agiletv Corporation | Speech controlled access to content on a presentation medium |
JP2004152063A (ja) | 2002-10-31 | 2004-05-27 | Nec Corp | マルチメディアコンテンツ構造化方法、構造化装置および構造化プログラム、ならびに提供方法 |
US8009966B2 (en) | 2002-11-01 | 2011-08-30 | Synchro Arts Limited | Methods and apparatus for use in sound replacement with automatic synchronization to images |
US20040218451A1 (en) | 2002-11-05 | 2004-11-04 | Said Joe P. | Accessible user interface and navigation system and method |
GB2395029A (en) | 2002-11-06 | 2004-05-12 | Alan Wilkinson | Translation of electronically transmitted messages |
US20040086120A1 (en) | 2002-11-06 | 2004-05-06 | Akins Glendon L. | Selecting and downloading content to a portable player |
US7822611B2 (en) | 2002-11-12 | 2010-10-26 | Bezar David B | Speaker intent analysis system |
US8972266B2 (en) | 2002-11-12 | 2015-03-03 | David Bezar | User intent analysis extent of speaker intent analysis system |
US7152033B2 (en) | 2002-11-12 | 2006-12-19 | Motorola, Inc. | Method, system and module for multi-modal data fusion |
WO2004047077A1 (en) | 2002-11-15 | 2004-06-03 | Voice Signal Technologies, Inc. | Multilingual speech recognition |
US7003099B1 (en) | 2002-11-15 | 2006-02-21 | Fortmedia, Inc. | Small array microphone for acoustic echo cancellation and noise suppression |
US7796977B2 (en) | 2002-11-18 | 2010-09-14 | Research In Motion Limited | Voice mailbox configuration methods and apparatus for mobile communication devices |
US7231379B2 (en) | 2002-11-19 | 2007-06-12 | Noema, Inc. | Navigation in a hierarchical structured transaction processing system |
US20040098250A1 (en) | 2002-11-19 | 2004-05-20 | Gur Kimchi | Semantic search system and method |
KR100477796B1 (ko) | 2002-11-21 | 2005-03-22 | 주식회사 팬택앤큐리텔 | 속도 감응에 의한 핸즈프리 전환 장치 및 그 방법 |
US7386799B1 (en) | 2002-11-21 | 2008-06-10 | Forterra Systems, Inc. | Cinematic techniques in avatar-centric communication during a multi-user online simulation |
JP3667332B2 (ja) | 2002-11-21 | 2005-07-06 | 松下電器産業株式会社 | 標準モデル作成装置及び標準モデル作成方法 |
AU2003293071A1 (en) | 2002-11-22 | 2004-06-18 | Roy Rosser | Autonomous response engine |
US7580838B2 (en) | 2002-11-22 | 2009-08-25 | Scansoft, Inc. | Automatic insertion of non-verbalized punctuation |
US20040102957A1 (en) | 2002-11-22 | 2004-05-27 | Levin Robert E. | System and method for speech translation using remote devices |
US7296230B2 (en) | 2002-11-29 | 2007-11-13 | Nippon Telegraph And Telephone Corporation | Linked contents browsing support device, linked contents continuous browsing support device, and method and program therefor, and recording medium therewith |
US7298930B1 (en) | 2002-11-29 | 2007-11-20 | Ricoh Company, Ltd. | Multimodal access of meeting recordings |
US7457745B2 (en) | 2002-12-03 | 2008-11-25 | Hrl Laboratories, Llc | Method and apparatus for fast on-line automatic speaker/environment adaptation for speech/speaker recognition in the presence of changing environments |
US7684985B2 (en) | 2002-12-10 | 2010-03-23 | Richard Dominach | Techniques for disambiguating speech input using multimodal interfaces |
KR100580619B1 (ko) | 2002-12-11 | 2006-05-16 | 삼성전자주식회사 | 사용자와 에이전트 간의 대화 관리방법 및 장치 |
US7386449B2 (en) | 2002-12-11 | 2008-06-10 | Voice Enabling Systems Technology Inc. | Knowledge-based flexible natural speech dialogue system |
US7177817B1 (en) | 2002-12-12 | 2007-02-13 | Tuvox Incorporated | Automatic generation of voice content for a voice response system |
US7353139B1 (en) | 2002-12-13 | 2008-04-01 | Garmin Ltd. | Portable apparatus with performance monitoring and audio entertainment features |
US7797064B2 (en) | 2002-12-13 | 2010-09-14 | Stephen Loomis | Apparatus and method for skipping songs without delay |
FR2848688A1 (fr) | 2002-12-17 | 2004-06-18 | France Telecom | Identification de langue d'un texte |
US20060088292A1 (en) | 2002-12-17 | 2006-04-27 | Guillen Newton G | Method for tagging and displaying songs in a digital audio player |
US20040174434A1 (en) | 2002-12-18 | 2004-09-09 | Walker Jay S. | Systems and methods for suggesting meta-information to a camera user |
US20040121761A1 (en) | 2002-12-19 | 2004-06-24 | Abinash Tripathy | Method and apparatus for processing voicemail messages |
JP3974511B2 (ja) | 2002-12-19 | 2007-09-12 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システム |
US20040205151A1 (en) | 2002-12-19 | 2004-10-14 | Sprigg Stephen A. | Triggering event processing |
US8661112B2 (en) | 2002-12-20 | 2014-02-25 | Nuance Communications, Inc. | Customized interactive voice response menus |
US20040203520A1 (en) | 2002-12-20 | 2004-10-14 | Tom Schirtzinger | Apparatus and method for application control in an electronic device |
US20060112810A1 (en) | 2002-12-20 | 2006-06-01 | Eves David A | Ordering audio signals |
TWI245259B (en) | 2002-12-20 | 2005-12-11 | Ibm | Sensor based speech recognizer selection, adaptation and combination |
DE60231844D1 (de) | 2002-12-20 | 2009-05-14 | Nokia Corp | Utzerseitiger information mit meta-information |
AU2003283783A1 (en) | 2002-12-20 | 2005-05-11 | Koninklijke Philips Electronics N.V. | Video content detection |
US7191127B2 (en) | 2002-12-23 | 2007-03-13 | Motorola, Inc. | System and method for speech enhancement |
JP2004205605A (ja) | 2002-12-24 | 2004-07-22 | Yamaha Corp | 音声および楽曲再生装置およびシーケンスデータフォーマット |
US20040124583A1 (en) | 2002-12-26 | 2004-07-01 | Landis Mark T. | Board game method and device |
US20040127198A1 (en) | 2002-12-30 | 2004-07-01 | Roskind James A. | Automatically changing a mobile device configuration based on environmental condition |
US20040128614A1 (en) | 2002-12-30 | 2004-07-01 | International Business Machines Corporation | Real time internationalization of web pages with embedded server-side code |
GB2396927A (en) | 2002-12-30 | 2004-07-07 | Digital Fidelity Ltd | Media file distribution system |
US6927763B2 (en) | 2002-12-30 | 2005-08-09 | Motorola, Inc. | Method and system for providing a disambiguated keypad |
US7703091B1 (en) | 2002-12-31 | 2010-04-20 | Emc Corporation | Methods and apparatus for installing agents in a managed network |
KR20040062289A (ko) | 2003-01-02 | 2004-07-07 | 삼성전자주식회사 | 휴대용 컴퓨터 및 그 제어방법 |
US7956766B2 (en) | 2003-01-06 | 2011-06-07 | Panasonic Corporation | Apparatus operating system |
EP1435620A1 (en) | 2003-01-06 | 2004-07-07 | Thomson Licensing S.A. | Method for creating and accessing a menu for audio content without using a display |
US7003464B2 (en) | 2003-01-09 | 2006-02-21 | Motorola, Inc. | Dialog recognition and control in a voice browser |
CN1757027A (zh) | 2003-01-13 | 2006-04-05 | 德尔卡技术公司 | 新式的个人电子装置 |
US7194699B2 (en) | 2003-01-14 | 2007-03-20 | Microsoft Corporation | Animating images to reflect user selection |
US7522735B2 (en) | 2003-01-14 | 2009-04-21 | Timothy Dale Van Tassel | Electronic circuit with spring reverberation effect and improved output controllability |
US7382358B2 (en) | 2003-01-16 | 2008-06-03 | Forword Input, Inc. | System and method for continuous stroke word-based text input |
JP2004226741A (ja) | 2003-01-23 | 2004-08-12 | Nissan Motor Co Ltd | 情報提供装置 |
US8335683B2 (en) | 2003-01-23 | 2012-12-18 | Microsoft Corporation | System for using statistical classifiers for spoken language understanding |
US7266189B1 (en) | 2003-01-27 | 2007-09-04 | Cisco Technology, Inc. | Who said that? teleconference speaker identification apparatus and method |
US7593868B2 (en) | 2003-01-29 | 2009-09-22 | Innovation Interactive Llc | Systems and methods for providing contextual advertising information via a communication network |
US20040152055A1 (en) | 2003-01-30 | 2004-08-05 | Gliessner Michael J.G. | Video based language learning system |
US6961704B1 (en) | 2003-01-31 | 2005-11-01 | Speechworks International, Inc. | Linguistic prosodic model-based text to speech |
US8285537B2 (en) | 2003-01-31 | 2012-10-09 | Comverse, Inc. | Recognition of proper nouns using native-language pronunciation |
US20040162741A1 (en) | 2003-02-07 | 2004-08-19 | David Flaxer | Method and apparatus for product lifecycle management in a distributed environment enabled by dynamic business process composition and execution by rule inference |
US20040160419A1 (en) | 2003-02-11 | 2004-08-19 | Terradigital Systems Llc. | Method for entering alphanumeric characters into a graphical user interface |
US7606714B2 (en) | 2003-02-11 | 2009-10-20 | Microsoft Corporation | Natural language classification within an automated response system |
WO2004072846A2 (en) | 2003-02-13 | 2004-08-26 | Koninklijke Philips Electronics N.V. | Automatic processing of templates with speech recognition |
EP1450350A1 (en) | 2003-02-20 | 2004-08-25 | Sony International (Europe) GmbH | Method for Recognizing Speech with attributes |
US7617094B2 (en) | 2003-02-28 | 2009-11-10 | Palo Alto Research Center Incorporated | Methods, apparatus, and products for identifying a conversation |
US7809565B2 (en) | 2003-03-01 | 2010-10-05 | Coifman Robert E | Method and apparatus for improving the transcription accuracy of speech recognition software |
WO2004079720A1 (en) | 2003-03-01 | 2004-09-16 | Robert E Coifman | Method and apparatus for improving the transcription accuracy of speech recognition software |
US7805299B2 (en) | 2004-03-01 | 2010-09-28 | Coifman Robert E | Method and apparatus for improving the transcription accuracy of speech recognition software |
US7272224B1 (en) | 2003-03-03 | 2007-09-18 | Apple Inc. | Echo cancellation |
SG135918A1 (en) | 2003-03-03 | 2007-10-29 | Xrgomics Pte Ltd | Unambiguous text input method for touch screens and reduced keyboard systems |
US7529671B2 (en) | 2003-03-04 | 2009-05-05 | Microsoft Corporation | Block synchronous decoding |
US7185291B2 (en) | 2003-03-04 | 2007-02-27 | Institute For Information Industry | Computer with a touch screen |
US8064753B2 (en) | 2003-03-05 | 2011-11-22 | Freeman Alan D | Multi-feature media article and method for manufacture of same |
JP4828091B2 (ja) | 2003-03-05 | 2011-11-30 | ヒューレット・パッカード・カンパニー | クラスタリング方法プログラム及び装置 |
US20040186713A1 (en) | 2003-03-06 | 2004-09-23 | Gomas Steven W. | Content delivery and speech system and apparatus for the blind and print-handicapped |
US7103852B2 (en) | 2003-03-10 | 2006-09-05 | International Business Machines Corporation | Dynamic resizing of clickable areas of touch screen applications |
US6980949B2 (en) | 2003-03-14 | 2005-12-27 | Sonum Technologies, Inc. | Natural language processor |
US7835504B1 (en) | 2003-03-16 | 2010-11-16 | Palm, Inc. | Telephone number parsing and linking |
US9274576B2 (en) | 2003-03-17 | 2016-03-01 | Callahan Cellular L.L.C. | System and method for activation of portable and mobile media player devices for wireless LAN services |
US8244712B2 (en) | 2003-03-18 | 2012-08-14 | Apple Inc. | Localized viewing of file system names |
US7062223B2 (en) | 2003-03-18 | 2006-06-13 | Phonak Communications Ag | Mobile transceiver and electronic module for controlling the transceiver |
US20040186714A1 (en) | 2003-03-18 | 2004-09-23 | Aurilab, Llc | Speech recognition improvement through post-processsing |
JP4127515B2 (ja) | 2003-03-19 | 2008-07-30 | 京セラ株式会社 | 携帯端末装置 |
US20040183833A1 (en) | 2003-03-19 | 2004-09-23 | Chua Yong Tong | Keyboard error reduction method and apparatus |
US7613797B2 (en) | 2003-03-19 | 2009-11-03 | Unisys Corporation | Remote discovery and system architecture |
WO2004083981A2 (en) | 2003-03-20 | 2004-09-30 | Creo Inc. | System and methods for storing and presenting personal information |
US8292433B2 (en) | 2003-03-21 | 2012-10-23 | Queen's University At Kingston | Method and apparatus for communication between humans and devices |
JP2004310034A (ja) | 2003-03-24 | 2004-11-04 | Matsushita Electric Works Ltd | 対話エージェントシステム |
US7496498B2 (en) | 2003-03-24 | 2009-02-24 | Microsoft Corporation | Front-end architecture for a multi-lingual text-to-speech system |
FR2853127A1 (fr) | 2003-03-25 | 2004-10-01 | France Telecom | Systeme de reconnaissance de parole distribuee |
US7280968B2 (en) | 2003-03-25 | 2007-10-09 | International Business Machines Corporation | Synthetically generated speech responses including prosodic characteristics of speech inputs |
US8745541B2 (en) | 2003-03-25 | 2014-06-03 | Microsoft Corporation | Architecture for controlling a computer using hand gestures |
US7129932B1 (en) | 2003-03-26 | 2006-10-31 | At&T Corp. | Keyboard for interacting on small devices |
WO2004086359A2 (en) | 2003-03-26 | 2004-10-07 | Philips Intellectual Property & Standards Gmbh | System for speech recognition and correction, correction device and method for creating a lexicon of alternatives |
JP2004295837A (ja) | 2003-03-28 | 2004-10-21 | Nippon Telegr & Teleph Corp <Ntt> | 音声制御方法、音声制御装置、音声制御プログラム |
US7787855B2 (en) | 2003-03-31 | 2010-08-31 | Motorola, Inc. | Establishing emergency sessions in packet data networks for wireless devices having invalid subscriber identities |
US7146319B2 (en) | 2003-03-31 | 2006-12-05 | Novauris Technologies Ltd. | Phonetically based speech recognition system and method |
EP1465047A1 (en) | 2003-04-03 | 2004-10-06 | Deutsche Thomson-Brandt Gmbh | Method for presenting menu buttons |
US7729542B2 (en) | 2003-04-04 | 2010-06-01 | Carnegie Mellon University | Using edges and corners for character input |
US7941009B2 (en) | 2003-04-08 | 2011-05-10 | The Penn State Research Foundation | Real-time computerized annotation of pictures |
US7394947B2 (en) | 2003-04-08 | 2008-07-01 | The Penn State Research Foundation | System and method for automatic linguistic indexing of images by a statistical modeling approach |
US8224757B2 (en) | 2003-04-15 | 2012-07-17 | Sap Ag | Curriculum management system |
WO2004095347A2 (en) | 2003-04-16 | 2004-11-04 | Assen Vassilev | Bounded flexibility search and interface for travel reservations |
US20070136064A1 (en) | 2003-04-16 | 2007-06-14 | Carroll David W | Mobile personal computer with movement sensor |
US7463727B2 (en) | 2003-04-18 | 2008-12-09 | At&T International Property, I, L.P. | Caller ID messaging device |
EP1618734A2 (en) | 2003-04-22 | 2006-01-25 | Spinvox Limited | Operator performed voicemail transcription |
BRPI0409395A (pt) | 2003-04-24 | 2006-04-18 | Thomson Licensing | criação de listas de reprodução utilizando identificação de áudio |
US6728729B1 (en) | 2003-04-25 | 2004-04-27 | Apple Computer, Inc. | Accessing media across networks |
US7627343B2 (en) | 2003-04-25 | 2009-12-01 | Apple Inc. | Media player system |
US7519186B2 (en) | 2003-04-25 | 2009-04-14 | Microsoft Corporation | Noise reduction systems and methods for voice applications |
WO2004097792A1 (ja) | 2003-04-28 | 2004-11-11 | Fujitsu Limited | 音声合成システム |
US7711550B1 (en) | 2003-04-29 | 2010-05-04 | Microsoft Corporation | Methods and system for recognizing names in a computer-generated document and for providing helpful actions associated with recognized names |
US20040230637A1 (en) | 2003-04-29 | 2004-11-18 | Microsoft Corporation | Application controls for speech enabled recognition |
US7720680B2 (en) | 2004-06-17 | 2010-05-18 | Robert Bosch Gmbh | Interactive manual, system and method for vehicles and other complex equipment |
US20050033771A1 (en) | 2003-04-30 | 2005-02-10 | Schmitter Thomas A. | Contextual advertising system |
US7603267B2 (en) | 2003-05-01 | 2009-10-13 | Microsoft Corporation | Rules-based grammar for slots and statistical model for preterminals in natural language understanding system |
US20040220798A1 (en) | 2003-05-01 | 2004-11-04 | Visteon Global Technologies, Inc. | Remote voice identification system |
US7669134B1 (en) | 2003-05-02 | 2010-02-23 | Apple Inc. | Method and apparatus for displaying information during an instant messaging session |
US7443971B2 (en) | 2003-05-05 | 2008-10-28 | Microsoft Corporation | Computer system with do not disturb system and method |
US7496630B2 (en) | 2003-05-06 | 2009-02-24 | At&T Intellectual Property I, L.P. | Adaptive notification delivery in a multi-device environment |
US20040260547A1 (en) | 2003-05-08 | 2004-12-23 | Voice Signal Technologies | Signal-to-noise mediated speech recognition algorithm |
JP3991914B2 (ja) | 2003-05-08 | 2007-10-17 | 日産自動車株式会社 | 移動体用音声認識装置 |
US8046705B2 (en) | 2003-05-08 | 2011-10-25 | Hillcrest Laboratories, Inc. | Systems and methods for resolution consistent semantic zooming |
US8005677B2 (en) | 2003-05-09 | 2011-08-23 | Cisco Technology, Inc. | Source-dependent text-to-speech system |
US7249025B2 (en) | 2003-05-09 | 2007-07-24 | Matsushita Electric Industrial Co., Ltd. | Portable device for enhanced security and accessibility |
US7313523B1 (en) | 2003-05-14 | 2007-12-25 | Apple Inc. | Method and apparatus for assigning word prominence to new or previous information in speech synthesis |
US7421393B1 (en) | 2004-03-01 | 2008-09-02 | At&T Corp. | System for developing a dialog manager using modular spoken-dialog components |
JP4759269B2 (ja) | 2003-05-16 | 2011-08-31 | 株式会社エヌ・ティ・ティ・ドコモ | 個別サービス選択 |
GB2402031B (en) | 2003-05-19 | 2007-03-28 | Toshiba Res Europ Ltd | Lexical stress prediction |
ES2295485T3 (es) | 2003-05-20 | 2008-04-16 | Sony Ericsson Mobile Communications Ab | Fijacion automatica de un modo de introduccion por teclado en respuesta a un mensaje de texto entrante. |
US7269544B2 (en) | 2003-05-20 | 2007-09-11 | Hewlett-Packard Development Company, L.P. | System and method for identifying special word usage in a document |
JP4370811B2 (ja) | 2003-05-21 | 2009-11-25 | カシオ計算機株式会社 | 音声表示出力制御装置、および音声表示出力制御処理プログラム |
US20050045373A1 (en) | 2003-05-27 | 2005-03-03 | Joseph Born | Portable media device with audio prompt menu |
US20040242286A1 (en) | 2003-05-28 | 2004-12-02 | Benco David S. | Configurable network initiated response to mobile low battery condition |
US7200559B2 (en) | 2003-05-29 | 2007-04-03 | Microsoft Corporation | Semantic object synchronous understanding implemented with speech application language tags |
US8301436B2 (en) | 2003-05-29 | 2012-10-30 | Microsoft Corporation | Semantic object synchronous understanding for highly interactive interface |
US7407384B2 (en) | 2003-05-29 | 2008-08-05 | Robert Bosch Gmbh | System, method and device for language education through a voice portal server |
US20040243412A1 (en) | 2003-05-29 | 2004-12-02 | Gupta Sunil K. | Adaptation of speech models in speech recognition |
US7493251B2 (en) | 2003-05-30 | 2009-02-17 | Microsoft Corporation | Using source-channel models for word segmentation |
US20040243415A1 (en) | 2003-06-02 | 2004-12-02 | International Business Machines Corporation | Architecture for a speech input method editor for handheld portable devices |
US20040249637A1 (en) | 2003-06-04 | 2004-12-09 | Aurilab, Llc | Detecting repeated phrases and inference of dialogue models |
US7496230B2 (en) | 2003-06-05 | 2009-02-24 | International Business Machines Corporation | System and method for automatic natural language translation of embedded text regions in images during information transfer |
US7778432B2 (en) | 2003-06-06 | 2010-08-17 | Gn Resound A/S | Hearing aid wireless network |
US20040252966A1 (en) | 2003-06-10 | 2004-12-16 | Holloway Marty M. | Video storage and playback system and method |
GB0313385D0 (en) | 2003-06-10 | 2003-07-16 | Symbian Ltd | Automatic behaviour modifications in symbian OS |
US7577568B2 (en) | 2003-06-10 | 2009-08-18 | At&T Intellctual Property Ii, L.P. | Methods and system for creating voice files using a VoiceXML application |
GB2402855A (en) | 2003-06-12 | 2004-12-15 | Seiko Epson Corp | Multiple language text to speech processing |
US7720683B1 (en) | 2003-06-13 | 2010-05-18 | Sensory, Inc. | Method and apparatus of specifying and performing speech recognition operations |
KR100634496B1 (ko) | 2003-06-16 | 2006-10-13 | 삼성전자주식회사 | 입력언어모드 인식방법 및 장치와 이를 이용한 입력언어모드 자동전환방법 및 장치 |
US20040260438A1 (en) | 2003-06-17 | 2004-12-23 | Chernetsky Victor V. | Synchronous voice user interface/graphical user interface |
WO2004111869A1 (en) | 2003-06-17 | 2004-12-23 | Kwangwoon Foundation | Exceptional pronunciation dictionary generation method for the automatic pronunciation generation in korean |
US20040259536A1 (en) | 2003-06-20 | 2004-12-23 | Keskar Dhananjay V. | Method, apparatus and system for enabling context aware notification in mobile devices |
US7559026B2 (en) | 2003-06-20 | 2009-07-07 | Apple Inc. | Video conferencing system having focus control |
US7703004B2 (en) | 2003-06-20 | 2010-04-20 | Palo Alto Research Center Incorporated | Systems and methods for automatically converting web pages to structured shared web-writable pages |
US7346634B2 (en) | 2003-06-23 | 2008-03-18 | Microsoft Corporation | Application configuration change log |
CA2532583A1 (en) | 2003-06-24 | 2005-01-13 | Ntech Properties, Inc. | Method, system and apparatus for information delivery |
US7827047B2 (en) | 2003-06-24 | 2010-11-02 | At&T Intellectual Property I, L.P. | Methods and systems for assisting scheduling with automation |
US7107296B2 (en) | 2003-06-25 | 2006-09-12 | Microsoft Corporation | Media library synchronizer |
US7757182B2 (en) | 2003-06-25 | 2010-07-13 | Microsoft Corporation | Taskbar media player |
US7512884B2 (en) | 2003-06-25 | 2009-03-31 | Microsoft Corporation | System and method for switching of media presentation |
US7363586B1 (en) | 2003-06-26 | 2008-04-22 | Microsoft Corporation | Component localization |
US7428000B2 (en) | 2003-06-26 | 2008-09-23 | Microsoft Corp. | System and method for distributed meetings |
US7310779B2 (en) | 2003-06-26 | 2007-12-18 | International Business Machines Corporation | Method for creating and selecting active regions on physical documents |
US7634732B1 (en) | 2003-06-26 | 2009-12-15 | Microsoft Corporation | Persona menu |
US7739588B2 (en) | 2003-06-27 | 2010-06-15 | Microsoft Corporation | Leveraging markup language data for semantically labeling text strings and data and for providing actions based on semantically labeled text strings and data |
US7057607B2 (en) | 2003-06-30 | 2006-06-06 | Motorola, Inc. | Application-independent text entry for touch-sensitive display |
US7580551B1 (en) | 2003-06-30 | 2009-08-25 | The Research Foundation Of State University Of Ny | Method and apparatus for analyzing and/or comparing handwritten and/or biometric samples |
AU2003304306A1 (en) | 2003-07-01 | 2005-01-21 | Nokia Corporation | Method and device for operating a user-input area on an electronic display device |
US7257585B2 (en) | 2003-07-02 | 2007-08-14 | Vibrant Media Limited | Method and system for augmenting web content |
US20060277058A1 (en) | 2003-07-07 | 2006-12-07 | J Maev Jack I | Method and apparatus for providing aftermarket service for a product |
US20080097937A1 (en) | 2003-07-10 | 2008-04-24 | Ali Hadjarian | Distributed method for integrating data mining and text categorization techniques |
EP1656620A2 (en) | 2003-07-11 | 2006-05-17 | Sonolink Communications Systems, LLC | System and method for advanced rule creation and management within an integrated virtual workspace |
US7154526B2 (en) | 2003-07-11 | 2006-12-26 | Fuji Xerox Co., Ltd. | Telepresence system and method for video teleconferencing |
WO2005008444A2 (en) | 2003-07-14 | 2005-01-27 | Matt Pallakoff | System and method for a portbale multimedia client |
US8638910B2 (en) | 2003-07-14 | 2014-01-28 | Cisco Technology, Inc. | Integration of enterprise voicemail in mobile systems |
US7231633B2 (en) | 2003-07-15 | 2007-06-12 | Lsi Corporation | Debugging with set verbosity level during read and analysis of executable code and associated comments while logging according to set verbosity level |
US20050015772A1 (en) | 2003-07-16 | 2005-01-20 | Saare John E. | Method and system for device specific application optimization via a portal server |
WO2005008899A1 (en) | 2003-07-17 | 2005-01-27 | Xrgomics Pte Ltd | Letter and word choice text input method for keyboards and reduced keyboard systems |
US7757173B2 (en) | 2003-07-18 | 2010-07-13 | Apple Inc. | Voice menu system |
KR100811232B1 (ko) | 2003-07-18 | 2008-03-07 | 엘지전자 주식회사 | 턴 바이 턴 네비게이션 시스템 및 차기 안내방법 |
US7363242B2 (en) | 2003-07-21 | 2008-04-22 | Emirates | Internet based airline ticket purchasing and vacation planning system and method |
JP2005043666A (ja) | 2003-07-22 | 2005-02-17 | Renesas Technology Corp | 音声認識装置 |
JP2005044149A (ja) | 2003-07-23 | 2005-02-17 | Sanyo Electric Co Ltd | コンテンツ出力装置 |
US20050066279A1 (en) | 2003-07-23 | 2005-03-24 | Lebarton Jeffrey | Stop motion capture tool |
WO2005010866A1 (en) | 2003-07-23 | 2005-02-03 | Nexidia Inc. | Spoken word spotting queries |
US8856163B2 (en) | 2003-07-28 | 2014-10-07 | Google Inc. | System and method for providing a user interface with search query broadening |
DE10334400A1 (de) | 2003-07-28 | 2005-02-24 | Siemens Ag | Verfahren zur Spracherkennung und Kommunikationsgerät |
JP4551635B2 (ja) | 2003-07-31 | 2010-09-29 | ソニー株式会社 | パイプライン処理システムおよび情報処理装置 |
US20050027385A1 (en) | 2003-08-01 | 2005-02-03 | Wen-Hsiang Yueh | MP3 player having a wireless earphone communication with a mobile |
US20080101584A1 (en) | 2003-08-01 | 2008-05-01 | Mitel Networks Corporation | Method of providing context aware announcements |
US7386438B1 (en) | 2003-08-04 | 2008-06-10 | Google Inc. | Identifying language attributes through probabilistic analysis |
US7721228B2 (en) | 2003-08-05 | 2010-05-18 | Yahoo! Inc. | Method and system of controlling a context menu |
JP2005055782A (ja) | 2003-08-07 | 2005-03-03 | Sharp Corp | データ入力装置、ハンディターミナル、データ入力方法、プログラム及び記録媒体 |
US7280647B2 (en) | 2003-08-07 | 2007-10-09 | Microsoft Corporation | Dynamic photo caller identification |
EP1653361A4 (en) | 2003-08-08 | 2006-12-13 | Onkyo Kk | NETWORK AV SYSTEM |
US8826137B2 (en) | 2003-08-14 | 2014-09-02 | Freedom Scientific, Inc. | Screen reader having concurrent communication of non-textual information |
JP2005063257A (ja) | 2003-08-18 | 2005-03-10 | Canon Inc | 情報処理方法、情報処理装置 |
US7509313B2 (en) | 2003-08-21 | 2009-03-24 | Idilia Inc. | System and method for processing a query |
JP2005070645A (ja) | 2003-08-27 | 2005-03-17 | Casio Comput Co Ltd | テキスト音声同期装置およびテキスト音声同期処理プログラム |
US7437704B2 (en) | 2003-08-28 | 2008-10-14 | Ines Antje Dahne-Steuber | Real-time generation of software translation |
US8311835B2 (en) | 2003-08-29 | 2012-11-13 | Microsoft Corporation | Assisted multi-modal dialogue |
EP1511277A1 (en) | 2003-08-29 | 2005-03-02 | Swisscom AG | Method for answering an incoming event with a phone device, and adapted phone device |
CN1327406C (zh) | 2003-08-29 | 2007-07-18 | 摩托罗拉公司 | 开放式词汇表语音识别的方法 |
JP2005080094A (ja) | 2003-09-02 | 2005-03-24 | Canon Inc | 通信装置及びその用件通知方法 |
KR20050023941A (ko) | 2003-09-03 | 2005-03-10 | 삼성전자주식회사 | 음성 인식 및 화자 인식을 통한 개별화된 서비스를제공하는 a/v 장치 및 그 방법 |
US7475010B2 (en) | 2003-09-03 | 2009-01-06 | Lingospot, Inc. | Adaptive and scalable method for resolving natural language ambiguities |
US7539619B1 (en) | 2003-09-05 | 2009-05-26 | Spoken Translation Ind. | Speech-enabled language translation system and method enabling interactive user supervision of translation and speech recognition accuracy |
US7475015B2 (en) | 2003-09-05 | 2009-01-06 | International Business Machines Corporation | Semantic language modeling and confidence measurement |
US20050054381A1 (en) | 2003-09-05 | 2005-03-10 | Samsung Electronics Co., Ltd. | Proactive user interface |
US20060253787A1 (en) | 2003-09-09 | 2006-11-09 | Fogg Brian J | Graphical messaging system |
JP2005086624A (ja) | 2003-09-10 | 2005-03-31 | Aol Japan Inc | 携帯電話機を使用した連絡システム及び携帯電話機、インターネットプロトコルサーバ並びにプログラム。 |
US8577681B2 (en) | 2003-09-11 | 2013-11-05 | Nuance Communications, Inc. | Pronunciation discovery for spoken words |
US7386451B2 (en) | 2003-09-11 | 2008-06-10 | Microsoft Corporation | Optimization of an objective measure for estimating mean opinion score of synthesized speech |
US20050125235A1 (en) | 2003-09-11 | 2005-06-09 | Voice Signal Technologies, Inc. | Method and apparatus for using earcons in mobile communication devices |
JP4663223B2 (ja) | 2003-09-11 | 2011-04-06 | パナソニック株式会社 | 演算処理装置 |
US7266495B1 (en) | 2003-09-12 | 2007-09-04 | Nuance Communications, Inc. | Method and system for learning linguistically valid word pronunciations from acoustic data |
WO2005027485A1 (en) | 2003-09-12 | 2005-03-24 | Nokia Corporation | Method and device for handling missed calls in a mobile communications environment |
TWI220511B (en) | 2003-09-12 | 2004-08-21 | Ind Tech Res Inst | An automatic speech segmentation and verification system and its method |
JP2005092441A (ja) | 2003-09-16 | 2005-04-07 | Aizu:Kk | 文字入力方法 |
US7411575B2 (en) | 2003-09-16 | 2008-08-12 | Smart Technologies Ulc | Gesture recognition method and touch system incorporating the same |
US7418392B1 (en) | 2003-09-25 | 2008-08-26 | Sensory, Inc. | System and method for controlling the operation of a device by voice commands |
US7460652B2 (en) | 2003-09-26 | 2008-12-02 | At&T Intellectual Property I, L.P. | VoiceXML and rule engine based switchboard for interactive voice response (IVR) services |
CN1320482C (zh) | 2003-09-29 | 2007-06-06 | 摩托罗拉公司 | 标识文本串中的自然语音停顿的方法 |
US7065349B2 (en) | 2003-09-29 | 2006-06-20 | Nattel Group, Inc. | Method for automobile safe wireless communications |
CN1260704C (zh) | 2003-09-29 | 2006-06-21 | 摩托罗拉公司 | 语音合成方法 |
JP2007511855A (ja) | 2003-09-30 | 2007-05-10 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | トリック再生の性能を向上するためのキャッシュ管理 |
JP4146322B2 (ja) | 2003-09-30 | 2008-09-10 | カシオ計算機株式会社 | 通信システムおよび情報通信端末 |
US7194611B2 (en) | 2003-09-30 | 2007-03-20 | Microsoft Corporation | Method and system for navigation using media transport controls |
US7386440B2 (en) | 2003-10-01 | 2008-06-10 | International Business Machines Corporation | Method, system, and apparatus for natural language mixed-initiative dialogue processing |
US20060008256A1 (en) | 2003-10-01 | 2006-01-12 | Khedouri Robert K | Audio visual player apparatus and system and method of content distribution using the same |
US7366666B2 (en) | 2003-10-01 | 2008-04-29 | International Business Machines Corporation | Relative delta computations for determining the meaning of language inputs |
US7324943B2 (en) | 2003-10-02 | 2008-01-29 | Matsushita Electric Industrial Co., Ltd. | Voice tagging, voice annotation, and speech recognition for portable devices with optional post processing |
WO2005034086A1 (ja) | 2003-10-03 | 2005-04-14 | Asahi Kasei Kabushiki Kaisha | データ処理装置及びデータ処理装置制御プログラム |
US6813218B1 (en) | 2003-10-06 | 2004-11-02 | The United States Of America As Represented By The Secretary Of The Navy | Buoyant device for bi-directional acousto-optic signal transfer across the air-water interface |
US9984377B2 (en) | 2003-10-06 | 2018-05-29 | Yellowpages.Com Llc | System and method for providing advertisement |
US10425538B2 (en) | 2003-10-06 | 2019-09-24 | Yellowpages.Com Llc | Methods and apparatuses for advertisements on mobile devices for communication connections |
US20070162296A1 (en) | 2003-10-06 | 2007-07-12 | Utbk, Inc. | Methods and apparatuses for audio advertisements |
US7302392B1 (en) | 2003-10-07 | 2007-11-27 | Sprint Spectrum L.P. | Voice browser with weighting of browser-level grammar to enhance usability |
US7620894B1 (en) | 2003-10-08 | 2009-11-17 | Apple Inc. | Automatic, dynamic user interface configuration |
US7318020B1 (en) | 2003-10-08 | 2008-01-08 | Microsoft Corporation | Methods and systems for external localization |
US20050080620A1 (en) | 2003-10-09 | 2005-04-14 | General Electric Company | Digitization of work processes using wearable wireless devices capable of vocal command recognition in noisy environments |
US7383170B2 (en) | 2003-10-10 | 2008-06-03 | At&T Knowledge Ventures, L.P. | System and method for analyzing automatic speech recognition performance data |
US7502797B2 (en) | 2003-10-15 | 2009-03-10 | Ascentive, Llc | Supervising monitoring and controlling activities performed on a client device |
CN100484222C (zh) | 2003-10-16 | 2009-04-29 | 松下电器产业株式会社 | 视频音频记录播放装置、视频音频记录方法和视频音频播放方法 |
US7487092B2 (en) | 2003-10-17 | 2009-02-03 | International Business Machines Corporation | Interactive debugging and tuning method for CTTS voice building |
JP2005149481A (ja) | 2003-10-21 | 2005-06-09 | Zenrin Datacom Co Ltd | 音声認識を用いた情報入力を伴う情報処理装置 |
JP4864712B2 (ja) | 2003-10-21 | 2012-02-01 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | ユーザインタフェースを有するインテリジェント音声認識 |
US7409347B1 (en) | 2003-10-23 | 2008-08-05 | Apple Inc. | Data-driven global boundary optimization |
US7643990B1 (en) | 2003-10-23 | 2010-01-05 | Apple Inc. | Global boundary-centric feature extraction and associated discontinuity metrics |
WO2005041170A1 (en) | 2003-10-24 | 2005-05-06 | Nokia Corpration | Noise-dependent postfiltering |
US7155706B2 (en) | 2003-10-24 | 2006-12-26 | Microsoft Corporation | Administrative tool environment |
US7669177B2 (en) | 2003-10-24 | 2010-02-23 | Microsoft Corporation | System and method for preference application installation and execution |
FI20031566A (fi) | 2003-10-27 | 2005-04-28 | Nokia Corp | Kielen valitseminen sanantunnistusta varten |
GB2407681B (en) | 2003-10-29 | 2007-02-28 | Vecommerce Ltd | Voice recognition system and method |
US20070083623A1 (en) | 2003-10-30 | 2007-04-12 | Makoto Nishimura | Mobile terminal apparatus |
GB2407657B (en) | 2003-10-30 | 2006-08-23 | Vox Generation Ltd | Automated grammar generator (AGG) |
US20050102144A1 (en) | 2003-11-06 | 2005-05-12 | Rapoport Ezra J. | Speech synthesis |
US8074184B2 (en) | 2003-11-07 | 2011-12-06 | Mocrosoft Corporation | Modifying electronic documents with recognized content or other associated data |
US20050102625A1 (en) | 2003-11-07 | 2005-05-12 | Lee Yong C. | Audio tag retrieval system and method |
US7292726B2 (en) | 2003-11-10 | 2007-11-06 | Microsoft Corporation | Recognition of electronic ink with late strokes |
US7302099B2 (en) | 2003-11-10 | 2007-11-27 | Microsoft Corporation | Stroke segmentation for template-based cursive handwriting recognition |
US7584092B2 (en) | 2004-11-15 | 2009-09-01 | Microsoft Corporation | Unsupervised learning of paraphrase/translation alternations and selective application thereof |
US7412385B2 (en) | 2003-11-12 | 2008-08-12 | Microsoft Corporation | System for identifying paraphrases using machine translation |
JP4516527B2 (ja) | 2003-11-12 | 2010-08-04 | 本田技研工業株式会社 | 音声認識装置 |
US7561069B2 (en) | 2003-11-12 | 2009-07-14 | Legalview Assets, Limited | Notification systems and methods enabling a response to change particulars of delivery or pickup |
US7841533B2 (en) | 2003-11-13 | 2010-11-30 | Metrologic Instruments, Inc. | Method of capturing and processing digital images of an object within the field of view (FOV) of a hand-supportable digitial image capture and processing system |
US20050108074A1 (en) | 2003-11-14 | 2005-05-19 | Bloechl Peter E. | Method and system for prioritization of task items |
US7206391B2 (en) | 2003-12-23 | 2007-04-17 | Apptera Inc. | Method for creating and deploying system changes in a voice application system |
US8055713B2 (en) | 2003-11-17 | 2011-11-08 | Hewlett-Packard Development Company, L.P. | Email application with user voice interface |
US7248900B2 (en) | 2003-11-18 | 2007-07-24 | Nokia Corporation | Compound ring tunes |
US7983920B2 (en) | 2003-11-18 | 2011-07-19 | Microsoft Corporation | Adaptive computing environment |
WO2005052744A2 (en) | 2003-11-19 | 2005-06-09 | Atx Technonlogies | Wirelessly delivered owner's manual |
US20050114306A1 (en) | 2003-11-20 | 2005-05-26 | International Business Machines Corporation | Integrated searching of multiple search sources |
US20050114791A1 (en) | 2003-11-20 | 2005-05-26 | International Business Machines Corporation | Cueing mechanism that indicates a display is able to be scrolled |
US7310605B2 (en) | 2003-11-25 | 2007-12-18 | International Business Machines Corporation | Method and apparatus to transliterate text using a portable device |
US20050114140A1 (en) | 2003-11-26 | 2005-05-26 | Brackett Charles C. | Method and apparatus for contextual voice cues |
US7779356B2 (en) | 2003-11-26 | 2010-08-17 | Griesmer James P | Enhanced data tip system and method |
US7447630B2 (en) | 2003-11-26 | 2008-11-04 | Microsoft Corporation | Method and apparatus for multi-sensory speech enhancement |
KR100621092B1 (ko) | 2003-11-27 | 2006-09-08 | 삼성전자주식회사 | P2p 프로토콜을 이용하여 어플리케이션을 공유하는 방법및 장치 |
US20090018918A1 (en) | 2004-11-04 | 2009-01-15 | Manyworlds Inc. | Influence-based Social Network Advertising |
JP4396242B2 (ja) | 2003-11-28 | 2010-01-13 | 富士ゼロックス株式会社 | 文書リンク構造情報作成装置及び方法 |
US20050119890A1 (en) | 2003-11-28 | 2005-06-02 | Yoshifumi Hirose | Speech synthesis apparatus and speech synthesis method |
US20050125218A1 (en) | 2003-12-04 | 2005-06-09 | Nitendra Rajput | Language modelling for mixed language expressions |
US7865354B2 (en) | 2003-12-05 | 2011-01-04 | International Business Machines Corporation | Extracting and grouping opinions from text documents |
EP1691343B1 (en) | 2003-12-05 | 2008-09-17 | Kabushiki Kaisha Kenwood | Audio device control device,audio device control method, and program |
US7689412B2 (en) | 2003-12-05 | 2010-03-30 | Microsoft Corporation | Synonymous collocation extraction using translation information |
US20050144003A1 (en) | 2003-12-08 | 2005-06-30 | Nokia Corporation | Multi-lingual speech synthesis |
JP4006395B2 (ja) | 2003-12-11 | 2007-11-14 | キヤノン株式会社 | 情報処理装置及びその制御方法、プログラム |
US7412388B2 (en) | 2003-12-12 | 2008-08-12 | International Business Machines Corporation | Language-enhanced programming tools |
CA2545873C (en) | 2003-12-16 | 2012-07-24 | Loquendo S.P.A. | Text-to-speech method and system, computer program product therefor |
JP2005181386A (ja) | 2003-12-16 | 2005-07-07 | Mitsubishi Electric Corp | 音声対話処理装置及び音声対話処理方法並びにプログラム |
US7427024B1 (en) | 2003-12-17 | 2008-09-23 | Gazdzinski Mark J | Chattel management apparatus and methods |
US7334090B2 (en) | 2003-12-17 | 2008-02-19 | At&T Delaware Intellectual Property, Inc. | Methods, systems, and storage mediums for providing information storage services |
US20050144070A1 (en) | 2003-12-23 | 2005-06-30 | Cheshire Stuart D. | Method and apparatus for advertising a user interface for configuring, controlling and/or monitoring a service |
JP2005189454A (ja) | 2003-12-25 | 2005-07-14 | Casio Comput Co Ltd | テキスト同期音声再生制御装置及びプログラム |
EP1699042B1 (en) | 2003-12-26 | 2010-02-17 | Kabushiki Kaisha Kenwood | Device control device, method and program |
US7404143B2 (en) | 2003-12-26 | 2008-07-22 | Microsoft Corporation | Server-based single roundtrip spell checking |
US7631276B2 (en) | 2003-12-29 | 2009-12-08 | International Business Machines Corporation | Method for indication and navigating related items |
US7363224B2 (en) | 2003-12-30 | 2008-04-22 | Microsoft Corporation | Method for entering text |
GB2409750B (en) | 2004-01-05 | 2006-03-15 | Toshiba Res Europ Ltd | Speech recognition system and technique |
KR20050072256A (ko) | 2004-01-06 | 2005-07-11 | 엘지전자 주식회사 | 고밀도 광디스크의 메뉴 사운드 구성방법 및 재생방법과기록재생장치 |
US20050149510A1 (en) | 2004-01-07 | 2005-07-07 | Uri Shafrir | Concept mining and concept discovery-semantic search tool for large digital databases |
US7401300B2 (en) | 2004-01-09 | 2008-07-15 | Nokia Corporation | Adaptive user interface input device |
US7552055B2 (en) | 2004-01-10 | 2009-06-23 | Microsoft Corporation | Dialog component re-use in recognition systems |
US8160883B2 (en) | 2004-01-10 | 2012-04-17 | Microsoft Corporation | Focus tracking in dialogs |
US8281339B1 (en) | 2004-01-12 | 2012-10-02 | United Video Properties, Inc. | Customizable flip and browse overlays in an interactive television system |
US7660715B1 (en) | 2004-01-12 | 2010-02-09 | Avaya Inc. | Transparent monitoring and intervention to improve automatic adaptation of speech models |
US7298904B2 (en) | 2004-01-14 | 2007-11-20 | International Business Machines Corporation | Method and apparatus for scaling handwritten character input for handwriting recognition |
US7359851B2 (en) | 2004-01-14 | 2008-04-15 | Clairvoyance Corporation | Method of identifying the language of a textual passage using short word and/or n-gram comparisons |
JP4600828B2 (ja) | 2004-01-14 | 2010-12-22 | 日本電気株式会社 | 文書対応付け装置、および文書対応付け方法 |
JP2005202014A (ja) | 2004-01-14 | 2005-07-28 | Sony Corp | 音声信号処理装置、音声信号処理方法および音声信号処理プログラム |
EP1555622A1 (en) | 2004-01-16 | 2005-07-20 | Sony International (Europe) GmbH | System and method for the dynamic display of text |
EP1704558B8 (en) | 2004-01-16 | 2011-09-21 | Nuance Communications, Inc. | Corpus-based speech synthesis based on segment recombination |
JP2005210362A (ja) | 2004-01-22 | 2005-08-04 | Nissan Motor Co Ltd | 留守番電話システム、留守番電話機および端末並びに留守番電話方法 |
US20050165607A1 (en) | 2004-01-22 | 2005-07-28 | At&T Corp. | System and method to disambiguate and clarify user intention in a spoken dialog system |
US8689113B2 (en) | 2004-01-22 | 2014-04-01 | Sony Corporation | Methods and apparatus for presenting content |
WO2005073193A1 (en) | 2004-01-23 | 2005-08-11 | Amgen Inc. | Vanilloid receptor ligands and their use in treatments |
US7707039B2 (en) | 2004-02-15 | 2010-04-27 | Exbiblio B.V. | Automatic modification of web pages |
EP1560200B8 (en) | 2004-01-29 | 2009-08-05 | Harman Becker Automotive Systems GmbH | Method and system for spoken dialogue interface |
US7610258B2 (en) | 2004-01-30 | 2009-10-27 | Microsoft Corporation | System and method for exposing a child list |
US7383250B2 (en) | 2004-01-30 | 2008-06-03 | Research In Motion Limited | Contact query data system and method |
US7542971B2 (en) | 2004-02-02 | 2009-06-02 | Fuji Xerox Co., Ltd. | Systems and methods for collaborative note-taking |
FR2865846A1 (fr) | 2004-02-02 | 2005-08-05 | France Telecom | Systeme de synthese vocale |
US7596499B2 (en) | 2004-02-02 | 2009-09-29 | Panasonic Corporation | Multilingual text-to-speech system with limited resources |
JP4274962B2 (ja) | 2004-02-04 | 2009-06-10 | 株式会社国際電気通信基礎技術研究所 | 音声認識システム |
EP1562180B1 (en) | 2004-02-06 | 2015-04-01 | Nuance Communications, Inc. | Speech dialogue system and method for controlling an electronic device |
US6856259B1 (en) | 2004-02-06 | 2005-02-15 | Elo Touchsystems, Inc. | Touch sensor system to detect multiple touch events |
US7580866B2 (en) | 2004-02-10 | 2009-08-25 | Verizon Business Global Llc | Apparatus, methods, and computer readable medium for determining the location of a portable device in a shopping environment |
JP4262113B2 (ja) | 2004-02-13 | 2009-05-13 | シチズン電子株式会社 | バックライト |
US8200475B2 (en) | 2004-02-13 | 2012-06-12 | Microsoft Corporation | Phonetic-based text input method |
JP2005228075A (ja) | 2004-02-13 | 2005-08-25 | Institute Of Physical & Chemical Research | 日常言語プログラム処理システム、その方法および修辞構造解析方法 |
KR100612839B1 (ko) | 2004-02-18 | 2006-08-18 | 삼성전자주식회사 | 도메인 기반 대화 음성인식방법 및 장치 |
US7721226B2 (en) | 2004-02-18 | 2010-05-18 | Microsoft Corporation | Glom widget |
US20050185598A1 (en) | 2004-02-20 | 2005-08-25 | Mika Grundstrom | System and method for device discovery |
US7433876B2 (en) | 2004-02-23 | 2008-10-07 | Radar Networks, Inc. | Semantic web portal and platform |
US20050187767A1 (en) | 2004-02-24 | 2005-08-25 | Godden Kurt S. | Dynamic N-best algorithm to reduce speech recognition errors |
EP1756785A2 (en) | 2004-02-24 | 2007-02-28 | Caretouch Communications, Inc. | Intelligent message delivery system |
US8654936B1 (en) | 2004-02-24 | 2014-02-18 | At&T Intellectual Property I, L.P. | Home control, monitoring and communication system using remote voice commands |
EP1569200A1 (en) | 2004-02-26 | 2005-08-31 | Sony International (Europe) GmbH | Identification of the presence of speech in digital audio data |
US8069045B2 (en) | 2004-02-26 | 2011-11-29 | International Business Machines Corporation | Hierarchical approach for the statistical vowelization of Arabic text |
KR100462292B1 (ko) | 2004-02-26 | 2004-12-17 | 엔에이치엔(주) | 중요도 정보를 반영한 검색 결과 리스트 제공 방법 및 그시스템 |
US7645108B2 (en) | 2004-02-26 | 2010-01-12 | Benko John C | Stack loading and unloading cart |
US7505906B2 (en) | 2004-02-26 | 2009-03-17 | At&T Intellectual Property, Ii | System and method for augmenting spoken language understanding by correcting common errors in linguistic performance |
US20050190970A1 (en) | 2004-02-27 | 2005-09-01 | Research In Motion Limited | Text input system for a mobile electronic device and methods thereof |
US7706616B2 (en) | 2004-02-27 | 2010-04-27 | International Business Machines Corporation | System and method for recognizing word patterns in a very large vocabulary based on a virtual keyboard layout |
US20050195094A1 (en) | 2004-03-05 | 2005-09-08 | White Russell W. | System and method for utilizing a bicycle computer to monitor athletic performance |
KR101089382B1 (ko) | 2004-03-09 | 2011-12-02 | 주식회사 비즈모델라인 | 음성 결제 처리기능이 구비된 무선 단말기 및 기록매체 |
US7590533B2 (en) | 2004-03-10 | 2009-09-15 | Microsoft Corporation | New-word pronunciation learning using a pronunciation graph |
US7693715B2 (en) | 2004-03-10 | 2010-04-06 | Microsoft Corporation | Generating large units of graphonemes with mutual information criterion for letter to sound conversion |
US7711129B2 (en) | 2004-03-11 | 2010-05-04 | Apple Inc. | Method and system for approximating graphic equalizers using dynamic filter order reduction |
US7016709B2 (en) | 2004-03-12 | 2006-03-21 | Sbc Knowledge Ventures, L.P. | Universal mobile phone adapter method and system for vehicles |
US8676614B2 (en) | 2004-03-12 | 2014-03-18 | Amr Corporation | Automated airlines reservations system |
US7983835B2 (en) | 2004-11-03 | 2011-07-19 | Lagassey Paul J | Modular intelligent transportation system |
US7478033B2 (en) | 2004-03-16 | 2009-01-13 | Google Inc. | Systems and methods for translating Chinese pinyin to Chinese characters |
US20050210394A1 (en) | 2004-03-16 | 2005-09-22 | Crandall Evan S | Method for providing concurrent audio-video and audio instant messaging sessions |
FI20045077A (fi) | 2004-03-16 | 2005-09-17 | Nokia Corp | Menetelmä ja laitteisto viestin kokorajoituksen indikoimiseksi |
US7084758B1 (en) | 2004-03-19 | 2006-08-01 | Advanced Micro Devices, Inc. | Location-based reminders |
JP4458888B2 (ja) | 2004-03-22 | 2010-04-28 | 富士通株式会社 | 会議支援システム、議事録生成方法、およびコンピュータプログラム |
CN100346274C (zh) | 2004-03-25 | 2007-10-31 | 升达科技股份有限公司 | 以起始位置及移动方向定义的输入方法、控制模块及产品 |
JP2005275925A (ja) | 2004-03-25 | 2005-10-06 | Railway Technical Res Inst | サーバシステム |
JP4587160B2 (ja) | 2004-03-26 | 2010-11-24 | キヤノン株式会社 | 信号処理装置および方法 |
JP4581452B2 (ja) | 2004-03-29 | 2010-11-17 | 日本電気株式会社 | 電子機器、そのロック機能解除方法及びそのプログラム |
US7571111B2 (en) | 2004-03-29 | 2009-08-04 | United Parcel Service Of America, Inc. | Computer system for monitoring actual performance to standards in real time |
US7409337B1 (en) | 2004-03-30 | 2008-08-05 | Microsoft Corporation | Natural language processing interface |
US20050222973A1 (en) | 2004-03-30 | 2005-10-06 | Matthias Kaiser | Methods and systems for summarizing information |
US7716216B1 (en) | 2004-03-31 | 2010-05-11 | Google Inc. | Document ranking based on semantic distance between terms in a document |
GB0407389D0 (en) | 2004-03-31 | 2004-05-05 | British Telecomm | Information retrieval |
US20050219228A1 (en) | 2004-03-31 | 2005-10-06 | Motorola, Inc. | Intuitive user interface and method |
US7747601B2 (en) | 2006-08-14 | 2010-06-29 | Inquira, Inc. | Method and apparatus for identifying and classifying query intent |
US8713418B2 (en) | 2004-04-12 | 2014-04-29 | Google Inc. | Adding value to a rendered document |
US7251313B1 (en) | 2004-04-12 | 2007-07-31 | Sprint Spectrum L.P. | Method and system for returning a call based on information in a voicemail message |
US7496512B2 (en) | 2004-04-13 | 2009-02-24 | Microsoft Corporation | Refining of segmental boundaries in speech waveforms using contextual-dependent models |
US7623119B2 (en) | 2004-04-21 | 2009-11-24 | Nokia Corporation | Graphical functions by gestures |
JP2005311864A (ja) | 2004-04-23 | 2005-11-04 | Toshiba Corp | 家電機器、アダプタ装置および家電機器システム |
EP1738291A1 (en) | 2004-04-23 | 2007-01-03 | Novauris Technologies Limited | Tree index based method for accessing automatic directory |
US20050245243A1 (en) | 2004-04-28 | 2005-11-03 | Zuniga Michael A | System and method for wireless delivery of audio content over wireless high speed data networks |
WO2005104772A2 (en) | 2004-04-28 | 2005-11-10 | Fujitsu Limited | Semantic task computing |
US20050246350A1 (en) | 2004-04-30 | 2005-11-03 | Opence Inc. | System and method for classifying and normalizing structured data |
JP4296598B2 (ja) | 2004-04-30 | 2009-07-15 | カシオ計算機株式会社 | 通信端末装置および通信端末処理プログラム |
US7657844B2 (en) | 2004-04-30 | 2010-02-02 | International Business Machines Corporation | Providing accessibility compliance within advanced componentry |
US20060041926A1 (en) | 2004-04-30 | 2006-02-23 | Vulcan Inc. | Voice control of multimedia content |
US20060075429A1 (en) | 2004-04-30 | 2006-04-06 | Vulcan Inc. | Voice control of television-related information |
WO2005111851A2 (en) | 2004-04-30 | 2005-11-24 | Microsoft Corporation | Rules framework for definition and execution of end-user rules logic |
US7809825B2 (en) | 2004-05-05 | 2010-10-05 | International Business Machines Corporation | Dissolving network resource monitor |
US7447665B2 (en) | 2004-05-10 | 2008-11-04 | Kinetx, Inc. | System and method of self-learning conceptual mapping to organize and interpret data |
US7450696B2 (en) | 2004-05-11 | 2008-11-11 | At&T Intellectual Property I, L.P. | Knowledge management, capture and modeling tool for multi-modal communications |
CN1954566A (zh) | 2004-05-14 | 2007-04-25 | 皇家飞利浦电子股份有限公司 | 用于从发送者向接收者传输消息的方法,消息系统和消息转换装置 |
US7366461B1 (en) | 2004-05-17 | 2008-04-29 | Wendell Brown | Method and apparatus for improving the quality of a recorded broadcast audio program |
US7778830B2 (en) | 2004-05-19 | 2010-08-17 | International Business Machines Corporation | Training speaker-dependent, phrase-based speech grammars using an unsupervised automated technique |
JP2005332212A (ja) | 2004-05-20 | 2005-12-02 | Ntt Docomo Inc | 検索サーバ、検索端末、検索方法、及び、検索実行方法 |
US20050262440A1 (en) | 2004-05-21 | 2005-11-24 | Microsoft Corporation | Localization of XML via transformations |
JP2005331882A (ja) | 2004-05-21 | 2005-12-02 | Pioneer Electronic Corp | 音声認識装置、音声認識方法、および音声認識プログラム |
US8130929B2 (en) | 2004-05-25 | 2012-03-06 | Galileo Processing, Inc. | Methods for obtaining complex data in an interactive voice response system |
JP2005334363A (ja) | 2004-05-27 | 2005-12-08 | Yoshino Kogyosho Co Ltd | 化粧用コンパクト容器 |
US20050267757A1 (en) | 2004-05-27 | 2005-12-01 | Nokia Corporation | Handling of acronyms and digits in a speech recognition and text-to-speech engine |
US7624355B2 (en) | 2004-05-27 | 2009-11-24 | Baneth Robin C | System and method for controlling a user interface |
CN100524457C (zh) | 2004-05-31 | 2009-08-05 | 国际商业机器公司 | 文本至语音转换以及调整语料库的装置和方法 |
US7873149B2 (en) | 2004-06-01 | 2011-01-18 | Verizon Business Global Llc | Systems and methods for gathering information |
US20050273626A1 (en) | 2004-06-02 | 2005-12-08 | Steven Pearson | System and method for portable authentication |
US20050271186A1 (en) | 2004-06-02 | 2005-12-08 | Audiopoint, Inc. | System, method and computer program product for interactive voice notification |
US7283065B2 (en) | 2004-06-02 | 2007-10-16 | Research In Motion Limited | Handheld electronic device with text disambiguation |
US8224649B2 (en) | 2004-06-02 | 2012-07-17 | International Business Machines Corporation | Method and apparatus for remote command, control and diagnostics of systems using conversational or audio interface |
US7673340B1 (en) | 2004-06-02 | 2010-03-02 | Clickfox Llc | System and method for analyzing system user behavior |
US20050273337A1 (en) | 2004-06-02 | 2005-12-08 | Adoram Erell | Apparatus and method for synthesized audible response to an utterance in speaker-independent voice recognition |
US8095364B2 (en) | 2004-06-02 | 2012-01-10 | Tegic Communications, Inc. | Multimodal disambiguation of speech recognition |
US20050271216A1 (en) | 2004-06-04 | 2005-12-08 | Khosrow Lashkari | Method and apparatus for loudspeaker equalization |
WO2005119193A1 (en) | 2004-06-04 | 2005-12-15 | Philips Intellectual Property & Standards Gmbh | Performance prediction for an interactive speech recognition system |
NZ582991A (en) | 2004-06-04 | 2011-04-29 | Keyless Systems Ltd | Using gliding stroke on touch screen and second input to choose character |
US7774378B2 (en) | 2004-06-04 | 2010-08-10 | Icentera Corporation | System and method for providing intelligence centers |
US7472065B2 (en) | 2004-06-04 | 2008-12-30 | International Business Machines Corporation | Generating paralinguistic phenomena via markup in text-to-speech synthesis |
WO2005122145A1 (en) | 2004-06-08 | 2005-12-22 | Metaphor Solutions, Inc. | Speech recognition dialog management |
CA2569714A1 (en) | 2004-06-08 | 2005-12-22 | Dartdevices Corporation | Architecture, apparatus and method for device team recruitment and content renditioning for universal device interoperability platform |
JP4477428B2 (ja) | 2004-06-15 | 2010-06-09 | 株式会社日立製作所 | 表示制御装置、これを備えた情報表示装置、これらを備えた表示システム、表示制御プログラム、及び表示制御方法 |
US7565104B1 (en) | 2004-06-16 | 2009-07-21 | Wendell Brown | Broadcast audio program guide |
DE102004029203B4 (de) | 2004-06-16 | 2021-01-21 | Volkswagen Ag | Bedienvorrichtung für ein Kraftfahrzeug |
JP2006003142A (ja) | 2004-06-16 | 2006-01-05 | Matsushita Electric Ind Co Ltd | 番号入力装置およびそれを用いたナビゲーション装置 |
US7222307B2 (en) | 2004-06-16 | 2007-05-22 | Scenera Technologies, Llc | Multipurpose navigation keys for an electronic imaging device |
US8321786B2 (en) | 2004-06-17 | 2012-11-27 | Apple Inc. | Routine and interface for correcting electronic text |
JP2006005655A (ja) | 2004-06-17 | 2006-01-05 | Sharp Corp | 項目処理機能付き入力装置、項目処理機能付き入力プログラム、およびコンピュータ読み取り可能な記録媒体 |
JP2006004274A (ja) | 2004-06-18 | 2006-01-05 | Nippon Telegr & Teleph Corp <Ntt> | 対話処理装置、対話処理方法及び対話処理プログラム |
GB0413743D0 (en) | 2004-06-19 | 2004-07-21 | Ibm | Method and system for approximate string matching |
US20070214133A1 (en) | 2004-06-23 | 2007-09-13 | Edo Liberty | Methods for filtering data and filling in missing data using nonlinear inference |
US20050289463A1 (en) | 2004-06-23 | 2005-12-29 | Google Inc., A Delaware Corporation | Systems and methods for spell correction of non-roman characters and words |
US8099395B2 (en) | 2004-06-24 | 2012-01-17 | Oracle America, Inc. | System level identity object |
US8972444B2 (en) | 2004-06-25 | 2015-03-03 | Google Inc. | Nonstandard locality-based text entry |
FI20045245A0 (fi) | 2004-06-28 | 2004-06-28 | Nokia Corp | Selauksen tehostaminen elektronisessa laitteessa |
JP4416643B2 (ja) | 2004-06-29 | 2010-02-17 | キヤノン株式会社 | マルチモーダル入力方法 |
US7720674B2 (en) | 2004-06-29 | 2010-05-18 | Sap Ag | Systems and methods for processing natural language queries |
US20060004570A1 (en) | 2004-06-30 | 2006-01-05 | Microsoft Corporation | Transcribing speech data with dialog context and/or recognition alternative information |
WO2006014343A2 (en) | 2004-07-02 | 2006-02-09 | Text-Tech, Llc | Automated evaluation systems and methods |
TWI248576B (en) | 2004-07-05 | 2006-02-01 | Elan Microelectronics Corp | Method for controlling rolling of scroll bar on a touch panel |
JP2006023860A (ja) | 2004-07-06 | 2006-01-26 | Sharp Corp | 情報閲覧装置、情報閲覧プログラム、情報閲覧プログラム記録媒体及び情報閲覧システム |
US20060007174A1 (en) | 2004-07-06 | 2006-01-12 | Chung-Yi Shen | Touch control method for a drag gesture and control module thereof |
US7228278B2 (en) | 2004-07-06 | 2007-06-05 | Voxify, Inc. | Multi-slot dialog systems and methods |
US7505795B1 (en) | 2004-07-07 | 2009-03-17 | Advanced Micro Devices, Inc. | Power save management with customized range for user configuration and tuning value based upon recent usage |
JP2006031092A (ja) | 2004-07-12 | 2006-02-02 | Sony Ericsson Mobilecommunications Japan Inc | 音声文字入力プログラム及び携帯端末装置 |
US7823123B2 (en) | 2004-07-13 | 2010-10-26 | The Mitre Corporation | Semantic system for integrating software components |
JP4652737B2 (ja) | 2004-07-14 | 2011-03-16 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 単語境界確率推定装置及び方法、確率的言語モデル構築装置及び方法、仮名漢字変換装置及び方法、並びに、未知語モデルの構築方法、 |
JP2006030447A (ja) | 2004-07-14 | 2006-02-02 | Honda Motor Co Ltd | 音声認識システムと該音声認識システムを備える移動体及び車両 |
JP3998668B2 (ja) | 2004-07-14 | 2007-10-31 | 沖電気工業株式会社 | 形態素解析装置、方法及びプログラム |
US7562015B2 (en) | 2004-07-15 | 2009-07-14 | Aurilab, Llc | Distributed pattern recognition training method and system |
TWI240573B (en) | 2004-07-15 | 2005-09-21 | Ali Corp | Methods and related circuit for automatic audio volume level control |
US7865356B2 (en) | 2004-07-15 | 2011-01-04 | Robert Bosch Gmbh | Method and apparatus for providing proper or partial proper name recognition |
US20060013446A1 (en) | 2004-07-16 | 2006-01-19 | Stephens Debra K | Mobile communication device with real-time biometric identification |
US8036893B2 (en) | 2004-07-22 | 2011-10-11 | Nuance Communications, Inc. | Method and system for identifying and correcting accent-induced speech recognition difficulties |
TWI252049B (en) | 2004-07-23 | 2006-03-21 | Inventec Corp | Sound control system and method |
US7559089B2 (en) | 2004-07-23 | 2009-07-07 | Findaway World, Inc. | Personal media player apparatus and method |
US7936861B2 (en) | 2004-07-23 | 2011-05-03 | At&T Intellectual Property I, L.P. | Announcement system and method of use |
US7738637B2 (en) | 2004-07-24 | 2010-06-15 | Massachusetts Institute Of Technology | Interactive voice message retrieval |
US7603349B1 (en) | 2004-07-29 | 2009-10-13 | Yahoo! Inc. | User interfaces for search systems using in-line contextual queries |
US20070106657A1 (en) | 2005-11-10 | 2007-05-10 | Brzeski Vadim V | Word sense disambiguation |
US8381135B2 (en) | 2004-07-30 | 2013-02-19 | Apple Inc. | Proximity detector in handheld device |
US7653883B2 (en) | 2004-07-30 | 2010-01-26 | Apple Inc. | Proximity detector in handheld device |
JP2008508601A (ja) | 2004-07-30 | 2008-03-21 | アップル インコーポレイテッド | タッチ・センシティブ入力デバイスのためのジェスチャ |
US7725318B2 (en) | 2004-07-30 | 2010-05-25 | Nice Systems Inc. | System and method for improving the accuracy of audio searching |
KR20060011603A (ko) | 2004-07-30 | 2006-02-03 | 주식회사 팬택앤큐리텔 | 전압 분배를 이용한 다기능 이어키 장치 및 그를 이용한무선통신 단말기 |
US7788098B2 (en) | 2004-08-02 | 2010-08-31 | Nokia Corporation | Predicting tone pattern information for textual information used in telecommunication systems |
US7831601B2 (en) | 2004-08-04 | 2010-11-09 | International Business Machines Corporation | Method for automatically searching for documents related to calendar and email entries |
KR100875723B1 (ko) | 2004-08-04 | 2008-12-24 | 천지은 | 통화내용 저장서비스 시스템 및 방법 |
US7508324B2 (en) | 2004-08-06 | 2009-03-24 | Daniel Suraqui | Finger activated reduced keyboard and a method for performing text input |
US7724242B2 (en) | 2004-08-06 | 2010-05-25 | Touchtable, Inc. | Touch driven method and apparatus to integrate and display multiple image layers forming alternate depictions of same subject matter |
US7728821B2 (en) | 2004-08-06 | 2010-06-01 | Touchtable, Inc. | Touch detecting interactive display |
JP4563106B2 (ja) | 2004-08-09 | 2010-10-13 | アルパイン株式会社 | 車載機及びその音声出力方法 |
US7869999B2 (en) | 2004-08-11 | 2011-01-11 | Nuance Communications, Inc. | Systems and methods for selecting from multiple phonectic transcriptions for text-to-speech synthesis |
US7685118B2 (en) | 2004-08-12 | 2010-03-23 | Iwint International Holdings Inc. | Method using ontology and user query processing to solve inventor problems and user problems |
US7580363B2 (en) | 2004-08-16 | 2009-08-25 | Nokia Corporation | Apparatus and method for facilitating contact selection in communication devices |
US8117542B2 (en) | 2004-08-16 | 2012-02-14 | Microsoft Corporation | User interface for displaying selectable software functionality controls that are contextually relevant to a selected object |
US7895531B2 (en) | 2004-08-16 | 2011-02-22 | Microsoft Corporation | Floating command object |
JP2006059094A (ja) | 2004-08-19 | 2006-03-02 | Ntt Docomo Inc | サービス選択支援システム、サービス選択支援方法 |
US7540051B2 (en) | 2004-08-20 | 2009-06-02 | Spatial Systems, Inc. | Mapping web sites based on significance of contact and category |
US7912699B1 (en) | 2004-08-23 | 2011-03-22 | At&T Intellectual Property Ii, L.P. | System and method of lattice-based search for spoken utterance retrieval |
US20060048055A1 (en) | 2004-08-25 | 2006-03-02 | Jun Wu | Fault-tolerant romanized input method for non-roman characters |
US20060262876A1 (en) | 2004-08-26 | 2006-11-23 | Ladue Christoph K | Wave matrix mechanics method & apparatus |
US7853574B2 (en) | 2004-08-26 | 2010-12-14 | International Business Machines Corporation | Method of generating a context-inferenced search query and of sorting a result of the query |
FI20045315A (fi) | 2004-08-30 | 2006-03-01 | Nokia Corp | Ääniaktiivisuuden havaitseminen äänisignaalissa |
US7477238B2 (en) | 2004-08-31 | 2009-01-13 | Research In Motion Limited | Handheld electronic device with text disambiguation |
US7610199B2 (en) | 2004-09-01 | 2009-10-27 | Sri International | Method and apparatus for obtaining complete speech signals for speech recognition applications |
WO2006024117A1 (en) | 2004-09-02 | 2006-03-09 | Coelho Rosangela Fernandes | Method for automatic speaker recognition |
KR20060022001A (ko) | 2004-09-06 | 2006-03-09 | 현대모비스 주식회사 | 카오디오 버튼 설치구조 |
JP4165477B2 (ja) | 2004-09-07 | 2008-10-15 | 株式会社デンソー | ハンズフリーシステム |
US20060050865A1 (en) | 2004-09-07 | 2006-03-09 | Sbc Knowledge Ventures, Lp | System and method for adapting the level of instructional detail provided through a user interface |
US20070118794A1 (en) | 2004-09-08 | 2007-05-24 | Josef Hollander | Shared annotation system and method |
US7587482B2 (en) | 2004-09-08 | 2009-09-08 | Yahoo! Inc. | Multimodal interface for mobile messaging |
US20060058999A1 (en) | 2004-09-10 | 2006-03-16 | Simon Barker | Voice model adaptation |
JP2006079427A (ja) | 2004-09-10 | 2006-03-23 | Toshiba Tec Corp | 携帯情報機器 |
US20060059437A1 (en) | 2004-09-14 | 2006-03-16 | Conklin Kenneth E Iii | Interactive pointing guide |
EP1806663A1 (en) | 2004-09-14 | 2007-07-11 | Intellectual Property Bank Corp. | Device for drawing document correlation diagram where documents are arranged in time series |
US20060059424A1 (en) | 2004-09-15 | 2006-03-16 | Petri Jonah W | Real-time data localization |
US7319385B2 (en) | 2004-09-17 | 2008-01-15 | Nokia Corporation | Sensor data sharing |
US20060061488A1 (en) | 2004-09-17 | 2006-03-23 | Dunton Randy R | Location based task reminder |
TW200629959A (en) | 2004-09-22 | 2006-08-16 | Citizen Electronics | Electro-dynamic exciter |
ITRM20040447A1 (it) | 2004-09-22 | 2004-12-22 | Link Formazione S R L | Sistema di fornitura di seminari interattivi, e relativo metodo. |
US7447360B2 (en) | 2004-09-22 | 2008-11-04 | Microsoft Corporation | Analyzing tabular structures in expression recognition |
US8005668B2 (en) | 2004-09-22 | 2011-08-23 | General Motors Llc | Adaptive confidence thresholds in telematics system speech recognition |
US8185427B2 (en) | 2004-09-22 | 2012-05-22 | Samsung Electronics Co., Ltd. | Method and system for presenting user tasks for the control of electronic devices |
US7196316B2 (en) | 2004-09-22 | 2007-03-27 | Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. | Portable electronic device with activation sensor |
US20060067536A1 (en) | 2004-09-27 | 2006-03-30 | Michael Culbert | Method and system for time synchronizing multiple loudspeakers |
US7716056B2 (en) | 2004-09-27 | 2010-05-11 | Robert Bosch Corporation | Method and system for interactive conversational dialogue for cognitively overloaded device users |
US20060072716A1 (en) | 2004-09-27 | 2006-04-06 | Avaya Technology Corp. | Downloadable and controllable music-on-hold |
US20060067535A1 (en) | 2004-09-27 | 2006-03-30 | Michael Culbert | Method and system for automatically equalizing multiple loudspeakers |
US20060074660A1 (en) | 2004-09-29 | 2006-04-06 | France Telecom | Method and apparatus for enhancing speech recognition accuracy by using geographic data to filter a set of words |
KR100754385B1 (ko) | 2004-09-30 | 2007-08-31 | 삼성전자주식회사 | 오디오/비디오 센서를 이용한 위치 파악, 추적 및 분리장치와 그 방법 |
US7996208B2 (en) | 2004-09-30 | 2011-08-09 | Google Inc. | Methods and systems for selecting a language for text segmentation |
US7603381B2 (en) | 2004-09-30 | 2009-10-13 | Microsoft Corporation | Contextual action publishing |
US7936863B2 (en) | 2004-09-30 | 2011-05-03 | Avaya Inc. | Method and apparatus for providing communication tasks in a workflow |
US8107401B2 (en) | 2004-09-30 | 2012-01-31 | Avaya Inc. | Method and apparatus for providing a virtual assistant to a communication participant |
JP2008515078A (ja) | 2004-09-30 | 2008-05-08 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 自動テキスト訂正 |
JP4478939B2 (ja) | 2004-09-30 | 2010-06-09 | 株式会社国際電気通信基礎技術研究所 | 音声処理装置およびそのためのコンピュータプログラム |
US7643822B2 (en) | 2004-09-30 | 2010-01-05 | Google Inc. | Method and system for processing queries initiated by users of mobile devices |
US7788589B2 (en) | 2004-09-30 | 2010-08-31 | Microsoft Corporation | Method and system for improved electronic task flagging and management |
CN1755796A (zh) | 2004-09-30 | 2006-04-05 | 国际商业机器公司 | 文本到语音转换中基于统计技术的距离定义方法和系统 |
US8099482B2 (en) | 2004-10-01 | 2012-01-17 | E-Cast Inc. | Prioritized content download for an entertainment device |
US8744852B1 (en) | 2004-10-01 | 2014-06-03 | Apple Inc. | Spoken interfaces |
US7917554B2 (en) | 2005-08-23 | 2011-03-29 | Ricoh Co. Ltd. | Visibly-perceptible hot spots in documents |
US9100776B2 (en) | 2004-10-06 | 2015-08-04 | Intelligent Mechatronic Systems Inc. | Location based event reminder for mobile device |
US7778671B2 (en) | 2004-10-08 | 2010-08-17 | Nokia Corporation | Mobile communications terminal having an improved user interface and method therefor |
US7756871B2 (en) | 2004-10-13 | 2010-07-13 | Hewlett-Packard Development Company, L.P. | Article extraction |
JP4025355B2 (ja) | 2004-10-13 | 2007-12-19 | 松下電器産業株式会社 | 音声合成装置及び音声合成方法 |
US7684988B2 (en) | 2004-10-15 | 2010-03-23 | Microsoft Corporation | Testing and tuning of automatic speech recognition systems using synthetic inputs generated from its acoustic models |
US7809763B2 (en) | 2004-10-15 | 2010-10-05 | Oracle International Corporation | Method(s) for updating database object metadata |
US20060085183A1 (en) | 2004-10-19 | 2006-04-20 | Yogendra Jain | System and method for increasing recognition accuracy and modifying the behavior of a device in response to the detection of different levels of speech |
US7543232B2 (en) | 2004-10-19 | 2009-06-02 | International Business Machines Corporation | Intelligent web based help system |
US8169410B2 (en) | 2004-10-20 | 2012-05-01 | Nintendo Co., Ltd. | Gesture inputs for a portable display device |
KR100640483B1 (ko) | 2004-10-22 | 2006-10-30 | 삼성전자주식회사 | 이동통신 단말기에서 통화 모드를 자동변경하기 위한 장치및 방법 |
US7595742B2 (en) | 2004-10-29 | 2009-09-29 | Lenovo (Singapore) Pte. Ltd. | System and method for generating language specific diacritics for different languages using a single keyboard layout |
US7693719B2 (en) | 2004-10-29 | 2010-04-06 | Microsoft Corporation | Providing personalized voice font for text-to-speech applications |
US7362312B2 (en) | 2004-11-01 | 2008-04-22 | Nokia Corporation | Mobile communication terminal and method |
US7577847B2 (en) | 2004-11-03 | 2009-08-18 | Igt | Location and user identification for online gaming |
KR101087483B1 (ko) | 2004-11-04 | 2011-11-28 | 엘지전자 주식회사 | 네비게이션 시스템의 안내 음성신호 출력 제어방법 및 장치 |
US7735012B2 (en) | 2004-11-04 | 2010-06-08 | Apple Inc. | Audio user interface for computing devices |
US7698124B2 (en) | 2004-11-04 | 2010-04-13 | Microsoft Corporaiton | Machine translation system incorporating syntactic dependency treelets into a statistical framework |
US7546235B2 (en) | 2004-11-15 | 2009-06-09 | Microsoft Corporation | Unsupervised learning of paraphrase/translation alternations and selective application thereof |
US7552046B2 (en) | 2004-11-15 | 2009-06-23 | Microsoft Corporation | Unsupervised learning of paraphrase/translation alternations and selective application thereof |
US7885844B1 (en) | 2004-11-16 | 2011-02-08 | Amazon Technologies, Inc. | Automatically generating task recommendations for human task performers |
US8942985B2 (en) | 2004-11-16 | 2015-01-27 | Microsoft Corporation | Centralized method and system for clarifying voice commands |
US20060103633A1 (en) | 2004-11-17 | 2006-05-18 | Atrua Technologies, Inc. | Customizable touch input module for an electronic device |
US7669198B2 (en) | 2004-11-18 | 2010-02-23 | International Business Machines Corporation | On-demand translator for localized operating systems |
US7650284B2 (en) | 2004-11-19 | 2010-01-19 | Nuance Communications, Inc. | Enabling voice click in a multimodal page |
JP4604178B2 (ja) | 2004-11-22 | 2010-12-22 | 独立行政法人産業技術総合研究所 | 音声認識装置及び方法ならびにプログラム |
KR100766463B1 (ko) | 2004-11-22 | 2007-10-15 | 주식회사 에이아이코퍼스 | 메신저 연동 외국어 전환 서비스 시스템 및 그 서비스 방법 |
CN101065982B (zh) | 2004-11-23 | 2011-06-01 | 诺基亚公司 | 对于从移动蜂窝网络所接收消息的处理 |
US7702500B2 (en) | 2004-11-24 | 2010-04-20 | Blaedow Karen R | Method and apparatus for determining the meaning of natural language |
CN1609859A (zh) | 2004-11-26 | 2005-04-27 | 孙斌 | 搜索结果聚类的方法 |
US7376645B2 (en) | 2004-11-29 | 2008-05-20 | The Intellection Group, Inc. | Multimodal natural language query system and architecture for processing voice and proximity-based queries |
JP4282591B2 (ja) | 2004-11-30 | 2009-06-24 | 株式会社東芝 | スケジュール管理装置、スケジュール管理方法及びプログラム |
US8606516B2 (en) | 2004-11-30 | 2013-12-10 | Dash Navigation, Inc. | User interface system and method for a vehicle navigation device |
US20080255837A1 (en) | 2004-11-30 | 2008-10-16 | Jonathan Kahn | Method for locating an audio segment within an audio file |
JP4297442B2 (ja) | 2004-11-30 | 2009-07-15 | 富士通株式会社 | 手書き情報入力装置 |
US8498865B1 (en) | 2004-11-30 | 2013-07-30 | Vocera Communications, Inc. | Speech recognition system and method using group call statistics |
GB0426347D0 (en) | 2004-12-01 | 2005-01-05 | Ibm | Methods, apparatus and computer programs for automatic speech recognition |
US7630900B1 (en) | 2004-12-01 | 2009-12-08 | Tellme Networks, Inc. | Method and system for selecting grammars based on geographic information associated with a caller |
US8214214B2 (en) | 2004-12-03 | 2012-07-03 | Phoenix Solutions, Inc. | Emotion detection device and method for use in distributed systems |
US20060122834A1 (en) | 2004-12-03 | 2006-06-08 | Bennett Ian M | Emotion detection device & method for use in distributed systems |
CN101180645A (zh) | 2004-12-07 | 2008-05-14 | 毕库德股份有限公司 | 一种电子商务系统、方法和装置 |
US8024194B2 (en) | 2004-12-08 | 2011-09-20 | Nuance Communications, Inc. | Dynamic switching between local and remote speech rendering |
US7636657B2 (en) | 2004-12-09 | 2009-12-22 | Microsoft Corporation | Method and apparatus for automatic grammar generation from data entries |
US7853445B2 (en) | 2004-12-10 | 2010-12-14 | Deception Discovery Technologies LLC | Method and system for the automatic recognition of deceptive language |
US7218943B2 (en) | 2004-12-13 | 2007-05-15 | Research In Motion Limited | Text messaging conversation user interface functionality |
US7640162B2 (en) | 2004-12-14 | 2009-12-29 | Microsoft Corporation | Semantic canvas |
US7451397B2 (en) | 2004-12-15 | 2008-11-11 | Microsoft Corporation | System and method for automatically completing spreadsheet formulas |
US7788085B2 (en) | 2004-12-17 | 2010-08-31 | Xerox Corporation | Smart string replacement |
US20060132812A1 (en) | 2004-12-17 | 2006-06-22 | You Software, Inc. | Automated wysiwyg previewing of font, kerning and size options for user-selected text |
US7401077B2 (en) | 2004-12-21 | 2008-07-15 | Palo Alto Research Center Incorporated | Systems and methods for using and constructing user-interest sensitive indicators of search results |
US8275618B2 (en) | 2004-12-22 | 2012-09-25 | Nuance Communications, Inc. | Mobile dictation correction user interface |
WO2006069358A2 (en) | 2004-12-22 | 2006-06-29 | Enterprise Integration Group | Turn-taking model |
US20060143576A1 (en) | 2004-12-23 | 2006-06-29 | Gupta Anurag K | Method and system for resolving cross-modal references in user inputs |
US20060142993A1 (en) | 2004-12-28 | 2006-06-29 | Sony Corporation | System and method for utilizing distance measures to perform text classification |
US7483692B2 (en) | 2004-12-28 | 2009-01-27 | Sony Ericsson Mobile Communications Ab | System and method of predicting user input to a mobile terminal |
US7589088B2 (en) | 2004-12-29 | 2009-09-15 | Bristol-Myers Squibb Company | Pyrimidine-based inhibitors of dipeptidyl peptidase IV and methods |
US7818672B2 (en) | 2004-12-30 | 2010-10-19 | Microsoft Corporation | Floating action buttons |
US7987244B1 (en) | 2004-12-30 | 2011-07-26 | At&T Intellectual Property Ii, L.P. | Network repository for voice fonts |
FI20041689A0 (fi) | 2004-12-30 | 2004-12-30 | Nokia Corp | Mediavirran merkintä ja/tai jakaminen solukkoverkon päätteessä |
US7444589B2 (en) | 2004-12-30 | 2008-10-28 | At&T Intellectual Property I, L.P. | Automated patent office documentation |
JP4301515B2 (ja) | 2005-01-04 | 2009-07-22 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 文章表示方法、情報処理装置、情報処理システム、プログラム |
US20060149544A1 (en) | 2005-01-05 | 2006-07-06 | At&T Corp. | Error prediction in spoken dialog systems |
US8478589B2 (en) | 2005-01-05 | 2013-07-02 | At&T Intellectual Property Ii, L.P. | Library of existing spoken dialog data for use in generating new natural language spoken dialog systems |
US7536565B2 (en) | 2005-01-07 | 2009-05-19 | Apple Inc. | Techniques for improved playlist processing on media devices |
US8510737B2 (en) | 2005-01-07 | 2013-08-13 | Samsung Electronics Co., Ltd. | Method and system for prioritizing tasks made available by devices in a network |
JP4380541B2 (ja) | 2005-01-07 | 2009-12-09 | トヨタ自動車株式会社 | 車両用エージェント装置 |
US7363227B2 (en) | 2005-01-10 | 2008-04-22 | Herman Miller, Inc. | Disruption of speech understanding by adding a privacy sound thereto |
US8069422B2 (en) | 2005-01-10 | 2011-11-29 | Samsung Electronics, Co., Ltd. | Contextual task recommendation system and method for determining user's context and suggesting tasks |
US7418389B2 (en) | 2005-01-11 | 2008-08-26 | Microsoft Corporation | Defining atom units between phone and syllable for TTS systems |
US20080189099A1 (en) | 2005-01-12 | 2008-08-07 | Howard Friedman | Customizable Delivery of Audio Information |
JP2006195637A (ja) | 2005-01-12 | 2006-07-27 | Toyota Motor Corp | 車両用音声対話システム |
US8552984B2 (en) | 2005-01-13 | 2013-10-08 | 602531 British Columbia Ltd. | Method, system, apparatus and computer-readable media for directing input associated with keyboard-type device |
US7930169B2 (en) | 2005-01-14 | 2011-04-19 | Classified Ventures, Llc | Methods and systems for generating natural language descriptions from data |
US7337170B2 (en) | 2005-01-18 | 2008-02-26 | International Business Machines Corporation | System and method for planning and generating queries for multi-dimensional analysis using domain models and data federation |
JP2006201870A (ja) | 2005-01-18 | 2006-08-03 | Toyota Central Res & Dev Lab Inc | 対話処理装置 |
WO2006078246A1 (en) | 2005-01-20 | 2006-07-27 | Frederick Lowe | System and method for generating and distributing personalized media |
US7529677B1 (en) | 2005-01-21 | 2009-05-05 | Itt Manufacturing Enterprises, Inc. | Methods and apparatus for remotely processing locally generated commands to control a local device |
US7873654B2 (en) | 2005-01-24 | 2011-01-18 | The Intellection Group, Inc. | Multimodal natural language query system for processing and analyzing voice and proximity-based queries |
US8150872B2 (en) | 2005-01-24 | 2012-04-03 | The Intellection Group, Inc. | Multimodal natural language query system for processing and analyzing voice and proximity-based queries |
US7729363B2 (en) | 2005-01-24 | 2010-06-01 | Research In Motion Limited | System and method for managing communication for component applications |
WO2006081482A2 (en) | 2005-01-26 | 2006-08-03 | Hansen Kim D | Apparatus, system, and method for digitally presenting the contents of a printed publication |
US20060167676A1 (en) | 2005-01-26 | 2006-07-27 | Research In Motion Limited | Method and apparatus for correction of spelling errors in text composition |
US8228299B1 (en) | 2005-01-27 | 2012-07-24 | Singleton Technology, Llc | Transaction automation and archival system using electronic contract and disclosure units |
JP4710331B2 (ja) | 2005-01-27 | 2011-06-29 | ソニー株式会社 | プレゼンテーション用アプリケーションをリモートコントロールするための装置,方法,プログラム及び記録媒体 |
EP1693784A3 (en) | 2005-01-28 | 2012-04-04 | IDMS Software Inc. | Handwritten word recognition based on geometric decomposition |
US8243891B2 (en) | 2005-01-28 | 2012-08-14 | Value-Added Communications, Inc. | Voice message exchange |
US7508373B2 (en) | 2005-01-28 | 2009-03-24 | Microsoft Corporation | Form factor and input method for language input |
CN100530171C (zh) | 2005-01-31 | 2009-08-19 | 日电(中国)有限公司 | 字典学习方法和字典学习装置 |
US20060174207A1 (en) | 2005-01-31 | 2006-08-03 | Sharp Laboratories Of America, Inc. | Systems and methods for implementing a user interface for multiple simultaneous instant messaging, conference and chat room sessions |
US8200700B2 (en) | 2005-02-01 | 2012-06-12 | Newsilike Media Group, Inc | Systems and methods for use of structured and unstructured distributed data |
WO2006084144A2 (en) | 2005-02-03 | 2006-08-10 | Voice Signal Technologies, Inc. | Methods and apparatus for automatically extending the voice-recognizer vocabulary of mobile communications devices |
US7734569B2 (en) | 2005-02-03 | 2010-06-08 | Strands, Inc. | Recommender system for identifying a new set of media items responsive to an input set of media items and knowledge base metrics |
GB0502259D0 (en) | 2005-02-03 | 2005-03-09 | British Telecomm | Document searching tool and method |
US8045953B2 (en) | 2005-02-03 | 2011-10-25 | Research In Motion Limited | Method and apparatus for the autoselection of an emergency number in a mobile station |
US7895039B2 (en) | 2005-02-04 | 2011-02-22 | Vocollect, Inc. | Methods and systems for optimizing model adaptation for a speech recognition system |
US7827032B2 (en) | 2005-02-04 | 2010-11-02 | Vocollect, Inc. | Methods and systems for adapting a model for a speech recognition system |
US7949533B2 (en) | 2005-02-04 | 2011-05-24 | Vococollect, Inc. | Methods and systems for assessing and improving the performance of a speech recognition system |
US8200495B2 (en) | 2005-02-04 | 2012-06-12 | Vocollect, Inc. | Methods and systems for considering information about an expected response when performing speech recognition |
US20060181519A1 (en) | 2005-02-14 | 2006-08-17 | Vernier Frederic D | Method and system for manipulating graphical objects displayed on a touch-sensitive display surface using displaced pop-ups |
KR100679043B1 (ko) | 2005-02-15 | 2007-02-05 | 삼성전자주식회사 | 음성 대화 인터페이스 장치 및 방법 |
EP1693801A3 (en) | 2005-02-16 | 2006-11-29 | David Schaufele | Biometric-based systems and methods for identity verification |
US7813481B1 (en) | 2005-02-18 | 2010-10-12 | At&T Mobility Ii Llc | Conversation recording with real-time notification for users of communication terminals |
JP4189928B2 (ja) | 2005-02-18 | 2008-12-03 | ソニー・エリクソン・モバイルコミュニケーションズ株式会社 | 携帯型電子装置、携帯型電子装置の機能制御方法及びプログラム |
US20060187073A1 (en) | 2005-02-18 | 2006-08-24 | Chao-Hua Lin | Energy status indicator in a portable device |
EP1693830B1 (en) | 2005-02-21 | 2017-12-20 | Harman Becker Automotive Systems GmbH | Voice-controlled data system |
EP1693829B1 (en) | 2005-02-21 | 2018-12-05 | Harman Becker Automotive Systems GmbH | Voice-controlled data system |
JP4574390B2 (ja) | 2005-02-22 | 2010-11-04 | キヤノン株式会社 | 音声認識方法 |
JP2006237735A (ja) | 2005-02-22 | 2006-09-07 | Denso Corp | 車両用ナビゲーション装置 |
US7461059B2 (en) | 2005-02-23 | 2008-12-02 | Microsoft Corporation | Dynamically updated search results based upon continuously-evolving search query that is based at least in part upon phrase suggestion, search engine uses previous result sets performing additional search tasks |
WO2006090732A1 (ja) | 2005-02-24 | 2006-08-31 | Fuji Xerox Co., Ltd. | 単語翻訳装置、翻訳方法および翻訳プログラム |
US7634413B1 (en) | 2005-02-25 | 2009-12-15 | Apple Inc. | Bitrate constrained variable bitrate audio encoding |
US7818350B2 (en) | 2005-02-28 | 2010-10-19 | Yahoo! Inc. | System and method for creating a collaborative playlist |
US20060194181A1 (en) | 2005-02-28 | 2006-08-31 | Outland Research, Llc | Method and apparatus for electronic books with enhanced educational features |
US20060212415A1 (en) | 2005-03-01 | 2006-09-21 | Alejandro Backer | Query-less searching |
US7788087B2 (en) | 2005-03-01 | 2010-08-31 | Microsoft Corporation | System for processing sentiment-bearing text |
US20060197755A1 (en) | 2005-03-02 | 2006-09-07 | Bawany Muhammad A | Computer stylus cable system and method |
US7412389B2 (en) | 2005-03-02 | 2008-08-12 | Yang George L | Document animation system |
JP2006244296A (ja) | 2005-03-04 | 2006-09-14 | Ntt Data Corp | 読み上げ用ファイル作成装置、リンク読み上げ装置、及びプログラム |
KR100679044B1 (ko) | 2005-03-07 | 2007-02-06 | 삼성전자주식회사 | 사용자 적응형 음성 인식 방법 및 장치 |
US20080306727A1 (en) | 2005-03-07 | 2008-12-11 | Linguatec Sprachtechnologien Gmbh | Hybrid Machine Translation System |
US7676026B1 (en) | 2005-03-08 | 2010-03-09 | Baxtech Asia Pte Ltd | Desktop telephony system |
US7788248B2 (en) | 2005-03-08 | 2010-08-31 | Apple Inc. | Immediate search feedback |
WO2006095718A1 (ja) | 2005-03-10 | 2006-09-14 | Matsushita Electric Industrial Co., Ltd. | デジタル放送受信装置 |
JP4404211B2 (ja) | 2005-03-14 | 2010-01-27 | 富士ゼロックス株式会社 | マルチリンガル翻訳メモリ、翻訳方法および翻訳プログラム |
US7706510B2 (en) | 2005-03-16 | 2010-04-27 | Research In Motion | System and method for personalized text-to-voice synthesis |
US20060230410A1 (en) | 2005-03-22 | 2006-10-12 | Alex Kurganov | Methods and systems for developing and testing speech applications |
JP4682658B2 (ja) | 2005-03-23 | 2011-05-11 | 日産自動車株式会社 | 音声案内装置および音声案内方法 |
US20060218506A1 (en) | 2005-03-23 | 2006-09-28 | Edward Srenger | Adaptive menu for a user interface |
US7565380B1 (en) | 2005-03-24 | 2009-07-21 | Netlogic Microsystems, Inc. | Memory optimized pattern searching |
US7925525B2 (en) | 2005-03-25 | 2011-04-12 | Microsoft Corporation | Smart reminders |
US20060218244A1 (en) | 2005-03-25 | 2006-09-28 | Rasmussen Jung A | Methods and systems for automating the control of objects within a defined human environment |
US20060253210A1 (en) | 2005-03-26 | 2006-11-09 | Outland Research, Llc | Intelligent Pace-Setting Portable Media Player |
WO2006105105A2 (en) | 2005-03-28 | 2006-10-05 | Sound Id | Personal sound system |
CN101156196A (zh) | 2005-03-28 | 2008-04-02 | 莱塞克技术公司 | 混合语音合成器、方法和使用 |
US7810050B2 (en) | 2005-03-28 | 2010-10-05 | Panasonic Corporation | User interface system |
US8346757B1 (en) | 2005-03-28 | 2013-01-01 | Google Inc. | Determining query terms of little significance |
US7529678B2 (en) | 2005-03-30 | 2009-05-05 | International Business Machines Corporation | Using a spoken utterance for disambiguation of spelling inputs into a speech recognition system |
US7555475B2 (en) | 2005-03-31 | 2009-06-30 | Jiles, Inc. | Natural language based search engine for handling pronouns and methods of use therefor |
US7721301B2 (en) | 2005-03-31 | 2010-05-18 | Microsoft Corporation | Processing files from a mobile device using voice commands |
KR100586556B1 (ko) | 2005-04-01 | 2006-06-08 | 주식회사 하이닉스반도체 | 반도체 장치의 프리차지 전압공급회로 |
US7664558B2 (en) | 2005-04-01 | 2010-02-16 | Apple Inc. | Efficient techniques for modifying audio playback rates |
EP1866810A1 (en) | 2005-04-04 | 2007-12-19 | MOR(F) Dynamics Pty Ltd | Method for transforming language into a visual form |
US7716052B2 (en) | 2005-04-07 | 2010-05-11 | Nuance Communications, Inc. | Method, apparatus and computer program providing a multi-speaker database for concatenative text-to-speech synthesis |
US20080119953A1 (en) | 2005-04-07 | 2008-05-22 | Iofy Corporation | Device and System for Utilizing an Information Unit to Present Content and Metadata on a Device |
US20080141180A1 (en) | 2005-04-07 | 2008-06-12 | Iofy Corporation | Apparatus and Method for Utilizing an Information Unit to Provide Navigation Features on a Device |
US20080120312A1 (en) | 2005-04-07 | 2008-05-22 | Iofy Corporation | System and Method for Creating a New Title that Incorporates a Preexisting Title |
GB0507036D0 (en) | 2005-04-07 | 2005-05-11 | Ibm | Method and system for language identification |
US20080120311A1 (en) | 2005-04-07 | 2008-05-22 | Iofy Corporation | Device and Method for Protecting Unauthorized Data from being used in a Presentation on a Device |
US20080120330A1 (en) | 2005-04-07 | 2008-05-22 | Iofy Corporation | System and Method for Linking User Generated Data Pertaining to Sequential Content |
US20080120196A1 (en) | 2005-04-07 | 2008-05-22 | Iofy Corporation | System and Method for Offering a Title for Sale Over the Internet |
US20080140702A1 (en) | 2005-04-07 | 2008-06-12 | Iofy Corporation | System and Method for Correlating a First Title with a Second Title |
US20080120342A1 (en) | 2005-04-07 | 2008-05-22 | Iofy Corporation | System and Method for Providing Data to be Used in a Presentation on a Device |
GB0507148D0 (en) | 2005-04-08 | 2005-05-18 | Ibm | Method and apparatus for multimodal voice and web services |
WO2006110684A2 (en) | 2005-04-11 | 2006-10-19 | Textdigger, Inc. | System and method for searching for a query |
US7746989B2 (en) | 2005-04-12 | 2010-06-29 | Onset Technology, Ltd. | System and method for recording and attaching an audio file to an electronic message generated by a portable client device |
US7516123B2 (en) | 2005-04-14 | 2009-04-07 | International Business Machines Corporation | Page rank for the semantic web query |
US9471566B1 (en) | 2005-04-14 | 2016-10-18 | Oracle America, Inc. | Method and apparatus for converting phonetic language input to written language output |
US20080195601A1 (en) | 2005-04-14 | 2008-08-14 | The Regents Of The University Of California | Method For Information Retrieval |
US7471284B2 (en) | 2005-04-15 | 2008-12-30 | Microsoft Corporation | Tactile scroll bar with illuminated document position indicator |
US8032823B2 (en) | 2005-04-15 | 2011-10-04 | Carnegie Mellon University | Intent-based information processing and updates |
US8260617B2 (en) | 2005-04-18 | 2012-09-04 | Nuance Communications, Inc. | Automating input when testing voice-enabled applications |
US7627481B1 (en) | 2005-04-19 | 2009-12-01 | Apple Inc. | Adapting masking thresholds for encoding a low frequency transient signal in audio data |
US20060239419A1 (en) | 2005-04-20 | 2006-10-26 | Siemens Communications, Inc. | Selective and dynamic voicemail |
US7996589B2 (en) | 2005-04-22 | 2011-08-09 | Microsoft Corporation | Auto-suggest lists and handwritten input |
JP2006302091A (ja) | 2005-04-22 | 2006-11-02 | Konica Minolta Photo Imaging Inc | 翻訳装置及びそのプログラム |
US7584093B2 (en) | 2005-04-25 | 2009-09-01 | Microsoft Corporation | Method and system for generating spelling suggestions |
US20060240866A1 (en) | 2005-04-25 | 2006-10-26 | Texas Instruments Incorporated | Method and system for controlling a portable communication device based on its orientation |
US20060242190A1 (en) | 2005-04-26 | 2006-10-26 | Content Analyst Comapny, Llc | Latent semantic taxonomy generation |
US20050255874A1 (en) | 2005-04-26 | 2005-11-17 | Marie Stewart-Baxter | Motion disabled cell phone method |
US20060288024A1 (en) | 2005-04-28 | 2006-12-21 | Freescale Semiconductor Incorporated | Compressed representations of tries |
US7684990B2 (en) | 2005-04-29 | 2010-03-23 | Nuance Communications, Inc. | Method and apparatus for multiple value confirmation and correction in spoken dialog systems |
US7292579B2 (en) | 2005-04-29 | 2007-11-06 | Scenera Technologies, Llc | Processing operations associated with resources on a local network |
US20060246955A1 (en) | 2005-05-02 | 2006-11-02 | Mikko Nirhamo | Mobile communication device and method therefor |
ATE476065T1 (de) | 2005-05-03 | 2010-08-15 | Oticon As | System und verfahren zum teilen von netzwerkresourcen zwischen hörgeräten |
US8046374B1 (en) | 2005-05-06 | 2011-10-25 | Symantec Corporation | Automatic training of a database intrusion detection system |
US7590405B2 (en) | 2005-05-10 | 2009-09-15 | Ewell Jr Robert C | Apparatus for enabling a mobile communicator and methods of using the same |
US7606580B2 (en) | 2005-05-11 | 2009-10-20 | Aol Llc | Personalized location information for mobile devices |
US8385525B2 (en) | 2005-05-16 | 2013-02-26 | Noah John Szczepanek | Internet accessed text-to-speech reading assistant |
JP2006318373A (ja) | 2005-05-16 | 2006-11-24 | Ntt Docomo Inc | タスク選択支援サーバ、及び、タスク選択支援方法 |
US8117540B2 (en) | 2005-05-18 | 2012-02-14 | Neuer Wall Treuhand Gmbh | Method and device incorporating improved text input mechanism |
US9606634B2 (en) | 2005-05-18 | 2017-03-28 | Nokia Technologies Oy | Device incorporating improved text input mechanism |
US8036878B2 (en) | 2005-05-18 | 2011-10-11 | Never Wall Treuhand GmbH | Device incorporating improved text input mechanism |
US7686215B2 (en) | 2005-05-21 | 2010-03-30 | Apple Inc. | Techniques and systems for supporting podcasting |
US7886233B2 (en) | 2005-05-23 | 2011-02-08 | Nokia Corporation | Electronic text input involving word completion functionality for predicting word candidates for partial word inputs |
US7539882B2 (en) | 2005-05-30 | 2009-05-26 | Rambus Inc. | Self-powered devices and methods |
FR2886445A1 (fr) | 2005-05-30 | 2006-12-01 | France Telecom | Procede, dispositif et programme d'ordinateur pour la reconnaissance de la parole |
WO2006129967A1 (en) | 2005-05-30 | 2006-12-07 | Daumsoft, Inc. | Conversation system and method using conversational agent |
US8041570B2 (en) | 2005-05-31 | 2011-10-18 | Robert Bosch Corporation | Dialogue management using scripts |
EP1886303B1 (en) | 2005-06-01 | 2009-12-23 | Loquendo S.p.A. | Method of adapting a neural network of an automatic speech recognition device |
US7580576B2 (en) | 2005-06-02 | 2009-08-25 | Microsoft Corporation | Stroke localization and binding to electronic document |
US7617093B2 (en) | 2005-06-02 | 2009-11-10 | Microsoft Corporation | Authoring speech grammars |
US8300841B2 (en) | 2005-06-03 | 2012-10-30 | Apple Inc. | Techniques for presenting sound effects on a portable media player |
KR100712808B1 (ko) | 2005-06-08 | 2007-04-30 | 에스케이 텔레콤주식회사 | 상황 인식 서비스 지원을 위한 이동통신 단말기 및 이를 이용한 상황 인식 서비스 제공 방법 |
US20060282264A1 (en) | 2005-06-09 | 2006-12-14 | Bellsouth Intellectual Property Corporation | Methods and systems for providing noise filtering using speech recognition |
JP4640591B2 (ja) | 2005-06-09 | 2011-03-02 | 富士ゼロックス株式会社 | 文書検索装置 |
US7689253B2 (en) | 2005-06-13 | 2010-03-30 | E-Lane Systems, Inc. | Vehicle immersive communication system |
US20060282455A1 (en) | 2005-06-13 | 2006-12-14 | It Interactive Services Inc. | System and method for ranking web content |
TW200643744A (en) | 2005-06-14 | 2006-12-16 | Compal Communications Inc | Translation method and system having a source language judgment function and handheld electronic device |
US8170875B2 (en) | 2005-06-15 | 2012-05-01 | Qnx Software Systems Limited | Speech end-pointer |
US20060286527A1 (en) | 2005-06-16 | 2006-12-21 | Charles Morel | Interactive teaching web application |
US20060287864A1 (en) | 2005-06-16 | 2006-12-21 | Juha Pusa | Electronic device, computer program product and voice control method |
WO2006133571A1 (en) | 2005-06-17 | 2006-12-21 | National Research Council Of Canada | Means and method for adapted language translation |
JP2007004633A (ja) | 2005-06-24 | 2007-01-11 | Microsoft Corp | 言語モデル作成装置およびそれにより作成された言語モデルを使用する言語処理装置 |
US8024195B2 (en) | 2005-06-27 | 2011-09-20 | Sensory, Inc. | Systems and methods of performing speech recognition using historical information |
JP4064413B2 (ja) | 2005-06-27 | 2008-03-19 | 株式会社東芝 | コミュニケーション支援装置、コミュニケーション支援方法およびコミュニケーション支援プログラム |
US20060293889A1 (en) | 2005-06-27 | 2006-12-28 | Nokia Corporation | Error correction for speech recognition systems |
US8396715B2 (en) | 2005-06-28 | 2013-03-12 | Microsoft Corporation | Confidence threshold tuning |
US7538685B1 (en) | 2005-06-28 | 2009-05-26 | Avaya Inc. | Use of auditory feedback and audio queues in the realization of a personal virtual assistant |
US8396456B2 (en) | 2005-06-28 | 2013-03-12 | Avaya Integrated Cabinet Solutions Inc. | Visual voicemail management |
US7831054B2 (en) | 2005-06-28 | 2010-11-09 | Microsoft Corporation | Volume control |
US20060293890A1 (en) | 2005-06-28 | 2006-12-28 | Avaya Technology Corp. | Speech recognition assisted autocompletion of composite characters |
US7627703B2 (en) | 2005-06-29 | 2009-12-01 | Microsoft Corporation | Input device with audio capabilities |
GB0513225D0 (en) | 2005-06-29 | 2005-08-03 | Ibm | Method and system for building and contracting a linguistic dictionary |
US7925995B2 (en) | 2005-06-30 | 2011-04-12 | Microsoft Corporation | Integration of location logs, GPS signals, and spatial resources for identifying user activities, goals, and context |
US20070004451A1 (en) | 2005-06-30 | 2007-01-04 | C Anderson Eric | Controlling functions of a handheld multifunction device |
US7542967B2 (en) | 2005-06-30 | 2009-06-02 | Microsoft Corporation | Searching an index of media content |
US7826945B2 (en) | 2005-07-01 | 2010-11-02 | You Zhang | Automobile speech-recognition interface |
US7433869B2 (en) | 2005-07-01 | 2008-10-07 | Ebrary, Inc. | Method and apparatus for document clustering and document sketching |
US7885390B2 (en) | 2005-07-01 | 2011-02-08 | Soleo Communications, Inc. | System and method for multi-modal personal communication services |
US7881283B2 (en) | 2005-07-13 | 2011-02-01 | Research In Motion Limited | Customizability of event notification on telephony-enabled devices |
US9094636B1 (en) | 2005-07-14 | 2015-07-28 | Zaxcom, Inc. | Systems and methods for remotely controlling local audio devices in a virtual wireless multitrack recording system |
US20070021956A1 (en) | 2005-07-19 | 2007-01-25 | Yan Qu | Method and apparatus for generating ideographic representations of letter based names |
US7912720B1 (en) | 2005-07-20 | 2011-03-22 | At&T Intellectual Property Ii, L.P. | System and method for building emotional machines |
JP4114888B2 (ja) | 2005-07-20 | 2008-07-09 | 松下電器産業株式会社 | 声質変化箇所特定装置 |
US20070022380A1 (en) | 2005-07-20 | 2007-01-25 | Microsoft Corporation | Context aware task page |
US7613264B2 (en) | 2005-07-26 | 2009-11-03 | Lsi Corporation | Flexible sampling-rate encoder |
US20090048821A1 (en) | 2005-07-27 | 2009-02-19 | Yahoo! Inc. | Mobile language interpreter with text to speech |
US20070027732A1 (en) | 2005-07-28 | 2007-02-01 | Accu-Spatial, Llc | Context-sensitive, location-dependent information delivery at a construction site |
US7571092B1 (en) | 2005-07-29 | 2009-08-04 | Sun Microsystems, Inc. | Method and apparatus for on-demand localization of files |
US7890520B2 (en) | 2005-08-01 | 2011-02-15 | Sony Corporation | Processing apparatus and associated methodology for content table generation and transfer |
US8160614B2 (en) | 2005-08-05 | 2012-04-17 | Targus Information Corporation | Automated concierge system and method |
US7640160B2 (en) | 2005-08-05 | 2009-12-29 | Voicebox Technologies, Inc. | Systems and methods for responding to natural language speech utterance |
US8694322B2 (en) | 2005-08-05 | 2014-04-08 | Microsoft Corporation | Selective confirmation for execution of a voice activated user interface |
WO2007019510A2 (en) | 2005-08-05 | 2007-02-15 | Realnetworks, Inc. | Personal media device |
US7844037B2 (en) | 2005-08-08 | 2010-11-30 | Palm, Inc. | Method and device for enabling message responses to incoming phone calls |
US8150416B2 (en) | 2005-08-08 | 2012-04-03 | Jambo Networks, Inc. | System and method for providing communication services to mobile device users incorporating proximity determination |
CA2618623C (en) | 2005-08-09 | 2015-01-06 | Mobilevoicecontrol, Inc. | Control center for a voice controlled wireless communication device system |
US7362738B2 (en) | 2005-08-09 | 2008-04-22 | Deere & Company | Method and system for delivering information to a user |
US20070038460A1 (en) | 2005-08-09 | 2007-02-15 | Jari Navratil | Method and system to improve speaker verification accuracy by detecting repeat imposters |
US7620549B2 (en) | 2005-08-10 | 2009-11-17 | Voicebox Technologies, Inc. | System and method of supporting adaptive misrecognition in conversational speech |
US20070038609A1 (en) | 2005-08-11 | 2007-02-15 | William Wu | System and method of query paraphrasing |
US8249873B2 (en) | 2005-08-12 | 2012-08-21 | Avaya Inc. | Tonal correction of speech |
US20070041361A1 (en) | 2005-08-15 | 2007-02-22 | Nokia Corporation | Apparatus and methods for implementing an in-call voice user interface using context information |
US20070043820A1 (en) | 2005-08-18 | 2007-02-22 | George David A | System and method for obtaining remote instant messages |
US20070043687A1 (en) | 2005-08-19 | 2007-02-22 | Accenture Llp | Virtual assistant |
EP1934828A4 (en) | 2005-08-19 | 2008-10-08 | Gracenote Inc | METHOD AND SYSTEM FOR MANAGING THE OPERATION OF A REPRODUCTION DEVICE |
US8126716B2 (en) | 2005-08-19 | 2012-02-28 | Nuance Communications, Inc. | Method and system for collecting audio prompts in a dynamically generated voice application |
US7590772B2 (en) | 2005-08-22 | 2009-09-15 | Apple Inc. | Audio status information for a portable electronic device |
KR20070024262A (ko) | 2005-08-26 | 2007-03-02 | 주식회사 팬택앤큐리텔 | 발신자 정보 음성 출력 기능을 가지는 무선통신 단말기 및그 방법 |
US7737999B2 (en) | 2005-08-26 | 2010-06-15 | Veveo, Inc. | User interface for visual cooperation between text input and display device |
US7668825B2 (en) | 2005-08-26 | 2010-02-23 | Convera Corporation | Search system and method |
US20070050184A1 (en) | 2005-08-26 | 2007-03-01 | Drucker David M | Personal audio content delivery apparatus and method |
US7949529B2 (en) | 2005-08-29 | 2011-05-24 | Voicebox Technologies, Inc. | Mobile systems and methods of supporting natural language human-machine interactions |
KR100739726B1 (ko) | 2005-08-30 | 2007-07-13 | 삼성전자주식회사 | 문자열 매칭 방법 및 시스템과 그 방법을 기록한 컴퓨터판독 가능한 기록매체 |
US8265939B2 (en) | 2005-08-31 | 2012-09-11 | Nuance Communications, Inc. | Hierarchical methods and apparatus for extracting user intent from spoken utterances |
EP1934971A4 (en) | 2005-08-31 | 2010-10-27 | Voicebox Technologies Inc | DYNAMIC LANGUAGE SCRIPTURE |
US8078551B2 (en) | 2005-08-31 | 2011-12-13 | Intuview Ltd. | Decision-support expert system and methods for real-time exploitation of documents in non-english languages |
CA2620931A1 (en) | 2005-09-01 | 2007-03-08 | Vishal Dhawan | Voice application network platform |
US7443316B2 (en) | 2005-09-01 | 2008-10-28 | Motorola, Inc. | Entering a character into an electronic device |
DK1760696T3 (en) | 2005-09-03 | 2016-05-02 | Gn Resound As | Method and apparatus for improved estimation of non-stationary noise to highlight speech |
US20070055514A1 (en) | 2005-09-08 | 2007-03-08 | Beattie Valerie L | Intelligent tutoring feedback |
US8677377B2 (en) | 2005-09-08 | 2014-03-18 | Apple Inc. | Method and apparatus for building an intelligent automated assistant |
GB2430101A (en) | 2005-09-09 | 2007-03-14 | Mitsubishi Electric Inf Tech | Applying metadata for video navigation |
US7779069B2 (en) | 2005-09-09 | 2010-08-17 | Soonr Corporation | Network adapted for mobile devices |
JP2007079690A (ja) | 2005-09-12 | 2007-03-29 | Toshiba Corp | 商品検索装置、商品検索方法及び商品検索プログラム |
US7418281B2 (en) | 2005-09-13 | 2008-08-26 | International Business Machines Corporation | Centralized voice recognition unit for wireless control of personal mobile electronic devices |
US20070060114A1 (en) | 2005-09-14 | 2007-03-15 | Jorey Ramer | Predictive text completion for a mobile communication facility |
US20070061712A1 (en) | 2005-09-14 | 2007-03-15 | Bodin William K | Management and rendering of calendar data |
JP4087400B2 (ja) | 2005-09-15 | 2008-05-21 | 株式会社東芝 | 音声対話翻訳装置、音声対話翻訳方法および音声対話翻訳プログラム |
US7873356B2 (en) | 2005-09-16 | 2011-01-18 | Microsoft Corporation | Search interface for mobile devices |
US20070152980A1 (en) | 2006-01-05 | 2007-07-05 | Kenneth Kocienda | Touch Screen Keyboards for Portable Electronic Devices |
US7694231B2 (en) | 2006-01-05 | 2010-04-06 | Apple Inc. | Keyboards for portable electronic devices |
US7378963B1 (en) | 2005-09-20 | 2008-05-27 | Begault Durand R | Reconfigurable auditory-visual display |
US8275399B2 (en) | 2005-09-21 | 2012-09-25 | Buckyball Mobile Inc. | Dynamic context-data tag cloud |
US20070073745A1 (en) | 2005-09-23 | 2007-03-29 | Applied Linguistics, Llc | Similarity metric for semantic profiling |
US7788590B2 (en) | 2005-09-26 | 2010-08-31 | Microsoft Corporation | Lightweight reference user interface |
US7992085B2 (en) | 2005-09-26 | 2011-08-02 | Microsoft Corporation | Lightweight reference user interface |
US7505784B2 (en) | 2005-09-26 | 2009-03-17 | Barbera Melvin A | Safety features for portable electronic device |
US8270933B2 (en) | 2005-09-26 | 2012-09-18 | Zoomsafer, Inc. | Safety features for portable electronic device |
US7711562B1 (en) | 2005-09-27 | 2010-05-04 | At&T Intellectual Property Ii, L.P. | System and method for testing a TTS voice |
US9009046B1 (en) | 2005-09-27 | 2015-04-14 | At&T Intellectual Property Ii, L.P. | System and method for disambiguating multiple intents in a natural language dialog system |
JP4542974B2 (ja) | 2005-09-27 | 2010-09-15 | 株式会社東芝 | 音声認識装置、音声認識方法および音声認識プログラム |
US7693716B1 (en) | 2005-09-27 | 2010-04-06 | At&T Intellectual Property Ii, L.P. | System and method of developing a TTS voice |
JP5120826B2 (ja) | 2005-09-29 | 2013-01-16 | 独立行政法人産業技術総合研究所 | 発音診断装置、発音診断方法、記録媒体、及び、発音診断プログラム |
JP4559946B2 (ja) | 2005-09-29 | 2010-10-13 | 株式会社東芝 | 入力装置、入力方法および入力プログラム |
US7280958B2 (en) | 2005-09-30 | 2007-10-09 | Motorola, Inc. | Method and system for suppressing receiver audio regeneration |
JP4908094B2 (ja) | 2005-09-30 | 2012-04-04 | 株式会社リコー | 情報処理システム、情報処理方法及び情報処理プログラム |
WO2007036762A1 (en) | 2005-09-30 | 2007-04-05 | Nokia Corporation | A method, device, computer program and graphical user interface used for the selection, movement and de-selection of an item |
US7633076B2 (en) | 2005-09-30 | 2009-12-15 | Apple Inc. | Automated response to and sensing of user activity in portable devices |
US7577522B2 (en) | 2005-12-05 | 2009-08-18 | Outland Research, Llc | Spatially associated personal reminder system and method |
US7930168B2 (en) | 2005-10-04 | 2011-04-19 | Robert Bosch Gmbh | Natural language processing of disfluent sentences |
US20070074617A1 (en) | 2005-10-04 | 2007-04-05 | Linda Vergo | System and method for tailoring music to an activity |
CN100483399C (zh) | 2005-10-09 | 2009-04-29 | 株式会社东芝 | 训练音译模型、切分统计模型的方法和装置 |
US20070083467A1 (en) | 2005-10-10 | 2007-04-12 | Apple Computer, Inc. | Partial encryption techniques for media data |
WO2007044806A2 (en) | 2005-10-11 | 2007-04-19 | Aol Llc | Ordering of conversations based on monitored recipient user interaction with corresponding electronic messages |
US8620667B2 (en) | 2005-10-17 | 2013-12-31 | Microsoft Corporation | Flexible speech-activated command and control |
US8401163B1 (en) | 2005-10-18 | 2013-03-19 | Callwave Communications, Llc | Methods and systems for call processing and for providing call progress status over a network |
US7707032B2 (en) | 2005-10-20 | 2010-04-27 | National Cheng Kung University | Method and system for matching speech data |
US20070093277A1 (en) | 2005-10-21 | 2007-04-26 | Acco Brands Corporation Usa Llc | Updating a static image from an accessory to an electronic device to provide user feedback during interaction with the accessory |
US8229745B2 (en) | 2005-10-21 | 2012-07-24 | Nuance Communications, Inc. | Creating a mixed-initiative grammar from directed dialog grammars |
JP2009513051A (ja) | 2005-10-21 | 2009-03-26 | エスエフエックス テクノロジーズ リミテッド | オーディオデバイスの改良 |
US20070094024A1 (en) | 2005-10-22 | 2007-04-26 | International Business Machines Corporation | System and method for improving text input in a shorthand-on-keyboard interface |
US8688148B2 (en) | 2005-10-25 | 2014-04-01 | Qualcomm Incorporated | Dynamic resource matching system |
US7894580B2 (en) | 2005-10-26 | 2011-02-22 | Research In Motion Limited | Methods and apparatus for reliable voicemail message deletion alerts at mobile communication devices |
US8050971B2 (en) | 2005-10-27 | 2011-11-01 | Nhn Business Platform Corporation | Method and system for providing commodity information in shopping commodity searching service |
US7395959B2 (en) | 2005-10-27 | 2008-07-08 | International Business Machines Corporation | Hands free contact database information entry at a communication device |
US7792253B2 (en) | 2005-10-27 | 2010-09-07 | International Business Machines Corporation | Communications involving devices having different communication modes |
US7729481B2 (en) | 2005-10-28 | 2010-06-01 | Yahoo! Inc. | User interface for integrating diverse methods of communication |
KR100755678B1 (ko) | 2005-10-28 | 2007-09-05 | 삼성전자주식회사 | 개체명 검출 장치 및 방법 |
US7941316B2 (en) | 2005-10-28 | 2011-05-10 | Microsoft Corporation | Combined speech and alternate input modality to a mobile device |
US7778632B2 (en) | 2005-10-28 | 2010-08-17 | Microsoft Corporation | Multi-modal device capable of automated actions |
US9026915B1 (en) | 2005-10-31 | 2015-05-05 | At&T Intellectual Property Ii, L.P. | System and method for creating a presentation using natural language |
US20070098195A1 (en) | 2005-10-31 | 2007-05-03 | Holmes David W | Wireless hearing aid system and method |
US7918788B2 (en) | 2005-10-31 | 2011-04-05 | Ethicon, Inc. | Apparatus and method for providing flow to endoscope channels |
US20070100883A1 (en) | 2005-10-31 | 2007-05-03 | Rose Daniel E | Methods for providing audio feedback during the navigation of collections of information |
CN1959628A (zh) | 2005-10-31 | 2007-05-09 | 西门子(中国)有限公司 | 一种人机交互导航系统 |
US7936339B2 (en) | 2005-11-01 | 2011-05-03 | Leapfrog Enterprises, Inc. | Method and system for invoking computer functionality by interaction with dynamically generated interface regions of a writing surface |
US20070100619A1 (en) | 2005-11-02 | 2007-05-03 | Nokia Corporation | Key usage and text marking in the context of a combined predictive text and speech recognition system |
US8700403B2 (en) | 2005-11-03 | 2014-04-15 | Robert Bosch Gmbh | Unified treatment of data-sparseness and data-overfitting in maximum entropy modeling |
US8805675B2 (en) | 2005-11-07 | 2014-08-12 | Sap Ag | Representing a computer system state to a user |
US7640158B2 (en) | 2005-11-08 | 2009-12-29 | Multimodal Technologies, Inc. | Automatic detection and application of editing patterns in draft documents |
US7627466B2 (en) | 2005-11-09 | 2009-12-01 | Microsoft Corporation | Natural language interface for driving adaptive scenarios |
US7831428B2 (en) | 2005-11-09 | 2010-11-09 | Microsoft Corporation | Speech index pruning |
US20070106685A1 (en) | 2005-11-09 | 2007-05-10 | Podzinger Corp. | Method and apparatus for updating speech recognition databases and reindexing audio and video content using the same |
US20070106674A1 (en) | 2005-11-10 | 2007-05-10 | Purusharth Agrawal | Field sales process facilitation systems and methods |
US20070106513A1 (en) | 2005-11-10 | 2007-05-10 | Boillot Marc A | Method for facilitating text to speech synthesis using a differential vocoder |
US20070112572A1 (en) | 2005-11-15 | 2007-05-17 | Fail Keith W | Method and apparatus for assisting vision impaired individuals with selecting items from a list |
US7676463B2 (en) | 2005-11-15 | 2010-03-09 | Kroll Ontrack, Inc. | Information exploration systems and method |
US8731914B2 (en) | 2005-11-15 | 2014-05-20 | Nokia Corporation | System and method for winding audio content using a voice activity detection algorithm |
US8042048B2 (en) | 2005-11-17 | 2011-10-18 | Att Knowledge Ventures, L.P. | System and method for home automation |
WO2007057879A1 (en) | 2005-11-17 | 2007-05-24 | Shaul Simhi | Personalized voice activity detection |
WO2007062398A2 (en) | 2005-11-22 | 2007-05-31 | Walker Digital, Llc | Systems, products and processes for conducting instant lottery games |
US8326629B2 (en) | 2005-11-22 | 2012-12-04 | Nuance Communications, Inc. | Dynamically changing voice attributes during speech synthesis based upon parameter differentiation for dialog contexts |
JP4058071B2 (ja) | 2005-11-22 | 2008-03-05 | 株式会社東芝 | 用例翻訳装置、用例翻訳方法および用例翻訳プログラム |
US7644054B2 (en) | 2005-11-23 | 2010-01-05 | Veveo, Inc. | System and method for finding desired results by incremental search using an ambiguous keypad with the input containing orthographic and typographic errors |
CN2865153Y (zh) | 2005-11-24 | 2007-01-31 | 庄鸿仁 | 具有语音输入功能的手机 |
US20070185926A1 (en) | 2005-11-28 | 2007-08-09 | Anand Prahlad | Systems and methods for classifying and transferring information in a storage network |
CN101305366B (zh) | 2005-11-29 | 2013-02-06 | 国际商业机器公司 | 从非结构化文本提取和显现图表结构化关系的方法和系统 |
US20070124675A1 (en) | 2005-11-29 | 2007-05-31 | Ban Oliver K | Methods and systems for changing language characters of graphical and application interfaces |
US20070124289A1 (en) | 2005-11-30 | 2007-05-31 | Tomasz Imielinski | Remote execution of actions transparent to a user at registered remote entities in real-time |
TWI298844B (en) | 2005-11-30 | 2008-07-11 | Delta Electronics Inc | User-defines speech-controlled shortcut module and method |
DE102005057406A1 (de) | 2005-11-30 | 2007-06-06 | Valenzuela, Carlos Alberto, Dr.-Ing. | Verfahren zur Aufnahme einer Tonquelle mit zeitlich variabler Richtcharakteristik und zur Wiedergabe sowie System zur Durchführung des Verfahrens |
GB0524354D0 (en) | 2005-11-30 | 2006-01-04 | Ibm | Method, system and computer program product for composing a reply to a text message received in a messaging application |
CN101366065A (zh) | 2005-11-30 | 2009-02-11 | 语文交流企业公司 | 交互式语言教育系统和方法 |
US8209182B2 (en) | 2005-11-30 | 2012-06-26 | University Of Southern California | Emotion recognition system |
US8261189B2 (en) | 2005-11-30 | 2012-09-04 | International Business Machines Corporation | Database monitor replay |
US8055707B2 (en) | 2005-11-30 | 2011-11-08 | Alcatel Lucent | Calendar interface for digital communications |
KR101176540B1 (ko) | 2005-12-02 | 2012-08-24 | 삼성전자주식회사 | 다결정 실리콘 tft 및 이를 적용한 유기발광디스플레이 |
TW200611546A (en) | 2005-12-02 | 2006-04-01 | Univ Chang Gung | Mobile phone providing remotely activated and touch power-on and voice response system |
US8498624B2 (en) | 2005-12-05 | 2013-07-30 | At&T Intellectual Property I, L.P. | Method and apparatus for managing voicemail messages |
US7953580B2 (en) | 2005-12-05 | 2011-05-31 | Ericsson Ab | Method and a system relating to network management |
US20070129098A1 (en) | 2005-12-06 | 2007-06-07 | Motorola, Inc. | Device and method for determining a user-desired mode of inputting speech |
KR100810500B1 (ko) | 2005-12-08 | 2008-03-07 | 한국전자통신연구원 | 대화형 음성 인터페이스 시스템에서의 사용자 편의성증대 방법 |
US7860718B2 (en) | 2005-12-08 | 2010-12-28 | Electronics And Telecommunications Research Institute | Apparatus and method for speech segment detection and system for speech recognition |
US20070136778A1 (en) | 2005-12-09 | 2007-06-14 | Ari Birger | Controller and control method for media retrieval, routing and playback |
US8126120B2 (en) | 2005-12-12 | 2012-02-28 | Tellme Networks, Inc. | Providing missed call and message information |
US7800596B2 (en) | 2005-12-14 | 2010-09-21 | Research In Motion Limited | Handheld electronic device having virtual navigational input device, and associated method |
US7461043B2 (en) | 2005-12-14 | 2008-12-02 | Siemens Aktiengesellschaft | Methods and apparatus to abstract events in software applications or services |
US20070156627A1 (en) | 2005-12-15 | 2007-07-05 | General Instrument Corporation | Method and apparatus for creating and using electronic content bookmarks |
US20070143163A1 (en) | 2005-12-16 | 2007-06-21 | Sap Ag | Systems and methods for organizing and monitoring data collection |
US20070143376A1 (en) | 2005-12-16 | 2007-06-21 | Mcintosh Robert | Methods, systems, and computer program products for displaying at least one electronic media file on an electronic calendar based on information associated with the electronic calendar |
GB2433403B (en) | 2005-12-16 | 2009-06-24 | Emil Ltd | A text editing apparatus and method |
US9330668B2 (en) | 2005-12-20 | 2016-05-03 | International Business Machines Corporation | Sharing voice application processing via markup |
US20070211071A1 (en) | 2005-12-20 | 2007-09-13 | Benjamin Slotznick | Method and apparatus for interacting with a visually displayed document on a screen reader |
JP4722694B2 (ja) | 2005-12-21 | 2011-07-13 | 京セラミタ株式会社 | 電子機器及び音声操作プログラム |
US8234494B1 (en) | 2005-12-21 | 2012-07-31 | At&T Intellectual Property Ii, L.P. | Speaker-verification digital signatures |
DE102005061365A1 (de) | 2005-12-21 | 2007-06-28 | Siemens Ag | Verfahren zur Ansteuerung zumindest einer ersten und zweiten Hintergrundapplikation über ein universelles Sprachdialogsystem |
US7996228B2 (en) | 2005-12-22 | 2011-08-09 | Microsoft Corporation | Voice initiated network operations |
US7620404B2 (en) | 2005-12-22 | 2009-11-17 | Pascal Chesnais | Methods and apparatus for organizing and presenting contact information in a mobile communication system |
US7657849B2 (en) | 2005-12-23 | 2010-02-02 | Apple Inc. | Unlocking a device by performing gestures on an unlock image |
US7650137B2 (en) | 2005-12-23 | 2010-01-19 | Apple Inc. | Account information display for portable communication device |
US20070150403A1 (en) | 2005-12-28 | 2007-06-28 | Motorola, Inc. | Method and system for a mobile auction concierge |
US7685144B1 (en) | 2005-12-29 | 2010-03-23 | Google Inc. | Dynamically autocompleting a data entry |
US20070162502A1 (en) | 2005-12-29 | 2007-07-12 | United Video Properties, Inc. | Media library in an interactive media guidance application |
US8243897B2 (en) | 2005-12-29 | 2012-08-14 | Microsoft Corporation | Automatic detection and notification of proximity of persons of interest |
US7599918B2 (en) | 2005-12-29 | 2009-10-06 | Microsoft Corporation | Dynamic search with implicit user intention mining |
TWI302265B (en) | 2005-12-30 | 2008-10-21 | High Tech Comp Corp | Moving determination apparatus |
US7890330B2 (en) | 2005-12-30 | 2011-02-15 | Alpine Electronics Inc. | Voice recording tool for creating database used in text to speech synthesis system |
US7509588B2 (en) | 2005-12-30 | 2009-03-24 | Apple Inc. | Portable electronic device with interface reconfiguration mode |
KR20070071675A (ko) | 2005-12-30 | 2007-07-04 | 주식회사 팬택 | 이동통신단말기에서 다중 언어 tts 처리 방법 |
US7453868B2 (en) * | 2005-12-30 | 2008-11-18 | Microsoft Corporation | Strategies for sending content to a target device |
FI20055717A0 (fi) | 2005-12-30 | 2005-12-30 | Nokia Corp | Koodinmuunnosmenetelmä matkaviestinjärjestelmässä |
US8180779B2 (en) | 2005-12-30 | 2012-05-15 | Sap Ag | System and method for using external references to validate a data object's classification / consolidation |
US20070156400A1 (en) | 2006-01-03 | 2007-07-05 | Wheeler Mark R | System and method for wireless dictation and transcription |
US7684991B2 (en) | 2006-01-05 | 2010-03-23 | Alpine Electronics, Inc. | Digital audio file search method and apparatus using text-to-speech processing |
US7673238B2 (en) | 2006-01-05 | 2010-03-02 | Apple Inc. | Portable media device with video acceleration capabilities |
US7979267B2 (en) | 2006-01-06 | 2011-07-12 | Computer Associates Think, Inc. | Specifying a subset of dynamic inter-related data |
US8006180B2 (en) | 2006-01-10 | 2011-08-23 | Mircrosoft Corporation | Spell checking in network browser based applications |
JP2007183864A (ja) | 2006-01-10 | 2007-07-19 | Fujitsu Ltd | ファイル検索方法及びそのシステム |
US7786979B2 (en) | 2006-01-13 | 2010-08-31 | Research In Motion Limited | Handheld electronic device and method for disambiguation of text input and providing spelling substitution |
US8775526B2 (en) | 2006-01-16 | 2014-07-08 | Zlango Ltd. | Iconic communication |
KR100673849B1 (ko) | 2006-01-18 | 2007-01-24 | 주식회사 비에스이 | 메인보드에 실장되는 콘덴서 마이크로폰 및 이를 포함하는이동통신 단말기 |
US8972494B2 (en) | 2006-01-19 | 2015-03-03 | International Business Machines Corporation | Scheduling calendar entries via an instant messaging interface |
JP4241736B2 (ja) | 2006-01-19 | 2009-03-18 | 株式会社東芝 | 音声処理装置及びその方法 |
FR2896603B1 (fr) | 2006-01-20 | 2008-05-02 | Thales Sa | Procede et dispositif pour extraire des informations et les transformer en donnees qualitatives d'un document textuel |
US20060150087A1 (en) | 2006-01-20 | 2006-07-06 | Daniel Cronenberger | Ultralink text analysis tool |
US9600568B2 (en) | 2006-01-23 | 2017-03-21 | Veritas Technologies Llc | Methods and systems for automatic evaluation of electronic discovery review and productions |
US9275129B2 (en) | 2006-01-23 | 2016-03-01 | Symantec Corporation | Methods and systems to efficiently find similar and near-duplicate emails and files |
US20070174396A1 (en) | 2006-01-24 | 2007-07-26 | Cisco Technology, Inc. | Email text-to-speech conversion in sender's voice |
US7934169B2 (en) | 2006-01-25 | 2011-04-26 | Nokia Corporation | Graphical user interface, electronic device, method and computer program that uses sliders for user input |
CN101008942A (zh) | 2006-01-25 | 2007-08-01 | 北京金远见电脑技术有限公司 | 机器翻译装置和机器翻译方法 |
US20070174188A1 (en) | 2006-01-25 | 2007-07-26 | Fish Robert D | Electronic marketplace that facilitates transactions between consolidated buyers and/or sellers |
US8060357B2 (en) | 2006-01-27 | 2011-11-15 | Xerox Corporation | Linguistic user interface |
US7929805B2 (en) | 2006-01-31 | 2011-04-19 | The Penn State Research Foundation | Image-based CAPTCHA generation system |
JP2007206317A (ja) | 2006-02-01 | 2007-08-16 | Yamaha Corp | オーサリング方法、オーサリング装置およびプログラム |
IL174107A0 (en) | 2006-02-01 | 2006-08-01 | Grois Dan | Method and system for advertising by means of a search engine over a data network |
US7818291B2 (en) | 2006-02-03 | 2010-10-19 | The General Electric Company | Data object access system and method using dedicated task object |
US8352183B2 (en) | 2006-02-04 | 2013-01-08 | Microsoft Corporation | Maps for social networking and geo blogs |
US8595041B2 (en) | 2006-02-07 | 2013-11-26 | Sap Ag | Task responsibility system |
US7836437B2 (en) | 2006-02-10 | 2010-11-16 | Microsoft Corporation | Semantic annotations for virtual objects |
ATE440334T1 (de) | 2006-02-10 | 2009-09-15 | Harman Becker Automotive Sys | System für sprachgesteuerte auswahl einer audiodatei und verfahren dafür |
US8209063B2 (en) | 2006-02-13 | 2012-06-26 | Research In Motion Limited | Navigation tool with audible feedback on a handheld communication device |
US20070192293A1 (en) | 2006-02-13 | 2007-08-16 | Bing Swen | Method for presenting search results |
US20070192027A1 (en) | 2006-02-13 | 2007-08-16 | Research In Motion Limited | Navigation tool with audible feedback on a wireless handheld communication device |
US8209181B2 (en) | 2006-02-14 | 2012-06-26 | Microsoft Corporation | Personal audio-video recorder for live meetings |
US20090222270A2 (en) | 2006-02-14 | 2009-09-03 | Ivc Inc. | Voice command interface device |
US20070192179A1 (en) | 2006-02-15 | 2007-08-16 | Van Luchene Andrew S | Survey-Based Qualification of Keyword Searches |
US9101279B2 (en) | 2006-02-15 | 2015-08-11 | Virtual Video Reality By Ritchey, Llc | Mobile user borne brain activity data and surrounding environment data correlation system |
US8036894B2 (en) | 2006-02-16 | 2011-10-11 | Apple Inc. | Multi-unit approach to text-to-speech synthesis |
US7541940B2 (en) | 2006-02-16 | 2009-06-02 | International Business Machines Corporation | Proximity-based task alerts |
EP1969493B1 (en) | 2006-02-17 | 2018-12-26 | Google LLC | Encoding and adaptive, scalable accessing of distributed models |
US20070198682A1 (en) * | 2006-02-22 | 2007-08-23 | Pazhyannur Rajesh S | Method and system for seamless media handover across devices |
US20070198566A1 (en) | 2006-02-23 | 2007-08-23 | Matyas Sustik | Method and apparatus for efficient storage of hierarchical signal names |
US20070203869A1 (en) | 2006-02-28 | 2007-08-30 | Microsoft Corporation | Adaptive semantic platform architecture |
WO2007099529A1 (en) | 2006-02-28 | 2007-09-07 | Sandisk Il Ltd | Bookmarked synchronization of files |
US20070208726A1 (en) | 2006-03-01 | 2007-09-06 | Oracle International Corporation | Enhancing search results using ontologies |
US7599861B2 (en) | 2006-03-02 | 2009-10-06 | Convergys Customer Management Group, Inc. | System and method for closed loop decisionmaking in an automated care system |
KR100764174B1 (ko) | 2006-03-03 | 2007-10-08 | 삼성전자주식회사 | 음성 대화 서비스 장치 및 방법 |
US7983910B2 (en) | 2006-03-03 | 2011-07-19 | International Business Machines Corporation | Communicating across voice and text channels with emotion preservation |
US9250703B2 (en) | 2006-03-06 | 2016-02-02 | Sony Computer Entertainment Inc. | Interface with gaze detection and voice input |
US8131548B2 (en) | 2006-03-06 | 2012-03-06 | Nuance Communications, Inc. | Dynamically adjusting speech grammar weights based on usage |
CN1984207B (zh) | 2006-03-07 | 2010-05-12 | 华为技术有限公司 | 一种PoC业务的计费方法及设备 |
US8532678B2 (en) | 2006-03-08 | 2013-09-10 | Tomtom International B.V. | Portable GPS navigation device |
US9037466B2 (en) | 2006-03-09 | 2015-05-19 | Nuance Communications, Inc. | Email administration for rendering email on a digital audio player |
US9361299B2 (en) | 2006-03-09 | 2016-06-07 | International Business Machines Corporation | RSS content administration for rendering RSS content on a digital audio player |
US8311836B2 (en) | 2006-03-13 | 2012-11-13 | Nuance Communications, Inc. | Dynamic help including available speech commands from content contained within speech grammars |
US20070219801A1 (en) | 2006-03-14 | 2007-09-20 | Prabha Sundaram | System, method and computer program product for updating a biometric model based on changes in a biometric feature of a user |
US9767184B2 (en) | 2006-03-14 | 2017-09-19 | Robert D. Fish | Methods and apparatus for facilitating context searching |
US20070219786A1 (en) | 2006-03-15 | 2007-09-20 | Isaac Emad S | Method for providing external user automatic speech recognition dictation recording and playback |
US7752152B2 (en) | 2006-03-17 | 2010-07-06 | Microsoft Corporation | Using predictive user models for language modeling on a personal device with user behavior models based on statistical modeling |
US7567844B2 (en) | 2006-03-17 | 2009-07-28 | Honeywell International Inc. | Building management system |
EP1835488B1 (en) | 2006-03-17 | 2008-11-19 | Svox AG | Text to speech synthesis |
US8185376B2 (en) | 2006-03-20 | 2012-05-22 | Microsoft Corporation | Identifying language origin of words |
DE102006037156A1 (de) | 2006-03-22 | 2007-09-27 | Volkswagen Ag | Interaktive Bedienvorrichtung und Verfahren zum Betreiben der interaktiven Bedienvorrichtung |
JP2007257336A (ja) | 2006-03-23 | 2007-10-04 | Sony Corp | 情報処理装置、情報処理方法及びそのプログラム |
US7720681B2 (en) | 2006-03-23 | 2010-05-18 | Microsoft Corporation | Digital voice profiles |
JP4734155B2 (ja) | 2006-03-24 | 2011-07-27 | 株式会社東芝 | 音声認識装置、音声認識方法および音声認識プログラム |
JP2007264792A (ja) | 2006-03-27 | 2007-10-11 | Fujitsu Ltd | 音声ブラウザプログラム |
US7936890B2 (en) | 2006-03-28 | 2011-05-03 | Oticon A/S | System and method for generating auditory spatial cues |
JP4813943B2 (ja) | 2006-03-28 | 2011-11-09 | 株式会社野村総合研究所 | 認証システム |
US8018431B1 (en) | 2006-03-29 | 2011-09-13 | Amazon Technologies, Inc. | Page turner for handheld electronic book reader device |
JP2007264471A (ja) | 2006-03-29 | 2007-10-11 | Toshiba Corp | 音声認識装置および音声認識方法 |
US20070233806A1 (en) | 2006-03-29 | 2007-10-04 | Mehrzad Asadi | Method and system for conducting an internet search using a mobile radio terminal |
US7930183B2 (en) | 2006-03-29 | 2011-04-19 | Microsoft Corporation | Automatic identification of dialog timing problems for an interactive speech dialog application using speech log data indicative of cases of barge-in and timing problems |
US7724696B1 (en) | 2006-03-29 | 2010-05-25 | Amazon Technologies, Inc. | Predictive reader power management |
US8244545B2 (en) | 2006-03-30 | 2012-08-14 | Microsoft Corporation | Dialog repair based on discrepancies between user model predictions and speech recognition results |
US7283072B1 (en) | 2006-03-30 | 2007-10-16 | International Business Machines Corporation | Methods of creating a dictionary for data compression |
US20070238489A1 (en) | 2006-03-31 | 2007-10-11 | Research In Motion Limited | Edit menu for a mobile communication device |
JP2007272773A (ja) | 2006-03-31 | 2007-10-18 | Xing Inc | 対話型インターフェイス制御システム |
US20090306989A1 (en) | 2006-03-31 | 2009-12-10 | Masayo Kaji | Voice input support device, method thereof, program thereof, recording medium containing the program, and navigation device |
US20070238488A1 (en) | 2006-03-31 | 2007-10-11 | Research In Motion Limited | Primary actions menu for a mobile communication device |
US7756708B2 (en) | 2006-04-03 | 2010-07-13 | Google Inc. | Automatic language model update |
US8725729B2 (en) | 2006-04-03 | 2014-05-13 | Steven G. Lisa | System, methods and applications for embedded internet searching and result display |
US20070233490A1 (en) | 2006-04-03 | 2007-10-04 | Texas Instruments, Incorporated | System and method for text-to-phoneme mapping with prior knowledge |
CN101449538A (zh) | 2006-04-04 | 2009-06-03 | 约翰逊控制技术公司 | 媒体文件的文本-语法改进 |
US7870142B2 (en) | 2006-04-04 | 2011-01-11 | Johnson Controls Technology Company | Text to grammar enhancements for media files |
US7996769B2 (en) | 2006-04-05 | 2011-08-09 | Research In Motion Limited | Handheld electronic device and method for performing spell checking during text entry and for providing a spell-check learning feature |
US7583972B2 (en) | 2006-04-05 | 2009-09-01 | Palm, Inc. | Location based reminders |
US7777717B2 (en) | 2006-04-05 | 2010-08-17 | Research In Motion Limited | Handheld electronic device and method for performing spell checking during text entry and for integrating the output from such spell checking into the output from disambiguation |
US7797629B2 (en) | 2006-04-05 | 2010-09-14 | Research In Motion Limited | Handheld electronic device and method for performing optimized spell checking during text entry by providing a sequentially ordered series of spell-check algorithms |
US8510109B2 (en) | 2007-08-22 | 2013-08-13 | Canyon Ip Holdings Llc | Continuous speech transcription performance indication |
US20070239453A1 (en) | 2006-04-06 | 2007-10-11 | Microsoft Corporation | Augmenting context-free grammars with back-off grammars for processing out-of-grammar utterances |
US7810107B2 (en) | 2006-04-11 | 2010-10-05 | Sap Portals Israel Ltd. | Dynamic portal registration of generic data source |
WO2007121329A1 (en) | 2006-04-12 | 2007-10-25 | Google Inc | Method, system ,graphical user interface, and data structure for creating electronic calendar entries from email messages |
US7693717B2 (en) | 2006-04-12 | 2010-04-06 | Custom Speech Usa, Inc. | Session file modification with annotation using speech recognition or text to speech |
US8046363B2 (en) | 2006-04-13 | 2011-10-25 | Lg Electronics Inc. | System and method for clustering documents |
DE602006010323D1 (de) | 2006-04-13 | 2009-12-24 | Fraunhofer Ges Forschung | Audiosignaldekorrelator |
US7707027B2 (en) | 2006-04-13 | 2010-04-27 | Nuance Communications, Inc. | Identification and rejection of meaningless input during natural language classification |
US7475063B2 (en) | 2006-04-19 | 2009-01-06 | Google Inc. | Augmenting queries with synonyms selected using language statistics |
US8077153B2 (en) | 2006-04-19 | 2011-12-13 | Microsoft Corporation | Precise selection techniques for multi-touch screens |
US8712192B2 (en) | 2006-04-20 | 2014-04-29 | Microsoft Corporation | Geo-coding images |
US8392183B2 (en) | 2006-04-25 | 2013-03-05 | Frank Elmo Weber | Character-based automated media summarization |
KR100771626B1 (ko) | 2006-04-25 | 2007-10-31 | 엘지전자 주식회사 | 단말기 및 이를 위한 명령 입력 방법 |
US20070255554A1 (en) | 2006-04-26 | 2007-11-01 | Lucent Technologies Inc. | Language translation service for text message communications |
DE602006019646D1 (de) | 2006-04-27 | 2011-02-24 | Mobiter Dicta Oy | Verfahren, system und einrichtung zur umsetzung von sprache |
US8214213B1 (en) | 2006-04-27 | 2012-07-03 | At&T Intellectual Property Ii, L.P. | Speech recognition based on pronunciation modeling |
US7676699B2 (en) | 2006-04-28 | 2010-03-09 | Microsoft Corporation | Event trace conditional logging |
US20070260595A1 (en) | 2006-05-02 | 2007-11-08 | Microsoft Corporation | Fuzzy string matching using tree data structure |
US8279180B2 (en) | 2006-05-02 | 2012-10-02 | Apple Inc. | Multipoint touch surface controller |
US7757176B2 (en) | 2006-05-03 | 2010-07-13 | Sanjay Vakil | Method and system for collective calendaring |
US20070260460A1 (en) | 2006-05-05 | 2007-11-08 | Hyatt Edward C | Method and system for announcing audio and video content to a user of a mobile radio terminal |
JP2007299352A (ja) | 2006-05-08 | 2007-11-15 | Mitsubishi Electric Corp | メッセージ出力装置及びメッセージ出力方法及びメッセージ出力プログラム |
US7831786B2 (en) | 2006-05-08 | 2010-11-09 | Research In Motion Limited | Sharing memory resources of wireless portable electronic devices |
US20070265831A1 (en) | 2006-05-09 | 2007-11-15 | Itai Dinur | System-Level Correction Service |
US8331574B2 (en) | 2006-05-10 | 2012-12-11 | Koninklijke Philips Electronics N.V. | Automatic external defibrillator with enhanced clarity of audible prompts |
US9020804B2 (en) | 2006-05-10 | 2015-04-28 | Xerox Corporation | Method for aligning sentences at the word level enforcing selective contiguity constraints |
US20070274468A1 (en) | 2006-05-11 | 2007-11-29 | Lucent Technologies, Inc. | Retrieval of voicemail |
WO2007133716A2 (en) | 2006-05-11 | 2007-11-22 | Cerebode, Inc. | Multimodal communication and command control systems and related methods |
US20090307594A1 (en) | 2006-05-12 | 2009-12-10 | Timo Kosonen | Adaptive User Interface |
CN101075228B (zh) | 2006-05-15 | 2012-05-23 | 松下电器产业株式会社 | 识别自然语言中的命名实体的方法和装置 |
US20070276714A1 (en) | 2006-05-15 | 2007-11-29 | Sap Ag | Business process map management |
US20070300140A1 (en) | 2006-05-15 | 2007-12-27 | Nokia Corporation | Electronic device having a plurality of modes of operation |
US20070271104A1 (en) | 2006-05-19 | 2007-11-22 | Mckay Martin | Streaming speech with synchronized highlighting generated by a server |
US7779353B2 (en) | 2006-05-19 | 2010-08-17 | Microsoft Corporation | Error checking web documents |
US8032355B2 (en) | 2006-05-22 | 2011-10-04 | University Of Southern California | Socially cognizant translation by detecting and transforming elements of politeness and respect |
US20070276651A1 (en) | 2006-05-23 | 2007-11-29 | Motorola, Inc. | Grammar adaptation through cooperative client and server based speech recognition |
US7596765B2 (en) | 2006-05-23 | 2009-09-29 | Sony Ericsson Mobile Communications Ab | Sound feedback on menu navigation |
US20070276810A1 (en) | 2006-05-23 | 2007-11-29 | Joshua Rosen | Search Engine for Presenting User-Editable Search Listings and Ranking Search Results Based on the Same |
US20070277088A1 (en) | 2006-05-24 | 2007-11-29 | Bodin William K | Enhancing an existing web page |
US7831423B2 (en) | 2006-05-25 | 2010-11-09 | Multimodal Technologies, Inc. | Replacing text representing a concept with an alternate written form of the concept |
JP4887911B2 (ja) | 2006-05-31 | 2012-02-29 | 船井電機株式会社 | 電子機器 |
JP2007325089A (ja) | 2006-06-02 | 2007-12-13 | Sony Ericsson Mobilecommunications Japan Inc | 情報処理装置、情報処理方法、情報処理プログラム、及び携帯端末装置 |
JP2007323612A (ja) | 2006-06-05 | 2007-12-13 | Kenwood Corp | 情報取得装置、プログラム、及び情報取得方法 |
US8423347B2 (en) | 2006-06-06 | 2013-04-16 | Microsoft Corporation | Natural language personal information management |
US20070286399A1 (en) | 2006-06-07 | 2007-12-13 | Venkatesan Ramamoorthy | Phone Number Extraction System For Voice Mail Messages |
US20100257160A1 (en) | 2006-06-07 | 2010-10-07 | Yu Cao | Methods & apparatus for searching with awareness of different types of information |
US7523108B2 (en) | 2006-06-07 | 2009-04-21 | Platformation, Inc. | Methods and apparatus for searching with awareness of geography and languages |
US7483894B2 (en) | 2006-06-07 | 2009-01-27 | Platformation Technologies, Inc | Methods and apparatus for entity search |
TW200801988A (en) | 2006-06-08 | 2008-01-01 | George Ko | Concurrent multilingual translation system |
US7853577B2 (en) | 2006-06-09 | 2010-12-14 | Ebay Inc. | Shopping context engine |
KR20060073574A (ko) | 2006-06-09 | 2006-06-28 | 복세규 | 음성인식을 활용한 이동통신단말기 사용자 스케쥴 관리 등부가서비스 제공 |
US20070299831A1 (en) | 2006-06-10 | 2007-12-27 | Williams Frank J | Method of searching, and retrieving information implementing metric conceptual identities |
US20080010273A1 (en) | 2006-06-12 | 2008-01-10 | Metacarta, Inc. | Systems and methods for hierarchical organization and presentation of geographic search results |
US7774202B2 (en) | 2006-06-12 | 2010-08-10 | Lockheed Martin Corporation | Speech activated control system and related methods |
US8332218B2 (en) | 2006-06-13 | 2012-12-11 | Nuance Communications, Inc. | Context-based grammars for automated speech recognition |
US7676371B2 (en) | 2006-06-13 | 2010-03-09 | Nuance Communications, Inc. | Oral modification of an ASR lexicon of an ASR engine |
KR100776800B1 (ko) | 2006-06-16 | 2007-11-19 | 한국전자통신연구원 | 지능형 가제트를 이용한 맞춤형 서비스 제공 방법 및시스템 |
US8015014B2 (en) | 2006-06-16 | 2011-09-06 | Storz Endoskop Produktions Gmbh | Speech recognition system with user profiles management component |
US20070291108A1 (en) | 2006-06-16 | 2007-12-20 | Ericsson, Inc. | Conference layout control and control protocol |
US20070294263A1 (en) | 2006-06-16 | 2007-12-20 | Ericsson, Inc. | Associating independent multimedia sources into a conference call |
JP2007333603A (ja) | 2006-06-16 | 2007-12-27 | Sony Corp | ナビゲーション装置、ナビゲーション装置の制御方法、ナビゲーション装置の制御方法のプログラム、ナビゲーション装置の制御方法のプログラムを記録した記録媒体 |
US20080141125A1 (en) | 2006-06-23 | 2008-06-12 | Firooz Ghassabian | Combined data entry systems |
US20110077943A1 (en) | 2006-06-26 | 2011-03-31 | Nec Corporation | System for generating language model, method of generating language model, and program for language model generation |
US20070300185A1 (en) | 2006-06-27 | 2007-12-27 | Microsoft Corporation | Activity-centric adaptive user interface |
JP4675840B2 (ja) | 2006-06-29 | 2011-04-27 | 三菱電機株式会社 | リモートコントローラ並びに家電機器 |
US7548895B2 (en) | 2006-06-30 | 2009-06-16 | Microsoft Corporation | Communication-prompted user assistance |
US7586423B2 (en) | 2006-06-30 | 2009-09-08 | Research In Motion Limited | Handheld electronic device and method for dual-mode disambiguation of text input |
US8050500B1 (en) | 2006-07-06 | 2011-11-01 | Senapps, LLC | Recognition method and system |
WO2008004486A1 (fr) | 2006-07-06 | 2008-01-10 | Panasonic Corporation | Dispositif d'entrée vocale |
US20080010387A1 (en) | 2006-07-07 | 2008-01-10 | Bryce Allen Curtis | Method for defining a Wiki page layout using a Wiki page |
US20080031475A1 (en) | 2006-07-08 | 2008-02-07 | Personics Holdings Inc. | Personal audio assistant device and method |
EP1879000A1 (en) | 2006-07-10 | 2008-01-16 | Harman Becker Automotive Systems GmbH | Transmission of text messages by navigation systems |
JP2008021002A (ja) | 2006-07-11 | 2008-01-31 | Fuji Xerox Co Ltd | Webサーバ装置、表示情報音声合成装置及びプログラム |
US7747445B2 (en) | 2006-07-12 | 2010-06-29 | Nuance Communications, Inc. | Distinguishing among different types of abstractions consisting of plurality of commands specified by particular sequencing and or timing or no timing and sequencing using voice commands |
US7756710B2 (en) | 2006-07-13 | 2010-07-13 | Sri International | Method and apparatus for error correction in speech recognition applications |
US20080016575A1 (en) | 2006-07-14 | 2008-01-17 | Motorola, Inc. | Method and system of auto message deletion using expiration |
US20080013751A1 (en) | 2006-07-17 | 2008-01-17 | Per Hiselius | Volume dependent audio frequency gain profile |
TWI312103B (en) | 2006-07-17 | 2009-07-11 | Asia Optical Co Inc | Image pickup systems and methods |
JP2008026381A (ja) | 2006-07-18 | 2008-02-07 | Konica Minolta Business Technologies Inc | 画像形成装置 |
US20080022208A1 (en) | 2006-07-18 | 2008-01-24 | Creative Technology Ltd | System and method for personalizing the user interface of audio rendering devices |
JP4353212B2 (ja) | 2006-07-20 | 2009-10-28 | 株式会社デンソー | 単語列認識装置 |
US20080042970A1 (en) | 2006-07-24 | 2008-02-21 | Yih-Shiuan Liang | Associating a region on a surface with a sound or with another region |
US8234120B2 (en) | 2006-07-26 | 2012-07-31 | Nuance Communications, Inc. | Performing a safety analysis for user-defined voice commands to ensure that the voice commands do not cause speech recognition ambiguities |
US20080027726A1 (en) | 2006-07-28 | 2008-01-31 | Eric Louis Hansen | Text to audio mapping, and animation of the text |
JP4728905B2 (ja) | 2006-08-02 | 2011-07-20 | クラリオン株式会社 | 音声対話装置および音声対話プログラム |
US20080034044A1 (en) | 2006-08-04 | 2008-02-07 | International Business Machines Corporation | Electronic mail reader capable of adapting gender and emotions of sender |
MX2009001087A (es) | 2006-08-04 | 2009-04-28 | Jps Communications Inc | Reconocimiento de modulacion de voz en un adaptador de radio a sip. |
US20080046948A1 (en) | 2006-08-07 | 2008-02-21 | Apple Computer, Inc. | Creation, management and delivery of personalized media items |
US20080040339A1 (en) | 2006-08-07 | 2008-02-14 | Microsoft Corporation | Learning question paraphrases from log data |
US8134481B2 (en) | 2006-08-11 | 2012-03-13 | Honda Motor Co., Ltd. | Method and system for receiving and sending navigational data via a wireless messaging service on a navigation system |
KR100753838B1 (ko) | 2006-08-11 | 2007-08-31 | 한국전자통신연구원 | 적응형 차량 운전지원 장치 및 방법 |
US7646296B2 (en) | 2006-08-11 | 2010-01-12 | Honda Motor Co., Ltd. | Method and system for receiving and sending navigational data via a wireless messaging service on a navigation system |
US7796980B1 (en) | 2006-08-11 | 2010-09-14 | Sprint Communications Company L.P. | Remote mobile voice control of digital/personal video recorder |
KR20080015567A (ko) | 2006-08-16 | 2008-02-20 | 삼성전자주식회사 | 휴대 장치를 위한 음성기반 파일 정보 안내 시스템 및 방법 |
KR100764649B1 (ko) | 2006-08-18 | 2007-10-08 | 삼성전자주식회사 | 휴대용 단말기에서 미디어 플레이어를 제어하기 위한 장치및 방법 |
DE102006039126A1 (de) | 2006-08-21 | 2008-03-06 | Robert Bosch Gmbh | Verfahren zur Spracherkennung und Sprachwiedergabe |
WO2008024797A2 (en) | 2006-08-21 | 2008-02-28 | Pinger, Inc. | Graphical user interface for managing voice messages |
US20080059190A1 (en) | 2006-08-22 | 2008-03-06 | Microsoft Corporation | Speech unit selection using HMM acoustic models |
US20080059200A1 (en) | 2006-08-22 | 2008-03-06 | Accenture Global Services Gmbh | Multi-Lingual Telephonic Service |
US20080052262A1 (en) | 2006-08-22 | 2008-02-28 | Serhiy Kosinov | Method for personalized named entity recognition |
US7970216B2 (en) | 2006-08-24 | 2011-06-28 | Dell Products L.P. | Methods and apparatus for reducing storage size |
US20100174544A1 (en) | 2006-08-28 | 2010-07-08 | Mark Heifets | System, method and end-user device for vocal delivery of textual data |
JP4582238B2 (ja) | 2006-08-30 | 2010-11-17 | 日本電気株式会社 | 音声ミキシング方法およびその方法を用いる多地点会議サーバならびにプログラム |
US8402499B2 (en) | 2006-08-31 | 2013-03-19 | Accenture Global Services Gmbh | Voicemail interface system and method |
US8239480B2 (en) | 2006-08-31 | 2012-08-07 | Sony Ericsson Mobile Communications Ab | Methods of searching using captured portions of digital audio content and additional information separate therefrom and related systems and computer program products |
US9071701B2 (en) | 2006-08-31 | 2015-06-30 | Qualcomm Incorporated | Using wireless characteristic to trigger generation of position fix |
US20080055194A1 (en) | 2006-08-31 | 2008-03-06 | Motorola, Inc. | Method and system for context based user interface information presentation and positioning |
US9552349B2 (en) | 2006-08-31 | 2017-01-24 | International Business Machines Corporation | Methods and apparatus for performing spelling corrections using one or more variant hash tables |
US7881928B2 (en) | 2006-09-01 | 2011-02-01 | International Business Machines Corporation | Enhanced linguistic transformation |
US7689408B2 (en) | 2006-09-01 | 2010-03-30 | Microsoft Corporation | Identifying language of origin for words using estimates of normalized appearance frequency |
US20080077393A1 (en) | 2006-09-01 | 2008-03-27 | Yuqing Gao | Virtual keyboard adaptation for multilingual input |
JP4666648B2 (ja) | 2006-09-01 | 2011-04-06 | 本田技研工業株式会社 | 音声応答システム、音声応答プログラム |
US7683886B2 (en) | 2006-09-05 | 2010-03-23 | Research In Motion Limited | Disambiguated text message review function |
US8170790B2 (en) | 2006-09-05 | 2012-05-01 | Garmin Switzerland Gmbh | Apparatus for switching navigation device mode |
US8564544B2 (en) | 2006-09-06 | 2013-10-22 | Apple Inc. | Touch screen device, method, and graphical user interface for customizing display of content category icons |
US8253695B2 (en) | 2006-09-06 | 2012-08-28 | Apple Inc. | Email client for a portable multifunction device |
US7996792B2 (en) | 2006-09-06 | 2011-08-09 | Apple Inc. | Voicemail manager for portable multifunction device |
US8589869B2 (en) | 2006-09-07 | 2013-11-19 | Wolfram Alpha Llc | Methods and systems for determining a formula |
US7771320B2 (en) | 2006-09-07 | 2010-08-10 | Nike, Inc. | Athletic performance sensing and/or tracking systems and methods |
US9318108B2 (en) | 2010-01-18 | 2016-04-19 | Apple Inc. | Intelligent automated assistant |
TWI322610B (en) | 2006-09-08 | 2010-03-21 | Htc Corp | Handheld electronic device |
JP2008064687A (ja) | 2006-09-08 | 2008-03-21 | Toyota Motor Corp | 走行情報案内装置 |
US8374874B2 (en) | 2006-09-11 | 2013-02-12 | Nuance Communications, Inc. | Establishing a multimodal personality for a multimodal application in dependence upon attributes of user interaction |
US8036766B2 (en) | 2006-09-11 | 2011-10-11 | Apple Inc. | Intelligent audio mixing among media playback and at least one other non-playback application |
US8564543B2 (en) | 2006-09-11 | 2013-10-22 | Apple Inc. | Media player with imaged based browsing |
US9892650B2 (en) | 2006-09-11 | 2018-02-13 | Houghton Mifflin Harcourt Publishing Company | Recovery of polled data after an online test platform failure |
US20080071544A1 (en) | 2006-09-14 | 2008-03-20 | Google Inc. | Integrating Voice-Enabled Local Search and Contact Lists |
WO2008033095A1 (en) | 2006-09-15 | 2008-03-20 | Agency For Science, Technology And Research | Apparatus and method for speech utterance verification |
US8027837B2 (en) | 2006-09-15 | 2011-09-27 | Apple Inc. | Using non-speech sounds during text-to-speech synthesis |
EP2067102A2 (en) | 2006-09-15 | 2009-06-10 | Exbiblio B.V. | Capture and display of annotations in paper and electronic documents |
US8407229B2 (en) | 2006-09-19 | 2013-03-26 | Iac Search & Media, Inc. | Systems and methods for aggregating search results |
US20080076972A1 (en) | 2006-09-21 | 2008-03-27 | Apple Inc. | Integrated sensors for tracking performance metrics |
US7865282B2 (en) | 2006-09-22 | 2011-01-04 | General Motors Llc | Methods of managing communications for an in-vehicle telematics system |
JP4393494B2 (ja) | 2006-09-22 | 2010-01-06 | 株式会社東芝 | 機械翻訳装置、機械翻訳方法および機械翻訳プログラム |
US20080077384A1 (en) | 2006-09-22 | 2008-03-27 | International Business Machines Corporation | Dynamically translating a software application to a user selected target language that is not natively provided by the software application |
US20080084974A1 (en) | 2006-09-25 | 2008-04-10 | International Business Machines Corporation | Method and system for interactively synthesizing call center responses using multi-language text-to-speech synthesizers |
KR100813170B1 (ko) | 2006-09-27 | 2008-03-17 | 삼성전자주식회사 | 사진 의미 인덱싱 방법 및 그 시스템 |
US8214208B2 (en) | 2006-09-28 | 2012-07-03 | Reqall, Inc. | Method and system for sharing portable voice profiles |
US7649454B2 (en) | 2006-09-28 | 2010-01-19 | Ektimisi Semiotics Holdings, Llc | System and method for providing a task reminder based on historical travel information |
US7528713B2 (en) | 2006-09-28 | 2009-05-05 | Ektimisi Semiotics Holdings, Llc | Apparatus and method for providing a task reminder based on travel history |
US7930197B2 (en) | 2006-09-28 | 2011-04-19 | Microsoft Corporation | Personal data mining |
US8014308B2 (en) | 2006-09-28 | 2011-09-06 | Microsoft Corporation | Hardware architecture for cloud services |
US7885222B2 (en) | 2006-09-29 | 2011-02-08 | Advanced Micro Devices, Inc. | Task scheduler responsive to connectivity prerequisites |
JP2008090545A (ja) | 2006-09-29 | 2008-04-17 | Toshiba Corp | 音声対話装置および音声対話方法 |
US20080082338A1 (en) | 2006-09-29 | 2008-04-03 | O'neil Michael P | Systems and methods for secure voice identification and medical device interface |
US7945470B1 (en) | 2006-09-29 | 2011-05-17 | Amazon Technologies, Inc. | Facilitating performance of submitted tasks by mobile task performers |
US7831432B2 (en) | 2006-09-29 | 2010-11-09 | International Business Machines Corporation | Audio menus describing media contents of media players |
US7983614B2 (en) * | 2006-09-29 | 2011-07-19 | Sony Ericsson Mobile Communications Ab | Handover for audio and video playback devices |
ATE422090T1 (de) | 2006-10-02 | 2009-02-15 | Harman Becker Automotive Sys | Nutzung von sprachidentifizierung von mediendateidaten in sprachdialogsystemen |
US7673251B1 (en) | 2006-10-02 | 2010-03-02 | Adobe Systems, Incorporated | Panel presentation |
JP2008092269A (ja) | 2006-10-02 | 2008-04-17 | Matsushita Electric Ind Co Ltd | ハンズフリー通話装置 |
US7801721B2 (en) | 2006-10-02 | 2010-09-21 | Google Inc. | Displaying original text in a user interface with translated text |
US20080082390A1 (en) | 2006-10-02 | 2008-04-03 | International Business Machines Corporation | Methods for Generating Auxiliary Data Operations for a Role Based Personalized Business User Workplace |
JP2008096541A (ja) | 2006-10-06 | 2008-04-24 | Canon Inc | 音声処理装置およびその制御方法 |
US7937075B2 (en) | 2006-10-06 | 2011-05-03 | At&T Intellectual Property I, L.P. | Mode changing of a mobile communications device and vehicle settings when the mobile communications device is in proximity to a vehicle |
US8145473B2 (en) | 2006-10-10 | 2012-03-27 | Abbyy Software Ltd. | Deep model statistics method for machine translation |
US8024193B2 (en) | 2006-10-10 | 2011-09-20 | Apple Inc. | Methods and apparatus related to pruning for concatenative text-to-speech synthesis |
CN101162153A (zh) | 2006-10-11 | 2008-04-16 | 丁玉国 | 一种语音控制的车载gps导航系统及其实现方法 |
US20080091426A1 (en) | 2006-10-12 | 2008-04-17 | Rod Rempel | Adaptive context for automatic speech recognition systems |
US8041568B2 (en) | 2006-10-13 | 2011-10-18 | Google Inc. | Business listing search |
US7793228B2 (en) | 2006-10-13 | 2010-09-07 | Apple Inc. | Method, system, and graphical user interface for text entry with partial word display |
US8073681B2 (en) | 2006-10-16 | 2011-12-06 | Voicebox Technologies, Inc. | System and method for a cooperative conversational voice user interface |
US7697922B2 (en) | 2006-10-18 | 2010-04-13 | At&T Intellectual Property I., L.P. | Event notification systems and related methods |
US20080098480A1 (en) | 2006-10-20 | 2008-04-24 | Hewlett-Packard Development Company Lp | Information association |
US20080096533A1 (en) | 2006-10-24 | 2008-04-24 | Kallideas Spa | Virtual Assistant With Real-Time Emotions |
WO2008050225A2 (en) | 2006-10-24 | 2008-05-02 | Edgetech America, Inc. | Method for spell-checking location-bound words within a document |
JP4402677B2 (ja) | 2006-10-25 | 2010-01-20 | 三菱電機株式会社 | 通信装置 |
US8972268B2 (en) | 2008-04-15 | 2015-03-03 | Facebook, Inc. | Enhanced speech-to-speech translation system and methods for adding a new word |
US20080124695A1 (en) | 2006-10-26 | 2008-05-29 | Cary Michael Myers | Non-intrusive audio book |
US8204739B2 (en) | 2008-04-15 | 2012-06-19 | Mobile Technologies, Llc | System and methods for maintaining speech-to-speech translation in the field |
US8255216B2 (en) | 2006-10-30 | 2012-08-28 | Nuance Communications, Inc. | Speech recognition of character sequences |
US8037179B2 (en) | 2006-11-02 | 2011-10-11 | Storz Endoskop Produktions Gmbh | Device control system employing extensible markup language for defining information resources |
US9471333B2 (en) | 2006-11-03 | 2016-10-18 | Conceptual Speech, Llc | Contextual speech-recognition user-interface driven system and method |
US20080109222A1 (en) | 2006-11-04 | 2008-05-08 | Edward Liu | Advertising using extracted context sensitive information and data of interest from voice/audio transmissions and recordings |
US7873517B2 (en) | 2006-11-09 | 2011-01-18 | Volkswagen Of America, Inc. | Motor vehicle with a speech interface |
US9329753B2 (en) | 2006-11-10 | 2016-05-03 | Blackberry Limited | Handheld electronic device having selectable language indicator and menus for language selection and method therefor |
US9355568B2 (en) | 2006-11-13 | 2016-05-31 | Joyce S. Stone | Systems and methods for providing an electronic reader having interactive and educational features |
US8718538B2 (en) | 2006-11-13 | 2014-05-06 | Joseph Harb | Real-time remote purchase-list capture system |
US20080114841A1 (en) | 2006-11-14 | 2008-05-15 | Lambert Daniel T | System and method for interfacing with event management software |
US20080114604A1 (en) | 2006-11-15 | 2008-05-15 | Motorola, Inc. | Method and system for a user interface using higher order commands |
US7904298B2 (en) | 2006-11-17 | 2011-03-08 | Rao Ashwin P | Predictive speech-to-text input |
CN101193460B (zh) | 2006-11-20 | 2011-09-28 | 松下电器产业株式会社 | 检测声音的装置及方法 |
US8090194B2 (en) | 2006-11-21 | 2012-01-03 | Mantis Vision Ltd. | 3D geometric modeling and motion capture using both single and dual imaging |
US20080126075A1 (en) | 2006-11-27 | 2008-05-29 | Sony Ericsson Mobile Communications Ab | Input prediction |
US8010338B2 (en) | 2006-11-27 | 2011-08-30 | Sony Ericsson Mobile Communications Ab | Dynamic modification of a messaging language |
US8055502B2 (en) | 2006-11-28 | 2011-11-08 | General Motors Llc | Voice dialing using a rejection reference |
US20080126093A1 (en) | 2006-11-28 | 2008-05-29 | Nokia Corporation | Method, Apparatus and Computer Program Product for Providing a Language Based Interactive Multimedia System |
US8600760B2 (en) | 2006-11-28 | 2013-12-03 | General Motors Llc | Correcting substitution errors during automatic speech recognition by accepting a second best when first best is confusable |
JP2008134949A (ja) | 2006-11-29 | 2008-06-12 | Fujitsu Ltd | 携帯端末装置及びスケジュール作成画面表示方法 |
DE602006005830D1 (de) | 2006-11-30 | 2009-04-30 | Harman Becker Automotive Sys | Interaktives Spracherkennungssystem |
GB0623915D0 (en) | 2006-11-30 | 2007-01-10 | Ibm | Phonetic decoding and concatentive speech synthesis |
GB2457855B (en) | 2006-11-30 | 2011-01-12 | Nat Inst Of Advanced Ind Scien | Speech recognition system and speech recognition system program |
WO2008067562A2 (en) | 2006-11-30 | 2008-06-05 | Rao Ashwin P | Multimodal speech recognition system |
US9830912B2 (en) | 2006-11-30 | 2017-11-28 | Ashwin P Rao | Speak and touch auto correction interface |
US8571862B2 (en) | 2006-11-30 | 2013-10-29 | Ashwin P. Rao | Multimodal interface for input of text |
US20080129520A1 (en) | 2006-12-01 | 2008-06-05 | Apple Computer, Inc. | Electronic device with enhanced audio feedback |
US8001400B2 (en) | 2006-12-01 | 2011-08-16 | Apple Inc. | Power consumption management for functional preservation in a battery-powered electronic device |
US8045808B2 (en) | 2006-12-04 | 2011-10-25 | Trend Micro Incorporated | Pure adversarial approach for identifying text content in images |
CN101617303B (zh) | 2006-12-05 | 2013-02-20 | 诺昂世通讯公司 | 基于无线服务器的文本到语音电子邮件 |
US8311590B2 (en) | 2006-12-05 | 2012-11-13 | Hewlett-Packard Development Company, L.P. | System and method for improved loudspeaker functionality |
US7676249B2 (en) | 2006-12-05 | 2010-03-09 | Research In Motion Limited | Alert methods and apparatus for call appointments in a calendar application based on communication conditions of a mobile station |
US8208624B2 (en) | 2006-12-05 | 2012-06-26 | Hewlett-Packard Development Company, L.P. | Hearing aid compatible mobile phone |
US20080140413A1 (en) | 2006-12-07 | 2008-06-12 | Jonathan Travis Millman | Synchronization of audio to reading |
US20080140652A1 (en) | 2006-12-07 | 2008-06-12 | Jonathan Travis Millman | Authoring tool |
US7831246B1 (en) | 2006-12-08 | 2010-11-09 | At&T Mobility Ii, Llc | Mobile merchant |
US8032510B2 (en) | 2008-03-03 | 2011-10-04 | Yahoo! Inc. | Social aspects of content aggregation, syndication, sharing, and updating |
US7630972B2 (en) | 2007-01-05 | 2009-12-08 | Yahoo! Inc. | Clustered search processing |
WO2008071231A1 (en) | 2006-12-13 | 2008-06-19 | Phonak Ag | Method and system for hearing device fitting |
US8731610B2 (en) | 2006-12-13 | 2014-05-20 | Samsung Electronics Co., Ltd. | Method for adaptive user interface in mobile devices |
US9522332B2 (en) | 2006-12-13 | 2016-12-20 | Voodoo Gaming Llc | Video games including real-life attributes and/or fantasy team settings |
US7783644B1 (en) | 2006-12-13 | 2010-08-24 | Google Inc. | Query-independent entity importance in books |
US7646297B2 (en) | 2006-12-15 | 2010-01-12 | At&T Intellectual Property I, L.P. | Context-detected auto-mode switching |
US20080146290A1 (en) | 2006-12-18 | 2008-06-19 | Motorola, Inc. | Changing a mute state of a voice call from a bluetooth headset |
US7552045B2 (en) | 2006-12-18 | 2009-06-23 | Nokia Corporation | Method, apparatus and computer program product for providing flexible text based language identification |
US8204182B2 (en) | 2006-12-19 | 2012-06-19 | Nuance Communications, Inc. | Dialect translator for a speech application environment extended for interactive text exchanges |
US20080147411A1 (en) | 2006-12-19 | 2008-06-19 | International Business Machines Corporation | Adaptation of a speech processing system from external input that is not directly related to sounds in an operational acoustic environment |
KR101405284B1 (ko) | 2006-12-20 | 2014-06-10 | 삼성전자 주식회사 | 화상형성장치 및 그 다국어 자판 표시방법 |
US7991724B2 (en) | 2006-12-21 | 2011-08-02 | Support Machines Ltd. | Method and a computer program product for providing a response to a statement of a user |
EP1936606B1 (en) | 2006-12-21 | 2011-10-05 | Harman Becker Automotive Systems GmbH | Multi-stage speech recognition |
US20080154600A1 (en) | 2006-12-21 | 2008-06-26 | Nokia Corporation | System, Method, Apparatus and Computer Program Product for Providing Dynamic Vocabulary Prediction for Speech Recognition |
GB0625642D0 (en) | 2006-12-21 | 2007-01-31 | Symbian Software Ltd | Mobile sensor feedback |
CN1995917B (zh) | 2006-12-21 | 2011-05-18 | 深圳市凯立德科技股份有限公司 | 一种电子地图俯视角度显示控制方法、装置及设备 |
US8447589B2 (en) | 2006-12-22 | 2013-05-21 | Nec Corporation | Text paraphrasing method and program, conversion rule computing method and program, and text paraphrasing system |
US8010367B2 (en) | 2006-12-22 | 2011-08-30 | Nuance Communications, Inc. | Spoken free-form passwords for light-weight speaker verification using standard speech recognition engines |
US8630855B2 (en) | 2006-12-22 | 2014-01-14 | Anthony Oddo | Call system and method |
US20080154612A1 (en) | 2006-12-26 | 2008-06-26 | Voice Signal Technologies, Inc. | Local storage and use of search results for voice-enabled mobile communications devices |
US20080154577A1 (en) | 2006-12-26 | 2008-06-26 | Sehda,Inc. | Chunk-based statistical machine translation system |
JP4867654B2 (ja) | 2006-12-28 | 2012-02-01 | 日産自動車株式会社 | 音声認識装置、および音声認識方法 |
US20080163119A1 (en) | 2006-12-28 | 2008-07-03 | Samsung Electronics Co., Ltd. | Method for providing menu and multimedia device using the same |
US8019271B1 (en) | 2006-12-29 | 2011-09-13 | Nextel Communications, Inc. | Methods and systems for presenting information on mobile devices |
EP1939759A1 (en) | 2006-12-29 | 2008-07-02 | Vodafone Holding GmbH | Method for providing content to a mobile device, gateway for providing content and mobile device |
US7865817B2 (en) | 2006-12-29 | 2011-01-04 | Amazon Technologies, Inc. | Invariant referencing in digital works |
US8019050B2 (en) | 2007-01-03 | 2011-09-13 | Motorola Solutions, Inc. | Method and apparatus for providing feedback of vocal quality to a user |
US8493330B2 (en) | 2007-01-03 | 2013-07-23 | Apple Inc. | Individual channel phase delay scheme |
DK2109934T3 (en) | 2007-01-04 | 2016-08-15 | Cvf Llc | CUSTOMIZED SELECTION OF AUDIO PROFILE IN SOUND SYSTEM |
US20080167876A1 (en) | 2007-01-04 | 2008-07-10 | International Business Machines Corporation | Methods and computer program products for providing paraphrasing in a text-to-speech system |
US8060824B2 (en) | 2007-01-05 | 2011-11-15 | Starz Entertainment Llc | User interface for a multimedia service |
US7957955B2 (en) | 2007-01-05 | 2011-06-07 | Apple Inc. | Method and system for providing word recommendations for text input |
US7889185B2 (en) | 2007-01-05 | 2011-02-15 | Apple Inc. | Method, system, and graphical user interface for activating hyperlinks |
US7889184B2 (en) | 2007-01-05 | 2011-02-15 | Apple Inc. | Method, system and graphical user interface for displaying hyperlink information |
US8712781B2 (en) | 2007-01-05 | 2014-04-29 | Johnson Controls Technology Company | System and method for customized prompting |
US8074172B2 (en) | 2007-01-05 | 2011-12-06 | Apple Inc. | Method, system, and graphical user interface for providing word recommendations |
WO2008085742A2 (en) | 2007-01-07 | 2008-07-17 | Apple Inc. | Portable multifunction device, method and graphical user interface for interacting with user input elements in displayed content |
US8553856B2 (en) | 2007-01-07 | 2013-10-08 | Apple Inc. | Voicemail systems and methods |
US7978176B2 (en) | 2007-01-07 | 2011-07-12 | Apple Inc. | Portrait-landscape rotation heuristics for a portable multifunction device |
US8391844B2 (en) | 2007-01-07 | 2013-03-05 | Apple Inc. | Voicemail systems and methods |
FR2911201A1 (fr) | 2007-01-08 | 2008-07-11 | Sagem Comm | Procede d'edition d'un texte exprime dans une langue |
GB2445669A (en) | 2007-01-09 | 2008-07-16 | Spinvox Ltd | Recording text messages for unanswered calls |
BRPI0806207A2 (pt) | 2007-01-09 | 2011-08-30 | Spinvox Ltd | método e sistema de gerenciamento de chamadas telefÈnicas não atendidas utilizando um serviço de rede e aparelho de telefone móvel |
US20080165994A1 (en) | 2007-01-10 | 2008-07-10 | Magnadyne Corporation | Bluetooth enabled hearing aid |
US8056070B2 (en) | 2007-01-10 | 2011-11-08 | Goller Michael D | System and method for modifying and updating a speech recognition program |
KR100799195B1 (ko) | 2007-01-12 | 2008-01-29 | 삼성전자주식회사 | 휴대용 단말기에서 긴급 호 연결 방법 및 장치 |
US7912724B1 (en) | 2007-01-18 | 2011-03-22 | Adobe Systems Incorporated | Audio comparison using phoneme matching |
KR100837166B1 (ko) | 2007-01-20 | 2008-06-11 | 엘지전자 주식회사 | 전자기기의 정보 표시 방법 및 그 전자기기 |
US9524355B2 (en) | 2007-01-22 | 2016-12-20 | Mozy, Inc. | Methods for delivering task-related digital content based on task-oriented user activity |
KR100883657B1 (ko) | 2007-01-26 | 2009-02-18 | 삼성전자주식회사 | 음성 인식 기반의 음악 검색 방법 및 장치 |
JP5270841B2 (ja) | 2007-01-29 | 2013-08-21 | 株式会社タイトー | レッスンプログラム、記憶媒体 |
US7707226B1 (en) | 2007-01-29 | 2010-04-27 | Aol Inc. | Presentation of content items based on dynamic monitoring of real-time context |
JP2008185805A (ja) | 2007-01-30 | 2008-08-14 | Internatl Business Mach Corp <Ibm> | 高品質の合成音声を生成する技術 |
US20080186196A1 (en) | 2007-02-01 | 2008-08-07 | Sony Ericsson Mobile Communications Ab | Non-time based snooze |
US20080189606A1 (en) | 2007-02-02 | 2008-08-07 | Michal Rybak | Handheld electronic device including predictive accent mechanism, and associated method |
US7818176B2 (en) | 2007-02-06 | 2010-10-19 | Voicebox Technologies, Inc. | System and method for selecting and presenting advertisements based on natural language processing of voice-based input |
US20080186960A1 (en) | 2007-02-06 | 2008-08-07 | Access Systems Americas, Inc. | System and method of controlling media streams in an electronic device |
US20110047605A1 (en) | 2007-02-06 | 2011-02-24 | Vidoop, Llc | System And Method For Authenticating A User To A Computer System |
EP2126900B1 (en) | 2007-02-06 | 2013-04-24 | Nuance Communications Austria GmbH | Method and system for creating entries in a speech recognition lexicon |
US7912700B2 (en) | 2007-02-08 | 2011-03-22 | Microsoft Corporation | Context based word prediction |
US9465791B2 (en) | 2007-02-09 | 2016-10-11 | International Business Machines Corporation | Method and apparatus for automatic detection of spelling errors in one or more documents |
US8078978B2 (en) | 2007-10-19 | 2011-12-13 | Google Inc. | Method and system for predicting text |
US20080195630A1 (en) | 2007-02-13 | 2008-08-14 | Amadeus S.A.S. | Web service interrogation method and apparatus |
JP4890289B2 (ja) | 2007-02-14 | 2012-03-07 | ヤフー株式会社 | リモコン文字入力制御方法、サーバおよびリモコン文字入力制御プログラム |
US7941133B2 (en) | 2007-02-14 | 2011-05-10 | At&T Intellectual Property I, L.P. | Methods, systems, and computer program products for schedule management based on locations of wireless devices |
US7853240B2 (en) | 2007-02-15 | 2010-12-14 | Research In Motion Limited | Emergency number selection for mobile communications device |
US20080201434A1 (en) | 2007-02-16 | 2008-08-21 | Microsoft Corporation | Context-Sensitive Searches and Functionality for Instant Messaging Applications |
US20080201000A1 (en) | 2007-02-20 | 2008-08-21 | Nokia Corporation | Contextual grouping of media items |
US8194865B2 (en) | 2007-02-22 | 2012-06-05 | Personics Holdings Inc. | Method and device for sound detection and audio control |
US20080204379A1 (en) | 2007-02-22 | 2008-08-28 | Microsoft Corporation | Display with integrated audio transducer device |
US7912828B2 (en) | 2007-02-23 | 2011-03-22 | Apple Inc. | Pattern searching methods and apparatuses |
US7797265B2 (en) | 2007-02-26 | 2010-09-14 | Siemens Corporation | Document clustering that applies a locality sensitive hashing function to a feature vector to obtain a limited set of candidate clusters |
US8112402B2 (en) | 2007-02-26 | 2012-02-07 | Microsoft Corporation | Automatic disambiguation based on a reference resource |
US7801728B2 (en) | 2007-02-26 | 2010-09-21 | Nuance Communications, Inc. | Document session replay for multimodal applications |
US7822608B2 (en) | 2007-02-27 | 2010-10-26 | Nuance Communications, Inc. | Disambiguating a speech recognition grammar in a multimodal application |
US7840409B2 (en) | 2007-02-27 | 2010-11-23 | Nuance Communications, Inc. | Ordering recognition results produced by an automatic speech recognition engine for a multimodal application |
US7826872B2 (en) | 2007-02-28 | 2010-11-02 | Sony Ericsson Mobile Communications Ab | Audio nickname tag associated with PTT user |
US8362642B2 (en) | 2007-03-01 | 2013-01-29 | Rambus Inc. | Optimized power supply for an electronic system |
EP2135231A4 (en) | 2007-03-01 | 2014-10-15 | Adapx Inc | SYSTEM AND METHOD FOR DYNAMIC LEARNING |
CN101622664B (zh) | 2007-03-02 | 2012-02-01 | 松下电器产业株式会社 | 自适应激励矢量量化装置和自适应激励矢量量化方法 |
JP2008217468A (ja) | 2007-03-05 | 2008-09-18 | Mitsubishi Electric Corp | 情報処理装置及びメニュー項目生成プログラム |
US20080221866A1 (en) | 2007-03-06 | 2008-09-11 | Lalitesh Katragadda | Machine Learning For Transliteration |
US20110060587A1 (en) | 2007-03-07 | 2011-03-10 | Phillips Michael S | Command and control utilizing ancillary information in a mobile voice-to-speech application |
US20090030685A1 (en) | 2007-03-07 | 2009-01-29 | Cerra Joseph P | Using speech recognition results based on an unstructured language model with a navigation system |
US8886540B2 (en) | 2007-03-07 | 2014-11-11 | Vlingo Corporation | Using speech recognition results based on an unstructured language model in a mobile communication facility application |
US20110054894A1 (en) | 2007-03-07 | 2011-03-03 | Phillips Michael S | Speech recognition through the collection of contact information in mobile dictation application |
US8886545B2 (en) | 2007-03-07 | 2014-11-11 | Vlingo Corporation | Dealing with switch latency in speech recognition |
US8949266B2 (en) | 2007-03-07 | 2015-02-03 | Vlingo Corporation | Multiple web-based content category searching in mobile search application |
US20080221880A1 (en) | 2007-03-07 | 2008-09-11 | Cerra Joseph P | Mobile music environment speech processing facility |
US8838457B2 (en) | 2007-03-07 | 2014-09-16 | Vlingo Corporation | Using results of unstructured language model based speech recognition to control a system-level function of a mobile communications facility |
SE530911C2 (sv) | 2007-03-07 | 2008-10-14 | Hexaformer Ab | Transformatoranordning |
US20080221884A1 (en) | 2007-03-07 | 2008-09-11 | Cerra Joseph P | Mobile environment speech processing facility |
US8635243B2 (en) | 2007-03-07 | 2014-01-21 | Research In Motion Limited | Sending a communications header with voice recording to send metadata for use in speech recognition, formatting, and search mobile search application |
US20080219641A1 (en) | 2007-03-09 | 2008-09-11 | Barry Sandrew | Apparatus and method for synchronizing a secondary audio track to the audio track of a video source |
GB0704772D0 (en) | 2007-03-12 | 2007-04-18 | Mongoose Ventures Ltd | Aural similarity measuring system for text |
US20080256613A1 (en) | 2007-03-13 | 2008-10-16 | Grover Noel J | Voice print identification portal |
US7801729B2 (en) | 2007-03-13 | 2010-09-21 | Sensory, Inc. | Using multiple attributes to create a voice search playlist |
US8924844B2 (en) | 2007-03-13 | 2014-12-30 | Visual Cues Llc | Object annotation |
US7945851B2 (en) | 2007-03-14 | 2011-05-17 | Nuance Communications, Inc. | Enabling dynamic voiceXML in an X+V page of a multimodal application |
US20080229218A1 (en) | 2007-03-14 | 2008-09-18 | Joon Maeng | Systems and methods for providing additional information for objects in electronic documents |
JP4466666B2 (ja) | 2007-03-14 | 2010-05-26 | 日本電気株式会社 | 議事録作成方法、その装置及びそのプログラム |
US8144920B2 (en) | 2007-03-15 | 2012-03-27 | Microsoft Corporation | Automated location estimation using image analysis |
US8626930B2 (en) | 2007-03-15 | 2014-01-07 | Apple Inc. | Multimedia content filtering |
US8219406B2 (en) | 2007-03-15 | 2012-07-10 | Microsoft Corporation | Speech-centric multimodal user interface design in mobile technology |
JP4793291B2 (ja) | 2007-03-15 | 2011-10-12 | パナソニック株式会社 | リモコン装置 |
CN101636784B (zh) | 2007-03-20 | 2011-12-28 | 富士通株式会社 | 语音识别系统及语音识别方法 |
US8515757B2 (en) | 2007-03-20 | 2013-08-20 | Nuance Communications, Inc. | Indexing digitized speech with words represented in the digitized speech |
US8886537B2 (en) | 2007-03-20 | 2014-11-11 | Nuance Communications, Inc. | Method and system for text-to-speech synthesis with personalized voice |
JP2008233678A (ja) | 2007-03-22 | 2008-10-02 | Honda Motor Co Ltd | 音声対話装置、音声対話方法、及び音声対話用プログラム |
JP2008236448A (ja) | 2007-03-22 | 2008-10-02 | Clarion Co Ltd | 音声信号処理装置、ハンズフリー通話装置、音声信号処理方法および制御プログラム |
US8909532B2 (en) | 2007-03-23 | 2014-12-09 | Nuance Communications, Inc. | Supporting multi-lingual user interaction with a multimodal application |
US8126484B2 (en) | 2007-03-26 | 2012-02-28 | Qualcomm, Incorporated | Apparatus and methods of sharing contact information between mobile communication devices using short message service |
US8498628B2 (en) | 2007-03-27 | 2013-07-30 | Iocast Llc | Content delivery system and method |
JP2008271481A (ja) | 2007-03-27 | 2008-11-06 | Brother Ind Ltd | 電話装置 |
EP2140442A4 (en) | 2007-03-28 | 2015-04-15 | Breakthrough Performancetech Llc | SYSTEMS AND METHOD FOR COMPUTER-BASED INTERACTIVE TRAINING |
US20080244446A1 (en) | 2007-03-29 | 2008-10-02 | Lefevre John | Disambiguation of icons and other media in text-based applications |
WO2008120036A1 (en) | 2007-03-29 | 2008-10-09 | Nokia Corporation | Method at a central server for managing a translation dictionary and a translation server system |
TWI502380B (zh) | 2007-03-29 | 2015-10-01 | Nokia Corp | 配合預測式本文輸入使用之方法、裝置、伺服器、系統及電腦程式產品 |
US7797269B2 (en) | 2007-03-29 | 2010-09-14 | Nokia Corporation | Method and apparatus using a context sensitive dictionary |
JP4713532B2 (ja) | 2007-03-29 | 2011-06-29 | 株式会社エヌ・ティ・ティ・ドコモ | 通信端末及びそのプログラム |
WO2008126355A1 (ja) | 2007-03-29 | 2008-10-23 | Panasonic Corporation | キーワード抽出装置 |
JP2008250375A (ja) | 2007-03-29 | 2008-10-16 | Toshiba Corp | 文字入力装置、方法およびプログラム |
US8775931B2 (en) | 2007-03-30 | 2014-07-08 | Blackberry Limited | Spell check function that applies a preference to a spell check algorithm based upon extensive user selection of spell check results generated by the algorithm, and associated handheld electronic device |
US20080247529A1 (en) | 2007-04-03 | 2008-10-09 | Microsoft Corporation | Incoming Call Classification And Disposition |
US8131556B2 (en) | 2007-04-03 | 2012-03-06 | Microsoft Corporation | Communications using different modalities |
US8977255B2 (en) | 2007-04-03 | 2015-03-10 | Apple Inc. | Method and system for operating a multi-function portable electronic device using voice-activation |
US7920902B2 (en) | 2007-04-04 | 2011-04-05 | Carroll David W | Mobile personal audio device |
US7809610B2 (en) | 2007-04-09 | 2010-10-05 | Platformation, Inc. | Methods and apparatus for freshness and completeness of information |
EP1981253B1 (en) | 2007-04-10 | 2011-06-22 | Oticon A/S | A user interface for a communications device |
CN101286094A (zh) | 2007-04-10 | 2008-10-15 | 谷歌股份有限公司 | 多模式输入法编辑器 |
US20080253577A1 (en) | 2007-04-13 | 2008-10-16 | Apple Inc. | Multi-channel sound panner |
US20100142740A1 (en) | 2007-04-16 | 2010-06-10 | Gn Resound A/S | Hearing aid wireless communication adaptor |
US7848924B2 (en) | 2007-04-17 | 2010-12-07 | Nokia Corporation | Method, apparatus and computer program product for providing voice conversion using temporal dynamic features |
JP4412504B2 (ja) | 2007-04-17 | 2010-02-10 | 本田技研工業株式会社 | 音声認識装置、音声認識方法、及び音声認識用プログラム |
KR100769156B1 (ko) | 2007-04-20 | 2007-10-22 | 주식회사 서비전자 | 홈 네트워크 시스템 및 그것의 제어방법 |
US7953600B2 (en) | 2007-04-24 | 2011-05-31 | Novaspeech Llc | System and method for hybrid speech synthesis |
JP5243730B2 (ja) | 2007-04-24 | 2013-07-24 | 株式会社エヌ・ティ・ティ・ドコモ | 検索支援システム、検索支援方法 |
JP2008268684A (ja) | 2007-04-24 | 2008-11-06 | Seiko Instruments Inc | 音声再生装置、電子辞書、音声再生方法、音声再生プログラム |
KR100819928B1 (ko) | 2007-04-26 | 2008-04-08 | (주)부성큐 | 휴대 단말기의 음성 인식장치 및 그 방법 |
US8695074B2 (en) | 2007-04-26 | 2014-04-08 | Microsoft Corporation | Pre-authenticated calling for voice applications |
US20080270151A1 (en) | 2007-04-26 | 2008-10-30 | Bd Metrics | Method and system for developing an audience of buyers and obtaining their behavioral preferences to promote commerce on a communication network |
US8457946B2 (en) | 2007-04-26 | 2013-06-04 | Microsoft Corporation | Recognition architecture for generating Asian characters |
US8005664B2 (en) | 2007-04-30 | 2011-08-23 | Tachyon Technologies Pvt. Ltd. | System, method to generate transliteration and method for generating decision tree to obtain transliteration |
US20080270344A1 (en) | 2007-04-30 | 2008-10-30 | Yurick Steven J | Rich media content search engine |
US7983915B2 (en) | 2007-04-30 | 2011-07-19 | Sonic Foundry, Inc. | Audio content search engine |
US7912289B2 (en) | 2007-05-01 | 2011-03-22 | Microsoft Corporation | Image text replacement |
US20080273672A1 (en) | 2007-05-03 | 2008-11-06 | Microsoft Corporation | Automated attendant grammar tuning |
US7899666B2 (en) | 2007-05-04 | 2011-03-01 | Expert System S.P.A. | Method and system for automatically extracting relations between concepts included in text |
US8032383B1 (en) | 2007-05-04 | 2011-10-04 | Foneweb, Inc. | Speech controlled services and devices using internet |
US9292807B2 (en) | 2007-05-10 | 2016-03-22 | Microsoft Technology Licensing, Llc | Recommending actions based on context |
TWI336048B (en) | 2007-05-11 | 2011-01-11 | Delta Electronics Inc | Input system for mobile search and method therefor |
KR20090001716A (ko) | 2007-05-14 | 2009-01-09 | 이병수 | 성장 지능형 가상 비서 운영시스템 및 그 방법 |
US9288548B1 (en) | 2007-05-15 | 2016-03-15 | Tivo Inc. | Multimedia content search system |
US8620652B2 (en) | 2007-05-17 | 2013-12-31 | Microsoft Corporation | Speech recognition macro runtime |
US8886521B2 (en) | 2007-05-17 | 2014-11-11 | Redstart Systems, Inc. | System and method of dictation for a speech recognition command system |
US8538757B2 (en) | 2007-05-17 | 2013-09-17 | Redstart Systems, Inc. | System and method of a list commands utility for a speech recognition command system |
WO2008142472A1 (en) | 2007-05-18 | 2008-11-27 | Giacomo Poretti | System and method to consume web content using television set |
US8234282B2 (en) | 2007-05-21 | 2012-07-31 | Amazon Technologies, Inc. | Managing status of search index generation |
US20080294981A1 (en) | 2007-05-21 | 2008-11-27 | Advancis.Com, Inc. | Page clipping tool for digital publications |
EG25474A (en) | 2007-05-21 | 2012-01-11 | Sherikat Link Letatweer Elbarmaguey At Sae | Method for translitering and suggesting arabic replacement for a given user input |
US20080294517A1 (en) | 2007-05-25 | 2008-11-27 | Gregory Howard Hill | Customized image based calendar, method and system |
JP4203967B1 (ja) | 2007-05-28 | 2009-01-07 | パナソニック株式会社 | 情報探索支援方法および情報探索支援装置 |
US8762143B2 (en) | 2007-05-29 | 2014-06-24 | At&T Intellectual Property Ii, L.P. | Method and apparatus for identifying acoustic background environments based on time and speed to enhance automatic speech recognition |
US8831941B2 (en) | 2007-05-29 | 2014-09-09 | At&T Intellectual Property Ii, L.P. | System and method for tracking fraudulent electronic transactions using voiceprints of uncommon words |
US8189880B2 (en) | 2007-05-29 | 2012-05-29 | Microsoft Corporation | Interactive photo annotation based on face clustering |
US8494137B2 (en) | 2007-05-31 | 2013-07-23 | Centurylink Intellectual Property Llc | System and method for pre-call messaging |
TWI338269B (en) | 2007-05-31 | 2011-03-01 | Univ Nat Taiwan | Teaching materials generation methods and systems, and machine readable medium thereof |
JP2008299221A (ja) | 2007-06-01 | 2008-12-11 | Fujitsu Ten Ltd | 発話検知装置 |
US8055708B2 (en) | 2007-06-01 | 2011-11-08 | Microsoft Corporation | Multimedia spaces |
US8285206B2 (en) | 2007-06-01 | 2012-10-09 | Research In Motion Limited | Proximity-dependent events |
US8004493B2 (en) | 2007-06-08 | 2011-08-23 | Apple Inc. | Methods and systems for providing sensory information to devices and peripherals |
US8204238B2 (en) | 2007-06-08 | 2012-06-19 | Sensory, Inc | Systems and methods of sonic communication |
US8135577B2 (en) | 2007-06-09 | 2012-03-13 | Apple Inc. | Braille support |
CN101325756B (zh) | 2007-06-11 | 2013-02-13 | 英华达(上海)电子有限公司 | 一种手机语音辨识装置以及激活手机语音辨识的方法 |
US20080312928A1 (en) | 2007-06-12 | 2008-12-18 | Robert Patrick Goebel | Natural language speech recognition calculator |
KR20080109322A (ko) | 2007-06-12 | 2008-12-17 | 엘지전자 주식회사 | 사용자의 직관적 의도 파악에 따른 서비스 제공 방법 및장치 |
EP2153692B1 (en) | 2007-06-13 | 2010-12-08 | Widex A/S | A system and a method for establishing a conversation group among a number of hearing aids |
WO2008151624A1 (en) | 2007-06-13 | 2008-12-18 | Widex A/S | Hearing aid system establishing a conversation group among hearing aids used by different users |
US20080313335A1 (en) | 2007-06-15 | 2008-12-18 | Searete Llc, A Limited Liability Corporation Of The State Of Delaware | Communicator establishing aspects with context identifying |
US20080317219A1 (en) * | 2007-06-21 | 2008-12-25 | Siemens Communications, Inc. | Method and apparatus for context based voice dialing |
US8059101B2 (en) | 2007-06-22 | 2011-11-15 | Apple Inc. | Swipe gestures for touch screen keyboards |
US8527262B2 (en) | 2007-06-22 | 2013-09-03 | International Business Machines Corporation | Systems and methods for automatic semantic role labeling of high morphological text for natural language processing applications |
JP4970160B2 (ja) | 2007-06-22 | 2012-07-04 | アルパイン株式会社 | 車載システム及び現在位置目印地点案内方法 |
KR101465770B1 (ko) | 2007-06-25 | 2014-11-27 | 구글 인코포레이티드 | 단어 확률 결정 |
US8027834B2 (en) | 2007-06-25 | 2011-09-27 | Nuance Communications, Inc. | Technique for training a phonetic decision tree with limited phonetic exceptional terms |
KR100757496B1 (ko) | 2007-06-26 | 2007-09-11 | 우영배 | 정수처리장치가 구비된 물탱크 |
US8090621B1 (en) | 2007-06-27 | 2012-01-03 | Amazon Technologies, Inc. | Method and system for associating feedback with recommendation rules |
US7689421B2 (en) | 2007-06-27 | 2010-03-30 | Microsoft Corporation | Voice persona service for embedding text-to-speech features into software programs |
US9794605B2 (en) | 2007-06-28 | 2017-10-17 | Apple Inc. | Using time-stamped event entries to facilitate synchronizing data streams |
US8041438B2 (en) | 2007-06-28 | 2011-10-18 | Apple Inc. | Data-driven media management within an electronic device |
US8065624B2 (en) | 2007-06-28 | 2011-11-22 | Panasonic Corporation | Virtual keypad systems and methods |
US7861008B2 (en) | 2007-06-28 | 2010-12-28 | Apple Inc. | Media management and routing within an electronic device |
US8260809B2 (en) | 2007-06-28 | 2012-09-04 | Microsoft Corporation | Voice-based search processing |
US9632561B2 (en) | 2007-06-28 | 2017-04-25 | Apple Inc. | Power-gating media decoders to reduce power consumption |
US8190627B2 (en) | 2007-06-28 | 2012-05-29 | Microsoft Corporation | Machine assisted query formulation |
US8019606B2 (en) | 2007-06-29 | 2011-09-13 | Microsoft Corporation | Identification and selection of a software application via speech |
US7962344B2 (en) | 2007-06-29 | 2011-06-14 | Microsoft Corporation | Depicting a speech user interface via graphical elements |
US8290775B2 (en) | 2007-06-29 | 2012-10-16 | Microsoft Corporation | Pronunciation correction of text-to-speech systems between different spoken languages |
KR100930802B1 (ko) | 2007-06-29 | 2009-12-09 | 엔에이치엔(주) | 이미지를 이용한 브라우저 제어 방법 및 시스템 |
JP4424382B2 (ja) | 2007-07-04 | 2010-03-03 | ソニー株式会社 | コンテンツ再生装置およびコンテンツ自動受信方法 |
US7617074B2 (en) | 2007-07-06 | 2009-11-10 | Microsoft Corporation | Suppressing repeated events and storing diagnostic information |
US8219399B2 (en) | 2007-07-11 | 2012-07-10 | Garmin Switzerland Gmbh | Automated speech recognition (ASR) tiling |
US8306235B2 (en) | 2007-07-17 | 2012-11-06 | Apple Inc. | Method and apparatus for using a sound sensor to adjust the audio output for a device |
DE102007033472A1 (de) | 2007-07-18 | 2009-01-29 | Siemens Ag | Verfahren zur Spracherkennung |
US7890493B2 (en) | 2007-07-20 | 2011-02-15 | Google Inc. | Translating a search query into multiple languages |
CN101354746B (zh) | 2007-07-23 | 2011-08-31 | 夏普株式会社 | 文字图像抽出装置及文字图像抽出方法 |
AU2008201643B1 (en) | 2007-07-24 | 2008-08-28 | Rambrandt Messaging Technologies, LP | Messaging service in a wireless communications network |
ITFI20070177A1 (it) | 2007-07-26 | 2009-01-27 | Riccardo Vieri | Sistema per la creazione e impostazione di una campagna pubblicitaria derivante dall'inserimento di messaggi pubblicitari all'interno di uno scambio di messaggi e metodo per il suo funzionamento. |
EP2183913A4 (en) | 2007-07-30 | 2011-06-22 | Lg Electronics Inc | DISPLAY ARRANGEMENT AND SPEAKER SYSTEM FOR THE DISPLAY ARRANGEMENT |
JP2009036999A (ja) | 2007-08-01 | 2009-02-19 | Infocom Corp | コンピュータによる対話方法、対話システム、コンピュータプログラムおよびコンピュータに読み取り可能な記憶媒体 |
JP5638948B2 (ja) | 2007-08-01 | 2014-12-10 | ジンジャー ソフトウェア、インコーポレイティッド | インターネットコーパスを用いた、文脈依存言語の自動的な修正および改善 |
US9342496B2 (en) | 2007-08-06 | 2016-05-17 | Apple Inc. | Auto-completion of names |
TW200907695A (en) | 2007-08-06 | 2009-02-16 | jian-qiang Peng | System and method of fast opening network link service |
US20090043583A1 (en) | 2007-08-08 | 2009-02-12 | International Business Machines Corporation | Dynamic modification of voice selection based on user specific factors |
US7983919B2 (en) | 2007-08-09 | 2011-07-19 | At&T Intellectual Property Ii, L.P. | System and method for performing speech synthesis with a cache of phoneme sequences |
US7983478B2 (en) | 2007-08-10 | 2011-07-19 | Microsoft Corporation | Hidden markov model based handwriting/calligraphy generation |
JP2009048245A (ja) | 2007-08-14 | 2009-03-05 | Konami Digital Entertainment:Kk | 入力受付装置、領域制御方法、および、プログラム |
US8321222B2 (en) | 2007-08-14 | 2012-11-27 | Nuance Communications, Inc. | Synthesis by generation and concatenation of multi-form segments |
US8478598B2 (en) | 2007-08-17 | 2013-07-02 | International Business Machines Corporation | Apparatus, system, and method for voice chat transcription |
KR101490687B1 (ko) | 2007-08-20 | 2015-02-06 | 삼성전자주식회사 | 홈 네트워크에서 디바이스들이 비밀 정보를 공유하는 방법및 이를 위한 장치 |
JP4987623B2 (ja) | 2007-08-20 | 2012-07-25 | 株式会社東芝 | ユーザと音声により対話する装置および方法 |
US7788276B2 (en) | 2007-08-22 | 2010-08-31 | Yahoo! Inc. | Predictive stemming for web search with statistical machine translation models |
US8140632B1 (en) | 2007-08-22 | 2012-03-20 | Victor Roditis Jablokov | Facilitating presentation by mobile device of additional content for a word or phrase upon utterance thereof |
US7917355B2 (en) | 2007-08-23 | 2011-03-29 | Google Inc. | Word detection |
US20090055186A1 (en) | 2007-08-23 | 2009-02-26 | International Business Machines Corporation | Method to voice id tag content to ease reading for visually impaired |
US7983902B2 (en) | 2007-08-23 | 2011-07-19 | Google Inc. | Domain dictionary creation by detection of new topic words using divergence value comparison |
KR101359715B1 (ko) | 2007-08-24 | 2014-02-10 | 삼성전자주식회사 | 모바일 음성 웹 제공 방법 및 장치 |
US8126274B2 (en) | 2007-08-30 | 2012-02-28 | Microsoft Corporation | Visual language modeling for image classification |
WO2009029910A2 (en) | 2007-08-31 | 2009-03-05 | Proxpro, Inc. | Situation-aware personal information management for a mobile device |
US8826132B2 (en) | 2007-09-04 | 2014-09-02 | Apple Inc. | Methods and systems for navigating content on a portable device |
US8683197B2 (en) | 2007-09-04 | 2014-03-25 | Apple Inc. | Method and apparatus for providing seamless resumption of video playback |
US20090058823A1 (en) | 2007-09-04 | 2009-03-05 | Apple Inc. | Virtual Keyboards in Multi-Language Environment |
US8683378B2 (en) | 2007-09-04 | 2014-03-25 | Apple Inc. | Scrolling techniques for user interfaces |
US20090106397A1 (en) | 2007-09-05 | 2009-04-23 | O'keefe Sean Patrick | Method and apparatus for interactive content distribution |
US9812023B2 (en) | 2007-09-10 | 2017-11-07 | Excalibur Ip, Llc | Audible metadata |
EP2116999B1 (en) | 2007-09-11 | 2015-04-08 | Panasonic Corporation | Sound determination device, sound determination method and program therefor |
US20090070109A1 (en) | 2007-09-12 | 2009-03-12 | Microsoft Corporation | Speech-to-Text Transcription for Personal Communication Devices |
US8661340B2 (en) | 2007-09-13 | 2014-02-25 | Apple Inc. | Input methods for device having multi-language environment |
US20090074214A1 (en) | 2007-09-13 | 2009-03-19 | Bionica Corporation | Assistive listening system with plug in enhancement platform and communication port to download user preferred processing algorithms |
US20090076825A1 (en) | 2007-09-13 | 2009-03-19 | Bionica Corporation | Method of enhancing sound for hearing impaired individuals |
US9734465B2 (en) | 2007-09-14 | 2017-08-15 | Ricoh Co., Ltd | Distributed workflow-enabled system |
JP4990077B2 (ja) | 2007-09-14 | 2012-08-01 | 株式会社日立製作所 | ナビゲーション装置 |
KR100920267B1 (ko) | 2007-09-17 | 2009-10-05 | 한국전자통신연구원 | 음성 대화 분석 시스템 및 그 방법 |
US8706476B2 (en) | 2007-09-18 | 2014-04-22 | Ariadne Genomics, Inc. | Natural language processing method by analyzing primitive sentences, logical clauses, clause types and verbal blocks |
KR100919225B1 (ko) | 2007-09-19 | 2009-09-28 | 한국전자통신연구원 | 음성 대화 시스템에 있어서 다단계 검증을 이용한 대화오류 후처리 장치 및 방법 |
US8583438B2 (en) | 2007-09-20 | 2013-11-12 | Microsoft Corporation | Unnatural prosody detection in speech synthesis |
ES2363037T3 (es) | 2007-09-21 | 2011-07-19 | The Boeing Company | Control de vehículos. |
US8042053B2 (en) | 2007-09-24 | 2011-10-18 | Microsoft Corporation | Method for making digital documents browseable |
US8069051B2 (en) | 2007-09-25 | 2011-11-29 | Apple Inc. | Zero-gap playback using predictive mixing |
US20090083035A1 (en) | 2007-09-25 | 2009-03-26 | Ritchie Winson Huang | Text pre-processing for text-to-speech generation |
US20090079622A1 (en) | 2007-09-26 | 2009-03-26 | Broadcom Corporation | Sharing of gps information between mobile devices |
WO2009041101A1 (ja) | 2007-09-28 | 2009-04-02 | Nec Corporation | データ分類方法およびデータ分類装置 |
US9053089B2 (en) | 2007-10-02 | 2015-06-09 | Apple Inc. | Part-of-speech tagging using latent analogy |
US8923491B2 (en) | 2007-10-03 | 2014-12-30 | At&T Intellectual Property I, L.P. | System and method for connecting to addresses received in spoken communications |
TWI360761B (en) | 2007-10-03 | 2012-03-21 | Inventec Corp | An electronic apparatus and a method for automatic |
US8462959B2 (en) | 2007-10-04 | 2013-06-11 | Apple Inc. | Managing acoustic noise produced by a device |
US8515095B2 (en) | 2007-10-04 | 2013-08-20 | Apple Inc. | Reducing annoyance by managing the acoustic noise produced by a device |
US7995732B2 (en) | 2007-10-04 | 2011-08-09 | At&T Intellectual Property I, Lp | Managing audio in a multi-source audio environment |
US8165886B1 (en) | 2007-10-04 | 2012-04-24 | Great Northern Research LLC | Speech interface system and method for control and interaction with applications on a computing system |
US8036901B2 (en) | 2007-10-05 | 2011-10-11 | Sensory, Incorporated | Systems and methods of performing speech recognition using sensory inputs of human position |
IL186505A0 (en) | 2007-10-08 | 2008-01-20 | Excelang Ltd | Grammar checker |
WO2009049049A1 (en) | 2007-10-09 | 2009-04-16 | Language Analytics Llc | Method and system for adaptive transliteration |
US8139763B2 (en) | 2007-10-10 | 2012-03-20 | Spansion Llc | Randomized RSA-based cryptographic exponentiation resistant to side channel and fault attacks |
US20090097634A1 (en) | 2007-10-16 | 2009-04-16 | Ullas Balan Nambiar | Method and System for Call Processing |
US8594996B2 (en) | 2007-10-17 | 2013-11-26 | Evri Inc. | NLP-based entity recognition and disambiguation |
JP2009098490A (ja) | 2007-10-18 | 2009-05-07 | Kddi Corp | 音声認識結果編集装置、音声認識装置およびコンピュータプログラム |
US8209384B2 (en) | 2007-10-23 | 2012-06-26 | Yahoo! Inc. | Persistent group-based instant messaging |
US20090112677A1 (en) | 2007-10-24 | 2009-04-30 | Rhett Randolph L | Method for automatically developing suggested optimal work schedules from unsorted group and individual task lists |
US8606562B2 (en) | 2007-10-25 | 2013-12-10 | Blackberry Limited | Disambiguated text message retype function |
US8000972B2 (en) | 2007-10-26 | 2011-08-16 | Sony Corporation | Remote controller with speech recognition |
US8280885B2 (en) | 2007-10-29 | 2012-10-02 | Cornell University | System and method for automatically summarizing fine-grained opinions in digital text |
JP2009110300A (ja) | 2007-10-30 | 2009-05-21 | Nippon Telegr & Teleph Corp <Ntt> | 情報家電ネットワーク制御装置、情報家電ネットワーク制御システム、情報家電ネットワーク制御方法、およびプログラム |
US7840447B2 (en) | 2007-10-30 | 2010-11-23 | Leonard Kleinrock | Pricing and auctioning of bundled items among multiple sellers and buyers |
US20090112572A1 (en) | 2007-10-30 | 2009-04-30 | Karl Ola Thorn | System and method for input of text to an application operating on a device |
US8566098B2 (en) | 2007-10-30 | 2013-10-22 | At&T Intellectual Property I, L.P. | System and method for improving synthesized speech interactions of a spoken dialog system |
US9063979B2 (en) | 2007-11-01 | 2015-06-23 | Ebay, Inc. | Analyzing event streams of user sessions |
CN101424973A (zh) | 2007-11-02 | 2009-05-06 | 夏普株式会社 | 输入装置 |
US7983997B2 (en) | 2007-11-02 | 2011-07-19 | Florida Institute For Human And Machine Cognition, Inc. | Interactive complex task teaching system that allows for natural language input, recognizes a user's intent, and automatically performs tasks in document object model (DOM) nodes |
US8065152B2 (en) | 2007-11-08 | 2011-11-22 | Demand Media, Inc. | Platform for enabling voice commands to resolve phoneme based domain name registrations |
CN101179754A (zh) | 2007-11-08 | 2008-05-14 | 深圳市戴文科技有限公司 | 一种交互式业务的实现方法及移动终端 |
US20090125299A1 (en) | 2007-11-09 | 2009-05-14 | Jui-Chang Wang | Speech recognition system |
US20090125813A1 (en) | 2007-11-09 | 2009-05-14 | Zhongnan Shen | Method and system for processing multiple dialog sessions in parallel |
DE102008051757A1 (de) | 2007-11-12 | 2009-05-14 | Volkswagen Ag | Multimodale Benutzerschnittstelle eines Fahrerassistenzsystems zur Eingabe und Präsentation von Informationen |
JP4926004B2 (ja) | 2007-11-12 | 2012-05-09 | 株式会社リコー | 文書処理装置、文書処理方法及び文書処理プログラム |
US20090125602A1 (en) | 2007-11-14 | 2009-05-14 | International Business Machines Corporation | Automatic priority adjustment for incoming emails |
US7890525B2 (en) | 2007-11-14 | 2011-02-15 | International Business Machines Corporation | Foreign language abbreviation translation in an instant messaging system |
US8112280B2 (en) | 2007-11-19 | 2012-02-07 | Sensory, Inc. | Systems and methods of performing speech recognition with barge-in for use in a bluetooth system |
US8294669B2 (en) | 2007-11-19 | 2012-10-23 | Palo Alto Research Center Incorporated | Link target accuracy in touch-screen mobile devices by layout adjustment |
US8620662B2 (en) | 2007-11-20 | 2013-12-31 | Apple Inc. | Context-aware unit selection |
US20150046537A1 (en) | 2007-11-21 | 2015-02-12 | Vdoqwest, Inc., A Delaware Corporation | Retrieving video annotation metadata using a p2p network and copyright free indexes |
US20110246471A1 (en) | 2010-04-06 | 2011-10-06 | Selim Shlomo Rakib | Retrieving video annotation metadata using a p2p network |
CN101448340B (zh) | 2007-11-26 | 2011-12-07 | 联想(北京)有限公司 | 一种检测移动终端状态的方法、系统及该移动终端 |
TWI373708B (en) | 2007-11-27 | 2012-10-01 | Htc Corp | Power management method for handheld electronic device |
US8213999B2 (en) | 2007-11-27 | 2012-07-03 | Htc Corporation | Controlling method and system for handheld communication device and recording medium using the same |
US8190596B2 (en) | 2007-11-28 | 2012-05-29 | International Business Machines Corporation | Method for assembly of personalized enterprise information integrators over conjunctive queries |
EP2226746B1 (en) | 2007-11-28 | 2012-01-11 | Fujitsu Limited | Metallic pipe managed by wireless ic tag, and the wireless ic tag |
JP2009134409A (ja) | 2007-11-29 | 2009-06-18 | Sony Ericsson Mobilecommunications Japan Inc | リマインダ装置、リマインダ方法、リマインダプログラム、及び携帯端末装置 |
US7805286B2 (en) | 2007-11-30 | 2010-09-28 | Bose Corporation | System and method for sound system simulation |
ATE516658T1 (de) | 2007-12-07 | 2011-07-15 | Research In Motion Ltd | System und verfahren zur ereignisabhängigen zustandsaktivierung für eine mobile kommunikationsvorrichtung |
US8543622B2 (en) | 2007-12-07 | 2013-09-24 | Patrick Giblin | Method and system for meta-tagging media content and distribution |
WO2009076474A2 (en) * | 2007-12-10 | 2009-06-18 | Deluxe Digital Studios, Inc. | Method and system for use in coordinating multimedia devices |
JP5493267B2 (ja) | 2007-12-11 | 2014-05-14 | 大日本印刷株式会社 | 商品検索装置および商品検索方法 |
US8385588B2 (en) | 2007-12-11 | 2013-02-26 | Eastman Kodak Company | Recording audio metadata for stored images |
US8140335B2 (en) | 2007-12-11 | 2012-03-20 | Voicebox Technologies, Inc. | System and method for providing a natural language voice user interface in an integrated voice navigation services environment |
US9767681B2 (en) | 2007-12-12 | 2017-09-19 | Apple Inc. | Handheld electronic devices with remote control functionality and gesture recognition |
US8275607B2 (en) | 2007-12-12 | 2012-09-25 | Microsoft Corporation | Semi-supervised part-of-speech tagging |
US20090158423A1 (en) | 2007-12-14 | 2009-06-18 | Symbol Technologies, Inc. | Locking mobile device cradle |
US8161419B2 (en) | 2007-12-17 | 2012-04-17 | Smooth Productions Inc. | Integrated graphical user interface and system with focusing |
KR101300839B1 (ko) | 2007-12-18 | 2013-09-10 | 삼성전자주식회사 | 음성 검색어 확장 방법 및 시스템 |
JP5327054B2 (ja) | 2007-12-18 | 2013-10-30 | 日本電気株式会社 | 発音変動規則抽出装置、発音変動規則抽出方法、および発音変動規則抽出用プログラム |
US8145196B2 (en) | 2007-12-18 | 2012-03-27 | Apple Inc. | Creation and management of voicemail greetings for mobile communication devices |
US20090164937A1 (en) | 2007-12-20 | 2009-06-25 | Alden Alviar | Scroll Apparatus and Method for Manipulating Data on an Electronic Device Display |
US8095680B2 (en) | 2007-12-20 | 2012-01-10 | Telefonaktiebolaget Lm Ericsson (Publ) | Real-time network transport protocol interface method and apparatus |
US10002189B2 (en) | 2007-12-20 | 2018-06-19 | Apple Inc. | Method and apparatus for searching using an active ontology |
US8063879B2 (en) | 2007-12-20 | 2011-11-22 | Research In Motion Limited | Method and handheld electronic device including first input component and second touch sensitive input component |
US8675830B2 (en) | 2007-12-21 | 2014-03-18 | Bce Inc. | Method and apparatus for interrupting an active telephony session to deliver information to a subscriber |
US20090164301A1 (en) | 2007-12-21 | 2009-06-25 | Yahoo! Inc. | Targeted Ad System Using Metadata |
JP5239328B2 (ja) | 2007-12-21 | 2013-07-17 | ソニー株式会社 | 情報処理装置及びタッチ動作認識方法 |
US8019604B2 (en) | 2007-12-21 | 2011-09-13 | Motorola Mobility, Inc. | Method and apparatus for uniterm discovery and voice-to-voice search on mobile device |
CN101188644A (zh) | 2007-12-26 | 2008-05-28 | 中国工商银行股份有限公司 | 银行语音服务方法与系统 |
US8219407B1 (en) | 2007-12-27 | 2012-07-10 | Great Northern Research, LLC | Method for processing the output of a speech recognizer |
US8583416B2 (en) | 2007-12-27 | 2013-11-12 | Fluential, Llc | Robust information extraction from utterances |
KR20090071077A (ko) | 2007-12-27 | 2009-07-01 | 엘지전자 주식회사 | 네비게이션 장치 및 이의 턴 지점 정보 제공방법 |
US20090172108A1 (en) | 2007-12-28 | 2009-07-02 | Surgo | Systems and methods for a telephone-accessible message communication system |
US8373549B2 (en) | 2007-12-31 | 2013-02-12 | Apple Inc. | Tactile feedback in an electronic device |
US9330720B2 (en) | 2008-01-03 | 2016-05-03 | Apple Inc. | Methods and apparatus for altering audio output signals |
US8405621B2 (en) | 2008-01-06 | 2013-03-26 | Apple Inc. | Variable rate media playback methods for electronic devices with touch interfaces |
US20090177966A1 (en) | 2008-01-06 | 2009-07-09 | Apple Inc. | Content Sheet for Media Player |
US7609179B2 (en) | 2008-01-08 | 2009-10-27 | International Business Machines Corporation | Method for compressed data with reduced dictionary sizes by coding value prefixes |
US8232973B2 (en) | 2008-01-09 | 2012-07-31 | Apple Inc. | Method, device, and graphical user interface providing word recommendations for text input |
US8478578B2 (en) | 2008-01-09 | 2013-07-02 | Fluential, Llc | Mobile speech-to-speech interpretation system |
US20090204243A1 (en) | 2008-01-09 | 2009-08-13 | 8 Figure, Llc | Method and apparatus for creating customized text-to-speech podcasts and videos incorporating associated media |
JP5266761B2 (ja) | 2008-01-10 | 2013-08-21 | 日産自動車株式会社 | 情報案内システムおよびその認識辞書データベース更新方法 |
JP2009186989A (ja) | 2008-01-10 | 2009-08-20 | Brother Ind Ltd | 音声対話装置及び音声対話プログラム |
US7870133B2 (en) | 2008-01-14 | 2011-01-11 | Infosys Technologies Ltd. | Method for semantic based storage and retrieval of information |
US10176827B2 (en) | 2008-01-15 | 2019-01-08 | Verint Americas Inc. | Active lab |
EP2081185B1 (en) | 2008-01-16 | 2014-11-26 | Nuance Communications, Inc. | Speech recognition on large lists using fragments |
US20090187950A1 (en) | 2008-01-18 | 2009-07-23 | At&T Knowledge Ventures, L.P. | Audible menu system |
US20090187577A1 (en) | 2008-01-20 | 2009-07-23 | Aviv Reznik | System and Method Providing Audio-on-Demand to a User's Personal Online Device as Part of an Online Audio Community |
ITPO20080002A1 (it) | 2008-01-22 | 2009-07-23 | Riccardo Vieri | Sistema e metodo per la generazione di pubblicita' contestuale durante l'invio di sms, relativo dispositivo e interfaccia. |
JP2009177440A (ja) | 2008-01-24 | 2009-08-06 | Nec Corp | 携帯電話装置及びその制御方法 |
US8175882B2 (en) | 2008-01-25 | 2012-05-08 | International Business Machines Corporation | Method and system for accent correction |
US20120284015A1 (en) | 2008-01-28 | 2012-11-08 | William Drewes | Method for Increasing the Accuracy of Subject-Specific Statistical Machine Translation (SMT) |
US20090192782A1 (en) | 2008-01-28 | 2009-07-30 | William Drewes | Method for increasing the accuracy of statistical machine translation (SMT) |
US8223988B2 (en) | 2008-01-29 | 2012-07-17 | Qualcomm Incorporated | Enhanced blind source separation algorithm for highly correlated mixtures |
CN101981987B (zh) | 2008-01-30 | 2014-12-03 | 谷歌公司 | 移动设备事件的通知 |
CN101500041A (zh) | 2008-01-30 | 2009-08-05 | 中兴通讯股份有限公司 | 呼叫控制方法和装置 |
CN101499156A (zh) | 2008-01-31 | 2009-08-05 | 上海亿动信息技术有限公司 | 一种基于多广告信息发布装置发布广告的控制方法及装置 |
US7840581B2 (en) | 2008-02-01 | 2010-11-23 | Realnetworks, Inc. | Method and system for improving the quality of deep metadata associated with media content |
KR20090085376A (ko) | 2008-02-04 | 2009-08-07 | 삼성전자주식회사 | 문자 메시지의 음성 합성을 이용한 서비스 방법 및 장치 |
US10269024B2 (en) | 2008-02-08 | 2019-04-23 | Outbrain Inc. | Systems and methods for identifying and measuring trends in consumer content demand within vertically associated websites and related content |
US8000956B2 (en) | 2008-02-08 | 2011-08-16 | Xerox Corporation | Semantic compatibility checking for automatic correction and discovery of named entities |
KR101334066B1 (ko) | 2008-02-11 | 2013-11-29 | 이점식 | 진화하는 사이버 로봇 시스템 및 그 제공 방법 |
US8195656B2 (en) | 2008-02-13 | 2012-06-05 | Yahoo, Inc. | Social network search |
US8099289B2 (en) | 2008-02-13 | 2012-01-17 | Sensory, Inc. | Voice interface and search for electronic devices including bluetooth headsets and remote systems |
US20090210391A1 (en) | 2008-02-14 | 2009-08-20 | Hall Stephen G | Method and system for automated search for, and retrieval and distribution of, information |
JP2009193532A (ja) | 2008-02-18 | 2009-08-27 | Oki Electric Ind Co Ltd | 対話管理装置、方法及びプログラム、並びに意識抽出システム |
JP2009193457A (ja) | 2008-02-15 | 2009-08-27 | Oki Electric Ind Co Ltd | 情報検索装置、方法及びプログラム |
US8165884B2 (en) | 2008-02-15 | 2012-04-24 | Microsoft Corporation | Layered prompting: self-calibrating instructional prompting for verbal interfaces |
JP2009193448A (ja) | 2008-02-15 | 2009-08-27 | Oki Electric Ind Co Ltd | 対話システム、方法及びプログラム |
EP2094032A1 (en) | 2008-02-19 | 2009-08-26 | Deutsche Thomson OHG | Audio signal, method and apparatus for encoding or transmitting the same and method and apparatus for processing the same |
KR20100119890A (ko) | 2008-02-20 | 2010-11-11 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 오디오 디바이스 및 이에 대한 동작 방법 |
US8065143B2 (en) | 2008-02-22 | 2011-11-22 | Apple Inc. | Providing text input using speech data and non-speech data |
US20090215466A1 (en) | 2008-02-22 | 2009-08-27 | Darcy Ahl | Mobile phone based system for disabling a cell phone while traveling |
US8706474B2 (en) | 2008-02-23 | 2014-04-22 | Fair Isaac Corporation | Translation of entity names based on source document publication date, and frequency and co-occurrence of the entity names |
US8015144B2 (en) | 2008-02-26 | 2011-09-06 | Microsoft Corporation | Learning transportation modes from raw GPS data |
JP4433061B2 (ja) | 2008-02-27 | 2010-03-17 | 株式会社デンソー | 運転支援システム |
US8068604B2 (en) | 2008-12-19 | 2011-11-29 | Computer Product Introductions Corporation | Method and system for event notifications |
US20090221274A1 (en) | 2008-02-29 | 2009-09-03 | Venkatakrishnan Poornima | System, method and device for enabling alternative call handling routines for incoming calls |
JP2009205579A (ja) | 2008-02-29 | 2009-09-10 | Toshiba Corp | 音声翻訳装置およびプログラム |
US9049255B2 (en) | 2008-02-29 | 2015-06-02 | Blackberry Limited | Visual event notification on a handheld communications device |
EP2096840B1 (en) | 2008-02-29 | 2012-07-04 | Research In Motion Limited | Visual event notification on a handheld communications device |
US8205157B2 (en) | 2008-03-04 | 2012-06-19 | Apple Inc. | Methods and graphical user interfaces for conducting searches on a portable multifunction device |
US8650507B2 (en) | 2008-03-04 | 2014-02-11 | Apple Inc. | Selecting of text using gestures |
US8201109B2 (en) | 2008-03-04 | 2012-06-12 | Apple Inc. | Methods and graphical user interfaces for editing on a portable multifunction device |
US20090228273A1 (en) | 2008-03-05 | 2009-09-10 | Microsoft Corporation | Handwriting-based user interface for correction of speech recognition errors |
US8587402B2 (en) | 2008-03-07 | 2013-11-19 | Palm, Inc. | Context aware data processing in mobile computing device |
US20090228439A1 (en) | 2008-03-07 | 2009-09-10 | Microsoft Corporation | Intent-aware search |
US8255224B2 (en) | 2008-03-07 | 2012-08-28 | Google Inc. | Voice recognition grammar selection based on context |
US8380512B2 (en) | 2008-03-10 | 2013-02-19 | Yahoo! Inc. | Navigation using a search engine and phonetic voice recognition |
US8364486B2 (en) | 2008-03-12 | 2013-01-29 | Intelligent Mechatronic Systems Inc. | Speech understanding method and system |
US20090235280A1 (en) | 2008-03-12 | 2009-09-17 | Xerox Corporation | Event extraction system for electronic messages |
US20090234655A1 (en) | 2008-03-13 | 2009-09-17 | Jason Kwon | Mobile electronic device with active speech recognition |
US20090234638A1 (en) | 2008-03-14 | 2009-09-17 | Microsoft Corporation | Use of a Speech Grammar to Recognize Instant Message Input |
US20090235176A1 (en) | 2008-03-14 | 2009-09-17 | Madhavi Jayanthi | Social interaction system for facilitating display of current location of friends and location of businesses of interest |
CN101246020B (zh) | 2008-03-14 | 2011-05-25 | 深圳市凯立德科技股份有限公司 | 语音播报装置、使用了此装置的导航系统及其采用的方法 |
US7958136B1 (en) | 2008-03-18 | 2011-06-07 | Google Inc. | Systems and methods for identifying similar documents |
JP2009223840A (ja) | 2008-03-19 | 2009-10-01 | Fujitsu Ltd | スケジュール管理プログラム,スケジュール管理装置およびスケジュール管理方法 |
US20090239552A1 (en) | 2008-03-24 | 2009-09-24 | Yahoo! Inc. | Location-based opportunistic recommendations |
CN101547396B (zh) | 2008-03-24 | 2012-07-04 | 展讯通信(上海)有限公司 | 一种紧急呼叫过程中快速位置上报的方法 |
CA2719301C (en) | 2008-03-25 | 2016-10-04 | E-Lane Systems Inc. | Multi-participant, mixed-initiative voice interaction system |
WO2009118716A1 (en) | 2008-03-27 | 2009-10-01 | Markport Limited | Processing of messaging service attributes in communication systems |
US8615388B2 (en) | 2008-03-28 | 2013-12-24 | Microsoft Corporation | Intra-language statistical machine translation |
US20090248456A1 (en) | 2008-03-28 | 2009-10-01 | Passkey International, Inc. | Notifications and reports in a reservation system |
EP2107553B1 (en) | 2008-03-31 | 2011-05-18 | Harman Becker Automotive Systems GmbH | Method for determining barge-in |
US7472061B1 (en) | 2008-03-31 | 2008-12-30 | International Business Machines Corporation | Systems and methods for building a native language phoneme lexicon having native pronunciations of non-native words derived from non-native pronunciations |
US20090249198A1 (en) | 2008-04-01 | 2009-10-01 | Yahoo! Inc. | Techniques for input recogniton and completion |
US8417298B2 (en) | 2008-04-01 | 2013-04-09 | Apple Inc. | Mounting structures for portable electronic devices |
US8312376B2 (en) | 2008-04-03 | 2012-11-13 | Microsoft Corporation | Bookmark interpretation service |
TWI446780B (zh) | 2008-04-03 | 2014-07-21 | Hon Hai Prec Ind Co Ltd | 通訊裝置及其通訊方法 |
US20090253457A1 (en) | 2008-04-04 | 2009-10-08 | Apple Inc. | Audio signal processing for certification enhancement in a handheld wireless communications device |
US8996376B2 (en) | 2008-04-05 | 2015-03-31 | Apple Inc. | Intelligent text-to-speech conversion |
KR101491581B1 (ko) | 2008-04-07 | 2015-02-24 | 삼성전자주식회사 | 철자 오류 보정 시스템 및 방법 |
US8958848B2 (en) | 2008-04-08 | 2015-02-17 | Lg Electronics Inc. | Mobile terminal and menu control method thereof |
KR20090107365A (ko) | 2008-04-08 | 2009-10-13 | 엘지전자 주식회사 | 이동 단말기 및 그 메뉴 제어방법 |
KR20090107364A (ko) | 2008-04-08 | 2009-10-13 | 엘지전자 주식회사 | 이동 단말기 및 그 메뉴 제어방법 |
WO2009125710A1 (ja) | 2008-04-08 | 2009-10-15 | 株式会社エヌ・ティ・ティ・ドコモ | メディア処理サーバ装置およびメディア処理方法 |
US8285737B1 (en) | 2008-04-10 | 2012-10-09 | Google Inc. | Selecting content for publication |
JP4656177B2 (ja) | 2008-04-14 | 2011-03-23 | トヨタ自動車株式会社 | ナビゲーション装置、操作部表示方法 |
US8370148B2 (en) | 2008-04-14 | 2013-02-05 | At&T Intellectual Property I, L.P. | System and method for answering a communication notification |
US7889101B2 (en) | 2008-04-14 | 2011-02-15 | Alpine Electronics, Inc | Method and apparatus for generating location based reminder message for navigation system |
US8046222B2 (en) | 2008-04-16 | 2011-10-25 | Google Inc. | Segmenting words using scaled probabilities |
US8490050B2 (en) | 2008-04-17 | 2013-07-16 | Microsoft Corporation | Automatic generation of user interfaces |
US8433778B1 (en) | 2008-04-22 | 2013-04-30 | Marvell International Ltd | Device configuration |
US8666824B2 (en) | 2008-04-23 | 2014-03-04 | Dell Products L.P. | Digital media content location and purchasing system |
US8972432B2 (en) | 2008-04-23 | 2015-03-03 | Google Inc. | Machine translation using information retrieval |
US8407049B2 (en) | 2008-04-23 | 2013-03-26 | Cogi, Inc. | Systems and methods for conversation enhancement |
US8594995B2 (en) | 2008-04-24 | 2013-11-26 | Nuance Communications, Inc. | Multilingual asynchronous communications of speech messages recorded in digital media files |
US8121837B2 (en) | 2008-04-24 | 2012-02-21 | Nuance Communications, Inc. | Adjusting a speech engine for a mobile computing device based on background noise |
US8082148B2 (en) | 2008-04-24 | 2011-12-20 | Nuance Communications, Inc. | Testing a grammar used in speech recognition for reliability in a plurality of operating environments having different background noise |
US8249857B2 (en) | 2008-04-24 | 2012-08-21 | International Business Machines Corporation | Multilingual administration of enterprise data with user selected target language translation |
US8249858B2 (en) | 2008-04-24 | 2012-08-21 | International Business Machines Corporation | Multilingual administration of enterprise data with default target languages |
US8194827B2 (en) | 2008-04-29 | 2012-06-05 | International Business Machines Corporation | Secure voice transaction method and system |
US8521512B2 (en) | 2008-04-30 | 2013-08-27 | Deep Sky Concepts, Inc | Systems and methods for natural language communication with a computer |
US8693698B2 (en) | 2008-04-30 | 2014-04-08 | Qualcomm Incorporated | Method and apparatus to reduce non-linear distortion in mobile computing devices |
US20090274376A1 (en) | 2008-05-05 | 2009-11-05 | Yahoo! Inc. | Method for efficiently building compact models for large multi-class text classification |
US8254829B1 (en) | 2008-05-09 | 2012-08-28 | Sprint Communications Company L.P. | Network media service with track delivery adapted to a user cadence |
US8400405B2 (en) | 2008-05-09 | 2013-03-19 | Research In Motion Limited | Handheld electronic device and associated method enabling text input in a language employing non-roman characters |
US8219115B1 (en) | 2008-05-12 | 2012-07-10 | Google Inc. | Location based reminders |
US20140365895A1 (en) | 2008-05-13 | 2014-12-11 | Apple Inc. | Device and method for generating user interfaces from a template |
US8516562B2 (en) | 2008-05-13 | 2013-08-20 | Veritrix, Inc. | Multi-channel multi-factor authentication |
US20130275899A1 (en) | 2010-01-18 | 2013-10-17 | Apple Inc. | Application Gateway for Providing Different User Interfaces for Limited Distraction and Non-Limited Distraction Contexts |
US10496753B2 (en) | 2010-01-18 | 2019-12-03 | Apple Inc. | Automatically adapting user interfaces for hands-free interaction |
US8174503B2 (en) | 2008-05-17 | 2012-05-08 | David H. Cain | Touch-based authentication of a mobile device through user generated pattern creation |
US8131267B2 (en) | 2008-05-19 | 2012-03-06 | Tbm, Llc | Interactive voice access and retrieval of information |
US9008628B2 (en) * | 2008-05-19 | 2015-04-14 | Tbm, Llc | Interactive voice access and notification system |
DE102008024258A1 (de) | 2008-05-20 | 2009-11-26 | Siemens Aktiengesellschaft | Verfahren zur Klassifizierung und Entfernung unerwünschter Anteile aus einer Äußerung bei einer Spracherkennung |
US10203861B2 (en) | 2008-05-21 | 2019-02-12 | Please Don't Go, LLC. | Messaging window overlay for a browser |
US8285344B2 (en) | 2008-05-21 | 2012-10-09 | DP Technlogies, Inc. | Method and apparatus for adjusting audio for a user environment |
US20090292987A1 (en) | 2008-05-22 | 2009-11-26 | International Business Machines Corporation | Formatting selected content of an electronic document based on analyzed formatting |
US9305548B2 (en) | 2008-05-27 | 2016-04-05 | Voicebox Technologies Corporation | System and method for an integrated, multi-modal, multi-device natural language voice services environment |
US8082498B2 (en) | 2008-05-27 | 2011-12-20 | Appfolio, Inc. | Systems and methods for automatic spell checking of dynamically generated web pages |
US8589161B2 (en) | 2008-05-27 | 2013-11-19 | Voicebox Technologies, Inc. | System and method for an integrated, multi-modal, multi-device natural language voice services environment |
US20130100268A1 (en) | 2008-05-27 | 2013-04-25 | University Health Network | Emergency detection and response system and method |
US20090326938A1 (en) | 2008-05-28 | 2009-12-31 | Nokia Corporation | Multiword text correction |
US8126435B2 (en) | 2008-05-30 | 2012-02-28 | Hewlett-Packard Development Company, L.P. | Techniques to manage vehicle communications |
US8694355B2 (en) | 2008-05-30 | 2014-04-08 | Sri International | Method and apparatus for automated assistance with task management |
US8473279B2 (en) | 2008-05-30 | 2013-06-25 | Eiman Al-Shammari | Lemmatizing, stemming, and query expansion method and system |
US8233366B2 (en) | 2008-06-02 | 2012-07-31 | Apple Inc. | Context-based error indication methods and apparatus |
US20090298529A1 (en) | 2008-06-03 | 2009-12-03 | Symbol Technologies, Inc. | Audio HTML (aHTML): Audio Access to Web/Data |
JP5377889B2 (ja) | 2008-06-05 | 2013-12-25 | 日本放送協会 | 言語処理装置およびプログラム |
JP5136228B2 (ja) | 2008-06-05 | 2013-02-06 | 日本電気株式会社 | 作業環境自動保存復元システム、作業環境自動保存復元方法および作業環境自動保存復元プログラム |
US8831948B2 (en) | 2008-06-06 | 2014-09-09 | At&T Intellectual Property I, L.P. | System and method for synthetically generated speech describing media content |
TWM348993U (en) | 2008-06-06 | 2009-01-11 | Ming-Ying Chen | Smart voice-controlled device to control home appliance with infrared controller |
US8180630B2 (en) | 2008-06-06 | 2012-05-15 | Zi Corporation Of Canada, Inc. | Systems and methods for an automated personalized dictionary generator for portable devices |
US8140326B2 (en) | 2008-06-06 | 2012-03-20 | Fuji Xerox Co., Ltd. | Systems and methods for reducing speech intelligibility while preserving environmental sounds |
US8464150B2 (en) | 2008-06-07 | 2013-06-11 | Apple Inc. | Automatic language identification for dynamic text processing |
US9626363B2 (en) | 2008-06-08 | 2017-04-18 | Apple Inc. | System and method for placeshifting media playback |
US20090306967A1 (en) | 2008-06-09 | 2009-12-10 | J.D. Power And Associates | Automatic Sentiment Analysis of Surveys |
KR100988397B1 (ko) | 2008-06-09 | 2010-10-19 | 엘지전자 주식회사 | 이동 단말기 및 그의 텍스트 수정방법 |
US8219397B2 (en) | 2008-06-10 | 2012-07-10 | Nuance Communications, Inc. | Data processing system for autonomously building speech identification and tagging data |
DE602008005428D1 (de) | 2008-06-11 | 2011-04-21 | Exb Asset Man Gmbh | Vorrichtung und Verfahren mit verbessertem Texteingabemechanismus |
US8527876B2 (en) | 2008-06-12 | 2013-09-03 | Apple Inc. | System and methods for adjusting graphical representations of media files based on previous usage |
US20090313564A1 (en) | 2008-06-12 | 2009-12-17 | Apple Inc. | Systems and methods for adjusting playback of media files based on previous usage |
KR101513615B1 (ko) | 2008-06-12 | 2015-04-20 | 엘지전자 주식회사 | 이동 단말기 및 그 음성 인식 방법 |
US20090313020A1 (en) | 2008-06-12 | 2009-12-17 | Nokia Corporation | Text-to-speech user interface control |
US8140330B2 (en) | 2008-06-13 | 2012-03-20 | Robert Bosch Gmbh | System and method for detecting repeated patterns in dialog systems |
US20090313023A1 (en) | 2008-06-17 | 2009-12-17 | Ralph Jones | Multilingual text-to-speech system |
US9510044B1 (en) | 2008-06-18 | 2016-11-29 | Gracenote, Inc. | TV content segmentation, categorization and identification and time-aligned applications |
DE102008028885A1 (de) | 2008-06-18 | 2009-12-31 | Epcos Ag | Verfahren zur Abstimmung einer Resonanzfrequenz eines piezoelektrischen Bauelementes |
AU2009260033A1 (en) | 2008-06-19 | 2009-12-23 | Wize Technologies, Inc. | System and method for aggregating and summarizing product/topic sentiment |
WO2009152614A1 (en) | 2008-06-19 | 2009-12-23 | E-Lane Systems Inc. | Communication system with voice mail access and call by spelling functionality |
GB2462800A (en) | 2008-06-20 | 2010-02-24 | New Voice Media Ltd | Monitoring a conversation between an agent and a customer and performing real time analytics on the audio signal for determining future handling of the call |
WO2009156438A1 (en) | 2008-06-24 | 2009-12-30 | Llinxx | Method and system for entering an expression |
US9081590B2 (en) | 2008-06-24 | 2015-07-14 | Microsoft Technology Licensing, Llc | Multimodal input using scratchpad graphical user interface to edit speech text input with keyboard input |
US8300801B2 (en) | 2008-06-26 | 2012-10-30 | Centurylink Intellectual Property Llc | System and method for telephone based noise cancellation |
WO2009156978A1 (en) | 2008-06-26 | 2009-12-30 | Intuitive User Interfaces Ltd | System and method for intuitive user interaction |
US8423288B2 (en) | 2009-11-30 | 2013-04-16 | Apple Inc. | Dynamic alerts for calendar events |
US8364481B2 (en) | 2008-07-02 | 2013-01-29 | Google Inc. | Speech recognition with parallel recognition tasks |
US20110112837A1 (en) | 2008-07-03 | 2011-05-12 | Mobiter Dicta Oy | Method and device for converting speech |
US20100005085A1 (en) | 2008-07-03 | 2010-01-07 | Oracle International Corporation | Creating relationship maps from enterprise application system data |
KR101059631B1 (ko) | 2008-07-04 | 2011-08-25 | 야후! 인크. | 자동 입출력 인터페이스를 갖춘 번역기 및 그 인터페이싱방법 |
US8478592B2 (en) | 2008-07-08 | 2013-07-02 | Nuance Communications, Inc. | Enhancing media playback with speech recognition |
JP4710931B2 (ja) | 2008-07-09 | 2011-06-29 | ソニー株式会社 | 学習装置、学習方法、およびプログラム |
US8781833B2 (en) | 2008-07-17 | 2014-07-15 | Nuance Communications, Inc. | Speech recognition semantic classification training |
US8521761B2 (en) | 2008-07-18 | 2013-08-27 | Google Inc. | Transliteration for query expansion |
US8166019B1 (en) | 2008-07-21 | 2012-04-24 | Sprint Communications Company L.P. | Providing suggested actions in response to textual communications |
US9141863B2 (en) * | 2008-07-21 | 2015-09-22 | Facefirst, Llc | Managed biometric-based notification system and method |
KR20100010860A (ko) | 2008-07-23 | 2010-02-02 | 엘지전자 주식회사 | 이동 단말기 및 그의 이벤트 제어방법 |
JP5791861B2 (ja) | 2008-07-25 | 2015-10-07 | シャープ株式会社 | 情報処理装置および情報処理方法 |
JPWO2010013369A1 (ja) | 2008-07-30 | 2012-01-05 | 三菱電機株式会社 | 音声認識装置 |
US8386485B2 (en) | 2008-07-31 | 2013-02-26 | George Mason Intellectual Properties, Inc. | Case-based framework for collaborative semantic search |
US20100030549A1 (en) | 2008-07-31 | 2010-02-04 | Lee Michael M | Mobile device having human language translation capability with positional feedback |
US8041848B2 (en) | 2008-08-04 | 2011-10-18 | Apple Inc. | Media processing method and device |
US8589149B2 (en) | 2008-08-05 | 2013-11-19 | Nuance Communications, Inc. | Probability-based approach to recognition of user-entered data |
US9317589B2 (en) | 2008-08-07 | 2016-04-19 | International Business Machines Corporation | Semantic search by means of word sense disambiguation using a lexicon |
KR100998566B1 (ko) | 2008-08-11 | 2010-12-07 | 엘지전자 주식회사 | 음성인식을 이용한 언어 번역 방법 및 장치 |
WO2010018796A1 (ja) | 2008-08-11 | 2010-02-18 | 旭化成株式会社 | 例外語辞書作成装置、例外語辞書作成方法及びそのプログラム、並びに、音声認識装置及び音声認識方法 |
JP4577428B2 (ja) | 2008-08-11 | 2010-11-10 | ソニー株式会社 | 表示装置、表示方法及びプログラム |
US8170969B2 (en) | 2008-08-13 | 2012-05-01 | Siemens Aktiengesellschaft | Automated computation of semantic similarity of pairs of named entity phrases using electronic document corpora as background knowledge |
US7796190B2 (en) * | 2008-08-15 | 2010-09-14 | At&T Labs, Inc. | System and method for adaptive content rendition |
US8805110B2 (en) | 2008-08-19 | 2014-08-12 | Digimarc Corporation | Methods and systems for content processing |
US8520979B2 (en) | 2008-08-19 | 2013-08-27 | Digimarc Corporation | Methods and systems for content processing |
WO2010021368A1 (ja) | 2008-08-20 | 2010-02-25 | 日本電気株式会社 | 言語モデル作成装置、言語モデル作成方法、音声認識装置、音声認識方法、プログラム、および記録媒体 |
US20100050064A1 (en) | 2008-08-22 | 2010-02-25 | At & T Labs, Inc. | System and method for selecting a multimedia presentation to accompany text |
US8112269B2 (en) | 2008-08-25 | 2012-02-07 | Microsoft Corporation | Determining utility of a question |
CN101802554B (zh) | 2008-08-29 | 2013-09-25 | 联发科技(合肥)有限公司 | 用于播放语音导引的方法及相关导航装置 |
US20100057435A1 (en) | 2008-08-29 | 2010-03-04 | Kent Justin R | System and method for speech-to-speech translation |
US8117136B2 (en) | 2008-08-29 | 2012-02-14 | Hewlett-Packard Development Company, L.P. | Relationship management on a mobile computing device |
US8442248B2 (en) | 2008-09-03 | 2013-05-14 | Starkey Laboratories, Inc. | Systems and methods for managing wireless communication links for hearing assistance devices |
US20100063961A1 (en) | 2008-09-05 | 2010-03-11 | Fotonauts, Inc. | Reverse Tagging of Images in System for Managing and Sharing Digital Images |
US20100063825A1 (en) | 2008-09-05 | 2010-03-11 | Apple Inc. | Systems and Methods for Memory Management and Crossfading in an Electronic Device |
US8768702B2 (en) | 2008-09-05 | 2014-07-01 | Apple Inc. | Multi-tiered voice feedback in an electronic device |
US8098262B2 (en) | 2008-09-05 | 2012-01-17 | Apple Inc. | Arbitrary fractional pixel movement |
US8380959B2 (en) | 2008-09-05 | 2013-02-19 | Apple Inc. | Memory management system and method |
US7936736B2 (en) | 2008-09-08 | 2011-05-03 | Proctor Jr James Arthur | Enforcing policies in wireless communication using exchanged identities |
US8898568B2 (en) | 2008-09-09 | 2014-11-25 | Apple Inc. | Audio user interface |
US8290971B2 (en) | 2008-09-09 | 2012-10-16 | Applied Systems, Inc. | Method and apparatus for remotely displaying a list by determining a quantity of data to send based on the list size and the display control size |
JP2010066519A (ja) | 2008-09-11 | 2010-03-25 | Brother Ind Ltd | 音声対話装置、音声対話方法、および音声対話プログラム |
CN101673274A (zh) | 2008-09-12 | 2010-03-17 | 深圳富泰宏精密工业有限公司 | 影片字幕检索系统及方法 |
US8259082B2 (en) | 2008-09-12 | 2012-09-04 | At&T Intellectual Property I, L.P. | Multimodal portable communication interface for accessing video content |
US8929877B2 (en) | 2008-09-12 | 2015-01-06 | Digimarc Corporation | Methods and systems for content processing |
US8756519B2 (en) | 2008-09-12 | 2014-06-17 | Google Inc. | Techniques for sharing content on a web page |
US8239201B2 (en) | 2008-09-13 | 2012-08-07 | At&T Intellectual Property I, L.P. | System and method for audibly presenting selected text |
US20100071003A1 (en) | 2008-09-14 | 2010-03-18 | Modu Ltd. | Content personalization |
JP5213605B2 (ja) | 2008-09-17 | 2013-06-19 | シャープ株式会社 | 通信装置、情報提示装置、通信方法、プログラム、および記録媒体 |
US8335778B2 (en) | 2008-09-17 | 2012-12-18 | Oracle International Corporation | System and method for semantic search in an enterprise application |
US8775154B2 (en) | 2008-09-18 | 2014-07-08 | Xerox Corporation | Query translation through dictionary adaptation |
US8326622B2 (en) | 2008-09-23 | 2012-12-04 | International Business Machines Corporation | Dialog filtering for filling out a form |
US20100077350A1 (en) | 2008-09-25 | 2010-03-25 | Microsoft Corporation | Combining elements in presentation of content |
JP2010078979A (ja) | 2008-09-26 | 2010-04-08 | Nec Infrontia Corp | 音声録音装置、録音音声検索方法及びプログラム |
US8560371B2 (en) | 2008-09-26 | 2013-10-15 | Microsoft Corporation | Suggesting things to do during time slots in a schedule |
US8712776B2 (en) | 2008-09-29 | 2014-04-29 | Apple Inc. | Systems and methods for selective text to speech synthesis |
CN104317262B (zh) | 2008-09-29 | 2017-09-12 | 费希尔-罗斯蒙特系统公司 | 过程控制系统的元件的高效设计和配置 |
US8396714B2 (en) | 2008-09-29 | 2013-03-12 | Apple Inc. | Systems and methods for concatenation of words in text to speech synthesis |
US20100082328A1 (en) | 2008-09-29 | 2010-04-01 | Apple Inc. | Systems and methods for speech preprocessing in text to speech synthesis |
US8352272B2 (en) | 2008-09-29 | 2013-01-08 | Apple Inc. | Systems and methods for text to speech synthesis |
US8352268B2 (en) | 2008-09-29 | 2013-01-08 | Apple Inc. | Systems and methods for selective rate of speech and speech preferences for text to speech synthesis |
US8355919B2 (en) | 2008-09-29 | 2013-01-15 | Apple Inc. | Systems and methods for text normalization for text to speech synthesis |
US8583418B2 (en) | 2008-09-29 | 2013-11-12 | Apple Inc. | Systems and methods of detecting language and natural language strings for text to speech synthesis |
US20100082327A1 (en) | 2008-09-29 | 2010-04-01 | Apple Inc. | Systems and methods for mapping phonemes for text to speech synthesis |
US8180641B2 (en) | 2008-09-29 | 2012-05-15 | Microsoft Corporation | Sequential speech recognition with two unequal ASR systems |
US8411953B2 (en) | 2008-09-30 | 2013-04-02 | International Business Machines Corporation | Tagging images by determining a set of similar pre-tagged images and extracting prominent tags from that set |
US20100079508A1 (en) | 2008-09-30 | 2010-04-01 | Andrew Hodge | Electronic devices with gaze detection capabilities |
JP2010086230A (ja) | 2008-09-30 | 2010-04-15 | Sony Corp | 情報処理装置、情報処理方法およびプログラム |
US8401178B2 (en) | 2008-09-30 | 2013-03-19 | Apple Inc. | Multiple microphone switching and configuration |
US8798956B2 (en) | 2008-09-30 | 2014-08-05 | Apple Inc. | Method and apparatus for surface sensing input device |
US9077526B2 (en) | 2008-09-30 | 2015-07-07 | Apple Inc. | Method and system for ensuring sequential playback of digital media |
US8676904B2 (en) | 2008-10-02 | 2014-03-18 | Apple Inc. | Electronic devices with voice command and contextual data processing capabilities |
US20100255858A1 (en) | 2008-10-02 | 2010-10-07 | Juhasz Paul R | Dead Zone for Wireless Communication Device |
US8285545B2 (en) | 2008-10-03 | 2012-10-09 | Volkswagen Ag | Voice command acquisition system and method |
US9442648B2 (en) | 2008-10-07 | 2016-09-13 | Blackberry Limited | Portable electronic device and method of controlling same |
US9200913B2 (en) | 2008-10-07 | 2015-12-01 | Telecommunication Systems, Inc. | User interface for predictive traffic |
US8380497B2 (en) | 2008-10-15 | 2013-02-19 | Qualcomm Incorporated | Methods and apparatus for noise estimation |
US8543913B2 (en) | 2008-10-16 | 2013-09-24 | International Business Machines Corporation | Identifying and using textual widgets |
US8539342B1 (en) | 2008-10-16 | 2013-09-17 | Adobe Systems Incorporated | Read-order inference via content sorting |
US20100100080A1 (en) | 2008-10-16 | 2010-04-22 | Huculak John C | System and method for voice activation of surgical instruments |
US20100131899A1 (en) | 2008-10-17 | 2010-05-27 | Darwin Ecosystem Llc | Scannable Cloud |
US20100114887A1 (en) | 2008-10-17 | 2010-05-06 | Google Inc. | Textual Disambiguation Using Social Connections |
US8364487B2 (en) | 2008-10-21 | 2013-01-29 | Microsoft Corporation | Speech recognition system with display information |
US8670546B2 (en) | 2008-10-22 | 2014-03-11 | At&T Intellectual Property I, L.P. | Systems and methods for providing a personalized communication processing service |
US8577685B2 (en) | 2008-10-24 | 2013-11-05 | At&T Intellectual Property I, L.P. | System and method for targeted advertising |
US8190437B2 (en) | 2008-10-24 | 2012-05-29 | Nuance Communications, Inc. | Speaker verification methods and apparatus |
US8218397B2 (en) | 2008-10-24 | 2012-07-10 | Qualcomm Incorporated | Audio source proximity estimation using sensor array for noise reduction |
US8724829B2 (en) | 2008-10-24 | 2014-05-13 | Qualcomm Incorporated | Systems, methods, apparatus, and computer-readable media for coherence detection |
US8645123B2 (en) | 2008-10-27 | 2014-02-04 | Microsoft Corporation | Image-based semantic distance |
US8644488B2 (en) | 2008-10-27 | 2014-02-04 | Nuance Communications, Inc. | System and method for automatically generating adaptive interaction logs from customer interaction text |
US8412529B2 (en) | 2008-10-29 | 2013-04-02 | Verizon Patent And Licensing Inc. | Method and system for enhancing verbal communication sessions |
KR101543221B1 (ko) | 2008-10-31 | 2015-08-12 | 에스케이플래닛 주식회사 | 다중 사용자-다중 서비스 제공 방법, 장치 및 시스템 |
JP5230358B2 (ja) | 2008-10-31 | 2013-07-10 | キヤノン株式会社 | 情報検索装置、情報検索方法、プログラム及び記憶媒体 |
TWI487385B (zh) | 2008-10-31 | 2015-06-01 | Chi Mei Comm Systems Inc | 音量調節裝置及其調節方法 |
EP2353108A4 (en) | 2008-11-04 | 2018-01-03 | Strossle International AB | Method and system for analyzing text |
US8122094B1 (en) | 2008-11-05 | 2012-02-21 | Kotab Dominic M | Methods for performing an action relating to the scheduling of an event by performing one or more actions based on a response to a message |
US8122353B2 (en) | 2008-11-07 | 2012-02-21 | Yahoo! Inc. | Composing a message in an online textbox using a non-latin script |
US20100205628A1 (en) | 2009-02-12 | 2010-08-12 | Davis Bruce L | Media processing methods and arrangements |
WO2010054373A2 (en) | 2008-11-10 | 2010-05-14 | Google Inc. | Multisensory speech detection |
US8249870B2 (en) | 2008-11-12 | 2012-08-21 | Massachusetts Institute Of Technology | Semi-automatic speech transcription |
KR20100053149A (ko) | 2008-11-12 | 2010-05-20 | 삼성전자주식회사 | 이동통신 단말기에서 참석 인원의 상황을 고려한 일정 생성장치 및 방법 |
US8386261B2 (en) | 2008-11-14 | 2013-02-26 | Vocollect Healthcare Systems, Inc. | Training/coaching system for a voice-enabled work environment |
US8832319B2 (en) | 2008-11-18 | 2014-09-09 | Amazon Technologies, Inc. | Synchronization of digital content |
US8108214B2 (en) | 2008-11-19 | 2012-01-31 | Robert Bosch Gmbh | System and method for recognizing proper names in dialog systems |
US8584031B2 (en) | 2008-11-19 | 2013-11-12 | Apple Inc. | Portable touch screen device, method, and graphical user interface for using emoji characters |
US8296124B1 (en) | 2008-11-21 | 2012-10-23 | Google Inc. | Method and apparatus for detecting incorrectly translated text in a document |
US9202455B2 (en) | 2008-11-24 | 2015-12-01 | Qualcomm Incorporated | Systems, methods, apparatus, and computer program products for enhanced active noise cancellation |
US20100128701A1 (en) | 2008-11-24 | 2010-05-27 | Qualcomm Incorporated | Beacon transmission for participation in peer-to-peer formation and discovery |
US20100131265A1 (en) * | 2008-11-25 | 2010-05-27 | Nokia Corporation | Method, Apparatus and Computer Program Product for Providing Context Aware Queries in a Network |
US8442824B2 (en) | 2008-11-26 | 2013-05-14 | Nuance Communications, Inc. | Device, system, and method of liveness detection utilizing voice biometrics |
US20100131498A1 (en) | 2008-11-26 | 2010-05-27 | General Electric Company | Automated healthcare information composition and query enhancement |
US8140328B2 (en) | 2008-12-01 | 2012-03-20 | At&T Intellectual Property I, L.P. | User intention based on N-best list of recognition hypotheses for utterances in a dialog |
US8489599B2 (en) | 2008-12-02 | 2013-07-16 | Palo Alto Research Center Incorporated | Context and activity-driven content delivery and interaction |
US20100138680A1 (en) | 2008-12-02 | 2010-06-03 | At&T Mobility Ii Llc | Automatic display and voice command activation with hand edge sensing |
US8117036B2 (en) | 2008-12-03 | 2012-02-14 | At&T Intellectual Property I, L.P. | Non-disruptive side conversation information retrieval |
US8073693B2 (en) | 2008-12-04 | 2011-12-06 | At&T Intellectual Property I, L.P. | System and method for pronunciation modeling |
JP5257311B2 (ja) | 2008-12-05 | 2013-08-07 | ソニー株式会社 | 情報処理装置、および情報処理方法 |
US8589157B2 (en) | 2008-12-05 | 2013-11-19 | Microsoft Corporation | Replying to text messages via automated voice search techniques |
US8054180B1 (en) | 2008-12-08 | 2011-11-08 | Amazon Technologies, Inc. | Location aware reminders |
US20100185949A1 (en) | 2008-12-09 | 2010-07-22 | Denny Jaeger | Method for using gesture objects for computer control |
EP2196989B1 (en) | 2008-12-10 | 2012-06-27 | Nuance Communications, Inc. | Grammar and template-based speech recognition of spoken utterances |
WO2010067118A1 (en) | 2008-12-11 | 2010-06-17 | Novauris Technologies Limited | Speech recognition involving a mobile device |
US8121842B2 (en) | 2008-12-12 | 2012-02-21 | Microsoft Corporation | Audio output of a document from mobile device |
US20100153448A1 (en) | 2008-12-12 | 2010-06-17 | International Business Machines Corporation | Persistent search notification |
US8160881B2 (en) | 2008-12-15 | 2012-04-17 | Microsoft Corporation | Human-assisted pronunciation generation |
US8208609B2 (en) | 2008-12-15 | 2012-06-26 | Centurylink Intellectual Property Llc | System and method for voice activated dialing from a home phone |
WO2010070781A1 (ja) | 2008-12-16 | 2010-06-24 | 三菱電機株式会社 | ナビゲーション装置 |
US8447588B2 (en) | 2008-12-18 | 2013-05-21 | Palo Alto Research Center Incorporated | Region-matching transducers for natural language processing |
JP5329939B2 (ja) | 2008-12-19 | 2013-10-30 | Kddi株式会社 | コンテキスト検索方法および装置 |
US9323854B2 (en) | 2008-12-19 | 2016-04-26 | Intel Corporation | Method, apparatus and system for location assisted translation |
CN104166673B (zh) | 2008-12-22 | 2017-09-19 | 谷歌公司 | 用于复制内容可寻址存储集群的异步分布式去重 |
US8635068B2 (en) | 2008-12-23 | 2014-01-21 | At&T Intellectual Property I, L.P. | System and method for recognizing speech with dialect grammars |
JP5326892B2 (ja) | 2008-12-26 | 2013-10-30 | 富士通株式会社 | 情報処理装置、プログラム、および音響モデルを生成する方法 |
CA2748695C (en) | 2008-12-31 | 2017-11-07 | Bce Inc. | System and method for unlocking a device |
US8447609B2 (en) | 2008-12-31 | 2013-05-21 | Intel Corporation | Adjustment of temporal acoustical characteristics |
US8456420B2 (en) | 2008-12-31 | 2013-06-04 | Intel Corporation | Audible list traversal |
KR101543326B1 (ko) | 2009-01-05 | 2015-08-10 | 삼성전자주식회사 | 시스템 온 칩 및 그 구동 방법 |
TW201027515A (en) | 2009-01-06 | 2010-07-16 | High Tech Comp Corp | Electronic event-recording device and method thereof |
EP2205010A1 (en) | 2009-01-06 | 2010-07-07 | BRITISH TELECOMMUNICATIONS public limited company | Messaging |
US8332205B2 (en) | 2009-01-09 | 2012-12-11 | Microsoft Corporation | Mining transliterations for out-of-vocabulary query terms |
US20100180218A1 (en) | 2009-01-15 | 2010-07-15 | International Business Machines Corporation | Editing metadata in a social network |
US10088976B2 (en) | 2009-01-15 | 2018-10-02 | Em Acquisition Corp., Inc. | Systems and methods for multiple voice document narration |
US8498867B2 (en) | 2009-01-15 | 2013-07-30 | K-Nfb Reading Technology, Inc. | Systems and methods for selection and use of multiple characters for document narration |
JP2010166478A (ja) | 2009-01-19 | 2010-07-29 | Hitachi Kokusai Electric Inc | 無線通信端末 |
EP2211336B1 (en) | 2009-01-23 | 2014-10-08 | Harman Becker Automotive Systems GmbH | Improved speech input using navigation information |
US8213911B2 (en) | 2009-01-28 | 2012-07-03 | Virtual Hold Technology Llc | Mobile communication device for establishing automated call back |
US8200489B1 (en) | 2009-01-29 | 2012-06-12 | The United States Of America As Represented By The Secretary Of The Navy | Multi-resolution hidden markov model using class specific features |
US9070282B2 (en) | 2009-01-30 | 2015-06-30 | Altorr Corp. | Smartphone control of electrical devices |
US8463806B2 (en) | 2009-01-30 | 2013-06-11 | Lexisnexis | Methods and systems for creating and using an adaptive thesaurus |
US20100197359A1 (en) | 2009-01-30 | 2010-08-05 | Harris Technology, Llc | Automatic Detection of Wireless Phone |
US8862252B2 (en) | 2009-01-30 | 2014-10-14 | Apple Inc. | Audio user interface for displayless electronic device |
US20110307491A1 (en) | 2009-02-04 | 2011-12-15 | Fisk Charles M | Digital photo organizing and tagging method |
US9489131B2 (en) | 2009-02-05 | 2016-11-08 | Apple Inc. | Method of presenting a web page for accessibility browsing |
US8254972B2 (en) | 2009-02-13 | 2012-08-28 | Sony Mobile Communications Ab | Device and method for handling messages |
US8428758B2 (en) | 2009-02-16 | 2013-04-23 | Apple Inc. | Dynamic audio ducking |
CN102369724B (zh) | 2009-02-18 | 2016-05-04 | 谷歌公司 | 自动捕获信息,例如使用文档感知设备捕获信息 |
US8032602B2 (en) | 2009-02-18 | 2011-10-04 | International Business Machines Corporation | Prioritization of recipient email messages |
US8326637B2 (en) | 2009-02-20 | 2012-12-04 | Voicebox Technologies, Inc. | System and method for processing multi-modal device interactions in a natural language voice services environment |
WO2010099352A1 (en) | 2009-02-25 | 2010-09-02 | Miri Systems, Llc | Payment system and method |
KR101041039B1 (ko) | 2009-02-27 | 2011-06-14 | 고려대학교 산학협력단 | 오디오 및 비디오 정보를 이용한 시공간 음성 구간 검출 방법 및 장치 |
ATE544291T1 (de) | 2009-02-27 | 2012-02-15 | Research In Motion Ltd | Mobile funkkommunikationsvorrichtung mit sprache- text-umwandlung und zugehörige verfahren |
US20100223131A1 (en) | 2009-02-27 | 2010-09-02 | Research In Motion Limited | Communications system providing mobile device notification based upon contact web pages and related methods |
US8280434B2 (en) | 2009-02-27 | 2012-10-02 | Research In Motion Limited | Mobile wireless communications device for hearing and/or speech impaired user |
US9280971B2 (en) | 2009-02-27 | 2016-03-08 | Blackberry Limited | Mobile wireless communications device with speech to text conversion and related methods |
US8155630B2 (en) | 2009-02-27 | 2012-04-10 | Research In Motion Limited | Communications system providing mobile device notification based upon personal interest information and calendar events |
US9646603B2 (en) | 2009-02-27 | 2017-05-09 | Longsand Limited | Various apparatus and methods for a speech recognition system |
US9171284B2 (en) | 2009-03-02 | 2015-10-27 | Microsoft Technology Licensing, Llc | Techniques to restore communications sessions for applications having conversation and meeting environments |
US8239333B2 (en) | 2009-03-03 | 2012-08-07 | Microsoft Corporation | Media tag recommendation technologies |
US8880400B2 (en) | 2009-03-03 | 2014-11-04 | Mitsubishi Electric Corporation | Voice recognition device |
US20100229100A1 (en) | 2009-03-03 | 2010-09-09 | Sprint Spectrum L.P. | Methods and Systems for Storing and Accessing Application History |
JP2010205111A (ja) | 2009-03-05 | 2010-09-16 | Nippon Telegr & Teleph Corp <Ntt> | コンテキスト再現システム、コンテキスト再現方法、第1端末装置、第2端末装置、コンテキスト取得装置、または蓄積装置、それらのプログラム |
US8805439B2 (en) | 2009-03-05 | 2014-08-12 | Lg Electronics Inc. | Mobile terminal and method for controlling the same |
US20120030554A1 (en) | 2009-03-06 | 2012-02-02 | Tomoyuki Toya | Bookmark using device, bookmark creation device, bookmark sharing system, control method and recording medium |
US8605039B2 (en) | 2009-03-06 | 2013-12-10 | Zimpl Ab | Text input |
US20100225809A1 (en) | 2009-03-09 | 2010-09-09 | Sony Corporation And Sony Electronics Inc. | Electronic book with enhanced features |
US8380507B2 (en) | 2009-03-09 | 2013-02-19 | Apple Inc. | Systems and methods for determining the language to use for speech generated by a text to speech engine |
US8165321B2 (en) | 2009-03-10 | 2012-04-24 | Apple Inc. | Intelligent clip mixing |
WO2010105245A2 (en) | 2009-03-12 | 2010-09-16 | Exbiblio B.V. | Automatically providing content associated with captured information, such as information captured in real-time |
US8286106B2 (en) | 2009-03-13 | 2012-10-09 | Oracle America, Inc. | System and method for interacting with status information on a touch screen device |
US8417526B2 (en) | 2009-03-13 | 2013-04-09 | Adacel, Inc. | Speech recognition learning system and method |
CN101833286A (zh) | 2009-03-13 | 2010-09-15 | 王俊锋 | 一种智能家居控制器 |
US20100235780A1 (en) | 2009-03-16 | 2010-09-16 | Westerman Wayne C | System and Method for Identifying Words Based on a Sequence of Keyboard Events |
US8255830B2 (en) | 2009-03-16 | 2012-08-28 | Apple Inc. | Methods and graphical user interfaces for editing on a multifunction device with a touch screen display |
CN101515952B (zh) | 2009-03-18 | 2011-04-27 | 南京邮电大学 | 多传感器手机 |
WO2010105428A1 (en) | 2009-03-19 | 2010-09-23 | Google Inc. | Input method editor |
JP2010224194A (ja) | 2009-03-23 | 2010-10-07 | Sony Corp | 音声認識装置及び音声認識方法、言語モデル生成装置及び言語モデル生成方法、並びにコンピューター・プログラム |
JP5419136B2 (ja) | 2009-03-24 | 2014-02-19 | アルパイン株式会社 | 音声出力装置 |
KR101078864B1 (ko) | 2009-03-26 | 2011-11-02 | 한국과학기술원 | 질의/문서 주제 범주 변화 분석 시스템 및 그 방법과 이를 이용한 질의 확장 기반 정보 검색 시스템 및 그 방법 |
US10191654B2 (en) | 2009-03-30 | 2019-01-29 | Touchtype Limited | System and method for inputting text into electronic devices |
US9189472B2 (en) | 2009-03-30 | 2015-11-17 | Touchtype Limited | System and method for inputting text into small screen devices |
US9424246B2 (en) | 2009-03-30 | 2016-08-23 | Touchtype Ltd. | System and method for inputting text into electronic devices |
US20100250599A1 (en) | 2009-03-30 | 2010-09-30 | Nokia Corporation | Method and apparatus for integration of community-provided place data |
GB0905457D0 (en) | 2009-03-30 | 2009-05-13 | Touchtype Ltd | System and method for inputting text into electronic devices |
GB201016385D0 (en) | 2010-09-29 | 2010-11-10 | Touchtype Ltd | System and method for inputting text into electronic devices |
US8798255B2 (en) | 2009-03-31 | 2014-08-05 | Nice Systems Ltd | Methods and apparatus for deep interaction analysis |
US8166032B2 (en) | 2009-04-09 | 2012-04-24 | MarketChorus, Inc. | System and method for sentiment-based text classification and relevancy ranking |
US20100263015A1 (en) | 2009-04-09 | 2010-10-14 | Verizon Patent And Licensing Inc. | Wireless Interface for Set Top Box |
US8805823B2 (en) | 2009-04-14 | 2014-08-12 | Sri International | Content processing systems and methods |
KR101537706B1 (ko) | 2009-04-16 | 2015-07-20 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
US8209174B2 (en) | 2009-04-17 | 2012-06-26 | Saudi Arabian Oil Company | Speaker verification system |
US20110065456A1 (en) | 2009-04-20 | 2011-03-17 | Brennan Joseph P | Cellular device deactivation system |
US9761219B2 (en) | 2009-04-21 | 2017-09-12 | Creative Technology Ltd | System and method for distributed text-to-speech synthesis and intelligibility |
US8660970B1 (en) | 2009-04-23 | 2014-02-25 | The Boeing Company | Passive learning and autonomously interactive system for leveraging user knowledge in networked environments |
US8606735B2 (en) | 2009-04-30 | 2013-12-10 | Samsung Electronics Co., Ltd. | Apparatus and method for predicting user's intention based on multimodal information |
KR101581883B1 (ko) | 2009-04-30 | 2016-01-11 | 삼성전자주식회사 | 모션 정보를 이용하는 음성 검출 장치 및 방법 |
KR101032792B1 (ko) | 2009-04-30 | 2011-05-06 | 주식회사 코오롱 | 에어백용 폴리에스테르 원단 및 그의 제조 방법 |
BRPI1012218A2 (pt) | 2009-05-08 | 2019-09-24 | Obdedge Llc | sistemas, métodos e dispositivos para monitoração e controle com base em política de uso de dispositivos móveis por operadores de veículo |
US9298823B2 (en) | 2009-05-08 | 2016-03-29 | International Business Machines Corporation | Identifying core content based on citations |
WO2010131256A1 (en) | 2009-05-13 | 2010-11-18 | Rajesh Mehra | A keyboard for linguistic scripts |
US20100293460A1 (en) | 2009-05-14 | 2010-11-18 | Budelli Joe G | Text selection method and system based on gestures |
US8498857B2 (en) | 2009-05-19 | 2013-07-30 | Tata Consultancy Services Limited | System and method for rapid prototyping of existing speech recognition solutions in different languages |
US8583511B2 (en) | 2009-05-19 | 2013-11-12 | Bradley Marshall Hendrickson | Systems and methods for storing customer purchasing and preference data and enabling a customer to pre-register orders and events |
KR101577607B1 (ko) | 2009-05-22 | 2015-12-15 | 삼성전자주식회사 | 상황 및 의도인지 기반의 언어 표현 장치 및 그 방법 |
WO2010138775A1 (en) | 2009-05-27 | 2010-12-02 | Geodelic, Inc. | Location discovery system and method |
EP2436224A4 (en) | 2009-05-28 | 2012-12-05 | Intelligent Mechatronic Sys | COMMUNICATION SYSTEM WITH PERSONAL INFORMATION MANAGEMENT AND REMOTE VEHICLE MONITORING AND CONTROL CHARACTERISTICS |
US8369822B2 (en) | 2009-05-28 | 2013-02-05 | At&T Intellectual Property I, Lp | Systems and methods for providing emergency callback procedures |
US20150294377A1 (en) | 2009-05-30 | 2015-10-15 | Edmond K. Chow | Trust network effect |
US20120310652A1 (en) | 2009-06-01 | 2012-12-06 | O'sullivan Daniel | Adaptive Human Computer Interface (AAHCI) |
US8095119B2 (en) | 2009-06-02 | 2012-01-10 | Microsoft Corporation | In-call contact information display |
EP2259252B1 (en) | 2009-06-02 | 2012-08-01 | Nuance Communications, Inc. | Speech recognition method for selecting a combination of list elements via a speech input |
US8560313B2 (en) | 2010-05-13 | 2013-10-15 | General Motors Llc | Transient noise rejection for speech recognition |
US10241752B2 (en) | 2011-09-30 | 2019-03-26 | Apple Inc. | Interface for a virtual digital assistant |
US10255566B2 (en) | 2011-06-03 | 2019-04-09 | Apple Inc. | Generating and processing task items that represent tasks to perform |
US9858925B2 (en) | 2009-06-05 | 2018-01-02 | Apple Inc. | Using context information to facilitate processing of commands in a virtual assistant |
US10540976B2 (en) | 2009-06-05 | 2020-01-21 | Apple Inc. | Contextual voice commands |
US10241644B2 (en) | 2011-06-03 | 2019-03-26 | Apple Inc. | Actionable reminder entries |
US20120327009A1 (en) | 2009-06-07 | 2012-12-27 | Apple Inc. | Devices, methods, and graphical user interfaces for accessibility using a touch-sensitive surface |
KR101562792B1 (ko) | 2009-06-10 | 2015-10-23 | 삼성전자주식회사 | 목표 예측 인터페이스 제공 장치 및 그 방법 |
US8412531B2 (en) | 2009-06-10 | 2013-04-02 | Microsoft Corporation | Touch anywhere to speak |
JP2010287063A (ja) | 2009-06-11 | 2010-12-24 | Zenrin Datacom Co Ltd | 情報提供装置、情報提供システム及びプログラム |
US8290777B1 (en) | 2009-06-12 | 2012-10-16 | Amazon Technologies, Inc. | Synchronizing the playing and displaying of digital content |
US8484027B1 (en) | 2009-06-12 | 2013-07-09 | Skyreader Media Inc. | Method for live remote narration of a digital book |
US20130219333A1 (en) | 2009-06-12 | 2013-08-22 | Adobe Systems Incorporated | Extensible Framework for Facilitating Interaction with Devices |
US8533622B2 (en) | 2009-06-17 | 2013-09-10 | Microsoft Corporation | Integrating digital book and zoom interface displays |
US8306238B2 (en) | 2009-06-17 | 2012-11-06 | Sony Ericsson Mobile Communications Ab | Method and circuit for controlling an output of an audio signal of a battery-powered device |
US20100324709A1 (en) | 2009-06-22 | 2010-12-23 | Tree Of Life Publishing | E-book reader with voice annotation |
US10353967B2 (en) | 2009-06-22 | 2019-07-16 | Microsoft Technology Licensing, Llc | Assigning relevance weights based on temporal dynamics |
US9215212B2 (en) | 2009-06-22 | 2015-12-15 | Citrix Systems, Inc. | Systems and methods for providing a visualizer for rules of an application firewall |
US20100332236A1 (en) | 2009-06-25 | 2010-12-30 | Blueant Wireless Pty Limited | Voice-triggered operation of electronic devices |
US20100330909A1 (en) | 2009-06-25 | 2010-12-30 | Blueant Wireless Pty Limited | Voice-enabled walk-through pairing of telecommunications devices |
US11012732B2 (en) | 2009-06-25 | 2021-05-18 | DISH Technologies L.L.C. | Voice enabled media presentation systems and methods |
US8219930B2 (en) | 2009-06-26 | 2012-07-10 | Verizon Patent And Licensing Inc. | Radial menu display systems and methods |
US9754224B2 (en) | 2009-06-26 | 2017-09-05 | International Business Machines Corporation | Action based to-do list |
US8983640B2 (en) | 2009-06-26 | 2015-03-17 | Intel Corporation | Controlling audio players using environmental audio analysis |
US8527278B2 (en) | 2009-06-29 | 2013-09-03 | Abraham Ben David | Intelligent home automation |
US20100332224A1 (en) | 2009-06-30 | 2010-12-30 | Nokia Corporation | Method and apparatus for converting text to audio and tactile output |
US9431006B2 (en) | 2009-07-02 | 2016-08-30 | Apple Inc. | Methods and apparatuses for automatic speech recognition |
US20110002487A1 (en) | 2009-07-06 | 2011-01-06 | Apple Inc. | Audio Channel Assignment for Audio Output in a Movable Device |
US8700399B2 (en) * | 2009-07-06 | 2014-04-15 | Sensory, Inc. | Systems and methods for hands-free voice control and voice search |
US8943423B2 (en) | 2009-07-07 | 2015-01-27 | International Business Machines Corporation | User interface indicators for changed user interface elements |
KR101083540B1 (ko) | 2009-07-08 | 2011-11-14 | 엔에이치엔(주) | 통계적인 방법을 이용한 한자에 대한 자국어 발음열 변환 시스템 및 방법 |
US8344847B2 (en) | 2009-07-09 | 2013-01-01 | Medtronic Minimed, Inc. | Coordination of control commands in a medical device system having at least one therapy delivery device and at least one wireless controller device |
US8892439B2 (en) | 2009-07-15 | 2014-11-18 | Microsoft Corporation | Combination and federation of local and remote speech recognition |
CN102483917B (zh) | 2009-07-15 | 2016-03-16 | 谷歌公司 | 针对显示文本的命令 |
US20110016421A1 (en) | 2009-07-20 | 2011-01-20 | Microsoft Corporation | Task oriented user interface platform |
US20110016150A1 (en) | 2009-07-20 | 2011-01-20 | Engstroem Jimmy | System and method for tagging multiple digital images |
US8213962B2 (en) | 2009-07-21 | 2012-07-03 | Verizon Patent And Licensing Inc. | Vehicle computer link to mobile phone |
US7953679B2 (en) | 2009-07-22 | 2011-05-31 | Xerox Corporation | Scalable indexing for layout based document retrieval and ranking |
US8378798B2 (en) | 2009-07-24 | 2013-02-19 | Research In Motion Limited | Method and apparatus for a touch-sensitive display |
US9117448B2 (en) | 2009-07-27 | 2015-08-25 | Cisco Technology, Inc. | Method and system for speech recognition using social networks |
US8239129B2 (en) | 2009-07-27 | 2012-08-07 | Robert Bosch Gmbh | Method and system for improving speech recognition accuracy by use of geographic information |
US9489577B2 (en) | 2009-07-27 | 2016-11-08 | Cxense Asa | Visual similarity for video content |
US20110029616A1 (en) | 2009-07-29 | 2011-02-03 | Guanming Wang | Unified auto-reply to an email coming from unified messaging service |
US8875219B2 (en) | 2009-07-30 | 2014-10-28 | Blackberry Limited | Apparatus and method for controlled sharing of personal information |
JP2011033874A (ja) | 2009-08-03 | 2011-02-17 | Alpine Electronics Inc | 多言語音声認識装置及び多言語音声認識辞書作成方法 |
US8340312B2 (en) | 2009-08-04 | 2012-12-25 | Apple Inc. | Differential mode noise cancellation with active real-time control for microphone-speaker combinations used in two way audio communications |
US8160877B1 (en) | 2009-08-06 | 2012-04-17 | Narus, Inc. | Hierarchical real-time speaker recognition for biometric VoIP verification and targeting |
US20110047072A1 (en) | 2009-08-07 | 2011-02-24 | Visa U.S.A. Inc. | Systems and Methods for Propensity Analysis and Validation |
US8233919B2 (en) | 2009-08-09 | 2012-07-31 | Hntb Holdings Ltd. | Intelligently providing user-specific transportation-related information |
JP5201599B2 (ja) | 2009-08-11 | 2013-06-05 | Necカシオモバイルコミュニケーションズ株式会社 | 端末装置、および、プログラム |
US20110040707A1 (en) | 2009-08-12 | 2011-02-17 | Ford Global Technologies, Llc | Intelligent music selection in vehicles |
US8768313B2 (en) | 2009-08-17 | 2014-07-01 | Digimarc Corporation | Methods and systems for image or audio recognition processing |
US8626133B2 (en) | 2009-08-19 | 2014-01-07 | Cisco Technology, Inc. | Matching a location of a contact with a task location |
US8654952B2 (en) | 2009-08-20 | 2014-02-18 | T-Mobile Usa, Inc. | Shareable applications on telecommunications devices |
KR101496649B1 (ko) | 2009-08-21 | 2015-03-02 | 삼성전자주식회사 | 복합 네트워크 망을 통한 외부 디바이스의 기능 공유 방법 및 그 장치 |
EP2341450A1 (en) | 2009-08-21 | 2011-07-06 | Mikko Kalervo Väänänen | Method and means for data searching and language translation |
US9277021B2 (en) | 2009-08-21 | 2016-03-01 | Avaya Inc. | Sending a user associated telecommunication address |
JP2011045005A (ja) | 2009-08-24 | 2011-03-03 | Fujitsu Toshiba Mobile Communications Ltd | 携帯電話機 |
EP2471064A4 (en) | 2009-08-25 | 2014-01-08 | Univ Nanyang Tech | METHOD AND SYSTEM FOR RECONSTRUCTING LANGUAGE FROM AN ENTRY SIGNAL WITH FLUIDED PARTS |
US20110054647A1 (en) | 2009-08-26 | 2011-03-03 | Nokia Corporation | Network service for an audio interface unit |
JP2011048671A (ja) | 2009-08-27 | 2011-03-10 | Kyocera Corp | 入力装置および入力装置の制御方法 |
CN101996631B (zh) | 2009-08-28 | 2014-12-03 | 国际商业机器公司 | 用于对齐文本的方法和装置 |
US20110238407A1 (en) | 2009-08-31 | 2011-09-29 | O3 Technologies, Llc | Systems and methods for speech-to-speech translation |
EP2473916A4 (en) | 2009-09-02 | 2013-07-10 | Stanford Res Inst Int | METHOD AND DEVICE FOR USING A HUMAN FEEDBACK IN AN INTELLIGENT AUTOMATED ASSISTANT |
US8624851B2 (en) | 2009-09-02 | 2014-01-07 | Amazon Technologies, Inc. | Touch-screen user interface |
US8451238B2 (en) | 2009-09-02 | 2013-05-28 | Amazon Technologies, Inc. | Touch-screen user interface |
WO2011026247A1 (en) | 2009-09-04 | 2011-03-10 | Svox Ag | Speech enhancement techniques on the power spectrum |
TW201110108A (en) | 2009-09-04 | 2011-03-16 | Chunghwa Telecom Co Ltd | Voice noise elimination method for microphone array |
US8675084B2 (en) | 2009-09-04 | 2014-03-18 | Apple Inc. | Systems and methods for remote camera control |
US20120265535A1 (en) | 2009-09-07 | 2012-10-18 | Donald Ray Bryant-Rich | Personal voice operated reminder system |
US8560300B2 (en) | 2009-09-09 | 2013-10-15 | International Business Machines Corporation | Error correction using fact repositories |
US8788267B2 (en) | 2009-09-10 | 2014-07-22 | Mitsubishi Electric Research Laboratories, Inc. | Multi-purpose contextual control |
US20110060812A1 (en) * | 2009-09-10 | 2011-03-10 | Level 3 Communications, Llc | Cache server with extensible programming framework |
US8321527B2 (en) | 2009-09-10 | 2012-11-27 | Tribal Brands | System and method for tracking user location and associated activity and responsively providing mobile device updates |
US20110066468A1 (en) | 2009-09-11 | 2011-03-17 | Internationl Business Machines Corporation | Dynamic event planning through location awareness |
WO2011032060A1 (en) | 2009-09-11 | 2011-03-17 | Telenav, Inc. | Location based system with contextual contact manager mechanism and method of operation thereof |
US10587833B2 (en) | 2009-09-16 | 2020-03-10 | Disney Enterprises, Inc. | System and method for automated network search and companion display of result relating to audio-video metadata |
US9015148B2 (en) | 2009-09-21 | 2015-04-21 | Microsoft Corporation | Suggesting related search queries during web browsing |
US8972878B2 (en) | 2009-09-21 | 2015-03-03 | Avaya Inc. | Screen icon manipulation by context and frequency of Use |
US8768308B2 (en) | 2009-09-29 | 2014-07-01 | Deutsche Telekom Ag | Apparatus and method for creating and managing personal schedules via context-sensing and actuation |
US9111538B2 (en) | 2009-09-30 | 2015-08-18 | T-Mobile Usa, Inc. | Genius button secondary commands |
KR20110036385A (ko) | 2009-10-01 | 2011-04-07 | 삼성전자주식회사 | 사용자 의도 분석 장치 및 방법 |
TW201113741A (en) | 2009-10-01 | 2011-04-16 | Htc Corp | Lock-state switching method, electronic apparatus and computer program product |
US9338274B2 (en) | 2009-10-02 | 2016-05-10 | Blackberry Limited | Method of interacting with electronic devices in a locked state and handheld electronic device configured to permit interaction when in a locked state |
US20110083079A1 (en) | 2009-10-02 | 2011-04-07 | International Business Machines Corporation | Apparatus, system, and method for improved type-ahead functionality in a type-ahead field based on activity of a user within a user interface |
JP5473520B2 (ja) | 2009-10-06 | 2014-04-16 | キヤノン株式会社 | 入力装置及びその制御方法 |
US7809550B1 (en) | 2009-10-08 | 2010-10-05 | Joan Barry Barrows | System for reading chinese characters in seconds |
US20110087685A1 (en) | 2009-10-09 | 2011-04-14 | Microsoft Corporation | Location-based service middleware |
CN101673544B (zh) | 2009-10-10 | 2012-07-04 | 上海电虹软件有限公司 | 一种基于声纹识别和定位跟踪的交叉监控方法和系统 |
US8335689B2 (en) | 2009-10-14 | 2012-12-18 | Cogi, Inc. | Method and system for efficient management of speech transcribers |
US8611876B2 (en) | 2009-10-15 | 2013-12-17 | Larry Miller | Configurable phone with interactive voice response engine |
US8510103B2 (en) | 2009-10-15 | 2013-08-13 | Paul Angott | System and method for voice recognition |
US8255217B2 (en) | 2009-10-16 | 2012-08-28 | At&T Intellectual Property I, Lp | Systems and methods for creating and using geo-centric language models |
US8451112B2 (en) | 2009-10-19 | 2013-05-28 | Qualcomm Incorporated | Methods and apparatus for estimating departure time based on known calendar events |
US8332748B1 (en) | 2009-10-22 | 2012-12-11 | Google Inc. | Multi-directional auto-complete menu |
US8554537B2 (en) | 2009-10-23 | 2013-10-08 | Samsung Electronics Co., Ltd | Method and device for transliteration |
US8326624B2 (en) | 2009-10-26 | 2012-12-04 | International Business Machines Corporation | Detecting and communicating biometrics of recorded voice during transcription process |
US9197736B2 (en) | 2009-12-31 | 2015-11-24 | Digimarc Corporation | Intuitive computing methods and systems |
US20110099507A1 (en) | 2009-10-28 | 2011-04-28 | Google Inc. | Displaying a collection of interactive elements that trigger actions directed to an item |
US20110099157A1 (en) * | 2009-10-28 | 2011-04-28 | Google Inc. | Computer-to-Computer Communications |
US8386574B2 (en) | 2009-10-29 | 2013-02-26 | Xerox Corporation | Multi-modality classification for one-class classification in social networks |
US9247421B2 (en) * | 2009-10-30 | 2016-01-26 | Samsung Electronics Co., Ltd | Mobile device, content delivery apparatus, content providing apparatus and control method thereof |
US8315617B2 (en) | 2009-10-31 | 2012-11-20 | Btpatent Llc | Controlling mobile device functions |
US8832205B2 (en) | 2009-11-02 | 2014-09-09 | Lextine Software, Llc | System and method for extracting calendar events from free-form email |
JP5622744B2 (ja) | 2009-11-06 | 2014-11-12 | 株式会社東芝 | 音声認識装置 |
US20120137367A1 (en) | 2009-11-06 | 2012-05-31 | Cataphora, Inc. | Continuous anomaly detection based on behavior modeling and heterogeneous information analysis |
US8321209B2 (en) | 2009-11-10 | 2012-11-27 | Research In Motion Limited | System and method for low overhead frequency domain voice authentication |
WO2011060106A1 (en) | 2009-11-10 | 2011-05-19 | Dulcetta, Inc. | Dynamic audio playback of soundtracks for electronic visual works |
US8358747B2 (en) | 2009-11-10 | 2013-01-22 | International Business Machines Corporation | Real time automatic caller speech profiling |
US9171541B2 (en) | 2009-11-10 | 2015-10-27 | Voicebox Technologies Corporation | System and method for hybrid processing in a natural language voice services environment |
US20110111724A1 (en) | 2009-11-10 | 2011-05-12 | David Baptiste | Method and apparatus for combating distracted driving |
WO2011059997A1 (en) * | 2009-11-10 | 2011-05-19 | Voicebox Technologies, Inc. | System and method for providing a natural language content dedication service |
US8682649B2 (en) | 2009-11-12 | 2014-03-25 | Apple Inc. | Sentiment prediction from textual data |
US9113264B2 (en) | 2009-11-12 | 2015-08-18 | Robert H. Frater | Speakerphone and/or microphone arrays and methods and systems of the using the same |
US8732180B2 (en) | 2009-11-12 | 2014-05-20 | Apple Inc. | Recommending media items |
US20130166303A1 (en) | 2009-11-13 | 2013-06-27 | Adobe Systems Incorporated | Accessing media data using metadata repository |
US8712759B2 (en) | 2009-11-13 | 2014-04-29 | Clausal Computing Oy | Specializing disambiguation of a natural language expression |
KR20110052863A (ko) | 2009-11-13 | 2011-05-19 | 삼성전자주식회사 | 모바일 기기 및 그 제어 신호 생성 방법 |
TWI391915B (zh) | 2009-11-17 | 2013-04-01 | Inst Information Industry | 語音變異模型建立裝置、方法及應用該裝置之語音辨識系統和方法 |
KR101595029B1 (ko) | 2009-11-18 | 2016-02-17 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
US8358752B2 (en) | 2009-11-19 | 2013-01-22 | At&T Mobility Ii Llc | User profile based speech to text conversion for visual voice mail |
US8630971B2 (en) | 2009-11-20 | 2014-01-14 | Indian Institute Of Science | System and method of using Multi Pattern Viterbi Algorithm for joint decoding of multiple patterns |
US8358749B2 (en) | 2009-11-21 | 2013-01-22 | At&T Intellectual Property I, L.P. | System and method to search a media content database based on voice input data |
KR101960835B1 (ko) | 2009-11-24 | 2019-03-21 | 삼성전자주식회사 | 대화 로봇을 이용한 일정 관리 시스템 및 그 방법 |
US20110153330A1 (en) | 2009-11-27 | 2011-06-23 | i-SCROLL | System and method for rendering text synchronized audio |
US8731901B2 (en) | 2009-12-02 | 2014-05-20 | Content Savvy, Inc. | Context aware back-transliteration and translation of names and common phrases using web resources |
JP5844274B2 (ja) | 2009-12-04 | 2016-01-13 | ティヴォ インク | 多機能マルチメディア装置 |
US8396888B2 (en) | 2009-12-04 | 2013-03-12 | Google Inc. | Location-based searching using a search area that corresponds to a geographical location of a computing device |
US20110137664A1 (en) | 2009-12-09 | 2011-06-09 | International Business Machines Corporation | Providing Schedule Related Information to External Entities |
KR101622111B1 (ko) | 2009-12-11 | 2016-05-18 | 삼성전자 주식회사 | 대화 시스템 및 그의 대화 방법 |
US8812990B2 (en) | 2009-12-11 | 2014-08-19 | Nokia Corporation | Method and apparatus for presenting a first person world view of content |
US8224300B2 (en) | 2009-12-11 | 2012-07-17 | Alpine Electronics, Inc. | Method and apparatus to enhance navigation user experience for a smart phone device |
US8543917B2 (en) | 2009-12-11 | 2013-09-24 | Nokia Corporation | Method and apparatus for presenting a first-person world view of content |
US20110144857A1 (en) | 2009-12-14 | 2011-06-16 | Theodore Charles Wingrove | Anticipatory and adaptive automobile hmi |
US9766089B2 (en) | 2009-12-14 | 2017-09-19 | Nokia Technologies Oy | Method and apparatus for correlating and navigating between a live image and a prerecorded panoramic image |
US8892443B2 (en) | 2009-12-15 | 2014-11-18 | At&T Intellectual Property I, L.P. | System and method for combining geographic metadata in automatic speech recognition language and acoustic models |
KR101211796B1 (ko) | 2009-12-16 | 2012-12-13 | 포항공과대학교 산학협력단 | 외국어 학습 장치 및 그 제공 방법 |
US8341037B2 (en) | 2009-12-18 | 2012-12-25 | Apple Inc. | Mixed source media playback |
US9100809B2 (en) | 2009-12-21 | 2015-08-04 | Julia Olincy Olincy | Automatic response option mobile system for responding to incoming texts or calls or both |
US20110154193A1 (en) | 2009-12-21 | 2011-06-23 | Nokia Corporation | Method and Apparatus for Text Input |
US8385982B2 (en) | 2009-12-21 | 2013-02-26 | At&T Intellectual Property I, L.P. | Controlling use of a communications device in accordance with motion of the device |
US8805711B2 (en) | 2009-12-22 | 2014-08-12 | International Business Machines Corporation | Two-layer data architecture for reservation management systems |
EP4318463A3 (en) | 2009-12-23 | 2024-02-28 | Google LLC | Multi-modal input on an electronic device |
KR20110072847A (ko) | 2009-12-23 | 2011-06-29 | 삼성전자주식회사 | 열려진 사용자 의도 처리를 위한 대화관리 시스템 및 방법 |
US20110161309A1 (en) | 2009-12-29 | 2011-06-30 | Lx1 Technology Limited | Method Of Sorting The Result Set Of A Search Engine |
US8988356B2 (en) | 2009-12-31 | 2015-03-24 | Google Inc. | Touch sensor and touchscreen user input combination |
US8479107B2 (en) | 2009-12-31 | 2013-07-02 | Nokia Corporation | Method and apparatus for fluid graphical user interface |
US8494852B2 (en) | 2010-01-05 | 2013-07-23 | Google Inc. | Word-level correction of speech input |
US8600743B2 (en) | 2010-01-06 | 2013-12-03 | Apple Inc. | Noise profile determination for voice-related feature |
US20110167350A1 (en) | 2010-01-06 | 2011-07-07 | Apple Inc. | Assist Features For Content Display Device |
WO2011082521A1 (en) | 2010-01-06 | 2011-07-14 | Zoran Corporation | Method and apparatus for voice controlled operation of a media player |
US8311838B2 (en) | 2010-01-13 | 2012-11-13 | Apple Inc. | Devices and methods for identifying a prompt corresponding to a voice input in a sequence of prompts |
US8381107B2 (en) | 2010-01-13 | 2013-02-19 | Apple Inc. | Adaptive audio feedback system and method |
US8334842B2 (en) | 2010-01-15 | 2012-12-18 | Microsoft Corporation | Recognizing user intent in motion capture system |
US20110179372A1 (en) | 2010-01-15 | 2011-07-21 | Bradford Allen Moore | Automatic Keyboard Layout Determination |
US10553209B2 (en) | 2010-01-18 | 2020-02-04 | Apple Inc. | Systems and methods for hands-free notification summaries |
US10276170B2 (en) | 2010-01-18 | 2019-04-30 | Apple Inc. | Intelligent automated assistant |
US10679605B2 (en) | 2010-01-18 | 2020-06-09 | Apple Inc. | Hands-free list-reading by intelligent automated assistant |
US10705794B2 (en) | 2010-01-18 | 2020-07-07 | Apple Inc. | Automatically adapting user interfaces for hands-free interaction |
US20110179002A1 (en) | 2010-01-19 | 2011-07-21 | Dell Products L.P. | System and Method for a Vector-Space Search Engine |
US8417575B2 (en) | 2010-01-19 | 2013-04-09 | Apple Inc. | On-device offline purchases using credits |
US8301121B2 (en) | 2010-01-22 | 2012-10-30 | Sony Ericsson Mobile Communications Ab | Regulating alerts generated by communication terminals responsive to sensed movement |
US8626511B2 (en) | 2010-01-22 | 2014-01-07 | Google Inc. | Multi-dimensional disambiguation of voice commands |
US20110184736A1 (en) | 2010-01-26 | 2011-07-28 | Benjamin Slotznick | Automated method of recognizing inputted information items and selecting information items |
US8346590B2 (en) | 2010-01-27 | 2013-01-01 | Google Inc. | Automatically schedule and re-schedule meetings through search interface |
US8406745B1 (en) | 2010-01-28 | 2013-03-26 | Sprint Communications Company L.P. | Synchronization of voice mail greeting and email auto-reply by a wireless communication device |
JP5633042B2 (ja) | 2010-01-28 | 2014-12-03 | 本田技研工業株式会社 | 音声認識装置、音声認識方法、及び音声認識ロボット |
WO2011093025A1 (ja) | 2010-01-29 | 2011-08-04 | 日本電気株式会社 | 入力支援システム、方法、およびプログラム |
US8687777B1 (en) | 2010-02-03 | 2014-04-01 | Tal Lavian | Systems and methods for visual presentation and selection of IVR menu |
US8600967B2 (en) | 2010-02-03 | 2013-12-03 | Apple Inc. | Automatic organization of browsing histories |
US8886541B2 (en) | 2010-02-04 | 2014-11-11 | Sony Corporation | Remote controller with position actuatated voice transmission |
US8645287B2 (en) | 2010-02-04 | 2014-02-04 | Microsoft Corporation | Image tagging based upon cross domain context |
US8179370B1 (en) | 2010-02-09 | 2012-05-15 | Google Inc. | Proximity based keystroke resolution |
US8751218B2 (en) | 2010-02-09 | 2014-06-10 | Siemens Aktiengesellschaft | Indexing content at semantic level |
US9413869B2 (en) | 2010-02-10 | 2016-08-09 | Qualcomm Incorporated | Mobile device having plurality of input modes |
US8812056B2 (en) | 2010-02-12 | 2014-08-19 | Christopher D. Higginbotham | Voice-based command driven computer implemented method |
US8782556B2 (en) | 2010-02-12 | 2014-07-15 | Microsoft Corporation | User-centric soft keyboard predictive technologies |
US8402018B2 (en) | 2010-02-12 | 2013-03-19 | Korea Advanced Institute Of Science And Technology | Semantic search system using semantic ranking scheme |
US9965165B2 (en) | 2010-02-19 | 2018-05-08 | Microsoft Technology Licensing, Llc | Multi-finger gestures |
US8850360B2 (en) | 2010-02-23 | 2014-09-30 | Hewlett-Packard Development Company, L.P. | Skipping through electronic content on an electronic device |
US9665344B2 (en) | 2010-02-24 | 2017-05-30 | GM Global Technology Operations LLC | Multi-modal input system for a voice-based menu and content navigation service |
US8682667B2 (en) | 2010-02-25 | 2014-03-25 | Apple Inc. | User profiling for selecting user specific voice input processing information |
US9710556B2 (en) | 2010-03-01 | 2017-07-18 | Vcvc Iii Llc | Content recommendation based on collections of entities |
US20110218855A1 (en) | 2010-03-03 | 2011-09-08 | Platformation, Inc. | Offering Promotions Based on Query Analysis |
US20120066303A1 (en) | 2010-03-03 | 2012-03-15 | Waldeck Technology, Llc | Synchronized group location updates |
US8502837B2 (en) | 2010-03-04 | 2013-08-06 | Research In Motion Limited | System and method for activating components on an electronic device using orientation data |
US8903847B2 (en) | 2010-03-05 | 2014-12-02 | International Business Machines Corporation | Digital media voice tags in social networks |
US8948515B2 (en) | 2010-03-08 | 2015-02-03 | Sightera Technologies Ltd. | Method and system for classifying one or more images |
US8521513B2 (en) | 2010-03-12 | 2013-08-27 | Microsoft Corporation | Localization for interactive voice response systems |
KR20130001261A (ko) | 2010-03-12 | 2013-01-03 | 뉘앙스 커뮤니케이션즈, 인코포레이티드 | 이동 전화의 터치 스크린과 함께 사용하기 위한 다중 모드 문자 입력 시스템 |
US20110228913A1 (en) | 2010-03-16 | 2011-09-22 | Telcordia Technologies, Inc. | Automatic extraction of information from ongoing voice communication system and methods |
US8374864B2 (en) | 2010-03-17 | 2013-02-12 | Cisco Technology, Inc. | Correlation of transcribed text with corresponding audio |
US20110231218A1 (en) | 2010-03-18 | 2011-09-22 | Tovar Tom C | Systems and Methods for Providing Reminders for a Task List |
CA2792336C (en) | 2010-03-19 | 2018-07-24 | Digimarc Corporation | Intuitive computing methods and systems |
US9323756B2 (en) | 2010-03-22 | 2016-04-26 | Lenovo (Singapore) Pte. Ltd. | Audio book and e-book synchronization |
US8554280B2 (en) | 2010-03-23 | 2013-10-08 | Ebay Inc. | Free-form entries during payment processes |
US20110239111A1 (en) | 2010-03-24 | 2011-09-29 | Avaya Inc. | Spell checker interface |
US20110238676A1 (en) | 2010-03-25 | 2011-09-29 | Palm, Inc. | System and method for data capture, storage, and retrieval |
US9628831B2 (en) * | 2010-03-25 | 2017-04-18 | Whatsapp, Inc. | Multimedia transcoding method and system for mobile devices |
US8428759B2 (en) | 2010-03-26 | 2013-04-23 | Google Inc. | Predictive pre-recording of audio for voice input |
WO2011119168A1 (en) | 2010-03-26 | 2011-09-29 | Nuance Communications, Inc. | Context based voice activity detection sensitivity |
US20110238412A1 (en) | 2010-03-26 | 2011-09-29 | Antoine Ezzat | Method for Constructing Pronunciation Dictionaries |
US9378202B2 (en) | 2010-03-26 | 2016-06-28 | Virtuoz Sa | Semantic clustering |
US8296380B1 (en) | 2010-04-01 | 2012-10-23 | Kel & Partners LLC | Social media based messaging systems and methods |
US8930176B2 (en) | 2010-04-01 | 2015-01-06 | Microsoft Corporation | Interactive multilingual word-alignment techniques |
US20110242007A1 (en) | 2010-04-01 | 2011-10-06 | Gray Theodore W | E-Book with User-Manipulatable Graphical Objects |
WO2011127242A2 (en) | 2010-04-07 | 2011-10-13 | Max Value Solutions INTL, LLC | Method and system for name pronunciation guide services |
US8448084B2 (en) | 2010-04-08 | 2013-05-21 | Twitter, Inc. | User interface mechanics |
KR101369810B1 (ko) | 2010-04-09 | 2014-03-05 | 이초강 | 로봇을 위한 경험적 상황인식 방법을 실행하는 프로그램을 기록한 컴퓨터 판독가능한 기록 매체. |
US8810684B2 (en) | 2010-04-09 | 2014-08-19 | Apple Inc. | Tagging images in a mobile communications device using a contacts list |
KR101681281B1 (ko) | 2010-04-12 | 2016-12-12 | 구글 인코포레이티드 | 입력 방법 에디터에 대한 확장 프레임워크 |
JP5315289B2 (ja) | 2010-04-12 | 2013-10-16 | トヨタ自動車株式会社 | オペレーティングシステム及びオペレーティング方法 |
CN102214187B (zh) | 2010-04-12 | 2017-03-01 | 阿里巴巴集团控股有限公司 | 复合事件处理方法及装置 |
US8140567B2 (en) | 2010-04-13 | 2012-03-20 | Microsoft Corporation | Measuring entity extraction complexity |
US8265928B2 (en) | 2010-04-14 | 2012-09-11 | Google Inc. | Geotagged environmental audio for enhanced speech recognition accuracy |
US8756233B2 (en) | 2010-04-16 | 2014-06-17 | Video Semantics | Semantic segmentation and tagging engine |
US8595014B2 (en) | 2010-04-19 | 2013-11-26 | Qualcomm Incorporated | Providing audible navigation system direction updates during predetermined time windows so as to minimize impact on conversations |
US20110260829A1 (en) | 2010-04-21 | 2011-10-27 | Research In Motion Limited | Method of providing security on a portable electronic device having a touch-sensitive display |
WO2011133543A1 (en) | 2010-04-21 | 2011-10-27 | Proteus Biomedical, Inc. | Diagnostic system and method |
US20110264495A1 (en) | 2010-04-22 | 2011-10-27 | Apple Inc. | Aggregation of tagged media item information |
US20110264999A1 (en) | 2010-04-23 | 2011-10-27 | Research In Motion Limited | Electronic device including touch-sensitive input device and method of controlling same |
US8452037B2 (en) | 2010-05-05 | 2013-05-28 | Apple Inc. | Speaker clip |
US8380504B1 (en) | 2010-05-06 | 2013-02-19 | Sprint Communications Company L.P. | Generation of voice profiles |
US8756571B2 (en) | 2010-05-07 | 2014-06-17 | Hewlett-Packard Development Company, L.P. | Natural language text instructions |
US8938436B2 (en) | 2010-05-10 | 2015-01-20 | Verizon Patent And Licensing Inc. | System for and method of providing reusable software service information based on natural language queries |
JP2011238022A (ja) | 2010-05-11 | 2011-11-24 | Panasonic Corp | 端末、コンテンツの利用の把握方法およびコンテンツの利用システム |
US20110279368A1 (en) | 2010-05-12 | 2011-11-17 | Microsoft Corporation | Inferring user intent to engage a motion capture system |
US20110283189A1 (en) | 2010-05-12 | 2011-11-17 | Rovi Technologies Corporation | Systems and methods for adjusting media guide interaction modes |
US8982738B2 (en) * | 2010-05-13 | 2015-03-17 | Futurewei Technologies, Inc. | System, apparatus for content delivery for internet traffic and methods thereof |
US9015139B2 (en) | 2010-05-14 | 2015-04-21 | Rovi Guides, Inc. | Systems and methods for performing a search based on a media content snapshot image |
US8745091B2 (en) | 2010-05-18 | 2014-06-03 | Integro, Inc. | Electronic document classification |
US8392186B2 (en) | 2010-05-18 | 2013-03-05 | K-Nfb Reading Technology, Inc. | Audio synchronization for document narration with user-selected playback |
US8694313B2 (en) | 2010-05-19 | 2014-04-08 | Google Inc. | Disambiguation of contact information using historical data |
US8522283B2 (en) | 2010-05-20 | 2013-08-27 | Google Inc. | Television remote control data transfer |
US9552355B2 (en) | 2010-05-20 | 2017-01-24 | Xerox Corporation | Dynamic bi-phrases for statistical machine translation |
US9236047B2 (en) | 2010-05-21 | 2016-01-12 | Microsoft Technology Licensing, Llc | Voice stream augmented note taking |
WO2011143827A1 (en) | 2010-05-21 | 2011-11-24 | Google Inc. | Input method editor |
US8606579B2 (en) | 2010-05-24 | 2013-12-10 | Microsoft Corporation | Voice print identification for identifying speakers |
US9569549B1 (en) | 2010-05-25 | 2017-02-14 | Amazon Technologies, Inc. | Location based recommendation and tagging of media content items |
JP2011250027A (ja) | 2010-05-25 | 2011-12-08 | Panasonic Electric Works Co Ltd | リモートコントロール機器及び情報通信システム |
US8468012B2 (en) | 2010-05-26 | 2013-06-18 | Google Inc. | Acoustic model adaptation using geographic information |
WO2011150730A1 (zh) | 2010-05-31 | 2011-12-08 | 百度在线网络技术(北京)有限公司 | 一种用于英文与另一种文字混合输入的方法和设备 |
US8639516B2 (en) | 2010-06-04 | 2014-01-28 | Apple Inc. | User-specific noise suppression for voice quality improvements |
US8954425B2 (en) | 2010-06-08 | 2015-02-10 | Microsoft Corporation | Snippet extraction and ranking |
US8458115B2 (en) | 2010-06-08 | 2013-06-04 | Microsoft Corporation | Mining topic-related aspects from user generated content |
ES2534047T3 (es) | 2010-06-08 | 2015-04-16 | Vodafone Holding Gmbh | Tarjeta inteligente con micrófono |
US20110306426A1 (en) | 2010-06-10 | 2011-12-15 | Microsoft Corporation | Activity Participation Based On User Intent |
US20110307810A1 (en) | 2010-06-11 | 2011-12-15 | Isreal Hilerio | List integration |
US8234111B2 (en) | 2010-06-14 | 2012-07-31 | Google Inc. | Speech and noise models for speech recognition |
US20110314003A1 (en) | 2010-06-17 | 2011-12-22 | Microsoft Corporation | Template concatenation for capturing multiple concepts in a voice query |
US8504404B2 (en) | 2010-06-17 | 2013-08-06 | Google Inc. | Distance and location-aware scheduling assistance in a calendar system with notification of potential conflicts |
US9443071B2 (en) | 2010-06-18 | 2016-09-13 | At&T Intellectual Property I, L.P. | Proximity based device security |
US8620890B2 (en) | 2010-06-18 | 2013-12-31 | Accelerated Vision Group Llc | System and method of semantic based searching |
US8375320B2 (en) | 2010-06-22 | 2013-02-12 | Microsoft Corporation | Context-based task generation |
EP2400373A1 (en) | 2010-06-22 | 2011-12-28 | Vodafone Holding GmbH | Inputting symbols into an electronic device having a touch-screen |
US9009592B2 (en) | 2010-06-22 | 2015-04-14 | Microsoft Technology Licensing, Llc | Population of lists and tasks from captured voice and audio content |
US20110313803A1 (en) | 2010-06-22 | 2011-12-22 | Microsoft Corporation | Social Task Lists |
US8581844B2 (en) | 2010-06-23 | 2013-11-12 | Google Inc. | Switching between a first operational mode and a second operational mode using a natural motion gesture |
US8655901B1 (en) | 2010-06-23 | 2014-02-18 | Google Inc. | Translation-based query pattern mining |
US11068657B2 (en) | 2010-06-28 | 2021-07-20 | Skyscanner Limited | Natural language question answering system and method based on deep semantics |
JP5323770B2 (ja) | 2010-06-30 | 2013-10-23 | 日本放送協会 | ユーザ指示取得装置、ユーザ指示取得プログラムおよびテレビ受像機 |
US8250071B1 (en) | 2010-06-30 | 2012-08-21 | Amazon Technologies, Inc. | Disambiguation of term meaning |
US8411874B2 (en) | 2010-06-30 | 2013-04-02 | Google Inc. | Removing noise from audio |
CN101894547A (zh) | 2010-06-30 | 2010-11-24 | 北京捷通华声语音技术有限公司 | 一种语音合成方法和系统 |
US20120005602A1 (en) | 2010-07-02 | 2012-01-05 | Nokia Corporation | Methods and apparatuses for facilitating task switching |
EP2402867B1 (en) | 2010-07-02 | 2018-08-22 | Accenture Global Services Limited | A computer-implemented method, a computer program product and a computer system for image processing |
US8699821B2 (en) | 2010-07-05 | 2014-04-15 | Apple Inc. | Aligning images |
US20120010886A1 (en) | 2010-07-06 | 2012-01-12 | Javad Razavilar | Language Identification |
US8848882B2 (en) | 2010-07-07 | 2014-09-30 | Verizon Patent And Licensing Inc. | System for and method of measuring caller interactions during a call session |
US8249556B2 (en) | 2010-07-13 | 2012-08-21 | Google Inc. | Securing a mobile computing device |
US8260247B2 (en) | 2010-07-21 | 2012-09-04 | Research In Motion Limited | Portable electronic device and method of operation |
US9104670B2 (en) | 2010-07-21 | 2015-08-11 | Apple Inc. | Customized search or acquisition of digital media assets |
US9786159B2 (en) | 2010-07-23 | 2017-10-10 | Tivo Solutions Inc. | Multi-function remote control device |
EP2596647B1 (en) | 2010-07-23 | 2016-01-06 | Sonova AG | Hearing system and method for operating a hearing system |
US8861925B1 (en) | 2010-07-28 | 2014-10-14 | Intuit Inc. | Methods and systems for audio-visual synchronization |
JP5606205B2 (ja) | 2010-07-28 | 2014-10-15 | 京セラ株式会社 | 携帯端末装置 |
US8790222B2 (en) | 2010-07-29 | 2014-07-29 | George Burger | Single belt omni directional treadmill |
US8694537B2 (en) | 2010-07-29 | 2014-04-08 | Soundhound, Inc. | Systems and methods for enabling natural language processing |
KR101699720B1 (ko) | 2010-08-03 | 2017-01-26 | 삼성전자주식회사 | 음성명령 인식 장치 및 음성명령 인식 방법 |
BRPI1004128A2 (pt) | 2010-08-04 | 2012-04-10 | Magneti Marelli Sist S Automotivos Ind E Com Ltda | definição dos parámetros chave de nìvel superior para sensor lógico de biodiesel |
US8775156B2 (en) | 2010-08-05 | 2014-07-08 | Google Inc. | Translating languages in response to device motion |
US9349368B1 (en) | 2010-08-05 | 2016-05-24 | Google Inc. | Generating an audio notification based on detection of a triggering event |
US8359020B2 (en) | 2010-08-06 | 2013-01-22 | Google Inc. | Automatically monitoring for voice input based on context |
US8402533B2 (en) | 2010-08-06 | 2013-03-19 | Google Inc. | Input to locked computing device |
US8731939B1 (en) | 2010-08-06 | 2014-05-20 | Google Inc. | Routing queries based on carrier phrase registration |
US8473289B2 (en) | 2010-08-06 | 2013-06-25 | Google Inc. | Disambiguating input based on context |
WO2012019637A1 (en) | 2010-08-09 | 2012-02-16 | Jadhav, Shubhangi Mahadeo | Visual music playlist creation and visual music track exploration |
CN101951553B (zh) | 2010-08-17 | 2012-10-10 | 深圳市车音网科技有限公司 | 基于语音命令的导航方法及系统 |
US8719006B2 (en) | 2010-08-27 | 2014-05-06 | Apple Inc. | Combined statistical and rule-based part-of-speech tagging for text-to-speech synthesis |
KR101445990B1 (ko) | 2010-08-27 | 2014-09-29 | 인텔 코포레이션 | 디지털 온-스크린 그래픽을 증대시키는 기법 |
JP5695199B2 (ja) | 2010-08-30 | 2015-04-01 | 本田技研工業株式会社 | 対話システムにおける思考追跡および行動選択 |
US8478519B2 (en) | 2010-08-30 | 2013-07-02 | Google Inc. | Providing results to parameterless search queries |
US8225137B2 (en) * | 2010-09-04 | 2012-07-17 | Cisco Technology, Inc. | System and method for providing media server redundancy in a network environment |
US9800721B2 (en) | 2010-09-07 | 2017-10-24 | Securus Technologies, Inc. | Multi-party conversation analyzer and logger |
US8341142B2 (en) | 2010-09-08 | 2012-12-25 | Nuance Communications, Inc. | Methods and apparatus for searching the Internet |
CN103339623B (zh) | 2010-09-08 | 2018-05-25 | 纽昂斯通讯公司 | 涉及因特网搜索的方法和设备 |
US20120059655A1 (en) | 2010-09-08 | 2012-03-08 | Nuance Communications, Inc. | Methods and apparatus for providing input to a speech-enabled application program |
US8700987B2 (en) | 2010-09-09 | 2014-04-15 | Sony Corporation | Annotating E-books / E-magazines with application results and function calls |
US9538229B2 (en) | 2010-09-15 | 2017-01-03 | Verizon Patent And Licensing Inc. | Media experience for touch screen devices |
US8560229B1 (en) | 2010-09-15 | 2013-10-15 | Google Inc. | Sensor based activity detection |
US20120068937A1 (en) | 2010-09-16 | 2012-03-22 | Sony Ericsson Mobile Communications Ab | Quick input language/virtual keyboard/ language dictionary change on a touch screen device |
US20120078635A1 (en) | 2010-09-24 | 2012-03-29 | Apple Inc. | Voice control system |
KR20120031722A (ko) | 2010-09-27 | 2012-04-04 | 삼성전자주식회사 | 동적 응답 생성 장치 및 방법 |
CN101937194B (zh) | 2010-09-27 | 2012-12-19 | 鸿富锦精密工业(深圳)有限公司 | 具有学习功能的智能控制系统和方法 |
US8719014B2 (en) | 2010-09-27 | 2014-05-06 | Apple Inc. | Electronic device with text error correction based on voice recognition data |
US8594997B2 (en) | 2010-09-27 | 2013-11-26 | Sap Ag | Context-aware conversational user interface |
CN102436456B (zh) | 2010-09-29 | 2016-03-30 | 国际商业机器公司 | 用于对命名实体进行分类的方法和装置 |
US10037319B2 (en) | 2010-09-29 | 2018-07-31 | Touchtype Limited | User input prediction |
US8812321B2 (en) | 2010-09-30 | 2014-08-19 | At&T Intellectual Property I, L.P. | System and method for combining speech recognition outputs from a plurality of domain-specific speech recognizers via machine learning |
US8644519B2 (en) | 2010-09-30 | 2014-02-04 | Apple Inc. | Electronic devices with improved audio |
US20120084248A1 (en) | 2010-09-30 | 2012-04-05 | Microsoft Corporation | Providing suggestions based on user intent |
US20120084634A1 (en) | 2010-10-05 | 2012-04-05 | Sony Corporation | Method and apparatus for annotating text |
US8606293B2 (en) | 2010-10-05 | 2013-12-10 | Qualcomm Incorporated | Mobile device location estimation using environmental information |
US9679256B2 (en) | 2010-10-06 | 2017-06-13 | The Chancellor, Masters And Scholars Of The University Of Cambridge | Automated assessment of examination scripts |
US10900799B2 (en) | 2010-10-12 | 2021-01-26 | Toyota Motor Engineering & Manufacturing North America, Inc. | Systems and methods for determining a destination location from a communication |
DE112011103447T5 (de) | 2010-10-15 | 2013-08-22 | Intelligent Mechatronic Systems, Inc. | Durch implizite Zuordnung und Polymorphismus gesteuerte Mensch-Maschine-Wechselwirkung |
JP5572059B2 (ja) | 2010-10-21 | 2014-08-13 | 京セラ株式会社 | 表示装置 |
US8335774B2 (en) * | 2010-10-28 | 2012-12-18 | Google Inc. | Replacing a master media file |
US20120108221A1 (en) | 2010-10-28 | 2012-05-03 | Microsoft Corporation | Augmenting communication sessions with applications |
CN102971787B (zh) | 2010-10-29 | 2014-04-23 | 安徽科大讯飞信息科技股份有限公司 | 录音结束点检测方法及系统 |
US20120110456A1 (en) | 2010-11-01 | 2012-05-03 | Microsoft Corporation | Integrated voice command modal user interface |
US8660531B2 (en) | 2010-11-03 | 2014-02-25 | Blackberry Limited | Access to locked functions |
US20120116770A1 (en) | 2010-11-08 | 2012-05-10 | Ming-Fu Chen | Speech data retrieving and presenting device |
US8881057B2 (en) | 2010-11-09 | 2014-11-04 | Blackberry Limited | Methods and apparatus to display mobile device contexts |
US20120124172A1 (en) * | 2010-11-15 | 2012-05-17 | Google Inc. | Providing Different Versions of a Media File |
US8352576B2 (en) * | 2010-11-15 | 2013-01-08 | Google Inc. | Media file access |
SG190312A1 (en) | 2010-11-16 | 2013-06-28 | Shardul Suresh Shroff | System and method for providing virtual arbitration |
US20120124126A1 (en) | 2010-11-17 | 2012-05-17 | Microsoft Corporation | Contextual and task focused computing |
US10144440B2 (en) | 2010-11-17 | 2018-12-04 | General Electric Company | Methods and systems for data communications |
US9484018B2 (en) | 2010-11-23 | 2016-11-01 | At&T Intellectual Property I, L.P. | System and method for building and evaluating automatic speech recognition via an application programmer interface |
US8938216B2 (en) | 2010-11-24 | 2015-01-20 | Cisco Technology, Inc. | Geographical location information/signal quality-context based recording and playback of multimedia data from a conference session |
US8489625B2 (en) | 2010-11-29 | 2013-07-16 | Microsoft Corporation | Mobile query suggestions with time-location awareness |
US9105008B2 (en) | 2010-11-29 | 2015-08-11 | Yahoo! Inc. | Detecting controversial events |
US8862458B2 (en) | 2010-11-30 | 2014-10-14 | Sap Ag | Natural language interface |
WO2012074338A2 (ko) | 2010-12-02 | 2012-06-07 | 에스케이텔레콤 주식회사 | 자연어 및 수학식 처리 방법과 그를 위한 장치 |
JP5652913B2 (ja) | 2010-12-03 | 2015-01-14 | アイシン・エィ・ダブリュ株式会社 | 車載端末装置 |
US8312096B2 (en) | 2010-12-08 | 2012-11-13 | Google Inc. | Priority inbox notifications and synchronization for mobile messaging application |
US9135241B2 (en) | 2010-12-08 | 2015-09-15 | At&T Intellectual Property I, L.P. | System and method for learning latent representations for natural language tasks |
US9244606B2 (en) | 2010-12-20 | 2016-01-26 | Apple Inc. | Device, method, and graphical user interface for navigation of concurrently open software applications |
US20120158293A1 (en) | 2010-12-21 | 2012-06-21 | General Electric Company | Methods and systems for dynamically providing users with appointment reminders |
US20120158422A1 (en) | 2010-12-21 | 2012-06-21 | General Electric Company | Methods and systems for scheduling appointments in healthcare systems |
US8666726B2 (en) | 2010-12-21 | 2014-03-04 | Nuance Communications, Inc. | Sample clustering to reduce manual transcriptions in speech recognition system |
US8532377B2 (en) | 2010-12-22 | 2013-09-10 | Xerox Corporation | Image ranking based on abstract concepts |
US20130035086A1 (en) | 2010-12-22 | 2013-02-07 | Logitech Europe S.A. | Remote control system for providing content suggestions |
US20120166959A1 (en) | 2010-12-23 | 2012-06-28 | Microsoft Corporation | Surfacing content including content accessed from jump list tasks and items |
US8838449B2 (en) | 2010-12-23 | 2014-09-16 | Microsoft Corporation | Word-dependent language model |
JP2012142744A (ja) | 2010-12-28 | 2012-07-26 | Sanyo Electric Co Ltd | 通信装置 |
TWI413105B (zh) | 2010-12-30 | 2013-10-21 | Ind Tech Res Inst | 多語言之文字轉語音合成系統與方法 |
KR101828273B1 (ko) | 2011-01-04 | 2018-02-14 | 삼성전자주식회사 | 결합기반의 음성명령 인식 장치 및 그 방법 |
US8626681B1 (en) | 2011-01-04 | 2014-01-07 | Google Inc. | Training a probabilistic spelling checker from structured data |
CN103370705B (zh) | 2011-01-05 | 2018-01-02 | 谷歌公司 | 用于便利文本输入的方法和系统 |
US8589950B2 (en) | 2011-01-05 | 2013-11-19 | Blackberry Limited | Processing user input events in a web browser |
US10049669B2 (en) | 2011-01-07 | 2018-08-14 | Nuance Communications, Inc. | Configurable speech recognition system using multiple recognizers |
US9183843B2 (en) | 2011-01-07 | 2015-11-10 | Nuance Communications, Inc. | Configurable speech recognition system using multiple recognizers |
JP5712618B2 (ja) | 2011-01-07 | 2015-05-07 | サクサ株式会社 | 電話システム |
EP2661699B1 (en) | 2011-01-07 | 2017-06-28 | BlackBerry Limited | System and method for controlling mobile communication devices |
US8689116B2 (en) | 2011-01-14 | 2014-04-01 | Apple Inc. | Email user interface |
US8863256B1 (en) * | 2011-01-14 | 2014-10-14 | Cisco Technology, Inc. | System and method for enabling secure transactions using flexible identity management in a vehicular environment |
US20120192096A1 (en) | 2011-01-25 | 2012-07-26 | Research In Motion Limited | Active command line driven user interface |
US8666895B2 (en) | 2011-01-31 | 2014-03-04 | Bank Of America Corporation | Single action mobile transaction device |
US8943054B2 (en) | 2011-01-31 | 2015-01-27 | Social Resolve, Llc | Social media content management system and method |
WO2012106198A1 (en) | 2011-02-04 | 2012-08-09 | Google Inc. | Posting to social networks by voice |
US20120209654A1 (en) | 2011-02-11 | 2012-08-16 | Avaya Inc. | Mobile activity assistant analysis |
US8862612B2 (en) | 2011-02-11 | 2014-10-14 | Sony Corporation | Direct search launch on a second display |
US20120209413A1 (en) | 2011-02-14 | 2012-08-16 | Microsoft Corporation | Background Audio on Mobile Devices |
US9916420B2 (en) | 2011-02-18 | 2018-03-13 | Nuance Communications, Inc. | Physician and clinical documentation specialist workflow integration |
US8694335B2 (en) | 2011-02-18 | 2014-04-08 | Nuance Communications, Inc. | Methods and apparatus for applying user corrections to medical fact extraction |
US9686732B2 (en) * | 2011-02-22 | 2017-06-20 | Theatrolabs, Inc. | Observation platform for using structured communications with distributed traffic flow |
KR101178310B1 (ko) | 2011-02-24 | 2012-08-29 | 포항공과대학교 산학협력단 | 대화 관리 방법 및 이를 실행하는 시스템 |
US10145960B2 (en) | 2011-02-24 | 2018-12-04 | Ford Global Technologies, Llc | System and method for cell phone restriction |
CN102651217A (zh) | 2011-02-25 | 2012-08-29 | 株式会社东芝 | 用于合成语音的方法、设备以及用于语音合成的声学模型训练方法 |
US20120221552A1 (en) | 2011-02-28 | 2012-08-30 | Nokia Corporation | Method and apparatus for providing an active search user interface element |
US8688453B1 (en) | 2011-02-28 | 2014-04-01 | Nuance Communications, Inc. | Intent mining via analysis of utterances |
US9632677B2 (en) | 2011-03-02 | 2017-04-25 | The Boeing Company | System and method for navigating a 3-D environment using a multi-input interface |
US8972275B2 (en) | 2011-03-03 | 2015-03-03 | Brightedge Technologies, Inc. | Optimization of social media engagement |
EP2498250B1 (en) | 2011-03-07 | 2021-05-05 | Accenture Global Services Limited | Client and server system for natural language-based control of a digital network of devices |
US9081760B2 (en) | 2011-03-08 | 2015-07-14 | At&T Intellectual Property I, L.P. | System and method for building diverse language models |
US20120233266A1 (en) | 2011-03-11 | 2012-09-13 | Microsoft Corporation | Peer-to-peer group with renegotiation of group owner |
CN202092650U (zh) | 2011-03-14 | 2011-12-28 | 深圳市车乐数码科技有限公司 | 一种带按键的语音导航的车载多媒体 |
US8849931B2 (en) | 2011-03-15 | 2014-09-30 | Idt Messaging, Llc | Linking context-based information to text messages |
US8606090B2 (en) | 2011-03-17 | 2013-12-10 | Sony Corporation | Sport program chaptering |
US9262612B2 (en) | 2011-03-21 | 2016-02-16 | Apple Inc. | Device access using voice authentication |
US8862255B2 (en) | 2011-03-23 | 2014-10-14 | Audible, Inc. | Managing playback of synchronized content |
US20120246064A1 (en) | 2011-03-23 | 2012-09-27 | Ebay, Inc. | Customer refunds using payment service providers |
US9202465B2 (en) | 2011-03-25 | 2015-12-01 | General Motors Llc | Speech recognition dependent on text message content |
US8766793B2 (en) | 2011-03-25 | 2014-07-01 | Microsoft Corporation | Contextually-appropriate task reminders |
CN202035047U (zh) | 2011-03-29 | 2011-11-09 | 张磊 | 一种提取地址信息进行导航的移动终端 |
US9171546B1 (en) | 2011-03-29 | 2015-10-27 | Google Inc. | Performing functions based on commands in context of telephonic communication |
US9154555B2 (en) | 2011-03-30 | 2015-10-06 | Paypal, Inc. | Device specific remote disabling of applications |
US9842168B2 (en) | 2011-03-31 | 2017-12-12 | Microsoft Technology Licensing, Llc | Task driven user intents |
WO2012135157A2 (en) | 2011-03-31 | 2012-10-04 | Microsoft Corporation | Task driven user intents |
US9280535B2 (en) | 2011-03-31 | 2016-03-08 | Infosys Limited | Natural language querying with cascaded conditional random fields |
US9337999B2 (en) | 2011-04-01 | 2016-05-10 | Intel Corporation | Application usage continuum across platforms |
US9098488B2 (en) | 2011-04-03 | 2015-08-04 | Microsoft Technology Licensing, Llc | Translation of multilingual embedded phrases |
US20120252367A1 (en) | 2011-04-04 | 2012-10-04 | Meditalk Devices, Llc | Auditory Speech Module For Medical Devices |
US9612892B2 (en) | 2011-04-04 | 2017-04-04 | Hewlett Packard Enterprise Development Lp | Creating a correlation rule defining a relationship between event types |
US8914275B2 (en) | 2011-04-06 | 2014-12-16 | Microsoft Corporation | Text prediction |
CN102137193A (zh) | 2011-04-13 | 2011-07-27 | 深圳凯虹移动通信有限公司 | 一种移动通讯终端及其通讯控制方法 |
US9292877B2 (en) | 2011-04-13 | 2016-03-22 | Longsand Limited | Methods and systems for generating concept-based hash tags |
US9366749B2 (en) | 2011-04-15 | 2016-06-14 | Qualcomm Incorporated | Device position estimates from motion and ambient light classifiers |
US9493130B2 (en) | 2011-04-22 | 2016-11-15 | Angel A. Penilla | Methods and systems for communicating content to connected vehicle users based detected tone/mood in voice input |
CN103688279A (zh) | 2011-04-25 | 2014-03-26 | 韦韦欧股份有限公司 | 用于智能个人时间表助理的系统和方法 |
US9444692B2 (en) | 2011-04-26 | 2016-09-13 | Openet Telecom Ltd. | Systems, devices and methods of crowd-sourcing across multiple domains |
US9110556B2 (en) | 2011-04-28 | 2015-08-18 | Nokia Technologies Oy | Method and apparatus for increasing the functionality of an electronic device in a locked state |
EP2521050A3 (en) | 2011-05-03 | 2012-11-14 | HTC Corporation | Handheld electronic device and method for accessing bookmark |
GB2504256B (en) | 2011-05-04 | 2019-12-25 | Blackberry Ltd | Methods for adjusting a presentation of graphical data displayed on a graphical user interface |
US8150385B1 (en) | 2011-05-09 | 2012-04-03 | Loment, Inc. | Automated reply messages among end user communication devices |
US8171137B1 (en) | 2011-05-09 | 2012-05-01 | Google Inc. | Transferring application state across devices |
KR101233561B1 (ko) | 2011-05-12 | 2013-02-14 | 엔에이치엔(주) | 단어 수준의 후보 생성에 기초한 음성 인식 시스템 및 방법 |
EP2707872A2 (en) | 2011-05-12 | 2014-03-19 | Johnson Controls Technology Company | Adaptive voice recognition systems and methods |
US9064006B2 (en) | 2012-08-23 | 2015-06-23 | Microsoft Technology Licensing, Llc | Translating natural language utterances to keyword search queries |
US9626441B2 (en) | 2011-05-13 | 2017-04-18 | Inolex Group, Inc. | Calendar-based search engine |
US20120290291A1 (en) | 2011-05-13 | 2012-11-15 | Gabriel Lee Gilbert Shelley | Input processing for character matching and predicted word matching |
US8793624B2 (en) | 2011-05-18 | 2014-07-29 | Google Inc. | Control of a device using gestures |
US8972240B2 (en) | 2011-05-19 | 2015-03-03 | Microsoft Corporation | User-modifiable word lattice display for editing documents and search queries |
US8914290B2 (en) | 2011-05-20 | 2014-12-16 | Vocollect, Inc. | Systems and methods for dynamically improving user intelligibility of synthesized speech in a work environment |
US20120304124A1 (en) | 2011-05-23 | 2012-11-29 | Microsoft Corporation | Context aware input engine |
US8954329B2 (en) | 2011-05-23 | 2015-02-10 | Nuance Communications, Inc. | Methods and apparatus for acoustic disambiguation by insertion of disambiguating textual information |
US8731936B2 (en) | 2011-05-26 | 2014-05-20 | Microsoft Corporation | Energy-efficient unobtrusive identification of a speaker |
US9164983B2 (en) | 2011-05-27 | 2015-10-20 | Robert Bosch Gmbh | Broad-coverage normalization system for social media language |
US10057736B2 (en) | 2011-06-03 | 2018-08-21 | Apple Inc. | Active transport based notifications |
TWI488174B (zh) | 2011-06-03 | 2015-06-11 | Apple Inc | 自動地建立文字資料與音訊資料間之映射 |
US9268857B2 (en) | 2011-06-03 | 2016-02-23 | Facebook, Inc. | Suggesting search results to users before receiving any search query from the users |
US20120310642A1 (en) | 2011-06-03 | 2012-12-06 | Apple Inc. | Automatically creating a mapping between text data and audio data |
US8781841B1 (en) | 2011-06-07 | 2014-07-15 | Cisco Technology, Inc. | Name recognition of virtual meeting participants |
US20120317498A1 (en) | 2011-06-07 | 2012-12-13 | Research In Motion Limited | Electronic communication device and method for displaying icons |
WO2012170817A1 (en) | 2011-06-10 | 2012-12-13 | Google Inc. | Augmenting statistical machine translation with linguistic knowledge |
US20120316875A1 (en) | 2011-06-10 | 2012-12-13 | Red Shift Company, Llc | Hosted speech handling |
US8732319B2 (en) | 2011-06-10 | 2014-05-20 | Qualcomm Incorporated | Context awareness proximity-based establishment of wireless communication connection |
US20130158977A1 (en) | 2011-06-14 | 2013-06-20 | Andrew Senior | System and Method for Evaluating Speech Exposure |
US20120321112A1 (en) | 2011-06-16 | 2012-12-20 | Apple Inc. | Selecting a digital stream based on an audio sample |
US20120324391A1 (en) | 2011-06-16 | 2012-12-20 | Microsoft Corporation | Predictive word completion |
US20120329529A1 (en) | 2011-06-21 | 2012-12-27 | GreatCall, Inc. | Gesture activate help process and system |
CN104011712B (zh) | 2011-06-24 | 2018-04-24 | 谷歌有限责任公司 | 对跨语言查询建议的查询翻译进行评价 |
US10984387B2 (en) | 2011-06-28 | 2021-04-20 | Microsoft Technology Licensing, Llc | Automatic task extraction and calendar entry |
US20130007240A1 (en) * | 2011-06-30 | 2013-01-03 | At&T Intellectual Property I, L.P. | Systems and methods to provide availability notifications for denied content requests |
ES2612714T3 (es) * | 2011-06-30 | 2017-05-18 | Huawei Technologies Co., Ltd. | Método, aparato y sistema de transmisión datos multimedia sobre la base de OTT |
US20130006633A1 (en) | 2011-07-01 | 2013-01-03 | Qualcomm Incorporated | Learning speech models for mobile device users |
DE102011078642A1 (de) | 2011-07-05 | 2013-01-10 | Robert Bosch Gmbh | Verfahren zum Prüfen eines m aus n Codes |
US9367824B2 (en) | 2011-07-05 | 2016-06-14 | Sap Se | Provisioning and performing action items |
US20130010575A1 (en) | 2011-07-07 | 2013-01-10 | International Business Machines Corporation | Systems and methods of managing electronic calendar applications |
US8682670B2 (en) | 2011-07-07 | 2014-03-25 | International Business Machines Corporation | Statistical enhancement of speech output from a statistical text-to-speech synthesis system |
US8209183B1 (en) | 2011-07-07 | 2012-06-26 | Google Inc. | Systems and methods for correction of text from different input types, sources, and contexts |
US8665212B2 (en) | 2011-07-08 | 2014-03-04 | Blackberry Limited | Systems and methods for locking an electronic device |
US20130018659A1 (en) | 2011-07-12 | 2013-01-17 | Google Inc. | Systems and Methods for Speech Command Processing |
DE102012212514A1 (de) * | 2011-07-18 | 2013-02-21 | Logitech Europe S.A. | Fernbedienungs-Benutzerschnittstelle für Handgerät |
CA2747153A1 (en) | 2011-07-19 | 2013-01-19 | Suleman Kaheer | Natural language processing dialog system for obtaining goods, services or information |
US20130024576A1 (en) | 2011-07-22 | 2013-01-24 | Microsoft Corporation | Proximity-Based Detection |
US20130031476A1 (en) | 2011-07-25 | 2013-01-31 | Coin Emmett | Voice activated virtual assistant |
US8781810B2 (en) | 2011-07-25 | 2014-07-15 | Xerox Corporation | System and method for productive generation of compound words in statistical machine translation |
US8732028B2 (en) | 2011-07-26 | 2014-05-20 | Expose Retail Strategies Inc. | Scheduling of order processing for remotely ordered goods |
US9009041B2 (en) | 2011-07-26 | 2015-04-14 | Nuance Communications, Inc. | Systems and methods for improving the accuracy of a transcription using auxiliary data such as personal data |
US9292112B2 (en) | 2011-07-28 | 2016-03-22 | Hewlett-Packard Development Company, L.P. | Multimodal interface |
WO2013013290A1 (en) | 2011-07-28 | 2013-01-31 | Research In Motion Limited | Methods and devices for facilitating communications |
EP2551784A1 (en) | 2011-07-28 | 2013-01-30 | Roche Diagnostics GmbH | Method of controlling the display of a dataset |
US20130031162A1 (en) | 2011-07-29 | 2013-01-31 | Myxer, Inc. | Systems and methods for media selection based on social metadata |
US20130030789A1 (en) | 2011-07-29 | 2013-01-31 | Reginald Dalce | Universal Language Translator |
US20130030913A1 (en) | 2011-07-29 | 2013-01-31 | Guangyu Zhu | Deriving Ads Ranking of Local Advertisers based on Distance and Aggregate User Activities |
CN102905499B (zh) | 2011-07-29 | 2015-12-09 | 纬创资通股份有限公司 | 竖卡模块及电子装置 |
US20130035117A1 (en) | 2011-08-04 | 2013-02-07 | GM Global Technology Operations LLC | System and method for restricting driver mobile device feature usage while vehicle is in motion |
EP3754997B1 (en) | 2011-08-05 | 2023-08-30 | Samsung Electronics Co., Ltd. | Method for controlling electronic apparatus based on voice recognition and motion recognition, and electronic apparatus applying the same |
US9417754B2 (en) | 2011-08-05 | 2016-08-16 | P4tents1, LLC | User interface system, method, and computer program product |
WO2013022218A2 (en) | 2011-08-05 | 2013-02-14 | Samsung Electronics Co., Ltd. | Electronic apparatus and method for providing user interface thereof |
US8595015B2 (en) | 2011-08-08 | 2013-11-26 | Verizon New Jersey Inc. | Audio communication assessment |
CN102929710B (zh) | 2011-08-09 | 2017-10-27 | 中兴通讯股份有限公司 | 一种调用应用模块的方法及移动终端 |
WO2013022135A1 (en) | 2011-08-11 | 2013-02-14 | Lg Electronics Inc. | Electronic device and method of controlling the same |
US8706472B2 (en) | 2011-08-11 | 2014-04-22 | Apple Inc. | Method for disambiguating multiple readings in language conversion |
US8589160B2 (en) | 2011-08-19 | 2013-11-19 | Dolbey & Company, Inc. | Systems and methods for providing an electronic dictation interface |
US20130055099A1 (en) | 2011-08-22 | 2013-02-28 | Rose Yao | Unified Messaging System with Integration of Call Log Data |
US8943071B2 (en) | 2011-08-23 | 2015-01-27 | At&T Intellectual Property I, L.P. | Automatic sort and propagation associated with electronic documents |
US9195768B2 (en) | 2011-08-26 | 2015-11-24 | Amazon Technologies, Inc. | Remote browsing session management |
US8994660B2 (en) | 2011-08-29 | 2015-03-31 | Apple Inc. | Text correction processing |
US20130054706A1 (en) | 2011-08-29 | 2013-02-28 | Mary Graham | Modulation of Visual Notification Parameters Based on Message Activity and Notification Value |
US20130055147A1 (en) | 2011-08-29 | 2013-02-28 | Salesforce.Com, Inc. | Configuration, generation, and presentation of custom graphical user interface components for a virtual cloud-based application |
US8819012B2 (en) | 2011-08-30 | 2014-08-26 | International Business Machines Corporation | Accessing anchors in voice site content |
US8554729B2 (en) | 2011-08-31 | 2013-10-08 | Google Inc. | System and method for synchronization of actions in the background of an application |
US8914288B2 (en) | 2011-09-01 | 2014-12-16 | At&T Intellectual Property I, L.P. | System and method for advanced turn-taking for interactive spoken dialog systems |
JP6050362B2 (ja) | 2011-09-09 | 2016-12-21 | グーグル インコーポレイテッド | 翻訳ウェブページのためのユーザーインターフェース |
US9596084B2 (en) | 2011-09-09 | 2017-03-14 | Facebook, Inc. | Initializing camera subsystem for face detection based on sensor inputs |
US20130066832A1 (en) | 2011-09-12 | 2013-03-14 | Microsoft Corporation | Application state synchronization |
US20130073346A1 (en) | 2011-09-16 | 2013-03-21 | David Chun | Identifying companies most closely related to a given company |
US20130073286A1 (en) | 2011-09-20 | 2013-03-21 | Apple Inc. | Consolidating Speech Recognition Results |
US9519453B2 (en) * | 2011-09-21 | 2016-12-13 | Telefonaktiebolaget Lm Ericsson (Publ) | Methods, devices and computer programs for transmitting or for receiving and playing media streams |
US8699963B2 (en) | 2011-09-22 | 2014-04-15 | Blackberry Limited | Mobile communication device with receiver speaker |
US8798995B1 (en) | 2011-09-23 | 2014-08-05 | Amazon Technologies, Inc. | Key word determinations from voice data |
US9129606B2 (en) | 2011-09-23 | 2015-09-08 | Microsoft Technology Licensing, Llc | User query history expansion for improving language model adaptation |
US8812301B2 (en) | 2011-09-26 | 2014-08-19 | Xerox Corporation | Linguistically-adapted structural query annotation |
US20130080251A1 (en) | 2011-09-26 | 2013-03-28 | Accenture Global Services Limited | Product registration and tracking system |
US8996381B2 (en) | 2011-09-27 | 2015-03-31 | Sensory, Incorporated | Background speech recognition assistant |
US8768707B2 (en) | 2011-09-27 | 2014-07-01 | Sensory Incorporated | Background speech recognition assistant using speaker verification |
US8762156B2 (en) | 2011-09-28 | 2014-06-24 | Apple Inc. | Speech recognition repair using contextual information |
US8452597B2 (en) | 2011-09-30 | 2013-05-28 | Google Inc. | Systems and methods for continual speech recognition and detection in mobile computing devices |
JP5698203B2 (ja) | 2011-09-30 | 2015-04-08 | アップル インコーポレイテッド | バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用 |
US8468022B2 (en) | 2011-09-30 | 2013-06-18 | Google Inc. | Voice control for asynchronous notifications |
AU2012316484A1 (en) | 2011-09-30 | 2014-04-17 | Apple Inc. | Automatically adapting user interfaces for hands-free interaction |
AU2015203483A1 (en) | 2011-09-30 | 2015-07-16 | Apple Inc. | Using context information to facilitate processing of commands in a virtual assistant |
US8340975B1 (en) | 2011-10-04 | 2012-12-25 | Theodore Alfred Rosenberger | Interactive speech recognition device and system for hands-free building control |
US8386926B1 (en) | 2011-10-06 | 2013-02-26 | Google Inc. | Network-based custom dictionary, auto-correction and text entry preferences |
WO2013052867A2 (en) | 2011-10-07 | 2013-04-11 | Rogers Henk B | Media tagging |
US9640175B2 (en) | 2011-10-07 | 2017-05-02 | Microsoft Technology Licensing, Llc | Pronunciation learning from user correction |
US8738363B2 (en) | 2011-10-13 | 2014-05-27 | Xerox Corporation | System and method for suggestion mining |
US9021565B2 (en) | 2011-10-13 | 2015-04-28 | At&T Intellectual Property I, L.P. | Authentication techniques utilizing a computing device |
US20130097566A1 (en) | 2011-10-17 | 2013-04-18 | Carl Fredrik Alexander BERGLUND | System and method for displaying items on electronic devices |
KR101873741B1 (ko) | 2011-10-26 | 2018-07-03 | 엘지전자 주식회사 | 휴대 단말기 및 그 제어 방법 |
US8738376B1 (en) | 2011-10-28 | 2014-05-27 | Nuance Communications, Inc. | Sparse maximum a posteriori (MAP) adaptation |
US9223948B2 (en) | 2011-11-01 | 2015-12-29 | Blackberry Limited | Combined passcode and activity launch modifier |
US20130111330A1 (en) | 2011-11-01 | 2013-05-02 | Research In Motion Limited | Accelerated compositing of fixed position elements on an electronic device |
US9471666B2 (en) | 2011-11-02 | 2016-10-18 | Salesforce.Com, Inc. | System and method for supporting natural language queries and requests against a user's personal data cloud |
US8996350B1 (en) | 2011-11-02 | 2015-03-31 | Dub Software Group, Inc. | System and method for automatic document management |
US20130110943A1 (en) | 2011-11-02 | 2013-05-02 | Apple Inc. | Notification and reminder generation, distribution, and storage system |
EP3157205B1 (en) | 2011-11-02 | 2019-03-27 | BlackBerry Limited | System and method for enabling voice and video communications using a messaging application |
CN103093334A (zh) | 2011-11-04 | 2013-05-08 | 周超然 | 活动通知文本识别并自动转换为日历项的方法 |
JP5681611B2 (ja) | 2011-11-09 | 2015-03-11 | 株式会社日立製作所 | ナビゲーションシステム、ナビゲーション装置、方法及びサーバ |
US9711137B2 (en) | 2011-11-10 | 2017-07-18 | At&T Intellectual Property I, Lp | Network-based background expert |
US8863202B2 (en) * | 2011-11-11 | 2014-10-14 | Sony Corporation | System and method for voice driven cross service search using second display |
US8972263B2 (en) * | 2011-11-18 | 2015-03-03 | Soundhound, Inc. | System and method for performing dual mode speech recognition |
KR101467519B1 (ko) * | 2011-11-21 | 2014-12-02 | 주식회사 케이티 | 음성 정보를 이용한 컨텐츠 검색 서버 및 방법 |
CN103135916A (zh) | 2011-11-30 | 2013-06-05 | 英特尔公司 | 手持无线设备中的智能图形界面 |
KR101830656B1 (ko) | 2011-12-02 | 2018-02-21 | 엘지전자 주식회사 | 이동 단말기 및 이의 제어방법 |
US9214157B2 (en) | 2011-12-06 | 2015-12-15 | At&T Intellectual Property I, L.P. | System and method for machine-mediated human-human conversation |
US9323746B2 (en) | 2011-12-06 | 2016-04-26 | At&T Intellectual Property I, L.P. | System and method for collaborative language translation |
KR101193668B1 (ko) | 2011-12-06 | 2012-12-14 | 위준성 | 스마트 기기를 이용한 상황 인식 기반 외국어 습득 및 학습 서비스 제공 방법 |
US9082402B2 (en) | 2011-12-08 | 2015-07-14 | Sri International | Generic virtual personal assistant platform |
US9646313B2 (en) | 2011-12-13 | 2017-05-09 | Microsoft Technology Licensing, Llc | Gesture-based tagging to view related content |
EP2792173B1 (en) | 2011-12-14 | 2019-04-10 | RealNetworks, Inc. | Customizable media auto-reply systems and methods |
US20130159847A1 (en) | 2011-12-14 | 2013-06-20 | International Business Machines Corporation | Dynamic Personal Dictionaries for Enhanced Collaboration |
US8622836B2 (en) | 2011-12-22 | 2014-01-07 | Igt | Use of wireless signal strength to determine connection |
JP2013134430A (ja) | 2011-12-27 | 2013-07-08 | Toyota Motor Corp | コマンド処理装置、方法、及びプログラム |
US8996729B2 (en) | 2012-04-12 | 2015-03-31 | Nokia Corporation | Method and apparatus for synchronizing tasks performed by multiple devices |
US9094534B2 (en) | 2011-12-29 | 2015-07-28 | Apple Inc. | Device, method, and graphical user interface for configuring and implementing restricted interactions with a user interface |
US9836177B2 (en) | 2011-12-30 | 2017-12-05 | Next IT Innovation Labs, LLC | Providing variable responses in a virtual-assistant environment |
JP5790509B2 (ja) | 2012-01-05 | 2015-10-07 | 富士通株式会社 | 画像再生装置、画像再生プログラム、及び画像再生方法 |
JP5547216B2 (ja) | 2012-01-06 | 2014-07-09 | 株式会社東芝 | 電子機器及び表示制御方法 |
JP5887937B2 (ja) | 2012-01-06 | 2016-03-16 | 株式会社リコー | 出力制御システム、出力制御方法、出力制御装置、および出力制御プログラム |
US9547832B2 (en) | 2012-01-10 | 2017-01-17 | Oracle International Corporation | Identifying individual intentions and determining responses to individual intentions |
US8825020B2 (en) * | 2012-01-12 | 2014-09-02 | Sensory, Incorporated | Information access and device control using mobile phones and audio in the home environment |
CN103209369A (zh) | 2012-01-16 | 2013-07-17 | 晨星软件研发(深圳)有限公司 | 电子装置的声控系统以及相关控制方法 |
US8812302B2 (en) | 2012-01-17 | 2014-08-19 | Google Inc. | Techniques for inserting diacritical marks to text input via a user device |
EP2618239B1 (en) | 2012-01-19 | 2016-10-05 | BlackBerry Limited | Next letter prediction for virtual keyboard |
US20130204813A1 (en) | 2012-01-20 | 2013-08-08 | Fluential, Llc | Self-learning, context aware virtual assistants, systems and methods |
US9099098B2 (en) | 2012-01-20 | 2015-08-04 | Qualcomm Incorporated | Voice activity detection in presence of background noise |
EP2807454A4 (en) | 2012-01-26 | 2015-08-19 | Telecomm Systems Inc | NAVIGATION GUIDANCE |
JP5682578B2 (ja) | 2012-01-27 | 2015-03-11 | 日本電気株式会社 | 音声認識結果修正支援システム、音声認識結果修正支援方法および音声認識結果修正支援プログラム |
US8626748B2 (en) | 2012-02-03 | 2014-01-07 | International Business Machines Corporation | Combined word tree text visualization system |
CN102629246B (zh) | 2012-02-10 | 2017-06-27 | 百纳(武汉)信息技术有限公司 | 识别浏览器语音命令的服务器及浏览器语音命令识别方法 |
US8995960B2 (en) | 2012-02-10 | 2015-03-31 | Dedo Interactive, Inc. | Mobile device authentication |
US10209954B2 (en) | 2012-02-14 | 2019-02-19 | Microsoft Technology Licensing, Llc | Equal access to speech and touch input |
JP2013167806A (ja) | 2012-02-16 | 2013-08-29 | Toshiba Corp | 情報通知支援装置、情報通知支援方法、および、プログラム |
US8832092B2 (en) | 2012-02-17 | 2014-09-09 | Bottlenose, Inc. | Natural language processing optimized for micro content |
US9064497B2 (en) | 2012-02-22 | 2015-06-23 | Htc Corporation | Method and apparatus for audio intelligibility enhancement and computing apparatus |
US9042867B2 (en) | 2012-02-24 | 2015-05-26 | Agnitio S.L. | System and method for speaker recognition on mobile devices |
DE112012000189B4 (de) | 2012-02-24 | 2023-06-15 | Blackberry Limited | Berührungsbildschirm-Tastatur zum Vorsehen von Wortvorhersagen in Partitionen der Berührungsbildschirm-Tastatur in naher Assoziation mit Kandidaten-Buchstaben |
KR101889836B1 (ko) | 2012-02-24 | 2018-08-20 | 삼성전자주식회사 | 음성인식을 통한 단말기의 잠금 상태 해제 및 조작 방법 및 장치 |
US8543398B1 (en) | 2012-02-29 | 2013-09-24 | Google Inc. | Training an automatic speech recognition system using compressed word frequencies |
US10984337B2 (en) | 2012-02-29 | 2021-04-20 | Microsoft Technology Licensing, Llc | Context-based search query formation |
US10134385B2 (en) | 2012-03-02 | 2018-11-20 | Apple Inc. | Systems and methods for name pronunciation |
US20130235987A1 (en) | 2012-03-06 | 2013-09-12 | Jose Arroniz-Escobar | Automatic machine to machine distribution of subscriber contact information |
US20130238326A1 (en) | 2012-03-08 | 2013-09-12 | Lg Electronics Inc. | Apparatus and method for multiple device voice control |
US9639174B2 (en) | 2012-03-09 | 2017-05-02 | Paypal, Inc. | Mobile device display content based on shaking the device |
US20150006157A1 (en) | 2012-03-14 | 2015-01-01 | Nec Corporation | Term synonym acquisition method and term synonym acquisition apparatus |
WO2013138633A1 (en) | 2012-03-15 | 2013-09-19 | Regents Of The University Of Minnesota | Automated verbal fluency assessment |
EP2639792A1 (en) | 2012-03-16 | 2013-09-18 | France Télécom | Voice control of applications by associating user input with action-context idendifier pairs |
US9223497B2 (en) | 2012-03-16 | 2015-12-29 | Blackberry Limited | In-context word prediction and word correction |
JP5870790B2 (ja) | 2012-03-19 | 2016-03-01 | 富士通株式会社 | 文章校正装置、及び文章校正方法 |
JP2013200423A (ja) | 2012-03-23 | 2013-10-03 | Toshiba Corp | 音声対話支援装置、方法、およびプログラム |
US9147433B2 (en) | 2012-03-26 | 2015-09-29 | Max Abecassis | Identifying a locale depicted within a video |
JP5965175B2 (ja) | 2012-03-27 | 2016-08-03 | ヤフー株式会社 | 応答生成装置、応答生成方法および応答生成プログラム |
US8681950B2 (en) | 2012-03-28 | 2014-03-25 | Interactive Intelligence, Inc. | System and method for fingerprinting datasets |
US10237696B2 (en) | 2012-03-29 | 2019-03-19 | Intel Corporation | Location-based assistance for personal planning |
US8346563B1 (en) | 2012-04-10 | 2013-01-01 | Artificial Solutions Ltd. | System and methods for delivering advanced natural language interaction applications |
US8892419B2 (en) | 2012-04-10 | 2014-11-18 | Artificial Solutions Iberia SL | System and methods for semiautomatic generation and tuning of natural language interaction applications |
US20130275117A1 (en) | 2012-04-11 | 2013-10-17 | Morgan H. Winer | Generalized Phonetic Transliteration Engine |
US9685160B2 (en) | 2012-04-16 | 2017-06-20 | Htc Corporation | Method for offering suggestion during conversation, electronic device using the same, and non-transitory storage medium |
US9223537B2 (en) | 2012-04-18 | 2015-12-29 | Next It Corporation | Conversation user interface |
US20130282709A1 (en) | 2012-04-18 | 2013-10-24 | Yahoo! Inc. | Method and system for query suggestion |
US9575963B2 (en) | 2012-04-20 | 2017-02-21 | Maluuba Inc. | Conversational agent |
US9117449B2 (en) | 2012-04-26 | 2015-08-25 | Nuance Communications, Inc. | Embedded system for construction of small footprint speech recognition with user-definable constraints |
CN102682771B (zh) | 2012-04-27 | 2013-11-20 | 厦门思德电子科技有限公司 | 一种适用于云平台的多语音控制方法 |
TWI511537B (zh) | 2012-04-27 | 2015-12-01 | Wistron Corp | 智慧型電視系統、智慧型電視、行動裝置及其輸入操作方法 |
US20130289991A1 (en) | 2012-04-30 | 2013-10-31 | International Business Machines Corporation | Application of Voice Tags in a Social Media Context |
US20130285916A1 (en) | 2012-04-30 | 2013-10-31 | Research In Motion Limited | Touchscreen keyboard providing word predictions at locations in association with candidate letters |
KR101946364B1 (ko) | 2012-05-01 | 2019-02-11 | 엘지전자 주식회사 | 적어도 하나의 마이크 센서를 갖는 모바일 디바이스 및 그 제어방법 |
US8732560B2 (en) | 2012-05-08 | 2014-05-20 | Infineon Technologies Ag | Method and device for correction of ternary stored binary data |
US9423870B2 (en) | 2012-05-08 | 2016-08-23 | Google Inc. | Input determination method |
WO2013169842A2 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for selecting object within a group of objects |
US8725808B2 (en) | 2012-05-10 | 2014-05-13 | Intel Mobile Communications GmbH | Method for transferring data between a first device and a second device |
US9746916B2 (en) | 2012-05-11 | 2017-08-29 | Qualcomm Incorporated | Audio user interaction recognition and application interface |
JP5996262B2 (ja) | 2012-05-11 | 2016-09-21 | シャープ株式会社 | 文字入力装置、電子機器、制御方法、制御プログラムおよび記録媒体 |
US9002768B2 (en) | 2012-05-12 | 2015-04-07 | Mikhail Fedorov | Human-computer interface system |
US8897822B2 (en) | 2012-05-13 | 2014-11-25 | Wavemarket, Inc. | Auto responder |
US9280610B2 (en) | 2012-05-14 | 2016-03-08 | Apple Inc. | Crowd sourcing information to fulfill user requests |
US20130308922A1 (en) | 2012-05-15 | 2013-11-21 | Microsoft Corporation | Enhanced video discovery and productivity through accessibility |
US20130307855A1 (en) | 2012-05-16 | 2013-11-21 | Mathew J. Lamb | Holographic story telling |
TWI466101B (zh) | 2012-05-18 | 2014-12-21 | Asustek Comp Inc | 語音識別方法及系統 |
US20120296638A1 (en) | 2012-05-18 | 2012-11-22 | Ashish Patwa | Method and system for quickly recognizing and responding to user intents and questions from natural language input using intelligent hierarchical processing and personalized adaptive semantic interface |
US9247306B2 (en) | 2012-05-21 | 2016-01-26 | Intellectual Ventures Fund 83 Llc | Forming a multimedia product using video chat |
US8484573B1 (en) | 2012-05-23 | 2013-07-09 | Google Inc. | Predictive virtual keyboard |
US8850037B2 (en) | 2012-05-24 | 2014-09-30 | Fmr Llc | Communication session transfer between devices |
US9173074B2 (en) | 2012-05-27 | 2015-10-27 | Qualcomm Incorporated | Personal hub presence and response |
US20130325436A1 (en) | 2012-05-29 | 2013-12-05 | Wright State University | Large Scale Distributed Syntactic, Semantic and Lexical Language Models |
KR20130133629A (ko) | 2012-05-29 | 2013-12-09 | 삼성전자주식회사 | 전자장치에서 음성명령을 실행시키기 위한 장치 및 방법 |
US9307293B2 (en) | 2012-05-30 | 2016-04-05 | Palo Alto Research Center Incorporated | Collaborative video application for remote servicing |
US9620128B2 (en) | 2012-05-31 | 2017-04-11 | Elwha Llc | Speech recognition adaptation systems based on adaptation data |
US8768693B2 (en) | 2012-05-31 | 2014-07-01 | Yahoo! Inc. | Automatic tag extraction from audio annotated photos |
US20130325447A1 (en) | 2012-05-31 | 2013-12-05 | Elwha LLC, a limited liability corporation of the State of Delaware | Speech recognition adaptation systems based on adaptation data |
US9123338B1 (en) | 2012-06-01 | 2015-09-01 | Google Inc. | Background audio identification for speech disambiguation |
US10156455B2 (en) | 2012-06-05 | 2018-12-18 | Apple Inc. | Context-aware voice guidance |
US8725823B2 (en) | 2012-06-05 | 2014-05-13 | Forget You Not, LLC | Location-based communications |
US8515750B1 (en) | 2012-06-05 | 2013-08-20 | Google Inc. | Realtime acoustic adaptation using stability measures |
US10444836B2 (en) | 2012-06-07 | 2019-10-15 | Nook Digital, Llc | Accessibility aids for users of electronic devices |
WO2013185109A2 (en) | 2012-06-08 | 2013-12-12 | Apple Inc. | Systems and methods for recognizing textual identifiers within a plurality of words |
US20130332168A1 (en) | 2012-06-08 | 2013-12-12 | Samsung Electronics Co., Ltd. | Voice activated search and control for applications |
US9721563B2 (en) | 2012-06-08 | 2017-08-01 | Apple Inc. | Name recognition system |
US9674331B2 (en) * | 2012-06-08 | 2017-06-06 | Apple Inc. | Transmitting data from an automated assistant to an accessory |
US20130332159A1 (en) | 2012-06-08 | 2013-12-12 | Apple Inc. | Using fan throttling to enhance dictation accuracy |
US9230218B2 (en) | 2012-06-08 | 2016-01-05 | Spotify Ab | Systems and methods for recognizing ambiguity in metadata |
US9002380B2 (en) | 2012-06-08 | 2015-04-07 | Apple Inc. | Proximity-based notifications in a mobile device |
US9916514B2 (en) | 2012-06-11 | 2018-03-13 | Amazon Technologies, Inc. | Text recognition driven functionality |
US9183845B1 (en) * | 2012-06-12 | 2015-11-10 | Amazon Technologies, Inc. | Adjusting audio signals based on a specific frequency range associated with environmental noise characteristics |
EP2862102A4 (en) | 2012-06-14 | 2016-01-27 | Nokia Technologies Oy | METHOD AND APPARATUS FOR ASSOCIATING LABELS OF INTEREST WITH MULTIMEDIA ELEMENTS BASED ON SOCIAL DIFFUSIONS BETWEEN USERS |
US8971850B2 (en) * | 2012-06-14 | 2015-03-03 | Motorola Solutions, Inc. | Systems and methods for authenticating mobile devices at an incident via collaboration |
US9734839B1 (en) | 2012-06-20 | 2017-08-15 | Amazon Technologies, Inc. | Routing natural language commands to the appropriate applications |
US20140012574A1 (en) | 2012-06-21 | 2014-01-09 | Maluuba Inc. | Interactive timeline for presenting and organizing tasks |
US20130346347A1 (en) | 2012-06-22 | 2013-12-26 | Google Inc. | Method to Predict a Communicative Action that is Most Likely to be Executed Given a Context |
US8606577B1 (en) | 2012-06-25 | 2013-12-10 | Google Inc. | Visual confirmation of voice recognized text input |
US20130346068A1 (en) | 2012-06-25 | 2013-12-26 | Apple Inc. | Voice-Based Image Tagging and Searching |
WO2014000081A1 (en) | 2012-06-26 | 2014-01-03 | Research In Motion Limited | Methods and apparatus to detect and add impact events to a calendar program |
US8819841B2 (en) | 2012-06-26 | 2014-08-26 | Google Inc. | Automated accounts for media playback |
CN102801853B (zh) | 2012-06-27 | 2017-02-15 | 宇龙计算机通信科技(深圳)有限公司 | 移动终端和自动触发任务执行方法 |
US20140006153A1 (en) | 2012-06-27 | 2014-01-02 | Infosys Limited | System for making personalized offers for business facilitation of an entity and methods thereof |
KR101961139B1 (ko) | 2012-06-28 | 2019-03-25 | 엘지전자 주식회사 | 이동 단말기 및 그것의 음성 인식 방법 |
US9426229B2 (en) * | 2012-06-29 | 2016-08-23 | Nokia Technologies Oy | Apparatus and method for selection of a device for content sharing operations |
US9495129B2 (en) | 2012-06-29 | 2016-11-15 | Apple Inc. | Device, method, and user interface for voice-activated navigation and browsing of a document |
US9195383B2 (en) * | 2012-06-29 | 2015-11-24 | Spotify Ab | Systems and methods for multi-path control signals for media presentation devices |
US10620797B2 (en) | 2012-06-29 | 2020-04-14 | Spotify Ab | Systems and methods for multi-context media control and playback |
US9996628B2 (en) | 2012-06-29 | 2018-06-12 | Verisign, Inc. | Providing audio-activated resource access for user devices based on speaker voiceprint |
JP5852930B2 (ja) | 2012-06-29 | 2016-02-03 | Kddi株式会社 | 入力文字推定装置およびプログラム |
US20140006012A1 (en) | 2012-07-02 | 2014-01-02 | Microsoft Corporation | Learning-Based Processing of Natural Language Questions |
KR20140004515A (ko) | 2012-07-03 | 2014-01-13 | 삼성전자주식회사 | 디스플레이 장치, 대화형 시스템 및 응답 정보 제공 방법 |
KR101972955B1 (ko) * | 2012-07-03 | 2019-04-26 | 삼성전자 주식회사 | 음성을 이용한 사용자 디바이스들 간 서비스 연결 방법 및 장치 |
US9536528B2 (en) | 2012-07-03 | 2017-01-03 | Google Inc. | Determining hotword suitability |
US9064493B2 (en) | 2012-07-09 | 2015-06-23 | Nuance Communications, Inc. | Detecting potential significant errors in speech recognition results |
CN103544140A (zh) | 2012-07-12 | 2014-01-29 | 国际商业机器公司 | 一种数据处理方法、展示方法和相应的装置 |
US20140019460A1 (en) | 2012-07-12 | 2014-01-16 | Yahoo! Inc. | Targeted search suggestions |
US9053708B2 (en) | 2012-07-18 | 2015-06-09 | International Business Machines Corporation | System, method and program product for providing automatic speech recognition (ASR) in a shared resource environment |
US9658746B2 (en) | 2012-07-20 | 2017-05-23 | Nook Digital, Llc | Accessible reading mode techniques for electronic devices |
US9953584B2 (en) | 2012-07-24 | 2018-04-24 | Nook Digital, Llc | Lighting techniques for display devices |
US9179250B2 (en) | 2012-07-25 | 2015-11-03 | Aro, Inc. | Recommendation agent using a routine model determined from mobile device data |
JP2014026629A (ja) | 2012-07-26 | 2014-02-06 | Panasonic Corp | 入力装置及び入力支援方法 |
US8589911B1 (en) | 2012-07-26 | 2013-11-19 | Google Inc. | Intent fulfillment |
US8442821B1 (en) | 2012-07-27 | 2013-05-14 | Google Inc. | Multi-frame prediction for hybrid neural network/hidden Markov models |
US8990343B2 (en) | 2012-07-30 | 2015-03-24 | Google Inc. | Transferring a state of an application from a first computing device to a second computing device |
US20140039893A1 (en) | 2012-07-31 | 2014-02-06 | Sri International | Personalized Voice-Driven User Interfaces for Remote Multi-User Services |
US9465833B2 (en) | 2012-07-31 | 2016-10-11 | Veveo, Inc. | Disambiguating user intent in conversational interaction system for large corpus information retrieval |
US20140035823A1 (en) | 2012-08-01 | 2014-02-06 | Apple Inc. | Dynamic Context-Based Language Determination |
US8831957B2 (en) | 2012-08-01 | 2014-09-09 | Google Inc. | Speech recognition models based on location indicia |
US9390174B2 (en) | 2012-08-08 | 2016-07-12 | Google Inc. | Search result ranking and presentation |
EP2883204B1 (en) | 2012-08-10 | 2020-10-07 | Nuance Communications, Inc. | Virtual agent communication for electronic devices |
US10163058B2 (en) | 2012-08-14 | 2018-12-25 | Sri International | Method, system and device for inferring a mobile user's current context and proactively providing assistance |
US20140052791A1 (en) | 2012-08-14 | 2014-02-20 | International Business Machines Corporation | Task Based Filtering of Unwanted Electronic Communications |
KR101922464B1 (ko) | 2012-08-16 | 2018-11-27 | 삼성전자주식회사 | 메시지 송수신 방법 및 그 전자장치 |
US9292487B1 (en) | 2012-08-16 | 2016-03-22 | Amazon Technologies, Inc. | Discriminative language model pruning |
KR20150045404A (ko) | 2012-08-16 | 2015-04-28 | 뉘앙스 커뮤니케이션즈, 인코포레이티드 | 엔터테인먼트 시스템을 위한 사용자 인터페이스 |
US9497515B2 (en) | 2012-08-16 | 2016-11-15 | Nuance Communications, Inc. | User interface for entertainment systems |
US20150199960A1 (en) | 2012-08-24 | 2015-07-16 | Microsoft Corporation | I-Vector Based Clustering Training Data in Speech Recognition |
US9229924B2 (en) | 2012-08-24 | 2016-01-05 | Microsoft Technology Licensing, Llc | Word detection and domain dictionary recommendation |
WO2014033799A1 (ja) | 2012-08-27 | 2014-03-06 | 株式会社日立製作所 | 単語意味関係抽出装置 |
EP2891347B1 (en) | 2012-08-28 | 2019-10-09 | Nokia Technologies Oy | Discovery method and system for discovery |
JP6393021B2 (ja) | 2012-08-28 | 2018-09-19 | 京セラ株式会社 | 電子機器、制御方法、及び制御プログラム |
US9049295B1 (en) | 2012-08-28 | 2015-06-02 | West Corporation | Intelligent interactive voice response system for processing customer communications |
US9026425B2 (en) | 2012-08-28 | 2015-05-05 | Xerox Corporation | Lexical and phrasal feature domain adaptation in statistical machine translation |
US9519903B2 (en) * | 2012-08-29 | 2016-12-13 | 24/7 Customer, Inc. | Method and apparatus for proactive notifications based on the location of a user |
KR102081925B1 (ko) | 2012-08-29 | 2020-02-26 | 엘지전자 주식회사 | 디스플레이 디바이스 및 스피치 검색 방법 |
US10026394B1 (en) * | 2012-08-31 | 2018-07-17 | Amazon Technologies, Inc. | Managing dialogs on a speech recognition platform |
US9218333B2 (en) | 2012-08-31 | 2015-12-22 | Microsoft Technology Licensing, Llc | Context sensitive auto-correction |
KR101398218B1 (ko) | 2012-09-03 | 2014-05-22 | 경희대학교 산학협력단 | 감정 음성 인식장치 및 방법 |
US8826415B2 (en) | 2012-09-04 | 2014-09-02 | Apple Inc. | Automated device access |
US9536049B2 (en) | 2012-09-07 | 2017-01-03 | Next It Corporation | Conversational virtual healthcare assistant |
US9325809B1 (en) | 2012-09-07 | 2016-04-26 | Mindmeld, Inc. | Audio recall during voice conversations |
US8600746B1 (en) | 2012-09-10 | 2013-12-03 | Google Inc. | Speech recognition parameter adjustment |
US20150088523A1 (en) | 2012-09-10 | 2015-03-26 | Google Inc. | Systems and Methods for Designing Voice Applications |
US9576574B2 (en) | 2012-09-10 | 2017-02-21 | Apple Inc. | Context-sensitive handling of interruptions by intelligent digital assistant |
US20140074466A1 (en) | 2012-09-10 | 2014-03-13 | Google Inc. | Answering questions using environmental context |
US20140074470A1 (en) | 2012-09-11 | 2014-03-13 | Google Inc. | Phonetic pronunciation |
US20140074472A1 (en) | 2012-09-12 | 2014-03-13 | Chih-Hung Lin | Voice control system with portable voice control device |
US20140078065A1 (en) | 2012-09-15 | 2014-03-20 | Ahmet Akkok | Predictive Keyboard With Suppressed Keys |
US9081482B1 (en) | 2012-09-18 | 2015-07-14 | Google Inc. | Text input suggestion ranking |
JP6057637B2 (ja) | 2012-09-18 | 2017-01-11 | 株式会社アイ・オー・データ機器 | 携帯型情報端末装置、機能切替方法、および機能切替プログラム |
US9519641B2 (en) | 2012-09-18 | 2016-12-13 | Abbyy Development Llc | Photography recognition translation |
US9547647B2 (en) | 2012-09-19 | 2017-01-17 | Apple Inc. | Voice-based media searching |
US9105268B2 (en) | 2012-09-19 | 2015-08-11 | 24/7 Customer, Inc. | Method and apparatus for predicting intent in IVR using natural language queries |
US10042603B2 (en) | 2012-09-20 | 2018-08-07 | Samsung Electronics Co., Ltd. | Context aware service provision method and apparatus of user device |
US9076450B1 (en) | 2012-09-21 | 2015-07-07 | Amazon Technologies, Inc. | Directed audio for speech recognition |
US8983383B1 (en) | 2012-09-25 | 2015-03-17 | Rawles Llc | Providing hands-free service to multiple devices |
US9092415B2 (en) | 2012-09-25 | 2015-07-28 | Rovi Guides, Inc. | Systems and methods for automatic program recommendations based on user interactions |
US8983836B2 (en) | 2012-09-26 | 2015-03-17 | International Business Machines Corporation | Captioning using socially derived acoustic profiles |
US8498864B1 (en) | 2012-09-27 | 2013-07-30 | Google Inc. | Methods and systems for predicting a text |
JP2014072586A (ja) | 2012-09-27 | 2014-04-21 | Sharp Corp | 表示装置、表示方法、テレビジョン受像機、プログラム、および、記録媒体 |
US20140087711A1 (en) | 2012-09-27 | 2014-03-27 | Aegis Mobility, Inc. | Mobile device context incorporating near field communications |
US10096316B2 (en) | 2013-11-27 | 2018-10-09 | Sri International | Sharing intents to provide virtual assistance in a multi-person dialog |
US10276157B2 (en) | 2012-10-01 | 2019-04-30 | Nuance Communications, Inc. | Systems and methods for providing a voice agent user interface |
US20140095172A1 (en) | 2012-10-01 | 2014-04-03 | Nuance Communications, Inc. | Systems and methods for providing a voice agent user interface |
US20140095171A1 (en) | 2012-10-01 | 2014-04-03 | Nuance Communications, Inc. | Systems and methods for providing a voice agent user interface |
US9230560B2 (en) | 2012-10-08 | 2016-01-05 | Nant Holdings Ip, Llc | Smart home automation systems and methods |
US8606568B1 (en) | 2012-10-10 | 2013-12-10 | Google Inc. | Evaluating pronouns in context |
US8543397B1 (en) | 2012-10-11 | 2013-09-24 | Google Inc. | Mobile device voice activation |
JP6066471B2 (ja) | 2012-10-12 | 2017-01-25 | 本田技研工業株式会社 | 対話システム及び対話システム向け発話の判別方法 |
US8843845B2 (en) | 2012-10-16 | 2014-09-23 | Google Inc. | Multi-gesture text input prediction |
US20150241962A1 (en) | 2012-10-22 | 2015-08-27 | Vid Scale, Inc. | User presence detection in mobile devices |
WO2014064531A1 (en) * | 2012-10-22 | 2014-05-01 | Spotify Ab | Systems and methods for pre-fetching media content |
US9305439B2 (en) | 2012-10-25 | 2016-04-05 | Google Inc. | Configurable indicator on computing device |
US8527276B1 (en) | 2012-10-25 | 2013-09-03 | Google Inc. | Speech synthesis using deep neural networks |
US20140122086A1 (en) | 2012-10-26 | 2014-05-01 | Microsoft Corporation | Augmenting speech recognition with depth imaging |
US9459176B2 (en) | 2012-10-26 | 2016-10-04 | Azima Holdings, Inc. | Voice controlled vibration data analyzer systems and methods |
WO2014064324A1 (en) * | 2012-10-26 | 2014-05-01 | Nokia Corporation | Multi-device speech recognition |
US10304465B2 (en) | 2012-10-30 | 2019-05-28 | Google Technology Holdings LLC | Voice control user interface for low power mode |
KR101967917B1 (ko) | 2012-10-30 | 2019-08-13 | 삼성전자주식회사 | 음성을 인식하는 전자 장치 및 방법 |
WO2014070872A2 (en) | 2012-10-30 | 2014-05-08 | Robert Bosch Gmbh | System and method for multimodal interaction with reduced distraction in operating vehicles |
US9734151B2 (en) | 2012-10-31 | 2017-08-15 | Tivo Solutions Inc. | Method and system for voice based media search |
WO2014071043A1 (en) | 2012-10-31 | 2014-05-08 | DoWhatILikeBest, LLC | Favorite and serendipitous event correlation and notification |
US8606576B1 (en) | 2012-11-02 | 2013-12-10 | Google Inc. | Communication log with extracted keywords from speech-to-text processing |
US9093069B2 (en) | 2012-11-05 | 2015-07-28 | Nuance Communications, Inc. | Privacy-sensitive speech model creation via aggregation of multiple user models |
JP6018881B2 (ja) | 2012-11-07 | 2016-11-02 | 株式会社日立製作所 | ナビゲーション装置、及びナビゲーション方法 |
US20140136987A1 (en) | 2012-11-09 | 2014-05-15 | Apple Inc. | Generation of a user interface based on contacts |
US9275642B2 (en) | 2012-11-13 | 2016-03-01 | Unified Computer Intelligence Corporation | Voice-operated internet-ready ubiquitous computing device and method thereof |
US9247387B2 (en) | 2012-11-13 | 2016-01-26 | International Business Machines Corporation | Proximity based reminders |
KR20140060995A (ko) | 2012-11-13 | 2014-05-21 | 삼성전자주식회사 | 상황별 거절 메시지 제공 방법 및 이를 지원하는 단말기 |
KR20140061803A (ko) | 2012-11-14 | 2014-05-22 | 삼성전자주식회사 | 프로젝션 장치 |
KR101709187B1 (ko) | 2012-11-14 | 2017-02-23 | 한국전자통신연구원 | 계층적 대화 태스크 라이브러리를 이용한 이중 대화관리 기반 음성대화시스템 |
US9235321B2 (en) | 2012-11-14 | 2016-01-12 | Facebook, Inc. | Animation sequence associated with content item |
US9798799B2 (en) | 2012-11-15 | 2017-10-24 | Sri International | Vehicle personal assistant that interprets spoken natural language input based upon vehicle context |
US9032219B2 (en) | 2012-11-16 | 2015-05-12 | Nuance Communications, Inc. | Securing speech recognition data |
US10551928B2 (en) | 2012-11-20 | 2020-02-04 | Samsung Electronics Company, Ltd. | GUI transitions on wearable electronic device |
JP2014102669A (ja) | 2012-11-20 | 2014-06-05 | Toshiba Corp | 情報処理装置、情報処理方法およびプログラム |
US8965754B2 (en) | 2012-11-20 | 2015-02-24 | International Business Machines Corporation | Text prediction using environment hints |
US9756049B2 (en) | 2012-11-22 | 2017-09-05 | 8303142 Canada Inc. | System and method for managing several mobile devices simultaneously |
US9875741B2 (en) | 2013-03-15 | 2018-01-23 | Google Llc | Selective speech recognition for chat and digital personal assistant systems |
US20140146200A1 (en) | 2012-11-28 | 2014-05-29 | Research In Motion Limited | Entries to an electronic calendar |
US10026400B2 (en) | 2013-06-27 | 2018-07-17 | Google Llc | Generating dialog recommendations for chat information systems based on user interaction and environmental data |
RU2530268C2 (ru) | 2012-11-28 | 2014-10-10 | Общество с ограниченной ответственностью "Спиктуит" | Способ обучения информационной диалоговой системы пользователем |
KR20230070067A (ko) | 2012-11-29 | 2023-05-19 | 파세토, 인크. | 여러 애플리케이션들을 디스플레이하기 위한 시스템 및 방법 |
JP2014109889A (ja) | 2012-11-30 | 2014-06-12 | Toshiba Corp | コンテンツ検索装置、コンテンツ検索方法及び制御プログラム |
US9589149B2 (en) | 2012-11-30 | 2017-03-07 | Microsoft Technology Licensing, Llc | Combining personalization and privacy locally on devices |
US9159319B1 (en) | 2012-12-03 | 2015-10-13 | Amazon Technologies, Inc. | Keyword spotting with competitor models |
US9549323B2 (en) | 2012-12-03 | 2017-01-17 | Samsung Electronics Co., Ltd. | Method and mobile terminal for controlling screen lock |
US9026429B2 (en) | 2012-12-05 | 2015-05-05 | Facebook, Inc. | Systems and methods for character string auto-suggestion based on degree of difficulty |
US9819786B2 (en) | 2012-12-05 | 2017-11-14 | Facebook, Inc. | Systems and methods for a symbol-adaptable keyboard |
US9244905B2 (en) | 2012-12-06 | 2016-01-26 | Microsoft Technology Licensing, Llc | Communication context based predictive-text suggestion |
US20140164476A1 (en) | 2012-12-06 | 2014-06-12 | At&T Intellectual Property I, Lp | Apparatus and method for providing a virtual assistant |
US8930181B2 (en) | 2012-12-06 | 2015-01-06 | Prashant Parikh | Automatic dynamic contextual data entry completion |
US20140163951A1 (en) | 2012-12-07 | 2014-06-12 | Xerox Corporation | Hybrid adaptation of named entity recognition |
US9471559B2 (en) | 2012-12-10 | 2016-10-18 | International Business Machines Corporation | Deep analysis of natural language questions for question answering system |
KR102091003B1 (ko) | 2012-12-10 | 2020-03-19 | 삼성전자 주식회사 | 음성인식 기술을 이용한 상황 인식 서비스 제공 방법 및 장치 |
US20140164532A1 (en) | 2012-12-11 | 2014-06-12 | Nuance Communications, Inc. | Systems and methods for virtual agent participation in multiparty conversation |
US9679300B2 (en) | 2012-12-11 | 2017-06-13 | Nuance Communications, Inc. | Systems and methods for virtual agent recommendation for multiple persons |
US9697827B1 (en) | 2012-12-11 | 2017-07-04 | Amazon Technologies, Inc. | Error reduction in speech processing |
US9148394B2 (en) | 2012-12-11 | 2015-09-29 | Nuance Communications, Inc. | Systems and methods for user interface presentation of virtual agent |
US9117450B2 (en) | 2012-12-12 | 2015-08-25 | Nuance Communications, Inc. | Combining re-speaking, partial agent transcription and ASR for improved accuracy / human guided ASR |
US9190057B2 (en) | 2012-12-12 | 2015-11-17 | Amazon Technologies, Inc. | Speech model retrieval in distributed speech recognition systems |
US9300910B2 (en) * | 2012-12-14 | 2016-03-29 | Biscotti Inc. | Video mail capture, processing and distribution |
KR102014778B1 (ko) | 2012-12-14 | 2019-08-27 | 엘지전자 주식회사 | 텍스트 메시징 서비스를 제공하는 디지털 디바이스 및 그 제어 방법 |
US9141660B2 (en) | 2012-12-17 | 2015-09-22 | International Business Machines Corporation | Intelligent evidence classification and notification in a deep question answering system |
CN104885406B (zh) | 2012-12-18 | 2019-06-21 | 三星电子株式会社 | 用于在家庭网络系统中远程控制家庭设备的方法和设备 |
US9070366B1 (en) | 2012-12-19 | 2015-06-30 | Amazon Technologies, Inc. | Architecture for multi-domain utterance processing |
US9098467B1 (en) | 2012-12-19 | 2015-08-04 | Rawles Llc | Accepting voice commands based on user identity |
US8977555B2 (en) | 2012-12-20 | 2015-03-10 | Amazon Technologies, Inc. | Identification of utterance subjects |
US8645138B1 (en) | 2012-12-20 | 2014-02-04 | Google Inc. | Two-pass decoding for speech recognition of search and action requests |
WO2014096506A1 (en) | 2012-12-21 | 2014-06-26 | Nokia Corporation | Method, apparatus, and computer program product for personalizing speech recognition |
KR20140082157A (ko) | 2012-12-24 | 2014-07-02 | 한국전자통신연구원 | 다중 음향 모델을 이용하여 음성을 인식하기 위한 장치 및 그 방법 |
JP2014126600A (ja) | 2012-12-25 | 2014-07-07 | Panasonic Corp | 音声認識装置、音声認識方法、およびテレビ |
JP2014124332A (ja) | 2012-12-26 | 2014-07-07 | Daiichi Shokai Co Ltd | 遊技機 |
CN103020047A (zh) | 2012-12-31 | 2013-04-03 | 威盛电子股份有限公司 | 修正语音应答的方法及自然语言对话系统 |
US8571851B1 (en) | 2012-12-31 | 2013-10-29 | Google Inc. | Semantic interpretation using user gaze order |
KR101892734B1 (ko) | 2013-01-04 | 2018-08-28 | 한국전자통신연구원 | 음성 인식 시스템에서의 오류 수정 방법 및 그 장치 |
KR20140093303A (ko) | 2013-01-07 | 2014-07-28 | 삼성전자주식회사 | 디스플레이 장치 및 그의 제어 방법 |
KR20140089862A (ko) | 2013-01-07 | 2014-07-16 | 삼성전자주식회사 | 디스플레이 장치 및 그의 제어 방법 |
US20140195233A1 (en) | 2013-01-08 | 2014-07-10 | Spansion Llc | Distributed Speech Recognition System |
DE112013006384T5 (de) | 2013-01-09 | 2015-09-24 | Mitsubishi Electric Corporation | Spracherkennungsvorrichtung und Anzeigeverfahren |
US20140198047A1 (en) | 2013-01-14 | 2014-07-17 | Nuance Communications, Inc. | Reducing error rates for touch based keyboards |
US8731912B1 (en) | 2013-01-16 | 2014-05-20 | Google Inc. | Delaying audio notifications |
US9292489B1 (en) | 2013-01-16 | 2016-03-22 | Google Inc. | Sub-lexical language models with word level pronunciation lexicons |
US8942674B2 (en) | 2013-01-18 | 2015-01-27 | Blackberry Limited | Responding to incoming calls |
US20140203939A1 (en) | 2013-01-21 | 2014-07-24 | Rtc Inc. | Control and monitoring of light-emitting-diode (led) bulbs |
US9047274B2 (en) | 2013-01-21 | 2015-06-02 | Xerox Corporation | Machine translation-driven authoring system and method |
US9148499B2 (en) | 2013-01-22 | 2015-09-29 | Blackberry Limited | Method and system for automatically identifying voice tags through user operation |
US9530409B2 (en) | 2013-01-23 | 2016-12-27 | Blackberry Limited | Event-triggered hands-free multitasking for media playback |
EP2760015A1 (en) | 2013-01-23 | 2014-07-30 | BlackBerry Limited | Event-triggered hands-free multitasking for media playback |
US9165566B2 (en) | 2013-01-24 | 2015-10-20 | Microsoft Technology Licensing, Llc | Indefinite speech inputs |
DE102013001219B4 (de) | 2013-01-25 | 2019-08-29 | Inodyn Newmedia Gmbh | Verfahren und System zur Sprachaktivierung eines Software-Agenten aus einem Standby-Modus |
JP6251958B2 (ja) | 2013-01-28 | 2017-12-27 | 富士通株式会社 | 発話解析装置、音声対話制御装置、方法、及びプログラム |
JP6115152B2 (ja) | 2013-01-29 | 2017-04-19 | コニカミノルタ株式会社 | 情報処理システム、情報処理装置、情報処理端末及びプログラム |
JP2014150323A (ja) | 2013-01-31 | 2014-08-21 | Sharp Corp | 文字入力装置 |
KR20140098947A (ko) | 2013-01-31 | 2014-08-11 | 삼성전자주식회사 | 광고 제공 시스템, 사용자 단말 및 광고 제공 방법 |
US10055091B2 (en) | 2013-02-01 | 2018-08-21 | Microsoft Technology Licensing, Llc | Autosave and manual save modes for software applications |
US20140218372A1 (en) | 2013-02-05 | 2014-08-07 | Apple Inc. | Intelligent digital assistant in a desktop environment |
US8694315B1 (en) | 2013-02-05 | 2014-04-08 | Visa International Service Association | System and method for authentication using speaker verification techniques and fraud model |
US20140223481A1 (en) | 2013-02-07 | 2014-08-07 | United Video Properties, Inc. | Systems and methods for updating a search request |
BR112015018905B1 (pt) | 2013-02-07 | 2022-02-22 | Apple Inc | Método de operação de recurso de ativação por voz, mídia de armazenamento legível por computador e dispositivo eletrônico |
US9842489B2 (en) * | 2013-02-14 | 2017-12-12 | Google Llc | Waking other devices for additional data |
US10078437B2 (en) | 2013-02-20 | 2018-09-18 | Blackberry Limited | Method and apparatus for responding to a notification via a capacitive physical keyboard |
US20140236986A1 (en) | 2013-02-21 | 2014-08-21 | Apple Inc. | Natural language document search |
US9621619B2 (en) | 2013-02-21 | 2017-04-11 | International Business Machines Corporation | Enhanced notification for relevant communications |
US9734819B2 (en) | 2013-02-21 | 2017-08-15 | Google Technology Holdings LLC | Recognizing accented speech |
US9484023B2 (en) | 2013-02-22 | 2016-11-01 | International Business Machines Corporation | Conversion of non-back-off language models for efficient speech decoding |
US9538114B2 (en) | 2013-02-22 | 2017-01-03 | The Directv Group, Inc. | Method and system for improving responsiveness of a voice recognition system |
US20140245140A1 (en) | 2013-02-22 | 2014-08-28 | Next It Corporation | Virtual Assistant Transfer between Smart Devices |
US9672822B2 (en) | 2013-02-22 | 2017-06-06 | Next It Corporation | Interaction with a portion of a content item through a virtual assistant |
US9330659B2 (en) | 2013-02-25 | 2016-05-03 | Microsoft Technology Licensing, Llc | Facilitating development of a spoken natural language interface |
KR101383552B1 (ko) | 2013-02-25 | 2014-04-10 | 미디어젠(주) | 다중 명령어가 포함된 단일 문장의 음성인식방법 |
US9172747B2 (en) | 2013-02-25 | 2015-10-27 | Artificial Solutions Iberia SL | System and methods for virtual assistant networks |
US9865266B2 (en) | 2013-02-25 | 2018-01-09 | Nuance Communications, Inc. | Method and apparatus for automated speaker parameters adaptation in a deployed speaker verification system |
US9280981B2 (en) | 2013-02-27 | 2016-03-08 | Blackberry Limited | Method and apparatus for voice control of a mobile device |
US10354677B2 (en) | 2013-02-28 | 2019-07-16 | Nuance Communications, Inc. | System and method for identification of intent segment(s) in caller-agent conversations |
US9218819B1 (en) | 2013-03-01 | 2015-12-22 | Google Inc. | Customizing actions based on contextual data and voice-based inputs |
US9251467B2 (en) | 2013-03-03 | 2016-02-02 | Microsoft Technology Licensing, Llc | Probabilistic parsing |
US9460715B2 (en) | 2013-03-04 | 2016-10-04 | Amazon Technologies, Inc. | Identification using audio signatures and additional characteristics |
US9554050B2 (en) | 2013-03-04 | 2017-01-24 | Apple Inc. | Mobile device using images and location for reminders |
KR101952179B1 (ko) | 2013-03-05 | 2019-05-22 | 엘지전자 주식회사 | 이동 단말기 및 그것의 제어방법 |
US9454957B1 (en) | 2013-03-05 | 2016-09-27 | Amazon Technologies, Inc. | Named entity resolution in spoken language processing |
US9293129B2 (en) | 2013-03-05 | 2016-03-22 | Microsoft Technology Licensing, Llc | Speech recognition assisted evaluation on text-to-speech pronunciation issue detection |
US10795528B2 (en) | 2013-03-06 | 2020-10-06 | Nuance Communications, Inc. | Task assistant having multiple visual displays |
CN104038621A (zh) | 2013-03-06 | 2014-09-10 | 三星电子(中国)研发中心 | 在通信终端中管理事件信息的装置及方法 |
US9990611B2 (en) | 2013-03-08 | 2018-06-05 | Baydin, Inc. | Systems and methods for incorporating calendar functionality into electronic messages |
US20140257902A1 (en) | 2013-03-08 | 2014-09-11 | Baydin, Inc. | Systems and methods for incorporating calendar functionality into electronic messages |
US9496968B2 (en) | 2013-03-08 | 2016-11-15 | Google Inc. | Proximity detection by mobile devices |
US11393461B2 (en) | 2013-03-12 | 2022-07-19 | Cerence Operating Company | Methods and apparatus for detecting a voice command |
US9477753B2 (en) | 2013-03-12 | 2016-10-25 | International Business Machines Corporation | Classifier-based system combination for spoken term detection |
US9361885B2 (en) | 2013-03-12 | 2016-06-07 | Nuance Communications, Inc. | Methods and apparatus for detecting a voice command |
EP2946383B1 (en) | 2013-03-12 | 2020-02-26 | Nuance Communications, Inc. | Methods and apparatus for detecting a voice command |
US10229697B2 (en) | 2013-03-12 | 2019-03-12 | Google Technology Holdings LLC | Apparatus and method for beamforming to obtain voice and noise signals |
US9076459B2 (en) | 2013-03-12 | 2015-07-07 | Intermec Ip, Corp. | Apparatus and method to classify sound to detect speech |
US9112984B2 (en) | 2013-03-12 | 2015-08-18 | Nuance Communications, Inc. | Methods and apparatus for detecting a voice command |
US9129013B2 (en) | 2013-03-12 | 2015-09-08 | Nuance Communications, Inc. | Methods and apparatus for entity detection |
US9378739B2 (en) | 2013-03-13 | 2016-06-28 | Nuance Communications, Inc. | Identifying corresponding positions in different representations of a textual work |
US20140274005A1 (en) | 2013-03-13 | 2014-09-18 | Aliphcom | Intelligent connection management in wireless devices |
US9282423B2 (en) | 2013-03-13 | 2016-03-08 | Aliphcom | Proximity and interface controls of media devices for media presentations |
US10219100B2 (en) | 2013-03-13 | 2019-02-26 | Aliphcom | Determining proximity for devices interacting with media devices |
US9135248B2 (en) | 2013-03-13 | 2015-09-15 | Arris Technology, Inc. | Context demographic determination system |
US9189196B2 (en) | 2013-03-14 | 2015-11-17 | Google Inc. | Compartmentalized self registration of external devices |
US9940616B1 (en) * | 2013-03-14 | 2018-04-10 | Square, Inc. | Verifying proximity during payment transactions |
US10572476B2 (en) | 2013-03-14 | 2020-02-25 | Apple Inc. | Refining a search based on schedule items |
US10133546B2 (en) | 2013-03-14 | 2018-11-20 | Amazon Technologies, Inc. | Providing content on multiple devices |
US9123345B2 (en) | 2013-03-14 | 2015-09-01 | Honda Motor Co., Ltd. | Voice interface systems and methods |
KR20140112910A (ko) | 2013-03-14 | 2014-09-24 | 삼성전자주식회사 | 입력 제어 방법 및 이를 지원하는 전자 장치 |
US9842584B1 (en) | 2013-03-14 | 2017-12-12 | Amazon Technologies, Inc. | Providing content on multiple devices |
US9733821B2 (en) | 2013-03-14 | 2017-08-15 | Apple Inc. | Voice control to diagnose inadvertent activation of accessibility features |
US20140267599A1 (en) | 2013-03-14 | 2014-09-18 | 360Brandvision, Inc. | User interaction with a holographic poster via a secondary mobile device |
US20140278349A1 (en) | 2013-03-14 | 2014-09-18 | Microsoft Corporation | Language Model Dictionaries for Text Predictions |
WO2014144949A2 (en) | 2013-03-15 | 2014-09-18 | Apple Inc. | Training an at least partial voice command system |
CN105190607B (zh) | 2013-03-15 | 2018-11-30 | 苹果公司 | 通过智能数字助理的用户培训 |
US9176649B2 (en) | 2013-03-15 | 2015-11-03 | American Megatrends, Inc. | Method and apparatus of remote management of computer system using voice and gesture based input |
WO2014144579A1 (en) | 2013-03-15 | 2014-09-18 | Apple Inc. | System and method for updating an adaptive speech recognition model |
US10073536B2 (en) | 2013-03-15 | 2018-09-11 | Google Llc | Virtual keyboard input for international languages |
EP2973315A4 (en) | 2013-03-15 | 2016-11-16 | Adityo Prakash | SYSTEMS AND METHODS FOR FACILITATING INTEGRATED BEHAVIORAL SUPPORT |
US20160132046A1 (en) * | 2013-03-15 | 2016-05-12 | Fisher-Rosemount Systems, Inc. | Method and apparatus for controlling a process plant with wearable mobile control devices |
WO2014143959A2 (en) | 2013-03-15 | 2014-09-18 | Bodhi Technology Ventures Llc | Volume control for mobile device using a wireless device |
US9189157B2 (en) | 2013-03-15 | 2015-11-17 | Blackberry Limited | Method and apparatus for word prediction selection |
US9558743B2 (en) | 2013-03-15 | 2017-01-31 | Google Inc. | Integration of semantic context information |
US10638198B2 (en) | 2013-03-15 | 2020-04-28 | Ebay Inc. | Shoppable video |
US9378065B2 (en) | 2013-03-15 | 2016-06-28 | Advanced Elemental Technologies, Inc. | Purposeful computing |
US9886160B2 (en) | 2013-03-15 | 2018-02-06 | Google Llc | Managing audio at the tab level for user notification and control |
US9201865B2 (en) | 2013-03-15 | 2015-12-01 | Bao Tran | Automated assistance for user request that determines semantics by domain, task, and parameter |
US9299041B2 (en) | 2013-03-15 | 2016-03-29 | Business Objects Software Ltd. | Obtaining data from unstructured data for a structured data collection |
CN105144133B (zh) | 2013-03-15 | 2020-11-20 | 苹果公司 | 对中断进行上下文相关处理 |
US20140282203A1 (en) | 2013-03-15 | 2014-09-18 | Research In Motion Limited | System and method for predictive text input |
US9479499B2 (en) | 2013-03-21 | 2016-10-25 | Tencent Technology (Shenzhen) Company Limited | Method and apparatus for identity authentication via mobile capturing code |
JP6221301B2 (ja) | 2013-03-28 | 2017-11-01 | 富士通株式会社 | 音声処理装置、音声処理システムおよび音声処理方法 |
US20140297288A1 (en) | 2013-03-29 | 2014-10-02 | Orange | Telephone voice personal assistant |
JP2014203207A (ja) | 2013-04-03 | 2014-10-27 | ソニー株式会社 | 情報処理装置、情報処理方法及びコンピュータプログラム |
US9300718B2 (en) | 2013-04-09 | 2016-03-29 | Avaya Inc. | System and method for keyword-based notification and delivery of content |
CN103198831A (zh) | 2013-04-10 | 2013-07-10 | 威盛电子股份有限公司 | 语音操控方法与移动终端装置 |
WO2014169269A1 (en) | 2013-04-12 | 2014-10-16 | Nant Holdings Ip, Llc | Virtual teller systems and methods |
US9875494B2 (en) | 2013-04-16 | 2018-01-23 | Sri International | Using intents to analyze and personalize a user's dialog experience with a virtual personal assistant |
US8825474B1 (en) | 2013-04-16 | 2014-09-02 | Google Inc. | Text suggestion output using past interaction data |
US20150193392A1 (en) | 2013-04-17 | 2015-07-09 | Google Inc. | User Interface for Quickly Checking Agenda and Creating New Events |
US9760644B2 (en) | 2013-04-17 | 2017-09-12 | Google Inc. | Embedding event creation link in a document |
NL2010662C2 (en) | 2013-04-18 | 2014-10-21 | Bosch Gmbh Robert | Remote maintenance. |
US10445115B2 (en) | 2013-04-18 | 2019-10-15 | Verint Americas Inc. | Virtual assistant focused user interfaces |
US9177318B2 (en) | 2013-04-22 | 2015-11-03 | Palo Alto Research Center Incorporated | Method and apparatus for customizing conversation agents based on user characteristics using a relevance score for automatic statements, and a response prediction function |
US20140315492A1 (en) * | 2013-04-22 | 2014-10-23 | Salesforce.Com, Inc. | Content delivery to a secondary device via a primary device |
CN103280217B (zh) | 2013-05-02 | 2016-05-04 | 锤子科技(北京)有限公司 | 一种移动终端的语音识别方法及其装置 |
US9384751B2 (en) | 2013-05-06 | 2016-07-05 | Honeywell International Inc. | User authentication of voice controlled devices |
US9472205B2 (en) | 2013-05-06 | 2016-10-18 | Honeywell International Inc. | Device voice recognition systems and methods |
US9064495B1 (en) * | 2013-05-07 | 2015-06-23 | Amazon Technologies, Inc. | Measurement of user perceived latency in a cloud based speech application |
KR20140132246A (ko) | 2013-05-07 | 2014-11-17 | 삼성전자주식회사 | 오브젝트 선택 방법 및 오브젝트 선택 장치 |
US9223898B2 (en) | 2013-05-08 | 2015-12-29 | Facebook, Inc. | Filtering suggested structured queries on online social networks |
US9923849B2 (en) | 2013-05-09 | 2018-03-20 | Ebay Inc. | System and method for suggesting a phrase based on a context |
EP2801974A3 (en) | 2013-05-09 | 2015-02-18 | DSP Group Ltd. | Low power activation of a voice activated device |
US9489625B2 (en) | 2013-05-10 | 2016-11-08 | Sri International | Rapid development of virtual personal assistant applications |
US9081411B2 (en) | 2013-05-10 | 2015-07-14 | Sri International | Rapid development of virtual personal assistant applications |
US20140337751A1 (en) | 2013-05-13 | 2014-11-13 | Microsoft Corporation | Automatic creation of calendar items |
US20140343943A1 (en) | 2013-05-14 | 2014-11-20 | Saudi Arabian Oil Company | Systems, Computer Medium and Computer-Implemented Methods for Authenticating Users Using Voice Streams |
CN105122181B (zh) | 2013-05-16 | 2018-12-18 | 英特尔公司 | 用于基于情景的自然用户接口输入的技术 |
US9495266B2 (en) | 2013-05-16 | 2016-11-15 | Advantest Corporation | Voice recognition virtual test engineering assistant |
KR101334342B1 (ko) | 2013-05-16 | 2013-11-29 | 주식회사 네오패드 | 문자 입력 장치 및 문자 입력 방법 |
US9432499B2 (en) | 2013-05-18 | 2016-08-30 | Loralee Hajdu | Peripheral specific selection of automated response messages |
CN105122353B (zh) | 2013-05-20 | 2019-07-09 | 英特尔公司 | 用于语音识别的计算装置和用于计算装置上的语音识别的方法 |
US20150199077A1 (en) | 2013-05-23 | 2015-07-16 | Google Inc. | Scheduling and viewing a calender event using time zones based on a user's location at event time |
US20140351760A1 (en) | 2013-05-24 | 2014-11-27 | Google Inc. | Order-independent text input |
US20140350933A1 (en) | 2013-05-24 | 2014-11-27 | Samsung Electronics Co., Ltd. | Voice recognition apparatus and control method thereof |
US9747900B2 (en) | 2013-05-24 | 2017-08-29 | Google Technology Holdings LLC | Method and apparatus for using image data to aid voice recognition |
US20140358523A1 (en) | 2013-05-30 | 2014-12-04 | Wright State University | Topic-specific sentiment extraction |
US20140358519A1 (en) | 2013-06-03 | 2014-12-04 | Xerox Corporation | Confidence-driven rewriting of source texts for improved translation |
US9286029B2 (en) | 2013-06-06 | 2016-03-15 | Honda Motor Co., Ltd. | System and method for multimodal human-vehicle interaction and belief tracking |
US9582608B2 (en) | 2013-06-07 | 2017-02-28 | Apple Inc. | Unified ranking with entropy-weighted information for phrase-based semantic auto-completion |
WO2014197336A1 (en) | 2013-06-07 | 2014-12-11 | Apple Inc. | System and method for detecting errors in interactions with a voice-based digital assistant |
WO2014197334A2 (en) | 2013-06-07 | 2014-12-11 | Apple Inc. | System and method for user-specified pronunciation of words for speech synthesis and recognition |
US9267805B2 (en) | 2013-06-07 | 2016-02-23 | Apple Inc. | Modeling significant locations |
WO2014197335A1 (en) | 2013-06-08 | 2014-12-11 | Apple Inc. | Interpreting and acting upon commands that involve sharing information with remote devices |
US9495620B2 (en) | 2013-06-09 | 2016-11-15 | Apple Inc. | Multi-script handwriting recognition using a universal recognizer |
EP3008641A1 (en) | 2013-06-09 | 2016-04-20 | Apple Inc. | Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant |
US10176167B2 (en) | 2013-06-09 | 2019-01-08 | Apple Inc. | System and method for inferring user intent from speech inputs |
KR20140144104A (ko) | 2013-06-10 | 2014-12-18 | 삼성전자주식회사 | 전자기기 및 이의 서비스 제공 방법 |
US9892115B2 (en) | 2013-06-11 | 2018-02-13 | Facebook, Inc. | Translation training with cross-lingual multi-media support |
US9449600B2 (en) | 2013-06-11 | 2016-09-20 | Plantronics, Inc. | Character data entry |
US9508040B2 (en) | 2013-06-12 | 2016-11-29 | Microsoft Technology Licensing, Llc | Predictive pre-launch for applications |
CN105265005B (zh) | 2013-06-13 | 2019-09-17 | 苹果公司 | 用于由语音命令发起的紧急呼叫的系统和方法 |
US9728184B2 (en) | 2013-06-18 | 2017-08-08 | Microsoft Technology Licensing, Llc | Restructuring deep neural network acoustic models |
US9437186B1 (en) | 2013-06-19 | 2016-09-06 | Amazon Technologies, Inc. | Enhanced endpoint detection for speech recognition |
US20140379334A1 (en) | 2013-06-20 | 2014-12-25 | Qnx Software Systems Limited | Natural language understanding automatic speech recognition post processing |
US9633317B2 (en) | 2013-06-20 | 2017-04-25 | Viv Labs, Inc. | Dynamically evolving cognitive architecture system based on a natural language intent interpreter |
KR20140147587A (ko) | 2013-06-20 | 2014-12-30 | 한국전자통신연구원 | Wfst를 이용한 음성 끝점 검출 장치 및 방법 |
KR102160767B1 (ko) | 2013-06-20 | 2020-09-29 | 삼성전자주식회사 | 제스처를 감지하여 기능을 제어하는 휴대 단말 및 방법 |
US9311298B2 (en) | 2013-06-21 | 2016-04-12 | Microsoft Technology Licensing, Llc | Building conversational understanding systems using a toolset |
US10496743B2 (en) | 2013-06-26 | 2019-12-03 | Nuance Communications, Inc. | Methods and apparatus for extracting facts from a medical text |
US8947596B2 (en) | 2013-06-27 | 2015-02-03 | Intel Corporation | Alignment of closed captions |
US9747899B2 (en) | 2013-06-27 | 2017-08-29 | Amazon Technologies, Inc. | Detecting self-generated wake expressions |
US20150006148A1 (en) | 2013-06-27 | 2015-01-01 | Microsoft Corporation | Automatically Creating Training Data For Language Identifiers |
EP3014610B1 (en) * | 2013-06-28 | 2023-10-04 | Harman International Industries, Incorporated | Wireless control of linked devices |
US9741339B2 (en) | 2013-06-28 | 2017-08-22 | Google Inc. | Data driven word pronunciation learning and scoring with crowd sourcing based on the word's phonemes pronunciation scores |
US9646606B2 (en) | 2013-07-03 | 2017-05-09 | Google Inc. | Speech recognition using domain knowledge |
CN103365279A (zh) | 2013-07-10 | 2013-10-23 | 崔海伟 | 智能家居系统的状态反馈系统、方法及状态检测装置 |
JP6102588B2 (ja) | 2013-07-10 | 2017-03-29 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
US9396727B2 (en) | 2013-07-10 | 2016-07-19 | GM Global Technology Operations LLC | Systems and methods for spoken dialog service arbitration |
DE102014109121B4 (de) | 2013-07-10 | 2023-05-04 | Gm Global Technology Operations, Llc | Systeme und Verfahren zur Arbitrierung eines Sprachdialogdienstes |
WO2015006196A1 (en) | 2013-07-11 | 2015-01-15 | Mophie, Inc. | Method and system for communicatively coupling a wearable computer with one or more non-wearable computers |
US9445209B2 (en) | 2013-07-11 | 2016-09-13 | Intel Corporation | Mechanism and apparatus for seamless voice wake and speaker verification |
TWI508057B (zh) | 2013-07-15 | 2015-11-11 | Chunghwa Picture Tubes Ltd | 語音辨識系統以及方法 |
US9311912B1 (en) | 2013-07-22 | 2016-04-12 | Amazon Technologies, Inc. | Cost efficient distributed text-to-speech processing |
US20150031416A1 (en) | 2013-07-23 | 2015-01-29 | Motorola Mobility Llc | Method and Device For Command Phrase Validation |
US9407950B2 (en) | 2013-07-23 | 2016-08-02 | Microsoft Technology Licensing, Llc | Controlling devices in entertainment environment |
US9335983B2 (en) | 2013-07-28 | 2016-05-10 | Oded Haim Breiner | Method and system for displaying a non-installed android application and for requesting an action from a non-installed android application |
US9311915B2 (en) | 2013-07-31 | 2016-04-12 | Google Inc. | Context-based speech recognition |
US9575720B2 (en) | 2013-07-31 | 2017-02-21 | Google Inc. | Visual confirmation for a recognized voice-initiated action |
US20150039606A1 (en) | 2013-08-01 | 2015-02-05 | Vamsi Krishna Salaka | Search phrase modification |
TWI601032B (zh) | 2013-08-02 | 2017-10-01 | 晨星半導體股份有限公司 | 應用於聲控裝置的控制器與相關方法 |
EP3031211B1 (en) | 2013-08-06 | 2020-11-11 | Saronikos Trading and Services, Unipessoal Lda. | System for controlling electronic devices by means of voice commands, more specifically a remote control to control a plurality of electronic devices by means of voice commands |
KR101749009B1 (ko) | 2013-08-06 | 2017-06-19 | 애플 인크. | 원격 디바이스로부터의 활동에 기초한 스마트 응답의 자동 활성화 |
JP2015041845A (ja) | 2013-08-21 | 2015-03-02 | カシオ計算機株式会社 | 文字入力装置及びプログラム |
US20150053779A1 (en) | 2013-08-21 | 2015-02-26 | Honeywell International Inc. | Devices and methods for interacting with an hvac controller |
US9940927B2 (en) | 2013-08-23 | 2018-04-10 | Nuance Communications, Inc. | Multiple pass automatic speech recognition methods and apparatus |
WO2015029379A1 (ja) | 2013-08-29 | 2015-03-05 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 機器制御方法、表示制御方法及び購入決済方法 |
KR102147935B1 (ko) | 2013-08-29 | 2020-08-25 | 삼성전자주식회사 | 데이터 처리 방법 및 그 전자 장치 |
US10127224B2 (en) | 2013-08-30 | 2018-11-13 | Intel Corporation | Extensible context-aware natural language interactions for virtual personal assistants |
US20150066506A1 (en) | 2013-08-30 | 2015-03-05 | Verint Systems Ltd. | System and Method of Text Zoning |
US10867597B2 (en) | 2013-09-02 | 2020-12-15 | Microsoft Technology Licensing, Llc | Assignment of semantic labels to a sequence of words using neural network architectures |
US9633669B2 (en) | 2013-09-03 | 2017-04-25 | Amazon Technologies, Inc. | Smart circular audio buffer |
US9316400B2 (en) | 2013-09-03 | 2016-04-19 | Panasonic Intellctual Property Corporation of America | Appliance control method, speech-based appliance control system, and cooking appliance |
KR102065409B1 (ko) | 2013-09-04 | 2020-01-13 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
GB2517952B (en) | 2013-09-05 | 2017-05-31 | Barclays Bank Plc | Biometric verification using predicted signatures |
US9460704B2 (en) | 2013-09-06 | 2016-10-04 | Google Inc. | Deep networks for unit selection speech synthesis |
US9208779B2 (en) | 2013-09-06 | 2015-12-08 | Google Inc. | Mixture of n-gram language models |
US9898642B2 (en) | 2013-09-09 | 2018-02-20 | Apple Inc. | Device, method, and graphical user interface for manipulating user interfaces based on fingerprint sensor inputs |
US20150074524A1 (en) | 2013-09-10 | 2015-03-12 | Lenovo (Singapore) Pte. Ltd. | Management of virtual assistant action items |
US9485708B2 (en) | 2013-09-10 | 2016-11-01 | Qualcomm Incorporated | Systems and methods for concurrent service discovery and minimum spanning tree formation for service delivery |
CN104700832B (zh) | 2013-12-09 | 2018-05-25 | 联发科技股份有限公司 | 语音关键字检测系统及方法 |
US9755605B1 (en) | 2013-09-19 | 2017-09-05 | Amazon Technologies, Inc. | Volume control |
EP3047481A4 (en) | 2013-09-20 | 2017-03-01 | Amazon Technologies Inc. | Local and remote speech processing |
CN104463552B (zh) | 2013-09-22 | 2018-10-02 | 中国电信股份有限公司 | 日历提醒生成方法和装置 |
US20150088511A1 (en) | 2013-09-24 | 2015-03-26 | Verizon Patent And Licensing Inc. | Named-entity based speech recognition |
US9418650B2 (en) | 2013-09-25 | 2016-08-16 | Verizon Patent And Licensing Inc. | Training speech recognition using captions |
US10134395B2 (en) | 2013-09-25 | 2018-11-20 | Amazon Technologies, Inc. | In-call virtual assistants |
US9443527B1 (en) | 2013-09-27 | 2016-09-13 | Amazon Technologies, Inc. | Speech recognition capability generation and control |
CN104516522B (zh) | 2013-09-29 | 2018-05-01 | 北京三星通信技术研究有限公司 | 九宫格键盘输入的方法和装置 |
US9344755B2 (en) | 2013-09-30 | 2016-05-17 | Sonos, Inc. | Fast-resume audio playback |
US20150095278A1 (en) | 2013-09-30 | 2015-04-02 | Manyworlds, Inc. | Adaptive Probabilistic Semantic System and Method |
US20150095031A1 (en) | 2013-09-30 | 2015-04-02 | At&T Intellectual Property I, L.P. | System and method for crowdsourcing of word pronunciation verification |
US20150100537A1 (en) | 2013-10-03 | 2015-04-09 | Microsoft Corporation | Emoji for Text Predictions |
US20150100983A1 (en) | 2013-10-06 | 2015-04-09 | Yang Pan | Personal Mobile Device as Ad hoc Set-Top Box for Television |
US9436918B2 (en) | 2013-10-07 | 2016-09-06 | Microsoft Technology Licensing, Llc | Smart selection of text spans |
KR101506510B1 (ko) | 2013-10-10 | 2015-03-30 | 송철호 | 음성인식 홈 네트워크 시스템 |
US8996639B1 (en) | 2013-10-15 | 2015-03-31 | Google Inc. | Predictive responses to incoming communications |
US9063640B2 (en) | 2013-10-17 | 2015-06-23 | Spotify Ab | System and method for switching between media items in a plurality of sequences of media items |
US20150120723A1 (en) | 2013-10-24 | 2015-04-30 | Xerox Corporation | Methods and systems for processing speech queries |
US10055681B2 (en) | 2013-10-31 | 2018-08-21 | Verint Americas Inc. | Mapping actions and objects to tasks |
US9942396B2 (en) | 2013-11-01 | 2018-04-10 | Adobe Systems Incorporated | Document distribution and interaction |
US9183830B2 (en) | 2013-11-01 | 2015-11-10 | Google Inc. | Method and system for non-parametric voice conversion |
US10019985B2 (en) | 2013-11-04 | 2018-07-10 | Google Llc | Asynchronous optimization for sequence training of neural networks |
US10088973B2 (en) | 2013-11-08 | 2018-10-02 | Google Llc | Event scheduling presentation in a graphical user interface environment |
JP6493866B2 (ja) | 2013-11-12 | 2019-04-03 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | 情報処理装置、情報処理方法、およびプログラム |
GB2520266A (en) | 2013-11-13 | 2015-05-20 | Ibm | Cursor-Based Character input interface |
US10430024B2 (en) | 2013-11-13 | 2019-10-01 | Microsoft Technology Licensing, Llc | Media item selection using user-specific grammar |
US9361084B1 (en) | 2013-11-14 | 2016-06-07 | Google Inc. | Methods and systems for installing and executing applications |
US10454783B2 (en) | 2014-02-05 | 2019-10-22 | Apple Inc. | Accessory management system using environment model |
US9443522B2 (en) | 2013-11-18 | 2016-09-13 | Beijing Lenovo Software Ltd. | Voice recognition method, voice controlling method, information processing method, and electronic apparatus |
US9898554B2 (en) | 2013-11-18 | 2018-02-20 | Google Inc. | Implicit question query identification |
US10162813B2 (en) | 2013-11-21 | 2018-12-25 | Microsoft Technology Licensing, Llc | Dialogue evaluation via multiple hypothesis ranking |
US20150149354A1 (en) | 2013-11-27 | 2015-05-28 | Bank Of America Corporation | Real-Time Data Recognition and User Interface Field Updating During Voice Entry |
US9451434B2 (en) | 2013-11-27 | 2016-09-20 | At&T Intellectual Property I, L.P. | Direct interaction between a user and a communication network |
US10079013B2 (en) | 2013-11-27 | 2018-09-18 | Sri International | Sharing intents to provide virtual assistance in a multi-person dialog |
US9698999B2 (en) | 2013-12-02 | 2017-07-04 | Amazon Technologies, Inc. | Natural language control of secondary device |
US8719039B1 (en) | 2013-12-05 | 2014-05-06 | Google Inc. | Promoting voice actions to hotwords |
US10296160B2 (en) | 2013-12-06 | 2019-05-21 | Apple Inc. | Method for extracting salient dialog usage from live data |
ES2907259T3 (es) | 2013-12-06 | 2022-04-22 | The Adt Security Corp | Aplicación activada por voz para dispositivos móviles |
US9215510B2 (en) | 2013-12-06 | 2015-12-15 | Rovi Guides, Inc. | Systems and methods for automatically tagging a media asset based on verbal input and playback adjustments |
US20150162001A1 (en) | 2013-12-10 | 2015-06-11 | Honeywell International Inc. | System and method for textually and graphically presenting air traffic control voice information |
US20150160855A1 (en) | 2013-12-10 | 2015-06-11 | Google Inc. | Multiple character input with a single selection |
US9900177B2 (en) | 2013-12-11 | 2018-02-20 | Echostar Technologies International Corporation | Maintaining up-to-date home automation models |
US9208153B1 (en) | 2013-12-13 | 2015-12-08 | Symantec Corporation | Filtering relevant event notifications in a file sharing and collaboration environment |
US9804820B2 (en) | 2013-12-16 | 2017-10-31 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
US9479931B2 (en) | 2013-12-16 | 2016-10-25 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
EP3063646A4 (en) | 2013-12-16 | 2017-06-21 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
US9571645B2 (en) | 2013-12-16 | 2017-02-14 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
US20170017501A1 (en) | 2013-12-16 | 2017-01-19 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
US9711135B2 (en) | 2013-12-17 | 2017-07-18 | Sony Corporation | Electronic devices and methods for compensating for environmental noise in text-to-speech applications |
GB2523984B (en) | 2013-12-18 | 2017-07-26 | Cirrus Logic Int Semiconductor Ltd | Processing received speech data |
US10565268B2 (en) | 2013-12-19 | 2020-02-18 | Adobe Inc. | Interactive communication augmented with contextual information |
US9741343B1 (en) | 2013-12-19 | 2017-08-22 | Amazon Technologies, Inc. | Voice interaction application selection |
US20150221307A1 (en) | 2013-12-20 | 2015-08-06 | Saurin Shah | Transition from low power always listening mode to high power speech recognition mode |
KR102179506B1 (ko) | 2013-12-23 | 2020-11-17 | 삼성전자 주식회사 | 전자장치 및 그 제어방법 |
JP6121896B2 (ja) * | 2013-12-27 | 2017-04-26 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置および情報処理システム |
WO2015100172A1 (en) | 2013-12-27 | 2015-07-02 | Kopin Corporation | Text editing with gesture control and natural speech |
KR102092164B1 (ko) | 2013-12-27 | 2020-03-23 | 삼성전자주식회사 | 디스플레이 장치, 서버 장치 및 이들을 포함하는 디스플레이 시스템과 그 컨텐츠 제공 방법들 |
US9460735B2 (en) | 2013-12-28 | 2016-10-04 | Intel Corporation | Intelligent ancillary electronic device |
US9390726B1 (en) | 2013-12-30 | 2016-07-12 | Google Inc. | Supplementing speech commands with gestures |
US10078489B2 (en) | 2013-12-30 | 2018-09-18 | Microsoft Technology Licensing, Llc | Voice interface to a social networking service |
US10928976B2 (en) | 2013-12-31 | 2021-02-23 | Verint Americas Inc. | Virtual assistant acquisitions and training |
US9274673B2 (en) | 2013-12-31 | 2016-03-01 | Google Inc. | Methods, systems, and media for rewinding media content based on detected audio events |
US9152307B2 (en) | 2013-12-31 | 2015-10-06 | Google Inc. | Systems and methods for simultaneously displaying clustered, in-line electronic messages in one display |
US9424241B2 (en) | 2013-12-31 | 2016-08-23 | Barnes & Noble College Booksellers, Llc | Annotation mode including multiple note types for paginated digital content |
US9742836B2 (en) | 2014-01-03 | 2017-08-22 | Yahoo Holdings, Inc. | Systems and methods for content delivery |
US20150193379A1 (en) | 2014-01-06 | 2015-07-09 | Apple Inc. | System and method for cognizant time-based reminders |
US9924215B2 (en) | 2014-01-09 | 2018-03-20 | Hsni, Llc | Digital media content management system and method |
US9443516B2 (en) | 2014-01-09 | 2016-09-13 | Honeywell International Inc. | Far-field speech recognition systems and methods |
US8938394B1 (en) | 2014-01-09 | 2015-01-20 | Google Inc. | Audio triggers based on context |
US20150201077A1 (en) | 2014-01-12 | 2015-07-16 | Genesys Telecommunications Laboratories, Inc. | Computing suggested actions in caller agent phone calls by using real-time speech analytics and real-time desktop analytics |
US9514748B2 (en) | 2014-01-15 | 2016-12-06 | Microsoft Technology Licensing, Llc | Digital personal assistant interaction with impersonations and rich multimedia in responses |
US20150199965A1 (en) | 2014-01-16 | 2015-07-16 | CloudCar Inc. | System and method for recognition and automatic correction of voice commands |
US8868409B1 (en) | 2014-01-16 | 2014-10-21 | Google Inc. | Evaluating transcriptions with a semantic parser |
US9336300B2 (en) | 2014-01-17 | 2016-05-10 | Facebook, Inc. | Client-side search templates for online social networks |
CN106415721B (zh) * | 2014-01-22 | 2019-08-16 | 苹果公司 | 音频数据传输的协调切换 |
CN105900042B (zh) | 2014-01-22 | 2019-06-28 | 索尼公司 | 重定向音频输入和输出的方法及设备 |
CN103744761B (zh) | 2014-01-22 | 2017-02-08 | 广东欧珀移动通信有限公司 | 一种控制多台移动终端自动执行任务的方法及系统 |
US9858039B2 (en) | 2014-01-28 | 2018-01-02 | Oracle International Corporation | Voice recognition of commands extracted from user interface screen devices |
US11386886B2 (en) | 2014-01-28 | 2022-07-12 | Lenovo (Singapore) Pte. Ltd. | Adjusting speech recognition using contextual information |
WO2015116151A1 (en) | 2014-01-31 | 2015-08-06 | Hewlett-Packard Development Company, L.P. | Voice input command |
US20160173960A1 (en) | 2014-01-31 | 2016-06-16 | EyeGroove, Inc. | Methods and systems for generating audiovisual media items |
US9292488B2 (en) | 2014-02-01 | 2016-03-22 | Soundhound, Inc. | Method for embedding voice mail in a spoken utterance using a natural language processing computer system |
CN105981099A (zh) | 2014-02-06 | 2016-09-28 | 三菱电机株式会社 | 语音检索装置和语音检索方法 |
US20150334346A1 (en) | 2014-05-16 | 2015-11-19 | Elwha Llc | Systems and methods for automatically connecting a user of a hands-free intercommunication system |
US20150228281A1 (en) | 2014-02-07 | 2015-08-13 | First Principles,Inc. | Device, system, and method for active listening |
US9837075B2 (en) | 2014-02-10 | 2017-12-05 | Mitsubishi Electric Research Laboratories, Inc. | Statistical voice dialog system and method |
US10083205B2 (en) | 2014-02-12 | 2018-09-25 | Samsung Electronics Co., Ltd. | Query cards |
US9037967B1 (en) | 2014-02-18 | 2015-05-19 | King Fahd University Of Petroleum And Minerals | Arabic spell checking technique |
US9589562B2 (en) | 2014-02-21 | 2017-03-07 | Microsoft Technology Licensing, Llc | Pronunciation learning through correction logs |
US10691292B2 (en) | 2014-02-24 | 2020-06-23 | Microsoft Technology Licensing, Llc | Unified presentation of contextually connected information to improve user efficiency and interaction performance |
US9495959B2 (en) | 2014-02-27 | 2016-11-15 | Ford Global Technologies, Llc | Disambiguation of dynamic commands |
US20150248651A1 (en) | 2014-02-28 | 2015-09-03 | Christine E. Akutagawa | Social networking event planning |
US9412363B2 (en) | 2014-03-03 | 2016-08-09 | Microsoft Technology Licensing, Llc | Model based approach for on-screen item selection and disambiguation |
WO2015133022A1 (ja) * | 2014-03-03 | 2015-09-11 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
US9489171B2 (en) | 2014-03-04 | 2016-11-08 | Microsoft Technology Licensing, Llc | Voice-command suggestions based on user identity |
US20150256873A1 (en) | 2014-03-04 | 2015-09-10 | Microsoft Technology Licensing, Llc | Relayed voice control of devices |
US9582246B2 (en) | 2014-03-04 | 2017-02-28 | Microsoft Technology Licensing, Llc | Voice-command suggestions based on computer context |
US9286910B1 (en) | 2014-03-13 | 2016-03-15 | Amazon Technologies, Inc. | System for resolving ambiguous queries based on user context |
US9430186B2 (en) | 2014-03-17 | 2016-08-30 | Google Inc | Visual indication of a recognized voice-initiated action |
US10102274B2 (en) | 2014-03-17 | 2018-10-16 | NLPCore LLC | Corpus search systems and methods |
US9311525B2 (en) * | 2014-03-19 | 2016-04-12 | Qualcomm Incorporated | Method and apparatus for establishing connection between electronic devices |
US9734817B1 (en) * | 2014-03-21 | 2017-08-15 | Amazon Technologies, Inc. | Text-to-speech task scheduling |
US9336306B2 (en) | 2014-03-21 | 2016-05-10 | International Business Machines Corporation | Automatic evaluation and improvement of ontologies for natural language processing tasks |
US9916839B1 (en) * | 2014-03-27 | 2018-03-13 | Amazon Technologies, Inc. | Shared audio functionality based on device grouping |
US9431021B1 (en) * | 2014-03-27 | 2016-08-30 | Amazon Technologies, Inc. | Device grouping for audio based interactivity |
IN2014DE00899A (ko) | 2014-03-28 | 2015-10-02 | Samsung Electronics Co Ltd | |
US10037758B2 (en) | 2014-03-31 | 2018-07-31 | Mitsubishi Electric Corporation | Device and method for understanding user intent |
US9196243B2 (en) | 2014-03-31 | 2015-11-24 | International Business Machines Corporation | Method and system for efficient spoken term detection using confusion networks |
US9286892B2 (en) | 2014-04-01 | 2016-03-15 | Google Inc. | Language modeling in speech recognition |
US20150278370A1 (en) | 2014-04-01 | 2015-10-01 | Microsoft Corporation | Task completion for natural language input |
WO2015151133A1 (en) | 2014-04-02 | 2015-10-08 | Sony Corporation | Power efficient proximity detection |
US20150286627A1 (en) | 2014-04-03 | 2015-10-08 | Adobe Systems Incorporated | Contextual sentiment text analysis |
KR20150115555A (ko) | 2014-04-04 | 2015-10-14 | 삼성전자주식회사 | 전자 장치 및 그의 정보 제공 방법 |
KR102249086B1 (ko) | 2014-04-04 | 2021-05-10 | 삼성전자주식회사 | 레코딩 지원 전자장치 및 방법 |
US9383827B1 (en) | 2014-04-07 | 2016-07-05 | Google Inc. | Multi-modal command display |
JP6282516B2 (ja) | 2014-04-08 | 2018-02-21 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 複数機器の音声操作システム、音声操作方法及び、プログラム |
US9888452B2 (en) | 2014-04-10 | 2018-02-06 | Twin Harbor Labs Llc | Methods and apparatus notifying a user of the operating condition of a household appliance |
US20150294516A1 (en) | 2014-04-10 | 2015-10-15 | Kuo-Ching Chiang | Electronic device with security module |
US20170178664A1 (en) | 2014-04-11 | 2017-06-22 | Analog Devices, Inc. | Apparatus, systems and methods for providing cloud based blind source separation services |
CN108551675B (zh) | 2014-04-14 | 2022-04-15 | 创新先进技术有限公司 | 一种应用客户端、服务端及对应的Portal认证方法 |
US9652453B2 (en) | 2014-04-14 | 2017-05-16 | Xerox Corporation | Estimation of parameters for machine translation without in-domain parallel data |
US20150294086A1 (en) | 2014-04-14 | 2015-10-15 | Elwha Llc | Devices, systems, and methods for automated enhanced care rooms |
US20150302856A1 (en) | 2014-04-17 | 2015-10-22 | Qualcomm Incorporated | Method and apparatus for performing function by speech input |
US10770075B2 (en) | 2014-04-21 | 2020-09-08 | Qualcomm Incorporated | Method and apparatus for activating application by speech input |
US9607613B2 (en) | 2014-04-23 | 2017-03-28 | Google Inc. | Speech endpointing based on word comparisons |
US20150310862A1 (en) | 2014-04-24 | 2015-10-29 | Microsoft Corporation | Deep learning for semantic parsing including semantic utterance classification |
US10845982B2 (en) | 2014-04-28 | 2020-11-24 | Facebook, Inc. | Providing intelligent transcriptions of sound messages in a messaging application |
US9520127B2 (en) | 2014-04-29 | 2016-12-13 | Microsoft Technology Licensing, Llc | Shared hidden layer combination for speech recognition systems |
KR102248474B1 (ko) | 2014-04-30 | 2021-05-07 | 삼성전자 주식회사 | 음성 명령 제공 방법 및 장치 |
US9600600B2 (en) | 2014-04-30 | 2017-03-21 | Excalibur Ip, Llc | Method and system for evaluating query suggestions quality |
US9501163B2 (en) | 2014-05-06 | 2016-11-22 | Symbol Technologies, Llc | Apparatus and method for activating a trigger mechanism |
KR102282487B1 (ko) | 2014-05-08 | 2021-07-26 | 삼성전자주식회사 | 애플리케이션 실행 장치 및 방법 |
US9620105B2 (en) | 2014-05-15 | 2017-04-11 | Apple Inc. | Analyzing audio input for efficient speech and music recognition |
US9459889B2 (en) | 2014-05-19 | 2016-10-04 | Qualcomm Incorporated | Systems and methods for context-aware application control |
KR102216048B1 (ko) | 2014-05-20 | 2021-02-15 | 삼성전자주식회사 | 음성 명령 인식 장치 및 방법 |
US10726831B2 (en) | 2014-05-20 | 2020-07-28 | Amazon Technologies, Inc. | Context interpretation in natural language processing using previous dialog acts |
KR102223278B1 (ko) | 2014-05-22 | 2021-03-05 | 엘지전자 주식회사 | 글래스 타입 단말기 및 이의 제어방법 |
US9990433B2 (en) | 2014-05-23 | 2018-06-05 | Samsung Electronics Co., Ltd. | Method for searching and device thereof |
US10592095B2 (en) | 2014-05-23 | 2020-03-17 | Apple Inc. | Instantaneous speaking of content on touch devices |
US9502031B2 (en) | 2014-05-27 | 2016-11-22 | Apple Inc. | Method for supporting dynamic grammars in WFST-based ASR |
US9437189B2 (en) | 2014-05-29 | 2016-09-06 | Google Inc. | Generating language models |
TWI520007B (zh) | 2014-05-30 | 2016-02-01 | 由田新技股份有限公司 | 眼控密碼輸入設備、方法、電腦可讀取紀錄媒體及電腦程式產品 |
US9715875B2 (en) | 2014-05-30 | 2017-07-25 | Apple Inc. | Reducing the need for manual start/end-pointing and trigger phrases |
US9380123B2 (en) | 2014-05-30 | 2016-06-28 | Apple Inc. | Activity continuation between electronic devices |
US9760559B2 (en) | 2014-05-30 | 2017-09-12 | Apple Inc. | Predictive text input |
US10078631B2 (en) | 2014-05-30 | 2018-09-18 | Apple Inc. | Entropy-guided text prediction using combined word and character n-gram language models |
US9430463B2 (en) | 2014-05-30 | 2016-08-30 | Apple Inc. | Exemplar-based natural language processing |
US9633004B2 (en) | 2014-05-30 | 2017-04-25 | Apple Inc. | Better resolution when referencing to concepts |
US10579212B2 (en) | 2014-05-30 | 2020-03-03 | Apple Inc. | Structured suggestions |
US9519634B2 (en) | 2014-05-30 | 2016-12-13 | Educational Testing Service | Systems and methods for determining lexical associations among words in a corpus |
CN106471570B (zh) | 2014-05-30 | 2019-10-01 | 苹果公司 | 多命令单一话语输入方法 |
US10170123B2 (en) | 2014-05-30 | 2019-01-01 | Apple Inc. | Intelligent assistant for home automation |
US9842101B2 (en) | 2014-05-30 | 2017-12-12 | Apple Inc. | Predictive conversion of language input |
US10033818B2 (en) * | 2014-05-30 | 2018-07-24 | Apple Inc. | Using listen ranges to deliver content to electronic devices from local caching servers |
US20150350118A1 (en) | 2014-05-30 | 2015-12-03 | Apple Inc. | Canned answers in messages |
GB2526805A (en) * | 2014-06-03 | 2015-12-09 | Nokia Technologies Oy | Methods, apparatuses and computer programs for adapting content |
US9729599B2 (en) | 2014-06-04 | 2017-08-08 | Sonos, Inc. | Cloud queue access control |
US8995972B1 (en) | 2014-06-05 | 2015-03-31 | Grandios Technologies, Llc | Automatic personal assistance between users devices |
JP6307356B2 (ja) | 2014-06-06 | 2018-04-04 | 株式会社デンソー | 運転コンテキスト情報生成装置 |
WO2015187048A1 (en) | 2014-06-06 | 2015-12-10 | Obschestvo S Ogranichennoy Otvetstvennostiyu "Speactoit" | Proactive environment-based chat information system |
US10325205B2 (en) | 2014-06-09 | 2019-06-18 | Cognitive Scale, Inc. | Cognitive information processing system environment |
HUE039773T2 (hu) | 2014-06-11 | 2019-02-28 | Huawei Tech Co Ltd | Eljárás és terminál egy alkalmazás szolgáltatás gyorsindítására |
US20150364140A1 (en) | 2014-06-13 | 2015-12-17 | Sony Corporation | Portable Electronic Equipment and Method of Operating a User Interface |
US10127901B2 (en) | 2014-06-13 | 2018-11-13 | Microsoft Technology Licensing, Llc | Hyper-structure recurrent neural networks for text-to-speech |
CN104090652B (zh) | 2014-06-13 | 2017-07-21 | 北京搜狗科技发展有限公司 | 一种语音输入方法和装置 |
US10236016B1 (en) * | 2014-06-16 | 2019-03-19 | Amazon Technologies, Inc. | Peripheral-based selection of audio sources |
US10186282B2 (en) | 2014-06-19 | 2019-01-22 | Apple Inc. | Robust end-pointing of speech signals using speaker recognition |
US9462112B2 (en) | 2014-06-19 | 2016-10-04 | Microsoft Technology Licensing, Llc | Use of a digital assistant in communications |
US20150371529A1 (en) * | 2014-06-24 | 2015-12-24 | Bose Corporation | Audio Systems and Related Methods and Devices |
US9632748B2 (en) | 2014-06-24 | 2017-04-25 | Google Inc. | Device designation for audio input monitoring |
US9384738B2 (en) | 2014-06-24 | 2016-07-05 | Google Inc. | Dynamic threshold for speaker verification |
US9807559B2 (en) | 2014-06-25 | 2017-10-31 | Microsoft Technology Licensing, Llc | Leveraging user signals for improved interactions with digital personal assistant |
KR20160001286A (ko) * | 2014-06-27 | 2016-01-06 | 삼성전자주식회사 | 전자 장치 및 이의 컨텐츠 공유 방법 |
US10402453B2 (en) | 2014-06-27 | 2019-09-03 | Nuance Communications, Inc. | Utilizing large-scale knowledge graphs to support inference at scale and explanation generation |
US9338493B2 (en) | 2014-06-30 | 2016-05-10 | Apple Inc. | Intelligent automated assistant for TV user interactions |
KR102261552B1 (ko) | 2014-06-30 | 2021-06-07 | 삼성전자주식회사 | 음성 명령어 제공 방법 및 이를 지원하는 전자 장치 |
US10659851B2 (en) | 2014-06-30 | 2020-05-19 | Apple Inc. | Real-time digital assistant knowledge updates |
US20160005320A1 (en) | 2014-07-02 | 2016-01-07 | Christopher deCharms | Technologies for brain exercise training |
US20160012038A1 (en) | 2014-07-10 | 2016-01-14 | International Business Machines Corporation | Semantic typing with n-gram analysis |
US10321204B2 (en) | 2014-07-11 | 2019-06-11 | Lenovo (Singapore) Pte. Ltd. | Intelligent closed captioning |
KR20160009344A (ko) | 2014-07-16 | 2016-01-26 | 삼성전자주식회사 | 귓속말 인식 방법 및 장치 |
US9257120B1 (en) | 2014-07-18 | 2016-02-09 | Google Inc. | Speaker verification using co-location information |
WO2016010857A1 (en) | 2014-07-18 | 2016-01-21 | Apple Inc. | Raise gesture detection in a device |
US9301256B2 (en) | 2014-07-24 | 2016-03-29 | Verizon Patent And Licensing Inc. | Low battery indication for callers to mobile device |
US20160028666A1 (en) | 2014-07-24 | 2016-01-28 | Framy Inc. | System and method for instant messaging |
US20160086116A1 (en) | 2014-07-27 | 2016-03-24 | Supriya Rao | Method and system of an automatically managed calendar and contextual task list |
US20160034811A1 (en) | 2014-07-31 | 2016-02-04 | Apple Inc. | Efficient generation of complementary acoustic models for performing automatic speech recognition system combination |
WO2016017997A1 (en) | 2014-07-31 | 2016-02-04 | Samsung Electronics Co., Ltd. | Wearable glasses and method of providing content using the same |
JP6555858B2 (ja) | 2014-08-01 | 2019-08-07 | シャープ株式会社 | 機器、音声出力方法、音声出力プログラム、ネットワークシステム、サーバ、および通信機器 |
US9377871B2 (en) | 2014-08-01 | 2016-06-28 | Nuance Communications, Inc. | System and methods for determining keyboard input in the presence of multiple contact points |
US9548066B2 (en) | 2014-08-11 | 2017-01-17 | Amazon Technologies, Inc. | Voice application architecture |
US9767794B2 (en) | 2014-08-11 | 2017-09-19 | Nuance Communications, Inc. | Dialog flow management in hierarchical task dialogs |
US9361442B2 (en) | 2014-08-12 | 2016-06-07 | International Business Machines Corporation | Triggering actions on a user device based on biometrics of nearby individuals |
JP6044604B2 (ja) | 2014-08-18 | 2016-12-14 | カシオ計算機株式会社 | 端末装置、およびプログラム |
US10345767B2 (en) | 2014-08-19 | 2019-07-09 | Samsung Electronics Co., Ltd. | Apparatus and method for gamification of sensor data interpretation in smart home |
KR20160023089A (ko) | 2014-08-21 | 2016-03-03 | 엘지전자 주식회사 | 디지털 디바이스 및 그 제어 방법 |
US20160055240A1 (en) | 2014-08-22 | 2016-02-25 | Microsoft Corporation | Orphaned utterance detection system and method |
US10446141B2 (en) | 2014-08-28 | 2019-10-15 | Apple Inc. | Automatic speech recognition based on user feedback |
US9990610B2 (en) | 2014-08-29 | 2018-06-05 | Google Llc | Systems and methods for providing suggested reminders |
CN105471705B (zh) | 2014-09-03 | 2021-03-23 | 腾讯科技(深圳)有限公司 | 一种基于即时通讯的智能控制方法、设备及系统 |
US9959863B2 (en) | 2014-09-08 | 2018-05-01 | Qualcomm Incorporated | Keyword detection using speaker-independent keyword models for user-designated keywords |
EP3192071A4 (en) | 2014-09-09 | 2017-08-23 | Microsoft Technology Licensing, LLC | Variable-component deep neural network for robust speech recognition |
US10204622B2 (en) | 2015-09-10 | 2019-02-12 | Crestron Electronics, Inc. | Acoustic sensory network |
US9818400B2 (en) | 2014-09-11 | 2017-11-14 | Apple Inc. | Method and apparatus for discovering trending terms in speech requests |
US10789041B2 (en) | 2014-09-12 | 2020-09-29 | Apple Inc. | Dynamic thresholds for always listening speech trigger |
CN105490890A (zh) | 2014-09-16 | 2016-04-13 | 中兴通讯股份有限公司 | 智能家庭终端及其控制方法 |
US9508028B2 (en) | 2014-09-24 | 2016-11-29 | Nuance Communications, Inc. | Converting text strings into number strings, such as via a touchscreen input |
US10317992B2 (en) | 2014-09-25 | 2019-06-11 | Microsoft Technology Licensing, Llc | Eye gaze for spoken language understanding in multi-modal conversational interactions |
US9646609B2 (en) | 2014-09-30 | 2017-05-09 | Apple Inc. | Caching apparatus for serving phonetic pronunciations |
US10127911B2 (en) | 2014-09-30 | 2018-11-13 | Apple Inc. | Speaker identification and unsupervised speaker adaptation techniques |
US10074360B2 (en) | 2014-09-30 | 2018-09-11 | Apple Inc. | Providing an indication of the suitability of speech recognition |
US9668121B2 (en) | 2014-09-30 | 2017-05-30 | Apple Inc. | Social reminders |
US9646634B2 (en) | 2014-09-30 | 2017-05-09 | Google Inc. | Low-rank hidden input layer for speech recognition neural network |
US9830321B2 (en) | 2014-09-30 | 2017-11-28 | Rovi Guides, Inc. | Systems and methods for searching for a media asset |
US9378740B1 (en) | 2014-09-30 | 2016-06-28 | Amazon Technologies, Inc. | Command suggestions during automatic speech recognition |
US9886432B2 (en) | 2014-09-30 | 2018-02-06 | Apple Inc. | Parsimonious handling of word inflection via categorical stem + suffix N-gram language models |
JP6448971B2 (ja) | 2014-09-30 | 2019-01-09 | シャープ株式会社 | 対話装置 |
US9578156B2 (en) | 2014-09-30 | 2017-02-21 | Samsung Electronics Co., Ltd. | Method and apparatus for operating an electronic device |
CA2962636A1 (en) | 2014-10-01 | 2016-04-07 | XBrain, Inc. | Voice and connection platform |
US9318107B1 (en) | 2014-10-09 | 2016-04-19 | Google Inc. | Hotword detection on multiple devices |
US9812128B2 (en) | 2014-10-09 | 2017-11-07 | Google Inc. | Device leadership negotiation among voice interface devices |
US9741344B2 (en) | 2014-10-20 | 2017-08-22 | Vocalzoom Systems Ltd. | System and method for operating devices using voice commands |
US20160117386A1 (en) | 2014-10-22 | 2016-04-28 | International Business Machines Corporation | Discovering terms using statistical corpus analysis |
US9576575B2 (en) | 2014-10-27 | 2017-02-21 | Toyota Motor Engineering & Manufacturing North America, Inc. | Providing voice recognition shortcuts based on user verbal input |
CN104460593B (zh) | 2014-10-29 | 2017-10-10 | 小米科技有限责任公司 | 模式切换方法及装置 |
US9880714B2 (en) | 2014-10-30 | 2018-01-30 | Ebay Inc. | Dynamic loading of contextual ontologies for predictive touch screen typing |
US10089364B2 (en) | 2014-10-31 | 2018-10-02 | Kabushiki Kaisha Toshiba | Item recommendation device, item recommendation method, and computer program product |
US9646611B2 (en) | 2014-11-06 | 2017-05-09 | Microsoft Technology Licensing, Llc | Context-based actions |
US10572589B2 (en) | 2014-11-10 | 2020-02-25 | International Business Machines Corporation | Cognitive matching of narrative data |
GB2532075A (en) | 2014-11-10 | 2016-05-11 | Lego As | System and method for toy recognition and detection based on convolutional neural networks |
US9842102B2 (en) | 2014-11-10 | 2017-12-12 | Oracle International Corporation | Automatic ontology generation for natural-language processing applications |
US9542927B2 (en) | 2014-11-13 | 2017-01-10 | Google Inc. | Method and system for building text-to-speech voice from diverse recordings |
US20160139662A1 (en) | 2014-11-14 | 2016-05-19 | Sachin Dabhade | Controlling a visual device based on a proximity between a user and the visual device |
US9258604B1 (en) | 2014-11-24 | 2016-02-09 | Facebook, Inc. | Commercial detection based on audio fingerprinting |
US9886430B2 (en) | 2014-11-25 | 2018-02-06 | Microsoft Technology Licensing, Llc | Entity based content selection |
US10614799B2 (en) | 2014-11-26 | 2020-04-07 | Voicebox Technologies Corporation | System and method of providing intent predictions for an utterance prior to a system detection of an end of the utterance |
US9812126B2 (en) * | 2014-11-28 | 2017-11-07 | Microsoft Technology Licensing, Llc | Device arbitration for listening devices |
US10192549B2 (en) | 2014-11-28 | 2019-01-29 | Microsoft Technology Licensing, Llc | Extending digital personal assistant action providers |
EP3228084A4 (en) * | 2014-12-01 | 2018-04-25 | Inscape Data, Inc. | System and method for continuous media segment identification |
US10127214B2 (en) | 2014-12-09 | 2018-11-13 | Sansa Al Inc. | Methods for generating natural language processing systems |
US9711141B2 (en) | 2014-12-09 | 2017-07-18 | Apple Inc. | Disambiguating heteronyms in speech synthesis |
US9466297B2 (en) | 2014-12-09 | 2016-10-11 | Microsoft Technology Licensing, Llc | Communication system |
US20160170966A1 (en) | 2014-12-10 | 2016-06-16 | Brian Kolo | Methods and systems for automated language identification |
CN111427533B (zh) | 2014-12-11 | 2023-07-25 | 微软技术许可有限责任公司 | 能够实现可动作的消息传送的虚拟助理系统 |
US9904673B2 (en) | 2014-12-17 | 2018-02-27 | International Business Machines Corporation | Conversation advisor |
US9552816B2 (en) | 2014-12-19 | 2017-01-24 | Amazon Technologies, Inc. | Application focus in speech-based systems |
US9911415B2 (en) | 2014-12-19 | 2018-03-06 | Lenovo (Singapore) Pte. Ltd. | Executing a voice command during voice input |
US9811312B2 (en) | 2014-12-22 | 2017-11-07 | Intel Corporation | Connected device voice command support |
US9690542B2 (en) | 2014-12-22 | 2017-06-27 | Microsoft Technology Licensing, Llc | Scaling digital personal assistant agents across devices |
JP6504808B2 (ja) | 2014-12-22 | 2019-04-24 | キヤノン株式会社 | 撮像装置、音声コマンド機能の設定方法、コンピュータプログラム、及び記憶媒体 |
KR20160076201A (ko) | 2014-12-22 | 2016-06-30 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
US9837081B2 (en) | 2014-12-30 | 2017-12-05 | Microsoft Technology Licensing, Llc | Discovering capabilities of third-party voice-enabled resources |
US9959129B2 (en) | 2015-01-09 | 2018-05-01 | Microsoft Technology Licensing, Llc | Headless task completion within digital personal assistants |
CN113140215A (zh) | 2015-01-16 | 2021-07-20 | 三星电子株式会社 | 用于执行话音识别的方法和设备 |
KR102305584B1 (ko) | 2015-01-19 | 2021-09-27 | 삼성전자주식회사 | 언어 모델 학습 방법 및 장치, 언어 인식 방법 및 장치 |
US9367541B1 (en) | 2015-01-20 | 2016-06-14 | Xerox Corporation | Terminological adaptation of statistical machine translation system through automatic generation of phrasal contexts for bilingual terms |
US9424412B1 (en) | 2015-02-02 | 2016-08-23 | Bank Of America Corporation | Authenticating customers using biometrics |
US20160225372A1 (en) | 2015-02-03 | 2016-08-04 | Samsung Electronics Company, Ltd. | Smart home connected device contextual learning using audio commands |
US9613022B2 (en) | 2015-02-04 | 2017-04-04 | Lenovo (Singapore) Pte. Ltd. | Context based customization of word assistance functions |
KR101678087B1 (ko) | 2015-02-16 | 2016-11-23 | 현대자동차주식회사 | 차량 및 그 제어방법 |
JP2016151928A (ja) | 2015-02-18 | 2016-08-22 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
EP3259688A4 (en) | 2015-02-19 | 2018-12-12 | Digital Reasoning Systems, Inc. | Systems and methods for neural language modeling |
US9928232B2 (en) | 2015-02-27 | 2018-03-27 | Microsoft Technology Licensing, Llc | Topically aware word suggestions |
US9911412B2 (en) | 2015-03-06 | 2018-03-06 | Nuance Communications, Inc. | Evidence-based natural language input recognition |
US9865280B2 (en) | 2015-03-06 | 2018-01-09 | Apple Inc. | Structured dictation using intelligent automated assistants |
US10152299B2 (en) | 2015-03-06 | 2018-12-11 | Apple Inc. | Reducing response latency of intelligent automated assistants |
US9886953B2 (en) | 2015-03-08 | 2018-02-06 | Apple Inc. | Virtual assistant activation |
US9721566B2 (en) | 2015-03-08 | 2017-08-01 | Apple Inc. | Competing devices responding to voice triggers |
US10567477B2 (en) | 2015-03-08 | 2020-02-18 | Apple Inc. | Virtual assistant continuity |
US20160266871A1 (en) | 2015-03-11 | 2016-09-15 | Adapx, Inc. | Speech recognizer for multimodal systems and signing in/out with and /or for a digital pen |
US9805713B2 (en) | 2015-03-13 | 2017-10-31 | Google Inc. | Addressing missing features in models |
US10031722B1 (en) | 2015-03-17 | 2018-07-24 | Amazon Technologies, Inc. | Grouping devices for voice control |
US9899019B2 (en) | 2015-03-18 | 2018-02-20 | Apple Inc. | Systems and methods for structured stem and suffix language models |
DK3272101T3 (da) * | 2015-03-20 | 2020-03-02 | Aplcomp Oy | Audiovisuel associativ autentificeringsfremgangsmåde, tilsvarende system og apparat |
US20160286045A1 (en) | 2015-03-23 | 2016-09-29 | Vonage Network Llc | System and method for providing an informative message when rejecting an incoming call |
US9703394B2 (en) | 2015-03-24 | 2017-07-11 | Google Inc. | Unlearning techniques for adaptive language models in text entry |
US20160284011A1 (en) | 2015-03-25 | 2016-09-29 | Facebook, Inc. | Techniques for social messaging authorization and customization |
US9672725B2 (en) | 2015-03-25 | 2017-06-06 | Microsoft Technology Licensing, Llc | Proximity-based reminders |
US10261482B2 (en) * | 2015-03-26 | 2019-04-16 | Ca, Inc. | Initiating actions on wearable devices |
US9484021B1 (en) | 2015-03-30 | 2016-11-01 | Amazon Technologies, Inc. | Disambiguation in speech recognition |
TWI525532B (zh) | 2015-03-30 | 2016-03-11 | Yu-Wei Chen | Set the name of the person to wake up the name for voice manipulation |
US20170032783A1 (en) | 2015-04-01 | 2017-02-02 | Elwha Llc | Hierarchical Networked Command Recognition |
US20160322044A1 (en) | 2015-04-01 | 2016-11-03 | Elwha Llc | Networked User Command Recognition |
US10095683B2 (en) | 2015-04-10 | 2018-10-09 | Facebook, Inc. | Contextual speller models on online social networks |
US9678664B2 (en) | 2015-04-10 | 2017-06-13 | Google Inc. | Neural network for keyboard input decoding |
US10021209B2 (en) * | 2015-04-10 | 2018-07-10 | Open Text Sa Ulc | Systems and methods for caching of managed content in a distributed environment using a multi-tiered architecture |
US10049099B2 (en) | 2015-04-10 | 2018-08-14 | Facebook, Inc. | Spell correction with hidden markov models on online social networks |
US9842105B2 (en) | 2015-04-16 | 2017-12-12 | Apple Inc. | Parsimonious continuous-space phrase representations for natural language processing |
WO2016175354A1 (ko) | 2015-04-29 | 2016-11-03 | 주식회사 아카인텔리전스 | 인공지능 대화 장치 및 방법 |
GB2537903B (en) | 2015-04-30 | 2019-09-04 | Toshiba Res Europe Limited | Device and method for a spoken dialogue system |
US9953063B2 (en) | 2015-05-02 | 2018-04-24 | Lithium Technologies, Llc | System and method of providing a content discovery platform for optimizing social network engagements |
US20160328205A1 (en) | 2015-05-05 | 2016-11-10 | Motorola Mobility Llc | Method and Apparatus for Voice Operation of Mobile Applications Having Unnamed View Elements |
US9892363B2 (en) | 2015-05-07 | 2018-02-13 | Truemotion, Inc. | Methods and systems for sensor-based driving data collection |
US9953648B2 (en) | 2015-05-11 | 2018-04-24 | Samsung Electronics Co., Ltd. | Electronic device and method for controlling the same |
US20160337299A1 (en) | 2015-05-13 | 2016-11-17 | Google Inc. | Prioritized notification display |
US9906482B2 (en) | 2015-05-13 | 2018-02-27 | The Travelers Indemnity Company | Predictive electronic message management systems and controllers |
WO2016185809A1 (ja) | 2015-05-19 | 2016-11-24 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
KR20160136013A (ko) | 2015-05-19 | 2016-11-29 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
US10061848B2 (en) | 2015-05-22 | 2018-08-28 | Microsoft Technology Licensing, Llc | Ontology-crowd-relevance deep response generation |
US10200824B2 (en) | 2015-05-27 | 2019-02-05 | Apple Inc. | Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device |
EP3304440B1 (en) | 2015-05-27 | 2021-05-19 | Orion Labs | Intelligent agent features for wearable personal communication nodes |
US10097973B2 (en) | 2015-05-27 | 2018-10-09 | Apple Inc. | Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device |
US10083688B2 (en) | 2015-05-27 | 2018-09-25 | Apple Inc. | Device voice control for selecting a displayed affordance |
US10127220B2 (en) | 2015-06-04 | 2018-11-13 | Apple Inc. | Language identification from short strings |
US9578173B2 (en) | 2015-06-05 | 2017-02-21 | Apple Inc. | Virtual assistant aided communication with 3rd party service in a communication session |
US10505884B2 (en) | 2015-06-05 | 2019-12-10 | Microsoft Technology Licensing, Llc | Entity classification and/or relationship identification |
US10101822B2 (en) | 2015-06-05 | 2018-10-16 | Apple Inc. | Language input correction |
US9865265B2 (en) | 2015-06-06 | 2018-01-09 | Apple Inc. | Multi-microphone speech recognition systems and related techniques |
US11025565B2 (en) | 2015-06-07 | 2021-06-01 | Apple Inc. | Personalized prediction of responses for instant messaging |
US10186254B2 (en) | 2015-06-07 | 2019-01-22 | Apple Inc. | Context-based endpoint detection |
US10255907B2 (en) | 2015-06-07 | 2019-04-09 | Apple Inc. | Automatic accent detection using acoustic models |
US20160357861A1 (en) | 2015-06-07 | 2016-12-08 | Apple Inc. | Natural language event detection |
US20160365101A1 (en) | 2015-06-15 | 2016-12-15 | Motorola Mobility Llc | Enabling Event Driven Voice Interaction with a Device |
US20160371250A1 (en) | 2015-06-16 | 2016-12-22 | Microsoft Technology Licensing, Llc | Text suggestion using a predictive grammar model |
WO2016205338A1 (en) | 2015-06-18 | 2016-12-22 | Amgine Technologies (Us), Inc. | Managing interactions between users and applications |
US9767386B2 (en) | 2015-06-23 | 2017-09-19 | Adobe Systems Incorporated | Training a classifier algorithm used for automatically generating tags to be applied to images |
CN104951077A (zh) | 2015-06-24 | 2015-09-30 | 百度在线网络技术(北京)有限公司 | 基于人工智能的人机交互方法、装置和终端设备 |
US10325590B2 (en) | 2015-06-26 | 2019-06-18 | Intel Corporation | Language model modification for local speech recognition systems using remote sources |
US10019992B2 (en) | 2015-06-29 | 2018-07-10 | Disney Enterprises, Inc. | Speech-controlled actions based on keywords and context thereof |
US20160378747A1 (en) | 2015-06-29 | 2016-12-29 | Apple Inc. | Virtual assistant for media playback |
US20160379641A1 (en) | 2015-06-29 | 2016-12-29 | Microsoft Technology Licensing, Llc | Auto-Generation of Notes and Tasks From Passive Recording |
KR102371188B1 (ko) | 2015-06-30 | 2022-03-04 | 삼성전자주식회사 | 음성 인식 장치 및 방법과 전자 장치 |
US9536527B1 (en) | 2015-06-30 | 2017-01-03 | Amazon Technologies, Inc. | Reporting operational metrics in speech-based systems |
CN105100356B (zh) | 2015-07-07 | 2018-04-06 | 上海斐讯数据通信技术有限公司 | 一种音量自动调节的方法和系统 |
JP2017019331A (ja) | 2015-07-08 | 2017-01-26 | Ntn株式会社 | 車両用モータ駆動装置 |
US20170011303A1 (en) | 2015-07-09 | 2017-01-12 | Qualcomm Incorporated | Contact-Based Predictive Response |
US10249297B2 (en) | 2015-07-13 | 2019-04-02 | Microsoft Technology Licensing, Llc | Propagating conversational alternatives using delayed hypothesis binding |
US10426037B2 (en) | 2015-07-15 | 2019-09-24 | International Business Machines Corporation | Circuitized structure with 3-dimensional configuration |
US10311384B2 (en) | 2015-07-29 | 2019-06-04 | Microsoft Technology Licensing, Llc | Automatic creation and maintenance of a taskline |
US10255921B2 (en) | 2015-07-31 | 2019-04-09 | Google Llc | Managing dialog data providers |
US9691361B2 (en) | 2015-08-03 | 2017-06-27 | International Business Machines Corporation | Adjusting presentation of content on a display |
US10362978B2 (en) | 2015-08-28 | 2019-07-30 | Comcast Cable Communications, Llc | Computational model for mood |
US20170061423A1 (en) * | 2015-09-01 | 2017-03-02 | Bank Of America Corporation | Use of wearable as an account control system |
US10747498B2 (en) | 2015-09-08 | 2020-08-18 | Apple Inc. | Zero latency digital assistant |
US10331312B2 (en) | 2015-09-08 | 2019-06-25 | Apple Inc. | Intelligent automated assistant in a media environment |
US10740384B2 (en) | 2015-09-08 | 2020-08-11 | Apple Inc. | Intelligent automated assistant for media search and playback |
US10671428B2 (en) | 2015-09-08 | 2020-06-02 | Apple Inc. | Distributed personal assistant |
US10026399B2 (en) | 2015-09-11 | 2018-07-17 | Amazon Technologies, Inc. | Arbitration between voice-enabled devices |
US9875081B2 (en) * | 2015-09-21 | 2018-01-23 | Amazon Technologies, Inc. | Device selection for providing a response |
US9665567B2 (en) | 2015-09-21 | 2017-05-30 | International Business Machines Corporation | Suggesting emoji characters based on current contextual emotional state of user |
US20170085547A1 (en) | 2015-09-22 | 2017-03-23 | International Business Machines Corporation | Storing, indexing and recalling data based on brain activity |
US9734142B2 (en) | 2015-09-22 | 2017-08-15 | Facebook, Inc. | Universal translation |
US9990040B2 (en) | 2015-09-25 | 2018-06-05 | Immersion Corporation | Haptic CAPTCHA |
US11010550B2 (en) | 2015-09-29 | 2021-05-18 | Apple Inc. | Unified language modeling framework for word prediction, auto-completion and auto-correction |
US11587559B2 (en) | 2015-09-30 | 2023-02-21 | Apple Inc. | Intelligent device identification |
US20170092278A1 (en) | 2015-09-30 | 2017-03-30 | Apple Inc. | Speaker recognition |
US20170102837A1 (en) * | 2015-10-07 | 2017-04-13 | Spotify Ab | Dynamic control of playlists using wearable devices |
US9571995B1 (en) * | 2015-10-07 | 2017-02-14 | Verizon Patent And Licensing Inc. | Call transfer initiation via near field communication (NFC) |
US10083685B2 (en) | 2015-10-13 | 2018-09-25 | GM Global Technology Operations LLC | Dynamically adding or removing functionality to speech recognition systems |
US10891106B2 (en) | 2015-10-13 | 2021-01-12 | Google Llc | Automatic batch voice commands |
AU2016346341B2 (en) | 2015-10-26 | 2019-08-08 | [24]7.ai, Inc. | Method and apparatus for facilitating customer intent prediction |
US10146874B2 (en) | 2015-10-28 | 2018-12-04 | Fujitsu Limited | Refining topic representations |
US20170125016A1 (en) | 2015-11-02 | 2017-05-04 | Le Holdings (Beijing) Co., Ltd. | Method and electronic device for processing voice messages |
US9691378B1 (en) | 2015-11-05 | 2017-06-27 | Amazon Technologies, Inc. | Methods and devices for selectively ignoring captured audio data |
US10691473B2 (en) | 2015-11-06 | 2020-06-23 | Apple Inc. | Intelligent automated assistant in a messaging environment |
US10956666B2 (en) | 2015-11-09 | 2021-03-23 | Apple Inc. | Unconventional virtual assistant interactions |
US9804681B2 (en) | 2015-11-10 | 2017-10-31 | Motorola Mobility Llc | Method and system for audible delivery of notifications partially presented on an always-on display |
KR102432620B1 (ko) | 2015-11-12 | 2022-08-16 | 삼성전자주식회사 | 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법 |
CN105897675A (zh) * | 2015-11-27 | 2016-08-24 | 乐视云计算有限公司 | 视频服务提供方法、访问鉴权方法及服务器和系统 |
KR102450853B1 (ko) | 2015-11-30 | 2022-10-04 | 삼성전자주식회사 | 음성 인식 장치 및 방법 |
US9946862B2 (en) * | 2015-12-01 | 2018-04-17 | Qualcomm Incorporated | Electronic device generating notification based on context data in response to speech phrase from user |
US10546015B2 (en) | 2015-12-01 | 2020-01-28 | Facebook, Inc. | Determining and utilizing contextual meaning of digital standardized image characters |
US10049668B2 (en) | 2015-12-02 | 2018-08-14 | Apple Inc. | Applying neural network language models to weighted finite state transducers for automatic speech recognition |
US10140845B1 (en) * | 2015-12-07 | 2018-11-27 | Massachusetts Mutual Life Insurance Company | Notification system for mobile devices |
US10796693B2 (en) | 2015-12-09 | 2020-10-06 | Lenovo (Singapore) Pte. Ltd. | Modifying input based on determined characteristics |
US9990921B2 (en) | 2015-12-09 | 2018-06-05 | Lenovo (Singapore) Pte. Ltd. | User focus activated voice recognition |
US20170169506A1 (en) * | 2015-12-11 | 2017-06-15 | Capital One Services, Llc | Systems and methods for voice-controlled account servicing |
US10685170B2 (en) * | 2015-12-16 | 2020-06-16 | Microsoft Technology Licensing, Llc | Dynamic content layout generator |
US10223066B2 (en) | 2015-12-23 | 2019-03-05 | Apple Inc. | Proactive assistance based on dialog communication between devices |
CA3009758A1 (en) | 2015-12-29 | 2017-07-06 | Mz Ip Holdings, Llc | Systems and methods for suggesting emoji |
US9716795B1 (en) * | 2015-12-30 | 2017-07-25 | Qualcomm Incorporated | Diversion of a call to a wearable device |
US20170193083A1 (en) | 2016-01-06 | 2017-07-06 | International Business Machines Corporation | Identifying message content related to an event utilizing natural language processing and performing an action pertaining to the event |
JP2017123564A (ja) | 2016-01-07 | 2017-07-13 | ソニー株式会社 | 制御装置、表示装置、方法及びプログラム |
US9747289B2 (en) | 2016-01-13 | 2017-08-29 | Disney Enterprises, Inc. | System and method for proximity-based personalized content recommendations |
US9792534B2 (en) | 2016-01-13 | 2017-10-17 | Adobe Systems Incorporated | Semantic natural language vector space |
CN105718448B (zh) | 2016-01-13 | 2019-03-19 | 北京新美互通科技有限公司 | 一种对输入字符进行自动翻译的方法和装置 |
US20170206899A1 (en) * | 2016-01-20 | 2017-07-20 | Fitbit, Inc. | Better communication channel for requests and responses having an intelligent agent |
KR102490548B1 (ko) * | 2016-01-25 | 2023-01-19 | 삼성전자주식회사 | 사용자 단말 장치 및 그 제어 방법 |
US9922647B2 (en) | 2016-01-29 | 2018-03-20 | International Business Machines Corporation | Approach to reducing the response time of a speech interface |
US10055489B2 (en) | 2016-02-08 | 2018-08-21 | Ebay Inc. | System and method for content-based media analysis |
US9858927B2 (en) * | 2016-02-12 | 2018-01-02 | Amazon Technologies, Inc | Processing spoken commands to control distributed audio outputs |
US10431218B2 (en) | 2016-02-15 | 2019-10-01 | EVA Automation, Inc. | Integration and probabilistic control of electronic devices |
US9947316B2 (en) * | 2016-02-22 | 2018-04-17 | Sonos, Inc. | Voice control of a media playback system |
US9965247B2 (en) * | 2016-02-22 | 2018-05-08 | Sonos, Inc. | Voice controlled media playback system based on user profile |
US9826306B2 (en) | 2016-02-22 | 2017-11-21 | Sonos, Inc. | Default playback device designation |
US9922648B2 (en) | 2016-03-01 | 2018-03-20 | Google Llc | Developer voice actions system |
US10404829B2 (en) * | 2016-03-11 | 2019-09-03 | Wipro Limited | Method and system for achieving improved quality of service (QoS) for content delivery in a SDN controller based communication network |
DK201670539A1 (en) | 2016-03-14 | 2017-10-02 | Apple Inc | Dictation that allows editing |
US10446143B2 (en) | 2016-03-14 | 2019-10-15 | Apple Inc. | Identification of voice inputs providing credentials |
US10304444B2 (en) | 2016-03-23 | 2019-05-28 | Amazon Technologies, Inc. | Fine-grained natural language understanding |
US10009340B2 (en) * | 2016-03-25 | 2018-06-26 | Fortinet, Inc. | Secure, automatic second factor user authentication using push services |
US20170286397A1 (en) | 2016-03-30 | 2017-10-05 | International Business Machines Corporation | Predictive Embeddings |
US10979843B2 (en) | 2016-04-08 | 2021-04-13 | Qualcomm Incorporated | Spatialized audio output based on predicted position data |
US20170311005A1 (en) * | 2016-04-26 | 2017-10-26 | Szu-Tung Lin | Method of wireless audio transmission and playback |
US10431205B2 (en) | 2016-04-27 | 2019-10-01 | Conduent Business Services, Llc | Dialog device with dialog support generated using a mixture of language models combined using a recurrent neural network |
KR20170128820A (ko) | 2016-05-16 | 2017-11-24 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
US10482451B2 (en) * | 2016-05-23 | 2019-11-19 | Mastercard International Incorporated | Method of using bioinformatics and geographic proximity to authenticate a user and transaction |
US9934775B2 (en) | 2016-05-26 | 2018-04-03 | Apple Inc. | Unit-selection text-to-speech synthesis based on predicted concatenation parameters |
US10832665B2 (en) | 2016-05-27 | 2020-11-10 | Centurylink Intellectual Property Llc | Internet of things (IoT) human interface apparatus, system, and method |
US9972304B2 (en) | 2016-06-03 | 2018-05-15 | Apple Inc. | Privacy preserving distributed evaluation framework for embedded personalized systems |
US10249300B2 (en) | 2016-06-06 | 2019-04-02 | Apple Inc. | Intelligent list reading |
US10049663B2 (en) | 2016-06-08 | 2018-08-14 | Apple, Inc. | Intelligent automated assistant for media exploration |
DK179309B1 (en) | 2016-06-09 | 2018-04-23 | Apple Inc | Intelligent automated assistant in a home environment |
US10127926B2 (en) | 2016-06-10 | 2018-11-13 | Google Llc | Securely executing voice actions with speaker identification and authentication input types |
US10586535B2 (en) | 2016-06-10 | 2020-03-10 | Apple Inc. | Intelligent digital assistant in a multi-tasking environment |
US10067938B2 (en) | 2016-06-10 | 2018-09-04 | Apple Inc. | Multilingual word prediction |
US10192552B2 (en) | 2016-06-10 | 2019-01-29 | Apple Inc. | Digital assistant providing whispered speech |
US10509862B2 (en) | 2016-06-10 | 2019-12-17 | Apple Inc. | Dynamic phrase expansion of language input |
US10490187B2 (en) | 2016-06-10 | 2019-11-26 | Apple Inc. | Digital assistant providing automated status report |
US10592601B2 (en) | 2016-06-10 | 2020-03-17 | Apple Inc. | Multilingual word prediction |
DK201670540A1 (en) | 2016-06-11 | 2018-01-08 | Apple Inc | Application integration with a digital assistant |
DK179415B1 (en) | 2016-06-11 | 2018-06-14 | Apple Inc | Intelligent device arbitration and control |
DK179343B1 (en) | 2016-06-11 | 2018-05-14 | Apple Inc | Intelligent task discovery |
DK179049B1 (en) | 2016-06-11 | 2017-09-18 | Apple Inc | Data driven natural language event detection and classification |
US11232136B2 (en) | 2016-06-27 | 2022-01-25 | Google Llc | Contextual voice search suggestions |
US10931999B1 (en) * | 2016-06-27 | 2021-02-23 | Amazon Technologies, Inc. | Systems and methods for routing content to an associated output device |
US10271093B1 (en) * | 2016-06-27 | 2019-04-23 | Amazon Technologies, Inc. | Systems and methods for routing content to an associated output device |
US9990176B1 (en) | 2016-06-28 | 2018-06-05 | Amazon Technologies, Inc. | Latency reduction for content playback |
US10044869B2 (en) * | 2016-06-29 | 2018-08-07 | Paypal, Inc. | Voice-controlled audio communication system |
US10491598B2 (en) | 2016-06-30 | 2019-11-26 | Amazon Technologies, Inc. | Multi-factor authentication to access services |
US9825801B1 (en) * | 2016-07-22 | 2017-11-21 | Spotify Ab | Systems and methods for using seektables to stream media items |
US9892732B1 (en) * | 2016-08-12 | 2018-02-13 | Paypal, Inc. | Location based voice recognition system |
US9967382B2 (en) | 2016-08-19 | 2018-05-08 | Amazon Technologies, Inc. | Enabling voice control of telephone device |
US20180060312A1 (en) | 2016-08-23 | 2018-03-01 | Microsoft Technology Licensing, Llc | Providing ideogram translation |
US11200026B2 (en) * | 2016-08-26 | 2021-12-14 | Bragi GmbH | Wireless earpiece with a passive virtual assistant |
US10313779B2 (en) | 2016-08-26 | 2019-06-04 | Bragi GmbH | Voice assistant system for wireless earpieces |
US10192551B2 (en) | 2016-08-30 | 2019-01-29 | Google Llc | Using textual input and user state information to generate reply content to present in response to the textual input |
US10217462B2 (en) | 2016-08-31 | 2019-02-26 | Microsoft Technology Licensing, Llc | Automating natural language task/dialog authoring by leveraging existing content |
CN107809372A (zh) | 2016-09-08 | 2018-03-16 | 阿里巴巴集团控股有限公司 | 活动提醒消息的生成方法、活动提醒方法及装置 |
US10043516B2 (en) | 2016-09-23 | 2018-08-07 | Apple Inc. | Intelligent automated assistant |
US11010763B1 (en) * | 2016-09-27 | 2021-05-18 | United Services Automobile Association (Usaa) | Biometric authentication on push notification |
EP3507798A1 (en) * | 2016-10-03 | 2019-07-10 | Google LLC | Processing voice commands based on device topology |
JP2018063537A (ja) | 2016-10-12 | 2018-04-19 | 株式会社東芝 | ホームネットワーク、電子機器、処理装置および表示方法 |
CN106484139B (zh) | 2016-10-19 | 2019-01-29 | 北京新美互通科技有限公司 | 表情符号推荐方法及装置 |
US10950230B2 (en) | 2016-10-28 | 2021-03-16 | Panasonic Intellectual Property Corporation Of America | Information processing device and information processing method |
US10783883B2 (en) * | 2016-11-03 | 2020-09-22 | Google Llc | Focus session at a voice interface device |
US10777201B2 (en) * | 2016-11-04 | 2020-09-15 | Microsoft Technology Licensing, Llc | Voice enabled bot platform |
US10127908B1 (en) * | 2016-11-11 | 2018-11-13 | Amazon Technologies, Inc. | Connected accessory for a voice-controlled device |
US10515632B2 (en) | 2016-11-15 | 2019-12-24 | At&T Intellectual Property I, L.P. | Asynchronous virtual assistant |
US10170110B2 (en) | 2016-11-17 | 2019-01-01 | Robert Bosch Gmbh | System and method for ranking of hybrid speech recognition results with neural networks |
US10332523B2 (en) | 2016-11-18 | 2019-06-25 | Google Llc | Virtual assistant identification of nearby computing devices |
US10147306B2 (en) | 2016-11-23 | 2018-12-04 | Alarm.Com Incorporated | Detection of authorized user presence and handling of unauthenticated monitoring system commands |
US9934785B1 (en) | 2016-11-30 | 2018-04-03 | Spotify Ab | Identification of taste attributes from an audio signal |
US10027662B1 (en) * | 2016-12-06 | 2018-07-17 | Amazon Technologies, Inc. | Dynamic user authentication |
JP2018101828A (ja) * | 2016-12-19 | 2018-06-28 | 船井電機株式会社 | 制御装置 |
US20190182176A1 (en) * | 2016-12-21 | 2019-06-13 | Facebook, Inc. | User Authentication with Voiceprints on Online Social Networks |
US10593346B2 (en) | 2016-12-22 | 2020-03-17 | Apple Inc. | Rank-reduced token representation for automatic speech recognition |
US10210864B2 (en) | 2016-12-29 | 2019-02-19 | T-Mobile Usa, Inc. | Voice command for communication between related devices |
US10437928B2 (en) * | 2016-12-30 | 2019-10-08 | Google Llc | Device identifier dependent operation processing of packet based data communication |
US10115396B2 (en) * | 2017-01-03 | 2018-10-30 | Logitech Europe, S.A. | Content streaming system |
US11204787B2 (en) | 2017-01-09 | 2021-12-21 | Apple Inc. | Application integration with a digital assistant |
US9747083B1 (en) | 2017-01-23 | 2017-08-29 | Essential Products, Inc. | Home device application programming interface |
US10136364B2 (en) | 2017-01-24 | 2018-11-20 | Essential Products, Inc. | Media and communications in a connected environment |
US11314898B2 (en) | 2017-02-28 | 2022-04-26 | Samsung Electronics Co., Ltd. | Operating method of electronic device for function execution based on voice command in locked state and electronic device supporting the same |
KR20180101063A (ko) | 2017-03-03 | 2018-09-12 | 삼성전자주식회사 | 사용자 입력을 처리하는 전자 장치 및 그 방법 |
US10096319B1 (en) | 2017-03-13 | 2018-10-09 | Amazon Technologies, Inc. | Voice-based determination of physical and emotional characteristics of users |
US10074371B1 (en) | 2017-03-14 | 2018-09-11 | Amazon Technologies, Inc. | Voice control of remote device by disabling wakeword detection |
US10547729B2 (en) | 2017-03-27 | 2020-01-28 | Samsung Electronics Co., Ltd. | Electronic device and method of executing function of electronic device |
US11183181B2 (en) * | 2017-03-27 | 2021-11-23 | Sonos, Inc. | Systems and methods of multiple voice services |
US10735479B2 (en) * | 2017-03-30 | 2020-08-04 | Intel Corporation | Methods, systems and apparatus to enable voice assistant device communication |
US10672402B2 (en) * | 2017-04-11 | 2020-06-02 | International Business Machines Corporation | Speech with context authenticator |
US10013979B1 (en) | 2017-04-17 | 2018-07-03 | Essential Products, Inc. | Expanding a set of commands to control devices in an environment |
KR102414122B1 (ko) | 2017-04-19 | 2022-06-29 | 삼성전자주식회사 | 사용자 발화를 처리하는 전자 장치 및 그 동작 방법 |
KR102298947B1 (ko) | 2017-04-28 | 2021-09-08 | 삼성전자주식회사 | 음성 데이터 처리 방법 및 이를 지원하는 전자 장치 |
US10282416B2 (en) | 2017-05-05 | 2019-05-07 | Apple Inc. | Unified framework for text conversion and prediction |
US10902855B2 (en) | 2017-05-08 | 2021-01-26 | Motorola Mobility Llc | Methods and devices for negotiating performance of control operations with acoustic signals |
DK201770383A1 (en) | 2017-05-09 | 2018-12-14 | Apple Inc. | USER INTERFACE FOR CORRECTING RECOGNITION ERRORS |
US10417266B2 (en) | 2017-05-09 | 2019-09-17 | Apple Inc. | Context-aware ranking of intelligent response suggestions |
DK201770439A1 (en) | 2017-05-11 | 2018-12-13 | Apple Inc. | Offline personal assistant |
US10726832B2 (en) | 2017-05-11 | 2020-07-28 | Apple Inc. | Maintaining privacy of personal information |
DK179745B1 (en) | 2017-05-12 | 2019-05-01 | Apple Inc. | SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT |
US11301477B2 (en) | 2017-05-12 | 2022-04-12 | Apple Inc. | Feedback analysis of a digital assistant |
US20180330714A1 (en) | 2017-05-12 | 2018-11-15 | Apple Inc. | Machine learned systems |
DK179496B1 (en) | 2017-05-12 | 2019-01-15 | Apple Inc. | USER-SPECIFIC Acoustic Models |
DK201770427A1 (en) | 2017-05-12 | 2018-12-20 | Apple Inc. | LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT |
DK201770411A1 (en) | 2017-05-15 | 2018-12-20 | Apple Inc. | MULTI-MODAL INTERFACES |
US10366692B1 (en) * | 2017-05-15 | 2019-07-30 | Amazon Technologies, Inc. | Accessory for a voice-controlled device |
DK179560B1 (en) * | 2017-05-16 | 2019-02-18 | Apple Inc. | FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES |
US20180336892A1 (en) | 2017-05-16 | 2018-11-22 | Apple Inc. | Detecting a trigger of a digital assistant |
US10311144B2 (en) | 2017-05-16 | 2019-06-04 | Apple Inc. | Emoji word sense disambiguation |
US20180336275A1 (en) | 2017-05-16 | 2018-11-22 | Apple Inc. | Intelligent automated assistant for media exploration |
CN117130574A (zh) | 2017-05-16 | 2023-11-28 | 苹果公司 | 数字助理服务的远场延伸 |
US20180357073A1 (en) | 2017-06-13 | 2018-12-13 | Motorola Solutions, Inc | Method, device, and system for electronic digital assistant for natural language detection of a user status change and corresponding modification of a user interface |
US10453451B2 (en) | 2017-07-05 | 2019-10-22 | Comcast Cable Communications, Llc | Methods and systems for using voice to control multiple devices |
US20190013025A1 (en) | 2017-07-10 | 2019-01-10 | Google Inc. | Providing an ambient assist mode for computing devices |
US10467552B2 (en) | 2017-07-31 | 2019-11-05 | Pearson Education, Inc. | System and method for automatic content provisioning |
US9967381B1 (en) | 2017-11-03 | 2018-05-08 | Republic Wireless, Inc. | Virtual telephony assistant |
CN107919123B (zh) | 2017-12-07 | 2022-06-03 | 北京小米移动软件有限公司 | 多语音助手控制方法、装置及计算机可读存储介质 |
-
2017
- 2017-06-02 DK DKPA201770435A patent/DK179560B1/en not_active IP Right Cessation
- 2017-06-02 DK DKPA201770434A patent/DK179549B1/en not_active IP Right Cessation
- 2017-08-16 US US15/679,108 patent/US11217255B2/en active Active
-
2018
- 2018-05-16 KR KR1020207010065A patent/KR102279647B1/ko active IP Right Grant
- 2018-07-26 DK DKPA201870504A patent/DK180114B1/en not_active IP Right Cessation
-
2019
- 2019-02-04 US US16/267,146 patent/US10748546B2/en active Active
-
2021
- 2021-12-06 US US17/543,292 patent/US20220093110A1/en active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150013631A (ko) * | 2012-05-15 | 2015-02-05 | 애플 인크. | 제3자 서비스를 디지털 어시스턴트와 통합하기 위한 시스템 및 방법 |
KR20160010523A (ko) * | 2013-06-07 | 2016-01-27 | 애플 인크. | 지능형 자동 어시스턴트 |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11743375B2 (en) | 2007-06-28 | 2023-08-29 | Apple Inc. | Portable electronic device with conversation management for incoming instant messages |
US11513661B2 (en) | 2014-05-31 | 2022-11-29 | Apple Inc. | Message user interfaces for capture and transmittal of media and location content |
US11775145B2 (en) | 2014-05-31 | 2023-10-03 | Apple Inc. | Message user interfaces for capture and transmittal of media and location content |
US11683408B2 (en) | 2017-05-16 | 2023-06-20 | Apple Inc. | Methods and interfaces for home media control |
US11750734B2 (en) | 2017-05-16 | 2023-09-05 | Apple Inc. | Methods for initiating output of at least a component of a signal representative of media currently being played back by another device |
US11849255B2 (en) | 2018-05-07 | 2023-12-19 | Apple Inc. | Multi-participant live communication user interface |
US11895391B2 (en) | 2018-09-28 | 2024-02-06 | Apple Inc. | Capturing and displaying images with multiple focal planes |
US11853646B2 (en) | 2019-05-31 | 2023-12-26 | Apple Inc. | User interfaces for audio media control |
US11714597B2 (en) | 2019-05-31 | 2023-08-01 | Apple Inc. | Methods and user interfaces for sharing audio |
US11620103B2 (en) | 2019-05-31 | 2023-04-04 | Apple Inc. | User interfaces for audio media control |
US11755273B2 (en) | 2019-05-31 | 2023-09-12 | Apple Inc. | User interfaces for audio media control |
US11824898B2 (en) | 2019-05-31 | 2023-11-21 | Apple Inc. | User interfaces for managing a local network |
US11785387B2 (en) | 2019-05-31 | 2023-10-10 | Apple Inc. | User interfaces for managing controllable external devices |
KR20210137873A (ko) * | 2020-05-11 | 2021-11-18 | 애플 인크. | 오디오 메시지를 위한 사용자 인터페이스 |
US11513667B2 (en) | 2020-05-11 | 2022-11-29 | Apple Inc. | User interface for audio message |
KR20220110459A (ko) * | 2020-05-11 | 2022-08-08 | 애플 인크. | 오디오 메시지를 위한 사용자 인터페이스 |
US11782598B2 (en) | 2020-09-25 | 2023-10-10 | Apple Inc. | Methods and interfaces for media control with dynamic feedback |
US11671697B2 (en) | 2021-01-31 | 2023-06-06 | Apple Inc. | User interfaces for wide angle video conference |
US11467719B2 (en) | 2021-01-31 | 2022-10-11 | Apple Inc. | User interfaces for wide angle video conference |
US11822761B2 (en) | 2021-05-15 | 2023-11-21 | Apple Inc. | Shared-content session user interfaces |
US11893214B2 (en) | 2021-05-15 | 2024-02-06 | Apple Inc. | Real-time communication user interface |
US11907605B2 (en) | 2021-05-15 | 2024-02-20 | Apple Inc. | Shared-content session user interfaces |
US11928303B2 (en) | 2021-05-15 | 2024-03-12 | Apple Inc. | Shared-content session user interfaces |
US11812135B2 (en) | 2021-09-24 | 2023-11-07 | Apple Inc. | Wide angle video conference |
US11770600B2 (en) | 2021-09-24 | 2023-09-26 | Apple Inc. | Wide angle video conference |
Also Published As
Publication number | Publication date |
---|---|
US20190172467A1 (en) | 2019-06-06 |
DK179549B1 (en) | 2019-02-12 |
DK201770435A1 (en) | 2018-12-14 |
US10748546B2 (en) | 2020-08-18 |
DK180114B1 (en) | 2020-05-13 |
US11217255B2 (en) | 2022-01-04 |
DK201770434A1 (en) | 2018-12-04 |
DK201870504A1 (en) | 2018-12-04 |
US20220093110A1 (en) | 2022-03-24 |
KR102279647B1 (ko) | 2021-07-21 |
US20180336905A1 (en) | 2018-11-22 |
DK179560B1 (en) | 2019-02-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102100742B1 (ko) | 디지털 어시스턴트 서비스의 원거리 확장 | |
KR102279647B1 (ko) | 디지털 어시스턴트 서비스의 원거리 확장 | |
JP6641517B2 (ja) | マルチタスキング環境におけるインテリジェントデジタルアシスタント | |
KR102586188B1 (ko) | 디지털 어시스턴트 하드웨어 추출 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A107 | Divisional application of patent | ||
E902 | Notification of reason for refusal | ||
A107 | Divisional application of patent | ||
GRNT | Written decision to grant |