KR102038809B1 - 미디어 검색 및 재생을 위한 지능형 자동화 어시스턴트 - Google Patents
미디어 검색 및 재생을 위한 지능형 자동화 어시스턴트 Download PDFInfo
- Publication number
- KR102038809B1 KR102038809B1 KR1020197005386A KR20197005386A KR102038809B1 KR 102038809 B1 KR102038809 B1 KR 102038809B1 KR 1020197005386 A KR1020197005386 A KR 1020197005386A KR 20197005386 A KR20197005386 A KR 20197005386A KR 102038809 B1 KR102038809 B1 KR 102038809B1
- Authority
- KR
- South Korea
- Prior art keywords
- media
- primary
- user
- search query
- items
- Prior art date
Links
- 238000000034 method Methods 0.000 claims abstract description 502
- 238000003058 natural language processing Methods 0.000 claims description 90
- 230000008859 change Effects 0.000 claims description 36
- 230000008569 process Effects 0.000 abstract description 278
- 238000012545 processing Methods 0.000 description 453
- 230000004044 response Effects 0.000 description 429
- 230000000875 corresponding effect Effects 0.000 description 168
- 238000004891 communication Methods 0.000 description 156
- 230000006870 function Effects 0.000 description 142
- 230000003993 interaction Effects 0.000 description 83
- 238000005111 flow chemistry technique Methods 0.000 description 56
- 230000002093 peripheral effect Effects 0.000 description 54
- 230000009471 action Effects 0.000 description 47
- 230000000007 visual effect Effects 0.000 description 45
- 230000015572 biosynthetic process Effects 0.000 description 42
- 238000003786 synthesis reaction Methods 0.000 description 42
- 230000001276 controlling effect Effects 0.000 description 41
- 238000010586 diagram Methods 0.000 description 39
- 230000033001 locomotion Effects 0.000 description 34
- 230000003287 optical effect Effects 0.000 description 34
- 238000001514 detection method Methods 0.000 description 31
- 238000012790 confirmation Methods 0.000 description 29
- 238000005070 sampling Methods 0.000 description 25
- 238000005516 engineering process Methods 0.000 description 24
- 230000002452 interceptive effect Effects 0.000 description 24
- 241000447437 Gerreidae Species 0.000 description 23
- 238000013518 transcription Methods 0.000 description 22
- 230000035897 transcription Effects 0.000 description 22
- 230000005540 biological transmission Effects 0.000 description 17
- 238000003825 pressing Methods 0.000 description 17
- 238000011093 media selection Methods 0.000 description 13
- 230000002829 reductive effect Effects 0.000 description 13
- 230000008901 benefit Effects 0.000 description 12
- 230000007246 mechanism Effects 0.000 description 12
- 238000012986 modification Methods 0.000 description 12
- 230000004048 modification Effects 0.000 description 12
- 230000005236 sound signal Effects 0.000 description 11
- 230000001960 triggered effect Effects 0.000 description 10
- 230000001419 dependent effect Effects 0.000 description 9
- 238000000926 separation method Methods 0.000 description 9
- 230000008451 emotion Effects 0.000 description 8
- 239000004065 semiconductor Substances 0.000 description 8
- 230000001755 vocal effect Effects 0.000 description 8
- 241000227653 Lycopersicon Species 0.000 description 7
- 235000007688 Lycopersicon esculentum Nutrition 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 238000007726 management method Methods 0.000 description 7
- 238000012552 review Methods 0.000 description 7
- XEEYBQQBJWHFJM-UHFFFAOYSA-N Iron Chemical compound [Fe] XEEYBQQBJWHFJM-UHFFFAOYSA-N 0.000 description 6
- 239000008186 active pharmaceutical agent Substances 0.000 description 6
- 230000001815 facial effect Effects 0.000 description 6
- 230000003068 static effect Effects 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000005352 clarification Methods 0.000 description 5
- 230000000670 limiting effect Effects 0.000 description 5
- 230000007704 transition Effects 0.000 description 5
- 238000003491 array Methods 0.000 description 4
- 210000000988 bone and bone Anatomy 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 4
- 230000002596 correlated effect Effects 0.000 description 4
- 230000007123 defense Effects 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 239000011521 glass Substances 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 230000010365 information processing Effects 0.000 description 4
- 230000010076 replication Effects 0.000 description 4
- 238000010897 surface acoustic wave method Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 230000007717 exclusion Effects 0.000 description 3
- 229910052742 iron Inorganic materials 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000007670 refining Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- MQJKPEGWNLWLTK-UHFFFAOYSA-N Dapsone Chemical compound C1=CC(N)=CC=C1S(=O)(=O)C1=CC=C(N)C=C1 MQJKPEGWNLWLTK-UHFFFAOYSA-N 0.000 description 2
- 241000086550 Dinosauria Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000000903 blocking effect Effects 0.000 description 2
- 238000010304 firing Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 230000036651 mood Effects 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 238000010079 rubber tapping Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 238000013179 statistical model Methods 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 230000001502 supplementing effect Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000014616 translation Effects 0.000 description 2
- 206010047571 Visual impairment Diseases 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- VEMKTZHHVJILDY-UHFFFAOYSA-N resmethrin Chemical compound CC1(C)C(C=C(C)C)C1C(=O)OCC1=COC(CC=2C=CC=CC=2)=C1 VEMKTZHHVJILDY-UHFFFAOYSA-N 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000001568 sexual effect Effects 0.000 description 1
- 239000000344 soap Substances 0.000 description 1
- 239000007858 starting material Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/48—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/9032—Query formulation
- G06F16/90332—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/43—Querying
- G06F16/438—Presentation of query results
-
- G06F17/28—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- G10L15/265—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/4104—Peripherals receiving signals from specially adapted client devices
- H04N21/4126—The peripheral being portable, e.g. PDAs or mobile phones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/4104—Peripherals receiving signals from specially adapted client devices
- H04N21/4126—The peripheral being portable, e.g. PDAs or mobile phones
- H04N21/41265—The peripheral being portable, e.g. PDAs or mobile phones having a remote control device for bidirectional communication between the remote control device and client device
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/42203—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] sound input device, e.g. microphone
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
- H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
- H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
- H04N21/42222—Additional components integrated in the remote control device, e.g. timer, speaker, sensors for detecting position, direction or movement of the remote control, microphone or battery charging device
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
- H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
- H04N21/42224—Touch pad or touch panel provided on the remote control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/482—End-user interface for program selection
- H04N21/4828—End-user interface for program selection for searching program descriptors
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/221—Announcement of recognition results
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- General Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Acoustics & Sound (AREA)
- Library & Information Science (AREA)
- User Interface Of Digital Computer (AREA)
- Telephonic Communication Services (AREA)
Abstract
미디어 검색 및 재생을 위한 디지털 어시스턴트를 동작시키기 위한 시스템 및 프로세스가 개시된다. 예시적인 프로세스에서, 미디어 검색 요청을 포함하는 오디오 입력이 수신될 수 있다. 미디어 검색 요청에 대응하는 일차 사용자 의도가 결정될 수 있고, 하나 이상의 이전 사용자 의도에 기초하여 하나 이상의 이차 사용자 의도가 결정될 수 있다. 일차 사용자 의도에 대응하는 미디어 항목들의 일차 세트가 표시될 수 있고, 하나 이상의 이차 사용자 의도에 대응하는 미디어 항목들의 하나 이상의 이차 세트가 표시될 수 있다.
Description
관련 출원에 대한 상호 참조
본 출원은 2015년 9월 8일자로 출원되고 발명의 명칭이 "Intelligent Automated Assistant for Media Search and Playback"인 미국 가출원 제62/215,575호, 및 2015년 12월 8일자로 출원되고 발명의 명칭이 "Intelligent Automated Assistant for Media Search and Playback"인 미국 정규 출원 제14/963,089호로부터의 우선권을 주장하며, 이들은 모든 목적을 위해 그 전문이 본 명세서에 참조로서 편입된다.
본 출원은 동시 계류중인 이하의 출원들에 관련된다: 2015년 12월 8일자로 출원되고 발명의 명칭이 "Intelligent Automated Assistant in a Media Environment"인 미국 정규 특허 출원 제14/963,094호(대리인 관리번호 106842130800 (P25817US1)), 2014년 9월 26일 출원되고 발명의 명칭이 "Intelligent Automated Assistant for TV User Interactions"인 미국 정규 특허 출원 제14/498,503호(대리인 관리번호 106842065100 (P18133US1)), 및 2014년 9월 26일자로 출원되고 발명의 명칭이 "Real-time Digital Assistant Knowledge Updates"인 미국 정규 특허 출원 제14/498,391호(대리인 관리번호 제106842097900 (P22498USP1)), 이들은 모든 목적을 위해 그 전문이 본 명세서에 참조로서 편입된다.
기술분야
이는 일반적으로 지능형 자동화 어시스턴트에 관한 것으로, 보다 구체적으로는 미디어 검색 및 재생을 위한 지능형 자동화 어시스턴트에 관한 것이다.
지능형 자동화 어시스턴트(또는 디지털 어시스턴트)는 사용자들과 전자 디바이스들 사이의 직관적인 인터페이스를 제공할 수 있다. 이러한 어시스턴트들은 사용자들이 구어(spoken) 및/또는 텍스트 형태들의 자연 언어를 사용하여 디바이스들 또는 시스템들과 상호작용하도록 할 수 있다. 예를 들어, 사용자는 자연 언어 형태의 구어 사용자 입력을 전자 디바이스와 연관된 가상 어시스턴트에 제공함으로써 전자 디바이스의 서비스들에 액세스할 수 있다. 가상 어시스턴트는 구어 사용자 입력에 대한 자연 언어 처리를 수행하여 사용자의 의도를 추론하고, 사용자의 의도를 태스크들로 운용화할 수 있다. 이어서, 태스크들은 전자 디바이스의 하나 이상의 기능을 실행함으로써 수행될 수 있고, 일부 예들에서, 관련 출력이 자연 언어 형태로 사용자에게 반환될 수 있다.
미디어 환경(예컨대, 텔레비전, 텔레비전 셋톱 박스, 케이블 박스, 게이밍 디바이스, 스트리밍 미디어 디바이스, 디지털 비디오 녹화기 등) 내에 디지털 어시스턴트를 통합하는 것은 사용자가 미디어 소비와 관련된 태스크를 돕는 데 바람직할 수 있다. 예를 들어, 디지털 어시스턴트는 소비할 바람직한 미디어 콘텐츠를 찾는 것을 돕기 위해 활용될 수 있다. 그러나, 사용자는 소비하려는 특정 미디어 항목에 대해 명확하지 않은 경우가 많으며 새롭고 흥미로운 콘텐츠를 발견하기 위해 미디어 항목들을 브라우징하는 데 상당한 시간을 소비할 수 있다. 또한, 기존의 검색 인터페이스는 복잡할 수 있고 사용자에게 친숙하지 않을 수 있어, 이는 사용자가 원하는 항목을 소비하기 위해 궁극적으로 선택하기 전에 미디어 항목들을 브라우징하는 데 소비하는 시간을 더욱 증가시킬 수 있다.
미디어 검색 및 재생을 위한 디지털 어시스턴트를 동작시키기 위한 시스템 및 프로세스가 개시된다. 예시적인 프로세스에서, 미디어 항목들의 일차 세트(primary set)가 디스플레이 유닛 상에 표시될 수 있다. 사용자 입력을 검출하는 것에 응답하여, 오디오 입력이 수신될 수 있다. 오디오 입력은 자연 언어 스피치 형태(natural language speech form)의 미디어 관련 요청을 포함할 수 있다. 미디어 관련 요청에 대응하는 일차 사용자 의도가 결정될 수 있다. 처리는 일차 사용자 의도가 미디어 항목들의 일차 세트에 대응하는 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부를 결정할 수 있다. 일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함한다는 결정에 따라, 일차 사용자 의도에 대응하는 제2 일차 미디어 검색 질의가 생성될 수 있다. 제2 일차 미디어 검색 질의는 미디어 관련 요청 및 일차 미디어 검색 질의에 기초할 수 있다. 제2 일차 미디어 검색 질의는 미디어 항목들의 제2 일차 세트를 획득하기 위해 수행될 수 있다. 디스플레이 유닛 상의 미디어 항목들의 일차 세트의 표시는 미디어 항목들의 제2 일차 세트의 표시로 대체될 수 있다.
도 1은 다양한 예에 따른, 디지털 어시스턴트를 구현하기 위한 시스템 및 환경을 도시하는 블록도이다.
도 2는 다양한 예에 따른, 미디어 시스템을 도시하는 블록도이다.
도 3은 다양한 예에 따른, 사용자 디바이스를 도시하는 블록도이다.
도 4a는 다양한 예에 따른 디지털 어시스턴트 시스템 또는 그 서버 부분을 도시하는 블록도이다.
도 4b는 다양한 예에 따른, 도 4a에 도시된 디지털 어시스턴트의 기능들을 도시한다.
도 4c는 다양한 예에 따른, 온톨로지의 일부를 도시한다.
도 5a 내지 도 5e는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 프로세스를 도시한다.
도 6a 내지 도 6k는 다양한 예에 따른, 도 5a 내지 도 5e에 도시된 프로세스의 다양한 단계에서 미디어 디바이스에 의해 디스플레이 유닛 상에 표시된 스크린 샷을 예시한다.
도 7은 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
도 2는 다양한 예에 따른, 미디어 시스템을 도시하는 블록도이다.
도 3은 다양한 예에 따른, 사용자 디바이스를 도시하는 블록도이다.
도 4a는 다양한 예에 따른 디지털 어시스턴트 시스템 또는 그 서버 부분을 도시하는 블록도이다.
도 4b는 다양한 예에 따른, 도 4a에 도시된 디지털 어시스턴트의 기능들을 도시한다.
도 4c는 다양한 예에 따른, 온톨로지의 일부를 도시한다.
도 5a 내지 도 5e는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 프로세스를 도시한다.
도 6a 내지 도 6k는 다양한 예에 따른, 도 5a 내지 도 5e에 도시된 프로세스의 다양한 단계에서 미디어 디바이스에 의해 디스플레이 유닛 상에 표시된 스크린 샷을 예시한다.
도 7은 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
예들의 다음 설명에서, 첨부된 도면들이 참조되며, 실행될 수 있는 특정 예들이 도면들 내에서 예시로서 도시된다. 다양한 예의 범주를 벗어나지 않으면서 다른 예들이 이용될 수 있고 구조적 변경이 행해질 수 있다는 것이 이해되어야 한다.
이는 미디어 환경에서 디지털 어시스턴트를 동작시키기 위한 시스템 및 프로세스와 관련된다. 일례의 프로세스에서, 자연 언어 스피치 형태의 미디어 검색 요청이 수신될 수 있다. 미디어 검색 요청에 대응하는 일차 사용자 의도가 결정될 수 있다. 일차 사용자 의도에 따른 미디어 항목들의 일차 세트가 획득될 수 있다. 프로세스는 하나 이상의 이전 사용자 의도가 존재하는지 여부를 결정할 수 있으며, 여기서 하나 이상의 이전 사용자 의도는 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청에 대응한다. 하나 이상의 이전 사용자 의도가 존재한다는 결정에 응답하여, 하나 이상의 이차 사용자 의도(secondary user intent)는 일차 사용자 의도 및 하나 이상의 이전 사용자 의도에 기초하여 결정될 수 있다. 하나 이상의 이차 사용자 의도는 복수의 사용자 중 미디어 브라우징 이력, 관련 검색 속성, 및 대중 매체 속성과 같은 다양한 다른 인자에 기초할 수 있다. 미디어 항목들의 복수의 이차 세트가 획득될 수 있으며, 여기서 미디어 항목들의 이차 세트 각각은 하나 이상의 이차 사용자 의도의 개개의 이차 사용자 의도에 대응한다. 획득된 미디어 항목들의 일차 세트 및 미디어 항목들의 복수의 이차 세트는 사용자 선택을 위해 디스플레이 유닛 상에 사용자 인터페이스를 통해 표시될 수 있다. 일차 및 이차 사용자 의도들은 사용자의 실제 의도를 예측할 확률을 높이도록 지능적으로 결정될 수 있다. 일차 및 이차 사용자 의도들에 기초하여 다양한 미디어 항목을 제공함으로써, 사용자는 사용자의 관심을 끄는 미디어 항목들을 발견할 가능성이 더 많을 수 있다. 이는 미디어 항목들을 브라우징하는 데 소요되는 시간량을 줄이고 후속적으로 미디어 콘텐츠를 즐기는 데 소요되는 시간량을 증가시킴으로써 사용자 경험을 향상시키는 것이 바람직할 수 있다.
1. 시스템 및 환경
도 1은 다양한 예에 따른, 디지털 어시스턴트를 동작시키기 위한 예시적인 시스템(100)을 도시한다. 용어들 "디지털 어시스턴트", "가상 어시스턴트", "지능형 자동화 어시스턴트", 또는 "자동 디지털 어시스턴트"는 구어적 및/또는 문어적 형태로 입력되는 자연 언어를 해석하여 사용자 의도를 추론하고, 추론된 사용자 의도에 기초하여 동작들을 수행하는 임의의 정보 처리 시스템을 지칭할 수 있다. 예를 들어, 추론된 사용자 의도에 따라 동작하기 위해, 시스템은 다음 중 하나 이상을 수행할 수 있다: 추론된 사용자 의도를 달성하도록 설계된 단계들 및 파라미터들을 이용하여 태스크 흐름을 식별하는 것; 추론된 사용자 의도로부터의 특정 요건들을 태스크 흐름 내에 입력하는 것; 프로그램들, 방법들, 서비스들, 애플리케이션 프로그래밍 인터페이스(API)들 등을 호출(invoke)함으로써 태스크 흐름을 실행하는 것; 및 청각적(예컨대, 스피치) 및/또는 시각적 형태로 사용자에 대한 출력 응답들을 생성하는 것.
구체적으로, 디지털 어시스턴트는 적어도 부분적으로 자연 언어 커맨드, 요청, 진술, 서술, 및/또는 질문의 형태로 사용자 요청을 수용할 수 있다. 전형적으로, 사용자 요청은 정보제공형 답변 또는 디지털 어시스턴트에 의한 태스크의 수행 중 어느 하나를 구할 수 있다. 사용자 요청에 대한 만족스러운 응답은 요청된 정보제공형 답변의 제공, 요청된 태스크의 수행, 또는 이 둘의 조합일 수 있다. 예를 들어, 사용자는 디지털 어시스턴트에게, "파리는 몇 시야?"와 같은 질문을 할 수 있다. 디지털 어시스턴트는 요청된 정보를 검색하고 "파리는 오후 4시입니다"라고 응답할 수 있다. 사용자는 또한 "리즈 위더스푼이 주연한 영화를 찾아줘"와 같은 태스크의 수행을 요청할 수 있다. 이에 응답하여, 디지털 어시스턴트는 요청된 검색 질의를 수행하고 사용자가 선택할 수 있는 관련 영화 제목을 표시할 수 있다. 요청된 태스크의 수행 동안, 디지털 어시스턴트는 때때로 연장된 기간에 걸쳐 다수의 정보 교환을 수반하는 연속 대화로 사용자와 상호작용할 수 있다. 디지털 어시스턴트와 상호작용하여 정보 또는 다양한 태스크의 수행을 요청하는 수많은 다른 방식이 있다. 텍스트 응답을 제공하고 프로그래밍된 동작을 수행하는 것에 부가하여, 디지털 어시스턴트는 예를 들어 음성, 경고, 음악, 이미지, 비디오, 애니메이션 등과 같은 다른 시각적 또는 오디오 형태의 응답을 또한 제공할 수 있다. 또한, 본 명세서에서 논의되는 바와 같이, 예시적인 디지털 어시스턴트는 미디어 콘텐츠의 재생(예컨대, 텔레비전 셋톱 박스 상에서)을 제어하고 미디어 콘텐츠 또는 다른 정보를 디스플레이 유닛(예컨대, 텔레비전) 상에 표시되게 할 수 있다.
도 1에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 클라이언트-서버 모델에 따라 구현될 수 있다. 디지털 어시스턴트는 미디어 디바이스(104) 상에서 실행되는 클라이언트 측 부분(102)(이하, "DA 클라이언트(102)"), 및 서버 시스템(108) 상에서 실행되는 서버 측 부분(106)(이하, "DA 서버(106)")을 포함할 수 있다. 또한, 일부 예들에서, 클라이언트 측 부분은 또한 사용자 디바이스(122) 상에서 실행될 수 있다. DA 클라이언트(102)는 하나 이상의 네트워크(110)를 통해 DA 서버(106)와 통신할 수 있다. DA 클라이언트(102)는 사용자 대면 입력 및 출력 처리, 및 DA 서버(106)와의 통신과 같은 클라이언트 측 기능들을 제공할 수 있다. DA 서버(106)는 개개의 디바이스(예컨대, 미디어 디바이스(104) 및 사용자 디바이스(122)) 상에 각각 존재하는 임의의 수의 DA 클라이언트들(102)에 서버 측 기능들을 제공할 수 있다.
미디어 디바이스(104)는 미디어 콘텐츠를 관리 및 제어하도록 구성된 임의의 적합한 전자 디바이스일 수 있다. 예를 들어, 미디어 디바이스(104)는 케이블 박스 디바이스, 위성 박스 디바이스, 비디오 플레이어 디바이스, 비디오 스트리밍 디바이스, 디지털 비디오 녹화기, 게이밍 시스템, DVD 플레이어, Blu-ray Disc™ 플레이어, 그러한 디바이스들의 조합 등과 같은 텔레비전 셋톱 박스를 포함할 수 있다. 도 1에 도시된 바와 같이, 미디어 디바이스(104)는 미디어 시스템(128)의 일부일 수 있다. 미디어 디바이스(104)에 부가하여, 미디어 시스템(128)은 원격 제어부(124) 및 디스플레이 유닛(126)을 포함할 수 있다. 미디어 디바이스(104)는 미디어 콘텐츠를 디스플레이 유닛(126) 상에 표시할 수 있다. 디스플레이 유닛(126)은 텔레비전 디스플레이, 모니터, 프로젝터 등과 같은 임의의 유형의 디스플레이일 수 있다. 일부 예들에서, 미디어 디바이스(104)는 디스플레이 유닛(126)과 통합되거나 분리될 수 있는 오디오 시스템(예컨대, 오디오 수신기) 및 스피커(도시되지 않음)에 연결될 수 있다. 다른 예들에서, 디스플레이 유닛(126) 및 미디어 디바이스(104)는 진보된 처리 및 네트워크 연결성 능력들(network connectivity capabilities)을 갖는 스마트 텔레비전과 같은 단일 디바이스에 함께 통합될 수 있다. 이러한 예들에서, 미디어 디바이스(104)의 기능들은 조합된 디바이스 상의 애플리케이션으로서 실행될 수 있다.
일부 예들에서, 미디어 디바이스(104)는 미디어 콘텐츠의 다수의 유형 및 소스에 대한 미디어 제어 센터로서 기능할 수 있다. 예를 들어, 미디어 디바이스(104)는 라이브 텔레비전(예컨대, 지상파, 위성, 또는 케이블 TV)에 대한 사용자 액세스를 용이하게 할 수 있다. 이와 같이, 미디어 디바이스(104)는 케이블 튜너, 위성 튜너 등을 포함할 수 있다. 일부 예들에서, 미디어 디바이스(104)는 또한 나중에 타임-시프팅된(time-shifted) 시청을 위해 TV 프로그램을 녹화할 수 있다. 다른 예들에서, 미디어 디바이스(104)는 케이블-전달된 주문형 TV 쇼, 비디오, 및 음악뿐만 아니라 인터넷-전달된 TV 쇼, 비디오, 및 음악과 같은 하나 이상의 스트리밍 미디어 서비스(예컨대, 다양한 무료, 유료, 및 구독 기반 스트리밍 서비스들로부터의)에 대한 액세스를 제공할 수 있다. 또 다른 예들에서, 미디어 디바이스(104)는 모바일 사용자 디바이스로부터의 사진을 표시하거나, 결합된 저장 디바이스로부터 비디오를 재생하거나, 결합된 음악 플레이어로부터 음악을 재생하는 것 등과 같은 임의의 다른 소스로부터의 미디어 콘텐츠의 재생 또는 표시를 용이하게 할 수 있다. 미디어 디바이스(104)는 또한 원하는 대로 본 명세서에서 논의된 미디어 제어 특징부들의 다양한 다른 조합을 포함할 수 있다. 미디어 디바이스(104)의 상세한 설명은 도 2를 참조하여 아래에 제공된다.
사용자 디바이스(122)는 모바일 전화기(예컨대, 스마트폰), 태블릿 컴퓨터, 휴대용 미디어 플레이어, 데스크톱 컴퓨터, 랩톱 컴퓨터, PDA, 착용가능한 전자 디바이스(예컨대, 디지털 안경, 손목 밴드, 손목 시계, 브로치, 암밴드 등) 등과 같은 임의의 개인용 전자 디바이스일 수 있다. 사용자 디바이스(122)의 상세한 설명은 도 3을 참조하여 아래에 제공된다.
일부 예들에서, 사용자는 사용자 디바이스(122), 원격 제어부(124), 또는 미디어 디바이스(104)와 통합된 인터페이스 요소(예컨대, 버튼, 마이크로폰, 카메라, 조이스틱 등)를 통해 미디어 디바이스(104)와 상호작용할 수 있다. 예를 들어, 미디어 관련 질의 또는 디지털 어시스턴트에 대한 커맨드를 포함하는 스피치 입력은 사용자 디바이스(122) 및/또는 원격 제어부(124)에서 수신될 수 있으며, 스피치 입력은 미디어 관련 태스크가 미디어 디바이스(104) 상에서 수행되게 하는 데 사용될 수 있다. 마찬가지로, 미디어 디바이스(104) 상의 미디어를 제어하기 위한 촉각 커맨드는 사용자 디바이스(122) 및/또는 원격 제어부(124)에서 수신될 수 있다(또한 도시되지 않은 다른 디바이스로부터). 따라서, 미디어 디바이스(104)의 다양한 기능들이 다양한 방식으로 제어될 수 있어, 사용자들에게 다수의 디바이스로부터 미디어 콘텐츠를 제어하기 위한 다수의 옵션을 제공한다.
통신 네트워크(들)(110)의 예들은 근거리 통신망(LAN) 및 광역 통신망(WAN), 예컨대 인터넷을 포함할 수 있다. 통신 네트워크(들)(110)는, 예를 들어 이더넷(Ethernet), 범용 직렬 버스(Universal Serial Bus; USB), 파이어와이어(FIREWIRE), GSM(Global System for Mobile Communications), EDGE(Enhanced Data GSM Environment), 코드 분할 다중 접속(code division multiple access; CDMA), 시간 분할 다중 접속(time division multiple access; TDMA), 블루투스(Bluetooth), Wi-Fi, VoIP(voice over Internet Protocol), Wi-MAX, 또는 임의의 다른 적합한 통신 프로토콜과 같은 다양한 유선 또는 무선 프로토콜들을 포함하는 임의의 알려진 네트워크 프로토콜을 이용하여 구현될 수 있다.
DA 서버(106)는 클라이언트 대면 입력/출력(I/O) 인터페이스(112), 하나 이상의 처리 모듈(114), 데이터 및 모델들(116), 및 외부 서비스들에 대한 I/O 인터페이스(118)를 포함할 수 있다. 클라이언트 대면 I/O 인터페이스(112)는 DA 서버(106)에 대한 클라이언트 대면 입력 및 출력 처리를 용이하게 할 수 있다. 하나 이상의 처리 모듈(114)은 데이터 및 모델들(116)을 이용하여 스피치 입력을 처리하고 자연 언어 입력에 기초하여 사용자의 의도를 결정할 수 있다. 또한, 하나 이상의 처리 모듈(114)은 추론된 사용자 의도에 기초하여 태스크 실행을 수행할 수 있다. 일부 예들에서, DA 서버(106)는 태스크 완수 또는 정보 획득을 위해 네트워크(들)(110)를 통하여, 외부 서비스들(120), 예컨대 전화 통신 서비스들, 캘린더 서비스(calendar service)들, 정보 서비스들, 메시징 서비스들, 내비게이션 서비스들, 텔레비전 프로그래밍 서비스들, 스트리밍 미디어 서비스들, 미디어 검색 서비스들 등과 통신할 수 있다. 외부 서비스들에 대한 I/O 인터페이스(118)는 그러한 통신들을 용이하게 할 수 있다.
서버 시스템(108)은 하나 이상의 독립형 데이터 처리 장치 또는 분산형 컴퓨터 네트워크 상에 구현될 수 있다. 일부 예들에서, 서버 시스템(108)은 서버 시스템(108)의 기본 컴퓨팅 리소스들 및/또는 인프라구조 리소스들을 제공하기 위해 제3자 서비스 제공자들(예컨대, 제3자 클라우드 서비스 제공자들)의 다양한 가상 디바이스들 및/또는 서비스들을 또한 채용할 수 있다.
도 1에 도시된 디지털 어시스턴트가 클라이언트 측 부분(예컨대, DA 클라이언트(102)) 및 서버 측 부분(예컨대, DA 서버(106)) 둘 모두를 포함할 수 있지만, 일부 예들에서, 디지털 어시스턴트의 기능들은 사용자 디바이스 또는 미디어 디바이스 상에 설치된 독립형 애플리케이션으로서 구현될 수 있다. 게다가, 디지털 어시스턴트의 클라이언트 측 부분과 서버 측 부분 사이의 기능들의 분담은 상이한 구현예들에서 다를 수 있다. 예를 들어, 일부 예들에서, 사용자 디바이스(122) 또는 미디어 디바이스(104) 상에서 실행되는 DA 클라이언트는, 오로지 사용자 대면 입력 및 출력 처리 기능들만을 제공하고, 디지털 어시스턴트의 다른 모든 기능들을 백엔드 서버에 위임하는 씬-클라이언트(thin-client)일 수 있다.
2. 미디어 시스템
도 2는 다양한 예에 따른, 미디어 시스템(128)의 블록도를 도시한다. 미디어 시스템(128)은 디스플레이 유닛(126), 원격 제어부(124), 및 스피커(268)에 통신가능하게 결합된 미디어 디바이스(104)를 포함할 수 있다. 미디어 디바이스(104)는 원격 제어부(124)를 통해 사용자 입력을 수신할 수 있다. 미디어 디바이스(104)로부터의 미디어 콘텐츠는 디스플레이 유닛(126) 상에 표시될 수 있다.
본 예에서, 도 2에 도시된 바와 같이, 미디어 디바이스(104)는 메모리 인터페이스(202), 하나 이상의 프로세서(204), 및 주변기기 인터페이스(206)를 포함할 수 있다. 미디어 디바이스(104) 내의 다양한 컴포넌트는 하나 이상의 통신 버스 또는 신호 라인에 의해 서로 결합될 수 있다. 미디어 디바이스(104)는 다양한 서브시스템, 및 주변기기 인터페이스(206)에 결합되는 주변기기 디바이스들을 추가로 포함할 수 있다. 서브시스템들 및 주변기기 디바이스들은 정보를 수집하고/하거나 미디어 디바이스(104)의 다양한 기능들을 용이하게 할 수 있다.
예를 들어, 미디어 디바이스(104)는 통신 서브시스템(224)을 포함할 수 있다. 통신 기능들은 다양한 통신 포트, 무선 주파수 수신기 및 송신기, 및/또는 광학(예컨대, 적외선) 수신기 및 송신기를 포함할 수 있는 하나 이상의 유선 및/또는 무선 통신 서브시스템(224)을 통하여 용이하게 될 수 있다.
일부 예들에서, 미디어 디바이스(104)는 주변기기 인터페이스(206)에 결합된 I/O 서브시스템(240)을 추가로 포함할 수 있다. I/O 서브시스템(240)은 오디오/비디오 출력 제어기(270)를 포함할 수 있다. 오디오/비디오 출력 제어기(270)는 디스플레이 유닛(126) 및 스피커(268)에 결합될 수 있거나 그렇지 않으면 (예를 들어, 오디오/비디오 포트, 무선 송신 등을 통해) 오디오 및 비디오 출력을 제공할 수 있다. I/O 서브시스템(240)은 원격 제어기(242)를 추가로 포함할 수 있다. 원격 제어기(242)는 (예를 들어, 유선 연결, 블루투스, Wi-Fi 등을 통해) 원격 제어부(124)에 통신가능하게 결합될 수 있다.
원격 제어부(124)는 오디오 데이터(예를 들어, 사용자로부터의 스피치 입력)를 캡처하기 위한 마이크로폰(272), 촉각 입력을 캡처하기 위한 버튼(들)(274), 및 원격 제어기(242)를 통해 미디어 디바이스(104)와의 통신을 용이하게 하기 위한 송수신기(276)를 포함할 수 있다. 또한, 원격 제어부(124)는 햅틱 및/또는 촉각적 접촉에 기초하여 사용자로부터의 입력을 수용하는 터치 감응형 표면(278), 센서, 또는 센서들의 세트를 포함할 수 있다. 터치 감응형 표면(278) 및 원격 제어기(242)는 터치 감응형 표면(278) 상의 접촉(및 접촉의 임의의 이동 또는 중지)을 검출하고, 검출된 접촉(예컨대, 제스처, 접촉 모션 등)을 디스플레이 유닛(126) 상에 표시된 사용자 인터페이스 객체들(예컨대, 하나 이상의 소프트 키, 아이콘, 웹 페이지 또는 이미지)과의 상호작용으로 변환할 수 있다. 일부 예들에서, 원격 제어부(124)는 또한 키보드, 조이스틱 등과 같은 기타 입력 메커니즘을 포함할 수 있다. 일부 예들에서, 원격 제어부(124)는 조명, 디스플레이, 스피커 등과 같은 출력 메커니즘을 추가로 포함할 수 있다. 원격 제어부(124)에서 수신된 입력(예를 들어, 사용자 스피치, 버튼 누르기, 접촉 모션 등)은 원격 제어부(124)를 통해 미디어 디바이스(104)에 전달될 수 있다. I/O 서브시스템(240)은 또한 기타 입력 제어기(들)(244)를 포함할 수 있다. 기타 입력 제어기(들)(244)가 하나 이상의 버튼, 로커 스위치(rocker switch), 지동륜(thumb-wheel), 적외선 포트, USB 포트, 및/또는 포인터 디바이스, 예컨대 스타일러스와 같은 기타 입력/제어 디바이스들(248)에 결합될 수 있다.
일부 예들에서, 미디어 디바이스(104)는 메모리(250)에 결합되는 메모리 인터페이스(202)를 추가로 포함할 수 있다. 메모리(250)는 임의의 전자, 자기, 광학, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스; 휴대용 컴퓨터 디스켓(자기); 랜덤 액세스 메모리(RAM)(자기); 판독 전용 메모리(ROM)(자기); 소거가능 프로그래머블 판독 전용 메모리(EPROM)(자기); CD, CD-R, CD-RW, DVD, DVD-R, 또는 DVD-RW와 같은 휴대용 광학 디스크; 또는 콤팩트 플래시 카드, 보안 디지털 카드, USB 메모리 디바이스, 메모리 스틱 등과 같은 플래시 메모리를 포함할 수 있다. 일부 예들에서, 메모리(250)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함(processor-containing) 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들은 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 상에 저장될 수 있거나 또는 메모리(250)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
일부 예들에서, 메모리(250)는 운영 체제(252), 통신 모듈(254), 그래픽 사용자 인터페이스(GUI) 모듈(256), 온-디바이스(on-device) 미디어 모듈(258), 오프-디바이스(off-device) 미디어 모듈(260), 및 애플리케이션 모듈(262)을 저장할 수 있다. 운영 체제(252)는 기본 시스템 서비스들을 처리하고 하드웨어 의존적 태스크들을 수행하기 위한 명령어들을 포함할 수 있다. 통신 모듈(254)은 하나 이상의 추가 디바이스, 하나 이상의 컴퓨터, 및/또는 하나 이상의 서버와의 통신을 용이하게 할 수 있다. 그래픽 사용자 인터페이스 모듈(256)은 그래픽 사용자 인터페이스 처리를 용이하게 할 수 있다. 온-디바이스 미디어 모듈(258)은 미디어 디바이스(104) 상에 국부적으로 저장된 미디어 콘텐츠의 저장 및 재생을 용이하게 할 수 있다. 오프-디바이스 미디어 모듈(260)은 외부 소스(예를 들어, 원격 서버 상에서, 사용자 디바이스(122) 상에서 등)로부터 획득된 미디어 콘텐츠의 스트리밍 재생 또는 다운로드를 용이하게 할 수 있다. 또한, 오프-디바이스 미디어 모듈(260)은 브로드캐스트 및 케이블 콘텐츠를 수신하는 것(예컨대, 채널 튜닝)을 용이하게 할 수 있다. 애플리케이션 모듈(262)은 웹 브라우징, 미디어 처리, 게이밍, 및/또는 기타 프로세스들 및 기능들과 같은 미디어 관련 애플리케이션들의 다양한 기능들을 용이하게 할 수 있다.
본 명세서에 기술된 바와 같이, 메모리(250)는 또한 예를 들어, 디지털 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 클라이언트 측 디지털 어시스턴트 명령어들을(예컨대, 디지털 어시스턴트 클라이언트 모듈(264) 내에) 그리고 다양한 사용자 데이터(266)(예컨대, 사용자-특정 어휘 데이터, 선호도 데이터, 및/또는 사용자의 미디어 검색 이력, 미디어 시청 목록, 최신 시청 목록, 선호 미디어 항목들 등과 같은 기타 데이터)를 저장할 수 있다. 사용자 데이터(266)는 또한 디지털 어시스턴트를 지원하거나 임의의 다른 애플리케이션을 위한 스피치 인식을 수행하는 데 사용될 수 있다.
다양한 예에서, 디지털 어시스턴트 클라이언트 모듈(264)은 미디어 디바이스(104)의 다양한 사용자 인터페이스들(예컨대, I/O 서브시스템(240) 등)을 통하여 음성 입력(voice input)(예컨대, 스피치 입력), 텍스트 입력, 터치 입력, 및/또는 제스처 입력을 수용할 수 있다. 디지털 어시스턴트 클라이언트 모듈(264)은 또한 오디오(예컨대, 스피치 출력), 시각적, 및/또는 촉각적 형태들로 출력을 제공할 수 있다. 예를 들어, 출력은 음성, 소리, 경고, 텍스트 메시지, 메뉴, 그래픽, 비디오, 애니메이션, 진동, 및/또는 이들 중 둘 이상의 것들의 조합들로서 제공될 수 있다. 동작 동안, 디지털 어시스턴트 클라이언트 모듈(264)은 통신 서브시스템(224)을 사용하여 디지털 어시스턴트 서버(예컨대, DA 서버(106))와 통신할 수 있다.
일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(264)은 사용자와 연관된 상황, 현재 사용자 상호작용, 및/또는 현재 사용자 입력을 확립하기 위해 다양한 서브시스템들, 및 주변기기 디바이스들을 이용하여 미디어 디바이스(104)와 관련된 추가 정보 및 미디어 디바이스(104)의 주위 환경으로부터 추가 정보를 수집할 수 있다. 이러한 상황은 또한 다른 디바이스들로부터, 예컨대 사용자 디바이스(122)로부터의 정보를 포함할 수 있다. 일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(264)은 디지털 어시스턴트 서버에 사용자 입력과 함께 상황 정보 또는 그의 서브셋을 제공하여 사용자 의도를 추론하는 것을 도울 수 있다. 디지털 어시스턴트는 또한 상황 정보를 이용하여 어떻게 출력들을 준비하여 사용자에게 전달할지를 결정할 수 있다. 상황 정보는 정확한 스피치 인식을 지원하기 위해 미디어 디바이스(104) 또는 서버 시스템(108)에 의해 추가로 사용될 수 있다.
일부 예들에서, 사용자 입력을 동반하는 상황 정보는 센서 정보, 예컨대 조명, 주변 잡음, 주변 온도, 다른 물체까지의 거리 등을 포함할 수 있다. 상황 정보는 미디어 디바이스(104)의 물리적 상태(예컨대, 디바이스 위치, 디바이스 온도, 전력 레벨 등) 또는 미디어 디바이스(104)의 소프트웨어 상태(예컨대, 실행 중인 프로세스들, 설치된 애플리케이션들, 과거 및 현재 네트워크 활동들, 백그라운드 서비스들, 에러 로그들, 리소스 사용량 등)와 연관된 정보를 추가로 포함할 수 있다. 상황 정보는 사용자로부터 수신된 정보(예컨대, 스피치 입력), 사용자에 의해 요청된 정보, 및 사용자에게 제시된 정보(예컨대, 미디어 디바이스에 의해 현재 또는 이전에 표시된 정보)를 추가로 포함할 수 있다. 상황 정보는 연결된 디바이스 또는 사용자와 연관된 다른 디바이스의 상태와 연관된 정보(예를 들어, 사용자 디바이스(122) 상에 표시된 콘텐츠, 사용자 디바이스(122) 상의 재생가능한 콘텐츠 등)를 추가로 포함할 수 있다. 이러한 유형들의 상황 정보 중 임의의 상황 정보가 사용자 입력과 연관된 상황 정보로서 DA 서버(106)에 제공(또는 미디어 디바이스(104) 자체 상에서 사용)될 수 있다.
일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(264)은 DA 서버(106)로부터의 요청들에 응답하여 미디어 디바이스(104) 상에 저장된 정보(예컨대, 사용자 데이터(266))를 선택적으로 제공할 수 있다. 부가적으로 또는 대안적으로, 정보는 스피치 인식 및/또는 디지털 어시스턴트 기능을 실행하는 데 미디어 디바이스(104) 자체에 사용될 수 있다. 디지털 어시스턴트 클라이언트 모듈(264)은 또한 DA 서버(106)에 의한 요청에 따라 자연 언어 대화 또는 기타 사용자 인터페이스들을 통해 사용자로부터 추가 입력을 이끌어낼 수 있다. 디지털 어시스턴트 클라이언트 모듈(264)은 DA 서버(106)에 추가 입력을 전달하여, 사용자 요청에서 표현되는 사용자의 의도의 의도 추론 및/또는 이행 시에 DA 서버(106)를 도울 수 있다.
다양한 예에서, 메모리(250)는 추가 명령어들 또는 더 적은 명령어들을 포함할 수 있다. 더욱이, 미디어 디바이스(104)의 다양한 기능들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로(application specific integrated circuit)들을 비롯한 하드웨어 및/또는 펌웨어로 구현될 수 있다.
3. 사용자 디바이스
도 3은 다양한 예에 따른, 예시적인 사용자 디바이스(122)의 블록도를 도시한다. 도시된 바와 같이, 사용자 디바이스(122)는 메모리 인터페이스(302), 하나 이상의 프로세서(304), 및 주변기기 인터페이스(306)를 포함할 수 있다. 사용자 디바이스(122) 내의 다양한 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인에 의해 서로 결합될 수 있다. 사용자 디바이스(122)는 다양한 센서들, 서브시스템들, 및 주변기기 인터페이스(306)에 결합되는 주변기기 디바이스들을 추가로 포함할 수 있다. 센서들, 서브시스템들, 및 주변기기 디바이스들은 정보를 수집하고/하거나 사용자 디바이스(122)의 다양한 기능들을 용이하게 할 수 있다.
예를 들어, 사용자 디바이스(122)는 배향, 광, 및 근접 감지 기능들을 용이하게 하기 위해 주변기기 인터페이스(306)에 결합된 모션 센서(310), 광 센서(312), 및 근접 센서(314)를 포함할 수 있다. 하나 이상의 기타 센서(316), 예컨대 포지셔닝 시스템(예컨대, GPS 수신기), 온도 센서, 생체인식 센서, 자이로스코프, 나침반, 가속도계 등이 또한 주변기기 인터페이스(306)에 연결되어 관련 기능들을 용이하게 할 수 있다.
일부 예들에서, 카메라 서브시스템(320) 및 광학 센서(322)가 이용되어 사진 촬영 및 비디오 클립 녹화와 같은 카메라 기능들을 용이하게 할 수 있다. 통신 기능들은 다양한 통신 포트, 무선 주파수 수신기 및 송신기, 및/또는 광학(예컨대, 적외선) 수신기 및 송신기를 포함할 수 있는 하나 이상의 유선 및/또는 무선 통신 서브시스템(324)을 통하여 용이하게 할 수 있다. 오디오 서브시스템(326)은 음성 인식, 음성 복제, 디지털 녹음, 및 전화 통신 기능들과 같은 음성 지원 기능들을 용이하게 하기 위해 스피커(328) 및 마이크로폰(330)에 결합될 수 있다.
일부 예들에서, 사용자 디바이스(122)는 주변기기 인터페이스(306)에 결합되는 I/O 서브시스템(340)을 추가로 포함할 수 있다. I/O 서브시스템(340)은 터치스크린 제어기(342) 및/또는 기타 입력 제어기(들)(344)를 포함할 수 있다. 터치스크린 제어기(342)는 터치스크린(346)에 결합될 수 있다. 터치스크린(346) 및 터치스크린 제어기(342)는, 예를 들어, 정전용량, 저항, 적외선 및 표면 탄성파 기술들과 같은 복수의 터치 감지 기술들; 근접 센서 어레이들; 등 중 임의의 것을 이용하여 접촉 및 움직임 또는 이들의 중지를 검출할 수 있다. 기타 입력 제어기(들)(344)가 하나 이상의 버튼, 로커 스위치, 지동륜, 적외선 포트, USB 포트, 및/또는 포인터 디바이스, 예컨대 스타일러스와 같은 기타 입력/제어 디바이스들(348)에 결합될 수 있다.
일부 예들에서, 사용자 디바이스(122)는 메모리(350)에 결합되는 메모리 인터페이스(302)를 추가로 포함할 수 있다. 메모리(350)는 임의의 전자, 자기, 광학, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스; 휴대용 컴퓨터 디스켓(자기); 랜덤 액세스 메모리(RAM)(자기); 판독 전용 메모리(ROM)(자기); 소거가능 프로그래머블 판독 전용 메모리(EPROM)(자기); CD, CD-R, CD-RW, DVD, DVD-R, 또는 DVD-RW와 같은 휴대용 광학 디스크; 또는 콤팩트 플래시 카드, 보안 디지털 카드, USB 메모리 디바이스, 메모리 스틱 등과 같은 플래시 메모리를 포함할 수 있다. 일부 예들에서, 메모리(350)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들은 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 상에 저장될 수 있거나 또는 메모리(350)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적인 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
일부 예들에서, 메모리(350)는 운영 체제(352), 통신 모듈(354), 그래픽 사용자 인터페이스(GUI) 모듈(356), 센서 처리 모듈(358), 전화 모듈(360), 및 애플리케이션 모듈(362)을 저장할 수 있다. 운영 체제(352)는 기본 시스템 서비스들을 처리하고 하드웨어 의존적 태스크들을 수행하기 위한 명령어들을 포함할 수 있다. 통신 모듈(354)은 하나 이상의 추가 디바이스, 하나 이상의 컴퓨터, 및/또는 하나 이상의 서버와의 통신을 용이하게 할 수 있다. 그래픽 사용자 인터페이스 모듈(356)은 그래픽 사용자 인터페이스 처리를 용이하게 할 수 있다. 센서 처리 모듈(358)은 센서 관련 처리 및 기능들을 용이하게 할 수 있다. 전화 모듈(360)은 전화 관련 프로세스들 및 기능들을 용이하게 할 수 있다. 애플리케이션 모듈(362)은 전자 메시징, 웹 브라우징, 미디어 처리, 내비게이션, 이미징, 및/또는 기타 프로세스들 및 기능들과 같은 사용자 애플리케이션들의 다양한 기능들을 용이하게 할 수 있다.
본 명세서에 기술된 바와 같이, 메모리(350)는 또한 예를 들어, 디지털 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 클라이언트 측 디지털 어시스턴트 명령어들을(예를 들어, 디지털 어시스턴트 클라이언트 모듈(364) 내에) 그리고 다양한 사용자 데이터(366)(예컨대, 사용자-특정 어휘 데이터, 선호도 데이터, 및/또는 사용자의 전자 주소록, 할 일 목록, 쇼핑 목록, 텔레비전 프로그램 즐겨찾기 등과 같은 기타 데이터)를 저장할 수 있다. 사용자 데이터(366)는 또한 디지털 어시스턴트를 지원하거나 임의의 다른 애플리케이션을 위한 스피치 인식을 수행하는 데 사용될 수 있다. 디지털 어시스턴트 클라이언트 모듈(364) 및 사용자 데이터(366)는 도 2를 참조하여 상술한 바와 같이 각각 디지털 어시스턴트 클라이언트 모듈(264) 및 사용자 데이터(266)와 유사하거나 동일할 수 있다.
다양한 예에서, 메모리(350)는 추가 명령어들 또는 더 적은 명령어들을 포함할 수 있다. 더욱이, 사용자 디바이스(122)의 다양한 기능들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로들을 비롯한 하드웨어 및/또는 펌웨어로 구현될 수 있다.
일부 예들에서, 사용자 디바이스(122)는 미디어 디바이스(104)의 양태들을 제어하도록 구성될 수 있다. 예를 들어, 사용자 디바이스(122)는 원격 제어부(예컨대, 원격 제어부(124))로서 기능할 수 있다. 사용자 디바이스(122)를 통해 수신된 사용자 입력은 (예를 들어, 통신 서브시스템을 사용하여) 미디어 디바이스(104)에 송신되어 대응하는 동작들이 미디어 디바이스(104)에 의해 수행되게 할 수 있다. 또한, 사용자 디바이스(122)는 미디어 디바이스(104)로부터 명령어들을 수신하도록 구성될 수 있다. 예를 들어, 미디어 디바이스(104)는 사용자 디바이스(122)에 태스크를 전달하여 수행하게 하고 객체들(예컨대, 선택가능한 어포던스들)이 사용자 디바이스(122) 상에 표시되게 할 수 있다.
시스템(100) 및 미디어 시스템(128)은 도 1 및 도 2에 도시된 컴포넌트 및 구성에 제한되지 않으며, 사용자 디바이스(122), 미디어 디바이스(104), 및 원격 제어부(124)는 마찬가지로 도 2 및 도 3에 도시된 컴포넌트 및 구성에 제한되지 않는다는 것을 이해해야 한다. 시스템(100), 미디어 시스템(128), 사용자 디바이스(122), 미디어 디바이스(104), 및 원격 제어부(124)는 모두 다양한 예에 따라 다수의 구성에서 더 적은 또는 다른 컴포넌트들을 포함할 수 있다.
4. 디지털 어시스턴트 시스템
도 4a는 다양한 예에 따른, 디지털 어시스턴트 시스템(400)의 블록도를 도시한다. 일부 예들에서, 디지털 어시스턴트 시스템(400)은 독립형 컴퓨터 시스템 상에서 구현될 수 있다. 일부 예들에서, 디지털 어시스턴트 시스템(400)은 다수의 컴퓨터에 걸쳐 분산될 수 있다. 일부 예들에서, 디지털 어시스턴트의 모듈들 및 기능들 중 일부는 서버 부분과 클라이언트 부분으로 나뉠 수 있는데, 여기서 클라이언트 부분은 하나 이상의 사용자 디바이스(예컨대, 디바이스들(104 또는 122)) 상에 존재하고, 예컨대 도 1에 도시된 바와 같은 하나 이상의 네트워크를 통해 서버 부분(예컨대, 서버 시스템(108))과 통신할 수 있다. 일부 예들에서, 디지털 어시스턴트 시스템(400)은 도 1에 도시된 서버 시스템(108)(및/또는 DA 서버(106))의 일 구현예일 수 있다. 디지털 어시스턴트 시스템(400)은 단지 디지털 어시스턴트 시스템의 일례일 뿐이라는 것, 및 디지털 어시스턴트 시스템(400)이 도시된 것보다 더 많거나 더 적은 컴포넌트들을 가질 수 있거나, 둘 이상의 컴포넌트를 조합할 수 있거나, 또는 상이한 구성 또는 배열의 컴포넌트들을 가질 수 있다는 것에 유의해야 한다. 도 4a에 도시된 다양한 컴포넌트들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로를 비롯한, 하드웨어, 하나 이상의 프로세서에 의한 실행을 위한 소프트웨어 명령어들, 펌웨어, 또는 이들의 조합으로 구현될 수 있다.
디지털 어시스턴트 시스템(400)은 메모리(402), 하나 이상의 프로세서(404), I/O 인터페이스(406), 및 네트워크 통신 인터페이스(408)를 포함할 수 있다. 이들 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인(410)을 통해 서로 통신할 수 있다.
일부 예들에서, 메모리(402)는 비일시적 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 자기 디스크 저장 디바이스, 플래시 메모리 디바이스, 또는 기타 비휘발성 솔리드 스테이트 메모리 디바이스)를 포함할 수 있다.
일부 예들에서, I/O 인터페이스(406)는 디스플레이들, 키보드들, 터치 스크린들, 및 마이크로폰들과 같은 디지털 어시스턴트 시스템(400)의 I/O 디바이스들(416)을 사용자 인터페이스 모듈(422)에 결합할 수 있다. I/O 인터페이스(406)는, 사용자 인터페이스 모듈(422)과 함께, 사용자 입력들(예컨대, 음성 입력, 키보드 입력들, 터치 입력들 등)을 수신하고 그에 따라 이들을 처리할 수 있다. 일부 예들에서, 예컨대 디지털 어시스턴트가 독립형 사용자 디바이스 상에서 구현되는 경우, 디지털 어시스턴트 시스템(400)은 각각 도 2 또는 도 3의 디바이스들(104 또는 122)에 대해 기재된 컴포넌트들 및 I/O 통신 인터페이스들 중 임의의 것을 포함할 수 있다. 일부 예들에서, 디지털 어시스턴트 시스템(400)은 디지털 어시스턴트 구현예의 서버 부분을 표현할 수 있고, 클라이언트 디바이스(예컨대, 디바이스들(104 또는 122)) 상에 존재하는 클라이언트 측 부분을 통해 사용자와 상호작용할 수 있다.
일부 예들에서, 네트워크 통신 인터페이스(408)는 유선 통신 포트(들)(412) 및/또는 무선 송신 및 수신 회로부(414)를 포함할 수 있다. 유선 통신 포트(들)는 하나 이상의 유선 인터페이스, 예컨대 이더넷, 범용 직렬 버스(USB), 파이어와이어 등을 통해 통신 신호들을 수신하고 전송할 수 있다. 무선 회로부(414)는 통신 네트워크들 및 기타 통신 디바이스들로부터/로 RF 신호들 및/또는 광학 신호들을 수신하고 전송할 수 있다. 무선 통신은 GSM, EDGE, CDMA, TDMA, 블루투스, Wi-Fi, VoIP, Wi-MAX, 또는 임의의 기타 적합한 통신 프로토콜과 같은 복수의 통신 표준들, 프로토콜들, 및 기술들 중 임의의 것을 이용할 수 있다. 네트워크 통신 인터페이스(408)는 인터넷, 인트라넷, 및/또는 무선 네트워크, 예컨대 셀룰러 전화 네트워크, 무선 근거리 통신망(LAN), 및/또는 도시권 통신망(MAN)과 같은 네트워크들을 이용하는 디지털 어시스턴트 시스템(400)과 기타 디바이스들 간의 통신을 가능하게 할 수 있다.
일부 예들에서, 메모리(402) 또는 메모리(402)의 컴퓨터 판독가능 저장 매체들은, 운영 체제(418), 통신 모듈(420), 사용자 인터페이스 모듈(422), 하나 이상의 애플리케이션(424), 및 디지털 어시스턴트 모듈(426)의 전체 또는 그들의 서브셋을 포함한, 프로그램들, 모듈들, 명령어들, 및 데이터 구조들을 저장할 수 있다. 특히, 메모리(402) 또는 메모리(402)의 컴퓨터 판독가능 저장 매체는 후술되는 프로세스(800)를 수행하기 위한 명령어들을 저장할 수 있다. 하나 이상의 프로세서(404)는 이러한 프로그램들, 모듈들, 및 명령어들을 실행할 수 있고, 데이터 구조들로부터/로 판독/기록할 수 있다.
운영 체제(418)(예를 들어, 다윈(Darwin), RTXC, LINUX, UNIX, iOS, OS X, WINDOWS, 또는 VxWorks와 같은 임베디드 운영 체제)는 일반적인 시스템 태스크들(예를 들어, 메모리 관리, 저장 디바이스 제어, 전력 관리 등)을 제어하고 관리하기 위한 다양한 소프트웨어 컴포넌트들 및/또는 드라이버들을 포함하고, 다양한 하드웨어, 펌웨어, 및 소프트웨어 컴포넌트들 간의 통신들을 용이하게 할 수 있다.
통신 모듈(420)은 네트워크 통신 인터페이스(408)를 통해 디지털 어시스턴트 시스템(400)과 기타 디바이스들 간의 통신을 용이하게 할 수 있다. 예를 들어, 통신 모듈(420)은 전자 디바이스(예를 들어, 104, 122)의 통신 서브시스템(예를 들어, 224, 324)과 통신할 수 있다. 통신 모듈(420)은 또한 무선 회로부(414) 및/또는 유선 통신 포트(412)에 의해 수신된 데이터를 처리하기 위한 다양한 컴포넌트들을 포함할 수 있다.
사용자 인터페이스 모듈(422)은 I/O 인터페이스(406)를 통해 사용자로부터(예컨대, 키보드, 터치스크린, 포인팅 디바이스, 제어기, 및/또는 마이크로폰으로부터) 커맨드들 및/또는 입력들을 수신하고, 디스플레이 상에 사용자 인터페이스 객체들을 생성할 수 있다. 사용자 인터페이스 모듈(422)은 또한 출력들(예컨대, 스피치, 사운드, 애니메이션, 텍스트, 아이콘들, 진동들, 햅틱 피드백, 조명 등)을 준비하고, I/O 인터페이스(406)를 통해(예컨대, 디스플레이들, 오디오 채널들, 스피커들, 및 터치 패드들 등을 통해) 사용자에게 그들을 전달할 수 있다.
애플리케이션들(424)은 하나 이상의 프로세서(404)에 의해 실행되도록 구성된 프로그램들 및/또는 모듈들을 포함할 수 있다. 예를 들어, 디지털 어시스턴트 시스템(400)이 독립형 사용자 디바이스 상에서 구현되는 경우, 애플리케이션들(424)은 게임들, 캘린더 애플리케이션, 내비게이션 애플리케이션, 또는 이메일 애플리케이션과 같은 사용자 애플리케이션들을 포함할 수 있다. 디지털 어시스턴트 시스템(400)이 서버 상에서 구현되는 경우, 애플리케이션들(424)은, 예를 들어 리소스 관리 애플리케이션들, 진단 애플리케이션들, 또는 스케줄링 애플리케이션들을 포함할 수 있다.
메모리(402)는 또한 디지털 어시스턴트 모듈(426)(또는 디지털 어시스턴트의 서버 부분)을 저장할 수 있다. 일부 예들에서, 디지털 어시스턴트 모듈(426)은 다음의 서브 모듈들, 또는 이들의 서브셋 또는 수퍼셋(superset)을 포함할 수 있다: I/O 처리 모듈(428), 스피치-텍스트(speech-to-text: STT) 처리 모듈(430), 자연 언어 처리 모듈(432), 대화 흐름 처리 모듈(434), 태스크 흐름 처리 모듈(436), 서비스 처리 모듈(438), 및 스피치 합성 모듈(440). 이러한 모듈들 각각은 디지털 어시스턴트 모듈(426)의 하기의 시스템 또는 데이터 및 모델들, 또는 그들의 서브셋 또는 수퍼셋 중 하나 이상에 대해 액세스할 수 있다: 온톨로지(460), 어휘 인덱스(444), 사용자 데이터(448), 태스크 흐름 모델들(454), 서비스 모델들(456), 및 자동 스피치 인식(ASR) 시스템(431).
일부 예들에서, 디지털 어시스턴트 모듈(426)에서 구현되는 처리 모듈들, 데이터, 및 모델들을 이용하여, 디지털 어시스턴트는 다음 중 적어도 일부를 수행할 수 있다: 스피치 입력을 텍스트로 변환하는 것, 사용자로부터 수신된 자연 언어 입력에서 표현되는 사용자의 의도를 식별하는 것; (예컨대, 단어들, 게임들, 의도들 등을 명확히 함으로써) 사용자의 의도를 완전히 추론하는 데 필요한 정보를 능동적으로 끌어내고 획득하는 것; 추론된 의도를 이행하기 위한 태스크 흐름을 결정하는 것; 및 태스크 흐름을 실행하여 추론된 의도를 완수하는 것.
일부 예들에서, 도 4b에 도시된 바와 같이, I/O 처리 모듈(428)은 도 4a의 I/O 디바이스들(416)을 통해 사용자와 상호작용하거나 또는 도 4a의 네트워크 통신 인터페이스(408)를 통해 전자 디바이스(예컨대, 디바이스들(104 또는 122))와 상호작용하여, 사용자 입력(예컨대, 스피치 입력)을 획득하고 사용자 입력에 대한 응답들(예컨대, 스피치 출력들로서)을 제공할 수 있다. I/O 처리 모듈(428)은 사용자 입력의 수신과 함께 또는 사용자 입력의 수신 직후에, 전자 디바이스로부터 사용자 입력과 연관된 상황 정보를 옵션적으로 획득할 수 있다. 상황 정보는 사용자-특정 데이터, 어휘, 및/또는 사용자 입력과 관련된 선호도들을 포함할 수 있다. 일부 예들에서, 상황 정보는 또한 사용자 요청이 수신되는 시간에서의 전자 디바이스의 소프트웨어 및 하드웨어 상태 및/또는 사용자 요청이 수신된 시간에서의 사용자의 주위 환경에 관련된 정보를 포함한다. 일부 예들에서, I/O 처리 모듈(428)은 또한 사용자 요청에 관하여 사용자에게 후속 질문들을 전송하고, 그로부터 답변들을 수신할 수 있다. 사용자 요청이 I/O 처리 모듈(428)에 의해 수신되고 사용자 요청이 스피치 입력을 포함할 수 있는 경우, I/O 처리 모듈(428)은 스피치-텍스트 변환을 위해 스피치 입력을 STT 처리 모듈(430)(또는 스피치 인식기)로 전달할 수 있다.
STT 처리 모듈(430)은 하나 이상의 ASR 시스템(예를 들어, ASR 시스템(431))을 포함할 수 있다. 하나 이상의 ASR 시스템은 I/O 처리 모듈(428)을 통해 수신된 스피치 입력을 처리하여 인식 결과를 생성할 수 있다. 각각의 ASR 시스템은 프론트-엔드 스피치 프리프로세서(front-end speech pre-processor)를 포함할 수 있다. 프론트-엔드 스피치 프리프로세서는 스피치 입력으로부터 대표적인 특징을 추출할 수 있다. 예를 들어, 프론트-엔드 스피치 프리프로세서는 스피치 입력을 푸리에 변환을 수행하여 대표적인 다차원 벡터의 시퀀스로서 스피치 입력을 특징짓는 스펙트럼 특징을 추출할 수 있다. 또한, 각각의 ASR 시스템은 하나 이상의 스피치 인식 모델(예컨대, 음향 모델 및/또는 언어 모델)을 포함할 수 있고, 하나 이상의 스피치 인식 엔진을 구현할 수 있다. 스피치 인식 모델의 예는 은닉 마르코프 모델(hidden Markov models), 가우시안 혼합 모델(Gaussian-Mixture Models), 딥 신경망 모델(Deep Neural Network Models), n-gram 언어 모델, 및 기타 통계 모델을 포함할 수 있다. 스피치 인식 엔진의 예는 동적 시간 왜곡 기반 엔진 및 가중치 유한 상태 변환기(WFST) 기반 엔진을 포함할 수 있다. 하나 이상의 스피치 인식 모델 및 하나 이상의 스피치 인식 엔진은 중간 인식 결과들(예를 들어, 음소, 음소 문자열, 및 하위 단어들), 및 궁극적으로 텍스트 인식 결과들(예컨대, 단어, 단어 문자열, 또는 토큰들의 시퀀스)을 생성하기 위해 프론트-엔드 스피치 프리프로세서의 추출된 대표 특징들을 처리하는 데 사용될 수 있다. 일부 예들에서, 스피치 입력은 제3자 서비스에 의해 또는 전자 디바이스(예컨대, 디바이스(104 또는 122)) 상에서 적어도 부분적으로 처리되어 인식 결과를 생성할 수 있다. STT 처리 모듈(430)이 텍스트 문자열(예를 들어, 단어들, 단어들의 시퀀스, 또는 토큰들의 시퀀스)을 포함하는 인식 결과를 생성하면, 인식 결과는 의도 추론을 위해 자연 언어 처리 모듈(432)로 전달될 수 있다.
일부 예들에서, 하나 이상의 ASR 시스템의 하나 이상의 언어 모델이 미디어 관련 결과를 향하여 바이어스(bias)되도록 구성될 수 있다. 일 예에서, 하나 이상의 언어 모델은 미디어 관련 텍스트의 코퍼스(corpus)를 사용하여 트레이닝될 수 있다. 다른 예에서, ASR 시스템은 미디어 관련 인식 결과를 선호하도록 구성될 수 있다. 일부 예들에서, 하나 이상의 ASR 시스템은 정적 및 동적 언어 모델을 포함할 수 있다. 정적 언어 모델은 텍스트의 일반 코퍼스를 사용하여 트레이닝될 수 있는 반면, 동적 언어 모델은 사용자-특정 텍스트를 사용하여 트레이닝될 수 있다. 예를 들어, 사용자로부터 수신된 이전 스피치 입력에 대응하는 텍스트는 동적 언어 모델을 생성하는 데 사용될 수 있다. 일부 예들에서, 하나 이상의 ASR 시스템은 정적 언어 모델 및/또는 동적 언어 모델에 기초한 인식 결과를 생성하도록 구성될 수 있다. 또한, 일부 예들에서, 하나 이상의 ASR 시스템은 보다 최근에 수신된 이전 스피치 입력에 대응하는 인식 결과를 선호하도록 구성될 수 있다.
스피치-텍스트 처리에 대한 추가적인 상세 사항들은 2011년 9월 20일자로 출원된 "Consolidating Speech Recognition Results"에 대한 미국 특허 출원 제13/236,942호에 기재되어 있으며, 그 전체 개시내용은 본 명세서에 참조로서 편입된다.
일부 예들에서, STT 처리 모듈(430)은 음성 기호 변환 모듈(431)을 통해 인식가능한 단어들의 어휘를 포함하고/하거나 이에 액세스할 수 있다. 각각의 어휘 단어는 스피치 인식 음성 기호로 표현된 단어의 하나 이상의 후보 발음과 연관될 수 있다. 특히, 인식가능한 단어의 어휘는 복수의 후보 발음과 연관된 단어를 포함할 수 있다. 예를 들어, 어휘는 
및 
의 후보 발음과 연관된 "tomato"라는 단어를 포함할 수 있다. 또한, 어휘 단어는 사용자로부터의 이전 스피치 입력에 기초한 맞춤형 후보 발음과 연관될 수 있다. 이러한 맞춤형 후보 발음은 STT 처리 모듈(430)에 저장될 수 있고, 디바이스 상의 사용자의 프로필을 통해 특정 사용자와 연관될 수 있다. 일부 예들에서, 단어에 대한 후보 발음은 단어의 철자 및 하나 이상의 언어 및/또는 음성 규칙에 기초하여 결정될 수 있다. 일부 예들에서, 후보 발음은 예를 들어, 알려진 정준 발음(canonical pronunciations)에 기초하여 수동으로 생성될 수 있다.
일부 예들에서, 후보 발음은 후보 발음의 공통성에 기초하여 순위를 매길 수 있다. 예를 들어, 후보 발음 
는 
보다 높은 순위가 될 수 있는데, 그 이유는 이전 발음이 더 일반적으로 사용되는 발음이기 때문이다(예를 들어, 모든 사용자 중에서, 특정 지리적 지역에 있는 사용자의 경우, 또는 임의의 다른 적절한 사용자들의 서브셋의 경우). 일부 예들에서, 후보 발음은 후보 발음이 사용자와 연관된 맞춤형 후보 발음인지 여부에 기초하여 순위가 매겨질 수 있다. 예를 들어, 맞춤형 후보 발음은 정준 후보 발음보다 높은 순위가 매겨질 수 있다. 이는 정준 발음에서 벗어나는 고유한 발음을 가진 고유 명사를 인식하는 데 유용할 수 있다. 일부 예들에서, 후보 발음은 지리적인 기원, 국적, 또는 민족성과 같은 하나 이상의 스피치 특성과 연관될 수 있다. 예를 들어, 후보 발음 
는 미국과 연관될 수 있는 반면, 후보 발음 
는 영국과 연관될 수 있다. 또한, 후보 발음의 순위는 디바이스 상의 사용자 프로필에 저장된 사용자의 하나 이상의 특성(예를 들어, 지리적 기원, 국적, 민족성 등)에 기초할 수 있다. 예를 들어, 사용자가 미국과 연관되어 있다는 사용자의 프로필로부터 결정될 수 있다. 미국과 연관되어 있는 사용자에 기초하여, 후보 발음 
(미국과 연관됨)는 후보 발음 
(영국과 연관됨)보다 높은 순위가 매겨질 수 있다. 일부 예들에서, 순위가 매겨진 후보 발음들 중 하나는 예측된 발음(예를 들어, 가장 가능성이 있는 발음)으로서 선택될 수 있다.
스피치 입력이 수신될 때, STT 처리 모듈(430)은 스피치 입력에 대응하는 음소를 결정하는 데 사용될 수 있고(예를 들어, 음향 모델을 사용하여), 이어서 음소에 매칭되는 단어를 결정하고자 시도할 수 있다(예를 들어, 언어 모델을 사용하여). 예를 들어, STT 처리 모듈(430)이 스피치 입력의 일부에 대응하는 음소들의 시퀀스 
를 먼저 식별할 수 있는 경우, 그것은 이어서 어휘 인덱스(444)에 기초하여 이 시퀀스가 단어 "tomato"에 대응한다고 결정할 수 있다.
일부 예들에서, STT 처리 모듈(430)은 근사 매칭 기술을 사용하여 발화 중인 단어를 결정할 수 있다. 따라서, 예를 들어, STT 처리 모듈(430)은 음소들의 특정 시퀀스가 그 단어에 대한 음소들의 후보 시퀀스 중 하나가 아니더라도 음소들의 시퀀스 
가 단어 "tomato"에 대응한다고 결정할 수 있다.
디지털 어시스턴트의 자연 언어 처리 모듈(432)("자연 언어 프로세서")은 STT 처리 모듈(430)에 의해 생성된 단어들 또는 토큰들의 시퀀스("토큰 시퀀스")를 취하고, 토큰 시퀀스를 디지털 어시스턴트에 의해 인식되는 하나 이상의 "행동가능한 의도들"과 연관시키고자 시도할 수 있다. "행동가능한 의도"는 디지털 어시스턴트에 의해 수행될 수 있는 태스크를 표현할 수 있고, 태스크 흐름 모델들(454)에서 구현되는 관련 태스크 흐름을 가질 수 있다. 연관 태스크 흐름은 디지털 어시스턴트가 태스크를 수행하기 위해 취하는 일련의 프로그래밍된 동작들 및 단계들일 수 있다. 디지털 어시스턴트의 능력들의 범주는 태스크 흐름 모델들(454)에서 구현되고 저장된 태스크 흐름들의 수 및 종류, 또는 다시 말해, 디지털 어시스턴트가 인식하는 "행동가능한 의도들"의 수 및 종류에 의존할 수 있다. 그러나, 디지털 어시스턴트의 효율성은 또한 자연 언어로 표현된 사용자 요청으로부터 정확한 "행동가능한 의도(들)"를 추론하는 어시스턴트의 능력에 의존할 수 있다.
일부 예들에서, STT 처리 모듈(430)로부터 획득된 단어들 또는 토큰 시퀀스에 부가하여, 자연 언어 처리 모듈(432)은 또한 예를 들어, I/O 처리 모듈(428)로부터 사용자 요청과 연관된 상황 정보를 수신할 수 있다. 자연 언어 처리 모듈(432)은 옵션적으로 상황 정보를 이용하여, STT 처리 모듈(430)로부터 수신된 토큰 시퀀스에 포함된 정보를 명확하게 하고, 보완하고/하거나 추가로 정의할 수 있다. 상황 정보는, 예를 들어 사용자 선호도들, 사용자 디바이스의 하드웨어 및/또는 소프트웨어 상태들, 사용자 요청 전, 요청 중, 또는 요청 직후에 수집되는 센서 정보, 디지털 어시스턴트와 사용자 사이의 이전 상호작용들(예컨대, 대화) 등을 포함할 수 있다. 본 명세서에 기술하는 바와 같이, 상황 정보는 동적일 수 있고, 시간, 위치, 대화의 내용, 및 기타 인자들에 따라 변화할 수 있다.
일부 예들에서, 자연 언어 처리는, 예컨대 온톨로지(460)에 기초할 수 있다. 온톨로지(460)는 많은 노드들을 포함하는 계층 구조(hierarchical structure)일 수 있는데, 각각의 노드는 "행동가능한 의도" 또는 "행동가능한 의도들" 중 하나 이상에 관련된 "속성(property)", 또는 기타 "속성들" 중 어느 하나를 표현한다. 전술한 바와 같이, "행동가능한 의도"는 디지털 어시스턴트가 수행할 수 있는 태스크, 즉 그것이 "행동가능"하거나 또는 영향을 미칠 수 있는 태스크를 표현할 수 있다. "속성"은 행동가능한 의도 또는 다른 속성의 하위 양태와 연관되는 파라미터를 표현할 수 있다. 온톨로지(460) 내의 행동가능한 의도 노드와 속성 노드 간의 연결성(linkage)은 속성 노드에 의해 표현되는 파라미터가 행동가능한 의도 노드에 의해 표현되는 태스크에 어떻게 관련되는지 여부를 정의할 수 있다.
일부 예들에서, 온톨로지(460)는 행동가능한 의도 노드들 및 속성 노드들로 구성될 수 있다. 온톨로지(460) 내에서, 각각의 행동가능한 의도 노드는 직접적으로 또는 하나 이상의 중간 속성 노드를 통해 하나 이상의 속성 노드에 연결될 수 있다. 유사하게, 각각의 속성 노드는 직접적으로 또는 하나 이상의 중간 속성 노드를 통해 하나 이상의 행동가능한 의도 노드에 연결될 수 있다. 예를 들어, 도 4c에 도시된 바와 같이, 온톨로지(460)는 "미디어" 노드(즉, 행동가능한 의도 노드)를 포함할 수 있다. 속성 노드들 "배우(들)", "미디어 장르", 및 "미디어 제목"은 각각 행동가능한 의도 노드(즉, "미디어 검색" 노드)에 직접 연결될 수 있다. 또한, 속성 노드들 "이름", "나이", "울머 스케일 랭킹(Ulmer scale ranking)", 및 "국적"은 속성 노드 "배우"의 하위 노드일 수 있다.
다른 예에서, 도 4c에 도시된 바와 같이, 온톨로지(460)는 또한 "날씨" 노드(즉, 다른 행동가능한 의도 노드)를 포함할 수 있다. 속성 노드들 "날짜/시간" 및 "위치"는 각각 "날씨 검색" 노드에 연결될 수 있다. 일부 예들에서, 하나 이상의 속성 노드가 둘 이상의 행동가능한 의도와 관련될 수 있음을 인식해야 한다. 이들 예에서, 하나 이상의 속성 노드는 온톨로지(460)에서 둘 이상의 행동가능한 의도에 대응하는 개개의 노드에 연결될 수 있다.
행동가능한 의도 노드는, 그것의 연결된 개념 노드들과 함께, "도메인"으로 기술될 수 있다. 본 논의에서, 각각의 도메인은 개개의 행동가능한 의도와 연관될 수 있고, 특정한 행동가능한 의도와 연관된 노드들(및 이들 사이의 관계들)의 그룹을 지칭할 수 있다. 예를 들어, 도 4c에 도시된 온톨로지(460)는 온톨로지(460) 내의 미디어 도메인(462)의 일례 및 날씨 도메인(464)의 일례를 포함할 수 있다. 미디어 도메인(462)은 행동가능한 의도 노드 "미디어 검색" 및 속성 노드 "배우(들)", "미디어 장르", 및 "미디어 제목"을 포함할 수 있다. 날씨 도메인(464)은 행동가능한 의도 노드 "날씨 검색", 및 속성 노드들 "위치" 및 "날짜/시간"을 포함할 수 있다. 일부 예들에서, 온톨로지(460)는 많은 도메인들로 구성될 수 있다. 각각의 도메인은 하나 이상의 속성 노드를 하나 이상의 다른 도메인과 공유할 수 있다.
도 4c는 온톨로지(460) 내의 2개의 예시적인 도메인을 도시하지만, 다른 도메인들은 예를 들어 "운동 선수", "주식", "길 안내(directions)", "미디어 설정", "스포츠 팀", 및 "시간", "농담 하기" 등을 포함할 수 있다. "운동 선수" 도메인은 "운동 선수 정보를 검색" 행동가능한 의도 노드와 연관될 수 있으며, "운동 선수 이름", "운동 선수 팀", 및 "운동 선수 통계"와 같은 속성 노드들을 추가로 포함할 수 있다.
일부 예들에서, 온톨로지(460)는 디지털 어시스턴트가 이해할 수 있고 그에 의거하여 동작할 수 있는 모든 도메인들(및 그에 따른 행동가능한 의도들)을 포함할 수 있다. 일부 예들에서, 온톨로지(460)는, 예컨대 전체 도메인들 또는 노드들을 추가하거나 제거함으로써 또는 온톨로지(460) 내에서 노드들 사이의 관계를 수정함으로써 수정될 수 있다.
일부 예들에서, 온톨로지(460) 내의 각각의 노드는, 노드에 의해 표현되는 속성 또는 행동가능한 의도와 관련된 단어들 및/또는 구절(phrase)들의 세트와 연관될 수 있다. 각각의 노드와 연관된 단어들 및/또는 구절들의 개개의 세트는 노드와 연관된 소위 "어휘"일 수 있다. 각각의 노드와 연관된 단어들 및/또는 구절들의 개개의 세트는 노드에 의해 표현되는 속성 또는 행동가능한 의도와 관련하여 어휘 인덱스(444)에 저장될 수 있다. 예를 들어, 도 4c로 돌아가서, "배우"의 속성에 대한 노드와 연관된 어휘는 "A-list", "리즈 위더스푼", " 아놀드 슈왈제네거", "브래드 피트" 등과 같은 단어들을 포함할 수 있다. 다른 예를 들어, "날씨 검색"의 행동가능한 의도에 대한 노드와 연관된 어휘는 "날씨", "에서는 어때", "예보" 등과 같은 단어들 및 구절들을 포함할 수 있다. 어휘 인덱스(444)는 상이한 언어들의 단어들 및 구절들을 옵션적으로 포함할 수 있다.
자연 언어 처리 모듈(432)은 STT 처리 모듈(430)로부터 토큰 시퀀스(예컨대, 텍스트 문자열)를 수신하고, 토큰 시퀀스 내의 단어들에 의해 어떤 노드들이 연루되는지 여부를 결정할 수 있다. 일부 예들에서, 토큰 시퀀스 내의 단어 또는 구절이 (어휘 인덱스(444)를 통해) 온톨로지(460) 내의 하나 이상의 노드와 연관되는 것으로 밝혀지는 경우, 단어 또는 구절은 이들 노드들을 "트리거" 또는 "활성화"시킬 수 있다. 활성화된 노드들의 양 및/또는 상대적 중요도에 기초하여, 자연 언어 처리 모듈(432)은 사용자가 디지털 어시스턴트로 하여금 수행하도록 의도했던 태스크로서 행동가능한 의도들 중 하나를 선택할 수 있다. 일부 예들에서, 가장 많이 "트리거된" 노드들을 갖는 도메인이 선택될 수 있다. 일부 예들에서, 가장 높은 신뢰도 값(예컨대, 그것의 다양한 트리거된 노드들의 상대적 중요도에 기초함)을 갖는 도메인이 선택될 수 있다. 일부 예들에서, 도메인은 트리거된 노드들의 수 및 중요도의 조합에 기초하여 선택될 수 있다. 일부 예들에서, 디지털 어시스턴트가 사용자로부터의 유사한 요청을 이전에 정확하게 해석했는지 여부와 같은 추가 요인들도 노드를 선택하는 데 있어 마찬가지로 고려된다.
사용자 데이터(448)는 사용자-특정 정보, 예컨대 사용자-특정 어휘, 사용자 선호도, 사용자 주소, 사용자의 초기설정 언어 및 제2 언어, 사용자의 연락처 목록, 및 각각의 사용자에 대한 기타 단기 또는 장기 정보를 포함할 수 있다. 일부 예들에서, 자연 언어 처리 모듈(432)은 사용자-특정 정보를 이용하여 사용자 입력에 포함된 정보를 보완하여 사용자 의도를 추가로 정의할 수 있다. 예를 들어, "이번 주 날씨가 어때"라는 사용자 요청에 대하여, 자연 언어 처리 모듈(432)은 사용자에게 그들의 요청 내에 명시적으로 그러한 정보를 제공할 것을 요구하기보다는, 사용자가 위치한 곳을 결정하기 위해 사용자 데이터(448)에 액세스할 수 있다.
토큰 문자열에 기초하여 온톨로지를 검색하는 다른 상세 사항들이 2008년 12월 22일자로 출원된 "Method and Apparatus for Searching Using An Active Ontology"에 대한 미국 실용 특허 출원 제12/341,743호에 기재되어 있으며, 이 출원의 전체 개시내용은 본 명세서에 참조로서 편입된다.
일부 예들에서, 일단 자연 언어 처리 모듈(432)이 사용자 요청에 기초하여 행동가능한 의도(또는 도메인)를 식별하면, 자연 언어 처리 모듈(432)은 식별된 행동가능한 의도를 표현하기 위해 구조화된 질의(structured query)를 생성할 수 있다. 일부 예들에서, 구조화된 질의는, 행동가능한 의도를 위한 도메인 내의 하나 이상의 노드에 대한 파라미터들을 포함할 수 있고, 파라미터들 중 적어도 일부에는 사용자 요청 내에 지정되는 특정 정보 및 요건들이 덧붙여져 있다. 예를 들어, 사용자가 "이 TV 시리즈의 다른 시즌을 찾아줘"라고 말할 수 있다. 이러한 경우, 자연 언어 처리 모듈(432)은 사용자 입력에 기초하여 행동가능한 의도가 "미디어 검색"이라고 정확하게 식별할 수 있다. 온톨로지에 따라, "미디어" 도메인에 대한 구조화된 질의는 {미디어 배우}, {미디어 장르}, {미디어 제목} 등과 같은 파라미터들을 포함할 수 있다. 일부 예들에서, 스피치 입력, 및 STT 처리 모듈(430)을 사용하여 스피치 입력으로부터 도출된 텍스트에 기초하여, 자연 언어 처리 모듈(432)은 레스토랑 예약 도메인에 대한 부분 구조화된 질의를 생성할 수 있으며, 여기서 부분 구조화된 질의는 파라미터들 {미디어 장르 = "텔레비전 시리즈"}를 포함한다. 그러나, 이 예에서, 사용자의 발화는 도메인과 연관된 구조화된 질의를 완성하기에 불충분한 정보를 포함한다. 따라서, {미디어 제목}과 같은 기타 필수 파라미터들은 현재 이용가능한 정보에 기초하여 구조화된 질의 내에 지정되어 있지 않을 수 있다. 일부 예들에서, 자연 언어 처리 모듈(432)은 구조화된 질의의 일부 파라미터들에 수신된 상황 정보를 덧붙일 수 있다. 예를 들어, TV 시리즈 "매드맨(Mad Men)"이 미디어 디바이스 상에서 현재 재생 중일 수 있다. 이 상황 정보에 기초하여, 자연 언어 처리 모듈(432)은 구조화된 질의 내의 {미디어 제목} 파라미터를 "매드맨"으로 덧붙일 수 있다.
일부 예들에서, 자연 언어 처리 모듈(432)은 생성된 구조화된 질의(임의의 완성된 파라미터들을 포함함)를 태스크 흐름 처리 모듈(436)("태스크 흐름 프로세서")로 전달할 수 있다. 태스크 흐름 처리 모듈(436)은 자연 언어 처리 모듈(432)로부터 구조화된 질의를 수신하도록, 필요하다면, 구조화된 질의를 완성하도록, 그리고 사용자의 궁극적인 요청을 "완성"하는 데 필요한 동작들을 수행하도록 구성될 수 있다. 일부 예들에서, 이들 태스크들을 완수하는 데 필요한 다양한 절차들이 태스크 흐름 모델들(454)에서 제공될 수 있다. 일부 예들에서, 태스크 흐름 모델들(454)은 사용자로부터 추가 정보를 획득하기 위한 절차들, 및 행동가능한 의도와 연관된 동작들을 수행하기 위한 태스크 흐름들을 포함할 수 있다.
전술한 바와 같이, 구조화된 질의를 완성하기 위해, 태스크 흐름 처리 모듈(436)은 추가 정보를 획득하고/하거나 잠재적으로 모호한 발화들을 명확히 구분하기 위해 사용자와의 추가 대화를 개시할 필요가 있을 수 있다. 그와 같은 상호작용이 필요한 경우, 태스크 흐름 처리 모듈(436)은 대화 흐름 처리 모듈(434)을 호출하여 사용자와의 대화에 참여할 수 있다. 일부 예들에서, 대화 흐름 처리 모듈(434)은 어떻게(및/또는 언제) 사용자에게 추가 정보를 물을지를 결정할 수 있고, 사용자 응답을 수신하고 처리할 수 있다. 질문들은 I/O 처리 모듈(428)을 통해 사용자들에게 제공될 수 있고 그들로부터 답변들이 수신될 수 있다. 일부 예들에서, 대화 흐름 처리 모듈(434)은 청각적 및/또는 시각적 출력을 통해 사용자에게 대화 출력을 제시할 수 있고, 구어적 또는 물리적(예컨대, 클릭킹) 응답들을 통해 사용자로부터 입력을 수신할 수 있다. 예를 들어, 사용자는 "파리의 날씨는 어때?"라고 물어볼 수 있다. 태스크 흐름 처리 모듈(436)이 도메인 "날씨 검색"과 연관된 구조화된 질의에 대한 "위치" 정보를 결정하기 위해 대화 흐름 처리 모듈(434)을 호출할 때, 대화 흐름 처리 모듈(434)은 "어느 파리?"와 같은 질문을 생성하여 사용자에게 전달할 수 있다. 부가적으로, 대화 흐름 처리 모듈(434)은 "텍사스 파리" 및 "프랑스 파리"와 연관된 어포던스들이 사용자 선택을 위해 제시되도록 할 수 있다. 사용자로부터 응답들이 수신되면, 이어서 대화 흐름 처리 모듈(434)은 구조화된 질의에 누락 정보를 덧붙이거나, 또는 태스크 흐름 처리 모듈(436)에 정보를 전달하여 구조화된 질의로부터 누락 정보를 완성할 수 있다.
일단 태스크 흐름 처리 모듈(436)이 행동가능한 의도에 대한 구조화된 질의를 완성했다면, 태스크 흐름 처리 모듈(436)은 행동가능한 의도와 연관된 궁극적인 태스크를 수행하도록 진행할 수 있다. 따라서, 태스크 흐름 처리 모듈(436)은 구조화된 질의에 포함된 특정 파라미터들에 따라 태스크 흐름 모델(454)에서 단계들 및 명령어들을 실행할 수 있다. 예를 들어, "미디어 검색"의 행동가능한 의도를 위한 태스크 흐름 모델은 관련 미디어 항목들을 획득하기 위해 미디어 검색 질의를 수행하기 위한 단계들 및 명령어들을 포함할 수 있다. 예를 들어, 구조화된 질의, 예컨대 {미디어 검색, 미디어 장르 = TV 시리즈, 미디어 제목 = 매드맨}을 이용하여, 태스크 흐름 처리 모듈(436)은 다음의 단계들을 수행할 수 있다: (1) 관련 미디어 항목들을 획득하기 위해 미디어 데이터베이스를 사용하여 미디어 검색 질의를 수행하는 단계, (2) 적합성(relevancy) 및/또는 인기도에 따라 획득된 미디어 항목들을 순위를 매기는 단계, 및 (3) 적합성 및/또는 인기도에 따라 분류된 미디어 항목들을 표시하는 단계.
일부 예들에서, 태스크 흐름 처리 모듈(436)은 사용자 입력에서 요청된 태스크를 완성하거나 또는 사용자 입력에서 요청된 정보제공형 답변을 제공하기 위해 서비스 처리 모듈(438)("서비스 처리 모듈")의 어시스턴트를 채용할 수 있다. 예를 들어, 서비스 처리 모듈(438)은 미디어 검색을 수행하고, 날씨 정보를 검색하고, 다른 사용자 디바이스에 설치된 애플리케이션을 호출하거나 그와 상호작용하고, 제3자 서비스(예컨대, 소셜 네트워킹 웹사이트, 미디어 리뷰 웹사이트, 미디어 구독 서비스 등)를 호출하거나 그와 상호작용하기 위해 태스크 흐름 처리 모듈(436)을 대신하여 동작할 수 있다. 일부 예들에서, 각각의 서비스에 의해 요구되는 프로토콜들 및 API는 서비스 모델들(456) 중 개개의 서비스 모델에 의해 지정될 수 있다. 서비스 처리 모듈(438)은 서비스를 위한 적절한 서비스 모델에 액세스하고, 서비스 모델에 따른 서비스에 의해 요구되는 프로토콜들 및 API들에 따라 서비스에 대한 요청들을 생성할 수 있다.
예를 들어, 제3자 미디어 검색 서비스는 미디어 검색을 수행하는 데 필요한 파라미터들을 지정하는 서비스 모델 및 필요한 파라미터들의 값을 미디어 검색 서비스에 통신하기 위한 API를 제출할 수 있다. 태스크 흐름 처리 모듈(436)에 의해 요청될 때, 서비스 처리 모듈(438)은 미디어 검색 서비스와의 네트워크 연결을 확립하고 미디어 검색 서비스의 API에 따른 포맷으로 온라인 예약 인터페이스에 미디어 검색의 필요한 파라미터들(예컨대, 미디어 배우, 미디어 장르, 미디어 제목)을 전송할 수 있다.
일부 예들에서, 자연 언어 처리 모듈(432), 대화 흐름 처리 모듈(434), 및 태스크 흐름 처리 모듈(436)은 사용자의 의도를 추론 및 정의하도록, 사용자 의도를 더 명확히 하고 정제하게 하기 위해 정보를 획득하도록, 그리고 최종적으로 사용자의 의도를 이행하기 위해 응답(즉, 사용자에게로의 출력, 또는 태스크의 완수)을 생성하도록 총체적이고 반복적으로 사용될 수 있다. 생성된 응답은 사용자의 의도를 적어도 부분적으로 이행하는 스피치 입력에 대한 대화 응답일 수 있다. 또한, 일부 예들에서, 생성된 응답은 스피치 출력으로서 출력될 수 있다. 이들 예에서, 생성된 응답은 스피치 합성 모듈(440)(예컨대, 스피치 합성기)로 전송될 수 있으며, 여기서 스피치 합성 모듈(440)은 스피치 형태로 대화 응답을 합성하도록 처리될 수 있다. 또 다른 예들에서, 생성된 응답은 스피치 입력에서 사용자 요청을 만족시키는 것과 관련된 데이터 콘텐츠일 수 있다.
스피치 합성 모듈(440)은 사용자에게의 제시를 위한 스피치 출력을 합성하도록 구성될 수 있다. 스피치 합성 모듈(440)은 디지털 어시스턴트에 의해 제공된 텍스트에 기초하여 스피치 출력을 합성한다. 예를 들어, 생성된 대화 응답은 텍스트 문자열의 형태일 수 있다. 스피치 합성 모듈(440)은 텍스트 문자열을 가청 스피치 출력으로 변환할 수 있다. 스피치 합성 모듈(440)은, 텍스트로부터의 스피치 출력을 생성하기 위하여 임의의 적절한 스피치 합성 기법을 사용할 수 있는데, 이는 편집 합성(concatenative synthesis), 단위 선택 합성, 다이폰 합성, 도메인-특정 합성, 포먼트 합성(Formant synthesis), 조음 합성(Articulatory synthesis), HMM(hidden Markov model) 기반 합성, 및 정현파 합성(sinewave synthesis)을 포함하지만 이로 한정되지 않는다. 일부 예들에서, 스피치 합성 모듈(440)은 단어들에 대응하는 음소 문자열에 기초하여 개별 단어들을 합성하도록 구성될 수 있다. 예를 들어, 음소 문자열은 생성된 대화 응답의 단어와 연관될 수 있다. 음소 문자열은 단어와 연관된 메타데이터에 저장될 수 있다. 스피치 합성 모듈(440)은 스피치 형태의 단어를 합성하기 위해 메타데이터 내의 음소 문자열을 직접 처리하도록 구성될 수 있다.
일부 예들에서, 스피치 합성 모듈(440)을 사용하는 대신에(또는 그에 부가하여), 스피치 합성은 원격 디바이스(예컨대, 서버 시스템(108)) 상에서 수행될 수 있고, 합성된 스피치는 사용자에게의 출력을 위해 사용자 디바이스로 전송될 수 있다. 예를 들어, 이는 디지털 어시스턴트에 대한 출력이 서버 시스템에서 생성되는 일부 구현예들에서 발생할 수 있다. 그리고 서버 시스템은 일반적으로 사용자 디바이스보다 많은 처리 능력 또는 리소스를 갖기 때문에, 클라이언트 측 합성에서 실제보다 높은 품질의 스피치 출력을 획득하는 것이 가능할 수 있다.
디지털 어시스턴트에 대한 추가적인 상세 사항들은 2011년 1월 10일자로 출원되고 발명의 명칭이 "Intelligent Automated Assistant"인 미국 실용 특허 출원 제12/987,982호, 및 2011년 9월 30일자로 출원되고 발명의 명칭이 "Generating and Processing Task Items That Represent Tasks to Perform"인 미국 실용 특허 출원 제13/251,088호에서 발견될 수 있고, 이 출원들의 전체 개시내용들은 본 명세서에 참조로서 편입된다.
4. 미디어 환경에서 디지털 어시스턴트를 동작시키기 위한 프로세스
도 5a 내지 도 5e는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 프로세스(500)를 도시한다. 프로세스(500)는 디지털 어시스턴트를 구현하는 하나 이상의 전자 디바이스를 사용하여 수행될 수 있다. 예를 들어, 프로세스(500)는 전술한 시스템(100), 미디어 시스템(128), 미디어 디바이스(104), 사용자 디바이스(122), 또는 디지털 어시스턴트 시스템(400) 중 하나 이상을 사용하여 수행될 수 있다. 도 6a 내지 도 6k는 다양한 예에 따른, 프로세스(500)의 다양한 단계에서 미디어 디바이스에 의해 디스플레이 유닛 상에 표시된 스크린 샷을 도시한다. 프로세스(500)는 도 5a 내지 도 5e 및 도 6a 내지 도 6k를 동시에 참조하여 아래에서 설명된다. 프로세스(500)에서의 일부 동작들은 결합될 수 있고, 일부 동작들의 순서는 변경될 수 있으며, 일부 동작들은 생략될 수 있음을 이해해야 한다.
프로세스(500)의 블록(502)에서, 도 6a를 참조하면, 미디어 항목들의 일차 세트(604)가 디스플레이 유닛 상에 표시될 수 있다. 각각의 미디어 항목은 특정 미디어 콘텐츠(예를 들어, 영화, 비디오, 텔레비전 쇼/시리즈, 비디오 게임 등)에 대응할 수 있다. 미디어 항목들의 일차 세트(604)는 이전에 수신된 미디어 검색 요청에 응답하여 표시될 수 있다. 일부 예들에서, 이전에 수신된 미디어 검색 요청은 디지털 어시스턴트와의 구어 상호작용일 수 있다. 다른 예들에서, 이전에 수신된 미디어 검색 요청은 미디어 디바이스의 키보드 인터페이스를 통해 수신된 디지털 어시스턴트와의 텍스트 상호작용일 수 있다.
미디어 항목들의 일차 세트(604)는 이전에 수신된 미디어 검색 요청에 따라 일차 미디어 검색 질의를 수행함으로써 획득될 수 있다. 일부 예들에서, 일차 미디어 검색 질의는 이전에 수신된 미디어 검색 요청에 정의된 하나 이상의 파라미터 값에 기초한 구조화된 검색일 수 있다. 이들 예에서, 미디어 항목들의 일차 세트(604)의 각 미디어 항목은 이전에 수신된 미디어 검색 요청에 정의된 하나 이상의 파라미터 값과 매치하는 하나 이상의 파라미터 값을 포함할 수 있다. 다른 예들에서, 일차 미디어 검색 질의는 이전에 수신된 미디어 검색 요청의 텍스트 입력 문자열에 기초한 문자열 검색일 수 있다. 이들 예에서, 미디어 항목들의 일차 세트(604)의 각 미디어 항목은 이전에 수신된 미디어 검색 요청의 텍스트 입력 문자열과 매치하는 텍스트와 연관될 수 있다.
미디어 항목들(604)은 이전에 수신된 미디어 검색 요청에 대응하는 공통 속성들 또는 파라미터 값들을 공유할 수 있다. 도 6a에 도시된 본 예에서, 이전에 수신된 미디어 검색 요청은 지난 10년 동안의 액션 영화에 대한 요청일 수 있다. 이전에 수신된 미디어 검색 요청을 만족시키기 위해 미디어 항목들의 일차 세트(604)가 획득될 수 있다. 이 예에서, 미디어 항목들의 일차 세트(604)는 지난 10년 동안 출시된 "어메이징 스파이더맨 2", "분노의 질주: 더 세븐", 및 "아이언맨 3"과 같은 액션 영화를 포함할 수 있다. 이전에 수신된 미디어 검색 요청에 대응하는 속성들 또는 파라미터 값들을 설명하는 텍스트(612)는 미디어 항목들의 일차 세트(612)와 연관하여 표시될 수 있다.
도 6a에 도시된 바와 같이, 미디어 항목들의 일차 세트(604)는 사용자 인터페이스(602)를 통해 표시될 수 있다. 사용자 인터페이스(602)는 사용자가 사용자 인터페이스(602) 내의 미디어 항목들을 통해 내비게이팅하고 소비를 위한 특정 미디어 항목을 선택할 수 있도록 구성될 수 있다. 일부 예들에서, 미디어 항목들의 하나 이상의 이차 세트(606)는 사용자 인터페이스(602) 내에 미디어 항목들의 일차 세트(604)로 표시될 수 있다. 미디어 항목들의 이차 세트가 항상 표시되지 않을 수도 있다는 것을 인식해야 한다. 일부 예들에서, 사용자 인터페이스(602)는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지할 수 있다. 다른 예들에서, 디스플레이 유닛은 사용자 인터페이스(602)를 표시하는 동안 미디어 디바이스 상에서 재생 중인 미디어 콘텐츠(도시되지 않음)를 표시할 수 있다. 이들 예에서, 디스플레이 유닛 상의 사용자 인터페이스(602)에 의해 차지된 표시 영역은 디스플레이 유닛 상의 미디어 콘텐츠에 의해 차지된 표시 영역보다 작을 수 있다. 또한, 이들 예에서, 사용자 인터페이스(602)는 미디어 항목들의 이차 세트(606)를 포함하지 않을 수 있다. 특히, 사용자 인터페이스(602)를 통해 표시된 유일한 미디어 항목들은 미디어 항목들의 일차 세트(604)일 수 있다.
미디어 항목들의 일차 세트(604) 및 미디어 항목들의 이차 세트(606)의 각각의 표시된 미디어 항목은 미디어 유형, 미디어 제목, 배우, 미디어 캐릭터, 감독, 미디어 출시일, 미디어 상영시간, 미디어 품질 등급, 미디어 인기도 평점 등과 같은 파라미터들의 파라미터 값들과 연관될 수 있다. 일부 예들에서, 각 미디어 항목의 하나 이상의 파라미터 값은 사용자 인터페이스(602)를 통해 개개의 미디어 항목 상에 또는 그 근처에 텍스트로서 표시될 수 있다.
본 예에서, 미디어 항목들의 하나 이상의 이차 세트(606)는 미디어 항목들의 일차 세트(604)에 기초할 수 있다. 특히, 미디어 항목들의 하나 이상의 이차 세트(606)는 미디어 항목들의 일차 세트(604)와 공통 속성 또는 파라미터 값을 공유할 수 있다. 도 6a에 도시된 바와 같이, 미디어 항목들의 이차 세트(608)는 액션 영화일 수 있고, 미디어 항목들의 이차 세트(610)는 외국 액션 영화일 수 있다. 따라서, 이 예에서, 미디어 항목들의 일차 세트(604) 및 이차 세트(606)는 모두 액션 영화의 미디어 장르에 관련될 수 있다. 다른 예들에서, 미디어 항목들의 이차 세트(606)는 이전 미디어 검색 요청들 또는 인기있는 트렌딩 미디어 항목들 및 카테고리들과 같은 다른 정보로부터 도출된 파라미터 값들에 기초할 수 있다는 것을 인식해야 한다.
프로세스(500)의 블록(504)에서, 사용자 입력이 검출될 수 있다. 사용자 입력은 미디어 항목들(604)의 일차 세트가 블록(502)에서 표시되는 동안 검출될 수 있다. 일부 예들에서, 사용자 입력은 미디어 디바이스의 원격 제어부(예컨대, 원격 제어부(124)) 상에서 검출될 수 있다. 특히, 사용자 입력은 버튼(예를 들어, 버튼(274))의 누르기 또는 원격 제어부의 터치 감응형 표면(예컨대, 터치 감응형 표면(278))의 접촉과 같은 원격 제어부와의 사용자 상호작용일 수 있다. 일부 예들에서, 사용자 입력은 미디어 디바이스와 상호작용하도록 구성된 제2 전자 디바이스(예컨대, 디바이스(122))를 통해 검출될 수 있다. 사용자 입력은 미디어 디바이스의 디지털 어시스턴트를 호출하는 것과 연관될 수 있다. 사용자 입력을 검출하는 것에 응답하여, 블록들(506 내지 510) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(506)에서, 오디오 입력이 수신될 수 있다. 오디오 입력은 미디어 관련 요청을 포함할 수 있다. 예를 들어, 블록(504)에서 사용자 입력을 검출하는 것에 응답하여, 오디오 입력은 미디어 디바이스의 마이크로폰(예컨대, 마이크로폰(272))을 통해 샘플링될 수 있다. 샘플링된 오디오 입력은 사용자 발화의 형태로 미디어 관련 요청을 포함할 수 있다. 일부 예들에서, 미디어 관련 요청을 포함하는 오디오 입력은 미디어 항목들의 일차 세트(604)의 적어도 일부가 표시되는 동안 수신될 수 있다. 미디어 관련 요청은 자연 언어 형태일 수 있다. 일부 예들에서, 미디어 관련 요청은 미명세될 수 있으며(underspecified), 여기서 요청을 만족시키는 데 필요한 모든 정보가 명시적으로 정의되지는 않을 수 있다. 예를 들어, 미디어 관련 요청은 "잭 라이언"일 수 있다. 이 예에서, 요청은 캐릭터 잭 라이언을 갖는 영화들에 대한 새로운 미디어 검색 요청 또는 캐릭터 잭 라이언에 기초하여 현재 표시된 미디어 항목들을 필터링하라는 요청인지 여부를 명시적으로 특정하지 않는다.
일부 예들에서, 미디어 관련 요청은 하나 이상의 모호한 용어를 포함할 수 있다. 예를 들어, 미디어 관련 요청은 "좋은 것들은 뭐가 있어?"일 수 있다. 이 예에서, 미디어 관련 요청은 표시되고 있는 미디어 항목들(예를 들어, 미디어 항목들의 일차 세트(604) 및/또는 이차 세트(606))을 지칭하는 것으로 의도되는 모호한 용어 "것들"을 포함한다. 또한, 이 예에서, 미디어 관련 요청은 모호한 용어(예를 들어, "좋은")를 사용하여 미디어 항목들의 파라미터 값(예를 들어, 사용자 평점 또는 평론가 평점)을 정의한다.
미디어 관련 요청은 미디어 항목들과 연관된 하나 이상의 파라미터 값을 정의할 수 있다. 미디어 관련 요청에 정의될 수 있는 파라미터 값들의 예들은 미디어 유형, 미디어 제목, 배우, 미디어 캐릭터, 미디어 감독, 미디어 출시일, 미디어 상영시간, 미디어 품질 등급, 미디어 인기도 평점 등을 포함한다.
일부 예들에서, 미디어 관련 요청은 미디어 검색 요청일 수 있다. 일부 예들에서, 미디어 관련 요청은 일차 미디어 검색 질의를 정정하라는 요청일 수 있다. 다른 예들에서, 미디어 관련 요청은 사용자 인터페이스(602) 상에 표시된 미디어 항목들을 통해 내비게이팅하라는 요청일 수 있다. 또 다른 예들에서, 미디어 관련 요청은 미디어 디바이스의 애플리케이션의 상태 또는 설정을 조정하라는 요청일 수 있다.
본 예에서, 미디어 관련 요청이 오디오 입력에서 수신되지만, 다른 예들에서, 미디어 관련 요청은 텍스트 입력으로서 수신될 수 있음을 이해해야 한다. 특히, 오디오 입력 대신에, 미디어 관련 요청을 포함하는 텍스트 입력이 키보드 인터페이스를 통해 블록(506)에서 수신될 수 있다. 블록(508)은 미디어 관련 요청이 텍스트 입력으로서 수신되는 예들에서 수행될 필요가 없다는 것을 인식해야 한다. 오히려, 일차 사용자 의도는 블록(510)에서 텍스트 입력으로부터 직접 결정될 수 있다.
프로세스(500)의 블록(508)에서, 미디어 관련 요청의 텍스트 표현이 결정될 수 있다. 예를 들어, 텍스트 표현은 블록(506)에서 수신된 오디오 입력에 대해 스피치-텍스트(STT) 처리를 수행함으로써 결정될 수 있다. 특히, 오디오 입력은 오디오 입력 내의 미디어 관련 요청을 텍스트 표현으로 변환하기 위해 STT 처리 모듈(예컨대, STT 처리 모듈(430))을 사용하여 처리될 수 있다. 텍스트 표현은 대응하는 텍스트 문자열을 표현하는 토큰 문자열이 될 수 있다. 일부 예들에서, 텍스트 표현이 디스플레이 유닛 상에 표시될 수 있다. 특히, 블록(506)에서 오디오 입력이 수신되고 있는 동안 텍스트 표현은 실시간으로 표시될 수 있다.
텍스트 표현을 결정하기 위해 STT 처리 중에 하나 이상의 언어 모델이 사용될 수 있다. 일부 예들에서, STT 처리는 미디어 관련 텍스트 결과를 향하여 바이어스될 수 있다. 특히, 텍스트 표현을 결정하는 데 사용되는 하나 이상의 언어 모델은 미디어 관련 텍스트 결과를 향하여 바이어스될 수 있다. 일 예에서, 하나 이상의 언어 모델은 미디어 관련 텍스트의 코퍼스를 사용하여 트레이닝될 수 있다. 부가적으로 또는 대안적으로, 바이어싱(biasing)은 미디어와 관련된 후보 텍스트 결과에 더 크게 가중치를 줌으로써 구현될 수 있다. 이러한 방식으로, 미디어와 관련된 후보 텍스트 결과는 바이어싱이 없는 것보다 바이어싱을 갖는 것에 더 높은 순위가 매겨질 수 있다. 바이어싱은 미디어 관련 요청(예컨대, 영화 이름, 영화 배우 등)에서 미디어 관련 단어 또는 구절에 대한 STT 처리의 정확성을 증가시키기 위한 것이 바람직할 수 있다. 예를 들어, "쥬라기 공원", "아놀드 슈왈제네거", 및 "슈렉"과 같은 특정 미디어 관련 단어나 구절은 텍스트의 전형적인 코퍼스에서는 드물게 발견될 수 있고, 따라서 미디어 관련 텍스트 결과를 향하여 바이어스하지 않고는 STT 처리 중에 성공적으로 인식되지 않을 수 있다.
전술한 바와 같이, 블록(502)에서 표시된 미디어 항목들과 연관된 텍스트(예를 들어, 미디어 항목들의 일차 세트(604) 및 미디어 항목들의 이차 세트(606))는 사용자 인터페이스(602)를 통해 표시될 수 있다. 텍스트는 사용자 인터페이스(602) 내의 각 미디어 항목의 하나 이상의 속성 또는 파라미터 값을 기술할 수 있다. 예를 들어, 미디어 항목들의 일차 세트(604)는 영화 "아이언맨 3"에 대응하는 미디어 항목을 포함할 수 있다. 이 예에서, 표시된 텍스트는 제목 "아이언맨 3", 배우들 "로버트 다우니 주니어"와 "기네스 팰트로", 및 감독 "셰인 블랙"을 포함할 수 있다. 일부 예들에서, 표시된 미디어 항목들과 연관된 표시된 텍스트를 사용하여 맞춤형 언어 모델이 생성될 수 있다. 이어서, 맞춤형 언어 모델을 사용하여 STT 처리를 수행하여 텍스트 표현을 결정할 수 있다. 특히, 맞춤형 언어 모델로부터의 후보 텍스트 결과는 텍스트 표현을 결정할 때 다른 언어 모델로부터의 후보 텍스트 결과에 비해 더 큰 가중치가 부여될 수 있다. 일부 예들에서, 미디어 항목들의 일차 세트(604) 및 미디어 항목들의 이차 세트들(606)과 연관된 모든 속성들 또는 파라미터 값들이 디스플레이 유닛 상에 텍스트로서 표시될 수 있는 것은 아닌 것으로 인식되어야 한다. 이들 예에서, 디스플레이 유닛 상에 표시되지 않은 미디어 항목들의 일차 세트(604) 및 미디어 항목들의 이차 세트들(606)의 속성들 또는 파라미터 값들의 텍스트는 또한 맞춤형 언어 모델을 생성하는 데 사용될 수 있다.
일부 예들에서, 예측된 텍스트는 텍스트 표현을 사용하여 결정될 수 있다. 예를 들어, 언어 모델은 텍스트 표현 내의 단어들의 시퀀스에 기초하여 하나 이상의 후속 단어를 예측하는 데 사용될 수 있다. 오디오 입력이 수신되고 있는 동안 예측된 텍스트가 결정될 수 있다. 또한, 예측된 텍스트는 텍스트 표현과 함께 디스플레이 유닛 상에 표시될 수 있다. 특히, 블록(506)에서 오디오 입력이 수신되고 있는 동안, 예측된 텍스트는 실시간으로 표시될 수 있다.
예측된 텍스트는 오디오 입력의 종점을 검출하는 것에 기초하여 사용자에 의해 수용될 수 있다. 일부 예들에서, 블록(504)의 사용자 입력이 더 이상 검출되지 않으면 종점이 검출될 수 있다. 다른 예들에서, 종점은 오디오 입력의 하나 이상의 오디오 특성이 미리결정된 기준을 더 이상 만족시키지 않은 후에 미리결정된 지속시간에서 검출될 수 있다. 예측된 텍스트를 표시한 후에 오디오 입력의 종점이 검출되는지 여부에 대한 결정이 이루어질 수 있다. 예측된 텍스트를 표시한 후에 오디오 입력의 종점이 검출된다는 결정에 따라, 예측된 텍스트는 사용자에 의해 수용되도록 결정될 수 있다. 특히, 텍스트 표현 및 수용된 예측된 텍스트는 블록(510)에서 일차 사용자 의도를 결정하는 데 사용될 수 있다.
일부 예들에서, 텍스트 표현을 결정하는 데 사용되는 하나 이상의 언어 모델은 다수의 언어들로 미디어 관련 용어를 인식하도록 구성될 수 있다. 특히, 미디어 관련 용어들(예컨대, 미디어 제목, 배우 이름 등)은 상이한 언어들에 걸쳐 고유한 번역들을 가질 수 있다. 예를 들어, 배우 "아놀드 슈왈제네거"는 중국어의 "
"와 힌디어의 "
"에 대응한다. 텍스트 표현을 결정하는 데 사용되는 하나 이상의 언어 모델은 다양한 언어로 미디어 관련 텍스트의 코퍼스를 사용하여 트레이닝될 수 있다. 따라서, 하나 이상의 언어 모델은 다양한 언어로 미디어 관련 용어의 대응하는 번역들을 인식하도록 구성될 수 있다.
프로세스(500)의 블록(510)에서, 미디어 관련 요청에 대응하는 일차 사용자 의도가 결정될 수 있다. 일차 사용자 의도는 텍스트 표현에 대한 자연 언어 처리를 수행함으로써 결정될 수 있다. 특히, 텍스트 표현은 자연 언어 처리 모듈(예를 들어, 자연 언어 처리 모듈(432))을 사용하여 파싱되고 처리되어 미디어 관련 요청에 대응하는 다수의 후보 사용자 의도를 결정할 수 있다. 후보 사용자 의도들은 확률에 따라 순위가 매겨질 수 있고, 가장 높은 확률을 갖는 후보 사용자 의도는 일차 사용자 의도인 것으로 결정될 수 있다.
일차 사용자 의도를 결정하는 것은 텍스트 표현과 연관된 관련 도메인 또는 행동가능한 의도를 결정하는 것을 포함할 수 있다. 일부 예들에서, 미디어 관련 요청과 연관된 미디어 유형은 블록(510)에서 결정될 수 있고, 관련 도메인 또는 행동가능한 의도는 미디어 관련 요청과 연관된 결정된 미디어-유형에 기초하여 결정될 수 있다. 예를 들어, 미디어 관련 요청 "제임스 본드"에 기초하여, 미디어 유형은 "영화/텔레비전 쇼"로 결정될 수 있으며, 대응하는 행동가능한 의도 또는 도메인은 "영화/텔레비전 쇼를 찾아줘"로 결정될 수 있다. 이 예에서, 미디어 유형 "영화/텔레비전 쇼"에 따라 "제임스 본드"에 대한 미디어 검색을 수행함으로써 미디어 관련 요청이 이행될 수 있다. 구체적으로, 영화 및 텔레비전 쇼 데이터베이스는 미디어 관련 요청을 이행하기 위해 미디어 캐릭터 "제임스 본드"에 대해 검색될 수 있다. 다른 예에서, 미디어 관련 요청 "테일러 스위프트"에 기초하여, 미디어 유형은 "음악"으로 결정될 수 있고, 대응하는 행동가능한 의도 또는 도메인은 "음악을 찾아줘"로 결정될 수 있다. 이 예에서, 미디어 관련 요청은 가수 "테일러 스위프트"에 대한 음악 데이터베이스를 검색(예를 들어, 아이튠즈 음악 서비스(iTunes music service)에서 검색을 수행)함으로써 이행될 수 있다.
일부 예들에서, 일차 사용자 의도를 결정하기 위한 자연 언어 처리는 미디어 관련 사용자 의도를 향하여 바이어스될 수 있다. 특히, 자연 언어 처리 모듈은 온톨로지에서 미디어 관련 노드를 트리거하는 미디어 관련 단어 및 구절(예컨대, 미디어 제목, 미디어 장르, 배우, MPAA 영화 등급 라벨 등)을 식별하도록 트레이닝될 수 있다. 예를 들어, 자연 언어 처리 모듈은 텍스트 표현에서 "쥬라기 공원"이라는 구절을 영화 제목으로 식별할 수 있으며, 결과적으로 미디어 항목들을 검색하는 것의 행동가능한 의도와 연관된 온톨로지 내의 "미디어 검색" 노드를 트리거할 수 있다. 일부 예들에서, 바이어싱은 온톨로지 내의 노드들을 미디어 관련 노드들의 미리결정된 세트로 제한함으로써 구현될 수 있다. 예를 들어, 미디어 관련 노드들의 세트는 미디어 디바이스의 애플리케이션들과 연관된 노드일 수 있다. 또한, 일부 예들에서, 바이어싱은 미디어 관련이 아닌 후보 사용자 의도보다 미디어 관련된 후보 사용자 의도에 더 크게 가중치를 줌으로써 구현될 수 있다.
일부 예들에서, 일차 사용자 의도는 별개의 디바이스(예컨대, DA 서버(106))로부터 획득될 수 있다. 특히, 오디오 데이터는 자연 언어 처리를 수행하기 위해 별개의 디바이스로 송신될 수 있다. 이들 예에서, 미디어 디바이스는 샘플링된 오디오 데이터가 미디어 애플리케이션과 연관되어 있다는 것을 별개의 디바이스에 나타낼 수 있다(예를 들어, 샘플링된 오디오 데이터와 함께 별개의 디바이스에 송신된 데이터를 통해). 상기 나타내는 것은 자연 언어 처리를 미디어 관련 사용자 의도를 향하여 바이어스할 수 있다.
자연 언어 처리 모듈은 다양한 언어 및 지역에서 미디어 관련 용어의 의미를 식별하도록 추가로 트레이닝될 수 있다. 예를 들어, 자연 언어 처리 모듈은 "아놀드 슈왈제네거", "
", 및 "
" 모두가 동일한 배우를 지칭한다는 것을 인식할 수 있다. 부가적으로, 영화 제목은 상이한 언어들과 지역들에 따라 다를 수 있다. 예를 들어, 미국에서 영화 "Live Free or Die Hard"는 영국에서 "Die Hard 4.0"로 제목이 지정된다. 또 다른 예로, 미국에서 영화 "Top Gun"은 이스라엘에서 "Love in the Skies"라는 제목이 지정된다. 따라서, 자연 언어 처리 모듈은 영어의 "Top Gun"과 히브리어의 "Love in the Skies"가 모두 같은 영화를 가리키는 것으로 식별하도록 구성될 수 있다.
일부 예들에서, 자연 언어 처리 모듈은 미디어 관련 요청에서 모호한 용어들에 기초하여 의도된 파라미터 값들을 식별하도록 구성될 수 있다. 특히, 자연 언어 처리 모듈은 모호한 용어와 하나 이상의 파라미터 값 사이의 연결의 강도(예컨대, 적합성, 중요성, 의미상 유사성 등)를 결정할 수 있다. 모호한 용어에 대한 가장 강한 연결을 갖는 파라미터 값은 의도된 파라미터 값으로 결정될 수 있다. 예를 들어, 미디어 관련 요청은 "좋은 것들을 보여줘"일 수 있다. "좋은"이라는 용어는 특정 파라미터 값을 명시적으로 정의하지 않으므로 모호할 수 있다. 이 예에서, 용어 "좋은"에 대한 연결의 강도에 기초하여, 자연 언어 처리 모듈은 "좋은"이 미리결정된 값보다 큰 평균 사용자 평점의 파라미터 값을 지칭하는 것으로 결정할 수 있다.
일부 예들에서, 예비 사용자 의도는 일차 사용자 의도를 결정하기 이전에 결정될 수 있다. 예비 사용자 의도는 블록(506)에서 수신된 오디오 입력의 일부(그러나 전체 오디오 입력은 아님)를 사용하여 행동가능한 의도 또는 도메인을 결정하는 것을 포함할 수 있다. 예비 사용자 의도를 결정하기 위한 프로세스는 덜 강력할 수 있음으로써, 일차 사용자 의도를 결정하는 것보다 빠를 수 있다. 이는 오디오 입력이 여전히 수신되고 있는 동안 예비 사용자 의도가 결정되게 할 수 있다. 예비 사용자 의도를 결정하는 것은 미디어 관련 요청을 이행하는 데 필요한 데이터를 프리-페치되게 함으로써, 디지털 어시스턴트의 응답 시간을 단축할 수 있다. 예를 들어, 미디어 관련 요청은 "뭐가 오후 7시에 해?"일 수 있다. 이 요청의 제1 부분인 "뭐가…"에 기초하여, 예비 사용자 의도는 "채널 프로그래밍을 검색"으로 결정될 수 있다. 이 예비 사용자 의도에 기초하여, 이 예비 사용자 의도를 이행하는 데 필요한 데이터가 식별될 수 있다. 특히, 사용자가 이용할 수 있는 채널을 결정하기 위해서는 사용자의 구독 정보가 필요할 것이라고 결정될 수 있다. 이어서, 이러한 채널들에 대응하는 프로그래밍이 결정될 수 있다. 디지털 어시스턴트는 필요한 데이터가 이미 미디어 시스템 또는 디지털 어시스턴트 서버에 저장되어 있는지 여부를 처음에 결정할 수 있다. 예비 사용자 의도가 결정되는 시간에 데이터가 미디어 시스템 또는 디지털 어시스턴트 서버에 저장되어 있다는 결정에 따라, 일차 사용자 의도가 결정되고 있는 동안 데이터가 검색될 수 있다. 예비 사용자 의도가 결정되는 시간에 데이터가 미디어 시스템 또는 디지털 어시스턴트에 저장되어 있지 않다는 결정에 따라, 일차 사용자 의도가 결정되고 있는 동안 필요한 데이터가 획득될 수 있다. 예를 들어, 디지털 어시스턴트는 사용자 개입 없이 자동으로 사용자의 구독 서비스 제공자와 통신하고 사용자가 이용할 수 있는 채널을 검색할 수 있다.
도 5a에 도시된 바와 같이, 프로세스(500)의 블록(510)은 블록들(512 내지 518) 중 하나 이상을 포함할 수 있다. 프로세스(500)의 블록(512)에서, 일차 사용자 의도가 미디어 항목들의 일차 세트(604)에 대응하는 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부에 대한 결정이 이루어질 수 있다. 다시 말하면, 블록(510)에서, 블록(506)의 미디어 관련 요청이 이전에 수신된 미디어 검색 요청을 좁히라는 요청인지 여부가 결정될 수 있다. 일부 예들에서, 일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부를 결정하는 것은 미디어 관련 요청이 일차 미디어 검색 질의를 좁히려는 사용자 의도에 대응하는 미리결정된 단어 또는 구절을 포함하는지 여부를 결정하는 것을 포함할 수 있다. 미리결정된 단어 또는 구절은 복수의 정제된 용어 중 하나를 포함할 수 있다. 예를 들어, 미리결정된 단어 또는 구절은 미디어 검색 요청 이전에 수신된 이전 미디어 검색 요청을 좁히라는 명시적 요청을 나타낼 수 있다. 또한, 일부 예들에서, 결정은 미디어 관련 요청(예를 들어, 미디어 관련 요청의 시작, 중간, 또는 종료 시에)에서의 미리결정된 단어 또는 구절의 위치에 기초하여 이루어질 수 있다.
도 6b 및 도 6c에 도시된 예에서, 미디어 관련 요청은 "단지 잭 라이언을 갖는 것들"일 수 있다. 이 미디어 관련 요청에 대응하는 텍스트 표현(612)은 미디어 관련 요청이 일차 미디어 검색 질의를 좁히려는 사용자 의도에 대응하는 미리결정된 단어 또는 구절을 포함하는지 여부를 결정하기 위해 자연 언어 처리 중에 파싱될 수 있다. 일차 미디어 검색 질의를 좁히려는 사용자 의도에 대응하는 미리결정된 단어 또는 구절의 예들은 "단지", "만", "로 필터", "어떤 것들" 등을 포함할 수 있다. 이 예에서, 미디어 관련 요청의 시작 시에 위치설정된 미리결정된 단어 "단지"에 기초하여, 일차 사용자 의도가 미디어 항목들의 일차 세트(604)에 대응하는 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함한다고 결정될 수 있다. 구체적으로, 일차 사용자 의도는 지난 10년 동안 출시된 액션 영화에 대한 검색을 캐릭터 잭 라이언을 갖는 미디어 항목들만을 포함하도록 좁히는 것으로 결정될 수 있다. 일차 사용자 의도가 미디어 항목들의 일차 세트(604)에 대응하는 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부를 결정하기 위해 다른 기술들이 구현될 수 있다는 것을 인식해야 한다. 또한, 일차 사용자 의도는 블록(506)의 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청에 대응하는 하나 이상의 이전 사용자 의도에 기초할 수 있음을 인식해야 한다.
일차 사용자 의도가 미디어 항목들의 일차 세트(604)에 대응하는 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함한다는 결정에 따라, 블록들(520 내지 534) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(520)에서, 일차 사용자 의도를 만족시키기 위해 미디어 항목들의 제2 일차 세트(612)가 획득될 수 있다. 블록(520)은 일차 사용자 의도에 대응하는 제2 일차 미디어 검색 질의를 생성하는 것을 포함할 수 있다. 제2 일차 미디어 검색 질의는 미디어 관련 요청(예를 들어, "단지 잭 라이언을 갖는 것들") 및 일차 미디어 검색 질의(예를 들어, "지난 10년 동안의 액션 영화들")에 기초할 수 있다. 특히, 제2 일차 미디어 검색 질의는 파라미터 값들의 세트를 포함할 수 있다. 파라미터 값들의 세트는 미디어 관련 요청에 정의된 하나 이상의 파라미터 값 및 일차 미디어 검색 질의의 하나 이상의 파라미터 값을 포함할 수 있다. 예를 들어, 제2 일차 미디어 검색 질의는 "영화"의 미디어 유형, "액션"의 미디어 장르, "지난 10년"의 출시일, 및 "잭 라이언"의 미디어 캐릭터를 갖는 미디어 항목들을 검색하라는 질의일 수 있다. 대안적으로, 제2 일차 미디어 검색 질의는 미디어 항목들의 일차 세트(604)를 필터링하고 "잭 라이언"의 미디어 캐릭터를 갖는 미디어 항목들의 세트(604) 내의 미디어 항목들만을 식별하라는 질의일 수 있다. 제2 일차 미디어 검색 질의는 일차 사용자 의도에 기초하여 자연 언어 처리 모듈(예컨대, 자연 언어 처리 모듈(432))에 의해 생성될 수 있다.
블록(520)은 미디어 항목들의 제2 일차 세트(612)를 획득하기 위해 제2 일차 미디어 검색 질의를 수행하는 것을 추가로 포함할 수 있다. 제2 일차 미디어 검색 질의는 제2 일차 미디어 검색 질의의 파라미터 값 요건들을 만족시키는 미디어 항목들에 대해 하나 이상의 미디어 데이터베이스를 검색함으로써 수행될 수 있다. 미디어 항목들의 제2 일차 세트의 각 미디어 항목은 파라미터 값들의 세트와 연관될 수 있다. 파라미터 값들의 세트는 일차 미디어 검색 질의 내의 하나 이상의 파라미터 값 및 블록(506)의 미디어 관련 요청에 정의된 하나 이상의 파라미터 값을 포함할 수 있다. 또한, 미디어 항목들의 제2 일차 세트(612)의 각 미디어 항목은 적합성 점수와 연관될 수 있다. 적합성 점수는 미디어 항목이 일차 사용자 의도를 만족시킬 가능성을 나타낼 수 있다. 예를 들어, 더 높은 적합성 점수는 미디어 항목이 일차 사용자 의도를 만족시킬 더 높은 가능성을 나타낼 수 있다. 제2 일차 미디어 검색 질의는 태스크 흐름 처리 모듈(예컨대, 태스크 흐름 처리 모듈(436))에 의해 수행될 수 있다.
미디어 항목들의 일차 세트(604)가 이전에 수신된 미디어 검색 요청(예를 들어, 키보드 인터페이스를 통해 수신된)에 기초하여 문자열 검색을 수행함으로써 획득되는 예들에서, 제2 일차 미디어 검색 질의는 미디어 관련 요청(예컨대, "잭 라이언")에 정의된 파라미터 값 요건들을 만족시키는 미디어 항목들을 위한 미디어 항목들의 일차 세트(604)를 검색함으로써 수행될 수 있다. 특히, 미디어 항목들의 일차 세트(604)와 연관된 파라미터 값들이 먼저 획득될 수 있다. 이어서, 미디어 항목들의 제2 일차 세트(612)는 획득된 파라미터 값들을 이용하고 미디어 관련 요청에 정의된 파라미터 값들에 기초하여 구조화된 검색을 수행함으로써 획득될 수 있다.
프로세스(500)의 블록(522)에서, 미디어 항목들의 제2 일차 세트(612)는 사용자 인터페이스(602)를 통해 디스플레이 유닛 상에 표시될 수 있다. 특히, 도 6c에 도시된 바와 같이, 디스플레이 유닛 상의 미디어 항목들의 일차 세트(604)의 표시는 미디어 항목들의 제2 일차 세트(612)의 표시로 대체될 수 있다. 미디어 항목들의 제2 일차 세트(612)는 각 미디어 항목과 연관된 적합성 점수에 따라 표시될 수 있다. 예를 들어, 도 6c를 참조하면, 미디어 항목들의 제2 일차 세트(612)는 사용자 인터페이스(602) 상에서 좌측에서 우측으로의 적합성 점수의 감소 순서로 배열될 수 있다.
프로세스(500)의 블록(524)에서, 미디어 항목들의 추가 세트가 획득될 수 있다. 미디어 항목들의 추가 세트는 일차 사용자 의도와 관련될 수 있는 대안적인 옵션들을 사용자에게 제공하기 위해 획득될 수 있다. 도 5b에 도시된 바와 같이, 블록(524)은 블록들(526 내지 532)을 포함할 수 있다.
프로세스(500)의 블록(526)에서, 미디어 항목들의 제2 일차 세트(612)와 연관된 파라미터 값들의 코어 세트가 식별될 수 있다. 파라미터 값들의 코어 세트는 제2 일차 미디어 검색 질의 내의 파라미터 값들의 세트로부터 식별될 수 있다. 특히, 파라미터 값들의 세트 내의 중요하지 않은 파라미터 값들은 식별되고 무시될 수 있다. 중요하지 않은 파라미터 값들을 무시한 후 파라미터 값들의 세트 내의 나머지 파라미터 값들은 파라미터 값들의 코어 세트로서 식별될 수 있다. 중요하지 않은 파라미터 값들은 예를 들어, 미디어 출시일 범위, 미디어 유형, 미디어 제공자, 미디어 품질 등급, 무료 또는 유료 미디어, 라이브 또는 주문형 미디어 등과 같은 미리결정된 파라미터 값들일 수 있다. 파라미터 값들의 코어 세트는 파라미터 값들의 세트보다 적은 파라미터 값들을 가질 수 있다.
도 6c의 예에서, 제2 일차 미디어 검색 질의 내의 파라미터 값들의 세트는 파라미터 값들 "액션 영화", "지난 10년", 및 "잭 라이언"을 포함한다. 이 예에서, 파라미터 값 "지난 10년"은 중요하지 않은 파라미터 값(예를 들어, 미디어 출시 데이터 범위)으로 식별되고 제거될 수 있다. 따라서, 나머지 파라미터 값들 "액션 영화" 및 "잭 라이언"은 파라미터 값들의 코어 세트로 식별될 수 있다.
프로세스(500)의 블록(528)에서, 하나 이상의 추가 파라미터 값이 식별될 수 있다. 하나 이상의 추가 파라미터 값은 사용자의 미디어 소비 관심을 반영할 가능성이 있는 정보에 기초하여 식별될 수 있다. 예를 들어, 하나 이상의 추가 파라미터 값은 사용자의 미디어 선택 이력, 사용자의 미디어 검색 이력, 또는 사용자의 시청 목록 내의 미디어 항목들에 기초하여 식별될 수 있다. 부가적으로 또는 대안적으로, 하나 이상의 추가 파라미터 값은, 미디어 디바이스들의 사용자들 사이에서 현재 가장 인기있는 미디어 항목들의 파라미터 값들을 나타낼 수 있는, 복수의 사용자의 미디어 선택 이력에 기초하여 식별될 수 있다. 일부 예들에서, 하나 이상의 추가 파라미터 값을 식별하는 방법은 블록(560)에서 설명된 다른 관련 파라미터 값을 결정하는 방법과 유사할 수 있다.
도 6c의 예로 돌아가면, 벤 애플렉이 주연한 액션 영화는 미디어 디바이스들의 사용자들 사이에서 인기가 있는 것으로 결정될 수 있다. 또한, 사용자가 벤 애플렉이 주연한 영화들을 최근에 검색했거나 선택한 것으로 결정될 수 있다. 따라서, 이 예에서, "벤 애플렉"은 하나 이상의 추가 파라미터 값 중 하나의 파라미터 값으로서 식별될 수 있다.
프로세스(500)의 블록(530)에서, 하나 이상의 추가 미디어 검색 질의가 생성될 수 있다. 추가 미디어 검색 질의들은 블록(526)에서 식별된 파라미터 값들의 코어 세트에 기초할 수 있다. 또한, 추가 미디어 검색 질의들은 블록(528)에서 식별된 하나 이상의 추가 파라미터 값에 기초할 수 있다. 예를 들어, 도 6c에서, 하나 이상의 추가 미디어 검색 질의는 잭 라이언(파라미터 값들의 코어 세트)을 갖는 액션 영화에 대한 검색어 및 벤 애플렉(블록(528)에서 식별된 추가 파라미터 값)이 주연한 액션 영화들에 대한 검색어를 포함할 수 있다.
블록들(526 내지 530)은 자연 언어 처리 모듈(예컨대, 자연 언어 처리 모듈(432))에 의해 수행될 수 있다. 특히, 자연 언어 처리 모듈은 하나 이상의 추가 사용자 의도를 결정하기 위해 파라미터 값들의 코어 세트(블록(526)에서) 및 하나 이상의 추가 미디어 검색 질의(블록(528)에서)를 식별할 수 있다. 이어서, 자연 언어 처리 모듈은 하나 이상의 추가 사용자 의도에 기초하여 하나 이상의 추가 미디어 검색 질의(예를 들어, 도 4b를 참조하여 상술한 구조화된 질의)를 생성할 수 있다.
프로세스(500)의 블록(532)에서, 블록(530)의 하나 이상의 추가 미디어 검색 질의가 수행될 수 있다. 예를 들어, 하나 이상의 추가 미디어 검색 질의는 추가 미디어 검색 질의들은 만족시키는 미디어 항목들에 대해 하나 이상의 미디어 데이터베이스를 검색함으로써 수행될 수 있다. 사용되는 미디어 데이터베이스는 검색되고 있는 미디어 유형에 기초할 수 있다. 예를 들어, 음악 데이터베이스는 음악과 관련된 미디어 검색 질의에 사용될 수 있으며 영화/텔레비전 쇼 데이터베이스는 음악/텔레비전 쇼와 관련된 미디어 검색 질의들에 사용될 수 있다. 따라서, 미디어 항목들의 하나 이상의 추가 세트(614)는 블록(530)의 하나 이상의 추가 미디어 검색 질의를 수행하는 것으로부터 획득될 수 있다. 구체적으로, 도 6c에서, 미디어 항목들의 추가 세트(616)(예를 들어, 영화 "패트리어트 게임", "긴급 명령" 등)는 잭 라이언을 갖는 액션 영화들을 검색하는 것으로부터 획득될 수 있고, 미디어 항목들의 추가 세트(618)(예를 들어, 영화 "썸 오브 올 피어스", "데어데블" 등)는 벤 애플렉이 주연한 액션 영화들을 검색하는 것으로부터 획득할 수 있다. 블록들(532)은 태스크 흐름 처리 모듈(예컨대, 태스크 흐름 처리 모듈(436))에 의해 수행될 수 있다.
전술한 블록(524)의 특정 양태들이 블록들(546 또는 562)에 유사하게 적용될 수 있음을 인식해야 한다.
프로세스(500)의 블록(534)에서, 미디어 항목들의 하나 이상의 추가 세트가 디스플레이 유닛 상에 표시될 수 있다. 예를 들어, 도 6c에 도시된 바와 같이, 미디어 항목들의 추가 세트들(616, 618)은 사용자 인터페이스(602)를 통해 표시될 수 있다. 미디어 항목들의 추가 세트들(616, 618)은 사용자가 관심을 가질 가능성이 있는 추가 옵션들을 사용자에게 제공하는 역할을 할 수 있다. 이는 사용자가 다른 검색을 요청할 필요 없이 소비하기 위한 미디어 항목을 찾아 선택할 가능성을 증가시키는 것이 바람직할 수 있으며, 이는 브라우징 시간을 단축하고 사용자 경험을 향상시킬 수 있다.
미디어 항목들의 세트들이 표시되는 방식은 개개의 사용자 의도가 사용자의 실제 의도에 대응하는 가능성을 반영할 수 있다. 예를 들어, 도 6c에 도시된 바와 같이, 미디어 항목들의 제2 일차 세트는 일차 사용자 의도(실제 사용자 의도를 반영할 가능성이 가장 큰 사용자 의도)와 연관되고 사용자 인터페이스(602)의 상단 행에 표시된다. 미디어 항목들의 하나 이상의 추가 세트(616, 618)는 추가 사용자 의도들(실제 사용자 의도를 반영할 가능성이 적은 사용자 의도들)과 연관되고 상단 행 아래의 사용자 인터페이스(602)의 하나 이상의 후속 행에 표시된다. 또한, 미디어 항목들의 추가 세트(616)와 연관된 추가 사용자 의도는 미디어 항목들의 추가 세트(618)와 연관된 추가 사용자 의도보다 실제 사용자 의도를 반영할 가능성이 더 많을 수 있다. 따라서, 이 예에서, 미디어 항목들의 추가 세트(618)는 미디어 항목들의 추가 세트(616) 아래의 행에 표시될 수 있다. 본 예에서, 미디어 항목들의 세트들이 행들로 표시되지만, 다른 예들에서, 다른 디스플레이 구성들이 구현될 수 있음을 인식해야 한다.
블록(512)을 다시 참조하면, 일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하지 않는다는 결정에 따라, 블록들(514 내지 518, 또는 536 내지 548) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(514)에서, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하는지 여부에 대한 결정이 이루어질 수 있다. 일부 예들에서, 결정은 미디어 관련 요청의 명시적 단어 또는 구절에 기초하여 이루어질 수 있다. 특히, 미디어 관련 요청이 새로운 미디어 검색 질의를 수행하려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부가 결정될 수 있다. 단어 또는 구절은 "보여줘", "찾아줘", "검색해줘", "갖는 다른 영화들" 등과 같은 미리결정된 단어일 수 있다. 또한, 일부 예들에서, 결정은 미디어 관련 요청(예를 들어, 미디어 관련 요청의 시작, 중간, 또는 종료)에서의 단어 또는 구절의 위치에 기초하여 이루어질 수 있다. 특정 예에서, 미디어 관련 요청은 "잭 라이언 영화 몇 편을 보여줘"일 수 있다. 이 미디어 관련 요청의 시작 시에 "보여줘"라는 단어에 기초하여, 일차 사용자 의도는 잭 라이언을 갖는 영화들에 대한 새로운 미디어 검색 질의를 수행하는 것이라고 결정될 수 있다.
사용자 의도를 나타내는 명시적 단어 또는 구절(예를 들어, "보여줘", "찾아줘", "검색해줘" 등)이 없는 경우, 블록(514)에서의 결정은 하나 이상의 미디어 항목의 파라미터 값에 대응하는 단어 또는 구절에 기초할 수 있다. 예를 들어, 도 6d에 도시된 바와 같이, 미디어 관련 요청은 "잭 라이언"일 수 있다. 이 예에서, 미디어 관련 요청은 사용자 의도가 일차 미디어 검색 질의를 좁히거나 새로운 검색을 수행할지 여부의 임의의 명시적 지시(explicit indication)를 포함하지 않는다. 그러나, 디지털 어시스턴트는 "잭 라이언"이 하나 이상의 미디어 항목의 파라미터 값에 대응함을 인식할 수 있다. 특히, "잭 라이언"이 여러 전자 서적 및 영화와 연관된 미디어 캐릭터라고 결정될 수 있다. 이러한 파라미터 값들에 기초하여, 일차 사용자 의도는 캐릭터 잭 라이언을 갖는 전자 서적 및 영화에 대한 새로운 미디어 검색 질의를 수행하는 것으로 결정될 수 있다. 하나 이상의 미디어 항목의 파라미터 값에 대응하는 단어 또는 구절의 다른 예들은 "톰 크루즈", "쥬라기 공원", "첩보 영화", "숀 코네리", "만화", "겨울왕국" 등을 포함할 수 있다.
일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함한다는 결정에 따라, 블록들(536 내지 548) 중 하나 이상이 수행될 수 있다. 프로세스(500)의 블록(536)에서, 일차 사용자 의도에 따른 미디어 항목들의 제3 일차 세트가 획득될 수 있다. 블록(536)은 블록(520)과 유사할 수 있다. 특히, 블록(536)은 미디어 관련 요청에 기초하여 제3 일차 미디어 검색 질의를 생성하는 것을 포함할 수 있다. 제3 일차 미디어 검색 질의는 새 미디어 검색 질의를 수행하려는 일차 사용자 의도에 대응할 수 있다. 특히, 제2 일차 미디어 검색 질의는 미디어 관련 요청에 정의된 하나 이상의 파라미터 값을 포함할 수 있다. 예를 들어, 도 6d를 참조하면, 생성된 제3 일차 미디어 검색 질의는 미디어 캐릭터 "잭 라이언"을 갖는 미디어 항목들을 검색하기 위한 질의일 수 있다.
블록(536)은 제3 일차 미디어 검색 질의를 수행하여 미디어 항목들의 제3 일차 세트(620)를 획득하는 것을 추가로 포함할 수 있다. 제3 일차 미디어 검색 질의는 제3 일차 미디어 검색 질의의 파라미터 값 요건들을 만족시키는 미디어 항목들에 대해 하나 이상의 미디어 데이터베이스를 검색함으로써 수행될 수 있다. 미디어 항목들의 제3 일차 세트(620)의 각 미디어 항목은 미디어 관련 요청에 정의된 하나 이상의 파라미터 값을 포함할 수 있다. 특히, 본 예에서, 미디어 항목들의 제3 일차 세트(620)의 각 미디어 항목은 미디어 캐릭터로서 "잭 라이언"을 포함할 수 있다.
일부 예들에서, 제3 일차 미디어 검색 질의는 미디어 관련 요청과 연관된 미디어 유형에 따라 수행될 수 있다. 전술한 바와 같이, 미디어 관련 요청과 연관된 미디어 유형은 일차 사용자 의도를 결정하는 동안 블록(510)에서 결정될 수 있다. 제3 일차 미디어 검색 질의를 수행하는 데 사용되는 애플리케이션 또는 데이터베이스는 결정된 미디어 유형에 특정될 수 있다. 일 예에서, 미디어 유형이 음악으로 결정되는 경우, 제3 일차 미디어 검색 질의는 음악 검색 애플리케이션 및/또는 음악 데이터베이스(예를 들어, 아이튠즈 스토어 애플리케이션)를 사용하여 그리고 예를 들어 영화 데이터베이스는 사용하지 않으면서 수행될 수 있다.
일부 예들에서, 미디어 관련 요청은 둘 이상의 미디어 유형과 연관될 수 있다. 예를 들어, 미디어 관련 요청 "겨울왕국"은 영화/텔레비전 쇼, 음악(예컨대, 사운드트랙), 및 전자 서적과 같은 여러 미디어 유형과 연관될 수 있다. 제3 일차 미디어 검색 질의를 수행할 때, 다양한 미디어 유형과 연관된 복수의 미디어 항목은 하나 이상의 미디어 데이터베이스로부터 획득될 수 있다. 각 미디어 항목은 적합성 점수와 연관될 수 있다. 적합성 점수는 제3 일차 미디어 검색 질의와 관련하여 개개의 미디어 항목이 얼마나 관련이 있는지를 나타낼 수 있다. 또한, 적합성 점수는 후보 미디어 항목이 획득된 미디어 데이터베이스에 특정될 수 있다. 일부 예들에서, 상이한 데이터베이스들로부터의 미디어 항목들이 동일한 표준에 기초하여 비교되게 하기 위해서, 복수의 후보 미디어 항목의 정규화된 순위가 수행될 수 있다. 특히, 적합성 점수는 하나 이상의 미디어 데이터베이스에 걸쳐 정규화될 수 있고 정규화된 적합성 점수는 후보 미디어 항목들의 정규화된 순위화를 수행하는 데 사용될 수 있다. 예를 들어, 범용 미디어 검색 애플리케이션 또는 데이터베이스(예를 들어, 애플 OS X 또는 iOS의 스포트라이트)가 제3 일차 미디어 검색 질의를 수행하는 데 사용될 수 있다. 범용 미디어 검색 애플리케이션 또는 데이터베이스는 디지털 어시스턴트 외부의 서비스일 수 있다. 범용 미디어 검색 애플리케이션 또는 데이터베이스를 사용하여, 관련 미디어 항목들은 다양한 소스 또는 데이터베이스(예컨대, 아이튠즈 스토어, 앱 스토어, 아이북스, 사용자의 디바이스에 저장된 미디어 항목 등)로부터 획득될 수 있으며, 관련 미디어 항목들은 정규화된 적합성 점수를 기초로 순위가 매겨질 수 있다. 이어서, 미디어 항목들은 사용자 선택을 위한 블록(540)에서 정규화된 순위에 따라 정렬되고 표시될 수 있다.
미디어 항목들의 제3 일차 세트를 획득하는 데 사용되는 하나 이상의 데이터베이스는 다양한 소스로부터 도출된 정보를 포함할 수 있다. 일부 예들에서, 하나 이상의 데이터베이스는 하나 이상의 미디어 평론가 리뷰로부터의 정보를 포함할 수 있다. 미디어 평론가 리뷰는 예를 들어 전문 미디어 평론가, 저널리스트, 블로거, 소셜 미디어 서비스의 사용자 등에 의해 작성될 수 있다. 예시적인 예에서, 하나 이상의 미디어 평론가 리뷰는 "블리트", "본 아이덴티티", 또는 "분노의 질주: 언리미티드"와 같은 영화들을 설명하기 위한 "자동차 추격전"과 같은 구절을 포함할 수 있다. "자동차 추격전"이라는 구절은 하나 이상의 미디어 평론가 리뷰에서 파라미터 값으로서 추출될 수 있으며, 이 파라미터 값은 미디어 데이터베이스에서 이러한 영화들 중 하나 이상과 연관될 수 있다. 따라서, 미디어 관련 요청 "좋은 자동차 추격전을 갖는 영화들을 보여줘"에 대하여, 생성된 대응하는 제3 일차 미디어 검색 질의는 파라미터 값 "자동차 추격전"을 갖는 영화들에 대한 검색어일 수 있다. 하나 이상의 데이터베이스를 검색 시에, 따라서, "블리트", "본 아이덴티티", 또는 "분노의 질주: 언리미티드"와 같은 후보 미디어 항목들이 획득될 수 있다.
다른 예들에서, 하나 이상의 데이터베이스는 다양한 영화, 비디오, 또는 텔레비전 쇼의 폐쇄 자막(closed captioning)으로부터 도출된 정보를 포함할 수 있다. 특히, 폐쇄 자막에 기초하여 하나 이상의 파라미터 값이 추출될 수 있다. 예를 들어, "블리트", "본 아이덴티티", 또는 "분노의 질주: 언리미티드"와 같은 영화들의 폐쇄 자막은 자동차 추격전과 연관된 소리를 나타내기 위해 캡션 "[타이어 끼익거리는 소리]"의 여러 사례를 포함할 수 있다. 이 캡션에 기초하여, 이들 영화 중 하나 이상이 미디어 데이터베이스의 파라미터 값 "자동차 추격전"과 연관될 수 있다. 따라서, 이 파라미터 값과 연관된 후보 미디어 항목(예를 들어, "블리트", "본 아이덴티티", "분노의 질주: 언리미티드" 등)은 제3 일차 미디어 검색 질의를 수행할 때 식별될 수 있다.
일부 예들에서, 미디어 관련 요청은 사용자 인터페이스(602)가 그 위에 포커스되는 미디어 항목에 기초한 미디어 검색 요청일 수 있다. 예를 들어, 사용자 인터페이스(602)의 커서(609)는 미디어 관련 요청이 블록(506)에서 수신되는 동안 미디어 항목(611) 상에 위치설정될 수 있다. 미디어 관련 요청이 미디어 항목(611)과 유사한 미디어 항목들의 대안적인 세트를 획득하라는 요청인지 여부에 대한 결정이 이루어질 수 있다. 일 예에서, 미디어 관련 요청은 "이것을 더 좋아해"일 수 있다. 이 예에서, "이것"이 미디어 항목(611)을 지칭함을 커서(609)의 위치의 맥락에 기초하여 결정될 수 있다. 따라서, 미디어 관련 요청이 미디어 항목(611)과 유사한 미디어 항목들의 대안적인 세트를 획득하라는 요청인 것으로 결정될 수 있다. 미디어 관련 요청이 미디어 항목(611)과 유사한 미디어 항목들의 대안적인 세트를 획득하라는 요청이라고 결정하는 것에 응답하여, 블록(536)에서 미디어 항목들의 제3 일차 세트가 획득될 수 있으며, 여기서 미디어 항목들의 제3 일차 세트 중 각 미디어 항목은 미디어 항목(611)의 하나 이상의 파라미터 값을 포함한다. 예를 들어, 일 예에서, 미디어 항목(611)은 외국 액션 영화 "와호장룡"일 수 있다. 이 예에서, 획득된 미디어 항목들의 제3 일차 세트는 이 영화의 하나 이상의 파라미터 값을 공유하는 미디어 항목들을 포함할 수 있다. 특히, 획득된 미디어 항목들의 제3 일차 세트는 예를 들어 리안이 감독하거나, 무술 장면을 포함하거나, 주윤발, 양자경, 또는 장쯔이가 주연한 영화들을 포함할 수 있다.
블록(536)의 특정 양태들은 블록들(520, 524, 546, 562, 또는 566)에 유사하게 적용될 수 있음을 인식해야 한다.
프로세스(500)의 블록(538)에서, 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 있는지 여부에 대한 결정이 이루어질 수 있다. 블록(536)에서 제3 일차 미디어 검색 질의를 수행 시에, 검색 질의로부터 획득된(또는 획득가능한) 미디어 항목들의 수가 결정될 수 있다. 획득된 미디어 항목들의 수가 하나 이상인 경우, 이어서 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 있다고 결정될 수 있다. 예를 들어, 미디어 관련 요청 "잭 라이언"에 대한 제3 일차 미디어 검색 질의는 적어도 영화들 "패트리어트 게임" 및 "긴급 명령"을 반환할 수 있다. 따라서, 이 예에서, 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 있다는 것이 결정될 수 있다. 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 있다는 결정에 따라, 블록(540)이 수행될 수 있다. 이하의 설명에서 명백해지는 바와 같이, 블록(538)에서의 결정은 적어도 하나의 미디어 항목이 블록(536)에서 수행된 제3 일차 미디어 검색 질의에 대해 획득됨을 보장하는 것이 바람직할 수 있다. 이는 미디어 항목들이 미디어 검색 요청에 대해 표시되지 않는 상황을 방지할 수 있으며, 사용자가 다른 미디어 검색 요청을 제공해야 하는 번거로움을 줄여 사용자 경험을 향상시킬 수 있다.
프로세스(500)의 블록(540)에서, 미디어 항목들의 제3 일차 세트(620)는 사용자 인터페이스(602)를 통해 디스플레이 유닛 상에 표시될 수 있다. 특히, 도 6e에 도시된 바와 같이, 디스플레이 유닛 상의 미디어 항목들의 일차 세트(604)의 표시는 미디어 항목들의 제3 일차 세트(620)의 표시로 대체될 수 있다. 블록(540)은 블록(522)과 유사할 수 있다. 미디어 항목들의 제3 일차 세트(620)는 각 미디어 항목과 연관된 적합성 점수에 따라 표시될 수 있다. 예를 들어, 도 6e를 참조하면, 미디어 항목들의 제3 일차 세트(612)는 사용자 인터페이스(602) 상에서 좌측에서 우측으로의 적합성 점수의 감소 순서로 배열될 수 있다.
블록(538)을 다시 참조하면, 일부 예들에서, 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 없다고 결정될 수 있다. 예를 들어, 미디어 관련 요청 또는 STT 처리로부터의 대응하는 텍스트 표현은 부정확한 파라미터 값들 또는 사용자가 실제로 의도한 것과 상이한 파라미터 값들을 정의할 수 있다. 이러한 일 예에서, 도 6f에 도시된 바와 같이, 미디어 관련 요청은 "성룡과 크리스 루커"일 수 있다. 이 예에서, 이 미디어 관련 요청에 대응하는 제3 일차 미디어 검색 질의를 수행하는 것으로부터 미디어 항목들이 획득될 수 없으므로, 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 없다고 결정될 수 있다. 다른 예들에서, 미디어 관련 요청은 "성룡" 및 "스파이더맨" 또는 "노골적인 폭력" 및 "어린이에게 적합"과 같은 비양립성 파라미터들을 정의할 수 있다. 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 없다는 결정에 따라, 블록들(542 내지 548)은 사용자의 실제 의도를 만족시킬 가능성이 있는 대안적인 결과를 사용자에게 제시하기 위해 수행될 수 있다.
프로세스(500)의 블록(542)에서, 제3 일차 미디어 검색 질의의 최소 관련 파라미터 값(least pertinent parameter value)이 식별될 수 있다. 특히, 제3 일차 미디어 검색 질의에서 각각의 파라미터 값에 대한 중요성 점수는 파라미터 값을 갖는 미디어 항목들의 인기도, 이전 미디어 검색 요청에서의 파라미터 값의 발생 빈도, 또는 미디어 항목들의 모집단에서 파라미터 값의 발생 빈도와 같은 인자에 기초하여 결정될 수 있다. 최소 관련 파라미터 값은 가장 낮은 중요성 점수를 갖는 파라미터 값으로 식별될 수 있다. 예를 들어, 파라미터 값들 "성룡"과 "크리스 루커" 사이에서, 성룡은 인기있는 배우인 반면 크리스 루커는 축구 선수이므로 파라미터 값 "크리스 루커"는 더 낮은 중요성 점수를 가질 수 있다. 따라서, 성룡은 크리스 루커보다 더 많은 수의 미디어 항목들 및 이전 미디어 검색 질의들과 연관된다. 따라서, 이 예에서, 파라미터 값 "크리스 루커"는 최소 관련 파라미터 값으로 결정될 수 있다.
프로세스(500)의 블록(544)에서, 하나 이상의 대안적인 파라미터 값이 결정될 수 있다. 하나 이상의 대안적인 파라미터 값은 식별된 최소 관련 파라미터 값에 기초하여 결정될 수 있다. 예를 들어, 퍼지 문자열 매칭은 식별된 최소 관련 파라미터 값과 데이터 구조 내의 복수의 미디어 관련 파라미터 값 사이에서 수행될 수 있다. 특히, 미리결정된 임계치 내에서 최단 편집 거리를 갖는 데이터 구조 내의 파라미터 값은 대안적인 파라미터 값으로 결정될 수 있다. 예를 들어, 파라미터 값 "크리스 루커"의 퍼지 문자열 매칭에 기초하여, 파라미터 값 "크리스 터커"는 데이터 구조 내의 복수의 미디어 관련 파라미터 값 중에서 최단 편집 거리를 갖도록 결정될 수 있다. 따라서, 이 예에서, "크리스 터커"는 대안적인 파라미터 값으로 결정될 수 있다.
부가적으로, 또는 대안적으로, 하나 이상의 대안적인 파라미터 값은 제3 일차 미디어 검색 질의(예를 들어, 최소 관련 파라미터 값 이외의 파라미터 값) 내의 다른 파라미터 값에 기초하여 결정될 수 있다. 특히, 제3 일차 미디어 검색 질의 내의 다른 파라미터 값들과 밀접하게 관련된 파라미터 값들이 결정될 수 있다. 예를 들어, "액션 영화" 및 "무술"과 같은 파라미터 값들은 "액션 영화" 및 "무술"의 파라미터 값들을 또한 갖는 "성룡"이 주연한 다수의 미디어 항목의 존재에 기초하여 파라미터 값 "성룡"과 밀접한 관련이 있다고 결정될 수 있다.
프로세스(500)의 블록(546)에서, 일차 사용자 의도를 만족시키기 위해 미디어 항목들의 제4 일차 세트가 획득될 수 있다. 블록(546)은 블록(520)과 유사할 수 있다. 특히, 하나 이상의 대안적인 일차 미디어 검색 질의가 생성될 수 있다. 하나 이상의 대안적인 일차 검색 질의는 블록(544)에서 결정된 하나 이상의 대안적인 파라미터 값을 이용하여 생성될 수 있다. 예를 들어, 미디어 관련 요청이 "성룡과 크리스 루커"이고 대안적인 파라미터 값은 "크리스 터커"로 결정되는 도 6f 및 도 6g에서, 대안적인 일차 검색 질의는 파라미터 값들 "성룡" 및 "크리스 터커"를 갖는 미디어 항목들에 대한 검색어일 수 있다. 따라서, 이 예에서, 최소 관련 파라미터 값은 사용자의 실제 의도를 반영할 가능성이 더 많은 대안적인 파라미터 값으로 대체될 수 있다. 이어서, 하나 이상의 대안적인 일차 미디어 검색 질의는 미디어 항목들의 제4 일차 세트(628)를 획득하기 위해 수행될 수 있다. 파라미터 값들 "성룡" 및 "크리스 터커"를 갖는 미디어 항목들을 검색하는 본 예에서, 미디어 항목들의 제4 일차 세트(628)는 "러쉬 아워", "러쉬 아워 2", 또는 "러시 아워 3"과 같은 영화들을 포함할 수 있다.
프로세스(500)의 블록(548)에서, 미디어 항목들의 제4 일차 세트(628)는 사용자 인터페이스(602)를 통해 디스플레이 유닛 상에 표시될 수 있다. 블록(548)은 블록(522)과 유사할 수 있다. 특히, 도 6g에 도시된 바와 같이, 디스플레이 유닛 상의 미디어 항목들의 일차 세트(604)의 표시는 미디어 항목들의 제4 일차 세트(628)의 표시로 대체될 수 있다.
프로세스(500)의 블록(550)에서, 하나 이상의 이전 사용자 의도가 존재하는지 여부에 대한 결정이 이루어질 수 있다. 하나 이상의 이전 사용자 의도는 블록(506)의 미디어 관련 요청 이전에 수신된 하나 이상의 이전 미디어 관련 요청에 대응할 수 있다. 이전 미디어 관련 요청의 예는 블록(502)의 일차 미디어 검색 질의 및 미디어 항목들의 일차 세트(604)에 대응하는 이전에 수신된 미디어 관련 요청을 포함할 수 있다. 결정은 미디어 디바이스(예컨대, 미디어 디바이스(104)) 또는 서버(예컨대, DA 서버(106))에 저장된 이전 사용자 의도들의 이력를 분석하는 것에 기초하여 이루어질 수 있다. 일부 예들에서, 하나 이상의 이전 사용자 의도가 존재하는지 여부를 결정할 때 관련 시간 프레임 내의 이전 사용자 의도만이 고려된다. 관련 시간 프레임은 블록(506)의 미디어 관련 요청이 수신되기 이전의 미리결정된 시간 프레임을 지칭할 수 있다. 다른 예들에서, 관련 시간 프레임은 디지털 어시스턴트와의 대화형 세션에 기초할 수 있다. 특히, 블록(506)의 미디어 관련 요청은 미디어 관련 요청들의 시퀀스를 포함하는 디지털 어시스턴트와의 대화형 세션의 일부일 수 있다. 이들 예에서, 관련 시간 프레임은 대화형 세션이 개시된 시간부터 대화형 세션이 종료된 시간까지일 수 있다. 대화형 세션이 블록(506)의 미디어 관련 요청 이전에 수신된 하나 이상의 이전 미디어 관련 요청을 포함하는지 여부에 대한 결정이 이루어질 수 있다. 대화형 세션이 하나 이상의 이전 미디어 관련 요청을 포함하면, 하나 이상의 이전 사용자 의도가 존재함이 결정될 수 있다. 따라서, 하나 이상의 이전 사용자 의도 및 일차 사용자 의도는 디지털 어시스턴트와의 동일한 대화형 세션과 연관될 수 있다. 반대로, 대화형 세션이 하나 이상의 이전 미디어 관련 요청을 포함하지 않는 경우, 하나 이상의 이전 사용자 의도가 존재하지 않음이 결정될 수 있다. 하나 이상의 이전 사용자 의도가 존재한다는 결정에 응답하여, 블록(552)이 수행될 수 있다. 대안적으로, 하나 이상의 이전 사용자 의도가 존재하지 않는다고 결정하는 것에 응답하여, 블록(560)이 수행될 수 있다.
프로세스(500)의 블록(552)에서, 하나 이상의 이차 사용자 의도가 결정될 수 있다. 하나 이상의 이차 사용자 의도는 블록(510)의 일차 사용자 의도 및 블록(550)에서 존재한다고 결정된 하나 이상의 이전 사용자 의도에 기초하여 결정될 수 있다. 구체적으로, 하나 이상의 이차 사용자 의도는 일차 사용자 의도와 하나 이상의 이전 사용자 의도의 조합을 포함할 수 있다. 일부 예들에서, 하나 이상의 이전 사용자 의도는 미디어 디바이스 상의 사용자의 미디어 관련 요청 이력에 기초하여 결정될 수 있다.
도 6d 및 도 6e의 예로 돌아가면, 일차 사용자 의도는 캐릭터 "잭 라이언"을 갖는 미디어 항목들을 검색하려는 의도일 수 있다. 일 예에서, 제1 이전 사용자 의도는 지난 10년 동안의 액션 영화들을 검색하려는 의도일 수 있다. 또한, 제2 이전 사용자 의도는 벤 애플렉이 주연한 미디어 항목들을 검색하려는 의도일 수 있다. 따라서, 이차 사용자 의도는 이들 사용자 의도 중 둘 이상의 조합일 수 있다. 특히, 하나의 이차 사용자 의도는 일차 사용자 의도와 제1 이전 사용자 의도(예컨대, 지난 10년 동안의 잭 라이언을 갖는 액션 영화들을 검색하려는 사용자 의도)의 조합일 수 있다. 또 다른 이차 사용자 의도는 제1 이전 사용자 의도와 제2 이전 사용자 의도(예컨대, 지난 10년 동안의 벤 애플렉가 주연한 액션 영화들을 검색하려는 사용자 의도)의 조합일 수 있다. 블록(552)은 미디어 디바이스의 자연 언어 처리 모듈(자연 언어 처리 모듈(432))을 사용하여 수행될 수 있다. 도 5d에 도시된 바와 같이, 블록(552)은 블록들(554 내지 560)을 포함할 수 있다.
프로세스(500)의 블록(554)에서, 하나 이상의 이전 사용자 의도 중에서 부정확한 사용자 의도가 식별될 수 있다. 특히, 하나 이상의 이전 사용자 의도가 분석되어 부정확한 사용자 의도가 포함되는지 여부를 결정할 수 있다. 이전 사용자 의도가 명시적 또는 암시적으로 후속 이전 사용자 의도에 의해 부정확하다고 표시되는 경우 이전 사용자 의도가 부정확한 것으로 결정될 수 있다. 예를 들어, 하나 이상의 이전 사용자 의도는 다음의 이전 미디어 관련 요청들의 시퀀스에 대응하는 사용자 의도들을 포함할 수 있다:
[A] "제임스 본드 영화 몇 편을 보여줘"
[B] "단지 다니엘 스미스를 갖는 것들"
[C] "아니, 나는 다니엘 크레이그를 의미했어"
이 예에서, "아니, 나는…"이라는 명시적 구절에 기초하여, 요청 [C]와 연결된 이전 사용자 의도는 요청 [B]와 연관된 이전 사용자 의도를 정정하려는 의도인 것으로 결정될 수 있다. 따라서, 이 예에서, 요청 [C]에 선행하는 요청 [B]와 연관된 이전 사용자 의도가 부정확한 것으로 결정될 수 있다. 다른 예들에서, 요청 [C]는 요청 [B]가 부정확함을 암시적으로 나타낼 수 있음을 이해해야 한다. 예를 들어, 요청 [C]는 대안적으로 단순히 "다니엘 크레이그"일 수 있다. "다니엘 스미스"에 대한 문자열 "다니엘 크레이그"의 유사성 및 "다니엘 스미스"가 아니라 파라미터 값 "다니엘 크레이그"와 연관된 향상된 적합성에 기초하여, 요청 [C]와 연관된 이전 사용자 의도가 요청 [B]와 연관된 이전 사용자 의도를 정정하려는 의도인 것으로 결정될 수 있다.
다른 예들에서, 이전 사용자 의도는 이전 사용자 의도와 모순된 미디어 항목의 사용자 선택에 기초하여 부정확한 것으로 결정될 수 있다. 예를 들어, 이전 요청은 다음과 같다: "러셀 시몬스가 제작한 비디오들을 보여줘" 이 이전 요청에 응답하여, 러셀 시몬스가 제작한 비디오들을 포함하는 미디어 항목들의 일차 세트는 사용자 선택을 위해 표시되었을 수 있다. 또한, 이전 요청과 관련된 미디어 항목들의 추가 세트는 미디어 항목들의 일차 세트로 표시되었을 수 있다. 이 예에서, 사용자는 "러셀 시몬스"가 아닌 "리처드 시몬스"가 제작한 미디어 항목들의 추가 세트에서 미디어 항목을 선택했다고 결정될 수 있다. 러셀 시몬스가 제작한 비디오들을 검색하려는 이전 사용자 의도와 모순되는 미디어 항목의 이러한 사용자 선택에 기초하여, 이전 사용자 의도가 부정확하다고 결정될 수 있다. 다시 말하면, 정확한 사용자 의도는 "러셀 시몬스"가 아닌 "리처드 시몬스"가 제작한 비디오들을 검색해야 한다는 것으로 결정될 수 있다.
하나 이상의 이전 사용자 의도가 부정확한 이전 사용자 의도를 포함한다는 결정에 따라, 부정확한 이전 사용자 의도는 하나 이상의 이차 사용자 의도를 결정하는 데 사용될 수 없다. 특히, 부정확한 이전 사용자 의도는 배제될 수 있음으로써, 하나 이상의 이차 사용자 의도를 결정하기 위해 블록(556)에서 사용자 의도들의 조합을 생성하는 데 사용될 수 없다. 그러나, 일부 예들에서, 정정된 사용자 의도는 사용자 의도들의 조합을 생성하고 하나 이상의 이차 사용자 의도를 결정하는 데 사용될 수 있다. 예를 들어, 위에서 설명한 개개의 예들에서, "다니엘 크레이그"와 연관된 정정된 이전 사용자 의도(예를 들어, 다니엘 크레이그를 갖는 제임스 본드 영화들을 검색) 및 "리처드 시몬스"와 연관된 정정된 이전 사용자 의도(예를 들어, 리처드 시몬스가 제작한 비디오들을 검색)는 하나 이상의 이차 사용자 의도를 결정하는 데 사용될 수 있다.
프로세스(500)의 블록(556)에서, 복수의 사용자 의도 조합이 일차 사용자 의도 및 하나 이상의 이전 사용자 의도에 기초하여 생성될 수 있다. 예시적인 예에서, 미디어 디바이스는 다음의 미디어 관련 요청들의 시퀀스를 수신했을 수 있으며, 여기서 일차 사용자 의도는 요청 [G]와 연관되고 하나 이상의 이전 사용자 의도는 요청들 [D] 내지 [F]와 연관된다.
[D] "키아누 리브스가 주연한 영화"
[E] "노골적인 폭력을 포함하는 쇼"
[F] "어린 아이들에게 적합한 영화"
[G] "만화"
이 예에서, 복수의 사용자 의도 조합은 일차 사용자 의도 및 요청들 [D] 내지 [G]와 연관된 하나 이상의 이전 사용자 의도의 임의의 조합을 포함할 수 있다. 하나의 예시적인 사용자 의도 조합은 노골적인 폭력(예를 들어, 요청들 [D] 및 [E]에 기초한 조합)을 갖는 키아누 리브스가 주연한 영화들을 위한 검색어일 수 있다. 또 다른 예시적인 사용자 의도 조합은 어린 아이들(예를 들어, 요청 [F] 및 [G]에 기초한 조합)에 적합한 만화 영화들에 대한 검색어일 수 있다.
프로세스(500)의 블록(558)에서, 비양립성 사용자 의도 조합이 배제될 수 있다. 특히, 비양립성 사용자 의도 조합은 식별될 수 있고, 하나 이상의 이차 사용자 의도는 식별된 비양립성 사용자 의도 조합에 기초하여 결정되지 않을 수 있다. 일부 예들에서, 비양립성 사용자 의도 조합은 임의의 미디어 항목에 대응하지 않는 사용자 의도 조합일 수 있다. 특히, 각각의 사용자 의도 조합에 대해, 대응하는 미디어 검색이 수행될 수 있다. 특정 미디어 검색에 대해 미디어 항목이 획득되지 않는 경우, 대응하는 사용자 의도 조합은 비양립성 사용자 의도 조합인 것으로 결정될 수 있다. 예를 들어, 사용자 의도 조합은 위에 설명된 요청들 [E] 및 [F]에 기초할 수 있다. 이 예에서, 노골적인 폭력을 포함하는 어린이에게 적합한 영화에 대한 대응하는 미디어 검색이 수행될 수 있다. 그러나, 이러한 미디어 검색은 임의의 미디어 항목을 산출하지 않을 수 있다. 따라서, 이 예에서, 요청들 [E] 및 [F]에 기초한 사용자 의도 조합은 비양립성 사용자 의도 조합인 것으로 결정될 수 있다. 다른 예들에서, 상이한 미리결정된 임계 값들이 비양립성 사용자 의도 조합들을 결정하기 위해 확립될 수 있음을 이해해야 한다. 예를 들어, 미리결정된 수보다 많은 미디어 항목들에 대응하지 않는 사용자 의도 조합은 비양립성인 것으로 결정될 수 있다.
다른 예들에서, 비양립성 사용자 의도 조합은 사용자 의도 조합과 연관된 파라미터 값들에 기초하여 결정될 수 있다. 특히, 특정 파라미터 값들은 비양립성인 것으로 미리결정될 수 있다. 예를 들어, "노골적인 폭력"의 파라미터 값은 파라미터 값 "어린 아이들에게 적합한"과 비양립성이 되도록 미리결정될 수 있다. 따라서, 비양립성으로 미리결정된 둘 이상의 파라미터 값을 포함하는 사용자 의도 조합은 비양립성 사용자 의도 조합으로 결정될 수 있다. 또한, 특정 파라미터들이 단일 값을 필요로 하는 것이 미리결정될 수 있다. 예를 들어, "미디어 제목", "미디어 유형", 및 "미국 영화 협회 영화 등급"의 파라미터들은 사용자 의도 조합에서 하나 이하의 파라미터 값과 각각 연관될 수 있다. 특히, 영화들을 검색하려는 제1 사용자 의도와 노래들을 검색하려는 제2 사용자 의도의 조합은 비양립성 조합일 것이다. 따라서, 사용자 의도 조합은 단일 값을 요구하기 위해 미리결정된 파라미터에 대해 둘 이상의 파라미터 값을 포함하는 경우 비양립성인 것으로 결정될 수 있다. 비양립성 사용자 의도 조합은 블록(552)에서 하나 이상의 이차 사용자 의도를 결정하는 데 조합들이 사용되지 않도록 배제될 수 있다. 특히, 하나 이상의 이차 사용자 의도는 임의의 비양립성 사용자 의도 조합들을 포함하지 않을 수 있다. 고려 사항에서 비양립성 사용자 의도 조합을 제거하는 것은 사용자 선택을 위해 표시된 미디어 항목들의 적합성을 높이는 것이 바람직할 수 있다.
하나 이상의 이차 사용자 의도는 비양립성인 것으로 결정되지 않은 나머지 사용자 의도 조합에 기초하여 결정될 수 있다. 특히, 각각의 나머지 사용자 의도 조합의 사용자 의도들은 하나 이상의 이차 사용자 의도를 생성하기 위해 병합될 수 있다. 또한, 나머지 사용자 의도 조합들 각각은 적어도 하나의 미디어 항목(또는 적어도 미리결정된 수의 미디어 항목들)과 연관될 수 있다. 일부 예들에서, 하나 이상의 이차 의도는 하나 이상의 나머지 사용자 의도 조합을 포함할 수 있다.
위에서 설명한 요청들 [D] 내지 [G]를 갖는 예로 다시 돌아가서, 하나 이상의 이차 사용자 의도 중 하나의 이차 사용자 의도는 일차 사용자 의도(예를 들어, 요청 [G]와 연관된 일차 사용자 의도)와 하나 이상의 이전 사용자 의도 중 하나의 이전 사용자 의도(예를 들어, 요청 [F]와 연관된 이전 사용자 의도)의 조합을 포함할 수 있다. 예를 들어, 이차 사용자 의도는 어린 아이들에게 적합한 만화 영화들을 위한 미디어 검색일 수 있다. 부가적으로, 하나 이상의 이차 사용자 의도 중 하나의 이차 사용자 의도는 하나 이상의 이전 사용자 의도 중 둘 이상의 이전 사용자 의도(예를 들어, 요청들 [D] 및 [E]과 연관된 이전 사용자 의도)의 조합을 포함할 수 있다. 예를 들어, 이차 사용자 의도는 키아누 리브스가 주연한 노골적인 폭력을 갖는 영화들에 대한 미디어 검색일 수 있다.
프로세스(500)의 블록(560)에서, 하나 이상의 이차 사용자 의도가 다른 관련 파라미터 값에 기초하여 생성될 수 있다. 블록(560)에서 결정된 하나 이상의 이차 사용자 의도는 블록(552)에서 결정된 하나 이상의 이차 의도에 부가적이거나 대안적일 수 있다. 다른 관련 파라미터 값들은 미디어 디바이스 상의 사용자의 미디어 검색 이력 이외의 정보에 기초할 수 있다. 특히, 다른 관련 파라미터 값들을 결정하는 데 사용되는 정보는 사용자의 미디어 관심 및 습관을 반영할 수 있고, 따라서 사용자의 실제 의도를 합리적으로 예측할 수 있다.
일부 예들에서, 다른 관련 파라미터 값들은 미디어 디바이스 상의 사용자의 미디어 선택 이력에 기초할 수 있다. 특히, 다른 관련 파라미터 값들은 소비를 위해 사용자에 의해 이전에 선택된 미디어 항목들(예를 들어, 블록(506)에서 미디어 관련 요청을 수신하기 이전에 선택됨)과 연관된 파라미터 값들을 포함할 수 있다. 일부 예들에서, 다른 관련 파라미터 값들은 미디어 디바이스 상의 사용자의 미디어 시청 목록에 기초할 수 있다. 미디어 시청 목록은 사용자가 가까운 미래에 관심을 갖거나 소비하기를 원하는 미디어 항목들의 사용자 정의 목록일 수 있다. 따라서, 사용자 선택 이력 또는 사용자 미디어 시청 목록과 연관된 파라미터 값들은 사용자의 미디어 관심 또는 습관을 반영할 수 있다. 일부 예들에서, 다른 관련 파라미터들은 미디어 디바이스 외부의 디바이스 상의 사용자의 미디어 검색 이력에 기초할 수 있다. 특히, 외부 미디어 디바이스(예를 들어, 사용자 디바이스(122)) 상에서 수행된 미디어 관련 검색의 이력은 외부 미디어 디바이스로부터 획득될 수 있다. 이러한 미디어 관련 검색은 웹 검색, 아이튠스 스토어 검색, 디바이스 상의 로컬 미디어 파일 검색 등일 수 있다. 따라서, 다른 관련 파라미터 값들은 외부 미디어 디바이스의 미디어 관련 검색 이력으로부터 도출된 파라미터 값들을 포함할 수 있다.
일부 예들에서, 다른 관련 파라미터 값들은 사용자 인터페이스가 그 위에 포커스되는 미디어 항목에 기초할 수 있다. 예를 들어, 도 6a를 참조하면, 커서(609)는 미디어 관련 요청이 블록(506)에서 수신되는 동안 미디어 항목(611) 상에 있을 수 있다. 따라서, 사용자 인터페이스(602)의 포커스는 미디어 관련 요청이 블록(506)에서 수신되는 동안, 미디어 항목(611) 상에 있다고 결정될 수 있다. 이 예에서, 다른 관련 파라미터 값들은 미디어 항목(611)과 상황적으로 관련될 수 있다. 구체적으로, 다른 관련 파라미터 값들은 미디어 항목(611)의 하나 이상의 파라미터 값을 포함할 수 있다. 일부 예들에서, 다른 관련 파라미터 값들은 미디어 관련 요청이 블록(506)에서 수신되는 동안 디스플레이 유닛 상에 표시된 미디어 항목들과 연관된 텍스트에 기초할 수 있다. 예를 들어, 도 6a에서, 미디어 항목들의 일차 세트(604) 및 미디어 항목들의 이차 세트(606)와 연관된 복수의 텍스트는 미디어 관련 요청이 블록(506)에서 수신되는 동안 디스플레이 유닛 상에 표시될 수 있다. 복수의 텍스트는 관련 미디어 항목의 파라미터 값들을 기술할 수 있다. 따라서, 다른 관련 파라미터 값들은 복수의 텍스트에 의해 기술된 하나 이상의 파라미터 값을 포함할 수 있다.
미디어 디바이스의 내부 또는 외부의 다른 정보는 다른 관련 파라미터 값들을 결정하는 데 사용될 수 있음을 인식해야 한다. 예를 들어, 일부 예들에서, 다른 관련 파라미터 값들은 블록(528)에서 식별된 추가 파라미터 값들과 유사한 방식으로 결정될 수 있다.
순위 점수는 블록들(552, 560)의 하나 이상의 이차 사용자 의도 각각에 대해 결정될 수 있다. 순위 점수는 이차 사용자 의도가 사용자의 실제 사용자 의도에 대응할 가능성을 표현할 수 있다. 일부 예들에서, 보다 높은 순위 점수는 개개의 이차 사용자 의도가 실제 사용자 의도에 대응할 가능성을 더 크게 표현할 수 있다. 후술하는 바와 같이, 순위 점수는 하나 이상의 이차 사용자 의도를 도출하는 데 사용되는 유사한 정보에 기초하여 결정될 수 있다.
일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 사용자 또는 복수의 사용자의 미디어 관련 요청 이력(예컨대, 미디어 검색 이력)에 기초하여 결정될 수 있다. 특히, 순위 점수는 미디어 관련 요청들 및 하나 이상의 이전 미디어 관련 요청 각각이 수신된 시간 및 순서에 기초하여 결정될 수 있다. 더 최근에 수신된 미디어 검색 요청에 기초한 이차 사용자 의도들은 더 일찍 수신된 미디어 관련 요청에 기초한 이차 사용자 의도들보다 높은 순위 점수를 가질 가능성이 많을 수 있다. 예를 들어, 요청들 [D] 내지 [G]의 상술한 예에서, 요청 [G]는 가장 최근에 수신된 미디어 관련 요청일 수 있는 반면 요청 [D]는 가장 빨리 수신된 미디어 관련 요청일 수 있다. 이 예에서, 요청 [G]에 기초한 이차 사용자 의도는 요청 [D]에 기초한 이차 사용자 의도보다 높은 순위 점수를 가질 가능성이 많을 수 있다.
또한, 순위 점수는 사용자 또는 복수의 사용자의 미디어 관련 요청 이력 내의 파라미터 값들의 발생 빈도에 기초할 수 있다. 예를 들어, 사용자의 미디어 관련 요청 이력 또는 복수의 사용자의 미디어 관련 요청 이력에서 파라미터 값 "키아누 리브스"가 파라미터 값 "노골적인 폭력"보다 더 자주 발생하는 경우, 파라미터 값 "키아누 리브스"를 포함하는 이차 사용자 의도들은 파라미터 값 "노골적인 폭력"을 포함하는 이차 사용자 의도들보다 높은 순위 점수를 가질 가능성이 많을 수 있다.
일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 사용자 또는 복수의 사용자의 선택 이력에 기초하여 결정될 수 있다. 사용자 선택 이력은 소비를 위해 사용자 또는 복수의 사용자에 의해 이전에 선택된 미디어 항목들의 목록을 포함할 수 있다. 하나 이상의 이전에 선택된 미디어 항목의 파라미터 값들을 포함하는 이차 사용자 의도들은 임의의 이전에 선택된 미디어 항목의 파라미터 값들을 포함하지 않는 이차 사용자 의도보다 높은 순위 점수를 가질 가능성이 많을 수 있다. 또한, 보다 최근에 선택된 미디어 항목의 파라미터 값들을 포함하는 이차 사용자 의도들은 더 일찍 선택된 미디어 항목의 파라미터 값들을 포함하는 이차 사용자 의도들보다 높은 순위 점수를 가질 가능성이 많을 수 있다. 또한, 이전에 선택된 미디어 항목들 중에서 더 자주 발생하는 파라미터 값들을 갖는 이차 사용자 의도들은 이전에 선택된 미디어 항목들 중에서 덜 빈번하게 발생하는 파라미터 값들을 갖는 이차 사용자 의도들보다 높은 순위 점수를 가질 가능성이 많을 수 있다.
일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 사용자 또는 복수의 사용자의 미디어 시청 목록에 기초하여 결정될 수 있다. 예를 들어, 미디어 시청 목록 상의 하나 이상의 미디어 항목의 파라미터 값들을 포함하는 이차 사용자 의도들은 미디어 시청 목록 상의 어떠한 미디어 항목들의 파라미터 값들도 포함하지 않는 이차 사용자 의도보다 높은 순위 점수를 가질 가능성이 많을 수 있다.
프로세스(500)의 블록(562)에서, 미디어 항목들의 하나 이상의 이차 세트가 획득될 수 있다. 블록(562)은 블록(520)과 유사할 수 있다. 특히, 블록들(552 및/또는 560)의 하나 이상의 이차 사용자 의도에 대응하는 하나 이상의 이차 미디어 검색 질의가 생성될 수 있다. 하나 이상의 이차 미디어 검색 질의는 미디어 항목들의 하나 이상의 이차 세트를 획득하기 위해 수행될 수 있다. 예를 들어, 도 6e를 다시 참조하면, 지난 10년 동안의 잭 라이언을 갖는 액션 영화들에 대한 제1 이차 미디어 검색 질의가 생성되어 미디어 항목들의 이차 세트(624)를 획득하도록 수행될 수 있다. 부가적으로, 지난 10년 동안의 벤 애플렉이 주연한 액션 영화들에 대한 제2 이차 미디어 검색 질의가 생성되어 미디어 항목들의 이차 세트(626)를 획득하도록 수행될 수 있다.
프로세스(500)의 블록(564)에서, 미디어 항목들의 하나 이상의 이차 세트가 디스플레이 유닛 상에 표시될 수 있다. 블록(564)은 블록(534)과 유사할 수 있다. 도 6e에 도시된 바와 같이, 미디어 항목들의 제3 일차 세트(620)는 사용자 인터페이스(602)의 상단 행에서 표시될 수 있다. 미디어 항목들의 이차 세트들(624, 626)은 상단 행 아래의 사용자 인터페이스(602)의 후속 행들에 표시될 수 있다. 후속 행들의 각 행은 블록(552 및/또는 560)의 하나 이상의 이차 사용자 의도 중 하나의 이차 사용자 의도에 대응할 수 있다.
미디어 항목들의 하나 이상의 이차 세트는 대응하는 하나 이상의 이차 사용자 의도의 순위 점수에 따라 표시될 수 있다. 특히, 보다 높은 순위 점수를 갖는 이차 사용자 의도에 대응하는 미디어 항목들의 이차 세트들은 보다 낮은 순위 점수를 갖는 이차 사용자 의도들에 대응하는 미디어 항목들의 이차 세트들보다 더 현저하게(예를 들어, 상단 행에 더 가까운 더 높은 행에서) 표시될 수 있다.
블록(510)을 다시 참조하면, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하지 않는다는 결정에 따라, 블록들(516 내지 518) 중 하나 이상이 수행될 수 있다. 프로세스(500)의 블록(516)에서, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하는지 여부에 대한 결정이 이루어질 수 있다. 결정은 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 나타내는 명시적 단어 또는 구절에 기초하여 이루어질 수 있다. 구체적으로, 미디어 관련 요청이 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 나타내는 미리결정된 단어 또는 구절을 포함하는지 여부가 결정될 수 있다. 예를 들어, 도 6h 및 도 6i를 참조하면, 미디어 관련 요청은 "아니, 나는 모험 영화를 의미했어"일 수 있다. 이 예에서, 미디어 관련 요청의 시작 시에 발생하는 명백한 구절 "아니, 나는…"에 기초하여, 일차 사용자 의도는 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함한다고 결정될 수 있다. 구체적으로, 일차 사용자 의도는 지난 10년 동안의 액션 영화들을 검색하는 것에서 지난 10년 동안의 모험 영화들을 검색하는 것까지 일차 미디어 검색 질의를 정정하려는 사용자 의도인 것으로 결정될 수 있다. 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 나타내는 미리결정된 단어 또는 구절의 다른 예들은 "아니", "아닌", "나는 의미한다" 또는 "잘못" 등을 포함할 수 있다.
다른 예들에서, 블록(516)에서의 결정은 미디어 관련 요청 내의 파라미터 값과 일차 미디어 검색 질의 내의 파라미터 값 사이의 유사성에 기초하여 행해질 수 있다. 예를 들어, 일 예에서, 일차 미디어 검색 질의와 연관된 이전에 수신된 미디어 관련 요청은 "성룡과 크리스 루커"일 수 있고, 미디어 관련 요청은 "크리스 터커"일 수 있다. 파라미터 값들 "크리스 루커"와 "크리스 터커" 사이의 결정된 편집 거리가 미리결정된 값보다 작다는 것에 기초하여, 일차 사용자 의도가 일차 미디어 검색 질의 내의 파라미터 값 "크리스 루커"를 "크리스 터커"로 정정하려는 사용자 의도를 포함하는 것으로 결정될 수 있다. 부가적으로 또는 대안적으로, "크리스 루커" 및 "크리스 터커"를 표현하는 음소들의 시퀀스가 비교될 수 있다. "크리스 터커"를 표현하는 음소들의 시퀀스와 실질적으로 유사한 "크리스 루커"를 표현하는 음소들의 시퀀스에 기초하여, 일차 사용자 의도는 일차 미디어 검색 질의에서 "크리스 루커"를 "크리스 터커"로 정정하려는 사용자 의도를 포함한다고 결정될 수 있다.
또한, 파라미터 값 "크리스 루커"의 중요성은 파라미터 값 "성룡"에 대한 파라미터 값 "크리스 터커"의 중요성과 비교될 수 있다. 특히, 미디어 검색은 성룡과 관련된 미디어 항목들의 세트를 식별하기 위해 파라미터 값 "성룡"을 사용하여 수행될 수 있다. "성룡"에 대한 "크리스 루커" 및 "크리스 터커"의 중요성은 성룡과 관련된 미디어 항목들의 세트 중에서 미디어 항목들의 수에 기초할 수 있으며, 이는 2개의 파라미터 값 각각과 연관된다. 예를 들어, "크리스 터커"는 "크리스 루커"보다 성룡과 관련된 미디어 항목들의 세트 중에서 현저하게 더 많은 미디어 항목들과 연관되어 있다고 결정될 수 있다. 따라서, "크리스 터커"의 중요성은 "성룡"과 관련하여 "크리스 루커"의 중요성보다 현저하게 많은 것으로 결정될 수 있다. 이러한 비교된 중요성에 기초하여, 일차 사용자 의도가 일차 미디어 검색 질의 내의 "크리스 루커"를 정정하려는 사용자를 포함한다고 결정될 수 있다.
일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함한다는 결정에 따라, 일차 미디어 검색 질의와 연관된 이전 사용자 의도는 미디어 관련 요청과 연관된 하나 이상의 이차 사용자 의도를 결정할 때(예를 들어, 블록(552)) 고려 사항에서 제외될 수 있다. 예를 들어, 이전에 수신된 "성룡과 크리스 루커"의 미디어 관련 요청과 연관된 이전 사용자 의도는 하나 이상의 이차 사용자 의도를 결정할 때 고려 사항에서 제외될 수 있다. 대신에, 정정된 미디어 관련 요청 "성룡과 크리스 터커"와 연관된 사용자 의도는 하나 이상의 이차 사용자 의도를 결정할 때 고려될 수 있다.
부가적으로, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함한다는 결정에 따라, 블록들(566 내지 568) 중 하나 이상이 수행될 수 있다. 프로세스(500)의 블록(566)에서, 미디어 항목들의 제5 일차 세트가 획득될 수 있다. 블록(566)은 블록(520)과 유사할 수 있다. 특히, 일차 사용자 의도에 대응하는 제5 일차 미디어 검색 질의가 생성될 수 있다. 제5 일차 미디어 검색 질의는 미디어 관련 요청 및 일차 미디어 검색 질의에 기초할 수 있다. 구체적으로, 일차 미디어 검색 질의의 일부는 미디어 관련 요청에 따라 정정되어 제5 일차 미디어 검색 질의를 생성할 수 있다. 일차 미디어 검색 질의가 "성룡" 및 "크리스 루커"가 주연한 미디어 항목들을 검색하라는 것이고 미디어 관련 요청이 "크리스 터커"인 예들로 돌아가면, 일차 미디어 검색 질의는 "성룡" 및 "크리스 터커"가 주연한 미디어 항목들을 검색하는 제5 일차 미디어 검색 질의를 생성하도록 정정될 수 있다. 이어서, 제5 일차 미디어 검색 질의는 미디어 항목들의 제5 일차 세트를 획득하도록 수행될 수 있다.
프로세스(500)의 블록(568)에서, 미디어 항목들의 제5 일차 세트는 사용자 인터페이스(예컨대, 사용자 인터페이스(602))를 통해 디스플레이 유닛 상에 표시될 수 있다. 특히, 미디어 항목들의 일차 세트(예컨대, 미디어 항목들의 일차 세트(604))의 표시는 미디어 항목들의 제5 일차 세트의 표시로 대체될 수 있다. 블록(540)은 블록(522)과 유사할 수 있다. 또한, 일부 예들에서, 블록들(550 내지 564)은 사용자에게 추가 옵션들을 제공하기 위해 미디어 항목들의 제5 일차 세트로 미디어 항목들의 하나 이상의 이차 세트를 획득하고 표시하도록 수행될 수 있다.
510을 다시 참조하면, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하지 않는다는 결정에 따라, 블록(518)이 수행될 수 있다. 프로세스(500)의 블록(518)에서, 일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스(예컨대, 사용자 인터페이스(602))의 포커스를 변경하려는 사용자 의도를 포함하는지 여부에 대한 결정이 이루어질 수 있다. 사용자 인터페이스는 복수의 미디어 항목을 포함할 수 있다. 일부 예들에서, 블록(518)에서의 결정은 사용자 인터페이스의 포커스를 변경하려는 사용자 의도에 대응하는 미디어 관련 요청 내의 명시적 단어 또는 구절에 기초하여 이루어질 수 있다. 일 예에서, 미디어 관련 요청은 "다크 나이트로 가라"일 수 있다. 이 예에서, "로 가라..."라는 구절은 사용자 인터페이스의 포커스를 변경하려는 사용자 의도에 대응하는 미리결정된 구절임이 결정될 수 있다. 사용자 인터페이스의 포커스를 변경하려는 사용자 의도에 대응하는 미리결정된 단어 또는 구절의 다른 예들은 "선택", "로 이동", "로 점프(jump)", "재생", "구매" 등을 포함할 수 있다. 미리결정된 단어 또는 구절에 기초하여, 일차 사용자 의도가 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함하는 것으로 결정될 수 있다.
다른 예들에서, 블록(518)에서의 결정은 사용자 인터페이스에 표시된 미디어 항목들에 대응하는 텍스트에 기초하여 암시적으로 행해질 수 있다. 예를 들어, 도 6a를 참조하면, 미디어 항목들(604, 606)은 미디어 항목들(604, 606)의 하나 이상의 파라미터 값을 기술하는 텍스트와 연관될 수 있다. 특히, 텍스트는 미디어 제목, 배우, 출시일 등과 같은 미디어 항목들(604, 606)의 파라미터 값들을 기술할 수 있다. 전술한 바와 같이, 이러한 텍스트의 적어도 일부는 개개의 미디어 항목들과 관련하여 사용자 인터페이스(602) 상에 표시될 수 있다. 블록(518)에서의 결정은 미디어 항목들(604, 606)의 하나 이상의 파라미터 값을 설명하는 이러한 텍스트에 기초하여 이루어질 수 있다. 본 예에서, 미디어 항목(613)은 영화 "다크 나이트"일 수 있고, 텍스트는 미디어 항목(613)과 연관된 미디어 제목 "다크 나이트"를 포함할 수 있다. 미디어 관련 요청에 정의된 파라미터 값 "다크 나이트"가 미디어 항목(613)과 연관된 텍스트의 미디어 제목 "다크 나이트"와 매칭된다는 결정에 기초하여, 일차 사용자 의도가 사용자 인터페이스(602)의 포커스를 미디어 항목(611)으로부터 미디어 항목(613)으로 변경하려는 사용자 의도를 포함한다고 결정될 수 있다 일부 예들에서, 표시된 텍스트는 사용자 인터페이스(602)를 통해 표시된 미디어 항목들의 모든 파라미터 값들을 포함하지 않을 수 있음을 인식해야 한다. 이들 예에서, 블록(518)에서의 결정은 또한 표시된 텍스트에 기술되지 않은 표시된 미디어 항목들의 파라미터 값들에 기초할 수 있다.
일차 사용자 의도가 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함한다는 결정에 따라, 블록(570)이 수행될 수 있다. 프로세스(500)의 블록(570)에서, 사용자 인터페이스의 포커스는 제1 미디어 항목으로부터 제2 미디어 항목으로 변경될 수 있다. 예를 들어, 도 6k를 참조하면, 사용자 인터페이스(602)의 커서(609)의 위치는 미디어 항목(611)으로부터 미디어 항목(613)으로 변경될 수 있다. 일부 예들에서, 사용자 인터페이스(602)의 포커스를 변경하는 것은 미디어 항목을 선택하는 것을 포함할 수 있다. 예를 들어, 미디어 항목(613)은 블록(570)에서 선택될 수 있다. 미디어 항목(613)을 선택하는 것은 미디어 항목(613)과 연관된 정보가 표시되게 할 수 있다(예를 들어, 영화 예고편 정보). 부가적으로 또는 대안적으로, 미디어 항목(613)을 선택하는 것은 미디어 항목(613)과 연관된 미디어 콘텐츠가 미디어 디바이스 상에서 재생되고 디스플레이 유닛 상에 표시되게 할 수 있다.
프로세스들(500)의 특정 블록들이 디바이스 또는 시스템(예를 들어, 미디어 디바이스(104), 사용자 디바이스(122), 또는 디지털 어시스턴트 시스템(400))에 의해 수행되는 것으로 위에서 설명되지만, 일부 예들에서, 둘 이상의 디바이스가 블록을 수행하는 데 사용될 수 있다는 점을 인식해야 한다. 예를 들어, 결정이 이루어지는 블록들에서, 제1 디바이스(예컨대, 미디어 디바이스(104))는 제2 디바이스(예컨대, 서버 시스템(108))로부터 결정을 획득할 수 있다. 따라서, 일부 예들에서, 결정하는 것은 결정을 획득하는 것을 지칭할 수 있다. 마찬가지로, 콘텐츠, 객체, 텍스트, 또는 사용자 인터페이스가 표시되는 블록들에서, 제1 디바이스(예컨대, 미디어 디바이스(104))는 콘텐츠, 객체, 텍스트, 또는 사용자 인터페이스를 제2 디바이스(예컨대, 디스플레이 유닛(126)) 상에 표시되게 할 수 있다. 따라서, 일부 예들에서, 표시하는 것은 표시를 야기하는 것을 지칭할 수 있다.
게다가, 일부 예들에서, 사용자 인터페이스에 표시되는 항목들(예를 들어, 미디어 항목들, 텍스트, 객체들, 그래픽 등)은 사용자 인터페이스에 포함되는 항목을 또한 지칭할 수 있지만 사용자가 즉시 볼 수는 없다. 예를 들어, 사용자 인터페이스의 표시된 항목은 사용자 인터페이스의 적절한 영역으로 스크롤함으로써 사용자에게 보여 질 수 있다.
5. 전자 디바이스
일부 예들에 따르면, 도 7은 예를 들어 미디어 재생의 음성 제어 및 가상 어시스턴트 지식의 실시간 업데이트를 제공하기 위해 다양한 기술된 예들의 원리에 따라 구성된 전자 디바이스(700)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 7에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 7에 도시된 바와 같이, 전자 디바이스(700)는 촉각 입력, 제스처 입력, 및 텍스트 입력(예를 들어, 원격 제어부(124) 등)과 같은 사용자 입력을 수신하도록 구성된 입력 유닛(703), 오디오 데이터를 수신하도록 구성된 오디오 수신 유닛(704)(예를 들어, 마이크로폰(272) 등), 오디오를 출력하도록 구성된 스피커 유닛(706)(예를 들어, 스피커(268) 등), 및 네트워크를 통해 외부 디바이스로부터 정보를 전송하고 수신하도록 구성된 통신 유닛(707)(예를 들어, 통신 서브시스템(224) 등)을 포함할 수 있다. 일부 예들에서, 전자 디바이스(700)는 옵션적으로 미디어, 사용자 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(702)(예를 들어, 디스플레이 유닛(126) 등)을 포함할 수 있다. 일부 예에서, 디스플레이 유닛(702)은 전자 디바이스(700)의 외부에 있을 수 있다. 전자 디바이스(700)는 입력 유닛(703), 오디오 수신 유닛(704), 스피커 유닛(706), 통신 유닛(707), 및 옵션적으로 디스플레이 유닛(702)에 결합된 처리 유닛(708)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(708)은 표시 인에이블 유닛(710), 검출 유닛(712), 결정 유닛(714), 오디오 수신 인에이블 유닛(716), 획득 유닛(718), 식별 유닛(720), 수신 유닛(722), 배제 유닛(724), 및 생성 유닛(726)을 포함할 수 있다.
일부 실시예들에 따라, 처리 유닛(708)은 디스플레이 유닛 상에(예를 들어, 디스플레이 유닛(702) 또는 별개의 디스플레이 유닛을 이용하여) 미디어 항목들의 일차 세트를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 구성된다. 처리 유닛(708)은 사용자 입력을 검출하도록(예컨대, 검출 유닛(712)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 사용자 입력을 검출하는 것에 응답하여, 오디오 수신 유닛(704)에서 오디오 입력을 수신하도록(예를 들어, 오디오 수신 인에이블 유닛(716)을 이용하여) 추가로 구성된다. 오디오 입력은 자연 언어 스피치 형태의 미디어 관련 요청을 포함한다. 처리 유닛(708)은 미디어 관련 요청에 대응하는 일차 사용자 의도를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 처리 유닛(708)은 일차 사용자 의도가 미디어 항목들의 일차 세트에 대응하는 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함한다는 결정에 따라, 미디어 관련 요청 및 일차 미디어 검색 질의에 기초하여, 일차 사용자 의도에 대응하는 제2 일차 미디어 검색 질의를 생성하고(예를 들어, 획득 유닛(718)을 이용하여), 미디어 항목들의 제2 일차 세트를 획득하기 위해 제2 일차 미디어 검색 질의를 수행하도록(예를 들어, 획득 유닛(720)을 이용하여) 추가로 구성된다. 처리 유닛(708)은 디스플레이 유닛 상의 미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제2 일차 세트의 표시로 대체하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부를 결정하는 것은 미디어 관련 요청이 일차 미디어 검색 질의를 좁히려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 것을 포함한다.
일부 예들에서, 제2 일차 미디어 검색 질의는 미디어 관련 요청에 정의된 하나 이상의 파라미터 값 및 일차 미디어 검색 질의의 하나 이상의 파라미터 값을 포함한다. 일부 예들에서, 미디어 항목들의 제2 일차 세트는 미디어 항목들의 일차 세트에 기초하여 획득된다.
일부 예들에서, 제2 일차 미디어 검색 질의는 파라미터 값들의 세트를 포함한다. 처리 유닛(708)은 파라미터 값들의 세트로부터 파라미터 값들의 코어 세트를 식별하도록(예를 들어, 식별 유닛(720)을 이용하여) 추가로 구성되고, 파라미터 값들의 코어 세트는 파라미터 값들의 세트보다 적은 파라미터 값들을 갖는다. 처리 유닛(708)은 파라미터 값들의 코어 세트에 기초하여 하나 이상의 추가 미디어 검색 질의를 생성하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성된다. 처리 유닛(708)은 하나 이상의 추가 미디어 검색 질의를 수행하여(예를 들어, 획득 유닛(718)을 이용하여) 미디어 항목들의 하나 이상의 추가 세트를 획득하도록 추가로 구성된다. 처리 유닛(708)은 디스플레이 유닛 상에 미디어 항목들의 하나 이상의 추가 세트를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(708)은 복수의 사용자의 미디어 선택 이력에 기초하여 하나 이상의 추가 파라미터 값을 식별하도록(예를 들어, 식별 유닛(720)을 이용하여) 추가로 구성된다. 하나 이상의 추가 미디어 검색 질의는 하나 이상의 추가 파라미터 값을 사용하여 생성된다.
일부 예들에서, 미디어 항목들의 제2 일차 세트는 디스플레이 유닛 상의 사용자 인터페이스의 상단 행에 표시되고 미디어 항목들의 하나 이상의 추가 세트는 디스플레이 유닛 상의 사용자 인터페이스의 하나 이상의 후속 행에 표시된다.
일부 예들에서, 처리 유닛(708)은, 일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하지 않는다는 결정에 따라, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함한다는 결정에 따라, 미디어 관련 요청에 기초하여, 일차 사용자 의도에 대응하는 제3 일차 미디어 검색 질의를 생성하고(예를 들어, 획득 유닛(718)을 이용하여), 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 있는지 여부를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 있다는 결정에 따라, 미디어 항목들의 제3 일차 세트를 획득하기 위해 제3 일차 미디어 검색 질의를 수행하고(예를 들어, 획득 유닛(718)을 이용하여) 디스플레이 유닛 상의 미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제3 일차 세트의 표시로 대체하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하는지 여부를 결정하는 것은 미디어 관련 요청이 새로운 미디어 검색 질의를 수행하려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 것을 추가로 포함한다. 일부 예들에서, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하는지 여부를 결정하는 것은 미디어 관련 요청이 하나 이상의 미디어 항목의 파라미터 값에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 것을 추가로 포함한다.
일부 예들에서, 처리 유닛(708)은, 복수의 후보 미디어 항목의 정규화된 순위화를 수행하는 것을 포함하는, 제3 일차 미디어 검색 질의를 수행하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성되며, 여기서 복수의 후보 미디어 항목은 복수의 미디어 유형을 포함한다.
일부 예들에서, 일차 사용자 의도를 결정하는 것은 미디어 관련 요청과 연관된 미디어 유형을 결정하는 것을 포함하는데, 여기서 제3 일차 미디어 검색 질의는 결정된 미디어 유형에 따라 수행된다.
일부 예들에서, 제3 일차 미디어 검색 질의를 수행하는 것은 식별된 후보 미디어 항목의 하나 이상의 미디어 평론가 리뷰에 포함된 파라미터 값과 연관된 후보 미디어 항목을 식별하는 것을 포함한다.
일부 예들에서, 제3 일차 미디어 검색 질의를 수행하는 것은 식별된 후보 미디어 항목의 폐쇄 자막 정보로부터 도출된 파라미터 값과 연관된 후보 미디어 항목을 식별하는 것을 포함한다.
일부 예들에서, 처리 유닛(708)은, 제3 일차 미디어 검색 질의에 대응하는 미디어 항목들이 없다는 결정에 따라, 제3 일차 미디어 검색 질의의 최소 관련 파라미터 값을 식별하도록(예를 들어, 식별 유닛(720)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 식별된 최소 관련 파라미터 값에 기초하여, 하나 이상의 대안적인 파라미터 값을 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 하나 이상의 대안적인 파라미터 값을 사용하여, 하나 이상의 대안적인 일차 미디어 검색 질의를 수행하여(예를 들어, 획득 유닛(718)을 이용하여) 미디어 항목들의 제4 일차 세트를 획득하도록 추가로 구성된다. 처리 유닛(708)은 디스플레이 유닛 상의 미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제4 일차 세트의 표시로 대체하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(708)은, 일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하지 않는다는 결정에 따라, 일차 사용자 의도 및 하나 이상의 이전 사용자 의도에 기초한 하나 이상의 이차 사용자 의도를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성되며, 하나 이상의 이전 사용자 의도는 미디어 관련 요청 이전에 수신된 하나 이상의 이전 미디어 관련 요청에 대응한다. 처리 유닛(708)은 하나 이상의 이차 사용자 의도에 대응하는 하나 이상의 이차 미디어 검색 질의를 생성하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성된다. 처리 유닛(708)은 하나 이상의 이차 미디어 검색 질의를 수행하여(예를 들어, 획득 유닛(718)을 이용하여) 미디어 항목들의 하나 이상의 이차 세트를 획득하도록 추가로 구성된다. 처리 유닛(708)은 디스플레이 유닛 상에 미디어 항목들의 하나 이상의 이차 세트를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 하나 이상의 이전 미디어 관련 요청은 미디어 항목들의 일차 세트에 대응하는 이전 미디어 관련 요청을 포함한다.
일부 예들에서, 처리 유닛(708)은 일차 사용자 의도 및 하나 이상의 이전 사용자 의도의 하나 이상의 조합을 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성되며, 여기서 하나 이상의 조합 각각은 적어도 하나의 미디어 항목에 관한 것이고, 하나 이상의 이차 의도는 하나 이상의 조합을 포함한다.
일부 예들에서, 하나 이상의 이전 사용자 의도 및 일차 사용자 의도는 디지털 어시스턴트와의 동일한 대화형 세션과 연관된다. 일부 예들에서, 하나 이상의 이차 사용자 의도는 하나 이상의 전자 디바이스 상의 사용자의 미디어 검색 이력에 기초하여 생성된다. 일부 예들에서, 하나 이상의 이차 사용자 의도는 하나 이상의 전자 디바이스 상의 사용자의 미디어 선택 이력, 미디어 선택 이력에 기초하여 생성된다.
일부 예들에서, 처리 유닛(708)은 (예를 들어, 통신 유닛을 통해) 제2 전자 디바이스로부터 미디어 검색 이력을 수신하도록(예를 들어, 수신 유닛(722)을 이용하여) 추가로 구성된다. 하나 이상의 이차 사용자 의도는 제2 전자 디바이스로부터 수신된 미디어 검색 이력에 기초하여 생성된다.
일부 예들에서, 하나 이상의 이차 사용자 의도는 하나 이상의 전자 디바이스 상의 사용자의 미디어 시청 목록에 기초하여 생성된다. 일부 예들에서, 오디오 입력을 수신하는 동안 디스플레이 유닛 상에 복수의 텍스트가 표시되고, 복수의 텍스트는 오디오 입력을 수신하면서 디스플레이 유닛 상에 표시된 복수의 미디어 항목과 연관되며, 하나 이상의 이차 사용자 의도는 표시된 복수의 텍스트에 기초하여 생성된다.
일부 예들에서, 처리 유닛(708)은 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성되며, 여기서 미디어 항목들의 하나 이상의 이차 세트는 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수에 따라 표시된다.
일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 미디어 관련 요청들 및 하나 이상의 이전 미디어 관련 요청 각각이 수신된 시간에 기초한다. 일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 하나 이상의 전자 디바이스 상의 사용자의 미디어 검색 이력에 기초한다. 일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 하나 이상의 전자 디바이스 상의 사용자의 미디어 선택 이력에 기초한다. 일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 하나 이상의 전자 디바이스 상의 사용자의 미디어 시청 목록에 기초한다.
일부 예들에서, 처리 유닛(708)은, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하지 않는다는 결정에 따라, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함한다는 결정에 따라, 미디어 관련 요청 및 일차 미디어 검색 질의 요청에 기초하여, 일차 사용자 의도에 대응하는 제5 일차 미디어 검색 질의를 생성하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성된다. 처리 유닛(708)은 제5 일차 미디어 검색 질의를 수행하여(예를 들어, 획득 유닛(718)을 이용하여) 미디어 항목들의 제5 일차 세트를 획득하도록 추가로 구성된다. 처리 유닛(708)은 디스플레이 유닛 상의 미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제5 일차 세트의 표시로 대체하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하는지 여부를 결정하는 것은 미디어 관련 요청이 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 것을 포함한다. 일부 예들에서, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하는지 여부를 결정하는 것은, 미디어 관련 요청의 일부를 표현하는 음소들의 시퀀스가 일차 미디어 검색 질의에 대응하는 이전 미디어 관련 요청의 일부를 표현하는 음소들의 시퀀스와 실질적으로 유사한지 여부를 결정하는 것을 포함한다.
일부 예들에서, 제5 일차 미디어 검색 질의를 생성하는 것은 정정되지 않을 일차 미디어 검색 질의의 일부와 연관된 미디어 항목들의 세트를 식별하는 것을 포함하며, 여기서 제5 일차 미디어 검색 질의는 정정되지 않을 일차 미디어 검색 질의의 일부와 연관된 미디어 항목들의 세트의 하나 이상의 파라미터 값에 기초하여 생성된다.
일부 예들에서, 처리 유닛(708)은, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함한다는 결정에 따라, 미디어 관련 요청에 대응하는 이차 사용자 의도를 결정할 때 고려 사항으로부터 일차 미디어 검색 질의를 배제하도록(예를 들어, 배제 유닛(724)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(708)은, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하지 않는다는 결정에 따라, 일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성되며, 여기서 사용자 인터페이스는 복수의 미디어 항목을 포함한다. 처리 유닛(708)은, 일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함한다는 결정에 따라, 사용자 인터페이스의 포커스를 복수의 미디어 항목 중 제1 미디어 항목으로부터 복수의 미디어 항목 중 제2 미디어 항목으로 변경하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함하는지 여부를 결정하는 것은 미디어 관련 요청이 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 것을 포함한다.
일부 예들에서, 사용자 인터페이스는 사용자 인터페이스에서 복수의 미디어 항목에 대응하는 복수의 텍스트를 포함하고, 일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함하는지 여부의 결정은 복수의 텍스트에 기초한다.
일부 예들에서, 처리 유닛(708)은 미디어 관련 요청의 텍스트 표현을 결정하고(예를 들어, 결정 유닛(714)을 이용하여), 디스플레이 유닛 상에 텍스트 표현을 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다. 일부 예들에서, 텍스트 표현은 하나 이상의 언어 모델을 사용하여 결정된다. 일부 예들에서, 하나 이상의 언어 모델은 미디어 관련 텍스트 결과를 향하여 바이어스된다. 일부 예들에서, 하나 이상의 언어 모델은 다수의 언어로 미디어 관련 텍스트를 인식하도록 구성된다.
일부 예들에서, 복수의 미디어 항목 및 복수의 미디어 항목과 연관된 텍스트는 디스플레이 유닛 상에 표시된다. 처리 유닛(708)은 복수의 미디어 항목과 연관된 텍스트를 사용하여 제2 언어 모델을 생성하도록(예를 들어, 생성 유닛(726)을 이용하여) 추가로 구성되며, 여기서 텍스트 표현은 제2 언어 모델을 사용하여 결정된다.
일부 예들에서, 처리 유닛(708)은, 텍스트 표현을 이용하여, 예측된 텍스트를 결정하고(예를 들어, 결정 유닛(714)을 이용하여), 텍스트 표현과 함께 예측된 텍스트를 디스플레이 유닛 상에 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 예측된 텍스트는 오디오 입력을 수신하는 동안 디스플레이 유닛 상에 표시된 텍스트에 기초하여 결정된다.
일부 예들에서, 처리 유닛(708)은, 예측된 텍스트를 표시한 후에 오디오 입력의 종점이 검출되는지 여부를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성되며, 예측된 텍스트를 표시한 후에 오디오 입력의 종점이 검출된다는 결정에 따라, 텍스트 표현 및 예측된 텍스트는 일차 사용자 의도를 결정하는 데 사용된다.
일부 예들에서, 처리 유닛(708)은, 오디오 입력을 수신하는 동안, 오디오 입력의 수신된 부분에 기초하여 예비 사용자 의도를 결정하고(예를 들어, 결정 유닛(714)을 이용하여), 예비 사용자 의도를 이행하는 데 필요한 데이터를 식별하고(예를 들어, 식별 유닛(720)을 이용하여), 예비 사용자 의도가 결정되는 시간에 데이터가 하나 이상의 전자 디바이스에 저장되어 있는지 여부를 결정하고(예를 들어, 결정 유닛(714)을 이용하여), 예비 사용자 의도가 결정되는 시간에 데이터가 하나 이상의 전자 디바이스에 저장되어 있지 않다는 결정에 따라, 데이터를 획득하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성된다.
일부 실시예들에 따르면, 처리 유닛(708)은 사용자로부터 자연 언어 스피치 형태의 미디어 검색 요청을 수신하도록(예를 들어, 입력 유닛(703) 또는 오디오 수신 유닛(704)에서, 그리고 수신 유닛(722) 또는 오디오 수신 인에이블 유닛(716)을 사용하여) 구성된다. 처리 유닛(708)은 일차 사용자 의도에 따라 미디어 항목들의 일차 세트를 획득하는 미디어 검색 요청에 대응하는 일차 사용자 의도를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 처리 유닛(708)은 하나 이상의 이전 사용자 의도가 존재하는지 여부를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성되며, 여기서 하나 이상의 이전 사용자 의도는 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청에 대응한다. 처리 유닛(708)은, 하나 이상의 이전 사용자 의도가 존재한다고 결정하는 것에 응답하여, 일차 사용자 의도 및 하나 이상의 이전 사용자 의도에 기초하여 하나 이상의 이차 사용자 의도를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 처리 유닛(708)은 미디어 항목들의 복수의 이차 세트를 획득하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성되며, 여기서 미디어 항목들의 각각의 이차 세트는 하나 이상의 이차 사용자 의도 중 개개의 이차 사용자 의도에 대응한다. 처리 유닛(708)은 미디어 항목들의 일차 세트 및 미디어 항목들의 복수의 이차 세트를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 일차 사용자 의도를 결정하는 것은 미디어 검색 요청이 미디어 검색 요청 이전에 수신된 이전 미디어 검색 요청을 좁히라는 명시적 요청을 포함하는지 여부를 결정하는 것을 추가로 포함하며, 여기서 미디어 검색 요청이 이전 미디어 검색 요청을 좁히라는 명시적 요청을 포함한다는 결정에 따른다. 일차 사용자 의도는 미디어 검색 요청 및 하나 이상의 이전 사용자 의도 중 적어도 하나로부터 결정된다.
일부 예들에서, 미디어 검색 요청이 이전 미디어 검색 요청을 좁히라는 명시적 요청을 포함하지 않는다고 결정하는 것에 응답하여, 일차 사용자 의도는 미디어 검색 요청으로부터 결정된다.
일부 예들에서, 미디어 검색 요청은 디지털 어시스턴트와의 대화형 세션의 일부이다. 하나 이상의 이전 사용자 의도가 존재하는지 여부를 결정하는 것은 대화형 세션이 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청을 포함하는지 여부를 결정하는 것을 추가로 포함하며, 여기서 하나 이상의 이전 미디어 검색 요청은 하나 이상의 이전 사용자 의도에 대응한다. 대화형 세션이 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청을 포함한다는 결정에 따라, 하나 이상의 이전 사용자 의도가 결정된다. 대화형 세션이 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청을 포함하지 않는다는 결정에 따라, 하나 이상의 이전 사용자 의도가 존재하지 않는다는 결정이 이루어진다.
일부 예들에서, 처리 유닛(708)은, 하나 이상의 이전 미디어 사용자 의도가 존재하지 않는다고 결정하는 것에
응답하여, 미디어 항목들의 일차 세트를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 하나 이상의 이차 사용자 의도 중 하나의 이차 사용자 의도는 일차 사용자 의도 및 하나 이상의 이전 사용자 의도 중 하나의 이전 사용자 의도의 조합을 포함한다.
일부 예들에서, 하나 이상의 이차 사용자 의도 중 하나의 이차 사용자 의도는 하나 이상의 이전 사용자 의도 중 제1 이전 사용자 의도 및 하나 이상의 이전 사용자 의도 중 제2 이전 사용자 의도의 조합을 포함한다.
일부 예들에서, 하나 이상의 이차 사용자 의도를 결정하는 것은 일차 사용자 의도 및 하나 이상의 이전 사용자 의도의 복수의 조합을 생성하는 것을 추가로 포함한다.
일부 예들에서, 하나 이상의 이차 사용자 의도를 결정하는 것은 복수의 조합이 병합될 수 없는 조합을 포함하는지 여부를 결정하는 것을 추가로 포함한다. 복수의 조합이 병합될 수 없는 사용자 의도 조합을 포함한다는 결정에 따라, 하나 이상의 이차 사용자 의도는 병합될 수 없는 조합을 포함하지 않는다.
일부 예들에서, 병합될 수 없는 조합은 단일 값을 필요로 하는 파라미터에 대해 둘 이상의 값을 포함한다.
일부 예들에서, 하나 이상의 이차 사용자 의도를 결정하는 것은 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함하는지 여부를 결정하는 것을 추가로 포함한다. 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함한다는 결정에 따라. 하나 이상의 이차 사용자 의도는 부정확한 사용자 의도에 기초하지 않는다.
일부 예들에서, 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함하는지 여부를 결정하는 것은 하나 이상의 이전 사용자 의도가 하나 이상의 이전 사용자 의도 중 제4 사용자 의도를 정정하려는 제3 사용자 의도를 포함하는지 여부를 결정하는 것을 포함한다. 하나 이상의 이전 사용자 의도가 하나 이상의 이전 사용자 의도 중 제4 사용자 의도를 정정하려는 제3 사용자 의도를 포함한다는 결정에 따라, 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함한다는 결정이 이루어진다. 제4 사용자 의도는 부정확한 사용자 의도인 것으로 결정된다.
일부 예들에서, 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함하는지 여부를 결정하는 것은 하나 이상의 이전 사용자 의도가 제5 사용자 의도와 매칭되지 않는 미디어 항목의 사용자 선택과 연관된 제5 사용자 의도를 포함하는지 여부를 결정하는 것을 포함한다. 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 정정하려는 제3 사용자 의도를 포함한다는 결정에 따라, 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함한다는 결정이 이루어지며, 여기서 제5 사용자 의도는 부정확한 사용자 의도인 것으로 결정된다.
일부 예들에서, 처리 유닛(708)은 복수의 조합이 미리결정된 수보다 적은 미디어 항목들과 연관된 조합을 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성된다. 복수의 조합이 미리결정된 수보다 적은 미디어 항목들과 연관된 조합을 포함한다는 결정에 따라, 하나 이상의 이차 사용자 의도는 미리결정된 수보다 적은 미디어 항목들과 연관된 조합을 포함하지 않는다.
일부 예들에서, 처리 유닛(708)은 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수를 결정하도록(예를 들어, 결정 유닛(714)을 이용하여) 추가로 구성되며, 미디어 항목들의 복수의 이차 세트는 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수에 따라 표시된다.
일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 미디어 검색 요청 및 하나 이상의 이전 미디어 검색 요청이 수신되는 순서에 기초하여 결정된다. 일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 사용자의 선택 이력에 기초하여 결정되며, 선택 이력은 사용자에 의해 이전에 선택된 미디어 항목들을 포함한다. 일부 예들에서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 사용자의 미디어 검색 이력에 기초하여 결정된다.
일부 예들에서, 미디어 항목들의 일차 세트는 사용자 인터페이스의 상단 행에 표시되고, 미디어 항목들의 복수의 이차 세트는 사용자 인터페이스의 후속 행들에 표시되고, 후속 행들은 상단 행 아래에 있으며, 후속 행들의 각 행은 하나 이상의 이차 사용자 의도의 개개의 이차 사용자 의도에 대응한다.
일부 예들에서, 후속 행들은 하나 이상의 이차 사용자 의도 각각의 순위 점수에 따라 순서대로 되어 있다.
일부 실시예들에 따라, 처리 유닛(708)은 제1 미디어 검색 요청을 수신하도록(예를 들어, 입력 유닛(703) 또는 오디오 수신 유닛(704)에서, 그리고 수신 유닛(722) 또는 오디오 수신 인에이블 유닛(716)을 이용하여) 구성된다. 처리 유닛(708)은 미디어 검색 요청을 만족시키는 미디어 항목들의 제1 세트를 획득하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성된다. 처리 유닛(708)은 디스플레이 유닛 상에 사용자 인터페이스를 통해 미디어 항목들의 제1 세트를 표시하도록(예를 들어, 표시 인에이블 유닛을 이용하여) 추가로 구성된다. 미디어 항목들의 제1 세트의 적어도 일부를 표시하는 동안, 처리 유닛(708)은 제2 미디어 검색 요청을 수신하고(예를 들어, 입력 유닛(703) 또는 오디오 수신 유닛(704)에서, 그리고 수신 유닛(722) 또는 오디오 수신 인에이블 유닛(716)을 이용하여) 제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청인지 여부의 결정을 획득하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청이라는 결정을 획득하는 것에 응답하여, 제2 미디어 검색 요청을 만족시키는 미디어 항목들의 제2 세트를 획득하고(예를 들어, 획득(718)을 이용하여) - 미디어 항목들의 제2 세트는 미디어 항목들의 복수의 서브셋임 -, 사용자 인터페이스를 통해 디스플레이 유닛 상의 미디어 항목들의 제1 세트의 적어도 일부의 표시를 미디어 항목들의 제2 세트의 적어도 일부의 표시로 대체하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예에서, 미디어 항목들의 제2 세트의 각 미디어 항목은 제1 미디어 검색 요청의 하나 이상의 파라미터 값 및 제2 미디어 검색 요청의 하나 이상의 파라미터 값과 연관된다.
일부 예들에서, 처리 유닛(708)은 미디어 항목들의 제1 세트를 표시하는 동안 그리고 미디어 항목들의 제2 세트의 적어도 일부를 표시하는 동안, 디스플레이 유닛 상에 미디어 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예에서, 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지한다. 처리 유닛(708)은 제2 미디어 검색 요청을 적어도 부분적으로 만족시키는 미디어 항목들의 제3 세트를 획득하도록(예를 들어, 획득 유닛(718)) 추가로 구성되며, 여기서 미디어 항목들의 제2 세트 및 미디어 항목들의 제3 세트가 상이하다. 처리 유닛(708)은 디스플레이 유닛 상에 사용자 인터페이스를 통해 미디어 항목들의 제3 세트의 적어도 일부를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 미디어 항목들의 제3 세트의 각 미디어 항목은 제1 미디어 검색 요청 또는 제2 미디어 검색 요청에 정의된 적어도 하나의 파라미터 값과 연관된다. 일부 예들에서, 미디어 항목들의 제2 세트의 적어도 일부는 사용자 인터페이스의 상단 행에 표시되고, 미디어 항목들의 제3 세트의 적어도 일부는 사용자 인터페이스 상의 하나 이상의 후속 행에 표시된다.
일부 예들에서, 사용자 인터페이스의 포커스는 제2 미디어 검색 요청이 수신될 때 미디어 항목들의 제1 세트의 미디어 항목 상에 있으며, 미디어 항목들의 제3 세트는 미디어 항목들의 제1 세트의 미디어 항목과 상황적으로 관련된다.
일부 예들에서, 제2 미디어 검색 요청이 미디어 검색 요청을 좁히라는 요청인지 여부의 결정을 획득하는 것은 제2 미디어 검색 요청이 복수의 정제 용어 중 하나를 포함하는지 여부의 결정을 획득하는 것을 포함한다.
일부 예들에서, 제2 미디어 검색 요청은 자연 언어 형태이다. 일부 예들에서, 제2 미디어 검색 요청은 모호한 용어를 사용하여 파라미터 값을 정의한다.
일부 예들에서, 처리 유닛(708)은 모호한 용어와 파라미터 값 사이의 연관성의 강도에 기초한 파라미터 값을 자연 언어 처리를 사용하여 식별하도록(예를 들어, 식별 유닛(720)을 이용하여) 추가로 구성된다.
일부 예들에서, 미디어 항목들의 제1 세트의 각 미디어 항목은 품질 등급과 연관되고, 제2 미디어 검색 요청은 품질 등급과 연관된 파라미터 값을 정의한다. 일부 예들에서, 미디어 항목들의 제1 세트의 각 미디어 항목은 지속시간과 연관되고, 제2 미디어 검색 요청은 지속시간과 연관된 파라미터 값을 정의한다.
일부 예들에서, 미디어 항목들의 제1 세트의 각 미디어 항목은 인기도 평점과 연관되고, 제2 미디어 검색 요청은 인기도 평점과 연관된 파라미터 값을 정의한다.
일부 예들에서, 미디어 항목들의 제1 세트의 각 미디어 항목은 출시일과 연관되고, 제2 미디어 검색 요청은 출시일과 연관된 파라미터 값을 정의한다.
일부 예들에서, 처리 유닛(708)은, 제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청이 아니라는 결정을 획득하는 것에 응답하여, 제2 미디어 검색 요청을 만족시키는 미디어 항목들의 제4 세트를 획득하고(예를 들어, 획득 유닛(718)을 이용하여) - 미디어 항목들의 제4 세트는 미디어 항목들의 제1 세트와 상이함 -, 사용자 인터페이스를 통해 디스플레이 유닛 상의 미디어 항목들의 제1 세트의 적어도 일부의 표시를 미디어 항목들의 제4 세트의 적어도 일부의 표시로 대체하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 미디어 항목들의 제4 세트의 각 미디어 항목은 제2 미디어 검색 요청에 정의된 하나 이상의 파라미터와 연관된다.
일부 예들에서, 처리 유닛(708)은 미디어 항목들의 제1 세트를 표시하는 동안 그리고 미디어 항목들의 제4 세트의 적어도 일부를 표시하는 동안, 디스플레이 유닛 상에 미디어 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지한다. 처리 유닛(708)은 미디어 항목들의 제5 세트를 획득하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성되며, 여기서 미디어 항목들의 제5 세트의 각 미디어 항목은 제1 미디어 검색 요청에 정의된 하나 이상의 파라미터 및 제2 미디어 검색 요청에 정의된 하나 이상의 파라미터와 연관된다. 처리 유닛(708)은 사용자 인터페이스를 통해 디스플레이 유닛 상에 미디어 항목들의 제5 세트를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 사용자 인터페이스의 포커스는 제2 미디어 검색 요청이 수신될 때 미디어 항목들의 제1 세트 중 제2 미디어 항목 상에 있고, 제5 복수의 미디어 항목 중 하나 이상의 미디어 항목은 미디어 항목들의 제1 세트 중 제2 미디어 항목과 연관된 파라미터 값을 포함한다.
일부 예들에서, 사용자 인터페이스의 포커스는 제2 미디어 검색 요청이 검출될 때 미디어 항목들의 제1 세트 중 제3 미디어 항목 상에 있다. 처리 유닛(708)은, 제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청이 아니라는 결정을 획득하는 것에 응답하여, 제2 미디어 검색 요청이 미디어 항목들의 제1 세트 중 제3 미디어 항목과 유사한 미디어 항목들의 대안적인 세트를 획득하라는 요청인지 여부의 결정을 획득하도록(예를 들어, 획득 유닛(718)을 이용하여) 추가로 구성된다. 처리 유닛(708)은, 제2 미디어 검색 요청이 미디어 항목들의 제1 세트 중 제3 미디어 항목과 유사한 미디어 항목들의 대안적인 세트를 획득하라는 요청이라는 결정을 획득하는 것에 응답하여, 미디어 항목들의 제6 세트를 획득하고(예를 들어, 획득 유닛(718)을 이용하여) - 미디어 항목들의 제6 세트의 각 미디어 항목은 제3 미디어 항목의 하나 이상의 파라미터 값과 연관됨 -, 디스플레이 유닛 상에 사용자 인터페이스를 통해 미디어 항목들의 제6 세트를 표시하도록(예를 들어, 표시 인에이블 유닛(710)을 이용하여) 추가로 구성된다.
일부 예들에서, 미디어 항목들의 제1 세트는 제1 미디어 검색 요청에 기초하여 문자열 검색을 수행함으로써 획득되고, 미디어 항목들의 제2 세트는 제2 미디어 검색 요청에 정의된 하나 이상의 파라미터 값에 기초하여 구조화된 검색을 수행함으로써 획득된다.
일부 예들에서, 제1 미디어 검색 요청은 키보드 인터페이스를 통해 수신되고, 제2 미디어 검색 요청은 자연 언어 스피치 형태로 수신된다. 일부 예들에서, 구조화된 검색은 미디어 항목들의 제1 세트를 사용하여 수행된다.
도 5a 내지 도 5e를 참조하여 전술한 동작들은, 옵션적으로 도 1 내지 도 3 및 도 4a와 도 4b에 도시된 컴포넌트들에 의해 구현된다. 예를 들어, 표시 동작들(502, 522, 534, 540, 548, 564, 568), 검출 동작(504), 결정 동작들(508, 510, 538, 544, 550, 552, 560), 획득 동작들(520, 524, 536, 546, 562, 566), 식별 동작들(526, 528, 542, 554), 배제 동작(558), 및 생성 동작들(530, 556)은 운영 체제(252), GUI 모듈(256), 애플리케이션 모듈(262), I/O 처리 모듈(428), STT 처리 모듈(430), 자연 언어 처리 모듈(432), 태스크 흐름 처리 모듈(436), 서비스 처리 모듈(438), 또는 프로세서(들)(204, 404) 중 하나 이상에 의해 구현될 수 있다. 다른 프로세스들이 도 1 내지 도 3 및 도 4a와 도 4b에 도시된 컴포넌트들에 기초하여 어떻게 구현될 수 있는지는 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 자명할 것이다.
일부 구현예들에 따르면, 전자 디바이스의 하나 이상의 프로세서에 의한 실행을 위한 하나 이상의 프로그램을 저장하는 컴퓨터 판독가능 저장 매체(예를 들어, 비일시적 컴퓨터 판독가능 저장 매체)가 제공되며, 여기서 하나 이상의 프로그램은 본 명세서에 설명된 방법 중 임의의 방법을 수행하기 위한 명령어들을 포함한다.
일부 구현예들에 따르면, 본 명세서에 설명된 방법 중 임의의 방법을 수행하기 위한 수단을 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공된다.
일부 구현예들에 따르면, 본 명세서에 설명된 방법 중 임의의 방법을 수행하도록 구성된 처리 유닛을 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공된다.
일부 구현예들에 따르면, 하나 이상의 프로세서 및 하나 이상의 프로세서에 의한 실행을 위한 하나 이상의 프로그램을 저장하는 메모리를 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공되며, 여기서 하나 이상의 프로그램은 본 명세서에 기재된 방법 중 임의의 방법을 실행하기 위한 명령어들을 포함한다.
예시적인 방법, 비일시적 컴퓨터 판독가능 저장 매체, 시스템, 및 전자 디바이스가 다음 항목들에서 설명된다:
1. 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 방법으로서,
하나 이상의 프로세서 및 메모리를 포함하는 하나 이상의 전자 디바이스에서:
디스플레이 유닛 상에 미디어 항목들의 일차 세트를 표시하는 단계;
사용자 입력을 검출하는 것에 응답하여, 자연 언어 스피치 형태의 미디어 관련 요청을 포함하는 오디오 입력을 수신하는 단계;
미디어 관련 요청에 대응하는 일차 사용자 의도를 결정하는 단계;
일차 사용자 의도가 미디어 항목들의 일차 세트에 대응하는 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부를 결정하는 단계;
일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함한다는 결정에 따라:
미디어 관련 요청 및 일차 미디어 검색 질의에 기초하여, 일차 사용자 의도에 대응하는 제2 일차 미디어 검색 질의를 생성하는 단계;
제2 일차 미디어 검색 질의를 수행하여 미디어 항목들의 제2 일차 세트를 획득하는 단계; 및
미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제2 일차 세트의 표시로 대체하는 단계를 포함하는, 방법.
2. 항목 1에 있어서, 일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부를 결정하는 단계는,
미디어 관련 요청이 일차 미디어 검색 질의를 좁히려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 단계를 포함하는, 방법.
3. 항목 1 또는 항목 2에 있어서, 제2 일차 미디어 검색 질의는 미디어 관련 요청에 정의된 하나 이상의 파라미터 값 및 일차 미디어 검색 질의의 하나 이상의 파라미터 값을 포함하는, 방법.
4. 항목들 1 내지 3 중 어느 한 항목에 있어서, 미디어 항목들의 제2 일차 세트는 미디어 항목들의 일차 세트에 기초하여 획득되는, 방법.
5. 항목들 1 내지 4 중 어느 한 항목에 있어서, 제2 일차 미디어 검색 질의는 파라미터 값들의 세트를 포함하고, 방법은,
파라미터 값들의 세트로부터 파라미터 값들의 코어 세트를 식별하는 단계 - 파라미터 값들의 코어 세트는 파라미터 값들의 세트보다 적은 파라미터 값들을 가짐 -;
파라미터 값들의 코어 세트에 기초하여 하나 이상의 추가 미디어 검색 질의를 생성하는 단계;
하나 이상의 추가 미디어 검색 질의를 수행하여 미디어 항목들의 하나 이상의 추가 세트를 획득하는 단계; 및
디스플레이 유닛 상에 미디어 항목들의 하나 이상의 추가 세트를 표시하는 단계를 추가로 포함하는, 방법.
6. 항목 5에 있어서,
복수의 사용자의 미디어 선택 이력에 기초하여 하나 이상의 추가 파라미터 값을 식별하는 단계를 추가로 포함하고, 하나 이상의 추가 미디어 검색 질의는 하나 이상의 추가 파라미터 값을 이용하여 생성되는, 방법.
7. 항목 5 또는 항목 6에 있어서, 미디어 항목들의 제2 일차 세트는 디스플레이 유닛 상의 사용자 인터페이스의 상단 행에 표시되고, 미디어 항목들의 하나 이상의 추가 세트는 디스플레이 유닛 상의 사용자 인터페이스의 하나 이상의 후속 행에 표시되는, 방법.
8. 항목 1 내지 7 중 어느 한 항목에 있어서,
일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하지 않는다는 결정에 따라:
일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하는지 여부를 결정하는 단계;
일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함한다는 결정에 따라:
미디어 관련 요청에 기초하여, 일차 사용자 의도에 대응하는 제3 일차 미디어 검색 질의를 생성하는 단계;
제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 있는지 여부를 결정하는 단계;
제3 일차 미디어 검색 질의에 대응하는 적어도 하나의 미디어 항목이 획득될 수 있다는 결정에 따라:
제3 일차 미디어 검색 질의를 수행하여 미디어 항목들의 제3 일차 세트를 획득하는 단계; 및
미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제3 일차 세트의 표시로 대체하는 단계를 추가로 포함하는, 방법.
9. 항목 8에 있어서, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하는지 여부를 결정하는 단계는,
미디어 관련 요청이 새로운 미디어 검색 질의를 수행하려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 단계를 추가로 포함하는, 방법.
10. 항목 8 또는 항목 9에 있어서, 일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하는지 여부를 결정하는 단계는,
미디어 관련 요청이 하나 이상의 미디어 항목의 파라미터 값에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 단계를 추가로 포함하는, 방법.
11. 항목들 8 내지 10 중 어느 한 항목에 있어서, 제3 일차 미디어 검색 질의를 수행하는 단계는 복수의 후보 미디어 항목의 정규화된 순위화를 수행하는 단계를 포함하고, 복수의 후보 미디어 항목은 복수의 미디어 유형을 갖는, 방법.
12. 항목들 8 내지 11 중 어느 한 항목에 있어서, 일차 사용자 의도를 결정하는 단계는 미디어 관련 요청과 연관된 미디어 유형을 결정하는 단계를 포함하며, 제3 일차 미디어 검색 질의는 결정된 미디어 유형에 따라 수행되는, 방법.
13. 항목들 8 내지 12 중 어느 한 항목에 있어서, 제3 일차 미디어 검색 질의를 수행하는 단계는 파라미터 값과 연관된 후보 미디어 항목을 식별하는 단계를 포함하며, 파라미터 값은 식별된 후보 미디어 항목의 하나 이상의 미디어 평론가 리뷰에 포함되는, 방법.
14. 항목들 8 내지 13 중 어느 한 항목에 있어서, 상기 제3 일차 미디어 검색 질의를 수행하는 단계는 파라미터 값과 연관된 후보 미디어 항목을 식별하는 단계를 포함하며, 상기 파라미터 값은 상기 식별된 후보 미디어 항목의 폐쇄 자막 정보로부터 도출되는, 방법.
15. 항목들 8 내지 14 중 어느 한 항목에 있어서,
어떠한 미디어 항목들도 제3 일차 미디어 검색 질의에 대응하지 않는다는 결정에 따라:
제3 일차 미디어 검색 질의의 최소 관련 파라미터 값(least pertinent parameter value)을 식별하는 단계;
식별된 최소 관련 파라미터 값에 기초하여, 하나 이상의 대안적인 파라미터 값을 결정하는 단계;
하나 이상의 대안적인 파라미터 값을 사용하여, 하나 이상의 대안적인 일차 미디어 검색 질의를 수행하여 미디어 항목들의 제4 일차 세트를 획득하는 단계; 및
미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제4 일차 세트의 표시로 대체하는 단계를 추가로 포함하는, 방법.
16. 항목들 8 내지 15 중 어느 한 항목에 있어서,
일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하지 않는다는 결정에 따라:
일차 사용자 의도 및 하나 이상의 이전 사용자 의도에 기초하여 하나 이상의 이차 사용자 의도를 결정하는 단계 - 하나 이상의 이전 사용자 의도는 미디어 관련 요청 이전에 수신된 하나 이상의 이전 미디어 관련 요청에 대응함 -;
하나 이상의 이차 사용자 의도에 대응하는 하나 이상의 이차 미디어 검색 질의를 생성하는 단계;
하나 이상의 이차 미디어 검색 질의를 수행하여 미디어 항목들의 하나 이상의 이차 세트를 획득하는 단계; 및
디스플레이 유닛 상에 미디어 항목들의 하나 이상의 이차 세트를 표시하는 단계를 추가로 포함하는, 방법.
17. 항목 16에 있어서, 하나 이상의 이전 미디어 관련 요청은 미디어 항목들의 일차 세트에 대응하는 이전 미디어 관련 요청을 포함하는, 방법.
18. 항목 16 또는 항목 17에 있어서,
일차 사용자 의도 및 하나 이상의 이전 사용자 의도의 하나 이상의 조합을 결정하는 단계를 추가로 포함하며, 하나 이상의 조합 각각은 적어도 하나의 미디어 항목과 연관되고, 하나 이상의 이차 의도는 하나 이상의 조합을 포함하는, 방법.
19. 항목들 16 내지 18 중 어느 한 항목에 있어서, 하나 이상의 이전 사용자 의도 및 일차 사용자 의도는 디지털 어시스턴트와의 동일한 대화형 세션과 연관되는, 방법.
20. 항목들 16 내지 19 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도는 하나 이상의 전자 디바이스 상의 사용자의 미디어 검색 이력에 기초하여 생성되는, 방법.
21. 항목들 16 내지 20 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도는 하나 이상의 전자 디바이스 상의 사용자의 미디어 선택 이력, 미디어 선택 이력에 기초하여 생성되는, 방법.
22. 항목들 16 내지 21 중 어느 한 항목에 있어서,
제2 전자 디바이스로부터 미디어 검색 이력을 수신하는 단계를 추가로 포함하고, 하나 이상의 이차 사용자 의도는 제2 전자 디바이스로부터 수신된 미디어 검색 이력에 기초하여 생성되는, 방법.
23. 항목들 16 내지 22 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도는 하나 이상의 전자 디바이스 상의 사용자의 미디어 시청 목록에 기초하여 생성되는, 방법.
24. 항목들 16 내지 23 중 어느 한 항목에 있어서,
오디오 입력을 수신하는 동안 복수의 텍스트가 디스플레이 상에 표시되고;
복수의 텍스트는 오디오 입력을 수신하는 동안 디스플레이 유닛 상에 표시된 복수의 미디어 항목과 연관되며;
하나 이상의 이차 사용자 의도는 표시된 복수의 텍스트에 기초하여 생성되는, 방법.
25. 항목들 16 내지 24 중 어느 한 항목에 있어서,
하나 이상의 이차 사용자 의도 각각에 대한 순위 점수를 결정하는 단계를 추가로 포함하고, 미디어 항목들의 하나 이상의 이차 세트는 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수에 따라 표시되는, 방법.
26. 항목 25에 있어서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 미디어 관련 요청들 및 하나 이상의 이전 미디어 관련 요청 각각이 수신된 시간에 기초하는, 방법.
27. 항목 25 또는 항목 26에 있어서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 하나 이상의 전자 디바이스 상의 사용자의 미디어 검색 이력에 기초하는, 방법.
28. 항목들 25 내지 27 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 하나 이상의 전자 디바이스 상의 사용자의 미디어 선택 이력에 기초하는, 방법.
29. 항목들 25 내지 28 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 하나 이상의 전자 디바이스 상의 사용자의 미디어 시청 목록에 기초하는, 방법.
30. 항목들 8 내지 29 중 어느 한 항목에 있어서,
일차 사용자 의도가 새로운 미디어 검색 질의를 수행하려는 사용자 의도를 포함하지 않는다는 결정에 따라:
일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하는지 여부를 결정하는 단계;
일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함한다는 결정에 따라;
미디어 관련 요청 및 일차 미디어 검색 질의 요청에 기초하여, 일차 사용자 의도에 대응하는 제5 일차 미디어 검색 질의를 생성하는 단계;
제5 일차 미디어 검색 질의를 수행하여 미디어 항목들의 제5 일차 세트를 획득하는 단계; 및
미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제5 일차 세트의 표시로 대체하는 단계를 추가로 포함하는, 방법.
31. 항목 30에 있어서, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하는지 여부를 결정하는 단계는,
미디어 관련 요청이 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 단계를 포함하는, 방법.
32. 항목 30 또는 항목 31에 있어서, 일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하는지 여부를 결정하는 단계는,
미디어 관련 요청의 일부를 표현하는 음소들의 시퀀스가 일차 미디어 검색 질의에 대응하는 이전 미디어 관련 요청의 일부를 표현하는 음소들의 시퀀스와 실질적으로 유사한지 여부를 결정하는 단계를 포함하는, 방법.
33. 항목들 30 내지 32 중 어느 한 항목에 있어서, 제5 일차 미디어 검색 질의를 생성하는 단계는,
정정되지 않을 일차 미디어 검색 질의의 일부와 연관된 미디어 항목들의 세트를 식별하는 단계를 포함하며, 제5 일차 미디어 검색 질의는 정정되지 않을 일차 미디어 검색 질의의 일부와 연관된 미디어 항목들의 세트의 하나 이상의 파라미터 값에 기초하여 생성되는, 방법.
34. 항목들 30 내지 33 중 어느 한 항목에 있어서,
일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함한다는 결정에 따라:
미디어 관련 요청에 대응하는 이차 사용자 의도를 결정할 때 일차 미디어 검색 질의를 고려에서 배제하는 단계를 추가로 포함하는, 방법.
35. 항목들 30 내지 34 중 어느 한 항목에 있어서,
일차 사용자 의도가 일차 미디어 검색 질의의 일부를 정정하려는 사용자 의도를 포함하지 않는다는 결정에 따라:
일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함하는지 여부를 결정하는 단계 - 사용자 인터페이스는 복수의 미디어 항목을 포함함 -; 및
일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함한다는 결정에 따라, 사용자 인터페이스의 포커스를 복수의 미디어 항목 중 제1 미디어 항목으로부터 복수의 미디어 항목 중 제2 미디어 항목으로 변경하는 단계를 추가로 포함하는, 방법.
36. 항목 35에 있어서, 일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함하는지 여부를 결정하는 단계는,
미디어 관련 요청이 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도에 대응하는 단어 또는 구절을 포함하는지 여부를 결정하는 단계를 포함하는, 방법.
37. 항목 35 또는 항목 36에 있어서, 사용자 인터페이스는 사용자 인터페이스에서 복수의 미디어 항목에 대응하는 복수의 텍스트를 포함하고, 일차 사용자 의도가 디스플레이 유닛 상에 표시된 사용자 인터페이스의 포커스를 변경하려는 사용자 의도를 포함하는지 여부의 결정은 복수의 텍스트에 기초하는, 방법.
38. 항목들 1 내지 37 중 어느 한 항목에 있어서,
미디어 관련 요청의 텍스트 표현을 결정하는 단계; 및
디스플레이 유닛 상에 텍스트 표현을 표시하는 단계를 추가로 포함하는, 방법.
39. 항목 38에 있어서, 텍스트 표현은 하나 이상의 언어 모델을 사용하여 결정되는, 방법.
40. 항목 39에 있어서, 하나 이상의 언어 모델은 미디어 관련 텍스트 결과를 향하여 바이어스되는, 방법.
41. 항목 39 또는 항목 40에 있어서, 하나 이상의 언어 모델은 다수의 언어로 미디어 관련 텍스트를 인식하도록 구성되는, 방법.
42. 항목들 38 내지 41 중 어느 한 항목에 있어서, 복수의 미디어 항목 및 복수의 미디어 항목과 연관된 텍스트는 디스플레이 유닛 상에 표시되고,
복수의 미디어 항목과 연관된 텍스트를 사용하여 제2 언어 모델을 생성하는 단계를 추가로 포함하며, 텍스트 표현은 제2 언어 모델을 사용하여 결정되는, 방법.
43. 항목들 38 내지 42 중 어느 한 항목에 있어서,
텍스트 표현을 사용하여, 예측된 텍스트를 결정하는 단계;
디스플레이 유닛 상에 텍스트 표현과 함께 예측된 텍스트를 표시하는 단계를 추가로 포함하는, 방법.
44. 항목 43에 있어서, 예측된 텍스트는 오디오 입력을 수신하는 동안 디스플레이 유닛 상에 표시된 텍스트에 기초하여 결정되는, 방법.
45. 항목 43 또는 항목 44에 있어서,
예측된 텍스트를 표시한 후에 오디오 입력의 종점이 검출되는지 여부를 결정하는 단계를 추가로 포함하며, 예측된 텍스트를 표시한 후에 오디오 입력의 종점이 검출된다는 결정에 따라, 텍스트 표현 및 예측된 텍스트는 일차 사용자 의도를 결정하는 데 사용되는, 방법.
46. 항목들 1 내지 45 중 어느 한 항목에 있어서,
오디오 입력을 수신하는 동안:
오디오 입력의 수신된 부분에 기초하여 예비 사용자 의도를 결정하는 단계;
예비 사용자 의도를 이행하는 데 필요한 데이터를 식별하는 단계;
예비 사용자 의도가 결정되는 시간에 데이터가 하나 이상의 전자 디바이스에 저장되어 있는지 여부를 결정하는 단계;
예비 사용자 의도가 결정되는 시간에 데이터가 하나 이상의 전자 디바이스에 저장되어 있지 않다는 결정에 따라, 데이터를 획득하는 단계를 추가로 포함하는, 방법.
47. 미디어 시스템의 디지털 어시스턴트와 상호작용하기 위한 방법으로서,
하나 이상의 프로세서 및 메모리를 포함하는 하나 이상의 전자 디바이스에서:
사용자로부터 자연 언어 스피치 형태의 미디어 검색 요청을 수신하는 단계;
미디어 검색 요청에 대응하는 일차 사용자 의도를 결정하는 단계;
일차 사용자 의도에 따른 미디어 항목들의 일차 세트를 획득하는 단계;
하나 이상의 이전 사용자 의도가 존재하는지 여부를 결정하는 단계 - 하나 이상의 이전 사용자 의도는 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청에 대응함 -; 및
하나 이상의 이전 사용자 의도가 존재한다고 결정하는 것에 응답하여,
일차 사용자 의도 및 하나 이상의 이전 사용자 의도에 기초하여 하나 이상의 이차 사용자 의도를 결정하는 단계;
미디어 항목들의 복수의 이차 세트를 획득하는 단계 - 미디어 항목들의 이차 세트 각각은 하나 이상의 이차 사용자 의도의 개개의 이차 사용자 의도에 대응함 -; 및
미디어 항목들의 일차 세트 및 미디어 항목들의 복수의 이차 세트를 표시하는 단계를 포함하는, 방법.
48. 항목 47에 있어서, 일차 사용자 의도를 결정하는 단계는,
미디어 검색 요청이 미디어 검색 요청 이전에 수신된 이전 미디어 검색 요청을 좁히라는 명시적 요청을 포함하는지 여부를 결정하는 단계 - 미디어 검색 요청이 이전 미디어 검색 요청을 좁히라는 명시적 요청을 포함한다는 결정에 따라, 일차 사용자 의도는 미디어 검색 요청 및 하나 이상의 이전 사용자 의도 중 적어도 하나로부터 결정됨 -를 추가로 포함하는, 방법.
49. 항목 48에 있어서, 미디어 검색 요청이 이전 미디어 검색 요청을 좁히라는 명시적 요청을 포함하지 않는다고 결정하는 것에 응답하여, 일차 사용자 의도는 미디어 검색 요청으로부터 결정되는, 방법.
50. 항목들 47 내지 49 중 어느 한 항목에 있어서, 미디어 검색 요청은 디지털 어시스턴트와의 대화형 세션의 일부이고, 하나 이상의 이전 사용자 의도가 존재하는지 여부를 결정하는 단계는,
대화형 세션이 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청을 포함하는지 여부를 결정하는 단계를 추가로 포함하며, 하나 이상의 이전 미디어 검색 요청은 하나 이상의 이전 사용자 의도에 대응하고,
대화형 세션이 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청을 포함한다는 결정에 따라, 하나 이상의 이전 사용자 의도가 존재한다는 결정이 이루어지고,
대화형 세션이 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청을 포함하지 않는다는 결정에 따라, 하나 이상의 이전 사용자 의도가 존재하지 않는다는 결정이 이루어지는, 방법.
51. 항목들 47 내지 50 중 어느 한 항목에 있어서,
하나 이상의 이전 미디어 사용자 의도가 존재하지 않는다고 결정하는 것에 응답하여, 미디어 항목들의 일차 세트를 표시하는 단계를 추가로 포함하는, 방법.
52. 항목들 47 내지 51 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도 중 하나의 이차 사용자 의도는 일차 사용자 의도 및 하나 이상의 이전 사용자 의도 중 하나의 이전 사용자 의도의 조합을 포함하는, 방법.
53. 항목들 47 내지 52 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도 중 하나의 이차 사용자 의도는 하나 이상의 이전 사용자 의도 중 제1 이전 사용자 의도 및 하나 이상의 이전 사용자 의도 중 제2 이전 사용자 의도의 조합을 포함하는, 방법.
54. 항목들 47 내지 53 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도를 결정하는 단계는,
일차 사용자 의도 및 하나 이상의 이전 사용자 의도의 복수의 조합을 생성하는 단계를 추가로 포함하는, 방법.
55. 항목 54에 있어서, 하나 이상의 이차 사용자 의도를 결정하는 단계는,
복수의 조합이 병합될 수 없는 조합을 포함하는지 여부를 결정하는 단계를 추가로 포함하고,
복수의 조합이 병합될 수 없는 사용자 의도 조합을 포함한다는 결정에 따라, 하나 이상의 이차 사용자 의도는 병합될 수 없는 조합을 포함하지 않는, 방법.
56. 항목 55에 있어서, 병합될 수 없는 조합은 단일 값을 필요로 하는 파라미터에 대해 둘 이상의 값을 포함하는, 방법.
57. 항목들 54 내지 56 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도를 결정하는 단계는,
하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함하는지 여부를 결정하는 단계를 추가로 포함하고,
하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함한다는 결정에 따라,
하나 이상의 이차 사용자 의도는 부정확한 사용자 의도에 기초하지 않는, 방법.
58. 항목 57에 있어서, 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함하는지 여부를 결정하는 단계는,
하나 이상의 이전 사용자 의도가 하나 이상의 이전 사용자 의도 중 제4 사용자 의도를 정정하려는 제3 사용자 의도를 포함하는지 여부를 결정하는 단계를 포함하고,
하나 이상의 이전 사용자 의도가 하나 이상의 이전 사용자 의도 중 제4 사용자 의도를 정정하려는 제3 사용자 의도를 포함한다는 결정에 따라, 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함한다는 결정이 이루어지며, 제4 사용자 의도는 부정확한 사용자 의도인 것으로 결정되는, 방법.
59. 항목 57에 있어서, 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함하는지 여부를 결정하는 단계는,
하나 이상의 이전 사용자 의도가 제5 사용자 의도와 매칭되지 않는 미디어 항목의 사용자 선택과 연관된 제5 사용자 의도를 포함하는지 여부를 결정하는 단계를 포함하고,
하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 정정하려는 제3 사용자 의도를 포함한다는 결정에 따라, 하나 이상의 이전 사용자 의도가 부정확한 사용자 의도를 포함한다는 결정이 이루어지며, 제5 사용자 의도는 부정확한 사용자 의도인 것으로 결정되는, 방법.
60. 항목들 54 내지 59 중 어느 한 항목에 있어서,
복수의 조합이 미리결정된 수보다 적은 미디어 항목들과 연관된 조합을 포함하는지 여부를 결정하는 단계를 추가로 포함하고,
복수의 조합이 미리결정된 수보다 적은 미디어 항목들과 연관된 조합을 포함한다는 결정에 따라, 하나 이상의 이차 사용자 의도는 미리결정된 수보다 적은 미디어 항목들과 연관된 조합을 포함하지 않는, 방법.
61. 항목들 47 내지 60 중 어느 한 항목에 있어서,
하나 이상의 이차 사용자 의도 각각에 대한 순위 점수를 결정하는 단계를 추가로 포함하고, 미디어 항목들의 복수의 이차 세트는 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수에 따라 표시되는, 방법.
62. 항목 61에 있어서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 미디어 검색 요청 및 하나 이상의 이전 미디어 검색 요청이 수신되는 순서에 기초하여 결정되는, 방법.
63. 항목 61 또는 항목 62에 있어서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 사용자의 선택 이력에 기초하여 결정되며, 선택 이력은 사용자에 의해 이전에 선택된 미디어 항목들을 포함하는, 방법.
64. 항목들 61 내지 63 중 어느 한 항목에 있어서, 하나 이상의 이차 사용자 의도 각각에 대한 순위 점수는 사용자의 미디어 검색 이력에 기초하여 결정되는, 방법.
65. 항목들 47 내지 64 중 어느 한 항목에 있어서,
미디어 항목들의 일차 세트는 사용자 인터페이스의 상단 행에 표시되고;
미디어 항목들의 복수의 이차 세트는 사용자 인터페이스의 후속 행들에 표시되고, 후속 행들은 상단 행 아래에 있으며;
후속 행들의 각 행은 하나 이상의 이차 사용자 의도의 개개의 이차 사용자 의도에 대응하는, 방법.
66. 항목 65에 있어서,
후속 행들은 하나 이상의 이차 사용자 의도 각각의 순위 점수에 따라 순서대로 되어 있는, 방법.
67. 미디어 시스템의 디지털 어시스턴트와 상호작용하기 위한 방법으로서,
하나 이상의 프로세서 및 메모리를 포함하는 전자 디바이스에서:
제1 미디어 검색 요청을 수신하는 단계;
제1 미디어 검색 요청을 만족시키는 미디어 항목들의 제1 세트를 획득하는 단계;
디스플레이 유닛 상에, 사용자 인터페이스를 통해 미디어 항목들의 제1 세트를 표시하는 단계;
미디어 항목들의 제1 세트의 적어도 일부를 표시하는 동안, 제2 미디어 검색 요청을 수신하는 단계;
제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청인지 여부의 결정을 획득하는 단계;
제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청이라는 결정을 획득하는 것에 응답하여,
제2 미디어 검색 요청을 만족시키는 미디어 항목들의 제2 세트를 획득하는 단계 - 미디어 항목들의 제2 세트는 복수의 미디어 항목의 서브셋임 -; 및
사용자 인터페이스를 통해 미디어 항목들의 제1 세트의 적어도 일부의 표시를 미디어 항목들의 제2 세트의 적어도 일부의 표시로 대체하는 단계를 포함하는, 방법.
68. 항목 67에 있어서, 미디어 항목들의 제2 세트의 각 미디어 항목은 제1 미디어 검색 요청의 하나 이상의 파라미터 값 및 제2 미디어 검색 요청의 하나 이상의 파라미터 값과 연관되는, 방법.
69. 항목 67 또는 항목 68에 있어서,
미디어 항목들의 제1 세트를 표시하는 동안 그리고 미디어 항목들의 제2 세트의 적어도 일부를 표시하는 동안, 디스플레이 유닛 상에 미디어 콘텐츠를 표시하는 단계를 추가로 포함하는, 방법.
70. 항목 67 또는 항목 68에 있어서, 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지하고, 방법은,
제2 미디어 검색 요청을 적어도 부분적으로 만족시키는 미디어 항목들의 제3 세트를 획득하는 단계 - 미디어 항목들의 제2 세트와 미디어 항목들의 제3 세트는 상이함 -; 및
디스플레이 유닛 상에, 사용자 인터페이스를 통해 미디어 항목들의 제3 세트의 적어도 일부를 표시하는 단계를 추가로 포함하는, 방법.
71. 항목 70에 있어서, 미디어 항목들의 제3 세트의 각 미디어 항목은 제1 미디어 검색 요청 또는 제2 미디어 검색 요청에 정의된 적어도 하나의 파라미터 값과 연관되는, 방법.
72. 항목 70 또는 항목 71에 있어서, 미디어 항목들의 제2 세트의 적어도 일부는 사용자 인터페이스의 상단 행에 표시되고, 미디어 항목들의 제3 세트의 적어도 일부는 사용자 인터페이스 상의 하나 이상의 후속 행에 표시되는, 방법.
73. 항목들 70 내지 72 중 어느 한 항목에 있어서, 사용자 인터페이스의 포커스는 제2 미디어 검색 요청이 수신될 때 미디어 항목들의 제1 세트의 미디어 항목 상에 있으며, 미디어 항목들의 제3 세트는 미디어 항목들의 제1 세트의 미디어 항목과 상황적으로 관련되는, 방법.
74. 항목들 67 내지 73 중 어느 한 항목에 있어서, 제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청인지 여부의 결정을 획득하는 단계는 제2 미디어 검색 요청이 복수의 정제 용어 중 하나를 포함하는지 여부의 결정을 획득하는 단계를 포함하는, 방법.
75. 항목들 67 내지 74 중 어느 한 항목에 있어서, 제2 미디어 검색 요청은 자연 언어 형태인, 방법.
76. 항목들 67 내지 75 중 어느 한 항목에 있어서, 제2 미디어 검색 요청은 모호한 용어를 사용하여 파라미터 값을 정의하는, 방법.
77. 항목 76에 있어서,
모호한 용어와 파라미터 값 사이의 연관성의 강도에 기초한 파라미터 값을 자연 언어 처리를 사용하여 식별하는 단계를 추가로 포함하는, 방법.
78. 항목들 67 내지 77 중 어느 한 항목에 있어서, 미디어 항목들의 제1 세트의 각 미디어 항목은 품질 등급과 연관되고, 제2 미디어 검색 요청은 품질 등급과 연관된 파라미터 값을 정의하는, 방법.
79. 항목들 67 내지 78 중 어느 한 항목에 있어서, 미디어 항목들의 제1 세트의 각 미디어 항목은 지속시간과 연관되고, 제2 미디어 검색 요청은 지속시간과 연관된 파라미터 값을 정의하는, 방법.
80. 항목들 67 내지 79 중 어느 한 항목에 있어서, 미디어 항목들의 제1 세트의 각 미디어 항목은 인기도 평점과 연관되고, 제2 미디어 검색 요청은 인기도 평점과 연관된 파라미터 값을 정의하는, 방법.
81. 항목들 67 내지 80 중 어느 한 항목에 있어서, 미디어 항목들의 제1 세트의 각 미디어 항목은 출시일과 연관되고, 제2 미디어 검색 요청은 출시일과 연관된 파라미터 값을 정의하는, 방법.
82. 항목들 67 내지 81 중 어느 한 항목에 있어서,
제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청이 아니라는 결정을 획득하는 것에 응답하여,
제2 미디어 검색 요청을 만족시키는 미디어 항목들의 제4 세트를 획득하는 단계 - 미디어 항목들의 제4 세트는 미디어 항목들의 제1 세트와 상이함 -; 및
사용자 인터페이스를 통해 미디어 항목들의 제1 세트의 적어도 일부의 표시를 미디어 항목들의 제4 세트의 적어도 일부의 표시로 대체하는 단계를 추가로 포함하는, 방법.
83. 항목 82에 있어서, 미디어 항목들의 제4 세트의 각 미디어 항목은 제2 미디어 검색 요청에 정의된 하나 이상의 파라미터와 연관되는, 방법.
84. 항목 82 또는 항목 83에 있어서,
미디어 항목들의 제1 세트를 표시하는 동안 그리고 미디어 항목들의 제4 세트의 적어도 일부를 표시하는 동안, 디스플레이 유닛 상에 미디어 콘텐츠를 표시하는 단계를 추가로 포함하는, 방법.
85. 항목들 82 내지 84 중 어느 한 항목에 있어서, 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지하고, 방법은,
미디어 항목들의 제5 세트를 획득하는 단계 - 미디어 항목들의 제5 세트의 각 미디어 항목은 제1 미디어 검색 요청에 정의된 하나 이상의 파라미터 및 제2 미디어 검색 요청에 정의된 하나 이상의 파라미터와 연관됨 -; 및
사용자 인터페이스를 통해 디스플레이 유닛 상에 미디어 항목들의 제5 세트를 표시하는 단계를 추가로 포함하는, 방법.
86. 항목 85에 있어서, 사용자 인터페이스의 포커스는 제2 미디어 검색 요청이 수신될 때 미디어 항목들의 제1 세트 중 제2 미디어 항목 상에 있고, 제5 복수의 미디어 항목 중 하나 이상의 미디어 항목은 미디어 항목들의 제1 세트의 제2 미디어 항목과 연관된 파라미터 값을 포함하는, 방법.
87. 항목들 67 내지 86 중 어느 한 항목에 있어서, 사용자 인터페이스의 포커스는 제2 미디어 검색 요청이 검출될 때 미디어 항목들의 제1 세트 중 제3 미디어 항목 상에 있고, 방법은,
제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히라는 요청이 아니라는 결정을 획득하는 것에 응답하여,
제2 미디어 검색 요청이 미디어 항목들의 제1 세트 중 제3 미디어 항목과 유사한 미디어 항목들의 대안적인 세트를 획득하라는 요청인지 여부의 결정을 획득하는 단계;
제2 미디어 검색 요청이 미디어 항목들의 제1 세트 중 제3 미디어 항목과 유사한 미디어 항목들의 대안적인 세트를 획득하라는 요청이라는 결정을 획득하는 것에 응답하여,
미디어 항목들의 제6 세트를 획득하는 단계 - 미디어 항목들의 제6 세트의 각 미디어 항목은 제3 미디어 항목의 하나 이상의 파라미터 값과 연관됨 -; 및
디스플레이 유닛 상에 사용자 인터페이스를 통해 미디어 항목들의 제6 세트를 표시하는 단계를 추가로 포함하는, 방법.
88. 항목들 67 내지 87 중 어느 한 항목에 있어서, 미디어 항목들의 제1 세트는 제1 미디어 검색 요청에 기초하여 문자열 검색을 수행함으로써 획득되고, 미디어 항목들의 제2 세트는 제2 미디어 검색 요청에 정의된 하나 이상의 파라미터 값에 기초하여 구조화된 검색을 수행함으로써 획득되는, 방법.
89. 항목 88에 있어서, 제1 미디어 검색 요청은 키보드 인터페이스를 통해 수신되고, 제2 미디어 검색 요청은 자연 언어 스피치 형태로 수신되는, 방법.
90. 항목 88 또는 항목 89에 있어서, 구조화된 검색은 미디어 항목들의 제1 세트를 이용하여 수행되는, 방법.
91. 항목들 1 내지 90 중 어느 한 항목의 방법을 수행하기 위한 컴퓨터 실행가능 명령어들을 포함하는 비일시적 컴퓨터 판독가능 저장 매체.
92. 시스템으로서,
항목 91의 비일시적 컴퓨터 판독가능 저장 매체; 및
컴퓨터 실행가능 명령어들을 실행하도록 구성된 프로세서를 포함하는, 시스템.
93. 항목들 1 내지 90 중 어느 한 항목의 방법을 수행하기 위한 수단을 포함하는 장치.
94. 전자 디바이스로서,
입력 유닛;
오디오 수신 유닛; 및
입력 유닛 및 오디오 수신 유닛에 결합된 처리 유닛을 포함하고, 처리 유닛은,
디스플레이 유닛 상에 미디어 항목들의 일차 세트를 표시하고;
입력 유닛을 통해 사용자 입력을 검출하는 것에 응답하여, 오디오 수신 유닛을 통해 오디오 입력을 수신하고 - 오디오 입력은 자연 언어 스피치 형태의 미디어 관련 요청을 포함함 -;
미디어 관련 요청에 대응하는 일차 사용자 의도를 결정하고;
일차 사용자 의도가 미디어 항목들의 일차 세트에 대응하는 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함하는지 여부를 결정하고;
일차 사용자 의도가 일차 미디어 검색 질의를 좁히려는 사용자 의도를 포함한다는 결정에 따라:
미디어 관련 요청 및 일차 미디어 검색 질의에 기초하여, 일차 사용자 의도에 대응하는 제2 일차 미디어 검색 질의를 생성하고;
제2 일차 미디어 검색 질의를 수행하여 미디어 항목들의 제2 일차 세트를 획득하고;
디스플레이 유닛 상에서 미디어 항목들의 일차 세트의 표시를 미디어 항목들의 제2 일차 세트의 표시로 대체하도록 구성된, 전자 디바이스.
95. 전자 디바이스로서,
오디오 수신 유닛; 및
오디오 수신 유닛에 결합된 처리 유닛을 포함하고, 처리 유닛은,
오디오 수신 유닛을 통해 사용자로부터 미디어 검색 요청을 수신하고 - 미디어 검색 요청은 자연 언어 스피치 형태임 -;
미디어 검색 요청에 대응하는 일차 사용자 의도를 결정하고;
일차 사용자 의도에 따른 미디어 항목들의 일차 세트를 획득하고;
하나 이상의 이전 사용자 의도가 존재하는지 여부를 결정하고 - 하나 이상의 이전 사용자 의도는 미디어 검색 요청 이전에 수신된 하나 이상의 이전 미디어 검색 요청에 대응함 -;
하나 이상의 이전 사용자 의도가 존재한다고 결정하는 것에 응답하여,
일차 사용자 의도 및 하나 이상의 이전 사용자 의도에 기초하여 하나 이상의 이차 사용자 의도를 결정하고;
미디어 항목들의 복수의 이차 세트를 획득하고 - 미디어 항목들의 이차 세트 각각은 하나 이상의 이차 사용자 의도의 개개의 이차 사용자 의도에 대응함 -;
디스플레이 유닛 상에 미디어 항목들의 일차 세트 및 미디어 항목들의 복수의 이차 세트를 디스플레이하도록 구성된, 전자 디바이스.
96. 전자 디바이스로서,
입력 유닛; 및
입력 유닛에 결합된 처리 유닛을 포함하고, 처리 유닛은,
입력 유닛을 통해 제1 미디어 검색 요청을 수신하고;
제1 미디어 검색 요청을 만족시키는 미디어 항목들의 제1 세트를 획득하고;
디스플레이 유닛 상에, 사용자 인터페이스를 통해 미디어 항목들의 제1 세트를 표시하고;
미디어 항목들의 제1 세트의 적어도 일부를 표시하는 동안, 제2 미디어 검색 요청을 수신하고;
제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히려는 요청인지 여부의 결정을 획득하고;
제2 미디어 검색 요청이 제1 미디어 검색 요청을 좁히려는 요청이라는 결정을 획득하는 것에 응답하여,
제2 미디어 검색 요청을 만족시키는 미디어 항목들의 제2 세트를 획득하고 - 미디어 항목들의 제2 세트는 복수의 미디어 항목의 서브셋임 -;
사용자 인터페이스를 통해 미디어 항목들의 제1 세트의 적어도 일부의 표시를 미디어 항목들의 제2 세트의 적어도 일부의 표시로 대체하도록 구성된, 전자 디바이스.
전술한 설명이 다양한 요소들을 기술하기 위해 "제1", "제2" 등과 같은 용어들을 사용하지만, 이 요소들이 그 용어들에 의해 제한되어서는 안된다. 이들 용어들은 하나의 요소를 다른 요소와 구별하는 데에만 사용된다. 예를 들어, 다양한 기술된 실시예들의 범주로부터 벗어남이 없이, 제1 사용자 입력이 제2 사용자 입력으로 지칭될 수 있을 것이고, 이와 유사하게, 제2 사용자 입력이 제1 사용자 입력으로 지칭될 수 있을 것이다.
본 명세서에서 다양한 기술된 실시예들의 설명에 사용되는 용어는 특정의 실시예들을 기술하는 목적만을 위한 것이고, 제한하는 것으로 의도되어 있지 않다. 기술된 다양한 실시예들의 설명 및 첨부된 청구범위에 사용되는 바와 같이, 단수의 형태는 문맥상 명백히 달리 나타내지 않는다면 복수의 형태도 마찬가지로 포함하려는 것으로 의도된다. 또한, 본 명세서에서 사용되는 바와 같은 "및/또는"이라는 용어는 열거된 관련 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합들을 나타내고 그들을 포괄하는 것임이 이해될 것이다. 본 명세서에서 사용될 때 용어들 "포함한다(include)", "포함하는(including)", "포함한다(comprise)", 및/또는 "포함하는(comprising)"은 진술되는 특징들, 정수들, 단계들, 동작들, 요소들, 및/또는 컴포넌트들의 존재를 특정하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 이들의 그룹들의 존재 또는 추가를 배제하지 않음이 추가로 이해될 것이다.
"~인 경우(if)"라는 용어는, 문맥에 따라 "~할 때(when)" 또는 "~ 시(upon)" 또는 "결정하는 것에 응답하여(in response to determining)" 또는 "검출하는 것에 응답하여(in response to detecting)"를 의미하는 것으로 해석된다. 이와 유사하게, 구절 "~라고 결정된 경우" 또는 "[언급된 조건 또는 이벤트가] 검출된 경우"는 문맥에 따라 "~라고 결정할 시" 또는 "~라고 결정하는 것에 응답하여" 또는 "[언급된 조건 또는 이벤트]를 검출할 시" 또는 "[언급된 조건 또는 이벤트]를 검출한 것에 응답하여"를 의미하는 것으로 해석될 수 있다.
또한 전술한 설명은, 설명의 목적을 위해, 특정 실시예들을 참조하여 기술되었다. 그러나, 상기의 예시적인 논의들은 본 발명을 개시된 정확한 형태들로 규명하거나 제한하려는 의도는 아니다. 많은 수정들 및 변형들이 상기 교시 내용들의 관점에서 가능하다. 실시예들은 기법들의 개념 및 그것들의 실제 적용을 최상으로 설명하기 위하여 선택되고 기술된다. 따라서, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들은 고려된 특정 사용에 적합한 바와 같이 다양한 수정을 이용하여 기법들 및 다양한 실시예들을 최상으로 활용하는 것이 가능하게 된다.
본 개시내용 및 예들이 첨부의 도면들을 참조하여 충분히 설명되었지만, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 다양한 변경들 및 수정들이 명백할 것이라는 것에 주목하여야 한다. 그러한 변경들 및 수정들은 청구항들에 의해 정의되는 바와 같은 개시내용 및 예들의 범주 내에 포함되는 것으로 이해되어야 한다.
또한, 본 명세서에서 논의된 다양한 예 중 임의의 예에서, 다양한 양태가 특정 사용자에 대해 개인화될 수 있다. 연락처, 선호도, 위치, 선호하는 미디어 등을 포함하는 사용자 데이터는 음성 커맨드를 해석하고 본 명세서에서 논의된 다양한 디바이스와의 사용자 상호작용을 용이하게 하는 데 사용될 수 있다. 본 명세서에서 논의된 다양한 프로세스는 또한 사용자 선호도, 연락처, 텍스트, 사용 이력, 프로필 데이터, 인구통계 등에 따라 다양한 다른 방식으로 수정될 수 있다. 또한, 이러한 선호도 및 설정은 사용자 상호작용(예를 들어, 자주 발화된 커맨드, 자주 선택된 애플리케이션 등)에 기초하여 시간이 지남에 따라 업데이트될 수 있다. 다양한 소스에서 이용가능한 사용자 데이터를 수집하고 사용하는 것은 초청 콘텐츠 또는 사용자가 관심을 가질만한 임의의 다른 콘텐츠의 사용자에게의 전달을 향상시키는 데 사용될 수 있다. 본 개시내용은, 일부 경우들에 있어서, 이러한 수집된 데이터가 특정 개인을 고유하게 식별하거나 또는 그와 연락하거나 그의 위치를 확인하는 데 이용될 수 있는 개인 정보 데이터를 포함할 수 있음을 고려한다. 그러한 개인 정보 데이터는 인구통계 데이터, 위치 기반 데이터, 전화 번호들, 이메일 주소들, 집 주소들, 또는 임의의 다른 식별 정보를 포함할 수 있다.
본 개시내용은 본 기술에서의 그러한 개인 정보 데이터의 이용이 사용자들에게 이득을 주기 위해 사용될 수 있음을 인식한다. 예를 들어, 개인 정보 데이터는 더 큰 관심이 있는 타깃 콘텐츠를 사용자에게 전달하는 데 이용될 수 있다. 따라서, 그러한 개인 정보 데이터의 이용은 전달된 콘텐츠의 계산된 제어를 가능하게 한다. 게다가, 사용자에 이득을 주는 개인 정보 데이터에 대한 다른 이용들이 또한 본 개시내용에 의해 고려된다.
본 개시내용은 그러한 개인 정보 데이터의 수집, 분석, 공개, 전달, 저장, 또는 다른 이용을 책임지고 있는 엔티티들이 잘 확립된 프라이버시 정책들 및/또는 프라이버시 관례들을 준수할 것이라는 것을 추가로 고려한다. 특히, 그러한 엔티티들은, 대체로 개인 정보 데이터를 사적이고 안전하게 유지시키기 위한 산업적 또는 행정적 요건들을 만족시키거나 넘어서는 것으로 인식되는 프라이버시 정책들 및 관례들을 구현하고 지속적으로 이용해야 한다. 예를 들어, 사용자들로부터의 개인 정보는 엔티티의 적법하며 적정한 사용들을 위해 수집되어야 하고, 이들 적법한 사용들을 벗어나서 공유되거나 판매되지 않아야 한다. 또한, 그러한 수집은 단지 사용자들의 고지에 입각한 동의를 수신한 후에만 발생해야 한다. 부가적으로, 그러한 엔티티들은 그러한 개인 정보 데이터에 대한 액세스를 보호하고 안전하게 하며 개인 정보 데이터에 대한 액세스를 갖는 다른 사람들이 그들의 프라이버시 정책들 및 절차들을 고수한다는 것을 보장하기 위한 임의의 필요한 단계들을 취할 것이다. 게다가, 그러한 엔티티들은 널리 인정된 프라이버시 정책들 및 관례들에 대한 그들의 고수를 증명하기 위해 제3자들에 의해 그들 자신들이 평가를 받을 수 있다.
전술한 것에도 불구하고, 본 개시내용은 또한 사용자가 개인 정보 데이터의 이용, 또는 그에 대한 액세스를 선택적으로 차단하는 예들을 고려한다. 즉, 본 개시내용은 그러한 개인 정보 데이터에 대한 액세스를 방지하거나 차단하기 위해 하드웨어 및/또는 소프트웨어 요소들이 제공될 수 있다는 것을 고려한다. 예를 들어, 광고 전달 서비스들의 경우에, 본 기술은 사용자들이 서비스를 위한 등록 중에 개인 정보 데이터의 수집 시의 참여의 "동의함" 또는 "동의하지 않음"을 선택하는 것을 허용하도록 구성될 수 있다. 다른 예에서, 사용자들은 타깃 콘텐츠 전달 서비스들을 위한 위치 정보를 제공하지 않도록 선택할 수 있다. 또 다른 예에서, 사용자들은 정확한 위치 정보를 제공하지 않지만 위치 구역 정보의 전달을 허용하도록 선택할 수 있다.
따라서, 본 개시내용이 하나 이상의 다양한 개시된 예를 구현하기 위해 개인 정보 데이터의 사용을 광범위하게 커버하지만, 본 개시내용은 다양한 예가 또한 그러한 개인 정보 데이터에 액세스할 필요 없이 구현될 수 있다는 것을 또한 고려한다. 즉, 본 기술의 다양한 예는 그러한 개인 정보 데이터의 모두 또는 일부의 결여로 인해 동작 불가능하게 되지는 않는다. 예를 들어, 콘텐츠는, 사용자와 연관된 디바이스에 의해 요청되는 콘텐츠, 콘텐츠 전달 서비스들에 대해 이용가능한 다른 비-개인 정보, 또는 공개적으로 입수가능한 정보와 같은 비-개인 정보 데이터 또는 드러난 최소량의 개인 정보에 기초하여 선호도를 추론함으로써 선택되고 사용자들에게 전달될 수 있다.
부록
미디어 환경에서 지능형 자동화
어시스턴트
{INTELLIGENT AUTOMATED ASSISTANT IN A MEDIA ENVIRONMENT}
[관련 출원에 대한 상호 참조]
본 출원은 2015년 9월 8일자로 출원되고 발명의 명칭이 "Intelligent Automated Assistant in a Media Environment"인 미국 가출원 제62/215,676호로부터의 우선권을 주장하며, 이는 모든 목적을 위해 그 전문이 본 명세서에 참조로서 편입된다.
본 출원은 동시 계류중인 이하의 출원들에 관련된다: 2015년 12월 8일자로 출원되고 발명의 명칭이 "Intelligent AutomatedAssistant for Media Search and Playback"인 미국 정규 특허 출원 제14/963,089호(대리인 관리 번호 106842137900(P27499US1)), 2014년 9월 26일자로 출원되고 발명의 명칭이 "Intelligent AutomatedAssistant for TV User Interactions"인 미국 정규 특허 출원 제14/498,503호(대리인 관리 번호 106842065100(P18133US1)), 및 2014년 9월 26일자로 출원되고 발명의 명칭이 "Real-time Digital Assistant Knowledge Updates"인 미국 정규 특허 출원 제14/498,391호(대리인 관리 번호 106842097900(P22498US1)), 이들은 모든 목적을 위해 그 전문이 본 명세서에 참조로서 편입된다.
[기술분야]
이는 일반적으로 지능형 자동화 어시스턴트(intelligent automatedassistant)에 관한 것으로, 보다 구체적으로는 미디어 환경에서 동작하는 지능형 자동화 어시스턴트에 관한 것이다.
[배경기술]
지능형 자동화 어시스턴트(또는 디지털 어시스턴트)는 사용자들과 전자 디바이스들 사이의 직관적인 인터페이스를 제공할 수 있다. 이러한 어시스턴트들은 사용자들이 구어(spoken) 및/또는 텍스트 형태들의 자연 언어를 사용하여 디바이스들 또는 시스템들과 상호작용하도록 할 수 있다. 예를 들어, 사용자는 자연 언어 형태의 구어 사용자 입력을 전자 디바이스와 연관된 가상 어시스턴트에 제공함으로써 전자 디바이스의 서비스들에 액세스할 수 있다. 가상 어시스턴트는 구어 사용자 입력에 대한 자연 언어 처리를 수행하여 사용자의 의도를 추론하고, 사용자의 의도를 태스크들로 운용화할 수 있다. 이어서, 태스크들은 전자 디바이스의 하나 이상의 기능을 실행함으로써 수행될 수 있고, 일부 예들에서, 관련 출력이 자연 언어 형태로 사용자에게 반환될 수 있다.
미디어 환경(예컨대, 텔레비전, 텔레비전 셋톱 박스, 케이블 박스, 게이밍 디바이스, 스트리밍 미디어 디바이스, 디지털 비디오 녹화기 등) 내에 디지털 어시스턴트를 통합하는 것은 사용자가 미디어 소비와 관련된 태스크를 돕는 데 바람직할 수 있다. 예를 들어, 디지털 어시스턴트는 소비할 바람직한 미디어 콘텐츠를 찾는 것을 돕기 위해 활용될 수 있다. 그러나, 디지털 어시스턴트와의 사용자 상호작용은 미디어 콘텐츠의 소비를 방해할 수 있는 오디오 및 시각적 출력을 포함할 수 있다. 따라서, 미디어 콘텐츠의 소비에 대한 방해가 최소화되면서 사용자에게 충분한 도움이 제공되는 방식으로 미디어 환경에서 디지털 어시스턴트를 통합하는 것은 어려울 수 있다.
[발명의 내용]
미디어 환경에서 디지털 어시스턴트를 동작시키기 위한 시스템 및 프로세스가 개시된다. 일부 예시적인 프로세스에서, 콘텐츠를 표시하는 동안 사용자 입력이 검출될 수 있다. 프로세스는 사용자 입력이 제1 입력 유형에 대응하는지 여부를 결정할 수 있다. 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라, 복수의 예시적인 자연 언어 요청이 표시될 수 있다. 복수의 예시적인 자연 언어 요청은 표시된 콘텐츠와 상황적으로 관련될 수 있다.
일부 실시예들에서, 사용자 입력이 제1 입력 유형에 대응하지 않는다는 결정에 따라, 프로세스는 사용자 입력이 제2 입력 유형에 대응하는지 여부를 결정할 수 있다. 사용자 입력이 제2 입력 유형에 대응한다는 결정에 따라, 오디오 데이터가 샘플링될 수 있다. 프로세스는 오디오 데이터가 사용자 요청을 포함하는지 여부를 결정할 수 있다. 오디오 데이터가 사용자 요청을 포함한다는 결정에 따라, 사용자 요청을 적어도 부분적으로 만족시키는 태스크가 수행될 수 있다. 일부 예들에서, 태스크는 사용자 요청을 적어도 부분적으로 만족시키는 결과를 획득하는 것 및 결과의 일부를 갖는 제2 사용자 인터페이스를 표시하는 것을 포함할 수 있다. 제2 사용자 인터페이스가 표시되는 동안 콘텐츠의 일부는 계속 표시될 수 있고, 제2 사용자 인터페이스의 표시 영역은 콘텐츠의 일부의 표시 영역보다 작을 수 있다.
일부 실시예들에서, 제3 사용자 입력은 제2 사용자 인터페이스를 표시하는 동안 검출될 수 있다. 제3 사용자 입력을 검출하는 것에 응답하여, 제2 사용자 인터페이스의 표시는 결과의 일부를 갖는 제3 사용자 인터페이스의 표시로 대체될 수 있다. 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지할 수 있다. 또한, 사용자 요청을 적어도 부분적으로 만족시키는 제2 결과가 획득될 수 있다. 제2 결과는 결과와 상이할 수 있다. 제3 사용자 인터페이스는 제2 결과의 적어도 일부를 포함할 수 있다.
일부 실시예들에서, 제4 사용자 입력은 제3 사용자 인터페이스를 표시하는 동안 검출될 수 있다. 제4 사용자 입력은 방향을 나타낼 수 있다. 제4 사용자 입력을 검출하는 것에 응답하여, 제3 사용자 인터페이스의 포커스는 제3 사용자 인터페이스 내의 제1 항목으로부터 제3 사용자 인터페이스 내의 제2 항목으로 스위칭될 수 있다. 제2 항목은 제1 항목에 대해 상기 표시된 방향으로 위치설정될 수 있다.
일부 실시예들에서, 제5 사용자 입력은 제3 사용자 인터페이스를 표시하는 동안 검출될 수 있다. 제5 사용자 입력을 검출하는 것에 응답하여, 검색 필드가 표시될 수 있다. 부가적으로, 가상 키보드 인터페이스를 통해 수신된 입력이 검색 필드에 텍스트 입력을 야기할 수 있는 가상 키보드 인터페이스가 표시될 수 있다. 또한, 일부 실시예들에서, 제2 전자 디바이스의 디스플레이 상에 선택가능한 어포던스가 출현하도록 할 수 있는데, 여기서 어포던스의 선택은 텍스트 입력이 제2 전자 디바이스의 키보드를 통해 전자 디바이스에 의해 수신되게 한다.
일부 실시예들에서, 제6 사용자 입력은 제3 사용자 인터페이스를 표시하는 동안 검출될 수 있다. 제6 사용자 입력을 검출하는 것에 응답하여, 제2 사용자 요청을 포함하는 제2 오디오 데이터가 샘플링될 수 있다. 프로세스는 제2 사용자 요청은 사용자 요청의 결과를 정제하라는 요청인지 여부를 결정할 수 있다. 제2 사용자 요청이 사용자 요청의 결과를 정제하라는 요청이라는 결정에 따라, 결과의 서브셋은 제3 사용자 인터페이스를 통해 표시될 수 있다. 제2 사용자 요청이 사용자 요청의 결과를 정제하라는 요청이 아니라는 결정에 따라, 제2 사용자 요청을 적어도 부분적으로 만족시키는 제3 결과가 획득될 수 있다. 제3 결과의 일부는 제3 사용자 인터페이스를 통해 표시될 수 있다.
일부 실시예들에서, 샘플링된 오디오 데이터는 사용자 발화를 포함할 수 있고, 사용자 발화에 대응하는 사용자 의도가 결정될 수 있다. 프로세스는 사용자 의도가 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함하는지 여부를 결정할 수 있다. 사용자 의도가 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함한다는 결정에 따라, 애플리케이션의 상태 또는 설정은 사용자 의도를 만족시키도록 조정될 수 있다.
일부 실시예들에서, 사용자 의도가 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함하지 않는다는 결정에 따라, 프로세스는 사용자 의도가 복수의 미리결정된 요청 유형 중 하나인지 여부를 결정할 수 있다. 사용자 의도가 복수의 미리결정된 요청 유형 중 하나라는 결정에 따라, 사용자 의도를 적어도 부분적으로 만족시키는 텍스트 전용 결과가 표시될 수 있다.
일부 실시예들에서, 사용자 의도가 복수의 미리결정된 요청 유형 중 하나가 아니라는 결정에 따라, 프로세스는 표시된 콘텐츠가 미디어 콘텐츠를 포함하는지 여부를 결정할 수 있다. 표시된 콘텐츠가 미디어 콘텐츠를 포함한다는 결정에 따라, 프로세스는 미디어 콘텐츠가 일시정지될 수 있는지 여부를 추가로 결정할 수 있다. 미디어 콘텐츠가 일시정지될 수 있다는 결정에 따라, 미디어 콘텐츠는 일시정지되고, 사용자 의도를 적어도 부분적으로 만족시키는 결과가 제3 사용자 인터페이스를 통해 표시될 수 있다. 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지할 수 있다. 미디어 콘텐츠가 일시정지될 수 없다는 결정에 따라, 미디어 콘텐츠가 표시되는 동안 제2 사용자 인터페이스를 통해 결과가 표시될 수 있다. 제2 사용자 인터페이스에 의해 차지된 표시 영역은 미디어 콘텐츠에 의해 차지된 표시 영역보다 작을 수 있다. 또한, 일부 실시예들에서, 표시된 콘텐츠가 미디어 콘텐츠를 포함하지 않는다는 결정에 따라, 제3 사용자 인터페이스를 통해 결과가 표시될 수 있다.
[도면의 간단한 설명]
도 1은 다양한 예에 따른, 디지털 어시스턴트를 구현하기 위한 시스템 및 환경을 도시하는 블록도이다.
도 2는 다양한 예에 따른, 미디어 시스템을 도시하는 블록도이다.
도 3은 다양한 예에 따른, 사용자 디바이스를 도시하는 블록도이다.
도 4a는 다양한 예에 따른 디지털 어시스턴트 시스템 또는 그 서버 부분을 도시하는 블록도이다.
도 4b는 다양한 예에 따른, 도 4a에 도시된 디지털 어시스턴트의 기능을 도시한다.
도 4c는 다양한 예에 따른, 온톨로지의 일부를 도시한다.
도 5a 내지 도 5i는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 프로세스를 도시한다.
도 6a 내지 도 6q는 다양한 예에 따른, 도 5a 내지 도 5i에 도시된 프로세스의 다양한 단계에서 미디어 디바이스에 의해 디스플레이 유닛 상에 표시된 스크린 샷을 도시한다.
도 7a 내지 도 7c는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 프로세스를 도시한다.
도 8a 내지 도 8w는 다양한 예에 따른, 도 7a 내지 도 7c에 도시된 프로세스의 다양한 단계에서 미디어 디바이스에 의해 디스플레이 유닛 상에 표시된 스크린 샷을 도시한다.
도 9는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 프로세스를 도시한다.
도 10은 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
도 11은 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
[발명을 실시하기 위한 구체적인 내용]
예들의 다음 설명에서, 첨부된 도면들이 참조되며, 실행될 수 있는 특정 예들이 도면들 내에서 예시로서 도시된다. 다양한 예의 범주를 벗어나지 않으면서 다른 예들이 이용될 수 있고 구조적 변경이 행해질 수 있다는 것이 이해되어야 한다.
이는 미디어 환경에서 디지털 어시스턴트를 동작시키기 위한 시스템 및 프로세스와 관련된다. 일례의 프로세스에서, 콘텐츠를 표시하는 동안 사용자 입력이 검출될 수 있다. 프로세스는 사용자 입력이 제1 입력 유형에 대응하는지 여부를 결정할 수 있다. 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라, 복수의 예시적인 자연 언어 요청이 표시될 수 있다. 복수의 예시적인 자연 언어 요청은 표시된 콘텐츠와 상황적으로 관련될 수 있다. 상황적으로 관련된 예시적인 자연 언어 요청은 미디어 디바이스 상에서 사용자의 현재 사용 조건에 가장 관련이 있는 디지털 어시스턴트의 능력들을 사용자에게 편리하게 알려주는 것이 바람직할 수 있다. 이는 사용자가 디지털 어시스턴트의 서비스를 활용하도록 북돋을 수 있으며, 또한 디지털 어시스턴트를 이용하여 사용자의 대화형 경험을 향상시킬 수 있다.
일부 실시예들에서, 사용자 입력이 제1 입력 유형에 대응하지 않는다는 결정에 따라, 프로세스는 사용자 입력이 제2 입력 유형에 대응하는지 여부를 결정할 수 있다. 사용자 입력이 제2 입력 유형에 대응한다는 결정에 따라, 오디오 데이터가 샘플링될 수 있다. 프로세스는 오디오 데이터가 사용자 요청을 포함하는지 여부를 결정할 수 있다. 오디오 데이터가 사용자 요청을 포함한다는 결정에 따라, 사용자 요청을 적어도 부분적으로 만족시키는 태스크가 수행될 수 있다.
일부 실시예들에서, 수행되는 태스크는 사용자 요청의 속성, 및 제2 입력 유형의 사용자 입력이 검출되는 동안 표시되는 콘텐츠에 따라 달라질 수 있다. 사용자 요청이 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청(예를 들어, 표시된 미디어 콘텐츠에 대한 자막을 켜는 것)인 경우, 태스크는 애플리케이션의 상태 또는 설정을 조정하는 것을 포함할 수 있다. 사용자 요청이 텍스트 전용 출력(예를 들어, 현재 시간에 대한 요청)과 연관된 복수의 미리결정된 요청 유형 중 하나인 경우, 태스크는 사용자 요청을 만족시키는 텍스트를 표시하는 것을 포함할 수 있다. 표시된 콘텐츠가 미디어 콘텐츠를 포함하고 사용자 요청이 결과를 획득하고 표시하도록 요구하는 경우, 프로세스는 미디어 콘텐츠가 일시정지될 수 있는지 여부를 결정할 수 있다. 미디어 콘텐츠가 일시정지될 수 있다고 결정되는 경우, 미디어 콘텐츠는 일시정지되고, 그 사용자 요청을 만족시키는 결과가 확장된 사용자 인터페이스(예컨대, 도 6h에 도시된 제3 사용자 인터페이스(626)) 상에 표시될 수 있다. 미디어 콘텐츠가 일시정지될 수 없다고 결정되는 경우, 미디어 콘텐츠가 계속 표시되는 동안, 그 사용자 요청을 만족시키는 결과가 압축된 사용자 인터페이스(예컨대, 도 6g에 도시된 제2 사용자 인터페이스(618)) 상에 표시될 수 있다. 제2 사용자 인터페이스의 표시 영역은 미디어 콘텐츠의 표시 영역보다 작을 수 있다. 또한, 표시된 콘텐츠가 미디어 콘텐츠를 포함하지 않는 경우, 그 사용자 요청을 만족시키는 결과가 확장된 사용자 인터페이스 상에 표시될 수 있다. 표시된 콘텐츠 및 사용자 요청의 유형에 따라 출력 형태를 조정함으로써, 디지털 어시스턴트는 포괄적인 도움을 지능적으로 균형있게 제공하면서 사용자의 미디어 콘텐츠의 소비에 대한 방해를 최소화시킬 수 있다. 이로 인해 사용자 환경이 개선될 수 있다.
1. 시스템 및 환경
도 1은 다양한 예에 따른, 디지털 어시스턴트를 동작시키기 위한 예시적인 시스템(100)을 도시한다. 용어들 "디지털 어시스턴트", "가상 어시스턴트", "지능형 자동화 어시스턴트", 또는 "자동 디지털 어시스턴트"는 구어적 및/또는 문어적 형태로 입력되는 자연 언어를 해석하여 사용자 의도를 추론하고, 추론된 사용자 의도에 기초하여 동작들을 수행하는 임의의 정보 처리 시스템을 지칭할 수 있다. 예를 들어, 추론된 사용자 의도에 따라 동작하기 위해, 시스템은 다음 중 하나 이상을 수행할 수 있다: 추론된 사용자 의도를 달성하도록 설계된 단계들 및 파라미터들을 이용하여 태스크 흐름을 식별하는 것; 추론된 사용자 의도로부터의 특정 요건들을 태스크 흐름 내에 입력하는 것; 프로그램들, 방법들, 서비스들, 애플리케이션 프로그래밍 인터페이스(API)들 등을 호출함으로써 태스크 흐름을 실행하는 것; 및 청각적(예컨대, 스피치(speech)) 및/또는 시각적 형태로 사용자에게 출력 응답들을 생성하는 것.
구체적으로, 디지털 어시스턴트는 적어도 부분적으로 자연 언어 커맨드, 요청, 진술, 서술, 및/또는 질문의 형태로 사용자 요청을 수용할 수 있다. 전형적으로, 사용자 요청은 정보제공형 답변 또는 디지털 어시스턴트에 의한 태스크의 수행 중 어느 하나를 구할 수 있다. 사용자 요청에 대한 만족스러운 응답은 요청된 정보제공형 답변의 제공, 요청된 태스크의 수행, 또는 이 둘의 조합일 수 있다. 예를 들어, 사용자는 디지털 어시스턴트에게, "파리는 몇 시야?"와 같은 질문을 할 수 있다. 디지털 어시스턴트는 요청된 정보를 검색하고 "파리는 오후 4시입니다"라고 응답할 수 있다. 사용자는 또한 "리즈 위더스푼이 주연한 영화를 찾아줘"와 같은 태스크의 수행을 요청할 수 있다. 이에 응답하여, 디지털 어시스턴트는 요청된 검색 질의를 수행하고 사용자가 선택할 수 있는 관련 영화 제목을 표시할 수 있다. 요청된 태스크의 수행 동안, 디지털 어시스턴트는 때때로 연장된 기간에 걸쳐 다수의 정보 교환을 수반하는 연속 대화로 사용자와 상호작용할 수 있다. 디지털 어시스턴트와 상호작용하여 정보 또는 다양한 태스크의 수행을 요청하는 수많은 다른 방식이 있다. 텍스트 응답을 제공하고 프로그래밍된 동작을 수행하는 것에 부가하여, 디지털 어시스턴트는 예를 들어 음성, 경고, 음악, 이미지, 비디오, 애니메이션 등과 같은 다른 시각적 또는 오디오 형태의 응답을 또한 제공할 수 있다. 또한, 본 명세서에서 논의되는 바와 같이, 예시적인 디지털 어시스턴트는 미디어 콘텐츠의 재생(예컨대, 텔레비전 셋톱 박스 상에서)을 제어하고 미디어 콘텐츠 또는 다른 정보를 디스플레이 유닛(예컨대, 텔레비전) 상에 표시되게 할 수 있다. 디스플레이 유닛은 디스플레이로 지칭될 수 있다.
도 1에 도시된 바와 같이, 일부 예들에서, 디지털 어시스턴트는 클라이언트-서버 모델에 따라 구현될 수 있다. 디지털 어시스턴트는 미디어 디바이스(104) 상에서 실행되는 클라이언트 측 부분(102)(이하, "DA 클라이언트(102)"), 및 서버 시스템(108) 상에서 실행되는 서버 측 부분(106)(이하, "DA 서버(106)")을 포함할 수 있다. 또한, 일부 예들에서, 클라이언트 측 부분은 또한 사용자 디바이스(122) 상에서 실행될 수 있다. DA 클라이언트(102)는 하나 이상의 네트워크(110)를 통해 DA 서버(106)와 통신할 수 있다. DA 클라이언트(102)는 사용자 대면 입력 및 출력 처리, 및 DA 서버(106)와의 통신과 같은 클라이언트 측 기능들을 제공할 수 있다. DA 서버(106)는 개개의 디바이스(예컨대, 미디어 디바이스(104) 및 사용자 디바이스(122)) 상에 각각 존재하는 임의의 수의 DA 클라이언트들(102)에 서버 측 기능들을 제공할 수 있다.
미디어 디바이스(104)는 미디어 콘텐츠를 관리 및 제어하도록 구성된 임의의 적합한 전자 디바이스일 수 있다. 예를 들어, 미디어 디바이스(104)는 케이블 박스 디바이스, 위성 박스 디바이스, 비디오 플레이어 디바이스, 비디오 스트리밍 디바이스, 디지털 비디오 녹화기, 게이밍 시스템, DVD 플레이어, Blu-ray Disc™ 플레이어, 그러한 디바이스들의 조합 등과 같은 텔레비전 셋톱 박스를 포함할 수 있다. 도 1에 도시된 바와 같이, 미디어 디바이스(104)는 미디어 시스템(128)의 일부일 수 있다. 미디어 디바이스(104)에 부가하여, 미디어 시스템(128)은 원격 제어부(124) 및 디스플레이 유닛(126)을 포함할 수 있다. 미디어 디바이스(104)는 미디어 콘텐츠를 디스플레이 유닛(126) 상에 표시할 수 있다. 디스플레이 유닛(126)은 텔레비전 디스플레이, 모니터, 프로젝터 등과 같은 임의의 유형의 디스플레이일 수 있다. 일부 예들에서, 미디어 디바이스(104)는 디스플레이 유닛(126)과 통합되거나 분리될 수 있는 오디오 시스템(예컨대, 오디오 수신기) 및 스피커(도시되지 않음)에 연결될 수 있다. 다른 예들에서, 디스플레이 유닛(126) 및 미디어 디바이스(104)는 진보된 처리 및 네트워크 연결성 능력들(network connectivity capabilities)을 갖는 스마트 텔레비전과 같은 단일 디바이스에 함께 통합될 수 있다. 이러한 예들에서, 미디어 디바이스(104)의 기능들은 조합된 디바이스 상의 애플리케이션으로서 실행될 수 있다.
일부 예들에서, 미디어 디바이스(104)는 미디어 콘텐츠의 다수의 유형 및 소스에 대한 미디어 제어 센터로서 기능할 수 있다. 예를 들어, 미디어 디바이스(104)는 라이브 텔레비전(예컨대, 지상파, 위성, 또는 케이블 TV)에 대한 사용자 액세스를 용이하게 할 수 있다. 이와 같이, 미디어 디바이스(104)는 케이블 튜너, 위성 튜너 등을 포함할 수 있다. 일부 예들에서, 미디어 디바이스(104)는 또한 나중에 타임-시프팅된(time-shifted) 시청을 위해 TV 프로그램을 녹화할 수 있다. 다른 예들에서, 미디어 디바이스(104)는 케이블-전달된 주문형 TV 쇼, 비디오, 및 음악뿐만 아니라 인터넷-전달된 TV 쇼, 비디오, 및 음악과 같은 하나 이상의 스트리밍 미디어 서비스(예컨대, 다양한 무료, 유료, 및 구독 기반 스트리밍 서비스들로부터의)에 대한 액세스를 제공할 수 있다. 또 다른 예들에서, 미디어 디바이스(104)는 모바일 사용자 디바이스로부터의 사진을 표시하거나, 결합된 저장 디바이스로부터 비디오를 재생하거나, 결합된 음악 플레이어로부터 음악을 재생하는 것 등과 같은 임의의 다른 소스로부터의 미디어 콘텐츠의 재생 또는 표시를 용이하게 할 수 있다. 미디어 디바이스(104)는 또한 원하는 대로 본 명세서에서 논의된 미디어 제어 특징부들의 다양한 다른 조합을 포함할 수 있다. 미디어 디바이스(104)의 상세한 설명은 도 2를 참조하여 아래에 제공된다.
사용자 디바이스(122)는 모바일 전화기(예컨대, 스마트폰), 태블릿 컴퓨터, 휴대용 미디어 플레이어, 데스크톱 컴퓨터, 랩톱 컴퓨터, PDA, 착용가능한 전자 디바이스(예컨대, 디지털 안경, 손목 밴드, 손목 시계, 브로치, 암밴드 등) 등과 같은 임의의 개인용 전자 디바이스일 수 있다. 사용자 디바이스(122)의 상세한 설명은 도 3를 참조하여 아래에 제공된다.
일부 예들에서, 사용자는 사용자 디바이스(122), 원격 제어부(124), 또는 미디어 디바이스(104)와 통합된 인터페이스 요소(예컨대, 버튼, 마이크로폰, 카메라, 조이스틱 등)를 통해 미디어 디바이스(104)와 상호작용할 수 있다. 예를 들어, 미디어 관련 질의 또는 디지털 어시스턴트에 대한 커맨드를 포함하는 스피치 입력은 사용자 디바이스(122) 및/또는 원격 제어부(124)에서 수신될 수 있으며, 스피치 입력은 미디어 관련 태스크가 미디어 디바이스(104) 상에서 수행되게 하는 데 사용될 수 있다. 마찬가지로, 미디어 디바이스(104) 상의 미디어를 제어하기 위한 촉각 커맨드는 사용자 디바이스(122) 및/또는 원격 제어부(124)에서 수신될 수 있다(또한 도시되지 않은 다른 디바이스로부터). 따라서, 미디어 디바이스(104)의 다양한 기능들이 다양한 방식으로 제어될 수 있어, 다수의 디바이스로부터 미디어 콘텐츠를 제어하기 위한 다수의 옵션을 사용자들에게 제공한다.
통신 네트워크(들)(110)의 예들은 근거리 통신망(LAN) 및 광역 통신망(WAN), 예컨대 인터넷을 포함할 수 있다. 통신 네트워크(들)(110)는, 예를 들어 이더넷(Ethernet), 범용 직렬 버스(Universal Serial Bus;USB), 파이어와이어(FIREWIRE), GSM(Global System for Mobile Communications), EDGE(Enhanced Data GSM Environment), 코드 분할 다중 접속(code division multipleaccess; CDMA), 시간 분할 다중 접속(time division multipleaccess; TDMA), 블루투스(Bluetooth), Wi-Fi, VoIP(voice over Internet Protocol), Wi-MAX, 또는 임의의 다른 적합한 통신 프로토콜과 같은 다양한 유선 또는 무선 프로토콜들을 포함하는 임의의 알려진 네트워크 프로토콜을 이용하여 구현될 수 있다.
DA 서버(106)는 클라이언트 대면 입력/출력(I/O) 인터페이스(112), 하나 이상의 처리 모듈(114), 데이터 및 모델들(116), 및 외부 서비스들에 대한 I/O 인터페이스(118)를 포함할 수 있다. 클라이언트 대면 I/O 인터페이스(112)는 DA 서버(106)에 대한 클라이언트 대면 입력 및 출력 처리를 용이하게 할 수 있다. 하나 이상의 처리 모듈(114)은 데이터 및 모델들(116)을 이용하여 스피치 입력을 처리하고 자연 언어 입력에 기초하여 사용자의 의도를 결정할 수 있다. 또한, 하나 이상의 처리 모듈(114)은 추론된 사용자 의도에 기초하여 태스크 실행을 수행할 수 있다. 일부 예들에서, DA 서버(106)는 태스크 완수 또는 정보 획득을 위해 네트워크(들)(110)를 통하여, 외부 서비스들(120), 예컨대 전화 통신 서비스들, 캘린더 서비스(calendar service)들, 정보 서비스들, 메시징 서비스들, 내비게이션 서비스들, 텔레비전 프로그래밍 서비스들, 스트리밍 미디어 서비스들, 미디어 검색 서비스들 등과 통신할 수 있다. 외부 서비스들에 대한 I/O 인터페이스(118)는 그러한 통신들을 용이하게 할 수 있다.
서버 시스템(108)은 하나 이상의 독립형 데이터 처리 장치 또는 분산형 컴퓨터 네트워크 상에 구현될 수 있다. 일부 예들에서, 서버 시스템(108)은 서버 시스템(108)의 기본 컴퓨팅 리소스들 및/또는 인프라구조 리소스들을 제공하기 위해 제3자 서비스 제공자들(예컨대, 제3자 클라우드 서비스 제공자들)의 다양한 가상 디바이스들 및/또는 서비스들을 또한 채용할 수 있다.
도 1에 도시된 디지털 어시스턴트가 클라이언트 측 부분(예컨대, DA 클라이언트(102)) 및 서버 측 부분(예컨대, DA 서버(106)) 둘 모두를 포함할 수 있지만, 일부 예들에서, 디지털 어시스턴트의 기능들은 사용자 디바이스 또는 미디어 디바이스 상에 설치된 독립형 애플리케이션으로서 구현될 수 있다. 게다가, 디지털 어시스턴트의 클라이언트 부분과 서버 부분 사이의 기능들의 분담은 상이한 구현예들에서 다를 수 있다. 예를 들어, 일부 예들에서, 사용자 디바이스(122) 또는 미디어 디바이스(104) 상에서 실행되는 DA 클라이언트는, 오로지 사용자 대면 입력 및 출력 처리 기능들만을 제공하고, 디지털 어시스턴트의 다른 모든 기능들을 백엔드 서버에 위임하는 씬-클라이언트(thin-client)일 수 있다.
2. 미디어 시스템
도 2는 다양한 예에 따른, 미디어 시스템(128)의 블록도를 도시한다. 미디어 시스템(128)은 디스플레이 유닛(126), 원격 제어부(124), 및 스피커(268)에 통신가능하게 결합된 미디어 디바이스(104)를 포함할 수 있다. 미디어 디바이스(104)는 원격 제어부(124)를 통해 사용자 입력을 수신할 수 있다. 미디어 디바이스(104)로부터의 미디어 콘텐츠는 디스플레이 유닛(126) 상에 표시될 수 있다.
본 예에서, 도 2에 도시된 바와 같이, 미디어 디바이스(104)는 메모리 인터페이스(202), 하나 이상의 프로세서(204), 및 주변기기 인터페이스(206)를 포함할 수 있다. 미디어 디바이스(104) 내의 다양한 컴포넌트는 하나 이상의 통신 버스 또는 신호 라인에 의해 서로 결합될 수 있다. 미디어 디바이스(104)는 다양한 서브시스템, 및 주변기기 인터페이스(206)에 결합되는 주변기기 디바이스들을 추가로 포함할 수 있다. 서브시스템들 및 주변기기 디바이스들은 정보를 수집하고/하거나 미디어 디바이스(104)의 다양한 기능들을 용이하게 할 수 있다.
예를 들어, 미디어 디바이스(104)는 통신 서브시스템(224)을 포함할 수 있다. 통신 기능들은 다양한 통신 포트, 무선 주파수 수신기 및 송신기, 및/또는 광학(예컨대, 적외선) 수신기 및 송신기를 포함할 수 있는 하나 이상의 유선 및/또는 무선 통신 서브시스템(224)을 통하여 용이하게 할 수 있다.
일부 예들에서, 미디어 디바이스(104)는 주변기기 인터페이스(206)에 결합된 I/O 서브시스템(240)을 추가로 포함할 수 있다. I/O 서브시스템(240)은 오디오/비디오 출력 제어기(270)를 포함할 수 있다. 오디오/비디오 출력 제어기(270)는 디스플레이 유닛(126) 및 스피커(268)에 결합될 수 있거나 그렇지 않으면 (예를 들어, 오디오/비디오 포트, 무선 송신 등을 통해) 오디오 및 비디오 출력을 제공할 수 있다. I/O 서브시스템(240)은 원격 제어기(242)를 추가로 포함할 수 있다. 원격 제어기(242)는 (예를 들어, 유선 연결, 블루투스, Wi-Fi 등을 통해) 원격 제어부(124)에 통신가능하게 결합될 수 있다.
원격 제어부(124)는 오디오 데이터(예를 들어, 사용자로부터의 스피치 입력)를 캡처하기 위한 마이크로폰(272), 촉각 입력을 캡처하기 위한 버튼(들)(274), 및 원격 제어기(242)를 통해 미디어 디바이스(104)와의 통신을 용이하게 하기 위한 송수신기(276)를 포함할 수 있다. 또한, 원격 제어부(124)는 햅틱 및/또는 촉각적 접촉에 기초하여 사용자로부터의 입력을 수용하는 터치 감응형 표면(278), 센서, 또는 센서들의 세트를 포함할 수 있다. 터치 감응형 표면(278) 및 원격 제어기(242)는 터치 감응형 표면(278) 상의 접촉(및 접촉의 임의의 이동 또는 중지)을 검출하고, 검출된 접촉(예컨대, 제스처, 접촉 모션 등)을 디스플레이 유닛(126) 상에 표시된 사용자 인터페이스 객체들(예컨대, 하나 이상의 소프트 키, 아이콘, 웹 페이지 또는 이미지)과의 상호작용으로 변환할 수 있다. 일부 예들에서, 원격 제어부(124)는 또한 키보드, 조이스틱 등과 같은 기타 입력 메커니즘을 포함할 수 있다. 일부 예들에서, 원격 제어부(124)는 조명, 디스플레이, 스피커 등과 같은 출력 메커니즘을 추가로 포함할 수 있다. 원격 제어부(124)에서 수신된 입력(예를 들어, 사용자 스피치, 버튼 누르기, 접촉 모션 등)은 원격 제어부(124)를 통해 미디어 디바이스(104)에 전달될 수 있다. I/O 서브시스템(240)은 또한 기타 입력 제어기(들)(244)를 포함할 수 있다. 기타 입력 제어기(들)(244)가 하나 이상의 버튼, 로커 스위치(rocker switch), 지동륜(thumb-wheel), 적외선 포트, USB 포트, 및/또는 포인터 디바이스, 예컨대 스타일러스와 같은 기타 입력/제어 디바이스들(248)에 결합될 수 있다.
일부 예들에서, 미디어 디바이스(104)는 메모리(250)에 결합되는 메모리 인터페이스(202)를 추가로 포함할 수 있다. 메모리(250)는 임의의 전자, 자기, 광학, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스; 휴대용 컴퓨터 디스켓(자기); 랜덤 액세스 메모리(RAM)(자기); 판독 전용 메모리(ROM)(자기); 소거가능 프로그래머블 판독 전용 메모리(EPROM)(자기); CD, CD-R, CD-RW, DVD, DVD-R, 또는 DVD-RW와 같은 휴대용 광학 디스크; 또는 콤팩트 플래시 카드, 보안 디지털 카드, USB 메모리 디바이스, 메모리 스틱 등과 같은 플래시 메모리를 포함할 수 있다. 일부 예들에서, 메모리(250)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함(processor-containing) 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들은 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 상에 저장될 수 있거나 또는 메모리(250)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
일부 예들에서, 메모리(250)는 운영 체제(252), 통신 모듈(254), 그래픽 사용자 인터페이스(GUI) 모듈(256), 온-디바이스(on-device) 미디어 모듈(258), 오프-디바이스(off-device) 미디어 모듈(260), 및 애플리케이션 모듈(262)을 저장할 수 있다. 운영 체제(252)는 기본 시스템 서비스들을 처리하고 하드웨어 의존적 태스크들을 수행하기 위한 명령어들을 포함할 수 있다. 통신 모듈(254)은 하나 이상의 추가 디바이스, 하나 이상의 컴퓨터, 및/또는 하나 이상의 서버와의 통신을 용이하게 할 수 있다. 그래픽 사용자 인터페이스 모듈(256)은 그래픽 사용자 인터페이스 처리를 용이하게 할 수 있다. 온-디바이스 미디어 모듈(258)은 미디어 디바이스(104) 상에 국부적으로 저장된 미디어 콘텐츠의 저장 및 재생을 용이하게 할 수 있다. 오프-디바이스 미디어 모듈(260)은 외부 소스(예를 들어, 원격 서버 상에서, 사용자 디바이스(122) 상에서 등)로부터 획득된 미디어 콘텐츠의 스트리밍 재생 또는 다운로드를 용이하게 할 수 있다. 또한, 오프-디바이스 미디어 모듈(260)은 브로드캐스트 및 케이블 콘텐츠를 수신하는 것(예컨대, 채널 튜닝)을 용이하게 할 수 있다. 애플리케이션 모듈(262)은 웹 브라우징, 미디어 처리, 게이밍, 및/또는 기타 프로세스들 및 기능들과 같은 미디어 관련 애플리케이션들의 다양한 기능들을 용이하게 할 수 있다.
본 명세서에 기술된 바와 같이, 메모리(250)는 또한 예를 들어, 디지털 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 클라이언트 측 디지털 어시스턴트 명령어들을(예컨대, 디지털 어시스턴트 클라이언트 모듈(264) 내에) 그리고 다양한 사용자 데이터(266)(예컨대, 사용자-특정 어휘 데이터, 선호도 데이터, 및/또는 사용자의 미디어 검색 이력, 미디어 시청 목록, 최신 시청 목록, 선호 미디어 항목들 등과 같은 기타 데이터)를 저장할 수 있다. 사용자 데이터(266)는 또한 디지털 어시스턴트를 지원하거나 임의의 다른 애플리케이션을 위한 스피치 인식을 수행하는 데 사용될 수 있다.
다양한 예에서, 디지털 어시스턴트 클라이언트 모듈(264)은 미디어 디바이스(104)의 다양한 사용자 인터페이스들(예컨대, I/O 서브시스템(240) 등)을 통하여 음성 입력(voice input)(예컨대, 스피치 입력), 텍스트 입력, 터치 입력, 및/또는 제스처 입력을 수용할 수 있다. 디지털 어시스턴트 클라이언트 모듈(264)은 또한 오디오(예컨대, 스피치 출력), 시각적, 및/또는 촉각적 형태들로 출력을 제공할 수 있다. 예를 들어, 출력은 음성, 소리, 경고, 텍스트 메시지, 메뉴, 그래픽, 비디오, 애니메이션, 진동, 및/또는 이들 중 둘 이상의 것들의 조합들로서 제공될 수 있다. 동작 동안, 디지털 어시스턴트 클라이언트 모듈(264)은 통신 서브시스템(224)을 사용하여 디지털 어시스턴트 서버(예컨대, DA 서버(106))와 통신할 수 있다.
일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(264)은 사용자와 연관된 상황, 현재 사용자 상호작용, 및/또는 현재 사용자 입력을 확립하기 위해 다양한 서브시스템들, 및 주변기기 디바이스들을 이용하여 미디어 디바이스(104)와 관련된 추가 정보 및 미디어 디바이스(104)의 주위 환경으로부터 추가 정보를 수집할 수 있다. 이러한 상황은 또한 다른 디바이스들로부터, 예컨대 사용자 디바이스(122)로부터의 정보를 포함할 수 있다. 일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(264)은 디지털 어시스턴트 서버에 사용자 입력과 함께 상황 정보 또는 그의 서브셋을 제공하여 사용자 의도를 추론하는 것을 도울 수 있다. 디지털 어시스턴트는 또한 상황 정보를 이용하여 어떻게 출력들을 준비하여 사용자에게 전달할지를 결정할 수 있다. 상황 정보는 정확한 스피치 인식을 지원하기 위해 미디어 디바이스(104) 또는 서버 시스템(108)에 의해 추가로 사용될 수 있다.
일부 예들에서, 사용자 입력을 동반하는 상황 정보는 센서 정보, 예컨대 조명, 주변 잡음, 주변 온도, 다른 물체까지의 거리 등을 포함할 수 있다. 상황 정보는 미디어 디바이스(104)의 물리적 상태(예컨대, 디바이스 위치, 디바이스 온도, 전력 레벨 등) 또는 미디어 디바이스(104)의 소프트웨어 상태(예컨대, 실행 중인 프로세스들, 설치된 애플리케이션들, 과거 및 현재 네트워크 활동들, 백그라운드 서비스들, 에러 로그들, 리소스 사용량 등)와 연관된 정보를 추가로 포함할 수 있다. 상황 정보는 사용자로부터 수신된 정보(예컨대, 스피치 입력), 사용자에 의해 요청된 정보, 및 사용자에게 제시된 정보(예컨대, 미디어 디바이스에 의해 현재 또는 이전에 표시된 정보)를 추가로 포함할 수 있다. 상황 정보는 연결된 디바이스 또는 사용자와 연관된 다른 디바이스의 상태와 연관된 정보(예를 들어, 사용자 디바이스(122) 상에 표시된 콘텐츠, 사용자 디바이스(122) 상의 재생가능한 콘텐츠 등)를 추가로 포함할 수 있다. 이러한 유형들의 상황 정보 중 임의의 상황 정보가 사용자 입력과 연관된 상황 정보로서 DA 서버(106)에 제공(또는 미디어 디바이스(104) 자체 상에서 사용)될 수 있다.
일부 예들에서, 디지털 어시스턴트 클라이언트 모듈(264)은 DA 서버(106)로부터의 요청들에 응답하여 미디어 디바이스(104) 상에 저장된 정보(예컨대, 사용자 데이터(266))를 선택적으로 제공할 수 있다. 부가적으로 또는 대안적으로, 정보는 스피치 인식 및/또는 디지털 어시스턴트 기능을 실행하는 데 미디어 디바이스(104) 자체에 사용될 수 있다. 디지털 어시스턴트 클라이언트 모듈(264)은 또한 DA 서버(106)에 의한 요청에 따라 자연 언어 대화 또는 기타 사용자 인터페이스들을 통해 사용자로부터 추가 입력을 이끌어낼 수 있다. 디지털 어시스턴트 클라이언트 모듈(264)은 DA 서버(106)에 추가 입력을 전달하여, 사용자 요청에서 표현되는 사용자의 의도의 의도 추론 및/또는 이행 시에 DA 서버(106)를 도울 수 있다.
다양한 예에서, 메모리(250)는 추가 명령어들 또는 더 적은 명령어들을 포함할 수 있다. 더욱이, 미디어 디바이스(104)의 다양한 기능들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로(application specific integrated circuit)들을 비롯한 하드웨어 및/또는 펌웨어로 구현될 수 있다.
3. 사용자 디바이스
도 3은 다양한 예에 따른, 예시적인 사용자 디바이스(122)의 블록도를 도시한다. 도시된 바와 같이, 사용자 디바이스(122)는 메모리 인터페이스(302), 하나 이상의 프로세서(304), 및 주변기기 인터페이스(306)를 포함할 수 있다. 사용자 디바이스(122) 내의 다양한 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인에 의해 서로 결합될 수 있다. 사용자 디바이스(122)는 다양한 센서들, 서브시스템들, 및 주변기기 인터페이스(306)에 결합되는 주변기기 디바이스들을 추가로 포함할 수 있다. 센서들, 서브시스템들, 및 주변기기 디바이스들은 정보를 수집하고/하거나 사용자 디바이스(122)의 다양한 기능들을 용이하게 할 수 있다.
예를 들어, 사용자 디바이스(122)는 배향, 광, 및 근접 감지 기능들을 용이하게 하기 위해 주변기기 인터페이스(306)에 결합된 모션 센서(310), 광 센서(312), 및 근접 센서(314)를 포함할 수 있다. 하나 이상의 기타 센서(316), 예컨대 포지셔닝 시스템(예컨대, GPS 수신기), 온도 센서, 생체인식 센서, 자이로스코프, 나침반, 가속도계 등이 또한 주변기기 인터페이스(306)에 연결되어 관련 기능들을 용이하게 할 수 있다.
일부 예들에서, 카메라 서브시스템(320) 및 광학 센서(322)가 이용되어 사진 촬영 및 비디오 클립 녹화와 같은 카메라 기능들을 용이하게 할 수 있다. 통신 기능들은 다양한 통신 포트, 무선 주파수 수신기 및 송신기, 및/또는 광학(예컨대, 적외선) 수신기 및 송신기를 포함할 수 있는 하나 이상의 유선 및/또는 무선 통신 서브시스템(324)을 통하여 용이하게 할 수 있다. 오디오 서브시스템(326)은 음성 인식, 음성 복제, 디지털 녹음, 및 전화 통신 기능들과 같은 음성 지원 기능들을 용이하게 하기 위해 스피커(328) 및 마이크로폰(330)에 결합될 수 있다.
일부 예들에서, 사용자 디바이스(122)는 주변기기 인터페이스(306)에 결합되는 I/O 서브시스템(340)을 추가로 포함할 수 있다. I/O 서브시스템(340)은 터치스크린 제어기(342) 및/또는 기타 입력 제어기(들)(344)를 포함할 수 있다. 터치스크린 제어기(342)는 터치스크린(346)에 결합될 수 있다. 터치스크린(346) 및 터치스크린 제어기(342)는, 예를 들어, 정전용량, 저항, 적외선 및 표면 탄성파 기술들과 같은 복수의 터치 감지 기술들; 근접 센서 어레이들; 등 중 임의의 것을 이용하여 접촉 및 움직임 또는 이들의 중지를 검출할 수 있다. 기타 입력 제어기(들)(344)가 하나 이상의 버튼, 로커 스위치, 지동륜, 적외선 포트, USB 포트, 및/또는 포인터 디바이스, 예컨대 스타일러스와 같은 기타 입력/제어 디바이스들(348)에 결합될 수 있다.
일부 예들에서, 사용자 디바이스(122)는 메모리(350)에 결합되는 메모리 인터페이스(302)를 추가로 포함할 수 있다. 메모리(350)는 임의의 전자, 자기, 광학, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스; 휴대용 컴퓨터 디스켓(자기); 랜덤 액세스 메모리(RAM)(자기); 판독 전용 메모리(ROM)(자기); 소거가능 프로그래머블 판독 전용 메모리(EPROM)(자기); CD, CD-R, CD-RW, DVD, DVD-R, 또는 DVD-RW와 같은 휴대용 광학 디스크; 또는 콤팩트 플래시 카드, 보안 디지털 카드, USB 메모리 디바이스, 메모리 스틱 등과 같은 플래시 메모리를 포함할 수 있다. 일부 예들에서, 메모리(350)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들은 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 상에 저장될 수 있거나 또는 메모리(350)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(108)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
일부 예들에서, 메모리(350)는 운영 체제(352), 통신 모듈(354), 그래픽 사용자 인터페이스(GUI) 모듈(356), 센서 처리 모듈(358), 전화 모듈(360), 및 애플리케이션 모듈(362)을 저장할 수 있다. 운영 체제(352)는 기본 시스템 서비스들을 처리하고 하드웨어 의존적 태스크들을 수행하기 위한 명령어들을 포함할 수 있다. 통신 모듈(354)은 하나 이상의 추가 디바이스, 하나 이상의 컴퓨터, 및/또는 하나 이상의 서버와의 통신을 용이하게 할 수 있다. 그래픽 사용자 인터페이스 모듈(356)은 그래픽 사용자 인터페이스 처리를 용이하게 할 수 있다. 센서 처리 모듈(358)은 센서 관련 처리 및 기능들을 용이하게 할 수 있다. 전화 모듈(360)은 전화 관련 프로세스들 및 기능들을 용이하게 할 수 있다. 애플리케이션 모듈(362)은 전자 메시징, 웹 브라우징, 미디어 처리, 내비게이션, 이미징, 및/또는 기타 프로세스들 및 기능들과 같은 사용자 애플리케이션들의 다양한 기능들을 용이하게 할 수 있다.
본 명세서에 기술된 바와 같이, 메모리(350)는 또한 예를 들어, 디지털 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 클라이언트 측 디지털 어시스턴트 명령어들을(예를 들어, 디지털 어시스턴트 클라이언트 모듈(364) 내에) 그리고 다양한 사용자 데이터(366)(예컨대, 사용자-특정 어휘 데이터, 선호도 데이터, 및/또는 사용자의 전자 주소록, 할일 목록, 쇼핑 목록, 텔레비전 프로그램 즐겨찾기 등과 같은 기타 데이터)를 저장할 수 있다. 사용자 데이터(366)는 또한 디지털 어시스턴트를 지원하거나 임의의 다른 애플리케이션을 위한 스피치 인식을 수행하는 데 사용될 수 있다. 디지털 어시스턴트 클라이언트 모듈(364) 및 사용자 데이터(366)는 도 2를 참조하여 상술한 바와 같이 각각 디지털 어시스턴트 클라이언트 모듈(264) 및 사용자 데이터(266)와 유사하거나 동일할 수 있다.
다양한 예에서, 메모리(350)는 추가 명령어들 또는 더 적은 명령어들을 포함할 수 있다. 더욱이, 사용자 디바이스(122)의 다양한 기능들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로들을 비롯한 하드웨어 및/또는 펌웨어로 구현될 수 있다.
일부 예들에서, 사용자 디바이스(122)는 미디어 디바이스(104)의 양태들을 제어하도록 구성될 수 있다. 예를 들어, 사용자 디바이스(122)는 원격 제어부(예컨대, 원격 제어부(124))로서 기능할 수 있다. 사용자 디바이스(122)를 통해 수신된 사용자 입력은 (예를 들어, 통신 서브시스템을 사용하여) 미디어 디바이스(104)에 송신되어 대응하는 동작들이 미디어 디바이스(104)에 의해 수행되게 할 수 있다. 또한, 사용자 디바이스(122)는 미디어 디바이스(104)로부터 명령어들을 수신하도록 구성될 수 있다. 예를 들어, 미디어 디바이스(104)는 사용자 디바이스(122)에 태스크를 전달하여 수행하게 하고 객체들(예컨대, 선택가능한 어포던스들)이 사용자 디바이스(122) 상에 표시되게 할 수 있다.
시스템(100) 및 미디어 시스템(128)은 도 1 및 도 2에 도시된 컴포넌트 및 구성에 제한되지 않으며, 사용자 디바이스(122), 미디어 디바이스(104), 및 원격 제어부(124)는 마찬가지로 도 2 및 도 3에 도시된 컴포넌트 및 구성에 제한되지 않는다는 것을 이해해야 한다. 시스템(100), 미디어 시스템(128), 사용자 디바이스(122), 미디어 디바이스(104), 및 원격 제어부(124)는 모두 다양한 예에 따라 다수의 구성에서 더 적은 또는 다른 컴포넌트들을 포함할 수 있다.
4. 디지털 어시스턴트 시스템
도 4a는 다양한 예에 따른, 디지털 어시스턴트 시스템(400)의 블록도를 도시한다. 일부 예들에서, 디지털 어시스턴트 시스템(400)은 독립형 컴퓨터 시스템 상에서 구현될 수 있다. 일부 예들에서, 디지털 어시스턴트 시스템(400)은 다수의 컴퓨터에 걸쳐 분산될 수 있다. 일부 예들에서, 디지털 어시스턴트의 모듈들 및 기능들 중 일부는 서버 부분과 클라이언트 부분으로 나뉠 수 있는데, 여기서 클라이언트 부분은 하나 이상의 사용자 디바이스(예컨대, 디바이스들(104 또는 122)) 상에 존재하고, 예컨대 도 1에 도시된 바와 같은 하나 이상의 네트워크를 통해 서버 부분(예컨대, 서버 시스템(108))과 통신할 수 있다. 일부 예들에서, 디지털 어시스턴트 시스템(400)은 도 1에 도시된 서버 시스템(108)(및/또는 DA 서버(106))의 일 구현예일 수 있다. 디지털 어시스턴트 시스템(400)은 단지 디지털 어시스턴트 시스템의 일례일 뿐이라는 것, 및 디지털 어시스턴트 시스템(400)이 도시된 것보다 더 많거나 더 적은 컴포넌트들을 가질 수 있거나, 둘 이상의 컴포넌트를 조합할 수 있거나, 또는 상이한 구성 또는 배열의 컴포넌트들을 가질 수 있다는 것에 유의해야 한다. 도 4a에 도시된 다양한 컴포넌트들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로를 비롯한, 하드웨어, 하나 이상의 프로세서에 의한 실행을 위한 소프트웨어 명령어들, 펌웨어, 또는 이들의 조합으로 구현될 수 있다.
디지털 어시스턴트 시스템(400)은 메모리(402), 하나 이상의 프로세서(404), I/O 인터페이스(406), 및 네트워크 통신 인터페이스(408)를 포함할 수 있다. 이들 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인(410)을 통해 서로 통신할 수 있다.
일부 예들에서, 메모리(402)는 비일시적 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 자기 디스크 저장 디바이스, 플래시 메모리 디바이스, 또는 기타 비휘발성 솔리드 스테이트 메모리 디바이스)를 포함할 수 있다.
일부 예들에서, I/O 인터페이스(406)는 디스플레이들, 키보드들, 터치 스크린들, 및 마이크로폰들과 같은 디지털 어시스턴트 시스템(400)의 I/O 디바이스들(416)을 사용자 인터페이스 모듈(422)에 결합할 수 있다. I/O 인터페이스(406)는, 사용자 인터페이스 모듈(422)과 함께, 사용자 입력들(예컨대, 음성 입력, 키보드 입력들, 터치 입력들 등)을 수신하고 그에 따라 이들을 처리할 수 있다. 일부 예들에서, 예컨대 디지털 어시스턴트가 독립형 사용자 디바이스 상에서 구현되는 경우, 디지털 어시스턴트 시스템(400)은 각각 도 2 또는 도 3의 디바이스들(104 또는 122)에 대해 기재된 컴포넌트들 및 I/O 통신 인터페이스들 중 임의의 것을 포함할 수 있다. 일부 예들에서, 디지털 어시스턴트 시스템(400)은 디지털 어시스턴트 구현예의 서버 부분을 표현할 수 있고, 클라이언트 디바이스(예컨대, 디바이스들(104 또는 122)) 상에 존재하는 클라이언트 측 부분을 통해 사용자와 상호작용할 수 있다.
일부 예들에서, 네트워크 통신 인터페이스(408)는 유선 통신 포트(들)(412) 및/또는 무선 송신 및 수신 회로부(414)를 포함할 수 있다. 유선 통신 포트(들)는 하나 이상의 유선 인터페이스, 예컨대 이더넷, 범용 직렬 버스(USB), 파이어와이어 등을 통해 통신 신호들을 수신하고 전송할 수 있다. 무선 회로부(414)는 통신 네트워크들 및 기타 통신 디바이스들로부터/로 RF 신호들 및/또는 광학 신호들을 수신하고 전송할 수 있다. 무선 통신은 GSM, EDGE, CDMA, TDMA, 블루투스, Wi-Fi, VoIP, Wi-MAX, 또는 임의의 기타 적합한 통신 프로토콜과 같은 복수의 통신 표준들, 프로토콜들, 및 기술들 중 임의의 것을 이용할 수 있다. 네트워크 통신 인터페이스(408)는 인터넷, 인트라넷, 및/또는 무선 네트워크, 예컨대 셀룰러 전화 네트워크, 무선 근거리 통신망(LAN), 및/또는 도시권 통신망(MAN)과 같은 네트워크들을 이용하는 디지털 어시스턴트 시스템(400)과 기타 디바이스들 간의 통신을 가능하게 할 수 있다.
일부 예들에서, 메모리(402) 또는 메모리(402)의 컴퓨터 판독가능 저장 매체들은, 운영 체제(418), 통신 모듈(420), 사용자 인터페이스 모듈(422), 하나 이상의 애플리케이션(424), 및 디지털 어시스턴트 모듈(426)의 전체 또는 그들의 서브셋을 포함한, 프로그램들, 모듈들, 명령어들, 및 데이터 구조들을 저장할 수 있다. 특히, 메모리(402) 또는 메모리(402)의 컴퓨터 판독가능 저장 매체는 후술되는 프로세스(800)를 수행하기 위한 명령어들을 저장할 수 있다. 하나 이상의 프로세서(404)는 이러한 프로그램들, 모듈들, 및 명령어들을 실행할 수 있고, 데이터 구조들로부터/로 판독/기록할 수 있다.
운영 체제(418)(예를 들어, 다윈(Darwin), RTXC, LINUX, UNIX, iOS, OS X, WINDOWS, 또는 VxWorks와 같은 임베디드 운영 체제)는 일반적인 시스템 태스크들(예를 들어, 메모리 관리, 저장 디바이스 제어, 전력 관리 등)을 제어하고 관리하기 위한 다양한 소프트웨어 컴포넌트들 및/또는 드라이버들을 포함하고, 다양한 하드웨어, 펌웨어, 및 소프트웨어 컴포넌트들 간의 통신들을 용이하게 할 수 있다.
통신 모듈(420)은 네트워크 통신 인터페이스(408)를 통해 디지털 어시스턴트 시스템(400)과 기타 디바이스들 간의 통신을 용이하게 할 수 있다. 예를 들어, 통신 모듈(420)은 전자 디바이스(예를 들어, 104, 122)의 통신 서브시스템(예를 들어, 224, 324)과 통신할 수 있다. 통신 모듈(420)은 또한 무선 회로부(414) 및/또는 유선 통신 포트(412)에 의해 수신된 데이터를 처리하기 위한 다양한 컴포넌트들을 포함할 수 있다.
사용자 인터페이스 모듈(422)은 I/O 인터페이스(406)를 통해 사용자로부터(예컨대, 키보드, 터치스크린, 포인팅 디바이스, 제어기, 및/또는 마이크로폰으로부터) 커맨드들 및/또는 입력들을 수신하고, 디스플레이 상에 사용자 인터페이스 객체들을 생성할 수 있다. 사용자 인터페이스 모듈(422)은 또한 출력들(예컨대, 스피치, 사운드, 애니메이션, 텍스트, 아이콘들, 진동들, 햅틱 피드백, 조명 등)을 준비하고, I/O 인터페이스(406)를 통해(예컨대, 디스플레이들, 오디오 채널들, 스피커들, 및 터치 패드들 등을 통해) 사용자에게 그들을 전달할 수 있다.
애플리케이션들(424)은 하나 이상의 프로세서(404)에 의해 실행되도록 구성된 프로그램들 및/또는 모듈들을 포함할 수 있다. 예를 들어, 디지털 어시스턴트 시스템(400)이 독립형 사용자 디바이스 상에서 구현되는 경우, 애플리케이션들(424)은 게임들, 캘린더 애플리케이션, 내비게이션 애플리케이션, 또는 이메일 애플리케이션과 같은 사용자 애플리케이션들을 포함할 수 있다. 디지털 어시스턴트 시스템(400)이 서버 상에서 구현되는 경우, 애플리케이션들(424)은, 예를 들어 리소스 관리 애플리케이션들, 진단 애플리케이션들, 또는 스케줄링 애플리케이션들을 포함할 수 있다.
메모리(402)는 또한 디지털 어시스턴트 모듈(426)(또는 디지털 어시스턴트의 서버 부분)을 저장할 수 있다. 일부 예들에서, 디지털 어시스턴트 모듈(426)은 다음의 서브 모듈들, 또는 이들의 서브셋 또는 수퍼셋(superset)을 포함할 수 있다: I/O 처리 모듈(428), 스피치-텍스트(speech-to-text: STT) 처리 모듈(430), 자연 언어 처리 모듈(432), 대화 흐름 처리 모듈(434), 태스크 흐름 처리 모듈(436), 서비스 처리 모듈(438), 및 스피치 합성 모듈(440). 이러한 모듈들 각각은 디지털 어시스턴트 모듈(426)의 하기의 시스템 또는 데이터 및 모델들, 또는 그들의 서브셋 또는 수퍼셋 중 하나 이상에 대해 액세스할 수 있다: 온톨로지(460), 어휘 인덱스(444), 사용자 데이터(448), 태스크 흐름 모델들(454), 서비스 모델들(456), 및 자동 스피치 인식(ASR) 시스템(431).
일부 예들에서, 디지털 어시스턴트 모듈(426)에서 구현되는 처리 모듈들, 데이터, 및 모델들을 이용하여, 디지털 어시스턴트는 다음 중 적어도 일부를 수행할 수 있다: 스피치 입력을 텍스트로 변환하는 것, 사용자로부터 수신된 자연 언어 입력에서 표현되는 사용자의 의도를 식별하는 것; (예컨대, 단어들, 게임들, 의도들 등을 명확히 함으로써) 사용자의 의도를 완전히 추론하는 데 필요한 정보를 능동적으로 끌어내고 획득하는 것; 추론된 의도를 이행하기 위한 태스크 흐름을 결정하는 것; 및 태스크 흐름을 실행하여 추론된 의도를 완수하는 것.
일부 예들에서, 도 4b에 도시된 바와 같이, I/O 처리 모듈(428)은 도 4a의 I/O 디바이스들(416)을 통해 사용자와 상호작용하거나 또는 도 4a의 네트워크 통신 인터페이스(408)를 통해 전자 디바이스(예컨대, 디바이스들(104 또는 122))와 상호작용하여, 사용자 입력(예컨대, 스피치 입력)을 획득하고 사용자 입력에 대한 응답들(예컨대, 스피치 출력들로서)을 제공할 수 있다. I/O 처리 모듈(428)은 사용자 입력의 수신과 함께 또는 사용자 입력의 수신 직후에, 전자 디바이스로부터 사용자 입력과 연관된 상황 정보를 옵션적으로 획득할 수 있다. 상황 정보는 사용자-특정 데이터, 어휘, 및/또는 사용자 입력과 관련된 선호도들을 포함할 수 있다. 일부 예들에서, 상황 정보는 또한 사용자 요청이 수신되는 시간에서의 전자 디바이스의 소프트웨어 및 하드웨어 상태 및/또는 사용자 요청이 수신된 시간에서의 사용자의 주위 환경에 관련된 정보를 포함한다. 일부 예들에서, I/O 처리 모듈(428)은 또한 사용자 요청에 관하여 사용자에게 후속 질문들을 전송하고, 그로부터 답변들을 수신할 수 있다. 사용자 요청이 I/O 처리 모듈(428)에 의해 수신되고 사용자 요청이 스피치 입력을 포함할 수 있는 경우, I/O 처리 모듈(428)은 스피치-텍스트 변환을 위해 스피치 입력을 STT 처리 모듈(430)(또는 스피치 인식기)로 전달할 수 있다.
STT 처리 모듈(430)은 하나 이상의 ASR 시스템(예를 들어, ASR 시스템(431))을 포함할 수 있다. 하나 이상의 ASR 시스템은 I/O 처리 모듈(428)을 통해 수신된 스피치 입력을 처리하여 인식 결과를 생성할 수 있다. 각각의 ASR 시스템은 프론트-엔드 스피치 프리프로세서(front-end speech pre-processor)를 포함할 수 있다. 프론트-엔드 스피치 프리프로세서는 스피치 입력으로부터 대표적인 특징을 추출할 수 있다. 예를 들어, 프론트-엔드 스피치 프리프로세서는 스피치 입력을 푸리에 변환하여 대표적인 다차원 벡터의 시퀀스로서 스피치 입력을 특징짓는 스펙트럼 특징을 추출할 수 있다. 또한, 각각의 ASR 시스템은 하나 이상의 스피치 인식 모델(예컨대, 음향 모델 및/또는 언어 모델)을 포함할 수 있고, 하나 이상의 스피치 인식 엔진을 구현할 수 있다. 스피치 인식 모델의 예들은 은닉 마르코프 모델(hidden Markov models), 가우시안 혼합 모델(Gaussian-Mixture Models), 딥 신경망 모델(Deep Neural Network Models), n-gram 언어 모델, 및 기타 통계 모델을 포함할 수 있다. 스피치 인식 엔진의 예들은 동적 시간 왜곡 기반 엔진 및 가중치 유한 상태 변환기(WFST) 기반 엔진을 포함할 수 있다. 하나 이상의 스피치 인식 모델 및 하나 이상의 스피치 인식 엔진은 중간 인식 결과들(예를 들어, 음소, 음소 문자열, 및 하위 단어들), 및 궁극적으로 텍스트 인식 결과들(예컨대, 단어, 단어 문자열, 또는 토큰들의 시퀀스)을 생성하기 위해 프론트-엔드 스피치 프리프로세서의 추출된 대표 특징들을 처리하는 데 사용될 수 있다. 일부 예들에서, 스피치 입력은 제3자 서비스에 의해 또는 전자 디바이스(예컨대, 디바이스(104 또는 122)) 상에서 적어도 부분적으로 처리되어 인식 결과를 생성할 수 있다. STT 처리 모듈(430)이 텍스트 문자열(예를 들어, 단어들, 단어들의 시퀀스, 또는 토큰들의 시퀀스)을 포함하는 인식 결과를 생성하면, 인식 결과는 의도 추론을 위해 자연 언어 처리 모듈(432)로 전달될 수 있다.
일부 예들에서, 하나 이상의 ASR 시스템의 하나 이상의 언어 모델이 미디어 관련 결과를 향하여 바이어스(bias)되도록 구성될 수 있다. 일 예에서, 하나 이상의 언어 모델은 미디어 관련 텍스트의 코퍼스(corpus)를 사용하여 트레이닝될 수 있다. 다른 예에서, ASR 시스템은 미디어 관련 인식 결과를 선호하도록 구성될 수 있다. 일부 예들에서, 하나 이상의 ASR 시스템은 정적 및 동적 언어 모델을 포함할 수 있다. 정적 언어 모델은 텍스트의 일반 코퍼스를 사용하여 트레이닝될 수 있는 반면, 동적 언어 모델은 사용자-특정 텍스트를 사용하여 트레이닝될 수 있다. 예를 들어, 사용자로부터 수신된 이전 스피치 입력에 대응하는 텍스트는 동적 언어 모델을 생성하는 데 사용될 수 있다. 일부 예들에서, 하나 이상의 ASR 시스템은 정적 언어 모델 및/또는 동적 언어 모델에 기초한 인식 결과를 생성하도록 구성될 수 있다. 또한, 일부 예들에서, 하나 이상의 ASR 시스템은 보다 최근에 수신된 이전 스피치 입력에 대응하는 인식 결과를 선호하도록 구성될 수 있다.
스피치-텍스트 처리에 대한 추가적인 상세 사항들은 2011년 9월 20일자로 출원된 "Consolidating Speech Recognition Results"에 대한 미국 특허 출원 제13/236,942호에 기재되어 있으며, 그 전체 개시내용은 본 명세서에 참조로서 편입된다.
일부 예들에서, STT 처리 모듈(430)은 음성 기호 변환 모듈(431)을 통해 인식가능한 단어들의 어휘를 포함하고/하거나 이에 액세스할 수 있다. 각각의 어휘 단어는 스피치 인식 음성 기호로 표현된 단어의 하나 이상의 후보 발음과 연관될 수 있다. 특히, 인식가능한 단어의 어휘는 복수의 후보 발음과 연관된 단어를 포함할 수 있다. 예를 들어, 어휘는 
및 
의 후보 발음과 연관된 "tomato"라는 단어를 포함할 수 있다. 또한, 어휘 단어는 사용자로부터의 이전 스피치 입력에 기초한 맞춤형 후보 발음과 연관될 수 있다. 이러한 맞춤형 후보 발음은 STT 처리 모듈(430)에 저장될 수 있고, 디바이스 상의 사용자의 프로필을 통해 특정 사용자와 연관될 수 있다. 일부 예들에서, 단어에 대한 후보 발음은 단어의 철자 및 하나 이상의 언어 및/또는 음성 규칙에 기초하여 결정될 수 있다. 일부 예들에서, 후보 발음은 예를 들어, 알려진 정준 발음(canonical pronunciations)에 기초하여 수동으로 생성될 수 있다.
일부 예들에서, 후보 발음은 후보 발음의 공통성에 기초하여 순위를 매길 수 있다. 예를 들어, 후보 발음 
는 
보다 높은 순위가 될 수 있는데, 그 이유는 이전 발음이 더 일반적으로 사용되는 발음이기 때문이다(예를 들어, 모든 사용자 중에서, 특정 지리적 지역에 있는 사용자의 경우, 또는 임의의 다른 적절한 사용자들의 서브셋의 경우). 일부 예들에서, 후보 발음은 후보 발음이 사용자와 연관된 맞춤형 후보 발음인지 여부에 기초하여 순위가 매겨질 수 있다. 예를 들어, 맞춤형 후보 발음은 정준 후보 발음보다 높은 순위가 매겨질 수 있다. 이는 정준 발음에서 벗어나는 고유한 발음을 가진 고유 명사를 인식하는 데 유용할 수 있다. 일부 예들에서, 후보 발음은 지리적인 기원, 국적, 또는 민족성과 같은 하나 이상의 스피치 특성과 연관될 수 있다. 예를 들어, 후보 발음 
는 미국과 연관될 수 있는 반면, 후보 발음 
는 영국과 연관될 수 있다. 또한, 후보 발음의 순위는 디바이스 상의 사용자 프로필에 저장된 사용자의 하나 이상의 특성(예를 들어, 지리적 기원, 국적, 민족성 등)에 기초할 수 있다. 예를 들어, 사용자가 미국과 연관되어 있다는 사용자의 프로필로부터 결정될 수 있다. 미국과 연관되어 있는 사용자에 기초하여, 후보 발음 
(미국과 연관됨)는 후보 발음 
(영국과 연관됨)보다 높은 순위가 매겨질 수 있다. 일부 예들에서, 순위가 매겨진 후보 발음들 중 하나는 예측된 발음(예를 들어, 가장 가능성이 있는 발음)으로서 선택될 수 있다.
스피치 입력이 수신될 때, STT 처리 모듈(430)은 스피치 입력에 대응하는 음소를 결정하는 데 사용될 수 있고(예를 들어, 음향 모델을 사용하여), 이어서 음소에 매칭되는 단어를 결정하고자 시도할 수 있다(예를 들어, 언어 모델을 사용하여). 예를 들어, STT 처리 모듈(430)이 스피치 입력의 일부에 대응하는 음소들의 시퀀스 
를 먼저 식별할 수 있는 경우, 그것은 이어서 어휘 인덱스(444)에 기초하여 이 시퀀스가 단어 "tomato"에 대응한다고 결정할 수 있다.
일부 예들에서, STT 처리 모듈(430)은 근사 매칭 기술을 사용하여 발화 중인 단어를 결정할 수 있다. 따라서, 예를 들어, STT 처리 모듈(430)은 음소들의 특정 시퀀스가 그 단어에 대한 음소들의 후보 시퀀스 중 하나가 아니더라도 음소들의 시퀀스 
가 단어 "tomato"에 대응한다고 결정할 수 있다.
디지털 어시스턴트의 자연 언어 처리 모듈(432)("자연 언어 프로세서")은 STT 처리 모듈(430)에 의해 생성된 단어들 또는 토큰들의 시퀀스("토큰 시퀀스")를 취하고, 토큰 시퀀스를 디지털 어시스턴트에 의해 인식되는 하나 이상의 "행동가능한 의도들"과 연관시키고자 시도할 수 있다. "행동가능한 의도"는 디지털 어시스턴트에 의해 수행될 수 있는 태스크를 표현할 수 있고, 태스크 흐름 모델들(454)에서 구현되는 관련 태스크 흐름을 가질 수 있다. 연관 태스크 흐름은 디지털 어시스턴트가 태스크를 수행하기 위해 취하는 일련의 프로그래밍된 동작들 및 단계들일 수 있다. 디지털 어시스턴트의 능력들의 범주는 태스크 흐름 모델들(454)에서 구현되고 저장된 태스크 흐름들의 수 및 종류, 또는 다시 말해, 디지털 어시스턴트가 인식하는 "행동가능한 의도들"의 수 및 종류에 의존할 수 있다. 그러나, 디지털 어시스턴트의 효율성은 또한 자연 언어로 표현된 사용자 요청으로부터 정확한 "행동가능한 의도(들)"를 추론하는 어시스턴트의 능력에 의존할 수 있다.
일부 예들에서, STT 처리 모듈(430)로부터 획득된 단어들 또는 토큰 시퀀스에 부가하여, 자연 언어 처리 모듈(432)은 또한 예를 들어, I/O 처리 모듈(428)로부터 사용자 요청과 연관된 상황 정보를 수신할 수 있다. 자연 언어 처리 모듈(432)은 옵션적으로 상황 정보를 이용하여, STT 처리 모듈(430)로부터 수신된 토큰 시퀀스에 포함된 정보를 명확하게 하고, 보완하고/하거나 추가로 정의할 수 있다. 상황 정보는, 예를 들어 사용자 선호도들, 사용자 디바이스의 하드웨어 및/또는 소프트웨어 상태들, 사용자 요청 전, 요청 중, 또는 요청 직후에 수집되는 센서 정보, 디지털 어시스턴트와 사용자 사이의 이전 상호작용들(예컨대, 대화) 등을 포함할 수 있다. 본 명세서에 기술하는 바와 같이, 상황 정보는 동적일 수 있고, 시간, 위치, 대화의 내용, 및 기타 인자들에 따라 변화할 수 있다.
일부 예들에서, 자연 언어 처리는, 예컨대 온톨로지(460)에 기초할 수 있다. 온톨로지(460)는 많은 노드들을 포함하는 계층 구조(hierarchical structure)일 수 있는데, 각각의 노드는 "행동가능한 의도" 또는 "행동가능한 의도들" 중 하나 이상에 관련된 "속성(property)", 또는 기타 "속성들" 중 어느 하나를 표현한다. 전술한 바와 같이, "행동가능한 의도"는 디지털 어시스턴트가 수행할 수 있는 태스크, 즉 그것이 "행동가능"하거나 또는 영향을 미칠 수 있는 태스크를 표현할 수 있다. "속성"은 행동가능한 의도 또는 다른 속성의 하위 양태와 연관되는 파라미터를 표현할 수 있다. 온톨로지(460) 내의 행동가능한 의도 노드와 속성 노드 간의 연결성(linkage)은 속성 노드에 의해 표현되는 파라미터가 행동가능한 의도 노드에 의해 표현되는 태스크에 어떻게 관련되는지 여부를 정의할 수 있다.
일부 예들에서, 온톨로지(460)는 행동가능한 의도 노드들 및 속성 노드들로 구성될 수 있다. 온톨로지(460) 내에서, 각각의 행동가능한 의도 노드는 직접적으로 또는 하나 이상의 중간 속성 노드를 통해 하나 이상의 속성 노드에 연결될 수 있다. 유사하게, 각각의 속성 노드는 직접적으로 또는 하나 이상의 중간 속성 노드를 통해 하나 이상의 행동가능한 의도 노드에 연결될 수 있다. 예를 들어, 도 4c에 도시된 바와 같이, 온톨로지(460)는 "미디어" 노드(즉, 행동가능한 의도 노드)를 포함할 수 있다. 속성 노드들 "배우(들)", "미디어 장르", 및 "미디어 제목"은 각각 행동가능한 의도 노드(즉, "미디어 검색" 노드)에 직접 연결될 수 있다. 또한, 속성 노드들 "이름", "나이", "울머 스케일 랭킹(Ulmer scale ranking)", 및 "국적"은 속성 노드 "배우"의 하위 노드일 수 있다.
다른 예에서, 도 4c에 도시된 바와 같이, 온톨로지(460)는 또한 "날씨" 노드(즉, 다른 행동가능한 의도 노드)를 포함할 수 있다. 속성 노드들 "날짜/시간" 및 "위치"는 각각 "날씨 검색" 노드에 연결될 수 있다. 일부 예들에서, 하나 이상의 속성 노드가 둘 이상의 행동가능한 의도와 관련될 수 있음을 인식해야 한다. 이들 예에서, 하나 이상의 속성 노드는 온톨로지(460)에서 둘 이상의 행동가능한 의도에 대응하는 개개의 노드에 연결될 수 있다.
행동가능한 의도 노드는, 그것의 연결된 개념 노드들과 함께, "도메인"으로 기술될 수 있다. 본 논의에서, 각각의 도메인은 개개의 행동가능한 의도와 연관될 수 있고, 특정한 행동가능한 의도와 연관된 노드들(및 이들 사이의 관계들)의 그룹을 지칭할 수 있다. 예를 들어, 도 4c에 도시된 온톨로지(460)는 온톨로지(460) 내의 미디어 도메인(462)의 일례 및 날씨 도메인(464)의 일례를 포함할 수 있다. 미디어 도메인(462)은 행동가능한 의도 노드 "미디어 검색" 및 속성 노드 "배우(들)", "미디어 장르", 및 "미디어 제목"을 포함할 수 있다. 날씨 도메인(464)은 행동가능한 의도 노드 "날씨 검색", 및 속성 노드들 "위치" 및 "날짜/시간"을 포함할 수 있다. 일부 예들에서, 온톨로지(460)는 많은 도메인들로 구성될 수 있다. 각각의 도메인은 하나 이상의 속성 노드를 하나 이상의 다른 도메인과 공유할 수 있다.
도 4c는 온톨로지(460) 내의 2개의 예시적인 도메인을 도시하지만, 다른 도메인들은 예를 들어 "운동 선수", "주식", "길 안내(directions)", "미디어 설정", "스포츠 팀", 및 "시간", "농담 하기" 등을 포함할 수 있다. "운동 선수" 도메인은 "운동 선수 정보를 검색" 행동가능한 의도 노드와 연관될 수 있으며, "운동 선수 이름", "운동 선수 팀", 및 "운동 선수 통계"와 같은 속성 노드들을 추가로 포함할 수 있다.
일부 예들에서, 온톨로지(460)는 디지털 어시스턴트가 이해할 수 있고 그에 의거하여 동작할 수 있는 모든 도메인들(및 그에 따른 행동가능한 의도들)을 포함할 수 있다. 일부 예들에서, 온톨로지(460)는, 예컨대 전체 도메인들 또는 노드들을 추가하거나 제거함으로써 또는 온톨로지(460) 내에서 노드들 사이의 관계를 수정함으로써 수정될 수 있다.
일부 예들에서, 온톨로지(460) 내의 각각의 노드는, 노드에 의해 표현되는 속성 또는 행동가능한 의도와 관련된 단어들 및/또는 구절(phrase)들의 세트와 연관될 수 있다. 각각의 노드와 연관된 단어들 및/또는 구절들의 개개의 세트는 노드와 연관된 소위 "어휘"일 수 있다. 각각의 노드와 연관된 단어들 및/또는 구절들의 개개의 세트는 노드에 의해 표현되는 속성 또는 행동가능한 의도와 관련하여 어휘 인덱스(444)에 저장될 수 있다. 예를 들어, 도 4c로 돌아가서, "배우"의 속성에 대한 노드와 연관된 어휘는 "A-list", "리즈 위더스푼", " 아놀드 슈왈제네거", "브래드 피트" 등과 같은 단어들을 포함할 수 있다. 다른 예를 들어, "날씨 검색"의 행동가능한 의도에 대한 노드와 연관된 어휘는 "날씨", "에서는 어때", "예보" 등과 같은 단어들 및 구절들을 포함할 수 있다. 어휘 인덱스(444)는 상이한 언어들의 단어들 및 구절들을 옵션적으로 포함할 수 있다.
자연 언어 처리 모듈(432)은 STT 처리 모듈(430)로부터 토큰 시퀀스(예컨대, 텍스트 문자열)를 수신하고, 토큰 시퀀스 내의 단어들에 의해 어떤 노드들이 연루되는지 여부를 결정할 수 있다. 일부 예들에서, 토큰 시퀀스 내의 단어 또는 구절이 (어휘 인덱스(444)를 통해) 온톨로지(460) 내의 하나 이상의 노드와 연관되는 것으로 밝혀지는 경우, 단어 또는 구절은 이들 노드들을 "트리거" 또는 "활성화"시킬 수 있다. 활성화된 노드들의 양 및/또는 상대적 중요도에 기초하여, 자연 언어 처리 모듈(432)은 사용자가 디지털 어시스턴트로 하여금 수행하도록 의도했던 태스크로서 행동가능한 의도들 중 하나를 선택할 수 있다. 일부 예들에서, 가장 많이 "트리거된" 노드들을 갖는 도메인이 선택될 수 있다. 일부 예들에서, 가장 높은 신뢰도 값(예컨대, 그것의 다양한 트리거된 노드들의 상대적 중요도에 기초함)을 갖는 도메인이 선택될 수 있다. 일부 예들에서, 도메인은 트리거된 노드들의 수 및 중요도의 조합에 기초하여 선택될 수 있다. 일부 예들에서, 디지털 어시스턴트가 사용자로부터의 유사한 요청을 이전에 정확하게 해석했는지 여부와 같은 추가 요인들도 노드를 선택하는 데 있어 마찬가지로 고려된다.
사용자 데이터(448)는 사용자-특정 정보, 예컨대 사용자-특정 어휘, 사용자 선호도, 사용자 주소, 사용자의 초기설정 언어 및 제2 언어, 사용자의 연락처 목록, 및 각각의 사용자에 대한 기타 단기 또는 장기 정보를 포함할 수 있다. 일부 예들에서, 자연 언어 처리 모듈(432)은 사용자-특정 정보를 이용하여 사용자 입력에 포함된 정보를 보완하여 사용자 의도를 추가로 정의할 수 있다. 예를 들어, "이번 주 날씨가 어때"라는 사용자 요청에 대하여, 자연 언어 처리 모듈(432)은 사용자에게 그들의 요청 내에 명시적으로 그러한 정보를 제공할 것을 요구하기보다는, 사용자가 위치한 곳을 결정하기 위해 사용자 데이터(448)에 액세스할 수 있다.
토큰 문자열에 기초하여 온톨로지를 검색하는 다른 상세 사항들이 2008년 12월 22일자로 출원된 "Method and Apparatus for Searching Using An Active Ontology"에 대한 미국 특허 출원 제12/341,743호에 기재되어 있으며, 이 출원의 전체 개시내용은 본 명세서에 참조로서 편입된다.
일부 예들에서, 일단 자연 언어 처리 모듈(432)이 사용자 요청에 기초하여 행동가능한 의도(또는 도메인)를 식별하면, 자연 언어 처리 모듈(432)은 식별된 행동가능한 의도를 표현하기 위해 구조화된 질의(structured query)를생성할 수 있다. 일부 예들에서, 구조화된 질의는, 행동가능한 의도를 위한 도메인 내의 하나 이상의 노드에 대한 파라미터들을 포함할 수 있고, 파라미터들 중 적어도 일부에는 사용자 요청 내에 지정되는 특정 정보 및 요건이 덧붙여져 있다. 예를 들어, 사용자가 "이 TV 시리즈의 다른 시즌을 찾아줘"라고 말할 수 있다. 이러한 경우, 자연 언어 처리 모듈(432)은 사용자 입력에 기초하여 행동가능한 의도가 "미디어 검색"이라고 정확하게 식별할 수 있다. 온톨로지에 따라, "미디어" 도메인에 대한 구조화된 질의는 {미디어 배우}, {미디어 장르}, {미디어 제목} 등과 같은 파라미터들을 포함할 수 있다. 일부 예들에서, 스피치 입력, 및 STT 처리 모듈(430)을 사용하여 스피치 입력으로부터 도출된 텍스트에 기초하여, 자연 언어 처리 모듈(432)은 레스토랑 예약 도메인에 대한 부분 구조화된 질의를 생성할 수 있으며, 여기서 부분 구조화된 질의는 파라미터들 {미디어 장르 = "텔레비전 시리즈"}를 포함한다. 그러나, 이 예에서, 사용자의 발화는 도메인과 연관된 구조화된 질의를 완성하기에 불충분한 정보를 포함한다. 따라서, {미디어 제목}과 같은 기타 필수 파라미터들은 현재 이용가능한 정보에 기초하여 구조화된 질의 내에 지정되어 있지 않을 수 있다. 일부 예들에서, 자연 언어 처리 모듈(432)은 구조화된 질의의 일부 파라미터들에 수신된 상황 정보를 덧붙일 수 있다. 예를 들어, TV 시리즈 "매드맨(Mad Men)"이 미디어 디바이스 상에서 현재 재생 중일 수 있다. 이 상황 정보에 기초하여, 자연 언어 처리 모듈(432)은 구조화된 질의 내의 {미디어 제목} 파라미터를 "매드맨"으로 덧붙일 수 있다.
일부 예들에서, 자연 언어 처리 모듈(432)은 생성된 구조화된 질의(임의의 완성된 파라미터들을 포함함)를 태스크 흐름 처리 모듈(436)("태스크 흐름 프로세서")로 전달할 수 있다. 태스크 흐름 처리 모듈(436)은 자연 언어 처리 모듈(432)로부터 구조화된 질의를 수신하도록, 필요하다면, 구조화된 질의를 완성하도록, 그리고 사용자의 궁극적인 요청을 "완성"하는 데 필요한 동작들을 수행하도록 구성될 수 있다. 일부 예들에서, 이들 태스크들을 완수하는 데 필요한 다양한 절차들이 태스크 흐름 모델들(454)에서 제공될 수 있다. 일부 예들에서, 태스크 흐름 모델들(454)은 사용자로부터 추가 정보를 획득하기 위한 절차들, 및 행동가능한 의도와 연관된 동작들을 수행하기 위한 태스크 흐름들을 포함할 수 있다.
전술한 바와 같이, 구조화된 질의를 완성하기 위해, 태스크 흐름 처리 모듈(436)은 추가 정보를 획득하고/하거나 잠재적으로 모호한 발화들을 명확히 구분하기 위해 사용자와의 추가 대화를 개시할 필요가 있을 수 있다. 그와 같은 상호작용이 필요한 경우, 태스크 흐름 처리 모듈(436)은 대화 흐름 처리 모듈(434)을 호출하여 사용자와의 대화에 참여할 수 있다. 일부 예들에서, 대화 흐름 처리 모듈(434)은 어떻게(및/또는 언제) 사용자에게 추가 정보를 물을지를 결정할 수 있고, 사용자 응답을 수신하고 처리할 수 있다. 질문들은 I/O 처리 모듈(428)을 통해 사용자들에게 제공될 수 있고 그들로부터 답변들이 수신될 수 있다. 일부 예들에서, 대화 흐름 처리 모듈(434)은 오디오 및/또는 시각적 출력을 통해 사용자에게 대화 출력을 제시할 수 있고, 구어적 또는 물리적(예컨대, 클릭킹) 응답들을 통해 사용자로부터 입력을 수신할 수 있다. 예를 들어, 사용자는 "파리의 날씨는 어때?"라고 물어볼 수 있다. 태스크 흐름 처리 모듈(436)이 도메인 "날씨 검색"과 연관된 구조화된 질의에 대한 "위치" 정보를 결정하기 위해 대화 흐름 처리 모듈(434)을 호출할 때, 대화 흐름 처리 모듈(434)은 "어느 파리?"와 같은 질문을 생성하여 사용자에게 전달할 수 있다. 부가적으로, 대화 흐름 처리 모듈(434)은 "텍사스 파리" 및 "프랑스 파리"와 연관된 어포던스들이 사용자 선택을 위해 제시되도록 할 수 있다. 사용자로부터 응답들이 수신되면, 이어서 대화 흐름 처리 모듈(434)은 구조화된 질의에 누락 정보를 덧붙이거나, 또는 태스크 흐름 처리 모듈(436)에 정보를 전달하여 구조화된 질의로부터 누락 정보를 완성할 수 있다.
일단 태스크 흐름 처리 모듈(436)이 행동가능한 의도에 대한 구조화된 질의를 완성했다면, 태스크 흐름 처리 모듈(436)은 행동가능한 의도와 연관된 궁극적인 태스크를 수행하도록 진행할 수 있다. 따라서, 태스크 흐름 처리 모듈(436)은 구조화된 질의에 포함된 특정 파라미터들에 따라 태스크 흐름 모델(454)에서 단계들 및 명령어들을 실행할 수 있다. 예를 들어, "미디어 검색"의 행동가능한 의도를 위한 태스크 흐름 모델은 관련 미디어 항목들을 획득하기 위해 미디어 검색 질의를 수행하기 위한 단계들 및 명령어들을 포함할 수 있다. 예를 들어, 구조화된 질의, 예컨대 {미디어 검색, 미디어 장르 = TV 시리즈, 미디어 제목 = 매드맨}을 이용하여, 태스크 흐름 처리 모듈(436)은 다음의 단계들을 수행할 수 있다: (1) 관련 미디어 항목들을 획득하기 위해 미디어 데이터베이스를 사용하여 미디어 검색 질의를 수행하는 단계, (2) 적합성(relevancy) 및/또는 인기도에 따라 획득된 미디어 항목들을 순위를 매기는 단계, 및 (3) 적합성 및/또는 인기도에 따라 분류된 미디어 항목들을 표시하는 단계.
일부 예들에서, 태스크 흐름 처리 모듈(436)은 사용자 입력에서 요청된 태스크를 완수하거나 또는 사용자 입력에서 요청된 정보제공형 답변을 제공하기 위해 서비스 처리 모듈(438)("서비스 처리 모듈")의 어시스턴트를 채용할 수 있다. 예를 들어, 서비스 처리 모듈(438)은 미디어 검색을 수행하고, 날씨 정보를 검색하고, 다른 사용자 디바이스에 설치된 애플리케이션을 호출하거나 그와 상호작용하고, 제3자 서비스(예컨대, 소셜 네트워킹 웹사이트, 미디어 리뷰 웹사이트, 미디어 구독 서비스 등)를 호출하거나 그와 상호작용하기 위해 태스크 흐름 처리 모듈(436)을 대신하여 동작할 수 있다. 일부 예들에서, 각각의 서비스에 의해 요구되는 프로토콜들 및 API는 서비스 모델들(456) 중 개개의 서비스 모델에 의해 지정될 수 있다. 서비스 처리 모듈(438)은 서비스를 위한 적절한 서비스 모델에 액세스하고, 서비스 모델에 따른 서비스에 의해 요구되는 프로토콜들 및 API들에 따라 서비스에 대한 요청들을 생성할 수 있다.
예를 들어, 제3자 미디어 검색 서비스는 미디어 검색을 수행하는 데 필요한 파라미터들을 지정하는 서비스 모델 및 필요한 파라미터들의 값을 미디어 검색 서비스에 통신하기 위한 API를 제출할 수 있다. 태스크 흐름 처리 모듈(436)에 의해 요청될 때, 서비스 처리 모듈(438)은 미디어 검색 서비스와의 네트워크 연결을 확립하고 미디어 검색 서비스의 API에 따른 포맷으로 온라인 예약 인터페이스에 미디어 검색의 필요한 파라미터들(예컨대, 미디어 배우, 미디어 장르, 미디어 제목)을 전송할 수 있다.
일부 예들에서, 자연 언어 처리 모듈(432), 대화 흐름 처리 모듈(434), 및 태스크 흐름 처리 모듈(436)은 사용자의 의도를 추론 및 정의하도록, 사용자 의도를 더 명확히 하고 정제하게 하기 위해 정보를 획득하도록, 그리고 최종적으로 사용자의 의도를 이행하기 위해 응답(즉, 사용자에게로의 출력, 또는 태스크의 완수)을 생성하도록 총체적이고 반복적으로 사용될 수 있다. 생성된 응답은 사용자의 의도를 적어도 부분적으로 이행하는 스피치 입력에 대한 대화 응답일 수 있다. 또한, 일부 예들에서, 생성된 응답은 스피치 출력으로서 출력될 수 있다. 이들 예에서, 생성된 응답은 스피치 합성 모듈(440)(예컨대, 스피치 합성기)로 전송될 수 있으며, 여기서 음성 합성 모듈(440)은 스피치 형태로 대화 응답을 합성하도록 처리될 수 있다. 또 다른 예들에서, 생성된 응답은 스피치 입력에서 사용자 요청을 만족시키는 것과 관련된 데이터 콘텐츠일 수 있다.
스피치 합성 모듈(440)은 사용자에게의 제시를 위한 스피치 출력을 합성하도록 구성될 수 있다. 스피치 합성 모듈(440)은 디지털 어시스턴트에 의해 제공된 텍스트에 기초하여 스피치 출력을 합성한다. 예를 들어, 생성된 대화 응답은 텍스트 문자열의 형태일 수 있다. 스피치 합성 모듈(440)은 텍스트 문자열을 가청 스피치 출력으로 변환할 수 있다. 스피치 합성 모듈(440)은, 텍스트로부터의 스피치 출력을 생성하기 위하여 임의의 적절한 스피치 합성 기법을 사용할 수 있는데, 이는 편집 합성(concatenative synthesis), 단위 선택 합성, 다이폰 합성, 도메인-특정 합성, 포먼트 합성(Formant synthesis), 조음 합성(Articulatory synthesis), HMM(hidden Markov model) 기반 합성, 및 정현파 합성(sinewave synthesis)을 포함하지만 이로 한정되지 않는다. 일부 예들에서, 스피치 합성 모듈(440)은 단어들에 대응하는 음소 문자열에 기초하여 개별 단어들을 합성하도록 구성될 수 있다. 예를 들어, 음소 문자열은 생성된 대화 응답의 단어와 연관될 수 있다. 음소 문자열은 단어와 연관된 메타데이터에 저장될 수 있다. 스피치 합성 모듈(440)은 스피치 형태의 단어를 합성하기 위해 메타데이터 내의 음소 문자열을 직접 처리하도록 구성될 수 있다.
일부 예들에서, 스피치 합성 모듈(440)을 사용하는 대신에(또는 그에 부가하여), 스피치 합성은 원격 디바이스(예컨대, 서버 시스템(108)) 상에서 수행될 수 있고, 합성된 스피치는 사용자에게의 출력을 위해 사용자 디바이스로 전송될 수 있다. 예를 들어, 이는 디지털 어시스턴트에 대한 출력이 서버 시스템에서 생성되는 일부 구현예들에서 발생할 수 있다. 그리고 서버 시스템은 일반적으로 사용자 디바이스보다 많은 처리 능력 또는 리소스를 갖기 때문에, 클라이언트 측 합성에서 실제보다 높은 품질의 스피치 출력을 획득하는 것이 가능할 수 있다.
디지털 어시스턴트에 대한 추가적인 상세 사항들은 2011년 1월 10일자로 출원되고 발명의 명칭이 "Intelligent AutomatedAssistant"인 미국 특허 출원 제12/987,982호, 및 2011년 9월 30일자로 출원되고 발명의 명칭이 "Generating and Processing Task Items That Represent Tasks to Perform"인 미국 특허 출원 제13/251,088호에서 발견될 수 있고, 이 출원들의 전체 개시내용들은 본 명세서에 참조로서 편입된다.
4. 미디어 환경에서 디지털 어시스턴트와 상호작용하기 위한 프로세스
도 5a 내지 도 5i는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 프로세스(500)를 도시한다. 프로세스(500)는 디지털 어시스턴트를 구현하는 하나 이상의 전자 디바이스를 사용하여 수행될 수 있다. 예를 들어, 프로세스(500)는 전술한 시스템(100), 미디어 시스템(128), 미디어 디바이스(104), 사용자 디바이스(122), 또는 디지털 어시스턴트 시스템(400) 중 하나 이상을 사용하여 수행될 수 있다. 도 6a 내지 도 6q는 다양한 예에 따른, 프로세스(500)의 다양한 단계에서 미디어 디바이스에 의해 디스플레이 유닛 상에 표시된 스크린 샷을 도시한다. 프로세스(500)는 도 5a 내지 도 5i 및 도 6a 내지 도 6q를 동시에 참조하여 아래에서 설명된다. 프로세스(500)에서의 일부 동작들은 결합될 수 있고, 일부 동작들의 순서는 변경될 수 있으며, 일부 동작들은 생략될 수 있음을 이해해야 한다.
프로세스(500)의 블록(502)에서, 콘텐츠는 디스플레이 유닛(예컨대, 디스플레이 유닛(126)) 상에 표시될 수 있다. 도 6a에 도시된 본 예에서, 표시된 콘텐츠는 미디어 디바이스(예컨대, 미디어 디바이스(104)) 상에서 재생 중인 미디어 콘텐츠(602)(예컨대, 영화, 비디오, 텔레비전 쇼, 비디오 게임 등)를 포함할 수 있다. 다른 예에서, 표시된 콘텐츠는 미디어 디바이스 상에서 실행되는 애플리케이션 또는 미디어 디바이스의 디지털 어시스턴트와 상호작용하기 위한 사용자 인터페이스와 연관된 콘텐츠와 같은, 미디어 디바이스와 연관된 다른 콘텐츠를 포함할 수 있다. 특히, 표시된 콘텐츠는 메인 메뉴 사용자 인터페이스 또는 사용자에 의해 이전에 요청된 객체들 또는 결과들을 갖는 사용자 인터페이스(예컨대, 제2 사용자 인터페이스(618) 또는 제3 사용자 인터페이스(626))를 포함할 수 있다.
프로세스(500)의 블록(504)에서, 사용자 입력이 검출될 수 있다. 사용자 입력은 블록(502)의 콘텐츠가 표시되고 있는 동안 검출될 수 있다. 일부 예들에서, 사용자 입력은 미디어 디바이스의 원격 제어부(예컨대, 원격 제어부(124)) 상에서 검출될 수 있다. 특히, 사용자 입력은 버튼(예를 들어, 버튼(274))의 누르기 또는 원격 제어부의 터치 감응형 표면(예컨대, 터치 감응형 표면(278))의 접촉과 같은 원격 제어부와의 사용자 상호작용일 수 있다. 일부 예들에서, 사용자 입력은 미디어 디바이스와 상호작용하도록 구성된 제2 전자 디바이스(예컨대, 디바이스(122))를 통해 검출될 수 있다. 사용자 입력을 검출하는 것에 응답하여, 블록들(506 내지 592) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(506)에서, 사용자 입력이 제1 입력 유형에 대응하는지 여부에 대한 결정이 이루어질 수 있다. 제1 입력 유형은 미디어 디바이스에 대한 미리정의된 입력일 수 있다. 일 예에서, 제1 입력 유형은 원격 제어부의 특정 버튼을 누르고 버튼을 누르는 것의 미리결정된 지속시간 내(예를 들어, 짧은 누르기)에 버튼을 누름해제하는 것을 포함할 수 있다. 미디어 디바이스는 사용자 입력이 제1 입력 유형과 매칭되는지 여부를 결정할 수 있다. 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라, 블록들(508 내지 514) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(508)에서, 도 6b를 참조하면, 디지털 어시스턴트를 호출하고 그와 상호작용하기 위한 텍스트 명령어(604)가 표시될 수 있다. 특히, 명령어(604)는 디지털 어시스턴트를 호출하고 그와 상호작용하는 데 필요한 사용자 입력을 기술할 수 있다. 예를 들어, 명령어(604)는 블록(516)에서 후술하는 제2 입력 유형을 수행하는 방법을 설명할 수 있다.
프로세스(500)의 블록(510)에서, 도 6b에 도시된 바와 같이, 수동 시각적 표시자(606)가 디스플레이 유닛 상에 표시될 수 있다. 수동 시각적 표시자(606)는 디지털 어시스턴트가 아직 호출되지 않았음을 나타낼 수 있다. 특히, 미디어 디바이스의 마이크로폰(예컨대, 마이크로폰(272))은 사용자 입력을 검출하는 것에 응답하여 활성화되지 않을 수 있다. 따라서, 수동 시각적 표시자(606)는 디지털 어시스턴트가 오디오 입력을 처리하고 있지 않다는 시각적 신호로서 기능할 수 있다. 본 예에서, 시각적 표시자(606)는 사용자의 스피치에 응답하지 않는 수동 플랫 파형일 수 있다. 또한, 수동 시각적 표시자(606)는 그것의 수동 상태를 나타내기 위해 중성 색(예를 들어, 흑색, 회색 등)을 포함할 수 있다. 수동 시각적 표시자에 대해 다른 시각적 패턴 또는 이미지가 고려될 수 있다는 것을 인식해야 한다. 수동 시각적 표시자(606)는 명령어(604)와 동시에 표시될 수 있다. 또한, 수동 시각적 표시자(606)는 블록들(512 내지 514) 중 하나 이상을 수행하는 동안 연속적으로 표시될 수 있다.
프로세스(500)의 블록(512)에서, 도 6c를 참조하면, 타이핑된 검색을 수행하기 위한 명령어(608)가 디스플레이 유닛 상에 표시될 수 있다. 특히, 명령어(608)는 타이핑된 검색을 수행하는 데 사용될 수 있는 가상 키보드 인터페이스를 표시하는 데 필요한 사용자 입력을 기술할 수 있다. 일부 예들에서, 디지털 어시스턴트를 호출하고 그와 상호작용하기 위한 명령어(604) 및 타이핑된 검색을 수행하기 위한 명령어(608)는 순차적으로 그리고 상이한 시간에 표시될 수 있다. 예를 들어, 명령어(608)의 표시는 명령어(604)의 표시를 대체하거나 또는 그 반대로 할 수 있다. 본 예에서, 명령어들(604, 608)은 텍스트 형태이다. 다른 예들에서, 명령어들(604, 608)은 그래픽 형태(예컨대, 사진, 기호, 애니메이션 등)일 수 있다는 것을 인식해야 한다.
프로세스(500)의 블록(514)에서, 하나 이상의 예시적인 자연 언어 요청이 디스플레이 유닛 상에 표시될 수 있다. 예를 들어, 도 6d 및 도 6e는 디스플레이 유닛 상에 표시된 2개의 상이한 예시적인 자연 언어 요청들(610, 612)을 도시한다. 일부 예들에서, 예시적인 자연 언어 요청들은 디스플레이 유닛 상의 제1 사용자 인터페이스를 통해 표시될 수 있다. 제1 사용자 인터페이스는 표시된 콘텐츠 상에 중첩될 수 있다. 예시적인 자연 언어 요청들은 디지털 어시스턴트와 상호작용하기 위해 사용자에게 안내를 제공할 수 있다. 또한, 예시적인 자연 언어 요청들은 사용자에게 디지털 어시스턴트의 다양한 능력을 알려줄 수 있다. 예시적인 자연 언어 요청들 중 하나에 대응하는 사용자 발화를 수신하는 것에 응답하여, 디지털 어시스턴트는 개개의 동작이 수행되게 할 수 있다. 예를 들어, (예를 들어, 블록(504)에서 제2 입력 유형의 사용자 입력에 의해) 호출되고 "앞으로 30초 건너뛰기"라는 사용자 발화가 제공되고 있는(예컨대, 블록(518)에서) 미디어 디바이스의 디지털 어시스턴트에 응답하여, 디지털 어시스턴트는 미디어 디바이스 상에서 재생 중인 미디어 콘텐츠가 30초만큼 순방향(forward)으로 점프(jump)하게 할 수 있다.
표시된 예시적인 자연 언어 요청들은 표시되고 있는 콘텐츠(예컨대, 미디어 콘텐츠(602))와 상황적으로 관련될 수 있다. 예를 들어, 예시적인 자연 언어 요청들의 세트는 미디어 디바이스 또는 별개의 서버에 저장될 수 있다. 예시적인 자연 언어 요청들의 세트 내의 각각의 예시적인 자연 언어 요청들은 하나 이상의 상황적 속성(예컨대, 재생 중인 미디어 콘텐츠, 홈 페이지, 아이튠즈 미디어 스토어(iTunes media store), 배우, 영화, 날씨, 스포츠, 주식 등)과 연관될 수 있다. 일부 예들에서, 블록(514)은 디스플레이 유닛 상의 표시된 콘텐츠에 대응하는 상황 속성들을 갖는 예시적인 자연 언어 요청들의 세트로부터 예시적인 자연 언어 요청들을 식별하는 것을 포함할 수 있다. 이어서, 식별된 예시적인 자연 언어 요청들은 디스플레이 유닛 상에 표시될 수 있다. 따라서, 상이한 예시적인 자연 언어 요청들이 디스플레이 유닛 상의 상이한 표시된 콘텐츠에 대해 표시될 수 있다. 상황적으로 관련된 예시적인 자연 언어 요청들을 표시하는 것은 미디어 디바이스 상의 사용자의 현재 사용 조건에 가장 관련이 있는 디지털 어시스턴트의 능력을 사용자에게 편리하게 알리는 역할을 할 수 있다. 이는 전반적으로 사용자 경험을 향상시킬 수 있다.
도 6d 및 도 6e에 도시된 본 예에서, 예시적인 자연 언어 요청들(610, 612)은 각각 디스플레이 유닛 상의 미디어 콘텐츠(602)와 상황적으로 관련될 수 있다. 특히, 예시적인 자연 언어 요청들(610, 612)은 미디어 디바이스 상에서 재생되는 미디어 콘텐츠와 연관된 하나 이상의 설정을 수정하거나 제어하기 위한 요청일 수 있다. 이러한 예시적인 자연 언어 요청들은 폐쇄 자막(closed captioning)을 켜고/끄고, 특정 언어의 자막을 켜고, 되감고/앞으로 건너뛰고, 미디어 콘텐츠의 재생을 일시정지하고, 미디어 콘텐츠의 재생을 재시작하고, 미디어 콘텐츠의 재생을 느리게 하거나 가속시키고, 미디어 콘텐츠의 볼륨(예를 들어, 오디오 이득)을 증가/감소시키는 것 등을 위한 요청들을 포함할 수 있다. 또한, 미디어 콘텐츠(602)에 상황적으로 관련된 다른 예시적인 자연 언어 요청들은, 미디어 콘텐츠(602)에 대응하는 미디어 항목을 사용자의 시청 목록에 추가하고, 미디어 콘텐츠(602)에 관련된 정보(예를 들어, 배우 정보, 줄거리 요약, 출시일 등)를 보여주고, 미디어 콘텐츠(602)와 관련된 다른 미디어 항목들 또는 콘텐츠(예를 들어, 동일한 시리즈, 동일한 시즌, 동일한 배우/감독, 동일한 장르 등)를 보여주는 것 등을 위한 요청들을 포함할 수 있다.
표시된 콘텐츠가 미디어 디바이스의 애플리케이션과 연관된 콘텐츠를 포함하는 예들에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 애플리케이션의 하나 이상의 설정 또는 상태를 수정하기 위한 요청들을 포함할 수 있다. 특히, 예시적인 자연 언어 요청들은 애플리케이션을 열거나 닫고 애플리케이션의 하나 이상의 기능을 조작하라는 요청을 포함할 수 있다.
일부 예들에서, 표시된 콘텐츠는 항목을 검색, 브라우징, 또는 항목들을 선택하기 위한 사용자 인터페이스(예를 들어, 제2 사용자 인터페이스(618) 또는 제3 사용자 인터페이스(626))를 포함할 수 있다. 특히, 표시된 사용자 인터페이스는 하나 이상의 미디어 항목을 포함할 수 있다. 또한, 사용자 인터페이스의 포커스는 하나 이상의 미디어 항목 중 하나의 미디어 항목(예컨대, 도 6g의 커서(624)에 의해 강조되는 미디어 항목(623)) 상에 있을 수 있다. 이들 예에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 정보 또는 표시된 사용자 인터페이스 내의 하나 이상의 미디어 항목에 속하는 다른 미디어 항목들에 대한 요청들을 포함할 수 있다. 특히, 예시적인 자연 언어 요청들은 사용자 인터페이스의 포커스인 미디어 항목에 관련된 요청들을 포함할 수 있다. 이러한 예들에서, 예시적인 자연 언어 요청들은 "이것은 무엇에 대한 것이야?", "이거 평점은 어때?", "여기에 누가 나와?", "다음 에피소드는 언제 나와?", "이런 영화를 더 보여줘", "같은 배우가 주연한 영화를 보여줘"와 같은 요청들을 포함할 수 있다. 특정 예에서, 미디어 항목 또는 미디어 항목들의 시리즈, 예컨대 텔레비전 시리즈 매드맨과 관련된 정보가 사용자 인터페이스를 통해 표시될 수 있다. 이 예에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 미디어 항목 또는 미디어 항목들의 시리즈(예컨대, "재뉴어리 존스(January Jones)의 다른 쇼")의 하나 이상의 속성(예를 들어, 출연자, 줄거리, 등급, 출시일, 감독, 제공자 등)에 기초한 요청들을 포함할 수 있다. 또한, 상황적으로 관련된 예시적인 자연 언어 요청들은 포커싱된 미디어 항목 또는 사용자 인터페이스에 표시된 다른 미디어 항목을 재생, 선택, 또는 입수하라는 요청들(예를 들어, "이것을 빌려", "이것을 재생해", "이것을 구입해", 또는 "드래곤 길들이기 2를 재생해") 또는 사용자 인터페이스 내의 미디어 항목들 전체에 걸쳐 내비게이팅하라는 요청들(예를 들어, "코미디로 가라" 또는 "호러 영화로 점프해라")을 포함할 수 있다. 또한, 이러한 예에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 다른 미디어 항목들을 검색하라는 요청들(예를 들어, "새 코미디를 찾아줘", "무료지만 좋은 영화를 보여줘", 또는 "니콜 키드먼이 주연한 쇼는 뭐가 있어?")을 포함할 수 있다.
일부 예들에서, 표시된 콘텐츠는 특정 카테고리 또는 주제에 따라 정리된 미디어 항목들을 포함할 수 있다. 이러한 예들에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 그 특정 카테고리 또는 주제와 관련된 요청들을 포함할 수 있다. 예를 들어, 표시된 콘텐츠가 다양한 배우에 따라 정리된 미디어 항목들을 포함하는 예에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 배우들과 관련된 정보 또는 미디어 항목들에 대한 요청들(예를 들어, "제니퍼 로렌스가 주연한 영화는 뭐가 있어?", "스칼렛 요한슨은 몇 살이야?", 또는 "브래드 피트의 최신 영화들은 뭐야?")을 포함할 수 있다. 표시된 콘텐츠가 프로그래밍 채널 또는 콘텐츠 제공자(예를 들어, 채널 페이지 또는 TV 가이드 페이지)에 따라 정리된 미디어 항목들을 포함하는 다른 예에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 프로그래밍 채널 또는 콘텐츠 제공자와 관련된 정보 또는 미디어 항목들에 대한 요청들(예를 들어, "한 시간 내에 하는 쇼는 뭐가 있어?", "주요 시간 대에 HBO에서 뭐를 해?", "ABC로 채널을 맞춰", 또는 "어떤 채널에서 농구를 하지?")을 포함할 수 있다. 표시된 콘텐츠가 사용자에 의해 최근에 선택된(예를 들어, "최근 재생된" 목록) 또는 사용자가 관심을 갖는 것으로 식별된(예를 들어, "시청 목록") 미디어 항목들을 포함하는 또 다른 예에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 미디어 항목들 중 하나의 미디어 항목을 시청하거나 계속 시청하라는 요청들(예를 들어, "내가 중단했던 곳에서 시작해", "버드맨을 계속 시청해", 또는 "이것을 처음부터 다시 재생해")을 포함할 수 있다.
일부 예들에서, 표시된 콘텐츠는 특정 주제에 대응하는 결과 또는 정보를 포함하는 사용자 인터페이스를 포함할 수 있다. 특히, 결과는 이전 사용자 요청(예를 들어, 디지털 어시스턴트에 대한 요청)과 연관될 수 있고, 날씨, 주식, 또는 스포츠와 같은 주제에 대응하는 정보를 포함할 수 있다. 이러한 예들에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 특정 주제에 속한 추가 정보에 대한 결과 또는 요청을 정제하라는 요청들을 포함할 수 있다. 예를 들어, 표시된 콘텐츠가 특정 위치에 대한 날씨 정보를 포함하는 예에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 다른 위치 또는 다른 시간 프레임에 대한 추가 날씨 정보를 표시하라는 요청들(예를 들어, "뉴욕시는 어때?", "다음 주에는 어떨 것 같아?", "그럼 하와이는?" 등)을 포함할 수 있다. 표시된 콘텐츠가 스포츠 팀 또는 운동 선수에 관한 정보를 포함하는 다른 예에서, 상황적으로 관련된 예시적인 언어 요청은 스포츠 팀 또는 운동 선수와 관련된 추가 정보를 제공하라는 요청들(예를 들어, "샤킬 오닐은 키가 얼마야?", "톰 브래디는 언제 태어났어?", "포티나이너스(49ers)의 다음 경기는 언제야?", "맨체스터 유나이티드는 마지막 경기에서 어땠어?", "LA 레이커스의 포인트 가드는 누구야?" 등)을 포함할 수 있다. 표시된 콘텐츠가 주식과 관련된 정보를 포함하는 또 다른 예에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 추가 주식 관련 정보에 대한 요청들(예를 들어, "S&P 500의 개장 순가격은 얼마야?", "애플(Apple)은 어때?", "어제 다우 존스는 뭐로 마감됐어?" 등)을 포함할 수 있다. 또한, 일부 예들에서, 표시된 콘텐츠는 이전 사용자 요청과 연관된 미디어 검색 결과를 포함하는 사용자 인터페이스를 포함할 수 있다. 이러한 예들에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 표시된 미디어 검색 결과들을 정제하기 위한 요청들(예를 들어, "단지 작년 것들", "G 등급인 것들만", "단지 무료인 것들" 등) 또는 다른 미디어 검색을 수행하기 위한 요청들(예를 들어, "좋은 액션 영화를 찾아줘", "성룡 영화 몇 편을 보여줘" 등)을 포함할 수 있다.
일부 예들에서, 표시된 콘텐츠는 미디어 디바이스의 메인 메뉴 사용자 인터페이스를 포함할 수 있다. 메인 메뉴 사용자 인터페이스는 예를 들어 미디어 디바이스의 홈 화면 또는 루트 디렉토리일 수 있다. 이러한 예들에서, 상황적으로 관련된 예시적인 자연 언어 요청들은 디지털 어시스턴트의 다양한 능력을 표현하는 요청들을 포함할 수 있다. 특히, 디지털 어시스턴트는 미디어 디바이스와 연관된 핵심 역량 세트를 가질 수 있으며 상황적으로 관련된 예시적인 자연 언어 요청들은 디지털 어시스턴트의 핵심 역량 각각과 관련된 요청들(예를 들어, "무료인 좋은 영화들을 보여줘", "날씨는 어때", "브레이킹 배드의 다음 에피소드를 재생해" 또는 "애플의 주가는 어때?")을 포함할 수 있다.
예시적인 자연 언어 요청들은 자연 언어 형태일 수 있다. 이는 디지털 어시스턴트가 자연 언어 요청들을 이해할 수 있음을 사용자에게 알리는 역할을 할 수 있다. 또한, 일부 예들에서, 예시적인 자연 언어 요청들은 디지털 어시스턴트가 표시된 콘텐츠에 기초하여 사용자의 요청과 연관된 적절한 사용자 의도를 추론할 수 있다는 것을 사용자에게 알리기에는 상황적으로 모호할 수 있다. 특히, 상술한 예들에서 도시된 바와 같이, 예시적인 자연 언어 요청들은 "이" 또는 "것들"과 같은 상황적으로 모호한 용어, 또는 "단지 무료인 것들" 또는 "뉴욕은 어때?"와 같은 상황적으로 모호한 구절을 포함할 수 있다. 이러한 예시적인 자연 언어 요청들은 디지털 어시스턴트가 표시된 콘텐츠에 기초하여 그러한 요청들과 연관된 적절한 상황을 결정할 수 있다는 것을 사용자에게 알릴 수 있다. 이는 사용자가 디지털 어시스턴트와 상호작용할 때 표시되는 콘텐츠의 상황에 의존하게 하고, 이는 디지털 어시스턴트와의 보다 자연스러운 대화형 경험을 촉진하는 것이 바람직할 수 있다.
일부 예들에서, 블록(514)은 블록들(508 내지 512) 후에 수행될 수 있다. 특히, 예시적인 자연 언어 요청들은 사용자 입력이 제1 입력 유형에 대응한다고 블록(506)에서 결정한 후 미리결정된 시간량에서 디스플레이 유닛 상에 표시될 수 있다. 일부 예들에서, 블록들(508 내지 514)은 임의의 순서로 수행될 수 있고, 일부 예들에서, 블록들(508 내지 514) 중 2개 이상이 동시에 수행될 수 있음을 인식해야 한다.
일부 예들에서, 예시적인 자연 언어 요청들은 미리결정된 시퀀스로 그리고 순환 방식으로 표시된다. 각각의 예시적인 자연 언어 요청들은 상이한 시간들에서 개별적으로 표시될 수 있다. 특히, 현재의 예시적인 자연 언어 요청의 표시는 후속하는 예시적인 자연 언어 요청의 표시로 대체될 수 있다. 예를 들어, 도 6d에 도시된 바와 같이, 예시적인 자연 언어 요청(610)이 처음에 표시될 수 있다. 미리결정된 시간량 후에, 예시적인 자연 언어 요청(610)("30초 앞으로 건너뛰기")의 표시는 도 6e에 도시된 바와 같이 예시적인 자연 언어 요청(612)("다음 에피소드를 재생해")으로 대체될 수 있다. 따라서, 본 예에서, 예시적인 자연 언어 요청(610) 및 예시적인 자연 언어 요청(612)은 동시에 보다는 한번에 하나씩 표시된다.
일부 예들에서, 예시적인 자연 언어 요청들은, 각각의 목록이 하나 이상의 예시적인 자연 언어 요청을 포함하는 다수의 목록으로 그룹화될 수 있다. 이들 예에서, 블록(514)은 예시적인 자연 언어 요청들의 목록들을 디스플레이 유닛 상에 표시하는 것을 포함할 수 있다. 각각의 목록은 미리결정된 시퀀스 및 상이한 시간에 표시될 수 있다. 또한, 목록들은 순환 방식으로 표시될 수 있다.
블록들(508 내지 514) 중 하나 이상을 수행하는 동안, 표시된 콘텐츠는 디스플레이 유닛 상에 계속 표시될 수 있다. 예를 들어, 도 6b 내지 도 6e에 도시된 바와 같이, 미디어 콘텐츠(602)는 블록들(508 내지 512)이 수행되는 동안 미디어 디바이스 상에서 계속 재생되고 디스플레이 유닛 상에 계속 표시될 수 있다. 또한, 미디어 콘텐츠와 연관된 오디오는 미디어 콘텐츠를 재생하는 동안 미디어 디바이스에 의해 출력될 수 있다. 일부 예들에서, 오디오의 진폭은 사용자 입력을 검출하는 것에 응답하여 또는 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라 감소되지 않는다. 이는 재생되고 있는 미디어 콘텐츠(602)의 소비에 대한 방해를 감소시키는 것이 바람직할 수 있다. 따라서, 사용자는 디스플레이 유닛 상에 표시되고 있는 요소들(604 내지 612)에도 불구하고 오디오 출력을 통해 다음의 미디어 콘텐츠(602)를 계속할 수 있다.
일부 예들에서, 도 6b 내지 도 6d의 미디어 콘텐츠(602)의 아웃라인 폰트(outlined font)에 의해 표현되는 바와 같이, 표시된 콘텐츠의 밝기는 사용자 입력을 검출하는 것에 응답하여 또는 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라 감소될 수 있다(예를 들어, 20 내지 40%만큼). 이들 예에서, 표시된 요소들(604 내지 612)은 표시된 미디어 콘텐츠(602) 상에 중첩될 수 있다. 밝기를 감소시키는 것은 표시된 요소들(604 내지 612)을 강조하는 역할을 할 수 있다. 동시에, 미디어 콘텐츠(602)는 여전히 디스플레이 유닛 상에서 식별가능할 수 있으므로, 사용자는 요소들(604 내지 612)이 표시되는 동안 미디어 콘텐츠(602)를 계속 소비할 수 있다.
블록들(508 내지 512) 중 하나를 수행하는 동안, (예를 들어, 블록(504)에서 제2 입력 유형의 사용자 입력을 검출함으로써) 디지털 어시스턴트가 호출될 수 있고, 예시적인 자연 언어 요청들 중 하나에 대응하는 사용자 발화가 수신될 수 있다(예를 들어, 블록(518)에서). 이어서, 디지털 어시스턴트는 수신된 요청에 응답하여 태스크를 수행할 수 있다(예를 들어, 블록(532)에서). 디지털 어시스턴트를 호출하고 그와 상호작용하는 것에 관한 추가적인 상세 사항은 도 5b 내지 도 5i를 참조하여 아래에 제공된다. 또한, 블록들(508 내지 512) 중 하나를 수행하는 동안, 타이핑된 검색을 수행하기 위해 가상 키보드 인터페이스가 호출될 수 있다(예를 들어, 블록(558)에서 제5 사용자 입력을 검출함으로써). 가상 키보드 인터페이스를 호출하고 타이핑된 검색을 수행하는 것에 관한 추가적인 상세 사항은 도 5g를 참조하여 아래에 제공된다.
블록(506)을 다시 참조하면, 사용자 입력이 제1 입력 유형에 대응하지 않는다는 결정에 따라, 도 5b의 블록들(516 내지 530) 중 하나 이상이 수행될 수 있다. 블록(516)에서, 사용자 입력이 제2 입력 유형에 대응하는지 여부에 대한 결정이 이루어질 수 있다. 제2 입력 유형은 제1 입력 유형과 상이한 미디어 디바이스에 대한 미리정의된 입력일 수 있다. 일부 예들에서, 제2 입력 유형은 미디어 디바이스의 원격 제어부 상의 특정 버튼을 누르고 미리결정된 지속시간보다 길게 버튼을 누르고 있는 것(예를 들어, 긴 누르기)을 포함할 수 있다. 제2 입력 유형은 디지털 어시스턴트를 호출하는 것과 연관될 수 있다. 일부 예들에서, 제1 입력 유형 및 제2 입력 유형은 원격 제어부의 동일한 버튼(예를 들어, 디지털 어시스턴트를 호출하도록 구성된 버튼)을 사용하여 구현될 수 있다. 이는 디지털 어시스턴트의 호출 및 디지털 어시스턴트의 호출 및 그와 상호작용을 위한 명령어들의 제공을 단일 버튼에 직관적으로 통합하는 것이 바람직할 수 있다. 또한, 경험이 없는 사용자들은 긴 누르기 보다는 짧은 누르기를 직관적으로 구현할 수 있다. 따라서, 짧은 누르기를 검출하는 것에 응답하여 설명을 제공하는 것은 설명이 주로 숙련된 사용자가 아닌 경험이 없는 사용자에게 지향될 수 있게 한다. 숙련된 사용자는 숙련된 사용자들에게 설명을 무시하라는 옵션을 허용하는 반면 가이드를 가장 필요로 하는 경험이 없는 사용자에게 설명을 쉽게 표시하게 함으로써 사용자 경험을 향상시킬 수 있다.
사용자 입력이 제2 입력 유형에 대응한다는 블록(516)에서의 결정에 따라, 블록들(518 내지 530) 중 하나 이상이 수행될 수 있다. 일부 예들에서, 미디어 콘텐츠(602)는 블록들(518 내지 530) 중 하나 이상을 수행하는 동안 미디어 디바이스 상에서 계속 재생될 수 있다. 특히, 미디어 콘텐츠(602)는 블록(518)에서 오디오 데이터를 샘플링하는 동안 그리고 블록(528)에서 태스크를 수행하는 동안 미디어 디바이스 상에서 계속 재생될 수 있고 디스플레이 유닛 상에 계속 표시될 수 있다.
프로세스(500)의 블록(518)에서, 오디오 데이터가 샘플링될 수 있다. 특히, 미디어 디바이스의 제1 마이크로폰(예컨대, 마이크로폰(272))은 오디오 데이터의 샘플링을 시작하도록 활성화될 수 있다. 일부 예들에서, 샘플링된 오디오 데이터는 사용자로부터의 사용자 발화를 포함할 수 있다. 사용자 발화는 디지털 어시스턴트로 지향되는 사용자 요청을 표현할 수 있다. 또한, 일부 예들에서, 사용자 요청은 태스크를 수행하기 위한 요청일 수 있다. 특히, 사용자 요청은 미디어 검색 요청일 수 있다. 예를 들어, 도 6f를 참조하면, 샘플링된 오디오 데이터는 "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"라는 사용자 발화를 포함할 수 있다. 다른 예들에서, 사용자 요청은 미디어 항목을 재생하거나 특정 정보(예컨대, 날씨, 주식, 스포츠 등)를 제공하라는 요청일 수 있다.
샘플링된 오디오 데이터 내의 사용자 발화는 자연 언어 형태일 수 있다. 일부 예들에서, 사용자 발화는, 사용자 요청을 만족시키는 데 필요한 모든 정보를 사용자 발화가 명시적으로 정의하지 않는, 미명세된(underspecified) 사용자 요청을 표현할 수 있다. 예를 들어, 사용자 발화는 "다음 에피소드를 재생해"일 수 있다. 이 예에서, 사용자 요청은 다음 에피소드를 재생할 미디어 시리즈를 명시적으로 정의하지 않는다. 또한, 일부 예들에서, 사용자 발화는 하나 이상의 모호한 용어를 포함할 수 있다.
오디오 데이터가 샘플링되는 지속시간은 종점(end-point)의 검출에 기초할 수 있다. 특히, 오디오 데이터는 제2 입력 유형의 사용자 입력이 처음 검출되는 시작 시간으로부터 종점이 검출되는 종료 시간까지 샘플링될 수 있다. 일부 예들에서, 종점은 사용자 입력에 기초할 수 있다. 특히, 제1 마이크로폰은 제2 입력 유형의 사용자 입력을 초기에 검출 시에(예를 들어, 미리결정된 지속시간보다 긴 시간 동안 버튼을 누름) 활성화될 수 있다. 제1 마이크로폰은 제2 입력 유형의 사용자 입력이 계속 검출되는 동안 오디오 데이터를 샘플링하도록 활성화된 채로 남아있을 수 있다. 제2 입력 유형의 사용자 입력을 검출하는 것을 중지 시에(예를 들어, 버튼이 누름해제됨), 제1 마이크로폰은 비활성화될 수 있다. 따라서, 이러한 예들에서, 종점은 사용자 입력의 종료를 검출 시에 검출된다. 따라서, 오디오 데이터는 제2 입력 유형의 사용자 입력을 검출하는 동안 샘플링된다.
다른 예들에서, 종점을 검출하는 것은 샘플링된 오디오 데이터의 하나 이상의 오디오 특성에 기초할 수 있다. 특히, 샘플링된 오디오 데이터의 하나 이상의 오디오 특성이 모니터링될 수 있고, 하나 이상의 오디오 특성이 하나 이상의 미리결정된 기준을 만족시키지 않는다고 결정한 후 미리결정된 시간에 종점이 검출될 수 있다. 또 다른 예들에서, 종점은 고정된 지속시간에 기초하여 검출될 수 있다. 특히, 종점은 제2 입력 유형의 사용자 입력을 초기에 검출한 후 미리결정된 지속시간에서 검출될 수 있다.
일부 예들에서, 블록들(504 또는 516)이 수행되는 동안, 표시된 콘텐츠와 연관된 오디오가 출력될 수 있다(예를 들어, 스피커(268)를 사용하여). 특히, 오디오는 미디어 디바이스 상에서 재생되고 디스플레이 유닛 상에 표시된 미디어 항목의 오디오일 수 있다. 오디오는 미디어 디바이스로부터 오디오 신호를 통해 출력될 수 있다. 이러한 예들에서, 사용자 입력이 제2 입력 유형에 대응한다고 결정 시에 그리고 오디오 데이터를 샘플링 시에, 표시된 콘텐츠와 연관된 오디오가 더킹(ducking)될 수 있다(예를 들어, 오디오의 진폭이 감소됨). 예를 들어, 오디오는 오디오 신호와 연관된 이득을 감소시킴으로써 더킹될 수 있다. 다른 예들에서, 미디어 콘텐츠와 연관된 오디오의 출력은 블록(518)에서 오디오 데이터를 샘플링하는 동안 중지될 수 있다. 예를 들어, 오디오 신호를 차단하거나 방해함으로써 오디오가 중지될 수 있다. 오디오의 출력을 더킹 또는 중지하는 것은 샘플링된 오디오 데이터의 백그라운드 잡음을 감소시키고 사용자 발화와 연관된 스피치 신호의 상대적 강도를 증가시키는 것이 바람직할 수 있다. 또한, 오디오의 더킹 또는 중지는 사용자가 디지털 어시스턴트에 스피치 입력을 제공하기 시작하기 위한 오디오 큐(audio cue)로서의역할을 할 수 있다.
일부 예들에서, 백그라운드 오디오 데이터는 오디오 데이터를 샘플링하는 동안 샘플링되어 잡음 제거를 수행할 수 있다. 이들 예에서, 원격 제어부 또는 미디어 디바이스는 제2 마이크로폰을 포함할 수 있다. 제2 마이크로폰은 제1 마이크로폰과는 상이한 방향(예컨대, 제1 마이크로폰에 대향하는)으로 배향될 수 있다. 제2 마이크로폰은 오디오 데이터가 샘플링되고 있는 동안 백그라운드 오디오 데이터를 샘플링하기 위해 활성화될 수 있다. 일부 예들에서, 백그라운드 오디오 데이터는 오디오 데이터의 백그라운드 잡음을 제거하는 데 사용될 수 있다. 다른 예들에서, 미디어 디바이스는 표시된 콘텐츠와 연관된 오디오를 출력하기 위한 오디오 신호를 생성할 수 있다. 생성된 오디오 신호는 오디오 데이터에서 백그라운드 잡음을 제거하는 데 사용될 수 있다. 오디오 신호로부터의 백그라운드 잡음의 소음 제거를 수행하는 것은 미디어 환경에서 디지털 어시스턴트와의 상호작용에 특히 적합할 수 있다. 이는 여러 개인들의 발화가 오디오 데이터에 혼합되어 있을 수 있는 미디어 콘텐츠를 소비하는 것의 공동 속성 때문일 수 있다. 오디오 데이터에서 백그라운드 잡음을 제거함으로써, 오디오 데이터에서 더 높은 신호대 잡음비가 획득될 수 있으며, 이는 사용자 요청에 대한 오디오 데이터를 처리할 때 바람직할 수 있다.
프로세스(500)의 블록(520)에서, 도 6f를 참조하면, 능동 시각적 표시자(614)가 디스플레이 유닛 상에 표시될 수 있다. 능동 시각적 표시자(614)는 디지털 어시스턴트가 호출되어 적극적으로 청취함을 사용자에게 나타낼 수 있다. 특히, 능동 시각적 표시자(614)는 사용자에게 디지털 어시스턴트로 스피치 입력을 제공하기 시작할 것을 촉구하는 시각적 큐로서의 역할을 할 수 있다. 일부 예들에서, 능동 시각적 표시자(614)는 디지털 어시스턴트가 호출됨을 나타내기 위한 색 및/또는 시각적 애니메이션을 포함할 수 있다. 예를 들어, 도 6f에 도시된 바와 같이, 능동 시각적 표시자(614)는 디지털 어시스턴트에 의해 수신된 오디오 데이터의 하나 이상의 특성(예를 들어, 진폭)에 응답하는 액티브 파형을 포함할 수 있다. 예를 들어, 능동 시각적 표시자(614)는 더 큰 오디오 데이터의 부분에 응답하여 더 큰 진폭을 갖는 파형 및 더 약한 오디오 데이터의 부분에 응답하여 더 작은 진폭을 갖는 파형을 표시할 수 있다. 또한, 수동 시각적 표시자(606)(예를 들어, 도 6e)를 표시하는 동안 디지털 어시스턴트가 호출되는 예들에서, 시각적 표시자(606)의 표시는 능동 시각적 표시자(614)의 표시로 대체될 수 있다. 이는 디지털 어시스턴트를 호출하고 그와 상호작용하는 방법을 시연하기 위한 도 6b 내지 도 6e에 도시된 지시형 사용자 인터페이스로부터 디지털 어시스턴트와 능동적으로 상호작용하기 위한 도 6f에 도시된 능동 사용자 인터페이스로의 자연스러운 전환을 제공할 수 있다.
프로세스(500)의 블록(522)에서, 샘플링된 오디오 데이터 내의 사용자 발화의 텍스트 표현이 결정될 수 있다. 예를 들어, 텍스트 표현은 샘플링된 오디오 데이터에 대해 스피치-텍스트(STT) 처리를 수행함으로써 결정될 수 있다. 특히, 샘플링된 오디오 데이터는 샘플링된 오디오 데이터 내의 사용자 발화를 텍스트 표현으로 변환하기 위해 STT 처리 모듈(예컨대, STT 처리 모듈(430))을 사용하여 처리될 수 있다. 텍스트 표현은 대응하는 텍스트 문자열을 표현하는 토큰 문자열이 될 수 있다.
일부 예들에서, STT 처리는 미디어 관련 텍스트 결과를 향하여 바이어스될 수 있다. 바이어싱(biasing)은 미디어 관련 텍스트의 코퍼스를 사용하여 트레이닝된 언어 모델을 활용하여 구현할 수 있다. 부가적으로 또는 대안적으로, 바이어싱은 미디어와 관련된 후보 텍스트 결과에 더 크게 가중치를 줌으로써 구현될 수 있다. 이러한 방식으로, 미디어와 관련된 후보 텍스트 결과는 바이어싱이 없는 것보다 바이어싱을 갖는 것에 더 높은 순위가 매겨질 수 있다. 바이어싱은 미디어 관련 사용자 발화들(예를 들어, 영화 제목, 영화 배우 등)의 STT 처리의 정확도를 높이기 위해 바람직할 수 있다. 예를 들어, "쥬라기 공원", "아놀드 슈왈제네거", 및 "슈렉"과 같은 특정 미디어 관련 단어나 구절은 텍스트의 전형적인 코퍼스에서는 드물게 발견될 수 있고, 따라서 미디어 관련 텍스트 결과를 향하여 바이어스하지 않고는 STT 처리 중에 성공적으로 인식되지 않을 수 있다.
일부 예들에서, 텍스트 표현은 별개의 디바이스(예컨대, DA 서버(106))로부터 획득될 수 있다. 특히, 샘플링된 오디오 데이터는 STT 처리를 수행하기 위해 미디어 디바이스로부터 별개의 디바이스로 송신될 수 있다. 이들 예에서, 미디어 디바이스는 샘플링된 오디오 데이터가 미디어 애플리케이션과 연관되어 있다는 것을 별개의 디바이스에 나타낼 수 있다(예를 들어, 샘플링된 오디오 데이터와 함께 별개의 디바이스에 송신된 데이터를 통해). 상기 나타내는 것은 STT 처리를 미디어 관련 텍스트 결과를 향하여 바이어스할 수 있다.
일부 예들에서, 텍스트 표현은 오디오 데이터를 샘플링하기 이전에 미디어 디바이스에 의해 수신된 이전 사용자 발화들에 기초할 수 있다. 특히, 이전 사용자 발화들의 하나 이상의 부분에 대응하는 샘플링된 오디오 데이터의 후보 텍스트 결과는 더 크게 가중치가 주어질 수 있다. 일부 예들에서, 이전 사용자 발화들은 언어 모델을 생성하는 데 사용될 수 있고, 생성된 언어 모델은 샘플링된 오디오 데이터 내의 현재 사용자 발화의 텍스트 표현을 결정하는 데 사용될 수 있다. 언어 모델은 추가적인 사용자 발화들이 수신되고 처리될 때 동적으로 업데이트될 수 있다.
또한, 일부 예들에서, 텍스트 표현은 오디오 데이터를 샘플링하기 이전에 이전 사용자 발화들이 수신된 시간에 기초할 수 있다. 특히, 샘플링된 오디오 데이터에 대해 보다 최근에 수신된 이전 사용자 발화들에 대응하는 후보 텍스트 결과는 샘플링된 오디오 데이터에 대해 덜 최근에 수신된 이전 사용자 발화들에 대응하는 후보 텍스트 결과보다 더 크게 가중치가 주어질 수 있다.
프로세스(500)의 블록(524)에서, 텍스트 표현이 디스플레이 유닛 상에 표시될 수 있다. 예를 들어, 도 6f는 샘플링된 오디오 데이터에서의 사용자 발화에 대응하는 텍스트 표현(616)을 도시한다. 일부 예들에서, 블록들(522, 524)은 오디오 데이터가 샘플링되는 동안 수행될 수 있다. 특히, 사용자 발화의 텍스트 표현(616)은 오디오 데이터가 샘플링되고 STT 처리가 샘플링된 오디오 데이터에 대해 수행될 때 텍스트 표현(616)이 실시간으로 표시되도록 스트리밍 방식으로 표시될 수 있다. 텍스트 표현(616)을 표시하는 것은 디지털 어시스턴트가 사용자의 요청을 정확하게 처리하고 있다는 확인을 사용자에게 제공할 수 있다.
프로세스(500)의 블록(526)에서, 사용자 발화에 대응하는 사용자 의도가 결정될 수 있다. 사용자 의도는 블록(522)의 텍스트 표현에 대한 자연 언어 처리를 수행함으로써 결정될 수 있다. 특히, 텍스트 표현은 자연 언어 처리 모듈(예컨대, 자연 언어 처리 모듈(432))을 사용하여 처리되어 사용자 의도를 도출할 수 있다. 예를 들어, 도 6f를 참조하면, "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"에 대응하는 텍스트 표현(616)으로부터, 사용자 의도가 로맨틱 코미디 장르와 배우 리즈 위더스푼을 갖는 미디어 항목들에 대한 검색을 요청하는 것이라고 결정될 수 있다. 일부 예들에서, 블록(526)은 자연 언어 처리 모듈을 이용하여, 결정된 사용자 의도를 표현하는 구조화된 질의를 생성하는 것을 추가로 포함할 수 있다. "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"의 본 예에서, 로맨틱 코미디 장르와 배우 리즈 위더스푼을 갖는 미디어 항목들에 대한 미디어 검색 질의를 표현하는 구조화된 질의가 생성될 수 있다.
일부 예들에서, 사용자 의도를 결정하기 위한 자연 언어 처리는 미디어 관련 사용자 의도를 향하여 바이어스될 수 있다. 특히, 자연 언어 처리 모듈은 온톨로지에서 미디어 관련 노드를 트리거하는 미디어 관련 단어 및 구절(예컨대, 미디어 제목, 미디어 장르, 배우, MPAA 영화 등급 라벨 등)을 식별하도록 트레이닝될 수 있다. 예를 들어, 자연 언어 처리 모듈은 텍스트 표현에서 "쥬라기 공원"이라는 구절을 영화 제목으로 식별할 수 있으며, 결과적으로 미디어 항목들을 검색하는 것의 행동가능한 의도와 연관된 온톨로지 내의 "미디어 검색" 노드를 트리거할 수 있다. 일부 예들에서, 바이어싱은 온톨로지 내의 노드들을 미디어 관련 노드들의 미리결정된 세트로 제한함으로써 구현될 수 있다. 예를 들어, 미디어 관련 노드들의 세트는 미디어 디바이스의 애플리케이션들과 연관된 노드일 수 있다. 또한, 일부 예들에서, 바이어싱은 미디어 관련이 아닌 후보 사용자 의도보다 미디어 관련된 후보 사용자 의도에 더 크게 가중치를 줌으로써 구현될 수 있다.
일부 예들에서, 사용자 의도는 별개의 디바이스(예컨대, DA 서버(106))로부터 획득될 수 있다. 특히, 오디오 데이터는 자연 언어 처리를 수행하기 위해 별개의 디바이스로 송신될 수 있다. 이들 예에서, 미디어 디바이스는 샘플링된 오디오 데이터가 미디어 애플리케이션과 연관되어 있다는 것을 별개의 디바이스에 나타낼 수 있다(예를 들어, 샘플링된 오디오 데이터와 함께 별개의 디바이스에 송신된 데이터를 통해). 상기 나타내는 것은 자연 언어 처리를 미디어 관련 사용자 의도를 향하여 바이어스할 수 있다.
프로세스(500)의 블록(528)에서, 샘플링된 오디오 데이터가 사용자 요청을 포함하는지 여부에 대한 결정이 이루어질 수 있다. 결정은 블록(526)의 결정된 사용자 의도로부터 이루어질 수 있다. 샘플링된 오디오 데이터는 사용자 의도가 태스크를 수행하라는 사용자 요청을 포함하는 경우 사용자 요청을 포함하도록 결정될 수 있다. 반대로, 샘플링된 오디오 데이터는 사용자 의도가 태스크를 수행하라는 사용자 요청을 포함하지 않는 경우 사용자 요청을 포함하지 않는 것으로 결정될 수 있다. 또한, 일부 예들에서, 블록(526)에서 사용자 의도가 텍스트 표현으로부터 결정될 수 없는 경우, 또는 블록(522)에서 샘플링된 오디오 데이터로부터 텍스트 표현이 결정될 수 없는 경우, 샘플링된 오디오 데이터는 사용자 요청을 포함하지 않는 것으로 결정될 수 있다. 오디오 데이터가 사용자 요청을 포함하지 않는다는 결정에 따라, 블록(530)이 수행될 수 있다.
프로세스(500)의 블록(530)에서, 사용자의 의도의 명확화를 위한 요청이 디스플레이 유닛 상에 표시될 수 있다. 일 예에서, 명확화를 위한 요청은 사용자가 사용자 요청을 반복하라는 요청일 수 있다. 다른 예에서, 명확화를 위한 요청은 디지털 어시스턴트가 사용자의 발화를 이해할 수 없다는 진술일 수 있다. 또 다른 예에서, 사용자의 의도가 결정될 수 없다는 것을 나타내는 에러 메시지가 표시될 수 있다. 또한, 일부 예들에서, 오디오 데이터가 사용자 요청을 포함하지 않는다는 결정에 따라 어떠한 응답도 제공될 수 없다.
도 5c를 참조하면, 블록(532)은 샘플링된 오디오 데이터가 사용자 요청을 포함하는 블록(528)에서의 결정에 따라 수행될 수 있다. 프로세스(500)의 블록(532)에서, 사용자 요청을 적어도 부분적으로 만족시키는 태스크가 수행될 수 있다. 예를 들어, 블록(526)에서 태스크를 수행하는 것은 블록(526)의 생성된 구조화된 질의에 정의된 하나 이상의 태스크를 실행하는 것을 포함할 수 있다. 하나 이상의 태스크는 디지털 어시스턴트의 태스크 흐름 처리 모듈(예를 들어, 태스크 흐름 처리 모듈(436))을 사용하여 수행될 수 있다. 일부 예들에서, 태스크는 미디어 디바이스 상의 애플리케이션의 상태 또는 설정을 변경하는 것을 포함할 수 있다. 보다 구체적으로, 태스크는 예를 들어, 요청된 미디어 항목을 선택 또는 재생하거나, 요청된 애플리케이션을 열거나 닫거나, 또는 표시된 사용자 인터페이스를 통해 요청된 방식으로 내비게이팅하는 것을 포함할 수 있다. 일부 예들에서, 태스크는 태스크와 관련된 스피치를 미디어 디바이스로부터 출력하지 않고서 블록(532)에서 수행될 수 있다. 따라서, 이러한 예들에서, 사용자는 스피치의 형태로 디지털 어시스턴트에 요청들을 제공할 수 있지만, 디지털 어시스턴트는 스피치 형태로 사용자에게 응답을 제공하지 않을 수 있다. 오히려, 디지털 어시스턴트는 디스플레이 유닛 상에 결과를 표시함으로써 시각적으로만 응답할 수 있다. 이는 미디어 콘텐츠를 소비하는 것의 공동 경험을 보존하는 것이 바람직할 수 있다.
다른 예들에서, 태스크는 요청된 정보를 검색하고 표시하는 것을 포함할 수 있다. 특히, 블록(532)에서 태스크를 수행하는 것은 블록들(534 내지 536) 중 하나 이상을 수행하는 것을 포함할 수 있다. 프로세스(500)의 블록(534)에서, 사용자 요청을 적어도 부분적으로 만족시키는 결과가 획득될 수 있다. 결과는 외부 서비스(예컨대, 외부 서비스(120))로부터 획득될 수 있다. 일 예에서, 사용자 요청은 "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"와 같은 미디어 검색 질의를 수행하라는 요청일 수 있다. 이 예에서, 블록(534)은 로맨틱 코미디 장르와 배우 리즈 위더스푼을 갖는 미디어 항목들을 획득하기 위해 요청된 미디어 검색(예를 들어, 외부 서비스의 미디어 관련 데이터베이스를 사용하여)을 수행하는 것을 포함할 수 있다. 다른 예들에서, 사용자 요청은 날씨, 스포츠, 및 주식과 같은 다른 유형의 정보에 대한 요청들을 포함할 수 있으며, 블록(534)에서 개개의 정보가 획득될 수 있다.
프로세스(500)의 블록(536)에서, 제2 사용자 인터페이스가 디스플레이 유닛 상에 표시될 수 있다. 제2 사용자 인터페이스는 블록(534)에서 획득된 결과의 일부를 포함할 수 있다. 예를 들어, 도 6g에 도시된 바와 같이, 제2 사용자 인터페이스(618)가 디스플레이 유닛 상에 표시될 수 있다. 제2 사용자 인터페이스(618)는 "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"의 사용자 요청을 만족시키는 미디어 항목들(622)을 포함할 수 있다. 이 예에서, 미디어 항목들(622)은 "금발이 너무해", "금발이 너무해 2", "핫 퍼슈트", 및 "디스 민즈 워"와 같은 미디어 항목들을 포함할 수 있다. 제2 사용자 인터페이스(618)는 획득된 결과를 기술하는 텍스트 헤더(620)를 추가로 포함할 수 있다. 텍스트 헤더(620)는 사용자 요청의 일부가 직접적으로 처리되었다는 인상을 전달하기 위해 사용자 요청의 일부를 패러프레이즈할 수 있다. 이는 사용자와 디지털 어시스턴트 사이에 보다 친숙하고 대화형 경험을 제공한다. 도 6g에 도시된 본 예에서, 미디어 항목들(622)은 제2 사용자 인터페이스(618)를 가로질러 단일 행으로 정리된다. 다른 예들에서, 미디어 항목들(622)의 정리 및 제시는 다를 수 있음을 인식해야 한다.
제2 사용자 인터페이스(618)는 제2 사용자 인터페이스(618)에서 미디어 항목들(622)을 내비게이팅하고 선택하기 위한 커서(624)를 추가로 포함할 수 있다. 커서의 위치는 커서가 그 위에 위치설정되는 미디어 항목을 다른 미디어 항목들에 비해 시각적으로 강조함으로써 나타낼 수 있다. 예를 들어, 본 예에서, 커서(624)가 그 위에 위치설정되는 미디어 항목(623)은 제2 사용자 인터페이스(618)에 표시된 다른 미디어 항목들에 비해 더 크고 더 뚜렷하게 윤곽이 잡힐 수 있다.
일부 예들에서, 제2 사용자 인터페이스가 표시되는 동안 표시된 콘텐츠의 적어도 일부는 계속 표시될 수 있다. 예를 들어, 도 6g에 도시된 바와 같이, 제2 사용자 인터페이스(618)는 미디어 콘텐츠(602)가 미디어 디바이스 상에서 계속 재생되고 제2 사용자 인터페이스(618) 위의 디스플레이 유닛 상에 표시되는 동안 디스플레이 유닛의 베이스에서 표시되는 작은 구획일 수 있다. 제2 사용자 인터페이스(618)는 재생 중인 미디어 콘텐츠(602) 상에 중첩될 수 있다. 본 예에서, 디스플레이 유닛 상의 제2 사용자 인터페이스(618)의 표시 영역은 디스플레이 유닛 상의 미디어 콘텐츠(602)의 표시 영역보다 작을 수 있다. 이는 사용자가 미디어 콘텐츠를 소비하는 동안 디지털 어시스턴트에 의해 표시된 결과의 방해를 줄이는 것이 바람직할 수 있다. 다른 예들에서, 표시된 콘텐츠의 표시 영역에 대한 제2 사용자 인터페이스의 표시 영역은 다를 수 있다는 것을 인식해야 한다. 또한, 도 6g의 "미디어 재생 중"에 대해 굵은 글꼴로 표시된 바와 같이, 미디어 콘텐츠(602)의 밝기는 제2 사용자 인터페이스(618)를 표시 시에 정상(예를 들어, 사용자 입력을 검출하기 이전의 도 6a에서의 밝기)으로 되돌릴 수 있다. 이는 사용자에게 디지털 어시스턴트와의 상호작용이 완료되었음을 나타내는 역할을 할 수 있다. 따라서, 사용자는 요청된 결과(예를 들어, 미디어 항목들(622))를 보면서 미디어 콘텐츠(602)를 계속 소비할 수 있다.
미디어 검색으로부터 획득된 미디어 항목들이 제2 사용자 인터페이스 상에 표시되는 예들에서, 표시된 미디어 항목들의 수는 제한될 수 있다. 이는 사용자가 가장 관련성이 높은 결과에 포커스하고 선택 시에 결과의 수에 사용자가 압도당하는 것을 방지하게 하는 것이 바람직할 수 있다. 이러한 예들에서, 블록(532)은 획득된 결과들에서 미디어 항목들의 수가 미리결정된 수(예를 들어, 30, 28, 또는 25) 이하인지 여부를 결정하는 것을 추가로 포함할 수 있다. 획득된 결과들의 미디어 항목들의 수가 미리결정된 수 이하라는 결정에 따라, 획득된 결과들의 미디어 항목들 모두는 제2 사용자 인터페이스에 포함될 수 있다. 획득된 결과들에서 미디어 항목들의 수가 미리결정된 수보다 크다는 결정에 따라, 획득된 결과들 내의 미리결정된 수의 미디어 항목들만이 제2 사용자 인터페이스에 포함될 수 있다.
또한, 일부 예들에서, 미디어 검색 요청에 가장 관련있는 획득된 결과들 내의 미디어 항목들만이 제2 사용자 인터페이스에 표시될 수 있다. 특히, 획득된 결과 내의 미디어 항목들 각각은 미디어 검색 요청에 대한 적합성 점수와 연관될 수 있다. 표시되는 미디어 항목들은 획득된 결과들 중에서 가장 높은 적합성 점수를 가질 수 있다. 또한, 제2 사용자 인터페이스 내의 미디어 항목들은 적합성 점수에 따라 배열될 수 있다. 예를 들어, 도 6g를 참조하면, 더 높은 적합성 점수를 갖는 미디어 항목들은 제2 사용자 인터페이스(618)의 일 측면(예를 들어, 커서(624)에 근접한 측면)에 근접하여 위치설정될 가능성이 더 많을 수 있는 반면, 더 낮은 적합성 점수를 갖는 미디어 항목들은 제2 사용자 인터페이스(618)의 반대 측면(예를 들어, 커서(624)와 멀리 있는 측면)에 근접하게 위치설정될 가능성이 더 많을 수 있다. 부가적으로, 획득된 결과의 각 미디어 항목은 인기도 평점과 연관될 수 있다. 인기도 평점은 영화 평론가의 평점(예컨대, 로튼 토마토(rotten tomatoes) 평점)에 기초하거나 재생을 위해 미디어 항목을 선택한 사용자들의 수에 기초할 수 있다. 일부 예들에서, 미디어 항목들(622)은 인기도 평점에 기초하여 제2 사용자 인터페이스(618) 내에 배열될 수 있다. 예를 들어, 더 높은 인기도 평점을 갖는 미디어 항목들은 제2 사용자 인터페이스(618)의 일 측면에 위치설정될 가능성이 더 많은 반면, 더 낮은 인기도 평점을 갖는 미디어 항목들은 제2 사용자 인터페이스(618)의 반대 측면에 근접하게 위치설정될 가능성이 더 많을 수 있다.
도 5c의 블록(532)에 이어지는 상이한 흐름들(예컨대, D, E, F, G)에 의해 나타난 바와 같이, 도 5d, 도 5e, 도 5f, 또는 도 5i의 블록들(538, 542, 550, 또는 570) 중 하나는 각각 블록(532) 후에 수행될 수 있다. 블록들(538, 542, 550, 또는 570)은 블록(536)에서 제2 사용자 인터페이스를 표시하는 동안 수행될 수 있다. 일부 예들에서, 프로세스(500)는 수행할 적절한 흐름(예를 들어, D, E, F, 또는 G)을 결정하기 위해 블록(536) 후에 결정 단계를 대안적으로 포함할 수 있다. 특히, 블록(536) 후에 사용자 입력이 검출될 수 있고, 검출된 사용자 입력이 제2 사용자 입력(예를 들어, 블록(538)), 제3 사용자 입력(예를 들어, 블록(542)), 제4 사용자 입력(예를 들어, 블록(550)), 또는 제6 사용자 입력(예를 들어, 블록(570))에 대응하는지 여부에 대한 결정이 이루어질 수 있다. 예를 들어, 사용자 입력이 블록(542)의 제3 사용자 입력에 대응한다는 결정에 따라, 블록들(544 내지 546) 중 하나 이상이 수행될 수 있다. 블록(546) 후에 유사한 결정 단계가 또한 포함될 수 있다.
프로세스(500)의 블록(538)에서, 도 5d를 참조하면, 제2 사용자 입력이 검출될 수 있다. 위에서 논의된 바와 같이, 제2 사용자 인터페이스가 디스플레이 유닛 상에 표시되는 동안 제2 사용자 입력이 검출될 수 있다. 제2 사용자 입력은 미디어 디바이스의 원격 제어부 상에서 검출될 수 있다. 예를 들어, 제2 사용자 입력은 원격 제어부의 터치 감응형 표면 상의 제1 미리결정된 모션 패턴을 포함할 수 있다. 일 예에서, 제1 미리결정된 모션 패턴은 제1 접촉 지점으로부터 터치 감응형 표면 상의 제2 접촉 지점까지의 제1 방향으로의 연속 접촉 모션을 포함할 수 있다. 원격 제어부를 의도된 방식으로 파지할 때, 제1 방향은 하향 방향 또는 사용자를 향하는 방향일 수 있다. 제2 사용자 입력에 대해 다른 형태의 입력이 고려될 수 있음을 인식해야 한다. 제2 사용자 입력을 검출하는 것에 응답하여, 블록(540)이 수행될 수 있다.
프로세스(500)의 블록(540)에서, 제2 사용자 인터페이스가 더 이상 표시되지 않도록 제2 사용자 인터페이스가 해제될 수 있다. 예를 들어, 도 6g를 참조하면, 제2 사용자 인터페이스(618)는 제2 사용자 입력을 검출하는 것에 응답하여 표시되는 것을 중지할 수 있다. 이 예에서, 제2 사용자 인터페이스(618)를 해제 시에, 미디어 콘텐츠(602)는 디스플레이 유닛의 전체 스크린 상에 표시될 수 있다. 예를 들어, 제2 사용자 인터페이스(618)를 표시하는 것을 중지 시에, 미디어 콘텐츠(602)는 도 6a에 도시된 바와 같이 표시될 수 있다.
프로세스(500)의 블록(542)에서, 도 5e를 참조하면, 제3 사용자 입력이 검출될 수 있다. 제2 사용자 인터페이스가 디스플레이 유닛 상에 표시되는 동안 제3 사용자 입력이 검출될 수 있다. 제3 사용자 입력은 미디어 디바이스의 원격 제어부 상에서 검출될 수 있다. 예를 들어, 제3 사용자 입력은 원격 제어부의 터치 감응형 표면 상의 제2 미리결정된 모션 패턴을 포함할 수 있다. 제2 미리결정된 모션 패턴은 제3 접촉 지점으로부터 터치 감응형 표면 상의 제4 접촉 지점까지의 제2 방향으로의 연속 접촉 모션을 포함할 수 있다. 제2 방향은 제1 방향과 반대일 수 있다. 특히, 의도된 방식으로 원격 제어부를 파지할 때, 제2 방향은 상향 방향 또는 사용자로부터 멀어지는 방향일 수 있다. 제3 사용자 입력을 검출하는 것에 응답하여, 블록들(544 내지 546) 중 하나 이상이 수행될 수 있다. 일부 예들에서, 도 6g에 도시된 바와 같이, 제2 사용자 인터페이스(618)는 제3 사용자 입력을 제공함으로써 제2 사용자 인터페이스(618)가 확장될 수 있음을 사용자에게 나타내기 위한 그래픽 표시자(621)(예컨대, 화살표)를 포함할 수 있다. 또한, 그래픽 표시자(621)는 제3 사용자 입력에 대한 터치 감응형 표면 상의 제2 미리결정된 모션 패턴과 연관된 제2 방향을 사용자에게 나타낼 수 있다.
프로세스(500)의 블록(544)에서, 제2 결과가 획득될 수 있다. 획득된 제2 결과는 블록(534)에서 획득된 결과와 유사하지만 동일하지는 않을 수 있다. 일부 예들에서, 획득된 제2 결과는 사용자 요청을 적어도 부분적으로 만족시킬 수 있다. 예를 들어, 획득된 제2 결과는 블록(534)에서 획득된 결과의 하나 이상의 특성, 파라미터, 또는 속성을 공유할 수 있다. 도 6f 및 도 6g에 도시된 예에서, 블록(544)은 블록(534)에서 수행된 미디어 검색 질의와 관련된 하나 이상의 추가 미디어 검색 질의를 수행하는 것을 포함할 수 있다. 예를 들어, 하나 이상의 추가 미디어 검색 질의는 로맨틱 코미디 장르를 갖는 미디어 항목들에 대한 검색어 또는 리즈 위더스푼이 주연한 미디어 항목들에 대한 검색어를 포함할 수 있다. 따라서, 획득된 제2 결과는 로맨틱 코미디(예컨대, 미디어 항목들(634)) 및/또는 리즈 위더스푼이 주연한 미디어 항목들(예컨대, 미디어 항목들(636))을 포함할 수 있다.
일부 예들에서, 획득된 제2 결과는 블록(504)에서 사용자 입력을 검출하기 이전에 수신된 이전 사용자 요청에 기초할 수 있다. 특히, 획득된 제2 결과는 이전 사용자 요청의 하나 이상의 특성 또는 파라미터를 포함할 수 있다. 예를 들어, 이전 사용자 요청은 "지난 5년 동안 출시된 영화들을 보여줘"일 수 있다. 이 예에서, 획득된 제2 결과는 리즈 위더스푼이 주연한 로맨틱 코미디 영화이며 지난 5년 동안 출시된 미디어 항목들을 포함할 수 있다.
또한, 일부 예들에서, 블록(544)은 제3 사용자 입력이 검출된 시간에서 제2 사용자 인터페이스가 포커스되는 항목과 상황적으로 관련되는 제2 결과를 획득하는 것을 포함할 수 있다. 예를 들어, 도 6g를 참조하면, 커서(624)는 제3 사용자 입력이 검출되는 시간에서 제2 사용자 인터페이스(618) 내의 미디어 항목(623)에 위치설정될 수 있다. 미디어 항목(623)은, 예를 들어, 영화 "금발이 너무해"일 수 있다. 이 예에서, 획득된 제2 결과는 미디어 항목 "금발이 너무해"와 연관된 하나 이상의 특성, 속성, 또는 파라미터를 공유할 수 있다. 특히, 획득된 제2 결과는 "금발이 너무해"와 마찬가지로 법대에 다니는 것에 또는 전문직 여성이 주연인 것에 관련된 미디어 항목들을 포함할 수 있다.
프로세스(500)의 블록(546)에서, 제3 사용자 인터페이스는 디스플레이 유닛 상에 표시될 수 있다. 특히, 블록(536)에서의 제2 사용자 인터페이스의 표시는 블록(546)에서의 제3 사용자 인터페이스의 표시로 대체될 수 있다. 일부 예들에서, 제3 사용자 입력을 검출하는 것에 응답하여, 제2 사용자 인터페이스는 제3 사용자 인터페이스가 되도록 확장될 수 있다. 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지할 수 있다. 제3 사용자 인터페이스는 블록(534)의 획득된 결과의 일부를 포함할 수 있다. 또한, 제3 사용자 인터페이스는 블록(544)의 획득된 제2 결과의 일부를 포함할 수 있다.
일 예에서, 도 6h에 도시된 바와 같이, 제3 사용자 인터페이스(626)는 실질적으로 디스플레이 유닛의 전체 표시 영역을 차지할 수 있다. 이 예에서, 미디어 콘텐츠(602) 및 제2 사용자 인터페이스(618)의 이전 표시는 제3 사용자 인터페이스(626)의 표시로 대체될 수 있다. 제3 사용자 입력을 검출하는 것에 응답하여, 미디어 콘텐츠의 재생은 미디어 디바이스 상에서 일시정지될 수 있다. 이는 사용자가 제3 사용자 인터페이스(626)에서 미디어 항목들을 브라우징하는 동안 미디어 콘텐츠(602)의 임의의 부분을 놓치지 않게 하는 것이 바람직할 수 있다.
제3 사용자 인터페이스(626)는 "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"의 사용자 요청을 만족시키는 미디어 항목들(622)을 포함할 수 있다. 또한, 제3 사용자 인터페이스(626)는 동일한 사용자 요청을 적어도 부분적으로 만족시키는 미디어 항목들(632)을 포함할 수 있다. 미디어 항목들(632)은 상이한 특성, 속성, 또는 파라미터에 각각 대응하는 미디어 항목들의 다수의 세트를 포함할 수 있다. 이 예에서, 미디어 항목들(632)은 로맨틱 코미디인 미디어 항목들(634) 및 리즈 위더스푼이 주연한 미디어 항목들(636)을 포함할 수 있다. 미디어 항목들의 각각의 세트는 텍스트 헤더(예컨대, 텍스트 헤더(628, 630))로 라벨링될 수 있다. 텍스트 헤더는 미디어 항목들의 개개의 세트와 연관된 하나 이상의 속성 또는 파라미터를 기술할 수 있다. 또한, 텍스트 헤더는 각각 사용자에 의해 디지털 어시스턴트에 제공될 때, 디지털 어시스턴트로 하여금 미디어 항목들의 유사한 세트를 획득하게 할 수 있는 예시적인 사용자 발화일 수 있다. 예를 들어, 텍스트 헤더(628)를 참조하면, 디지털 어시스턴트는 사용자로부터 사용자 발화 "로맨틱 코미디"를 수신하는 것에 응답하여 로맨틱 코미디(예컨대, 미디어 항목들(634))인 미디어 항목들을 획득하고 표시할 수 있다.
도 6h에 도시된 예에서는, 미디어 항목들(622)은 "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"의 초기 사용자 요청에 기초하지만, 다른 예들에서 미디어 항목들(632)은 미디어 선택 이력, 미디어 검색 이력, 이전 미디어 검색이 수신된 순서, 미디어 관련 속성들 간의 관계, 미디어 항목들의 인기도 등과 같은 다른 요인들에 기초될 수 있음을 인식해야 한다.
사용자 요청이 미디어 검색 요청인 예들에서, 획득된 제2 결과는 블록(534)의 획득된 결과들에서 미디어 항목들의 수에 기초할 수 있다. 특히, 제3 사용자 입력을 검출하는 것에 응답하여, 획득된 결과에서 미디어 항목들의 수가 미리결정된 수 이하인지 여부에 대한 결정이 이루어질 수 있다. 획득된 결과에서 미디어 항목들의 수가 미리결정된 수 이하라는 결정에 따라, 획득된 제2 결과는 제2 사용자 인터페이스 내의 미디어 항목들과는 상이한 미디어 항목들을 포함할 수 있다. 획득된 제2 결과는 블록(534)에서 수행된 미디어 검색 요청을 적어도 부분적으로 만족시킬 수 있다. 동시에, 획득된 제2 결과는 획득된 결과보다 더 넓을 수 있고, 블록(534)에서 수행된 미디어 검색 요청에서 정의된 파라미터들 전부보다 적은 수와 연관될 수 있다. 이는 사용자에게 결과들의 더 넓은 세트를 제공하고 그로부터 선택하도록 더 많은 옵션을 제공하는 것이 바람직할 수 있다.
일부 예들에서, 블록(534)의 획득된 결과에서 미디어 항목들의 수가 미리결정된 수 이하라는 결정에 따라, 미디어 검색 요청이 둘 이상의 검색 속성 또는 파라미터를 포함하는지 여부에 대한 결정이 이루어질 수 있다. 미디어 검색 요청이 둘 이상의 검색 속성 또는 파라미터를 포함한다는 결정에 따라, 획득된 제2 결과는 둘 이상의 검색 속성 또는 파라미터와 연관된 미디어 항목들을 포함할 수 있다. 또한, 획득된 제2 결과의 미디어 항목들은 둘 이상의 검색 속성 또는 파라미터에 따라 제3 사용자 인터페이스 내에 정리될 수 있다.
도 6f 및 도 6h에 도시된 예에서, 미디어 검색 요청 "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"는 둘 이상의 검색 속성 또는 파라미터(예컨대, "로맨틱 코미디" 및 "리즈 위더스푼")를 포함하도록 결정될 수 있다. 미디어 검색 요청이 둘 이상의 검색 속성 또는 파라미터를 포함한다는 결정에 따라, 획득된 제2 결과는 검색 파라미터 "로맨틱 코미디"와 연관된 미디어 항목들(634) 및 검색 파라미터 "리즈 위더스푼 영화"와 연관된 미디어 항목들(636)을 포함할 수 있다. 도 6h에 도시된 바와 같이, 미디어 항목들(634)은 "로맨틱 코미디"의 카테고리 하에 정리될 수 있고, 미디어 항목들(636)은 "리즈 위더스푼"의 카테고리 하에 정리될 수 있다.
일부 예들에서, 블록(534)의 획득된 결과들에서 미디어 항목들의 수가 미리결정된 수보다 크다는 결정에 따라, 제3 사용자 인터페이스는 획득된 결과들의 제1 부분 및 제2 부분을 포함할 수 있다. 획득된 결과들의 제1 부분은 미리결정된 수의 미디어 항목들(예를 들어, 가장 높은 적합성 점수들을 갖는)을 포함할 수 있다. 획득된 결과의 제2 부분은 획득된 결과의 제1 부분과 다를 수 있으며 획득된 결과의 제1 부분보다 큰 수의 미디어 항목들을 포함할 수 있다. 또한, 획득된 결과 내의 미디어 항목들이 둘 이상의 미디어 유형(예를 들어, 영화, 텔레비전 쇼, 음악, 애플리케이션, 게임 등)을 포함하는지 여부가 결정될 수 있다. 획득된 결과의 미디어 항목들이 둘 이상의 미디어 유형을 포함하는 것으로 결정하는 것에 응답하여, 획득된 결과의 제2 부분 내의 미디어 항목은 미디어 유형에 따라 정리될 수 있다.
도 6i에 도시된 예에서, 블록(534)에서 획득된 결과는 리즈 위더스푼이 주연한 로맨틱 코미디인 미디어 항목들을 포함할 수 있다. 획득된 결과들의 미디어 항목들의 수가 미리결정된 수보다 크다는 결정에 따라, 획득된 결과들의 제1 부분(미디어 항목들(622)) 및 획득된 결과들의 제2 부분(미디어 항목들(638))이 제3 사용자 인터페이스(626)에 표시될 수 있다. 획득된 결과가 둘 이상의 미디어 유형(예컨대, 영화 및 TV 쇼)을 포함하는 것으로 결정하는 것에 응답하여, 미디어 유형들(638)은 미디어 유형에 따라 정리될 수 있다. 특히, 미디어 항목들(640)은 "영화들"의 카테고리 하에 정리될 수 있고, 미디어 항목들(642)은 "TV 쇼들"의 카테고리 하에 정리될 수 있다. 또한, 일부 예들에서, 개개의 미디어 유형들(예를 들어, 영화, TV 쇼)에 대응하는 미디어 항목들(예컨대, 미디어 항목들(640, 642))의 각 세트는 미디어 항목들의 개개의 세트 내에서 가장 유행하는 장르, 배우/감독, 또는 출시일에 따라 분류될 수 있다. 다른 예들에서, 획득된 결과의 제2 부분 내의 미디어 항목들은 획득된 결과의 미디어 항목들이 둘 이상의 미디어 속성 또는 파라미터와 연관된다는 결정에 응답하여 미디어 속성들 또는 파라미터들(미디어 유형이 아닌)에 따라 정리될 수 있다.
일부 예들에서, 스크롤 커맨드를 표현하는 사용자 입력(예컨대, 블록(550)에서 후술되는 제4 사용자 입력)이 검출될 수 있다. 스크롤 커맨드를 표현하는 사용자 입력을 수신하는 것에 응답하여, 확장된 사용자 인터페이스(또는 더 구체적으로는, 확장된 사용자 인터페이스의 항목들)가 스크롤되게 할 수 있다. 스크롤하는 동안, 확장된 사용자 인터페이스가 확장된 사용자 인터페이스에서 미리결정된 위치를 넘어서 스크롤되었는지 여부에 대한 결정이 이루어질 수 있다. 확장된 사용자 인터페이스가 확장된 사용자 인터페이스의 미리결정된 위치를 넘어서 스크롤되었다는 결정에 응답하여, 획득된 결과의 제3 부분 내의 미디어 항목들이 확장된 사용자 인터페이스 상에 표시될 수 있다. 제3 부분 내의 미디어 항목들은 제3 부분 내의 미디어 항목들과 연관된 하나 이상의 미디어 콘텐츠 제공자(예컨대, iTunes, Netflix, HuluPlus,HBO 등)에 따라 정리될 수 있다. 다른 예들에서, 확장된 사용자 인터페이스가 확장된 사용자 인터페이스의 미리결정된 위치를 넘어서 스크롤했다는 결정에 응답하여 다른 미디어 항목들이 획득될 수 있음을 인식해야 한다. 예를 들어, 인기있는 미디어 항목들 또는 획득된 결과와 관련된 미디어 항목들이 획득될 수 있다.
도 5e의 블록(546)으로부터 진행하는 상이한 흐름들(예컨대, B, F, G, H)에 의해 나타낸 바와 같이, 도 5f, 도 5g, 도 5h, 또는 도 5i의 블록들(550, 558, 566, 또는 570) 각각은 블록(532) 후에 수행될 수 있다. 특히, 일부 예들에서, 블록들(550, 560, 564, 또는 570)은 블록(546)에서 제3 사용자 인터페이스를 표시하는 동안 수행될 수 있다.
프로세스(500)의 블록(550)에서, 도 5f를 참조하면, 제4 사용자 입력이 검출될 수 있다. 제4 사용자 입력은 제2 사용자 인터페이스(예컨대, 제2 사용자 인터페이스(618)) 또는 제3 사용자 인터페이스(예컨대, 제3 사용자 인터페이스(626))가 디스플레이 유닛 상에 표시되는 동안 검출될 수 있다. 일부 예들에서, 제4 사용자 입력은 미디어 디바이스의 원격 제어부 상에서 검출될 수 있다. 제4 사용자 입력은 디스플레이 유닛 상의 방향(예를 들어, 상향, 하향, 좌, 우)을 나타낼 수 있다. 예를 들어, 제4 사용자 입력은 원격 제어부의 터치 감응형 표면 상의 제1 위치로부터 제1 위치의 우측에 있는 터치 감응형 표면 상의 제2 위치로의 접촉 모션일 수 있다. 따라서, 접촉 모션은 디스플레이 유닛 상의 우측 방향에 대응할 수 있다. 제4 사용자 입력을 검출하는 것에 응답하여, 블록(552)이 수행될 수 있다.
프로세스(500)의 블록(552)에서, 제2 사용자 인터페이스 또는 제3 사용자 인터페이스의 포커스는 제2 사용자 인터페이스 또는 제3 사용자 인터페이스 상의 제1 항목으로부터 제2 항목으로 스위칭될 수 있다. 제2 항목은 제1 항목에 대한 방향(예를 들어, 제4 사용자 입력에 대응하는 동일한 방향)으로 위치설정되는 것일 수 있다. 예를 들어, 도 6g에서, 제2 사용자 인터페이스(618)의 포커스는 미디어 항목(623)에 위치설정된 커서(624)를 갖는 미디어 항목(623) 상에 있을 수 있다. 디스플레이 유닛 상의 우향 방향에 대응하는 제4 사용자 입력을 검출하는 것에 응답하여, 제2 사용자 인터페이스(618)의 포커스는 도 6g의 미디어 항목(623)으로부터 미디어 항목(623)의 우측에 위치설정된 도 6j의 미디어 항목(625)으로 스위칭될 수 있다. 특히, 커서(624)의 위치는 미디어 항목(623)으로부터 미디어 항목(625)으로 변경될 수 있다. 다른 예에서, 도 6h를 참조하면, 제3 사용자 인터페이스(626)의 포커스는 미디어 항목(623) 상에 있을 수 있다. 디스플레이 유닛 상의 하향 방향에 대응하는 제4 사용자 입력을 검출하는 것에 응답하여, 제3 사용자 인터페이스(626)의 포커스는 도 6h의 미디어 항목(623)으로부터 미디어 항목(623)에 대해 하향 방향으로 위치설정된 도 6k의 미디어 항목(627)으로 스위칭될 수 있다. 특히, 커서(624)의 위치는 미디어 항목(623)으로부터 미디어 항목(627)으로 변경될 수 있다.
프로세스(500)의 블록(554)에서, 하나 이상의 미디어 항목 중 하나의 미디어 항목의 선택은 제2 사용자 인터페이스 또는 제3 사용자 인터페이스를 통해 수신될 수 있다. 예를 들어, 도 6j를 참조하면, 미디어 항목(625)의 선택은 커서(624)가 미디어 항목(625)에서 위치설정되는 동안 사용자 선택에 대응하는 사용자 입력을 검출함으로써 제2 사용자 인터페이스(618)를 통해 수신될 수 있다. 유사하게, 도 6k를 참조하면, 미디어 항목(627)의 선택은 커서(624)가 미디어 항목(627)에서 위치설정되는 동안 사용자 선택에 대응하는 사용자 입력을 검출함으로써 제3 사용자 인터페이스(626)를 통해 수신될 수 있다. 하나 이상의 미디어 항목 중 하나의 미디어 항목의 선택을 수신하는 것에 응답하여, 블록(556)이 수행될 수 있다.
프로세스(500)의 블록(556)에서, 선택된 미디어 항목과 연관된 미디어 콘텐츠가 디스플레이 유닛 상에 표시될 수 있다. 일부 예들에서, 미디어 콘텐츠는 미디어 디바이스 상에서 재생 중이거나 그를 통해 스트리밍되는 영화, 비디오, 텔레비전 쇼, 애니메이션 등일 수 있다. 일부 예들에서, 미디어 콘텐츠는 비디오 게임, 전자 서적, 애플리케이션, 또는 미디어 디바이스 상에서 실행되는 프로그램일 수 있다. 또한, 일부 예들에서, 미디어 콘텐츠는 미디어 항목과 관련된 정보일 수 있다. 정보는 선택된 미디어 항목의 다양한 특성(예컨대, 줄거리 요약, 출연자, 감독, 작가, 출시일, 등급, 상영시간 등)을 기술하는 제품 정보일 수 있다.
프로세스(500)의 블록(558)에서, 도 5g를 참조하면, 제5 사용자 입력이 검출될 수 있다. 일부 예들에서, 제5 사용자 입력은 제3 사용자 인터페이스(예컨대, 제3 사용자 인터페이스(626))를 표시하는 동안 검출될 수 있다. 이들 예에서, 제5 사용자 입력은 제3 사용자 인터페이스의 포커스가 제3 사용자 인터페이스의 상단 행 내의 미디어 항목(예를 들어, 도 6h의 제3 사용자 인터페이스(626) 내의 미디어 항목들(622) 중 하나의 미디어 항목) 상에 있는 동안 검출될 수 있다. 다른 예들에서, 제5 사용자 입력은 제1 사용자 인터페이스를 표시하는 동안 검출될 수 있다. 이들 예에서, 블록들(508 내지 514) 중 임의의 하나를 수행하는 동안 제5 사용자 입력이 검출될 수 있다. 일부 예들에서, 제5 사용자 입력은 미디어 디바이스의 원격 제어부 상에서 검출될 수 있다. 제5 사용자 입력은 제3 사용자 입력과 유사하거나 동일할 수 있다. 예를 들어, 제5 사용자 입력은 제2 방향(예를 들어, 스와이프 업 접촉 모션)으로 터치 감응형 표면 상에 연속적인 접촉 모션을 포함할 수 있다. 다른 예들에서, 제5 사용자 입력은 어포던스의 활성화일 수 있다. 어포던스는 가상 키보드 인터페이스 또는 타이핑형 검색 인터페이스와 연관될 수 있다. 제5 사용자 입력을 검출하는 것에 응답하여, 블록들(560 내지 564) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(560)에서, 타이핑된 검색 입력을 수신하도록 구성된 검색 필드가 표시될 수 있다. 예를 들어, 도 6l에 도시된 바와 같이, 검색 필드(644)는 디스플레이 유닛 상에 표시될 수 있다. 일부 예들에서, 검색 필드는 타이핑된 검색 질의들을 수신하도록 구성될 수 있다. 타이핑된 검색 질의들은 미디어 항목들에 대한 검색과 같은 미디어 관련 검색 질의들일 수 있다. 일부 예들에서, 검색 필드는 검색 필드(644)를 통해 입력된 텍스트와 미디어 항목들과 연관된 저장된 텍스트 사이의 텍스트 문자열 매치에 기초하여 미디어 관련 검색을 수행하도록 구성될 수 있다. 또한, 일부 실시예들에서, 디지털 어시스턴트는 검색 필드(644)를 통해 입력을 수신하도록 구성되지 않을 수 있다. 이는 사용자들이 미디어 디바이스와 사용자 간의 보다 친숙한 인터페이스를 촉진하기 위해 타이핑형 인터페이스가 아닌 스피치 인터페이스를 통해 디지털 어시스턴트와 상호작용하게 할 수 있다. 일부 예들에서, 검색 필드는 제2 사용자 인터페이스(예를 들어, 제2 사용자 인터페이스(618)) 또는 제3 사용자 인터페이스(예를 들어, 제3 사용자 인터페이스(626))에 이미 표시될 수 있음을 인식해야 한다. 이들 예에서, 블록(566)을 수행할 필요는 없을 수 있다.
프로세스(500)의 블록(562)에서, 가상 키보드 인터페이스가 디스플레이 유닛 상에 표시될 수 있다. 예를 들어, 도 6l에 도시된 바와 같이, 가상 키보드 인터페이스(646)가 표시될 수 있다. 가상 키보드 인터페이스(646)는 가상 키보드 인터페이스(646)를 통해 수신된 사용자 입력이 검색 필드에서 텍스트 입력을 야기하도록 구성될 수 있다. 일부 예들에서, 가상 키보드 인터페이스는 디지털 어시스턴트와 상호작용하는 데 사용될 수 없다.
프로세스(500)의 블록(564)에서, 사용자 인터페이스의 포커스가 검색 필드로 스위칭될 수 있다. 예를 들어, 도 6l을 참조하면, 검색 필드(644)는 블록(568)에서 강조될 수 있다. 또한, 텍스트 입력 커서는 검색 필드(644)에 위치설정될 수 있다. 일부 예들에서, 사용자에게 타이핑된 검색어를 입력할 것을 촉진하는 텍스트가 검색 필드에 표시될 수 있다. 도 6l에 도시된 바와 같이, 텍스트(648)는 프롬프트 "검색어를 타이핑"을 포함한다.
프로세스(500)의 블록(566)에서, 도 5h를 참조하면, 제7 사용자 입력이 검출될 수 있다. 일부 예들에서, 제7 사용자 입력은 제3 사용자 인터페이스(예컨대, 제3 사용자 인터페이스(626))를 표시하는 동안 검출될 수 있다. 일부 예들에서, 제7 사용자 입력은 전자 디바이스의 원격 제어부의 버튼을 누르는 것을 포함할 수 있다. 버튼은, 예를 들어, 전자 디바이스의 메인 메뉴 사용자 인터페이스로 내비게이팅하기 위한 메뉴 버튼일 수 있다. 다른 예들에서, 제7 사용자 입력은 다른 형태의 사용자 입력을 포함할 수 있다는 것을 인식해야 한다. 제7 사용자 입력을 검출하는 것에 응답하여, 블록(568)이 수행될 수 있다.
프로세스(500)의 블록(568)에서, 제3 사용자 인터페이스는 디스플레이 유닛 상에 표시되는 것을 중지할 수 있다. 특히, 제7 사용자 입력은 제3 사용자 인터페이스가 해제되게 할 수 있다. 일부 예들에서, 제7 사용자 입력은 제3 사용자 인터페이스 대신에 메인 메뉴 사용자 인터페이스 메뉴가 표시되게 할 수 있다. 대안적으로, 제3 사용자 인터페이스(예컨대, 제3 사용자 인터페이스(626))를 표시하기 이전에 미디어 콘텐츠(예컨대, 미디어 콘텐츠(602))가 표시되고 전자 디바이스 상의 미디어 콘텐츠의 재생이 제3 사용자 인터페이스를 표시 시에 일시정지(예를 들어, 제3 사용자 입력을 검출하는 것에 응답하여 일시정지)되는 예들에서, 제7 사용자 입력을 검출하는 것에 응답하여 전자 디바이스 상의 미디어 콘텐츠의 재생이 재개될 수 있다. 따라서, 미디어 콘텐츠는 제7 사용자 입력을 검출하는 것에 응답하여 표시될 수 있다.
프로세스(500)의 블록(570)에서, 도 5i를 참조하면, 제6 사용자 입력이 검출될 수 있다. 도 6m에 도시된 바와 같이, 제6 사용자 입력은 제3 사용자 인터페이스(626)를 표시하는 동안 검출될 수 있다. 그러나, 다른 예들에서, 제6 사용자 입력은 대안적으로 제2 사용자 인터페이스(예컨대, 제2 사용자 인터페이스(618))를 표시하는 동안 검출될 수 있다. 제6 사용자 입력이 검출되는 시간에서, 제2 사용자 인터페이스 또는 제3 사용자 인터페이스는 사용자 요청을 적어도 부분적으로 만족시키는 결과의 일부를 포함할 수 있다. 제6 사용자 입력은 전자 디바이스의 디지털 어시스턴트를 호출하기 위한 입력을 포함할 수 있다. 특히, 제6 사용자 입력은 블록(516)을 참조하여 상기 설명된 제2 입력 유형의 사용자 입력과 유사하거나 동일할 수 있다. 예로서, 제6 입력 유형은 미디어 디바이스의 원격 제어부 상의 특정 버튼을 누르고 미리결정된 지속시간보다 길게 버튼을 누르고 있는 것(예를 들어, 긴 누르기)을 포함할 수 있다. 제6 사용자 입력을 검출하는 것에 응답하여, 블록들(572 내지 592) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(572)에서, 제2 오디오 데이터가 샘플링될 수 있다. 블록(572)은 상술한 블록(518)과 유사하거나 동일할 수 있다. 특히, 샘플링된 제2 오디오 데이터는 사용자로부터의 제2 사용자 발화를 포함할 수 있다. 제2 사용자 발화는 디지털 어시스턴트로 지향되는 제2 사용자 요청을 표현할 수 있다. 일부 예들에서, 제2 사용자 요청은 제2 태스크를 수행하라는 요청일 수 있다. 예를 들어, 도 6m을 참조하면, 샘플링된 제2 오디오 데이터는 제2 사용자 발화인 "단지 루크 윌슨을 갖는 것들"을 포함할 수 있다. 이 예에서, 제2 사용자 발화는 루크 윌슨을 배우로서 갖는 미디어 항목들만을 포함하도록 이전 미디어 검색을 정제하라는 제2 사용자 요청을 표현할 수 있다. 이러한 예에서, 제2 사용자 발화는 자연 언어 형태이다. 또한, 제2 사용자 요청은 제2 사용자 발화가 사용자 요청을 정의하는 데 필요한 모든 정보를 명시적으로 지정하지 않는 경우에 미명세될 수 있다. 예를 들어, 제2 사용자 발화는 "것들"이 무엇을 의미하는지 명시적으로 지정하지 않는다. 다른 예들에서, 제2 사용자 요청은 미디어 항목을 재생하거나 특정 정보(예컨대, 날씨, 주식, 스포츠 등)를 제공하라는 요청일 수 있다.
일부 예들에서, 전술한 블록들(520 내지 526)은 제6 사용자 입력에 대해 유사하게 수행될 수 있음을 인식해야 한다. 특히, 도 6m에 도시된 바와 같이, 능동 시각적 표시자(614)는 제6 사용자 입력을 검출 시에 디스플레이 유닛 상에 표시될 수 있다. 제2 사용자 발화의 제2 텍스트 표현(650)은 (예를 들어, STT 처리 모듈(430)을 사용하여) 결정되고 디스플레이 유닛 상에 표시될 수 있다. 제2 사용자 발화에 대응하는 제2 사용자 의도는 제2 텍스트 표현에 기초하여 결정될 수 있다(예를 들어, 자연 언어 처리 모듈(432)을 사용하여). 일부 예들에서, 도 6m에 도시된 바와 같이, 제6 사용자 입력이 검출되는 시간에서 디스플레이 유닛 상에 표시된 콘텐츠는 제6 사용자 입력을 검출하는 것에 응답하여 페이딩되거나 밝기가 감소될 수 있다. 이는 능동 시각적 표시자(614) 및 제2 텍스트 표현(650)을 강조하는 역할을 할 수 있다.
프로세스(500)의 블록(574)에서, 샘플링된 제2 오디오 데이터가 제2 사용자 요청을 포함하는지 여부에 대한 결정이 이루어질 수 있다. 블록(574)은 상술한 블록(528)과 유사하거나 동일할 수 있다. 특히, 블록(574)에서의 결정은 제2 사용자 발화의 제2 텍스트 표현으로부터 결정된 제2 사용자 의도에 기초하여 행해질 수 있다. 제2 오디오 데이터가 사용자 요청을 포함하지 않는다는 결정에 따라, 블록(576)이 수행될 수 있다. 대안적으로, 제2 오디오 데이터가 제2 사용자 요청을 포함한다는 결정에 따라, 블록들(578 내지 592) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(576)에서, 사용자의 의도의 명확화를 위한 요청이 디스플레이 유닛 상에 표시될 수 있다. 블록(576)은 상술한 블록(530)과 유사하거나 동일할 수 있다.
프로세스(500)의 블록(578)에서, 제2 사용자 요청이 사용자 요청의 결과를 정제하기 위한 요청인지 여부에 대한 결정이 이루어질 수 있다. 일부 예들에서, 결정은 제2 사용자 발화에 대응하는 제2 사용자 의도로부터 이루어질 수 있다. 특히, 제2 사용자 요청은 제2 사용자 발화에서 식별된 표현된 지시(indication)에 기초하여 사용자 요청의 결과를 정제하라는 요청인 것으로 결정되어 사용자 요청의 결과를 정제할 수 있다. 예를 들어, 도 6m을 참조하면, 제2 텍스트 표현(650)은 제2 사용자 발화가 미디어 검색 결과를 정제하려는 명백한 의도에 대응하는 미리결정된 단어 또는 구절을 포함하는지 여부를 결정하기 위해 자연 언어 처리 중에 파싱될 수 있다. 미디어 검색 결과를 정제하려는 명백한 의도에 대응하는 단어 또는 구절의 예들은 "단지", "만", "로 필터" 등을 포함할 수 있다. 따라서, 제2 텍스트 표현(650) 내의 "단지"라는 단어에 기초하여, 제2 사용자 요청은 "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"와 같은 사용자 요청과 연관된 미디어 검색 결과를 정제하라는 요청인 것으로 결정될 수 있다. 제2 사용자 요청이 사용자 요청의 결과를 정제하라는 요청인지 여부를 결정하기 위해 다른 기술들이 구현될 수 있음을 인식해야 한다. 제2 사용자 요청이 사용자 요청의 결과를 정제하라는 요청이라는 결정에 따라, 블록들(580 내지 582) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(580)에서, 사용자 요청을 적어도 부분적으로 만족시키는 결과들의 서브셋이 획득될 수 있다. 일부 예들에서, 결과들의 서브셋은 제2 사용자 요청에 정의된 추가 파라미터들에 따라 기존 결과를 필터링함으로써 획득될 수 있다. 예를 들어, 블록(534)에서 획득된 결과들(예를 들어, 미디어 항목들(622)을 포함함)은 루크 윌슨을 배우로서 갖는 미디어 항목들이 식별되도록 필터링될 수 있다. 다른 예들에서, 사용자 요청 및 제2 사용자 요청들의 요건들을 결합하는 새로운 미디어 검색 질의가 수행될 수 있다. 예를 들어, 새로운 미디어 검색 질의는 로맨틱 코미디 장르와 리즈 위더스푼 및 루크 윌슨의 배우들을 갖는 미디어 항목들에 대한 검색 질의일 수 있다. 이 예에서 새로운 미디어 검색 질의는 "금발이 너무해" 및 "금발이 너무해 2"와 같은 미디어 항목들을 산출할 수 있다.
제3 사용자 인터페이스를 표시하는 동안 제6 사용자 입력이 검출되는 예들에서, 사용자 요청 및/또는 제2 사용자 요청과 관련된 추가 결과가 획득될 수 있다. 추가 결과는 사용자 요청 및/또는 제2 사용자 요청에 기술된 하나 이상의 속성 또는 파라미터를 갖는 미디어 항목들을 포함할 수 있다. 또한, 추가 결과는 사용자 요청 및 제2 사용자 요청에 기술된 속성들 또는 파라미터들 전부를 포함하지 않을 수 있다. 예를 들어, 도 6h 및 6m에 도시된 예를 참조하면, 추가 결과는 다음 속성들 또는 파라미터들 중 적어도 하나(전부는 아님)를 갖는 미디어 항목들을 포함할 수 있다: 로맨틱 코미디, 리즈 위더스푼, 및 루크 윌슨. 추가 결과는 사용자에게 광범위한 결과 세트를 제공하고 이로부터 선택하도록 더 많은 옵션을 제공하는 것이 바람직할 수 있다. 또한, 추가 결과는 사용자에게 흥미로운 관련 결과가 될 수 있다.
블록(582)에서, 결과의 서브셋은 디스플레이 유닛 상에 표시될 수 있다. 예를 들어, 도 6n에 도시된 바와 같이, 결과의 서브셋은 "금발이 너무해" 및 "금발이 너무해 2"와 같은 영화들을 포함할 수 있는 미디어 항목들(652)을 포함할 수 있다. 이 예에서, 미디어 항목들(652)은 제3 사용자 인터페이스(626)의 상단 행에 표시된다. 텍스트 헤더(656)는 표시된 미디어 항목들(652)과 연관된 속성들 또는 파라미터들을 기술할 수 있다. 특히, 텍스트 헤더(656)는 제2 사용자 발화와 연관된 사용자 의도의 패러프레이즈를 포함할 수 있다. 제2 사용자 인터페이스(예컨대, 도 6g에 도시된 제2 사용자 인터페이스(618))를 표시하는 동안 제6 사용자 입력이 검출되는 예들에서, 미디어 항목들(652)은 대신에 제2 사용자 인터페이스에 표시될 수 있다. 이들 예에서, 미디어 항목들(652)은 제2 사용자 인터페이스를 가로질러 단일 행으로서 표시될 수 있다. 미디어 항목들(652)이 제2 사용자 인터페이스 또는 제3 사용자 인터페이스에 표시되는 방식은 다를 수 있음을 인식해야 한다.
제3 사용자 인터페이스를 표시하는 동안 제6 사용자 입력이 검출되는 예들에서, 사용자 요청 및/또는 제2 사용자 요청과 관련된 추가 결과가 제3 사용자 인터페이스에 표시될 수 있다. 예를 들어, 도 6n을 참조하면, 추가 결과는 사용자 요청 및/또는 제2 사용자 요청에 기술된 하나 이상의 파라미터를 갖는 미디어 항목들(654)을 포함할 수 있다. 특히, 미디어 항목들(654)은 루크 윌슨이 주연한 로맨틱 코미디들인 미디어 항목들(658) 및 루크 윌슨이 주연하고 지난 10년 동안 출시된 미디어 항목들(660)을 포함할 수 있다. 미디어 항목들(예컨대, 미디어 항목들(658, 660))의 각각의 세트는 텍스트 헤더(예컨대, 텍스트 헤더(662, 664))로 라벨링될 수 있다. 텍스트 헤더는 미디어 항목들의 개개의 세트와 연관된 하나 이상의 파라미터를 기술할 수 있다. 텍스트 헤더는 자연 언어 형태일 수 있다. 또한, 각각의 텍스트 헤더는 사용자에 의해 디지털 어시스턴트에 제공될 때, 디지털 어시스턴트로 하여금 미디어 항목들의 유사한 세트를 획득하게 할 수 있는 예시적인 사용자 발화일 수 있다. 예를 들어, 텍스트 헤더(662)를 참조하면, 디지털 어시스턴트는 사용자로부터 사용자 발화 "루크 윌슨이 주연한 로맨틱 코미디"를 수신하는 것에 응답하여 루크 윌슨이 주연한 로맨틱 코미디인 미디어 항목들(예컨대, 미디어 항목들(658))을 획득하고 표시할 수 있다.
블록(578)을 다시 참조하면, 제2 사용자 요청은 사용자 요청의 결과를 정제하라는 요청이 아니라고 결정될 수 있다. 이러한 결정은 제2 사용자 발화에서 임의의 명시적 지시의 부재에 기초하여 사용자 요청의 결과를 정제하도록 이루어질 수 있다. 예를 들어, 자연 언어 처리 중에 제2 사용자 발화의 제2 텍스트 표현을 파싱할 때, 미디어 검색 결과들을 정제하려는 명백한 의도에 대응하는 미리결정된 단어 또는 구절은 식별될 수 없다. 이는 제2 사용자 요청이 이전 사용자 요청과 무관한 요청(예컨대, 새로운 요청)에 기인할 수 있다. 예를 들어, 제2 사용자 요청은 "호러 영화를 찾아줘"일 수 있으며, 이는 "리즈 위더스푼이 주연한 로맨틱 코미디를 찾아줘"라는 이전 사용자 요청과 무관한 요청이다. 대안적으로, 제2 사용자 요청은 모호한 언어를 포함할 수 있으며, 이는 이전 사용자 요청의 결과를 정제하라는 요청 또는 이전 사용자 요청과 무관한 새로운 요청으로 해석될 수 있다. 예를 들어, 도 6p를 참조하면, 제2 사용자 발화는 "루크 윌슨"일 수 있으며, 이는 이전 사용자 요청의 결과를 정제하라는 요청(예를 들어, 루크 윌슨을 배우로서 갖는 미디어 항목들만을 포함하도록 정제) 또는 이전 사용자 요청과 무관한 새로운 요청(예컨대, 루크 윌슨을 배우로서 갖는 미디어 항목들에 대한 새로운 미디어 검색)으로서 해석될 수 있다. 이 예들에서, 제2 사용자 요청은 사용자 요청의 결과를 정제하라는 요청이 아니라고 결정될 수 있다. 제2 사용자 요청이 사용자 요청의 결과를 정제하라는 요청이라는 결정에 따라, 블록들(584 내지 592) 중 하나 이상이 수행될 수 있다.
프로세스(500)의 블록(584)에서, 제2 사용자 요청을 적어도 부분적으로 만족시키는 제2 태스크가 수행될 수 있다. 블록(584)의 제2 태스크는 블록(532)의 태스크와 다를 수 있다는 점을 제외하면, 블록(584)은 전술한 블록(532)과 유사할 수 있다. 블록(584)은 블록들(586 내지 588) 중 하나 이상을 포함할 수 있다.
프로세스(500)의 블록(586)에서, 제2 사용자 요청을 적어도 부분적으로 만족시키는 제3 결과가 획득될 수 있다. 블록(586)은 상술한 블록(534)과 유사할 수 있다. 도 6p에 도시된 예를 참조하면, 제2 사용자 발화 "루크 윌슨"은 루크 윌슨을 배우로서 갖는 미디어 항목들을 식별하는 새로운 미디어 검색 질의를 수행하라는 요청으로 해석될 수 있다. 따라서, 이 예에서, 블록(586)은 루크 윌슨을 배우로서 갖는 미디어 항목들을 획득하기 위해 요청된 미디어 검색을 수행하는 것을 포함할 수 있다. 다른 예들에서, 사용자 요청은 다른 유형의 정보(예를 들어, 날씨, 스포츠, 주식 등)에 대한 요청들을 포함할 수 있고, 개개의 유형의 정보가 블록(586)에서 획득될 수 있음을 인식해야 한다.
프로세스(500)의 블록(588)에서, 제3 결과의 일부가 디스플레이 유닛 상에 표시될 수 있다. 예를 들어, 도 6q를 참조하면, 루크 윌슨을 배우로서 갖는 미디어 항목들(670)(예컨대, "타임 투 러브(Playing It Cool)", "스켈리턴 트윈스(The Skeleton Twins)", "유 킬 미(You Kill Me)"와 같은 영화들)을 포함하는 제3 결과가 제3 사용자 인터페이스(626)에 표시될 수 있다. 이 예에서, 미디어 항목들(670)은 제3 사용자 인터페이스(626)의 상단 행에 표시될 수 있다. 텍스트 헤더(678)는 표시된 미디어 항목들(670)과 연관된 속성을 기술할 수 있다. 특히, 텍스트 헤더(678)는 제2 사용자 발화와 연관된 결정된 사용자의 의도의 패러프레이즈를 포함할 수 있다. 제2 사용자 인터페이스(예컨대, 도 6g에 도시된 제2 사용자 인터페이스(618))를 표시하는 동안 제6 사용자 입력이 검출되는 예들에서, 미디어 항목들(670)은 제2 사용자 인터페이스에 표시될 수 있다. 이들 예에서, 미디어 항목들(670)은 제2 사용자 인터페이스를 가로질러 단일 행으로 표시될 수 있다. 다른 예들에서, 제2 사용자 인터페이스 또는 제3 사용자 인터페이스 내의 미디어 항목들(670)의 구조 또는 구성은 다를 수 있음을 인식해야 한다.
프로세스(500)의 블록(590)에서, 사용자 요청 및/또는 제2 사용자 요청을 적어도 부분적으로 만족시키는 제4 결과가 획득될 수 있다. 특히, 제4 결과는 사용자 요청 및/또는 제2 사용자 요청에 정의된 하나 이상의 속성 또는 파라미터를 갖는 미디어 항목들을 포함할 수 있다. 도 6p 및 도 6q에 도시된 예를 참조하면, 제4 결과는 다음 속성들 또는 파라미터들 중 하나 이상을 갖는 미디어 항목을 포함할 수 있다: 로맨틱 코미디, 리즈 위더스푼, 및 루크 윌슨. 예를 들어, 제4 결과는 로맨틱 코미디 장르를 가지며 루크 윌슨이 주연한 미디어 항목들(676)을 포함할 수 있다. 제4 결과를 획득하는 것은 사용자에게 광범위한 결과들의 세트를 제공함에 따라 그로부터 선택할 더 많은 옵션을 제공하는 것이 바람직할 수 있다. 또한, 제4 결과는 사용자의 실제 의도가 만족될 가능성을 증가시키기 위해 제2 사용자 요청 및 하나 이상의 이전 사용자 요청으로부터 도출된 대안적인 예측된 사용자 의도와 연관될 수 있다. 이는 사용자에게 반환된 결과의 정확성과 적합성을 높임으로써, 사용자 경험을 향상시키는 역할을 할 수 있다.
일부 예들에서, 제4 결과의 적어도 일부는 사용자 요청 및 제2 사용자 요청에 정의된 모든 파라미터들을 갖는 미디어 항목들을 포함할 수 있다. 예를 들어, 제4 결과는 로맨틱 코미디 장르를 가지며 리즈 위더스푼과 루크 윌슨이 주연한 미디어 항목들(674)을 포함할 수 있다. 미디어 항목들(674)은 제2 사용자 요청을 사용하여 이전 사용자 요청의 결과들을 정제하는 대안적인 의도와 연관될 수 있다. 사용자가 제2 요청을 획득 결과를 정제하라는 요청으로 실제로 의도한 경우들에서, 미디어 항목들(674)을 획득하는 것은 사용자의 실제 의도가 만족될 가능성을 증가시키는 것이 바람직할 수 있다.
일부 예들에서, 제4 결과의 일부는 제6 사용자 입력이 검출되는 시간에서 사용자 인터페이스의 포커스에 기초할 수 있다. 특히, 사용자 인터페이스의 포커스는 제6 사용자 입력이 검출될 때 제3 사용자 인터페이스의 하나 이상의 항목 상에 있을 수 있다. 이 예에서, 제4 결과의 일부는 사용자 인터페이스가 그 위에 포커스되는 하나 이상의 항목과 상황적으로 관련될 수 있다. 예를 들어, 도 6k를 참조하면, 커서(624)는 미디어 항목(627)에 위치설정될 수 있고, 따라서 제3 사용자 인터페이스(626)의 포커스는 미디어 항목(627) 상에 있을 수 있다. 이 예에서, 미디어 항목(627)과 연관된 속성들 또는 파라미터들은 제4 결과의 일부를 획득하는 데 이용될 수 있다. 예를 들어, 미디어 항목(627)과 연관된 "리즈 위더스푼 영화"의 카테고리는 제4 결과의 일부를 획득하는 데 이용될 수 있으며, 여기서 획득된 부분은 리즈 위더스푼과 루크 윌슨 둘다가 주연한 미디어 항목들을 포함할 수 있다. 다른 예에서, 미디어 항목(627)은 모험 영화일 수 있고, 따라서 제4 결과의 일부는 루크 윌슨이 주연한 모험 영화인 미디어 항목들을 포함할 수 있다.
프로세스(500)의 블록(592)에서, 제4 결과의 일부가 표시될 수 있다. 제3 사용자 인터페이스를 표시하는 동안 제6 사용자 입력이 검출되는 예들에서, 제4 결과의 일부가 제3 사용자 인터페이스에 표시될 수 있다. 예를 들어, 도 6q에 도시된 바와 같이, 제4 결과의 일부는 미디어 항목들(670)에 후속하는 행에 표시되는 미디어 항목들(672)을 포함할 수 있다. 미디어 항목들(672)은 제2 사용자 요청 및/또는 사용자 요청(예를 들어, 로맨틱 코미디, 리즈 위더스푼, 및 루크 윌슨)에서 정의된 속성들 또는 파라미터들 중 하나 이상과 연관될 수 있다. 예를 들어, 미디어 항목들(672)은 루크 윌슨이 주연한 로맨틱 코미디인 미디어 항목들(676) 및 리즈 위더스푼과 루크 윌슨이 주연한 로맨틱 코미디인 미디어 항목들(674)을 포함할 수 있다. 미디어 항목들의 각각의 세트(예컨대, 미디어 항목들(674, 676))는 텍스트 헤더(예컨대, 텍스트 헤더(680, 682))로 라벨링될 수 있다. 텍스트 헤더는 미디어 항목들의 개개의 세트와 연관된 하나 이상의 속성 또는 파라미터를 기술할 수 있다. 텍스트 헤더는 자연 언어 형태일 수 있다. 또한, 각각의 텍스트 헤더는 사용자에 의해 디지털 어시스턴트에 제공될 때, 디지털 어시스턴트로 하여금 유사한 속성을 갖는 미디어 항목들의 유사한 세트를 획득하게 할 수 있는 예시적인 사용자 발화일 수 있다.
전술한 바와 같이, "루크 윌슨"의 제2 사용자 발화는 2개의 가능한 사용자 의도들: 새로운 미디어 검색을 수행하는 제1 사용자 의도 또는 이전 사용자 요청의 결과를 정제하는 제2 사용자 의도와 연관될 수 있다. 표시된 미디어 항목들(670)은 제1 사용자 의도를 만족시킬 수 있고, 표시된 미디어 항목들(674)은 제2 사용자 의도를 만족시킬 수 있다. 이 예에서, 미디어 항목들(670, 674)은 상단 2개의 행에 표시된다. 이러한 방식으로, 제2 사용자 요청(예를 들어, 새로운 검색 또는 이전 검색의 정제)과 연관된 2개의 가장 가능한 사용자 의도에 대한 결과는 제3 사용자 인터페이스(626)에 눈에 띄게(예를 들어, 상단 2개의 행) 표시될 수 있다. 이는 소비할 원하는 미디어 항목을 찾기 이전에 제3 사용자 인터페이스에서 사용자에 의한 스크롤 또는 브라우징을 최소화하는 것이 바람직할 수 있다. 스크롤 및 브라우징을 최소화하기 위해 제3 사용자 인터페이스(626)에 눈에 띄게 미디어 항목들(670, 674)을 표시하는 방식이 다를 수 있음을 인식해야 한다.
도 7a 내지 도 7c는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 프로세스(700)를 도시한다. 프로세스(700)는 디지털 어시스턴트를 구현하는 하나 이상의 전자 디바이스를 사용하여 수행될 수 있다. 예를 들어, 프로세스(700)는 전술한 시스템(100), 미디어 시스템(128), 미디어 디바이스(104), 사용자 디바이스(122), 또는 디지털 어시스턴트 시스템(400) 중 하나 이상을 사용하여 수행될 수 있다. 도 8a 내지 도 8w는 다양한 예에 따른, 프로세스(700)의 다양한 단계에서 미디어 디바이스에 의해 디스플레이 유닛 상에 표시된 스크린 샷을 도시한다. 프로세스(700)는 도 7a 내지 도 7c 및 도 8a 내지 도 8w를 동시에 참조하여 아래에서 설명된다. 프로세스(700)에서의 일부 동작들은 결합될 수 있고, 일부 동작들의 순서는 변경될 수 있으며, 일부 동작들은 생략될 수 있음을 이해해야 한다.
프로세스(700)의 블록(702)에서, 콘텐츠는 디스플레이 유닛(예컨대, 디스플레이 유닛(126)) 상에 표시될 수 있다. 블록(702)은 상술한 블록(502)과 유사하거나 동일할 수 있다. 도 8a를 참조하면, 표시된 콘텐츠는 미디어 디바이스(예컨대, 미디어 디바이스(104)) 상에서 재생되고 있는 미디어 콘텐츠(802)(예컨대, 영화, 비디오, 텔레비전 쇼, 비디오 게임 등)를 포함할 수 있다. 다른 예들에서, 표시된 콘텐츠는 미디어 디바이스 상에서 실행되는 애플리케이션 또는 미디어 디바이스의 디지털 어시스턴트와 상호작용하기 위한 사용자 인터페이스와 연관된 콘텐츠와 같은, 다른 콘텐츠를 포함할 수 있다. 특히, 표시된 콘텐츠는 메인 메뉴 사용자 인터페이스 또는 사용자에 의해 이전에 요청된 객체들 또는 결과들을 갖는 사용자 인터페이스를 포함할 수 있다.
프로세스(700)의 블록(704)에서, 사용자 입력이 검출될 수 있다. 블록(704)은 상술한 블록(504)과 유사하거나 동일할 수 있다. 사용자 입력은 미디어 디바이스의 디지털 어시스턴트를 호출하는 데 사용될 수 있다. 일부 예들에서, 블록(702)의 콘텐츠가 표시되고 있는 동안 사용자 입력이 검출될 수 있다. 사용자 입력은 미디어 디바이스의 원격 제어부(예컨대, 원격 제어부(124)) 상에서 검출될 수 있다. 예를 들어, 사용자 입력은 프로세스(500)의 블록(516)에서 설명된 제2 입력 유형에 대응할 수 있다. 특히, 블록(704)의 사용자 입력은 미디어 디바이스의 원격 제어부 상의 특정 버튼을 누르고 미리결정된 지속시간보다 길게 버튼을 누르고 있는 것(예를 들어, 긴 누르기)을 포함할 수 있다. 사용자 입력을 검출하는 것에 응답하여, 블록들(706 내지 746) 중 하나 이상이 수행될 수 있다.
프로세스(700)의 블록(706)에서, 오디오 데이터가 샘플링될 수 있다. 블록(706)은 상술한 블록(518)과 유사하거나 동일할 수 있다. 샘플링된 오디오 데이터는 사용자 발화를 포함할 수 있다. 사용자 발화는 미디어 디바이스의 디지털 어시스턴트로 지향되는 사용자 요청을 표현할 수 있다. 예를 들어, 도 8a에 도시된 예를 참조하면, 샘플링된 오디오 데이터는 "파리는 몇 시야?"라는 사용자 발화를 포함할 수 있다. 사용자 발화는 비구조화된 자연 언어의 형태일 수 있다. 일부 예들에서, 요청을 수행하는 데 필요한 정보가 누락되거나 사용자 발화에서 명시적으로 정의되지 않는(예를 들어, "이것을 재생"), 사용자 발화에 의해 표현된 요청은 미명세될 수 있다. 다른 예들에서, 사용자 발화는 명시적 요청이 아니라 요청이 추론되는 간접적인 질문 또는 진술(예를 들어, "그가 뭐라고 말했어?")일 수 있다. 또한, 블록(712)에서 하기에 보다 상세하게 설명되는 바와 같이, 사용자 발화는 하나 이상의 모호한 용어를 포함할 수 있다.
프로세스(700)의 블록(708)에서, 샘플링된 오디오 데이터 내의 사용자 발화의 텍스트 표현이 결정될 수 있다. 블록(708)은 상술한 블록(522)과 유사하거나 동일할 수 있다. 특히, 샘플링된 오디오 데이터 내의 사용자 발화에 대해 STT 처리를 수행함으로써 텍스트 표현이 결정될 수 있다. 예를 들어, 도 8a를 참조하면, 텍스트 표현(804) "파리는 몇 시야?"는 샘플링된 오디오 데이터 내의 사용자 발화로부터 결정될 수 있고 디스플레이 유닛 상에 표시될 수 있다. 도시된 바와 같이, 텍스트 표현(804)은 미디어 콘텐츠(802)가 미디어 디바이스 상에서 계속 재생되는 동안 미디어 콘텐츠(802) 위에 중첩될 수 있다.
일부 예들에서, 텍스트 표현을 결정하는 데 사용된 STT 처리는 미디어 관련 텍스트 결과를 향하여 바이어스될 수 있다. 부가적으로 또는 대안적으로, 텍스트 표현은 오디오 데이터를 샘플링하기 이전에 미디어 디바이스에 의해 수신된 이전 사용자 발화들에 기초할 수 있다. 또한, 일부 예들에서, 텍스트 표현은 오디오 데이터를 샘플링하기 이전에 이전 사용자 발화들이 수신된 시간에 기초할 수 있다. 텍스트 표현이 별개의 디바이스(예를 들어, DA 서버(106))로부터 획득되는 예들에서, 미디어 디바이스는 샘플링된 오디오 데이터가 미디어 애플리케이션과 연관되어 있다는 것을 별개의 디바이스에 나타낼 수 있으며, 상기 나타내는 것은 별개의 디바이스 상에서의 STT 처리를 미디어 관련 텍스트 결과를 향하여 바이어스할 수 있다.
프로세스(700)의 블록(710)에서, 사용자 발화에 대응하는 사용자 의도가 결정될 수 있다. 블록(710)은 상술한 블록(526)과 유사할 수 있다. 특히, 블록(708)의 텍스트 표현은 자연 언어 처리 (예컨대, 자연 언어 처리 모듈(432)을 이용하여)를 사용하여 처리되어 사용자 의도를 도출할 수 있다. 예를 들어, 도 8a를 참조하면, "파리는 몇 시야?"라는 텍스트 표현(804)으로부터, 사용자 의도가 "파리"라는 명칭의 장소의 시간에 대해 요청하는 것이라고 결정될 수 있다. 사용자 의도를 결정하는 데 사용되는 자연 언어 처리는 미디어 관련 사용자 의도를 향하여 바이어스될 수 있다. 사용자 의도가 별개의 디바이스(예를 들어, DA 서버(106))로부터 획득되는 예들에서, 미디어 디바이스는 샘플링된 오디오 데이터가 미디어 애플리케이션과 연관되어 있다는 것을 별개의 디바이스에 나타낼 수 있으며, 상기 나타내는 것은 별개의 디바이스 상에서의 자연 언어 처리를 미디어 관련 사용자 의도를 향하여 바이어스할 수 있다.
일부 예들에서, 사용자 의도는 샘플링된 오디오 데이터에서 사용자 발화로부터 도출된 운율 정보에 기초하여 결정될 수 있다. 특히, 사용자의 태도, 기분, 정서, 또는 감정을 결정하기 위해 사용자 발화로부터 운율 정보(예를 들어, 음조, 리듬, 볼륨, 스트레스, 억양, 속도 등)가 도출될 수 있다. 이어서, 사용자 의도는 사용자의 태도, 기분, 정서, 또는 감정으로부터 결정될 수 있다. 예를 들어, 샘플링된 오디오 데이터는 사용자 발화 "그가 뭐라고 말했어?"를 포함할 수 있다. 이 예에서, 사용자 발화에서 검출된 높은 볼륨 및 스트레스에 기초하여 사용자가 참을성이 없거나 화가 난 것으로 결정될 수 있다. 사용자 발화 및 결정된 사용자 감정에 기초하여, 사용자 의도가 미디어 디바이스 상에서 재생되는 미디어 콘텐츠와 연관된 오디오의 볼륨을 증가시키라는 요청을 포함하는 것으로 결정될 수 있다.
도 7a에 도시된 바와 같이, 블록(710)은 블록들(712 내지 718) 중 하나 이상을 포함할 수 있다. 특히, 블록들(712 내지 718) 중 하나 이상은 둘 이상의 사용자 의도가 높은 가능성이 있는 것으로 판명되고 자연 언어 처리 모듈이 둘 이상의 사용자 의도를 단일 사용자 의도로 좁힐 수 없을 때 수행될 수 있다. 예를 들어, 이러한 상황은 사용자 발화가 이용가능한 상황 정보에 기초하여 명확하지 않을 수 있는 모호한 용어를 포함할 때 발생할 수 있다.
프로세스(700)의 블록(712)에서, 사용자 발화(또는 사용자 발화의 텍스트 표현)가 모호한 용어를 포함하는지 여부에 대한 결정이 이루어질 수 있다. 결정은 사용자 의도를 결정하기 위해 자연 언어 처리(예를 들어, 자연 언어 처리 모듈(432)을 사용하여) 중에 이루어질 수 있다. 모호한 용어는 둘 이상의 가능한 해석을 갖는 단어나 구절일 수 있다. 예를 들어, 도 8a를 참조하면, 사용자 발화 "파리는 몇 시야?"에서 "파리"라는 용어는 프랑스의 도시 파리 또는 미국 텍사스의 도시 파리로 해석될 수 있다. 따라서, 사용자 발화에서 "파리"라는 용어는 모호한 용어로 결정될 수 있다.
일부 예들에서, 잠재적인 모호한 용어를 명확하게 하기 위해 상황 정보가 검색될 수 있다(예를 들어, 디지털 어시스턴트에 의해). 명확화가 성공적이면, 사용자 발화가 모호한 용어를 포함하지 않는다고 결정될 수 있다. 예를 들어, 미디어 콘텐츠(802)는 그것의 설정으로서 프랑스 파리를 갖는 영화(예컨대, "라따뚜이")이므로 사용자가 텍사스 파리보다 프랑스 파리를 언급할 가능성이 많다고 결정될 수 있다. 이 예에서, "파리"라는 용어는 프랑스 파리를 언급하는 데 성공적으로 명확화될 수 있으므로, 사용자 발화는 모호한 용어를 포함하지 않는다고 결정될 수 있다.
다른 예에서, 사용자 발화는 "이것을 재생해"일 수 있다. 이 예에서, 사용자 발화는 재생될 특정 미디어 항목을 명시적으로 정의하지 않으므로, "이것"이라는 용어는 분리되어 해석되며, 미디어 디바이스에 액세스가능한 임의의 미디어 항목을 지칭할 수 있는 모호한 용어일 수 있다. 이 용어는 미디어 디바이스에 의해 디스플레이 유닛 상에 표시된 상황 정보를 사용하여 명확해질 수 있다. 예를 들어, 디지털 어시스턴트는 표시된 사용자 인터페이스의 포커스가 미디어 항목 상에 있는지 여부를 결정할 수 있다. 사용자 인터페이스의 포커스가 미디어 항목 상에 있다는 결정에 따라, 디지털 어시스턴트는 "이것"이라는 용어를 명확하게 할 수 있고, 그 용어가 표시된 사용자 인터페이스가 그 위에 포커스되는 미디어 항목을 지칭하는지 여부를 결정할 수 있다. 이러한 결정에 기초하여, 사용자 발화가 모호한 용어를 포함하지 않는다고 블록(712)에서 결정될 수 있다. 따라서, 사용자 의도는 표시된 사용자 인터페이스가 그 위에 포커스되는 미디어 항목을 재생하라는 요청인 것으로 결정될 수 있다.
용어가 명확하게 될 수 없는 예들에서, 사용자 발화가 모호한 용어를 포함한다는 결정이 블록(712)에서 이루어질 수 있다. 사용자 발화가 모호한 용어를 포함한다는 결정에 응답하여, 블록들(714 내지 718) 중 하나 이상이 수행될 수 있다. 프로세스(700)의 블록(714)에서, 둘 이상의 후보 사용자 의도는 모호한 용어에 기초하여 획득될 수 있다. 둘 이상의 후보 사용자 의도는 명확하게 되지 않을 수 있는 사용자 발화로부터 결정되는 가장 가능성있는 후보 사용자 의도일 수 있다. 도 8a에 도시된 예를 참조하면, 둘 이상의 후보 사용자 의도는 프랑스 파리의 시간을 요청하는 제1 후보 사용자 의도, 및 텍사스 파리의 시간을 요청하는 제2 후보 사용자 의도를 포함할 수 있다.
프로세스(700)의 블록(716)에서, 둘 이상의 후보 사용자 의도는 사용자 선택을 위해 디스플레이 유닛 상에 표시될 수 있다. 예를 들어, 도 8b를 참조하면, 제1 후보 사용자 의도(810) 및 제2 후보 사용자 의도(808)가 표시될 수 있다. 또한, 텍스트 프롬프트(806)는 제1 후보 사용자 의도(810)와 제2 후보 사용자 의도(808) 간에 선택함으로써 사용자 발화에 대응하는 실제 사용자 의도를 나타내도록 사용자를 촉구하도록 제공될 수 있다. 텍스트 프롬프트(806), 제1 후보 사용자 의도(810), 및 제2 후보 사용자 의도(808)는 미디어 콘텐츠(802) 상에 중첩될 수 있다.
프로세스(700)의 블록(716)에서, 둘 이상의 후보 사용자 의도 중 하나의 사용자 선택이 수신될 수 있다. 일부 예들에서, 사용자 선택은 후보 사용자 의도들 중 하나에 대응하는 어포던스의 선택을 통해 수신될 수 있다. 특히, 도 8b에 도시된 바와 같이, 둘 이상의 후보 사용자 의도(810, 808) 각각은 디스플레이 유닛 상에 선택가능한 어포던스로서 표시될 수 있다. 미디어 디바이스는 디스플레이의 포커스를 어포던스들 중 하나로 변경하기 위해(예를 들어, 미디어 디바이스의 원격 제어부를 통해) 사용자로부터 입력을 수신할 수 있다. 이어서, 그 어포던스에 대응하는 후보 사용자 의도의 사용자 선택은 (예를 들어, 미디어 디바이스의 원격 제어부를 통해) 수신될 수 있다. 예를 들어, 도 8b에 도시된 바와 같이, 미디어 디바이스는 사용자 입력을 수신하여 커서(812)를 제1 후보 사용자 의도(810)(예를 들어, 프랑스 파리)에 대응하는 어포던스 위로 이동시킬 수 있다. 이어서, 제1 후보 사용자 의도(810)의 사용자 선택이 수신될 수 있다.
다른 예들에서, 사용자 선택은 디지털 어시스턴트와의 음성 상호작용을 통해 수신될 수 있다. 예를 들어, 둘 이상의 후보 사용자 의도를 표시하는 동안, 제2 사용자 입력이 검출될 수 있다. 제2 사용자 입력은 블록(704)의 사용자 입력과 유사하거나 동일할 수 있다. 특히, 제2 사용자 입력은 디지털 어시스턴트를 호출하기 위한 입력일 수 있다(예를 들어, 미디어 디바이스의 원격 제어부 상의 특정 버튼을 누르고 미리결정된 지속시간보다 길게 버튼을 누르고 있는 것). 제2 사용자 입력을 검출하는 것에 응답하여, 제2 오디오 데이터가 샘플링될 수 있다. 제2 오디오 데이터는 둘 이상의 해석들 중 하나의 해석의 사용자 선택을 표현하는 제2 사용자 발화를 포함할 수 있다. 예를 들어, 도 8c를 참조하면, 제2 오디오 데이터는 제2 사용자 발화 "프랑스 파리"를 포함할 수 있다. 도시된 바와 같이, 제2 사용자 발화 "프랑스 파리"의 텍스트 표현(814)은 디스플레이 유닛 상에 표시될 수 있다. 이 예에서, 제2 사용자 발화 "프랑스 파리"는 제1 후보 사용자 의도(810)(예를 들어, 프랑스 파리)의 사용자 선택을 표현할 수 있다. 제2 사용자 발화 "프랑스 파리"에 기초하여, 제1 후보 사용자 의도(810)는 사용자 발화 "파리는 몇 시야?"에 대응하는 실제 사용자 의도임이 결정될 수 있다. 그와 같이, 사용자 의도는 프랑스 파리의 시간을 요청하는 것임이 블록(710)에서 결정될 수 있다. 수신된 사용자 선택에 기초하여 사용자 의도를 결정 시에, 블록들(720 내지 746) 중 하나 이상이 수행될 수 있다.
일부 예들에서, 블록들(710 내지 718)은 미디어 디바이스로부터 스피치를 출력하지 않고서 수행될 수 있다. 특히, 텍스트 프롬프트(806) 및 후보 사용자 의도(808, 810)는 둘 이상의 후보 사용자 의도(808, 810)와 연관된 스피치를 출력하지 않고서 표시될 수 있다. 따라서, 사용자로부터의 입력은 스피치의 형태로 수신될 수 있지만, 디지털 어시스턴트로부터의 출력은 디스플레이 유닛 상의 사용자에게 시각적으로(그리고 오디오의 형태가 아닌) 제시될 수 있다. 이는 미디어 콘텐츠를 소비하는 것과 연관된 공동 경험(communal experience)을 보존하는 것이 바람직할 수 있으며, 이는 미디어 디바이스의 사용자 경험을 향상시킬 수 있다.
다시 블록(712)을 참조하면, 사용자 발화가 모호한 용어를 포함하지 않는다는 결정에 응답하여, 블록들(720 내지 746) 중 하나 이상이 수행될 수 있다. 프로세스(700)의 블록(720)에서, 사용자 의도가 미디어 디바이스와 연관된 복수의 핵심 역량 중 하나에 대응하는지 여부에 대한 결정이 이루어질 수 있다. 예를 들어, 미디어 디바이스는 예를 들어 미디어 항목들을 검색하고, 미디어 항목들을 재생하고, 미디어 항목들, 날씨, 주식 및 스포츠와 관련된 정보를 제공하는 것과 같은 일부 미리결정된 핵심 역량과 연관될 수 있다. 사용자 의도가 일부 미리결정된 핵심 역량 중 하나와 관련된 태스크를 수행하는 것을 포함하는 경우, 사용자 의도는 일부 미리결정된 핵심 역량 중 하나에 대응하는 것으로 결정될 수 있다. 예를 들어, 사용자 의도가 리즈 위더스푼이 주연한 미디어 항목들에 대한 요청인 경우, 사용자 의도는 일부 미리결정된 핵심 역량 중 하나에 대응하는 것으로 결정될 수 있다. 사용자 의도가 전자 디바이스와 연관된 복수의 핵심 역량 중 하나에 대응한다고 결정하는 것에 응답하여, 블록들(724 내지 746) 중 하나 이상이 수행될 수 있다.
반대로, 사용자 의도가 일부 미리결정된 핵심 역량 이외에 태스크를 수행하는 것을 포함하는 경우, 사용자 의도는 일부 미리결정된 핵심 역량 중 하나에 대응하지 않는 것으로 결정될 수 있다. 예를 들어, 사용자 의도가 맵 길 안내에 대한 요청인 경우, 사용자 의도는 일부 미리결정된 핵심 역량 중 하나에 대응하지 않는 것으로 결정될 수 있다. 사용자 의도가 전자 디바이스와 연관된 복수의 핵심 역량 중 하나에 대응하지 않는다고 결정하는 것에 응답하여, 블록(722)이 수행될 수 있다.
프로세스(700)의 블록(722)에서, 제2 전자 디바이스(예컨대, 디바이스(122))는 사용자 의도를 적어도 부분적으로 만족시킬 수 있다. 특히, 제2 전자 디바이스는 사용자 의도를 만족시키는 것을 촉진하기 위해 태스크를 수행하게 할 수 있다. 일 예에서, 미디어 디바이스는 맵 길 안내를 요청하는 사용자 의도를 만족시키도록 구성되지 않음으로써 사용자 의도는 사용자 의도를 만족시키기 위해 제2 전자 디바이스로 송신될 수 있다고 결정될 수 있다. 이 예에서, 제2 사용자 디바이스는 요청된 맵 길 안내를 표시하는 태스크를 수행할 수 있다. 다른 예들에서, 사용자 의도 이외의 정보가 제2 전자 디바이스로 송신되어 제2 전자 디바이스로 하여금 사용자 의도를 만족시키는 것을 촉진하기 위해 태스크를 수행하게 할 수 있다. 예를 들어, 미디어 디바이스의 디지털 어시스턴트는 (예를 들어, 자연 언어 처리 모듈(432) 또는 태스크 흐름 처리 모듈(436)을 사용하여) 사용자 의도를 더욱 만족시키기 위한 태스크 흐름 또는 구조화된 질의를 결정할 수 있고, 태스크 흐름 또는 구조화된 질의는 제2 전자 디바이스에 송신될 수 있다. 이어서, 제2 전자 디바이스는 사용자 의도를 만족시키는 것을 촉진하기 위해 태스크 흐름 또는 구조화된 질의를 실행할 수 있다.
아래 제공된 설명에서 명백하게 되는 바와 같이, 사용자 의도를 만족시키는 것과 연관된 방해의 정도는 사용자 의도의 속성에 기초할 수 있다. 일부 경우들에서, 사용자 의도를 만족시키는 것과 연관된 태스크는 추가 응답 또는 출력을 디스플레이 상에 표시하지 않고서 수행될 수 있다(예를 들어, 블록(726)). 다른 경우들에서, 사용자 의도를 만족시키기 위해 텍스트 응답(예를 들어, 대응하는 시각적 또는 오디오 출력이 없음)만이 제공된다(예를 들어, 블록(732)). 또 다른 경우들에서, 관련 결과를 갖는 사용자 인터페이스가 사용자 의도(예컨대, 블록들(738, 742, 또는 746))를 만족시키도록 표시될 수 있다. 사용자 인터페이스는 디스플레이 유닛의 대다수 또는 그의 대다수보다 적게 차지할 수 있다. 따라서, 프로세스(700)는 사용자 의도의 속성에 따라 출력의 침입 레벨을 지능적으로 조정할 수 있다. 이는 미디어 콘텐츠의 소비 중에 원하지 않는 방해를 줄이면서 디지털 어시스턴트 서비스에 대한 편리한 액세스를 가능하게 하며, 이는 전반적인 사용자 경험을 향상시킨다.
프로세스(700)의 블록(724)에서, 사용자 의도가 미디어 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함하는지 여부에 대한 결정이 이루어질 수 있다. 사용자 의도가 미디어 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함한다고 결정하는 것에 응답하여, 블록(726)이 수행될 수 있다. 프로세스(700)의 블록(726)에서, 애플리케이션의 상태 또는 설정은 사용자 의도를 만족시키도록 조정될 수 있다.
일부 예들에서, 상태 또는 설정은 미디어 디바이스 상에서 재생되고 있는 표시된 미디어 콘텐츠와 연관될 수 있다. 예를 들어, 애플리케이션의 상태 또는 설정을 조정하라는 요청은 미디어 디바이스에 의한 미디어 콘텐츠의 재생을 제어하기 위한 요청을 포함할 수 있다. 특히, 미디어 디바이스 상에 표시된 미디어 콘텐츠의 재생을 일시정지, 재개, 재시작, 정지, 되감기 또는 빨리 감기하라는 요청을 포함할 수 있다. 또한, 미디어 콘텐츠의 원하는 부분을 재생하기 위해 (예를 들어, 특정 지속시간만큼) 미디어 콘텐츠에서 순방향(forward) 또는 역방향(backward)으로 건너뛰라는 요청을 포함할 수 있다. 또한, 애플리케이션의 상태 또는 설정을 조정하라는 요청은 표시된 미디어 콘텐츠와 연관된 자막 또는 폐쇄 자막(예를 들어, 특정 언어로)을 켜/끄거나, 표시된 미디어 콘텐츠와 연관된 오디오의 볼륨을 증가/감소시키거나, 표시된 미디어 콘텐츠와 연관된 오디오를 음소거/음소거해제하거나, 또는 표시된 미디어 콘텐츠가 재생되는 속도를 높이/줄이라는 요청을 포함할 수 있다.
도 8e 및 도 8f는 미디어 디바이스에 의한 미디어 콘텐츠의 재생을 제어하라는 요청을 포함하는 사용자 의도의 예시적인 예를 도시한다. 이 예에서, 디지털 어시스턴트는 미디어 콘텐츠(802)를 재생하는 동안 호출될 수 있다(예를 들어, 블록(704)에서). 미디어 콘텐츠는 자막을 표시하지 않고서 초기에 표시될 수 있다. 샘플링된 오디오 데이터(예를 들어, 블록(706)에서)는 사용자 발화 "영어 자막을 켜줘"를 포함할 수 있다. 도 8e에 도시된 바와 같이, 사용자 발화의 텍스트 표현(816)은 디스플레이 유닛 상에 표시될 수 있다. 이 사용자 발화에 기초하여, 블록(710)에서, 사용자 의도는 미디어 콘텐츠(802)에 대한 영어 자막의 표시를 켜라는 요청을 포함하는 것으로 결정될 수 있다. 또한, 블록(724)에서, 이 사용자 의도는 전자 디바이스의 애플리케이션의 상태 또는 설정을 조정하라는 요청인 것으로 결정될 수 있다. 이 결정에 응답하여, 미디어 콘텐츠(802)에 대한 영어 자막이 켜질 수 있다. 도 8f에 라벨(817)로 표현된 바와 같이, 미디어 콘텐츠(802)와 연관된 영어 자막의 표시는 사용자 의도를 만족시키기 위해 개시될 수 있다.
도 8g 및 도 8h에 도시된 다른 예시적인 예에서, 샘플링된 오디오 데이터 내의 사용자 발화는 사용자가 미디어 콘텐츠와 연관된 오디오의 일부를 듣지 못했음을 나타내는 자연 언어 표현일 수 있다. 특히, 도 8g에서 텍스트 표현(820)으로 도시된 바와 같이, 사용자 발화는 "그가 뭐라고 말했어?"일 수 있다. 이 예에서, 사용자 의도는 사용자가 듣지 못한 오디오의 일부에 대응하는 미디어 콘텐츠의 일부를 다시 재생하라는 요청을 포함하는 것으로 결정될 수 있다(예를 들어, 블록(710)에서). 또한, 사용자 의도는 미디어 콘텐츠와 연관된 오디오를 듣는 데 어려움을 돕기 위해 폐쇄 자막을 켜라는 요청을 포함하는 것으로 결정될 수 있다. 또한, 사용자 발화의 운율 정보에 기초하여, 사용자가 좌절하거나 참을성이 없다고 결정될 수 있으므로, 사용자 의도가 미디어 콘텐츠와 연관된 오디오의 볼륨을 증가시키라는 요청을 포함한다는 사용자 감정에 기초하여 결정될 수 있다. 블록(724)에서, 이들 사용자 의도는 전자 디바이스의 애플리케이션의 상태 또는 설정을 조정하라는 요청인 것으로 결정될 수 있다. 이 결정에 응답하여, 미디어 콘텐츠는 미리결정된 지속시간(예를 들어, 15 초)만큼 미디어 콘텐츠의 이전 부분으로 되감아질 수 있고, 미디어 콘텐츠의 재생은 이 이전 부분으로부터 재시작될 수 있다(예를 들어, 도 8h에서 라벨(822)에 의해 표현된 바와 같이). 부가적으로, 이전 부분으로부터 미디어 콘텐츠의 재생을 재시작하기 전에, 폐쇄 자막이 켜질 수 있다(예를 들어, 도 8h의 라벨(824)로 표현된 바와 같이). 또한, 미디어 콘텐츠와 연관된 오디오의 볼륨은 이전 부분으로부터 미디어 콘텐츠의 재생을 재시작하기 전에 증가될 수 있다.
미디어 콘텐츠와 연관된 폐쇄 자막 또는 자막은 서비스 제공자(예를 들어, 케이블 제공자 또는 미디어 구독 서비스)로부터 획득될 수 있음을 이해해야 한다. 그러나, 폐쇄 자막 또는 자막이 서비스 제공자로부터 이용가능하지 않은 예들에서, 미디어 디바이스는 폐쇄 자막 또는 자막을 생성하여 미디어 콘텐츠와 연관된 오디오를 듣는 데 어려움이 있는 것을 도울 수 있다. 예를 들어, 샘플링된 오디오 데이터에서 사용자 발화를 수신하기 이전 그리고 미디어 콘텐츠가 재생되는 동안, 미디어 콘텐츠와 연관된 오디오의 스피치는 (예를 들어, STT 처리 모듈(730)을 사용하여) 텍스트로 연속적으로 변환될 수 있고, 미디어 콘텐츠와 관련하여 저장될 수 있다. 사용자가 듣지 못한 미디어 콘텐츠의 이전 부분을 재생하라는 사용자 요청에 응답하여, 다시 재생 중인 이전 부분에 대응하는 텍스트가 검색되어 미디어 콘텐츠의 이전 부분을 다시 재생하는 동안 표시될 수 있다.
일부 예들에서, 표시된 미디어 콘텐츠와 연관된 상태 또는 설정은, 조정을 수행하기 위한 추가 사용자 인터페이스를 표시하지 않고서, 또는 상태 또는 설정이 조정되고 있다는 확인을 표현하는 어떠한 텍스트 또는 그래픽도 제공하지 않고서 조정될 수 있다. 예를 들어, 도 8e 내지 도 8h에 도시된 예에서, 자막(또는 폐쇄 자막)은 "자막 켜기"와 같은 텍스트를 명시적으로 표시하지 않고서 또는 자막의 표시를 제어하기 위한 사용자 인터페이스를 표시하지 않고서 단순히 켜질 수 있다. 또한, 사용자 의도를 만족시키는 것과 연관된 임의의 오디오를 출력하지 않고서 상태 또는 설정이 조정될 수 있다. 예를 들어, 도 8e 내지 도 8h에서, 자막(또는 폐쇄 자막)은 자막이 켜져 있음을 확인해 주는 오디오(예를 들어, 스피치 또는 비언어적 오디오 신호)를 출력하지 않고서 켜질 수 있다. 따라서, 요청된 동작은 미디어 콘텐츠에 대한 추가 오디오 또는 시각적 방해 없이 단순히 수행될 수 있다. 이러한 방식으로, 프로세스(700)는 디지털 어시스턴트의 서비스에 대한 편리한 액세스를 제공하면서 미디어 콘텐츠의 사용자의 소비에 대한 방해를 최소화할 수 있고, 이에 따라 사용자 경험을 향상시킬 수 있다.
다른 예들에서, 미디어 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 미디어 디바이스의 사용자 인터페이스(예를 들어, 제2 사용자 인터페이스(818), 제3 사용자 인터페이스(826), 또는 메인 메뉴 사용자 인터페이스)를 통해 내비게이팅하라는 요청을 포함할 수 있다. 일 예에서, 사용자 인터페이스를 통해 내비게이팅하라는 요청은 사용자 인터페이스의 포커스를 제1 객체(예를 들어, 제1 미디어 항목)로부터 사용자 인터페이스 내의 제2 객체(예를 들어, 제2 미디어 항목)로 스위칭하라는 요청을 포함할 수 있다. 도 8i 내지 도 8k는 그러한 하나의 요청 중 예시적인 예를 도시한다. 도 8i에 도시된 바와 같이, 표시된 콘텐츠는 다양한 카테고리(예를 들어, "로맨틱 코미디", "리즈 위더스푼이 주연한 로맨틱 코미디", 및 "루크 윌슨 영화")로 정리된 복수의 미디어 항목을 갖는 제3 사용자 인터페이스(826)를 포함할 수 있다. 커서(828)의 위치에 의해 표시된 바와 같이, 제3 사용자 인터페이스(826)의 포커스는 "로맨틱 코미디"의 카테고리 하에 있는 제1 미디어 항목(830) 상에 있을 수 있다. 제2 미디어 항목(832)은 "금발이 너무해"라는 제목일 수 있으며 "리즈 위더스푼이 주연한 로맨틱 코미디"의 카테고리 하에 위치설정될 수 있다. 도 8j의 텍스트 표현(834)에 의해 도시된 바와 같이, (예를 들어, 블록(706)에서) 샘플링된 오디오 데이터에서의 사용자 발화는 "금발이 너무해로 가라"일 수 있다. 이 사용자 발화에 기초하여, 사용자 의도가 제3 사용자 인터페이스(826)의 포커스를 제1 미디어 항목(830)으로부터 "금발이 너무해"라는 제목의 제2 미디어 항목(832)으로 스위칭하라는 요청인 것으로 결정될 수 있다(예를 들어, 블록(710)에서). 이러한 사용자 의도가 전자 디바이스의 애플리케이션의 상태 또는 설정을 조정하기 위한 요청인 것으로 결정하는 것에 응답하여(예를 들어, 블록(724)에서), 제3 사용자 인터페이스(826)의 포커스는 제1 미디어 항목(830)으로부터 제2 미디어 항목 미디어 항목(832)으로 스위칭될 수 있다. 예를 들어, 도 8k에 도시된 바와 같이, 커서(828)의 위치는 제1 미디어 항목(830)으로부터 제2 미디어 항목(832)으로 변경될 수 있다.
다른 예에서, 사용자 인터페이스를 통해 내비게이팅하라는 요청은 사용자 인터페이스의 포커스를 사용자 인터페이스에 표시된 결과의 특정 카테고리로 변경하라는 요청을 포함할 수 있다. 예를 들어, 8i는 "로맨틱 코미디", "리즈 위더스푼이 주연한 로맨틱 코미디", 및 "루크 윌슨 영화"의 카테고리와 연관된 미디어 항목들을 포함한다. "금발이 너무해로 가라"가 아니라, 샘플링된 오디오 데이터의 사용자 발화는 대신에 "리즈 위더스푼이 주연한 로맨틱 코미디로 점프해라"일 수 있다. 이러한 사용자 발화에 기초하여, "리즈 위더스푼이 주연한 로맨틱 코미디"가 제3 사용자 인터페이스(826)에 표시된 미디어 항목들의 카테고리를 정의한다고 결정될 수 있고(예를 들어, 블록(710)에서), 따라서 사용자 의도는 사용자 인터페이스의 포커스를 그 카테고리와 연관된 하나 이상의 미디어 항목으로 변경하라는 요청인 것으로 결정될 수 있다. 이러한 사용자 의도가 전자 디바이스의 애플리케이션의 상태 또는 설정을 조정하라는 요청인 것으로 결정하는 것에 응답하여(예를 들어, 블록(724)에서), 제3 사용자 인터페이스(826)의 포커스는 카테고리와 연관된 하나 이상의 미디어 항목으로 시프팅될 수 있다. 예를 들어, 도 8k에 도시된 바와 같이, 커서(828)의 위치는 "리즈 위더스푼이 주연한 로맨틱 코미디"와 연관된 제2 미디어 항목(832)으로 시프팅될 수 있다.
또 다른 예들에서, 미디어 디바이스의 사용자 인터페이스를 통해 내비게이팅하라는 요청은 사용자 인터페이스에서 객체를 선택하라는 요청을 포함할 수 있다. 객체의 선택은 객체와 연관된 동작이 수행되게 할 수 있다. 예를 들어, 도 8k에 도시된 바와 같이, 커서(828)의 위치는 "금발이 너무해"라는 제목의 제2 미디어 항목(832) 상에 있다. 도 8l에 도시된 바와 같이, 디지털 어시스턴트는 (예를 들어, 블록(704)에서) 호출될 수 있고, 샘플링된 오디오 데이터 내의 사용자 발화는(블록(706)에서) "이것을 재생해"일 수 있다(예를 들어, 텍스트 표현(836)으로서 표시되는). 이러한 사용자 발화에 기초하여, 사용자 의도가 특정 미디어 항목을 재생하라는 요청인 것으로 결정될 수 있다(블록(710)에서). 이 예에서, 사용자 발화는 재생될 특정 미디어 항목을 명시적으로 정의하거나 식별하지 않는다. 특히, "이것"이라는 단어는 모호하다. 그러나, 디지털 어시스턴트는 사용자 의도를 명확하게 하기 위해 상황적 정보를 획득할 수 있다. 예를 들어, 제3 사용자 인터페이스(826)의 포커스가 오디오 데이터가 샘플링되는 시간에서 제2 미디어 항목(832) 상에 있다고 결정될 수 있다. 이 결정에 기초하여, 제2 미디어 항목(832)은 재생될 미디어 항목으로 식별될 수 있다. 제2 미디어 항목(832)을 재생하려는 사용자 의도가 전자 디바이스의 애플리케이션의 상태 또는 설정을 조정하라는 요청인 것으로 결정하는 것(예를 들어, 블록(724)에서)에 응답하여, 제2 미디어 항목(832)을 재생하는 것을 촉진하기 위한 동작이 수행될 수 있다. 예를 들어, 제2 미디어 항목(832)에 관한 미리보기 정보가 디스플레이 유닛 상에 표시될 수 있다. 미리보기 정보는, 예를 들어 줄거리의 간단한 요약, 출연자의 목록, 출시일, 사용자 평점 등을 포함할 수 있다. 부가적으로 또는 대안적으로, 제2 미디어 항목(832)은 미디어 디바이스 상에서 재생될 수 있고, 제2 미디어 항목(832)과 연관된 미디어 콘텐츠는 디스플레이 유닛 상에 표시될 수 있다(예를 들어, 도 8m의 "금발이 너무해 재생 중"이라는 텍스트(838)에 의해 표현됨). 다른 예들에서, 선택될 미디어 항목이 명시적으로 식별될 수 있음을 인식해야 한다. 예를 들어, "이것을 재생"이라기보다는, 사용자 발화는 구체적으로 "금발이 너무해를 재생해"를 명시적으로 말할 수 있고, 제2 미디어 항목(832)을 재생하는 것을 촉진하기 위한 유사한 동작이 수행될 수 있다.
또 다른 예들에서, 미디어 디바이스의 사용자 인터페이스를 통해 내비게이팅하라는 요청은 미디어 디바이스의 특정 사용자 인터페이스 또는 애플리케이션을 시청하라는 요청을 포함할 수 있다. 예를 들어, 샘플링된 오디오 데이터의 사용자 발화는 "배우 페이지로 가라"일 수 있으며, 여기서 사용자 의도는 특정 배우에 따라 미디어 항목들을 브라우징하는 것과 연관된 사용자 인터페이스를 표시하라는 요청을 포함한다. 다른 예에서, 샘플링된 오디오 데이터에서의 사용자 발화는 "홈 페이지로 이동해라"일 수 있으며, 여기서 사용자 의도는 미디어 디바이스의 메인 메뉴 사용자 인터페이스를 표시하라는 요청을 포함한다. 또 다른 예에서, 미디어 디바이스의 사용자 인터페이스를 통해 내비게이팅하라는 요청은 전자 디바이스 상에서 애플리케이션을 개시하라는 요청을 포함할 수 있다. 예를 들어, 샘플링된 오디오 데이터 내의 사용자 발화는 "아이튠즈 스토어로 가라"일 수 있으며, 여기서 사용자 의도는 아이튠즈 스토어 애플리케이션을 개시하라는 요청을 포함한다. 미디어 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 다른 요청들이 고려될 수 있다는 것을 인식해야 한다.
블록(724)을 다시 참조하면, 사용자 의도는 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함하지 않는다고 결정될 수 있다. 예를 들어, 사용자 의도는 대신에 하나 이상의 미디어 항목과 관련된 정보를 제시하라는 요청일 수 있다. 이러한 결정에 응답하여, 블록들(728 내지 746) 중 하나 이상이 수행될 수 있다. 프로세스(700)의 블록(728)에서, 사용자 의도가 복수의 미리결정된 요청 유형 중 하나인지 여부에 대한 결정이 이루어질 수 있다. 일부 예들에서, 복수의 미리결정된 요청 유형은 텍스트-전용 응답과 연관된 요청일 수 있다. 보다 구체적으로, 복수의 미리결정된 요청 유형은 텍스트-전용 응답을 요청하기 위한 미리결정된 정보에 대한 요청일 수 있다. 이는 미디어 객체(예컨대, 이미지, 애니메이션화된 객체, 비디오 등)를 포함하는 응답을 요구하기 위한 미리결정된 요청과는 대조적이다. 일부 예들에서, 복수의 미리결정된 요청 유형은 특정 위치에서 현재 시간에 대한 요청들(예를 들어, "파리는 몇 시야?"), 농담을 제시하라는 요청들(예를 들어, "재밌는 농담 좀 해줘"), 또는 전자 디바이스 상에서 현재 재생되고 있는 미디어 콘텐츠에 관한 정보에 대한 요청들(예를 들어, "이 영화가 언제 출시됐어?")을 포함할 수 있다. 사용자 의도가 복수의 미리결정된 요청 유형 중 하나인 것으로 결정하는 것에 응답하여, 블록들(730 내지 732) 중 하나 이상이 수행될 수 있다.
프로세스(700)의 블록(730)에서, 사용자 의도를 적어도 부분적으로 만족시키는 결과가 획득될 수 있다. 예를 들어, 결과는 태스크 흐름을 실행함으로써 외부 서비스(예를 들어, 외부 서비스(120))로부터 획득될 수 있다. 프로세스(700)의 블록(732)에서, 블록(730)에서 획득된 결과는 텍스트 형태로 디스플레이 유닛 상에 표시될 수 있다. 또한, 결과는 임의의 대응하는 그래픽 또는 결과에 대응하는 미디어 관련 항목들을 표시하지 않고서 텍스트 형태로 표시될 수 있다.
도 8m 내지 도 8p는 블록들(728 내지 732)의 예시적인 예를 도시한다. 도 8m에 도시된 바와 같이, 영화 "금발이 너무해"는 초기에 미디어 디바이스 상에서 재생되고 디스플레이 유닛 상에 표시될 수 있다. "금발이 너무해"를 재생하는 동안, 디지털 어시스턴트가 호출될 수 있고(예를 들어, 블록(704)에서), 샘플링된 오디오 데이터 내의 사용자 발화는 "주연 여배우는 누구야?"일 수 있다. 예를 들어, 도 8n에 도시된 바와 같이, 사용자 발화의 텍스트 표현(840)이 디스플레이 유닛 상에 표시될 수 있다. 이러한 사용자 발화에 기초하여, 사용자 의도가 특정 미디어 항목의 주연 여배우를 식별하라는 요청을 포함하는 것으로 결정될 수 있다(블록(710)에서). 사용자 발화는 임의의 특정 미디어 항목을 지정하지 않으므로 사용자 의도가 모호할 수 있다. 그러나, 오디오 데이터가 샘플링된 시간에 표시되고 있는 영화 "금발이 너무해"에 기초하여, 사용자 의도와 연관된 미디어 항목이 "금발이 너무해"라는 것이 결정될 수 있다. 이 예에서, 사용자 의도는 복수의 미리결정된 요청 유형 중 하나라고 결정될 수 있다(예를 들어, 블록(728)에서). 특히, 금발이 너무해에서 주연 여배우를 식별하려는 사용자 의도를 만족시키기 위해 텍스트 전용 응답이 제공될 수 있다고 결정될 수 있다. 사용자 의도가 복수의 미리결정된 요청 유형 중 하나라고 결정하는 것에 응답하여, 미디어 관련 데이터베이스에서 검색이 수행되어, 영화 "금발이 너무해"에서 주연 여배우로서 "리즈 위더스푼"을 획득할 수 있다(예를 들어, 블록(730)에서). 도 8p에 도시된 바와 같이, 텍스트 전용 결과(842) "리즈 위더스푼"이 사용자 의도를 만족시키기 위해 디스플레이 유닛 상에 표시될 수 있다. 텍스트 전용 결과(842)는 표시된 "금발이 너무해"의 미디어 콘텐츠 상에 중첩될 수 있다. 또한, "금발이 너무해"의 미디어 콘텐츠는 텍스트 전용 결과(842)가 표시되는 동안 계속 재생될 수 있다. 텍스트 전용 결과(842)를 표시함으로써(예를 들어, 사용자 의도를 만족시키기 위한 그래픽 결과 또는 추가 사용자 인터페이스를 표시하지 않고서), 사용자 의도는 눈에 거슬리지 않는 방식으로 만족될 수 있고 미디어 콘텐츠의 사용자 소비는 최소한으로 방해될 수 있다. 동시에, 사용자는 디지털 어시스턴트의 서비스에 대한 액세스를 제공받는다. 이는 향상된 사용자 경험을 위해 바람직할 수 있다.
블록(728)을 다시 참조하면, 사용자 의도는 복수의 미리결정된 요청 유형 중 하나가 아니라고 결정될 수 있다. 특히, 사용자 의도는 만족할만한 텍스트 결과 이상을 요구하도록 미리결정된 요청 유형일 수 있다. 예를 들어, 사용자 의도는 미디어 검색 질의를 수행하고 미디어 검색 질의에 대응하는 미디어 항목들을 표시하라는 요청일 수 있다. 다른 예들에서, 사용자 의도는 미디어 항목들 이외의 정보에 대한 요청일 수 있다. 예를 들어, 사용자 의도는 스포츠 팀(예를 들어, "L.A. 레이커스는 마지막 경기에서 어땠어?"), 선수들(예를 들어, "르브론 제임스는 키가 얼마야?"), 주식(예를 들어, "다우 존스는 어제 뭐로 마감됐어?"), 또는 날씨(예를 들어, 다음 주 프랑스 파리의 일기 예보는 어때?")와 연관된 정보에 대한 요청일 수 있다. 사용자 의도가 복수의 미리결정된 요청 유형 중 하나가 아니라고 결정하는 것에 응답하여, 블록들(734 내지 746) 중 하나 이상이 수행될 수 있다.
프로세스(700)의 블록(734)에서, 사용자 의도를 적어도 부분적으로 만족시키는 제2 결과가 획득될 수 있다. 블록(734)은 상술한 블록(534)과 유사하거나 동일할 수 있다. 일 예에서, 사용자 의도는 미디어 검색 질의를 수행하라는 요청을 포함할 수 있다. 이 예에서, 블록(734)에서 미디어 검색 질의가 수행되어 제2 결과를 획득할 수 있다. 특히, 제2 결과는 미디어 검색 질의에 대응하는 미디어 항목들을 포함할 수 있다.
일부 예들에서, 사용자 의도는 미디어 검색 질의가 아닐 수 있다. 예를 들어, 사용자 의도는 프랑스 파리의 일기 예보를 제공하라는 요청일 수 있다(예를 들어, 프랑스 파리의 일기 예보는 어때?). 이 예에서, 블록(734)에서 획득된 제2 결과는 프랑스 파리의 7일간의 일기 예보를 포함할 수 있다. 제2 결과는 적어도 부분적으로 사용자 의도를 만족시키는 비-미디어 데이터를 포함할 수 있다. 특히, 프랑스 파리의 7일간 일기 예보는 텍스트 데이터(예컨대, 날짜, 기온, 및 기상 조건에 대한 간략한 설명) 및 그래픽 이미지(예컨대, 맑음, 흐림, 바람, 또는 비 이미지들)를 포함할 수 있다. 또한, 일부 예들에서, 사용자 의도의 범위는 블록(710)에서 확장되어 사용자 의도를 적어도 부분적으로 만족시키는 미디어 항목들에 대한 요청을 포함할 수 있다. 이들 예에서, 블록(734)에서 획득된 제2 결과는 사용자 의도를 적어도 부분적으로 만족시키는 미디어 콘텐츠를 갖는 하나 이상의 미디어 항목을 추가로 포함할 수 있다. 예를 들어, 미디어 검색 질의는 관련 기간 동안 프랑스 파리의 일기 예보에 대해 블록(734)에서 수행될 수 있고 프랑스 파리의 일기 예보와 관련된 하나 이상의 미디어 항목이 획득될 수 있다. 하나 이상의 미디어 항목은 예를 들어, 프랑스 파리의 일기 예보를 제시하는 날씨 채널로부터의 비디오 클립을 포함할 수 있다. 이러한 예들에서, 비-미디어 데이터 및/또는 하나 이상의 미디어 항목은 표시된 유닛 상의 사용자 인터페이스(예를 들어, 이하 설명되는 블록들(738, 742, 또는 746))에 표시될 수 있다.
프로세스(700)의 블록(736)에서, 표시된 콘텐츠가 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함하는지 여부에 대한 결정이 이루어질 수 있다. 일부 예들에서, 표시된 콘텐츠는 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함하지 않는 것으로 결정될 수 있다. 예를 들어, 표시된 콘텐츠는 메인 메뉴 사용자 인터페이스 또는 제3 사용자 인터페이스(예를 들어, 제3 사용자 인터페이스(826))와 같은 사용자 인터페이스를 대신 포함할 수 있다. 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지할 수 있다. 또한, 제3 사용자 인터페이스는 블록(704)에서 사용자 입력을 검출하기 이전에 수신된 이전 사용자 요청과 관련된 이전 결과를 포함할 수 있다. 표시된 콘텐츠가 미디어 콘텐츠를 포함하지 않는다는 결정에 따라, 블록(738)이 수행될 수 있다.
프로세스(700)의 블록(738)에서, 제2 결과의 일부가 디스플레이 유닛 상의 제3 사용자 인터페이스에 표시될 수 있다. 블록(704)에서 사용자 입력이 수신되는 시간에서 표시된 콘텐츠가 이미 제3 사용자 인터페이스를 포함하는 예들에서, 이전 사용자 요청과 관련된 이전 결과의 표시는 제3 사용자 인터페이스에서의 제2 결과의 일부의 표시로 대체될 수 있다. 표시된 콘텐츠가 블록(704)에서 사용자 입력이 수신되는 시간에서(예를 들어, 표시된 콘텐츠가 메인 메뉴 사용자 인터페이스를 포함함) 제3 사용자 인터페이스를 포함하지 않는 예에서, 제3 사용자 인터페이스가 표시될 수 있고 제2 결과는 표시된 제3 사용자 인터페이스에 포함될 수 있다.
일부 예들에서, 제2 결과가 미리결정된 유형의 결과를 포함하는지 여부에 대한 결정이 이루어질 수 있다. 미리결정된 유형의 결과는 디스플레이 유닛의 표시 영역의 대부분보다 작은 표시 영역과 연관될 수 있다. 미리결정된 유형의 결과는 예를 들어, 주식 또는 날씨와 관련된 결과를 포함할 수 있다. 다른 예들에서, 미리결정된 유형의 결과가 다를 수 있음을 인식해야 한다. 제2 결과가 미리결정된 유형의 결과를 포함한다고 결정하는 것에 응답하여, 제2 결과의 일부는 디스플레이 유닛 상의 제2 사용자 인터페이스에 표시될 수 있다. 제2 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 대부분보다 적게 차지할 수 있다. 이들 예에서, 표시된 콘텐츠는 미디어 콘텐츠를 포함하지 않는다고 블록(736)에서 결정되더라도 제2 결과의 일부는 제2 사용자 인터페이스에 표시될 수 있다.
도 8q 내지 도 8s는 블록들(734 내지 738)의 예시적인 예를 도시한다. 이 예에서, 도 8q에 도시된 바와 같이, 표시된 콘텐츠는 처음에 제3 사용자 인터페이스(826)를 포함할 수 있다. 제3 사용자 인터페이스(826)는 이전 사용자 요청으로부터의 이전 결과를 포함할 수 있다. 특히, 제3 사용자 인터페이스(826)는 이전에 요청된 미디어 검색 질의로부터 미디어 항목들(844)을 포함한다. 도 8r에 도시된 바와 같이, 제3 사용자 인터페이스(826)가 표시되는 동안, 디지털 어시스턴트가 호출될 수 있다(예를 들어, 블록(704)에서). 샘플링된 오디오 데이터 내의 사용자 발화는 "루크 윌슨이 주연한 영화를 보여줘"를 포함할 수 있다. 사용자 발화의 텍스트 표현(846)은 디스플레이 유닛 상에 표시될 수 있다. 이 예에서, 사용자 의도는 루크 윌슨이 주연한 영화에 대한 미디어 검색 질의를 수행하라는 요청인 것으로 결정될 수 있다(예를 들어, 블록(710)에서). 미디어 검색 질의는 제2 결과를 획득하기 위해(예를 들어, 블록(734)에서) 수행될 수 있다. 특히, 제2 결과는 루크 윌슨이 주연한 영화들에 대응하는 미디어 항목들(848)을 포함할 수 있다. 또한, 사용자 의도 또는 이전 사용자 의도와 관련된 추가 결과(예를 들어, 미디어 항목들(850))가 획득될 수 있다. 이러한 추가 결과는 블록(544)에서 기술된 제2 결과와 유사한 방식으로 획득될 수 있다.
도 8q 내지 도 8s의 본 예에서, 표시된 콘텐츠는 제3 사용자 인터페이스(826)만을 포함함으로써, 표시된 콘텐츠가 전자 디바이스에서 재생 중인 미디어 콘텐츠를 포함하지 않는다고 결정될 수 있다(예를 들어, 블록(736)에서). 이 결정에 응답하여, 제2 결과는 제3 사용자 인터페이스(826)에 표시될 수 있다. 특히, 도 8s에 도시된 바와 같이, 제3 사용자 인터페이스(826) 내의 미디어 항목들(844)의 표시는 제3 사용자 인터페이스(826) 내의 미디어 항목들(848)의 표시로 대체될 수 있다. 또한, 미디어 항목들(850)은 제3 사용자 인터페이스(826)에 표시될 수 있다.
이 예에 도시된 바와 같이, 제2 결과는 미디어 콘텐츠가 디스플레이 유닛 상에 표시되고 있지 않다고 결정한 후에만 제3 사용자 인터페이스에 제시될 수 있다. 이는 사용자의 실제 의도가 만족될 확률을 높이기 위해 더 넓은 범위의 결과가 더 큰 영역에 표시되게 할 수 있다. 동시에, 제3 사용자 인터페이스에 제2 결과를 제시하기 이전에 미디어 콘텐츠가 디스플레이 유닛 상에 표시되지 않는 것을 보장함으로써 사용자의 미디어 콘텐츠의 소비가 방해받지 않는다.
블록(736)을 다시 참조하면, 표시된 콘텐츠는 미디어 디바이스 상에서 재생되고 있는 미디어 콘텐츠를 포함할 수 있다. 이러한 예들에서, 표시된 콘텐츠는 미디어 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함한다는 결정이 이루어질 수 있다. 이 결정에 따라, 블록들(740 내지 746) 중 하나 이상이 수행될 수 있다.
프로세스(700)의 블록(740)에서, 재생되고 있는 미디어 콘텐츠가 일시정지될 수 있는지 여부에 대한 결정이 이루어질 수 있다. 일시정지될 수 있는 미디어 콘텐츠의 예들은 주문형 영화 및 TV 쇼와 같은 주문형 미디어 항목들을 포함할 수 있다. 일시정지될 수 없는 미디어 콘텐츠의 예들은 브로드캐스트 또는 스트리밍 서비스의 미디어 프로그램들 및 라이브 미디어 프로그램들(예컨대, 스포츠 이벤트, 콘서트 등)을 포함할 수 있다. 따라서, 주문형 미디어 항목들은 브로드캐스트 또는 라이브 프로그램을 포함하지 않을 수 있다. 재생되고 있는 미디어 콘텐츠가 일시정지될 수 없다는 블록(740)에서의 결정에 따라, 블록(742)이 수행될 수 있다. 프로세스(700)의 블록(742)에서, 제2 결과의 일부를 갖는 제2 사용자 인터페이스가 디스플레이 유닛 상에 표시될 수 있다. 블록(742)은 상술한 블록(536)과 유사할 수 있다. 제2 사용자 인터페이스는 미디어 콘텐츠가 표시되는 동안 표시될 수 있다. 디스플레이 유닛 상의 제2 사용자 인터페이스에 의해 차지된 표시 영역은 디스플레이 유닛 상의 미디어 콘텐츠에 의해 차지된 표시 영역보다 작을 수 있다. 재생되고 있는 미디어 콘텐츠가 일시정지될 수 있다는 결정에 따라, 블록들(744 내지 746) 중 하나 이상이 수행될 수 있다. 프로세스(700)의 블록(744)에서, 재생되고 있는 미디어 콘텐츠는 미디어 디바이스 상에서 일시정지될 수 있다. 프로세스(700)의 블록(746)에서, 제2 결과의 일부를 갖는 제3 사용자 인터페이스가 표시될 수 있다. 제3 사용자 인터페이스는 미디어 콘텐츠가 일시정지되는 동안 표시될 수 있다.
도 8t 내지 도 8w는 블록들(740 내지 746)의 예시적인 예들을 도시한다. 도 8t에 도시된 바와 같이, 미디어 디바이스 상에서 재생 중인 미디어 콘텐츠(802)는 디스플레이 유닛 상에 표시될 수 있다. 미디어 콘텐츠(802)를 표시하는 동안, 디지털 어시스턴트가 활성화될 수 있다(예를 들어, 블록(704)에서). 샘플링된 오디오 데이터 내의 사용자 발화는 "루크 윌슨이 주연한 영화를 보여줘"일 수 있다. 사용자 발화의 텍스트 표현(846)이 디스플레이 유닛 상에 표시될 수 있다. 상술한 바와 같이, 사용자 의도는 루크 윌슨이 주연한 영화의 미디어 항목들을 획득하라는 요청이 되도록 결정될 수 있다(예를 들어, 블록(710)에서). 대응하는 미디어 검색 질의는 제2 결과를 획득하기 위해(예를 들어, 블록(734)에서) 실행될 수 있다. 제2 결과는 루크 윌슨이 주연한 영화의 미디어 항목들(848)을 포함할 수 있다. 미디어 콘텐츠(802)가 일시정지될 수 없다고 결정되는(예를 들어, 블록(744)에서) 예들에서, 미디어 콘텐츠(802)가 디스플레이 유닛 상에 계속 표시되는 동안 미디어 항목들(848)은 제2 사용자 인터페이스(818)에 표시될 수 있다(예를 들어, 도 8u). 제2 사용자 인터페이스(818)에 미디어 항목들(848)을 표시하는 것은 미디어 항목들(848)이 사용자 의도를 만족시키기 위해 표시되는 동안 미디어 콘텐츠(802)는 사용자 소비를 위해 계속 이용가능하게 하는 것이 바람직할 수 있다. 이는 일시정지되거나 다시 재생될 수 없는 미디어 콘텐츠(802)의 일부를 사용자가 놓치는 것을 방지한다. 대안적으로, 미디어 콘텐츠(802)가 일시정지될 수 있다고 결정되는(예를 들어, 블록(744)에서) 예들에서, 미디어 디바이스 상의 미디어 콘텐츠(802)의 재생은 일시정지될 수 있고 미디어 항목들(848)은 디스플레이 유닛 상의 제3 사용자 인터페이스(826)에 표시될 수 있다(예컨대, 도 8s). 제3 사용자 인터페이스(826)를 표시하는 것은 다양한 대안적인 사용자 의도들(예컨대, 미디어 항목들(850))과 연관된 더 넓은 범위의 미디어 항목들이 요청된 미디어 항목들(예컨대, 미디어 항목들(848))과 함께 표시되도록 하는 것이 바람직할 수 있으며, 이에 의해 사용자의 실제 의도가 만족될 가능성을 증가시킨다. 동시에, 사용자가 미디어 콘텐츠(802)의 어떤 부분도 놓치지 않도록 미디어 콘텐츠(802)는 일시정지된다. 미디어 콘텐츠(802)가 일시정지될 수 있는지 여부에 기초하여 미디어 항목들(848)을 표시하는 데 사용되는 사용자 인터페이스를 변경함으로써, 사용자 발화와 연관된 사용자 의도는 포괄적으로 이행될 수 있는 반면, 사용자의 미디어 콘텐츠(802)의 소비에 대한 방해를 감소시킬 수 있다. 이로 인해 전반적인 사용자 경험이 향상될 수 있다.
일부 예들에서, 도 8v에 도시된 바와 같이, 표시된 콘텐츠는 미디어 디바이스 상에서 재생 중인 미디어 콘텐츠(802) 이외에 제2 사용자 인터페이스(818)를 포함할 수 있다. 이들 예에서, 제2 사용자 인터페이스(818)는 이전 사용자 요청(예를 들어, 리즈 위더스푼이 주연한 로맨틱 코미디에 대한 요청)과 관련된 미디어 항목들(852)을 포함할 수 있다. 미디어 콘텐츠(802) 및 제2 사용자 인터페이스(818)를 표시하는 동안, 디지털 어시스턴트가 호출될 수 있다(예를 들어, 블록(704)에서). 도 8w에 도시된 바와 같이, 샘플링된 오디오 데이터는 "루크 윌슨이 주연한 영화를 보여줘"라는 사용자 발화를 포함할 수 있다. 사용자 발화의 텍스트 표현(846)이 디스플레이 유닛 상에 표시될 수 있다. 이러한 사용자 발화에 기초하여, 사용자 의도가 루크 윌슨이 주연한 영화의 미디어 항목들을 획득하라는 요청인 것으로 결정될 수 있다(예를 들어, 블록(710)에서). 대응하는 미디어 검색 질의는 제2 결과(예를 들어, 미디어 항목들(848))를 획득하기 위해 실행될 수 있다(예를 들어, 블록(734)에서). 이들 예에서, 제2 사용자 인터페이스(818) 내의 미디어 항목들(852)의 표시는 미디어 항목들(848)의 표시로 대체될 수 있다(예를 들어, 도 8u).
도 9는 다양한 예에 따른, 미디어 시스템의 디지털 어시스턴트와 상호작용하기 위한 프로세스(900)를 도시한다. 프로세스(900)는 디지털 어시스턴트를 구현하는 하나 이상의 전자 디바이스를 사용하여 수행될 수 있다. 예를 들어, 프로세스(900)는 전술한 시스템(100), 미디어 시스템(128), 미디어 디바이스(104), 사용자 디바이스(122), 또는 디지털 어시스턴트 시스템(400) 중 하나 이상을 사용하여 수행될 수 있다. 프로세스(900)에서의 일부 동작들은 결합될 수 있고, 일부 동작들의 순서는 변경될 수 있으며, 일부 동작들은 생략될 수 있음을 이해해야 한다.
프로세스(900)의 블록(902)에서, 콘텐츠가 디스플레이 유닛 상에 표시될 수 있다. 블록(902)은 상술한 블록(502)과 유사하거나 동일할 수 있다. 일부 예들에서, 표시된 콘텐츠는 미디어 콘텐츠(예컨대, 영화, 비디오, 텔레비전 쇼, 비디오 게임 등)를 포함할 수 있다. 부가적으로 또는 대안으로, 표시된 콘텐츠는 사용자 인터페이스를 포함할 수 있다. 예를 들어, 표시된 콘텐츠는 하나 이상의 예시적인 자연 언어 요청을 갖는 제1 사용자 인터페이스를 포함할 수 있다(예를 들어, 도 6d 및 도 6e에 도시된 바와 같음). 다른 예들에서, 표시된 콘텐츠는 이전 사용자 요청(예를 들어, 이전에 요청된 미디어 항목들)으로부터의 결과들을 갖는 제3 사용자 인터페이스(예컨대, 제3 사용자 인터페이스(626))를 포함할 수 있다. 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지할 수 있다.
프로세스(900)의 블록(904)에서, 블록(902)의 콘텐츠를 표시하는 동안, 사용자 입력이 검출될 수 있다. 사용자 입력은 블록(558)에서 기술된 제5 사용자 입력과 유사하거나 동일할 수 있다. 특히, 사용자 입력은 미디어 디바이스의 원격 제어부 상에서 검출될 수 있다. 예를 들어, 사용자 입력은 원격 제어 디바이스의 터치 감응형 표면 상의 미리결정된 모션 패턴을 포함할 수 있다. 일부 예들에서, 사용자 입력은 미디어 디바이스와 상이한 제2 전자 디바이스(예컨대, 디바이스(122))를 통해 검출될 수 있다. 제2 전자 디바이스는 미디어 디바이스를 무선으로 제어하도록 구성될 수 있다. 사용자 입력을 검출하는 것에 응답하여, 블록들(906 내지 914) 중 하나 이상이 수행될 수 있다.
프로세스(900)의 블록(906)에서, 가상 키보드 인터페이스(예컨대, 가상 키보드 인터페이스(646))가 디스플레이 유닛 상에 표시될 수 있다. 블록(906)은 상술한 블록(562)과 유사하거나 동일할 수 있다. 가상 키보드 인터페이스는 제1 사용자 인터페이스 또는 제3 사용자 인터페이스의 적어도 일부에 중첩될 수 있다. 또한, 검색 필드(예컨대, 검색 필드(644))가 디스플레이 유닛 상에 표시될 수 있다. 가상 키보드 인터페이스는 가상 키보드 인터페이스를 통해 수신된 사용자 입력이 검색 필드에서 텍스트 입력을 야기하도록 구성될 수 있다.
프로세스(900)의 블록(908)에서, 선택가능한 어포던스는 제2 전자 디바이스 상에(예를 들어, 디바이스(122)의 터치스크린(346) 상에) 표시되도록 야기될 수 있다. 제2 전자 디바이스는 미디어 디바이스의 원격 제어부와는 상이한 디바이스일 수 있다. 상기 어포던스의 선택은 텍스트 입력이 제2 전자 디바이스의 키보드를 통해 미디어 디바이스에 의해 수신되게 할 수 있다. 예를 들어, 어포던스의 선택은 가상 키보드 인터페이스(예를 들어, 가상 키보드 인터페이스(646)와 유사함)가 제2 전자 디바이스 상에 표시되게 할 수 있다. 제2 전자 디바이스의 가상 키보드 인터페이스에 대한 입력은 대응하는 텍스트가 검색 필드(예컨대, 검색 필드(644))에 입력되게 할 수 있다.
프로세스(900)의 블록(910)에서, 텍스트 입력이 제2 전자 디바이스의 키보드(예컨대, 가상 키보드 인터페이스)를 통해 수신될 수 있다. 특히, 사용자는 제2 전자 디바이스의 키보드를 통해 텍스트를 입력할 수 있고, 텍스트 입력은 미디어 디바이스에 송신되고 그에 의해 수신될 수 있다. 텍스트 입력은 사용자 요청을 표현할 수 있다. 예를 들어, 텍스트 입력은 "쥬라기 공원"일 수 있으며, 이는 "쥬라기 공원" 검색 문자열과 연관된 미디어 항목들에 대한 검색을 수행하라는 요청을 표현할 수 있다.
프로세스(900)의 블록(912)에서, 사용자 요청을 적어도 부분적으로 만족시키는 결과가 획득될 수 있다. 예를 들어, 텍스트 입력을 사용하여 미디어 검색이 수행될 수 있으며 대응하는 미디어 항목들이 획득될 수 있다. 텍스트 입력이 "쥬라기 공원"인 특정 예에서, "쥬라기 공원"이라는 제목을 갖는, 또는 "쥬라기 공원" 영화와 공통의 배우 또는 감독을 갖는 미디어 항목들이 획득될 수 있다. 텍스트 입력이 "리즈 위더스푼"인 다른 예에서, 리즈 위더스푼이 여배우인 미디어 항목들이 획득될 수 있다.
프로세스(900)의 블록(914)에서, 사용자 인터페이스가 디스플레이 유닛 상에 표시될 수 있다. 사용자 인터페이스는 결과의 적어도 일부를 포함할 수 있다. 예를 들어, 사용자 인터페이스는 블록(912)에서 수행된 미디어 검색들의 결과로서 획득된 미디어 항목들을 포함할 수 있다.
프로세스들(500, 700, 900)의 특정 블록들이 디바이스 또는 시스템(예를 들어, 미디어 디바이스(104), 사용자 디바이스(122), 또는 디지털 어시스턴트 시스템(400))에 의해 수행되고 있는 것으로 위에서 설명되지만, 일부 예들에서, 하나의 디바이스가 블록을 수행하는 데 사용될 수 있다는 점을 인식해야 한다. 예를 들어, 결정이 이루어지는 블록들에서, 제1 디바이스(예컨대, 미디어 디바이스(104))는 제2 디바이스(예컨대, 서버 시스템(108))로부터 결정을 획득할 수 있다. 마찬가지로, 콘텐츠, 객체, 텍스트, 또는 사용자 인터페이스가 표시되는 블록들에서, 제1 디바이스(예컨대, 미디어 디바이스(104))는 콘텐츠, 객체, 텍스트, 또는 사용자 인터페이스를 제2 디바이스(예컨대, 디스플레이 유닛(126)) 상에 표시되게 할 수 있다.
5. 전자 디바이스
일부 예들에 따르면, 도 10은 예를 들어 미디어 재생의 음성 제어 및 가상 어시스턴트 지식의 실시간 업데이트를 제공하기 위해 다양한 기술된 예들의 원리에 따라 구성된 전자 디바이스(1000)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 10에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 10에 도시된 바와 같이, 전자 디바이스(1000)는 촉각 입력, 제스처 입력과 같은 사용자 입력을 수신하도록 구성된 입력 유닛(1003)(예를 들어, 원격 제어부(124) 등), 오디오 데이터를 수신하도록 구성된 오디오 입력 유닛(1004)(예를 들어, 마이크로폰(272) 등), 오디오를 출력하도록 구성된 스피커 유닛(106)(예를 들어, 스피커(268) 등), 및 네트워크를 통해 외부 디바이스로부터 정보를 전송하고 수신하도록 구성된 통신 유닛(1007)(예를 들어, 통신 서브시스템(224) 등)을 포함할 수 있다. 일부 예들에서, 전자 디바이스(1000)는 옵션적으로 미디어, 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(1002)(예컨대, 디스플레이 유닛(126) 등)을 포함할 수 있다. 전자 디바이스(1000)는 입력 유닛(1003), 오디오 입력 유닛(1004), 스피커 유닛(1006), 통신 유닛(1007), 및 옵션적으로 디스플레이 유닛(1002)에 결합된 처리 유닛(1008)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(1008)은 표시 인에이블 유닛(1010), 검출 유닛(1012), 결정 유닛(1014), 샘플링 유닛(1016), 출력 유닛(1018), 수행 유닛(1020), 획득 유닛(1022), 및 스위칭 유닛(1024)을 포함할 수 있다.
일부 실시예에 따라, 처리 유닛(1008)은 디스플레이 유닛(예를 들어, 디스플레이 유닛(1002) 또는 별개의 디스플레이 유닛) 상에 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 구성된다. 처리 유닛(1008)은 사용자 입력을 검출하도록(예컨대, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 사용자 입력이 제1 입력 유형에 대응하는지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라, 복수의 예시적인 자연 언어 요청을 디스플레이 유닛 상에 표시하도록(예를 들어, 표시 인에이블 유닛(1010)) 추가로 구성된다. 복수의 예시적인 자연 언어 요청은 표시된 콘텐츠와 상황적으로 관련되고, 여기서 복수의 예시적인 자연 언어 요청 중 하나에 대응하는 사용자 발화를 수신하는 것은 디지털 어시스턴트로 하여금 개개의 동작을 수행하게 한다.
일부 예들에서, 사용자 입력은 전자 디바이스의 원격 제어부 상에서 검출된다. 일부 예들에서, 제1 입력 유형은 원격 제어부의 버튼을 누르고 미리결정된 지속시간 내에 버튼을 누름해제하는 것을 포함한다. 일부 예들에서, 복수의 예시적인 자연 언어 요청은 제1 사용자 인터페이스를 통해 디스플레이 유닛 상에 표시되고, 제1 사용자 인터페이스는 표시된 콘텐츠 상에 중첩된다. 일부 예들에서, 표시된 콘텐츠는 미디어 콘텐츠를 포함하고, 미디어 콘텐츠는 복수의 예시적인 자연 언어 요청을 표시하는 동안 계속 재생한다.
일부 예들에서, 처리 유닛(1008)은, 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라, 디지털 어시스턴트가 오디오 입력을 처리하고 있지 않음을 나타내는 시각적 표시자를 디스플레이 유닛 상에 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 사용자 입력이 제1 입력 유형에 대응한다고 결정 시에, 복수의 예시적인 자연 언어 요청은 미리결정된 시간량 후에 디스플레이 유닛 상에 표시된다. 일부 예들에서, 복수의 예시적인 자연 언어 요청 각각은 미리결정된 시퀀스로 그리고 상이한 시간들에서 개별적으로 표시된다.
일부 예들에서, 처리 유닛(1008)은 예시적인 자연 언어 요청들의 복수의 목록을 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성되며, 여기서 각각의 목록은 상이한 시간에 그리고 순환 방식으로 표시된다.
일부 예들에서, 처리 유닛(1008)은, 사용자 입력이 제1 입력 유형에 대응하지 않는다는 결정에 따라, 사용자 입력이 제2 입력 유형에 대응하는지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 사용자 입력이 제2 입력 유형에 대응한다는 결정에 따라, 오디오 데이터를 샘플링하도록(예를 들어, 샘플링 유닛(1016) 및 오디오 입력 유닛(1004)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 오디오 데이터가 사용자 요청을 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 오디오 데이터가 사용자 요청을 포함한다는 결정에 따라, 사용자 요청을 적어도 부분적으로 만족시키는 태스크를 수행하도록(예를 들어, 수행 유닛(1020)을 이용하여) 추가로 구성된다.
일부 예들에서, 제2 입력 유형은 전자 디바이스의 원격 제어부의 버튼을 누르고 미리결정된 지속시간보다 길게 버튼을 누르고 있는 것을 포함한다.
일부 예들에서, 처리 유닛(1008)은, 오디오 데이터가 사용자 요청을 포함하지 않는다는 결정에 따라, 사용자 의도의 명확화를 위한 요청을 디스플레이 유닛 상에 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 표시된 콘텐츠는 미디어 콘텐츠를 포함하고, 미디어 콘텐츠는 오디오 데이터를 샘플링하는 동안 그리고 태스크를 수행하는 동안 전자 디바이스 상에서 계속 재생한다.
일부 예들에서, 처리 유닛(1008)은 미디어 콘텐츠와 연관된(예를 들어, 스피커 유닛(1006)을 사용하는) 오디오를 출력하도록(예를 들어, 출력 유닛(1018)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 사용자 입력이 제2 입력 유형에 대응한다는 결정에 따라, 오디오의 진폭을 감소시키도록(예를 들어, 출력 유닛(1018)을 이용하여) 추가로 구성된다.
일부 예들에서, 태스크는 전자 디바이스로부터 태스크와 관련된 스피치를 출력하지 않고서 수행된다. 일부 예들에서, 오디오 데이터는 사용자 입력을 검출하는 동안 샘플링된다. 일부 예들에서, 오디오 데이터는 사용자 입력을 검출한 후 미리결정된 지속시간 동안 샘플링된다.
일부 예들에서, 오디오 데이터는 전자 디바이스의 원격 제어부 상의 제1 마이크로폰(예를 들어, 오디오 입력 유닛(1004))을 통해 샘플링된다. 처리 유닛(1008)은, 오디오 데이터를 샘플링하는 동안, 원격 제어부 상의 제2 마이크로폰(예를 들어, 전자 디바이스(1000)의 제2 오디오 입력 유닛)을 통해 백그라운드 오디오 데이터를 샘플링하도록(예를 들어, 샘플링 유닛(1016) 및 오디오 입력 유닛(1004)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 백그라운드 오디오 데이터를 사용하여 오디오 데이터 내의 백그라운드 잡음을 제거하도록(예를 들어, 출력 유닛(1018)을 이용하여) 추가로 구성된다.
일부 예들에서, 표시된 콘텐츠와 연관된 오디오가 전자 디바이스로부터 오디오 신호를 통해 출력된다. 처리 유닛(1008)은 오디오 신호를 사용하여 오디오 데이터 내의 백그라운드 잡음을 제거하도록(예를 들어, 출력 유닛(1018)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1008)은 사용자 입력을 검출하는 것에 응답하여, 사용자에게 구어 요청을 제공할 것을 촉구하는 시각적 큐를 디스플레이 유닛 상에 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1008)은 사용자 요청을 적어도 부분적으로 만족시키는 결과를 획득하도록(예를 들어, 획득 유닛(1022)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 디스플레이 유닛 상에 제2 사용자 인터페이스를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 제2 사용자 인터페이스는 결과의 일부를 포함하고, 여기서 제2 사용자 인터페이스가 표시되는 동안 콘텐츠의 적어도 일부는 계속 표시되고, 디스플레이 유닛 상의 제 2 사용자 인터페이스의 표시 영역은 디스플레이 유닛 상의 콘텐츠의 적어도 일부의 표시 영역보다 작다. 일부 예들에서, 제2 사용자 인터페이스는 표시된 콘텐츠 상에 중첩된다.
일부 예들에서, 결과의 일부는 하나 이상의 미디어 항목을 포함한다. 처리 유닛(1008)은 제2 사용자 인터페이스를 통해 하나 이상의 미디어 항목 중 하나의 미디어 항목의 선택을 수신하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 디스플레이 유닛 상에 선택된 미디어 항목과 연관된 미디어 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1008)은 제2 사용자 인터페이스를 표시하는 동안 제2 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제2 사용자 입력을 검출하는 것에 응답하여, 제2 사용자 인터페이스를 표시하는 것을 중지하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 제2 사용자 입력은 전자 디바이스의 원격 제어부 상에서 검출된다. 제2 사용자 입력은 원격 제어부의 터치 감응형 표면 상의 제1 미리결정된 모션 패턴을 포함한다.
일부 예들에서, 처리 유닛(1008)은 제2 사용자 인터페이스를 표시하는 동안 제3 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제3 사용자 입력을 검출하는 것에 응답하여, 디스플레이 유닛 상에서 제2 사용자 인터페이스의 표시를 제3 사용자 인터페이스의 표시로 대체하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 제3 사용자 인터페이스는 결과의 적어도 일부를 포함하고 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지한다.
일부 예들에서, 제3 사용자 입력은 전자 디바이스의 원격 제어부 상에서 검출되고, 제3 사용자 입력은 원격 제어부의 터치 감응형 표면 상의 제2 미리결정된 모션 패턴을 포함한다.
일부 예들에서, 처리 유닛(1008)은, 제3 사용자 입력을 검출하는 것에 응답하여, 결과와 상이한 제2 결과를 획득하도록(예를 들어, 획득 유닛(1022)을 이용하여) 추가로 구성된다. 제2 결과는 사용자 요청을 적어도 부분적으로 만족시키고, 제3 사용자 인터페이스는 제2 결과의 적어도 일부를 포함한다.
일부 예들에서, 제2 결과는 사용자 입력을 검출하기 이전에 수신된 사용자 요청에 기초한다. 일부 예들에서, 제2 사용자 인터페이스의 포커스는 제3 사용자 입력이 검출되는 동안 결과의 일부의 항목 상에 있고, 제2 결과는 항목과 상황적으로 관련된다.
일부 예들에서, 표시된 콘텐츠는 미디어 콘텐츠를 포함한다. 처리 유닛(1008)은 제3 사용자 입력을 검출하는 것에 응답하여 전자 디바이스 상의 미디어 콘텐츠의 재생을 일시정지하도록(예를 들어, 수행 유닛(1020)을 이용하여) 추가로 구성된다.
일부 예들에서, 결과의 적어도 일부는 하나 이상의 미디어 항목을 포함한다. 처리 유닛(1008)은 제3 사용자 인터페이스를 통해 하나 이상의 미디어 항목 중 하나의 미디어 항목의 선택을 수신하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 디스플레이 유닛 상에 상기 하나의 미디어 항목과 연관된 미디어 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1008)은 제3 사용자 인터페이스를 표시하는 동안, 디스플레이 유닛 상의 방향과 연관된 제4 사용자 입력을 검출하도록(예컨대, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제4 사용자 입력을 검출하는 것에 응답하여, 제3 사용자 인터페이스의 포커스를 제3 사용자 인터페이스 상의 제1 항목으로부터 제2 항목으로 스위칭하도록(예를 들어, 스위칭 유닛(1024)을 이용하여) 추가로 구성된다. 제2 항목은 제1 항목에 대해 상기 방향으로 위치설정된다.
일부 예들에서, 처리 유닛(1008)은 제3 사용자 인터페이스를 표시하는 동안 제5 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제5 사용자 입력을 검출하는 것에 응답하여, 검색 필드를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 디스플레이 유닛 상에 가상 키보드 인터페이스를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성되며, 여기서 가상 키보드 인터페이스를 통해 수신된 입력은 검색 필드에서 텍스트 입력을 야기한다.
일부 예들에서, 처리 유닛(1008)은 제3 사용자 인터페이스를 표시하는 동안 제6 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제 6 사용자 입력을 검출하는 것에 응답하여, 제2 오디오 데이터를 샘플링하도록(예를 들어, 샘플링 유닛(1016) 및 오디오 입력 유닛(1004)을 이용하여) 추가로 구성된다. 제2 오디오 데이터는 제2 사용자 요청을 포함한다. 처리 유닛(1008)은 제2 사용자 요청이 사용자 요청의 결과를 정제하라는 요청인지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제2 사용자 요청이 사용자 요청의 결과를 정제하라는 요청이라는 결정에 따라, 제3 사용자 인터페이스를 통해 결과들의 서브셋을 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 결과의 서브셋은 제3 사용자 인터페이스의 상단 행에 표시된다. 처리 유닛(1008)은, 제2 사용자 요청이 사용자 요청의 결과를 정제하라는 요청이 아니라는 결정에 따라, 제2 사용자 요청을 적어도 부분적으로 만족시키는 제3 결과를 획득하도록(예를 들어, 획득 유닛(1018)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 제3 사용자 인터페이스를 통해 제3 결과의 일부를 표시하도록(예를 들어, 표시 인에이블 유닛(101)을 이용하여) 추가로 구성된다. 일부 예들에서, 제3 결과의 일부는 제3 사용자 인터페이스의 상단 행에 표시된다.
일부 예들에서, 처리 유닛(1008)은 사용자 요청 또는 제2 사용자 요청을 적어도 부분적으로 만족시키는 제4 결과를 획득하도록(예를 들어, 획득 유닛(1022)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 제3 사용자 인터페이스를 통해 제4 결과의 일부를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 제4 결과의 일부는 제3 사용자 인터페이스의 상단 행에 후속하는 행들에 표시된다.
일부 예들에서, 제3 사용자 인터페이스의 포커스는 제6 사용자 입력이 검출되는 동안 제3 사용자 인터페이스의 하나 이상의 항목 상에 있고, 제4 결과는 하나 이상의 항목과 상황적으로 관련된다.
일부 예들에서, 처리 유닛(1008)은 제3 사용자 인터페이스를 표시하는 동안 제7 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제7 사용자 입력을 검출하는 것에 응답하여, 제3 사용자 인터페이스를 표시하는 것을 중지하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 표시된 콘텐츠는 미디어 콘텐츠이고, 전자 디바이스 상에서의 미디어 콘텐츠의 재생은 제3 사용자 입력을 검출하는 것에 응답하여 일시정지된다. 처리 유닛(1008)은 제7 사용자 입력을 검출하는 것에 응답하여 전자 디바이스 상의 미디어 콘텐츠의 재생을 재개하도록(예를 들어, 수행 유닛(1020)을 이용하여) 추가로 구성된다. 일부 예들에서, 제7 사용자 입력은 전자 디바이스의 원격 제어부의 메뉴 버튼을 누르는 것을 포함한다.
일부 실시예들에 따라, 처리 유닛(1008)은 디스플레이 유닛 상에 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 콘텐츠를 표시하는 동안 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 사용자 입력을 검출하는 것에 응답하여, 디스플레이 유닛 상에 사용자 인터페이스를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 사용자 인터페이스는 표시된 콘텐츠와 상황적으로 관련되는 복수의 예시적인 자연 언어 요청을 포함하고, 여기서 복수의 예시적인 자연 언어 요청 중 하나에 대응하는 사용자 발화를 수신하는 것은 디지털 어시스턴트로 하여금 개개의 동작을 수행하게 한다.
일부 예들에서, 표시된 콘텐츠는 미디어 콘텐츠를 포함한다. 일부 예들에서, 복수의 예시적인 자연 언어 요청은 미디어 콘텐츠와 연관된 하나 이상의 설정을 수정하라는 자연 언어 요청들을 포함한다. 일부 예들에서, 미디어 콘텐츠는 사용자 인터페이스가 표시되는 동안 계속 재생한다.
일부 예들에서, 처리 유닛(1008)은 미디어 콘텐츠와 연관된 오디오를 출력하도록(예를 들어, 출력 유닛(1018)을 이용하여) 추가로 구성된다. 오디오의 진폭은 사용자 입력을 검출하는 것에 응답하여 감소되지 않는다. 일부 예들에서, 표시된 콘텐츠는 메인 메뉴 사용자 인터페이스를 포함한다.
일부 예들에서, 복수의 예시적인 자연 언어 요청은 디지털 어시스턴트의 복수의 핵심 역량 각각과 관련된 예시적인 자연 언어 요청들을 포함한다. 일부 예들에서, 표시된 콘텐츠는 이전 사용자 요청과 연관된 결과를 갖는 제2 사용자 인터페이스를 포함한다. 일부 예들에서, 복수의 예시적인 자연 언어 요청은 결과를 정제하라는 자연 언어 요청들을 포함한다. 일부 예들에서, 사용자 인터페이스는 디지털 어시스턴트를 호출하고 그와 상호작용하기 위한 텍스트 명령어들을 포함한다. 일부 예들에서, 사용자 인터페이스는 디지털 어시스턴트가 오디오 입력을 수신하고 있지 않음을 나타내는 시각적 표시자를 포함한다. 일부 예들에서, 사용자 인터페이스는 표시된 콘텐츠 상에 중첩된다.
일부 예들에서, 처리 유닛(1008)은, 사용자 입력을 검출하는 것에 응답하여, 사용자 인터페이스를 강조하기 위해 표시된 콘텐츠의 밝기를 감소시키도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 사용자 입력은 전자 디바이스의 원격 제어부 상에서 검출된다. 일부 예들에서, 사용자 입력은 원격 제어 디바이스의 버튼을 누르고 버튼을 누른 후 미리결정된 지속시간 내에 버튼을 누름해제하는 것을 포함한다. 일부 예들에서, 버튼은 디지털 어시스턴트를 호출하도록 구성된다. 일부 예들에서, 사용자 인터페이스는 가상 키보드 인터페이스를 표시하기 위한 텍스트 명령어들을 포함한다.
일부 예들에서, 처리 유닛(1008)은, 사용자 인터페이스를 표시한 후에, 제2 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제2 사용자 입력을 검출하는 것에 응답하여, 디스플레이 유닛 상에 가상 키보드 인터페이스를 표시하도록(예를 들어, 표시 유닛(1012)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1008)은 사용자 인터페이스의 포커스를 사용자 인터페이스 상의 검색 필드로 변경하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 일부 예들에서, 검색 필드는 가상 키보드 인터페이스를 통해 텍스트 검색 질의들을 수신하도록 구성된다. 일부 예들에서, 가상 키보드 인터페이스는 디지털 어시스턴트와 상호작용하는 데 사용될 수 없다. 일부 예들에서, 제2 사용자 입력은 전자 디바이스의 원격 제어 디바이스의 터치 감응형 표면 상의 미리결정된 모션 패턴을 포함한다.
일부 예들에서, 복수의 예시적인 자연 언어 요청은 사용자 입력을 검출한 후에 미리결정된 시간량에서 표시된다. 일부 예들에서, 처리 유닛(1008)은 미리결정된 시퀀스로 한번에 하나씩 복수의 예시적인 자연 언어 요청 각각을 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 일부 예들에서, 처리 유닛(1008)은 복수의 예시적인 자연 언어 요청 중 이전에 표시된 예시적인 자연 언어 요청의 표시를 복수의 예시적인 자연 언어 요청 중 후속의 예시적인 자연 언어 요청으로 대체하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 콘텐츠는 하나 이상의 항목을 갖는 제2 사용자 인터페이스를 포함한다. 제2 사용자 인터페이스의 포커스는 사용자 입력이 검출될 때 하나 이상의 항목 중 하나의 항목 상에 있다. 복수의 예시적인 자연 언어 요청은 하나 이상의 항목 중 상기 항목과 상황적으로 관련된다.
일부 실시예들에 따라, 처리 유닛(1008)은 디스플레이 유닛 상에 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 사용자 입력을 검출하는 것에 응답하여, 자연 언어 발화들의 하나 이상의 제안된 예를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 하나 이상의 제안된 예는 표시된 콘텐츠와 상황적으로 관련되고, 사용자에 의해 발화될 때 디지털 어시스턴트로 하여금 대응하는 동작을 수행하게 한다.
일부 예들에서, 처리 유닛(1008)은 제2 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제2 사용자 입력을 검출하는 것에 응답하여, 오디오 데이터를 샘플링하도록(예를 들어, 샘플링 유닛(1016)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 샘플링된 오디오 데이터가 자연 언어 발화들의 하나 이상의 제안된 예 중 하나를 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 샘플링된 오디오 데이터가 자연 언어 발화들의 하나 이상의 제안된 예 중 하나를 포함한다는 결정에 따라, 발화에 대한 상기 대응하는 동작을 수행하도록(예를 들어, 수행 유닛(1020)을 이용하여) 추가로 구성된다.
일부 실시예들에 따라, 처리 유닛(1008)은 디스플레이 유닛 상에 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 콘텐츠를 표시하는 동안 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 사용자 입력을 검출하는 것에 응답하여, 오디오 데이터를 샘플링하도록(예를 들어, 샘플링 유닛(1016)을 이용하여) 추가로 구성된다. 오디오 데이터는 미디어 검색 요청을 표현하는 사용자 발화를 포함한다. 처리 유닛(1008)은 미디어 검색 요청을 만족시키는 복수의 미디어 항목을 획득하도록(예를 들어, 획득 유닛(1022)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은 디스플레이 유닛 상에 사용자 인터페이스를 통해 복수의 미디어 항목의 적어도 일부를 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 복수의 미디어 항목의 적어도 일부가 표시되는 동안, 콘텐츠는 디스플레이 유닛 상에 계속 표시된다. 사용자 인터페이스에 의해 차지된 표시 영역은 콘텐츠에 의해 차지되는 표시 영역보다 작다.
일부 예들에서, 처리 유닛(1008)은 복수의 미디어 항목 내의 미디어 항목들의 수가 미리결정된 수 이하인지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 복수의 미디어 항목 내의 미디어 항목들의 수가 미리결정된 수 이하라는 결정에 따라, 복수의 미디어 항목의 적어도 일부는 복수의 미디어 항목을 포함한다.
일부 예들에서, 복수의 미디어 항목 내의 미디어 항목들의 수가 미리결정된 수보다 크다는 결정에 따라, 복수의 미디어 항목의 적어도 일부 내의 미디어 항목들의 수는 미리결정된 수와 같다.
일부 예들에서, 복수의 미디어 항목 각각은 미디어 검색 요청에 대한 적합성 점수와 연관되고, 복수의 미디어 항목의 적어도 일부의 적합성 점수는 복수의 미디어 항목 중에서 가장 높다.
일부 예들에서, 복수의 미디어 항목의 적어도 일부 각각은 인기도 평점과 연관되고, 복수의 미디어 항목의 적어도 일부는 인기도 평점에 기초하여 사용자 인터페이스 내에 배열된다.
일부 예들에서, 처리 유닛(1008)은 복수의 미디어 항목의 적어도 일부를 표시하는 동안 제2 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제2 사용자 입력을 검출하는 것에 응답하여, 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지하도록 사용자 인터페이스를 확장하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1008)은, 제2 사용자 입력을 검출하는 것에 응답하여, 복수의 미디어 항목 내의 미디어 항목들의 수가 미리결정된 수 이하인지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 복수의 미디어 항목 내의 미디어 항목들의 수가 미리결정된 수 이하라는 결정에 따라, 미디어 검색 요청을 적어도 부분적으로 만족시키는 제2 복수의 미디어 항목을 획득하도록 추가로 구성되며, 제2 복수의 미디어 항목은 미디어 항목들의 적어도 일부와 상이하다. 처리 유닛(1008)은 확장된 사용자 인터페이스를 통해 디스플레이 유닛 상에 제2 복수의 미디어 항목을 표시하도록(예를 들어, 표시 인에이블 유닛(101)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1008)은 미디어 검색 요청이 둘 이상의 검색 파라미터를 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 미디어 검색 요청이 둘 이상의 검색 파라미터를 포함한다는 결정에 따라, 제2 복수의 미디어 항목은 미디어 검색 요청의 둘 이상의 검색 파라미터에 따라 확장된 사용자 인터페이스 내에 정리된다.
일부 예들에서, 처리 유닛(1008)은, 복수의 미디어 항목 내의 미디어 항목들의 수가 미리결정된 수보다 더 크다는 결정에 따라, 확장된 사용자 인터페이스를 통해 복수의 미디어 항목의 적어도 제2 부분을 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 복수의 미디어 항목의 적어도 제2 부분은 복수의 미디어 항목의 적어도 일부와 상이하다.
일부 예들에서, 복수의 미디어 항목의 적어도 제2 부분은 둘 이상의 미디어 유형을 포함하고, 복수의 미디어 항목의 적어도 제2 부분은 둘 이상의 미디어 유형의 각각의 미디어 유형에 따라 확장된 사용자 인터페이스 내에 정리된다.
일부 예들에서, 처리 유닛(1008)은 제3 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1012)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 제3 사용자 입력을 검출하는 것에 응답하여, 확장된 사용자 인터페이스가 스크롤하게 하도록(예컨대, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 확장된 사용자 인터페이스가 확장된 사용자 인터페이스 상의 미리결정된 위치를 넘어서 스크롤되었는지 여부를 결정하도록(예를 들어, 결정 유닛(1014)을 이용하여) 추가로 구성된다. 처리 유닛(1008)은, 확장된 사용자 인터페이스가 확장된 사용자 인터페이스 상의 미리결정된 위치를 넘어서 스크롤한 것으로 결정하는 것에 응답하여, 확장된 사용자 인터페이스 상에 복수의 미디어 항목의 적어도 제3 부분을 표시하도록(예를 들어, 표시 인에이블 유닛(1010)을 이용하여) 추가로 구성된다. 상기 복수의 미디어 항목의 적어도 제3 부분은 제3 복수의 미디어 항목과 연관된 하나 이상의 미디어 콘텐츠 제공자들에 따라 확장된 사용자 인터페이스 상에 정리된다.
도 5a 내지 도 5i를 참조하여 전술한 동작들은, 옵션적으로 도 1 내지 도 3 및 도 4a와 도 4b에 도시된 컴포넌트들에 의해 구현된다. 예를 들어, 표시 동작들(502, 508 내지 514, 520, 524, 530, 536, 546, 556, 560, 562, 576, 582, 588, 592), 검출 동작들(504, 538, 542, 550, 558, 566, 570), 결정 동작들(506, 516, 522, 526, 528, 574, 578), 샘플링 동작들(518, 572), 수행 동작들(532, 584), 획득 동작들(534, 544, 580, 586, 590), 중지 동작들(540, 568), 수신 유닛(554), 및 스위칭 동작들(552, 564)은 운영 체제(252), GUI 모듈(256), 애플리케이션 모듈(262), 디지털 어시스턴트 모듈(426), 및 프로세서(들)(204, 404) 중 하나 이상에 의해 구현될 수 있다. 다른 프로세스들이 도 1 내지 도 3 및 도 4a와 도 4b에 도시된 컴포넌트들에 기초하여 어떻게 구현될 수 있는지는 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 자명할 것이다.
일부 예들에 따르면, 도 11은 예를 들어 미디어 재생의 음성 제어 및 가상 어시스턴트 지식의 실시간 업데이트를 제공하기 위해 다양한 기술된 예들의 원리에 따라 구성된 전자 디바이스(1100)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 11에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 11에 도시된 바와 같이, 전자 디바이스(1100)는 촉각 입력, 제스처 입력과 같은 사용자 입력을 수신하도록 구성된 입력 유닛(1103)(예를 들어, 원격 제어부(124) 등), 오디오 데이터를 수신하도록 구성된 오디오 입력 유닛(1104)(예를 들어, 마이크로폰(272) 등), 오디오를 출력하도록 구성된 스피커 유닛(116)(예를 들어, 스피커(268) 등), 및 네트워크를 통해 외부 디바이스로부터 정보를 전송하고 수신하도록 구성된 통신 유닛(1107)(예를 들어, 통신 서브시스템(224) 등)을 포함할 수 있다. 일부 예들에서, 전자 디바이스(1100)는 옵션적으로 미디어, 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(1102)(예를 들어, 디스플레이 유닛(126) 등)을 포함할 수 있다. 전자 디바이스(1100)는 입력 유닛(1103), 오디오 입력 유닛(1104), 스피커 유닛(1106), 통신 유닛(1107), 및 옵션적으로 디스플레이 유닛(1102)에 결합된 처리 유닛(1108)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(1108)은 표시 인에이블 유닛(1110), 검출 유닛(1112), 결정 유닛(1114), 샘플링 유닛(1116), 출력 유닛(1118), 수행 유닛(1120), 획득 유닛(1122), 식별 유닛(1124), 및 송신 유닛(1126)을 포함할 수 있다.
일부 실시예들에 따라, 처리 유닛(1108)은 디스플레이 유닛(예를 들어, 디스플레이 유닛(1102) 또는 별개의 디스플레이 유닛) 상에 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 구성된다. 처리 유닛(1108)은 콘텐츠를 표시하는 동안 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1112)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은, 사용자 입력을 검출하는 것에 응답하여, 오디오 데이터를 샘플링하도록(예를 들어, 샘플링 유닛(1016) 및 오디오 입력 유닛(1104)을 이용하여) 추가로 구성된다. 오디오 데이터는 사용자 발화를 포함한다. 처리 유닛(1108)은 사용자 발화에 대응하는 사용자 의도의 결정을 획득하도록(예를 들어, 획득 유닛(1122)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은 사용자 의도가 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함하는지 여부의 결정을 획득하도록(예를 들어, 획득 유닛(1122)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은 사용자 의도가 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함한다는 결정을 획득하는 것에 응답하여, 사용자 의도를 만족시키기 위해 애플리케이션의 상태 또는 설정을 조정하도록(예를 들어, 태스크 수행 유닛(1120)을 이용하여) 추가로 구성된다.
일부 예들에서, 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 특정 미디어 항목을 재생하라는 요청을 포함한다. 사용자 의도를 만족시키기 위해 애플리케이션의 상태 또는 설정을 조정하는 것은 특정 미디어 항목을 재생하는 것을 포함한다.
일부 예들에서, 표시된 콘텐츠는 미디어 항목을 갖는 사용자 인터페이스를 포함하고, 사용자 발화는 재생될 특정 미디어 항목을 명시적으로 정의하지 않는다. 처리 유닛(1108)은 사용자 인터페이스의 포커스가 미디어 항목 상에 있는지 여부를 결정하도록(예를 들어, 결정 유닛(1114)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은, 사용자 인터페이스의 포커스가 미디어 항목 상에 있다는 결정에 따라, 미디어 항목을 재생될 특정 미디어 항목으로 식별하도록(예를 들어, 식별 유닛(1124)을 이용하여) 추가로 구성된다.
일부 예들에서, 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 전자 디바이스 상에서 애플리케이션을 개시하라는 요청을 포함한다. 일부 예들에서, 표시된 콘텐츠는 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함하고, 상태 또는 설정은 전자 디바이스 상에서 재생되고 있는 미디어 콘텐츠와 관련된다. 일부 예들에서, 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 빨리 감기 또는 되감기하라는 요청을 포함한다. 일부 예들에서, 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 미디어 콘텐츠의 특정 부분을 재생하기 위해 미디어 콘텐츠에서 순방향 또는 역방향으로 점프하라는 요청을 포함한다. 일부 예들에서, 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 전자 디바이스 상의 미디어 콘텐츠의 재생을 일시정지하라는 요청을 포함한다. 일부 예들에서, 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 미디어 콘텐츠의 자막을 켜거나 끄라는 요청을 포함한다.
일부 예들에서, 표시된 콘텐츠는 제1 미디어 항목 및 제2 미디어 항목을 갖는 사용자 인터페이스를 포함한다.
일부 예들에서, 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 사용자 인터페이스의 포커스를 제1 미디어 항목으로부터 제2 미디어 항목으로 스위칭하라는 요청을 포함한다. 사용자 의도를 만족시키기 위해 애플리케이션의 상태 또는 설정을 조정하는 것은 사용자 인터페이스의 포커스를 제1 미디어 항목으로부터 제2 미디어 항목으로 스위칭하는 것을 포함한다.
일부 예들에서, 표시된 콘텐츠는 미디어 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함한다. 사용자 발화는 사용자가 미디어 콘텐츠와 연관된 오디오의 일부를 듣지 못했음을 나타내는 자연 언어 표현이다. 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 사용자가 듣지 못한 오디오의 일부에 대응하는 미디어 콘텐츠의 일부를 다시 재생하라는 요청을 포함한다. 처리 유닛(1108)은 미디어 콘텐츠를 미리결정된 양만큼 미디어 콘텐츠의 이전 부분까지 되감고(예를 들어, 태스크 수행 유닛(1120)을 이용하여), 이전 부분으로부터 미디어 콘텐츠의 재생을 재시작하도록(예를 들어, 태스크 수행 유닛(1120)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1108)은 이전 부분으로부터 미디어 콘텐츠의 재생을 재시작하기 이전에 폐쇄 자막을 켜도록(예를 들어, 태스크 수행 유닛(1120)을 이용하여) 추가로 구성된다.
일부 예들에서, 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청은 미디어 콘텐츠와 연관된 오디오의 볼륨을 증가시키라는 요청을 추가로 포함한다. 애플리케이션의 상태 또는 설정을 조정하는 것은 이전 부분으로부터 미디어 콘텐츠의 재생을 재시작하기 이전에 미디어 콘텐츠와 연관된 오디오의 볼륨을 증가시키는 것을 추가로 포함한다.
일부 예들에서, 미디어 콘텐츠와 연관된 오디오의 스피치는 텍스트로 변환된다. 애플리케이션의 상태 또는 설정을 조정하는 것은 이전 부분으로부터 미디어 콘텐츠의 재생을 재시작하는 동안 텍스트의 부분을 표시하는 것을 추가로 포함한다.
일부 예들에서, 처리 유닛(1108)은 사용자 발화들과 연관된 사용자 감정의 결정을 획득하도록(예를 들어, 획득 유닛(1122)을 이용하여) 추가로 구성된다. 사용자 의도는 결정된 사용자 감정에 기초하여 결정된다.
일부 예들에서, 처리 유닛(1108)은, 사용자 의도가 전자 디바이스 상의 애플리케이션의 상태 또는 설정을 조정하라는 요청을 포함하지 않는다는 결정을 획득하는 것에 응답하여, 사용자 의도가 복수의 미리결정된 요청 유형 중 하나인지 여부의 결정을 획득하도록(예를 들어, 획득 유닛(1122)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은, 사용자 의도가 복수의 미리결정된 요청 유형 중 하나라는 결정을 획득하는 것에 응답하여, 사용자 의도를 적어도 부분적으로 만족시키는 결과를 획득하고(예를 들어, 획득 유닛(1122)을 이용하여), 디스플레이 유닛 상에 결과를 텍스트 형태로 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 추가로 구성된다.
일부 예들에서, 복수의 미리결정된 요청 유형은 특정 위치에서 현재 시간에 대한 요청들을 포함한다. 일부 예들에서, 복수의 미리결정된 요청 유형은 농담을 제시하라는 요청을 포함한다. 일부 예들에서, 복수의 미리결정된 요청 유형은 전자 디바이스 상에서 재생되고 있는 미디어 콘텐츠에 관한 정보에 대한 요청을 포함한다. 일부 예들에서, 텍스트 형태의 결과는 표시된 콘텐츠 상에 중첩된다. 일부 예들에서, 표시된 콘텐츠는 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함하고, 미디어 콘텐츠는 텍스트 형태의 결과가 표시되는 동안계속 재생된다.
일부 예들에서, 처리 유닛(1108)은, 사용자 의도가 복수의 미리결정된 요청 유형 중 하나가 아니라는 결정을 획득하는 것에 응답하여, 사용자 의도를 적어도 부분적으로 만족시키는 제2 결과를 획득하고(예를 들어, 획득 유닛(1122)을 이용하여), 표시된 콘텐츠가 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(1114)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은, 표시된 콘텐츠가 미디어 콘텐츠를 포함한다는 결정에 따라, 미디어 콘텐츠가 일시정지될 수 있는지 여부를 결정하도록(예를 들어, 결정 유닛(1114)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은, 미디어 콘텐츠가 일시정지될 수 없다는 결정에 따라, 디스플레이 유닛 상에 제2 사용자 인터페이스를 제2 결과의 일부와 함께 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 추가로 구성된다. 디스플레이 유닛 상의 제2 사용자 인터페이스에 의해 차지된 표시 영역은 디스플레이 유닛 상의 미디어 콘텐츠에 의해 차지된 표시 영역보다 작다.
일부 예들에서, 사용자 의도는 특정 위치의 일기 예보에 대한 요청을 포함한다. 사용자 의도는 스포츠 팀 또는 운동 선수와 연관된 정보에 대한 요청을 포함한다. 일부 예들에서, 사용자 의도는 미디어 검색 질의가 아니며, 제2 결과는 사용자 의도를 적어도 부분적으로 만족시키는 미디어 콘텐츠를 갖는 하나 이상의 미디어 항목을 포함한다. 일부 예들에서, 제2 결과는 사용자 의도를 적어도 부분적으로 만족시키는 비-미디어 데이터를 추가로 포함한다. 일부 예들에서, 사용자 의도는 미디어 검색 질의이고, 제2 결과는 미디어 검색 질의에 대응하는 복수의 미디어 항목을 포함한다.
일부 예들에서, 처리 유닛(1108)은, 표시된 콘텐츠가 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함하지 않는다는 결정에 따라, 디스플레이 유닛 상에 제2 결과의 일부를 갖는 제3 사용자 인터페이스를 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 추가로 구성되며, 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 대부분을 차지한다.
일부 예들에서, 표시 콘텐츠는 메인 메뉴 사용자 인터페이스를 포함한다.
일부 예들에서, 표시된 콘텐츠는 사용자 입력을 검출하기 이전에 수신된 이전 사용자 요청과 관련된 이전 결과를 갖는 제3 사용자 인터페이스를 포함한다. 표시된 콘텐츠가 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함하지 않는다는 결정에 따라, 제3 사용자 인터페이스 내의 이전 결과의 표시는 제2 결과의 표시로 대체된다.
일부 예들에서, 처리 유닛(1108)은, 표시된 콘텐츠가 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함한다는 결정에 따라, 표시된 콘텐츠가 이전 사용자 요청으로부터의 이전 결과를 갖는 제2 사용자 인터페이스를 포함하는지 여부를 결정하도록(예를 들어, 결정 유닛(1114)을 이용하여) 추가로 구성된다. 표시된 콘텐츠가 이전 사용자 요청으로부터의 이전 결과를 갖는 제2 사용자 인터페이스를 포함한다는 결정에 따라, 이전 결과는 제2 결과로 대체된다.
일부 예들에서, 처리 유닛(1108)은 미디어 콘텐츠가 일시정지될 수 있다는 결정에 따라, 전자 디바이스 상의 미디어 콘텐츠의 재생을 일시정지하고(예를 들어, 태스크 수행 유닛(1120)을 이용하여), 디스플레이 유닛 상에 제2 결과의 일부와 함께 제3 사용자 인터페이스를 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 추가로 구성되며, 여기서 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 대부분을 차지한다.
일부 예들에서, 처리 유닛(1108)은 자연 언어 처리를 수행하기 위해 오디오 데이터를 서버에 송신하고(예를 들어, 송신 유닛(1126)을 이용하고 통신 유닛(1107)을 사용하여), 오디오 데이터가 미디어 애플리케이션과 연관되어 있음을 서버에 나타내도록(예를 들어, 송신 유닛(1126)을 이용하여) 추가로 구성된다. 상기 나타내는 것은 자연 언어 처리를 미디어 관련 사용자 의도를 향하여 바이어스한다.
일부 예들에서, 처리 유닛(1108)은 스피치-텍스트 처리를 수행하기 위해 오디오 데이터를 서버에 송신하도록(예를 들어, 송신 유닛(1126)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1108)은 오디오 데이터가 미디어 애플리케이션과 연관되어 있음을 서버에 나타내도록(예를 들어, 송신 유닛(1126)을 이용하여) 추가로 구성된다. 상기 나타내는 것은 스피치-텍스트 처리를 미디어 관련 텍스트 결과를 향하여 바이어스한다.
일부 예들에서, 처리 유닛(1108)은, 사용자 발화의 텍스트 표현을 획득하도록(예를 들어, 획득 유닛(1122)을 이용하여) 추가로 구성되며, 텍스트 표현은 오디오 데이터를 샘플링하기 이전에 수신된 이전 사용자 발화들에 기초한다.
일부 예들에서, 텍스트 표현은 오디오 데이터를 샘플링하기 이전에 이전 사용자 발화들이 수신된 시간에 기초한다.
일부 예들에서, 처리 유닛(1108)은 사용자 의도가 전자 디바이스와 연관된 복수의 핵심 역량 중 하나에 대응하지 않는다는 결정을 획득하도록(예를 들어, 획득 유닛(1122)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은 제2 전자 디바이스가 사용자 의도를 만족시키는 것을 촉진하기 위해 태스크를 수행하게 하도록(예를 들어, 태스크 수행 유닛(1120)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1108)은 사용자 발화가 모호한 용어를 포함하는지 여부의 결정을 획득하도록(예를 들어, 획득 유닛(1122)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은, 사용자 발화가 모호한 용어를 포함한다는 결정을 획득하는 것에 응답하여, 모호한 용어에 기초하여 둘 이상의 후보 사용자 의도를 획득하고(예를 들어, 획득 유닛(1122)을 이용하여); 디스플레이 유닛 상에 둘 이상의 후보 사용자 의도를 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 추가로 구성된다.
일부 예들에서, 처리 유닛(1108)은, 둘 이상의 후보 사용자 의도를 표시하는 동안, 둘 이상의 후보 사용자 의도 중 하나의 사용자 선택을 수신하도록(예를 들어, 검출 유닛(1112)을 이용하여) 추가로 구성된다. 사용자 의도는 사용자 선택에 기초하여 결정된다.
일부 예들에서, 처리 유닛(1108)은 제2 사용자 입력을 검출하도록(예를 들어, 검출 유닛을 이용하여) 추가로 구성된다. 처리 유닛(1108)은, 제2 사용자 입력을 검출하는 것에 응답하여, 제2 오디오 데이터를 샘플링하도록(예를 들어, 샘플링 유닛(1116)을 이용하여) 추가로 구성된다. 제2 오디오 데이터는 사용자 선택을 표현하는 제2 사용자 발화를 포함한다.
일부 예들에서, 둘 이상의 해석은 둘 이상의 후보 사용자 의도와 연관된 스피치를 출력하지 않고서 표시된다.
일부 실시예들에 따라, 처리 유닛(1108)은 디스플레이 유닛(예를 들어, 디스플레이 유닛(1102) 또는 별개의 디스플레이 유닛) 상에 콘텐츠를 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은 콘텐츠를 표시하는 동안 사용자 입력을 검출하도록(예를 들어, 검출 유닛(1112)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은 사용자 입력을 검출하는 것에 응답하여, 디스플레이 유닛 상에 가상 키보드 인터페이스를 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 추가로 구성된다. 처리 유닛(1108)은 선택가능한 어포던스가 제2 전자 디바이스의 디스플레이 상에 출현하게 하도록(예컨대, 태스크 수행 유닛(1120)을 이용하여) 추가로 구성된다. 어포던스의 선택은 텍스트 입력이 제2 전자 디바이스의 키보드를 통해 (예를 들어, 통신 유닛(1107)을 사용하여) 전자 디바이스에 의해 수신되게 할 수 있다.
일부 예들에서, 처리 유닛(1108)은 제2 전자 디바이스의 키보드를 통해 텍스트 입력을 수신하도록(예를 들어, 검출 유닛(1112)을 이용하여) 추가로 구성되며, 여기서 텍스트 입력은 사용자 요청을 표현한다. 처리 유닛(1108)은 사용자 요청을 적어도 부분적으로 만족시키는 결과를 획득하고(예를 들어, 획득 유닛(1122)을 이용하여) 디스플레이 유닛 상에 사용자 인터페이스를 표시하도록(예를 들어, 표시 인에이블 유닛(1110)을 이용하여) 추가로 구성되며, 여기서 사용자 인터페이스는 결과의 적어도 일부를 포함한다.
일부 예들에서, 표시된 콘텐츠는 복수의 예시적인 자연 언어 요청을 갖는 제2 사용자 인터페이스를 포함한다. 일부 예들에서, 표시된 콘텐츠는 미디어 콘텐츠를 포함한다. 일부 예들에서, 표시된 콘텐츠는 이전 사용자 요청으로부터의 결과를 갖는 제3 사용자 인터페이스를 포함하고, 여기서 제3 사용자 인터페이스는 디스플레이 유닛의 표시 영역의 적어도 대부분을 차지한다. 일부 예들에서, 가상 키보드 인터페이스는 제3 사용자 인터페이스의 적어도 일부 상에 중첩된다. 일부 예들에서, 사용자 입력은 전자 디바이스의 원격 제어부를 통해 검출되고, 원격 제어부 및 제2 전자 디바이스는 상이한 디바이스이다. 일부 예들에서, 사용자 입력은 원격 제어 디바이스의 터치 감응형 표면 상의 미리결정된 모션 패턴을 포함한다. 일부 예들에서, 사용자 입력은 제2 전자 디바이스를 통해 검출된다.
도 7a 내지 도 7c 및 도 9를 참조하여 전술된 동작들은, 옵션적으로, 도 1 내지 도 3 및 도 4a에 도시된 컴포넌트들에 의해 구현된다. 도 7a 내지 도 7c 및 도 9를 참조하여 전술된 동작들은, 옵션적으로, 도 1 내지 도 3 및 도 4a와 도 4b에 도시된 컴포넌트들에 의해 구현된다. 예를 들어, 표시 동작들(702, 716, 732, 736, 738, 742, 746, 902, 906, 914), 검출 동작들(704, 718, 904, 910), 결정 동작들(708, 710, 712, 714, 720, 724, 728, 736, 740), 샘플링 동작들(706), 수행 동작들(722, 726, 744, 908), 획득 동작들(730, 734, 912), 및 스위칭 동작들(552, 564)은 운영 체제(252, 352), GUI 모듈(256, 356), 애플리케이션 모듈(262, 362), 디지털 어시스턴트 모듈(426), 및 프로세서(들)(204, 304, 404) 중 하나 이상에 의해 구현될 수 있다. 다른 프로세스들이 도 1 내지 도 3 및 도 4a와 도 4b에 도시된 컴포넌트들에 기초하여 어떻게 구현될 수 있는지는 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 자명할 것이다.
일부 구현예들에 따르면, 전자 디바이스의 하나 이상의 프로세서에 의한 실행을 위한 하나 이상의 프로그램을 저장하는 컴퓨터 판독가능 저장 매체(예를 들어, 비일시적 컴퓨터 판독가능 저장 매체)가 제공되며, 여기서 하나 이상의 프로그램은 본 명세서에 설명된 방법 중 임의의 방법을 수행하기 위한 명령어들을 포함한다.
일부 구현예들에 따르면, 본 명세서에 설명된 방법 중 임의의 방법을 수행하기 위한 수단을 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공된다.
일부 구현예들에 따르면, 본 명세서에 설명된 방법 중 임의의 방법을 수행하도록 구성된 처리 유닛을 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공된다.
일부 구현예들에 따르면, 하나 이상의 프로세서 및 하나 이상의 프로세서에 의한 실행을 위한 하나 이상의 프로그램을 저장하는 메모리를 포함하는 전자 디바이스(예를 들어, 휴대용 전자 디바이스)가 제공되며, 여기서 하나 이상의 프로그램은 본 명세서에 기재된 방법 중 임의의 방법을 실행하기 위한 명령어들을 포함한다.
전술한 설명이 다양한 요소들을 기술하기 위해 "제1", "제2" 등과 같은 용어들을 사용하지만, 이 요소들이 그 용어들에 의해 제한되어서는 안된다. 이들 용어들은 하나의 요소를 다른 요소와 구별하는 데에만 사용된다. 예를 들어, 다양한 기술된 실시예들의 범주로부터 벗어남이 없이, 제1 사용자 입력이 제2 사용자 입력으로 지칭될 수 있을 것이고, 이와 유사하게, 제2 사용자 입력이 제1 사용자 입력으로 지칭될 수 있을 것이다. 제1 사용자 입력 및 제2 사용자 입력은 둘 모두 사용자 입력들이지만, 이들은 동일한 터치가 아니다.
본 명세서에서 다양한 기술된 실시예들의 설명에 사용되는 용어는 특정의 실시예들을 기술하는 목적만을 위한 것이고, 제한하는 것으로 의도되어 있지 않다. 기술된 다양한 실시예들의 설명 및 첨부된 청구범위에 사용되는 바와 같이, 단수의 형태는 문맥상 명백히 달리 나타내지 않는다면 복수의 형태도 마찬가지로 포함하려는 것으로 의도된다. 또한, 본 명세서에서 사용되는 바와 같은 "및/또는"이라는 용어는 열거된 관련 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합들을 나타내고 그들을 포괄하는 것임이 이해될 것이다. 본 명세서에서 사용될 때 용어들 "포함한다(include)", "포함하는(including)", "포함한다(comprise)", 및/또는 "포함하는(comprising)"은 진술되는 특징들, 정수들, 단계들, 동작들, 요소들, 및/또는 컴포넌트들의 존재를 특정하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 이들의 그룹들의 존재 또는 추가를 배제하지 않음이 추가로 이해될 것이다.
용어 "~할 경우(if)"는 문맥에 따라 "~할 때(when)" 또는 "~ 할 시(upon)" 또는 "~라고 결정한 것에 응답하여(in response to determining)" 또는 "~을 검출한 것에 응답하여(in response to detecting)"를 의미하는 것으로 해석될 수 있다. 이와 유사하게, 구절 "~라고 결정된 경우" 또는 "[언급된 조건 또는 이벤트가] 검출된 경우"는 문맥에 따라 "~라고 결정할 시" 또는 "~라고 결정한 것에 응답하여" 또는 "[언급된 조건 또는 이벤트]를 검출할 시" 또는 "[언급된 조건 또는 이벤트]를 검출한 것에 응답하여"를 의미하는 것으로 해석될 수 있다.
또한 전술한 설명은, 설명의 목적을 위해, 특정 실시예들을 참조하여 기술되었다. 그러나, 상기의 예시적인 논의들은 본 발명을 개시된 정확한 형태들로 규명하거나 제한하려는 의도는 아니다. 많은 수정들 및 변형들이 상기 교시 내용들의 관점에서 가능하다. 실시예들은 기법들의 개념 및 그것들의 실제 적용을 최상으로 설명하기 위하여 선택되고 기술된다. 따라서, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들은 고려된 특정 사용에 적합한 바와 같이 다양한 수정을 이용하여 기법들 및 다양한 실시예들을 최상으로 활용하는 것이 가능하게 된다.
본 개시내용 및 예들이 첨부의 도면들을 참조하여 충분히 설명되었지만, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게 다양한 변경들 및 수정들이 명백할 것이라는 것에 주목하여야 한다. 그러한 변경들 및 수정들은 청구항들에 의해 정의되는 바와 같은 개시내용 및 예들의 범주 내에 포함되는 것으로 이해되어야 한다.
또한, 본 명세서에서 논의된 다양한 예 중 임의의 예에서, 다양한 양태가 특정 사용자에 대해 개인화될 수 있다. 연락처, 선호도, 위치, 선호하는 미디어 등을 포함하는 사용자 데이터는 음성 커맨드를 해석하고 본 명세서에서 논의된 다양한 디바이스와의 사용자 상호작용을 용이하게 하는 데 사용될 수 있다. 본 명세서에서 논의된 다양한 프로세스는 또한 사용자 선호도, 연락처, 텍스트, 사용 이력, 프로필 데이터, 인구통계 등에 따라 다양한 다른 방식으로 수정될 수 있다. 또한, 이러한 선호도 및 설정은 사용자 상호작용(예를 들어, 자주 발화된 커맨드, 자주 선택된 애플리케이션 등)에 기초하여 시간이 지남에 따라 업데이트될 수 있다. 다양한 소스에서 이용가능한 사용자 데이터를 수집하고 사용하는 것은 초청 콘텐츠 또는 사용자가 관심을 가질만한 임의의 다른 콘텐츠의 사용자에게의 전달을 향상시키는 데 사용될 수 있다. 본 개시내용은, 일부 경우들에 있어서, 이러한 수집된 데이터가 특정 개인을 고유하게 식별하거나 또는 그와 연락하거나 그의 위치를 확인하는 데 이용될 수 있는 개인 정보 데이터를 포함할 수 있음을 고려한다. 그러한 개인 정보 데이터는 인구통계 데이터, 위치 기반 데이터, 전화 번호들, 이메일 주소들, 홈 주소들, 또는 임의의 다른 식별 정보를 포함할 수 있다.
본 개시내용은 본 기술에서의 그러한 개인 정보 데이터의 이용이 사용자들에게 이득을 주기 위해 사용될 수 있음을 인식한다. 예를 들어, 개인 정보 데이터는 더 큰 관심이 있는 타깃 콘텐츠를 사용자에게 전달하는 데 이용될 수 있다. 따라서, 그러한 개인 정보 데이터의 이용은 전달된 콘텐츠의 계산된 제어를 가능하게 한다. 게다가, 사용자에 이득을 주는 개인 정보 데이터에 대한 다른 이용들이 또한 본 개시내용에 의해 고려된다.
본 개시내용은 그러한 개인 정보 데이터의 수집, 분석, 공개, 전달, 저장, 또는 다른 이용을 책임지고 있는 엔티티들이 잘 확립된 프라이버시 정책들 및/또는 프라이버시 관례들을 준수할 것이라는 것을 추가로 고려한다. 특히, 그러한 엔티티들은, 대체로 개인 정보 데이터를 사적이고 안전하게 유지시키기 위한 산업적 또는 행정적 요건들을 만족시키거나 넘어서는 것으로 인식되는 프라이버시 정책들 및 관례들을 구현하고 지속적으로 이용해야 한다. 예를 들어, 사용자들로부터의 개인 정보는 엔티티의 적법하며 적정한 사용들을 위해 수집되어야 하고, 이들 적법한 사용들을 벗어나서 공유되거나 판매되지 않아야 한다. 또한, 그러한 수집은 단지 사용자들의 고지에 입각한 동의를 수신한 후에만 발생해야 한다. 부가적으로, 그러한 엔티티들은 그러한 개인 정보 데이터에 대한 액세스를 보호하고 안전하게 하며 개인 정보 데이터에 대한 액세스를 갖는 다른 사람들이 그들의 프라이버시 정책들 및 절차들을 고수한다는 것을 보장하기 위한 임의의 필요한 단계들을 취할 것이다. 게다가, 그러한 엔티티들은 널리 인정된 프라이버시 정책들 및 관례들에 대한 그들의 고수를 증명하기 위해 제3자들에 의해 그들 자신들이 평가를 받을 수 있다.
전술한 것에도 불구하고, 본 개시내용은 또한 사용자가 개인 정보 데이터의 이용, 또는 그에 대한 액세스를 선택적으로 차단하는 예들을 고려한다. 즉, 본 개시내용은 그러한 개인 정보 데이터에 대한 액세스를 방지하거나 차단하기 위해 하드웨어 및/또는 소프트웨어 요소들이 제공될 수 있다는 것을 고려한다. 예를 들어, 광고 전달 서비스들의 경우에, 본 기술은 사용자들이 서비스를 위한 등록 중에 개인 정보 데이터의 수집 시의 참여의 "동의함" 또는 "동의하지 않음"을 선택하는 것을 허용하도록 구성될 수 있다. 다른 예에서, 사용자들은 타깃 콘텐츠 전달 서비스들을 위한 위치 정보를 제공하지 않도록 선택할 수 있다. 또 다른 예에서, 사용자들은 정확한 위치 정보를 제공하지 않지만 위치 구역 정보의 전달을 허용하도록 선택할 수 있다.
따라서, 본 개시내용이 하나 이상의 다양한 개시된 예를 구현하기 위해 개인 정보 데이터의 사용을 광범위하게 커버하지만, 본 개시내용은 다양한 예가 또한 그러한 개인 정보 데이터에 액세스할 필요 없이 구현될 수 있다는 것을 또한 고려한다. 즉, 본 기술의 다양한 예는 그러한 개인 정보 데이터의 모두 또는 일부의 결여로 인해 동작 불가능하게 되지는 않는다. 예를 들어, 콘텐츠는, 사용자와 연관된 디바이스에 의해 요청되는 콘텐츠, 콘텐츠 전달 서비스들에 대해 이용가능한 다른 비-개인 정보, 또는 공개적으로 입수가능한 정보와 같은 비-개인 정보 데이터 또는 드러난 최소량의 개인 정보에 기초하여 선호도를 추론함으로써 선택되고 사용자들에게 전달될 수 있다.
[청구범위]
[청구항 1]
미디어 시스템의 디지털 어시스턴트(digital assistant)를 동작시키기 위한 명령어들을 저장하는 비일시적 컴퓨터 판독가능 매체로서, 상기 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 상기 하나 이상의 프로세서로 하여금,
디스플레이 상에 콘텐츠를 표시하고;
사용자 입력을 검출하고;
상기 사용자 입력이 제1 입력 유형에 대응하는지 여부를 결정하고;
상기 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라:
상기 디스플레이 상에 복수의 예시적인 자연 언어 요청을 표시하게 하며, 상기 복수의 예시적인 자연 언어 요청은 상기 표시된 콘텐츠와 상황적으로 관련되고, 상기 복수의 예시적인 자연 언어 요청 중 하나에 대응하는 사용자 발화를 수신하는 것은 상기 디지털 어시스턴트로 하여금 개개의 동작을 수행하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 2]
제1항에 있어서, 상기 복수의 예시적인 자연 언어 요청은 제1 사용자 인터페이스를 통해 상기 디스플레이 상에 표시되고, 상기 제1 사용자 인터페이스는 상기 표시된 콘텐츠 상에 중첩되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 3]
제1항에 있어서, 상기 표시된 콘텐츠는 미디어 콘텐츠를 포함하고, 상기 미디어 콘텐츠는 상기 복수의 예시적인 자연 언어 요청을 표시하는 동안 계속 재생되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 4]
제1항에 있어서, 상기 복수의 예시적인 자연 언어 요청 각각은 미리결정된 시퀀스로 그리고 상이한 시간들에서 개별적으로 표시되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 5]
제1항에 있어서, 상기 복수의 예시적인 자연 언어 요청을 표시하는 것은,
예시적인 자연 언어 요청들의 복수의 목록을 표시하는 것을 포함하며, 각각의 목록은 상이한 시간에 그리고 순환 방식으로 표시되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 6]
제1항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 사용자 입력이 제1 입력 유형에 대응하지 않는다는 결정에 따라:
상기 사용자 입력이 제2 입력 유형에 대응하는지 여부를 결정하고;
상기 사용자 입력이 제2 입력 유형에 대응한다는 결정에 따라:
오디오 데이터를 샘플링하고;
상기 오디오 데이터가 사용자 요청을 포함하는지 여부를 결정하고;
상기 오디오 데이터가 사용자 요청을 포함한다는 결정에 따라, 상기 사용자 요청을 적어도 부분적으로 만족시키는 태스크를 수행하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 7]
제6항에 있어서, 상기 표시된 콘텐츠는 미디어 콘텐츠를 포함하고, 상기 미디어 콘텐츠는 상기 오디오 데이터를 샘플링하는 동안 그리고 상기 태스크를 수행하는 동안 전자 디바이스 상에서 계속 재생되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 8]
제7항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 미디어 콘텐츠와 연관된 오디오를 출력하고;
상기 사용자 입력이 제2 입력 유형에 대응한다는 결정에 따라, 상기 오디오의 진폭을 감소시키게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 9]
제6항에 있어서, 상기 오디오 데이터는 상기 사용자 입력을 검출하는 동안 샘플링되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 10]
제6항에 있어서, 상기 표시된 콘텐츠와 연관된 오디오가 전자 디바이스로부터 오디오 신호에 기초하여 출력되고, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 오디오 신호를 사용하여 상기 오디오 데이터 내의 백그라운드 잡음을 제거하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 11]
제6항에 있어서,
상기 표시된 콘텐츠는 전자 디바이스 상에서 재생 중인 미디어 콘텐츠를 포함하고;
상기 사용자 요청은 사용자가 상기 미디어 콘텐츠와 연관된 오디오의 일부를 듣지 못했음을 나타내는 자연 언어 표현을 포함하고;
상기 태스크를 수행하는 것은,
상기 미디어 콘텐츠를 미리결정된 양만큼 상기 미디어 콘텐츠의 이전 부분까지 되감고;
상기 미디어 콘텐츠의 상기 이전 부분으로부터 상기 미디어 콘텐츠의 재생을 재시작하는 것을 포함하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 12]
제11항에 있어서, 상기 태스크를 수행하는 것은,
상기 이전 부분으로부터 상기 미디어 콘텐츠의 재생을 재시작하기 이전에 폐쇄 자막(closed captioning)을 켜는 것을 추가로 포함하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 13]
제11항에 있어서, 상기 태스크를 수행하는 것은 상기 이전 부분으로부터 상기 미디어 콘텐츠의 재생을 재시작하기 이전에 상기 미디어 콘텐츠와 연관된 상기 오디오의 볼륨을 증가시키는 것을 추가로 포함하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 14]
제6항에 있어서, 상기 수행된 태스크는,
상기 사용자 요청을 적어도 부분적으로 만족시키는 결과를 획득하는 것; 및
제2 사용자 인터페이스를 상기 디스플레이 상에 표시하는 것을 포함하며, 상기 제2 사용자 인터페이스는 상기 결과의 일부를 포함하고, 상기 제2 사용자 인터페이스가 표시되는 동안 상기 콘텐츠의 적어도 일부는 계속 표시되고, 상기 디스플레이 상의 상기 제2 사용자 인터페이스의 표시 영역은 상기 디스플레이 상의 상기 콘텐츠의 적어도 일부의 표시 영역보다 작은, 비일시적 컴퓨터 판독가능 매체.
[청구항 15]
제14항에 있어서, 상기 결과의 일부는 하나 이상의 미디어 항목을 포함하고, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제2 사용자 인터페이스를 통해 상기 하나 이상의 미디어 항목 중 하나의 미디어 항목의 선택을 수신하고;
상기 선택된 미디어 항목과 연관된 미디어 콘텐츠를 상기 디스플레이 상에 표시하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 16]
제14항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제2 사용자 인터페이스를 표시하는 동안, 제2 사용자 입력을 검출하고;
상기 제2 사용자 입력을 검출하는 것에 응답하여, 상기 제2 사용자 인터페이스를 표시하는 것을 중지하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 17]
제14항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제2 사용자 인터페이스를 표시하는 동안, 제3 사용자 입력을 검출하고;
상기 제3 사용자 입력을 검출하는 것에 응답하여, 상기 디스플레이 상에서 상기 제2 사용자 인터페이스의 표시를 제3 사용자 인터페이스의 표시로 대체하게 하고, 상기 제3 사용자 인터페이스는 상기 결과의 적어도 일부를 포함하고, 상기 제3 사용자 인터페이스는 상기 디스플레이의 표시 영역의 적어도 대부분을 차지하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 18]
제17항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제3 사용자 입력을 검출하는 것에 응답하여:
상기 결과와 상이한 제2 결과를 획득하게 하고, 상기 제2 결과는 상기 사용자 요청을 적어도 부분적으로 만족시키고, 상기 제3 사용자 인터페이스는 상기 제2 결과의 적어도 일부를 포함하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 19]
제18항에 있어서, 상기 제2 사용자 인터페이스의 포커스는 상기 제3 사용자 입력이 검출되는 동안 상기 결과의 일부의 항목 상에 있고, 상기 제2 결과는 상기 항목과 상황적으로 관련되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 20]
제17항에 있어서, 상기 표시된 콘텐츠는 미디어 콘텐츠를 포함하고, 전자 디바이스 상에서의 상기 미디어 콘텐츠의 재생은 상기 제3 사용자 입력을 검출하는 것에 응답하여 일시정지되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 21]
제17항에 있어서, 상기 결과의 적어도 일부는 하나 이상의 미디어 항목을 포함하고, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제3 사용자 인터페이스를 통해 상기 하나 이상의 미디어 항목 중 미디어 항목의 선택을 수신하고;
상기 미디어 항목과 연관된 미디어 콘텐츠를 상기 디스플레이 상에 표시하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 22]
제17항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제3 사용자 인터페이스를 표시하는 동안, 상기 디스플레이 상의 방향과 연관된 제4 사용자 입력을 검출하고;
상기 제4 사용자 입력을 검출하는 것에 응답하여:
상기 제3 사용자 인터페이스의 포커스를 상기 제3 사용자 인터페이스 상의 제1 항목으로부터 제2 항목으로 스위칭하게 하며, 상기 제2 항목은 상기 제1 항목에 대해 상기 방향으로 위치설정되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 23]
제17항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제3 사용자 인터페이스를 표시하는 동안, 제5 사용자 입력을 검출하고;
상기 제5 사용자 입력을 검출하는 것에 응답하여:
검색 필드를 표시하고;
상기 디스플레이 상에 가상 키보드 인터페이스를 표시하게 하며, 상기 가상 키보드 인터페이스를 통해 수신된 입력은 상기 검색 필드에 텍스트 입력을 야기하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 24]
제17항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제3 사용자 인터페이스를 표시하는 동안, 제6 사용자 입력을 검출하고;
상기 제6 사용자 입력을 검출하는 것에 응답하여:
제2 오디오 데이터를 샘플링하고 - 상기 제2 오디오 데이터는 제2 사용자 요청을 포함함 -;
상기 제2 사용자 요청이 상기 사용자 요청의 상기 결과를 정제하라는 요청인지 여부를 결정하고;
상기 제2 사용자 요청이 상기 사용자 요청의 결과를 정제하라는 요청이라는 결정에 따라, 상기 결과의 서브셋을 상기 제3 사용자 인터페이스를 통해 표시하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 25]
제24항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제2 사용자 요청이 상기 사용자 요청의 상기 결과를 정제하라는 요청이 아니라는 결정에 따라:
상기 제2 사용자 요청을 적어도 부분적으로 만족시키는 제3 결과를 획득하고;
상기 제3 사용자 인터페이스를 통해 상기 제3 결과의 일부를 표시하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 26]
제24항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 사용자 요청 또는 상기 제2 사용자 요청을 적어도 부분적으로 만족시키는 제4 결과를 획득하고;
상기 제3 사용자 인터페이스를 통해 상기 제4 결과의 일부를 표시하게 하는, 비일시적 컴퓨터 판독가능 매체.
[청구항 27]
제26항에 있어서, 상기 제3 사용자 인터페이스의 포커스는 상기 제6 사용자 입력이 검출되는 동안 상기 제3 사용자 인터페이스의 하나 이상의 항목 상에 있고, 상기 제4 결과는 상기 하나 이상의 항목과 상황적으로 관련되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 28]
제17항에 있어서, 상기 명령어들은 상기 하나 이상의 프로세서로 하여금 추가로,
상기 제3 사용자 인터페이스를 표시하는 동안, 제7 사용자 입력을 검출하고;
상기 제7 사용자 입력을 검출하는 것에 응답하여, 상기 제3 사용자 인터페이스를 표시하는 것을 중지하고, 상기 표시된 콘텐츠는 미디어 콘텐츠이고, 상기 전자 디바이스 상에서의 상기 미디어 콘텐츠의 재생은 상기 제3 사용자 입력을 검출하는 것에 응답하여 일시정지되며, 상기 전자 디바이스 상에서의 미디어 콘텐츠의 재생은 상기 제7 사용자 입력을 검출하는 것에 응답하여 재개되는, 비일시적 컴퓨터 판독가능 매체.
[청구항 29]
미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 방법으로서,
하나 이상의 프로세서 및 메모리를 구비한 전자 디바이스에서:
디스플레이 유닛 상에 콘텐츠를 표시하는 단계;
사용자 입력을 검출하는 단계;
상기 사용자 입력이 제1 입력 유형에 대응하는지 여부를 결정하는 단계; 및
상기 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라:
상기 디스플레이 유닛 상에 복수의 예시적인 자연 언어 요청을 표시하는 단계를 포함하며, 상기 복수의 예시적인 자연 언어 요청은 상기 표시된 콘텐츠와 상황적으로 관련되며, 상기 복수의 예시적인 자연 언어 요청 중 하나에 대응하는 사용자 발화를 수신하는 것은 상기 디지털 어시스턴트로 하여금 개개의 동작을 수행하게 하는, 방법.
[청구항 30]
디지털 어시스턴트를 동작시키기 위한 시스템으로서,
하나 이상의 프로세서들; 및
명령어들을 저장하는 메모리를 포함하고, 상기 명령어들은, 상기 하나 이상의 프로세서에 의해 실행될 때, 상기 하나 이상의 프로세서로 하여금,
디스플레이 상에 콘텐츠를 표시하고;
사용자 입력을 검출하고;
상기 사용자 입력이 제1 입력 유형에 대응하는지 여부를 결정하고;
상기 사용자 입력이 제1 입력 유형에 대응한다는 결정에 따라:
상기 디스플레이 상에 복수의 예시적인 자연 언어 요청을 표시하게 하며, 상기 복수의 예시적인 자연 언어 요청은 상기 표시된 콘텐츠와 상황적으로 관련되고, 상기 복수의 예시적인 자연 언어 요청 중 하나에 대응하는 사용자 발화를 수신하는 것은 상기 디지털 어시스턴트로 하여금 개개의 동작을 수행하게 하는, 시스템.
[요약서]
[요약]
미디어 환경에서 디지털 어시스턴트를 동작시키기 위한 시스템 및 프로세스가 개시된다. 예시적인 실시예에서, 사용자는 미디어 디바이스에 의해 콘텐츠가 표시되는 동안 미디어 디바이스의 디지털 어시스턴트와 상호작용할 수 있다. 하나의 접근법에서, 복수의 예시적인 자연 언어 요청은 제1 입력 유형의 사용자 입력을 검출하는 것에 응답하여 표시될 수 있다. 복수의 예시적인 자연 언어 요청은 표시된 콘텐츠와 상황적으로 관련될 수 있다. 다른 접근법에서, 사용자 요청은 제2 입력 유형의 사용자 입력을 검출하는 것에 응답하여 수신될 수 있다. 사용자 요청을 적어도 부분적으로 만족시키는 태스크가 수행될 수 있다. 수행된 태스크는 사용자 요청의 속성, 및 미디어 디바이스에 의해 표시되고 있는 콘텐츠에 따라 달라질 수 있다. 특히, 미디어 콘텐츠의 사용자 소비에 대한 방해를 줄이면서 사용자 요청을 만족시킬 수 있다.
[도면]
[도 1]
[도 2]
[도 3]
[도 4a]
[도 4b]
[도 4c]
[도 5a]
[도 5b]
[도 5c]
[도 5d]
[도 5e]
[도 5f]
[도 5g]
[도 5h]
[도 5i]
[도 6a]
[도 6b]
[도 6c]
[도 6d]
[도 6e]
[도 6f]
[도 6g]
[도 6h]
[도 6i]
[도 6j]
[도 6k]
[도 6l]
[도 6m]
[도 6n]
[도 6p]
[도 6q]
[도 7a]
[도 7b]
[도 7c]
[도 8a]
[도 8b]
[도 8c]
[도 8d]
[도 8e]
[도 8f]
[도 8g]
[도 8h]
[도 8i]
[도 8j]
[도 8k]
[도 8l]
[도 8m]
[도 8n]
[도 8p]
[도 8q]
[도 8r]
[도 8s]
[도 8t]
[도 8u]
[도 8v]
[도 8w]
[도 9]
[도 10]
[도 11]
TV 사용자 상호작용을 위한 지능형 자동화
어시스턴트
{INTELLIGENT AUTOMATED ASSISTANT FOR TV USER INTERACTIONS}
[관련 출원에 대한 상호 참조]
본 출원은 2014년 6월 30일자로 출원되고 발명의 명칭이 "INTELLIGENT AUTOMATED ASSISTANT FOR TV USER INTERACTIONS"인 미국 가출원 제62/019,312호로부터의 우선권을 주장하며, 이는 모든 목적을 위해 그 전문이 본 명세서에 참조로서 편입된다.
본 출원은 동시 계류중인 이하의 가출원들에 또한 관련된다: 2014년 6월 30일자로 출원되고 발명의 명칭이 "Real-time Digital Assistant Knowledge Updates"인 미국 특허 출원 제62/019,292호(대리인 관리 번호 106843097900(P22498USP1)), 이들은 모든 목적을 위해 그 전문이 본 명세서에 참조로서 편입된다.
[기술분야]
이는 일반적으로 텔레비전 사용자 상호작용을 제어하는 것에 관한 것으로, 보다 구체적으로는 가상 어시스턴트가 텔레비전 사용자 상호작용을 제어하기 위해 스피치(speech)를 처리하는 것에 관한 것이다.
[배경기술]
지능형 자동화 어시스턴트들(또는 가상 어시스턴트들)은 사용자들과 전자 디바이스들 사이의 직관적인 인터페이스를 제공한다. 이러한 어시스턴트들은 사용자들이 구어(spoken) 및/또는 텍스트 형태들의 자연 언어를 사용하여 디바이스들 또는 시스템들과 상호작용하도록 할 수 있다. 예를 들어, 사용자는 자연 언어 형태의 구어 사용자 입력을 전자 디바이스와 연관된 가상 어시스턴트에 제공함으로써 전자 디바이스의 서비스들에 액세스할 수 있다. 가상 어시스턴트는 구어 사용자 입력에 대한 자연 언어 처리를 수행하여 사용자의 의도를 추론하고, 사용자의 의도를 태스크들로 운용화할 수 있다. 이어서, 태스크들은 전자 디바이스의 하나 이상의 기능을 실행함으로써 수행될 수 있고, 일부 예들에서, 관련 출력이 자연 언어 형태로 사용자에게 반환될 수 있다.
모바일 전화기(예컨대, 스마트폰), 태블릿 컴퓨터 등은 가상 어시스턴트 제어로부터 이익을 얻었지만, 많은 다른 사용자 디바이스는 그러한 편리한 제어 메커니즘이 결여되어 있다. 예를 들어, 미디어 제어 디바이스(예컨대, 텔레비전, 텔레비전 셋톱 박스, 케이블 박스, 게이밍 디바이스, 스트리밍 미디어 디바이스, 디지털 비디오 녹화기 등)와의 사용자 상호작용은 복잡하고 배우기가 어려울 수 있다. 또한, 이러한 디바이스(예컨대, 지상파 TV, 구독 TV 서비스, 스트리밍 비디오 서비스, 케이블 주문형 비디오 서비스, 웹 기반 비디오 서비스 등)를 통해 이용가능한 미디어의 소스가 점점 더 커짐에 따라, 일부 사용자들은 소비하기 원하는 미디어 콘텐츠를 찾기가 번거롭거나 압도적일 수 있다. 결과적으로, 많은 미디어 제어 디바이스들은 많은 사용자들이 불만을 가질 수 있는 열등한 사용자 경험을 제공할 수 있다.
[발명의 내용]
가상 어시스턴트를 사용하여 텔레비전 상호작용을 제어하기 위한 시스템 및 프로세스가 개시된다. 일 예에서, 스피치 입력이 사용자로부터 수신될 수 있다. 미디어 콘텐츠는 스피치 입력에 기초하여 결정될 수 있다. 제1 크기를 갖는 제1 사용자 인터페이스가 표시될 수 있고, 제1 사용자 인터페이스는 미디어 콘텐츠에 대한 선택가능한 링크를 포함할 수 있다. 선택가능한 링크들 중 하나의 링크의 선택이 수신될 수 있다. 선택에 응답하여, 제2 사용자 인터페이스는 제1 크기보다 큰 제2 크기를 가지고 표시될 수 있고, 제2 사용자 인터페이스는 선택과 연관된 미디어 콘텐츠를 포함할 수 있다.
다른 예에서, 스피치 입력은 제1 디스플레이를 갖는 제1 디바이스에서 사용자로부터 수신될 수 있다. 스피치 입력의 사용자 의도는 제1 디스플레이 상에 표시된 콘텐츠에 기초하여 결정될 수 있다. 미디어 콘텐츠는 사용자 의도에 기초하여 결정될 수 있다. 미디어 콘텐츠는 제2 디스플레이와 연관된 제2 디바이스 상에서 재생될 수 있다.
다른 예에서, 스피치 입력은 사용자로부터 수신될 수 있고, 스피치 입력은 텔레비전 디스플레이 상에 보여지는 콘텐츠와 연관된 질의를 포함할 수 있다. 질의의 사용자 의도는 텔레비전 디스플레이 상에 보여지는 콘텐츠 및/또는 미디어 콘텐츠의 시청 이력에 기초하여 결정될 수 있다. 질의의 결과는 결정된 사용자 의도에 기초하여 표시될 수 있다.
다른 예에서, 미디어 콘텐츠는 디스플레이 상에 표시될 수 있다. 입력은 사용자로부터 수신될 수 있다. 가상 어시스턴트 질의는 미디어 콘텐츠 및/또는 미디어 콘텐츠의 시청 이력에 기초하여 결정될 수 있다. 가상 어시스턴트 질의는 디스플레이 상에 표시될 수 있다.
[도면의 간단한 설명]
도 1은 가상 어시스턴트를 사용하여 텔레비전 사용자 상호작용을 제어하기 위한 예시적인 시스템을 도시한다.
도 2는 다양한 예에 따른 예시적인 사용자 디바이스의 블록도를 도시한다.
도 3은 텔레비전 사용자 상호작용을 제어하기 위한 시스템에서 예시적인 미디어 제어 디바이스의 블록도를 도시한다.
도 4a 내지 도 4e는 비디오 콘텐츠 위의 예시적인 스피치 입력 인터페이스를 도시한다.
도 5는 비디오 콘텐츠 위의 예시적인 미디어 콘텐츠 인터페이스를 도시한다.
도 6a 및 도 6b는 비디오 콘텐츠 위의 예시적인 미디어 상세 인터페이스를 도시한다.
도 7a 및 도 7b는 예시적인 미디어 전환 인터페이스를 도시한다.
도 8a 및 도 8b는 메뉴 콘텐츠에 대한 예시적인 스피치 입력 인터페이스를 도시한다.
도 9는 메뉴 콘텐츠에 대한 예시적인 가상 어시스턴트 결과 인터페이스를 도시한다.
도 10은 가상 어시스턴트를 사용하여 텔레비전 상호작용을 제어하고 상이한 인터페이스들을 사용하여 관련 정보를 표시하기 위한 예시적인 프로세스를 도시한다.
도 11은 모바일 사용자 디바이스 상의 예시적인 텔레비전 미디어 콘텐츠를 도시한다.
도 12는 가상 어시스턴트를 사용하는 예시적인 텔레비전 제어를 도시한다.
도 13은 모바일 사용자 디바이스 상의 예시적인 사진 및 비디오 콘텐츠를 도시한다.
도 14는 가상 어시스턴트를 사용하는 예시적인 미디어 디스플레이 제어를 도시한다.
도 15는 모바일 사용자 디바이스 및 미디어 디스플레이 디바이스 상의 결과와의 예시적인 가상 어시스턴트 상호작용을 도시한다.
도 16은 미디어 디스플레이 디바이스 및 모바일 사용자 디바이스 상의 미디어 결과와의 예시적인 가상 어시스턴트 상호작용을 도시한다.
도 17은 근접성에 기초한 예시적인 미디어 디바이스 제어를 도시한다.
도 18은 가상 어시스턴트 및 다수의 사용자 디바이스를 사용하여 텔레비전 상호작용을 제어하기 위한 예시적인 프로세스를 도시한다.
도 19는 백그라운드 비디오 콘텐츠에 관한 가상 어시스턴트 질의를 갖는 예시적인 스피치 입력 인터페이스를 도시한다.
도 20은 비디오 콘텐츠 위의 예시적인 정보제공형 가상 어시스턴트 응답을 도시한다.
도 21은 백그라운드 비디오 콘텐츠와 연관된 미디어 콘텐츠에 대한 가상 어시스턴트 질의를 갖는 예시적인 스피치 입력 인터페이스를 도시한다.
도 22는 선택가능한 미디어 콘텐츠를 갖는 예시적인 가상 어시스턴트 응답 인터페이스를 도시한다.
도 23a 및 도 23b는 프로그램 메뉴의 예시적인 페이지들을 도시한다.
도 24는 카테고리들로 분할된 예시적인 미디어 메뉴를 도시한다.
도 25는 디스플레이 상에 보여지는 미디어 콘텐츠 및 미디어 콘텐츠의 시청 이력을 사용하여 텔레비전 상호작용을 제어하기 위한 예시적인 프로세스를 도시한다.
도 26은 백그라운드 비디오 콘텐츠에 기초한 가상 어시스턴트 질의 제안을 갖는 예시적인 인터페이스를 도시한다.
도 27은 제안된 질의의 선택을 확인해 주기 위한 예시적인 인터페이스를 도시한다.
도 28a 및 도 28b는 선택된 질의에 기초한 예시적인 가상 어시스턴트 답변 인터페이스를 도시한다.
도 29는 미디어 콘텐츠 알림 및 알림에 기초한 가상 어시스턴트 질의 제안을 갖는 예시적인 인터페이스를 도시한다.
도 30은 미디어 제어 디바이스 상에서 재생가능한 예시적인 사진 및 비디오 콘텐츠를 갖는 모바일 사용자 디바이스를 도시한다.
도 31은 재생가능한 사용자 디바이스 콘텐츠에 기초하고 별개의 디스플레이 상에 보여지는 비디오 콘텐츠에 기초한 가상 어시스턴트 질의 제안을 갖는 예시적인 모바일 사용자 디바이스 인터페이스를 도시한다.
도 32는 별개의 사용자 디바이스로부터의 재생가능한 콘텐츠에 기초한 가상 어시스턴트 질의 제안을 갖는 예시적인 인터페이스를 도시한다.
도 33은 미디어 콘텐츠를 제어하기 위한 가상 어시스턴트 상호작용을 제안하기 위한 예시적인 프로세스를 도시한다.
도 34는 다양한 예에 따른, 가상 어시스턴트를 사용하여 텔레비전 상호작용을 제어하고 상이한 인터페이스를 사용하여 관련 정보를 표시하도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
도 35는 다양한 예에 따른, 가상 어시스턴트 및 다수의 사용자 디바이스를 사용하여 텔레비전 상호작용을 제어하도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
도 36은 다양한 예에 따른, 디스플레이 상에 보여지는 미디어 콘텐츠 및 미디어 콘텐츠의 시청 이력을 사용하여 텔레비전 상호작용을 제어하도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
도 37은 다양한 예에 따른, 미디어 콘텐츠를 제어하기 위한 가상 어시스턴트 상호작용을 제안하도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
[발명을 실시하기 위한 구체적인 내용]
예들의 다음 설명에서, 첨부된 도면들이 참조되며, 실행될 수 있는 특정 예들이 도면들 내에서 예시로서 도시된다. 다양한 예의 범주를 벗어나지 않으면서 다른 예들이 이용될 수 있고 구조적 변경이 행해질 수 있다는 것이 이해되어야 한다.
이는 가상 어시스턴트를 사용하여 텔레비전 사용자 상호작용을 제어하기 위한 시스템 및 프로세스에 관한 것이다. 일 예에서, 가상 어시스턴트는 텔레비전 디스플레이 상에 보여지는 콘텐츠를 제어하기 위한 텔레비전 셋톱 박스와 같은 미디어 제어 디바이스와 상호작용하는 데 사용될 수 있다. 모바일 사용자 디바이스 또는 마이크로폰을 갖는 원격 제어부는 가상 어시스턴트에 대한 스피치 입력을 수신하는 데 사용될 수 있다. 사용자의 의도는 스피치 입력으로 결정될 수 있으며, 가상 어시스턴트는, 연결된 텔레비전 상에서 미디어의 재생을 야기하고 텔레비전 셋톱 박스 또는 유사한 디바이스의 임의의 다른 기능을 제어하는 것을 포함하는, 사용자의 의도에 따라 태스크들(예를 들어, 비디오 녹화를 관리, 미디어 콘텐츠를 검색, 메뉴를 내비게이팅 등)을 실행할 수 있다.
가상 어시스턴트 상호작용은 연결된 텔레비전 또는 다른 디스플레이 상에 보여질 수 있다. 일 예에서, 미디어 콘텐츠는 사용자로부터 수신된 스피치 입력에 기초하여 결정될 수 있다. 결정된 미디어 콘텐츠에 대한 선택가능한 링크를 포함하여, 제1 작은 크기를 갖는 제1 사용자 인터페이스가 표시될 수 있다. 미디어 링크의 선택을 수신한 후에, 선택과 연관된 미디어 콘텐츠를 포함하는, 제2의 더 큰 크기를 갖는 제2 사용자 인터페이스가 표시될 수 있다. 다른 예들에서, 가상 어시스턴트 상호작용을 전달하는 데 사용되는 인터페이스는 원하는 정보를 전달하면서 최소량의 공간을 차지하도록 확장되거나 축소될 수 있다.
일부 예들에서, 다수의 디스플레이와 연관된 다수의 디바이스가 스피치 입력으로부터 사용자 의도를 결정할뿐만 아니라 사용자에게 정보를 상이한 방식들로 전달하는 데 사용될 수 있다. 예를 들어, 스피치 입력은 제1 디스플레이를 갖는 제1 디바이스에서 사용자로부터 수신될 수 있다. 사용자의 의도는 제1 디스플레이 상에 표시된 콘텐츠에 기초하여 스피치 입력으로부터 결정될 수 있다. 미디어 콘텐츠는 사용자 의도에 기초하여 결정될 수 있고, 미디어 콘텐츠는 제2 디스플레이와 연관된 제2 디바이스 상에서 재생될 수 있다.
텔레비전 디스플레이 콘텐츠는 또한 스피치 입력으로부터 사용자 의도를 결정하기 위한 상황적 입력으로 사용될 수 있다. 예를 들어, 텔레비전 디스플레이 상에 보여지는 콘텐츠와 연관된 질의를 포함하는, 스피치 입력이 사용자로부터 수신될 수 있다. 질의의 사용자 의도는 텔레비전 디스플레이 상에 보여지는 콘텐츠뿐만 아니라 텔레비전 디스플레이 상의 미디어 콘텐츠의 시청 이력에 기초하여 결정될 수 있다(예를 들어, 재생 중인 TV 쇼의 캐릭터들에 기초하여 질의를 명확하게 함). 이어서, 질의의 결과는 결정된 사용자 의도에 기초하여 표시될 수 있다.
일부 예들에서, 가상 어시스턴트 질의 제안은 사용자에게 제공될 수 있다(예를 들어, 사용자에게 이용가능한 커맨드를 알리기 위해, 흥미로운 콘텐츠를 제안하기 위해 등). 예를 들어, 미디어 콘텐츠가 디스플레이 상에 보여질 수 있으며, 입력은 가상 어시스턴트 질의 제안을 요청하는 사용자로부터 수신될 수 있다. 가상 어시스턴트 질의 제안은 디스플레이 상에 보여지는 미디어 콘텐츠 및 디스플레이 상에 보여지는 미디어 콘텐츠의 시청 이력에 기초하여 결정될 수 있다(예를 들어, 재생 중인 TV 쇼와 관련된 질의를 제안하는 것). 이어서, 제안된 가상 어시스턴트 질의는 디스플레이 상에 보여질 수 있다.
본 명세서에 논의된 다양한 예에 따라 가상 어시스턴트를 사용하여 텔레비전 사용자 상호작용을 제어하는 것은 효과적이고 만족할 만한 사용자 경험을 제공할 수 있다. 미디어 제어 디바이스와의 사용자 상호작용은 자연 언어 질의 또는 커맨드를 수신할 수 있는 가상 어시스턴트를 사용하여 직관적이고 단순할 수 있다. 사용자들이 제어 능력들을 학습하는 데 도움이 될 수 있는, 재생 중인 콘텐츠에 기초한 의미있는 질의 제안을 비롯하여 원하는 경우 이용가능한 기능들이 사용자에게 제안될 수 있다. 또한, 이용가능한 미디어는 직관적인 구어 커맨드를 사용하여 쉽게 액세스할 수 있다. 그러나, 본 명세서에서 논의된 다양한 예에 따라 여전히 많은 다른 이점이 달성될 수 있음을 이해해야 한다.
도 1은 가상 어시스턴트를 사용하여 텔레비전 사용자 상호작용을 제어하기 위한 예시적인 시스템(100)을 도시한다. 본 명세서에서 논의된 바와 같은 텔레비전 사용자 상호작용을 제어하는 것은 하나의 유형의 디스플레이 기술로 미디어를 제어하는 단순한 일례이고 참조로서 사용되며, 본 명세서에서 논의되는 개념들은 일반적으로 다양한 디바이스들 및 관련 디스플레이들(예컨대, 모니터, 랩톱 디스플레이, 데스크톱 컴퓨터 디스플레이, 모바일 사용자 디바이스 디스플레이, 프로젝터 디스플레이 등) 중 임의의 것을 포함하여 임의의 미디어 콘텐츠 상호작용을 제어하기 위해 사용될 수 있음을 이해해야 한다. 따라서, "텔레비전"이라는 용어는 다양한 디바이스들 중 임의의 것과 연관된 임의의 유형의 디스플레이를 지칭할 수 있다. 또한, 용어들 "가상 어시스턴트", "디지털 어시스턴트", "지능형 자동화 어시스턴트", 또는 "자동 디지털 어시스턴트"는 구어적 및/또는 문어적 형태의 자연 언어 입력을 해석하여 사용자 의도를 추론하고, 추론된 사용자 의도에 기초하여 액션들을 수행하는 임의의 정보 처리 시스템을 지칭할 수 있다. 예를 들어, 추론된 사용자 의도에 따라 동작하기 위해, 시스템은 다음 중 하나 이상을 수행할 수 있다: 추론된 사용자 의도를 달성하도록 설계된 단계들 및 파라미터들을 이용하여 태스크 흐름을 식별하는 것; 추론된 사용자 의도로부터의 특정 요건들을 태스크 흐름 내에 입력하는 것; 프로그램들, 방법들, 서비스들, API들 등을 호출함으로써 태스크 흐름을 실행하는 것; 및 청각적(예컨대, 구어적) 및/또는 시각적 형태로 사용자에 대한 출력 응답들을 생성하는 것.
가상 어시스턴트는 적어도 부분적으로 자연 언어 커맨드, 요청, 진술, 서술, 및/또는 질문의 형태로 사용자 요청을 수용할 수 있다. 전형적으로, 사용자 요청은 가상 어시스턴트(예컨대, 특정 미디어의 표시를 야기함)에 의해 정보제공형 답변 또는 태스크의 수행 중 어느 하나를 구한다. 사용자 요청에 대한 만족스러운 응답은 요청된 정보제공형 답변의 제공, 요청된 태스크의 수행, 또는 이 둘의 조합을 포함할 수 있다. 예를 들어, 사용자는 가상 어시스턴트에게, "내가 지금 어디에 있지?"와 같은 질문을 할 수 있다. 사용자의 현재 위치에 기초하여, 가상 어시스턴트는 "당신은 센트럴 파크에 있습니다"라고 답변할 수 있다. 사용자는 또한 태스크의 수행, 예를 들어, "오늘 오후 4시에 엄마에게 전화하라고 나에게 리마인드 해줘"를 요청할 수 있다. 이에 응답하여, 가상 어시스턴트는 요청을 받았음을 알리고, 이어서 사용자의 전자 스케줄 내에 적절한 리마인더 항목을 생성할 수 있다. 요청된 태스크의 수행 동안, 가상 어시스턴트는 때때로 연장된 기간 내내 다수의 정보 교환을 수반하는 연속 대화로 사용자와 상호작용할 수 있다. 가상 어시스턴트와 상호작용하여 정보 또는 다양한 태스크들의 수행을 요청하는 수많은 다른 방식이 있다. 구두 응답들을 제공하는 것 및 프로그래밍된 동작들을 취하는 것에 부가하여, 가상 어시스턴트는 또한 다른 시각적 또는 청각적 형태들로(예컨대, 텍스트, 경고들, 음악, 비디오들, 애니메이션들 등으로서) 응답들을 제공할 수 있다. 또한, 본 명세서에서 논의된 바와 같이, 예시적인 가상 어시스턴트는 미디어 콘텐츠의 재생을 제어할 수 있고(예를 들어, 텔레비전 상의 비디오를 재생하는 것) 정보가 디스플레이 상에 표시되게 할 수 있다.
가상 어시스턴트의 일례는 2011년 1월 10일자로 출원된 "Intelligent AutomatedAssistant"에 대한 본 출원인의 미국 특허 출원 제12/987,982호에 기재되어 있으며, 그 전체 개시내용은 본 명세서에 참조로서 편입된다.
도 1에 도시된 바와 같이, 일부 예들에서, 가상 어시스턴트는 클라이언트-서버 모델에 따라 구현될 수 있다. 가상 어시스턴트는 사용자 디바이스(102) 상에서 실행되는 클라이언트 측 부분, 및 서버 시스템(110) 상에서 실행되는 서버 측 부분을 포함할 수 있다. 클라이언트 측 부분은 또한 원격 제어부(106)와 함께 텔레비전 셋톱 박스(104) 상에서 실행될 수 있다. 사용자 디바이스(102)는 모바일 전화기(예컨대, 스마트폰), 태블릿 컴퓨터, 휴대용 미디어 플레이어, 데스크톱 컴퓨터, 랩톱 컴퓨터, PDA, 착용가능한 전자 디바이스(예컨대, 디지털 안경, 손목 밴드, 손목 시계, 브로치, 암밴드 등) 등과 같은 임의의 전자 디바이스를 포함할 수 있다. 텔레비전 셋톱 박스(104)는 케이블 박스, 위성 박스, 비디오 플레이어, 비디오 스트리밍 디바이스, 디지털 비디오 녹화기, 게이밍 시스템, DVD 플레이어, Blu-ray Disc™ 플레이어, 이러한 디바이스들의 조합 등과 같은 임의의 미디어 제어 디바이스를 포함할 수 있다. 텔레비전 셋톱 박스(104)는 유선 또는 무선 연결을 통해 디스플레이(112) 및 스피커(111)에 연결될 수 있다. 디스플레이(112)(스피커(111)가 있거나 없는)은 텔레비전 디스플레이, 모니터, 프로젝터 등과 같은 임의의 유형의 디스플레이일 수 있다. 일부 예들에서, 텔레비전 셋톱 박스(104)는 오디오 시스템(예컨대, 오디오 수신기)에 연결할 수 있고, 스피커(111)는 디스플레이(112)와 분리될 수 있다. 다른 예들에서, 디스플레이(112), 스피커(111), 및 텔레비전 셋톱 박스(104)는 진보된 처리 및 네트워크 연결성 능력들(network connectivity capabilities)을 갖는 스마트 텔레비전과 같은 단일 디바이스에 함께 통합될 수 있다. 그러한 예들에서, 텔레비전 셋톱 박스(104)의 기능들은 조합된 디바이스 상의 애플리케이션으로서 실행될 수 있다.
일부 예들에서, 텔레비전 셋톱 박스(104)는 미디어 콘텐츠의 다수의 유형들 및 소스들에 대한 미디어 제어 센터로서 기능할 수 있다. 예를 들어, 텔레비전 셋톱 박스(104)는 라이브 텔레비전(예를 들어, 지상파, 위성, 또는 케이블 텔레비전)에 대한 사용자 액세스를 용이하게 할 수 있다. 이와 같이, 텔레비전 셋톱 박스(104)는 케이블 튜너, 위성 튜너 등을 포함할 수 있다. 일부 예들에서, 텔레비전 셋톱 박스(104)는 또한 나중에 타임-시프팅된 시청을 위해 텔레비전 프로그램을 녹화할 수 있다. 다른 예들에서, 텔레비전 셋톱 박스(104)는 케이블-전달된 주문형 텔레비전 쇼, 비디오, 및 음악뿐만 아니라 인터넷-전달된 텔레비전 쇼, 비디오, 및 음악과 같은 하나 이상의 스트리밍 미디어 서비스(예컨대, 다양한 무료, 유료, 및 구독 기반 스트리밍 서비스들로부터의)에 대한 액세스를 제공할 수 있다. 또 다른 예들에서, 텔레비전 셋톱 박스(104)는 모바일 사용자 디바이스로부터의 사진을 표시하거나, 결합된 저장 디바이스로부터 비디오를 재생하거나, 결합된 음악 플레이어로부터 음악을 재생하는 것 등과 같은 임의의 다른 소스로부터의 미디어 콘텐츠의 재생 또는 표시를 용이하게 할 수 있다. 텔레비전 셋톱 박스(104)는 또한 원하는 바와 같이 본 명세서에서 논의된 미디어 제어 특징의 다양한 다른 조합을 포함할 수 있다.
사용자 디바이스(102) 및 텔레비전 셋톱 박스(104)는 인터넷, 인트라넷, 또는 임의의 다른 유선 또는 무선 공공 또는 사설 네트워크를 포함할 수 있는 하나 이상의 네트워크(108)를 통해 서버 시스템(110)과 통신할 수 있다. 또한, 사용자 디바이스(102)는 네트워크(108)를 통해 또는 임의의 다른 유선 또는 무선 통신 메커니즘(예를 들어, 블루투스, Wi-Fi, 무선 주파수, 적외선 송신 등)을 통해 직접 텔레비전 셋톱 박스(104)와 통신할 수 있다. 예시된 바와 같이, 원격 제어부(106)는, 네트워크(108)를 통하는 것을 비롯하여 유선 연결 또는 임의의 유형의 무선 통신(예를 들어, 블루투스, Wi-Fi, 무선 주파수, 적외선 송신 등)과 같은 임의의 유형의 통신을 사용하여 텔레비전 셋톱 박스(104)와 통신할 수 있다. 일부 예들에서, 사용자는 사용자 디바이스(102), 원격 제어부(106), 또는 텔레비전 셋톱 박스(104) 내에 통합된 인터페이스 요소(예를 들어, 버튼, 마이크로폰, 카메라, 조이스틱 등)를 통해 텔레비전 셋톱 박스(104)와 상호작용할 수 있다. 예를 들어, 가상 어시스턴트에 대한 미디어 관련 질의 또는 커맨드를 포함하는 스피치 입력은 사용자 디바이스(102) 및/또는 원격 제어부(106)에서 수신될 수 있으며, 스피치 입력은 미디어 관련 태스크가 텔레비전 셋톱 박스(104) 상에서 수행되게 하는 데 사용될 수 있다. 마찬가지로, 텔레비전 셋톱 박스(104) 상의 미디어를 제어하기 위한 촉각 커맨드는 사용자 디바이스(102) 및/또는 원격 제어부(106)에서 수신될 수 있다(또한 도시되지 않은 다른 디바이스들로부터). 따라서, 텔레비전 셋톱 박스(104)의 다양한 기능들이 다양한 방식으로 제어되어, 사용자들에게 다수의 디바이스로부터의 미디어 콘텐츠를 제어하기 위한 다수의 옵션을 제공할 수 있다.
원격 제어부(106)를 갖는 사용자 디바이스(102) 및/또는 텔레비전 셋톱 박스(104) 상에서 실행되는 예시적인 가상 어시스턴트의 클라이언트 측 부분은 사용자 대면 입력 및 출력 처리 및 서버 시스템(110)과의 통신과 같은 클라이언트 측 기능들을 제공할 수 있다. 서버 시스템(110)은 개개의 사용자 디바이스(102) 또는 개개의 텔레비전 셋톱 박스(104) 상에 존재하는 임의의 수의 클라이언트들에 서버 측 기능들을 제공할 수 있다.
서버 시스템(110)은 하나 이상의 가상 어시스턴트 서버(114)를 포함할 수 있는데, 가상 어시스턴트 서버(114)는 클라이언트 대면 I/O 인터페이스(122), 하나 이상의 처리 모듈(118), 데이터 및 모델 저장소(120), 및 외부 서비스들에 대한 I/O 인터페이스(116)를 포함할 수 있다. 클라이언트 대면 I/O 인터페이스(122)는 가상 어시스턴트 서버(114)에 대한 클라이언트 대면 입력 및 출력 처리를 용이하게 할 수 있다. 하나 이상의 처리 모듈(118)은 데이터 및 모델 저장소(120)를 이용하여, 자연 언어 입력에 기초하여 사용자의 의도를 결정할 수 있고, 추론된 사용자 의도에 기초하여 태스크 실행을 수행할 수 있다. 일부 예들에서, 가상 어시스턴트 서버(114)는 태스크 완수 또는 정보 획득을 위해 네트워크(들)(108)를 통해, 외부 서비스들(124), 예컨대 전화 통신 서비스들, 캘린더 서비스(calendar service)들, 정보 서비스들, 메시징 서비스들, 내비게이션 서비스들, 텔레비전 프로그래밍 서비스들, 스트리밍 미디어 서비스들 등과 통신할 수 있다. 외부 서비스들에 대한 I/O 인터페이스(116)는 그러한 통신들을 용이하게 할 수 있다.
서버 시스템(110)은 하나 이상의 독립형 데이터 처리 디바이스 또는 분산형 컴퓨터 네트워크 상에 구현될 수 있다. 일부 예들에서, 서버 시스템(110)은 서버 시스템(110)의 기본 컴퓨팅 리소스들 및/또는 인프라구조 리소스들을 제공하기 위해 제3자 서비스 제공자들(예컨대, 제3자 클라우드 서비스 제공자들)의 다양한 가상 디바이스들 및/또는 서비스들을 채용할 수 있다.
가상 어시스턴트의 기능이 클라이언트 측 부분 및 서버 측 부분 둘 모두를 포함하는 것으로서 도 1에 도시되어 있지만, 일부 예들에서, 어시스턴트의 기능(또는 일반적으로 스피치 인식 및 미디어 제어)은 사용자 디바이스, 텔레비전 셋톱 박스, 스마트 텔레비전 등에 설치된 독립형 애플리케이션으로서 구현될 수 있다. 또한, 가상 어시스턴트의 클라이언트 부분과 서버 부분 사이에서의 기능들의 분담은 상이한 예들에서 다를 수 있다. 예를 들어, 일부 예들에서, 사용자 디바이스(102) 또는 텔레비전 셋톱 박스(104) 상에서 실행되는 클라이언트는, 오로지 사용자 대면 입력 및 출력 처리 기능들만을 제공하고, 가상 어시스턴트의 다른 모든 기능들을 백엔드 서버에 위임하는 씬-클라이언트(thin-client)일 수 있다.
도 2는 다양한 예에 따른, 예시적인 사용자 디바이스(102)의 블록도를 도시한다. 도시된 바와 같이, 사용자 디바이스(102)는 메모리 인터페이스(202), 하나 이상의 프로세서(204), 및 주변기기 인터페이스(206)를 포함할 수 있다. 사용자 디바이스(102) 내의 다양한 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인에 의해 서로 결합될 수 있다. 사용자 디바이스(102)는 다양한 센서들, 서브시스템들, 및 주변기기 인터페이스(206)에 결합되는 주변기기 디바이스들을 추가로 포함할 수 있다. 센서들, 서브시스템들, 및 주변기기 디바이스들은 정보를 수집하고/하거나 사용자 디바이스(102)의 다양한 기능들을 용이하게 할 수 있다.
예를 들어, 사용자 디바이스(102)는 배향, 광, 및 근접 감지 기능들을 용이하게 하기 위해 주변기기 인터페이스(206)에 결합된 모션 센서(210), 광 센서(212), 및 근접 센서(214)를 포함할 수 있다. 하나 이상의 기타 센서(216), 예컨대 포지셔닝 시스템(예컨대, GPS 수신기), 온도 센서, 생체인식 센서, 자이로스코프, 나침반, 가속도계 등이 또한 주변기기 인터페이스(206)에 연결되어 관련 기능들을 또한 용이하게 할 수 있다.
일부 예들에서, 카메라 서브시스템(220) 및 광학 센서(222)가 이용되어 사진 촬영 및 비디오 클립 녹화와 같은 카메라 기능들을 용이하게 할 수 있다. 통신 기능들은 다양한 통신 포트, 무선 주파수 수신기 및 송신기, 및/또는 광학(예컨대, 적외선) 수신기 및 송신기를 포함할 수 있는 하나 이상의 유선 및/또는 무선 통신 서브시스템(224)을 통하여 용이하게 할 수 있다. 오디오 서브시스템(226)은 음성 인식(voice recognition), 음성 복제, 디지털 녹음, 및 전화 통신 기능들과 같은 음성 지원 기능(voice-enabled function)들을용이하게 하기 위해 스피커(228) 및 마이크로폰(230)에 결합될 수 있다.
일부 예들에서, 사용자 디바이스(102)는 주변기기 인터페이스(206)에 결합되는 I/O 서브시스템(240)을 추가로 포함할 수 있다. I/O 서브시스템(240)은 터치스크린 제어기(242) 및/또는 기타 입력 제어기(들)(244)를 포함할 수 있다. 터치스크린 제어기(242)는 터치스크린(246)에 결합될 수 있다. 터치스크린(246) 및 터치스크린 제어기(242)는, 예를 들어, 정전용량, 저항, 적외선 및 표면 탄성파 기술들과 같은 복수의 터치 감지 기술들; 근접 센서 어레이들; 등 중 임의의 것을 이용하여 접촉 및 움직임 또는 이들의 중지를 검출할 수 있다. 기타 입력 제어기(들)(244)가 하나 이상의 버튼, 로커 스위치(rocker switch), 지동륜(thumb-wheel), 적외선 포트, USB 포트, 및/또는 포인터 디바이스, 예컨대 스타일러스와 같은 기타 입력/제어 디바이스들(248)에 결합될 수 있다.
일부 예들에서, 사용자 디바이스(102)는 메모리(250)에 결합되는 메모리 인터페이스(202)를 추가로 포함할 수 있다. 메모리(250)는 임의의 전자, 자기, 광학, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스; 휴대용 컴퓨터 디스켓(자기); 랜덤 액세스 메모리(RAM)(자기); 판독 전용 메모리(ROM)(자기); 소거가능 프로그래머블 판독 전용 메모리(EPROM)(자기); CD, CD-R, CD-RW, DVD, DVD-R, 또는 DVD-RW와 같은 휴대용 광학 디스크; 또는 콤팩트 플래시 카드, 보안 디지털 카드, USB 메모리 디바이스, 메모리 스틱 등과 같은 플래시 메모리를 포함할 수 있다. 일부 예들에서, 메모리(250)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들은 서버 시스템(110)의 비일시적 컴퓨터 판독가능 저장 매체 상에 저장될 수 있거나 또는 메모리(250)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(110)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
일부 예들에서, 메모리(250)는 운영 체제(252), 통신 모듈(254), 그래픽 사용자 인터페이스 모듈(256), 센서 처리 모듈(258), 전화 모듈(260), 및 애플리케이션(262)을 저장할 수 있다. 운영 체제(252)는 기본 시스템 서비스들을 처리하고 하드웨어 의존적 태스크들을 수행하기 위한 명령어들을 포함할 수 있다. 통신 모듈(254)은 하나 이상의 추가 디바이스, 하나 이상의 컴퓨터, 및/또는 하나 이상의 서버와의 통신을 용이하게 할 수 있다. 그래픽 사용자 인터페이스 모듈(256)은 그래픽 사용자 인터페이스 처리를 용이하게 할 수 있다. 센서 처리 모듈(258)은 센서 관련 처리 및 기능들을 용이하게 할 수 있다. 전화 모듈(260)은 전화 관련 프로세스들 및 기능들을 용이하게 할 수 있다. 애플리케이션 모듈(262)은 전자 메시징, 웹 브라우징, 미디어 처리, 내비게이션, 이미징, 및/또는 기타 프로세스들 및 기능들과 같은 사용자 애플리케이션들의 다양한 기능들을 용이하게 할 수 있다.
본 명세서에 기술된 바와 같이, 메모리(250)는 또한 예를 들어, 가상 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 클라이언트 측 가상 어시스턴트 명령어들을(예를 들어, 가상 어시스턴트 클라이언트 모듈(264) 내에) 그리고 다양한 사용자 데이터(266)(예컨대, 사용자-특정 어휘 데이터, 선호도 데이터, 및/또는 사용자의 전자 주소록, 할 일 목록, 쇼핑 목록, 텔레비전 프로그램 즐겨찾기 등과 같은 기타 데이터)를 저장할 수 있다. 사용자 데이터(266)는 또한 가상 어시스턴트를 지원하거나 임의의 다른 애플리케이션을 위한 스피치 인식을 수행하는 데 사용될 수 있다.
다양한 예에서, 가상 어시스턴트 클라이언트 모듈(264)은 사용자 디바이스(102)의 다양한 사용자 인터페이스들(예컨대, I/O 서브시스템(240), 오디오 서브시스템(226) 등)을 통하여 음성 입력(예컨대, 스피치 입력), 텍스트 입력, 터치 입력, 및/또는 제스처 입력을 수용할 수 있다. 가상 어시스턴트 클라이언트 모듈(264)은 또한 오디오(예컨대, 스피치 출력), 시각적, 및/또는 촉각적 형태들로 출력을 제공할 수 있다. 예를 들어, 출력은 음성, 소리, 경고, 텍스트 메시지, 메뉴, 그래픽, 비디오, 애니메이션, 진동, 및/또는 이들 중 둘 이상의 것들의 조합들로서 제공될 수 있다. 동작 동안, 가상 어시스턴트 클라이언트 모듈(264)은 통신 서브시스템(224)을 사용하여 가상 어시스턴트 서버와 통신할 수 있다.
일부 예들에서, 가상 어시스턴트 클라이언트 모듈(264)은 사용자와 연관된 상황, 현재 사용자 상호작용, 및/또는 현재 사용자 입력을 확립하기 위해 다양한 센서들, 서브시스템들, 및 주변기기 디바이스들을 이용하여 사용자 디바이스(102)의 주위 환경으로부터 추가 정보를 수집할 수 있다. 이러한 상황은 또한 텔레비전 셋톱 박스(104)로부터와 같은 다른 디바이스들로부터의 정보를 포함할 수 있다. 일부 예들에서, 가상 어시스턴트 클라이언트 모듈(264)은 가상 어시스턴트 서버에 사용자 입력과 함께 상황 정보 또는 그의 서브셋을 제공하여 사용자의 의도를 추론하는 것을 도울 수 있다. 가상 어시스턴트는 또한 상황 정보를 이용하여 어떻게 출력들을 준비하여 사용자에게 전달할 지를 결정할 수 있다. 상황 정보는 정확한 스피치 인식을 지원하기 위해 사용자 디바이스(102) 또는 서버 시스템(110)에 의해 추가로 사용될 수 있다.
일부 예들에서, 사용자 입력을 동반하는 상황 정보는 센서 정보, 예컨대 조명, 주변 잡음, 주변 온도, 주위 환경의 이미지들 또는 비디오들, 다른 물체까지의 거리 등을 포함할 수 있다. 상황 정보는 사용자 디바이스(102)의 물리적 상태(예컨대, 디바이스 배향, 디바이스 위치, 디바이스 온도, 전력 레벨, 속도, 가속도, 모션 패턴들, 셀룰러 신호 강도 등) 또는 사용자 디바이스(102)의 소프트웨어 상태(예컨대, 실행 중인 프로세스들, 설치된 프로그램들, 과거 및 현재 네트워크 활동들, 백그라운드 서비스들, 에러 로그들, 리소스 사용량 등)와 연관된 정보를 추가로 포함할 수 있다. 상황 정보는 연결된 디바이스 또는 사용자와 관련된 다른 디바이스(예를 들어, 텔레비전 셋톱 박스(104)에 의해 표시된 미디어 콘텐츠, 텔레비전 셋톱 박스(104)에 이용가능한 미디어 콘텐츠 등)의 상태와 연관된 정보를 추가로 포함할 수 있다. 이러한 유형들의 상황 정보 중 임의의 상황 정보가 사용자 입력과 연관된 상황 정보로서 가상 어시스턴트 서버(114)에 제공(또는 사용자 디바이스(102) 자체 상에서 사용)될 수 있다.
일부 실시예에서, 가상 어시스턴트 클라이언트 모듈(264)은 가상 어시스턴트 서버(114)로부터의 요청에 응답하여 사용자 디바이스(102)에 저장된 정보(예를 들어, 사용자 데이터(266))를 선택적으로 제공할 수 있다(또는 스피치 인식 및/또는 가상 어시스턴트 기능을 실행하는 데 사용자 디바이스(102) 자체에서 사용될 수 있음). 가상 어시스턴트 클라이언트 모듈(264)은 또한 가상 어시스턴트 서버(114)에 의한 요청에 따라 자연 언어 대화 또는 기타 사용자 인터페이스들을 통해 사용자로부터 추가 입력을 이끌어낼 수 있다. 가상 어시스턴트 클라이언트 모듈(264)은 가상 어시스턴트 서버(114)에 추가 입력을 전달하여, 사용자 요청에서 표현되는 사용자 의도의 의도 추론 및/또는 이행 시에 가상 어시스턴트 서버(114)를 도울 수 있다.
다양한 예에서, 메모리(250)는 추가 명령어들 또는 더 적은 명령어들을 포함할 수 있다. 더욱이, 사용자 디바이스(102)의 다양한 기능들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로(application specific integrated circuit)들을 비롯한 하드웨어 및/또는 펌웨어로 구현될 수 있다.
도 3은 텔레비전 사용자 상호작용을 제어하기 위한 시스템(300)의 예시적인 텔레비전 셋톱 박스(104)의 블록도를 도시한다. 시스템(300)은 시스템(100)의 요소들의 서브셋을 포함할 수 있다. 일부 예들에서, 시스템(300)은 특정 기능들을 단독으로 실행할 수 있고, 다른 기능들을 실행하기 위해 시스템(100)의 다른 요소들과 함께 기능할 수 있다. 예를 들어, 시스템(300)의 요소들은 서버 시스템(110)과 상호작용하지 않으면서 특정 미디어 제어 기능들(예를 들어, 국부적으로 저장된 미디어의 재생, 녹화 기능, 채널 튜닝 등)을 처리할 수 있고, 시스템(300)은 서버 시스템(110) 및 시스템(100)의 다른 요소들과 함께 다른 미디어 제어 기능들(예를 들어, 원격으로 저장된 미디어의 재생, 미디어 콘텐츠를 다운로드, 특정 가상 어시스턴트 질의를 처리 등)을 처리할 수 있다. 다른 예들에서, 시스템(300)의 요소들은 네트워크를 통해 외부 서비스(124)에 액세스하는 것을 포함하는, 더 큰 시스템(100)의 기능들을 수행할 수 있다. 기능들은 로컬 디바이스와 원격 서버 디바이스 간에 다양한 다른 방식으로 구분될 수 있음을 이해해야 한다.
도 3에 도시된 바와 같이, 일 예에서, 텔레비전 셋톱 박스(104)는 메모리 인터페이스(302), 하나 이상의 프로세서(304), 및 주변기기 인터페이스(306)를 포함할 수 있다. 텔레비전 셋톱 박스(104) 내의 다양한 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인에 의해 서로 결합될 수 있다. 텔레비전 셋톱 박스(104)는 다양한 서브시스템들, 및 주변기기 인터페이스(306)에 결합되는 주변기기 디바이스들을 추가로 포함할 수 있다. 서브시스템들 및 주변기기 디바이스들은 정보를 수집하고/하거나 텔레비전 셋톱 박스(104)의 다양한 기능들을 용이하게 할 수 있다.
예를 들어,텔레비전 셋톱 박스(104)는 통신 서브시스템(324)을 포함할 수 있다. 통신 기능들은 다양한 통신 포트, 무선 주파수 수신기 및 송신기, 및/또는 광학(예컨대, 적외선) 수신기 및 송신기를 포함할 수 있는 하나 이상의 유선 및/또는 무선 통신 서브시스템(324)을 통하여 용이하게 할 수 있다.
일부 예들에서, 텔레비전 셋톱 박스(104)는 주변기기 인터페이스(306)에 결합되는 I/O 서브시스템(340)을 추가로 포함할 수 있다. I/O 서브시스템(340)은 오디오/비디오 출력 제어기(370)를 포함할 수 있다. 오디오/비디오 출력 제어기(370)는 디스플레이(112) 및 스피커(111)에 결합될 수 있거나 그렇지 않으면 (예를 들어, 오디오/비디오 포트, 무선 송신 등을 통해) 오디오 및 비디오 출력을 제공할 수 있다. I/O 서브시스템(340)은 원격 제어기(342)를 추가로 포함할 수 있다. 원격 제어기(342)는 (예를 들어, 유선 연결, 블루투스, Wi-Fi 등을 통해) 원격 제어부(106)에 통신가능하게 결합될 수 있다. 원격 제어부(106)는 오디오 입력(예를 들어, 사용자로부터의 스피치 입력)을 캡처하기 위한 마이크로폰(372), 촉각 입력을 캡처하기 위한 버튼(들)(374), 및 원격 제어기(342)를 통해 텔레비전 셋톱 박스(104)와의 통신을 용이하게 하기 위한 송수신기(376)를 포함할 수 있다. 원격 제어부(106)는 또한 키보드, 조이스틱, 터치패드 등과 같은 기타 입력 메커니즘들을 포함할 수 있다. 원격 제어부(106)는 조명, 디스플레이, 스피커 등과 같은 출력 메커니즘들을 추가로 포함할 수 있다. 원격 제어부(106)에서 수신된 입력(예를 들어, 사용자 스피치, 버튼 누르기 등)은 원격 제어기(342)를 통해 텔레비전 셋톱 박스(104)에 전달될 수 있다. I/O 서브시스템(340)은 또한 기타 입력 제어기(들)(344)를 포함할 수 있다. 기타 입력 제어기(들)(344)가 하나 이상의 버튼, 로커 스위치, 지동륜, 적외선 포트, USB 포트, 및/또는 포인터 디바이스, 예컨대 스타일러스와 같은 기타 입력/제어 디바이스들(348)에 결합될 수 있다.
일부 예들에서, 텔레비전 셋톱 박스(104)는 메모리(350)에 결합되는 메모리 인터페이스(302)를 추가로 포함할 수 있다. 메모리(350)는 임의의 전자, 자기, 광학, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스; 휴대용 컴퓨터 디스켓(자기); 랜덤 액세스 메모리(RAM)(자기); 판독 전용 메모리(ROM)(자기); 소거가능 프로그래머블 판독 전용 메모리(EPROM)(자기); CD, CD-R, CD-RW, DVD, DVD-R, 또는 DVD-RW와 같은 휴대용 광학 디스크; 또는 콤팩트 플래시 카드, 보안 디지털 카드, USB 메모리 디바이스, 메모리 스틱 등과 같은 플래시 메모리를 포함할 수 있다. 일부 예들에서, 메모리(350)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들은 서버 시스템(110)의 비일시적 컴퓨터 판독가능 저장 매체 상에 저장될 수 있거나 또는 메모리(350)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(110)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
일부 예들에서, 메모리(350)는 운영 체제(352), 통신 모듈(354), 그래픽 사용자 인터페이스 모듈(356), 온-디바이스(on-device) 미디어 모듈(358), 오프-디바이스(off-device) 미디어 모듈(360), 및 애플리케이션(362)을 저장할 수 있다. 운영 체제(352)는 기본 시스템 서비스들을 처리하고 하드웨어 의존적 태스크들을 수행하기 위한 명령어들을 포함할 수 있다. 통신 모듈(354)은 하나 이상의 추가 디바이스, 하나 이상의 컴퓨터, 및/또는 하나 이상의 서버와의 통신을 용이하게 할 수 있다. 그래픽 사용자 인터페이스 모듈(356)은 그래픽 사용자 인터페이스 처리를 용이하게 할 수 있다. 온-디바이스 미디어 모듈(358)은 텔레비전 셋톱 박스(104) 상에 국부적으로 저장된 미디어 콘텐츠 및 국부적으로 이용가능한 다른 미디어 콘텐츠(예를 들어, 케이블 채널 튜닝)의 저장 및 재생을 용이하게 할 수 있다. 오프-디바이스 미디어 모듈(360)은 원격으로(예를 들어, 원격 서버 상에, 사용자 디바이스(102) 상에 등) 저장된 미디어 콘텐츠의 스트리밍 재생 또는 다운로드를 용이하게 할 수 있다. 애플리케이션 모듈(362)은 전자 메시징, 웹 브라우징, 미디어 처리, 게이밍, 및/또는 기타 프로세스들 및 기능들과 같은 사용자 애플리케이션들의 다양한 기능들을 용이하게 할 수 있다.
본 명세서에 기술된 바와 같이, 메모리(350)는 또한 예를 들어, 가상 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 클라이언트 측 가상 어시스턴트 명령어들을(예를 들어, 가상 어시스턴트 클라이언트 모듈(364) 내에) 그리고 다양한 사용자 데이터(366)(예컨대, 사용자-특정 어휘 데이터, 선호도 데이터, 및/또는 사용자의 전자 주소록, 할 일 목록, 쇼핑 목록, 텔레비전 프로그램 즐겨찾기 등과 같은 기타 데이터)를 저장할 수 있다. 사용자 데이터(366)는 또한 가상 어시스턴트를 지원하거나 임의의 다른 애플리케이션을 위한 스피치 인식을 수행하는 데 사용될 수 있다.
다양한 예에서, 가상 어시스턴트 클라이언트 모듈(364)은 텔레비전 셋톱 박스(104)의 다양한 사용자 인터페이스들(예컨대, I/O 서브시스템(340) 등)을 통하여 음성 입력(예컨대, 스피치 입력), 텍스트 입력, 터치 입력, 및/또는 제스처 입력을 수용할 수 있다. 가상 어시스턴트 클라이언트 모듈(364)은 또한 오디오(예컨대, 스피치 출력), 시각적, 및/또는 촉각적 형태들로 출력을 제공할 수 있다. 예를 들어, 출력은 음성, 소리, 경고, 텍스트 메시지, 메뉴, 그래픽, 비디오, 애니메이션, 진동, 및/또는 이들 중 둘 이상의 것들의 조합들로서 제공될 수 있다. 동작 동안, 가상 어시스턴트 클라이언트 모듈(364)은 통신 서브시스템(324)을 사용하여 가상 어시스턴트 서버와 통신할 수 있다.
일부 예들에서, 가상 어시스턴트 클라이언트 모듈(364)은 사용자와 연관된 상황, 현재 사용자 상호작용, 및/또는 현재 사용자 입력을 확립하기 위해 다양한 서브시스템들, 및 주변기기 디바이스들을 이용하여 텔레비전 셋톱 박스(104)의 주위 환경으로부터 추가 정보를 수집할 수 있다. 이러한 상황은 또한 사용자 디바이스(102)로부터와 같은 다른 디바이스들로부터의 정보를 포함할 수 있다. 일부 예들에서, 가상 어시스턴트 클라이언트 모듈(364)은 가상 어시스턴트 서버에 사용자 입력과 함께 상황 정보 또는 그의 서브셋을 제공하여 사용자의 의도를 추론하는 것을 도울 수 있다. 가상 어시스턴트는 또한 상황 정보를 이용하여 어떻게 출력들을 준비하여 사용자에게 전달할 지를 결정할 수 있다. 상황 정보는 정확한 스피치 인식을 지원하기 위해 텔레비전 셋톱 박스(104) 또는 서버 시스템(110)에 의해 추가로 사용될 수 있다.
일부 예들에서, 사용자 입력을 동반하는 상황 정보는 센서 정보, 예컨대 조명, 주변 잡음, 주변 온도, 다른 물체까지의 거리 등을 포함할 수 있다. 상황 정보는 텔레비전 셋톱 박스(104)의 물리적 상태(예컨대, 디바이스 위치, 디바이스 온도, 전력 레벨 등) 또는 텔레비전 셋톱 박스(104)의 소프트웨어 상태(예컨대, 실행 중인 프로세스들, 설치된 애플리케이션들, 과거 및 현재 네트워크 활동들, 백그라운드 서비스들, 에러 로그들, 리소스 사용량 등)와 연관된 정보를 추가로 포함할 수 있다. 상황 정보는 연결된 디바이스 또는 사용자와 연관된 다른 디바이스의 상태와 연관된 정보(예를 들어, 사용자 디바이스(102) 상에 표시된 콘텐츠, 사용자 디바이스(102) 상의 재생가능한 콘텐츠 등)를 추가로 포함할 수 있다. 이러한 유형들의 상황 정보 중 임의의 상황 정보가 사용자 입력과 연관된 상황 정보로서 가상 어시스턴트 서버(114)에 제공(또는 텔레비전 셋톱 박스(104) 자체 상에서 사용)될 수 있다.
일부 예들에서, 가상 어시스턴트 클라이언트 모듈(364)은 가상 어시스턴트 서버(114)로부터의 요청에 응답하여 텔레비전 셋톱 박스(104)에 저장된 정보(예를 들어, 사용자 데이터(366))를 선택적으로 제공할 수 있다(또는 스피치 인식 및/또는 가상 어시스턴트 기능을 실행하는 데 텔레비전 셋톱 박스(104) 자체에서 사용될 수 있음). 가상 어시스턴트 클라이언트 모듈(364)은 또한 가상 어시스턴트 서버(114)에 의한 요청에 따라 자연 언어 대화 또는 기타 사용자 인터페이스들을 통해 사용자로부터 추가 입력을 이끌어낼 수 있다. 가상 어시스턴트 클라이언트 모듈(364)은 가상 어시스턴트 서버(114)에 추가 입력을 전달하여, 사용자 요청에서 표현되는 사용자의 의도의 의도 추론 및/또는 이행 시에 가상 어시스턴트 서버(114)를 도울 수 있다.
다양한 예에서, 메모리(350)는 추가 명령어들 또는 더 적은 명령어들을 포함할 수 있다. 더욱이, 텔레비전 셋톱 박스(104)의 다양한 기능들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로들을 비롯한 하드웨어 및/또는 펌웨어로 구현될 수 있다.
시스템(100) 및 시스템(300)은 도 1 및 도 3에 도시된 컴포넌트 및 구성에 제한되지 않으며, 사용자 디바이스(102), 텔레비전 셋톱 박스(104), 및 원격 제어부(106)는 마찬가지로 도 2 및 도 3에 도시된 컴포넌트 및 구성에 제한되지 않는다는 것을 이해해야 한다. 시스템(100), 시스템(300), 사용자 디바이스(102), 텔레비전 셋톱 박스(104), 및 원격 제어부(106)는 모두 다양한 예에 따라 다수의 구성에서 더 적은 또는 다른 컴포넌트들을 포함할 수 있다.
본 명세서 전반에 걸쳐, "시스템"에 대한 언급은 시스템(100), 시스템(300), 또는 시스템(100) 또는 시스템(300)의 하나 이상의 요소를 포함할 수 있다. 예를 들어, 본 명세서에 언급된 전형적인 시스템은 원격 제어부(106) 및/또는 사용자 디바이스(102)로부터의 사용자 입력을 수신하는 적어도 텔레비전 셋톱 박스(104)를 포함할 수 있다.
또한, 도 4a 내지 도 4e는 스피치 입력 정보를 사용자에게 전달하기 위해 디스플레이(디스플레이(112)와 같은) 상에 보여질 수 있는 예시적인 스피치 입력 인터페이스(484)를 도시한다. 일 예에서, 스피치 입력 인터페이스(484)는 임의의 동영상 또는 일시정지된 비디오를 포함할 수 있는 비디오(480) 위에 보여질 수 있다. 예를 들어, 비디오(480)는 라이브 텔레비전, 재생 중인 비디오, 스트리밍 영화, 녹화된 프로그램의 재생 등을 포함할 수 있다. 스피치 입력 인터페이스(484)는 비디오(480)의 사용자 시청을 크게 간섭하지 않도록 최소량의 공간을 차지하도록 구성될 수 있다.
일 예에서, 가상 어시스턴트는 커맨드 또는 질의를 포함하는 스피치 입력을 청취하도록(또는 후속 처리를 위한 스피치 입력의 녹음을 시작하거나 스피치 입력의 실시간 처리를 시작하기 위해) 트리거될 수 있다. 청취는, 사용자가 원격 제어부(106) 상의 물리적 버튼을 누르는 것, 사용자가 사용자 디바이스(102) 상의 물리적 버튼을 누르는 것, 사용자가 사용자 디바이스(102) 상의 가상 버튼을 누르는 것, 항상 청취 중인 디바이스가 인식할 수 있는 트리거 구절(trigger phrase)을 사용자가 발화하는 것(예컨대, 커맨드를 듣기 시작하도록 "안녕 어시스턴트야"를 발화하는 것), 센서에 의해 감지될 수 있는 제스처를 사용자가 수행하는 것(예컨대, 카메라 앞에서 모션을 취하는 것) 등과 같은 지시(indication)들을 포함하여 다양한 방식으로 트리거될 수 있다. 다른 예에서, 사용자는 청취를 개시하기 위해 원격 제어부(106) 또는 사용자 디바이스(102) 상의 물리적 버튼을 누르고 유지할 수 있다. 또 다른 예들에서, 사용자는 질의 또는 커맨드를 말하는 동안 원격 제어부(106) 또는 사용자 디바이스(102) 상의 물리적 버튼을 누르고 유지할 수 있고, 완료되면 버튼을 누름해제할 수 있다. 마찬가지로, 다양한 다른 지시들이 사용자로부터 스피치 입력의 수신을 개시하기 위해 수신될 수 있다.
스피치 입력을 청취하라는 지시를 수신하는 것에 응답하여, 스피치 입력 인터페이스(484)가 표시될 수 있다. 도 4a는 디스플레이(112)의 하부 부분으로부터 상향으로 확장하는 알림 영역(482)을 도시한다. 스피치 입력 인터페이스(484)는 스피치 입력을 청취하라는 지시를 수신 시에 알림 영역(482)에 표시될 수 있고, 인터페이스는 도시된 바와 같이 디스플레이(112)의 시청 영역의 하부 에지로부터 상향으로 슬라이드하도록 애니메이션화될 수 있다. 도 4b는 시야 내로 상향으로 슬라이드된 후의 스피치 입력 인터페이스(484)를 도시한다. 스피치 입력 인터페이스(484)는 비디오(480)와의 상당한 간섭을 피하기 위해 디스플레이(112)의 하부에서 최소량의 공간을 차지하도록 구성될 수 있다. 스피치 입력을 청취하라는 지시를 수신하는 것에 응답하여, 준비 확인(486)이 표시될 수 있다. 준비 확인(486)은 도시된 바와 같이 마이크로폰 기호를 포함할 수 있거나, 시스템(예를 들어, 시스템(100)의 하나 이상의 요소)이 사용자로부터의 스피치 입력을 캡처할 준비가 되었음을 전달하기 위해 임의의 다른 이미지, 아이콘, 애니메이션, 또는 기호를 포함할 수 있다.
사용자가 말하기 시작하면, 도 4c에 도시된 청취 확인(487)은 시스템이 스피치 입력을 캡처하고 있음을 확인해 주기 위해 표시될 수 있다. 일부 예들에서, 청취 확인(487)은 스피치 입력을 수신하는 것(예를 들어, 스피치를 캡처링)에 응답하여 표시될 수 있다. 다른 예들에서, 준비 확인(486)은 청취 확인(487)이 그 후에 표시될 수 있는 미리결정된 시간량(예를 들어, 500 밀리초, 1 초, 3 초 등) 동안 표시될 수 있다. 청취 확인(487)은 도시된 바와 같은 파형 기호를 포함할 수 있거나, 사용자 스피치에 응답하여 이동하는(예를 들어, 주파수를 변경하는) 액티브 파형 애니메이션을 포함할 수 있다. 다른 예들에서, 청취 확인(487)은 시스템이 사용자로부터 스피치 입력을 캡처하고 있음을 전달하기 위해 임의의 다른 이미지, 아이콘, 애니메이션, 또는 기호를 포함할 수 있다.
사용자가 말하기를 완료한 것을 검출 시에(예를 들어, 일시정지, 질의의 종료를 나타내는 스피치 해석, 또는 임의의 다른 종점 검출 방법에 기초하여), 도 4d에 도시된 처리 확인(488)은 시스템이 스피치 입력을 캡처하는 것을 완료하고 스피치 입력을 처리하고 있음(예를 들어, 스피치 입력을 해석하는 것, 사용자 의도를 결정하는 것 및/또는 관련 태스크들을 실행하는 것)을 확인해 주기 위해 표시될 수 있다. 처리 확인(488)은 도시된 바와 같이 모래 시계 기호를 포함할 수 있거나, 시스템이 캡처된 스피치 입력을 처리하고 있음을 전달하기 위해 임의의 다른 이미지, 아이콘, 애니메이션, 또는 기호를 포함할 수 있다. 다른 예에서, 처리 확인(488)은 회전하는 원 또는 원 주위를 움직이는 컬러/발광 지점의 애니메이션을 포함할 수 있다.
캡처된 스피치 입력이 텍스트로서 해석된 후에(또는 스피치 입력을 텍스트로 성공적으로 변환한 것에 응답하여), 도 4e에 도시된 커맨드 수신 확인(490) 및/또는 전사(492)는 시스템이 스피치 입력을 수신하고 해석했음을 확인해 주기 위해 표시될 수 있다. 전사(492)는 수신된 스피치 입력의 전사를 포함할 수 있다(예를 들어, "지금 어떤 스포츠 이벤트를 하고 있어?"). 일부 예들에서, 전사(492)는 디스플레이(112)의 하부로부터 슬라이드 업하도록 애니메이션화될 수 있고, 도 4e에 도시된 위치에서 순간적으로 표시될 수 있으며(예를 들어, 수 초), 이어서 시야로부터 사라지기 전에 스피치 입력 인터페이스(484)의 상단까지 슬라이드 업될 수 있다(예를 들어, 텍스트가 스크롤 업되어서 결국 보이지 않는 것처럼). 다른 예들에서, 전사는 표시되지 않을 수도 있고, 사용자의 커맨드 또는 질의가 처리될 수 있으며, 관련 태스크들은 전사를 표시하지 않고서 실행될 수 있다(예를 들어, 단순한 채널 변경은 사용자의 스피치의 전사를 표시하지 않으면서 즉시 실행될 수 있음).
다른 예들에서, 스피치 전사는 사용자가 말하는 동안 실시간으로 수행될 수 있다. 단어가 전사되는 동안, 그것들이 스피치 입력 인터페이스(484)에 표시될 수 있다. 예를 들어, 청취 확인(487)과 함께 단어들이 표시될 수 있다. 사용자가 말하기를 완료한 후에, 커맨드 수신 확인(490)은 사용자의 커맨드와 관련 태스크들을 실행하기 전에 잠깐 표시될 수 있다.
또한, 다른 예들에서, 커맨드 수신 확인(490)은 수신되고 이해된 커맨드에 관한 정보를 전달할 수 있다. 예를 들어, 다른 채널로 변경하라는 간단한 요청에 대해, 채널이 변경됨에 따라 채널과 연관된 로고 또는 숫자가 커맨드 수신 확인(490)으로서 잠시 표시될 수 있다(예컨대, 몇 초 동안). 다른 예에서, 비디오(예컨대, 비디오(480))를 일시정지하라는 요청에 대해, 일시정지 기호(예를 들어, 2개의 수직의 평행한 바)가 커맨드 수신 확인(490)으로서 표시될 수 있다. 일시정지 기호는 예를 들어 사용자가 다른 동작(예를 들어, 재생 커맨드를 발행하여 재생을 재개하는 것)을 수행할 때까지 디스플레이 상에 남아있을 수 있다. 기호, 로고, 애니메이션 등은 임의의 다른 커맨드(예를 들어, 되감기, 빨리감기, 정지, 재생 등을 위한 기호들)에 대해서도 마찬가지로 표시될 수 있다. 따라서, 커맨드 수신 확인(490)은 커맨드-특정 정보를 전달하는 데 사용될 수 있다.
일부 예들에서, 스피치 입력 인터페이스(484)는 사용자 질의 또는 커맨드의 수신 후에 숨겨질 수 있다. 예를 들어, 스피치 입력 인터페이스(484)는 디스플레이(112)의 하부에서 보이지 않을 때까지 하향으로 슬라이드되는 것처럼 애니메이션화될 수 있다. 스피치 입력 인터페이스(484)는 추가 정보가 사용자에게 표시될 필요가 없는 경우에 숨겨질 수 있다. 예를 들어, 공통 커맨드 또는 직접 커맨드(예를 들어, 채널 10으로 변경, 스포츠 채널로 변경, 재생, 일시정지, 빨리감기, 뒤로감기 등)에 대해, 커맨드 수신을 확인해 준 직후에 스피치 입력 인터페이스(484)가 숨겨질 수 있고, 관련 태스크 또는 태스크들이 즉시 수행될 수 있다. 본 명세서의 다양한 예가 디스플레이의 하부 또는 상부 에지에서의 인터페이스를 도시하고 설명하지만, 다양한 인터페이스 중 임의의 인터페이스가 디스플레이 주위의 다른 위치들에 위치설정될 수 있음을 이해해야 한다. 예를 들어, 스피치 입력 인터페이스(484)는 디스플레이(112)의 측면 에지, 디스플레이(112)의 중심, 디스플레이(112)의 코너 등에 나타날 수 있다. 유사하게, 본 명세서에 기술된 다양한 다른 인터페이스 예는 디스플레이 상의 다양한 상이한 위치에서 다양한 상이한 방향으로 배열될 수 있다. 게다가, 본 명세서에 설명된 다양한 인터페이스가 불투명하게 도시되어 있지만, 다양한 인터페이스 중 임의의 인터페이스는 투명하거나 그렇지 않으면 인터페이스를 통해 이미지(흐려지거나 전체)가 보여지는 것을 허용할 수 있다(예를 들어, 밑에 있는 미디어 콘텐츠를 완전히 불투명하게 하지 않고서 미디어 콘텐츠 상에 인터페이스 콘텐츠를 중첩하는 것).
다른 예들에서, 질의의 결과는 스피치 입력 인터페이스(484) 내에 또는 다른 인터페이스에 표시될 수 있다. 도 5는 도 4e의 전사된 질의의 예시적인 결과를 갖는, 비디오(480) 위의 예시적인 미디어 콘텐츠 인터페이스(510)를 도시한다. 일부 예들에서, 가상 어시스턴트 질의의 결과는 텍스트 콘텐츠 대신에 또는 텍스트 콘텐츠에 부가하여 미디어 콘텐츠를 포함할 수 있다. 예를 들어, 가상 어시스턴트 질의의 결과는 텔레비전 프로그램, 비디오, 음악 등을 포함할 수 있다. 일부 결과는 즉시 재생할 수 있는 미디어가 포함될 수 있는 반면, 다른 결과는 구매할 수 있는 미디어 등을 포함할 수 있다.
도시된 바와 같이, 미디어 콘텐츠 인터페이스(510)는 스피치 입력 인터페이스(484)보다 큰 크기일 수 있다. 일 예에서, 스피치 입력 인터페이스(484)는 스피치 입력 정보를 수용하기 위해 더 작은 제1 크기일 수 있는 반면, 미디어 콘텐츠 인터페이스(510)는 텍스트, 정지 이미지, 및 동영상을 포함할 수 있는 질의 결과를 수용하기 위해 더 큰 제2 크기일 수 있다. 이러한 방식으로, 가상 어시스턴트 정보를 전달하기 위한 인터페이스들은 전달될 콘텐츠에 따라 크기가 조절됨으로써, 스크린 공간 침입을 제한할 수 있다(예를 들어, 비디오(480)와 같은 다른 콘텐츠를 최소한으로 차단).
도시된 바와 같이, 미디어 콘텐츠 인터페이스(510)는 (가상 어시스턴트 질의의 결과로서) 선택가능한 비디오 링크들(512), 선택가능한 텍스트 링크들(514), 및 추가 콘텐츠 링크(513)를 포함할 수 있다. 일부 예들에서, 링크는 포커스, 커서 등을 특정 요소로 내비게이팅하고 그것을 원격 제어부(예컨대, 원격 제어부(106))를 사용하여 선택함으로써 선택될 수 있다. 다른 예들에서, 가상 어시스턴트에 대한 음성 커맨드를 사용하여 링크가 선택될 수 있다(예를 들어, 그 축구 경기를 시청하고, 농구 경기에 관한 상세 사항을 보여주는 것 등). 선택가능한 비디오 링크(512)는 정지 이미지 또는 동영상을 포함할 수 있으며, 관련 비디오의 재생을 야기하도록 선택가능할 수 있다. 일 예에서, 선택가능한 비디오 링크(512)는 관련 비디오 콘텐츠의 재생 중인 비디오를 포함할 수 있다. 다른 예에서, 선택가능한 비디오 링크(512)는 텔레비전 채널의 라이브 피드(live feed)를 포함할 수 있다. 예를 들어, 선택가능한 비디오 링크(512)는 현재 텔레비전 상에 있는 스포츠 이벤트에 관한 가상 어시스턴트 질의의 결과로서 스포츠 채널 상에 축구 경기의 라이브 피드를 포함할 수 있다. 선택가능한 비디오 링크(512)는 또한 임의의 다른 비디오, 애니메이션, 이미지 등(예를 들어, 삼각형 재생 기호)을 포함할 수 있다. 또한, 링크(512)는 영화, 텔레비전 쇼, 스포츠 이벤트, 음악 등과 같은 임의의 유형의 미디어 콘텐츠에 연결될 수 있다.
선택가능한 텍스트 링크(514)는 선택가능한 비디오 링크(512)와 연관된 텍스트 콘텐츠를 포함할 수 있거나 가상 어시스턴트 질의의 결과들의 텍스트 표현들을 포함할 수 있다. 일 예에서, 선택가능한 텍스트 링크(514)는 가상 어시스턴트 질의에 기인한 미디어의 설명을 포함할 수 있다. 예를 들어, 선택가능한 텍스트 링크(514)는 텔레비전 프로그램의 이름, 영화의 제목, 스포츠 이벤트의 설명, 텔레비전 채널 이름 또는 번호 등을 포함할 수 있다. 일 예에서, 텍스트 링크(514)의 선택은 관련 미디어 콘텐츠의 재생을 야기할 수 있다. 다른 예에서, 텍스트 링크(514)의 선택은 미디어 콘텐츠 또는 다른 가상 어시스턴트 질의 결과에 대한 추가적인 상세한 정보를 제공할 수 있다. 추가 콘텐츠 링크(513)는 가상 어시스턴트 질의의 추가 결과에 연결될 수 있고 추가 결과의 표시를 야기할 수 있다.
특정 미디어 콘텐츠 예들이 도 5에 도시되어 있지만, 임의의 유형의 미디어 콘텐츠가 미디어 콘텐츠에 대한 가상 어시스턴트 질의의 결과로서 포함될 수 있음을 이해해야 한다. 예를 들어, 가상 어시스턴트의 결과로서 반환될 수 있는 미디어 콘텐츠는 비디오, 텔레비전 프로그램, 음악, 텔레비전 채널 등을 포함할 수 있다. 또한, 일부 예들에서, 카테고리형 필터는 사용자가 검색 또는 질의 결과 또는 표시된 미디어 옵션들을 필터링하게 하도록 본 명세서의 인터페이스들 중 임의의 인터페이스에 제공될 수 있다. 예를 들어, 선택가능한 필터는 유형별 결과(예컨대, 영화, 음악 앨범, 책, 텔레비전 쇼 등)를 필터링하기 위해 제공될 수 있다. 다른 예들에서, 선택가능한 필터는 장르 또는 콘텐츠 기술자(예컨대, 코미디, 인터뷰, 특정 프로그램 등)를 포함할 수 있다. 또 다른 예들에서, 선택가능한 필터는 시간(예컨대, 이번 주, 지난 주, 작년 등)을 포함할 수 있다. 사용자가 표시된 콘텐츠와 관련된 카테고리에 기초하여 결과를 필터링할 수 있도록 하기 위해 본 명세서에 설명된 다양한 인터페이스들 중 임의의 인터페이스에 필터들이 제공될 수 있음을 이해해야 한다(예를 들어, 미디어 결과가 다양한 유형을 갖는 유형별로 필터링, 미디어 결과가 다양한 장르를 갖는 장르별 필터링, 미디어 결과가 다양한 시간을 갖는 시간별 필터링 등).
다른 예들에서, 미디어 콘텐츠 인터페이스(510)는 미디어 콘텐츠 결과들에 부가하여 질의의 패러프레이즈를 포함할 수 있다. 예를 들어, 사용자의 질의의 패러프레이즈는 미디어 콘텐츠 결과 위에(선택가능한 비디오 링크(512) 및 선택가능한 텍스트 링크(514) 위에) 표시될 수 있다. 도 5의 예에서, 사용자의 질의의 이러한 패러프레이즈는 다음을 포함할 수 있다: "여기 지금 하고 있는 스포츠 이벤트가 몇 개 있습니다". 미디어 콘텐츠 결과를 소개하는 다른 텍스트도 마찬가지로 표시될 수 있다.
일부 예들에서, 인터페이스(510)를 포함하는 임의의 인터페이스를 표시한 후에, 사용자는 (이전 질의와 관련될 수도 있고 그렇지 않을 수도 있는) 새로운 질의를 이용하여 추가 스피치 입력의 캡처를 개시할 수 있다. 사용자 질의는 비디오 링크(512)를 선택하라는 커맨드와 같은 인터페이스 요소들에 작용하는 커맨드들을 포함할 수 있다. 다른 예에서, 사용자 스피치는 표시된 메뉴 정보, 재생 중인 비디오(예컨대, 비디오(480)) 등과 같은 표시된 콘텐츠와 연관된 질의를 포함할 수 있다. 보여지는 정보(예를 들어, 표시된 텍스트) 및/또는 표시된 콘텐츠와 연관된 메타데이터(예를 들어, 재생 중인 비디오와 연관된 메타데이터)에 기초하여 이러한 질의에 대한 응답이 결정될 수 있다. 예를 들어, 사용자는 인터페이스(예컨대, 인터페이스(510))에 보여지는 미디어 결과에 대해 질문할 수 있고, 그 미디어와 연관된 메타데이터가 검색되어 답변 또는 결과를 제공할 수 있다. 이어서, 그러한 답변 또는 결과는 다른 인터페이스에 또는 동일한 인터페이스 내에(예를 들어, 본 명세서에서 논의된 인터페이스들 중 임의의 인터페이스 내에) 제공될 수 있다.
상술한 바와 같이, 일 예에서, 미디어 콘텐츠에 대한 추가적인 상세한 정보는 텍스트 링크(514)의 선택에 응답하여 표시될 수 있다. 또한, 도 6a 및 도 6b는 텍스트 링크(514)의 선택 후의 비디오(480) 위의 예시적인 미디어 상세 인터페이스(618)를 도시한다. 일 예에서, 추가적인 상세한 정보를 제공하는데 있어서, 미디어 콘텐츠 인터페이스(510)는 도 6a의 인터페이스 확장 전환(616)에 의해 도시된 바와 같이 미디어 상세 인터페이스(618)로 확장될 수 있다. 특히, 도 6a에 도시된 바와 같이, 선택된 콘텐츠는 크기가 확장될 수 있고, 디스플레이(112) 상에서 인터페이스를 상향으로 확장시킴으로써 추가 텍스트 정보가 제공되어 더 많은 스크린 공간을 차지할 수 있다. 인터페이스는 사용자가 원하는 추가적인 상세한 정보를 수용하도록 확장될 수 있다. 이러한 방식으로, 인터페이스의 크기는 사용자가 원하는 콘텐츠의 양에 따라 조정될 수 있고, 그에 따라 원하는 콘텐츠를 여전히 전달하면서 스크린 공간 침입을 최소화할 수 있다.
도 6b는 완전 확장 후의 상세 인터페이스(618)를 도시한다. 도시된 바와 같이, 상세 인터페이스(618)는 원하는 상세한 정보를 수용하기 위해 미디어 콘텐츠 인터페이스(510) 또는 스피치 입력 인터페이스(484)보다 큰 크기일 수 있다. 상세 인터페이스(618)는 미디어 콘텐츠 또는 가상 어시스턴트 질의의 다른 결과와 연관된 다양한 상세한 정보를 포함할 수 있는 상세한 미디어 정보(622)를 포함할 수 있다. 상세한 미디어 정보(622)는 프로그램 제목, 프로그램 설명, 프로그램 방송 시간, 채널, 에피소드 시놉시스, 영화 설명, 배우 이름, 캐릭터 이름, 스포츠 이벤트 참가자, 제작자 이름, 감독 이름, 또는 가상 어시스턴트 질의의 결과와 연관된 임의의 다른 상세한 정보를 포함할 수 있다.
일 예에서, 상세 인터페이스(618)는 대응하는 선택가능한 비디오 링크(512)의 더 큰 버전을 포함할 수 있는 선택가능한 비디오 링크(620)(또는 미디어 콘텐츠를 재생하기 위한 다른 링크)를 포함할 수 있다. 이와 같이, 선택가능한 비디오 링크(620)는 정지 이미지 또는 동영상을 포함할 수 있으며, 관련 비디오의 재생을 야기하도록 선택될 수 있다. 선택가능한 비디오 링크(620)는 관련 비디오 콘텐츠의 재생 중인 비디오, 텔레비전 채널의 라이브 피드(예를 들어, 스포츠 채널 상의 축구 경기의 라이브 피드) 등을 포함할 수 있다. 선택가능한 비디오 링크(620)는 또한 임의의 다른 비디오, 애니메이션, 이미지 등(예를 들어, 삼각형 재생 기호)을 포함할 수 있다.
상술한 바와 같이, 비디오는 비디오 링크(620) 또는 비디오 링크(512)와 같은 비디오 링크의 선택에 응답하여 재생될 수 있다. 도 7a 및 도 7b는 비디오 링크의 선택(또는 비디오 콘텐츠를 재생하라는 다른 커맨드)에 응답하여 표시될 수 있는 예시적인 미디어 전환 인터페이스를 도시한다. 도시된 바와 같이, 비디오(480)는 비디오(726)로 대체될 수 있다. 일 예에서, 비디오(726)는 도 7a의 인터페이스 확장 전환(724)에 의해 도시된 바와 같이 비디오(480)를 추월하거나 커버하도록 확장될 수 있다. 전환의 결과는 도 7b의 확장된 미디어 인터페이스(728)를 포함할 수 있다. 다른 인터페이스와 마찬가지로, 확장된 미디어 인터페이스(728)의 크기는 사용자에게 원하는 정보를 제공하기에 충분할 수 있고; 여기서 디스플레이(112)를 채우도록 확장하는 것을 포함할 수 있다. 따라서, 확장된 미디어 인터페이스(728)는 원하는 정보가 전체 디스플레이에 걸쳐 미디어 콘텐츠를 재생하는 것을 포함할 수 있기 때문에 임의의 다른 인터페이스보다 클 수 있다. 도시되지는 않았지만, 일부 예들에서, 서술적 정보가 비디오(726) 상에 잠시 중첩될 수 있다(예를 들어, 스크린의 하부를 따라). 이러한 서술적 정보는 관련 프로그램, 비디오, 채널 등의 이름을 포함할 수 있다. 이어서, 서술적 정보는 시야로부터 숨겨질 수 있다(예컨대, 몇 초 후).
또한, 도 8a 및 도 8b는 스피치 입력 정보를 사용자에게 전달하기 위해 디스플레이(112) 상에 보여질 수 있는 예시적인 스피치 입력 인터페이스(836)를 도시한다. 일 예에서, 스피치 입력 인터페이스(836)는 메뉴(830) 위에 보여질 수 있다. 메뉴(830)는 다양한 미디어 옵션(832)을 포함할 수 있고, 스피치 입력 인터페이스(836)는 임의의 다른 유형의 메뉴(예를 들어, 콘텐츠 메뉴, 카테고리 메뉴, 제어 메뉴, 설정 메뉴, 프로그램 메뉴 등)를 통해 유사하게 표시될 수 있다. 일 예에서, 스피치 입력 인터페이스(836)는 디스플레이(112)의 상대적으로 많은 양의 스크린 공간을 차지하도록 구성될 수 있다. 예를 들어, 스피치 입력 인터페이스(836)는 위에서 논의된 스피치 입력 인터페이스(484)보다 클 수 있다. 일 예에서, 사용할 스피치 입력 인터페이스의 크기(예를 들어, 더 작은 인터페이스(484) 또는 더 큰 인터페이스(836))는 백그라운드 콘텐츠에 기초하여 결정될 수 있다. 백그라운드 콘텐츠가 동영상을 포함할 때, 예를 들어, 작은 크기의 스피치 입력 인터페이스가 표시될 수 있다(예를 들어, 인터페이스(484)). 반면에, 백그라운드 콘텐츠가 정지 이미지(예를 들어, 일시정지된 비디오) 또는 메뉴를 포함할 때, 예를 들어, 큰 크기의 스피치 입력 인터페이스가 표시될 수 있다(예를 들어, 인터페이스(836)). 이러한 방식으로, 사용자가 비디오 콘텐츠를 시청하고 있는 경우, 스크린 공간에 최소한으로만 침입하는 더 작은 스피치 입력 인터페이스가 표시될 수 있는 반면; 사용자가 메뉴를 내비게이팅하거나 일시정지된 비디오 또는 다른 정지 이미지를 보고 있는 경우, 추가 공간을 차지함으로써 더 많은 정보를 전달하거나 더 큰 영향을 줄 수 있는 더 큰 스피치 입력 인터페이스가 표시될 수 있다. 본 명세서에서 논의된 다른 인터페이스들은 마찬가지로 그라운드 콘텐츠에 기초하여 상이하게 크기조정될 수 있다.
위에서 논의된 바와 같이, 가상 어시스턴트는 커맨드 또는 질의를 포함하는 스피치 입력을 청취하도록(또는 후속 처리를 위한 스피치 입력의 녹음을 시작하거나 스피치 입력의 실시간 처리를 시작하기 위해) 트리거될 수 있다. 청취는, 사용자가 원격 제어부(106) 상의 물리적 버튼을 누르는 것, 사용자가 사용자 디바이스(102) 상의 물리적 버튼을 누르는 것, 사용자가 사용자 디바이스(102) 상의 가상 버튼을 누르는 것, 항상 청취 중인 디바이스가 인식할 수 있는 트리거 구절을 사용자가 발화하는 것(예컨대, 커맨드를 듣기 시작하도록 "안녕 어시스턴트야"를 발화하는 것), 센서에 의해 감지될 수 있는 제스처를 사용자가 수행하는 것(예컨대, 카메라 앞에서 모션을 취하는 것) 등과 같은 지시들을 포함하여 다양한 방식으로 트리거될 수 있다. 다른 예에서, 사용자는 청취를 개시하기 위해 원격 제어부(106) 또는 사용자 디바이스(102) 상의 물리적 버튼을 누르고 유지할 수 있다. 또 다른 예들에서, 사용자는 질의 또는 커맨드를 말하는 동안 원격 제어부(106) 또는 사용자 디바이스(102) 상의 물리적 버튼을 누르고 유지할 수 있고, 완료되면 버튼을 누름해제할 수 있다. 마찬가지로, 다양한 다른 지시들이 사용자로부터 스피치 입력의 수신을 개시하기 위해 수신될 수 있다.
스피치 입력을 청취하라는 지시를 수신하는 것에 응답하여, 스피치 입력 인터페이스(836)가 메뉴(830)에 걸쳐 표시될 수 있다. 도 8a는 디스플레이(112)의 하부 부분으로부터 상향으로 확장하는 큰 알림 영역(834)을 도시한다. 스피치 입력 인터페이스(836)는 스피치 입력을 청취하라는 지시를 수신 시에 큰 알림 영역(834)에 표시될 수 있고, 인터페이스는 도시된 바와 같이 디스플레이(112)의 시청 영역의 하부 에지로부터 상향으로 슬라이드하도록 애니메이션화될 수 있다. 일부 예들에서, 중첩 인터페이스가 표시됨에 따라(예를 들어, 스피치 입력을 청취하라는 지시를 수신하는 것에 응답하여) 백그라운드 메뉴, 일시정지된 비디오, 정지 이미지, 또는 다른 백그라운드 콘텐츠가 z 방향으로 수축되고/되거나 후방으로 이동될 수 있다(예를 들어, 디스플레이(112) 내로 더 멀어지는 것처럼). 백그라운드 인터페이스 수축 전환(831) 및 관련 내향 화살표는 백그라운드 콘텐츠(예를 들어, 메뉴(830))가 어떻게 수축될 수 있는지 - 표시된 메뉴, 이미지, 텍스트 등을 축소시키는지 - 를 도시한다. 이는 새로운 포어그라운드 인터페이스(예컨대, 인터페이스(836))를 방해하지 않는, 사용자로부터 멀리 이동하는 것처럼 보이는 백그라운드 콘텐츠의 시각적 효과를 제공할 수 있다. 도 8b는 축소된(수축된) 버전의 메뉴(830)를 포함하는 축소된 백그라운드 인터페이스(833)를 도시한다. 도시된 바와 같이, (경계를 포함할 수 있는) 축소된 백그라운드 인터페이스(833)는 포어그라운드 인터페이스(836)에 포커스를 맞추면서 사용자로부터 멀어지는 것으로 보일 수 있다. 본 명세서에서 논의된 다른 예들 중 임의의 예의 백그라운드 콘텐츠(백그라운드 비디오 콘텐츠를 포함)는 중첩하는 인터페이스들이 표시되는 동안 유사하게 축소되고/되거나 z 방향으로 후방으로 이동될 수 있다.
도 8b는 시야 내로 상향으로 슬라이드된 후의 스피치 입력 인터페이스(836)를 도시한다. 위에서 논의된 바와 같이, 스피치 입력을 수신하는 동안 다양한 확인이 표시될 수 있다. 여기에 도시되지는 않았지만, 스피치 입력 인터페이스(836)는 유사하게 도 4b, 도 4c 및 도 4d를 참조하여 위에서 논의된 스피치 입력 인터페이스(484)와 유사한 방식으로 준비 확인(486), 청취 확인(487), 및/또는 처리 확인(488)의 더 큰 버전들을 각각 표시할 수 있다.
도 8b에 도시된 바와 같이, 커맨드 수신 확인(838)은 시스템이 음성 입력을 수신하고 해석했음을 확인해 주기 위해 (위에서 논의된 더 작은 크기의 커맨드 수신 확인(490)과 같이) 보여질 수 있다. 전사(840)가 또한 보여질 수 있고, 수신된 스피치 입력의 전사를 포함할 수 있다(예를 들어, "뉴욕의 날씨는 어때?"). 일부 예들에서, 전사(840)는 디스플레이(112)의 하부로부터 슬라이드 업하도록 애니메이션화될 수 있고, 도 8b에 도시된 위치에서 순간적으로 표시될 수 있으며(예를 들어, 수 초), 이어서 시야로부터 사라지기 전에 스피치 입력 인터페이스(836)의 상단까지 슬라이드 업될 수 있다(예를 들어, 텍스트가 스크롤 업되어서 결국 보이지 않는 것처럼). 다른 예들에서는, 전사가 표시되지 않을 수 있고, 사용자의 커맨드 또는 질의가 처리될 수 있으며 전사를 표시하지 않고서 관련 태스크가 실행될 수 있다.
다른 예들에서, 스피치 전사는 사용자가 말하는 동안 실시간으로 수행될 수 있다. 단어가 전사되는 동안, 그것들이 스피치 입력 인터페이스(836)에 표시될 수 있다. 예를 들어, 단어들은 위에서 논의된 청취 확인(487)의 더 큰 버전과 함께 표시될 수 있다. 사용자가 말하기를 완료한 후에, 커맨드 수신 확인(838)은 사용자의 커맨드와 연관된 태스크를 실행하기 전에 잠깐 표시될 수 있다.
또한, 다른 예들에서, 커맨드 수신 확인(838)은 수신되고 이해된 커맨드에 관한 정보를 전달할 수 있다. 예를 들어, 특정 채널에 튜닝하라는 간단한 요청에 대해, 채널이 튜닝됨에 따라 채널과 연관된 로고 또는 숫자가 커맨드 수신 확인(838)으로서 잠시 표시될 수 있다(예컨대, 몇 초 동안). 다른 예에서, 표시된 메뉴 항목(예를 들어, 미디어 옵션들(832) 중 하나)을 선택하라는 요청에 대해, 선택된 메뉴 항목과 연관된 이미지는 커맨드 수신 확인(838)으로서 표시될 수 있다. 따라서, 커맨드 수신 확인(838)은 커맨드-특정 정보를 전달하는 데 사용될 수 있다.
일부 예들에서, 스피치 입력 인터페이스(836)는 사용자 질의 또는 커맨드의 수신 후에 숨겨질 수 있다. 예를 들어, 스피치 입력 인터페이스(836)는 디스플레이(112)의 하부에서 보이지 않을 때까지 하향으로 슬라이드되는 것처럼 애니메이션화될 수 있다. 스피치 입력 인터페이스(836)는 추가 정보가 사용자에게 표시될 필요가 없는 경우에 숨겨질 수 있다. 예를 들어, 공통 커맨드 또는 직접 커맨드(예를 들어, 채널 10으로 변경, 스포츠 채널로 변경, 그 영화를 재생 등)에 대해, 커맨드 수신을 확인해 준 직후에 스피치 입력 인터페이스(836)가 숨겨질 수 있고, 관련 태스크 또는 태스크들이 즉시 수행될 수 있다.
다른 예들에서, 질의의 결과는 스피치 입력 인터페이스(836) 내에 또는 상이한 인터페이스에 표시될 수 있다. 도 9는 도 8b의 전사된 질의의 예시적인 결과를 갖는 메뉴(830) 위에(특히, 축소된 백그라운드 인터페이스(833) 위에) 예시적인 가상 어시스턴트 결과 인터페이스(942)를 도시한다. 일부 예들에서, 가상 어시스턴트 질의의 결과는 텍스트 답변(944)과 같은 텍스트 답변을 포함할 수 있다. 가상 어시스턴트 질의의 결과는 선택가능한 비디오 링크(946) 및 구매 링크(948)와 연관된 콘텐츠와 같은 사용자의 질의를 처리하는 미디어 콘텐츠를 또한 포함할 수 있다. 특히, 이 예에서, 사용자는 뉴욕의 지정된 위치에 대한 기상 정보를 요청할 수 있다. 가상 어시스턴트는 사용자의 질의에 직접 답변하는 텍스트 답변(944)을 제공할 수 있다(예를 들어, 날씨가 좋음을 나타내고 온도 정보를 제공함). 텍스트 답변(944) 대신에 또는 그에 부가하여, 가상 어시스턴트는 구매 링크(948) 및 관련 텍스트와 함께 선택가능한 비디오 링크(946)를 제공할 수 있다. 링크들(946 및 948)과 연관된 미디어는 또한 사용자의 질의에 대한 응답을 제공할 수 있다. 여기서, 링크들(946, 948)과 연관된 미디어는 지정된 위치에서의 기상 정보 - 구체적으로, 일기 예보 채널이라 불리는 텔레비전 채널로부터 뉴욕에 대한 5일간의 일기 예보의 10분짜리 클립을 포함할 수 있다.
일 예에서, 사용자의 질의를 처리하는 클립은 (녹화로부터 또는 스트리밍 서비스로부터 이용가능할 수 있는) 이전에 방영된 콘텐츠의 시간-큐된(time-cued) 부분을 포함할 수 있다. 일 예에서, 가상 어시스턴트는 스피치 입력과 연관된 사용자 의도에 기초하여 그리고 이용가능한 미디어 콘텐츠에 관한 상세한 정보를 검색함으로써 그러한 콘텐츠를 식별할 수 있다(예를 들어, 스트리밍 콘텐츠에 관한 상세한 정보 또한 상세한 타이밍 정보와 함께 녹화된 프로그램들에 대한 메타데이터를 포함함). 일부 예들에서, 사용자는 특정 콘텐츠에 대한 액세스 권한이 없거나 구독하지 않을 수 있다. 그러한 경우에, 콘텐츠는 예컨대, 구매 링크(948)를 통해, 구매를 위해 제공될 수 있다. 콘텐츠의 비용은 구매 링크(948) 또는 비디오 링크(946)의 선택 시에 사용자 계정으로부터 자동으로 출금되거나 사용자 계정으로 청구될 수 있다.
도 10은 가상 어시스턴트를 사용하여 텔레비전 상호작용을 제어하고 상이한 인터페이스들을 사용하여 관련 정보를 표시하기 위한 예시적인 프로세스(1000)를 도시한다. 블록(1002)에서, 스피치 입력이 사용자로부터 수신될 수 있다. 예를 들어, 스피치 입력은 시스템(100)의 사용자 디바이스(102) 또는 원격 제어부(106)에서 수신될 수 있다. 일부 예들에서, 스피치 입력(또는 스피치 입력의 일부 또는 전부의 데이터 표현)은 서버 시스템(110) 및/또는 텔레비전 셋톱 박스(104)에 의해 송신되고 수신될 수 있다. 스피치 입력의 수신을 개시하는 사용자에 응답하여, 다양한 알림이 디스플레이(디스플레이(112)와 같은) 상에 표시될 수 있다. 예를 들어, 준비 확인, 청취 확인, 처리 확인, 및/또는 커맨드 수신 확인은 도 4a 내지 도 4e를 참조하여 위에서 논의된 바와 같이 표시될 수 있다. 또한, 수신된 사용자 스피치 입력이 전사될 수 있고, 전사가 표시될 수 있다.
도 10의 프로세스(1000)를 다시 참조하면, 블록(1004)에서, 미디어 콘텐츠는 스피치 입력에 기초하여 결정될 수 있다. 예를 들어, 가상 어시스턴트로 지향된 사용자 질의를 처리하는 미디어 콘텐츠가 결정될 수 있다(예를 들어, 이용가능한 미디어 콘텐츠 등을 검색함으로써). 예를 들어, 미디어 콘텐츠는 도 4e의 전사(492)와 관련하여 결정될 수 있다("지금 어떤 스포츠 이벤트를 하고 있어?"). 이러한 미디어 콘텐츠는 시청을 위해 사용자가 이용할 수 있는 하나 이상의 텔레비전 채널 상에 보여지는 라이브 스포츠 이벤트를 포함할 수 있다.
블록(1006)에서, 선택가능한 미디어 링크들을 갖는 제1 크기의 제1 사용자 인터페이스가 표시될 수 있다. 예를 들어, 선택가능한 비디오 링크들(512) 및 선택가능한 텍스트 링크들(514)을 갖는 미디어 콘텐츠 인터페이스(510)는 도 5에 도시된 바와 같이 디스플레이(112) 상에 표시될 수 있다. 위에서 논의된 바와 같이, 미디어 콘텐츠 인터페이스(510)는 백그라운드 비디오 콘텐츠와의 간섭을 피하기 위해 더 작은 크기일 수 있다.
블록(1008)에서, 링크들 중 하나의 링크의 선택이 수신될 수 있다. 예를 들어, 링크들(512) 및/또는 링크들(514) 중 하나의 링크의 선택이 수신될 수 있다. 블록(1010)에서, 선택과 연관된 미디어 콘텐츠를 갖는 더 큰 제2 크기의 제2 사용자 인터페이스가 표시될 수 있다. 예를 들어, 선택가능한 비디오 링크(620) 및 상세한 미디어 정보(622)를 갖는 상세 인터페이스(618)는 도 6b에 도시된 바와 같이 표시될 수 있다. 위에서 논의된 바와 같이, 상세 인터페이스(618)는 원하는 추가적인 상세한 미디어 정보를 전달하기 위해 더 큰 크기일 수 있다. 유사하게, 비디오 링크(620)의 선택 시에, 확장된 미디어 인터페이스(728)는 도 7b에 도시된 바와 같이 비디오(726)와 함께 표시될 수 있다. 위에서 논의된 바와 같이, 확장된 미디어 인터페이스(728)는 원하는 미디어 콘텐츠를 여전히 사용자에게 제공하기 위해 더 큰 크기일 수 있다. 이러한 방식으로, 본 명세서에서 논의된 다양한 인터페이스는 그렇지 않으면 제한된 스크린 공간을 차지하면서 원하는 콘텐츠를 수용하도록 크기조정될 수 있다(더 큰 크기의 인터페이스로 확장하는 것 또는 더 작은 크기의 인터페이스로 축소하는 것을 포함함). 따라서, 프로세스(1000)는 가상 어시스턴트를 사용하여 텔레비전 상호작용을 제어하고 상이한 인터페이스들을 사용하여 관련 정보를 표시하는 데 사용될 수 있다.
다른 예에서, 더 큰 크기의 인터페이스는 백그라운드 비디오 콘텐츠 위보다 제어 메뉴 위에 표시될 수 있다. 예를 들어, 스피치 입력 인터페이스(836)는 도 8b에 도시된 바와 같이 메뉴(830) 위에 표시될 수 있고, 어시스턴트 결과 인터페이스(942)는 도 9에 도시된 바와 같이 메뉴(830) 상에 표시될 수 있는 반면, 더 작은 미디어 콘텐츠 인터페이스(510)는 도 5에 도시된 바와 같이 비디오(480) 위에 표시될 수 있다. 이러한 방식으로, 인터페이스의 크기(예를 들어, 인터페이스에 의해 차지된 스크린 공간의 양)는 적어도 부분적으로 백그라운드 콘텐츠의 유형에 의해 결정될 수 있다.
도 11은 터치스크린(246)(또는 다른 디스플레이)을 구비한 모바일 전화기, 태블릿 컴퓨터, 원격 제어부 등을 포함할 수 있는 사용자 디바이스(102) 상의 예시적인 텔레비전 미디어 콘텐츠를 도시한다. 도 11은 다수의 텔레비전 프로그램(1152)을 갖는 TV 목록을 포함하는 인터페이스(1150)를 도시한다. 인터페이스(1150)는, 예를 들어, 텔레비전 제어 애플리케이션, 텔레비전 콘텐츠 목록 애플리케이션, 인터넷 애플리케이션 등과 같은 사용자 디바이스(102) 상의 특정 애플리케이션에 대응할 수 있다. 일부 예들에서, 사용자 디바이스(102) 상에(예를 들어, 터치스크린(246) 상에) 보여지는 콘텐츠는 그 콘텐츠에 관련된 스피치 입력으로부터 사용자 의도를 결정하는 데 사용될 수 있고, 사용자 의도는 다른 디바이스 및 디스플레이 상에서(예를 들어, 텔레비전 셋톱 박스(104) 및 디스플레이(112) 및/또는 스피커(111) 상에서) 콘텐츠의 재생 또는 표시를 야기하는 데 사용될 수 있다. 예를 들어, 사용자 디바이스(102) 상의 인터페이스(1150)에 보여지는 콘텐츠는 사용자 요청을 명확하게 하고 스피치 입력으로부터 사용자 의도를 결정하는 데 사용될 수 있고, 이어서 결정된 사용자 의도는 텔레비전 셋톱 박스(104)를 통해 미디어를 재생 또는 표시하는 데 사용될 수 있다.
도 12는 가상 어시스턴트를 사용하는 예시적인 텔레비전 제어를 도시한다. 도 12는 어시스턴트와 사용자 간의 대화형 대화 형태로 포맷된 가상 어시스턴트 인터페이스를 포함할 수 있는 인터페이스(1254)를 도시한다. 예를 들어, 인터페이스(1254)는 사용자에게 요청할 것을 촉구하는 어시스턴트 인사말(1256)을 포함할 수 있다. 이어서, 후속적으로 수신된 사용자 스피치는 전사된 사용자 스피치(1258)와 같이 전사될 수 있으며, 이는 전후 대화를 나타낸다. 일부 예들에서, 인터페이스(1254)는 스피치 입력의 수신을 개시하기 위한 트리거(버튼 누르기, 핵심 구절 등과 같은 트리거)에 응답하여 사용자 디바이스(102) 상에 출현할 수 있다.
일 예에서, (예를 들어, 디스플레이(112) 및 스피커(111) 상에서) 텔레비전 셋톱 박스(104)를 통해 콘텐츠를 재생하라는 사용자 요청은 사용자 디바이스(102) 상에 보여지는 것에 대한 모호한 언급을 포함할 수 있다. 예를 들어, 전사된 사용자 스피치(1258)는 "그" 축구 경기에 대한 언급을 포함한다("그 축구 경기를 틀어줘"). 원하는 특정 축구 경기는 스피치 입력만으로는 불분명할 수 있다. 그러나, 일부 예들에서, 사용자 디바이스(102) 상에 보여지는 콘텐츠는 사용자 요청들을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 일 예에서, 사용자가 요청하기 이전에(예를 들어, 인터페이스(1254)가 터치스크린(246)에 출현하기 이전에) 사용자 디바이스(102) 상에 보여지는 콘텐츠는 사용자 의도를 결정하는 데 사용될 수 있다(이전 질의 및 결과와 같이 인터페이스(1254) 내에 출현하는 콘텐츠일 수 있음). 도시된 예에서, 도 11의 인터페이스(1150)에 보여지는 콘텐츠는 "그" 축구 경기를 틀라는 커맨드로부터 사용자 의도를 결정하는 데 사용될 수 있다. 텔레비전 프로그램들(1152)의 TV 목록은 다양한 상이한 프로그램을 포함하며, 그 중 하나는 채널 5에 출현하는 "축구"라는 제목을 갖는다. 축구 목록의 출현은 "그" 축구 경기를 발화하는 것으로부터 사용자의 의도를 결정하는 데 사용될 수 있다. 특히, "그" 축구 경기에 대한 사용자의 언급은 인터페이스(1150)의 TV 목록에 출현하는 축구 프로그램으로 해결될 수 있다. 따라서, 가상 어시스턴트는 (예를 들어, 텔레비전 셋톱 박스(104)가 적절한 채널로 튜닝하게 하고 경기를 보여줌으로써) 사용자가 원하는 특정한 축구 경기의 재생을 야기할 수 있다.
다른 예들에서, 사용자는 인터페이스(1150)에 보여지는 텔레비전 프로그램들을 다양한 다른 방식(예를 들어, 채널 8의 쇼, 뉴스, 드라마 쇼, 광고, 첫 번째 쇼 등)으로 언급할 수 있고, 사용자 의도는 표시된 콘텐츠에 기초하여 유사하게 결정될 수 있다. 표시된 콘텐츠(예를 들어, TV 프로그램 설명), 퍼지 매칭 기술, 동의어 매칭 등과 연관된 메타데이터가 사용자 의도를 결정하기 위해 표시된 콘텐츠와 함께 추가로 사용될 수 있음을 이해해야 한다. 예를 들어, "광고"라는 용어는 "광고"를 보여달라는 요청으로부터 사용자 의도를 결정하기 위해 (예를 들어, 동의어 및/또는 퍼지 매칭 기술을 사용하여) 설명 "유료 프로그래밍"과 매칭될 수 있다. 마찬가지로, 특정 TV 프로그램에 대한 설명은 사용자 의도를 결정 시에 분석될 수 있다. 예를 들어, "법"이라는 용어는 법정 드라마에 대한 상세한 설명에서 식별될 수 있으며, 사용자 의도는 인터페이스(1150)에 보여지는 콘텐츠와 연관된 상세한 설명에 기초하여 "법률" 쇼를 시청하라는 사용자 요청으로부터 결정될 수 있다. 따라서, 표시된 콘텐츠 및 그와 연관된 데이터는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다.
도 13은 터치스크린(246)(또는 다른 디스플레이)을 구비한 모바일 전화기, 태블릿 컴퓨터, 원격 제어부 등을 포함할 수 있는 사용자 디바이스(102) 상의 예시적인 사진 및 비디오 콘텐츠를 도시한다. 도 13은 사진들 및 비디오들의 목록을 포함하는 인터페이스(1360)를 도시한다. 인터페이스(1360)는, 예를 들어, 미디어 콘텐츠 애플리케이션, 파일 내비게이션 애플리케이션, 저장 애플리케이션, 원격 저장 관리 애플리케이션, 카메라 애플리케이션 등과 같은, 사용자 디바이스(102) 상의 특정 애플리케이션에 대응할 수 있다. 도시된 바와 같이, 인터페이스(1360)는 비디오(1362), 사진 앨범(1364)(예를 들어, 다수의 사진 그룹), 및 사진들(1366)을 포함할 수 있다. 도 11 및 도 12를 참조하여 위에서 논의된 바와 같이, 사용자 디바이스(102) 상에 보여지는 콘텐츠는 그 콘텐츠에 관련된 스피치 입력으로부터 사용자 의도를 결정하는 데 사용될 수 있다. 이어서, 사용자 의도는 다른 디바이스 및 디스플레이(예컨대, 텔레비전 셋톱 박스(104) 및 디스플레이(112) 및/또는 스피커(111)) 상에 콘텐츠의 재생 또는 표시를 야기하는 데 사용될 수 있다. 예를 들어, 사용자 디바이스(102) 상의 인터페이스(1360)에 보여지는 콘텐츠는 사용자 요청을 명확하게 하고 스피치 입력으로부터 사용자 의도를 결정하는 데 사용될 수 있고, 이어서 결정된 사용자 의도는 텔레비전 셋톱 박스(104)를 통해 미디어를 재생 또는 표시하는 데 사용될 수 있다.
도 14는 가상 어시스턴트를 사용하는 예시적인 미디어 디스플레이 제어를 도시한다. 도 14는 어시스턴트와 사용자 간의 대화형 대화 형태로 포맷된 가상 어시스턴트 인터페이스를 포함할 수 있는 인터페이스(1254)를 도시한다. 도시된 바와 같이, 인터페이스(1254)는 사용자에게 요청할 것을 촉구하는 어시스턴트 인사말(1256)을 포함할 수 있다. 대화 내에서, 이어서 도 14의 예에 의해 도시된 바와 같이 사용자 스피치가 전사될 수 있다. 일부 예들에서, 인터페이스(1254)는 스피치 입력의 수신을 개시하기 위한 트리거(버튼 누르기, 핵심 구절 등과 같은 트리거)에 응답하여 사용자 디바이스(102) 상에 출현할 수 있다.
일 예에서, (예를 들어, 디스플레이(112) 및 스피커(111) 상에) 텔레비전 셋톱 박스(104)를 통해 미디어 콘텐츠를 재생하거나 미디어를 표시하라는 사용자 요청은 사용자 디바이스(102) 상에 보여지는 것에 대한 모호한 언급을 포함할 수 있다. 예를 들어, 전사된 사용자 스피치(1468)는 "그" 비디오("그 비디오를 보여줘")에 대한 언급을 포함한다. 언급된 특정 비디오는 스피치 입력만으로는 불분명할 수 있다. 그러나, 일부 예들에서, 사용자 디바이스(102) 상에 보여지는 콘텐츠는 사용자 요청들을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 일 예에서, 사용자가 요청하기 이전에(예를 들어, 인터페이스(1254)가 터치스크린(246)에 출현하기 이전에) 사용자 디바이스(120) 상에 보여지는 콘텐츠는 사용자 의도를 결정하는 데 사용될 수 있다(이전 질의 및 결과와 같이 인터페이스(1254) 내에 출현하는 콘텐츠일 수 있음). 사용자 스피치(1468)의 예에서, 도 13의 인터페이스(1360)에 보여지는 콘텐츠는 "그" 비디오를 보여달라는 커맨드로부터 사용자 의도를 결정하는 데 사용될 수 있다. 인터페이스(1360)의 사진 및 비디오의 목록은 비디오(1362), 사진 앨범(1354), 및 사진(1366)을 포함하는 다양한 상이한 사진 및 비디오를 포함한다. 단지 하나의 비디오만이 인터페이스(1360)(예컨대, 비디오(1362))에 출현하기 때문에, 인터페이스(1360) 내의 비디오(1362)의 출현은 "그" 비디오를 발화하는 것으로부터 사용자의 의도를 결정하는 데 사용될 수 있다. 특히, "그" 비디오에 대한 사용자의 언급은 인터페이스(1360)에 출현하는 비디오(1362)(제목이 "졸업 비디오")로 해결될 수 있다. 따라서, 가상 어시스턴트는 (예를 들어, 비디오(1362)가 사용자 디바이스(102) 또는 원격 저장소로부터 텔레비전 셋톱 박스(104)로 송신되게 하거나 재생이 시작되게 함으로써) 비디오(1362)의 재생을 야기할 수 있다.
다른 예에서, 전사된 사용자 스피치(1470)는 "그" 앨범("그 앨범의 슬라이드쇼를 재생해")에 대한 언급을 포함한다. 언급된 특정 앨범은 스피치 입력만으로는 불분명할 수 있다. 사용자 디바이스(102) 상에 보여지는 콘텐츠는 사용자 요청을 명확하게 하는 데 다시 사용될 수 있다. 특히, 도 13의 인터페이스(1360)에 보여지는 콘텐츠는 "그" 앨범의 슬라이드쇼를 재생하라는 커맨드로부터 사용자 의도를 결정하는 데 사용될 수 있다. 인터페이스(1360) 내의 사진 및 비디오의 목록은 사진 앨범(1354)을 포함한다. 인터페이스(1360) 내의 사진 앨범(1364)의 출현은 "그" 앨범을 발화하는 것으로부터 사용자의 의도를 결정하는 데 사용될 수 있다. 특히, "그" 앨범에 대한 사용자의 언급은 인터페이스(1360)에 출현하는 사진 앨범(1364)(제목이 "졸업 앨범")으로 해결될 수 있다. 그러므로, 사용자 스피치(1470)에 응답하여, 가상 어시스턴트는 사진 앨범(1364)으로부터의 사진들을 포함하는 슬라이드쇼가 표시되게 할 수 있다(예를 들어, 사진 앨범(1364)의 사진들을 사용자 디바이스(102) 또는 원격 저장소로부터 텔레비전 셋톱 박스(104)로 송신되게 하고 사진들의 슬라이드쇼를 시작하게 함으로써).
또 다른 예에서, 전사된 사용자 스피치(1472)는 "마지막" 사진에 대한 언급을 포함한다("주방 텔레비전 상에 마지막 사진을 표시해"). 언급된 특정 사진은 스피치 입력만으로는 불분명할 수 있다. 사용자 디바이스(102) 상에 보여지는 콘텐츠는 사용자 요청을 명확하게 하는 데 다시 사용될 수 있다. 특히, 도 13의 인터페이스(1360)에 보여지는 콘텐츠는 "마지막" 사진을 표시하라는 커맨드로부터 사용자 의도를 결정하는 데 사용될 수 있다. 인터페이스(1360) 내의 사진 및 비디오의 목록은 2개의 개별 사진(1366)을 포함한다. 인터페이스(1360) 내의 사진들(1366)의 출현 - 그리고 특히 인터페이스 내의 사진들(1366)의 출현 순서 - 은 "마지막" 사진으로부터 사용자의 의도를 결정하는 데 사용될 수 있다. 특히, "마지막" 사진에 대한 사용자의 언급은 인터페이스(1360)의 하부에 출현하는 사진(1366)으로 해결될 수 있다(2014년 6월 21일자임). 따라서, 사용자 스피치(1472)에 응답하여, 가상 어시스턴트는 인터페이스(1360)에 보여지는 마지막 사진(1366)이 표시되게 할 수 있다(예를 들어, 마지막 사진(1366)이 사용자 디바이스(102) 또는 원격 저장소로부터 텔레비전 셋톱 박스(104)로 송신되게 하고 사진이 표시되게 함으로써).
다른 예들에서, 사용자는 인터페이스(1360)에 보여지는 미디어 콘텐츠를 다양한 다른 방식으로 언급할 수 있고(예를 들어, 마지막 두 장의 사진, 모든 비디오, 모든 사진, 졸업 앨범, 졸업 비디오, 6월 21일의 사진 등), 사용자 의도는 표시된 콘텐츠에 기초하여 유사하게 결정될 수 있다. 표시된 콘텐츠(예를 들어, 타임스탬프, 위치 정보, 제목, 설명 등), 퍼지 매칭 기술, 동의어 매칭 등과 관련된 메타데이터가 사용자 의도를 결정하기 위해 표시된 콘텐츠와 함께 추가로 사용될 수 있음을 이해해야 한다. 따라서, 표시된 콘텐츠 및 그와 연관된 데이터는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다.
임의의 애플리케이션의 임의의 애플리케이션 인터페이스에서 임의의 유형의 표시된 콘텐츠가 사용자 의도를 결정 시에 사용될 수 있다는 것을 이해해야 한다. 예를 들어, 인터넷 브라우저 애플리케이션의 웹 페이지 상에 표시된 이미지는 스피치 입력에서 언급될 수 있고, 표시된 웹 페이지 콘텐츠는 분석되어 원하는 이미지를 식별할 수 있다. 유사하게, 음악 애플리케이션 내의 음악의 목록 내의 음악 트랙은 제목, 장르, 아티스트, 밴드 이름 등에 의한 스피치 입력에서 언급될 수 있고, 음악 애플리케이션 내의 표시된 콘텐츠(그리고 일부 예들에서는 관련 메타데이터)는 스피치 입력으로부터 사용자 의도를 결정하는 데 사용될 수 있다. 위에서 논의된 바와 같이, 이어서, 결정된 사용자 의도는 다른 디바이스를 통해, 예컨대 텔레비전 셋톱 박스(104)를 통해 미디어 디스플레이 또는 재생을 야기시키는 데 사용될 수 있다.
일부 예들에서, 사용자 식별, 사용자 인증, 및/또는 디바이스 인증은 미디어 제어가 허용될 수 있는지 여부를 결정하는 것, 표시를 위해 이용가능한 미디어 콘텐츠를 결정하는 것, 액세스 허가를 결정하는 것 등을 위해 채용될 수 있다. 예를 들어, 특정 사용자 디바이스(예컨대, 사용자 디바이스(102))가 예를 들어 텔레비전 셋톱 박스(104) 상의 미디어를 제어하도록 인증되는지 여부가 결정될 수 있다. 사용자 디바이스는 등록, 페어링, 신뢰 결정, 패스코드, 보안 질문, 시스템 설정 등에 기초하여 인증될 수 있다. 특정 사용자 디바이스가 인증된 것으로 결정하는 것에 응답하여, 텔레비전 셋톱 박스(104)를 제어하려는 시도가 허용될 수 있다(예를 들어, 요청하는 디바이스가 미디어를 제어하도록 인증됨을 결정하는 것에 응답하여 미디어 콘텐츠가 재생될 수 있음). 대조적으로, 인증되지 않은 디바이스로부터의 미디어 제어 커맨드 또는 요청은 무시될 수 있고/있거나, 그러한 디바이스들의 사용자들은 특정 텔레비전 셋톱 박스(104)를 제어하는 데 사용하기 위해 자신의 디바이스들을 등록하도록 촉구될 수 있다.
다른 예에서, 특정 사용자가 식별될 수 있고, 사용자와 연관된 개인 데이터가 요청들의 사용자 의도를 결정하는 데 사용될 수 있다. 예를 들어, 사용자는 스피치 입력에 기초하여, 예컨대 사용자의 성문을 사용한 음성 인식에 의해 식별될 수 있다. 일부 예들에서, 사용자들은 음성 인식을 위해 분석되는 특정 구절을 발화할 수 있다. 다른 예들에서, 가상 어시스턴트로 지향된 스피치 입력 요청들은 스피커를 식별하기 위해 음성 인식을 사용하여 분석될 수 있다. 사용자는 또한 스피치 입력 샘플의 소스에 기초하여 식별될 수 있다(예를 들어, 사용자의 개인 디바이스(102) 상에서). 사용자는 또한 패스워드, 패스코드, 메뉴 선택 등에 기초하여 식별될 수 있다. 이어서, 사용자로부터 수신된 스피치 입력은 식별된 사용자의 개인 데이터에 기초하여 해석될 수 있다. 예를 들어, 스피치 입력의 사용자 의도는 사용자로부터의 이전 요청들, 사용자가 소유한 미디어 콘텐츠, 사용자의 디바이스에 저장된 미디어 콘텐츠, 사용자 선호도, 사용자 설정, 사용자 인구통계(예를 들어, 말해진 언어들 등), 사용자 프로필 정보, 사용자 지불 방법, 또는 특정 식별된 사용자와 연관된 다양한 기타 개인 정보에 기초하여 결정될 수 있다. 예를 들어, 즐겨찾기 목록 등을 언급하는 스피치 입력은 개인 데이터에 기초하여 명확해질 수 있고, 사용자의 개인 즐겨찾기 목록이 식별될 수 있다. "내" 사진, "내" 비디오, "내" 쇼 등을 언급하는 스피치 입력은 마찬가지로 식별된 사용자와 연관된 사진, 비디오, 및 쇼를 정확하게 식별하기 위해 사용자 식별에 기초하여 명확하게 될 수 있다(예를 들어, 개인 사용자 디바이스 등에 저장된 사진들). 유사하게, 콘텐츠의 구매를 요청하는 스피치 입력은 식별된 사용자의 지불 방법이 (다른 사용자의 지불 방법과 대조적으로) 구매를 위해 청구되어야 하는지를 결정하기 위해 명확해질 수 있다.
일부 예들에서, 사용자 인증은 사용자가 미디어 콘텐츠에 액세스하는 것, 미디어 콘텐츠를 구매하는 것 등이 허용되는지 여부를 결정하는 데 사용될 수 있다. 예를 들어, 음성 인식은 특정 사용자의 아이덴티티를 검증하여(예컨대, 그들의 성문을 사용하여) 사용자가 사용자의 지불 방법을 사용하여 구매하도록 허용하는 데 사용될 수 있다. 유사하게, 패스워드 등은 구매를 허용하기 위해 사용자를 인증하는 데 사용될 수 있다. 다른 예에서, 음성 인식은 특정 사용자의 아이덴티티를 검증하여 사용자가 특정 프로그램을 시청하는 것이 허용되는지 여부를 결정하는 데 사용될 수 있다(예를 들어, 특정 시청 제한 등급을 갖는 프로그램, 특정 연령 적합성 등급(particular age suitabilityrating)을 갖는 영화 등). 예를 들어, 특정 프로그램에 대한 어린이의 요청은 요청자가 그러한 콘텐츠를 볼 수 있는 인증된 사용자(예를 들어, 부모)가 아님을 나타내는 음성 인식에 기초하여 거부될 수 있다. 다른 예들에서, 음성 인식은 사용자들이 특정 구독 콘텐츠에 대한 액세스를 갖는지 여부(예를 들어, 음성 인식에 기초하여 프리미엄 채널 콘텐츠에 대한 액세스를 제한하는 것)를 결정하는 데 사용될 수 있다. 일부 예들에서, 사용자들은 음성 인식을 위해 분석되는 특정 구절을 발화할 수 있다. 다른 예들에서, 가상 어시스턴트로 지향된 스피치 입력 요청들은 스피커를 식별하기 위해 음성 인식을 사용하여 분석될 수 있다. 따라서, 특정 미디어 콘텐츠는 사용자가 다양한 방식 중 임의의 방식으로 인증됨을 먼저 결정하는 것에 응답하여 재생될 수 있다.
도 15는 모바일 사용자 디바이스 및 미디어 디스플레이 디바이스 상의 결과와의 예시적인 가상 어시스턴트 상호작용을 도시한다. 일부 예들에서, 가상 어시스턴트는 사용자 디바이스(102) 및 텔레비전 셋톱 박스(104)와 같은 둘 이상의 디바이스 상의 정보 및 제어를 제공할 수 있다. 또한, 일부 예들에서, 사용자 디바이스(102) 상의 제어 및 정보에 사용된 동일한 가상 어시스턴트 인터페이스는 텔레비전 셋톱 박스(104) 상의 미디어를 제어하기 위한 요청들을 발행하는 데 사용될 수 있다. 이와 같이, 가상 어시스턴트 시스템은 사용자 디바이스(102) 또는 텔레비전 셋톱 박스(104) 상에 결과를 표시할지 또는 태스크를 실행할지 여부를 결정할 수 있다. 일부 예들에서, 텔레비전 셋톱 박스(104)를 제어하기 위해 사용자 디바이스(102)를 채용할 때, 텔레비전 셋톱 박스(104)와 연관된 디스플레이(예컨대, 디스플레이(112)) 상의 가상 어시스턴트 인터페이스 침입은 사용자 디바이스(102) 상에(예컨대, 터치스크린(246) 상에) 정보를 표시함으로써 최소화될 수 있다. 다른 예들에서, 가상 어시스턴트 정보는 디스플레이(112) 상에만 표시될 수 있거나, 가상 어시스턴트 정보는 사용자 디바이스(102) 및 디스플레이(112) 둘 모두 상에 표시될 수 있다.
일부 예들에서, 가상 어시스턴트 질의의 결과가 사용자 디바이스(102) 상에 직접 또는 텔레비전 셋톱 박스(104)와 연관된 디스플레이(112) 상에 표시되어야 하는지 여부에 대한 결정이 이루어질 수 있다. 일 예에서, 질의의 사용자 의도가 정보에 대한 요청을 포함한다고 결정하는 것에 응답하여, 정보제공형 응답이 사용자 디바이스(102) 상에 표시될 수 있다. 다른 예에서, 질의의 사용자 의도가 미디어 콘텐츠를 재생하라는 요청을 포함한다는 결정에 응답하여, 질의에 응답하는 미디어 콘텐츠는 텔레비전 셋톱 박스(104)를 통해 재생될 수 있다.
도 15는 가상 어시스턴트와 사용자 사이의 대화형 대화 예를 갖는 가상 어시스턴트 인터페이스(1254)를 도시한다. 어시스턴트 인사말(1256)은 사용자에게 요청할 것을 촉구할 수 있다. 제1 질의에서, 전사된 사용자 스피치(1574)(다른 방식들로 타이핑되거나 입력될 수 있음)는 표시된 미디어 콘텐츠와 연관된 정보제공형 답변에 대한 요청을 포함한다. 특히, 전사된 사용자 스피치(1574)는 예를 들어 사용자 디바이스(102) 상의 인터페이스 상에(예를 들어, 도 11의 인터페이스(1150) 내에 열거됨) 또는 디스플레이(112) 상에(예를 들어, 도 5의 인터페이스(510) 내에 열거되거나 도 7b의 디스플레이(112) 상에서 비디오(726)로서 재생 중임) 보여질 수 있는 축구 경기에서 누가 경기를 하고 있는지 묻는다. 전사된 사용자 스피치(1574)의 사용자 의도는 표시된 미디어 콘텐츠에 기초하여 결정될 수 있다. 예를 들어, 질문 내의 특정 축구 경기는 사용자 디바이스(102) 상에 또는 디스플레이(112) 상에 보여지는 콘텐츠에 기초하여 식별될 수 있다. 전사된 사용자 스피치(1574)의 사용자 의도는 표시된 콘텐츠에 기초하여 식별된 축구 경기에서 경기하는 팀들을 상술하는 정보제공형 답변을 획득하는 것을 포함할 수 있다. 사용자 의도가 정보제공형 답변에 대한 요청을 포함한다고 결정하는 것에 응답하여, 시스템은 도 15의 인터페이스(1254) 내에 응답을 표시하도록 결정할 수 있다(디스플레이(112) 상에와 대조적으로). 질의에 대한 응답은, 일부 예들에서, (예를 들어, 텔레비전 목록 내의 축구 경기의 설명에 기초하여) 표시된 콘텐츠와 연관된 메타데이터에 기초하여 결정될 수 있다. 도시된 바와 같이, 따라서 어시스턴트 응답(1576)은 인터페이스(1254)에서 사용자 디바이스(102)의 터치스크린(246) 상에 표시될 수 있으며, 이는 알파 팀 및 제타 팀이 경기에서 경기하고 있는 것으로 식별한다. 따라서, 일부 예들에서, 정보제공형 응답은 질의가 정보제공형 요청을 포함한다고 결정하는 것에 기초하여 사용자 디바이스(102) 상의 인터페이스(1254) 내에 표시될 수 있다.
그러나, 인터페이스(1254)의 제2 질의는 미디어 요청을 포함한다. 특히, 전사된 사용자 스피치(1578)는 표시된 미디어 콘텐츠를 "경기"로 변경하는 것을 요청한다. 전사된 사용자 스피치(1578)의 사용자 의도는 도 5의 인터페이스(510) 내에 열거된 경기, 도 11의 인터페이스(1150) 내에 열거된 경기, 이전 질의들에서 언급된 경기(예를 들어, 전사된 사용자 스피치(1574) 내에) 등과 같은 (예를 들어, 사용자가 원하는 경기를 식별하기 위해) 표시된 콘텐츠에 기초하여 결정될 수 있다. 따라서, 전사된 사용자 스피치(1578)의 사용자 의도는 표시된 콘텐츠를 특정 경기 - 알파 팀 및 제타 팀을 갖는 축구 경기 - 로 변경하는 것을 포함할 수 있다. 일 예에서, 경기는 사용자 디바이스(102) 상에 표시될 수 있다. 그러나, 다른 예들에서, 미디어 콘텐츠를 재생하라는 요청을 포함하는 질의에 기초하여, 경기는 텔레비전 셋톱 박스(104)를 통해 보여질 수 있다. 특히, 사용자 의도가 미디어 콘텐츠를 재생하라는 요청을 포함하는 것으로 결정하는 것에 응답하여, 시스템은 디스플레이(112) 상의 텔레비전 셋톱 박스(104)를 통해 미디어 콘텐츠 결과를 표시하도록 결정할 수 있다(도 15의 인터페이스(1254) 내에서와 대조적으로). 일부 예들에서, 가상 어시스턴트의 의도된 동작을 확인해 주는 응답 또는 패러프레이즈는 인터페이스(1254) 내에 또는 디스플레이(112) 상에 보여질 수 있다(예를 들어, "축구 경기로 변경").
도 16은 미디어 디스플레이 디바이스 및 모바일 사용자 디바이스 상의 미디어 결과와의 예시적인 가상 어시스턴트 상호작용을 도시한다. 일부 예들에서, 가상 어시스턴트는 사용자 디바이스(102) 및 텔레비전 셋톱 박스(104) 둘 모두 상의 미디어에 대한 액세스를 제공할 수 있다. 또한, 일부 예들에서, 사용자 디바이스(102) 상의 미디어에 사용된 동일한 가상 어시스턴트 인터페이스는 텔레비전 셋톱 박스(104) 상의 미디어에 대한 요청을 발행하는 데 사용될 수 있다. 이와 같이, 가상 어시스턴트 시스템은 텔레비전 셋톱 박스(104)를 통해 사용자 디바이스(102) 상에 또는 디스플레이(112) 상에 미디어 결과를 표시할지 여부를 결정할 수 있다.
일부 예들에서, 미디어 결과 포맷, 사용자 선호도, 디폴트 설정, 요청 자체의 명시된 커맨드 등에 기초하여 디바이스(102) 상에 또는 디스플레이(112) 상에 미디어를 표시할지 여부에 대한 결정이 이루어질 수 있다. 예를 들어, 질의에 대한 미디어 결과의 포맷은 미디어 결과를 어떤 디바이스 상에 디폴트로 표시할지를 결정하는 데 사용될 수 있다(예를 들어, 특정 명령어들 없이). 텔레비전 프로그램은 텔레비전 상의 표시에 더 적합할 수 있고, 큰 포맷 비디오는 텔레비전 상의 표시에 더 적합할 수 있고, 섬네일 사진은 사용자 디바이스 상의 표시에 더 적합할 수 있고, 작은 포맷 웹 비디오는 사용자 디바이스 상의 표시에 더 적합할 수 있고, 다양한 다른 미디어 포맷은 상대적으로 큰 텔레비전 스크린 또는 상대적으로 작은 사용자 디바이스 디스플레이 상의 표시에 더 적합할 수 있다. 따라서, 미디어 콘텐츠가 (예를 들어, 미디어 포맷에 기초하여) 특정 디스플레이 상에 표시되어야 한다는 결정에 응답하여, 미디어 콘텐츠는 디폴트로 특정 디스플레이 상에 표시될 수 있다.
도 16은 미디어 콘텐츠를 재생하거나 표시하는 것과 관련된 질의의 예들을 갖는 가상 어시스턴트 인터페이스(1254)를 도시한다. 어시스턴트 인사말(1256)은 사용자에게 요청할 것을 촉구할 수 있다. 제1 질의에서, 전사된 사용자 스피치(1680)는 축구 경기를 보여달라는 요청을 포함한다. 위에서 논의된 예들에서와 같이, 전사된 사용자 스피치(1680)의 사용자 의도는 도 5의 인터페이스(510) 내의 열거된 경기, 도 11의 인터페이스(1150) 내의 열거된 경기, 이전 질의들에서 언급된 경기 등과 같은, (예를 들어, 사용자가 원하는 경기를 식별하기 위해) 표시된 콘텐츠에 기초하여 결정될 수 있다. 따라서, 전사된 사용자 스피치(1680)의 사용자 의도는 예를 들어 텔레비전에 방영될 수 있는 특정 축구 경기를 표시하는 것을 포함할 수 있다. 사용자 의도가 텔레비전용으로 포맷된 미디어(예를 들어, 방영된 축구 경기)를 표시하라는 요청을 포함하는 것으로 결정하는 것에 응답하여, 시스템은 텔레비전 셋톱 박스(104)를 통해 디스플레이(112) 상에 원하는 미디어를 표시하도록 자동으로 결정할 수 있다(사용자 디바이스(102) 자체 상에서와 대조적으로). 이어서, 가상 어시스턴트 시스템은 (예를 들어, 필요한 태스크를 실행하고/하거나 적절한 커맨드들을 전송함으로써) 텔레비전 셋톱 박스(104)가 축구 경기에 맞추어 그것을 디스플레이(112) 상에 보여지게 할 수 있다.
그러나, 제2 질의에서, 전사된 사용자 스피치(1682)는 팀의 선수들의 사진(예를 들어, "알파 팀"의 사진)을 보여달라는 요청을 포함한다. 위에서 논의된 예들에서와 같이, 전사된 사용자 스피치(1682)의 사용자 의도가 결정될 수 있다. 전사된 사용자 스피치(1682)의 사용자 의도는 "알파 팀"과 연관된 사진에 대한 검색(예를 들어, 웹 검색)을 수행하고 결과적인 사진을 표시하는 것을 포함할 수 있다. 사용자 의도가 섬네일 포맷으로 제시될 수 있는 미디어, 또는 웹 검색과 연관된 미디어, 또는 특정 포맷 없이 다른 비특정 미디어를 표시하라는 요청을 포함한다고 결정하는 것에 응답하여, 시스템은 사용자 디바이스(102)의 인터페이스(1254)에서 터치스크린(246) 상에 원하는 미디어 결과를 표시하도록 자동으로 결정할 수 있다(텔레비전 셋톱 박스(104)를 통해 디스플레이(112) 상에 결과적인 사진을 표시하는 것과는 대조적으로). 예를 들어, 도시된 바와 같이, 섬네일 사진(1684)은 사용자의 질의에 응답하여 사용자 디바이스(102) 상의 인터페이스(1254) 내에 표시될 수 있다. 따라서, 가상 어시스턴트 시스템은 특정 포맷의 미디어 또는 특정 포맷으로 제시될 수 있는 미디어(예를 들어, 섬네일들의 그룹)가 디폴트로 사용자 디바이스(102) 상에 표시되게 할 수 있다.
일부 예들에서, 사용자 스피치(1680) 내에 언급되는 축구 경기는 사용자 디바이스(102) 상에 보여질 수 있고, 사진(1684)은 텔레비전 셋톱 박스(104)를 통해 디스플레이(112) 상에 보여질 수 있음을 이해해야 한다. 그러나, 표시를 위한 디폴트 디바이스는 미디어 포맷에 기초하여 자동으로 결정될 수 있으므로, 사용자를 위해 미디어 커맨드를 단순화할 수 있다. 다른 예들에서, 요청된 미디어 콘텐츠를 표시하기 위한 디폴트 디바이스는 사용자 선호도, 디폴트 설정, 콘텐츠를 표시하기 위해 가장 최근에 사용된 디바이스, 사용자 및 그 사용자와 연관된 디바이스를 식별하기 위한 음성 인식 등에 기초하여 결정될 수 있다. 예를 들어, 사용자는 선호도를 설정할 수 있거나, 디폴트 구성은 텔레비전 셋톱 박스(104)를 통해 디스플레이(112) 상의 특정 유형의 콘텐츠(예를 들어, 비디오, 슬라이드쇼, 텔레비전 프로그램 등) 및 사용자 디바이스(102)의 터치스크린(246) 상의 다른 유형의 콘텐츠(예를 들어, 섬네일, 사진, 웹 비디오 등)를 표시하도록 설정될 수 있다. 마찬가지로, 선호도 또는 디폴트 구성은 하나의 디바이스 또는 다른 디바이스 상에 콘텐츠를 표시함으로써 특정 질의에 응답하도록 설정될 수 있다. 다른 예에서, 사용자가 달리 지시하지 않는 한, 모든 콘텐츠는 사용자 디바이스(102) 상에 표시될 수 있다.
또 다른 예에서, 사용자 질의는 특정 디스플레이 상에 콘텐츠를 표시하라는 커맨드를 포함할 수 있다. 예를 들어, 도 14의 사용자 스피치(1472)는 주방 텔레비전 상에 사진을 표시하라는 커맨드를 포함한다. 그 결과, 시스템은 사용자 디바이스(102) 상에 사진을 표시하는 것과 대조적으로 사용자의 주방과 연관된 텔레비전 디스플레이 상에 사진의 표시를 야기할 수 있다. 다른 예들에서, 사용자는 다양한 다른 방식으로 사용할 디스플레이 디바이스를 지정할 수 있다(예컨대, TV 상에, 대형 스크린 상에, 거실에서, 침실에서, 태블릿 상에, 내 전화기 상에 등). 따라서, 가상 어시스턴트 질의의 미디어 콘텐츠 결과를 표시하기 위해 사용하는 디스플레이 디바이스는 다양한 상이한 방식으로 결정될 수 있다.
도 17은 근접성에 기초한 예시적인 미디어 디바이스 제어를 도시한다. 일부 예들에서, 사용자들은 동일한 가정 내에서 또는 동일한 네트워크 상에서 다수의 텔레비전 및 텔레비전 셋톱 박스를 가질 수 있다. 예를 들어, 한 가정은 텔레비전과 셋톱 박스가 거실에 있고, 다른 세트가 침실에 있고, 다른 세트는 주방에 있을 수 있다. 다른 예들에서, 다수의 셋톱 박스는 아파트 또는 사무실 건물의 공통 네트워크와 같은 동일한 네트워크에 연결될 수 있다. 사용자들은 인증되지 않은 액세스를 피하기 위해 특정 셋톱 박스에 대해 원격 제어부(106) 및 사용자 디바이스(102)를 페어링, 연결, 또는 그렇지 않으면 인증할 수 있지만, 다른 예들에서는 원격 제어부 및/또는 사용자 디바이스는 둘 이상의 셋톱 박스를 제어하는 데 사용될 수 있다. 예를 들어, 사용자는 단일 사용자 디바이스(102)를 사용하여 침실의, 거실의, 그리고 주방의 셋톱 박스를 제어할 수 있다. 또한, 사용자는 단일 사용자 디바이스(102)를 사용하여 자신의 아파트에서 자신의 셋톱 박스를 제어할뿐만 아니라 이웃의 아파트에서 이웃의 셋톱 박스를 제어할 수 있다(예를 들어, 사용자 디바이스(102)에 저장된 사진들의 슬라이드쇼를 이웃의 TV 상에 보여주는 것과 같이, 사용자 디바이스(102)로부터의 콘텐츠를 이웃과 공유하는 것). 사용자가 단일 사용자 디바이스(102)를 사용하여 다수의 상이한 셋톱 박스를 제어할 수 있기 때문에, 시스템은 다수의 셋톱 박스 중 어떤 셋톱 박스에 커맨드를 전송할지를 결정할 수 있다. 마찬가지로, 가정이 다수의 셋톱 박스를 동작시킬 수 있는 다수의 원격 제어부(106)를 가질 수 있기 때문에, 시스템은 다수의 셋톱 박스 중 어떤 셋톱 박스에 커맨드를 전송할지를 유사하게 결정할 수 있다.
일 예에서, 디바이스들의 근접성은 다수의 셋톱 박스들 중 어떤 셋톱 박스에 커맨드를 전송할지(또는 요청된 미디어 콘텐츠를 어떤 디스플레이 위에 표시할지)를 결정하는 데 사용될 수 있다. 근접성은 사용자 디바이스(102) 또는 원격 제어부(106)와 다수의 셋톱 박스들 각각 사이에서 결정될 수 있다. 이어서, 발행된 커맨드는 가장 가까운 셋톱 박스로 전송될 수 있다(또는 요청된 미디어 콘텐츠가 가장 가까운 디스플레이 상에 표시될 수 있음). 근접성은 비행 시간 측정(예를 들어, 무선 주파수를 사용하여), 블루투스 LE, 전자 핑 신호, 근접 센서, 사운드 이동 측정 등과 같은 다양한 방식 중 임의의 방식으로 결정될 수 있다(또는 적어도 근사화됨). 이어서, 측정되거나 근사화된 거리가 비교될 수 있고, 최단 거리를 갖는 디바이스에 커맨드가 발행될 수 있다(예를 들어, 가장 가까운 셋톱 박스).
도 17은 제1 디스플레이(1786)를 갖는 제1 셋톱 박스(1792) 및 제2 디스플레이(1788)를 갖는 제2 셋톱 박스(1794)를 포함하는 멀티 디바이스 시스템(1790)을 도시한다. 일 예에서, 사용자는 미디어 콘텐츠를 표시하기 위해 사용자 디바이스(102)로부터 커맨드를 발행할 수 있다(예를 들어, 어디에 또는 어떤 디바이스 상에인지를 반드시 지정하지 않고도). 이어서, 제1 셋톱 박스(1792)까지의 거리(1795) 및 제2 셋톱 박스(1794)까지의 거리(1796)가 결정(또는 근사화)될 수 있다. 도시된 바와 같이, 거리(1796)는 거리(1795)보다 클 수 있다. 근접성에 기초하여, 사용자 디바이스(102)로부터의 커맨드는 가장 가까운 디바이스이고 사용자 의도와 매칭될 가능성이 가장 많은 것으로서 제1 셋톱 박스(1792)에 발행될 수 있다. 일부 예들에서, 단일 원격 제어부(106)는 또한 둘 이상의 셋톱 박스를 제어하는 데 사용될 수 있다. 주어진 시간에서의 제어를 위한 원하는 디바이스는 근접성에 기초하여 결정될 수 있다. 제2 셋톱 박스(1794)까지의 거리(1797) 및 제1 셋톱 박스(1792)까지의 거리(1798)가 결정(또는 근사화)될 수 있다. 도시된 바와 같이, 거리(1798)는 거리(1797)보다 클 수 있다. 근접성에 기초하여, 원격 제어부(106)로부터의 커맨드는 가장 가까운 디바이스이고 사용자 의도와 매칭될 가능성이 가장 많은 것으로서 제2 셋톱 박스(1794)에 발행될 수 있다. 거리 측정은 정기적으로 또는 예를 들어 사용자가 다른 방으로 이동하는 것과 상이한 디바이스를 제어하기를 원하는 것을 수용하기 위해 각 커맨드를 이용하여 리프레시될 수 있다.
사용자는 커맨드에 대해 상이한 디바이스를 지정할 수 있으며 일부 경우들에서 근접성을 무시할 수 있음을 이해해야 한다. 예를 들어, 이용가능한 디스플레이 디바이스들의 목록은 사용자 디바이스(102) 상에 표시될 수 있다(예를 들어, 설정 이름, 지정된 방 등에 의해 제1 디스플레이(1786) 및 제2 디스플레이(1788)를 열거하거나, 설정 이름, 지정된 방 등에 의해 제1 셋톱 박스(1792) 및 제2 셋톱 박스(1794)를 열거함). 사용자는 목록으로부터 디바이스들 중 하나를 선택할 수 있으며, 이어서 커맨드들이 선택된 디바이스로 전송될 수 있다. 이어서, 사용자 디바이스(102)에서 발행된 미디어 콘텐츠에 대한 요청은 선택된 디바이스 상에 원하는 미디어를 표시함으로써 처리될 수 있다. 다른 예들에서, 사용자들은 구어 커맨드의 일부로서 원하는 디바이스를 말할 수 있다(예를 들어, 주방 텔레비전 상에서 경기 보여주는 것, 거실에서 만화 채널로 변경하는 것 등).
또 다른 예들에서, 요청된 미디어 콘텐츠를 보여주기 위한 디폴트 디바이스는 특정 디바이스와 연관된 상태 정보에 기초하여 결정될 수 있다. 예를 들어, 헤드폰(또는 헤드셋)이 사용자 디바이스(102)에 부착되는지 여부가 결정될 수 있다. 미디어 콘텐츠를 표시하라는 요청이 수신될 때 헤드폰이 사용자 디바이스(102)에 부착되어 있다고 결정하는 것에 응답하여, 요청된 콘텐츠는 디폴트로 사용자 디바이스(102) 상에 표시될 수 있다(예를 들어, 사용자가 텔레비전 상이 아니라 사용자 디바이스 (102) 상에서 콘텐츠를 소비하고 있다고 가정함). 미디어 콘텐츠를 표시하라는 요청이 수신될 때 헤드폰이 사용자 디바이스(102)에 부착되어 있지 않다고 결정하는 것에 응답하여, 요청된 콘텐츠는 본 명세서에서 논의된 다양한 결정 방법들 중 임의의 방법에 따라 사용자 디바이스(102) 상에 또는 텔레비전 상에 표시될 수 있다. 다른 디바이스 상태 정보, 예컨대, 사용자 디바이스(102) 또는 셋톱 박스(104) 주위의 주변 조명, 사용자 디바이스(102) 또는 셋톱 박스(104)에 대한 다른 디바이스들의 근접성, 사용자 디바이스(102)의 배향(예를 들어, 가로 방향은 사용자 디바이스(102) 상의 원하는 시청을 나타낼 가능성이 더 많을 수 있음), 셋톱 박스(104)의 표시 상태(예를 들어, 슬립 모드에서), 특정 디바이스 상에서의 최종 상호 작용 이래의 시간, 또는 사용자 디바이스(102) 및/또는 셋톱 박스(104)에 대한 다양한 다른 상태 표시자들 중 임의의 것은, 요청된 미디어 콘텐츠가 사용자 디바이스(102) 또는 셋톱 박스(104) 상에 표시되어야 하는지를 결정하는 데 유사하게 사용될 수 있다.
도 18은 가상 어시스턴트 및 다수의 사용자 디바이스를 사용하여 텔레비전 상호작용을 제어하기 위한 예시적인 프로세스(1800)를 도시한다. 블록(1802)에서, 스피치 입력은 제1 디스플레이를 구비한 제1 디바이스에서 사용자로부터 수신될 수 있다. 예를 들어, 스피치 입력은 시스템(100)의 사용자 디바이스(102) 또는 원격 제어부(106)에서 사용자로부터 수신될 수 있다. 제1 디스플레이는 일부 예들에서 사용자 디바이스(102)의 터치스크린(246) 또는 원격 제어부(106)와 연관된 디스플레이를 포함할 수 있다.
블록(1804)에서, 사용자 의도는 제1 디스플레이 상에 표시된 내용에 기초하여 스피치 입력으로부터 결정될 수 있다. 예를 들어, 도 11의 인터페이스(1150) 내의 텔레비전 프로그램(1152) 또는 도 13의 인터페이스(1360) 내의 사진 및 비디오와 같은 콘텐츠는 분석되어 스피치 입력에 대한 사용자 의도를 결정하는 데 사용될 수 있다. 일부 예들에서, 사용자는 모호한 방식으로 제1 디스플레이 상에 보여지는 콘텐츠를 언급할 수 있고, 언급을 해결하기 위해 제1 디스플레이 상에 보여지는 콘텐츠를 분석함으로써 언급이 명확하게 될 수 있으며(예를 들어, "그" 비디오, "그" 앨범, "그" 경기 등에 대한 사용자 의도를 결정하는 것), 이는 도 12 및 도 14를 참조하여 위에서 논의된 바와 같다.
도 18의 프로세스(1800)를 다시 참조하면, 블록(1806)에서, 미디어 콘텐츠는 사용자 의도에 기초하여 결정될 수 있다. 예를 들어, 특정 비디오, 사진, 사진 앨범, 텔레비전 프로그램, 스포츠 이벤트, 음악 트랙 등은 사용자 의도에 기초하여 식별될 수 있다. 위에서 논의된 도 11 및 도 12의 예에서, 예를 들어, 채널 5에 보여지는 특정 축구 경기는 도 11의 인터페이스(1150)에 보여지는 "그" 축구 경기를 언급하는 사용자 의도에 기초하여 식별될 수 있다. 위에서 논의된 도 13 및 도 14의 예들에서, "졸업 비디오"라는 제목의 특정 비디오(1362), "졸업 앨범"이라는 제목의 특정 사진 앨범(1364), 또는 특정 사진(1366)은 도 14의 스피치 입력 예들로부터 결정된 사용자 의도에 기초하여 식별될 수 있다.
도 18의 프로세스(1800)를 다시 참조하면, 블록(1808)에서, 미디어 콘텐츠는 제2 디스플레이와 연관된 제2 디바이스 상에서 재생될 수 있다. 예를 들어, 결정된 미디어 콘텐츠는 스피커(111)를 갖는 디스플레이(112) 상에서 텔레비전 셋톱 박스(104)를 통해 재생될 수 있다. 미디어 콘텐츠를 재생하는 것은 텔레비전 셋톱 박스(104) 또는 다른 디바이스 상에서 특정 텔레비전 채널로 튜닝하는 것, 특정 비디오를 재생하는 것, 사진들의 슬라이드쇼를 표시하는 것, 특정 사진을 표시하는 것, 특정 오디오 트랙을 재생하는 것 등을 포함할 수 있다.
일부 예들에서, 가상 어시스턴트로 지향된 스피치 입력에 대한 응답들이 제1 디바이스(예컨대, 사용자 디바이스(102))와 연관된 제1 디스플레이 또는 제2 디바이스(예컨대, 텔레비전 셋톱 박스(104))와 연관된 제2 디스플레이 상에 표시되어야 하는지 여부에 대한 결정이 이루어질 수 있다. 예를 들어, 도 15 및 도 16을 참조하여 위에서 논의된 바와 같이, 더 작은 스크린 상에 표시하기에 적합한 정보제공형 답변 또는 미디어 콘텐츠가 사용자 디바이스(102) 상에 표시될 수 있는 반면, 더 큰 스크린 상의 표시에 적합한 미디어 응답 또는 미디어 콘텐츠는 셋톱 박스(104)와 연관된 디스플레이 상에 표시될 수 있다. 도 17을 참조하여 위에서 논의된 바와 같이, 일부 예들에서, 사용자 디바이스(102)와 다수의 셋톱 박스 사이의 거리는 미디어 콘텐츠를 어떤 셋톱 박스 상에서 재생할 것인지 또는 커맨드를 어떤 셋톱 박스에 발행할 것인지를 결정하는 데 사용될 수 있다. 다수의 디바이스가 상호작용하고 있을 수 있는 편리하고 사용자 친화적인 경험을 제공하기 위해 다양한 다른 결정이 유사하게 이루어질 수 있다.
일부 예들에서, 사용자 디바이스(102) 상에 보여지는 콘텐츠가 위에서 논의된 바와 같이 스피치 입력의 해석을 알리는 데 사용될 수 있기 때문에, 디스플레이(112) 상에 보여지는 콘텐츠는 마찬가지로 스피치 입력의 해석을 알리는 데 사용될 수 있다. 특히, 텔레비전 셋톱 박스(104)와 연관된 디스플레이 상에 보여지는 콘텐츠는 스피치 입력으로부터 사용자 의도를 결정하고, 사용자 질의를 명확하게 하고, 콘텐츠 관련 질의에 응답하기 등을 위해 그 콘텐츠와 연관된 메타데이터와 함께 사용될 수 있다.
도 19는 백그라운드에 보여지는 비디오(480)에 관한 가상 어시스턴트 질의를 갖는 예시적인 스피치 입력 인터페이스(484)(전술한)를 도시한다. 일부 예들에서, 사용자 질의는 디스플레이(112) 상에 보여지는 미디어 콘텐츠에 관한 질문을 포함할 수 있다. 예를 들어, 전사(1916)는 여배우의 식별을 요청하는 질의("저 여배우들은 누구야?")를 포함한다. 디스플레이(112) 상에 보여지는 콘텐츠 - 메타데이터 또는 콘텐츠에 대한 다른 서술적 정보와 함께 - 는 그 콘텐츠에 관련된 스피치 입력으로부터 사용자 의도를 결정하고 질의에 대한 응답들(정보제공형 응답 및 사용자에게 미디어 선택을 제공하는 미디어 응답 둘 모두를 포함하는 응답들)을 결정하는 데 사용될 수 있다. 예를 들어, 비디오(480), 비디오(480)에 대한 설명, 비디오(480)에 대한 캐릭터 및 배우 목록, 비디오(480)에 대한 등급 정보, 비디오(480)에 대한 장르 정보, 및 비디오(480)와 연관된 다양한 다른 서술적 정보는 사용자 요청을 명확하게 하고 사용자 질의에 대한 응답을 결정하는 데 사용될 수 있다. 관련 메타데이터는 예를 들어, 캐릭터(1910), 캐릭터(1912), 및 캐릭터(1914)(예를 들어, 캐릭터를 연기하는 여배우의 이름과 함께 캐릭터 이름)에 대한 정보를 식별하는 것을 포함할 수 있다. 임의의 다른 콘텐츠에 대한 메타데이터는 제목, 설명, 캐릭터들의 목록, 배우들의 목록, 선수들의 목록, 장르, 제작자 이름, 감독 이름, 또는 디스플레이 상에 보여지는 콘텐츠와 연관된 표시 일정 또는 디스플레이 상의 미디어 콘텐츠의 시청 이력(예컨대, 최근에 표시된 미디어)을 유사하게 포함할 수 있다.
일 예에서, 가상 어시스턴트로 지향된 사용자 질의는 디스플레이(112) 상에 보여지는 것에 대한 모호한 언급을 포함할 수 있다. 예를 들어, 전사(1916)는 "저" 여배우들("저 여배우들은 누구야?")에 대한 언급을 포함한다. 사용자가 묻고 있는 특정 여배우들은 스피치 입력만으로는 불분명할 수 있다. 그러나, 일부 예들에서, 디스플레이(112) 상에 보여지는 콘텐츠 및 관련 메타데이터는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 도시된 예에서, 디스플레이(112) 상에 보여지는 콘텐츠는 "저" 여배우들에 대한 언급으로부터 사용자 의도를 결정하는 데 사용될 수 있다. 일 예에서, 텔레비전 셋톱 박스(104)는 콘텐츠와 연관된 상세 사항과 함께 재생 중인 콘텐츠를 식별할 수 있다. 이 예에서, 텔레비전 셋톱 박스(104)는 다양한 서술적 콘텐츠와 함께 비디오(480)의 제목을 식별할 수 있다. 다른 예들에서, 사용자 의도를 결정하기 위해 관련 메타데이터와 함께 사용될 수 있는 텔레비전 쇼, 스포츠 이벤트 또는 다른 콘텐츠가 보여질 수 있다. 또한, 본 명세서에서 논의된 다양한 예 중 임의의 예에서, 스피치 인식 결과 및 의도 결정은 표시된 콘텐츠와 연관된 용어들에 대안들보다 높은 가중치를 줄 수 있다. 예를 들어, 온-스크린 캐릭터들에 대한 배우 이름들은, 그러한 배우들이 스크린에 출현하는 동안(또는 그들이 출현하는 쇼가 재생되고 있는 동안) 가중치를 더 높게 줄 수 있는데, 이는 정확한 스피치 인식 및 표시된 콘텐츠와 연관된 사용자 요청일 가능성이 있는 의도 결정을 제공할 수 있다.
일 예에서, 비디오(480)와 연관된 캐릭터 및/또는 배우 목록은 여배우들(1910, 1912, 1914)을 포함할 수 있는 비디오(480)에 출현하는 모든 또는 가장 눈에 띄는 여배우들을 식별하는 데 사용될 수 있다. 식별된 여배우들은 가능한 결과로 반환될 수 있다(메타데이터 해결(metadata resolution)이 정밀하지 않은 경우 더 적은 또는 추가 여배우들을 포함함). 그러나, 다른 예들에서, 비디오(480)와 연관된 메타데이터는 주어진 시간에 어떤 배우들 및 여배우들이 스크린 상에 출현하는지의 식별을 포함할 수 있고, 질의의 시간에서 출현하는 여배우들은 그 메타데이터로부터 결정될 수 있다(예를 들어, 구체적으로 여배우들(1910, 1912, 1914)을 식별하는 것). 또 다른 예에서, 안면 인식 애플리케이션은 디스플레이(112) 상에 보여지는 이미지로부터 여배우들(1910, 1912, 1914)을 식별하는 데 사용될 수 있다. 또 다른 예들에서, 비디오(480) 및 다양한 다른 인식 접근법과 연관된 다양한 다른 메타데이터는 "저" 여배우들을 언급 시에 사용자의 가능한 의도를 식별하는 데 사용될 수 있다.
일부 예들에서, 디스플레이(112) 상에 보여지는 콘텐츠는 질의의 제출 및 응답의 결정 중에 변경할 수 있다. 따라서, 미디어 콘텐츠의 시청 이력은 사용자 의도를 결정하고 질의에 대한 응답을 결정하는 데 사용될 수 있다. 예를 들어, 질의에 대한 응답이 생성되기 전에 비디오(480)가 다른 시선(예를 들어, 다른 캐릭터들)로 이동하면, 질의 결과는 질의가 말해진 시간의 사용자의 시선에 기초하여 결정될 수 있다(예를 들어, 사용자가 질의를 시작한 시간에 화면 상에 보여지는 캐릭터들). 일부 예들에서, 사용자는 질의를 발행하기 위해 미디어를 재생하는 것을 일시정지할 수 있으며, 일시정지될 때 보여지는 콘텐츠는 사용자 의도 및 질의에 대한 응답을 결정하는 데 관련 메타데이터와 함께 사용될 수 있다.
결정된 사용자 의도가 주어지면, 질의의 결과는 사용자에게 제공될 수 있다. 도 20은 어시스턴트 응답(2020)을 포함하는 예시적인 어시스턴트 응답 인터페이스(2018)를 도시하며, 이는 도 19의 전사(1916)의 질의로부터 결정된 응답을 포함할 수 있다. 어시스턴트 응답(2020)은 도시된 바와 같이 비디오(480) 내의 각 여배우의 이름과 그녀와 연관된 캐릭터의 목록을 포함할 수 있다("여배우 제니퍼 존스는 캐릭터 블랑쉬를 연기하고; 여배우 엘리자베스 아놀드는 캐릭터 줄리아를 연기하고; 여배우 휘트니 데이비슨은 캐릭터 멜리사를 연기합니다"). 응답(2020) 내의 열거된 여배우들 및 캐릭터들은 디스플레이(112) 상에 출현하는 캐릭터들(1910, 1912, 1914)에 대응할 수 있다. 상술한 바와 같이, 일부 예들에서, 디스플레이(112) 상에 보여지는 콘텐츠는 질의의 제출 및 응답의 결정 중에 변경할 수 있다. 이와 같이, 응답(2020)은 디스플레이(112) 상에 더 이상 출현할 수 없는 콘텐츠 또는 캐릭터들에 관한 정보를 포함할 수 있다.
디스플레이(112) 상에 표시된 다른 인터페이스들과 마찬가지로, 어시스턴트 응답 인터페이스(2018)는 원하는 정보를 전달하기에 충분한 공간을 제공하면서 최소의 스크린 공간을 차지할 수 있다. 일부 예들에서, 디스플레이(112) 상의 인터페이스들에 표시된 다른 텍스트와 마찬가지로, 어시스턴트 응답(2020)은 디스플레이(112)의 하부로부터 도 20에 도시된 위치 내로 위로 스크롤되고, 소정 시간량(예를 들어, 응답의 길이에 기초한 지연) 동안 표시되고, 시야 밖으로 스크롤 업될 수 있다. 다른 예들에서, 인터페이스(2018)는 지연 후에 시야 밖으로 하향으로 슬라이드될 수 있다.
도 21 및 도 22는, 사용자 의도를 결정하고 디스플레이(112) 상에 보여지는 콘텐츠에 기초하여 질의에 응답하는 다른 예를 도시한다. 도 21은 비디오(480)와 연관된 미디어 콘텐츠에 대한 가상 어시스턴트 질의를 갖는 예시적인 스피치 입력 인터페이스(484)를 도시한다. 일부 예들에서, 사용자 질의는 디스플레이(112) 상에 보여지는 미디어와 연관된 미디어 콘텐츠에 대한 요청을 포함할 수 있다. 예를 들어, 사용자는 예를 들어 캐릭터, 배우, 장르 등에 기초하여 특정 미디어와 연관된 다른 영화, 텔레비전 프로그램, 스포츠 이벤트 등을 요청할 수 있다. 예를 들어, 전사(2122)는 비디오(480) 내의 여배우의 캐릭터의 이름으로 언급된, 비디오(480) 내의 그녀와 연관된 다른 미디어를 요청하는 질의를 포함한다("블랑쉬가 나오는 다른 건 뭐가 있어?"). 디스플레이(112) 상에 보여지는 콘텐츠 - 메타데이터 또는 콘텐츠에 대한 다른 서술적 정보와 함께 - 는 그 콘텐츠에 관련된 스피치 입력으로부터 사용자 의도를 결정하고 질의에 대한 응답(정보제공형 또는 미디어 선택들의 결과)을 결정하는 데 다시 사용될 수 있다.
일부 예들에서, 가상 어시스턴트로 지향된 사용자 질의는 캐릭터의 이름, 배우의 이름, 프로그램의 이름, 선수의 이름 등을 사용하는 모호한 언급을 포함할 수 있다. 디스플레이(112) 상에 보여지는 콘텐츠의 상황 및 그것의 관련 메타데이터가 없다면, 그러한 언급들은 정확하게 해결하기가 어려울 수 있다. 예를 들어, 전사(2122)는 비디오(480)로부터 "블랑쉬"라는 이름의 캐릭터에 대한 언급을 포함한다. 사용자가 묻고 있는 특정 여배우 또는 다른 개인은 스피치 입력만으로는 불분명할 수 있다. 그러나, 일부 예들에서, 디스플레이(112) 상에 보여지는 콘텐츠 및 관련 메타데이터는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 도시된 예에서, 디스플레이(112) 상에 보여지는 콘텐츠 및 관련 메타데이터는 캐릭터 이름 "블랑쉬"로부터 사용자 의도를 결정하는 데 사용될 수 있다. 이 예에서, 비디오(480)와 연관된 캐릭터 목록은 "블랑쉬"가 비디오(480) 내의 캐릭터 "블랑쉬"를 언급할 가능성이 있는지를 결정하는 데 사용될 수 있다. 또 다른 예로, 상세한 메타데이터 및/또는 안면 인식은 "블랑쉬"라는 이름의 캐릭터가 스크린 상에 출현하는지(또는 사용자의 질의의 개시 시에 스크린 상에 출현함)를 결정하는 데 사용될 수 있고, 이는 그 캐릭터와 연관된 여배우가 사용자의 질의의 가장 가능성이 큰 의도를 만든다. 예를 들어, 캐릭터들(1910, 1912, 1914)이 디스플레이(112) 상에 출현한다고(또는 사용자의 질의의 개시 시에 디스플레이(112) 상에 출현함) 결정될 수 있고, 이어서 그들의 관련 캐릭터 이름들이 캐릭터 블랑쉬를 언급하는 질의의 사용자 의도를 결정하기 위해 언급될 수 있다. 이어서, 배우 목록은 블랑쉬를 연기하는 여배우를 식별하는 데 사용될 수 있으며, 검색은 식별된 여배우가 그 내에 출현하는 다른 미디어를 식별하기 위해 수행될 수 있다.
결정된 사용자 의도(예컨대, 캐릭터 언급 "블랑쉬"의 해결) 및 질의의 결과의 결정(예컨대, "블랑쉬"를 연기하는 여배우와 연관된 다른 미디어)이 주어지면, 사용자에게 응답이 제공될 수 있다. 도 22는 어시스턴트 텍스트 응답(2226) 및 선택가능한 비디오 링크(2228)를 포함하는 예시적인 어시스턴트 응답 인터페이스(2224)를 도시하며, 이는 도 21의 전사(2122)의 질의에 응답할 수 있다. 어시스턴트 텍스트 응답(2226)은, 도시된 바와 같이, 선택가능한 비디오 링크들(2228)을 소개하는 사용자 요청의 패러프레이즈를 포함할 수 있다. 어시스턴트 텍스트 응답(2226)은 또한 사용자의 질문의 명확화의 지시를 포함할 수 있다 - 특히 비디오(480) 내의 캐릭터 블랑쉬를 연기하는 것으로 여배우 제니퍼 존스를 식별하는 것. 이러한 패러프레이즈는 가상 어시스턴트가 사용자의 질의를 정확하게 해석하고 원하는 결과를 제공하고 있음을 사용자에게 확인해 줄 수 있다.
어시스턴트 응답 인터페이스(2224)는 또한 선택가능한 비디오 링크(2228)를 포함할 수 있다. 일부 예들에서, 다양한 유형의 미디어 콘텐츠가 가상 어시스턴트 질의에 결과로서 제공될 수 있으며, 이는 영화들(예를 들어, 인터페이스(2224)의 영화 A 및 영화 B)을 포함한다. 질의의 결과로 표시되는 미디어 콘텐츠는 사용자가 소비(무료, 구매, 또는 구독의 일부로서)를 위해 이용할 수 있는 미디어를 포함할 수 있다. 사용자는 표시된 미디어를 선택하여 결과 콘텐츠를 보거나 소비할 수 있다. 예를 들어, 사용자는 여배우 제니퍼 존스가 그 내에 출현하는 다른 영화들 중 하나를 시청하기 위해 선택가능한 비디오 링크들(2228) 중 하나를 선택할 수 있다(예를 들어, 원격 제어부, 음성 커맨드 등을 사용하여). 선택가능한 비디오 링크들(2228) 중 하나의 링크의 선택에 응답하여, 선택과 연관된 비디오가 재생될 수 있으며, 이는 디스플레이(112) 상의 비디오(480)를 대체한다. 따라서, 표시된 미디어 콘텐츠 및 관련 메타데이터는 스피치 입력으로부터 사용자 의도를 결정하는 데 사용될 수 있으며, 일부 예들에서, 재생가능한 미디어가 결과로서 제공될 수 있다.
사용자는 배우, 선수, 캐릭터, 위치, 팀, 스포츠 이벤트 상세 사항, 영화 주제, 또는 질의를 생성할 때 표시된 콘텐츠와 연관된 다양한 다른 정보를 언급할 수 있으며, 가상 어시스턴트 시스템은 이러한 요청을 유사하게 명확하게 하고 표시된 콘텐츠 및 관련 메타데이터에 기초하여 사용자 의도를 결정할 수 있음을 이해해야 한다. 마찬가지로, 일부 예들에서, 결과는 질의의 대상인 사람과 연관된 영화, 텔레비전 쇼, 또는 스포츠 이벤트와 같은, 질의와 연관된 미디어 제안들을 포함할 수 있음을 이해해야 한다(사용자가 구체적으로 그러한 미디어 콘텐츠를 요청하는지 여부).
또한, 일부 예들에서, 사용자 질의는 캐릭터, 에피소드, 영화 줄거리, 이전 장면 등에 관한 질의와 같은 미디어 콘텐츠 자체와 연관된 정보에 대한 요청들을 포함할 수 있다. 위에서 논의된 예들과 마찬가지로, 표시된 콘텐츠 및 관련 메타데이터는 이러한 질의로부터 사용자 의도를 결정하고 응답을 결정하는 데 사용될 수 있다. 예를 들어, 사용자가 캐릭터에 대한 설명을 요청할 수 있다(예컨대, "이 영화에서 블랑쉬는 뭐를 해?"). 이어서, 가상 어시스턴트 시스템은 표시된 콘텐츠와 연관된 메타데이터로부터 캐릭터 설명이나 역할과 같은 캐릭터에 대해 요청된 정보를 식별할 수 있다(예를 들어, "블랑쉬는 변호사 그룹 중 한명이며 하트포드에서 사고뭉치로 알려져 있습니다"). 유사하게, 사용자는 에피소드 시놉시스를 요청할 수 있으며(예를 들어, "마지막 에피소드에서 어떤 일이 일어났어?"), 가상 어시스턴트 시스템은 에피소드에 대한 설명을 검색하고 제공할 수 있다.
일부 예들에서, 디스플레이(112) 상에 표시된 콘텐츠는 메뉴 콘텐츠를 포함할 수 있고, 그러한 메뉴 콘텐츠는 유사하게 스피치 입력의 사용자 의도 및 사용자 질의에 대한 응답을 결정하는 데 사용될 수 있다. 도 23a 및 도 23b는 프로그램 메뉴(830)의 예시적인 페이지들을 도시한다. 도 23a는 미디어 옵션들(832)의 제1 페이지를 도시하고, 도 23b는 미디어 옵션들(832)의 제2 페이지(하나의 페이지를 넘어서 연장되는 콘텐츠 목록에 연속적인 다음 페이지를 포함할 수 있음)를 도시한다.
일 예에서, 콘텐츠를 재생하라는 사용자 요청은 메뉴(830) 내의 디스플레이(112) 상에 보여지는 무언가에 대한 모호한 언급을 포함할 수 있다. 예를 들어, 사용자 시청 메뉴(830)는 "그" 축구 경기, "그" 농구 경기, 청소기 광고, 법률 쇼 등을 시청하도록 요청할 수 있다. 원하는 특정 프로그램은 스피치 입력만으로는 명확하지 않을 수 있다. 그러나, 일부 예들에서, 디스플레이(112) 상에 보여지는 콘텐츠는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 도시된 예에서, 메뉴(830) 내의 미디어 옵션들(일부 예들에서 미디어 옵션들과 연관된 메타데이터와 함께)은 모호한 언급을 포함하는 커맨드들로부터 사용자 의도를 결정하는 데 사용될 수 있다. 예를 들어, "그" 축구 경기는 스포츠 채널 상의 축구 경기로 해결될 수 있다. "그" 농구 경기는 대학 스포츠 채널 상의 농구 경기로 해결될 수 있다. 청소기 광고는 유료 프로그래밍 쇼(예를 들어, 청소기를 설명하는 쇼와 연관된 메타데이터에 기초함)로 해결될 수 있다. 법률 쇼는 쇼 및/또는 동의어 매칭, 퍼지 매칭, 또는 기타 매칭 기법과 연관된 메타데이터에 기초한 법정 드라마로 해결될 수 있다. 따라서, 디스플레이(112) 상의 메뉴(830) 내의 다양한 미디어 옵션(832)의 외관은 사용자 요청을 명확하게 하는 데 사용될 수 있다.
일부 예들에서, 표시된 메뉴는 커서, 조이스틱, 화살표, 버튼, 제스처 등으로 내비게이팅될 수 있다. 이러한 경우들에서, 선택된 항목에 대해 포커스가 보여질 수 있다. 예를 들어, 선택된 항목은 굵은 체, 밑줄, 테두리를 갖는 윤곽선, 다른 메뉴 항목보다 큰 크기, 그림자, 반사, 글로우(glow), 및/또는 어떤 메뉴 항목이 선택되고 포커스를 갖는지를 강조하기 위한 다른 기능으로 표시될 수 있다. 예를 들어, 도 23a의 선택된 미디어 옵션(2330)은 현재 선택된 미디어 옵션으로 포커스를 가질 수 있으며, 큰 밑줄이 그어진 유형과 테두리로 표시된다.
일부 예들에서, 콘텐츠를 재생하거나 메뉴 항목을 선택하라는 요청은 포커스를 갖는 메뉴 항목에 대한 모호한 언급을 포함할 수 있다. 예를 들어, 도 23a의 사용자 시청 메뉴(830)는 "그" 쇼를 재생하라고 요청할 수 있다(예를 들어, "그 쇼를 재생해"). 유사하게, 사용자는 재생, 삭제, 숨기기, 그것을 시청하라고 나에게 리마인드, 그것을 녹화 등과 같은, 포커스를 갖는 메뉴 항목과 연관된 다양한 다른 커맨드들을 요청할 수 있다. 원하는 특정 메뉴 항목이 또는 쇼는 스피치 입력만으로는 명확하지 않을 수 있다. 그러나, 디스플레이(112) 상에 보여지는 콘텐츠는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 특히, 선택된 미디어 옵션(2330)이 메뉴(830) 내에 포커스를 갖고 있다는 사실은, "그" 쇼를 언급하는 커맨드들, 대상 없는 커맨드들(예를 들어, 재생, 삭제, 숨기기 등), 또는 포커스를 갖는 미디어 콘텐츠를 언급하는 임의의 다른 모호한 커맨드들 중 임의의 커맨드의 원하는 미디어 대상을 식별하는 데 사용될 수 있다. 따라서, 포커스를 갖는 메뉴 항목은 스피치 입력으로부터 사용자 의도를 결정하는 데 사용될 수 있다.
사용자 요청을 명확하게 하는 데 사용될 수 있는 미디어 콘텐츠의 시청 이력과 마찬가지로(예컨대, 사용자가 요청을 시작한 시간에서 표시되었지만 이후 이미 지나간 콘텐츠), 이전에 표시된 메뉴 또는 검색 결과 콘텐츠는 유사하게 예를 들어 이후 메뉴 또는 검색 결과 콘텐츠로 이동한 후에 이후 사용자 요청을 명확하게 하는 데 사용될 수 있다. 예를 들어, 도 23b는 추가 미디어 옵션(832)을 갖는 메뉴(830)의 제2 페이지를 도시한다. 사용자는 도 23b에 도시된 제2 페이지로 진행할 수 있지만, 도 23a에 도시된 제1 페이지에 보여지는 콘텐츠를 다시 언급할 수 있다(예컨대, 도 23a에 보여지는 미디어 옵션들(832)). 예를 들어, 메뉴(830)의 제2 페이지로 이동했음에도 불구하고, 사용자는 "그" 축구 경기, "그" 농구 경기, 또는 법정 쇼를 시청하도록 요청할 수 있다 - 메뉴(830)의 이전 페이지에 최근에 표시된 미디어 옵션들(832) 모두. 이러한 언급들은 모호할 수 있지만 메뉴(830)의 제1 페이지로부터 최근에 표시된 메뉴 콘텐츠는 사용자 의도를 결정하는 데 사용될 수 있다. 특히, 도 23a의 최근에 표시된 미디어 옵션들(832)은 모호한 예시적인 요청들에서 언급된 특정 축구 경기, 농구 경기, 또는 법정 드라마를 식별하기 위해 분석될 수 있다. 일부 예들에서, 결과들은 최근에 콘텐츠가 어떻게 표시되는지에 기초하여 바이어스(bias)될 수 있다(예를 들어, 가장 최근에 본 결과의 페이지에 대해 이전에 본 결과보다 가중치를 둠). 이러한 방식으로, 디스플레이(112) 상에 최근에 보여진 것의 시청 이력이 사용자 의도를 결정하는 데 사용될 수 있다. 이전에 표시된 검색 결과, 이전에 표시된 프로그램, 이전에 표시된 메뉴 등과 같은 임의의 최근 표시된 콘텐츠가 사용될 수 있다는 것을 이해해야 한다. 이는 사용자들로 하여금 자신이 본 특정 보기를 찾아 내비게이팅할 필요 없이 이전에 본 무언가를 다시 언급하게 할 수 있다.
또 다른 예들에서, 디스플레이(112) 상의 메뉴 또는 결과 목록에 보여지는 다양한 표시 큐는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 도 24는 카테고리들로 분할된 예시적인 미디어 메뉴를 도시하며, 그 중 하나는 포커스(영화)를 갖는다. 도 24는 TV 옵션들(2442), 영화 옵션들(2444), 및 음악 옵션들(2446)을 포함하는 카테고리화된 미디어 옵션들의 회전식 인터페이스를 포함할 수 있는 카테고리 인터페이스(2440)를 도시한다. 도시된 바와 같이, 음악 카테고리는 부분적으로만 표시되고, 회전식 인터페이스는 회전식으로 미디어를 회전시키는 것처럼 추가 콘텐츠를 표시하도록 오른쪽으로(예컨대, 화살표로 표시된 바와 같이) 시프팅될 수 있다. 도시된 예에서, 영화 카테고리는 밑줄이 그어진 제목 및 경계에 의해 표시된 바와 같이 포커스를 갖지만, 포커스는 다양한 다른 방식 중 임의의 방식으로 나타낼 수 있다(예를 들어, 카테고리를 더 크게 하여 다른 카테고리보다 사용자에 더 가깝게 출현하게 하는 것, 글로우를 추가하는 것 등).
일부 예들에서, 콘텐츠를 재생하거나 메뉴 항목을 선택하라는 요청은 항목들의 그룹(예컨대, 카테고리) 내의 메뉴 항목에 대한 모호한 언급을 포함할 수 있다. 예를 들어, 사용자 시청 카테고리 인터페이스(2440)는 축구 쇼를 재생하라고 요청할 수 있다("축구 쇼를 재생해"). 원하는 특정 메뉴 항목이 또는 쇼는 스피치 입력만으로는 명확하지 않을 수 있다. 또한, 질의는 디스플레이(112) 상에 표시되는 둘 이상의 쇼로 해결될 수 있다. 예를 들어, 축구 쇼에 대한 요청은 TV 프로그램 카테고리에 열거된 축구 경기 또는 영화 카테고리에 열거된 축구 영화를 언급할 수 있다. 디스플레이(112) 상에 보여지는 콘텐츠 - 표시 큐를 포함함 - 는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 특히, 영화 카테고리가 카테고리 인터페이스(2440) 내에 포커스를 갖고 있다는 사실은, 영화 카테고리에 포커스를 둔 축구 영화일 가능성이 있는, 원하는 특정 축구 쇼를 식별하는 데 사용될 수 있다. 따라서, 디스플레이(112) 상에 보여지는 바와 같이 포거스를 갖는 미디어의 카테고리(또는 임의의 다른 미디어의 그룹핑)는 스피치 입력으로부터 사용자 의도를 결정하는 데 사용될 수 있다. 또한, 사용자는, 특정 카테고리 콘텐츠의 표시를 요청하는 것(예를 들어, 코미디 영화를 보여줘, 공포 영화를 보여줘 등)과 같이, 카테고리와 연관된 다양한 다른 요청을 할 수 있음을 이해해야 한다.
다른 예들에서, 사용자는 디스플레이(112) 상에 보여지는 메뉴 또는 미디어 항목을 다양한 다른 방식으로 언급할 수 있고, 사용자 의도는 표시된 콘텐츠에 기초하여 유사하게 결정될 수 있다. 표시된 콘텐츠(예를 들어, TV 프로그램 설명, 영화 설명 등), 퍼지 매칭 기술, 동의어 매칭 등과 관련된 메타데이터가 스피치 입력으로부터 사용자 의도를 결정하기 위해 표시된 콘텐츠와 함께 추가로 사용될 수 있음을 이해해야 한다. 따라서, 다양한 형태의 사용자 요청 - 자연 언어 요청들을 포함함 - 은 수용될 수 있으며 사용자 의도는 본 명세서에 논의된 다양한 예에 따라 결정될 수 있다.
디스플레이(112) 상에 표시된 콘텐츠는 단독으로 또는 사용자 의도를 결정 시에 사용자 디바이스(102) 상에 또는 원격 제어부(106)와 연관된 디스플레이 상에 표시된 콘텐츠와 함께 사용될 수 있다는 것을 이해해야 한다. 마찬가지로, 가상 어시스턴트 질의는 텔레비전 셋톱 박스(104)에 통신가능하게 결합된 다양한 디바이스들 중 임의의 디바이스에서 수신될 수 있고, 디스플레이(112) 상에 표시된 콘텐츠는 어떤 디바이스가 질의를 수신하는지에 관계없이 사용자 의도를 결정하는 데 사용될 수 있음을 이해해야 한다. 질의들의 결과는 마찬가지로 디스플레이(112) 상에 또는 다른 디스플레이 상에(예를 들어, 사용자 디바이스(102) 상에) 표시될 수 있다.
또한, 본 명세서에서 논의된 다양한 예 중 임의의 예에서, 가상 어시스턴트 시스템은 사용자가 구체적으로 메뉴를 열고 메뉴 항목으로 내비게이팅하라고 요구하지 않고서 메뉴를 내비게이팅하고 메뉴 옵션을 선택할 수 있다. 예를 들어, 도 24의 영화 옵션(2444)을 선택하는 것과 같은 미디어 콘텐츠 또는 메뉴 버튼을 선택한 후에, 옵션들의 메뉴가 출현할 수 있다. 메뉴 옵션들은, 미디어를 재생하는 것뿐만 아니라 나중에 미디어를 시청하라고 리마인더를 설정, 미디어의 녹화를 설정, 즐겨찾기 목록에 미디어를 추가, 추가 보기로부터 미디어를 숨기기 등과 같이 단순히 미디어를 재생하는 것에 대한 대안들을 포함할 수 있다. 사용자가 하위 메뉴 옵션을 갖는 메뉴 또는 콘텐츠 위에 있는 콘텐츠를 보고 있는 동안, 사용자는 그렇지 않으면 메뉴 또는 하위 메뉴로 내비게이팅하여 선택하도록 요구되는 가상 어시스턴트 커맨드를 발행할 수 있다. 예를 들어, 도 24의 사용자 보기 카테고리 인터페이스(2440)는 관련 메뉴를 수동으로 열지 않고서 영화 옵션(2444)과 연관된 임의의 메뉴 커맨드를 발행할 수 있다. 예를 들어, 사용자는 그러한 커맨드를 사용할 수 있는 이들 미디어 옵션과 연관된 메뉴 또는 하위 메뉴로 내비게이팅하지 않고서 축구 영화를 즐겨찾기 목록에 추가하고, 야간 뉴스를 녹화하고, 영화 B를 시청하라고 리마인드를 설정하라는 요청을 할 수 있다. 따라서, 가상 어시스턴트 시스템은 이들 메뉴 옵션들이 디스플레이(112) 상에 출현하는지 여부를 사용자를 대신하여 커맨드들을 실행하기 위해 메뉴들 및 하위 메뉴들을 내비게이팅할 수 있다. 이는 사용자 요청을 단순화하고 원하는 메뉴 기능을 획득하기 위해 사용자가 해야만 하는 클릭 또는 선택의 수를 줄일 수 있다.
도 25는 디스플레이 상에 보여지는 미디어 콘텐츠 및 미디어 콘텐츠의 시청 이력을 사용하여 텔레비전 상호작용을 제어하기 위한 예시적인 프로세스(2500)를 도시한다. 블록(2502)에서, 스피치 입력이 사용자로부터 수신될 수 있으며, 스피치 입력은 텔레비전 디스플레이 상에 보여지는 콘텐츠와 연관된 질의를 포함한다. 예를 들어, 스피치 입력은 시스템(100)의 디스플레이(112) 상에 출현하는 캐릭터, 배우, 영화, 텔레비전 프로그램, 스포츠 이벤트, 선수 등(텔레비전 셋톱 박스(104)에 의해 보여짐)에 관한 질의를 포함할 수 있다. 도 19의 전사(1916)는 예를 들어, 디스플레이(112) 상의 비디오(480)에 보여지는 여배우와 연관된 질의를 포함한다. 유사하게, 도 21의 전사(2122)는 디스플레이(112) 상에 보여지는 비디오(480) 내의 캐릭터와 연관된 질의를 포함한다. 스피치 입력은 또한 특정 메뉴 항목을 선택하거나 특정 검색 결과에 관한 정보를 얻기 위한 질의와 같은, 디스플레이(112) 상에 출현하는 메뉴 또는 검색 콘텐츠와 연관된 질의를 포함할 수 있다. 예를 들어, 표시된 메뉴 콘텐츠는 도 23a 및 도 23b의 메뉴(830)의 미디어 옵션(832)을 포함할 수 있다. 표시된 메뉴 콘텐츠는 마찬가지로 도 24의 카테고리 인터페이스(2440)에 출현하는 TV 옵션(2442), 영화 옵션(2444), 및/또는 음악 옵션(2446)을 포함할 수 있다.
도 25의 프로세스(2500)를 다시 참조하면, 블록(2504)에서, 질의의 사용자 의도는 보여진 콘텐츠 및 미디어 콘텐츠의 시청 이력에 기초하여 결정될 수 있다. 예를 들어, 사용자 의도는 텔레비전 프로그램, 스포츠 이벤트, 영화 등의 표시되거나 최근에 표시된 장면에 기초하여 결정될 수 있다. 사용자 의도는 또한 표시되거나 최근에 표시된 메뉴 또는 검색 콘텐츠에 기초하여 결정될 수 있다. 표시된 콘텐츠는 또한 콘텐츠와 연관된 메타데이터와 함께 분석되어 사용자 의도를 결정할 수 있다. 예를 들어, 도 19, 도 21, 도 23a, 도 23b 및 도 24를 참조하여 도시되고 설명된 콘텐츠는 사용자 의도를 결정하기 위해 단독으로 또는 표시된 콘텐츠와 연관된 메타데이터와 함께 사용될 수 있다.
블록(2506)에서, 질의의 결과는 결정된 사용자 의도에 기초하여 표시될 수 있다. 예를 들어, 도 20의 어시스턴트 응답 인터페이스(2018)에서 어시스턴트 응답(2020)에 유사한 결과가 디스플레이(112) 상에 표시될 수 있다. 다른 예에서, 텍스트 및 선택가능한 미디어는 도 22에 도시된 어시스턴트 응답 인터페이스(2224)에서 어시스턴트 텍스트 응답(2226) 및 선택가능한 비디오 링크(2228)와 같은 결과로서 제공될 수 있다. 또 다른 예에서, 질의의 결과를 표시하는 것은 선택된 미디어 콘텐츠를 표시하거나 재생하는 것을 포함할 수 있다(예를 들어, 텔레비전 셋톱 박스(104)를 통해 디스플레이(112) 상에 선택된 비디오를 재생하는 것). 따라서, 사용자 의도는 표시된 콘텐츠 및 관련 메타데이터를 상황으로서 사용하여 다양한 방식으로 스피치 입력으로부터 결정될 수 있다.
일부 예들에서, 가상 어시스턴트 질의 제안들은 사용자에게 제공될 수 있으며, 예를 들어 이용가능한 질의를 사용자에게 알리고, 사용자가 즐길 수 있는 콘텐츠를 제안하고, 시스템을 사용하는 방법을 사용자에게 가르치고, 사용자가 소비용 추가 미디어 콘텐츠를 찾도록 장려하는 것 등을 하도록 사용자에게 제공될 수 있다. 일부 예들에서, 질의 제안들은 가능한 커맨드들의 일반적인 제안들(예컨대, 코미디를 찾아줘, TV 가이드를 보여줘, 액션 영화를 검색해줘, 자막 방송을 켜줘 등)을 포함할 수 있다. 다른 예들에서, 질의 제안들은, 표시된 콘텐츠와 관련된 타깃 제안들(예를 들어, 시청 목록에 이 쇼를 추가하고, 소셜 미디어를 통해 이 쇼를 공유하고, 이 영화의 사운드 트랙을 보여주고, 이 게스트가 판매하는 책을 보여주고, 손님이 칭찬하고 있는 영화의 예고편을 보여주는 것 등), 사용자 선호도(예를 들어, 폐쇄 자막(closed captioning) 사용 등), 사용자 소유 콘텐츠, 사용자의 디바이스에 저장된 콘텐츠, 알림, 경고, 미디어 콘텐츠의 시청 이력(예를 들어, 최근에 표시된 메뉴 항목들, 쇼의 최근에 표시된 장면들, 최근 배우 출현들 등) 등을 포함할 수 있다. 제안들은 임의의 디바이스 상에 예컨대, 텔레비전 셋톱 박스(104)를 통해 디스플레이(112) 상에, 사용자 디바이스(102) 상에, 또는 원격 제어부(106)와 연관된 디스플레이 상에 표시될 수 있다. 또한, 제안들은 특정 시간에 어떤 디바이스가 근처에 있고/있거나 텔레비전 셋톱 박스(104)와 통신하고 있는지에 기초하여 결정될 수 있다(예를 들어, 특정 시간에 TV를 시청하고 있는 방의 사용자들의 디바이스들로부터 콘텐츠를 제안하는 것). 다른 예들에서, 제안들은 하루 중 시간, 군중-소스인 정보(예를 들어, 주어진 시간에 시청되고 있는 인기있는 프로그램), 라이브인 쇼(예를 들어, 라이브 스포츠 이벤트), 미디어 콘텐츠의 시청 이력(예를 들어, 시청된 마지막 몇 개의 쇼, 최근에 본 검색 결과들의 세트, 최근에 본 미디어 옵션들의 그룹 등), 또는 다양한 다른 상황 정보 중 임의의 상황 정보를 포함하는 다양한 다른 상황 정보에 기초하여 결정될 수 있다.
도 26은 콘텐츠 기반 가상 어시스턴트 질의 제안들(2652)을 포함하는 예시적인 제안 인터페이스(2650)를 도시한다. 일 예에서, 질의 제안은 제안을 요청하는 사용자로부터 수신된 입력에 응답하여 인터페이스(2650)와 같은 인터페이스에 제공될 수 있다. 질의 제안을 요청하는 입력은 예를 들어 사용자 디바이스(102) 또는 원격 제어부(106)로부터 수신될 수 있다. 일부 예들에서, 입력은 사용자 디바이스(102) 또는 원격 제어부(106)에서 수신된 버튼 누르기, 버튼의 더블 클릭, 메뉴 선택, 음성 커맨드(예를 들어, 몇 가지 제안 사항을 보여줘, 나를 위해 무엇을 할 수 있어, 몇 가지 옵션이 뭐야 등) 등을 포함할 수 있다. 예를 들어, 사용자는 원격 제어부(106) 상의 물리적 버튼을 더블 클릭하여 질의 제안을 요청할 수 있거나, 텔레비전 셋톱 박스(104)와 연관된 인터페이스를 볼 때 사용자 디바이스(102) 상의 물리적 또는 가상 버튼을 더블 클릭하여 질의 제안을 요청할 수 있다.
제안 인터페이스(2650)는 비디오(480)와 같은 동영상 위에 또는 임의의 다른 백그라운드 콘텐츠(예를 들어, 메뉴, 정지 이미지, 일시정지된 비디오 등) 위에 표시될 수 있다. 본 명세서에서 논의된 다른 인터페이스들과 마찬가지로, 제안 인터페이스(2650)는 디스플레이(112)의 하부로부터 슬라이드 업하도록 애니메이션화될 수 있고, 백그라운드의 비디오(480)와의 간섭을 제한하도록 원하는 정보를 충분히 전달하면서 최소량의 공간을 차지할 수 있다. 다른 예들에서, 백그라운드 콘텐츠가 여전히 존재할 때(예를 들어, 일시정지된 비디오, 메뉴, 이미지 등) 제안들의 더 큰 인터페이스가 제공될 수 있다.
일부 예들에서, 가상 어시스턴트 질의 제안은 표시된 미디어 콘텐츠 또는 미디어 콘텐츠의 시청 이력(예를 들어, 영화, 텔레비전 쇼, 스포츠 이벤트, 최근에 본 쇼, 최근에 본 메뉴, 최근에 본 영화의 장면, 재생 중인 텔레비전 에피소드의 최근 장면 등)에 기초하여 결정될 수 있다. 예를 들어, 도 26은 디스플레이(112) 상에 출현하는 캐릭터들(1910, 1912, 1914)을 갖는 백그라운드에 보여지는 표시된 비디오(480)에 기초하여 결정될 수 있는 콘텐츠 기반 제안들(2652)을 도시한다. 또한, 표시된 콘텐츠와 연관된 메타데이터(예컨대, 미디어 콘텐츠의 서술적 상세 사항들)는 질의 제안을 결정하는 데 사용될 수 있다. 메타데이터는 쇼 제목, 캐릭터 목록, 배우 목록, 에피소드 설명, 팀 선수 명단, 팀 순위, 쇼 시놉시스, 영화 상세 사항, 줄거리 설명, 감독 이름, 제작자 이름, 배우 출현의 횟수, 스포츠 순위, 스포츠 점수, 장르, 시즌 에피소드 목록, 관련 미디어 콘텐츠, 또는 기타 다양한 관련 정보를 포함하는, 표시된 콘텐츠와 연관된 다양한 정보를 포함할 수 있다. 예를 들어, 비디오(480)와 연관된 메타데이터는 이들 캐릭터를 연기하는 여배우와 함께 캐릭터들(1910, 1912, 1914)의 캐릭터 이름을 포함할 수 있다. 메타데이터는 또한 비디오(480)의 줄거리에 대한 설명, 이전 또는 다음 에피소드에 대한 설명(여기서 비디오(480)가 시리즈의 텔레비전 에피소드임) 등을 포함할 수 있다.
도 26은 비디오(480) 및 비디오(480)와 연관된 메타데이터에 기초한 제안 인터페이스(2650)에 보여질 수 있는 다양한 콘텐츠 기반 제안들(2652)을 도시한다. 예를 들어, 비디오(480)의 캐릭터(1910)는 "블랑쉬"로 명명될 수 있고, 캐릭터 이름은 캐릭터 블랑쉬 또는 그 캐릭터를 연기하는 여배우에 관한 정보에 대한 질의 제안을 작성하는 데 사용될 수 있다(예를 들어, "블랑쉬를 연기하는 여배우는 누구야?"). 캐릭터(1910)는 비디오(480)와 연관된 메타데이터(예를 들어, 캐릭터 목록, 배우 목록, 배우 출현과 연관된 시간들 등)로부터 식별될 수 있다. 다른 예들에서, 안면 인식은 주어진 시간에 디스플레이(112) 상에 출현하는 여배우 및/또는 캐릭터를 식별하는 데 사용될 수 있다. 캐릭터의 역할, 프로필, 다른 캐릭터와의 관계 등에 관련된 질의와 같이, 미디어 자체 내의 캐릭터와 연관된 다양한 다른 질의 제안이 제공될 수 있다.
다른 예에서, 디스플레이(112) 상에 출현하는 배우 또는 여배우가 식별될 수 있고(예를 들어, 메타데이터 및/또는 안면 인식에 기초하여), 그 배우 또는 여배우와 연관된 질의 제안이 제공될 수 있다. 이러한 질의 제안은 연기한 역할(들), 연기 상, 연령, 그들이 출현하는 다른 미디어, 이력, 가족 구성원, 관계, 또는 배우 또는 여배우에 대한 다양한 기타 상세 사항 중 임의의 것을 포함할 수 있다. 예를 들어, 캐릭터(1914)는 휘트니 데이비드슨이라는 이름의 여배우가 연기할 수 있고, 휘트니 데이비드슨이라는 여배우의 이름이 다른 영화, 텔레비전 프로그램, 또는 여배우 휘트니 데이비드슨이 출연하는 다른 미디어를 식별하기 위해 질의 제안을 작성하는 데 사용될 수 있다(예를 들어, "휘트니 데이비슨이 나오는 다른 건 뭐가 있어?").
다른 예들에서, 쇼에 대한 상세 사항은 질의 제안을 작성하는 데 사용될 수 있다. 에피소드 시놉시스, 줄거리 요약, 에피소드 목록, 에피소드 제목, 시리즈 제목 등은 질의 제안을 작성하는 데 사용될 수 있다. 예를 들어, 가상 어시스턴트 시스템이 현재 디스플레이(112) 상에 보여지는 에피소드(및 그것의 관련 메타데이터)에 기초하여 식별된 이전 에피소드로부터 에피소드 시놉시스를 응답으로서 제공할 수 있는, 텔레비전 프로그램의 마지막 에피소드에서 무슨 일이 일어 났는지를 설명하기 위한 제안이 제공될 수 있다(예를 들어, "마지막 에피소드에서 무슨 일이 일어 났어?"). 다른 예에서, 디스플레이(112) 상에 보여지는 현재 재생 중인 에피소드에 기초하여 다음 에피소드를 식별하는 시스템에 의해 달성될 수 있는, 다음 에피소드에 대한 녹화를 설정하기 위한 제안이 제공될 수 있다. 또 다른 예에서, 디스플레이(112) 상에 출현하는 현재 에피소드 또는 쇼에 관한 정보를 얻기 위한 제안이 제공될 수 있으며, 메타데이터로부터 획득된 쇼의 제목은 질의 제안을 작성하는 데 사용될 수 있다(예를 들어, "'Their Show'의 이 에피소드는 무엇에 대한 거야?" 또는 "'Their Show'는 뭐에 대한 거야?").
다른 예에서, 표시된 콘텐츠와 연관된 카테고리, 장르, 등급, 상, 설명 등은 질의 제안을 작성하는 데 사용될 수 있다. 예를 들어, 비디오(480)는 여성 주인공을 갖는 코미디로 설명된 텔레비전 프로그램에 대응할 수 있다. 질의 제안은 유사한 캐릭터들을 갖는 다른 쇼들을 식별하기 위해 이 정보로부터 작성될 수 있다(예를 들어, "여성 주인공을 갖는 다른 코미디를 찾아줘"). 다른 예들에서, 제안들은 사용자 구독, 재생에 이용가능한 콘텐츠(예를 들어, 텔레비전 셋톱 박스(104) 상의 콘텐츠, 사용자 디바이스(102) 상의 콘텐츠, 스트리밍에 이용가능한 콘텐츠 등) 등에 기초하여 결정될 수 있다. 예를 들어, 잠재적인 질의 제안은 정보제공형 또는 미디어 결과가 이용가능할 수 있는지 여부에 기초하여 필터링될 수 있다. 재생할 수 있는 미디어 콘텐츠 또는 정보제공형 답변을 유발하지 않을 수 있는 질의 제안은 제외되고/되거나, 쉽게 입수가능한 정보제공형 답변 또는 재생가능한 미디어 콘텐츠를 갖는 질의 제안이 제공될 수 있다(또는 제공할 제안을 결정 시에 더 많은 가중치를 줌). 따라서, 표시된 콘텐츠 및 관련 메타데이터는 질의 제안을 결정하기 위해 다양한 방식으로 사용될 수 있다.
도 27은 제안된 질의의 선택을 확인해 주기 위한 예시적인 선택 인터페이스(2754)를 도시한다. 일부 예들에서, 사용자는 질의를 말하고, 버튼으로 그들을 선택하고, 커서로 그들을 내비게이팅하는 등을 함으로써 표시된 질의 제안을 선택할 수 있다. 선택에 응답하여, 선택된 제안은 선택 인터페이스(2754)와 같은 확인 인터페이스에 잠시 표시될 수 있다. 일 예에서, 선택된 제안(2756)은 그것이 제안 인터페이스(2650)에 출현한 곳으로부터 커맨드 수신 확인(490) 옆에 있는 도 27에 도시된 위치로 이동하도록 애니메이션화될 수 있고(화살표로 도시된 바와 같이), 다른 선택되지 않은 제안은 디스플레이로부터 숨겨질 수 있다.
도 28a 및 도 28b는 선택된 질의에 기초한 예시적인 가상 어시스턴트 답변 인터페이스(2862)를 도시한다. 일부 예들에서, 선택한 질의에 대한 정보제공형 답변은 답변 인터페이스(2862)와 같은 답변 인터페이스 내에 표시될 수 있다. 제안 인터페이스(2650) 또는 선택 인터페이스(2754)로부터의 스위칭에서, 전환 인터페이스(2858)는 도 28a에 도시된 바와 같이 도시될 수 있다. 특히, 인터페이스 내에서 이전에 표시된 콘텐츠는 다음 콘텐츠가 디스플레이(112)의 하부로부터 상향으로 스크롤됨에 따라 인터페이스 밖으로 상향으로 스크롤될 수 있다. 예를 들어, 선택된 제안(2756)은 가상 어시스턴트 인터페이스의 상부 에지에서 그것이 사라질 때까지 상향으로 슬라이드되거나 스크롤될 수 있고, 어시스턴트 결과(2860)는 디스플레이(112)의 하부로부터 도 28b에 도시된 위치에 도달할 때까지 상향으로 슬라이드되거나 스크롤될 수 있다.
답변 인터페이스(2862)는 선택된 질의 제안에 응답하여(또는 임의의 다른 질의에 응답하여) 정보제공형 답변 및/또는 미디어 결과를 포함할 수 있다. 예를 들어, 선택된 질의 제안(2756)에 응답하여, 어시스턴트 결과(2860)가 결정되고 제공될 수 있다. 특히, 이전 에피소드의 시놉시스에 대한 요청에 응답하여, 이전 에피소드는 표시된 콘텐츠에 기초하여 식별될 수 있고, 관련 설명 또는 시놉시스는 식별되어 사용자에게 제공될 수 있다. 도시된 예에서, 어시스턴트 결과(2860)는 디스플레이(112) 상의 비디오(480)에 대응하는 프로그램의 이전 에피소드를 설명할 수 있다(예를 들어, "'Their Show'의 에피소드(203)에서, 블랑쉬는 초빙 강사로서 대학 심리학 수업에 초대되었습니다. 줄리아와 멜리사는 예고 없이 나타나서 논란을 일으킵니다"). 정보제공형 답변 및 미디어 결과(예컨대, 선택가능한 비디오 링크)는 본 명세서에 논의된 다른 방식들 중 임의의 방식으로도 또한 제시될 수 있거나, 결과는 다양한 다른 방식으로 제시될 수도 있다(예컨대, 답변을 크게 말하는 것, 콘텐츠를 즉시 재생하는 것, 애니메이션을 보여주는 것, 이미지를 표시하는 것 등).
다른 예에서, 알림 또는 경고는 가상 어시스턴트 질의 제안을 결정하는 데 사용될 수 있다. 도 29는 알림 기반 제안들(2966) 및 콘텐츠 기반 제안들(2652) 둘 모두를 갖는 미디어 콘텐츠 알림(2964)(제안 사항을 결정할 때 어떤 알림도 고려될 수 있지만) 및 제안 인터페이스(2650)를 도시한다(이는 도 26을 참조하여 위에서 논의된 바와 같이 동일한 개념들 중 일부를 포함할 수 있음). 일부 예들에서, 알림의 내용은 관련 미디어와 관련된 이름, 제목, 주제, 동작 등을 식별하기 위해 분석될 수 있다. 도시된 예에서, 알림(2964)은 표시를 위해 이용가능한 대안적인 미디어 콘텐츠에 대해 사용자에게 통지하는 경고를 포함한다 - 특히 스포츠 이벤트가 라이브이고 경기의 콘텐츠가 사용자에게 흥미가 있을 수 있다(예를 들어, "제타 팀과 알파 팀이 경기가 5분 남은 상황에서 동점입니다"). 일부 예들에서, 알림들은 디스플레이(112)의 상부에 순간적으로 표시될 수 있다. 알림들은 디스플레이(112)의 상부로부터 (화살표로 표시된 바와 같이) 도 29에 도시된 위치 내로 슬라이드 다운되고, 소정 시간량 동안 표시되고, 디스플레이(112)의 상부에서 다시 사라지도록 위로 다시 슬라이드될 수 있다.
알림 또는 경고는 이용가능한 대안적인 미디어 콘텐츠(예를 들어, 디스플레이(112) 상에 현재 보여질 수 있는 것에 대한 대안들), 이용가능한 라이브 텔레비전 프로그램, 새로 다운로드된 미디어 콘텐츠, 최근 추가된 구독 콘텐츠, 친구로부터 수신된 제안, 다른 디바이스로부터 전송된 미디어의 수신 등과 같은 다양한 정보를 사용자에게 통지할 수 있다. 알림들은 또한 미디어를 시청하는 가정 또는 식별된 사용자(예를 들어, 계정 선택, 음성 인식, 패스워드 등을 이용한 사용자 인증에 기초하여 식별됨)에 기초하여 개인화될 수 있다. 일 예에서, 시스템은 쇼를 중단하고, 알림의 콘텐츠를 원할 가능성이 있는 사용자 -사용자 프로필, 선호 팀(들), 선호하는 스포츠(들), 시청 이력 등에 기초하여- 에게 알림(2964)을 표시하는 것과 같이, 가능성있는 원하는 콘텐츠에 기초하여 알림을 표시할 수 있다. 예를 들어, 스포츠 이벤트 점수, 경기 상태, 남은 시간 등은 스포츠 데이터 피드, 언론 매체, 소셜 미디어 토론 등으로부터 획득될 수 있으며, 사용자에게 통지하기 위한 가능한 대안적인 미디어 콘텐츠를 식별하는 데 사용될 수 있다.
다른 예에서, 인기있는 미디어 콘텐츠(예를 들어, 많은 사용자에 걸쳐)는 현재 시청된 콘텐츠에 대한 대안을 제시하기 위해 경고 또는 알림을 통해 제공될 수 있다(예를 들어, 인기있는 쇼 또는 사용자가 좋아하는 장르의 쇼가 방금 시작했거나 그렇지 않으면 시청할 수 있음을 사용자에게 통지하는 것). 도시된 예에서, 사용자는 제타 팀 및 알파 팀 중 하나 또는 둘 다를 팔로잉할 수 있다(또는 축구 또는 특정 스포츠, 리그 등을 팔로잉할 수 있음). 시스템은 이용가능한 라이브 콘텐츠가 사용자의 선호도와 매칭되는지를 결정할 수 있다(예를 들어, 다른 채널 상의 경기가 사용자의 선호도와 매칭되고, 경기는 시간이 거의 남지 않으며, 점수는 비슷함). 이어서, 시스템은 가능성있는 원하는 콘텐츠의 알림(2964)을 통해 사용자에게 경고하도록 결정할 수 있다. 일부 예들에서, 사용자는 (예를 들어, 원격 제어 버튼, 커서, 구어 요청 등을 사용하여) 제안된 콘텐츠로 스위칭하기 위해 알림(2964)(또는 알림(2964) 내의 링크)을 선택할 수 있다.
가상 어시스턴트 질의 제안은 알림 콘텐츠를 분석함으로써 관련된 미디어 관련 용어, 이름, 제목, 주제, 동작 등을 식별함으로써 알림에 기초하여 결정될 수 있다. 이어서, 식별된 정보는 알림(2964)에 기초한 알림 기반 제안(2966)과 같은 적절한 가상 어시스턴트 질의 제안을 작성하는 데 사용될 수 있다. 예를 들어, 라이브 스포츠 이벤트의 흥미로운 결과에 대한 알림이 표시될 수 있다. 이어서, 사용자가 질의 제안을 요청한다면, 스포츠 이벤트를 시청하거나, 팀 통계에 대해 질의하거나, 알림과 관련된 콘텐츠를 찾기 위한 질의 제안들(예를 들어, 제타/알파 경기로 변경, 제타 팀의 통계는 뭐야, 다른 축구 경기는 뭐가 있어 등)을 포함하는 제안 인터페이스(2650)가 표시될 수 있다. 알림에서 식별된 특정 관심 용어에 기초하여, 다양한 다른 질의 제안이 마찬가지로 결정되어 사용자에게 제공될 수 있다.
(예를 들어, 텔레비전 셋톱 박스(104)를 통해 소비하기 위한) 미디어 콘텐츠와 관련된 가상 어시스턴트 질의 제안들은 또한 사용자 디바이스 상의 콘텐츠로부터 결정될 수 있고, 제안들은 또한 사용자 디바이스 상에 제공될 수 있다. 일부 예들에서, 재생가능한 디바이스 콘텐츠는 텔레비전 셋톱 박스(104)에 연결되거나 그와 통신하는 사용자 디바이스 상에서 식별될 수 있다. 도 30은 인터페이스(1360)에서 예시적인 사진 및 비디오 콘텐츠를 갖는 사용자 디바이스(102)를 도시한다. 사용자 디바이스 상에서 무슨 콘텐츠를 재생할 수 있는지 또는 무슨 콘텐츠를 재생하는 것을 원할 가능성이 있는지에 대한 결정이 이루어질 수 있다. 예를 들어, 재생가능한 미디어(3068)는 활성 애플리케이션(예를 들어, 사진 및 비디오 애플리케이션)에 기초하여 식별될 수 있거나, 또는 인터페이스(1360) 상에 표시되는지 여부에 상관없이 저장된 콘텐츠에 기초하여 식별될 수 있다(예를 들어, 일부 예들에서 활성 애플리케이션으로부터 또는 다른 예들에서 주어진 시간에 표시되고 있지 않고서 콘텐츠가 식별될 수 있음). 재생가능한 미디어(3068)는 예를 들어 비디오(1362), 사진 앨범(1364), 및 사진(1366)을 포함할 수 있으며, 각각은 표시 또는 재생을 위해 텔레비전 셋톱 박스(104)로 송신될 수 있는 개인 사용자 콘텐츠를 포함할 수 있다. 다른 예들에서, 임의의 사진, 비디오, 음악, 게임 인터페이스, 애플리케이션 인터페이스, 또는 사용자 디바이스(102) 상에 저장되거나 표시된 다른 미디어 콘텐츠는 식별되어 질의 제안을 결정하는 데 사용될 수 있다.
재생가능한 미디어(3068)가 식별되면, 가상 어시스턴트 질의 제안이 결정되어 사용자에게 제공될 수 있다. 도 31은 재생가능한 사용자 디바이스 콘텐츠에 기초하고 별개의 디스플레이(예를 들어, 텔레비전 셋톱 박스(104)와 연관된 디스플레이(112)) 상에 보여지는 비디오 콘텐츠에 기초하여 가상 어시스턴트 질의 제안을 갖는 사용자 디바이스(102) 상의 예시적인 TV 어시스턴트 인터페이스(3170)를 도시한다. TV 어시스턴트 인터페이스(3170)는 특히 미디어 콘텐츠 및/또는 텔레비전 셋톱 박스(104)와 상호작용하기 위한 가상 어시스턴트 인터페이스를 포함할 수 있다. 사용자는 예를 들어 인터페이스(3170)를 볼 때 물리적 버튼의 더블 클릭에 의해 사용자 디바이스(102) 상에 질의 제안을 요청할 수 있다. 다른 입력들은 질의 제안에 대한 요청을 나타내는 데 유사하게 사용될 수 있다. 도시된 바와 같이, 어시스턴트 인사말(3172)은 제공된 질의 제안(예를 들어, "여기 당신의 TV 경험을 제어하기 위한 몇 가지 제안이 있습니다")을 소개할 수 있다.
사용자 디바이스(102) 상에 제공된 가상 어시스턴트 질의 제안은 일반적인 제안뿐만 아니라 다양한 소스 디바이스에 기초한 제안을 포함할 수 있다. 예를 들어, 디바이스 기반 제안들(3174)은 (사용자 디바이스(102) 상에 표시된 콘텐츠를 포함하는) 사용자 디바이스(102)에 저장된 콘텐츠에 기초한 질의 제안을 포함할 수 있다. 콘텐츠 기반 제안들(2652)은 텔레비전 셋톱 박스(104)와 연관된 디스플레이(112) 상에 표시된 콘텐츠에 기초할 수 있다. 일반 제안들(3176)은 특정 미디어 콘텐츠 또는 미디어 콘텐츠를 갖는 특정 디바이스와 연관되지 않을 수 있는 일반적인 제안을 포함할 수 있다.
디바이스 기반 제안(3174)은, 예를 들어, 사용자 디바이스(102) 상에서 식별된 재생가능한 콘텐츠(예를 들어, 비디오, 음악, 사진, 게임 인터페이스, 애플리케이션 인터페이스 등)에 기초하여 결정될 수 있다. 도시된 예에서, 디바이스 기반 제안(3174)은 도 30에 도시된 재생가능한 미디어(3068)에 기초하여 결정될 수 있다. 예를 들어, 사진 앨범(1364)이 재생가능한 미디어(3068)로 식별되었음이 주어지면, 사진 앨범(1364)의 상세 사항은 질의를 작성하는 데 사용될 수 있다. 시스템은 슬라이드쇼에 보여질 수 있는 다수의 사진으로 구성된 앨범으로서 콘텐츠를 식별할 수 있고, 이어서 앨범의 제목(일부 경우에)을 사용하여 특정 앨범 사진들의 슬라이드쇼를 표시하라는 질의 제안을 작성할 수 있다(예를 들어, "너의 사진에서 '졸업 앨범'의 슬라이드쇼를 보여줘"). 일부 예들에서, 제안은 콘텐츠의 소스(예컨대, "너의 사진에서", "제니퍼의 전화기에서", "다니엘의 태블릿에서" 등)의 지시를 포함할 수 있다. 추천은 특정 날짜의 사진을 보라는 제안(예를 들어, 6월 21일의 너의 사진을 표시)과 같은 특정 콘텐츠에 대하여 언급하기 위하여 다른 상세 사항을 또한 사용할 수 있다. 다른 예에서, 비디오(1362)는 재생가능한 미디어(3068)로서 식별될 수 있으며, 비디오의 제목(또는 다른 식별 정보)은 비디오를 재생하기 위한 질의 제안을 작성하는 데 사용될 수 있다(예를 들어, "너의 비디오에서 '졸업 비디오'를 보여줘").
다른 예들에서, 다른 연결된 디바이스들에서 이용가능한 콘텐츠가 식별되고 가상 어시스턴트 질의 제안을 작성하는 데 사용될 수 있다. 예를 들어, 공통 텔레비전 셋톱 박스(104)에 연결된 2개의 사용자 디바이스들(102) 각각으로부터의 콘텐츠가 식별되어 가상 어시스턴트 질의 제안을 작성하는 데 사용될 수 있다. 일부 예들에서, 사용자가 공유하기 위해 시스템에서 볼 수 있도록 콘텐츠를 선택할 수 있으며, 시스템으로부터 다른 콘텐츠를 숨겨 그것을 질의 제안에 포함시키지 않거나 그렇지 않으면 재생할 수 있도록 할 수 있다.
도 31의 인터페이스(3170)에 보여지는 콘텐츠 기반 제안들(2652)은 예를 들어 텔레비전 셋톱 박스(104)와 연관된 디스플레이(112) 상에 표시된 콘텐츠에 기초하여 결정될 수 있다. 일부 예들에서, 콘텐츠 기반 제안들(2652)은 도 26을 참조하여 전술된 바와 동일한 방식으로 결정될 수 있다. 도시된 예에서, 도 31에 도시된 콘텐츠 기반 제안들(2652)은 디스플레이(112) 상에 보여지는 비디오(480)에 기초할 수 있다(예를 들어, 도 26에서와 마찬가지로). 이러한 방식으로, 가상 어시스턴트 질의 제안은 임의의 수의 연결된 디바이스 상에 표시되거나 이용가능한 콘텐츠에 기초하여 도출될 수 있다. 타깃 제안들에 부가하여, 일반적인 제안들(3176)이 미리결정되고 제공될 수 있다(예를 들어, 가이드를 보여줘, 무슨 스포츠가 하는지, 채널 3에서 뭐가 하는지 등).
도 32는 텔레비전 셋톱 박스(104)와 연관된 디스플레이(112) 상에 보여지는 콘텐츠 기반 제안들(2652)과 함께 연결된 디바이스 기반 제안들(3275)을 갖는 예시적인 제안 인터페이스(2650)를 도시한다. 일부 예들에서, 콘텐츠 기반 제안들(2652)은 도 26을 참조하여 전술된 바와 동일한 방식으로 결정될 수 있다. 위에서 언급한 바와 같이, 가상 어시스턴트 질의 제안은 임의의 수의 연결된 디바이스의 콘텐츠에 기초하여 작성될 수 있으며, 제안은 임의의 수의 연결된 디바이스에 제공될 수 있다. 도 32는 사용자 디바이스(102) 상의 콘텐츠로부터 도출될 수 있는 연결된 디바이스 기반 제안(3275)을 도시한다. 예를 들어, 도 30의 재생가능한 미디어(3068)로서 인터페이스(1360)에 보여지는 사진 및 비디오 콘텐츠와 같은 재생가능한 콘텐츠가 사용자 디바이스(102) 상에서 식별될 수 있다. 이어서, 사용자 디바이스(102) 상의 식별된 재생가능한 콘텐츠는 텔레비전 셋톱 박스(104)와 연관된 디스플레이(112) 상에 표시될 수 있는 제안을 작성하는 데 사용될 수 있다. 일부 예들에서, 연결된 디바이스 기반 제안들(3275)은 도 31을 참조하여 상기 논의된 디바이스 기반 제안들(3174)과 동일한 방식으로 결정될 수 있다. 또한, 전술한 바와 같이, 일부 예들에서, 소스 정보를 식별하는 것은 연결된 디바이스 기반 제안들(3275)에 보여지는 바와 같이 "제이크의 전화기로부터"와 같은 제안에 포함될 수 있다. 따라서, 하나의 디바이스 상에 제공되는 가상 어시스턴트 질의 제안은 다른 디바이스로부터의 콘텐츠(예를 들어, 표시된 콘텐츠, 저장된 콘텐츠 등)에 기초하여 도출될 수 있다. 연결된 디바이스는 (예를 들어, 제안을 작성하기 위해 클라우드에 저장된 미디어 콘텐츠에 액세스하는) 텔레비전 셋톱 박스(104) 및/또는 사용자 디바이스(102)에 액세스가능한 원격 저장 디바이스를 포함할 수 있음을 이해해야 한다.
다양한 소스로부터의 가상 어시스턴트 질의 제안의 임의의 조합이 제안을 위한 요청에 응답하여 제공될 수 있다는 것을 이해해야 한다. 예를 들어, 다양한 소스로부터의 제안은 무작위로 조합될 수 있거나, 인기도, 사용자 선호도, 선택 이력 등에 기초하여 제시될 수 있다. 또한, 질의는 다양한 다른 방식으로 결정될 수 있고, 질의 이력, 사용자 선호도, 질의 인기도 등과 같은 다양한 다른 요인에 기초하여 제시될 수 있다. 또한, 일부 예들에서, 질의 제안들은 지연 후에 표시된 제안을 새로운 대안적인 제안으로 대체함으로써 자동으로 순환될 수 있다. 사용자들은 예를 들어 터치스크린을 탭핑하거나, 질의를 말하거나, 내비게이션 키로 질의를 선택하거나, 버튼으로 질의를 선택하거나, 커서로 질의를 선택하거나, 기타 등등을 함으로써 임의의 인터페이스 상의 표시된 제안들을 선택할 수 있고, 이어서 관련 응답(예를 들어, 정보제공형 및/또는 미디어 응답)이 제공될 수 있음을 추가로 이해해야 한다.
다양한 예 중 임의의 예에서, 가상 어시스턴트 질의 제안은 또한 이용가능한 콘텐츠에 기초하여 필터링될 수 있다. 예를 들어, 이용할 수 없는 미디어 콘텐츠(예컨대, 케이블 구독이 없음)를 초래하거나 또는 관련 정보제공형 답변을 갖지 않을 수 있는 잠재적인 질의 제안은 제안으로서 실격될 수 있으며 표시되는 것을 방지할 수 있다. 한편, 사용자가 그에 대한 액세스를 갖는 즉시 재생가능한 미디어 콘텐츠를 초래할 잠재적인 질의 제안은 다른 잠재적인 제안에 가중치를 주거나 그렇지 않으면 표시를 위해 바이어스될 수 있다. 이러한 방식으로, 사용자 시청을 위한 미디어 콘텐츠의 이용가능성은 또한 표시를 위한 가상 어시스턴트 질의 제안을 결정 시에 또한 사용될 수 있다.
또한, 임의의 다양한 예 중 임의의 예에서, 미리로드된(pre-loaded) 질의 답변은 제안 대신에 또는 제안에 부가하여 제공될 수 있다(예를 들어, 제안 인터페이스(2650)에서). 이러한 미리로드된 질의 답변은 개인 용도 및/또는 현재 상황에 기초하여 선택되고 제공될 수 있다. 예를 들어, 특정 프로그램을 시청하는 사용자는 버튼을 탭핑하거나, 버튼을 더블 클릭하거나, 버튼을 길게 누르는 것 등을 하여 제안들을 수신할 수 있다. 질의 제안 대신에 또는 질의 제안에 부가하여, 재생 중인 노래 또는 사운드 트랙을 식별하는 것(예를 들어, "이 노래는 Performance Piece입니다"), 현재 재생 중인 에피소드의 출연자들을 식별하는 것(예를 들어, "여배우 자넷 퀸(Janet Quinn)이제네비에브(Genevieve)를 연기하고 있습니다"), 유사한 미디어를 식별하는 것(예를 들어, "쇼 Q는 이와 비슷합니다"), 또는 본 명세서에서 논의된 다른 질의들 중 임의의 질의의 결과를 제공하는 것과 같은 상황 기반 정보가 자동으로 제공될 수 있다.
또한, 사용자 선호도(예를 들어, 선택가능한 등급 척도)를 가상 어시스턴트에게 알리기 위해 사용자가 미디어 콘텐츠를 평가할 수 있도록 다양한 인터페이스 중 임의의 인터페이스에 어포던스가 제공될 수 있다. 다른 예들에서, 사용자는 등급 정보를 자연 언어 커맨드로 말할 수 있다(예를 들어, "나는 이것을 좋아해", "나는 이것을 싫어해", "나는 이 쇼를 좋아하지 않아" 등). 또 다른 예들에서, 본 명세서에 도시되고 설명된 다양한 인터페이스 중 임의의 인터페이스에서, 다양한 다른 기능 및 정보제공형 요소가 제공될 수 있다. 예를 들어, 인터페이스는 검색 링크, 구매 링크, 미디어 링크 등과 같은 중요한 기능 및 장소에 대한 링크를 추가로 포함할 수 있다. 다른 예에서, 인터페이스는 현재 재생 중인 콘텐츠(예를 들어, 유사한 콘텐츠를 선택하는 것)에 기초하여 무엇을 다음에 시청해야 할지의 추천을 추가로 포함할 수 있다. 또 다른 예에서, 인터페이스들은 개인화된 취향 및/또는 최근 활동(예를 들어, 사용자 평점, 사용자 입력 선호도, 최근에 시청한 프로그램 등에 기초하여 콘텐츠를 선택하는 것)에 기초하여 그 밖에 다음에 시청할 것의 추천을 추가로 포함할 수 있다. 또 다른 예들에서, 인터페이스는 사용자 상호작용(예를 들어, "가상 어시스턴트와 이야기하기 위해 길게 누르기", "제안을 얻기 위해 한 번 탭하기" 등)에 대한 명령어들을 추가로 포함할 수 있다. 일부 예들에서, 미리로드된 답변, 제안 등을 제공하는 것은 즐거운 사용자 경험을 제공하면서, 또한 매우 다양한 사용자(예를 들어, 언어 또는 다른 제어 장벽에 관계없이 다양한 기술 수준의 사용자)가 쉽게 콘텐츠를 이용할 수 있게 할 수 있다.
도 33은 미디어 콘텐츠(예를 들어, 가상 어시스턴트 질의들)를 제어하기 위한 가상 어시스턴트 상호작용을 제안하기 위한 예시적인 프로세스(3300)를 도시한다. 블록(3302)에서, 미디어 콘텐츠는 디스플레이 상에 표시될 수 있다. 예를 들어, 도 26에 도시된 바와 같이, 비디오(480)는 텔레비전 셋톱 박스(104)를 통해 디스플레이(112) 상에 표시될 수 있거나, 인터페이스(1360)는 도 30에 도시된 바와 같이 사용자 디바이스(102)의 터치스크린(246) 상에 표시될 수 있다. 블록(3304)에서, 입력이 사용자로부터 수신될 수 있다. 입력은 가상 어시스턴트 질의 제안을 위한 요청을 포함할 수 있다. 입력은 버튼 누르기, 버튼의 더블 클릭, 메뉴 선택, 제안에 대한 구어 질의 등을 포함할 수 있다.
블록(3306)에서, 가상 어시스턴트 질의는 미디어 콘텐츠 및/또는 미디어 콘텐츠의 시청 이력에 기초하여 결정될 수 있다. 예를 들어, 가상 어시스턴트 질의는 표시된 프로그램, 메뉴, 애플리케이션, 미디어 콘텐츠의 목록, 알림 등에 기초하여 결정될 수 있다. 일 예에서, 콘텐츠 기반 제안(2652)은 도 26을 참조하여 기술된 바와 같이 비디오(480) 및 관련 메타데이터에 기초하여 결정될 수 있다. 다른 예에서, 알림 기반 제안(2966)은 도 29를 참조하여 기술된 바와 같이 알림(2964)에 기초하여 결정될 수 있다. 또 다른 예에서, 디바이스 기반 제안(3174)은 도 30 및 도 31을 참조하여 설명된 바와 같이 사용자 디바이스(102) 상의 재생가능한 미디어(3068)에 기초하여 결정될 수 있다. 또 다른 예들에서, 연결된 디바이스 기반 제안(3275)은 도 32를 참조하여 설명된 바와 같이 사용자 디바이스(102) 상의 재생가능한 미디어(3068)에 기초하여 결정될 수 있다.
도 33의 프로세스(3300)를 다시 참조하면, 블록(3308)에서, 가상 어시스턴트 질의가 디스플레이 상에 표시될 수 있다. 예를 들어, 결정된 질의 제안은 도 26, 도 27, 도 29, 도 31 및 도 32를 참조하여 도시되고 설명된 바와 같이 표시될 수 있다. 위에서 논의된 바와 같이, 질의 제안은 다양한 다른 정보에 기초하여 결정되고 표시될 수 있다. 또한, 하나의 디스플레이 상에 제공된 가상 어시스턴트 질의 제안은 다른 디스플레이를 구비한 다른 디바이스의 콘텐츠에 기초하여 도출될 수 있다. 따라서, 타깃 가상 어시스턴트 질의 제안들은 사용자에게 제공될 수 있으며, 이로써 사용자가 다른 이점들 중에서 잠재적인 질의를 학습하고 바람직한 콘텐츠 제안을 제공하는 것을 돕는다.
또한, 본 명세서에서 논의된 다양한 예 중 임의의 예에서, 다양한 양태가 특정 사용자에 대해 개인화될 수 있다. 연락처, 선호도, 위치, 선호하는 미디어 등을 포함하는 사용자 데이터는 음성 커맨드를 해석하고 본 명세서에서 논의된 다양한 디바이스와의 사용자 상호작용을 용이하게 하는 데 사용될 수 있다. 본 명세서에서 논의된 다양한 프로세스는 또한 사용자 선호도, 연락처, 텍스트, 사용 이력, 프로필 데이터, 인구통계 등에 따라 다양한 다른 방식으로 수정될 수 있다. 또한, 이러한 선호도 및 설정은 사용자 상호작용(예를 들어, 자주 발화된 커맨드, 자주 선택된 애플리케이션 등)에 기초하여 시간이 지남에 따라 업데이트될 수 있다. 다양한 소스에서 이용가능한 사용자 데이터를 수집하고 사용하는 것은 초청 콘텐츠 또는 사용자가 관심을 가질만한 임의의 다른 콘텐츠의 사용자에게의 전달을 향상시키는 데 사용될 수 있다. 본 개시내용은, 일부 경우들에 있어서, 이러한 수집된 데이터가 특정 개인을 고유하게 식별하거나 또는 그와 연락하거나 그의 위치를 확인하는 데 이용될 수 있는 개인 정보 데이터를 포함할 수 있음을 고려한다. 그러한 개인 정보 데이터는 인구통계 데이터, 위치 기반 데이터, 전화 번호들, 이메일 주소들, 홈 주소들, 또는 임의의 다른 식별 정보를 포함할 수 있다.
본 개시내용은 본 기술에서의 그러한 개인 정보 데이터의 이용이 사용자들에게 이득을 주기 위해 사용될 수 있음을 인식한다. 예를 들어, 개인 정보 데이터는 더 큰 관심이 있는 타깃 콘텐츠를 사용자에게 전달하는 데 이용될 수 있다. 따라서, 그러한 개인 정보 데이터의 이용은 전달된 콘텐츠의 계산된 제어를 가능하게 한다. 게다가, 사용자에 이득을 주는 개인 정보 데이터에 대한 다른 이용들이 또한 본 개시내용에 의해 고려된다.
본 개시내용은 그러한 개인 정보 데이터의 수집, 분석, 공개, 전달, 저장, 또는 다른 이용을 책임지고 있는 엔티티들이 잘 확립된 프라이버시 정책들 및/또는 프라이버시 관례들을 준수할 것이라는 것을 추가로 고려한다. 특히, 그러한 엔티티들은, 대체로 개인 정보 데이터를 사적이고 안전하게 유지시키기 위한 산업적 또는 행정적 요건들을 만족시키거나 넘어서는 것으로 인식되는 프라이버시 정책들 및 관례들을 구현하고 지속적으로 이용해야 한다. 예를 들어, 사용자들로부터의 개인 정보는 엔티티의 적법하며 적정한 사용들을 위해 수집되어야 하고, 이들 적법한 사용들을 벗어나서 공유되거나 판매되지 않아야 한다. 또한, 그러한 수집은 단지 사용자들의 고지에 입각한 동의를 수신한 후에만 발생해야 한다. 부가적으로, 그러한 엔티티들은 그러한 개인 정보 데이터에 대한 액세스를 보호하고 안전하게 하며 개인 정보 데이터에 대한 액세스를 갖는 다른 사람들이 그들의 프라이버시 정책들 및 절차들을 고수한다는 것을 보장하기 위한 임의의 필요한 단계들을 취할 것이다. 게다가, 그러한 엔티티들은 널리 인정된 프라이버시 정책들 및 관례들에 대한 그들의 고수를 증명하기 위해 제3자들에 의해 그들 자신들이 평가를 받을 수 있다.
전술한 것에도 불구하고, 본 개시내용은 또한 사용자가 개인 정보 데이터의 이용, 또는 그에 대한 액세스를 선택적으로 차단하는 예들을 고려한다. 즉, 본 개시내용은 그러한 개인 정보 데이터에 대한 액세스를 방지하거나 차단하기 위해 하드웨어 및/또는 소프트웨어 요소들이 제공될 수 있다는 것을 고려한다. 예를 들어, 광고 전달 서비스들의 경우에, 본 기술은 사용자들이 서비스를 위한 등록 동안에 개인 정보 데이터의 수집 시의 참여의 "동의함" 또는 "동의하지 않음"을 선택하는 것을 허용하도록 구성될 수 있다. 다른 예에서, 사용자들은 타깃 콘텐츠 전달 서비스들을 위한 위치 정보를 제공하지 않도록 선택할 수 있다. 또 다른 예에서, 사용자들은 정확한 위치 정보를 제공하지 않지만 위치 구역 정보의 전달을 허용하도록 선택할 수 있다.
따라서, 본 개시내용이 하나 이상의 다양한 개시된 예를 구현하기 위해 개인 정보 데이터의 사용을 광범위하게 커버하지만, 본 개시내용은 다양한 예가 또한 그러한 개인 정보 데이터에 액세스할 필요 없이 구현될 수 있다는 것을 또한 고려한다. 즉, 본 기술의 다양한 예는 그러한 개인 정보 데이터의 모두 또는 일부의 결여로 인해 동작 불가능하게 되지는 않는다. 예를 들어, 콘텐츠는, 사용자와 연관된 디바이스에 의해 요청되는 콘텐츠, 콘텐츠 전달 서비스들에 대해 이용가능한 다른 비-개인 정보, 또는 공개적으로 입수가능한 정보와 같은 비-개인 정보 데이터 또는 드러난 최소량의 개인 정보에 기초하여 선호도를 추론함으로써 선택되고 사용자들에게 전달될 수 있다.
일부 예들에 따르면, 도 34는 예를 들어 가상 어시스턴트를 사용하여 텔레비전 상호작용을 제어하고 상이한 인터페이스를 사용하여 관련 정보를 표시하기 위해 다양한 기술된 예들의 원리에 따라 구성된 전자 디바이스(3400)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 34에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 34에 도시된 바와 같이, 전자 디바이스(3400)는 미디어, 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(3402)(예를 들어, 디스플레이(112), 터치스크린(246) 등)을 포함할 수 있다. 전자 디바이스(3400)는, 스피치 입력, 촉각 입력, 제스처 입력 등과 같은, 정보를 수신하도록 구성된 입력 유닛(3404)을 추가로 포함할 수 있다(예를 들어, 마이크로폰, 수신기, 터치스크린, 버튼 등). 전자 디바이스(3400)는 디스플레이 유닛(3402) 및 입력 유닛(3404)에 결합된 처리 유닛(3406)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(3406)은 스피치 입력 수신 유닛(3408), 미디어 콘텐츠 결정 유닛(3410), 제1 사용자 인터페이스 표시 유닛(3412), 선택 수신 유닛(3414), 및 제2 사용자 인터페이스 표시 유닛(3416)을 포함할 수 있다.
처리 유닛(3406)은 (예를 들어, 입력 유닛(3404)을 통해) 사용자로부터 스피치 입력을 수신하도록 구성될 수 있다. 처리 유닛(3406)은 스피치 입력에 기초하여 미디어 콘텐츠를 결정하도록(예를 들어, 미디어 콘텐츠 결정 유닛(3410)을 사용하여) 추가로 구성될 수 있다. 처리 유닛(3406)은 제1 크기를 갖는 제1 사용자 인터페이스를 표시하도록(예를 들어, 디스플레이 유닛(3402) 상에 제1 사용자 인터페이스 표시 유닛(3412)을 사용하여) 추가로 구성될 수 있으며, 여기서 제1 사용자 인터페이스는 미디어 콘텐츠에 대한 하나 이상의 선택가능한 링크를 포함한다. 처리 유닛(3406)은 하나 이상의 선택가능한 링크 중 하나의 링크의 선택을 수신하도록(예를 들어, 선택 수신 유닛(3414)을 사용하여 입력 유닛(3404)으로부터) 추가로 구성될 수 있다. 처리 유닛(3406)은, 선택에 응답하여, 제1 크기보다 큰 제2 크기를 갖는 제2 사용자 인터페이스를 표시하도록(예를 들어, 디스플레이 유닛(3402) 상에 제2 사용자 인터페이스 표시 유닛(3416)을 사용하여) 추가로 구성될 수 있으며, 제2 사용자 인터페이스는 선택과 연관된 미디어 콘텐츠를 포함한다.
일부 예들에서, (예를 들어, 제1 사용자 인터페이스 표시 유닛(3412)의) 제1 사용자 인터페이스는 (예를 들어, 선택 수신 유닛(3414)의) 선택에 응답하여 (예를 들어, 제2 사용자 인터페이스 표시 유닛(3416)의) 제2 사용자 인터페이스 내로 확장된다. 다른 예들에서, 제1 사용자 인터페이스는 재생 중인 미디어 콘텐츠 상에 중첩된다. 일 예에서, 제2 사용자 인터페이스는 재생 중인 미디어 콘텐츠 상에 중첩된다. 다른 예에서, (예를 들어, 입력 유닛(3404)으로부터 스피치 입력 수신 유닛(3408)의) 스피치 입력은 질의를 포함하고, (예를 들어, 미디어 콘텐츠 결정 유닛(3410)의) 미디어 콘텐츠는 질의의 결과를 포함한다. 또 다른 예에서, 제1 사용자 인터페이스는 미디어 콘텐츠에 대한 하나 이상의 선택가능한 링크를 넘어서 질의의 결과들에 대한 링크를 포함한다. 다른 예들에서, 질의는 날씨에 관한 질의를 포함하고, 제1 사용자 인터페이스는 날씨에 관한 질의와 연관된 미디어 콘텐츠에 대한 링크를 포함한다. 다른 예에서, 질의는 위치를 포함하고, 날씨에 관한 질의와 연관된 미디어 콘텐츠에 대한 링크는 그 위치에서의 날씨와 연관된 미디어 콘텐츠의 일부에 대한 링크를 포함한다.
일부 예들에서, 선택에 응답하여, 처리 유닛(3406)은 선택과 연관된 미디어 콘텐츠를 재생하도록 구성될 수 있다. 일 예에서, 미디어 콘텐츠는 영화를 포함한다. 다른 예에서, 미디어 콘텐츠는 텔레비전 쇼를 포함한다. 다른 예에서, 미디어 콘텐츠는 스포츠 이벤트를 포함한다. 일부 예들에서, (예를 들어, 제2 사용자 인터페이스 디스플레이 유닛(3416)의) 제2 사용자 인터페이스는 선택과 연관된 미디어 콘텐츠의 설명을 포함한다. 다른 예들에서, 제1 사용자 인터페이스는 미디어 콘텐츠를 구매하기 위한 링크를 포함한다.
처리 유닛(3406)은 (예를 들어, 입력 유닛(3404)을 통해) 사용자로부터 추가 스피치 입력을 수신하도록 추가로 구성될 수 있으며, 추가 스피치 입력은 표시된 콘텐츠와 연관된 질의를 포함한다. 처리 유닛(3406)은 표시된 콘텐츠와 연관된 메타데이터에 기초하여 표시된 콘텐츠와 연관된 질의에 대한 응답을 결정하도록 추가로 구성될 수 있다. 처리 유닛(3406)은, 추가 스피치 입력을 수신하는 것에 응답하여, (예를 들어, 디스플레이 유닛(3402) 상에) 제3 사용자 인터페이스를 표시하도록 추가로 구성되며, 제3 사용자 인터페이스는 표시된 콘텐츠와 연관된 질의에 대한 결정된 응답을 포함한다.
처리 유닛(3406)은 (예를 들어, 입력 유닛(3404)을 통해) 스피치 입력의 수신을 개시하라는 지시를 수신하도록 추가로 구성될 수 있다. 처리 유닛(3406)은, 지시를 수신하는 것에 응답하여, (예를 들어, 디스플레이 유닛(3402) 상에) 준비 확인을 표시하도록 추가로 구성될 수 있다. 처리 유닛(3406)은, 스피치 입력을 수신하는 것에 응답하여, 청취 확인을 표시하도록 추가로 구성될 수 있다. 처리 유닛(3406)은 스피치 입력의 종료를 검출하도록 추가로 구성될 수 있고, 스피치 입력의 종료를 검출하는 것에 응답하여, 처리 확인을 표시할 수 있다. 일부 예들에서, 처리 유닛(3406)은 스피치 입력의 전사를 표시하도록 추가로 구성될 수 있다.
일부 예들에서, 전자 디바이스(3400)는 텔레비전을 포함한다. 다른 예들에서, 전자 디바이스(3400)는 텔레비전 셋톱 박스를 포함한다. 다른 예들에서, 전자 디바이스(3400)는 원격 제어부를 포함한다. 또 다른 예들에서, 전자 디바이스(3400)는 모바일 전화기를 포함한다.
일 예에서, (예를 들어, 제1 사용자 인터페이스 표시 유닛(3412)의) 제1 사용자 인터페이스 내의 하나 이상의 선택가능한 링크는 미디어 콘텐츠와 연관된 동영상을 포함한다. 일부 예들에서, 미디어 콘텐츠와 연관된 동영상들은 미디어 콘텐츠의 라이브 피드를 포함한다. 다른 예들에서, 제1 사용자 인터페이스 내의 하나 이상의 선택가능한 링크는 미디어 콘텐츠와 연관된 정지 이미지를 포함한다.
일부 예들에서, 처리 유닛(3406)은, 현재 표시된 콘텐츠가 동영상 또는 제어 메뉴를 포함하는지 여부를 결정하고; 현재 표시된 콘텐츠가 동영상을 포함한다는 결정에 응답하여, 제1 사용자 인터페이스(예컨대, 제1 사용자 인터페이스 표시 유닛(3412)의)에 대한 제1 크기로서 작은 크기를 선택하고; 현재 표시된 콘텐츠가 제어 메뉴를 포함한다는 결정에 응답하여, 작은 크기보다 큰, 큰 크기를 제1 사용자 인터페이스(예컨대, 제1 사용자 인터페이스 표시 유닛(3412)의)에 대한 제1 크기로서 선택하도록 추가로 구성될 수 있다. 다른 예들에서, 처리 유닛(3406)은 사용자 선호도, 쇼 인기도, 및 라이브 스포츠 이벤트의 상태 중 하나 이상에 기초하여 표시할 대안적인 미디어 콘텐츠를 결정하고, 결정된 대안적인 미디어 콘텐츠를 포함하는 알림을 표시하도록 추가로 구성될 수 있다.
일부 예들에 따르면, 도 35는 예를 들어 가상 어시스턴트 및 다수의 사용자 디바이스들을 사용하여 텔레비전 상호작용을 제어하기 위해 다양한 기술된 예들의 원리에 따라 구성된 전자 디바이스(3500)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 35에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 35에 도시된 바와 같이, 전자 디바이스(3500)는 미디어, 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(3502)(예를 들어, 디스플레이(112), 터치스크린(246) 등)을 포함할 수 있다. 전자 디바이스(3500)는, 스피치 입력, 촉각 입력, 제스처 입력 등과 같은, 정보를 수신하도록 구성된 입력 유닛(3504)을 추가로 포함할 수 있다(예를 들어, 마이크로폰, 수신기, 터치스크린, 버튼 등). 전자 디바이스(3500)는 디스플레이 유닛(3502) 및 입력 유닛(3504)에 결합된 처리 유닛(3506)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(3506)은 스피치 입력 수신 유닛(3508), 사용자 의도 결정 유닛(3510), 미디어 콘텐츠 결정 유닛(3512), 및 미디어 콘텐츠 재생 유닛(3514)을 포함할 수 있다.
처리 유닛(3506)은 제1 디스플레이(예를 들어, 일부 예들에서 디스플레이 유닛(3502))를 갖는 제1 디바이스(예컨대, 디바이스(3500))에서 사용자로부터 스피치 입력을 (예를 들어, 스피치 입력 수신 유닛(3508)을 사용하여 입력 유닛(3504)으로부터) 수신하도록 구성될 수 있다. 처리 유닛(3506)은 제1 디스플레이 상에 표시된 콘텐츠에 기초하여 스피치 입력의 사용자 의도를 결정하도록(예를 들어, 사용자 의도 결정 유닛(3510)을 사용하여) 추가로 구성될 수 있다. 처리 유닛(3506)은 사용자 의도에 기초하여 미디어 콘텐츠를 결정하도록(예를 들어, 미디어 콘텐츠 결정 유닛(3512)을 사용하여) 추가로 구성될 수 있다. 처리 유닛(3506)은 제2 디스플레이(예를 들어, 일부 예들에서 디스플레이 유닛(3502))와 연관된 제2 디바이스 상의 미디어 콘텐츠를 (예를 들어, 미디어 콘텐츠 재생 유닛(3514)을 사용하여) 재생하도록 추가로 구성될 수 있다.
일 예에서, 제1 디바이스는 원격 제어부를 포함한다. 다른 예에서, 제1 디바이스는 모바일 전화기를 포함한다. 다른 예에서, 제1 디바이스는 태블릿 컴퓨터를 포함한다. 일부 예들에서, 제2 디바이스는 텔레비전 셋톱 박스를 포함한다. 다른 예들에서, 제2 디스플레이는 텔레비전을 포함한다.
일부 예들에서, 제1 디스플레이 상에 표시된 콘텐츠는 애플리케이션 인터페이스를 포함한다. 일 예에서, (예를 들어, 입력 유닛(3504)으로부터 스피치 입력 수신 유닛(3508)의) 스피치 입력은 애플리케이션 인터페이스와 연관된 미디어를 표시하라는 요청을 포함한다. 일 예에서, 미디어 콘텐츠는 애플리케이션 인터페이스와 연관된 미디어를 포함한다. 다른 예에서, 애플리케이션 인터페이스는 사진 앨범을 포함하고, 미디어는 사진 앨범 내의 하나 이상의 사진을 포함한다. 또 다른 예에서, 애플리케이션 인터페이스는 하나 이상의 비디오의 목록을 포함하고, 미디어는 하나 이상의 비디오 중 하나를 포함한다. 또 다른 예에서, 애플리케이션 인터페이스는 텔레비전 프로그램 목록을 포함하고, 미디어는 텔레비전 프로그램 목록 내의 텔레비전 프로그램을 포함한다.
일부 예들에서, 처리 유닛(3506)은 제1 디바이스가 인증되는지 여부를 결정하도록 추가로 구성될 수 있으며; 여기서 미디어 콘텐츠는 제1 디바이스가 인증된다는 결정에 응답하여 제2 디바이스 상에서 재생된다. 처리 유닛(3506)은 스피치 입력에 기초하여 사용자를 식별하고, 식별된 사용자와 연관된 데이터에 기초하여 스피치 입력의 사용자 의도를 결정하도록(예를 들어, 사용자 의도 결정 유닛(3510)을 사용하여) 추가로 구성될 수 있다. 처리 유닛(3506)은 스피치 입력에 기초하여 사용자가 인증되는지 여부를 결정하도록 추가로 구성될 수 있으며; 여기서 미디어 콘텐츠는 사용자가 인증된 사용자라는 결정에 응답하여 제2 디바이스 상에서 재생된다. 일 예에서, 사용자가 인증되는지 여부를 결정하는 것은 음성 인식을 사용하여 스피치 입력을 분석하는 것을 포함한다.
다른 예들에서, 처리 유닛(3506)은 사용자 의도가 정보에 대한 요청을 포함한다고 결정하는 것에 응답하여, 제1 디바이스의 제1 디스플레이 상에 미디어 콘텐츠와 연관된 정보를 표시하도록 추가로 구성될 수 있다. 처리 유닛(3506)은 사용자 의도가 미디어 콘텐츠를 재생하라는 요청을 포함한다고 결정하는 것에 응답하여, 제2 디바이스 상에서 미디어 콘텐츠를 재생하도록 추가로 구성될 수 있다.
일부 예들에서, 스피치 입력은 제2 디바이스 상에서 콘텐츠를 재생하라는 요청을 포함하고, 미디어 콘텐츠는 제2 디바이스 상에서 콘텐츠를 재생하라는 요청에 응답하여 제2 디바이스 상에서 재생된다. 처리 유닛(3506)은 결정된 미디어 콘텐츠가 미디어 포맷, 사용자 선호도, 또는 디폴트 설정에 기초하여 제1 디스플레이 또는 제2 디스플레이 상에 표시되어야 하는지 여부를 결정하도록 추가로 구성될 수 있다. 일부 예들에서, 미디어 콘텐츠는 결정된 미디어 콘텐츠가 제2 디스플레이 상에 표시되어야 한다는 결정에 응답하여 제2 디스플레이 상에 표시된다. 다른 예들에서, 미디어 콘텐츠는 결정된 미디어 콘텐츠가 제1 디스플레이 상에 표시되어야 한다는 결정에 응답하여 제1 디스플레이 상에 표시된다.
다른 예들에서, 처리 유닛(3506)은 제2 디바이스 및 제3 디바이스를 포함하는 2개 이상의 디바이스 각각의 근접성을 결정하도록 추가로 구성될 수 있다. 일부 예들에서, 미디어 콘텐츠는 제3 디바이스의 근접성에 대한 제2 디바이스의 근접성에 기초하여 제2 디스플레이와 연관된 제2 디바이스 상에서 재생된다. 일부 예들에서, 2개 이상의 디바이스들 각각의 근접성을 결정하는 것은 블루투스 LE에 기초하여 근접성을 결정하는 것을 포함한다.
일부 예들에서, 처리 유닛(3506)은 제2 디스플레이와 연관된 제2 디바이스를 포함하는 디스플레이 디바이스의 목록을 표시하고, 디스플레이 디바이스의 목록에서 제2 디바이스의 선택을 수신하도록 추가로 구성될 수 있다. 일 예에서, 미디어 콘텐츠는 제2 디바이스의 선택을 수신하는 것에 응답하여 제2 디스플레이 상에 표시된다. 처리 유닛(3506)은 헤드폰이 제1 디바이스에 부착되어 있는지 여부를 결정하도록 추가로 구성될 수 있다. 처리 유닛(3506)은 헤드폰이 제1 디바이스에 부착되어 있다는 결정에 응답하여, 제1 디스플레이 상에 미디어 콘텐츠를 표시하도록 추가로 구성될 수 있다. 처리 유닛(3506)은 헤드폰이 제1 디바이스에 부착되어 있지 않다는 결정에 응답하여, 미디어 콘텐츠를 제2 디스플레이 상에 표시하도록 추가로 구성될 수 있다. 다른 예들에서, 처리 유닛(3506)은 사용자 선호도, 쇼 인기도, 및 라이브 스포츠 이벤트의 상태 중 하나 이상에 기초하여 표시할 대안적인 미디어 콘텐츠를 결정하고, 결정된 대안적인 미디어 콘텐츠를 포함하는 알림을 표시하도록 추가로 구성될 수 있다.
일부 예들에 따르면, 도 36은 예를 들어, 디스플레이 상에 보여지는 미디어 콘텐츠 및 미디어 콘텐츠의 시청 이력을 사용하여 텔레비전 상호작용을 제어하기 위해 다양한 기술된 예들의 원리에 따라 구성된 전자 디바이스(3600)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 36에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 36에 도시된 바와 같이, 전자 디바이스(3600)는 미디어, 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(3602)(예를 들어, 디스플레이(112), 터치스크린(246) 등)을 포함할 수 있다. 전자 디바이스(3600)는, 스피치 입력, 촉각 입력, 제스처 입력 등과 같은, 정보를 수신하도록 구성된 입력 유닛(3604)을 추가로 포함할 수 있다(예를 들어, 마이크로폰, 수신기, 터치스크린, 버튼 등). 전자 디바이스(3600)는 디스플레이 유닛(3602) 및 입력 유닛(3604)에 결합된 처리 유닛(3606)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(3606)은 스피치 입력 수신 유닛(3608), 사용자 의도 결정 유닛(3610), 및 질의 결과 표시 유닛(3612)을 포함할 수 있다.
처리 유닛(3606)은 사용자로부터 스피치 입력을 (예를 들어, 스피치 입력 수신 유닛(3608)을 사용하여 입력 유닛(3604)으로부터) 수신하도록 구성될 수 있으며, 여기서 스피치 입력은 텔레비전 디스플레이(예를 들어, 일부 예들에서 디스플레이 유닛(3602)) 상에 보여지는 콘텐츠와 연관된 질의를 포함한다. 처리 유닛(3606)은 텔레비전 디스플레이 상에 보여지는 콘텐츠 및 미디어 콘텐츠의 시청 이력 중 하나 이상에 기초하여 질의의 사용자 의도를 결정하도록(예를 들어, 사용자 의도 결정 유닛(3610)을 사용하여) 추가로 구성될 수 있다. 처리 유닛(3606)은 결정된 사용자 의도에 기초하여 질의의 결과를 표시하도록(예를 들어, 질의 결과 표시 유닛(3612)을 사용하여) 추가로 구성될 수 있다.
일 예에서, 스피치 입력은 원격 제어부에서 수신된다. 다른 예에서, 스피치 입력은 모바일 전화기에서 수신된다. 일부 예들에서, 질의의 결과는 텔레비전 디스플레이 상에 표시된다. 다른 예에서, 텔레비전 디스플레이 상에 보여지는 콘텐츠는 영화를 포함한다. 또 다른 예에서, 텔레비전 디스플레이 상에 보여지는 콘텐츠는 텔레비전 쇼를 포함한다. 또 다른 예에서, 텔레비전 디스플레이 상에 보여지는 콘텐츠는 스포츠 이벤트를 포함한다.
일부 예들에서, 질의는 텔레비전 디스플레이 상에 보여지는 콘텐츠와 연관된 사람에 관한 정보에 대한 요청을 포함하고, (예를 들어, 질의 결과 표시 유닛(3612)의) 질의의 결과는 그 사람에 관한 정보를 포함한다. 일 예에서, 질의의 결과는 그 사람과 연관된 미디어 콘텐츠를 포함한다. 다른 예에서, 미디어 콘텐츠는 영화, 텔레비전 쇼, 또는 그 사람과 연관된 스포츠 이벤트 중 하나 이상을 포함한다. 일부 예들에서, 질의는 텔레비전 디스플레이 상에 보여지는 콘텐츠 내의 캐릭터에 관한 정보에 대한 요청을 포함하고, 질의의 결과는 캐릭터에 관한 정보 또는 캐릭터를 연기하는 배우에 관한 정보를 포함한다. 일 예에서, 질의의 결과는 캐릭터를 연기하는 배우와 연관된 미디어 콘텐츠를 포함한다. 다른 예에서, 미디어 콘텐츠는 영화, 텔레비전 쇼, 또는 캐릭터를 연기하는 배우와 연관된 스포츠 이벤트 중 하나 이상을 포함한다.
일부 예들에서, 처리 유닛(3606)은 텔레비전 디스플레이 상에 보여지는 콘텐츠와 연관된 메타데이터 또는 미디어 콘텐츠의 시청 이력에 기초하여 질의의 결과를 결정하도록 추가로 구성될 수 있다. 일 예에서, 메타데이터는 텔레비전 디스플레이 상에 보여지는 콘텐츠 또는 미디어 콘텐츠의 시청 이력과 연관된 제목, 설명, 캐릭터들의 목록, 배우들의 목록, 선수들의 목록, 장르, 또는 표시 일정 중 하나 이상을 포함할 수 있다. 다른 예에서, 텔레비전 디스플레이 상에 보여지는 콘텐츠는 미디어 콘텐츠의 목록을 포함하고, 질의는 목록 내의 항목들 중 하나를 표시하라는 요청을 포함한다. 또 다른 예에서, 텔레비전 디스플레이 상에 보여지는 콘텐츠는 포커스를 갖는 미디어 콘텐츠의 목록 내의 항목을 추가로 포함하고, 질의의 사용자 의도를 결정하는 것(예를 들어, 사용자 의도 결정 유닛(3610)을 사용하여)은 포커스를 갖는 항목을 식별하는 것을 포함한다. 일부 예들에서, 처리 유닛(3606)은 텔레비전 디스플레이 상에 최근 표시된 메뉴 또는 검색 콘텐츠에 기초하여 질의의 사용자 의도를 결정하도록(예를 들어, 사용자 의도 결정 유닛(3610)을 사용하여) 추가로 구성될 수 있다. 일 예에서, 텔레비전 디스플레이 상에 보여지는 콘텐츠는 열거된 미디어의 페이지를 포함하고, 최근에 표시된 메뉴 또는 검색 콘텐츠는 열거된 미디어의 이전 페이지를 포함한다. 다른 예에서, 텔레비전 디스플레이 상에 보여지는 콘텐츠는 미디어의 하나 이상의 카테고리를 포함하고, 미디어의 하나 이상의 카테고리 중 하나는 포커스를 갖는다. 일 예에서, 처리 유닛(3606)은 포커스를 갖는 미디어의 하나 이상의 카테고리 중 하나에 기초하여 질의의 사용자 의도를 결정하도록(예를 들어, 사용자 의도 결정 유닛(3610)을 사용하여) 추가로 구성될 수 있다. 다른 예에서, 미디어의 카테고리들은 영화, 텔레비전 프로그램, 및 음악을 포함한다. 다른 예들에서, 처리 유닛(3606)은 사용자 선호도, 쇼 인기도, 및 라이브 스포츠 이벤트의 상태 중 하나 이상에 기초하여 표시할 대안적인 미디어 콘텐츠를 결정하고, 결정된 대안적인 미디어 콘텐츠를 포함하는 알림을 표시하도록 추가로 구성될 수 있다.
일부 예들에 따르면, 도 37은 예를 들어 미디어 콘텐츠를 제어하기 위한 가상 어시스턴트 상호작용을 제안하기 위해 다양한 기술된 예의 원리에 따라 구성된 전자 디바이스(3700)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 37에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 37에 도시된 바와 같이, 전자 디바이스(3700)는 미디어, 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(3702)(예를 들어, 디스플레이(112), 터치스크린(246) 등)을 포함할 수 있다. 전자 디바이스(3700)는, 스피치 입력, 촉각 입력, 제스처 입력 등과 같은, 정보를 수신하도록 구성된 입력 유닛(3704)을 추가로 포함할 수 있다(예를 들어, 마이크로폰, 수신기, 터치스크린, 버튼 등). 전자 디바이스(3700)는 디스플레이 유닛(3702) 및 입력 유닛(3704)에 결합된 처리 유닛(3706)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(3706)은 미디어 콘텐츠 표시 유닛(3708), 입력 수신 유닛(3710), 질의 결정 유닛(3712), 및 질의 표시 유닛(3714)을 포함할 수 있다.
처리 유닛(3706)은 미디어 콘텐츠를 디스플레이(예컨대, 디스플레이 유닛(3702)) 상에 표시하도록(예를 들어, 미디어 콘텐츠 표시 유닛(3708)을 사용하여) 구성될 수 있다. 처리 유닛(3706)은 사용자로부터의 입력을 (예를 들어, 입력 수신 유닛(3710)을 사용하여 입력 유닛(3704)으로부터) 수신하도록 추가로 구성될 수 있다. 처리 유닛(3706)은 미디어 콘텐츠 및 미디어 콘텐츠의 시청 이력 중 하나 이상에 기초하여 하나 이상의 가상 어시스턴트 질의를 결정하도록(예를 들어, 질의 결정 유닛(3712)을 사용하여) 추가로 구성될 수 있다. 처리 유닛(3706)은 디스플레이 상에 하나 이상의 가상 어시스턴트 질의를 표시하도록(예를 들어, 질의 표시 유닛(3714)을 사용하여) 추가로 구성될 수 있다.
일 예에서, 입력은 원격 제어부 상에서 사용자로부터 수신된다. 다른 예에서, 입력은 모바일 전화기 상의 사용자로부터 수신된다. 일부 예들에서, 하나 이상의 가상 어시스턴트 질의는 동영상 상에 중첩된다. 다른 예에서, 입력은 버튼의 더블 클릭을 포함한다. 일 예에서, 미디어 콘텐츠는 영화를 포함한다. 다른 예에서, 미디어 콘텐츠는 텔레비전 쇼를 포함한다. 또 다른 예에서, 미디어 콘텐츠는 스포츠 이벤트를 포함한다.
일부 예들에서, 하나 이상의 가상 어시스턴트 질의는 미디어 콘텐츠에 출현하는 사람에 관한 질의를 포함한다. 다른 예들에서, 하나 이상의 가상 어시스턴트 질의는 미디어 콘텐츠에 출현하는 캐릭터에 관한 질의를 포함한다. 다른 예에서, 하나 이상의 가상 어시스턴트 질의는 미디어 콘텐츠에 출현하는 사람과 연관된 미디어 콘텐츠에 대한 질의를 포함한다. 일부 예들에서, 미디어 콘텐츠 또는 미디어 콘텐츠의 시청 이력은 텔레비전 쇼의 에피소드를 포함하고, 하나 이상의 가상 어시스턴트 질의는 텔레비전 쇼의 다른 에피소드에 관한 질의를 포함한다. 다른 예에서, 미디어 콘텐츠 또는 미디어 콘텐츠의 시청 이력은 텔레비전 쇼의 에피소드를 포함하고, 하나 이상의 가상 어시스턴트 질의는 미디어 콘텐츠의 후속 에피소드를 시청 또는 녹화하라고 리마인더를 설정하라는 요청을 포함한다. 또 다른 예에서, 하나 이상의 가상 어시스턴트 질의는 미디어 콘텐츠의 서술적 상세 사항에 대한 질의를 포함한다. 일 예에서, 서술적 상세 사항은 쇼 제목, 캐릭터 목록, 배우 목록, 에피소드 설명, 팀 선수 명단, 팀 순위, 또는 쇼 시놉시스 중 하나 이상을 포함한다.
일부 예들에서, 처리 유닛(3706)은 하나 이상의 가상 어시스턴트 질의들 중 하나의 질의의 선택을 수신하도록 추가로 구성될 수 있다. 처리 유닛(3706)은 하나 이상의 가상 어시스턴트 질의 중 선택된 하나의 가상 어시스턴트 질의의 결과를 표시하도록 추가로 구성될 수 있다. 일 예에서, 하나 이상의 가상 어시스턴트 질의를 결정하는 것은 질의 이력, 사용자 선호도, 또는 질의 인기도 중 하나 이상에 기초하여 하나 이상의 가상 어시스턴트 질의를 결정하는 것을 포함한다. 다른 예에서, 하나 이상의 가상 어시스턴트 질의를 결정하는 것은 시청을 위해 사용자가 이용가능한 미디어 콘텐츠에 기초하여 하나 이상의 가상 어시스턴트 질의를 결정하는 것을 포함한다. 또 다른 예에서, 하나 이상의 가상 어시스턴트 질의를 결정하는 것은 수신된 알림에 기초하여 하나 이상의 가상 어시스턴트 질의를 결정하는 것을 포함한다. 또 다른 예에서, 하나 이상의 가상 어시스턴트 질의를 결정하는 것은 활성 애플리케이션에 기초하여 하나 이상의 가상 어시스턴트 질의를 결정하는 것을 포함한다. 다른 예들에서, 처리 유닛(3706)은 사용자 선호도, 쇼 인기도, 및 라이브 스포츠 이벤트의 상태 중 하나 이상에 기초하여 표시할 대안적인 미디어 콘텐츠를 결정하고, 결정된 대안적인 미디어 콘텐츠를 포함하는 알림을 표시하도록 추가로 구성될 수 있다.
예들이 첨부된 도면을 참조하여 충분히 설명되었지만, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게는 다양한 변경 및 수정이 명백해질 것이라는 점에 유의해야 한다(예를 들어, 본 명세서에서 논의된 시스템 또는 프로세스 중 임의의 것을 수정하는 것은 본 명세서에 논의된 임의의 다른 시스템이나 프로세스와 관련하여 설명된 개념들에 따름). 그러한 변경들 및 수정들은 첨부된 청구항들에 의해 정의되는 바와 같은 다양한 예의 범주 내에 포함되는 것으로서 이해되어야 한다.
[청구범위]
[청구항 1]
가상 어시스턴트(virtual assistant)를 사용하여 텔레비전 상호작용을 제어하기 위한 방법으로서,
전자 디바이스에서:
사용자로부터 스피치 입력(speech input)을 수신하는 단계;
상기 스피치 입력에 기초하여 미디어 콘텐츠를 결정하는 단계;
제1 크기를 갖는 제1 사용자 인터페이스를 표시하는 단계 - 상기 제1 사용자 인터페이스는 상기 미디어 콘텐츠에 대한 하나 이상의 선택가능한 링크를 포함함 -;
상기 하나 이상의 선택가능한 링크 중 하나의 링크의 선택을 수신하는 단계; 및
상기 선택에 응답하여, 상기 제1 크기보다 큰 제2 크기를 갖는 제2 사용자 인터페이스를 표시하는 단계
를 포함하며, 상기 제2 사용자 인터페이스는 상기 선택과 연관된 상기 미디어 콘텐츠를 포함하는, 방법.
[청구항 2]
제1항에 있어서, 상기 제1 사용자 인터페이스는 상기 선택에 응답하여 상기 제2 사용자 인터페이스로 확장되는, 방법.
[청구항 3]
제1항에 있어서, 상기 제1 사용자 인터페이스는 재생 중인 미디어 콘텐츠 상에 중첩되는, 방법.
[청구항 4]
제1항에 있어서, 상기 제2 사용자 인터페이스는 재생 중인 미디어 콘텐츠 상에 중첩되는, 방법.
[청구항 5]
제1항에 있어서, 상기 스피치 입력은 질의를 포함하고, 상기 미디어 콘텐츠는 상기 질의의 결과를 포함하는, 방법.
[청구항 6]
제5항에 있어서, 상기 제1 사용자 인터페이스는 상기 미디어 콘텐츠에 대한 상기 하나 이상의 선택가능한 링크를 넘어서 상기 질의의 결과들에 대한 링크를 포함하는, 방법.
[청구항 7]
제1항에 있어서,
상기 선택에 응답하여, 상기 선택과 연관된 상기 미디어 콘텐츠를 재생하는 단계를 추가로 포함하는, 방법.
[청구항 8]
제1항에 있어서, 상기 미디어 콘텐츠는 스포츠 이벤트를 포함하는, 방법.
[청구항 9]
제1항에 있어서, 상기 제2 사용자 인터페이스는 상기 선택과 연관된 상기 미디어 콘텐츠의 설명을 포함하는, 방법.
[청구항 10]
제1항에 있어서, 상기 제1 사용자 인터페이스는 미디어 콘텐츠를 구매하기 위한 링크를 포함하는, 방법.
[청구항 11]
제1항에 있어서,
상기 사용자로부터 추가 스피치 입력을 수신하는 단계 - 상기 추가 스피치 입력은 표시된 콘텐츠와 연관된 질의를 포함함 -;
상기 표시된 콘텐츠와 연관된 메타데이터에 기초하여 상기 표시된 콘텐츠와 연관된 상기 질의에 대한 응답을 결정하는 단계; 및
상기 추가 스피치 입력을 수신하는 단계에 응답하여, 제3 사용자 인터페이스를 표시하는 단계를 추가로 포함하며, 상기 제3 사용자 인터페이스는 상기 표시된 콘텐츠와 연관된 상기 질의에 대한 상기 결정된 응답을 포함하는, 방법.
[청구항 12]
제1항에 있어서,
스피치 입력의 수신을 개시하라는 지시(indication)를 수신하는 단계; 및
상기 지시를 수신하는 단계에 응답하여, 준비 확인을 표시하는 단계를 추가로 포함하는, 방법.
[청구항 13]
제1항에 있어서,
상기 스피치 입력을 수신하는 단계에 응답하여, 청취 확인을 표시하는 단계를 추가로 포함하는, 방법.
[청구항 14]
제1항에 있어서,
상기 스피치 입력의 전사를 표시하는 단계를 추가로 포함하는, 방법.
[청구항 15]
제1항에 있어서, 상기 전자 디바이스는 텔레비전을 포함하는, 방법.
[청구항 16]
제1항에 있어서, 상기 전자 디바이스는 텔레비전 셋톱 박스를 포함하는, 방법.
[청구항 17]
제1항에 있어서, 상기 전자 디바이스는 원격 제어부를 포함하는, 방법.
[청구항 18]
제1항에 있어서, 상기 전자 디바이스는 모바일 전화기를 포함하는, 방법.
[청구항 19]
제1항에 있어서, 상기 제1 사용자 인터페이스 내의 상기 하나 이상의 선택가능한 링크는 상기 미디어 콘텐츠와 연관된 동영상들을 포함하는, 방법.
[청구항 20]
제19항에 있어서, 상기 미디어 콘텐츠와 연관된 동영상들은 상기 미디어 콘텐츠의 라이브 피드(live feed)들을 포함하는, 방법.
[청구항 21]
제1항에 있어서,
현재 표시된 콘텐츠가 동영상 또는 제어 메뉴를 포함하는지 여부를 결정하는 단계;
현재 표시된 콘텐츠가 동영상을 포함한다는 결정에 응답하여, 상기 제1 사용자 인터페이스에 대한 상기 제1 크기로서 작은 크기를 선택하는 단계; 및
현재 표시된 콘텐츠가 제어 메뉴를 포함한다는 결정에 응답하여, 상기 작은 크기보다 큰, 큰 크기를 상기 제1 사용자 인터페이스에 대한 상기 제1 크기로서 선택하는 단계를 추가로 포함하는, 방법.
[청구항 22]
제1항에 있어서,
사용자 선호도, 쇼 인기도, 및 라이브 스포츠 이벤트의 상태 중 하나 이상에 기초하여 표시할 대안적인 미디어 콘텐츠를 결정하는 단계; 및
상기 결정된 대안적인 미디어 콘텐츠를 포함하는 알림을 표시하는 단계를 추가로 포함하는, 방법.
[청구항 23]
컴퓨터 실행가능 명령어들을 포함하는 비일시적 컴퓨터 판독가능 저장 매체로서, 상기 컴퓨터 실행가능 명령어들은,
사용자로부터 스피치 입력을 수신하고;
상기 스피치 입력에 기초하여 미디어 콘텐츠를 결정하고;
제1 크기를 갖는 제1 사용자 인터페이스를 표시하고 - 상기 제1 사용자 인터페이스는 상기 미디어 콘텐츠에 대한 하나 이상의 선택가능한 링크를 포함함 -;
상기 하나 이상의 선택가능한 링크 중 하나의 링크의 선택을 수신하고;
상기 선택에 응답하여, 상기 제1 크기보다 큰 제2 크기를 갖는 제2 사용자 인터페이스를 표시하기 위한 것이며, 상기 제2 사용자 인터페이스는 상기 선택과 연관된 상기 미디어 콘텐츠를 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
[청구항 24]
제23항에 있어서, 상기 제1 사용자 인터페이스는 상기 선택에 응답하여 상기 제2 사용자 인터페이스로 확장되는, 비일시적 컴퓨터 판독가능 저장 매체.
[청구항 25]
제23항에 있어서, 상기 제1 사용자 인터페이스는 재생 중인 미디어 콘텐츠 상에 중첩되는, 비일시적 컴퓨터 판독가능 저장 매체.
[청구항 26]
제23항에 있어서, 상기 제2 사용자 인터페이스는 재생 중인 미디어 콘텐츠 상에 중첩되는, 비일시적 컴퓨터 판독가능 저장 매체.
[청구항 27]
제23항에 있어서, 상기 스피치 입력은 질의를 포함하고, 상기 미디어 콘텐츠는 상기 질의의 결과를 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
[청구항 28]
제27항에 있어서, 상기 제1 사용자 인터페이스는 상기 미디어 콘텐츠에 대한 상기 하나 이상의 선택가능한 링크를 넘어서 상기 질의의 결과들에 대한 링크를 포함하는, 비일시적 컴퓨터 판독가능 저장 매체.
[청구항 29]
가상 어시스턴트를 사용하여 텔레비전 상호작용을 제어하기 위한 시스템으로서,
하나 이상의 프로세서;
메모리; 및
상기 메모리에 저장되고 상기 하나 이상의 프로세서에 의해 실행되도록 구성된 하나 이상의 프로그램을 포함하며, 상기 하나 이상의 프로그램은,
사용자로부터 스피치 입력을 수신하고;
상기 스피치 입력에 기초하여 미디어 콘텐츠를 결정하고;
제1 크기를 갖는 제1 사용자 인터페이스를 표시하고 - 상기 제1 사용자 인터페이스는 상기 미디어 콘텐츠에 대한 하나 이상의 선택가능한 링크를 포함함 -;
상기 하나 이상의 선택가능한 링크 중 하나의 링크의 선택을 수신하고;
상기 선택에 응답하여, 상기 제1 크기보다 큰 제2 크기를 갖는 제2 사용자 인터페이스를 표시하기 위한 명령어들을 포함하며, 상기 제2 사용자 인터페이스는 상기 선택과 연관된 상기 미디어 콘텐츠를 포함하는, 시스템.
[청구항 30]
제29항에 있어서, 상기 제1 사용자 인터페이스는 상기 선택에 응답하여 상기 제2 사용자 인터페이스로 확장되는, 시스템.
[청구항 31]
제29항에 있어서, 상기 제1 사용자 인터페이스는 재생 중인 미디어 콘텐츠 상에 중첩되는, 시스템.
[청구항 32]
제29항에 있어서, 상기 제2 사용자 인터페이스는 재생 중인 미디어 콘텐츠 상에 중첩되는, 시스템.
[청구항 33]
제29항에 있어서, 상기 스피치 입력은 질의를 포함하고, 상기 미디어 콘텐츠는 상기 질의의 결과를 포함하는, 시스템.
[청구항 34]
제33항에 있어서, 상기 제1 사용자 인터페이스는 상기 미디어 콘텐츠에 대한 상기 하나 이상의 선택가능한 링크를 넘어서 상기 질의의 결과들에 대한 링크를 포함하는, 시스템.
[요약서]
[요약]
가상 어시스턴트(virtual assistant)를 사용하여 텔레비전 사용자 상호작용을 제어하기 위한 시스템 및 프로세스가 개시된다. 가상 어시스턴트는 텔레비전 상에 보여지는 콘텐츠를 제어하기 위해 텔레비전 셋톱 박스와 상호작용할 수 있다. 가상 어시스턴트에 대한 스피치 입력은 마이크로폰을 갖는 디바이스로부터 수신될 수 있다. 사용자 의도는 스피치 입력으로부터 결정될 수 있으며, 가상 어시스턴트는 텔레비전 상에서 미디어의 재생을 야기하는 것을 비롯한 사용자의 의도에 따라 태스크들을 실행할 수 있다. 가상 어시스턴트 상호작용은 원하는 정보를 전달하면서 최소량의 공간을 차지하도록 확장되거나 축소되는 인터페이스로 텔레비전 상에 보여질 수 있다. 다수의 디스플레이와 연관된 다수의 디바이스가 스피치 입력으로부터 사용자 의도를 결정할 뿐만 아니라 사용자에게 정보를 전달하는 데 사용될 수 있다. 일부 예들에서, 가상 어시스턴트 질의 제안은 디스플레이 상에 보여지는 미디어 콘텐츠에 기초하여 사용자에게 제공될 수 있다.
[도면]
[도 1]
[도 2]
[도 3]
[도 4a]
[도 4b]
[도 4c]
[도 4d]
[도 4e]
[도 5]
[도 6a]
[도 6b]
[도 7a]
[도 7b]
[도 8a]
[도 8b]
[도 9]
[도 10]
[도 11]
[도 12]
[도 13]
[도 14]
[도 15]
[도 16]
[도 17]
[도 18]
[도 19]
[도 20]
[도 21]
[도 22]
[도 23a]
[도 23b]
[도 24]
[도 25]
[도 26]
[도 27]
[도 28a]
[도 28b]
[도 29]
[도 30]
[도 31]
[도 32]
[도 33]
[도 34]
[도 35]
[도 36]
[도 37]
실시간 디지털
어시스턴트
지식
업데이트
{REAL-TIME DIGITAL ASSISTANT KNOWLEDGE UPDATES}
[관련 출원에 대한 상호 참조]
본 출원은 2014년 6월 30일자로 출원되고 발명의 명칭이 "REAL-TIME DIGITAL ASSISTANT KNOWLEDGE UPDATES"인 미국 가출원 제62/019,292호로부터의 우선권을 주장하며, 이는 모든 목적을 위해 그 전문이 본 명세서에 참조로서 편입된다.
본 출원은 동시 계류중인 이하의 가출원들에 또한 관련된다: 2014년 6월 30일자로 출원되고 발명의 명칭이 "Intelligent AutomatedAssistant for TV User Interactions"인 미국 특허 출원 제62/019,312호(대리인 관리 번호 106843065100(P18133USP1)), 이는 그 전문이 본 명세서에 참조로서 포함된다.
[기술분야]
이는 일반적으로 텔레비전 사용자 상호작용의 음성 제어(voice control)에 관한 것으로, 보다 구체적으로는 가상 어시스턴트 미디어 지식의 실시간 업데이트에 관한 것이다.
[배경기술]
지능형 자동화 어시스턴트들(또는 가상 어시스턴트들)은 사용자들과 전자 디바이스들 사이의 직관적인 인터페이스를 제공한다. 이러한 어시스턴트들은 사용자들이 구어(spoken) 및/또는 텍스트 형태들의 자연 언어를 사용하여 디바이스들 또는 시스템들과 상호작용하도록 할 수 있다. 예를 들어, 사용자는 자연 언어 형태의 구어 사용자 입력을 전자 디바이스와 연관된 가상 어시스턴트에 제공함으로써 전자 디바이스의 서비스들에 액세스할 수 있다. 가상 어시스턴트는 구어 사용자 입력에 대한 자연 언어 처리를 수행하여 사용자의 의도를 추론하고, 사용자의 의도를 태스크들로 운용화할 수 있다. 이어서, 태스크들은 전자 디바이스의 하나 이상의 기능을 실행함으로써 수행될 수 있고, 일부 예들에서, 관련 출력이 자연 언어 형태로 사용자에게 반환될 수 있다.
모바일 전화기(예컨대, 스마트폰), 태블릿 컴퓨터 등은 가상 어시스턴트 제어로부터 이익을 얻었지만, 많은 다른 사용자 디바이스는 그러한 편리한 제어 메커니즘이 결여되어 있다. 예를 들어, 미디어 제어 디바이스(예컨대, 텔레비전, 텔레비전 셋톱 박스, 케이블 박스, 게이밍 디바이스, 스트리밍 미디어 디바이스, 디지털 비디오 녹화기 등)와의 사용자 상호작용은 복잡하고 배우기가 어려울 수 있다. 또한, 이러한 디바이스(예컨대, 지상파 TV, 구독 TV 서비스, 스트리밍 비디오 서비스, 케이블 주문형 비디오 서비스, 웹 기반 비디오 서비스 등)를 통해 이용가능한 미디어의 소스가 점점 더 커짐에 따라, 일부 사용자들은 소비하기 원하는 미디어 콘텐츠를 찾기가 번거롭거나 압도적일 수 있다. 또한, 대략 타임-시프팅(coarse time-shifting) 및 큐 제어는 사용자가 원하는 콘텐츠, 예컨대 텔레비전 프로그램의 특정 순간을 획득하는 것을 어렵게 만들 수 있다. 라이브 미디어 콘텐츠와 연관된 시기적절한 정보를 획득하는 것도 어려울 수 있다. 결과적으로, 많은 미디어 제어 디바이스들은 많은 사용자들이 불만을 가질 수 있는 열등한 사용자 경험을 제공할 수 있다.
[발명의 내용]
가상 어시스턴트 미디어 지식의 실시간 업데이트를 위한 시스템 및 프로세스가 개시된다. 일 예에서, 가상 어시스턴트 지식은 재생되는 미디어와 연관된 시기적절한 정보로 업데이트될 수 있다. 미디어 스트림 내의 특정 시간들에 이벤트를 관련시키는 데이터를 포함하는 데이터 피드가 수신될 수 있다. 사용자 요청은 스피치 입력(speech input)에 기초하여 수신될 수 있고, 사용자 요청은 미디어 스트림 또는 쇼의 이벤트와 연관될 수 있다. 요청을 수신하는 것에 응답하여, 미디어 스트림은 요청에 언급된 이벤트와 연관된 미디어 스트림 내의 시간에서 재생을 시작하도록 큐될 수 있다.
다른 예에서, 시기적절한 정보는 현재의 이벤트들을 포함하는 질의에 대한 답변들을 제공하기 위해 디지털 어시스턴트 지식에 통합될 수 있다. 미디어 스트림 내의 특정 시간들에 이벤트를 관련시키는 데이터를 포함하는 데이터 피드가 수신될 수 있다. 사용자 요청은 사용자로부터 스피치 입력에 기초하여 수신될 수 있고, 사용자 요청은 이벤트들 중 하나와 연관될 수 있다. 사용자 요청에 대한 응답은 이벤트에 관련된 데이터에 기초하여 생성될 수 있다. 이어서, 응답은 다양한 방식으로 사용자에게 전달될 수 있다(예를 들어, 크게 말해지는 것, 텔레비전 상에 표시되는 것, 모바일 사용자 디바이스 상에 표시되는 것 등).
[도면의 간단한 설명]
도 1은 미디어 재생의 음성 제어 및 가상 어시스턴트 지식의 실시간 업데이트를 제공하기 위한 예시적인 시스템을 도시한다.
도 2는 다양한 예에 따른 예시적인 사용자 디바이스의 블록도를 도시한다.
도 3은 미디어 재생의 음성 제어를 제공하기 위한 시스템의 예시적인 미디어 제어 디바이스의 블록도를 도시한다.
도 4는 다양한 예에 따른 미디어 재생의 음성 제어를 위한 예시적인 프로세스를 도시한다.
도 5는 미디어 스트림 내의 특정 시간들과 미디어 스트림의 이벤트들을 연관시키는 예시적인 데이터 피드를 도시한다.
도 6은 미디어 스트림 내의 이벤트에 기초한 비디오 재생을 큐하는 것의 예시적인 가상 어시스턴트 질의 응답을 도시한다.
도 7은 사용자 질의를 해석하는 데 사용될 수 있는 재생 위치 전후에 출현하는 예시적인 이벤트를 도시한다.
도 8은 미디어 스트림 내의 특정 시간들과 미디어 스트림의 이벤트를 연관시키는 예시적인 시상식 쇼 데이터 피드를 도시한다.
도 9는 미디어 스트림 내의 특정 시간들과 미디어 스트림의 이벤트를 연관시키는 예시적인 텔레비전 프로그램 데이터 피드를 도시한다.
도 10은 사용자 질의에 응답하는 데 사용될 수 있는 비디오 내의 특정 시간과 연관된 예시적인 폐쇄 자막 텍스트(closed captioning text)를 도시한다.
도 11a는 사용자 질의를 해석하는 데 사용될 수 있는 예시적인 비디오 콘텐츠를 갖는 텔레비전 디스플레이를 도시한다.
도 11b는 사용자 질의를 해석하는 데 사용될 수 있는 예시적인 이미지 및 텍스트 콘텐츠를 갖는 모바일 사용자 디바이스를 도시한다.
도 12는 정보를 디지털 어시스턴트 지식에 통합하고 사용자 요청에 응답하기 위한 예시적인 프로세스를 도시한다.
도 13은 다양한 예에 따른, 미디어 재생의 음성 제어 및 가상 어시스턴트 지식의 실시간 업데이트를 제공하도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
도 14는 다양한 예에 따른, 정보를 디지털 어시스턴트 지식에 통합하고 사용자 요청에 응답하도록 구성된 전자 디바이스의 기능 블록도를 도시한다.
[발명을 실시하기 위한 구체적인 내용]
예들의 다음 설명에서, 첨부된 도면들이 참조되며, 실행될 수 있는 특정 예들이 도면들 내에서 예시로서 도시된다. 다양한 예의 범주를 벗어나지 않으면서 다른 예들이 이용될 수 있고 구조적 변경이 행해질 수 있다는 것이 이해되어야 한다.
이는 가상 어시스턴트 미디어 지식의 실시간 업데이트를 위한 시스템 및 프로세스와 관련된다. 실시간 가상 어시스턴트 지식 업데이트는 예를 들어 텔레비전 사용자 상호작용의 정확한 음성 제어를 가능하게 하고 미디어 관련 질의에 시기적절하고 정확한 가상 어시스턴트 응답을 제공할 수 있다. 일 예에서, 가상 어시스턴트는 텔레비전 디스플레이 상에 보여지는 콘텐츠를 제어하기 위한 텔레비전 셋톱 박스와 같은 미디어 제어 디바이스와 상호작용하는 데 사용될 수 있다. 마이크로폰을 갖는 모바일 사용자 디바이스 또는 원격 제어부는 가상 어시스턴트에 대한 스피치 입력을 수신하는 데 사용될 수 있다. 사용자의 의도는 스피치 입력으로 결정될 수 있으며 가상 어시스턴트는 연결된 텔레비전 상의 미디어의 재생을 야기하고 텔레비전 셋톱 박스 또는 유사한 디바이스의 임의의 다른 기능을 제어하는 것을 포함하는, 사용자의 의도에 따라 태스크들(예를 들어, 라이브 미디어 콘텐츠의 재생을 야기하는 것, 녹화된 미디어 콘텐츠의 재생을 야기하는 것, 비디오 녹화를 관리하는 것, 미디어 콘텐츠를 검색하는 것, 메뉴를 내비게이팅하는 것 등)을 실행할 수 있다.
일 예에서, 가상 어시스턴트 지식은 재생 중인 미디어(예를 들어, 스포츠 이벤트, 텔레비전 쇼 등)와 연관된 시기적절하게 그리고 심지어 실시간 정보로 업데이트될 수 있다. 미디어 스트림 내의 특정 시간들에 이벤트를 관련시키는 데이터를 포함하는 데이터 피드가 수신될 수 있다. 예를 들어, 데이터 피드는 방영된 축구 경기에서 특정 시간에 골이 발생했음을 나타낼 수 있다. 다른 예에서, 데이터 피드는 방영된 쇼에서 특정 시간에 쇼 호스트가 독백을 전달했음을 나타낼 수 있다. 사용자 요청은 스피치 입력에 기초하여 수신될 수 있고, 사용자 요청은 미디어 스트림 또는 쇼의 이벤트와 연관될 수 있다. 요청을 수신하는 것에 응답하여, 미디어 스트림은 요청에 언급된 이벤트와 연관된 미디어 스트림 내의 시간에서 재생을 시작하도록 큐될 수 있다.
다른 예에서, 시기적절한 또는 실시간 정보는 현재의 이벤트들을 포함하는 질의에 대한 답변들을 제공하기 위해 디지털 어시스턴트 지식에 통합될 수 있다. 미디어 스트림 내의 특정 시간들에 이벤트를 관련시키는 데이터를 포함하는 데이터 피드가 수신될 수 있다. 사용자 요청은 사용자로부터의 스피치 입력에 기초하여 수신될 수 있고, 사용자 요청은 이벤트들 중 하나와 연관될 수 있다. 사용자 요청에 대한 응답은 이벤트에 관련된 데이터에 기초하여 생성될 수 있다. 이어서, 응답은 다양한 방식으로 사용자에게 전달될 수 있다(예를 들어, 크게 말해지는 것, 텔레비전 상에 표시되는 것, 모바일 사용자 디바이스 상에 표시되는 것 등).
본 명세서에 논의된 다양한 예에 따라 시기적절하게 미디어 정보로 가상 어시스턴트 지식을 업데이트하는 것은 효과적이고 만족할 만한 사용자 경험을 제공할 수 있다. 미디어 제어 디바이스와의 사용자 상호작용은 미디어 콘텐츠와 연관된 자연 언어 질의 또는 커맨드를 수신할 수 있는 가상 어시스턴트를 사용하여 직관적이고 단순할 수 있다. 실시간 가상 어시스턴트 지식 업데이트는 예를 들어 텔레비전 사용자 상호작용의 정확한 음성 제어를 가능하게 하고 미디어 관련 질의에 시기적절하고 정확한 가상 어시스턴트 응답을 제공할 수 있다. 또한, 미디어의 원하는 부분이나 장면은 표시된 미디어에 관련된 직관적인 구어 커맨드를 사용하여 쉽게 액세스할 수 있다. 그러나, 본 명세서에서 논의된 다양한 예에 따라 여전히 많은 다른 이점이 달성될 수 있음을 이해해야 한다.
도 1은 미디어 재생의 음성 제어 및 가상 어시스턴트 지식의 실시간 업데이트를 제공하기 위한 예시적인 시스템(100)을 도시한다. 본 명세서에서 논의된 바와 같이 텔레비전 상의 미디어 재생의 음성 제어는 하나의 유형의 디스플레이 기술에 대한 미디어를 제어하는 단순한 일례이고 참조로서 사용되며, 본 명세서에서 논의되는 개념은 일반적으로 임의의 다양한 디바이스들 및 관련 디스플레이들(예컨대, 모니터, 랩톱 디스플레이, 데스크톱 컴퓨터 디스플레이, 모바일 사용자 디바이스 디스플레이, 프로젝터 디스플레이 등) 중 임의의 것을 포함하는 임의의 미디어 콘텐츠 상호작용을 제어하기 위해 사용될 수 있음이 이해되어야 한다. 따라서, "텔레비전"이라는 용어는 다양한 디바이스들 중 임의의 것과 연관된 임의의 유형의 디스플레이를 지칭할 수 있다. 또한, 용어들 "가상 어시스턴트", "디지털 어시스턴트", "지능형 자동화 어시스턴트", 또는 "자동 디지털 어시스턴트"는 구어적 및/또는 문어적 형태의 자연 언어 입력을 해석하여 사용자 의도를 추론하고, 추론된 사용자 의도에 기초하여 액션들을 수행하는 임의의 정보 처리 시스템을 지칭할 수 있다. 예를 들어, 추론된 사용자 의도에 따라 동작하기 위해, 시스템은 다음 중 하나 이상을 수행할 수 있다: 추론된 사용자 의도를 달성하도록 설계된 단계들 및 파라미터들을 이용하여 태스크 흐름을 식별하는 것; 추론된 사용자 의도로부터의 특정 요건들을 태스크 흐름 내에 입력하는 것; 프로그램들, 방법들, 서비스들, API들 등을 호출함으로써 태스크 흐름을 실행하는 것; 및 청각적(예컨대, 스피치) 및/또는 시각적 형태로 사용자에 대한 출력 응답들을 생성하는 것.
가상 어시스턴트는 적어도 부분적으로 자연 언어 커맨드, 요청, 진술, 서술, 및/또는 질문의 형태로 사용자 요청을 수용할 수 있다. 전형적으로, 사용자 요청은 가상 어시스턴트(예컨대, 특정 미디어의 표시를 야기함)에 의해 정보제공형 답변 또는 태스크의 수행 중 어느 하나를 구한다. 사용자 요청에 대한 만족스러운 응답은 요청된 정보제공형 답변의 제공, 요청된 태스크의 수행, 또는 이 둘의 조합을 포함할 수 있다. 예를 들어, 사용자는 가상 어시스턴트에게, "내가 지금 어디에 있지?"와 같은 질문을 할 수 있다. 사용자의 현재 위치에 기초하여, 가상 어시스턴트는 "당신은 센트럴 파크에 있습니다"라고 답변할 수 있다. 사용자는 또한 태스크의 수행, 예를 들어, "오늘 오후 4시에 엄마에게 전화하라고 나에게 리마인드 해줘"를 요청할 수 있다. 이에 응답하여, 가상 어시스턴트는 요청을 받았음을 알리고, 이어서 사용자의 전자 스케줄 내에 적절한 리마인더 항목을 생성할 수 있다. 요청된 태스크의 수행 동안, 가상 어시스턴트는 때때로 연장된 기간 내내 다수의 정보 교환을 수반하는 연속 대화로 사용자와 상호작용할 수 있다. 가상 어시스턴트와 상호작용하여 정보 또는 다양한 태스크들의 수행을 요청하는 수많은 다른 방식이 있다. 구두 응답들을 제공하는 것 및 프로그래밍된 동작들을 취하는 것에 부가하여, 가상 어시스턴트는 또한 다른 시각적 또는 청각적 형태들로(예컨대, 텍스트, 경고들, 음악, 비디오들, 애니메이션들 등으로서) 응답들을 제공할 수 있다. 또한, 본 명세서에서 논의된 바와 같이, 예시적인 가상 어시스턴트는 미디어 콘텐츠의 재생을 제어할 수 있고(예를 들어, 텔레비전 상의 비디오를 재생하는 것) 정보가 디스플레이 상에 표시되게 할 수 있다.
가상 어시스턴트의 일례는 2011년 1월 10일자로 출원된 "Intelligent AutomatedAssistant"에 대한 본 출원인의 미국 특허 출원 제12/987,982호에 기재되어 있으며, 그 전체 개시내용은 본 명세서에 참조로서 편입된다.
도 1에 도시된 바와 같이, 일부 예들에서, 가상 어시스턴트는 클라이언트-서버 모델에 따라 구현될 수 있다. 가상 어시스턴트는 사용자 디바이스(102) 상에서 실행되는 클라이언트 측 부분, 및 서버 시스템(110) 상에서 실행되는 서버 측 부분을 포함할 수 있다. 클라이언트 측 부분은 또한 원격 제어부(106)와 함께 텔레비전 셋톱 박스(104) 상에서 실행될 수 있다. 사용자 디바이스(102)는 모바일 전화기(예컨대, 스마트폰), 태블릿 컴퓨터, 휴대용 미디어 플레이어, 데스크톱 컴퓨터, 랩톱 컴퓨터, PDA, 착용가능한 전자 디바이스(예컨대, 디지털 안경, 손목 밴드, 손목 시계, 브로치, 암밴드 등) 등과 같은 임의의 전자 디바이스를 포함할 수 있다. 텔레비전 셋톱 박스(104)는 케이블 박스, 위성 박스, 비디오 플레이어, 비디오 스트리밍 디바이스, 디지털 비디오 녹화기, 게이밍 시스템, DVD 플레이어, Blu-ray Disc™ 플레이어, 이러한 디바이스들의 조합 등과 같은 임의의 미디어 제어 디바이스를 포함할 수 있다. 텔레비전 셋톱 박스(104)는 유선 또는 무선 연결을 통해 디스플레이(112) 및 스피커(111)에 연결될 수 있다. 디스플레이(112)(스피커(111)가 있거나 없는)은 텔레비전 디스플레이, 모니터, 프로젝터 등과 같은 임의의 유형의 디스플레이일 수 있다. 일부 예들에서, 텔레비전 셋톱 박스(104)는 오디오 시스템(예컨대, 오디오 수신기)에 연결할 수 있고, 스피커(111)는 디스플레이(112)와 분리될 수 있다. 다른 예들에서, 디스플레이(112), 스피커(111), 및 텔레비전 셋톱 박스(104)는 진보된 처리 및 네트워크 연결성 능력들(network connectivity capabilities)을 갖는 스마트 텔레비전과 같은 단일 디바이스에 함께 통합될 수 있다. 그러한 예들에서, 텔레비전 셋톱 박스(104)의 기능들은 결합된 디바이스 상의 애플리케이션으로서 실행될 수 있다.
일부 예들에서, 텔레비전 셋톱 박스(104)는 미디어 콘텐츠의 다수의 유형들 및 소스들에 대한 미디어 제어 센터로서 기능할 수 있다. 예를 들어, 텔레비전 셋톱 박스(104)는 라이브 텔레비전(예를 들어, 지상파, 위성, 또는 케이블 텔레비전)에 대한 사용자 액세스를 용이하게 할 수 있다. 이와 같이, 텔레비전 셋톱 박스(104)는 케이블 튜너, 위성 튜너 등을 포함할 수 있다. 일부 예들에서, 텔레비전 셋톱 박스(104)는 또한 나중에 타임-시프팅된 시청을 위해 텔레비전 프로그램을 녹화할 수 있다. 다른 예들에서, 텔레비전 셋톱 박스(104)는 케이블-전달된 주문형 텔레비전 쇼, 비디오, 및 음악뿐만 아니라 인터넷-전달된 텔레비전 쇼, 비디오, 및 음악과 같은 하나 이상의 스트리밍 미디어 서비스(예컨대, 다양한 무료, 유료, 및 구독 기반 스트리밍 서비스들로부터의)에 대한 액세스를 제공할 수 있다. 또 다른 예들에서, 텔레비전 셋톱 박스(104)는 모바일 사용자 디바이스로부터의 사진을 표시하거나, 결합된 저장 디바이스로부터 비디오를 재생하거나, 결합된 음악 플레이어로부터 음악을 재생하는 것 등과 같은 임의의 다른 소스로부터의 미디어 콘텐츠의 재생 또는 표시를 용이하게 할 수 있다. 텔레비전 셋톱 박스(104)는 또한 원하는 바와 같이 본 명세서에서 논의된 미디어 제어 특징의 다양한 다른 조합을 포함할 수 있다.
사용자 디바이스(102) 및 텔레비전 셋톱 박스(104)는 인터넷, 인트라넷, 또는 임의의 다른 유선 또는 무선 공공 또는 사설 네트워크를 포함할 수 있는 하나 이상의 네트워크(108)를 통해 서버 시스템(110)과 통신할 수 있다. 또한, 사용자 디바이스(102)는 네트워크(108)를 통해 또는 임의의 다른 유선 또는 무선 통신 메커니즘(예를 들어, 블루투스, Wi-Fi, 무선 주파수, 적외선 송신 등)을 통해 직접 텔레비전 셋톱 박스(104)와 통신할 수 있다. 예시된 바와 같이, 원격 제어부(106)는, 네트워크(108)를 통하는 것을 비롯하여 유선 연결 또는 임의의 유형의 무선 통신(예를 들어, 블루투스, Wi-Fi, 무선 주파수, 적외선 송신 등)과 같은 임의의 유형의 통신을 사용하여 텔레비전 셋톱 박스(104)와 통신할 수 있다. 일부 예들에서, 사용자는 사용자 디바이스(102), 원격 제어부(106), 또는 텔레비전 셋톱 박스(104) 내에 통합된 인터페이스 요소(예를 들어, 버튼, 마이크로폰, 카메라, 조이스틱 등)를 통해 텔레비전 셋톱 박스(104)와 상호작용할 수 있다. 예를 들어, 가상 어시스턴트에 대한 미디어 관련 질의 또는 커맨드를 포함하는 스피치 입력은 사용자 디바이스(102) 및/또는 원격 제어부(106)에서 수신될 수 있으며, 스피치 입력은 미디어 관련 태스크가 텔레비전 셋톱 박스(104) 상에서 수행되게 하는 데 사용될 수 있다. 마찬가지로, 텔레비전 셋톱 박스(104) 상의 미디어를 제어하기 위한 촉각 커맨드는 사용자 디바이스(102) 및/또는 원격 제어부(106)에서 수신될 수 있다(또한 도시되지 않은 다른 디바이스들로부터). 따라서, 텔레비전 셋톱 박스(104)의 다양한 기능들이 다양한 방식으로 제어되어, 사용자들에게 다수의 디바이스로부터의 미디어 콘텐츠를 제어하기 위한 다수의 옵션을 제공할 수 있다.
원격 제어부(106)를 갖는 사용자 디바이스(102) 및/또는 텔레비전 셋톱 박스(104) 상에서 실행되는 예시적인 가상 어시스턴트의 클라이언트 측 부분은 사용자 대면 입력 및 출력 처리 및 서버 시스템(110)과의 통신과 같은 클라이언트 측 기능들을 제공할 수 있다. 서버 시스템(110)은 개개의 사용자 디바이스(102) 또는 개개의 텔레비전 셋톱 박스(104) 상에 존재하는 임의의 수의 클라이언트들에 서버 측 기능들을 제공할 수 있다.
서버 시스템(110)은 하나 이상의 가상 어시스턴트 서버(114)를 포함할 수 있는데, 가상 어시스턴트 서버(114)는 클라이언트 대면 I/O 인터페이스(122), 하나 이상의 처리 모듈(118), 데이터 및 모델 저장소(120), 및 외부 서비스들에 대한 I/O 인터페이스(116)를 포함할 수 있다. 클라이언트 대면 I/O 인터페이스(122)는 가상 어시스턴트 서버(114)에 대한 클라이언트 대면 입력 및 출력 처리를 용이하게 할 수 있다. 하나 이상의 처리 모듈(118)은 데이터 및 모델 저장소(120)를 이용하여, 자연 언어 입력에 기초하여 사용자의 의도를 결정할 수 있고, 추론된 사용자 의도에 기초하여 태스크 실행을 수행할 수 있다. 일부 예들에서, 가상 어시스턴트 서버(114)는 태스크 완수 또는 정보 획득을 위해 네트워크(들)(108)를 통해, 외부 서비스들(124), 예컨대 전화 통신 서비스들, 캘린더 서비스(calendar service)들, 정보 서비스들, 메시징 서비스들, 내비게이션 서비스들, 텔레비전 프로그래밍 서비스들, 스트리밍 미디어 서비스들 등과 통신할 수 있다. 외부 서비스들에 대한 I/O 인터페이스(116)는 그러한 통신들을 용이하게 할 수 있다.
서버 시스템(110)은 하나 이상의 독립형 데이터 처리 디바이스 또는 분산형 컴퓨터 네트워크 상에 구현될 수 있다. 일부 예들에서, 서버 시스템(110)은 서버 시스템(110)의 기본 컴퓨팅 리소스들 및/또는 인프라구조 리소스들을 제공하기 위해 제3자 서비스 제공자들(예컨대, 제3자 클라우드 서비스 제공자들)의 다양한 가상 디바이스들 및/또는 서비스들을 채용할 수 있다.
가상 어시스턴트의 기능이 클라이언트 측 부분 및 서버 측 부분 둘 모두를 포함하는 것으로서 도 1에 도시되어 있지만, 일부 예들에서, 어시스턴트의 기능(또는 일반적으로 스피치 인식 및 미디어 제어)은 사용자 디바이스, 텔레비전 셋톱 박스, 스마트 텔레비전 등에 설치된 독립형 애플리케이션으로서 구현될 수 있다. 또한, 가상 어시스턴트의 클라이언트 부분과 서버 부분 사이에서의 기능들의 분담은 상이한 예들에서 다를 수 있다. 예를 들어, 일부 예들에서, 사용자 디바이스(102) 또는 텔레비전 셋톱 박스(104) 상에서 실행되는 클라이언트는, 오로지 사용자 대면 입력 및 출력 처리 기능들만을 제공하고, 가상 어시스턴트의 다른 모든 기능들을 백엔드 서버에 위임하는 씬-클라이언트(thin-client)일 수 있다.
도 2는 다양한 예에 따른, 예시적인 사용자 디바이스(102)의 블록도를 도시한다. 도시된 바와 같이, 사용자 디바이스(102)는 메모리 인터페이스(202), 하나 이상의 프로세서(204), 및 주변기기 인터페이스(206)를 포함할 수 있다. 사용자 디바이스(102) 내의 다양한 컴포넌트들은 하나 이상의 통신 버스 또는 신호 라인에 의해 서로 결합될 수 있다. 사용자 디바이스(102)는 다양한 센서들, 서브시스템들, 및 주변기기 인터페이스(206)에 결합되는 주변기기 디바이스들을 추가로 포함할 수 있다. 센서들, 서브시스템들, 및 주변기기 디바이스들은 정보를 수집하고/하거나 사용자 디바이스(102)의 다양한 기능들을 용이하게 할 수 있다.
예를 들어, 사용자 디바이스(102)는 배향, 광, 및 근접 감지 기능들을 용이하게 하기 위해 주변기기 인터페이스(206)에 결합된 모션 센서(210), 광 센서(212), 및 근접 센서(214)를 포함할 수 있다. 하나 이상의 기타 센서(216), 예컨대 포지셔닝 시스템(예컨대, GPS 수신기), 온도 센서, 생체인식 센서, 자이로스코프, 나침반, 가속도계 등이 또한 주변기기 인터페이스(206)에 연결되어 관련 기능들을 또한 용이하게 할 수 있다.
일부 예들에서, 카메라 서브시스템(220) 및 광학 센서(222)가 이용되어 사진 촬영 및 비디오 클립 녹화와 같은 카메라 기능들을 용이하게 할 수 있다. 통신 기능들은 다양한 통신 포트, 무선 주파수 수신기 및 송신기, 및/또는 광학(예컨대, 적외선) 수신기 및 송신기를 포함할 수 있는 하나 이상의 유선 및/또는 무선 통신 서브시스템(224)을 통하여 용이하게 할 수 있다. 오디오 서브시스템(226)은 음성 인식, 음성 복제, 디지털 녹음, 및 전화 통신 기능들과 같은 음성 지원 기능들을 용이하게 하기 위해 스피커(228) 및 마이크로폰(230)에 결합될 수 있다.
일부 예들에서, 사용자 디바이스(102)는 주변기기 인터페이스(206)에 결합되는 I/O 서브시스템(240)을 추가로 포함할 수 있다. I/O 서브시스템(240)은 터치스크린 제어기(242) 및/또는 기타 입력 제어기(들)(244)를 포함할 수 있다. 터치스크린 제어기(242)는 터치스크린(246)에 결합될 수 있다. 터치스크린(246) 및 터치스크린 제어기(242)는, 예를 들어, 정전용량, 저항, 적외선 및 표면 탄성파 기술들과 같은 복수의 터치 감지 기술들; 근접 센서 어레이들; 등 중 임의의 것을 이용하여 접촉 및 움직임 또는 이들의 중지를 검출할 수 있다. 기타 입력 제어기(들)(244)가 하나 이상의 버튼, 로커 스위치(rocker switch), 지동륜(thumb-wheel), 적외선 포트, USB 포트, 및/또는 포인터 디바이스, 예컨대 스타일러스와 같은 기타 입력/제어 디바이스들(248)에 결합될 수 있다.
일부 예들에서, 사용자 디바이스(102)는 메모리(250)에 결합되는 메모리 인터페이스(202)를 추가로 포함할 수 있다. 메모리(250)는 임의의 전자, 자기, 광학, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스; 휴대용 컴퓨터 디스켓(자기); 랜덤 액세스 메모리(RAM)(자기); 판독 전용 메모리(ROM)(자기); 소거가능 프로그래머블 판독 전용 메모리(EPROM)(자기); CD, CD-R, CD-RW, DVD, DVD-R, 또는 DVD-RW와 같은 휴대용 광학 디스크; 또는 콤팩트 플래시 카드, 보안 디지털 카드, USB 메모리 디바이스, 메모리 스틱 등과 같은 플래시 메모리를 포함할 수 있다. 일부 예들에서, 메모리(250)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함(processor-containing) 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들은 서버 시스템(110)의 비일시적 컴퓨터 판독가능 저장 매체 상에 저장될 수 있거나 또는 메모리(250)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(110)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
일부 예들에서, 메모리(250)는 운영 체제(252), 통신 모듈(254), 그래픽 사용자 인터페이스 모듈(256), 센서 처리 모듈(258), 전화 모듈(260), 및 애플리케이션(262)을 저장할 수 있다. 운영 체제(252)는 기본 시스템 서비스들을 처리하고 하드웨어 의존적 태스크들을 수행하기 위한 명령어들을 포함할 수 있다. 통신 모듈(254)은 하나 이상의 추가 디바이스, 하나 이상의 컴퓨터, 및/또는 하나 이상의 서버와의 통신을 용이하게 할 수 있다. 그래픽 사용자 인터페이스 모듈(256)은 그래픽 사용자 인터페이스 처리를 용이하게 할 수 있다. 센서 처리 모듈(258)은 센서 관련 처리 및 기능들을 용이하게 할 수 있다. 전화 모듈(260)은 전화 관련 프로세스들 및 기능들을 용이하게 할 수 있다. 애플리케이션 모듈(262)은 전자 메시징, 웹 브라우징, 미디어 처리, 내비게이션, 이미징, 및/또는 기타 프로세스들 및 기능들과 같은 사용자 애플리케이션들의 다양한 기능들을 용이하게 할 수 있다.
본 명세서에 기술된 바와 같이, 메모리(250)는 또한 예를 들어, 가상 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 클라이언트 측 가상 어시스턴트 명령어들을(예를 들어, 가상 어시스턴트 클라이언트 모듈(264) 내에) 그리고 다양한 사용자 데이터(266)(예컨대, 사용자-특정 어휘 데이터, 선호도 데이터, 및/또는 사용자의 전자 주소록, 할 일 목록, 쇼핑 목록, 텔레비전 프로그램 즐겨찾기 등과 같은 기타 데이터)를 저장할 수 있다. 사용자 데이터(266)는 또한 가상 어시스턴트를 지원하거나 임의의 다른 애플리케이션을 위한 스피치 인식을 수행하는 데 사용될 수 있다.
다양한 예에서, 가상 어시스턴트 클라이언트 모듈(264)은 사용자 디바이스(102)의 다양한 사용자 인터페이스들(예컨대, I/O 서브시스템(240), 오디오 서브시스템(226) 등)을 통하여 음성 입력(예컨대, 스피치 입력), 텍스트 입력, 터치 입력, 및/또는 제스처 입력을 수용할 수 있다. 가상 어시스턴트 클라이언트 모듈(264)은 또한 오디오(예컨대, 스피치 출력), 시각적, 및/또는 촉각적 형태들로 출력을 제공할 수 있다. 예를 들어, 출력은 음성, 소리, 경고, 텍스트 메시지, 메뉴, 그래픽, 비디오, 애니메이션, 진동, 및/또는 이들 중 둘 이상의 것들의 조합들로서 제공될 수 있다. 동작 동안, 가상 어시스턴트 클라이언트 모듈(264)은 통신 서브시스템(224)을 사용하여 가상 어시스턴트 서버와 통신할 수 있다.
일부 예들에서, 가상 어시스턴트 클라이언트 모듈(264)은 사용자와 연관된 상황, 현재 사용자 상호작용, 및/또는 현재 사용자 입력을 확립하기 위해 다양한 센서들, 서브시스템들, 및 주변기기 디바이스들을 이용하여 사용자 디바이스(102)의 주위 환경으로부터 추가 정보를 수집할 수 있다. 이러한 상황은 또한 텔레비전 셋톱 박스(104)로부터와 같은 다른 디바이스들로부터의 정보를 포함할 수 있다. 일부 예들에서, 가상 어시스턴트 클라이언트 모듈(264)은 가상 어시스턴트 서버에 사용자 입력과 함께 상황 정보 또는 그의 서브셋을 제공하여 사용자 의도를 추론하는 것을 도울 수 있다. 가상 어시스턴트는 또한 상황 정보를 이용하여 어떻게 출력들을 준비하여 사용자에게 전달할 지를 결정할 수 있다. 상황 정보는 정확한 스피치 인식을 지원하기 위해 사용자 디바이스(102) 또는 서버 시스템(110)에 의해 추가로 사용될 수 있다.
일부 예들에서, 사용자 입력을 동반하는 상황 정보는 센서 정보, 예컨대 조명, 주변 잡음, 주변 온도, 주위 환경의 이미지들 또는 비디오들, 다른 물체까지의 거리 등을 포함할 수 있다. 상황 정보는 사용자 디바이스(102)의 물리적 상태(예컨대, 디바이스 배향, 디바이스 위치, 디바이스 온도, 전력 레벨, 속도, 가속도, 모션 패턴들, 셀룰러 신호 강도 등) 또는 사용자 디바이스(102)의 소프트웨어 상태(예컨대, 실행 중인 프로세스들, 설치된 프로그램들, 과거 및 현재 네트워크 활동들, 백그라운드 서비스들, 에러 로그들, 리소스 사용량 등)와 연관된 정보를 추가로 포함할 수 있다. 상황 정보는 연결된 디바이스 또는 사용자와 관련된 다른 디바이스(예를 들어, 텔레비전 셋톱 박스(104)에 의해 표시된 미디어 콘텐츠, 텔레비전 셋톱 박스(104)에 이용가능한 미디어 콘텐츠 등)의 상태와 연관된 정보를 추가로 포함할 수 있다. 이러한 유형들의 상황 정보 중 임의의 상황 정보가 사용자 입력과 연관된 상황 정보로서 가상 어시스턴트 서버(114)에 제공(또는 사용자 디바이스(102) 자체 상에서 사용)될 수 있다.
일부 예들에서, 가상 어시스턴트 클라이언트 모듈(264)은 가상 어시스턴트 서버(114)로부터의 요청에 응답하여 사용자 디바이스(102)에 저장된 정보(예를 들어, 사용자 데이터(266))를 선택적으로 제공할 수 있다(또는 스피치 인식 및/또는 가상 어시스턴트 기능을 실행하는 데 사용자 디바이스(102) 자체에서 사용될 수 있음). 가상 어시스턴트 클라이언트 모듈(264)은 또한 가상 어시스턴트 서버(114)에 의한 요청에 따라 자연 언어 대화 또는 기타 사용자 인터페이스들을 통해 사용자로부터 추가 입력을 이끌어낼 수 있다. 가상 어시스턴트 클라이언트 모듈(264)은 가상 어시스턴트 서버(114)에 추가 입력을 전달하여, 사용자 요청에서 표현되는 사용자의 의도의 의도 추론 및/또는 이행 시에 가상 어시스턴트 서버(114)를 도울 수 있다.
다양한 예에서, 메모리(250)는 추가 명령어들 또는 더 적은 명령어들을 포함할 수 있다. 더욱이, 사용자 디바이스(102)의 다양한 기능들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로(application specific integrated circuit)들을 비롯한 하드웨어 및/또는 펌웨어로 구현될 수 있다.
도 3은 미디어 재생의 음성 제어를 제공하기 위한 시스템(300) 내의 예시적인 텔레비전 셋톱 박스(104)의 블록도를 도시한다. 시스템(300)은 시스템(100)의 요소들의 서브셋을 포함할 수 있다. 일부 예들에서, 시스템(300)은 특정 기능들을 단독으로 실행할 수 있고, 다른 기능들을 실행하기 위해 시스템(100)의 다른 요소들과 함께 기능할 수 있다. 예를 들어, 시스템(300)의 요소들은 서버 시스템(110)과 상호작용하지 않으면서 특정 미디어 제어 기능들(예를 들어, 국부적으로 저장된 미디어의 재생, 녹화 기능, 채널 튜닝 등)을 처리할 수 있고, 시스템(300)은 서버 시스템(110) 및 시스템(100)의 다른 요소들과 함께 다른 미디어 제어 기능들(예를 들어, 원격으로 저장된 미디어의 재생, 미디어 콘텐츠를 다운로드, 특정 가상 어시스턴트 질의를 처리 등)을 처리할 수 있다. 다른 예들에서, 시스템(300)의 요소들은 네트워크를 통해 외부 서비스(124)에 액세스하는 것을 포함하는, 더 큰 시스템(100)의 기능들을 수행할 수 있다. 기능들은 로컬 디바이스와 원격 서버 디바이스 간에 다양한 다른 방식으로 구분될 수 있음을 이해해야 한다.
도 3에 도시된 바와 같이, 일 예에서, 텔레비전 셋톱 박스(104)는 메모리 인터페이스(302), 하나 이상의 프로세서(304), 및 주변기기 인터페이스(306)를 포함할 수 있다. 텔레비전 셋톱 박스(104) 내의 다양한 컴포넌트는 하나 이상의 통신 버스 또는 신호 라인에 의해 서로 결합될 수 있다. 텔레비전 셋톱 박스(104)는 다양한 서브시스템들, 및 주변기기 인터페이스(306)에 결합되는 주변기기 디바이스들을 추가로 포함할 수 있다. 서브시스템들 및 주변기기 디바이스들은 정보를 수집하고/하거나 텔레비전 셋톱 박스(104)의 다양한 기능을 용이하게 할 수 있다.
예를 들어, 텔레비전 셋톱 박스(104)는 통신 서브시스템(324)을 포함할 수 있다. 통신 기능들은 다양한 통신 포트, 무선 주파수 수신기 및 송신기, 및/또는 광학(예컨대, 적외선) 수신기 및 송신기를 포함할 수 있는 하나 이상의 유선 및/또는 무선 통신 서브시스템(324)을 통하여 용이하게 할 수 있다.
일부 예들에서, 텔레비전 셋톱 박스(104)는 주변기기 인터페이스(306)에 결합되는 I/O 서브시스템(340)을 추가로 포함할 수 있다. I/O 서브시스템(340)은 오디오/비디오 출력 제어기(370)를 포함할 수 있다. 오디오/비디오 출력 제어기(370)는 디스플레이(112) 및 스피커(111)에 결합될 수 있거나 그렇지 않으면 (예를 들어, 오디오/비디오 포트, 무선 송신 등을 통해) 오디오 및 비디오 출력을 제공할 수 있다. I/O 서브시스템(340)은 원격 제어기(342)를 추가로 포함할 수 있다. 원격 제어기(342)는 (예를 들어, 유선 연결, 블루투스, Wi-Fi 등을 통해) 원격 제어부(106)에 통신가능하게 결합될 수 있다. 원격 제어부(106)는 오디오 입력(예를 들어, 사용자로부터의 스피치 입력)을 캡처하기 위한 마이크로폰(372), 촉각 입력을 캡처하기 위한 버튼(들)(374), 및 원격 제어기(342)를 통해 텔레비전 셋톱 박스(104)와의 통신을 용이하게 하기 위한 송수신기(376)를 포함할 수 있다. 원격 제어부(106)는 또한 키보드, 조이스틱, 터치패드 등과 같은 기타 입력 메커니즘들을 포함할 수 있다. 원격 제어부(106)는 조명, 디스플레이, 스피커 등과 같은 출력 메커니즘들을 추가로 포함할 수 있다. 원격 제어부(106)에서 수신된 입력(예를 들어, 사용자 스피치, 버튼 누르기 등)은 원격 제어기(342)를 통해 텔레비전 셋톱 박스(104)에 전달될 수 있다. I/O 서브시스템(340)은 또한 기타 입력 제어기(들)(344)를 포함할 수 있다. 기타 입력 제어기(들)(344)가 하나 이상의 버튼, 로커 스위치, 지동륜, 적외선 포트, USB 포트, 및/또는 포인터 디바이스, 예컨대 스타일러스와 같은 기타 입력/제어 디바이스들(348)에 결합될 수 있다.
일부 예들에서, 텔레비전 셋톱 박스(104)는 메모리(350)에 결합되는 메모리 인터페이스(302)를 추가로 포함할 수 있다. 메모리(350)는 임의의 전자, 자기, 광학, 전자기, 적외선, 또는 반도체 시스템, 장치, 또는 디바이스; 휴대용 컴퓨터 디스켓(자기); 랜덤 액세스 메모리(RAM)(자기); 판독 전용 메모리(ROM)(자기); 소거가능 프로그래머블 판독 전용 메모리(EPROM)(자기); CD, CD-R, CD-RW, DVD, DVD-R, 또는 DVD-RW와 같은 휴대용 광학 디스크; 또는 콤팩트 플래시 카드, 보안 디지털 카드, USB 메모리 디바이스, 메모리 스틱 등과 같은 플래시 메모리를 포함할 수 있다. 일부 예들에서, 메모리(350)의 비일시적 컴퓨터 판독가능 저장 매체는, 명령어 실행 시스템, 장치, 또는 디바이스, 예컨대 컴퓨터 기반 시스템, 프로세서-포함 시스템, 또는 명령어 실행 시스템, 장치, 또는 디바이스로부터 명령어들을 페치하여 명령어들을 실행할 수 있는 다른 시스템에 의해 또는 그와 관련하여 사용하기 위한(예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들을 저장하는 데 사용될 수 있다. 다른 예들에서, (예컨대, 본 명세서에 설명되는 다양한 프로세스들의 부분들 또는 전부를 수행하기 위한) 명령어들은 서버 시스템(110)의 비일시적 컴퓨터 판독가능 저장 매체 상에 저장될 수 있거나 또는 메모리(350)의 비일시적 컴퓨터 판독가능 저장 매체와 서버 시스템(110)의 비일시적 컴퓨터 판독가능 저장 매체 사이에서 분담될 수 있다. 본 명세서와 관련하여, "비일시적 컴퓨터 판독가능 저장 매체"는 명령어 실행 시스템, 장치, 또는 디바이스에 의해 또는 그와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 임의의 매체일 수 있다.
일부 예들에서, 메모리(350)는 운영 체제(352), 통신 모듈(354), 그래픽 사용자 인터페이스 모듈(356), 온-디바이스(on-device) 미디어 모듈(358), 오프-디바이스(off-device) 미디어 모듈(360), 및 애플리케이션들(362)을 저장할 수 있다. 운영 체제(352)는 기본 시스템 서비스들을 처리하고 하드웨어 의존적 태스크들을 수행하기 위한 명령어들을 포함할 수 있다. 통신 모듈(354)은 하나 이상의 추가 디바이스, 하나 이상의 컴퓨터, 및/또는 하나 이상의 서버와의 통신을 용이하게 할 수 있다. 그래픽 사용자 인터페이스 모듈(356)은 그래픽 사용자 인터페이스 처리를 용이하게 할 수 있다. 온-디바이스 미디어 모듈(358)은 텔레비전 셋톱 박스(104) 상에 국부적으로 저장된 미디어 콘텐츠 및 국부적으로 이용가능한 다른 미디어 콘텐츠(예를 들어, 케이블 채널 튜닝)의 저장 및 재생을 용이하게 할 수 있다. 오프-디바이스 미디어 모듈(360)은 원격으로(예를 들어, 원격 서버 상에, 사용자 디바이스(102) 상에 등) 저장된 미디어 콘텐츠의 스트리밍 재생 또는 다운로드를 용이하게 할 수 있다. 애플리케이션 모듈(362)은 전자 메시징, 웹 브라우징, 미디어 처리, 게이밍, 및/또는 기타 프로세스들 및 기능들과 같은 사용자 애플리케이션들의 다양한 기능들을 용이하게 할 수 있다.
본 명세서에 기술된 바와 같이, 메모리(350)는 또한 예를 들어, 가상 어시스턴트의 클라이언트 측 기능들을 제공하기 위해 클라이언트 측 가상 어시스턴트 명령어들을(예를 들어, 가상 어시스턴트 클라이언트 모듈(364) 내에) 그리고 다양한 사용자 데이터(366)(예컨대, 사용자-특정 어휘 데이터, 선호도 데이터, 및/또는 사용자의 전자 주소록, 할 일 목록, 쇼핑 목록, 텔레비전 프로그램 즐겨찾기 등과 같은 기타 데이터)를 저장할 수 있다. 사용자 데이터(366)는 또한 가상 어시스턴트를 지원하거나 임의의 다른 애플리케이션을 위한 스피치 인식을 수행하는 데 사용될 수 있다.
다양한 예에서, 가상 어시스턴트 클라이언트 모듈(364)은 텔레비전 셋톱 박스(104)의 다양한 사용자 인터페이스들(예컨대, I/O 서브시스템(340) 등)을 통하여 음성 입력(예컨대, 스피치 입력), 텍스트 입력, 터치 입력, 및/또는 제스처 입력을 수용할 수 있다. 가상 어시스턴트 클라이언트 모듈(364)은 또한 오디오(예컨대, 스피치 출력), 시각적, 및/또는 촉각적 형태들로 출력을 제공할 수 있다. 예를 들어, 출력은 음성, 소리, 경고, 텍스트 메시지, 메뉴, 그래픽, 비디오, 애니메이션, 진동, 및/또는 이들 중 둘 이상의 것들의 조합들로서 제공될 수 있다. 동작 동안, 가상 어시스턴트 클라이언트 모듈(364)은 통신 서브시스템(324)을 사용하여 가상 어시스턴트 서버와 통신할 수 있다.
일부 예들에서, 가상 어시스턴트 클라이언트 모듈(364)은 사용자와 연관된 상황, 현재 사용자 상호작용, 및/또는 현재 사용자 입력을 확립하기 위해 다양한 서브시스템들, 및 주변기기 디바이스들을 이용하여 텔레비전 셋톱 박스(104)의 주위 환경으로부터 추가 정보를 수집할 수 있다. 이러한 상황은 또한 사용자 디바이스(102)로부터와 같은 다른 디바이스들로부터의 정보를 포함할 수 있다. 일부 예들에서, 가상 어시스턴트 클라이언트 모듈(364)은 가상 어시스턴트 서버에 사용자 입력과 함께 상황 정보 또는 그의 서브셋을 제공하여 사용자의 의도를 추론하는 것을 도울 수 있다. 가상 어시스턴트는 또한 상황 정보를 이용하여 어떻게 출력들을 준비하여 사용자에게 전달할 지를 결정할 수 있다. 상황 정보는 정확한 스피치 인식을 지원하기 위해 텔레비전 셋톱 박스(104) 또는 서버 시스템(110)에 의해 추가로 사용될 수 있다.
일부 예들에서, 사용자 입력을 동반하는 상황 정보는 센서 정보, 예컨대 조명, 주변 잡음, 주변 온도, 다른 물체까지의 거리 등을 포함할 수 있다. 상황 정보는 텔레비전 셋톱 박스(104)의 물리적 상태(예컨대, 디바이스 위치, 디바이스 온도, 전력 레벨 등) 또는 텔레비전 셋톱 박스(104)의 소프트웨어 상태(예컨대, 실행중인 프로세스들, 설치된 애플리케이션들, 과거 및 현재 네트워크 활동들, 백그라운드 서비스들, 에러 로그들, 리소스 사용량 등)와 연관된 정보를 추가로 포함할 수 있다. 상황 정보는 연결된 디바이스 또는 사용자와 연관된 다른 디바이스의 상태와 연관된 정보(예를 들어, 사용자 디바이스(102) 상에 표시된 콘텐츠, 사용자 디바이스(102) 상의 재생가능한 콘텐츠 등)를 추가로 포함할 수 있다. 이러한 유형들의 상황 정보 중 임의의 상황 정보가 사용자 입력과 연관된 상황 정보로서 가상 어시스턴트 서버(114)에 제공(또는 텔레비전 셋톱 박스(104) 자체 상에서 사용)될 수 있다.
일부 예들에서, 가상 어시스턴트 클라이언트 모듈(364)은 가상 어시스턴트 서버(114)로부터의 요청에 응답하여 텔레비전 셋톱 박스(104)에 저장된 정보(예를 들어, 사용자 데이터(366))를 선택적으로 제공할 수 있다(또는 스피치 인식 및/또는 가상 어시스턴트 기능을 실행하는 데 텔레비전 셋톱 박스(104) 자체에서 사용될 수 있음). 가상 어시스턴트 클라이언트 모듈(364)은 또한 가상 어시스턴트 서버(114)에 의한 요청에 따라 자연 언어 대화 또는 기타 사용자 인터페이스들을 통해 사용자로부터 추가 입력을 이끌어낼 수 있다. 가상 어시스턴트 클라이언트 모듈(364)은 가상 어시스턴트 서버(114)에 추가 입력을 전달하여, 사용자 요청에서 표현되는 사용자의 의도의 의도 추론 및/또는 이행 시에 가상 어시스턴트 서버(114)를 도울 수 있다.
다양한 예에서, 메모리(350)는 추가 명령어들 또는 더 적은 명령어들을 포함할 수 있다. 더욱이, 텔레비전 셋톱 박스(104)의 다양한 기능들은 하나 이상의 신호 처리 및/또는 주문형 집적 회로들을 비롯한 하드웨어 및/또는 펌웨어로 구현될 수 있다.
시스템(100) 및 시스템(300)은 도 1 및 도 3에 도시된 컴포넌트 및 구성에 제한되지 않으며, 사용자 디바이스(102), 텔레비전 셋톱 박스(104), 및 원격 제어부(106)는 마찬가지로 도 2 및 도 3에 도시된 컴포넌트 및 구성에 제한되지 않는다는 것을 이해해야 한다. 시스템(100), 시스템(300), 사용자 디바이스(102), 텔레비전 셋톱 박스(104), 및 원격 제어부(106)는 모두 다양한 예에 따라 다수의 구성에서 더 적은 또는 다른 컴포넌트들을 포함할 수 있다.
본 명세서 전반에 걸쳐, "시스템"에 대한 언급은 시스템(100), 시스템(300), 또는 시스템(100) 또는 시스템(300)의 하나 이상의 요소를 포함할 수 있다. 예를 들어, 본 명세서에 언급된 전형적인 시스템은 원격 제어부(106) 및/또는 사용자 디바이스(102)로부터 사용자 입력을 수신하는 텔레비전 셋톱 박스(104)를 포함할 수 있다.
일부 예들에서, 가상 어시스턴트 질의는 특정 시간에 큐된 특정 미디어에 대한 요청들을 포함할 수 있다. 예를 들어, 사용자는 경기에서 특정 플레이, 쇼 중 특정 공연, 영화의 특정 장면 등을 보고 싶어할 수 있다. 이러한 질의를 처리하기 위해, 가상 어시스턴트 시스템은 질의와 연관된 사용자 의도를 결정하고, 질의에 응답하는 관련 미디어를 식별하며, 사용자의 요청에 따라 적절한 시간에 재생을 위해 미디어를 큐할 수 있다(예를 들어, 누군가가 골을 넣기 바로 전에 재생을 시작하도록 경기를 큐하는 것). 상세한 미디어 정보는 다양한 미디어 관련 질의를 지원하기 위해 가상 어시스턴트의 지식 기반에 통합될 수 있다. 예를 들어, 상세한 미디어 정보는 특정 미디어 질의를 지원하기 위해 시스템(100)의 가상 어시스턴트 서버(114)의 데이터 및 모델(120)에 통합될 수 있다. 일부 예들에서, 상세한 미디어 정보는 또한 시스템(100)의 외부 서비스(124)로부터 획득될 수 있다.
그러나, 관련 사용자 요청을 처리할 수 있는 응답 시스템은 실시간 또는 거의 실시간 미디어 데이터를 가상 어시스턴트 지식에 통합하는 것을 포함할 수 있다. 예를 들어, 라이브 스포츠 이벤트는 사용자가 보기를 원할 수 있는 매우 다양한 관심 지점을 포함할 수 있다. 또한, 사용자가 현재 시청하고 있는 비디오는 사용자가 질의에서 언급할 수 있는 많은 관심 지점을 포함할 수 있다. 유사하게, 텔레비전 프로그램은, 사용자가 재생을 위해 큐하거나 친구와 공유하도록 식별하기를 원할 수 있다는 인기 장면, 특별 게스트 출연, 널리 논의되는 순간 등을 포함할 수 있다. 다양한 다른 미디어 콘텐츠는 마찬가지로 사용자에 대한 관련 관심 지점(예를 들어, 음악, 웹 기반 비디오 클립 등)을 포함할 수 있다. 그러므로, 상세하고 시기적절한 미디어 데이터는, 콘텐츠 및 미디어 관련 정보에 대한 심지어 거의 실시간 요청들을 포함하는, 미디어와 연관된 다양한 사용자 요청을 지원하기 위해 본 명세서에서 다양한 예에 따라 가상 어시스턴트 지식에 통합될 수 있다.
도 4는, 상세한 그리고/또는 시기적절한 미디어 데이터를 통합하는 것을 포함하는, 다양한 예에 따른 미디어 재생의 음성 제어를 위한 예시적인 프로세스(400)를 도시한다. 블록(402)에서, 미디어 스트림 내의 시간들과 연관된 이벤트들을 포함하는 데이터 피드가 수신될 수 있다. 데이터 피드는 다양한 상이한 형태들 중 임의의 형태로 그리고 다양한 상이한 소스들로부터 수신될 수 있다. 예를 들어, 데이터 피드는 특정 미디어 내의 이벤트들 및 시간들을 상관시키는 테이블, 시간이 이벤트와 상관되는 데이터베이스, 특정 미디어 내의 이벤트들 및 시간들을 연관시키는 텍스트 파일, 이벤트 요청에 응답하여 시간을 제공하는 정보 서버 등을 포함할 수 있다. 데이터 피드는 시스템(100)의 외부 서비스(124)와 같은 다양한 상이한 소스로부터 올 수 있다. 일부 예들에서, 데이터 피드는 상세한 스포츠 이벤트 정보를 제공하는 스포츠 리그, 상세한 비디오 및 장면 정보를 제공하는 비디오 제공자, 다수의 스포츠 데이터 소스로부터 취출하는 스포츠 데이터 애그리게이터(aggregator) 등과 같은 특정 미디어와 연관된 조직들에 의해 제공될 수 있다. 다른 예들에서, 데이터 피드는 배우 외모, 폐쇄 자막 텍스트, 장면 변경 등을 분석하는 것과 같은 미디어 콘텐츠를 분석하는 것으로부터 획득될 수 있다. 또 다른 예에서, 데이터 피드는 대중적으로 논의되는 쇼의 순간, 경기에서 자주 언급된 이벤트 등과 같은 소셜 미디어로부터 획득될 수 있다. 따라서, 본 명세서에서 사용되는 바와 같은 데이터 피드라는 용어는 미디어 자체에서 마이닝할 수 있는 데이터를 비롯한 다양한 형태로 매우 다양한 데이터를 지칭할 수 있다.
도 5는 미디어 스트림(512) 내의 이벤트를 미디어 스트림 내의 특정 시간(514)과 연관시키는 예시적인 데이터 피드(510)를 도시한다. 도 5는 설명의 목적으로 제공되며, 데이터 피드(510)는 다양한 다른 형태(예를 들어, 텍스트 파일, 테이블 파일, 정보제공형 서버 데이터, 데이터베이스, 메시지, 정보제공형 피드 등)를 취할 수 있음을 이해해야 한다. 미디어 스트림(512)은 스포츠 이벤트, 비디오, 텔레비전 프로그램, 음악 등과 같은 임의의 유형의 재생가능한 미디어를 포함할 수 있다. 도 5의 예에서, 미디어 스트림(512)은 방영된 아이스하키 경기를 포함할 수 있다. 특정 미디어의 개요 정보 또는 다른 서술적 상세 사항은 특정 시간과 연관이 있는지 여부에 관계없이 데이터 피드(510)에 포함될 수 있다(예를 들어, 헤더 등에 포함될 수 있음). 도시된 예에서, 미디어 제목(예를 들어, "아이스하키 경기"), 미디어 설명("빙상 경기장에서 A 팀 대 B 팀"), 및 미디어 소스(예를 들어, "채널 7"에서 방영됨)를 포함하는 서술적 개요 정보는 5:01(UTC)의 제1 블록에 제공된다. 다른 다양한 서술적 정보가 유사하게 제공될 수 있고, 정보는 참조를 위해 특정 필드에 제공될 수 있다(예를 들어, 제목 필드는 제목을 포함할 수 있고, 소스 필드는 텔레비전 채널 또는 인터넷 주소를 포함할 수 있고, 기타 등등). 도 5에 도시된 정보에 부가하여, 경기에서 뛰고 있는 팀의 선수들의 명단, 에피소드에 출현하는 배우들의 목록, 제작자, 감독, 아티스트 등과 같은 다양한 다른 미디어 정보가 또한 획득될 수 있다. 다양한 개요 및 서술적 정보는 모두 가상 어시스턴트 지식에 통합될 수 있으며 관련 질의를 지원하는 데 사용될 수 있다.
도시된 바와 같이, 데이터 피드(510)는 미디어 스트림 시간들(514)과 상관된 미디어 스트림 이벤트들(516)을 포함할 수 있다. 미디어 스트림 시간들(514)은 협정 세계시(Coordinated Universal Time; 약칭 "UTC"), 사용자에 대한 로컬 시간, 가상 어시스턴트 서버에서의 시간, 미디어 서버에서의 시간, 미디어의 소스(예컨대, 스포츠 경기장)에서의 시간, 또는 다양한 다른 시간대를 포함하는 다양한 상이한 방식으로 지정될 수 있다. 다른 예들에서, 미디어 스트림 시간들(514)은 미디어 콘텐츠의 시작으로부터(예를 들어, 영화, 에피소드, 스포츠 이벤트, 오디오 트랙 등의 시작으로부터)의 오프셋으로서 제공될 수 있다. 또 다른 예들에서, 미디어 스트림 시간들(514)은 경기 클럭 시간들 등으로 제공될 수 있다. 다양한 예 중 임의의 예에서, 미디어 스트림 시간들(514)은 초, 밀리 초, 또는 심지어 더 미세한 그러데이션(gradation)과 같은 정확한 시간 지정을 포함할 수 있음을 이해해야 한다. 참조를 용이하게 하기 위해, 본 명세서에서 미디어 스트림 시간(514)의 예들은 UTC 시간 및 분 지정으로 제공되지만, 밀리 초 또는 더 미세한 그러데이션을 사용할 수 있는 것과 같이 초가 일반적으로 사용될 수 있다.
미디어 스트림 이벤트(516)는 미디어 스트림(512)에서 매우 다양한 이벤트 또는 관심 지점을 포함할 수 있다. 예를 들어, 스포츠 이벤트에서, 미디어 스트림 이벤트(516)는 경기, 페널티, 골, 경기 세그먼트 분할(예컨대, 피리어드, 쿼터, 하프 등), 경기 출현(예컨대, 타석에서의 선수, 빙상에서의 선수, 쿼터백으로서의 선수, 필드에서의 키커 등) 등을 포함할 수 있다. 텔레비전 프로그램(예를 들어, 시트콤, 토크 쇼 등)에서, 미디어 스트림 이벤트(516)는 제목 시퀀스, 캐릭터 출현, 배우 출현(예를 들어, 온-스크린 시간 지정), 프로그램 줄거리 내의 이벤트(예를 들어, 특정 장면), 게스트 출현, 게스트 퍼포먼스, 독백, 광고 시간 등을 포함할 수 있다. 시상식 쇼(예를 들어, 영화 시상식, 극장 시상식 등)에서, 미디어 스트림 이벤트(516)는 독백, 시상 발표, 수상 소감, 아티스트 공연, 광고 시간 등을 포함할 수 있다. 라디오 프로그램에서, 미디어 스트림 이벤트(516)는 개회사, 초청 연사, 토론 주제 등을 포함할 수 있다. 그러므로, 매우 다양한 이벤트 또는 관심 지점이 매우 다양한 미디어 유형 중 임의의 미디어 유형으로 식별될 수 있고 이러한 이벤트는 미디어 내의 특정 시간들과 연관될 수 있음을 이해해야 한다.
다른 예들에서, 관심 지점 또는 이벤트는 소셜 미디어, 대중 의견, 투표 등에 기초하여 식별될 수 있다. 예를 들어, 특정 미디어(예컨대, 라이브 스포츠 이벤트)와 연관된 소셜 미디어 네트워크에 대한 인기있는 댓글은 관심 지점 및 대략적인 출현 시간(예컨대, 주제에 대한 제1 댓글 직전)을 식별하는 데 사용될 수 있다. 다른 예에서, 시청자들은 미디어 내에 시간들을 표시함으로써(예를 들어, 원격 상의 버튼, 구어 요청, 가상 버튼 등을 사용하여) 관심 지점을 나타낼 수 있다. 또 다른 예들에서, 관심 지점은 미디어 스트림의 특정 부분에서 비디오 클립을 공유하는 것과 같이 다른 사람들과 미디어를 공유하는 사용자로부터 식별될 수 있다. 따라서, 데이터 피드(510) 내의 미디어 스트림 이벤트(516)는 미디어 제공자, 사용자, 소셜 네트워크 토론, 및 다양한 다른 소스로부터 식별될 수 있다.
도 5의 예에서, 데이터 피드(510)는 아이스하키 경기에서 이벤트와 연관된 미디어 스트림 이벤트(516)를 포함할 수 있다. 예를 들어, 경기의 제1 피리어드를 시작하는 퍽 드롭이 5:07(UTC)에 발생했을 수 있고, 데이터 피드(510)는 그 이벤트에 대한 특정 미디어 스트림 시간(514)에서 관련 미디어 스트림 이벤트(516)를 포함할 수 있다. 5:18(UTC)에서, 선수 Z에 돌진하는 것에 대하여 선수 X에게 페널티가 부과되고, 그 결과 2분 페널티가 부과되었을 수 있다. 페널티의 상세 사항(예를 들어, 페널티 유형, 관련된 선수들, 페널티 시간 등)은 그 특정 미디어 스트림 시간(514)에서 페널티와 연관된 미디어 스트림 이벤트(516)에 포함될 수 있다. 5:19(UTC)에서, A 팀에 대해 파워플레이가 시작되었을 수 있고, 특정 미디어 스트림 시간(514)을 갖는 파워플레이의 시작과 연관될 수 있는 미디어 스트림 이벤트(516)가 포함될 수 있다. 도시된 바와 같이, 다양한 다른 미디어 스트림 이벤트(516)가 마찬가지로 포함되고 특정 미디어 스트림 시간(514)과 연관될 수 있다. 다양한 이벤트에 대한 상세 사항은 다를 수 있으며, 일부 또는 모든 정보는 가상 어시스턴트 지식에 통합될 수 있다. 예를 들어, 골의 상세 사항은 골에 기여한 선수 및 어시스트하는 모든 선수들을 포함할 수 있다. 파워플레이의 종료에 대한 상세 사항은 파워플레이에 열세인 팀 상태 및 전원 복귀한 팀에 대한 정보를 식별하는 것을 포함할 수 있다. 온-스크린 선수의 상세 사항은 스크린 상의 선수의 좌표 위치를 포함할 수 있다. 또한, 미디어 스트림 이벤트들(516)은 5:31(UTC)에서 발생하는 제1 피리어드의 종료와 같은 경기에 대한 시간 세그먼트 지정을 포함할 수 있다.
다른 예들에서, 추가적인 상세한 정보를 갖는 다양한 다른 미디어 스트림 이벤트들(516)은 데이터 피드(510)에 포함될 수 있고/있거나 미디어 스트림(512) 자체로부터 결정될 수 있다. 예를 들어, 빙상 위의 선수들은 미디어 스트림 시간(514)과 연관될 수 있고, 점수의 변화는 미디어 스트림 시간(514)과 연관될 수 있고, 경기 중 중단은 미디어 스트림 시간(514)과 연관될 수 있고, 빙상 위의 싸움 및 싸움 참가자들은 미디어 스트림 시간들(514)과 연관될 수 있고, 기타 등등일 수 있다. 또한, 다양한 다른 상세 사항이 특정 이벤트에 포함될 수 있거나 다양한 통계, 선수 정보, 참가자 정보(예를 들어, 심판, 코치 등), 경기 세그먼트 지정자 등과 같은 미디어 스트림과 연관될 수 있다. 이러한 방식으로, 데이터 피드(510)는 다양한 시간(514)에서 미디어 스트림(512)에서 발생하는 다양한 이벤트(516)의 상세한 텍스트 설명을 포함할 수 있다.
미디어 스트림 이벤트(516) 및 미디어 스트림 시간(514)의 지식을 가상 어시스턴트의 지식 베이스에 통합하기 위해 미디어 스트림(512)이 수신될 필요는 없다는 것을 이해해야 한다. 일부 예들에서, 미디어 스트림(512)이 없으면, 데이터 피드(510)의 정보는 정보를 가상 어시스턴트 지식에(예를 들어, 데이터 및 모델들(120)에) 통합하기 위해 가상 어시스턴트 서버(114)에 의해 수신될 수 있다. 한편, 미디어 스트림(512)은 사용자 디바이스(102), 텔레비전 셋톱 박스(104), 또는 다른 사용자 디바이스에 직접 제공될 수 있다. 아래에서 논의되는 바와 같이, 일부 예들에서, 미디어 이벤트(516)의 가상 어시스턴트 지식은 사용자 디바이스들 상의(예를 들어, 사용자 디바이스(102), 텔레비전 셋톱 박스(104) 등 상의) 미디어 스트림(512)의 재생을 큐할 뿐만 아니라 다른 가상 어시스턴트 질의에 응답하는 데 사용될 수 있다. 다른 예들에서, 미디어 스트림(512), 미디어 스트림(512)의 부분들, 및/또는 미디어 스트림(512)과 연관된 메타데이터는 가상 어시스턴트 서버(114)에 의해 수신되고 가상 어시스턴트의 지식 베이스에 통합될 수 있다.
도 4의 프로세스(400)를 다시 참조하면, 블록(404)에서, 미디어 스트림의 이벤트와 연관된 구어 사용자 요청이 수신될 수 있다. 위에서 논의된 바와 같이, 스피치 입력은 다양한 방식으로, 예컨대 사용자 디바이스(102), 원격 제어부(106), 또는 시스템(100)의 다른 사용자 디바이스를 통해 사용자로부터 수신될 수 있다. 가상 어시스턴트로 지향된 스피치 입력은 미디어 및/또는 특정 미디어 내의 이벤트와 연관된 요청을 포함하는 다양한 사용자 요청을 포함할 수 있다. 예를 들어, 사용자 요청은 도 5에 도시된 아이스하키 경기 이벤트와 연관된 질의와 같이, 본 명세서에서 논의된 미디어 스트림 이벤트들(516) 중 임의의 이벤트에 대한 언급을 포함할 수 있다. 일부 예들에서, 사용자 요청들은 특정 관심 지점에 대한 미디어를 큐하라는 요청들을 포함할 수 있다. 예를 들어, 사용자는 아이스하키 경기에서 싸우는 것을 보거나(예를 들어, "선수 Y와 선수 Q 사이의 싸움을 보여줘"), 피리어드의 시작으로 점프(jump)하거나(예를 들어, "제1 피리어드 퍽 드롭으로 점프해"), 골을 시청하거나(예를 들어, "선수 M의 골을 보여줘"), 무엇이 특정 페널티를 초래했는지를 보여달라는(예를 들어, "선수 X에 대한 돌진 페널티를 보여줘") 등의 요청을 할 수 있다.
도 4의 프로세스(400)를 다시 참조하면, 블록(406)에서, 미디어 스트림의 재생은 사용자 요청의 이벤트와 연관된 미디어 스트림 내의 시간에서 시작되도록 야기될 수 있다. 예를 들어, 데이터 피드(510)로부터의 가상 어시스턴트 지식 베이스에 통합된 지식은 특정 콘텐츠에 대한 사용자의 요청과 연관된 미디어 스트림 내의 특정 시간을 결정하는 데 사용될 수 있다. 도 6은 질의에 응답가능한 미디어 스트림 내의 이벤트에 기초한 비디오 재생을 큐하는 것의 예시적인 가상 어시스턴트 질의 응답을 도시한다. 도시된 예에서, 사용자는 텔레비전 셋톱 박스(104)에 의해 제어되는 콘텐츠를 갖는 디스플레이(112)를 보고 있을 수 있다. 사용자는 위에서 논의된 데이터 피드(510)와 연관된 아이스하키 경기를 포함할 수 있는 비디오(620)를 보고 있을 수 있다. 프로세스(400)의 블록(404)을 참조하여 논의된 바와 같이, 사용자는 이어서 이벤트와 연관된 특정 미디어 콘텐츠를 시청하라고 요청할 수 있다. 예를 들어, 사용자는 골을 보여달라는 요청을 할 수 있다(예를 들어, "골을 다시 보여줘", "선수 M의 골을 보여줘", "A 팀의 골을 보여줘", "제1 피리어드의 골을 보여줘", "A/B 하키 경기의 제1 골을 보여줘", "마지막 골을 다시 보여줘" 등).
사용자의 요청에 응답하여, 사용자의 요청에 응답하는 미디어 스트림 내의(예를 들어, 비디오(620) 내의) 특정 시간이 결정될 수 있다. 이 예에서, 도 5의 데이터 피드(510)로부터의 가상 어시스턴트의 지식 베이스에 통합된 지식을 사용하여, 시스템은 도 5에 도시된 바와 같이 5:21(UTC)에서 선수 Q가 어시스트한 선수 M의 A 팀 골을 식별할 수 있다. 이어서, 시스템은 비디오(620)가 적절한 시간으로 타임-시프팅하여 원하는 콘텐츠를 보여주게 할 수 있다. 이 예에서, 시스템은 재생 표시자(622) 상에 나타난 큐된 시간(624)에서 재생을 시작하기 위해 비디오(620)를 타임-시프팅할 수 있다. 도시된 바와 같이, 큐된 시간(624)은 라이브 시간(626)과 다를 수 있다(예를 들어, 라이브 방영되거나 그렇지 않으면 라이브 배포된 콘텐츠의 스트림과 연관된 시간). 일부 예들에서, 큐된 시간(624)은 대응하는 미디어 스트림 이벤트(516)와 연관된 미디어 스트림 시간(514)에 대응할 수 있다. 다른 예들에서, 큐된 시간(624)은 미디어 스트림 이벤트(516)가 미디어 스트림 시간(514)과 연관되는 방법에 따라 미디어 스트림 시간(514)보다 일찍 또는 나중에 시프팅될 수 있다. 예를 들어, 큐된 시간(624)은 골을 넣기 직전의 플레이를 캡처하기 위해 대응하는 미디어 스트림 시간(514) 전에 30초, 1분, 2분, 또는 다른 양일 수 있다. 일부 예들에서, 데이터 피드(510)는 특정 이벤트의 재생이 시작되어야 하는 정확한 시간 지정을 포함할 수 있다(예를 들어, 하키 선수가 최종 골을 위해 드라이브를 시작한 시기를 지정하고, 페널티 행위가 언제 처음으로 보여졌는지 등을 지정하는 것 등). 따라서, 비디오(620)는 사용자의 가상 어시스턴트 요청에 응답하여 큐된 시간(624)에서 시작하는 사용자에 대해 재생될 수 있다.
일부 예들에서, 비디오(620)는 디스플레이(112) 상에 보여지는 다른 비디오를 대체할 수 있거나, 그렇지 않으면 사용자의 요청에 응답하여 재생을 위해 검색될 수 있다. 예를 들어, 다른 콘텐츠를 보는 사용자는 다른 채널의 하키 경기에서 득점한 마지막 골을 보여달라는 요청을 발화할 수 있다(예를 들어, "채널 7의 하키 경기에서 마지막 골을 보여줘", "A/B 하키 경기의 마지막 골을 보여줘", "빙상 경기장 경기의 첫 골을 보여줘" 등). 위에서 논의된 바와 같이, 사용자의 요청이 특정 미디어로 해결될 수 없는 경우, 가상 어시스턴트는 필요에 따라 추가 정보 또는 확인을 촉구할 수 있다(예를 들어, "채널 7에서 보여주는 빙상 경기장에서의 A 팀 대 B 팀의 아이스하키 경기를 말씀하시는 겁니까?"). 요청이 특정 콘텐츠로 해결되면, 텔레비전 셋톱 박스(104)는 재생을 위해 비디오(620)를 검색하고 그것을 큐된 시간(624)으로 큐할 수 있다. 비디오(620)는 사용자 디바이스(102) 또는 임의의 다른 디바이스 상에서 재생될 수 있고, 가상 어시스턴트는 유사하게 사용자 디바이스(102) 또는 다른 디바이스 상의 큐된 시간(624)에 비디오(620)를 큐할 수 있음을 이해해야 한다(예를 들어, 특정 사용자 커맨드에 기초하여, 사용자가 그 상에서 비디오(620)를 시청하고 있는 디바이스에 기초하여, 사용자 요청의 소스에 기초하여 등).
일부 예들에서, 가상 어시스턴트로 지향된 사용자 요청은 텔레비전 셋톱 박스(104)에 의해 디스플레이(112) 상에 보여지거나 사용자 디바이스(102)의 터치스크린(246) 상에 보여지는 무언가에 대한 모호한 언급을 포함할 수 있다. 예를 들어, 도 6의 디스플레이(112) 상에 보여지는 비디오(620)에 관한 요청은 온-스크린 선수(628) 또는 온-스크린 선수(630)에 대한 모호한 언급을 포함할 수 있다. 사용자가 묻거나 언급하고 있는 특정 선수는 스피치 입력만으로는 불분명할 수 있다. 다른 예에서, 사용자 요청들은 그렇지 않으면 스피치 입력만으로 모호할 다른 언급을 포함할 수 있다. 예를 들어, 팀 선수 명단을 보여달라는 요청은 사용자가 특정 팀과의 특정 경기를 시청하고 있음을 아는 것 없이는 모호해질 수 있고, 다음 골을 보여달라는 요청은 사용자가 특정 경기를 시청하고 있음을 아는 것 없이는 모호해질 수 있고, 기타 등등이 있을 수 있다. 따라서, 디스플레이(112) 상에 보여지는 콘텐츠 및 관련 메타데이터(예를 들어, 데이터 피드(510) 또는 기타로부터)는 사용자 요청을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 예를 들어, 온-스크린 배우, 온-스크린 선수, 경기 참가자들의 목록, 쇼의 배우들의 목록, 팀 선수 명단 등은 사용자 요청을 해석하는 데 사용될 수 있다.
도시된 예에서, 디스플레이(112) 상에 보여지는 콘텐츠 및 관련 메타데이터는 "골키퍼", "그 선수", "8번 선수", "그", "M", 별명에 대한 언급, 또는 특정 경기 및/또는 특정 온-스크린 선수와 관련된 임의의 다른 언급으로부터 사용자 의도를 결정하는 데 사용될 수 있다. 예를 들어, 전술한 바와 같이, 데이터 피드(510)는 특정 시간에 어떤 선수가 스크린 상에 출현하는지, 어떤 선수가 특정 이벤트에 관여하는지, 어떤 선수가 특정 시간에 얼음 위에 있는지 등의 지시(indication)를 포함할 수 있다. 예를 들어, 도 6과 연관된 시간에서, 데이터 피드(510)로부터 가상 어시스턴트 지식 베이스에 통합된 지식은 선수 M(예를 들어, 온-스크린 선수(628))과 골키퍼(예를 들어, 온-스크린 선수(630))가 특정 시간에 스크린 상에, 그 시간 근처에 빙상 위에, 그 경기에서 뛰고 있는, 또는 적어도 그 특정 시간에 스크린 상에 있거나 관련이 있을 가능성이 있음을 나타낼 수 있다. 이어서, "골키퍼", "그 선수", "8번", "그", "M", 별명 등을 언급하는 요청은 그 정보에 기초하여 명확해질 수 있다.
예를 들어, "골키퍼"의 마지막 방어를 보여달라는 요청(예를 들어, "골키퍼의 마지막 방어를 보여줘")은 온-스크린 선수(630)에 대응하는 특정 골키퍼(교체선수 또는 다른 팀의 골키퍼와 대조적으로)로 해결될 수 있고, 그의 이름 또는 다른 식별 정보는 사용자의 질의(예를 들어, 현재 경기에서의 그 특정 골키퍼에 의한 가장 최근 방어, 이전 경기에서의 그 특정 골키퍼에 의한 마지막 방어 등)에 응답하여 콘텐츠를 식별하는 데 사용될 수 있다. 다른 예에서, "8번의" 다음 골을 보여달라는 요청(예를 들어, "8번의 다음 골을 보여줘")은 데이터 피드(510) 및 관련 메타데이터에 기초하여 번호 8이나 별명이 8인 특정 선수(예컨대, 온-스크린 선수(628))로 해결될 수 있다. 이어서, 질의에 응답하는 콘텐츠는 "8"에 대응하는 선수의 식별 정보에 기초하여 식별될 수 있다(예를 들어, 이 경기에서의 선수 M의 다음 골, 후속 경기에서의 선수 M의 다음 골 등) 다른 예들에서, 디스플레이(112) 상에 또는 사용자 디바이스(102) 상에 보여지는 콘텐츠는 다른 방식들로 사용자 요청을 해석하도록 분석될 수 있다. 예를 들어, 얼굴 인식, 이미지 인식(유니폼 번호를 인식) 등은 온-스크린 선수들(628, 630)을 식별하여 관련 사용자 요청들을 해석하는 데 사용될 수 있다. 사용자 요청들에 대한 응답은 정보제공형 응답 및/또는 미디어 콘텐츠 응답을 포함할 수 있고, 응답은 임의의 디바이스(예를 들어, 디스플레이(112), 터치스크린(246) 등) 상에 표시될 수 있음을 이해해야 한다.
다양한 예가 본 명세서에 제공되었지만, 사용자는 다양한 상이한 방식으로 선수(뿐만 아니라 배우, 캐릭터 등)에 대해 언급할 수 있으며, 이들 모두는 본 명세서에서 논의된 예들에 따라 명확해질 수 있음을 이해해야 한다. 예를 들어, 사용자들은 이름(예컨대, 이름, 성, 이름 전체, 별명 등), 번호, 위치, 팀, 뎁스 차트(depth chart)(예컨대, "두번째 스트링 QB"), 경기-특정 식별자들(예컨대, 스타터, 교체자, 릴리버, 클로저 등), 경험 연수(예컨대, 신인, 신입생, 2학년 등), 팀 지정들(예컨대, 주장, 대체 주장 등), 경기 플레이 스타일(예컨대, 엔포서, 스피디 등), 전 팀, 대학(예컨대, "Q 대학의 QB"), 통계 정보(예컨대, "해트트릭을 기록한 선수의 싸움", "팀의 최다 득점자의 패널티" 등), 신상 정보(예컨대, "명예의 전당 O의 아들", "웨스트 버지니아 출신의 투수가 다음 타석에" 등), 신체적 외관(예컨대, 키가 큰, 키가 작은, 피부색, 옷 등), 후원자(예컨대, "하드웨어 스토어 차의 충돌") 등을 언급할 수 있다.
다른 예들에서, 가상 어시스턴트로 지향된 사용자 요청은 텔레비전 셋톱 박스(104)에 의해 디스플레이(112) 상에 보여지거나 사용자 디바이스(102)의 터치스크린(246) 상에 보여지는 무언가의 현재 재생 위치에 기초한 모호한 언급을 포함할 수 있다. 예를 들어, 사용자는 "다음" 골, "이전" 페널티, "다음" 광고, "마지막" 공연, "다음" 배우 출현 등을 언급할 수 있다. 사용자 의도(예를 들어, 원하는 특정 콘텐츠)는 스피치 입력만으로는 불분명할 수 있다. 그러나, 일부 예들에서, 미디어 스트림 내의 현재 재생 위치는 사용자 요청들을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다. 예를 들어, 현재 재생 위치를 나타내는 미디어 스트림 시간은 가상 어시스턴트 시스템에 전송되고 사용되어 사용자 요청을 해석할 수 있다.
도 7은 (예를 들어, 사용자 요청을 명확하게 하고 사용자 의도를 결정하기 위해) 사용자 질의를 해석하는 데 사용될 수 있는 현재 재생 위치(732)의 전후에 출현하는 예시적인 미디어 스트림 이벤트(516)를 갖는 미디어 스트림(512)을 도시한다. 도시된 바와 같이, 라이브 시간(626)은 현재 재생 위치(732)보다 늦을 수 있으며, 일부 예들에서, 미디어 스트림(512)은 더 이상 라이브가 아닌 콘텐츠의 녹화를 포함할 수 있다. 도시된 바와 같이 현재 재생 위치(732)가 주어지면, "다음" 및 "이전" 이벤트와 같은 미디어 스트림 이벤트(516)에 대한 다양한 언급이 해석될 수 있다. 예를 들어, 이전 또는 마지막 골을 보여달라는 사용자 요청(예를 들어, "마지막 골을 보여줘")은 스피치 입력에만 기초하여 모호할 수 있지만, 현재 재생 위치(732)는 사용자 요청을 해석하고(예를 들어, "마지막"이라는 언급을 해결), 이전 골(734)을 원하는 미디어 스트림 이벤트(516)로서 식별하는 데 사용될 수 있다. 다른 예에서, 다음 페널티를 보여달라는 사용자 요청(예를 들어, "다음 페널티를 보여줘")은 스피치 입력에만 기초하여 모호할 수 있지만, 현재 재생 위치(732)는 사용자 요청을 해석하고(예를 들어, "다음"이라는 언급을 해결), 다음 페널티(738)를 원하는 미디어 스트림 이벤트(516)로서 식별하는 데 사용될 수 있다. 현재 재생 위치(732)는 유사한 방식으로 이전 페널티(736) 및 다음 골(740)에 대한 요청을 해석하는 데 사용될 수 있을뿐만 아니라, 다양한 다른 위치 언급(예컨대, 다음 2개, 마지막 3개 등)을 해석하는 데 사용될 수 있다.
도 8은 미디어 스트림(812) 내의 이벤트를 미디어 스트림 내의 특정 시간(514)과 연관시키는 예시적인 데이터 피드(810)를 도시한다. 데이터 피드(810)는 위에서 논의된 데이터 피드(510)와 유사한 특징을 포함할 수 있고, 데이터 피드(810)는 블록(402)에서 유사하게 수신될 수 있고 위에서 논의된 프로세스(400)의 블록(406)에서 미디어의 재생을 야기하는 데 사용될 수 있다. 도 8의 예에서, 미디어 스트림(812)은 방영된 시상식 쇼를 포함할 수 있다. 다른 예들에서, 유사한 미디어 스트림은 인터넷 기반 시상식 쇼, 라디오 프로그램 쇼, 버라이어티 쇼 등을 포함할 수 있다. 특정 미디어의 개요 정보 또는 다른 서술적 상세 사항은 특정 시간과 연관이 있는지 여부에 관계없이 데이터 피드(810)에 포함될 수 있다(예를 들어, 헤더 등에 포함될 수 있음). 도시된 예에서, 미디어 제목(예를 들어, "영화 시상식"), 미디어 설명("코미디언 휘트니 데이비슨이 주관하는 연례 영화 시상식"), 및 미디어 소스(예를 들어, "채널 31"에서 방영됨)를 포함하는 서술적 개요 정보가 10:59(UTC)에서 제1 블록에 제공된다. 다른 다양한 서술적 정보가 유사하게 제공될 수 있고, 정보는 참조를 위해 특정 필드에 제공될 수 있다(예를 들어, 제목 필드는 제목을 포함할 수 있고, 소스 필드는 텔레비전 채널 또는 인터넷 주소를 포함할 수 있고, 기타 등등). 도 8에 도시된 정보에 부가하여, 참여자 이름, 공연 설명, 주어진 상 등과 같은 다양한 다른 미디어 정보가 또한 획득될 수 있다. 다양한 개요 및 서술적 정보는 모두 가상 어시스턴트 지식에 통합될 수 있으며 관련 질의를 지원하는 데 사용될 수 있다.
도시된 바와 같이, 데이터 피드(810)는 미디어 스트림 시간들(514)과 상관되는 미디어 스트림 이벤트들(516)을 포함할 수 있으며, 이는 도 5를 참조하여 위에서 논의된 이벤트들(516) 및 시간들(514)과 유사할 수 있다. 데이터 피드(810) 내의 미디어 스트림 이벤트(516)는 미디어 스트림(812) 내에 매우 다양한 이벤트 또는 관심 지점을 포함할 수 있다. 미디어 스트림(812)과 같은 시상식 쇼(예를 들어, 영화 시상식, 극장 시상식 등)에서, 예를 들어, 미디어 스트림 이벤트(516)는 독백, 시상 발표, 수상 소감, 참가자 출현, 공연 설명, 광고 방송 등을 포함할 수 있다.
다른 예들에서, 관심 지점 또는 이벤트는 소셜 미디어, 대중 의견, 투표 등에 기초하여 식별될 수 있다. 예를 들어, 특정 미디어(예컨대, 라이브 시상식 쇼)와 연관된 소셜 미디어 네트워크에 대한 인기있는 댓글은 관심 지점 및 대략적인 출현 시간(예컨대, 주제에 대한 제1 댓글 직전)을 식별하는 데 사용될 수 있다. 다른 예에서, 시청자들은 미디어 내에 시간들을 표시함으로써(예를 들어, 원격 상의 버튼, 구어 요청, 가상 버튼 등을 사용하여) 관심 지점을 나타낼 수 있다. 또 다른 예들에서, 관심 지점은 미디어 스트림 내의 특정 부분에서 비디오 클립을 공유하는 것과 같이 다른 사람들과 미디어를 공유하는 사용자로부터 식별될 수 있다. 따라서, 데이터 피드(810) 내의 미디어 스트림 이벤트(516)는 미디어 제공자, 사용자, 소셜 네트워크 토론, 및 다양한 다른 소스로부터 식별될 수 있다.
도 8의 예에서, 데이터 피드(810)는 시상식 쇼에서 이벤트와 연관된 미디어 스트림 이벤트(516)를 포함할 수 있다. 예를 들어, 휘트니 데이비슨이라는 코미디언에 의한 오프닝 독백은 11:00(UTC)에 발생했을 수 있고, 데이터 피드(810)는 그 이벤트에 대한 특정 미디어 스트림 시간(514)에 관련 미디어 스트림 이벤트(516)를 포함할 수 있다. 11:08(UTC)에서, 수상자인 제니퍼 레인이라는 디자이너에게 제인 도우와 존 리차드라는 배우가 최고의 의상에 대한 디자인 상을 수여했을 수 있다. 시상 발표의 상세 사항(예를 들어, 상 명칭, 수여자, 수상자 등)은 특정 미디어 스트림 시간(514)에서 시상 발표와 연관된 미디어 스트림 이벤트(516)에 포함될 수 있다. 11:10(UTC)에서, 최고의 의상상 수상자가 연설을 했을 수 있고, 관련 상세 사항들(예를 들어, 수상 유형, 수상자, 연사 등)과 함께 그 시간에 미디어 스트림 이벤트(516)가 포함될 수 있다. 11:12(UTC)에서, "Unforgettable"이라는 제목의 음악 공연은 데이빗 홈즈라는 가수에 의해 수행될 수 있으며, 미디어 스트림 이벤트(516)는 대응하는 시간(514)에 관련 상세 사항과 함께 포함될 수 있다. 도시된 바와 같이, 다양한 다른 미디어 스트림 이벤트(516)가 마찬가지로 포함되고 특정 미디어 스트림 시간(514)과 연관될 수 있다. 다양한 이벤트에 대한 상세 사항은 다를 수 있으며, 일부 또는 모든 정보는 가상 어시스턴트 지식에 통합될 수 있다.
다른 예들에서, 추가적인 상세한 정보를 갖는 다양한 다른 미디어 스트림 이벤트들(516)은 데이터 피드(810)에 포함될 수 있고/있거나 미디어 스트림(812) 자체로부터 결정될 수 있다. 예를 들어, 스크린 상에 출현하는 배우들 또는 참가자들은 미디어 스트림 시간들(514)과 연관될 수 있다. 이러한 정보는 제공된 데이터로부터 도출될 수 있거나 미디어 스트림(812)을 분석함으로써 도출될 수 있다(예를 들어, 안면 인식 등을 사용하여). 또한, 다양한 다른 상세 사항들이 특정 이벤트에 포함될 수 있거나, 다양한 통계, 참가자 정보(예를 들어, 방청 회원, 제작자, 감독 등) 등과 같은 미디어 스트림과 연관될 수 있다. 이러한 방식으로, 데이터 피드(810)는 다양한 시간(514)에서 미디어 스트림(812)에서 발생하는 다양한 이벤트(516)의 상세한 텍스트 설명을 포함할 수 있다. 위에서 논의된 바와 같이, 이 정보는 가상 어시스턴트의 지식 베이스에 통합될 수 있고, 프로세스(400)의 블록(406)을 참조하여 위에서 논의된 바와 같이 사용자 요청에 따라 비디오를 큐하는 것과 같은 사용자 요청에 응답하는 데 사용될 수 있다.
도 9는 미디어 스트림(912) 내의 이벤트를 미디어 스트림 내의 특정 시간(514)과 연관시키는 예시적인 데이터 피드(910)를 도시한다. 데이터 피드(910)는 위에서 논의된 데이터 피드(510) 및 데이터 피드(810)와 유사한 특징을 포함할 수 있고, 데이터 피드(910)는 블록(402)에서 유사하게 수신되고 위에서 논의된 프로세스(400)의 블록(406)에서 미디어의 재생을 야기하는 데 사용될 수 있다. 도 9의 예에서, 미디어 스트림(912)은 시트콤과 같은 텔레비전 프로그램을 포함할 수 있다. 다른 예들에서, 유사한 미디어 스트림은 게임 쇼, 뉴스 쇼, 토크쇼, 버라이어티 쇼, 퀴즈 쇼, 가상 현실 쇼, 드라마, 연속극 등을 포함할 수 있다. 특정 미디어의 개요 정보 또는 다른 서술적 상세 사항은 특정 시간과 연관이 있는지 여부에 관계없이 데이터 피드(910)에 포함될 수 있다(예를 들어, 헤더 등에 포함될 수 있음). 도시된 예에서, 미디어 제목(예를 들어, "텔레비전 프로그램"), 미디어 설명(배우 제인 홈즈(캐릭터 A)와 데이비드 도우(캐릭터 B)가 나오는 시트콤), 및 미디어 소스(예컨대, 웹 소스로부터의 스트리밍)를 포함하는, 서술적 개요 정보가 14:00(UTC)에서 제1 블록에 제공된다. 다른 다양한 서술적 정보가 유사하게 제공될 수 있고, 정보는 참조를 위해 특정 필드에 제공될 수 있다(예를 들어, 제목 필드는 제목을 포함할 수 있고, 소스 필드는 텔레비전 채널 또는 인터넷 주소를 포함할 수 있고, 기타 등등). 도 9에 도시된 정보에 부가하여, 제작자, 감독, 주최자, 참가자 이름, 참가자 특성, 배우, 줄거리 설명, 게스트 등과 같은 다양한 다른 미디어 정보가 또한 획득될 수 있다. 다양한 개요 및 서술적 정보는 모두 가상 어시스턴트 지식에 통합될 수 있으며 관련 질의를 지원하는 데 사용될 수 있다.
도시된 바와 같이, 데이터 피드(910)는 미디어 스트림 시간들(514)과 상관된 미디어 스트림 이벤트들(516)을 포함할 수 있으며, 이는 도 5를 참조하여 위에서 논의된 이벤트들(516) 및 시간들(514)과 유사할 수 있다. 데이터 피드(910) 내의 미디어 스트림 이벤트(516)는 미디어 스트림(912) 내에 매우 다양한 이벤트 또는 관심 지점을 포함할 수 있다. 미디어 스트림(912)과 같은 텔레비전 프로그램(예를 들어, TV 에피소드, 뉴스 쇼, 토크 쇼 등)에서, 예를 들어, 미디어 스트림 이벤트(516)는 공연 설명(예를 들어, 장면 설명, 연기자 출연 등), 쇼 세그먼트 지정자들(예컨대, 독백, 샌드오프(sendoff), 제목 시퀀스, 게스트 출연, 보너스 라운드 등), 광고 시간 등을 포함할 수 있다.
다른 예들에서, 관심 지점 또는 이벤트는 소셜 미디어, 대중 의견, 투표 등에 기초하여 식별될 수 있다. 예를 들어, 특정 미디어(예컨대, 인기있는 시트콤의 새로운 에피소드, 야간 토크 쇼 등)와 연관된 소셜 미디어 네트워크에 대한 인기있는 댓글은 관심 지점 및 대략적인 출현 시간(예컨대, 대상에 대한 제1 댓글 직전)을 식별하는 데 사용될 수 있다. 다른 예에서, 시청자들은 미디어 내에 시간들을 표시함으로써(예를 들어, 원격 상의 버튼, 구어 요청, 가상 버튼 등을 사용하여) 관심 지점을 나타낼 수 있다. 또 다른 예들에서, 관심 지점은 미디어 스트림 내의 특정 부분에서 비디오 클립을 공유하는 것과 같이 다른 사람들과 미디어를 공유하는 사용자로부터 식별될 수 있다. 따라서, 데이터 피드(910) 내의 미디어 스트림 이벤트(516)는 미디어 제공자, 사용자, 소셜 네트워크 토론, 및 다양한 다른 소스로부터 식별될 수 있다.
도 9의 예에서, 데이터 피드(810)는 시트콤 TV 쇼에서 이벤트와 연관된 미디어 스트림 이벤트(516)를 포함할 수 있다. 예를 들어, 제목 시퀀스는 14:01(UTC)에 발생했을 수 있고, 데이터 피드(910)는 그 이벤트에 대한 특정 미디어 스트림 시간(514)에서 관련 미디어 스트림 이벤트(516)를 포함할 수 있다. 14:03(UTC)에서, 쇼의 줄거리에서, 2명의 캐릭터들은 주차 자리를 놓고 싸웠을 수도 있다. 줄거리에서의 장면 또는 순간의 상세 사항(예를 들어, 스크린 상의 캐릭터들, 스크린 상의 배우들, 일어나는 것에 대한 설명 등)은 특정 미디어 스트림 시간(514)에서의 시상 발표와 연관된 미디어 스트림 이벤트(516)에 포함될 수 있다. 14:06(UTC)에서, 게스트 시작은 쇼에 출현하고 노래를 불렀을 수 있으며, 미디어 스트림 이벤트(516)는 대응하는 시간(514)에 관련 상세 사항과 함께 포함될 수 있다. 도시된 바와 같이, 다양한 다른 미디어 스트림 이벤트(516)가 마찬가지로 포함되고 특정 미디어 스트림 시간(514)과 연관될 수 있다. 다양한 이벤트에 대한 상세 사항은 다를 수 있으며, 일부 또는 모든 정보는 가상 어시스턴트 지식에 통합될 수 있다.
다른 예들에서, 추가적인 상세한 정보를 갖는 다양한 다른 미디어 스트림 이벤트들(516)은 데이터 피드(910)에 포함될 수 있고/있거나 미디어 스트림(912) 자체로부터 결정될 수 있다. 예를 들어, 스크린 상에 출현하는 배우들 또는 참가자들은 미디어 스트림 시간들(514)과 연관될 수 있다. 이러한 정보는 제공된 데이터로부터 도출될 수 있거나 미디어 스트림(912)을 분석함으로써 도출될 수 있다(예를 들어, 안면 인식 등을 사용하여). 또한, 다양한 다른 상세 사항들이 특정 이벤트에 포함될 수 있거나, 다양한 통계, 참가자 정보(예를 들어, 방청 회원, 제작자, 감독 등) 등과 같은 미디어 스트림과 연관될 수 있다. 이러한 방식으로, 데이터 피드(910)는 다양한 시간(514)에서 미디어 스트림(912)에서 발생하는 다양한 이벤트(516)의 상세한 텍스트 설명을 포함할 수 있다. 위에서 논의된 바와 같이, 이 정보는 가상 어시스턴트의 지식 베이스에 통합될 수 있고, 프로세스(400)의 블록(406)을 참조하여 위에서 논의된 바와 같이 사용자 요청에 따라 비디오를 큐하는 것과 같은 사용자 요청에 응답하는 데 사용될 수 있다.
본 명세서에서 논의된 다양한 예 중 임의의 예에서, 추가 가상 어시스턴트 지식은 특정 미디어 콘텐츠와 연관된 폐쇄 자막 텍스트로부터 도출될 수 있다. 예를 들어, 본 명세서에서 논의된 데이터 피드들 중 임의의 데이터 피드에 대한 정보는 폐쇄 자막 텍스트에 의해 보완되거나 그로부터 도출될 수 있다. 추가 미디어 스트림 이벤트(516)는 미디어 재생 내의 특정 시간과 연관된 폐쇄 자막 텍스트에 기초하여 미디어 스트림 시간(514)에 추가될 수 있다(예를 들어, 특정 구절(particular phrase)이 말해졌을 때를 식별하는 것, 특정 캐릭터가 말하는 때를 식별하는 것 등). 또한, 폐쇄 자막 텍스트는 본 명세서에 논의된 다양한 예에 따라 사용자 요청들을 명확하게 하고 사용자 의도를 결정하는 데 사용될 수 있다(예를 들어, 말해진 이름들에 기초하여).
도 10은 가상 어시스턴트 질의에 응답하는 데 사용될 수 있는 비디오(1050) 내의 특정 시간과 연관된 예시적인 폐쇄 자막 텍스트(1054)를 도시한다. 도시된 예에서, 폐쇄 자막 인터페이스(1052)는 디스플레이(112) 상에 보여지는 비디오(1050)의 현재 재생 위치(1056)에서 폐쇄 자막 텍스트(1054)를 포함할 수 있다. 현재 재생 위치(1056)에서, 캐릭터들(1060, 1062, 1064)이 스크린 상에 출현할 수 있고, 그들 중 일부는 폐쇄 자막 텍스트(1054)로서 보여지는 텍스트를 말하고 있을 수 있다. 가상 어시스턴트 지식에 대한 정보를 도출 시에, 폐쇄 자막 텍스트(1054)는 현재 재생 위치(1056)와 상관될 수 있다. 일부 예들에서, 시간 오프셋(1058)은 기준으로서 사용될 수 있다(예를 들어, 폐쇄 자막 텍스트(1054)의 텍스트는 비디오(1050) 내로 2분 출현할 수 있거나, 유사하게 동등한 스피치가 비디오(1050) 내로 2분 말해질 수 있음).
다양한 정보가 폐쇄 자막 텍스트(1054)로부터 도출될 수 있고, 그 중 일부는 특정 미디어 스트림 이벤트(516)로서 시간 오프셋(1058)과 연관될 수 있다. 예를 들어, 말해진 이름은 특정 시간에 스크린 상의 캐릭터 출현을 추측하는 데 사용될 수 있다. 예를 들어, "블랑쉬"라고 말해진 단어는 "블랑쉬"라는 이름의 캐릭터가 비디오(1050)의 시간 오프셋(1058)에서의 또는 그 근처의 화면 상에 출현할 수 있다고 추론하는 데 사용될 수 있다. 이어서, 도출된 정보는 캐릭터 이름 "블랑쉬" 또는 메타데이터로부터 식별된 대응하는 여배우와 연관된 사용자 요청(예를 들어, "블랑쉬가 나오는 곳을 보여줘")에 응답하는 데 사용될 수 있다. 다른 예에서, 말해진 구절은 식별되고 그들이 말한 특정 시간과 연관될 수 있다. "formidable family"라고 말해진 구절은 예를 들어, 비디오(1050)의 시간 오프셋(1058)에서 또는 그 근처에서 말해지고 있는 것으로서 식별될 수 있다. 이어서, 도출된 정보는 "formidable family"라고 말해진 구절과 연관된 사용자 요청(예를 들어, "블랑쉬가 formidable family를 말하는 부분을 보여줘")에 응답하는 데 사용될 수 있다. 따라서, 폐쇄 자막 텍스트는 분석되고 특정 시간과 연관될 수 있으며, 조합은 관련 사용자 요청에 응답하기 위하여 가상 어시스턴트 지식에 통합될 수 있다.
정보는 인터페이스(1052)와 같은 인터페이스에 보여지는지 여부와 관계없이 폐쇄 자막 텍스트(1054)로부터 도출될 수 있다는 것을 이해해야 한다. 예를 들어, 폐쇄 자막 텍스트는 실제로 해당 비디오를 재생하지 않고서 분석될 수 있으며 폐쇄 자막과 연관된 메타데이터로부터 시간이 도출될 수 있다. 또한, 도 10의 디스플레이(112) 상에 도시되어 있지만, 폐쇄 자막은 실제로 관련 비디오를 재생하거나 또는 실제로 재생하지 않고서 서버 또는 다른 디바이스에서 가상 어시스턴트 지식을 도출하기 위해 분석될 수 있음을 이해해야 한다.
위에서 논의된 바와 같이, 사용자로부터 수신된 스피치 입력은 모호할 수 있다. 사용자 요청(예컨대, 온-스크린 선수, 온-스크린 배우, 재생 위치 등)을 해석하는 데 사용할 수 있는 상기 언급된 정보에 부가하여, 다양한 다른 상황 정보는 사용자 요청을 해석하는 데 사용될 수 있다. 예를 들어, 사용자에 대한 개인 정보는 사용자 요청을 해석하는 데 사용될 수 있다. 사용자는 음성 인식, 디바이스에 로그인, 패스워드 입력, 특정 계정 사용, 프로필(예컨대, 연령 및 성별) 선택 등에 기초하여 식별될 수 있다. 이어서, 식별된 사용자(또는 특정 가정)에 대한 사용자-특정 데이터는 사용자 요청을 해석하는 데 사용될 수 있다. 이러한 사용자-특정 데이터는 사용자의 선호 팀, 사용자의 선호 스포츠, 사용자의 선호 선수, 사용자의 선호 배우, 사용자의 선호 텔레비전 쇼, 사용자의 지리적 위치, 사용자 인구통계, 사용자의 시청 이력, 사용자의 구독 데이터 등을 포함할 수 있다. 또한, 사용자-특정 데이터(또는 가정-특정 데이터)는 일반적으로 시청한 쇼, 일반적으로 시청한 스포츠, 선호 장르 등을 반영하는 미디어 콘텐츠의 시청 이력을 포함할 수 있다. 또한, 일부 예들에서, 일반적인 연령 및 성별 데이터는 사용자 스피치로부터 추론될 수 있으며(예를 들어, 음고(pitch), 사용된 단어 등에 기초하여), 이는 이어서 그 프로필에 따른 결과를 바이어스(bias)하는 데 사용될 수 있다(예를 들어, 연령 및 성별 프로필의 가능성 있는 선호도에 기초하여 단어, 쇼, 이름, 질의 결과 등을 바이어싱(biasing)).
일부 예들에서 사용자 요청들은 사용자-특정 데이터를 구체적으로 참조할 수 있다. 예를 들어, 사용자들은 "내 팀"을 언급할 수 있다(예를 들어, "내 팀은 어때?"). 이어서, 사용자-특정 데이터는 "내 팀"이라는 언급을 사용자의 선호 팀으로서 지정된 특정 스포츠 팀으로 해결하는 데 사용될 수 있다. 다른 예들에서, 사용자-특정 데이터는 스피치 인식 및 사용자 의도 결정을 바이어스하는 데 사용될 수 있다(예를 들어, 특정 배우가 출현한 최근에 시청된 영화에 기초하여 그 배우에 대해 질문했을 가능성이 있는 특정 사용자를 추론). 예를 들어, 사용자가 좋아하거나, 시청하거나, 그렇지 않으면 그와 연관된 배우 또는 선수 이름들은 사용자-특정 데이터에서 식별될 수 있으며 스피치 인식 및 의도 결정 중에 이들 배우 또는 선수 이름들을 선호하는 결과를 바이어스하는 데 사용될 수 있다. 이는 고유한 이름, 다른 단어 또는 이름과 비슷한 소리가 나는 이름들 등을 정확하게 인식하는 데 도움이 될 수 있다.
스피치 입력을 정확하게 인식하고 사용자 요청을 해석하기 위해 본 명세서에서 논의된 다양한 다른 상황 소스에 부가하여, 사용자와 연관된 다수의 디바이스로부터의 정보는 정확한 스피치 인식 및 사용자 의도 결정을 위한 상황으로서 사용될 수 있다. 예를 들어, 텔레비전을 시청하는(예컨대, 디스플레이(112) 상에서) 사용자는 또한 다른 디바이스 상의(예컨대, 사용자 디바이스(102) 상의) 콘텐츠를 소비할 수 있다. 이어서, 디바이스들 둘다로부터의 콘텐츠는 사용자 요청들을 해석하는 데 사용될 수 있다.
도 11a는 비디오(1150)를 도시하는 텔레비전 디스플레이(112)를 도시한다. 도 11b는 표시된 이미지(1170) 및 표시된 텍스트(1172)를 도시하는 터치스크린(246)을 갖는 사용자 디바이스(102)를 도시한다. 어느 디바이스로부터든 콘텐츠를 언급하는 사용자 요청이 (예를 들어, 원격 제어부(106) 또는 사용자 디바이스(102)를 통해) 수신될 수 있다. 예를 들어 사용자가 "제니퍼의" 마지막 골을 보여달라고 요청할 수 있다. "제니퍼"에 대한 언급은 스피치 입력만으로는 분명하지 않을 수 있다. 그러나, 표시된 텍스트(1172)는 요청을 명확하게 하고 사용자 디바이스(102) 상에 보여지는 콘텐츠에 출현하는 선수로서 제니퍼를 식별하는 데 사용될 수 있다. 이어서, 요청에 응답한 비디오 콘텐츠는 특정 선수에 기초하여 식별될 수 있고, 콘텐츠는 사용자를 위해 재생될 수 있다. 응답성 콘텐츠는 디스플레이(112) 상에 또는 사용자 디바이스(102) 상에 제공될 수 있다(예를 들어, 특정 커맨드, 사용자 선호도 등에 기초하여).
다른 예에서, 도 11a의 비디오(1150)와 연관된 이름들 및 도 11b의 표시된 이미지(1170) 및 표시된 텍스트(1172)와 연관된 이름들은 스피치 인식 중에 가능성 있는 이름 후보들을 향하여 결과를 바이어스하거나 인식하기 어려울 수 있는 이름을 식별하는 데 사용될 수 있다. 예를 들어, 사용자 요청은 모호할 수 있는 이름을 포함할 수 있지만, 어느 디바이스 하나 상에 표시된 콘텐츠와 연관된 이름들은 사용자의 의도를 정확하게 식별하는 데 사용될 수 있다. 다른 예들에서, 어느 디바이스 하나 상에 표시된 콘텐츠와 연관된 배우, 수여자, 연기자, 제작자, 감독자, 참가자, 페널티, 스포츠 용어 등의 목록은 스피치 인식 정확도를 향상시키고 사용자 의도를 결정하는 데 유사하게 사용될 수 있다.
일부 예들에서, 도 11b의 표시된 이미지(1170)는 동영상 또는 비디오를 포함할 수 있다. 예를 들어, 도 11b에 도시된 콘텐츠는 이차 스크린 경험 데이터(예를 들어, 다른 프로그램에 동반하도록 의도된 데이터 및 비디오), 이차 카메라 뷰 데이터(예를 들어, 특정 프로그램에 대해 주로 표시되는 것보다 대안적인 보기 또는 유리한 지점을 갖는 비디오) 등을 포함할 수 있다.
이러한 정보는 스피치 인식 정확도를 향상시키고 위에서 논의된 것과 유사한 방식으로 사용자 의도를 결정하는 데 사용될 수 있다. 또한, 별개의 사용자 디바이스에 보여지는지 여부와 관계없이, 이차 스크린 경험 데이터, 이차 카메라 뷰 데이터 등이 수신되고 미디어 스트림에서 관련 관심 지점 및 관련 시간을 식별하기 위해 데이터 피드의 일부로서 사용될 수 있다. 예를 들어, 이차 스크린 경험은 경기의 강조에 대한 설명을 포함할 수 있다. 이러한 설명은 미디어 스트림 시간과 연관된 관련 미디어 스트림 이벤트로서 가상 어시스턴트 지식에 포함될 수 있으며, 사용자 요청에 응답하는 데 사용될 수 있다. 유사하게, 이차 카메라 뷰 데이터는 대안적인 카메라 콘텐츠가 이용가능할 수 있는(예컨대, 특정 사용자 요청에 응답 시에 사용될 수 있음) 특정 미디어 스트림 시간을 식별하는 관련 미디어 스트림 이벤트로서 가상 어시스턴트 지식에 포함될 수 있다.
전술한 바와 같이, 특정 사용자 요청에 응답하여, 특정 큐된 시간들부터 시작하여 미디어가 재생될 수 있다. 일부 예들에서, 하나 이상의 미디어 스트림의 다수의 세그먼트는 일부 사용자 요청에 응답하여 연속적으로 재생될 수 있다. 예를 들어, 사용자들은 경기 하이라이트, 경기의 모든 골, 경기의 모든 싸움, 쇼의 특정 배우의 모든 출현, 쇼의 특정 캐릭터의 모든 장면, 다수의 토크 쇼 각각의 개막 독백, 다수의 경기 쇼 각각의 보너스 라운드, 쇼의 최고의 순간들, 또는 하나 이상의 쇼로부터의 다양한 다른 미디어 세그먼트들을 보여달라고 요청할 수 있다. 위에서 논의된 것과 동일한 방식으로, 원하는 이벤트와 연관된 특정 시간은 하나 이상의 쇼에서 식별될 수 있으며, 재생은 다른 식별된 세그먼트에 의해 연속적으로 이어지는 제1 세그먼트로 시작되도록 야기될 수 있다. 일부 예들에서, 하이라이트, 최고의 순간 등은 북마크 인기도, 소셜 미디어 토론, 재생 카운트 등에 기초하여 결정될 수 있다. 각 세그먼트의 종료는 광고 시간, 관련 미디어 스트림 내의 다른 미디어 이벤트, 디폴트 재생 시간, 미디어 이벤트 상세 사항의 특정 종점 입력 등과 같은 다양한 방식으로 식별될 수 있다. 이러한 방식으로, 사용자들은, 예를 들어 그들이 보고자 하는 특정 콘텐츠에 대한 하이라이트 릴(highlight reel)을 요청할 수 있고, 시스템은 원하는 강조를 자동으로 식별하고 그것들을 연속적으로 재생할 수 있다(또는 그것들을 임의의 다른 순서 등으로 선택가능한 재생을 제공할 수 있음).
일부 예들에서, 사용자들은 친구, 가족 등과 미디어 스트림 내의 특정 세그먼트를 공유하기를 원할 수 있다. 일 예에서, 사용자들은 미디어 스트림 내의 특정 재생 위치에 대응하는 미디어 스트림에서 북마크 위치를 나타낼 수 있다. 이어서, 이 맞춤형 북마크 위치는 서버로 송신되고, 소셜 네트워크, 메시징, 다른 텔레비전 셋톱 박스(104), 다른 사용자 디바이스(102) 등을 통해 친구들과 공유될 수 있다. 사용자들은 물리적 버튼, 가상 버튼, 스피치 입력, 또는 원격 제어부(106) 및/또는 사용자 디바이스(102)를 사용하는 임의의 다른 입력을 사용하여 북마크를 나타낼 수 있다. 예를 들어, 사용자는 가상 어시스턴트 시스템에 요청을 지향시켜 특정 미디어 세그먼트를 북마크하고 이를 사용자의 주소록에 있는 연락처로 전송할 수 있다(예를 들어, 이것을 북마크하고 이를 코리(Corey)에게 전송). 이어서, 시스템은 특정 미디어 세그먼트(예를 들어, UTC 참조, 오프셋 등과 함께 미디어 식별자)를 식별하고 이를 원하는 연락처에 송신할 수 있다. 일부 예들에서, 사용자는 원하는 세그먼트의 시작 위치와 종료 위치 둘 모두를 식별할 수 있다. 다른 예들에서, 사용자는 특정 미디어 스트림 이벤트를 언급하고 공유할 수 있다(예를 들어, 조던과 이 득점을 공유하고, 이 공연을 수잔에게 전송 등). 또 다른 예들에서, 북마크 및 미디어 스트림 이벤트는 소셜 네트워크 등을 통해 공유될 수 있다.
전술한 바와 같이, 미디어 관련 가상 어시스턴트 질의에 응답하여, 시스템은 재생을 위한 비디오를 큐하고/하거나 정보제공형 답변으로 응답할 수 있다(예를 들어, 디스플레이(112) 또는 사용자 디바이스(102) 상에 텍스트 응답을 표시하거나, 응답을 크게 말하는 것 등을 함으로써). 일부 예들에서, 다양한 데이터 피드 및 본 명세서에서 논의된 바와 같이 재생을 위해 비디오를 큐하는 데 사용되는 다른 정보는 사용자 요청에 대한 정보제공형 응답을 결정하는 데 유사한 방식으로 사용될 수 있다. 도 12는 정보를 디지털 어시스턴트 지식에 통합하고 사용자 요청에 응답하기 위한 예시적인 프로세스(1200)를 도시한다. 블록(1202)에서, 미디어 스트림 내의 시간과 연관된 이벤트를 포함하는 데이터 피드가 수신될 수 있다. 데이터 피드는 도 5를 참조하여 논의된 데이터 피드(510), 도 8을 참조하여 논의된 데이터 피드(810), 및 도 9를 참조하여 논의된 데이터 피드(910)와 같은, 대응하는 미디어 스트림 이벤트들(516) 중 임의의 미디어 스트림 이벤트와 함께 본 명세서에서 논의된 데이터 피드들 중 임의의 데이터 피드를 포함할 수 있다.
도 12의 프로세스(1200)를 다시 참조하면, 블록(1204)에서, 데이터 피드의 이벤트와 연관된 구어 사용자 요청이 수신될 수 있다. 사용자들은 임의의 미디어 스트림 이벤트, 현재 재생 중인 미디어, 온-스크린 선수, 온-스크린 배우 등에 관한 정보를 요청할 수 있다. 예를 들어, 사용자는 득점을 하는 선수의 식별(예를 들어, "누가 그 골을 득점했어?"), 페널티 콜의 식별(예를 들어, "그 페널티 이유가 뭐였어?"), 스크린 상의 연기자의 식별(예를 들어, "저건 누구야?"), 노래 제목의 식별(예를 들어, "그녀가 부르는 노래가 뭐야?"), 온-스크린 쇼 캐릭터들의 식별(예를 들어, "저 캐릭터들의 이름이 뭐야?"), 쇼에서 배우들의 식별(예를 들어, "여기 누가 나와?"), 줄거리의 설명(예를 들어, "이 에피소드는 뭐에 대한 거야?"), 시리즈의 설명(예를 들어, "이 시리즈는 뭐에 대한 거야?"), 또는 미디어 콘텐츠와 연관된 다양한 다른 질의들 중 임의의 것을 요청할 수 있다.
블록(1206)에서, 사용자 요청에 대한 응답은 이벤트에 관련된 데이터(예를 들어, 본 명세서에서 논의된 데이터 피드들 중 임의의 피드로부터의 데이터)에 기초하여 생성될 수 있다. 본 명세서에서 논의된 미디어 스트림 이벤트들(516) 중 임의의 미디어 스트림 이벤트는, 예를 들어 다양한 질의(예를 들어, 블록(1204)을 참조하여 전술한 다양한 질의 예와 같은)에 대한 정보제공형 응답을 검색할 수 있다. 일부 예들에서, 응답은 현재 재생 중인 미디어(예를 들어, 재생 중인 쇼, 일시정지된 쇼, 스크린 상에 보여지는 프로그램 등)에 기초하여 생성될 수 있다. 예를 들어, 현재 재생 중인 미디어를 언급하는 사용자 요청은 스피치 입력만으로는 모호할 수 있다. 현재 재생 중인 미디어는 사용자 요청을 명확하게 하고 현재 콘텐츠에 대한 언급을 해결함으로써 사용자 의도를 결정하는 데 사용될 수 있다. 예를 들어, 사용자는 "이" 쇼 내의 배우들의 목록을 요청할 수 있으며(예를 들어, "여기에 누가 나와?"), 이는 언급된 쇼가 스피치 입력으로부터 쉽게 알 수 없기 때문에 명확하지 않을 수 있다. 그러나, 현재 재생 중인 쇼는 "이"에 대한 언급을 해결하고 사용자 의도를 식별하는 데 사용될 수 있다. 도 9의 텔레비전 프로그램 예가 재생되고 있는 경우, 예를 들어, 시간 14:00(UTC)에 열거된 개요 정보는 배우 제인 홈즈와 데이비드 도(David Doe)를 식별함으로써 사용자의 질의에 응답하는 데 사용될 수 있다.
다른 예들에서, 응답은 현재 재생 중인 미디어 및/또는 사용자에 의해 이전에 소비된 미디어 콘텐츠의 현재 재생 위치에 기초하여 생성될 수 있다. 예를 들어, 사용자는 방금 보여진 골을 넣은 선수의 식별을 요청할 수 있으며, 요청에 "그" 골을 언급할 수 있다(예컨대, "누가 그 골을 넣었어?"). 현재 재생 중인 미디어의 현재 재생 위치는 사용자 의도를 결정하고 "그" 골을 다른 골이 미디어 스트림에서 나중에 출현하는지 여부와 관계없이 사용자에게 보여준 가장 최근의 골로 해결함으로써 응답을 생성하는 데 사용될 수 있다. 도 7의 예에서, 현재 재생 위치(732)는 "그" 골을 이전 골(734)로 해결하는 데 사용될 수 있고, 대응하는 미디어 스트림 이벤트의 콘텐츠는 질의에 답변하는 데 사용될 수 있다. 특히, 선수 M은 사용자가 본 가장 최근의 골을 넣은 것으로 식별될 수 있다. 도 7을 참조하여 위에서 논의된 바와 같이, 현재 재생 위치는 또한 다양한 다른 모호한 언급(예를 들어, 다음, 이전 등)으로부터 사용자 의도를 결정하는 데 사용될 수 있고, 이어서 식별된 미디어 스트림 이벤트 정보는 질의에 대한 응답을 작성하는 데 사용될 수 있다.
또한, 일부 예들에서, 사용자는 시청 경험을 시프팅하고 라이브 또는 업데이트된 정보의 학습을 지연시키기를 원할 수 있다. 예를 들어, 사용자는 스포츠 이벤트가 이미 시작된 후 또는 이미 완료된 후에도 스포츠 이벤트를 시청하기 시작할 수 있다. 그럼에도 불구하고, 사용자는 마치 라이브였던 것처럼 전체 경기를 경험하기를 원할 수 있다. 그러한 예에서, 이용가능한 가상 어시스턴트 지식은 현재 재생 위치와 동시에 이용가능한 정보를 참조하고 현재 재생 위치 이후의 지점으로부터의 정보에 대한 참조를 피하도록 필터링될 수 있다. 예를 들어, 도 7의 예를 다시 참조하면, 사용자가 현재 재생 위치(732)에서 시청하고 있다고 가정하면, 시스템은 응답에서 다음 골(740)을 포함하는 것을 피할 수 있다. 예를 들어, 사용자는 현재 재생 위치(732)에서 점수를 요청할 수 있다(예를 들어, "이 시간까지 점수는 얼마야?"). 이에 응답하여, 시스템은 현재 재생 위치(732) 이후의 이벤트(예를 들어, 다음 골(740))를 제외하면서 이전에 시청한 이벤트들(예를 들어, 이전 골(734))에 기초하여 점수를 제공할 수 있다.
일부 예들에서, 사용자 요청은 응답 정보가 현재 재생 위치와 동시적이어야 하거나(예를 들어, "이 지점까지", "지금까지", "경기의 이 지점에서", "여기까지" 등을 말함으로써) 응답 정보가 이용가능한 가장 최신의 정보이어야 한다고(예를 들어, "라이브", "업데이트된", "현재" 등을 말함으로써) 지정할 수 있다.
다른 예들에서, 설정, 사용자 선호도 등은 응답들이 가장 최근에 업데이트된 정보를 포함하는지 또는 대신에 재생 위치와 동시적인 정보만을 포함하는지 여부를 결정할 수 있다. 또한, 일부 예들에서, 특정 경기(예를 들어, 용어, 이름 등에 기초함)와 연관될 수 있는 경고, 알림, 메시지, 소셜 미디어 피드 입력 등은 원하는 대로 사용자로부터 보류되고, 사용자가 다양한 메시지에 대응하는 관련 콘텐츠의 재생 위치에서 도착한 후에만 전달될 수 있다. 예를 들어, 라이브 스포츠 이벤트에 대해 논평하는 친구로부터의 메시지(예를 들어, 사용자 디바이스(102) 또는 임의의 다른 디바이스에의 전달을 위한)는 메시지가 전송된 시간에 대응하는 스포츠 이벤트의 지연된 시청 지점에 사용자가 도착할 때까지 의도적으로 지연될 수 있으며, 그 지점에서 메시지는 사용자에게 전달될 수 있다. 이러한 방식으로, 스포츠 이벤트를 시청하는(또는 임의의 다른 미디어를 소비하는) 전체 경험은 (예를 들어, 결과를 망치는 것을 피하기 위해) 원하는 만큼 타임-시프팅될 수 있다.
다른 예들에서, 응답은 텔레비전 셋톱 박스(104)에 의해 디스플레이(112) 상에 보여지는 콘텐츠, 사용자 디바이스(102)의 터치스크린(246) 상에 보여지는 콘텐츠, 및/또는 표시된 콘텐츠 중 임의의 콘텐츠와 연관된 메타데이터에 기초하여 생성될 수 있다. 예를 들어, 응답은 온-스크린 배우, 온-스크린 선수, 경기 참가자들의 목록, 쇼의 배우들의 목록, 팀 선수 명단 등에 기초하여 생성될 수 있다. 도 6, 도 11a, 및 도 11b를 참조하여 위에서 논의된 바와 같이, 표시된 콘텐츠 및 관련 메타데이터로부터 다양한 정보가 도출될 수 있고, 그 정보는 사용자 요청을 명확하게 하고, 사용자 의도를 결정하고, 사용자 요청에 대한 응답을 생성하는 데 사용될 수 있다. 예를 들어, 현재 재생 위치 근처의 미디어 스트림 이벤트, 얼굴 인식, 폐쇄 자막 텍스트 등에 기초하여 온-스크린 선수를 식별하라는 사용자 요청(예를 들어, "저 사람은 누구야?")에 대한 응답이 생성될 수 있다. 도 6의 예에서, 예를 들어, 큐된 시간(624) 근처의 미디어 스트림 이벤트들(예를 들어, 근처의 A팀 골)은 온-스크린 선수(628)를 선수 M으로서 식별하는 데 사용될 수 있다. 다른 예에서, 이미지 처리는 선수 M으로서 선수 명단으로부터 그를 식별하기 위해 온-스크린 선수(628)의 유니폼 번호를 인식하는 데 사용될 수 있다.
도 12의 프로세스(1200)를 다시 참조하면, 블록(1208)에서, 블록(1206)에서 결정된 응답이 전달되게 할 수 있다. 일부 예들에서, 응답을 전달하는 것은 텔레비전 셋톱 박스(104)를 통해 디스플레이(112) 상에, 사용자 디바이스(102) 상에, 또는 다른 디바이스 상에 응답이 표시되거나 재생되게 하는 것을 포함할 수 있다. 예를 들어, 텍스트 응답 및/또는 미디어 응답은 디바이스 상의 가상 어시스턴트 인터페이스에 표시되거나 재생될 수 있다. 다른 예에서, 응답을 전달하는 것은 응답 정보를 텔레비전 셋톱 박스(104), 사용자 디바이스(102), 또는 다른 디바이스에 송신하는 것을 포함할 수 있다(예를 들어, 서버로부터). 또 다른 예들에서, 사용자는 이미지 또는 비디오 내에서 정보를 식별하는 것을 요청할 수 있고(예를 들어, "누가 제니퍼야?"), 응답은 예를 들어 관련 미디어 스트림 이벤트에서 식별된 좌표들에 기초하여 이미지 또는 비디오 상에 중첩된 표시자(예컨대, 화살표, 점, 윤곽선 등)를 표시하는 것을 포함할 수 있다. 따라서, 프로세스(1200)는 가상 어시스턴트 지식 기반에 통합된 시기적절한 데이터를 채용함으로써 다양한 방식으로 다양한 사용자 질의에 응답하는 데 사용될 수 있다.
또한, 본 명세서에서 논의된 다양한 예 중 임의의 예에서, 다양한 양태가 특정 사용자에 대해 개인화될 수 있다. 연락처, 선호도, 위치, 선호하는 미디어 등을 포함하는 사용자 데이터는 음성 커맨드를 해석하고 본 명세서에서 논의된 다양한 디바이스와의 사용자 상호작용을 용이하게 하는 데 사용될 수 있다. 본 명세서에서 논의된 다양한 프로세스는 또한 사용자 선호도, 연락처, 텍스트, 사용 이력, 프로필 데이터, 인구통계 등에 따라 다양한 다른 방식으로 수정될 수 있다. 또한, 이러한 선호도 및 설정은 사용자 상호작용(예를 들어, 자주 발화된 커맨드, 자주 선택된 애플리케이션 등)에 기초하여 시간이 지남에 따라 업데이트될 수 있다. 다양한 소스에서 이용가능한 사용자 데이터를 수집하고 사용하는 것은 초청 콘텐츠 또는 사용자가 관심을 가질만한 임의의 다른 콘텐츠의 사용자에게의 전달을 향상시키는 데 사용될 수 있다. 본 개시내용은, 일부 경우들에 있어서, 이러한 수집된 데이터가 특정 개인을 고유하게 식별하거나 또는 그와 연락하거나 그의 위치를 확인하는 데 이용될 수 있는 개인 정보 데이터를 포함할 수 있음을 고려한다. 그러한 개인 정보 데이터는 인구통계 데이터, 위치 기반 데이터, 전화 번호들, 이메일 주소들, 홈 주소들, 또는 임의의 다른 식별 정보를 포함할 수 있다.
본 개시내용은 본 기술에서의 그러한 개인 정보 데이터의 이용이 사용자들에게 이득을 주기 위해 사용될 수 있음을 인식한다. 예를 들어, 개인 정보 데이터는 더 큰 관심이 있는 타깃 콘텐츠를 사용자에게 전달하는 데 이용될 수 있다. 따라서, 그러한 개인 정보 데이터의 이용은 전달된 콘텐츠의 계산된 제어를 가능하게 한다. 게다가, 사용자에 이득을 주는 개인 정보 데이터에 대한 다른 이용들이 또한 본 개시내용에 의해 고려된다.
본 개시내용은 그러한 개인 정보 데이터의 수집, 분석, 공개, 전달, 저장, 또는 다른 이용을 책임지고 있는 엔티티들이 잘 확립된 프라이버시 정책들 및/또는 프라이버시 관례들을 준수할 것이라는 것을 추가로 고려한다. 특히, 그러한 엔티티들은, 대체로 개인 정보 데이터를 사적이고 안전하게 유지시키기 위한 산업적 또는 행정적 요건들을 만족시키거나 넘어서는 것으로 인식되는 프라이버시 정책들 및 관례들을 구현하고 지속적으로 이용해야 한다. 예를 들어, 사용자들로부터의 개인 정보는 엔티티의 적법하며 적정한 사용들을 위해 수집되어야 하고, 이들 적법한 사용들을 벗어나서 공유되거나 판매되지 않아야 한다. 또한, 그러한 수집은 단지 사용자들의 고지에 입각한 동의를 수신한 후에만 발생해야 한다. 부가적으로, 그러한 엔티티들은 그러한 개인 정보 데이터에 대한 액세스를 보호하고 안전하게 하며 개인 정보 데이터에 대한 액세스를 갖는 다른 사람들이 그들의 프라이버시 정책들 및 절차들을 고수한다는 것을 보장하기 위한 임의의 필요한 단계들을 취할 것이다. 게다가, 그러한 엔티티들은 널리 인정된 프라이버시 정책들 및 관례들에 대한 그들의 고수를 증명하기 위해 제3자들에 의해 그들 자신들이 평가를 받을 수 있다.
전술한 것에도 불구하고, 본 개시내용은 또한 사용자가 개인 정보 데이터의 이용, 또는 그에 대한 액세스를 선택적으로 차단하는 예들을 고려한다. 즉, 본 개시내용은 그러한 개인 정보 데이터에 대한 액세스를 방지하거나 차단하기 위해 하드웨어 및/또는 소프트웨어 요소들이 제공될 수 있다는 것을 고려한다. 예를 들어, 광고 전달 서비스들의 경우에, 본 기술은 사용자들이 서비스를 위한 등록 중에 개인 정보 데이터의 수집 시의 참여의 "동의함" 또는 "동의하지 않음"을 선택하는 것을 허용하도록 구성될 수 있다. 다른 예에서, 사용자들은 타깃 콘텐츠 전달 서비스들을 위한 위치 정보를 제공하지 않도록 선택할 수 있다. 또 다른 예에서, 사용자들은 정확한 위치 정보를 제공하지 않지만 위치 구역 정보의 전달을 허용하도록 선택할 수 있다.
따라서, 본 개시내용이 하나 이상의 다양한 개시된 예를 구현하기 위해 개인 정보 데이터의 사용을 광범위하게 커버하지만, 본 개시내용은 다양한 예가 또한 그러한 개인 정보 데이터에 액세스할 필요 없이 구현될 수 있다는 것을 또한 고려한다. 즉, 본 기술의 다양한 예는 그러한 개인 정보 데이터의 모두 또는 일부의 결여로 인해 동작 불가능하게 되지는 않는다. 예를 들어, 콘텐츠는, 사용자와 연관된 디바이스에 의해 요청되는 콘텐츠, 콘텐츠 전달 서비스들에 대해 이용가능한 다른 비-개인 정보, 또는 공개적으로 입수가능한 정보와 같은 비-개인 정보 데이터 또는 드러난 최소량의 개인 정보에 기초하여 선호도를 추론함으로써 선택되고 사용자들에게 전달될 수 있다.
일부 예들에 따르면, 도 13은 예를 들어 미디어 재생의 음성 제어 및 가상 어시스턴트 지식의 실시간 업데이트를 제공하기 위해 다양한 기술된 예들의 원리에 따라 구성된 전자 디바이스(1300)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 13에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 13에 도시된 바와 같이, 전자 디바이스(1300)는 미디어, 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(1302)(예를 들어, 디스플레이(112), 터치스크린(246) 등)을 포함할 수 있다. 전자 디바이스(1300)는 스피치 입력, 촉각 입력, 제스처 입력, 미디어 정보, 데이터 피드, 미디어 등과 같은 정보를 수신하도록 구성된 입력 유닛(1304)을 추가로 포함할 수 있다(예를 들어, 마이크로폰, 수신기, 터치스크린, 버튼, 서버 등). 전자 디바이스(1300)는 디스플레이 유닛(1302) 및 입력 유닛(1304)에 결합된 처리 유닛(1306)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(1306)은 데이터 피드 수신 유닛(1308), 사용자 요청 수신 유닛(1310), 및 미디어 재생 유닛(1312)을 포함할 수 있다.
처리 유닛(1306)은 (예를 들어, 데이터 피드 수신 유닛(1308)을 사용하여 입력 유닛(1304)으로부터) 데이터 피드를 수신하도록 구성될 수 있으며, 여기서 데이터 피드는 미디어 스트림 내의 시간과 연관된 이벤트에 관련된 데이터를 포함한다. 처리 유닛(1306)은 스피치 입력에 기초하여 사용자 요청을 수신하도록(예를 들어, 사용자 요청 수신 유닛(1310)을 사용하여 입력 유닛(1304)으로부터) 추가로 구성될 수 있으며, 사용자 요청은 이벤트와 연관된다. 처리 유닛(1306)은, 사용자 요청을 수신하는 것에 응답하여, 이벤트와 연관된 미디어 스트림 내의 시간에서 (예를 들어, 디스플레이 유닛(1302) 상에서) 미디어 스트림의 재생을 시작하게 하도록(예를 들어, 미디어 재생 유닛(1312)을 이용하여) 추가로 구성될 수 있다.
일부 예들에서, 처리 유닛(1306)은 현재 재생 중인 미디어에 기초하여 사용자 요청을 해석하도록 추가로 구성될 수 있다. 다른 예들에서, 처리 유닛(1306)은 현재 재생 중인 미디어의 현재 재생 위치에 기초하여 사용자 요청을 해석하도록 추가로 구성될 수 있다. 또 다른 예들에서, 처리 유닛(1306)은 온-스크린 배우, 온-스크린 선수, 경기 참가자들의 목록, 쇼의 배우들의 목록, 쇼의 캐릭터들의 목록, 또는 팀 선수 명단 중 하나 이상에 기초하여 사용자 요청을 해석하도록 추가로 구성될 수 있다. 일부 예들에서, 미디어 스트림은 스포츠 이벤트를 포함하고, 이벤트에 관련된 데이터는 선수의 특성(예를 들어, 이름, 별명, 번호, 포지션, 팀, 뎁스 차트, 경험, 스타일, 신상 정보 등), 점수, 페널티, 통계, 또는 경기 세그먼트 지정자(예컨대, 쿼터, 피리어드, 하프, 랩, 코션 플래그, 피트 스톱, 다운, 플레이 등) 중 하나 이상을 포함한다. 다른 예들에서, 미디어 스트림은 시상식 쇼를 포함하고, 이벤트에 관련된 데이터는 참가자의 특성(예를 들어, 이름, 별명, 캐릭터 이름, 신상 정보 등), 공연 설명, 또는 시상 발표 지정자 중 하나 이상을 포함한다. 또 다른 예들에서, 미디어 스트림은 텔레비전 프로그램을 포함하고, 이벤트에 관련된 데이터는 공연 설명 또는 쇼 세그먼트 지정자 중 하나 이상을 포함한다.
일 예에서, (예를 들어, 사용자 요청 수신 유닛(1310)의) 사용자 요청은 미디어 스트림에서 강조를 위한 요청을 포함한다. 일부 예들에서, 처리 유닛(1306)은, 요청을 수신하는 것에 응답하여, 미디어 스트림의 복수의 세그먼트의 연속적인 재생을 야기하도록 추가로 구성될 수 있다. 다른 예들에서, 미디어 스트림의 재생을 야기하는 것은 전자 디바이스 이외의 재생 디바이스 상에서 미디어 재생을 야기하는 것을 포함한다. 일부 예들에서, 전자 디바이스는 서버, 셋톱 박스, 원격지, 스마트폰, 또는 태블릿 컴퓨터를 포함한다. 다른 예들에서, 재생 디바이스는 셋톱 박스, 스마트폰, 태블릿 컴퓨터, 또는 텔레비전을 포함한다. 처리 유닛(1306)은 전자 디바이스에 의해 표시된 정보에 기초하여 사용자 요청을 해석하도록 추가로 구성될 수 있다. 처리 유닛(1306)은 재생 디바이스에 의해 표시된 정보에 기초하여 사용자 요청을 해석하도록 추가로 구성될 수 있다.
일부 예들에서, 이벤트에 관련된 데이터는 폐쇄 자막 텍스트를 포함한다. 처리 유닛(1306)은 폐쇄 자막 텍스트에 기초하여 이벤트와 연관된 미디어 스트림 내의 시간을 결정하도록 추가로 구성될 수 있다. 일 예에서, 이벤트에 관련된 데이터는 이차 스크린 경험 데이터, 이차 카메라 뷰 데이터, 또는 소셜 네트워크 피드 데이터 중 하나 이상을 포함한다. 처리 유닛(1306)은 사용자로부터 북마크 지시를 수신하도록 추가로 구성될 수 있으며, 여기서 북마크는 미디어 스트림 내의 특정 재생 위치에 대응한다. 처리 유닛(1306)은, 북마크를 공유하라는 사용자 요청을 수신하고, 북마크를 공유하라는 사용자 요청을 수신하는 것에 응답하여, 특정 재생 위치와 연관된 큐 정보가 서버로 송신되게 하도록 추가로 구성될 수 있다. 처리 유닛(1306)은 사용자의 선호 팀, 사용자의 선호 스포츠, 사용자의 선호 선수, 사용자의 선호 배우, 사용자의 선호 텔레비전 쇼, 사용자의 지리적 위치, 사용자 인구통계, 사용자의 시청 이력, 또는 사용자의 구독 데이터 중 하나 이상에 기초하여 사용자 요청을 해석하도록 추가로 구성될 수 있다.
일부 예들에 따르면, 도 14는 예를 들어 정보를 디지털 어시스턴트 지식에 통합하고 사용자 요청에 응답하기 위해 다양한 기술된 예들의 원리에 따라 구성된 전자 디바이스(1300)의 기능 블록도를 도시한다. 디바이스의 기능 블록들은, 다양한 기술된 예들의 원리들을 실행하기 위한 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 구현될 수 있다. 도 14에 기술된 기능 블록들이 다양한 기술된 예들의 원리들을 구현하기 위해 조합되거나 서브블록들로 분리될 수 있음이 본 발명이 속한 기술분야에서 통상의 지식을 가진 자들에 의해 이해된다. 따라서, 본 명세서의 설명은 옵션적으로, 본 명세서에 기술된 기능 블록들의 임의의 가능한 조합 또는 분리 또는 추가 정의를 지원한다.
도 14에 도시된 바와 같이, 전자 디바이스(1400)는 미디어, 인터페이스, 및 다른 콘텐츠를 표시하도록 구성된 디스플레이 유닛(1402)(예를 들어, 디스플레이(112), 터치스크린(246) 등)을 포함할 수 있다. 전자 디바이스(1400)는 스피치 입력, 촉각 입력, 제스처 입력, 미디어 정보, 데이터 피드, 미디어 등과 같은 정보를 수신하도록 구성된 입력 유닛(1404)을 추가로 포함할 수 있다(예를 들어, 마이크로폰, 수신기, 터치스크린, 버튼, 서버 등). 전자 디바이스(1400)는 디스플레이 유닛(1402) 및 입력 유닛(1404)에 결합된 처리 유닛(1406)을 추가로 포함할 수 있다. 일부 예들에서, 처리 유닛(1306)은 데이터 피드 수신 유닛(1408), 사용자 요청 수신 유닛(1410), 응답 생성 유닛(1412), 및 응답 전달 유닛(1414)을 포함할 수 있다.
처리 유닛(1406)은 (예를 들어, 데이터 피드 수신 유닛(1408)을 사용하여 입력 유닛(1404)으로부터) 데이터 피드를 수신하도록 구성될 수 있으며, 여기서 데이터 피드는 미디어 스트림 내의 시간과 연관된 이벤트에 관련된 데이터를 포함한다. 처리 유닛(1406)은 사용자로부터의 스피치 입력에 기초하여 사용자 요청을 수신하도록(예를 들어, 사용자 요청 수신 유닛(1410)을 사용하여 입력 유닛(1404)으로부터) 추가로 구성될 수 있으며, 사용자 요청은 이벤트와 연관된다. 처리 유닛(1406)은 이벤트에 관련된 데이터에 기초하여 사용자 요청에 대한 응답을 생성하도록(예를 들어, 응답 생성 유닛(1412)을 사용하여) 추가로 구성될 수 있다. 처리 유닛(1408)은 응답이 전달되게 하도록(예를 들어, 응답 전달 유닛(1414)을 사용하여) 추가로 구성될 수 있다.
일부 예들에서, (예를 들어, 응답 생성 유닛(1412)을 사용하여) 응답을 생성하는 것은 현재 재생 중인 미디어에 기초하여 응답을 생성하는 것을 추가로 포함한다. 다른 예들에서, (예를 들어, 응답 생성 유닛(1412)을 사용하여) 응답을 생성하는 것은 현재 재생 중인 미디어의 현재 재생 위치에 기초하여 응답을 생성하는 것을 추가로 포함한다. 또 다른 예들에서, (예를 들어, 응답 생성 유닛(1412)을 사용하여) 응답을 생성하는 것은 사용자에 의해 이전에 소비된 미디어 콘텐츠에 기초하여 응답을 생성하는 것을 추가로 포함한다. 일부 예들에서, (예를 들어, 응답 생성 유닛(1412)을 사용하여) 응답을 생성하는 것은 온-스크린 배우, 온-스크린 선수, 경기 참가자들의 목록, 쇼의 배우들의 목록, 또는 팀 선수 명단 중 하나 이상에 기초하여 응답을 생성하는 것을 추가로 포함한다.
일부 예들에서, 처리 유닛(1406)은, 현재 재생 중인 미디어의 현재 재생 위치와 동시적인 정보 요청을 포함하는 사용자 요청에 응답하여, 현재 재생 위치와 동시적인 데이터에 기초하여 응답을 생성하고 - 현재 재생 위치와 동시적인 데이터는 현재 재생 위치 이후의 시간과 연관된 데이터를 배제함 -; 라이브 정보에 대한 요청을 포함하는 사용자 요청에 응답하여, 라이브 데이터에 기초하여 응답을 생성하도록 추가로 구성될 수 있다. 일부 예들에서, (예를 들어, 응답 전달 유닛(1414)을 사용하여) 응답을 전달하게 하는 것은 응답이 전자 디바이스 이외의 재생 디바이스 상에 표시 또는 재생되게 하는 것을 포함한다. 다른 예들에서, (예를 들어, 응답 전달 유닛(1414)을 사용하여) 응답을 전달하게 하는 것은 응답이 전자 디바이스 이외의 재생 디바이스에 전달되게 하는 것을 포함한다. 일부 예들에서, 전자 디바이스는 서버, 셋톱 박스, 원격지, 스마트폰, 또는 태블릿 컴퓨터를 포함한다. 다른 예들에서, 재생 디바이스는 셋톱 박스, 스마트폰, 태블릿 컴퓨터, 또는 텔레비전을 포함한다. 일부 예들에서, 처리 유닛(1406)은 전자 디바이스에 의해 표시된 정보에 기초하여 사용자 요청을 해석하도록 추가로 구성될 수 있다. 다른 예들에서, 처리 유닛(1406)은 재생 디바이스에 의해 표시된 정보에 기초하여 사용자 요청을 해석하도록 추가로 구성될 수 있다.
예들이 첨부된 도면을 참조하여 충분히 설명되었지만, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에게는 다양한 변경 및 수정이 명백해질 것이라는 점에 유의해야 한다(예를 들어, 본 명세서에서 논의된 시스템 또는 프로세스 중 임의의 것을 수정하는 것은 본 명세서에 논의된 임의의 다른 시스템이나 프로세스와 관련하여 설명된 개념들에 따름). 그러한 변경들 및 수정들은 첨부된 청구항들에 의해 정의되는 바와 같은 다양한 예의 범주 내에 포함되는 것으로서 이해되어야 한다.
[청구범위]
[청구항 1]
미디어 재생의 음성 제어를 위한 방법으로서,
전자 디바이스에서:
데이터 피드를 수신하는 단계 - 상기 데이터 피드는 미디어 스트림 내의 시간과 연관된 이벤트에 관련된 데이터를 포함함 -;
스피치 입력(speech input)에 기초하여 사용자 요청을 수신하는 단계 - 상기 사용자 요청은 상기 이벤트와 연관됨 -; 및
상기 사용자 요청을 수신하는 단계에 응답하여, 상기 미디어 스트림의 재생이 상기 이벤트와 연관된 상기 미디어 스트림 내의 시간에서 시작하도록 야기하는 단계
를 포함하는, 방법.
[청구항 2]
제1항에 있어서,
현재 재생 중인 미디어에 기초하여 상기 사용자 요청을 해석하는 단계를 추가로 포함하는, 방법.
[청구항 3]
제1항에 있어서,
현재 재생 중인 미디어의 현재 재생 위치에 기초하여 상기 사용자 요청을 해석하는 단계를 추가로 포함하는, 방법.
[청구항 4]
제1항에 있어서,
온-스크린 배우들(on-screen actors), 온-스크린 선수들, 경기 참가자들의 목록, 쇼의 배우들의 목록, 쇼의 캐릭터들의 목록, 또는 팀 선수 명단 중 하나 이상에 기초하여 상기 사용자 요청을 해석하는 단계를 추가로 포함하는, 방법.
[청구항 5]
제1항에 있어서, 상기 미디어 스트림은 스포츠 이벤트를 포함하고, 상기 이벤트에 관련된 데이터는 선수의 특성, 점수, 페널티, 통계, 또는 경기 세그먼트 지정자 중 하나 이상을 포함하는, 방법.
[청구항 6]
제1항에 있어서, 상기 미디어 스트림은 시상식 쇼를 포함하고, 상기 이벤트에 관련된 데이터는 참가자의 특성, 공연 설명, 또는 시상 발표 지정자 중 하나 이상을 포함하는, 방법.
[청구항 7]
제1항에 있어서, 상기 미디어 스트림은 텔레비전 프로그램을 포함하고, 상기 이벤트에 관련된 데이터는 공연 설명 또는 쇼 세그먼트 지정자 중 하나 이상을 포함하는, 방법.
[청구항 8]
제1항에 있어서, 상기 사용자 요청은 상기 미디어 스트림 내의 강조에 대한 요청을 포함하는, 방법.
[청구항 9]
제1항에 있어서,
상기 사용자 요청을 수신하는 단계에 응답하여, 상기 미디어 스트림의 복수의 세그먼트의 연속적인 재생을 야기하는 단계를 추가로 포함하는, 방법.
[청구항 10]
제1항에 있어서, 상기 미디어 스트림의 재생을 야기하는 단계는 상기 전자 디바이스 이외의 재생 디바이스 상에서 미디어 재생을 야기하는 단계를 포함하는, 방법.
[청구항 11]
제10항에 있어서,
상기 전자 디바이스에 의해 표시된 정보에 기초하여 상기 사용자 요청을 해석하는 단계를 추가로 포함하는, 방법.
[청구항 12]
제10항에 있어서,
상기 재생 디바이스에 의해 표시된 정보에 기초하여 상기 사용자 요청을 해석하는 단계를 추가로 포함하는, 방법.
[청구항 13]
제1항에 있어서, 상기 이벤트에 관련된 데이터는 폐쇄 자막 텍스트(closed captioning text)를 포함하는, 방법.
[청구항 14]
제13항에 있어서,
상기 폐쇄 자막 텍스트에 기초하여 상기 이벤트와 연관된 상기 미디어 스트림 내의 시간을 결정하는 단계를 추가로 포함하는, 방법.
[청구항 15]
제1항에 있어서, 상기 이벤트에 관련된 데이터는 이차 스크린 경험 데이터(secondary screen experience data), 이차 카메라 뷰 데이터, 또는 소셜 네트워크 피드 데이터 중 하나 이상을 포함하는, 방법.
[청구항 16]
제1항에 있어서,
상기 사용자로부터 북마크 지시(bookmark indication)를 수신하는 단계를 추가로 포함하며, 상기 북마크는 상기 미디어 스트림 내의 특정 재생 위치에 대응하는, 방법.
[청구항 17]
제16항에 있어서,
상기 북마크를 공유하라는 사용자 요청을 수신하는 단계; 및
상기 북마크를 공유하라는 사용자 요청을 수신하는 단계에 응답하여, 상기 특정 재생 위치와 연관된 큐 정보(cue information)가 서버로 송신되게 하는 단계를 추가로 포함하는, 방법.
[청구항 18]
제1항에 있어서,
사용자의 선호 팀, 사용자의 선호 스포츠, 사용자의 선호 선수, 사용자의 선호 배우, 사용자의 선호 텔레비전 쇼, 사용자의 지리적 위치, 사용자 인구통계, 사용자의 시청 이력, 또는 사용자의 구독 데이터 중 하나 이상에 기초하여 상기 사용자 요청을 해석하는 단계를 추가로 포함하는, 방법.
[청구항 19]
컴퓨터 실행가능 명령어들을 포함하는 비일시적 컴퓨터 판독가능 저장 매체로서, 상기 컴퓨터 실행가능 명령어들은,
데이터 피드를 수신하고 - 상기 데이터 피드는 미디어 스트림 내의 시간과 연관된 이벤트에 관련된 데이터를 포함함 -;
스피치 입력에 기초하여 사용자 요청을 수신하고 - 상기 사용자 요청은 상기 이벤트와 연관됨 -;
상기 사용자 요청을 수신하는 것에 응답하여, 상기 미디어 스트림의 재생이 상기 이벤트와 연관된 상기 미디어 스트림 내의 시간에서 시작하게 하기 위한 것인, 비일시적 컴퓨터 판독가능 저장 매체.
[청구항 20]
미디어 재생의 음성 제어를 위한 시스템으로서,
하나 이상의 프로세서;
메모리; 및
상기 메모리에 저장되고 상기 하나 이상의 프로세서에 의해 실행되도록 구성된 하나 이상의 프로그램
을 포함하며, 상기 하나 이상의 프로그램은,
데이터 피드를 수신하고 - 상기 데이터 피드는 미디어 스트림 내의 시간과 연관된 이벤트에 관련된 데이터를 포함함 -;
스피치 입력에 기초하여 사용자 요청을 수신하고 - 상기 사용자 요청은 상기 이벤트와 연관됨 -;
상기 사용자 요청을 수신하는 것에 응답하여, 상기 미디어 스트림의 재생이 상기 이벤트와 연관된 상기 미디어 스트림 내의 시간에서 시작하게 하기 위한 명령어들을 포함하는, 시스템.
[청구항 21]
정보를 디지털 어시스턴트 지식에 통합하기 위한 방법으로서,
전자 디바이스에서:
데이터 피드를 수신하는 단계 - 상기 데이터 피드는 미디어 스트림 내의 시간과 연관된 이벤트에 관련된 데이터를 포함함 -;
사용자로부터의 스피치 입력에 기초하여 사용자 요청을 수신하는 단계 - 상기 사용자 요청은 상기 이벤트와 연관됨 -;
상기 이벤트에 관련된 데이터에 기초하여 상기 사용자 요청에 대한 응답을 생성하는 단계; 및
상기 응답이 전달되게 하는 단계
를 포함하는, 방법.
[청구항 22]
제21항에 있어서, 상기 응답을 생성하는 단계는 현재 재생 중인 미디어에 기초하여 상기 응답을 생성하는 단계를 추가로 포함하는, 방법.
[청구항 23]
제21항에 있어서, 상기 응답을 생성하는 단계는 현재 재생 중인 미디어의 현재 재생 위치에 기초하여 상기 응답을 생성하는 단계를 추가로 포함하는, 방법.
[청구항 24]
제21항에 있어서, 상기 응답을 생성하는 단계는 상기 사용자에 의해 이전에 소비된 미디어 콘텐츠에 기초하여 상기 응답을 생성하는 단계를 추가로 포함하는, 방법.
[청구항 25]
제21항에 있어서, 상기 응답을 생성하는 단계는 온-스크린 배우, 온-스크린 선수, 경기 참가자들의 목록, 쇼의 배우들의 목록, 또는 팀 선수 명단 중 하나 이상에 기초하여 상기 응답을 생성하는 단계를 추가로 포함하는, 방법.
[청구항 26]
제21항에 있어서,
현재 재생 중인 미디어의 현재 재생 위치와 동시적인 정보에 대한 요청을 포함하는 상기 사용자 요청에 응답하여, 상기 현재 재생 위치와 동시적인 데이터에 기초하여 상기 응답을 생성하는 단계 - 상기 현재 재생 위치와 동시적인 데이터는 상기 현재 재생 위치 이후의 시간과 연관된 데이터를 배제함 -; 및
라이브 정보에 대한 요청을 포함하는 상기 사용자 요청에 응답하여, 라이브 데이터에 기초하여 상기 응답을 생성하는 단계를 추가로 포함하는, 방법.
[청구항 27]
제21항에 있어서, 상기 응답이 전달되게 하는 단계는 상기 응답이 상기 전자 디바이스 이외의 재생 디바이스 상에 표시되거나 또는 재생되게 하는 단계를 포함하는, 방법.
[청구항 28]
제21항에 있어서, 상기 응답이 전달되게 하는 단계는 상기 응답이 상기 전자 디바이스 이외의 재생 디바이스에 전달되게 하는 단계를 포함하는, 방법.
[요약서]
[요약]
가상 어시스턴트 미디어 지식의 실시간 업데이트를 위한 시스템 및 프로세스가 개시된다. 가상 어시스턴트 지식은 재생 중인 미디어(예를 들어, 스포츠 이벤트, 텔레비전 쇼 등)와 연관된 시기적절한 정보로 업데이트될 수 있다. 미디어 스트림 내의 특정 시간들에 이벤트를 관련시키는 데이터를 포함하는 데이터 피드가 수신될 수 있다. 사용자 요청은 스피치 입력에 기초하여 수신될 수 있고, 사용자 요청은 미디어 스트림 또는 쇼의 이벤트와 연관될 수 있다. 요청을 수신하는 것에 응답하여, 미디어 스트림은 요청에 언급된 이벤트와 연관된 미디어 스트림 내의 시간에서 재생을 시작하도록 큐될 수 있다. 다른 예에서, 사용자 요청에 대한 응답은 이벤트들에 관련된 데이터에 기초하여 생성될 수 있다. 이어서, 응답은 사용자에게 전달될 수 있다(예컨대, 크게 말해지는 것, 표시되는 것 등).
[도면]
[도 1]
[도 2]
[도 3]
[도 4]
[도 5]
[도 6]
[도 7]
[도 8]
[도 9]
[도 10]
[도 11a]
[도 11b]
[도 12]
[도 13]
[도 14]
Claims (18)
- 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 방법으로서,
하나 이상의 프로세서 및 메모리를 포함하는 하나 이상의 전자 디바이스에서:
디스플레이 상에, 제1 일차 미디어 검색 질의에 대응하는 미디어 항목들의 제1 일차 세트를 표시하는 동안, 자연 언어 스피치 형태의 미디어 관련 요청을 포함하는 오디오 입력을 수신하는 단계;
상기 미디어 관련 요청에 대한 일차 행동가능한 의도를 결정하기 위하여 상기 미디어 관련 요청의 텍스트 표현에 대한 자연 언어 처리를 수행하는 단계 - 상기 일차 행동가능한 의도는 상기 미디어 관련 요청에 대한 복수의 후보 행동가능한 의도로부터 선택됨 -;
상기 일차 행동가능한 의도가 상기 제1 일차 미디어 검색 질의를 좁히려는 행동가능한 의도를 포함한다는 결정에 따라:
상기 텍스트 표현 및 상기 제1 일차 미디어 검색 질의에 기초하여, 상기 일차 행동가능한 의도에 대응하는 제2 일차 미디어 검색 질의를 생성하는 단계;
상기 제2 일차 미디어 검색 질의에 기초하여, 상기 제2 일차 미디어 검색 질의보다 적은 제약들을 갖는 제1 이차 미디어 검색 질의를 생성하는 단계;
상기 제2 일차 미디어 검색 질의 및 상기 제1 이차 미디어 검색 질의를 수행하여 미디어 항목들의 제2 일차 세트 및 미디어 항목들의 제1 이차 세트를 각각 획득하는 단계; 및
상기 디스플레이 상에 상기 미디어 항목들의 제2 일차 세트 및 상기 미디어 항목들의 제1 이차 세트를 동시에 표시하는 단계
를 포함하고, 상기 미디어 항목들의 제2 일차 세트의 상기 표시는 상기 미디어 항목들의 제1 일차 세트의 상기 표시를 대체하고, 상기 표시된 미디어 항목들의 제2 일차 세트는 상기 표시된 상기 미디어 항목들의 제1 이차 세트 앞에 배열되는, 방법. - 제1항에 있어서, 상기 일차 행동가능한 의도가 상기 제1 일차 미디어 검색 질의를 좁히려는 상기 행동가능한 의도를 포함한다는 상기 결정은:
상기 텍스트 표현이 상기 제1 일차 미디어 검색 질의를 좁히려는 상기 행동가능한 의도에 대응하는 미리결정된 단어 또는 구절을 포함한다는 결정을 포함하는, 방법. - 제2항에 있어서, 상기 일차 행동가능한 의도가 상기 제1 일차 미디어 검색 질의를 좁히려는 상기 행동가능한 의도를 포함한다는 상기 결정은 상기 텍스트 표현 내의 상기 미리결정된 단어 또는 구절의 위치를 결정하는 것에 기초하는, 방법.
- 제1항에 있어서, 상기 일차 행동가능한 의도가 상기 제1 일차 미디어 검색 질의를 좁히려는 상기 행동가능한 의도를 포함한다는 상기 결정은 상기 미디어 항목들의 제1 일차 세트의 파라미터 값에 대응하는 단어 또는 구절을 결정하는 것에 기초하는, 방법.
- 제2항에 있어서, 상기 미리결정된 단어 또는 구절은 복수의 정제 용어 중 하나를 포함하는, 방법.
- 제1항에 있어서, 상기 제2 일차 미디어 검색 질의는 상기 미디어 관련 요청에 정의된 하나 이상의 제1 파라미터 값 및 상기 제1 일차 미디어 검색 질의의 하나 이상의 제2 파라미터 값을 포함하고, 상기 제1 이차 미디어 검색 질의는 상기 미디어 관련 요청에 정의된 상기 하나 이상의 제1 파라미터 값을 포함하고, 상기 하나 이상의 제2 파라미터 값 중 적어도 하나의 파라미터 값을 포함하지 않는, 방법.
- 제1항에 있어서, 상기 제2 일차 미디어 검색 질의는 파라미터 값들의 세트를 포함하고, 상기 방법은,
상기 파라미터 값들의 세트로부터 파라미터 값들의 코어 세트를 식별하는 단계를 추가로 포함하고, 상기 파라미터 값들의 코어 세트는 상기 파라미터 값들의 세트보다 적은 파라미터 값들을 갖고, 상기 제1 이차 미디어 검색 질의는 상기 파라미터 값들의 코어 세트를 포함하는, 방법. - 제1항에 있어서,
상기 일차 행동가능한 의도가 새로운 미디어 검색 질의를 수행하려는 행동가능한 의도를 포함한다는 결정에 따라:
상기 텍스트 표현에 기초하여, 상기 일차 행동가능한 의도에 대응하는 제3 일차 미디어 검색 질의를 생성하는 단계;
상기 제1 일차 미디어 검색 질의 및 상기 제3 일차 미디어 검색 질의에 기초하여, 상기 제3 일차 미디어 검색 질의보다 많은 제약들을 갖는 제2 이차 미디어 검색 질의를 생성하는 단계;
상기 제3 일차 미디어 검색 질의 및 상기 제2 이차 미디어 검색 질의를 수행하는 단계; 및
상기 제3 일차 미디어 검색 질의를 수행하는 것으로부터 적어도 하나의 미디어 항목이 획득된다는 결정에 따라:
상기 디스플레이 상에, 상기 제3 일차 미디어 검색 질의를 수행하는 것으로부터 획득된 미디어 항목들의 제3 일차 세트 및 상기 제2 이차 미디어 검색 질의를 수행하는 것으로부터 획득된 미디어 항목들의 제2 이차 세트를 동시에 표시하는 단계
를 추가로 포함하고, 상기 미디어 항목들의 제3 일차 세트의 상기 표시는 상기 미디어 항목들의 제1 일차 세트의 상기 표시를 대체하고, 상기 표시된 미디어 항목들의 제3 일차 세트는 상기 표시된 미디어 항목들의 제2 이차 세트 전에 배열되는, 방법. - 제8항에 있어서,
상기 제3 일차 미디어 검색 질의를 수행하는 것으로부터 어떠한 미디어 항목도 획득되지 않는다는 결정에 따라:
상기 제3 일차 미디어 검색 질의의 최소 관련 파라미터 값(least pertinent parameter value)을 식별하는 단계;
상기 식별된 최소 관련 파라미터 값에 기초하여, 하나 이상의 대안적인 파라미터 값을 결정하는 단계;
상기 하나 이상의 대안적인 파라미터 값을 사용하여, 하나 이상의 대안적인 일차 미디어 검색 질의를 수행하여 미디어 항목들의 제4 일차 세트를 획득하는 단계; 및
상기 디스플레이 상에, 상기 미디어 항목들의 제4 일차 세트 및 상기 미디어 항목들의 제2 이차 세트를 동시에 표시하는 단계
를 추가로 포함하고, 상기 미디어 항목들의 제4 일차 세트의 상기 표시는 상기 미디어 항목들의 제1 일차 세트의 상기 표시를 대체하고, 상기 표시된 미디어 항목들의 제4 일차 세트는 상기 표시된 미디어 항목들의 제2 이차 세트 전에 배열되는, 방법. - 제8항에 있어서,
상기 일차 행동가능한 의도가 새로운 미디어 검색 질의를 수행하려는 행동가능한 의도를 포함한다는 결정에 따라:
상기 일차 행동가능한 의도 및 하나 이상의 이전의 행동가능한 의도에 기초하여 하나 이상의 추가적인 이차 행동가능한 의도를 결정하는 단계 - 상기 하나 이상의 이전의 행동가능한 의도는 상기 미디어 관련 요청 전에 수신된 하나 이상의 이전의 미디어 관련 요청에 대응함 -;
상기 하나 이상의 추가적인 이차 행동가능한 의도에 대응하는 하나 이상의 추가적인 이차 미디어 검색 질의를 생성하는 단계;
상기 하나 이상의 이차 미디어 검색 질의를 수행하여 미디어 항목들의 하나 이상의 추가적인 이차 세트를 획득하는 단계; 및
상기 디스플레이 상에 상기 미디어 항목들의 하나 이상의 추가적인 이차 세트를 표시하는 단계
를 추가로 포함하는 방법. - 제10항에 있어서,
상기 일차 행동가능한 의도 및 상기 하나 이상의 이전의 행동가능한 의도의 하나 이상의 조합을 결정하는 단계를 추가로 포함하고, 상기 하나 이상의 조합 각각은 적어도 하나의 미디어 항목과 관련되고, 상기 하나 이상의 추가적인 이차 행동가능한 세트는 상기 하나 이상의 조합을 포함하는, 방법. - 제10항에 있어서,
제2 전자 디바이스로부터 미디어 검색 이력을 수신하는 단계를 추가로 포함하고, 상기 하나 이상의 추가적인 이차 행동가능한 의도는 상기 제2 전자 디바이스로부터 수신된 상기 미디어 검색 이력에 기초하여 결정되는, 방법. - 제10항에 있어서,
상기 오디오 입력을 수신하는 동안 복수의 텍스트가 상기 디스플레이 상에 표시되고;
상기 복수의 텍스트는 상기 오디오 입력을 수신하는 동안 상기 디스플레이 상에 표시된 복수의 미디어 항목과 관련되고;
상기 하나 이상의 추가적인 이차 행동가능한 의도는 상기 표시된 복수의 텍스트에 기초하여 결정되는, 방법. - 제10항에 있어서,
상기 하나 이상의 추가적인 이차 행동가능한 의도 각각에 대한 랭킹 점수를 결정하는 단계를 추가로 포함하고, 상기 미디어 항목들의 하나 이상의 추가적인 이차 세트는 상기 하나 이상의 추가적인 이차 행동가능한 의도 각각에 대한 상기 랭킹 점수에 따라 표시되는, 방법. - 제8항에 있어서,
상기 제3 일차 미디어 검색 질의는 상기 미디어 관련 요청에 정의된 하나 이상의 제1 파라미터 값을 포함하고, 상기 제2 이차 미디어 검색 질의는 상기 하나 이상의 파라미터 값, 및 상기 제1 일차 미디어 검색 질의의 하나 이상의 제2 파라미터 값을 포함하는, 방법. - 제15항에 있어서,
상기 미디어 항목들의 제1 일차 세트를 포함하는 복수의 미디어 항목이 상기 오디오 입력을 수신하는 동안 상기 디스플레이 상에 표시되고, 상기 방법은,
상기 일차 행동가능한 의도가 상기 디스플레이 상에 표시된 행동가능한 인터페이스의 포커스를 변경하려는 행동가능한 의도를 포함한다는 결정에 따라, 상기 복수의 미디어 항목 중 제1 미디어 항목으로부터 상기 복수의 미디어 항목 중 제2 미디어 항목으로 상기 행동가능한 인터페이스의 포커스를 변경하는 단계를 추가로 포함하는, 방법. - 미디어 시스템의 디지털 어시스턴트를 동작시키기 위한 명령어들을 저장하는 컴퓨터 판독 가능 매체로서,
상기 명령어들은 상기 미디어 시스템의 하나 이상의 프로세서에 의해 실행될 때 상기 하나 이상의 프로세서로 하여금 제1항 내지 제16항 중 어느 한 항의 방법을 수행하게 하는, 컴퓨터 판독 가능 매체. - 디지털 어시스턴트를 동작시키기 위한 시스템으로서,
하나 이상의 프로세서; 및
상기 하나 이상의 프로세서에 의해 실행될 때 상기 하나 이상의 프로세서로 하여금 제1항 내지 제16항 중 어느 한 항의 방법을 수행하게 하는 명령어들을 저장하는 메모리
를 포함하는 시스템.
Applications Claiming Priority (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201562215575P | 2015-09-08 | 2015-09-08 | |
| US62/215,575 | 2015-09-08 | ||
| US14/963,089 | 2015-12-08 | ||
| US14/963,089 US10740384B2 (en) | 2015-09-08 | 2015-12-08 | Intelligent automated assistant for media search and playback |
| PCT/US2016/047215 WO2017044260A1 (en) | 2015-09-08 | 2016-08-16 | Intelligent automated assistant for media search and playback |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020187006610A Division KR20180038027A (ko) | 2015-09-08 | 2016-08-16 | 미디어 검색 및 재생을 위한 지능형 자동화 어시스턴트 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20190021495A KR20190021495A (ko) | 2019-03-05 |
| KR102038809B1 true KR102038809B1 (ko) | 2019-10-30 |
Family
ID=58190046
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020187006610A KR20180038027A (ko) | 2015-09-08 | 2016-08-16 | 미디어 검색 및 재생을 위한 지능형 자동화 어시스턴트 |
| KR1020197005386A KR102038809B1 (ko) | 2015-09-08 | 2016-08-16 | 미디어 검색 및 재생을 위한 지능형 자동화 어시스턴트 |
Family Applications Before (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020187006610A KR20180038027A (ko) | 2015-09-08 | 2016-08-16 | 미디어 검색 및 재생을 위한 지능형 자동화 어시스턴트 |
Country Status (7)
| Country | Link |
|---|---|
| US (3) | US10740384B2 (ko) |
| EP (1) | EP3323058B1 (ko) |
| JP (1) | JP6542983B2 (ko) |
| KR (2) | KR20180038027A (ko) |
| CN (1) | CN108702539B (ko) |
| AU (1) | AU2016320681B2 (ko) |
| WO (1) | WO2017044260A1 (ko) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024085592A1 (ko) * | 2022-10-19 | 2024-04-25 | 삼성전자 주식회사 | 전자 장치 및 전자 장치의 음성 어시스턴트 서비스 제공 방법 |
Families Citing this family (189)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8677377B2 (en) | 2005-09-08 | 2014-03-18 | Apple Inc. | Method and apparatus for building an intelligent automated assistant |
| US9318108B2 (en) | 2010-01-18 | 2016-04-19 | Apple Inc. | Intelligent automated assistant |
| US8977255B2 (en) | 2007-04-03 | 2015-03-10 | Apple Inc. | Method and system for operating a multi-function portable electronic device using voice-activation |
| US10002189B2 (en) | 2007-12-20 | 2018-06-19 | Apple Inc. | Method and apparatus for searching using an active ontology |
| US9330720B2 (en) | 2008-01-03 | 2016-05-03 | Apple Inc. | Methods and apparatus for altering audio output signals |
| US20100030549A1 (en) | 2008-07-31 | 2010-02-04 | Lee Michael M | Mobile device having human language translation capability with positional feedback |
| US8676904B2 (en) | 2008-10-02 | 2014-03-18 | Apple Inc. | Electronic devices with voice command and contextual data processing capabilities |
| US20120309363A1 (en) | 2011-06-03 | 2012-12-06 | Apple Inc. | Triggering notifications associated with tasks items that represent tasks to perform |
| US10276170B2 (en) | 2010-01-18 | 2019-04-30 | Apple Inc. | Intelligent automated assistant |
| US8682667B2 (en) | 2010-02-25 | 2014-03-25 | Apple Inc. | User profiling for selecting user specific voice input processing information |
| US9262612B2 (en) | 2011-03-21 | 2016-02-16 | Apple Inc. | Device access using voice authentication |
| US10057736B2 (en) | 2011-06-03 | 2018-08-21 | Apple Inc. | Active transport based notifications |
| US10134385B2 (en) | 2012-03-02 | 2018-11-20 | Apple Inc. | Systems and methods for name pronunciation |
| US10417037B2 (en) | 2012-05-15 | 2019-09-17 | Apple Inc. | Systems and methods for integrating third party services with a digital assistant |
| US9721563B2 (en) | 2012-06-08 | 2017-08-01 | Apple Inc. | Name recognition system |
| US10346542B2 (en) | 2012-08-31 | 2019-07-09 | Verint Americas Inc. | Human-to-human conversation analysis |
| EP3809407A1 (en) | 2013-02-07 | 2021-04-21 | Apple Inc. | Voice trigger for a digital assistant |
| US10652394B2 (en) | 2013-03-14 | 2020-05-12 | Apple Inc. | System and method for processing voicemail |
| US10748529B1 (en) | 2013-03-15 | 2020-08-18 | Apple Inc. | Voice activated device for use with a voice-based digital assistant |
| WO2014197335A1 (en) | 2013-06-08 | 2014-12-11 | Apple Inc. | Interpreting and acting upon commands that involve sharing information with remote devices |
| KR101922663B1 (ko) | 2013-06-09 | 2018-11-28 | 애플 인크. | 디지털 어시스턴트의 둘 이상의 인스턴스들에 걸친 대화 지속성을 가능하게 하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스 |
| US10176167B2 (en) | 2013-06-09 | 2019-01-08 | Apple Inc. | System and method for inferring user intent from speech inputs |
| US10296160B2 (en) | 2013-12-06 | 2019-05-21 | Apple Inc. | Method for extracting salient dialog usage from live data |
| US9430463B2 (en) | 2014-05-30 | 2016-08-30 | Apple Inc. | Exemplar-based natural language processing |
| US9966065B2 (en) | 2014-05-30 | 2018-05-08 | Apple Inc. | Multi-command single utterance input method |
| US9715875B2 (en) | 2014-05-30 | 2017-07-25 | Apple Inc. | Reducing the need for manual start/end-pointing and trigger phrases |
| US10170123B2 (en) | 2014-05-30 | 2019-01-01 | Apple Inc. | Intelligent assistant for home automation |
| US9633004B2 (en) * | 2014-05-30 | 2017-04-25 | Apple Inc. | Better resolution when referencing to concepts |
| US9338493B2 (en) | 2014-06-30 | 2016-05-10 | Apple Inc. | Intelligent automated assistant for TV user interactions |
| US9818400B2 (en) | 2014-09-11 | 2017-11-14 | Apple Inc. | Method and apparatus for discovering trending terms in speech requests |
| US9668121B2 (en) | 2014-09-30 | 2017-05-30 | Apple Inc. | Social reminders |
| US10074360B2 (en) | 2014-09-30 | 2018-09-11 | Apple Inc. | Providing an indication of the suitability of speech recognition |
| US10127911B2 (en) | 2014-09-30 | 2018-11-13 | Apple Inc. | Speaker identification and unsupervised speaker adaptation techniques |
| US10152299B2 (en) | 2015-03-06 | 2018-12-11 | Apple Inc. | Reducing response latency of intelligent automated assistants |
| US9721566B2 (en) | 2015-03-08 | 2017-08-01 | Apple Inc. | Competing devices responding to voice triggers |
| US10567477B2 (en) | 2015-03-08 | 2020-02-18 | Apple Inc. | Virtual assistant continuity |
| US9886953B2 (en) | 2015-03-08 | 2018-02-06 | Apple Inc. | Virtual assistant activation |
| US10460227B2 (en) | 2015-05-15 | 2019-10-29 | Apple Inc. | Virtual assistant in a communication session |
| US10200824B2 (en) | 2015-05-27 | 2019-02-05 | Apple Inc. | Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device |
| US10083688B2 (en) | 2015-05-27 | 2018-09-25 | Apple Inc. | Device voice control for selecting a displayed affordance |
| US9578173B2 (en) | 2015-06-05 | 2017-02-21 | Apple Inc. | Virtual assistant aided communication with 3rd party service in a communication session |
| US11025565B2 (en) | 2015-06-07 | 2021-06-01 | Apple Inc. | Personalized prediction of responses for instant messaging |
| US20160378747A1 (en) | 2015-06-29 | 2016-12-29 | Apple Inc. | Virtual assistant for media playback |
| US10747498B2 (en) | 2015-09-08 | 2020-08-18 | Apple Inc. | Zero latency digital assistant |
| US10671428B2 (en) | 2015-09-08 | 2020-06-02 | Apple Inc. | Distributed personal assistant |
| US10331312B2 (en) | 2015-09-08 | 2019-06-25 | Apple Inc. | Intelligent automated assistant in a media environment |
| US10740384B2 (en) | 2015-09-08 | 2020-08-11 | Apple Inc. | Intelligent automated assistant for media search and playback |
| US10691473B2 (en) | 2015-11-06 | 2020-06-23 | Apple Inc. | Intelligent automated assistant in a messaging environment |
| US10956666B2 (en) | 2015-11-09 | 2021-03-23 | Apple Inc. | Unconventional virtual assistant interactions |
| KR102450853B1 (ko) * | 2015-11-30 | 2022-10-04 | 삼성전자주식회사 | 음성 인식 장치 및 방법 |
| US10049668B2 (en) | 2015-12-02 | 2018-08-14 | Apple Inc. | Applying neural network language models to weighted finite state transducers for automatic speech recognition |
| US10223066B2 (en) | 2015-12-23 | 2019-03-05 | Apple Inc. | Proactive assistance based on dialog communication between devices |
| US10318114B2 (en) * | 2016-01-24 | 2019-06-11 | Apple Inc. | Playlist-only media items |
| US10229187B2 (en) * | 2016-05-23 | 2019-03-12 | International Business Machines Corporation | System for determination of automated response follow-up |
| US10229189B2 (en) * | 2016-05-23 | 2019-03-12 | International Business Machines Corporation | System for generation of automated response follow-up |
| US11227589B2 (en) | 2016-06-06 | 2022-01-18 | Apple Inc. | Intelligent list reading |
| US10049663B2 (en) | 2016-06-08 | 2018-08-14 | Apple, Inc. | Intelligent automated assistant for media exploration |
| US10586535B2 (en) | 2016-06-10 | 2020-03-10 | Apple Inc. | Intelligent digital assistant in a multi-tasking environment |
| DK179415B1 (en) | 2016-06-11 | 2018-06-14 | Apple Inc | Intelligent device arbitration and control |
| DK201670540A1 (en) | 2016-06-11 | 2018-01-08 | Apple Inc | Application integration with a digital assistant |
| AU2017100670C4 (en) | 2016-06-12 | 2019-11-21 | Apple Inc. | User interfaces for retrieving contextually relevant media content |
| US10515292B2 (en) * | 2016-06-15 | 2019-12-24 | Massachusetts Institute Of Technology | Joint acoustic and visual processing |
| US10783575B1 (en) | 2016-07-01 | 2020-09-22 | Apttus Corporation | System, method, and computer program for deploying a prepackaged analytic intelligence module for a quote-to-cash application while protecting the privacy of customer data |
| US10474753B2 (en) | 2016-09-07 | 2019-11-12 | Apple Inc. | Language identification using recurrent neural networks |
| US10043516B2 (en) * | 2016-09-23 | 2018-08-07 | Apple Inc. | Intelligent automated assistant |
| US10621640B2 (en) | 2016-10-03 | 2020-04-14 | Apttus Corporation | Augmented and virtual reality quote-to-cash system |
| US11240567B2 (en) * | 2016-10-25 | 2022-02-01 | Aether Media, Inc. | Video content switching and synchronization system and method for switching between multiple video formats |
| KR20180058476A (ko) * | 2016-11-24 | 2018-06-01 | 삼성전자주식회사 | 다양한 입력 처리를 위한 방법, 이를 위한 전자 장치 및 서버 |
| US11281993B2 (en) | 2016-12-05 | 2022-03-22 | Apple Inc. | Model and ensemble compression for metric learning |
| US11204787B2 (en) | 2017-01-09 | 2021-12-21 | Apple Inc. | Application integration with a digital assistant |
| CN106874467B (zh) * | 2017-02-15 | 2019-12-06 | 百度在线网络技术（北京）有限公司 | 用于提供搜索结果的方法和装置 |
| US11232508B2 (en) * | 2017-04-11 | 2022-01-25 | Apttus Corporation | Quote-to-cash intelligent software agent |
| US10509836B2 (en) * | 2017-04-19 | 2019-12-17 | Rovi Guides, Inc. | Systems and methods for presenting search results from multiple sources |
| US10417266B2 (en) | 2017-05-09 | 2019-09-17 | Apple Inc. | Context-aware ranking of intelligent response suggestions |
| DK201770383A1 (en) | 2017-05-09 | 2018-12-14 | Apple Inc. | USER INTERFACE FOR CORRECTING RECOGNITION ERRORS |
| DK180048B1 (en) | 2017-05-11 | 2020-02-04 | Apple Inc. | MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION |
| DK201770439A1 (en) | 2017-05-11 | 2018-12-13 | Apple Inc. | Offline personal assistant |
| US10395654B2 (en) | 2017-05-11 | 2019-08-27 | Apple Inc. | Text normalization based on a data-driven learning network |
| US10726832B2 (en) | 2017-05-11 | 2020-07-28 | Apple Inc. | Maintaining privacy of personal information |
| DK179745B1 (en) | 2017-05-12 | 2019-05-01 | Apple Inc. | SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT |
| DK179496B1 (en) | 2017-05-12 | 2019-01-15 | Apple Inc. | USER-SPECIFIC Acoustic Models |
| US11301477B2 (en) | 2017-05-12 | 2022-04-12 | Apple Inc. | Feedback analysis of a digital assistant |
| DK201770429A1 (en) | 2017-05-12 | 2018-12-14 | Apple Inc. | LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT |
| DK201770431A1 (en) | 2017-05-15 | 2018-12-20 | Apple Inc. | Optimizing dialogue policy decisions for digital assistants using implicit feedback |
| DK201770432A1 (en) | 2017-05-15 | 2018-12-21 | Apple Inc. | Hierarchical belief states for digital assistants |
| US20180336892A1 (en) | 2017-05-16 | 2018-11-22 | Apple Inc. | Detecting a trigger of a digital assistant |
| US10311144B2 (en) | 2017-05-16 | 2019-06-04 | Apple Inc. | Emoji word sense disambiguation |
| DK179549B1 (en) | 2017-05-16 | 2019-02-12 | Apple Inc. | FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES |
| US10403278B2 (en) | 2017-05-16 | 2019-09-03 | Apple Inc. | Methods and systems for phonetic matching in digital assistant services |
| US10303715B2 (en) * | 2017-05-16 | 2019-05-28 | Apple Inc. | Intelligent automated assistant for media exploration |
| US10657328B2 (en) | 2017-06-02 | 2020-05-19 | Apple Inc. | Multi-task recurrent neural network architecture for efficient morphology handling in neural language modeling |
| US10521491B2 (en) | 2017-06-06 | 2019-12-31 | Apttus Corporation | Real-time and computationally efficient prediction of values for a quote variable in a pricing application |
| US10762161B2 (en) * | 2017-08-08 | 2020-09-01 | Accenture Global Solutions Limited | Intelligent humanoid interactive content recommender |
| US10445429B2 (en) | 2017-09-21 | 2019-10-15 | Apple Inc. | Natural language understanding using vocabularies with compressed serialized tries |
| US10755051B2 (en) | 2017-09-29 | 2020-08-25 | Apple Inc. | Rule-based natural language processing |
| US11574287B2 (en) | 2017-10-10 | 2023-02-07 | Text IQ, Inc. | Automatic document classification |
| US11360736B1 (en) * | 2017-11-03 | 2022-06-14 | Amazon Technologies, Inc. | System command processing |
| KR102480570B1 (ko) * | 2017-11-10 | 2022-12-23 | 삼성전자주식회사 | 디스플레이장치 및 그 제어방법 |
| CN107919129A (zh) * | 2017-11-15 | 2018-04-17 | 百度在线网络技术（北京）有限公司 | 用于控制页面的方法和装置 |
| US10636424B2 (en) | 2017-11-30 | 2020-04-28 | Apple Inc. | Multi-turn canned dialog |
| US11182122B2 (en) * | 2017-12-08 | 2021-11-23 | Amazon Technologies, Inc. | Voice control of computing devices |
| KR102503936B1 (ko) * | 2017-12-29 | 2023-02-28 | 삼성전자주식회사 | 사용자 발화를 처리하는 디스플레이 장치 및 그 디스플레이 장치의 제어 방법 |
| US10733982B2 (en) | 2018-01-08 | 2020-08-04 | Apple Inc. | Multi-directional dialog |
| US10733375B2 (en) | 2018-01-31 | 2020-08-04 | Apple Inc. | Knowledge-based framework for improving natural language understanding |
| US10789959B2 (en) | 2018-03-02 | 2020-09-29 | Apple Inc. | Training speaker recognition models for digital assistants |
| US10592604B2 (en) | 2018-03-12 | 2020-03-17 | Apple Inc. | Inverse text normalization for automatic speech recognition |
| US10818288B2 (en) * | 2018-03-26 | 2020-10-27 | Apple Inc. | Natural assistant interaction |
| US10909331B2 (en) | 2018-03-30 | 2021-02-02 | Apple Inc. | Implicit identification of translation payload with neural machine translation |
| US10891665B2 (en) * | 2018-04-16 | 2021-01-12 | Edupresent Llc | Reduced bias submission review system |
| US10621983B2 (en) | 2018-04-20 | 2020-04-14 | Spotify Ab | Systems and methods for enhancing responsiveness to utterances having detectable emotion |
| EP3557577B1 (en) | 2018-04-20 | 2022-09-21 | Spotify AB | Systems and methods for enhancing responsiveness to utterances having detectable emotion |
| US10622007B2 (en) | 2018-04-20 | 2020-04-14 | Spotify Ab | Systems and methods for enhancing responsiveness to utterances having detectable emotion |
| US10566010B2 (en) | 2018-04-20 | 2020-02-18 | Spotify Ab | Systems and methods for enhancing responsiveness to utterances having detectable emotion |
| US11163961B2 (en) | 2018-05-02 | 2021-11-02 | Verint Americas Inc. | Detection of relational language in human-computer conversation |
| US11145294B2 (en) * | 2018-05-07 | 2021-10-12 | Apple Inc. | Intelligent automated assistant for delivering content from user experiences |
| US10928918B2 (en) | 2018-05-07 | 2021-02-23 | Apple Inc. | Raise to speak |
| US10984780B2 (en) | 2018-05-21 | 2021-04-20 | Apple Inc. | Global semantic word embeddings using bi-directional recurrent neural networks |
| US10892996B2 (en) | 2018-06-01 | 2021-01-12 | Apple Inc. | Variable latency device coordination |
| DK180639B1 (en) | 2018-06-01 | 2021-11-04 | Apple Inc | DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT |
| US11386266B2 (en) | 2018-06-01 | 2022-07-12 | Apple Inc. | Text correction |
| DK201870355A1 (en) | 2018-06-01 | 2019-12-16 | Apple Inc. | VIRTUAL ASSISTANT OPERATION IN MULTI-DEVICE ENVIRONMENTS |
| DK179822B1 (da) | 2018-06-01 | 2019-07-12 | Apple Inc. | Voice interaction at a primary device to access call functionality of a companion device |
| US10496705B1 (en) | 2018-06-03 | 2019-12-03 | Apple Inc. | Accelerated task performance |
| CN109325097B (zh) * | 2018-07-13 | 2022-05-27 | 海信集团有限公司 | 一种语音引导方法及装置、电子设备、存储介质 |
| US11144596B2 (en) * | 2018-07-24 | 2021-10-12 | Harman International Industries, Incorporated | Retroactive information searching enabled by neural sensing |
| US10956507B2 (en) * | 2018-08-16 | 2021-03-23 | Rovi Guides, Inc. | Reaction compensated result selection |
| CN109255036B (zh) * | 2018-08-31 | 2020-02-18 | 北京字节跳动网络技术有限公司 | 用于输出信息的方法和装置 |
| US11010561B2 (en) | 2018-09-27 | 2021-05-18 | Apple Inc. | Sentiment prediction from textual data |
| US10839159B2 (en) | 2018-09-28 | 2020-11-17 | Apple Inc. | Named entity normalization in a spoken dialog system |
| US11094327B2 (en) * | 2018-09-28 | 2021-08-17 | Lenovo (Singapore) Pte. Ltd. | Audible input transcription |
| US11462215B2 (en) * | 2018-09-28 | 2022-10-04 | Apple Inc. | Multi-modal inputs for voice commands |
| US11170166B2 (en) | 2018-09-28 | 2021-11-09 | Apple Inc. | Neural typographical error modeling via generative adversarial networks |
| JP7238315B2 (ja) * | 2018-10-02 | 2023-03-14 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置、及び情報処理プログラム |
| US11822888B2 (en) * | 2018-10-05 | 2023-11-21 | Verint Americas Inc. | Identifying relational segments |
| KR20200042627A (ko) * | 2018-10-16 | 2020-04-24 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
| US11475898B2 (en) | 2018-10-26 | 2022-10-18 | Apple Inc. | Low-latency multi-speaker speech recognition |
| CN109346078B (zh) * | 2018-11-09 | 2021-06-18 | 泰康保险集团股份有限公司 | 语音交互方法、装置以及电子设备、计算机可读介质 |
| US10958698B2 (en) | 2018-11-16 | 2021-03-23 | Spotify Ab | Responding to ambiguous play requests |
| US11468071B2 (en) | 2018-11-30 | 2022-10-11 | Rovi Guides, Inc. | Voice query refinement to embed context in a voice query |
| US10839167B2 (en) * | 2018-12-04 | 2020-11-17 | Verizon Patent And Licensing Inc. | Systems and methods for dynamically expanding natural language processing agent capacity |
| CN109671427B (zh) * | 2018-12-10 | 2021-02-02 | 珠海格力电器股份有限公司 | 一种语音控制方法、装置、存储介质及空调 |
| US20200183928A1 (en) * | 2018-12-11 | 2020-06-11 | DeepAssist Inc. | System and Method for Rule-Based Conversational User Interface |
| CN109783608B (zh) * | 2018-12-20 | 2021-01-05 | 出门问问信息科技有限公司 | 目标假设的确定方法、装置、可读存储介质和电子设备 |
| CN109815310B (zh) * | 2018-12-26 | 2020-11-17 | 珠海格力电器股份有限公司 | 一种语音处理方法、装置、存储介质及终端 |
| US11638059B2 (en) | 2019-01-04 | 2023-04-25 | Apple Inc. | Content playback on multiple devices |
| KR102656611B1 (ko) * | 2019-01-29 | 2024-04-12 | 삼성전자주식회사 | 보이스 어시스턴트 서비스를 이용한 컨텐츠 재생 장치 및 그 동작 방법 |
| US11348573B2 (en) | 2019-03-18 | 2022-05-31 | Apple Inc. | Multimodality in digital assistant systems |
| CN110010127A (zh) * | 2019-04-01 | 2019-07-12 | 北京儒博科技有限公司 | 场景切换方法、装置、设备和存储介质 |
| US11715467B2 (en) * | 2019-04-17 | 2023-08-01 | Tempus Labs, Inc. | Collaborative artificial intelligence method and system |
| US11423908B2 (en) | 2019-05-06 | 2022-08-23 | Apple Inc. | Interpreting spoken requests |
| US11307752B2 (en) | 2019-05-06 | 2022-04-19 | Apple Inc. | User configurable task triggers |
| DK201970509A1 (en) | 2019-05-06 | 2021-01-15 | Apple Inc | Spoken notifications |
| US11475884B2 (en) | 2019-05-06 | 2022-10-18 | Apple Inc. | Reducing digital assistant latency when a language is incorrectly determined |
| US11140099B2 (en) | 2019-05-21 | 2021-10-05 | Apple Inc. | Providing message response suggestions |
| US11289073B2 (en) | 2019-05-31 | 2022-03-29 | Apple Inc. | Device text to speech |
| US11496600B2 (en) | 2019-05-31 | 2022-11-08 | Apple Inc. | Remote execution of machine-learned models |
| DK180129B1 (en) | 2019-05-31 | 2020-06-02 | Apple Inc. | USER ACTIVITY SHORTCUT SUGGESTIONS |
| DK201970511A1 (en) | 2019-05-31 | 2021-02-15 | Apple Inc | Voice identification in digital assistant systems |
| US11468890B2 (en) | 2019-06-01 | 2022-10-11 | Apple Inc. | Methods and user interfaces for voice-based control of electronic devices |
| US11360641B2 (en) | 2019-06-01 | 2022-06-14 | Apple Inc. | Increasing the relevance of new available information |
| US11436416B2 (en) | 2019-06-06 | 2022-09-06 | Verint Americas Inc. | Automated conversation review to surface virtual assistant misunderstandings |
| US20220245181A1 (en) * | 2019-07-05 | 2022-08-04 | Semiconductor Energy Laboratory Co., Ltd. | Reading comprehension support system and reading comprehension support method |
| US11100145B2 (en) | 2019-09-11 | 2021-08-24 | International Business Machines Corporation | Dialog-based image retrieval with contextual information |
| WO2021056255A1 (en) | 2019-09-25 | 2021-04-01 | Apple Inc. | Text detection using global geometry estimators |
| WO2021087257A1 (en) * | 2019-10-30 | 2021-05-06 | The Seelig Group LLC | Voice-driven navigation of dynamic audio files |
| KR20210051319A (ko) | 2019-10-30 | 2021-05-10 | 엘지전자 주식회사 | 인공 지능 장치 |
| CN113127609A (zh) * | 2019-12-31 | 2021-07-16 | 华为技术有限公司 | 语音控制方法、装置、服务器、终端设备及存储介质 |
| US11550786B1 (en) | 2020-02-04 | 2023-01-10 | Apttus Corporation | System, method, and computer program for converting a natural language query to a structured database update statement |
| US11615089B1 (en) | 2020-02-04 | 2023-03-28 | Apttus Corporation | System, method, and computer program for converting a natural language query to a structured database query |
| CN111310078B (zh) * | 2020-02-10 | 2023-06-23 | 北京字节跳动网络技术有限公司 | 一种搜索结果展示策略的确定方法及装置 |
| US11721322B2 (en) | 2020-02-28 | 2023-08-08 | Rovi Guides, Inc. | Automated word correction in speech recognition systems |
| CN113448430B (zh) * | 2020-03-26 | 2023-02-28 | 中移(成都)信息通信科技有限公司 | 文本纠错的方法、装置、设备和计算机可读存储介质 |
| US11615080B1 (en) | 2020-04-03 | 2023-03-28 | Apttus Corporation | System, method, and computer program for converting a natural language query to a nested database query |
| US11038934B1 (en) | 2020-05-11 | 2021-06-15 | Apple Inc. | Digital assistant hardware abstraction |
| US11061543B1 (en) | 2020-05-11 | 2021-07-13 | Apple Inc. | Providing relevant data items based on context |
| US11755276B2 (en) | 2020-05-12 | 2023-09-12 | Apple Inc. | Reducing description length based on confidence |
| US11645947B1 (en) | 2020-06-29 | 2023-05-09 | Amazon Technologies, Inc. | Natural language configuration and operation for tangible games |
| US11600263B1 (en) * | 2020-06-29 | 2023-03-07 | Amazon Technologies, Inc. | Natural language configuration and operation for tangible games |
| US11490204B2 (en) | 2020-07-20 | 2022-11-01 | Apple Inc. | Multi-device audio adjustment coordination |
| US11438683B2 (en) | 2020-07-21 | 2022-09-06 | Apple Inc. | User identification using headphones |
| US11847724B2 (en) * | 2020-07-21 | 2023-12-19 | Verint Americas Inc. | Near real-time visualizations for intelligent virtual assistant responses |
| KR102213618B1 (ko) * | 2020-09-03 | 2021-02-09 | 주식회사 웨인힐스벤처스 | 인공지능을 이용하여 사용자의 음성 데이터에 적합한 멀티미디어를 자동으로 생성하는 멀티미디어 자동 생성 시스템 |
| US11776534B1 (en) * | 2020-12-08 | 2023-10-03 | Amazon Technologies, Inc. | Natural language understanding intent adjustment |
| CN112506065A (zh) * | 2020-12-09 | 2021-03-16 | 创维集团有限公司 | 一种基于智能家居智能控制系统的资源播放方法 |
| US11762871B2 (en) | 2021-01-29 | 2023-09-19 | Walmart Apollo, Llc | Methods and apparatus for refining a search |
| US20230004719A1 (en) * | 2021-06-30 | 2023-01-05 | Earley Information Science, Inc. | Digital data processing systems and methods for multi-domain digital content retrieval and generation with dead-end prevention |
| US20230004948A1 (en) * | 2021-06-30 | 2023-01-05 | Earley Information Science, Inc. | Digital data processing systems and methods for commerce-related digital content retrieval and generation |
| US20230394081A1 (en) * | 2022-06-01 | 2023-12-07 | Apple Inc. | Video classification and search system to support customizable video highlights |
| JP7448595B2 (ja) | 2022-07-20 | 2024-03-12 | 楽天グループ株式会社 | 情報処理システム、情報処理方法及びプログラム |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20130174034A1 (en) | 2011-12-30 | 2013-07-04 | Next It Corporation | Providing Variable Responses in a Virtual-Assistant Environment |
Family Cites Families (2792)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8073695B1 (en) | 1992-12-09 | 2011-12-06 | Adrea, LLC | Electronic book with voice emulation features |
| US6122482A (en) | 1995-02-22 | 2000-09-19 | Global Communications, Inc. | Satellite broadcast receiving and distribution system |
| US5737734A (en) * | 1995-09-15 | 1998-04-07 | Infonautics Corporation | Query word relevance adjustment in a search of an information retrieval system |
| US5901287A (en) | 1996-04-01 | 1999-05-04 | The Sabre Group Inc. | Information aggregation and synthesization system |
| US5802515A (en) * | 1996-06-11 | 1998-09-01 | Massachusetts Institute Of Technology | Randomized query generation and document relevance ranking for robust information retrieval from a database |
| MXPA99004611A (es) | 1996-11-18 | 2005-01-25 | Mci Worldcom Inc | Un diseno de sistema de comunicacion. |
| US8479122B2 (en) | 2004-07-30 | 2013-07-02 | Apple Inc. | Gestures for touch sensitive input devices |
| IL140805A0 (en) | 1998-10-02 | 2002-02-10 | Ibm | Structure skeletons for efficient voice navigation through generic hierarchical objects |
| US6163794A (en) | 1998-10-23 | 2000-12-19 | General Magic | Network system extensible by users |
| US7447637B1 (en) | 1998-12-23 | 2008-11-04 | Eastern Investments, Llc | System and method of processing speech within a graphic user interface |
| US7881936B2 (en) | 1998-12-04 | 2011-02-01 | Tegic Communications, Inc. | Multimodal disambiguation of speech recognition |
| US8938688B2 (en) | 1998-12-04 | 2015-01-20 | Nuance Communications, Inc. | Contextual prediction of user words and user actions |
| US6842877B2 (en) | 1998-12-18 | 2005-01-11 | Tangis Corporation | Contextual responses based on automated learning techniques |
| DE60043008D1 (de) | 1999-05-27 | 2009-11-05 | Tegic Comm Inc | Tastatursystem mit automatischer korrektur |
| JP2003505778A (ja) | 1999-05-28 | 2003-02-12 | セーダ インコーポレイテッド | 音声制御ユーザインタフェース用の認識文法作成の特定用途を有する句ベースの対話モデル化 |
| US20140098247A1 (en) | 1999-06-04 | 2014-04-10 | Ip Holdings, Inc. | Home Automation And Smart Home Control Using Mobile Devices And Wireless Enabled Electrical Switches |
| US8065155B1 (en) | 1999-06-10 | 2011-11-22 | Gazdzinski Robert F | Adaptive advertising apparatus and methods |
| AUPQ138199A0 (en) | 1999-07-02 | 1999-07-29 | Telstra R & D Management Pty Ltd | A search system |
| US6862713B1 (en) | 1999-08-31 | 2005-03-01 | International Business Machines Corporation | Interactive process for recognition and evaluation of a partial search query and display of interactive results |
| US7925610B2 (en) | 1999-09-22 | 2011-04-12 | Google Inc. | Determining a meaning of a knowledge item using document-based information |
| US8392188B1 (en) | 1999-11-05 | 2013-03-05 | At&T Intellectual Property Ii, L.P. | Method and system for building a phonotactic model for domain independent speech recognition |
| US9076448B2 (en) | 1999-11-12 | 2015-07-07 | Nuance Communications, Inc. | Distributed real time speech recognition system |
| US7392185B2 (en) | 1999-11-12 | 2008-06-24 | Phoenix Solutions, Inc. | Speech based learning/training system using semantic decoding |
| US7130807B1 (en) | 1999-11-22 | 2006-10-31 | Accenture Llp | Technology sharing during demand and supply planning in a network-based supply chain environment |
| US8271336B2 (en) | 1999-11-22 | 2012-09-18 | Accenture Global Services Gmbh | Increased visibility during order management in a network-based supply chain environment |
| US8032409B1 (en) | 1999-11-22 | 2011-10-04 | Accenture Global Services Limited | Enhanced visibility during installation management in a network-based supply chain environment |
| US7337389B1 (en) | 1999-12-07 | 2008-02-26 | Microsoft Corporation | System and method for annotating an electronic document independently of its content |
| US8271287B1 (en) | 2000-01-14 | 2012-09-18 | Alcatel Lucent | Voice command remote control system |
| US6757362B1 (en) | 2000-03-06 | 2004-06-29 | Avaya Technology Corp. | Personal virtual assistant |
| US8645137B2 (en) | 2000-03-16 | 2014-02-04 | Apple Inc. | Fast, language-independent method for user authentication by voice |
| US8024415B2 (en) | 2001-03-16 | 2011-09-20 | Microsoft Corporation | Priorities generation and management |
| US7917366B1 (en) | 2000-03-24 | 2011-03-29 | Exaudios Technologies | System and method for determining a personal SHG profile by voice analysis |
| JP2004501424A (ja) * | 2000-04-18 | 2004-01-15 | コリア・テレコム | 中心用語辞典を利用した表題語の中心用語抽出方法及びそれを利用した情報検索システム及びその方法 |
| US6766320B1 (en) * | 2000-08-24 | 2004-07-20 | Microsoft Corporation | Search engine with natural language-based robust parsing for user query and relevance feedback learning |
| US6804662B1 (en) * | 2000-10-27 | 2004-10-12 | Plumtree Software, Inc. | Method and apparatus for query and analysis |
| US6915262B2 (en) | 2000-11-30 | 2005-07-05 | Telesector Resources Group, Inc. | Methods and apparatus for performing speech recognition and using speech recognition results |
| US7277853B1 (en) | 2001-03-02 | 2007-10-02 | Mindspeed Technologies, Inc. | System and method for a endpoint detection of speech for improved speech recognition in noisy environments |
| WO2002073598A1 (en) | 2001-03-14 | 2002-09-19 | At & T Corp. | Method for automated sentence planning in a task classification system |
| US7209880B1 (en) | 2001-03-20 | 2007-04-24 | At&T Corp. | Systems and methods for dynamic re-configurable speech recognition |
| CA2446085C (en) | 2001-04-30 | 2010-04-27 | Octave Communications, Inc. | Audio conference platform with dynamic speech detection threshold |
| US6975304B1 (en) | 2001-06-11 | 2005-12-13 | Handspring, Inc. | Interface for processing of an alternate symbol in a computer device |
| US8831949B1 (en) | 2001-06-28 | 2014-09-09 | At&T Intellectual Property I, L.P. | Voice recognition for performing authentication and completing transactions in a systems interface to legacy systems |
| US20050134578A1 (en) | 2001-07-13 | 2005-06-23 | Universal Electronics Inc. | System and methods for interacting with a control environment |
| US7987151B2 (en) | 2001-08-10 | 2011-07-26 | General Dynamics Advanced Info Systems, Inc. | Apparatus and method for problem solving using intelligent agents |
| US11004114B2 (en) | 2001-08-21 | 2021-05-11 | Bookit Oy | Components, system, platform and methodologies for mediating and provisioning services and product delivery and orchestrating, mediating and authenticating transactions and interactions |
| US7920682B2 (en) | 2001-08-21 | 2011-04-05 | Byrne William J | Dynamic interactive voice interface |
| US7403938B2 (en) | 2001-09-24 | 2008-07-22 | Iac Search & Media, Inc. | Natural language query processing |
| US6985865B1 (en) | 2001-09-26 | 2006-01-10 | Sprint Spectrum L.P. | Method and system for enhanced response to voice commands in a voice command platform |
| US7324947B2 (en) | 2001-10-03 | 2008-01-29 | Promptu Systems Corporation | Global speech user interface |
| ITFI20010199A1 (it) | 2001-10-22 | 2003-04-22 | Riccardo Vieri | Sistema e metodo per trasformare in voce comunicazioni testuali ed inviarle con una connessione internet a qualsiasi apparato telefonico |
| US7913185B1 (en) | 2001-10-25 | 2011-03-22 | Adobe Systems Incorporated | Graphical insertion of JavaScript pop-up menus |
| US20030101054A1 (en) | 2001-11-27 | 2003-05-29 | Ncc, Llc | Integrated system and method for electronic speech recognition and transcription |
| US9374451B2 (en) | 2002-02-04 | 2016-06-21 | Nokia Technologies Oy | System and method for multimodal short-cuts to digital services |
| US8374879B2 (en) | 2002-02-04 | 2013-02-12 | Microsoft Corporation | Systems and methods for managing interactions from multiple speech-enabled applications |
| US7221287B2 (en) | 2002-03-05 | 2007-05-22 | Triangle Software Llc | Three-dimensional traffic report |
| US7707221B1 (en) | 2002-04-03 | 2010-04-27 | Yahoo! Inc. | Associating and linking compact disc metadata |
| US7869998B1 (en) | 2002-04-23 | 2011-01-11 | At&T Intellectual Property Ii, L.P. | Voice-enabled dialog system |
| US8135115B1 (en) | 2006-11-22 | 2012-03-13 | Securus Technologies, Inc. | System and method for multi-channel recording |
| US7221937B2 (en) | 2002-05-06 | 2007-05-22 | Research In Motion Limited | Event reminder method |
| US8611919B2 (en) | 2002-05-23 | 2013-12-17 | Wounder Gmbh., Llc | System, method, and computer program product for providing location based services and mobile e-commerce |
| US7398209B2 (en) | 2002-06-03 | 2008-07-08 | Voicebox Technologies, Inc. | Systems and methods for responding to natural language speech utterance |
| US8219608B2 (en) | 2002-06-20 | 2012-07-10 | Koninklijke Philips Electronics N.V. | Scalable architecture for web services |
| US7079713B2 (en) | 2002-06-28 | 2006-07-18 | Microsoft Corporation | Method and system for displaying and linking ink objects with recognized text and objects |
| AU2003280474A1 (en) | 2002-06-28 | 2004-01-19 | Conceptual Speech, Llc | Multi-phoneme streamer and knowledge representation speech recognition system and method |
| US6876727B2 (en) | 2002-07-24 | 2005-04-05 | Sbc Properties, Lp | Voice over IP method for developing interactive voice response system |
| US7027842B2 (en) | 2002-09-24 | 2006-04-11 | Bellsouth Intellectual Property Corporation | Apparatus and method for providing hands-free operation of a device |
| US9342829B2 (en) | 2002-10-01 | 2016-05-17 | Andrew H B Zhou | Systems and methods for mobile application, wearable application, transactional messaging, calling, digital multimedia capture and payment transactions |
| US7822611B2 (en) | 2002-11-12 | 2010-10-26 | Bezar David B | Speaker intent analysis system |
| US8972266B2 (en) | 2002-11-12 | 2015-03-03 | David Bezar | User intent analysis extent of speaker intent analysis system |
| US8005919B2 (en) | 2002-11-18 | 2011-08-23 | Aol Inc. | Host-based intelligent results related to a character stream |
| US8661112B2 (en) | 2002-12-20 | 2014-02-25 | Nuance Communications, Inc. | Customized interactive voice response menus |
| US8064753B2 (en) | 2003-03-05 | 2011-11-22 | Freeman Alan D | Multi-feature media article and method for manufacture of same |
| US8244712B2 (en) | 2003-03-18 | 2012-08-14 | Apple Inc. | Localized viewing of file system names |
| US7623892B2 (en) | 2003-04-02 | 2009-11-24 | Palm, Inc. | System and method for enabling a person to switch use of computing devices |
| US7941009B2 (en) | 2003-04-08 | 2011-05-10 | The Penn State Research Foundation | Real-time computerized annotation of pictures |
| US8224757B2 (en) | 2003-04-15 | 2012-07-17 | Sap Ag | Curriculum management system |
| US7669134B1 (en) | 2003-05-02 | 2010-02-23 | Apple Inc. | Method and apparatus for displaying information during an instant messaging session |
| US7407384B2 (en) | 2003-05-29 | 2008-08-05 | Robert Bosch Gmbh | System, method and device for language education through a voice portal server |
| US7496230B2 (en) | 2003-06-05 | 2009-02-24 | International Business Machines Corporation | System and method for automatic natural language translation of embedded text regions in images during information transfer |
| US8311835B2 (en) | 2003-08-29 | 2012-11-13 | Microsoft Corporation | Assisted multi-modal dialogue |
| US7539619B1 (en) | 2003-09-05 | 2009-05-26 | Spoken Translation Ind. | Speech-enabled language translation system and method enabling interactive user supervision of translation and speech recognition accuracy |
| US7917364B2 (en) | 2003-09-23 | 2011-03-29 | Hewlett-Packard Development Company, L.P. | System and method using multiple automated speech recognition engines |
| US7386440B2 (en) | 2003-10-01 | 2008-06-10 | International Business Machines Corporation | Method, system, and apparatus for natural language mixed-initiative dialogue processing |
| JP4413867B2 (ja) | 2003-10-03 | 2010-02-10 | 旭化成株式会社 | データ処理装置及びデータ処理装置制御プログラム |
| US20090018918A1 (en) | 2004-11-04 | 2009-01-15 | Manyworlds Inc. | Influence-based Social Network Advertising |
| JP3734815B2 (ja) | 2003-12-10 | 2006-01-11 | 任天堂株式会社 | 携帯ゲーム装置及びゲームプログラム |
| US7427024B1 (en) | 2003-12-17 | 2008-09-23 | Gazdzinski Mark J | Chattel management apparatus and methods |
| CN1898721B (zh) | 2003-12-26 | 2011-12-07 | 株式会社建伍 | 设备控制装置以及设备控制方法 |
| US8160883B2 (en) | 2004-01-10 | 2012-04-17 | Microsoft Corporation | Focus tracking in dialogs |
| US8281339B1 (en) | 2004-01-12 | 2012-10-02 | United Video Properties, Inc. | Customizable flip and browse overlays in an interactive television system |
| US7433876B2 (en) | 2004-02-23 | 2008-10-07 | Radar Networks, Inc. | Semantic web portal and platform |
| US8654936B1 (en) | 2004-02-24 | 2014-02-18 | At&T Intellectual Property I, L.P. | Home control, monitoring and communication system using remote voice commands |
| US7983835B2 (en) | 2004-11-03 | 2011-07-19 | Lagassey Paul J | Modular intelligent transportation system |
| US8713418B2 (en) | 2004-04-12 | 2014-04-29 | Google Inc. | Adding value to a rendered document |
| US20060041926A1 (en) * | 2004-04-30 | 2006-02-23 | Vulcan Inc. | Voice control of multimedia content |
| US8130929B2 (en) | 2004-05-25 | 2012-03-06 | Galileo Processing, Inc. | Methods for obtaining complex data in an interactive voice response system |
| US7873149B2 (en) | 2004-06-01 | 2011-01-18 | Verizon Business Global Llc | Systems and methods for gathering information |
| US8224649B2 (en) | 2004-06-02 | 2012-07-17 | International Business Machines Corporation | Method and apparatus for remote command, control and diagnostics of systems using conversational or audio interface |
| US8095364B2 (en) | 2004-06-02 | 2012-01-10 | Tegic Communications, Inc. | Multimodal disambiguation of speech recognition |
| US8321786B2 (en) | 2004-06-17 | 2012-11-27 | Apple Inc. | Routine and interface for correcting electronic text |
| US8099395B2 (en) | 2004-06-24 | 2012-01-17 | Oracle America, Inc. | System level identity object |
| US8589156B2 (en) | 2004-07-12 | 2013-11-19 | Hewlett-Packard Development Company, L.P. | Allocation of speech recognition tasks and combination of results thereof |
| US8036893B2 (en) | 2004-07-22 | 2011-10-11 | Nuance Communications, Inc. | Method and system for identifying and correcting accent-induced speech recognition difficulties |
| US7936861B2 (en) | 2004-07-23 | 2011-05-03 | At&T Intellectual Property I, L.P. | Announcement system and method of use |
| US7603349B1 (en) | 2004-07-29 | 2009-10-13 | Yahoo! Inc. | User interfaces for search systems using in-line contextual queries |
| US8381135B2 (en) | 2004-07-30 | 2013-02-19 | Apple Inc. | Proximity detector in handheld device |
| US7728821B2 (en) | 2004-08-06 | 2010-06-01 | Touchtable, Inc. | Touch detecting interactive display |
| US7869999B2 (en) | 2004-08-11 | 2011-01-11 | Nuance Communications, Inc. | Systems and methods for selecting from multiple phonectic transcriptions for text-to-speech synthesis |
| US8407239B2 (en) | 2004-08-13 | 2013-03-26 | Google Inc. | Multi-stage query processing system and method for use with tokenspace repository |
| US7895531B2 (en) | 2004-08-16 | 2011-02-22 | Microsoft Corporation | Floating command object |
| US8117542B2 (en) | 2004-08-16 | 2012-02-14 | Microsoft Corporation | User interface for displaying selectable software functionality controls that are contextually relevant to a selected object |
| US7912699B1 (en) | 2004-08-23 | 2011-03-22 | At&T Intellectual Property Ii, L.P. | System and method of lattice-based search for spoken utterance retrieval |
| US20060048055A1 (en) | 2004-08-25 | 2006-03-02 | Jun Wu | Fault-tolerant romanized input method for non-roman characters |
| US20060059424A1 (en) | 2004-09-15 | 2006-03-16 | Petri Jonah W | Real-time data localization |
| US7936863B2 (en) | 2004-09-30 | 2011-05-03 | Avaya Inc. | Method and apparatus for providing communication tasks in a workflow |
| US8107401B2 (en) | 2004-09-30 | 2012-01-31 | Avaya Inc. | Method and apparatus for providing a virtual assistant to a communication participant |
| US8744852B1 (en) | 2004-10-01 | 2014-06-03 | Apple Inc. | Spoken interfaces |
| US7734566B2 (en) * | 2004-11-01 | 2010-06-08 | Sap Ag | Information retrieval method with efficient similarity search capability |
| US20060101504A1 (en) * | 2004-11-09 | 2006-05-11 | Veveo.Tv, Inc. | Method and system for performing searches for television content and channels using a non-intrusive television interface and with reduced text input |
| US7885844B1 (en) | 2004-11-16 | 2011-02-08 | Amazon Technologies, Inc. | Automatically generating task recommendations for human task performers |
| US8498865B1 (en) | 2004-11-30 | 2013-07-30 | Vocera Communications, Inc. | Speech recognition system and method using group call statistics |
| GB0426347D0 (en) | 2004-12-01 | 2005-01-05 | Ibm | Methods, apparatus and computer programs for automatic speech recognition |
| US20060129531A1 (en) | 2004-12-09 | 2006-06-15 | International Business Machines Corporation | Method and system for suggesting search engine keywords |
| US7401077B2 (en) | 2004-12-21 | 2008-07-15 | Palo Alto Research Center Incorporated | Systems and methods for using and constructing user-interest sensitive indicators of search results |
| US7987244B1 (en) | 2004-12-30 | 2011-07-26 | At&T Intellectual Property Ii, L.P. | Network repository for voice fonts |
| US8478589B2 (en) | 2005-01-05 | 2013-07-02 | At&T Intellectual Property Ii, L.P. | Library of existing spoken dialog data for use in generating new natural language spoken dialog systems |
| US8069422B2 (en) | 2005-01-10 | 2011-11-29 | Samsung Electronics, Co., Ltd. | Contextual task recommendation system and method for determining user's context and suggesting tasks |
| US8150872B2 (en) | 2005-01-24 | 2012-04-03 | The Intellection Group, Inc. | Multimodal natural language query system for processing and analyzing voice and proximity-based queries |
| US7873654B2 (en) | 2005-01-24 | 2011-01-18 | The Intellection Group, Inc. | Multimodal natural language query system for processing and analyzing voice and proximity-based queries |
| US8228299B1 (en) | 2005-01-27 | 2012-07-24 | Singleton Technology, Llc | Transaction automation and archival system using electronic contract and disclosure units |
| EP1849099B1 (en) | 2005-02-03 | 2014-05-07 | Apple Inc. | Recommender system for identifying a new set of media items responsive to an input set of media items and knowledge base metrics |
| US7895039B2 (en) | 2005-02-04 | 2011-02-22 | Vocollect, Inc. | Methods and systems for optimizing model adaptation for a speech recognition system |
| US8200495B2 (en) | 2005-02-04 | 2012-06-12 | Vocollect, Inc. | Methods and systems for considering information about an expected response when performing speech recognition |
| US8577683B2 (en) | 2008-08-15 | 2013-11-05 | Thomas Majchrowski & Associates, Inc. | Multipurpose media players |
| US7461059B2 (en) | 2005-02-23 | 2008-12-02 | Microsoft Corporation | Dynamically updated search results based upon continuously-evolving search query that is based at least in part upon phrase suggestion, search engine uses previous result sets performing additional search tasks |
| WO2006090732A1 (ja) | 2005-02-24 | 2006-08-31 | Fuji Xerox Co., Ltd. | 単語翻訳装置、翻訳方法および翻訳プログラム |
| US7933399B2 (en) | 2005-03-22 | 2011-04-26 | At&T Intellectual Property I, L.P. | System and method for utilizing virtual agents in an interactive voice response application |
| US7925525B2 (en) | 2005-03-25 | 2011-04-12 | Microsoft Corporation | Smart reminders |
| US8346757B1 (en) * | 2005-03-28 | 2013-01-01 | Google Inc. | Determining query terms of little significance |
| US9471566B1 (en) | 2005-04-14 | 2016-10-18 | Oracle America, Inc. | Method and apparatus for converting phonetic language input to written language output |
| US8260617B2 (en) | 2005-04-18 | 2012-09-04 | Nuance Communications, Inc. | Automating input when testing voice-enabled applications |
| US7996589B2 (en) | 2005-04-22 | 2011-08-09 | Microsoft Corporation | Auto-suggest lists and handwritten input |
| US7684990B2 (en) | 2005-04-29 | 2010-03-23 | Nuance Communications, Inc. | Method and apparatus for multiple value confirmation and correction in spoken dialog systems |
| US8046374B1 (en) | 2005-05-06 | 2011-10-25 | Symantec Corporation | Automatic training of a database intrusion detection system |
| US7886233B2 (en) | 2005-05-23 | 2011-02-08 | Nokia Corporation | Electronic text input involving word completion functionality for predicting word candidates for partial word inputs |
| US8041570B2 (en) | 2005-05-31 | 2011-10-18 | Robert Bosch Corporation | Dialogue management using scripts |
| US8477323B2 (en) | 2005-06-22 | 2013-07-02 | Xerox Corporation | System and method for conveying rendering intents |
| US8024195B2 (en) | 2005-06-27 | 2011-09-20 | Sensory, Inc. | Systems and methods of performing speech recognition using historical information |
| US8396715B2 (en) | 2005-06-28 | 2013-03-12 | Microsoft Corporation | Confidence threshold tuning |
| GB0513225D0 (en) | 2005-06-29 | 2005-08-03 | Ibm | Method and system for building and contracting a linguistic dictionary |
| US7873523B2 (en) | 2005-06-30 | 2011-01-18 | Microsoft Corporation | Computer implemented method of analyzing recognition results between a user and an interactive application utilizing inferred values instead of transcribed speech |
| US7885390B2 (en) | 2005-07-01 | 2011-02-08 | Soleo Communications, Inc. | System and method for multi-modal personal communication services |
| US7881283B2 (en) | 2005-07-13 | 2011-02-01 | Research In Motion Limited | Customizability of event notification on telephony-enabled devices |
| US9094636B1 (en) | 2005-07-14 | 2015-07-28 | Zaxcom, Inc. | Systems and methods for remotely controlling local audio devices in a virtual wireless multitrack recording system |
| US7912720B1 (en) | 2005-07-20 | 2011-03-22 | At&T Intellectual Property Ii, L.P. | System and method for building emotional machines |
| US7640160B2 (en) | 2005-08-05 | 2009-12-29 | Voicebox Technologies, Inc. | Systems and methods for responding to natural language speech utterance |
| US8694322B2 (en) | 2005-08-05 | 2014-04-08 | Microsoft Corporation | Selective confirmation for execution of a voice activated user interface |
| US7844037B2 (en) | 2005-08-08 | 2010-11-30 | Palm, Inc. | Method and device for enabling message responses to incoming phone calls |
| CA2618623C (en) | 2005-08-09 | 2015-01-06 | Mobilevoicecontrol, Inc. | Control center for a voice controlled wireless communication device system |
| US7620549B2 (en) | 2005-08-10 | 2009-11-17 | Voicebox Technologies, Inc. | System and method of supporting adaptive misrecognition in conversational speech |
| EP1915677A2 (en) | 2005-08-11 | 2008-04-30 | Philips Intellectual Property & Standards GmbH | Method of driving an interactive system and user interface system |
| US7949529B2 (en) | 2005-08-29 | 2011-05-24 | Voicebox Technologies, Inc. | Mobile systems and methods of supporting natural language human-machine interactions |
| WO2007027989A2 (en) | 2005-08-31 | 2007-03-08 | Voicebox Technologies, Inc. | Dynamic speech sharpening |
| US8265939B2 (en) | 2005-08-31 | 2012-09-11 | Nuance Communications, Inc. | Hierarchical methods and apparatus for extracting user intent from spoken utterances |
| US8677377B2 (en) | 2005-09-08 | 2014-03-18 | Apple Inc. | Method and apparatus for building an intelligent automated assistant |
| US8819659B2 (en) | 2005-09-14 | 2014-08-26 | Millennial Media, Inc. | Mobile search service instant activation |
| US8688671B2 (en) | 2005-09-14 | 2014-04-01 | Millennial Media | Managing sponsored content based on geographic region |
| US8635073B2 (en) | 2005-09-14 | 2014-01-21 | At&T Intellectual Property I, L.P. | Wireless multimodal voice browser for wireline-based IPTV services |
| US20070060114A1 (en) | 2005-09-14 | 2007-03-15 | Jorey Ramer | Predictive text completion for a mobile communication facility |
| US7505784B2 (en) | 2005-09-26 | 2009-03-17 | Barbera Melvin A | Safety features for portable electronic device |
| US7992085B2 (en) | 2005-09-26 | 2011-08-02 | Microsoft Corporation | Lightweight reference user interface |
| US8270933B2 (en) | 2005-09-26 | 2012-09-18 | Zoomsafer, Inc. | Safety features for portable electronic device |
| US9009046B1 (en) | 2005-09-27 | 2015-04-14 | At&T Intellectual Property Ii, L.P. | System and method for disambiguating multiple intents in a natural language dialog system |
| US7633076B2 (en) | 2005-09-30 | 2009-12-15 | Apple Inc. | Automated response to and sensing of user activity in portable devices |
| JP4908094B2 (ja) | 2005-09-30 | 2012-04-04 | 株式会社リコー | 情報処理システム、情報処理方法及び情報処理プログラム |
| US7930168B2 (en) | 2005-10-04 | 2011-04-19 | Robert Bosch Gmbh | Natural language processing of disfluent sentences |
| US8401163B1 (en) | 2005-10-18 | 2013-03-19 | Callwave Communications, Llc | Methods and systems for call processing and for providing call progress status over a network |
| US20070094024A1 (en) | 2005-10-22 | 2007-04-26 | International Business Machines Corporation | System and method for improving text input in a shorthand-on-keyboard interface |
| US7395959B2 (en) | 2005-10-27 | 2008-07-08 | International Business Machines Corporation | Hands free contact database information entry at a communication device |
| KR100755678B1 (ko) | 2005-10-28 | 2007-09-05 | 삼성전자주식회사 | 개체명 검출 장치 및 방법 |
| US9026915B1 (en) | 2005-10-31 | 2015-05-05 | At&T Intellectual Property Ii, L.P. | System and method for creating a presentation using natural language |
| US7936339B2 (en) | 2005-11-01 | 2011-05-03 | Leapfrog Enterprises, Inc. | Method and system for invoking computer functionality by interaction with dynamically generated interface regions of a writing surface |
| US8042048B2 (en) | 2005-11-17 | 2011-10-18 | Att Knowledge Ventures, L.P. | System and method for home automation |
| US8055707B2 (en) | 2005-11-30 | 2011-11-08 | Alcatel Lucent | Calendar interface for digital communications |
| US9330668B2 (en) | 2005-12-20 | 2016-05-03 | International Business Machines Corporation | Sharing voice application processing via markup |
| US8234494B1 (en) | 2005-12-21 | 2012-07-31 | At&T Intellectual Property Ii, L.P. | Speaker-verification digital signatures |
| US7996228B2 (en) | 2005-12-22 | 2011-08-09 | Microsoft Corporation | Voice initiated network operations |
| US7685144B1 (en) | 2005-12-29 | 2010-03-23 | Google Inc. | Dynamically autocompleting a data entry |
| US7890330B2 (en) | 2005-12-30 | 2011-02-15 | Alpine Electronics Inc. | Voice recording tool for creating database used in text to speech synthesis system |
| KR101265263B1 (ko) | 2006-01-02 | 2013-05-16 | 삼성전자주식회사 | 발음 기호를 이용한 문자열 매칭 방법 및 시스템과 그방법을 기록한 컴퓨터 판독 가능한 기록매체 |
| US8006180B2 (en) | 2006-01-10 | 2011-08-23 | Mircrosoft Corporation | Spell checking in network browser based applications |
| US7644373B2 (en) * | 2006-01-23 | 2010-01-05 | Microsoft Corporation | User interface for viewing clusters of images |
| US9600568B2 (en) | 2006-01-23 | 2017-03-21 | Veritas Technologies Llc | Methods and systems for automatic evaluation of electronic discovery review and productions |
| US9275129B2 (en) | 2006-01-23 | 2016-03-01 | Symantec Corporation | Methods and systems to efficiently find similar and near-duplicate emails and files |
| US7929805B2 (en) | 2006-01-31 | 2011-04-19 | The Penn State Research Foundation | Image-based CAPTCHA generation system |
| US8352183B2 (en) | 2006-02-04 | 2013-01-08 | Microsoft Corporation | Maps for social networking and geo blogs |
| US9101279B2 (en) | 2006-02-15 | 2015-08-11 | Virtual Video Reality By Ritchey, Llc | Mobile user borne brain activity data and surrounding environment data correlation system |
| US7983910B2 (en) | 2006-03-03 | 2011-07-19 | International Business Machines Corporation | Communicating across voice and text channels with emotion preservation |
| US9250703B2 (en) | 2006-03-06 | 2016-02-02 | Sony Computer Entertainment Inc. | Interface with gaze detection and voice input |
| US8532678B2 (en) | 2006-03-08 | 2013-09-10 | Tomtom International B.V. | Portable GPS navigation device |
| JP4734155B2 (ja) | 2006-03-24 | 2011-07-27 | 株式会社東芝 | 音声認識装置、音声認識方法および音声認識プログラム |
| US7930183B2 (en) | 2006-03-29 | 2011-04-19 | Microsoft Corporation | Automatic identification of dialog timing problems for an interactive speech dialog application using speech log data indicative of cases of barge-in and timing problems |
| US8018431B1 (en) | 2006-03-29 | 2011-09-13 | Amazon Technologies, Inc. | Page turner for handheld electronic book reader device |
| US8244545B2 (en) | 2006-03-30 | 2012-08-14 | Microsoft Corporation | Dialog repair based on discrepancies between user model predictions and speech recognition results |
| US7283072B1 (en) | 2006-03-30 | 2007-10-16 | International Business Machines Corporation | Methods of creating a dictionary for data compression |
| US7996769B2 (en) | 2006-04-05 | 2011-08-09 | Research In Motion Limited | Handheld electronic device and method for performing spell checking during text entry and for providing a spell-check learning feature |
| US8046363B2 (en) | 2006-04-13 | 2011-10-25 | Lg Electronics Inc. | System and method for clustering documents |
| KR100744380B1 (ko) | 2006-04-17 | 2007-07-30 | 삼성전자주식회사 | 외부 디스플레이 장치로 영상을 출력할 수 있는 기능을구비한 이동 단말기에서의 디스플레이 제어 장치 및 방법 |
| US8077153B2 (en) | 2006-04-19 | 2011-12-13 | Microsoft Corporation | Precise selection techniques for multi-touch screens |
| US8103947B2 (en) | 2006-04-20 | 2012-01-24 | Timecove Corporation | Collaborative system and method for generating biographical accounts |
| US8214213B1 (en) | 2006-04-27 | 2012-07-03 | At&T Intellectual Property Ii, L.P. | Speech recognition based on pronunciation modeling |
| US9020804B2 (en) | 2006-05-10 | 2015-04-28 | Xerox Corporation | Method for aligning sentences at the word level enforcing selective contiguity constraints |
| US7523108B2 (en) | 2006-06-07 | 2009-04-21 | Platformation, Inc. | Methods and apparatus for searching with awareness of geography and languages |
| US8332218B2 (en) | 2006-06-13 | 2012-12-11 | Nuance Communications, Inc. | Context-based grammars for automated speech recognition |
| US9219767B2 (en) | 2006-06-22 | 2015-12-22 | Linkedin Corporation | Recording and indicating preferences |
| US20110077943A1 (en) | 2006-06-26 | 2011-03-31 | Nec Corporation | System for generating language model, method of generating language model, and program for language model generation |
| US8050500B1 (en) | 2006-07-06 | 2011-11-01 | Senapps, LLC | Recognition method and system |
| WO2008004486A1 (fr) | 2006-07-06 | 2008-01-10 | Panasonic Corporation | Dispositif d'entrée vocale |
| US20080022208A1 (en) | 2006-07-18 | 2008-01-24 | Creative Technology Ltd | System and method for personalizing the user interface of audio rendering devices |
| US7646296B2 (en) | 2006-08-11 | 2010-01-12 | Honda Motor Co., Ltd. | Method and system for receiving and sending navigational data via a wireless messaging service on a navigation system |
| US8134481B2 (en) | 2006-08-11 | 2012-03-13 | Honda Motor Co., Ltd. | Method and system for receiving and sending navigational data via a wireless messaging service on a navigation system |
| US9071701B2 (en) | 2006-08-31 | 2015-06-30 | Qualcomm Incorporated | Using wireless characteristic to trigger generation of position fix |
| US8170790B2 (en) | 2006-09-05 | 2012-05-01 | Garmin Switzerland Gmbh | Apparatus for switching navigation device mode |
| US7996792B2 (en) | 2006-09-06 | 2011-08-09 | Apple Inc. | Voicemail manager for portable multifunction device |
| US8589869B2 (en) | 2006-09-07 | 2013-11-19 | Wolfram Alpha Llc | Methods and systems for determining a formula |
| US9318108B2 (en) | 2010-01-18 | 2016-04-19 | Apple Inc. | Intelligent automated assistant |
| TWI322610B (en) | 2006-09-08 | 2010-03-21 | Htc Corp | Handheld electronic device |
| US8014308B2 (en) | 2006-09-28 | 2011-09-06 | Microsoft Corporation | Hardware architecture for cloud services |
| US7528713B2 (en) | 2006-09-28 | 2009-05-05 | Ektimisi Semiotics Holdings, Llc | Apparatus and method for providing a task reminder based on travel history |
| US7930197B2 (en) | 2006-09-28 | 2011-04-19 | Microsoft Corporation | Personal data mining |
| US7649454B2 (en) | 2006-09-28 | 2010-01-19 | Ektimisi Semiotics Holdings, Llc | System and method for providing a task reminder based on historical travel information |
| US8214208B2 (en) | 2006-09-28 | 2012-07-03 | Reqall, Inc. | Method and system for sharing portable voice profiles |
| US7945470B1 (en) | 2006-09-29 | 2011-05-17 | Amazon Technologies, Inc. | Facilitating performance of submitted tasks by mobile task performers |
| JP2008092269A (ja) | 2006-10-02 | 2008-04-17 | Matsushita Electric Ind Co Ltd | ハンズフリー通話装置 |
| US7937075B2 (en) | 2006-10-06 | 2011-05-03 | At&T Intellectual Property I, L.P. | Mode changing of a mobile communications device and vehicle settings when the mobile communications device is in proximity to a vehicle |
| US8434133B2 (en) | 2006-10-06 | 2013-04-30 | Fmr Llc | Single-party, secure multi-channel authentication |
| JP2008096541A (ja) | 2006-10-06 | 2008-04-24 | Canon Inc | 音声処理装置およびその制御方法 |
| US8073681B2 (en) | 2006-10-16 | 2011-12-06 | Voicebox Technologies, Inc. | System and method for a cooperative conversational voice user interface |
| US8972268B2 (en) | 2008-04-15 | 2015-03-03 | Facebook, Inc. | Enhanced speech-to-speech translation system and methods for adding a new word |
| US8255216B2 (en) | 2006-10-30 | 2012-08-28 | Nuance Communications, Inc. | Speech recognition of character sequences |
| WO2008061903A1 (en) | 2006-11-22 | 2008-05-29 | Agfa Healthcate Inc. | Method and system for client / server distributed image processing |
| US8055502B2 (en) | 2006-11-28 | 2011-11-08 | General Motors Llc | Voice dialing using a rejection reference |
| US9830912B2 (en) | 2006-11-30 | 2017-11-28 | Ashwin P Rao | Speak and touch auto correction interface |
| GB0623915D0 (en) | 2006-11-30 | 2007-01-10 | Ibm | Phonetic decoding and concatentive speech synthesis |
| US8731610B2 (en) | 2006-12-13 | 2014-05-20 | Samsung Electronics Co., Ltd. | Method for adaptive user interface in mobile devices |
| US8010367B2 (en) | 2006-12-22 | 2011-08-30 | Nuance Communications, Inc. | Spoken free-form passwords for light-weight speaker verification using standard speech recognition engines |
| US8019271B1 (en) | 2006-12-29 | 2011-09-13 | Nextel Communications, Inc. | Methods and systems for presenting information on mobile devices |
| US7865817B2 (en) | 2006-12-29 | 2011-01-04 | Amazon Technologies, Inc. | Invariant referencing in digital works |
| US8060824B2 (en) | 2007-01-05 | 2011-11-15 | Starz Entertainment Llc | User interface for a multimedia service |
| EP2099652B1 (en) | 2007-01-05 | 2016-11-16 | Visteon Global Technologies, Inc. | System and method for customized audio prompting |
| US7889185B2 (en) | 2007-01-05 | 2011-02-15 | Apple Inc. | Method, system, and graphical user interface for activating hyperlinks |
| US7889184B2 (en) | 2007-01-05 | 2011-02-15 | Apple Inc. | Method, system and graphical user interface for displaying hyperlink information |
| US8391844B2 (en) | 2007-01-07 | 2013-03-05 | Apple Inc. | Voicemail systems and methods |
| EP2119205A2 (en) | 2007-01-09 | 2009-11-18 | Spinvox Limited | Detection of unanswered call in order to give calling party the option to alternatively dictate a text message for delivery to the called party |
| US8056070B2 (en) | 2007-01-10 | 2011-11-08 | Goller Michael D | System and method for modifying and updating a speech recognition program |
| US7912724B1 (en) | 2007-01-18 | 2011-03-22 | Adobe Systems Incorporated | Audio comparison using phoneme matching |
| US9524355B2 (en) | 2007-01-22 | 2016-12-20 | Mozy, Inc. | Methods for delivering task-related digital content based on task-oriented user activity |
| JP2008185805A (ja) | 2007-01-30 | 2008-08-14 | Internatl Business Mach Corp <Ibm> | 高品質の合成音声を生成する技術 |
| US7818176B2 (en) | 2007-02-06 | 2010-10-19 | Voicebox Technologies, Inc. | System and method for selecting and presenting advertisements based on natural language processing of voice-based input |
| WO2008098029A1 (en) | 2007-02-06 | 2008-08-14 | Vidoop, Llc. | System and method for authenticating a user to a computer system |
| US8078978B2 (en) | 2007-10-19 | 2011-12-13 | Google Inc. | Method and system for predicting text |
| US7912828B2 (en) | 2007-02-23 | 2011-03-22 | Apple Inc. | Pattern searching methods and apparatuses |
| EP2135231A4 (en) | 2007-03-01 | 2014-10-15 | Adapx Inc | SYSTEM AND METHOD FOR DYNAMIC LEARNING |
| TWI321313B (en) | 2007-03-03 | 2010-03-01 | Ind Tech Res Inst | Apparatus and method to reduce recognization errors through context relations among dialogue turns |
| US8886540B2 (en) | 2007-03-07 | 2014-11-11 | Vlingo Corporation | Using speech recognition results based on an unstructured language model in a mobile communication facility application |
| US20110060587A1 (en) | 2007-03-07 | 2011-03-10 | Phillips Michael S | Command and control utilizing ancillary information in a mobile voice-to-speech application |
| US20110054894A1 (en) | 2007-03-07 | 2011-03-03 | Phillips Michael S | Speech recognition through the collection of contact information in mobile dictation application |
| US20080221884A1 (en) | 2007-03-07 | 2008-09-11 | Cerra Joseph P | Mobile environment speech processing facility |
| US8635243B2 (en) | 2007-03-07 | 2014-01-21 | Research In Motion Limited | Sending a communications header with voice recording to send metadata for use in speech recognition, formatting, and search mobile search application |
| US8949266B2 (en) | 2007-03-07 | 2015-02-03 | Vlingo Corporation | Multiple web-based content category searching in mobile search application |
| US8838457B2 (en) | 2007-03-07 | 2014-09-16 | Vlingo Corporation | Using results of unstructured language model based speech recognition to control a system-level function of a mobile communications facility |
| US8219406B2 (en) | 2007-03-15 | 2012-07-10 | Microsoft Corporation | Speech-centric multimodal user interface design in mobile technology |
| CN101636784B (zh) | 2007-03-20 | 2011-12-28 | 富士通株式会社 | 语音识别系统及语音识别方法 |
| US8696364B2 (en) | 2007-03-28 | 2014-04-15 | Breakthrough Performancetech, Llc | Systems and methods for computerized interactive training |
| JP4838351B2 (ja) | 2007-03-29 | 2011-12-14 | パナソニック株式会社 | キーワード抽出装置 |
| US8775931B2 (en) | 2007-03-30 | 2014-07-08 | Blackberry Limited | Spell check function that applies a preference to a spell check algorithm based upon extensive user selection of spell check results generated by the algorithm, and associated handheld electronic device |
| US8977255B2 (en) | 2007-04-03 | 2015-03-10 | Apple Inc. | Method and system for operating a multi-function portable electronic device using voice-activation |
| CN101286094A (zh) | 2007-04-10 | 2008-10-15 | 谷歌股份有限公司 | 多模式输入法编辑器 |
| US8001138B2 (en) * | 2007-04-11 | 2011-08-16 | Microsoft Corporation | Word relationship driven search |
| US8695074B2 (en) | 2007-04-26 | 2014-04-08 | Microsoft Corporation | Pre-authenticated calling for voice applications |
| EP2140341B1 (en) | 2007-04-26 | 2012-04-25 | Ford Global Technologies, LLC | Emotive advisory system and method |
| US8005664B2 (en) | 2007-04-30 | 2011-08-23 | Tachyon Technologies Pvt. Ltd. | System, method to generate transliteration and method for generating decision tree to obtain transliteration |
| US7983915B2 (en) | 2007-04-30 | 2011-07-19 | Sonic Foundry, Inc. | Audio content search engine |
| US7912289B2 (en) | 2007-05-01 | 2011-03-22 | Microsoft Corporation | Image text replacement |
| US8032383B1 (en) | 2007-05-04 | 2011-10-04 | Foneweb, Inc. | Speech controlled services and devices using internet |
| US7899666B2 (en) | 2007-05-04 | 2011-03-01 | Expert System S.P.A. | Method and system for automatically extracting relations between concepts included in text |
| JP5296778B2 (ja) | 2007-05-15 | 2013-09-25 | ティヴォ インク | マルチメディア・コンテンツの検索および録画予約システム |
| US8886521B2 (en) | 2007-05-17 | 2014-11-11 | Redstart Systems, Inc. | System and method of dictation for a speech recognition command system |
| JP4203967B1 (ja) | 2007-05-28 | 2009-01-07 | パナソニック株式会社 | 情報探索支援方法および情報探索支援装置 |
| US8055708B2 (en) | 2007-06-01 | 2011-11-08 | Microsoft Corporation | Multimedia spaces |
| US8204238B2 (en) | 2007-06-08 | 2012-06-19 | Sensory, Inc | Systems and methods of sonic communication |
| CN101779200B (zh) | 2007-06-14 | 2013-03-20 | 谷歌股份有限公司 | 词典词和短语确定方法和设备 |
| US7987176B2 (en) | 2007-06-25 | 2011-07-26 | Sap Ag | Mixed initiative semantic search |
| US8090621B1 (en) | 2007-06-27 | 2012-01-03 | Amazon Technologies, Inc. | Method and system for associating feedback with recommendation rules |
| US8050919B2 (en) | 2007-06-29 | 2011-11-01 | Microsoft Corporation | Speaker recognition via voice sample based on multiple nearest neighbor classifiers |
| US8630841B2 (en) | 2007-06-29 | 2014-01-14 | Microsoft Corporation | Regular expression word verification |
| KR100930802B1 (ko) | 2007-06-29 | 2009-12-09 | 엔에이치엔(주) | 이미지를 이용한 브라우저 제어 방법 및 시스템 |
| AU2008201643B1 (en) | 2007-07-24 | 2008-08-28 | Rambrandt Messaging Technologies, LP | Messaging service in a wireless communications network |
| ITFI20070177A1 (it) | 2007-07-26 | 2009-01-27 | Riccardo Vieri | Sistema per la creazione e impostazione di una campagna pubblicitaria derivante dall'inserimento di messaggi pubblicitari all'interno di uno scambio di messaggi e metodo per il suo funzionamento. |
| US7983919B2 (en) | 2007-08-09 | 2011-07-19 | At&T Intellectual Property Ii, L.P. | System and method for performing speech synthesis with a cache of phoneme sequences |
| US7983478B2 (en) | 2007-08-10 | 2011-07-19 | Microsoft Corporation | Hidden markov model based handwriting/calligraphy generation |
| JP2009048245A (ja) | 2007-08-14 | 2009-03-05 | Konami Digital Entertainment:Kk | 入力受付装置、領域制御方法、および、プログラム |
| US8260619B1 (en) | 2008-08-22 | 2012-09-04 | Convergys Cmg Utah, Inc. | Method and system for creating natural language understanding grammars |
| WO2009029910A2 (en) | 2007-08-31 | 2009-03-05 | Proxpro, Inc. | Situation-aware personal information management for a mobile device |
| US8661340B2 (en) | 2007-09-13 | 2014-02-25 | Apple Inc. | Input methods for device having multi-language environment |
| US8042053B2 (en) | 2007-09-24 | 2011-10-18 | Microsoft Corporation | Method for making digital documents browseable |
| US8165886B1 (en) | 2007-10-04 | 2012-04-24 | Great Northern Research LLC | Speech interface system and method for control and interaction with applications on a computing system |
| US8595642B1 (en) | 2007-10-04 | 2013-11-26 | Great Northern Research, LLC | Multiple shell multi faceted graphical user interface |
| US8036901B2 (en) | 2007-10-05 | 2011-10-11 | Sensory, Incorporated | Systems and methods of performing speech recognition using sensory inputs of human position |
| US9532164B2 (en) | 2007-10-12 | 2016-12-27 | Empire Ip Llc | Mashing mapping content displayed on mobile devices |
| US8594996B2 (en) | 2007-10-17 | 2013-11-26 | Evri Inc. | NLP-based entity recognition and disambiguation |
| US8126863B2 (en) | 2007-10-25 | 2012-02-28 | Apple Inc. | Search control combining classification and text-based searching techniques |
| US8364694B2 (en) | 2007-10-26 | 2013-01-29 | Apple Inc. | Search assistant for digital media assets |
| US7840447B2 (en) | 2007-10-30 | 2010-11-23 | Leonard Kleinrock | Pricing and auctioning of bundled items among multiple sellers and buyers |
| US8010614B1 (en) | 2007-11-01 | 2011-08-30 | Bitdefender IPR Management Ltd. | Systems and methods for generating signatures for electronic communication classification |
| US9063979B2 (en) | 2007-11-01 | 2015-06-23 | Ebay, Inc. | Analyzing event streams of user sessions |
| US7983997B2 (en) | 2007-11-02 | 2011-07-19 | Florida Institute For Human And Machine Cognition, Inc. | Interactive complex task teaching system that allows for natural language input, recognizes a user's intent, and automatically performs tasks in document object model (DOM) nodes |
| US8055296B1 (en) | 2007-11-06 | 2011-11-08 | Sprint Communications Company L.P. | Head-up display communication system and method |
| US8065152B2 (en) | 2007-11-08 | 2011-11-22 | Demand Media, Inc. | Platform for enabling voice commands to resolve phoneme based domain name registrations |
| DE102008051757A1 (de) | 2007-11-12 | 2009-05-14 | Volkswagen Ag | Multimodale Benutzerschnittstelle eines Fahrerassistenzsystems zur Eingabe und Präsentation von Informationen |
| US8112280B2 (en) | 2007-11-19 | 2012-02-07 | Sensory, Inc. | Systems and methods of performing speech recognition with barge-in for use in a bluetooth system |
| US8620662B2 (en) | 2007-11-20 | 2013-12-31 | Apple Inc. | Context-aware unit selection |
| US20110246471A1 (en) | 2010-04-06 | 2011-10-06 | Selim Shlomo Rakib | Retrieving video annotation metadata using a p2p network |
| US20150046537A1 (en) | 2007-11-21 | 2015-02-12 | Vdoqwest, Inc., A Delaware Corporation | Retrieving video annotation metadata using a p2p network and copyright free indexes |
| US8190596B2 (en) | 2007-11-28 | 2012-05-29 | International Business Machines Corporation | Method for assembly of personalized enterprise information integrators over conjunctive queries |
| US8543622B2 (en) | 2007-12-07 | 2013-09-24 | Patrick Giblin | Method and system for meta-tagging media content and distribution |
| US8140335B2 (en) | 2007-12-11 | 2012-03-20 | Voicebox Technologies, Inc. | System and method for providing a natural language voice user interface in an integrated voice navigation services environment |
| KR101300839B1 (ko) | 2007-12-18 | 2013-09-10 | 삼성전자주식회사 | 음성 검색어 확장 방법 및 시스템 |
| WO2009078256A1 (ja) | 2007-12-18 | 2009-06-25 | Nec Corporation | 発音変動規則抽出装置、発音変動規則抽出方法、および発音変動規則抽出用プログラム |
| US10002189B2 (en) | 2007-12-20 | 2018-06-19 | Apple Inc. | Method and apparatus for searching using an active ontology |
| US8019604B2 (en) | 2007-12-21 | 2011-09-13 | Motorola Mobility, Inc. | Method and apparatus for uniterm discovery and voice-to-voice search on mobile device |
| US8219407B1 (en) | 2007-12-27 | 2012-07-10 | Great Northern Research, LLC | Method for processing the output of a speech recognizer |
| US8583416B2 (en) | 2007-12-27 | 2013-11-12 | Fluential, Llc | Robust information extraction from utterances |
| US9330720B2 (en) | 2008-01-03 | 2016-05-03 | Apple Inc. | Methods and apparatus for altering audio output signals |
| US7870133B2 (en) | 2008-01-14 | 2011-01-11 | Infosys Technologies Ltd. | Method for semantic based storage and retrieval of information |
| US10176827B2 (en) | 2008-01-15 | 2019-01-08 | Verint Americas Inc. | Active lab |
| ITPO20080002A1 (it) | 2008-01-22 | 2009-07-23 | Riccardo Vieri | Sistema e metodo per la generazione di pubblicita' contestuale durante l'invio di sms, relativo dispositivo e interfaccia. |
| US20120284015A1 (en) | 2008-01-28 | 2012-11-08 | William Drewes | Method for Increasing the Accuracy of Subject-Specific Statistical Machine Translation (SMT) |
| US8099289B2 (en) | 2008-02-13 | 2012-01-17 | Sensory, Inc. | Voice interface and search for electronic devices including bluetooth headsets and remote systems |
| US20090210391A1 (en) | 2008-02-14 | 2009-08-20 | Hall Stephen G | Method and system for automated search for, and retrieval and distribution of, information |
| US8595119B2 (en) | 2008-02-15 | 2013-11-26 | New York Mercantile Exchange, Inc. | Symbolic language for trade matching |
| US8065143B2 (en) | 2008-02-22 | 2011-11-22 | Apple Inc. | Providing text input using speech data and non-speech data |
| US8706474B2 (en) | 2008-02-23 | 2014-04-22 | Fair Isaac Corporation | Translation of entity names based on source document publication date, and frequency and co-occurrence of the entity names |
| US8015144B2 (en) | 2008-02-26 | 2011-09-06 | Microsoft Corporation | Learning transportation modes from raw GPS data |
| US8068604B2 (en) | 2008-12-19 | 2011-11-29 | Computer Product Introductions Corporation | Method and system for event notifications |
| US9049255B2 (en) | 2008-02-29 | 2015-06-02 | Blackberry Limited | Visual event notification on a handheld communications device |
| US8201109B2 (en) | 2008-03-04 | 2012-06-12 | Apple Inc. | Methods and graphical user interfaces for editing on a portable multifunction device |
| US8205157B2 (en) | 2008-03-04 | 2012-06-19 | Apple Inc. | Methods and graphical user interfaces for conducting searches on a portable multifunction device |
| US8255224B2 (en) | 2008-03-07 | 2012-08-28 | Google Inc. | Voice recognition grammar selection based on context |
| US20090234655A1 (en) | 2008-03-13 | 2009-09-17 | Jason Kwon | Mobile electronic device with active speech recognition |
| US20090235176A1 (en) | 2008-03-14 | 2009-09-17 | Madhavi Jayanthi | Social interaction system for facilitating display of current location of friends and location of businesses of interest |
| US7958136B1 (en) | 2008-03-18 | 2011-06-07 | Google Inc. | Systems and methods for identifying similar documents |
| US20110035434A1 (en) | 2008-03-27 | 2011-02-10 | Markport Limited | Processing of messaging service attributes in communication systems |
| US7472061B1 (en) | 2008-03-31 | 2008-12-30 | International Business Machines Corporation | Systems and methods for building a native language phoneme lexicon having native pronunciations of non-native words derived from non-native pronunciations |
| US8996376B2 (en) | 2008-04-05 | 2015-03-31 | Apple Inc. | Intelligent text-to-speech conversion |
| US8140368B2 (en) | 2008-04-07 | 2012-03-20 | International Business Machines Corporation | Method and system for routing a task to an employee based on physical and emotional state |
| JPWO2009125710A1 (ja) | 2008-04-08 | 2011-08-04 | 株式会社エヌ・ティ・ティ・ドコモ | メディア処理サーバ装置およびメディア処理方法 |
| KR20090107365A (ko) | 2008-04-08 | 2009-10-13 | 엘지전자 주식회사 | 이동 단말기 및 그 메뉴 제어방법 |
| US8311188B2 (en) | 2008-04-08 | 2012-11-13 | Cisco Technology, Inc. | User interface with voice message summary |
| US8285737B1 (en) * | 2008-04-10 | 2012-10-09 | Google Inc. | Selecting content for publication |
| US7889101B2 (en) | 2008-04-14 | 2011-02-15 | Alpine Electronics, Inc | Method and apparatus for generating location based reminder message for navigation system |
| JP4656177B2 (ja) | 2008-04-14 | 2011-03-23 | トヨタ自動車株式会社 | ナビゲーション装置、操作部表示方法 |
| US8433778B1 (en) | 2008-04-22 | 2013-04-30 | Marvell International Ltd | Device configuration |
| US8972432B2 (en) | 2008-04-23 | 2015-03-03 | Google Inc. | Machine translation using information retrieval |
| US8121837B2 (en) | 2008-04-24 | 2012-02-21 | Nuance Communications, Inc. | Adjusting a speech engine for a mobile computing device based on background noise |
| US8194827B2 (en) | 2008-04-29 | 2012-06-05 | International Business Machines Corporation | Secure voice transaction method and system |
| US8254829B1 (en) | 2008-05-09 | 2012-08-28 | Sprint Communications Company L.P. | Network media service with track delivery adapted to a user cadence |
| US8219115B1 (en) | 2008-05-12 | 2012-07-10 | Google Inc. | Location based reminders |
| US20130275899A1 (en) | 2010-01-18 | 2013-10-17 | Apple Inc. | Application Gateway for Providing Different User Interfaces for Limited Distraction and Non-Limited Distraction Contexts |
| US10496753B2 (en) | 2010-01-18 | 2019-12-03 | Apple Inc. | Automatically adapting user interfaces for hands-free interaction |
| US9965035B2 (en) | 2008-05-13 | 2018-05-08 | Apple Inc. | Device, method, and graphical user interface for synchronizing two or more displays |
| US8516562B2 (en) | 2008-05-13 | 2013-08-20 | Veritrix, Inc. | Multi-channel multi-factor authentication |
| US10203861B2 (en) | 2008-05-21 | 2019-02-12 | Please Don't Go, LLC. | Messaging window overlay for a browser |
| US8082498B2 (en) | 2008-05-27 | 2011-12-20 | Appfolio, Inc. | Systems and methods for automatic spell checking of dynamically generated web pages |
| US9305548B2 (en) | 2008-05-27 | 2016-04-05 | Voicebox Technologies Corporation | System and method for an integrated, multi-modal, multi-device natural language voice services environment |
| US8589161B2 (en) | 2008-05-27 | 2013-11-19 | Voicebox Technologies, Inc. | System and method for an integrated, multi-modal, multi-device natural language voice services environment |
| US20130100268A1 (en) | 2008-05-27 | 2013-04-25 | University Health Network | Emergency detection and response system and method |
| US8464150B2 (en) | 2008-06-07 | 2013-06-11 | Apple Inc. | Automatic language identification for dynamic text processing |
| EP2133772B1 (en) | 2008-06-11 | 2011-03-09 | ExB Asset Management GmbH | Device and method incorporating an improved text input mechanism |
| US8452790B1 (en) | 2008-06-13 | 2013-05-28 | Ustringer LLC | Method and apparatus for distributing content |
| US8140330B2 (en) | 2008-06-13 | 2012-03-20 | Robert Bosch Gmbh | System and method for detecting repeated patterns in dialog systems |
| US8195460B2 (en) | 2008-06-17 | 2012-06-05 | Voicesense Ltd. | Speaker characterization through speech analysis |
| DE102008028885A1 (de) | 2008-06-18 | 2009-12-31 | Epcos Ag | Verfahren zur Abstimmung einer Resonanzfrequenz eines piezoelektrischen Bauelementes |
| US9510044B1 (en) | 2008-06-18 | 2016-11-29 | Gracenote, Inc. | TV content segmentation, categorization and identification and time-aligned applications |
| GB2462800A (en) | 2008-06-20 | 2010-02-24 | New Voice Media Ltd | Monitoring a conversation between an agent and a customer and performing real time analytics on the audio signal for determining future handling of the call |
| WO2009156978A1 (en) | 2008-06-26 | 2009-12-30 | Intuitive User Interfaces Ltd | System and method for intuitive user interaction |
| US8300801B2 (en) | 2008-06-26 | 2012-10-30 | Centurylink Intellectual Property Llc | System and method for telephone based noise cancellation |
| US8423288B2 (en) | 2009-11-30 | 2013-04-16 | Apple Inc. | Dynamic alerts for calendar events |
| US8364481B2 (en) | 2008-07-02 | 2013-01-29 | Google Inc. | Speech recognition with parallel recognition tasks |
| US20100005085A1 (en) | 2008-07-03 | 2010-01-07 | Oracle International Corporation | Creating relationship maps from enterprise application system data |
| US20110112837A1 (en) | 2008-07-03 | 2011-05-12 | Mobiter Dicta Oy | Method and device for converting speech |
| US8166019B1 (en) | 2008-07-21 | 2012-04-24 | Sprint Communications Company L.P. | Providing suggested actions in response to textual communications |
| JP5791861B2 (ja) | 2008-07-25 | 2015-10-07 | シャープ株式会社 | 情報処理装置および情報処理方法 |
| JPWO2010013369A1 (ja) | 2008-07-30 | 2012-01-05 | 三菱電機株式会社 | 音声認識装置 |
| US8001125B1 (en) | 2008-07-30 | 2011-08-16 | Intuit Inc. | Method and apparatus for defining relationships between tags |
| US20100030549A1 (en) | 2008-07-31 | 2010-02-04 | Lee Michael M | Mobile device having human language translation capability with positional feedback |
| US8386485B2 (en) | 2008-07-31 | 2013-02-26 | George Mason Intellectual Properties, Inc. | Case-based framework for collaborative semantic search |
| CN102119412B (zh) | 2008-08-11 | 2013-01-02 | 旭化成株式会社 | 例外语辞典制作装置、例外语辞典制作方法、和声音识别装置和声音识别方法 |
| US8221125B2 (en) | 2008-08-14 | 2012-07-17 | World View Time Inc. | Electronic presentation of world time zones |
| US8326630B2 (en) | 2008-08-18 | 2012-12-04 | Microsoft Corporation | Context based online advertising |
| US8805110B2 (en) | 2008-08-19 | 2014-08-12 | Digimarc Corporation | Methods and systems for content processing |
| JP5459214B2 (ja) | 2008-08-20 | 2014-04-02 | 日本電気株式会社 | 言語モデル作成装置、言語モデル作成方法、音声認識装置、音声認識方法、プログラム、および記録媒体 |
| CN101802554B (zh) | 2008-08-29 | 2013-09-25 | 联发科技（合肥）有限公司 | 用于播放语音导引的方法及相关导航装置 |
| US8768702B2 (en) | 2008-09-05 | 2014-07-01 | Apple Inc. | Multi-tiered voice feedback in an electronic device |
| US8116749B2 (en) | 2008-09-08 | 2012-02-14 | Proctor Jr James Arthur | Protocol for anonymous wireless communication |
| US20100063926A1 (en) | 2008-09-09 | 2010-03-11 | Damon Charles Hougland | Payment application framework |
| US8898568B2 (en) | 2008-09-09 | 2014-11-25 | Apple Inc. | Audio user interface |
| US8929877B2 (en) | 2008-09-12 | 2015-01-06 | Digimarc Corporation | Methods and systems for content processing |
| US8259082B2 (en) | 2008-09-12 | 2012-09-04 | At&T Intellectual Property I, L.P. | Multimodal portable communication interface for accessing video content |
| JP5213605B2 (ja) | 2008-09-17 | 2013-06-19 | シャープ株式会社 | 通信装置、情報提示装置、通信方法、プログラム、および記録媒体 |
| US8775154B2 (en) | 2008-09-18 | 2014-07-08 | Xerox Corporation | Query translation through dictionary adaptation |
| US8352272B2 (en) | 2008-09-29 | 2013-01-08 | Apple Inc. | Systems and methods for text to speech synthesis |
| US8396714B2 (en) | 2008-09-29 | 2013-03-12 | Apple Inc. | Systems and methods for concatenation of words in text to speech synthesis |
| US8352268B2 (en) | 2008-09-29 | 2013-01-08 | Apple Inc. | Systems and methods for selective rate of speech and speech preferences for text to speech synthesis |
| GB2495434B (en) | 2008-09-29 | 2013-05-22 | Fisher Rosemount Systems Inc | Efficient design and configuration of elements in a process control system |
| US8355919B2 (en) | 2008-09-29 | 2013-01-15 | Apple Inc. | Systems and methods for text normalization for text to speech synthesis |
| US8904345B2 (en) | 2008-09-30 | 2014-12-02 | Ebay Inc. | System and method for orchestration of customization for a user experience |
| US8676904B2 (en) | 2008-10-02 | 2014-03-18 | Apple Inc. | Electronic devices with voice command and contextual data processing capabilities |
| US8539342B1 (en) | 2008-10-16 | 2013-09-17 | Adobe Systems Incorporated | Read-order inference via content sorting |
| US8724829B2 (en) | 2008-10-24 | 2014-05-13 | Qualcomm Incorporated | Systems, methods, apparatus, and computer-readable media for coherence detection |
| US8644488B2 (en) | 2008-10-27 | 2014-02-04 | Nuance Communications, Inc. | System and method for automatically generating adaptive interaction logs from customer interaction text |
| WO2010053437A1 (en) | 2008-11-04 | 2010-05-14 | Saplo Ab | Method and system for analyzing text |
| US8170966B1 (en) | 2008-11-04 | 2012-05-01 | Bitdefender IPR Management Ltd. | Dynamic streaming message clustering for rapid spam-wave detection |
| US8122094B1 (en) | 2008-11-05 | 2012-02-21 | Kotab Dominic M | Methods for performing an action relating to the scheduling of an event by performing one or more actions based on a response to a message |
| US20100205628A1 (en) | 2009-02-12 | 2010-08-12 | Davis Bruce L | Media processing methods and arrangements |
| US8122353B2 (en) | 2008-11-07 | 2012-02-21 | Yahoo! Inc. | Composing a message in an online textbox using a non-latin script |
| KR102339297B1 (ko) | 2008-11-10 | 2021-12-14 | 구글 엘엘씨 | 멀티센서 음성 검출 |
| US9202171B2 (en) | 2008-11-11 | 2015-12-01 | Digideal Corporation | Virtual game assistant based on artificial intelligence |
| US8832319B2 (en) | 2008-11-18 | 2014-09-09 | Amazon Technologies, Inc. | Synchronization of digital content |
| US8108214B2 (en) | 2008-11-19 | 2012-01-31 | Robert Bosch Gmbh | System and method for recognizing proper names in dialog systems |
| US8296124B1 (en) | 2008-11-21 | 2012-10-23 | Google Inc. | Method and apparatus for detecting incorrectly translated text in a document |
| US8140328B2 (en) | 2008-12-01 | 2012-03-20 | At&T Intellectual Property I, L.P. | User intention based on N-best list of recognition hypotheses for utterances in a dialog |
| US8489599B2 (en) | 2008-12-02 | 2013-07-16 | Palo Alto Research Center Incorporated | Context and activity-driven content delivery and interaction |
| US8054180B1 (en) | 2008-12-08 | 2011-11-08 | Amazon Technologies, Inc. | Location aware reminders |
| EP2196989B1 (en) | 2008-12-10 | 2012-06-27 | Nuance Communications, Inc. | Grammar and template-based speech recognition of spoken utterances |
| WO2010067118A1 (en) | 2008-12-11 | 2010-06-17 | Novauris Technologies Limited | Speech recognition involving a mobile device |
| JP5355591B2 (ja) | 2008-12-16 | 2013-11-27 | 三菱電機株式会社 | ナビゲーション装置 |
| US8918321B2 (en) | 2012-04-13 | 2014-12-23 | At&T Intellectual Property I, L.P. | System and method for enhancing speech recognition accuracy |
| US8332205B2 (en) | 2009-01-09 | 2012-12-11 | Microsoft Corporation | Mining transliterations for out-of-vocabulary query terms |
| US10088976B2 (en) | 2009-01-15 | 2018-10-02 | Em Acquisition Corp., Inc. | Systems and methods for multiple voice document narration |
| WO2010084769A1 (ja) | 2009-01-22 | 2010-07-29 | パナソニック株式会社 | 補聴装置 |
| US8213911B2 (en) | 2009-01-28 | 2012-07-03 | Virtual Hold Technology Llc | Mobile communication device for establishing automated call back |
| US8200489B1 (en) | 2009-01-29 | 2012-06-12 | The United States Of America As Represented By The Secretary Of The Navy | Multi-resolution hidden markov model using class specific features |
| US9070282B2 (en) | 2009-01-30 | 2015-06-30 | Altorr Corp. | Smartphone control of electrical devices |
| US8862252B2 (en) | 2009-01-30 | 2014-10-14 | Apple Inc. | Audio user interface for displayless electronic device |
| US9183881B2 (en) | 2009-02-02 | 2015-11-10 | Porto Technology, Llc | System and method for semantic trick play |
| US20110307491A1 (en) | 2009-02-04 | 2011-12-15 | Fisk Charles M | Digital photo organizing and tagging method |
| US8254972B2 (en) | 2009-02-13 | 2012-08-28 | Sony Mobile Communications Ab | Device and method for handling messages |
| US8428758B2 (en) | 2009-02-16 | 2013-04-23 | Apple Inc. | Dynamic audio ducking |
| WO2010096193A2 (en) | 2009-02-18 | 2010-08-26 | Exbiblio B.V. | Identifying a document by performing spectral analysis on the contents of the document |
| US8326637B2 (en) | 2009-02-20 | 2012-12-04 | Voicebox Technologies, Inc. | System and method for processing multi-modal device interactions in a natural language voice services environment |
| WO2010099352A1 (en) | 2009-02-25 | 2010-09-02 | Miri Systems, Llc | Payment system and method |
| KR101041039B1 (ko) | 2009-02-27 | 2011-06-14 | 고려대학교 산학협력단 | 오디오 및 비디오 정보를 이용한 시공간 음성 구간 검출 방법 및 장치 |
| US9171284B2 (en) | 2009-03-02 | 2015-10-27 | Microsoft Technology Licensing, Llc | Techniques to restore communications sessions for applications having conversation and meeting environments |
| EP2405423B1 (en) | 2009-03-03 | 2013-09-11 | Mitsubishi Electric Corporation | Voice recognition device |
| US8380507B2 (en) | 2009-03-09 | 2013-02-19 | Apple Inc. | Systems and methods for determining the language to use for speech generated by a text to speech engine |
| US8165321B2 (en) | 2009-03-10 | 2012-04-24 | Apple Inc. | Intelligent clip mixing |
| WO2010105244A2 (en) | 2009-03-12 | 2010-09-16 | Exbiblio B.V. | Performing actions based on capturing information from rendered documents, such as documents under copyright |
| US8589374B2 (en) | 2009-03-16 | 2013-11-19 | Apple Inc. | Multifunction device with integrated search and application selection |
| CN102439540B (zh) | 2009-03-19 | 2015-04-08 | 谷歌股份有限公司 | 输入法编辑器 |
| KR101078864B1 (ko) | 2009-03-26 | 2011-11-02 | 한국과학기술원 | 질의/문서 주제 범주 변화 분석 시스템 및 그 방법과 이를 이용한 질의 확장 기반 정보 검색 시스템 및 그 방법 |
| US8924156B2 (en) | 2009-03-26 | 2014-12-30 | Nokia Corporation | Method, apparatus, computer program and user interface |
| US10191654B2 (en) | 2009-03-30 | 2019-01-29 | Touchtype Limited | System and method for inputting text into electronic devices |
| US9424246B2 (en) | 2009-03-30 | 2016-08-23 | Touchtype Ltd. | System and method for inputting text into electronic devices |
| US9189472B2 (en) | 2009-03-30 | 2015-11-17 | Touchtype Limited | System and method for inputting text into small screen devices |
| GB0917753D0 (en) | 2009-10-09 | 2009-11-25 | Touchtype Ltd | System and method for inputting text into electronic devices |
| GB201016385D0 (en) | 2010-09-29 | 2010-11-10 | Touchtype Ltd | System and method for inputting text into electronic devices |
| GB0905457D0 (en) | 2009-03-30 | 2009-05-13 | Touchtype Ltd | System and method for inputting text into electronic devices |
| US8798255B2 (en) | 2009-03-31 | 2014-08-05 | Nice Systems Ltd | Methods and apparatus for deep interaction analysis |
| US8166032B2 (en) | 2009-04-09 | 2012-04-24 | MarketChorus, Inc. | System and method for sentiment-based text classification and relevancy ranking |
| US8275736B2 (en) | 2009-04-17 | 2012-09-25 | International Business Machines Corporation | Increasing knowledge sharing success rates using real time match making |
| US20110065456A1 (en) | 2009-04-20 | 2011-03-17 | Brennan Joseph P | Cellular device deactivation system |
| US8660970B1 (en) | 2009-04-23 | 2014-02-25 | The Boeing Company | Passive learning and autonomously interactive system for leveraging user knowledge in networked environments |
| US8660924B2 (en) | 2009-04-30 | 2014-02-25 | Navera, Inc. | Configurable interactive assistant |
| KR101032792B1 (ko) | 2009-04-30 | 2011-05-06 | 주식회사 코오롱 | 에어백용 폴리에스테르 원단 및 그의 제조 방법 |
| CN102405463B (zh) | 2009-04-30 | 2015-07-29 | 三星电子株式会社 | 利用多模态信息的用户意图推理装置及方法 |
| BRPI1012218A2 (pt) | 2009-05-08 | 2019-09-24 | Obdedge Llc | sistemas, métodos e dispositivos para monitoração e controle com base em política de uso de dispositivos móveis por operadores de veículo |
| WO2010131256A1 (en) | 2009-05-13 | 2010-11-18 | Rajesh Mehra | A keyboard for linguistic scripts |
| US8583511B2 (en) | 2009-05-19 | 2013-11-12 | Bradley Marshall Hendrickson | Systems and methods for storing customer purchasing and preference data and enabling a customer to pre-register orders and events |
| US8498857B2 (en) | 2009-05-19 | 2013-07-30 | Tata Consultancy Services Limited | System and method for rapid prototyping of existing speech recognition solutions in different languages |
| US20150294377A1 (en) | 2009-05-30 | 2015-10-15 | Edmond K. Chow | Trust network effect |
| US20120310652A1 (en) | 2009-06-01 | 2012-12-06 | O'sullivan Daniel | Adaptive Human Computer Interface (AAHCI) |
| US8095119B2 (en) | 2009-06-02 | 2012-01-10 | Microsoft Corporation | In-call contact information display |
| US10540976B2 (en) | 2009-06-05 | 2020-01-21 | Apple Inc. | Contextual voice commands |
| US10241752B2 (en) | 2011-09-30 | 2019-03-26 | Apple Inc. | Interface for a virtual digital assistant |
| US8560313B2 (en) | 2010-05-13 | 2013-10-15 | General Motors Llc | Transient noise rejection for speech recognition |
| US10241644B2 (en) | 2011-06-03 | 2019-03-26 | Apple Inc. | Actionable reminder entries |
| US20120309363A1 (en) | 2011-06-03 | 2012-12-06 | Apple Inc. | Triggering notifications associated with tasks items that represent tasks to perform |
| US9858925B2 (en) | 2009-06-05 | 2018-01-02 | Apple Inc. | Using context information to facilitate processing of commands in a virtual assistant |
| US20120327009A1 (en) | 2009-06-07 | 2012-12-27 | Apple Inc. | Devices, methods, and graphical user interfaces for accessibility using a touch-sensitive surface |
| US8484027B1 (en) | 2009-06-12 | 2013-07-09 | Skyreader Media Inc. | Method for live remote narration of a digital book |
| US8290777B1 (en) | 2009-06-12 | 2012-10-16 | Amazon Technologies, Inc. | Synchronizing the playing and displaying of digital content |
| US20130219333A1 (en) | 2009-06-12 | 2013-08-22 | Adobe Systems Incorporated | Extensible Framework for Facilitating Interaction with Devices |
| CN101923853B (zh) | 2009-06-12 | 2013-01-23 | 华为技术有限公司 | 说话人识别方法、设备和系统 |
| US9431006B2 (en) | 2009-07-02 | 2016-08-30 | Apple Inc. | Methods and apparatuses for automatic speech recognition |
| US20110002487A1 (en) | 2009-07-06 | 2011-01-06 | Apple Inc. | Audio Channel Assignment for Audio Output in a Movable Device |
| US8700399B2 (en) | 2009-07-06 | 2014-04-15 | Sensory, Inc. | Systems and methods for hands-free voice control and voice search |
| US8943423B2 (en) | 2009-07-07 | 2015-01-27 | International Business Machines Corporation | User interface indicators for changed user interface elements |
| KR101083540B1 (ko) | 2009-07-08 | 2011-11-14 | 엔에이치엔(주) | 통계적인 방법을 이용한 한자에 대한 자국어 발음열 변환 시스템 및 방법 |
| US8344847B2 (en) | 2009-07-09 | 2013-01-01 | Medtronic Minimed, Inc. | Coordination of control commands in a medical device system having at least one therapy delivery device and at least one wireless controller device |
| KR101061443B1 (ko) | 2009-07-13 | 2011-09-02 | 엘지전자 주식회사 | 전자 기기, 이동 단말기 및 이를 이용한 기능 수행 방법 |
| CA2768214A1 (en) | 2009-07-15 | 2011-01-20 | Google Inc. | Commands directed at displayed text |
| US8892439B2 (en) | 2009-07-15 | 2014-11-18 | Microsoft Corporation | Combination and federation of local and remote speech recognition |
| US9998552B1 (en) | 2010-04-30 | 2018-06-12 | Open Invention Network Llc | Dynamic creation, data population, and communication establishment across various mediums |
| US20110016421A1 (en) | 2009-07-20 | 2011-01-20 | Microsoft Corporation | Task oriented user interface platform |
| US20110016150A1 (en) | 2009-07-20 | 2011-01-20 | Engstroem Jimmy | System and method for tagging multiple digital images |
| US8213962B2 (en) | 2009-07-21 | 2012-07-03 | Verizon Patent And Licensing Inc. | Vehicle computer link to mobile phone |
| US7953679B2 (en) | 2009-07-22 | 2011-05-31 | Xerox Corporation | Scalable indexing for layout based document retrieval and ranking |
| WO2011011025A1 (en) | 2009-07-24 | 2011-01-27 | Research In Motion Limited | Method and apparatus for a touch-sensitive display |
| US8239129B2 (en) | 2009-07-27 | 2012-08-07 | Robert Bosch Gmbh | Method and system for improving speech recognition accuracy by use of geographic information |
| US9117448B2 (en) | 2009-07-27 | 2015-08-25 | Cisco Technology, Inc. | Method and system for speech recognition using social networks |
| US9489577B2 (en) | 2009-07-27 | 2016-11-08 | Cxense Asa | Visual similarity for video content |
| US20110029616A1 (en) | 2009-07-29 | 2011-02-03 | Guanming Wang | Unified auto-reply to an email coming from unified messaging service |
| US8875219B2 (en) | 2009-07-30 | 2014-10-28 | Blackberry Limited | Apparatus and method for controlled sharing of personal information |
| US8229488B2 (en) | 2009-07-30 | 2012-07-24 | Sony Ericsson Mobile Communications Ab | Methods, apparatuses and computer programs for media content distribution |
| US9015818B2 (en) | 2009-07-31 | 2015-04-21 | Adobe Systems Incorporated | Software application operational transfer |
| KR101608770B1 (ko) | 2009-08-03 | 2016-04-04 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
| JP2011033874A (ja) | 2009-08-03 | 2011-02-17 | Alpine Electronics Inc | 多言語音声認識装置及び多言語音声認識辞書作成方法 |
| US8340312B2 (en) | 2009-08-04 | 2012-12-25 | Apple Inc. | Differential mode noise cancellation with active real-time control for microphone-speaker combinations used in two way audio communications |
| US8532574B2 (en) | 2009-08-05 | 2013-09-10 | Honda Motor Co., Ltd. | Destination information sharing for the automobile environment |
| US8160877B1 (en) | 2009-08-06 | 2012-04-17 | Narus, Inc. | Hierarchical real-time speaker recognition for biometric VoIP verification and targeting |
| US20110047072A1 (en) | 2009-08-07 | 2011-02-24 | Visa U.S.A. Inc. | Systems and Methods for Propensity Analysis and Validation |
| US8233919B2 (en) | 2009-08-09 | 2012-07-31 | Hntb Holdings Ltd. | Intelligently providing user-specific transportation-related information |
| JP5201599B2 (ja) | 2009-08-11 | 2013-06-05 | Ｎｅｃカシオモバイルコミュニケーションズ株式会社 | 端末装置、および、プログラム |
| US20110040707A1 (en) | 2009-08-12 | 2011-02-17 | Ford Global Technologies, Llc | Intelligent music selection in vehicles |
| US8768313B2 (en) | 2009-08-17 | 2014-07-01 | Digimarc Corporation | Methods and systems for image or audio recognition processing |
| US8626133B2 (en) | 2009-08-19 | 2014-01-07 | Cisco Technology, Inc. | Matching a location of a contact with a task location |
| US8654952B2 (en) | 2009-08-20 | 2014-02-18 | T-Mobile Usa, Inc. | Shareable applications on telecommunications devices |
| EP2629211A1 (en) | 2009-08-21 | 2013-08-21 | Mikko Kalervo Väänänen | Method and means for data searching and language translation |
| US9277021B2 (en) | 2009-08-21 | 2016-03-01 | Avaya Inc. | Sending a user associated telecommunication address |
| KR101496649B1 (ko) | 2009-08-21 | 2015-03-02 | 삼성전자주식회사 | 복합 네트워크 망을 통한 외부 디바이스의 기능 공유 방법 및 그 장치 |
| JP2011045005A (ja) | 2009-08-24 | 2011-03-03 | Fujitsu Toshiba Mobile Communications Ltd | 携帯電話機 |
| SG178344A1 (en) | 2009-08-25 | 2012-03-29 | Univ Nanyang Tech | A method and system for reconstructing speech from an input signal comprising whispers |
| US20110054647A1 (en) | 2009-08-26 | 2011-03-03 | Nokia Corporation | Network service for an audio interface unit |
| JP2011048671A (ja) | 2009-08-27 | 2011-03-10 | Kyocera Corp | 入力装置および入力装置の制御方法 |
| US8583638B2 (en) | 2009-08-27 | 2013-11-12 | Apple Inc. | Adaptive mapping of search results |
| CN101996631B (zh) | 2009-08-28 | 2014-12-03 | 国际商业机器公司 | 用于对齐文本的方法和装置 |
| US20110238407A1 (en) | 2009-08-31 | 2011-09-29 | O3 Technologies, Llc | Systems and methods for speech-to-speech translation |
| WO2011028844A2 (en) | 2009-09-02 | 2011-03-10 | Sri International | Method and apparatus for tailoring the output of an intelligent automated assistant to a user |
| US8451238B2 (en) | 2009-09-02 | 2013-05-28 | Amazon Technologies, Inc. | Touch-screen user interface |
| US8624851B2 (en) | 2009-09-02 | 2014-01-07 | Amazon Technologies, Inc. | Touch-screen user interface |
| TW201110108A (en) | 2009-09-04 | 2011-03-16 | Chunghwa Telecom Co Ltd | Voice noise elimination method for microphone array |
| US9031834B2 (en) | 2009-09-04 | 2015-05-12 | Nuance Communications, Inc. | Speech enhancement techniques on the power spectrum |
| US8675084B2 (en) | 2009-09-04 | 2014-03-18 | Apple Inc. | Systems and methods for remote camera control |
| US20120265535A1 (en) | 2009-09-07 | 2012-10-18 | Donald Ray Bryant-Rich | Personal voice operated reminder system |
| US8560300B2 (en) | 2009-09-09 | 2013-10-15 | International Business Machines Corporation | Error correction using fact repositories |
| US8788267B2 (en) | 2009-09-10 | 2014-07-22 | Mitsubishi Electric Research Laboratories, Inc. | Multi-purpose contextual control |
| US20110060812A1 (en) | 2009-09-10 | 2011-03-10 | Level 3 Communications, Llc | Cache server with extensible programming framework |
| US8321527B2 (en) | 2009-09-10 | 2012-11-27 | Tribal Brands | System and method for tracking user location and associated activity and responsively providing mobile device updates |
| WO2011032060A1 (en) | 2009-09-11 | 2011-03-17 | Telenav, Inc. | Location based system with contextual contact manager mechanism and method of operation thereof |
| US20110066468A1 (en) | 2009-09-11 | 2011-03-17 | Internationl Business Machines Corporation | Dynamic event planning through location awareness |
| US20110066942A1 (en) | 2009-09-14 | 2011-03-17 | Barton James M | Multifunction Multimedia Device |
| KR101660348B1 (ko) | 2009-09-16 | 2016-09-27 | 아브 이니티오 테크놀로지 엘엘시 | 데이터세트 요소의 매핑 |
| US10587833B2 (en) | 2009-09-16 | 2020-03-10 | Disney Enterprises, Inc. | System and method for automated network search and companion display of result relating to audio-video metadata |
| US8972878B2 (en) | 2009-09-21 | 2015-03-03 | Avaya Inc. | Screen icon manipulation by context and frequency of Use |
| US9015148B2 (en) | 2009-09-21 | 2015-04-21 | Microsoft Corporation | Suggesting related search queries during web browsing |
| US9384299B2 (en) | 2009-09-22 | 2016-07-05 | Thwapr, Inc. | Receiving content for mobile media sharing |
| WO2011037587A1 (en) | 2009-09-28 | 2011-03-31 | Nuance Communications, Inc. | Downsampling schemes in a hierarchical neural network structure for phoneme recognition |
| US8768308B2 (en) | 2009-09-29 | 2014-07-01 | Deutsche Telekom Ag | Apparatus and method for creating and managing personal schedules via context-sensing and actuation |
| US8995625B2 (en) | 2009-09-30 | 2015-03-31 | T-Mobile Usa, Inc. | Unified interface and routing module for handling audio input |
| US9111538B2 (en) | 2009-09-30 | 2015-08-18 | T-Mobile Usa, Inc. | Genius button secondary commands |
| TW201113741A (en) | 2009-10-01 | 2011-04-16 | Htc Corp | Lock-state switching method, electronic apparatus and computer program product |
| KR20110036385A (ko) | 2009-10-01 | 2011-04-07 | 삼성전자주식회사 | 사용자 의도 분석 장치 및 방법 |
| US20110083079A1 (en) | 2009-10-02 | 2011-04-07 | International Business Machines Corporation | Apparatus, system, and method for improved type-ahead functionality in a type-ahead field based on activity of a user within a user interface |
| US9338274B2 (en) | 2009-10-02 | 2016-05-10 | Blackberry Limited | Method of interacting with electronic devices in a locked state and handheld electronic device configured to permit interaction when in a locked state |
| WO2011043145A1 (ja) | 2009-10-05 | 2011-04-14 | 日本電気株式会社 | 電子メール送信機能を有する通信端末、電子メールの送信方法、及びコンピュータ読み取り可能な記録媒体 |
| JP5473520B2 (ja) | 2009-10-06 | 2014-04-16 | キヤノン株式会社 | 入力装置及びその制御方法 |
| US20110087685A1 (en) | 2009-10-09 | 2011-04-14 | Microsoft Corporation | Location-based service middleware |
| US8335689B2 (en) | 2009-10-14 | 2012-12-18 | Cogi, Inc. | Method and system for efficient management of speech transcribers |
| EP2488963A1 (en) | 2009-10-15 | 2012-08-22 | Rogers Communications Inc. | System and method for phrase identification |
| US8510103B2 (en) | 2009-10-15 | 2013-08-13 | Paul Angott | System and method for voice recognition |
| US8611876B2 (en) | 2009-10-15 | 2013-12-17 | Larry Miller | Configurable phone with interactive voice response engine |
| US8255217B2 (en) | 2009-10-16 | 2012-08-28 | At&T Intellectual Property I, Lp | Systems and methods for creating and using geo-centric language models |
| US8451112B2 (en) | 2009-10-19 | 2013-05-28 | Qualcomm Incorporated | Methods and apparatus for estimating departure time based on known calendar events |
| US8332748B1 (en) | 2009-10-22 | 2012-12-11 | Google Inc. | Multi-directional auto-complete menu |
| US8554537B2 (en) | 2009-10-23 | 2013-10-08 | Samsung Electronics Co., Ltd | Method and device for transliteration |
| US8326624B2 (en) | 2009-10-26 | 2012-12-04 | International Business Machines Corporation | Detecting and communicating biometrics of recorded voice during transcription process |
| US20110099507A1 (en) | 2009-10-28 | 2011-04-28 | Google Inc. | Displaying a collection of interactive elements that trigger actions directed to an item |
| US20110099157A1 (en) | 2009-10-28 | 2011-04-28 | Google Inc. | Computer-to-Computer Communications |
| US9197736B2 (en) | 2009-12-31 | 2015-11-24 | Digimarc Corporation | Intuitive computing methods and systems |
| US20110106536A1 (en) | 2009-10-29 | 2011-05-05 | Rovi Technologies Corporation | Systems and methods for simulating dialog between a user and media equipment device |
| US8386574B2 (en) | 2009-10-29 | 2013-02-26 | Xerox Corporation | Multi-modality classification for one-class classification in social networks |
| US9247421B2 (en) | 2009-10-30 | 2016-01-26 | Samsung Electronics Co., Ltd | Mobile device, content delivery apparatus, content providing apparatus and control method thereof |
| US8315617B2 (en) | 2009-10-31 | 2012-11-20 | Btpatent Llc | Controlling mobile device functions |
| US8832205B2 (en) | 2009-11-02 | 2014-09-09 | Lextine Software, Llc | System and method for extracting calendar events from free-form email |
| US8279052B2 (en) | 2009-11-04 | 2012-10-02 | Immersion Corporation | Systems and methods for haptic confirmation of commands |
| US20120137367A1 (en) | 2009-11-06 | 2012-05-31 | Cataphora, Inc. | Continuous anomaly detection based on behavior modeling and heterogeneous information analysis |
| JP5622744B2 (ja) | 2009-11-06 | 2014-11-12 | 株式会社東芝 | 音声認識装置 |
| CN102056026B (zh) | 2009-11-06 | 2013-04-03 | 中国移动通信集团设计院有限公司 | 音视频同步检测方法及其系统、语音检测方法及其系统 |
| US8527859B2 (en) | 2009-11-10 | 2013-09-03 | Dulcetta, Inc. | Dynamic audio playback of soundtracks for electronic visual works |
| US9171541B2 (en) | 2009-11-10 | 2015-10-27 | Voicebox Technologies Corporation | System and method for hybrid processing in a natural language voice services environment |
| US8358747B2 (en) | 2009-11-10 | 2013-01-22 | International Business Machines Corporation | Real time automatic caller speech profiling |
| US8321209B2 (en) | 2009-11-10 | 2012-11-27 | Research In Motion Limited | System and method for low overhead frequency domain voice authentication |
| US20110111724A1 (en) | 2009-11-10 | 2011-05-12 | David Baptiste | Method and apparatus for combating distracted driving |
| US9502025B2 (en) | 2009-11-10 | 2016-11-22 | Voicebox Technologies Corporation | System and method for providing a natural language content dedication service |
| US8682649B2 (en) | 2009-11-12 | 2014-03-25 | Apple Inc. | Sentiment prediction from textual data |
| CN102860039B (zh) | 2009-11-12 | 2016-10-19 | 罗伯特·亨利·弗莱特 | 免提电话和/或麦克风阵列以及使用它们的方法和系统 |
| US8732180B2 (en) | 2009-11-12 | 2014-05-20 | Apple Inc. | Recommending media items |
| US20130166303A1 (en) | 2009-11-13 | 2013-06-27 | Adobe Systems Incorporated | Accessing media data using metadata repository |
| US8989086B2 (en) | 2009-11-13 | 2015-03-24 | Samsung Electronics Co., Ltd. | Methods and apparatus to support interference management in multi-tier wireless communication systems |
| KR20110052863A (ko) | 2009-11-13 | 2011-05-19 | 삼성전자주식회사 | 모바일 기기 및 그 제어 신호 생성 방법 |
| US8712759B2 (en) | 2009-11-13 | 2014-04-29 | Clausal Computing Oy | Specializing disambiguation of a natural language expression |
| KR20110052997A (ko) | 2009-11-13 | 2011-05-19 | 삼성전자주식회사 | 디스플레이 장치와 클라이언트 단말 및 이의 제어 방법 |
| TWI391915B (zh) | 2009-11-17 | 2013-04-01 | Inst Information Industry | 語音變異模型建立裝置、方法及應用該裝置之語音辨識系統和方法 |
| KR101595029B1 (ko) | 2009-11-18 | 2016-02-17 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
| US8358752B2 (en) | 2009-11-19 | 2013-01-22 | At&T Mobility Ii Llc | User profile based speech to text conversion for visual voice mail |
| CN102074234B (zh) | 2009-11-19 | 2012-07-25 | 财团法人资讯工业策进会 | 语音变异模型建立装置、方法及语音辨识系统和方法 |
| US8630971B2 (en) | 2009-11-20 | 2014-01-14 | Indian Institute Of Science | System and method of using Multi Pattern Viterbi Algorithm for joint decoding of multiple patterns |
| US8358749B2 (en) | 2009-11-21 | 2013-01-22 | At&T Intellectual Property I, L.P. | System and method to search a media content database based on voice input data |
| KR101960835B1 (ko) | 2009-11-24 | 2019-03-21 | 삼성전자주식회사 | 대화 로봇을 이용한 일정 관리 시스템 및 그 방법 |
| US8346688B2 (en) | 2009-11-25 | 2013-01-01 | International Business Machines Corporation | Predicting states of subjects |
| US20110153330A1 (en) | 2009-11-27 | 2011-06-23 | i-SCROLL | System and method for rendering text synchronized audio |
| US8731901B2 (en) | 2009-12-02 | 2014-05-20 | Content Savvy, Inc. | Context aware back-transliteration and translation of names and common phrases using web resources |
| US8396888B2 (en) | 2009-12-04 | 2013-03-12 | Google Inc. | Location-based searching using a search area that corresponds to a geographical location of a computing device |
| CA2782562A1 (en) | 2009-12-04 | 2011-06-09 | Bob Poniatowski | Multifunction multimedia device |
| US9043319B1 (en) * | 2009-12-07 | 2015-05-26 | Google Inc. | Generating real-time search results |
| US20110137664A1 (en) | 2009-12-09 | 2011-06-09 | International Business Machines Corporation | Providing Schedule Related Information to External Entities |
| KR101622111B1 (ko) | 2009-12-11 | 2016-05-18 | 삼성전자 주식회사 | 대화 시스템 및 그의 대화 방법 |
| US8737975B2 (en) | 2009-12-11 | 2014-05-27 | At&T Mobility Ii Llc | Audio-based text messaging |
| US8543917B2 (en) | 2009-12-11 | 2013-09-24 | Nokia Corporation | Method and apparatus for presenting a first-person world view of content |
| US8812990B2 (en) | 2009-12-11 | 2014-08-19 | Nokia Corporation | Method and apparatus for presenting a first person world view of content |
| US8224300B2 (en) | 2009-12-11 | 2012-07-17 | Alpine Electronics, Inc. | Method and apparatus to enhance navigation user experience for a smart phone device |
| US20110144857A1 (en) | 2009-12-14 | 2011-06-16 | Theodore Charles Wingrove | Anticipatory and adaptive automobile hmi |
| US9766089B2 (en) | 2009-12-14 | 2017-09-19 | Nokia Technologies Oy | Method and apparatus for correlating and navigating between a live image and a prerecorded panoramic image |
| US8892443B2 (en) | 2009-12-15 | 2014-11-18 | At&T Intellectual Property I, L.P. | System and method for combining geographic metadata in automatic speech recognition language and acoustic models |
| KR101211796B1 (ko) | 2009-12-16 | 2012-12-13 | 포항공과대학교 산학협력단 | 외국어 학습 장치 및 그 제공 방법 |
| US8341037B2 (en) | 2009-12-18 | 2012-12-25 | Apple Inc. | Mixed source media playback |
| US8922485B1 (en) | 2009-12-18 | 2014-12-30 | Google Inc. | Behavioral recognition on mobile devices |
| US8385982B2 (en) | 2009-12-21 | 2013-02-26 | At&T Intellectual Property I, L.P. | Controlling use of a communications device in accordance with motion of the device |
| US20110154193A1 (en) | 2009-12-21 | 2011-06-23 | Nokia Corporation | Method and Apparatus for Text Input |
| US9100809B2 (en) | 2009-12-21 | 2015-08-04 | Julia Olincy Olincy | Automatic response option mobile system for responding to incoming texts or calls or both |
| US9222798B2 (en) | 2009-12-22 | 2015-12-29 | Modena Enterprises, Llc | Systems and methods for identifying an activity of a user based on a chronological order of detected movements of a computing device |
| US8805711B2 (en) | 2009-12-22 | 2014-08-12 | International Business Machines Corporation | Two-layer data architecture for reservation management systems |
| EP3091535B1 (en) | 2009-12-23 | 2023-10-11 | Google LLC | Multi-modal input on an electronic device |
| KR20110072847A (ko) | 2009-12-23 | 2011-06-29 | 삼성전자주식회사 | 열려진 사용자 의도 처리를 위한 대화관리 시스템 및 방법 |
| US20110161309A1 (en) | 2009-12-29 | 2011-06-30 | Lx1 Technology Limited | Method Of Sorting The Result Set Of A Search Engine |
| US8479107B2 (en) | 2009-12-31 | 2013-07-02 | Nokia Corporation | Method and apparatus for fluid graphical user interface |
| US8988356B2 (en) | 2009-12-31 | 2015-03-24 | Google Inc. | Touch sensor and touchscreen user input combination |
| US20110166862A1 (en) | 2010-01-04 | 2011-07-07 | Eyal Eshed | System and method for variable automated response to remote verbal input at a mobile device |
| US8494852B2 (en) | 2010-01-05 | 2013-07-23 | Google Inc. | Word-level correction of speech input |
| US8346562B2 (en) | 2010-01-06 | 2013-01-01 | Csr Technology Inc. | Method and apparatus for voice controlled operation of a media player |
| US20110167350A1 (en) | 2010-01-06 | 2011-07-07 | Apple Inc. | Assist Features For Content Display Device |
| US8600743B2 (en) | 2010-01-06 | 2013-12-03 | Apple Inc. | Noise profile determination for voice-related feature |
| US20110173537A1 (en) | 2010-01-11 | 2011-07-14 | Everspeech, Inc. | Integrated data processing and transcription service |
| US8381107B2 (en) | 2010-01-13 | 2013-02-19 | Apple Inc. | Adaptive audio feedback system and method |
| US8311838B2 (en) | 2010-01-13 | 2012-11-13 | Apple Inc. | Devices and methods for identifying a prompt corresponding to a voice input in a sequence of prompts |
| US8334842B2 (en) | 2010-01-15 | 2012-12-18 | Microsoft Corporation | Recognizing user intent in motion capture system |
| US20110179372A1 (en) | 2010-01-15 | 2011-07-21 | Bradford Allen Moore | Automatic Keyboard Layout Determination |
| US10679605B2 (en) | 2010-01-18 | 2020-06-09 | Apple Inc. | Hands-free list-reading by intelligent automated assistant |
| US10553209B2 (en) | 2010-01-18 | 2020-02-04 | Apple Inc. | Systems and methods for hands-free notification summaries |
| US10705794B2 (en) | 2010-01-18 | 2020-07-07 | Apple Inc. | Automatically adapting user interfaces for hands-free interaction |
| US10276170B2 (en) | 2010-01-18 | 2019-04-30 | Apple Inc. | Intelligent automated assistant |
| US20110179002A1 (en) | 2010-01-19 | 2011-07-21 | Dell Products L.P. | System and Method for a Vector-Space Search Engine |
| US8417575B2 (en) | 2010-01-19 | 2013-04-09 | Apple Inc. | On-device offline purchases using credits |
| US8301121B2 (en) | 2010-01-22 | 2012-10-30 | Sony Ericsson Mobile Communications Ab | Regulating alerts generated by communication terminals responsive to sensed movement |
| US8626511B2 (en) | 2010-01-22 | 2014-01-07 | Google Inc. | Multi-dimensional disambiguation of voice commands |
| US20110184736A1 (en) | 2010-01-26 | 2011-07-28 | Benjamin Slotznick | Automated method of recognizing inputted information items and selecting information items |
| US20110184768A1 (en) | 2010-01-27 | 2011-07-28 | Norton Kenneth S | Automatically determine suggested meeting locations based on previously booked calendar events |
| US8406745B1 (en) | 2010-01-28 | 2013-03-26 | Sprint Communications Company L.P. | Synchronization of voice mail greeting and email auto-reply by a wireless communication device |
| JP5633042B2 (ja) | 2010-01-28 | 2014-12-03 | 本田技研工業株式会社 | 音声認識装置、音声認識方法、及び音声認識ロボット |
| WO2011093025A1 (ja) | 2010-01-29 | 2011-08-04 | 日本電気株式会社 | 入力支援システム、方法、およびプログラム |
| WO2011094734A2 (en) | 2010-02-01 | 2011-08-04 | Jumptap, Inc. | Integrated advertising system |
| WO2011092691A1 (en) | 2010-02-01 | 2011-08-04 | Ginger Software, Inc. | Automatic context sensitive language correction using an internet corpus particularly for small keyboard devices |
| US20110191681A1 (en) | 2010-02-02 | 2011-08-04 | Dean Stark | Systems and Methods for Human Intelligence Personal Assistance |
| US8600967B2 (en) | 2010-02-03 | 2013-12-03 | Apple Inc. | Automatic organization of browsing histories |
| US8687777B1 (en) | 2010-02-03 | 2014-04-01 | Tal Lavian | Systems and methods for visual presentation and selection of IVR menu |
| US8645287B2 (en) | 2010-02-04 | 2014-02-04 | Microsoft Corporation | Image tagging based upon cross domain context |
| US8886541B2 (en) | 2010-02-04 | 2014-11-11 | Sony Corporation | Remote controller with position actuatated voice transmission |
| US8179370B1 (en) | 2010-02-09 | 2012-05-15 | Google Inc. | Proximity based keystroke resolution |
| US8751218B2 (en) | 2010-02-09 | 2014-06-10 | Siemens Aktiengesellschaft | Indexing content at semantic level |
| US9413869B2 (en) | 2010-02-10 | 2016-08-09 | Qualcomm Incorporated | Mobile device having plurality of input modes |
| US8812056B2 (en) | 2010-02-12 | 2014-08-19 | Christopher D. Higginbotham | Voice-based command driven computer implemented method |
| US8402018B2 (en) | 2010-02-12 | 2013-03-19 | Korea Advanced Institute Of Science And Technology | Semantic search system using semantic ranking scheme |
| US8782556B2 (en) | 2010-02-12 | 2014-07-15 | Microsoft Corporation | User-centric soft keyboard predictive technologies |
| US8898219B2 (en) | 2010-02-12 | 2014-11-25 | Avaya Inc. | Context sensitive, cloud-based telephony |
| WO2011101845A1 (en) | 2010-02-16 | 2011-08-25 | Screenovate Technologies Ltd. | Modified operating systems allowing mobile devices to accommodate io devices more convenient than their own inherent io devices and methods for generating such systems |
| US9965165B2 (en) | 2010-02-19 | 2018-05-08 | Microsoft Technology Licensing, Llc | Multi-finger gestures |
| US8850360B2 (en) | 2010-02-23 | 2014-09-30 | Hewlett-Packard Development Company, L.P. | Skipping through electronic content on an electronic device |
| US9665344B2 (en) | 2010-02-24 | 2017-05-30 | GM Global Technology Operations LLC | Multi-modal input system for a voice-based menu and content navigation service |
| US8682667B2 (en) | 2010-02-25 | 2014-03-25 | Apple Inc. | User profiling for selecting user specific voice input processing information |
| US9710556B2 (en) | 2010-03-01 | 2017-07-18 | Vcvc Iii Llc | Content recommendation based on collections of entities |
| US20120066303A1 (en) | 2010-03-03 | 2012-03-15 | Waldeck Technology, Llc | Synchronized group location updates |
| US20110218855A1 (en) | 2010-03-03 | 2011-09-08 | Platformation, Inc. | Offering Promotions Based on Query Analysis |
| US8502837B2 (en) | 2010-03-04 | 2013-08-06 | Research In Motion Limited | System and method for activating components on an electronic device using orientation data |
| US8903847B2 (en) | 2010-03-05 | 2014-12-02 | International Business Machines Corporation | Digital media voice tags in social networks |
| US8948515B2 (en) | 2010-03-08 | 2015-02-03 | Sightera Technologies Ltd. | Method and system for classifying one or more images |
| KR20130001261A (ko) | 2010-03-12 | 2013-01-03 | 뉘앙스 커뮤니케이션즈, 인코포레이티드 | 이동 전화의 터치 스크린과 함께 사용하기 위한 다중 모드 문자 입력 시스템 |
| US8521513B2 (en) | 2010-03-12 | 2013-08-27 | Microsoft Corporation | Localization for interactive voice response systems |
| US20110228913A1 (en) | 2010-03-16 | 2011-09-22 | Telcordia Technologies, Inc. | Automatic extraction of information from ongoing voice communication system and methods |
| US8374864B2 (en) | 2010-03-17 | 2013-02-12 | Cisco Technology, Inc. | Correlation of transcribed text with corresponding audio |
| US20110231218A1 (en) | 2010-03-18 | 2011-09-22 | Tovar Tom C | Systems and Methods for Providing Reminders for a Task List |
| US20110231189A1 (en) | 2010-03-19 | 2011-09-22 | Nuance Communications, Inc. | Methods and apparatus for extracting alternate media titles to facilitate speech recognition |
| KR101832693B1 (ko) | 2010-03-19 | 2018-02-28 | 디지맥 코포레이션 | 직관적 컴퓨팅 방법들 및 시스템들 |
| US9323756B2 (en) | 2010-03-22 | 2016-04-26 | Lenovo (Singapore) Pte. Ltd. | Audio book and e-book synchronization |
| US8554280B2 (en) | 2010-03-23 | 2013-10-08 | Ebay Inc. | Free-form entries during payment processes |
| US20110239111A1 (en) | 2010-03-24 | 2011-09-29 | Avaya Inc. | Spell checker interface |
| US20110238676A1 (en) | 2010-03-25 | 2011-09-29 | Palm, Inc. | System and method for data capture, storage, and retrieval |
| US9628831B2 (en) | 2010-03-25 | 2017-04-18 | Whatsapp, Inc. | Multimedia transcoding method and system for mobile devices |
| US9378202B2 (en) | 2010-03-26 | 2016-06-28 | Virtuoz Sa | Semantic clustering |
| EP2550651B1 (en) | 2010-03-26 | 2016-06-15 | Nuance Communications, Inc. | Context based voice activity detection sensitivity |
| US8428759B2 (en) | 2010-03-26 | 2013-04-23 | Google Inc. | Predictive pre-recording of audio for voice input |
| US20110238412A1 (en) | 2010-03-26 | 2011-09-29 | Antoine Ezzat | Method for Constructing Pronunciation Dictionaries |
| EP2553557A4 (en) | 2010-03-31 | 2014-01-22 | Hewlett Packard Development Co | CONTEXTIC USER INTERFACE |
| US20110242007A1 (en) | 2010-04-01 | 2011-10-06 | Gray Theodore W | E-Book with User-Manipulatable Graphical Objects |
| US8930176B2 (en) | 2010-04-01 | 2015-01-06 | Microsoft Corporation | Interactive multilingual word-alignment techniques |
| US8296380B1 (en) | 2010-04-01 | 2012-10-23 | Kel & Partners LLC | Social media based messaging systems and methods |
| WO2011127242A2 (en) | 2010-04-07 | 2011-10-13 | Max Value Solutions INTL, LLC | Method and system for name pronunciation guide services |
| US9929982B2 (en) | 2010-04-08 | 2018-03-27 | Microsoft Technology Licensing, Llc | Designating automated agents as friends in a social network service |
| KR101369810B1 (ko) | 2010-04-09 | 2014-03-05 | 이초강 | 로봇을 위한 경험적 상황인식 방법을 실행하는 프로그램을 기록한 컴퓨터 판독가능한 기록 매체. |
| US8810684B2 (en) | 2010-04-09 | 2014-08-19 | Apple Inc. | Tagging images in a mobile communications device using a contacts list |
| JP5315289B2 (ja) | 2010-04-12 | 2013-10-16 | トヨタ自動車株式会社 | オペレーティングシステム及びオペレーティング方法 |
| KR101681281B1 (ko) | 2010-04-12 | 2016-12-12 | 구글 인코포레이티드 | 입력 방법 에디터에 대한 확장 프레임워크 |
| CN102214187B (zh) | 2010-04-12 | 2017-03-01 | 阿里巴巴集团控股有限公司 | 复合事件处理方法及装置 |
| US8140567B2 (en) | 2010-04-13 | 2012-03-20 | Microsoft Corporation | Measuring entity extraction complexity |
| US8265928B2 (en) | 2010-04-14 | 2012-09-11 | Google Inc. | Geotagged environmental audio for enhanced speech recognition accuracy |
| US8756233B2 (en) | 2010-04-16 | 2014-06-17 | Video Semantics | Semantic segmentation and tagging engine |
| US8595014B2 (en) | 2010-04-19 | 2013-11-26 | Qualcomm Incorporated | Providing audible navigation system direction updates during predetermined time windows so as to minimize impact on conversations |
| WO2011131785A1 (en) | 2010-04-21 | 2011-10-27 | Université Catholique de Louvain | Normalisation of noisy typewritten texts |
| US20110260829A1 (en) | 2010-04-21 | 2011-10-27 | Research In Motion Limited | Method of providing security on a portable electronic device having a touch-sensitive display |
| US20130238647A1 (en) | 2010-04-21 | 2013-09-12 | Proteus Digital Health, Inc. | Diagnostic System and Method |
| US20110264495A1 (en) | 2010-04-22 | 2011-10-27 | Apple Inc. | Aggregation of tagged media item information |
| WO2011133195A1 (en) | 2010-04-22 | 2011-10-27 | Zipit Wireless, Inc. | System and method for administration and operation of one or more mobile electronic communications devices |
| US20110264999A1 (en) | 2010-04-23 | 2011-10-27 | Research In Motion Limited | Electronic device including touch-sensitive input device and method of controlling same |
| US20110264530A1 (en) | 2010-04-23 | 2011-10-27 | Bryan Santangelo | Apparatus and methods for dynamic secondary content and data insertion and delivery |
| US8874432B2 (en) | 2010-04-28 | 2014-10-28 | Nec Laboratories America, Inc. | Systems and methods for semi-supervised relationship extraction |
| US8452037B2 (en) | 2010-05-05 | 2013-05-28 | Apple Inc. | Speaker clip |
| US8380504B1 (en) | 2010-05-06 | 2013-02-19 | Sprint Communications Company L.P. | Generation of voice profiles |
| US8756571B2 (en) | 2010-05-07 | 2014-06-17 | Hewlett-Packard Development Company, L.P. | Natural language text instructions |
| US8938436B2 (en) | 2010-05-10 | 2015-01-20 | Verizon Patent And Licensing Inc. | System for and method of providing reusable software service information based on natural language queries |
| JP5595112B2 (ja) | 2010-05-11 | 2014-09-24 | 本田技研工業株式会社 | ロボット |
| JP2011238022A (ja) | 2010-05-11 | 2011-11-24 | Panasonic Corp | 端末、コンテンツの利用の把握方法およびコンテンツの利用システム |
| US20110283189A1 (en) | 2010-05-12 | 2011-11-17 | Rovi Technologies Corporation | Systems and methods for adjusting media guide interaction modes |
| US20110279368A1 (en) | 2010-05-12 | 2011-11-17 | Microsoft Corporation | Inferring user intent to engage a motion capture system |
| US9420055B2 (en) | 2010-05-13 | 2016-08-16 | Futurewei Technologies, Inc. | System, apparatus for content delivery for internet traffic and methods thereof |
| US9634855B2 (en) | 2010-05-13 | 2017-04-25 | Alexander Poltorak | Electronic personal interactive device that determines topics of interest using a conversational agent |
| US9015139B2 (en) | 2010-05-14 | 2015-04-21 | Rovi Guides, Inc. | Systems and methods for performing a search based on a media content snapshot image |
| US8392186B2 (en) | 2010-05-18 | 2013-03-05 | K-Nfb Reading Technology, Inc. | Audio synchronization for document narration with user-selected playback |
| US8694313B2 (en) | 2010-05-19 | 2014-04-08 | Google Inc. | Disambiguation of contact information using historical data |
| WO2011146276A2 (en) * | 2010-05-19 | 2011-11-24 | Google Inc. | Television related searching |
| US9552355B2 (en) | 2010-05-20 | 2017-01-24 | Xerox Corporation | Dynamic bi-phrases for statistical machine translation |
| US8522283B2 (en) | 2010-05-20 | 2013-08-27 | Google Inc. | Television remote control data transfer |
| CN103026318B (zh) | 2010-05-21 | 2016-08-17 | 谷歌公司 | 输入法编辑器 |
| US9236047B2 (en) | 2010-05-21 | 2016-01-12 | Microsoft Technology Licensing, Llc | Voice stream augmented note taking |
| US20110288917A1 (en) | 2010-05-21 | 2011-11-24 | James Wanek | Systems and methods for providing mobile targeted advertisements |
| US8606579B2 (en) | 2010-05-24 | 2013-12-10 | Microsoft Corporation | Voice print identification for identifying speakers |
| JP2011250027A (ja) | 2010-05-25 | 2011-12-08 | Panasonic Electric Works Co Ltd | リモートコントロール機器及び情報通信システム |
| US9569549B1 (en) | 2010-05-25 | 2017-02-14 | Amazon Technologies, Inc. | Location based recommendation and tagging of media content items |
| US8468012B2 (en) | 2010-05-26 | 2013-06-18 | Google Inc. | Acoustic model adaptation using geographic information |
| JP2013533996A (ja) | 2010-05-31 | 2013-08-29 | バイドゥ オンライン ネットワーク テクノロジー（ペキン） カンパニー リミテッド | 英文と別の文字の混在入力に用いられる方法と装置 |
| EP2393056A1 (en) | 2010-06-02 | 2011-12-07 | Layar B.V. | Acquiring, ranking and displaying points of interest for use in an augmented reality service provisioning system and graphical user interface for displaying such ranked points of interests |
| US8639516B2 (en) | 2010-06-04 | 2014-01-28 | Apple Inc. | User-specific noise suppression for voice quality improvements |
| US8707195B2 (en) | 2010-06-07 | 2014-04-22 | Apple Inc. | Devices, methods, and graphical user interfaces for accessibility via a touch-sensitive surface |
| US10204625B2 (en) | 2010-06-07 | 2019-02-12 | Affectiva, Inc. | Audio analysis learning using video data |
| US8458115B2 (en) | 2010-06-08 | 2013-06-04 | Microsoft Corporation | Mining topic-related aspects from user generated content |
| ES2534047T3 (es) | 2010-06-08 | 2015-04-16 | Vodafone Holding Gmbh | Tarjeta inteligente con micrófono |
| US8954425B2 (en) | 2010-06-08 | 2015-02-10 | Microsoft Corporation | Snippet extraction and ranking |
| US20110306426A1 (en) | 2010-06-10 | 2011-12-15 | Microsoft Corporation | Activity Participation Based On User Intent |
| US20110307810A1 (en) | 2010-06-11 | 2011-12-15 | Isreal Hilerio | List integration |
| US9529918B2 (en) | 2010-06-11 | 2016-12-27 | Doat Media Ltd. | System and methods thereof for downloading applications via a communication network |
| US8234111B2 (en) | 2010-06-14 | 2012-07-31 | Google Inc. | Speech and noise models for speech recognition |
| US8504404B2 (en) | 2010-06-17 | 2013-08-06 | Google Inc. | Distance and location-aware scheduling assistance in a calendar system with notification of potential conflicts |
| US20110314003A1 (en) | 2010-06-17 | 2011-12-22 | Microsoft Corporation | Template concatenation for capturing multiple concepts in a voice query |
| US9443071B2 (en) | 2010-06-18 | 2016-09-13 | At&T Intellectual Property I, L.P. | Proximity based device security |
| WO2011160140A1 (en) | 2010-06-18 | 2011-12-22 | Susan Bennett | System and method of semantic based searching |
| US8375320B2 (en) | 2010-06-22 | 2013-02-12 | Microsoft Corporation | Context-based task generation |
| US20110313803A1 (en) | 2010-06-22 | 2011-12-22 | Microsoft Corporation | Social Task Lists |
| EP2400373A1 (en) | 2010-06-22 | 2011-12-28 | Vodafone Holding GmbH | Inputting symbols into an electronic device having a touch-screen |
| US9009592B2 (en) | 2010-06-22 | 2015-04-14 | Microsoft Technology Licensing, Llc | Population of lists and tasks from captured voice and audio content |
| US8655901B1 (en) | 2010-06-23 | 2014-02-18 | Google Inc. | Translation-based query pattern mining |
| US8581844B2 (en) | 2010-06-23 | 2013-11-12 | Google Inc. | Switching between a first operational mode and a second operational mode using a natural motion gesture |
| US8812299B1 (en) | 2010-06-24 | 2014-08-19 | Nuance Communications, Inc. | Class-based language model and use |
| CN103038818B (zh) | 2010-06-24 | 2016-10-12 | 本田技研工业株式会社 | 在车载语音识别系统与车外语音识别系统之间的通信系统和方法 |
| US11068657B2 (en) | 2010-06-28 | 2021-07-20 | Skyscanner Limited | Natural language question answering system and method based on deep semantics |
| US8411874B2 (en) | 2010-06-30 | 2013-04-02 | Google Inc. | Removing noise from audio |
| JP5323770B2 (ja) | 2010-06-30 | 2013-10-23 | 日本放送協会 | ユーザ指示取得装置、ユーザ指示取得プログラムおよびテレビ受像機 |
| US8250071B1 (en) | 2010-06-30 | 2012-08-21 | Amazon Technologies, Inc. | Disambiguation of term meaning |
| US20120005602A1 (en) | 2010-07-02 | 2012-01-05 | Nokia Corporation | Methods and apparatuses for facilitating task switching |
| EP2402867B1 (en) | 2010-07-02 | 2018-08-22 | Accenture Global Services Limited | A computer-implemented method, a computer program product and a computer system for image processing |
| US8760537B2 (en) | 2010-07-05 | 2014-06-24 | Apple Inc. | Capturing and rendering high dynamic range images |
| US20120010886A1 (en) | 2010-07-06 | 2012-01-12 | Javad Razavilar | Language Identification |
| US8848882B2 (en) | 2010-07-07 | 2014-09-30 | Verizon Patent And Licensing Inc. | System for and method of measuring caller interactions during a call session |
| JP5548542B2 (ja) | 2010-07-13 | 2014-07-16 | 富士通テン株式会社 | 携帯端末装置および駐車位置案内プログラム |
| US8249556B2 (en) | 2010-07-13 | 2012-08-21 | Google Inc. | Securing a mobile computing device |
| US9104670B2 (en) | 2010-07-21 | 2015-08-11 | Apple Inc. | Customized search or acquisition of digital media assets |
| US8260247B2 (en) | 2010-07-21 | 2012-09-04 | Research In Motion Limited | Portable electronic device and method of operation |
| CN103081514A (zh) | 2010-07-23 | 2013-05-01 | 福纳克有限公司 | 听觉系统和用于操作听觉系统的方法 |
| US9786159B2 (en) | 2010-07-23 | 2017-10-10 | Tivo Solutions Inc. | Multi-function remote control device |
| US8528072B2 (en) | 2010-07-23 | 2013-09-03 | Apple Inc. | Method, apparatus and system for access mode control of a device |
| US9633656B2 (en) | 2010-07-27 | 2017-04-25 | Sony Corporation | Device registration process from second display |
| CN102340590A (zh) | 2010-07-27 | 2012-02-01 | 上海闻泰电子科技有限公司 | 一种用于手机的感光加解锁装置及其实现方法 |
| US8463592B2 (en) | 2010-07-27 | 2013-06-11 | International Business Machines Corporation | Mode supporting multiple language input for entering text |
| JP5606205B2 (ja) | 2010-07-28 | 2014-10-15 | 京セラ株式会社 | 携帯端末装置 |
| US8861925B1 (en) | 2010-07-28 | 2014-10-14 | Intuit Inc. | Methods and systems for audio-visual synchronization |
| US8521526B1 (en) | 2010-07-28 | 2013-08-27 | Google Inc. | Disambiguation of a spoken query term |
| CN102346557B (zh) | 2010-07-28 | 2016-08-03 | 深圳市世纪光速信息技术有限公司 | 一种输入法和输入法系统 |
| US8694537B2 (en) | 2010-07-29 | 2014-04-08 | Soundhound, Inc. | Systems and methods for enabling natural language processing |
| KR101699720B1 (ko) | 2010-08-03 | 2017-01-26 | 삼성전자주식회사 | 음성명령 인식 장치 및 음성명령 인식 방법 |
| BRPI1004128A2 (pt) | 2010-08-04 | 2012-04-10 | Magneti Marelli Sist S Automotivos Ind E Com Ltda | definição dos parámetros chave de nìvel superior para sensor lógico de biodiesel |
| JP2012037619A (ja) | 2010-08-04 | 2012-02-23 | Nec Corp | 話者適応化装置、話者適応化方法および話者適応化用プログラム |
| US8775156B2 (en) | 2010-08-05 | 2014-07-08 | Google Inc. | Translating languages in response to device motion |
| US9349368B1 (en) | 2010-08-05 | 2016-05-24 | Google Inc. | Generating an audio notification based on detection of a triggering event |
| US8731939B1 (en) | 2010-08-06 | 2014-05-20 | Google Inc. | Routing queries based on carrier phrase registration |
| US8359020B2 (en) | 2010-08-06 | 2013-01-22 | Google Inc. | Automatically monitoring for voice input based on context |
| US8402533B2 (en) | 2010-08-06 | 2013-03-19 | Google Inc. | Input to locked computing device |
| US8473289B2 (en) | 2010-08-06 | 2013-06-25 | Google Inc. | Disambiguating input based on context |
| WO2012019637A1 (en) | 2010-08-09 | 2012-02-16 | Jadhav, Shubhangi Mahadeo | Visual music playlist creation and visual music track exploration |
| US8802957B2 (en) | 2010-08-16 | 2014-08-12 | Boardwalk Technology Group, Llc | Mobile replacement-dialogue recording system |
| CN101951553B (zh) | 2010-08-17 | 2012-10-10 | 深圳市车音网科技有限公司 | 基于语音命令的导航方法及系统 |
| KR101577124B1 (ko) | 2010-08-27 | 2015-12-11 | 인텔 코포레이션 | 원격 제어 장치 |
| US8719006B2 (en) | 2010-08-27 | 2014-05-06 | Apple Inc. | Combined statistical and rule-based part-of-speech tagging for text-to-speech synthesis |
| WO2012030838A1 (en) | 2010-08-30 | 2012-03-08 | Honda Motor Co., Ltd. | Belief tracking and action selection in spoken dialog systems |
| US8478519B2 (en) | 2010-08-30 | 2013-07-02 | Google Inc. | Providing results to parameterless search queries |
| US8225137B2 (en) | 2010-09-04 | 2012-07-17 | Cisco Technology, Inc. | System and method for providing media server redundancy in a network environment |
| US9800721B2 (en) | 2010-09-07 | 2017-10-24 | Securus Technologies, Inc. | Multi-party conversation analyzer and logger |
| US8341142B2 (en) | 2010-09-08 | 2012-12-25 | Nuance Communications, Inc. | Methods and apparatus for searching the Internet |
| JP5851507B2 (ja) | 2010-09-08 | 2016-02-03 | ニュアンス コミュニケーションズ，インコーポレイテッド | インターネット検索に関する方法及び装置 |
| US20120059655A1 (en) | 2010-09-08 | 2012-03-08 | Nuance Communications, Inc. | Methods and apparatus for providing input to a speech-enabled application program |
| EP2614448A1 (en) | 2010-09-09 | 2013-07-17 | Sony Ericsson Mobile Communications AB | Annotating e-books/e-magazines with application results |
| US10039978B2 (en) | 2010-09-13 | 2018-08-07 | Sony Interactive Entertainment America Llc | Add-on management systems |
| CN102402985A (zh) | 2010-09-14 | 2012-04-04 | 盛乐信息技术（上海）有限公司 | 提高声纹识别安全性的声纹认证系统及其实现方法 |
| US9538229B2 (en) | 2010-09-15 | 2017-01-03 | Verizon Patent And Licensing Inc. | Media experience for touch screen devices |
| WO2012034273A1 (en) | 2010-09-15 | 2012-03-22 | Empire Technology Development Llc | Task assignment in cloud computing environment |
| JP5480760B2 (ja) | 2010-09-15 | 2014-04-23 | 株式会社Ｎｔｔドコモ | 端末装置、音声認識方法および音声認識プログラム |
| US8560229B1 (en) | 2010-09-15 | 2013-10-15 | Google Inc. | Sensor based activity detection |
| US20120068937A1 (en) | 2010-09-16 | 2012-03-22 | Sony Ericsson Mobile Communications Ab | Quick input language/virtual keyboard/ language dictionary change on a touch screen device |
| US20120078635A1 (en) | 2010-09-24 | 2012-03-29 | Apple Inc. | Voice control system |
| US8836638B2 (en) | 2010-09-25 | 2014-09-16 | Hewlett-Packard Development Company, L.P. | Silent speech based command to a computing device |
| US8719014B2 (en) | 2010-09-27 | 2014-05-06 | Apple Inc. | Electronic device with text error correction based on voice recognition data |
| KR20120031722A (ko) | 2010-09-27 | 2012-04-04 | 삼성전자주식회사 | 동적 응답 생성 장치 및 방법 |
| CN101937194B (zh) | 2010-09-27 | 2012-12-19 | 鸿富锦精密工业（深圳）有限公司 | 具有学习功能的智能控制系统和方法 |
| US8594997B2 (en) | 2010-09-27 | 2013-11-26 | Sap Ag | Context-aware conversational user interface |
| US20120114108A1 (en) | 2010-09-27 | 2012-05-10 | Voxer Ip Llc | Messaging communication application |
| CN101958958A (zh) | 2010-09-29 | 2011-01-26 | 中兴通讯股份有限公司 | 一种回复信息的方法和终端 |
| WO2012040872A1 (en) | 2010-09-29 | 2012-04-05 | Yahoo! Inc. | Training search query intent classifier using wiki article titles and search click log |
| US10037319B2 (en) | 2010-09-29 | 2018-07-31 | Touchtype Limited | User input prediction |
| CN102436456B (zh) | 2010-09-29 | 2016-03-30 | 国际商业机器公司 | 用于对命名实体进行分类的方法和装置 |
| US8965545B2 (en) | 2010-09-30 | 2015-02-24 | Google Inc. | Progressive encoding of audio |
| US8812321B2 (en) | 2010-09-30 | 2014-08-19 | At&T Intellectual Property I, L.P. | System and method for combining speech recognition outputs from a plurality of domain-specific speech recognizers via machine learning |
| US8644519B2 (en) | 2010-09-30 | 2014-02-04 | Apple Inc. | Electronic devices with improved audio |
| US8515736B1 (en) | 2010-09-30 | 2013-08-20 | Nuance Communications, Inc. | Training call routing applications by reusing semantically-labeled data collected for prior applications |
| US20120084248A1 (en) | 2010-09-30 | 2012-04-05 | Microsoft Corporation | Providing suggestions based on user intent |
| US8606293B2 (en) | 2010-10-05 | 2013-12-10 | Qualcomm Incorporated | Mobile device location estimation using environmental information |
| EP2625628A2 (en) | 2010-10-05 | 2013-08-14 | International Business Machines Corporation | Probabilistic data mining model comparison engine |
| US20120084634A1 (en) | 2010-10-05 | 2012-04-05 | Sony Corporation | Method and apparatus for annotating text |
| US9679256B2 (en) | 2010-10-06 | 2017-06-13 | The Chancellor, Masters And Scholars Of The University Of Cambridge | Automated assessment of examination scripts |
| US9043386B2 (en) | 2010-10-06 | 2015-05-26 | Hbr Labs Inc. | System and method for synchronizing collaborative form filling |
| US9465798B2 (en) | 2010-10-08 | 2016-10-11 | Iq Technology Inc. | Single word and multi-word term integrating system and a method thereof |
| US10900799B2 (en) | 2010-10-12 | 2021-01-26 | Toyota Motor Engineering & Manufacturing North America, Inc. | Systems and methods for determining a destination location from a communication |
| DE112011103447T5 (de) | 2010-10-15 | 2013-08-22 | Intelligent Mechatronic Systems, Inc. | Durch implizite Zuordnung und Polymorphismus gesteuerte Mensch-Maschine-Wechselwirkung |
| JP5572059B2 (ja) | 2010-10-21 | 2014-08-13 | 京セラ株式会社 | 表示装置 |
| US8335774B2 (en) | 2010-10-28 | 2012-12-18 | Google Inc. | Replacing a master media file |
| US20120108221A1 (en) | 2010-10-28 | 2012-05-03 | Microsoft Corporation | Augmenting communication sessions with applications |
| JP5017441B2 (ja) | 2010-10-28 | 2012-09-05 | 株式会社東芝 | 携帯型電子機器 |
| US9311308B2 (en) | 2010-10-29 | 2016-04-12 | Hewlett-Packard Development Company, L.P. | Content recommendation for groups |
| JP5883014B2 (ja) | 2010-10-29 | 2016-03-09 | 科大訊飛股▲分▼有限公司ｉＦＬＹＴＥＫ Ｃｏ．， Ｌｔｄ． | 録音の終了点自動検出のための方法及びシステム |
| US9058105B2 (en) | 2010-10-31 | 2015-06-16 | International Business Machines Corporation | Automated adjustment of input configuration |
| US9348417B2 (en) | 2010-11-01 | 2016-05-24 | Microsoft Technology Licensing, Llc | Multimodal input system |
| US20120110456A1 (en) | 2010-11-01 | 2012-05-03 | Microsoft Corporation | Integrated voice command modal user interface |
| US8660531B2 (en) | 2010-11-03 | 2014-02-25 | Blackberry Limited | Access to locked functions |
| US8831947B2 (en) | 2010-11-07 | 2014-09-09 | Nice Systems Ltd. | Method and apparatus for large vocabulary continuous speech recognition using a hybrid phoneme-word lattice |
| US20120116770A1 (en) | 2010-11-08 | 2012-05-10 | Ming-Fu Chen | Speech data retrieving and presenting device |
| WO2012063260A2 (en) | 2010-11-09 | 2012-05-18 | Mango Technologies Pvt Ltd. | Virtual secretary on a smart device |
| EP2451141B1 (en) | 2010-11-09 | 2018-11-07 | BlackBerry Limited | Methods and apparatus to display mobile device contents |
| US8352576B2 (en) | 2010-11-15 | 2013-01-08 | Google Inc. | Media file access |
| US20120124172A1 (en) | 2010-11-15 | 2012-05-17 | Google Inc. | Providing Different Versions of a Media File |
| US20130339256A1 (en) | 2010-11-16 | 2013-12-19 | Shardul Suresh Shroff | System and method for providing virtual arbitration |
| US10144440B2 (en) | 2010-11-17 | 2018-12-04 | General Electric Company | Methods and systems for data communications |
| US20120124126A1 (en) | 2010-11-17 | 2012-05-17 | Microsoft Corporation | Contextual and task focused computing |
| US8713024B2 (en) | 2010-11-22 | 2014-04-29 | Microsoft Corporation | Efficient forward ranking in a search engine |
| US9484018B2 (en) | 2010-11-23 | 2016-11-01 | At&T Intellectual Property I, L.P. | System and method for building and evaluating automatic speech recognition via an application programmer interface |
| US8938216B2 (en) | 2010-11-24 | 2015-01-20 | Cisco Technology, Inc. | Geographical location information/signal quality-context based recording and playback of multimedia data from a conference session |
| US8489625B2 (en) | 2010-11-29 | 2013-07-16 | Microsoft Corporation | Mobile query suggestions with time-location awareness |
| US9105008B2 (en) | 2010-11-29 | 2015-08-11 | Yahoo! Inc. | Detecting controversial events |
| US20120135714A1 (en) | 2010-11-29 | 2012-05-31 | Toyota Motor Engineering & Manufacturing North America, Inc. | Information system for motor vehicle |
| GB2486002A (en) | 2010-11-30 | 2012-06-06 | Youview Tv Ltd | Media Content Provision |
| US8862458B2 (en) | 2010-11-30 | 2014-10-14 | Sap Ag | Natural language interface |
| WO2012074338A2 (ko) | 2010-12-02 | 2012-06-07 | 에스케이텔레콤 주식회사 | 자연어 및 수학식 처리 방법과 그를 위한 장치 |
| JP5652913B2 (ja) | 2010-12-03 | 2015-01-14 | アイシン・エィ・ダブリュ株式会社 | 車載端末装置 |
| US9092425B2 (en) | 2010-12-08 | 2015-07-28 | At&T Intellectual Property I, L.P. | System and method for feature-rich continuous space language models |
| US9135241B2 (en) | 2010-12-08 | 2015-09-15 | At&T Intellectual Property I, L.P. | System and method for learning latent representations for natural language tasks |
| US8312096B2 (en) | 2010-12-08 | 2012-11-13 | Google Inc. | Priority inbox notifications and synchronization for mobile messaging application |
| KR101330328B1 (ko) | 2010-12-14 | 2013-11-15 | 한국전자통신연구원 | 음성 인식 방법 및 이를 위한 시스템 |
| US9158775B1 (en) | 2010-12-18 | 2015-10-13 | Google Inc. | Scoring stream items in real time |
| US9244606B2 (en) | 2010-12-20 | 2016-01-26 | Apple Inc. | Device, method, and graphical user interface for navigation of concurrently open software applications |
| WO2012084003A1 (en) | 2010-12-20 | 2012-06-28 | Tomtom Belgium N.V. | Method for generating map data |
| US20120158422A1 (en) | 2010-12-21 | 2012-06-21 | General Electric Company | Methods and systems for scheduling appointments in healthcare systems |
| US20120158293A1 (en) | 2010-12-21 | 2012-06-21 | General Electric Company | Methods and systems for dynamically providing users with appointment reminders |
| US8666726B2 (en) | 2010-12-21 | 2014-03-04 | Nuance Communications, Inc. | Sample clustering to reduce manual transcriptions in speech recognition system |
| US20130035086A1 (en) | 2010-12-22 | 2013-02-07 | Logitech Europe S.A. | Remote control system for providing content suggestions |
| US10515147B2 (en) | 2010-12-22 | 2019-12-24 | Apple Inc. | Using statistical language models for contextual lookup |
| US8532377B2 (en) | 2010-12-22 | 2013-09-10 | Xerox Corporation | Image ranking based on abstract concepts |
| US10762293B2 (en) | 2010-12-22 | 2020-09-01 | Apple Inc. | Using parts-of-speech tagging and named entity recognition for spelling correction |
| US20120166959A1 (en) | 2010-12-23 | 2012-06-28 | Microsoft Corporation | Surfacing content including content accessed from jump list tasks and items |
| US8731902B2 (en) | 2010-12-23 | 2014-05-20 | Sap Ag | Systems and methods for accessing applications based on user intent modeling |
| US8838449B2 (en) | 2010-12-23 | 2014-09-16 | Microsoft Corporation | Word-dependent language model |
| US10620794B2 (en) | 2010-12-23 | 2020-04-14 | Apple Inc. | Device, method, and graphical user interface for switching between two user interfaces |
| JP2012142744A (ja) | 2010-12-28 | 2012-07-26 | Sanyo Electric Co Ltd | 通信装置 |
| WO2012092562A1 (en) | 2010-12-30 | 2012-07-05 | Ambientz | Information processing using a population of data acquisition devices |
| TWI413105B (zh) | 2010-12-30 | 2013-10-21 | Ind Tech Res Inst | 多語言之文字轉語音合成系統與方法 |
| KR101828273B1 (ko) | 2011-01-04 | 2018-02-14 | 삼성전자주식회사 | 결합기반의 음성명령 인식 장치 및 그 방법 |
| US8626681B1 (en) | 2011-01-04 | 2014-01-07 | Google Inc. | Training a probabilistic spelling checker from structured data |
| WO2012092709A1 (en) | 2011-01-05 | 2012-07-12 | Google Inc. | Method and system for facilitating text input |
| US8589950B2 (en) | 2011-01-05 | 2013-11-19 | Blackberry Limited | Processing user input events in a web browser |
| ES2707789T3 (es) | 2011-01-05 | 2019-04-05 | Connecthings | Dispositivo para accionar un terminal portable |
| JP5712618B2 (ja) | 2011-01-07 | 2015-05-07 | サクサ株式会社 | 電話システム |
| US9183843B2 (en) | 2011-01-07 | 2015-11-10 | Nuance Communications, Inc. | Configurable speech recognition system using multiple recognizers |
| WO2012092654A1 (en) | 2011-01-07 | 2012-07-12 | Research In Motion Limited | System and method for controlling mobile communication devices |
| US10032455B2 (en) | 2011-01-07 | 2018-07-24 | Nuance Communications, Inc. | Configurable speech recognition system using a pronunciation alignment between multiple recognizers |
| US20120176255A1 (en) | 2011-01-10 | 2012-07-12 | Deutsche Telekom Ag | Mobile device-based automatic parking location recorder and reminder using on-board diagnostics |
| US20130283283A1 (en) | 2011-01-13 | 2013-10-24 | Htc Corporation | Portable electronic device and control method therefor |
| TWI546700B (zh) | 2011-01-13 | 2016-08-21 | 宏達國際電子股份有限公司 | 手持電子裝置及其控制方法與電腦程式產品 |
| US8863256B1 (en) | 2011-01-14 | 2014-10-14 | Cisco Technology, Inc. | System and method for enabling secure transactions using flexible identity management in a vehicular environment |
| US8689116B2 (en) | 2011-01-14 | 2014-04-01 | Apple Inc. | Email user interface |
| KR101242073B1 (ko) | 2011-01-20 | 2013-03-11 | 주식회사 웨이브애프터 | 사용자단말의 터치스크린의 사용자 인터페이스 방법 및 그 기록매체 |
| US20120192096A1 (en) | 2011-01-25 | 2012-07-26 | Research In Motion Limited | Active command line driven user interface |
| US9031970B1 (en) | 2011-01-26 | 2015-05-12 | Google Inc. | Query autocompletions |
| US8666895B2 (en) | 2011-01-31 | 2014-03-04 | Bank Of America Corporation | Single action mobile transaction device |
| FI126119B (fi) * | 2011-01-31 | 2016-06-30 | Waertsilae Finland Oy | Massavaimennin |
| US8943054B2 (en) | 2011-01-31 | 2015-01-27 | Social Resolve, Llc | Social media content management system and method |
| AU2012212517A1 (en) | 2011-02-04 | 2013-08-22 | Google Inc. | Posting to social networks by voice |
| US9452735B2 (en) | 2011-02-10 | 2016-09-27 | Ford Global Technologies, Llc | System and method for controlling a restricted mode in a vehicle |
| US8862612B2 (en) | 2011-02-11 | 2014-10-14 | Sony Corporation | Direct search launch on a second display |
| US9628842B2 (en) | 2011-02-11 | 2017-04-18 | Sony Corporation | Method and apparatus for identifying content using IPTV devices |
| US20120209654A1 (en) | 2011-02-11 | 2012-08-16 | Avaya Inc. | Mobile activity assistant analysis |
| US20120209413A1 (en) | 2011-02-14 | 2012-08-16 | Microsoft Corporation | Background Audio on Mobile Devices |
| TW201241640A (en) | 2011-02-14 | 2012-10-16 | Microsoft Corp | Dormant background applications on mobile devices |
| CN103477592A (zh) | 2011-02-16 | 2013-12-25 | 科泰克工业有限公司 | 无线电源、照明和自动化控制 |
| US10429869B2 (en) | 2011-02-16 | 2019-10-01 | Kortek Industries Pty Ltd | Wireless power, light and automation control |
| CN103370684B (zh) | 2011-02-17 | 2018-04-17 | 日本电气株式会社 | 电子设备、显示方法以及非瞬变存储介质 |
| US9916420B2 (en) | 2011-02-18 | 2018-03-13 | Nuance Communications, Inc. | Physician and clinical documentation specialist workflow integration |
| US8694335B2 (en) | 2011-02-18 | 2014-04-08 | Nuance Communications, Inc. | Methods and apparatus for applying user corrections to medical fact extraction |
| US9686732B2 (en) | 2011-02-22 | 2017-06-20 | Theatrolabs, Inc. | Observation platform for using structured communications with distributed traffic flow |
| KR101178310B1 (ko) | 2011-02-24 | 2012-08-29 | 포항공과대학교 산학협력단 | 대화 관리 방법 및 이를 실행하는 시스템 |
| US10145960B2 (en) | 2011-02-24 | 2018-12-04 | Ford Global Technologies, Llc | System and method for cell phone restriction |
| CN102651217A (zh) | 2011-02-25 | 2012-08-29 | 株式会社东芝 | 用于合成语音的方法、设备以及用于语音合成的声学模型训练方法 |
| US8688453B1 (en) | 2011-02-28 | 2014-04-01 | Nuance Communications, Inc. | Intent mining via analysis of utterances |
| US20120221552A1 (en) | 2011-02-28 | 2012-08-30 | Nokia Corporation | Method and apparatus for providing an active search user interface element |
| US9632677B2 (en) | 2011-03-02 | 2017-04-25 | The Boeing Company | System and method for navigating a 3-D environment using a multi-input interface |
| US8972275B2 (en) | 2011-03-03 | 2015-03-03 | Brightedge Technologies, Inc. | Optimization of social media engagement |
| JP5229696B2 (ja) | 2011-03-04 | 2013-07-03 | 日本電気株式会社 | 情報処理システム、情報処理装置、その制御方法、及びその制御プログラム、通信環境監視復旧方法 |
| EP2498250B1 (en) | 2011-03-07 | 2021-05-05 | Accenture Global Services Limited | Client and server system for natural language-based control of a digital network of devices |
| CN102122506B (zh) | 2011-03-08 | 2013-07-31 | 天脉聚源(北京)传媒科技有限公司 | 一种语音识别的方法 |
| US9081760B2 (en) | 2011-03-08 | 2015-07-14 | At&T Intellectual Property I, L.P. | System and method for building diverse language models |
| US20120233266A1 (en) | 2011-03-11 | 2012-09-13 | Microsoft Corporation | Peer-to-peer group with renegotiation of group owner |
| CN202092650U (zh) | 2011-03-14 | 2011-12-28 | 深圳市车乐数码科技有限公司 | 一种带按键的语音导航的车载多媒体 |
| US8849931B2 (en) | 2011-03-15 | 2014-09-30 | Idt Messaging, Llc | Linking context-based information to text messages |
| US8606090B2 (en) | 2011-03-17 | 2013-12-10 | Sony Corporation | Sport program chaptering |
| US9262612B2 (en) | 2011-03-21 | 2016-02-16 | Apple Inc. | Device access using voice authentication |
| US20120246133A1 (en) | 2011-03-23 | 2012-09-27 | Microsoft Corporation | Online spelling correction/phrase completion system |
| US8862255B2 (en) | 2011-03-23 | 2014-10-14 | Audible, Inc. | Managing playback of synchronized content |
| US8868111B1 (en) | 2011-03-23 | 2014-10-21 | Dp Technologies, Inc. | Method and apparatus to enable the use of a personal communication device with an integrated vehicle interface |
| US20120246064A1 (en) | 2011-03-23 | 2012-09-27 | Ebay, Inc. | Customer refunds using payment service providers |
| US8766793B2 (en) | 2011-03-25 | 2014-07-01 | Microsoft Corporation | Contextually-appropriate task reminders |
| US9202465B2 (en) | 2011-03-25 | 2015-12-01 | General Motors Llc | Speech recognition dependent on text message content |
| US9171546B1 (en) | 2011-03-29 | 2015-10-27 | Google Inc. | Performing functions based on commands in context of telephonic communication |
| CN202035047U (zh) | 2011-03-29 | 2011-11-09 | 张磊 | 一种提取地址信息进行导航的移动终端 |
| US9154555B2 (en) | 2011-03-30 | 2015-10-06 | Paypal, Inc. | Device specific remote disabling of applications |
| JP2012211932A (ja) | 2011-03-30 | 2012-11-01 | Toshiba Corp | 音声認識装置及び音声認識方法 |
| US9760566B2 (en) | 2011-03-31 | 2017-09-12 | Microsoft Technology Licensing, Llc | Augmented conversational understanding agent to identify conversation context between two humans and taking an agent action thereof |
| WO2012135218A2 (en) | 2011-03-31 | 2012-10-04 | Microsoft Corporation | Combined activation for natural user interface systems |
| US9842168B2 (en) | 2011-03-31 | 2017-12-12 | Microsoft Technology Licensing, Llc | Task driven user intents |
| WO2012135614A1 (en) | 2011-03-31 | 2012-10-04 | Aol Inc. | Systems and methods for transferring application state between devices based on gestural input |
| US9280535B2 (en) | 2011-03-31 | 2016-03-08 | Infosys Limited | Natural language querying with cascaded conditional random fields |
| US9337999B2 (en) | 2011-04-01 | 2016-05-10 | Intel Corporation | Application usage continuum across platforms |
| US9820335B2 (en) | 2011-04-01 | 2017-11-14 | Interdigital Patent Holdings, Inc. | System and method for sharing a common PDP context |
| US9098488B2 (en) | 2011-04-03 | 2015-08-04 | Microsoft Technology Licensing, Llc | Translation of multilingual embedded phrases |
| US9612892B2 (en) | 2011-04-04 | 2017-04-04 | Hewlett Packard Enterprise Development Lp | Creating a correlation rule defining a relationship between event types |
| US20120252367A1 (en) | 2011-04-04 | 2012-10-04 | Meditalk Devices, Llc | Auditory Speech Module For Medical Devices |
| US20120316955A1 (en) | 2011-04-06 | 2012-12-13 | Yahoo! Inc. | System and Method for Mobile Application Search |
| US8914275B2 (en) | 2011-04-06 | 2014-12-16 | Microsoft Corporation | Text prediction |
| CN102137193A (zh) | 2011-04-13 | 2011-07-27 | 深圳凯虹移动通信有限公司 | 一种移动通讯终端及其通讯控制方法 |
| US9292877B2 (en) | 2011-04-13 | 2016-03-22 | Longsand Limited | Methods and systems for generating concept-based hash tags |
| US9366749B2 (en) | 2011-04-15 | 2016-06-14 | Qualcomm Incorporated | Device position estimates from motion and ambient light classifiers |
| US20120265784A1 (en) | 2011-04-15 | 2012-10-18 | Microsoft Corporation | Ordering semantic query formulation suggestions |
| US9648107B1 (en) | 2011-04-22 | 2017-05-09 | Angel A. Penilla | Methods and cloud systems for using connected object state data for informing and alerting connected vehicle drivers of state changes |
| US9493130B2 (en) | 2011-04-22 | 2016-11-15 | Angel A. Penilla | Methods and systems for communicating content to connected vehicle users based detected tone/mood in voice input |
| JP2014520297A (ja) | 2011-04-25 | 2014-08-21 | ベベオ，インク． | 高度な個人的時刻表アシスタントのためのシステムよび方法 |
| US9444692B2 (en) | 2011-04-26 | 2016-09-13 | Openet Telecom Ltd. | Systems, devices and methods of crowd-sourcing across multiple domains |
| US9065660B2 (en) | 2011-04-26 | 2015-06-23 | Alcatel Lucent | Usage monitoring after rollover |
| US9110556B2 (en) | 2011-04-28 | 2015-08-18 | Nokia Technologies Oy | Method and apparatus for increasing the functionality of an electronic device in a locked state |
| CN102841911A (zh) | 2011-05-03 | 2012-12-26 | 宏达国际电子股份有限公司 | 手持式电子装置及其多媒体片段记录方法 |
| CN102870065B (zh) | 2011-05-04 | 2016-01-20 | 黑莓有限公司 | 用于调整图形用户界面上显示的图形数据的呈现的方法 |
| US8171137B1 (en) | 2011-05-09 | 2012-05-01 | Google Inc. | Transferring application state across devices |
| US8150385B1 (en) | 2011-05-09 | 2012-04-03 | Loment, Inc. | Automated reply messages among end user communication devices |
| KR101760422B1 (ko) | 2011-05-11 | 2017-07-31 | 엘지전자 주식회사 | 이동 단말기 및 그 제어방법 |
| US9064006B2 (en) | 2012-08-23 | 2015-06-23 | Microsoft Technology Licensing, Llc | Translating natural language utterances to keyword search queries |
| US9418661B2 (en) | 2011-05-12 | 2016-08-16 | Johnson Controls Technology Company | Vehicle voice recognition systems and methods |
| KR101233561B1 (ko) | 2011-05-12 | 2013-02-14 | 엔에이치엔(주) | 단어 수준의 후보 생성에 기초한 음성 인식 시스템 및 방법 |
| EP2707821A4 (en) | 2011-05-13 | 2015-04-08 | David Plimpton | CALENDAR-BASED SEARCH ENGINE |
| US9075875B1 (en) | 2011-05-13 | 2015-07-07 | Google Inc. | System and method for recommending television programs based on user search queries |
| US20120290291A1 (en) | 2011-05-13 | 2012-11-15 | Gabriel Lee Gilbert Shelley | Input processing for character matching and predicted word matching |
| US8793624B2 (en) | 2011-05-18 | 2014-07-29 | Google Inc. | Control of a device using gestures |
| US8972240B2 (en) | 2011-05-19 | 2015-03-03 | Microsoft Corporation | User-modifiable word lattice display for editing documents and search queries |
| US8914290B2 (en) | 2011-05-20 | 2014-12-16 | Vocollect, Inc. | Systems and methods for dynamically improving user intelligibility of synthesized speech in a work environment |
| EP2712189A4 (en) | 2011-05-20 | 2015-04-01 | Japan Broadcasting Corp | DEVICE AND PROGRAM FOR CONTROLLING PROGRAM SWITCHES |
| US20120304124A1 (en) | 2011-05-23 | 2012-11-29 | Microsoft Corporation | Context aware input engine |
| US8954329B2 (en) | 2011-05-23 | 2015-02-10 | Nuance Communications, Inc. | Methods and apparatus for acoustic disambiguation by insertion of disambiguating textual information |
| US9361282B2 (en) | 2011-05-24 | 2016-06-07 | Lg Electronics Inc. | Method and device for user interface |
| US8731936B2 (en) | 2011-05-26 | 2014-05-20 | Microsoft Corporation | Energy-efficient unobtrusive identification of a speaker |
| US9164983B2 (en) | 2011-05-27 | 2015-10-20 | Robert Bosch Gmbh | Broad-coverage normalization system for social media language |
| US9268857B2 (en) | 2011-06-03 | 2016-02-23 | Facebook, Inc. | Suggesting search results to users before receiving any search query from the users |
| US10672399B2 (en) | 2011-06-03 | 2020-06-02 | Apple Inc. | Switching between text data and audio data based on a mapping |
| US10057736B2 (en) | 2011-06-03 | 2018-08-21 | Apple Inc. | Active transport based notifications |
| TWI488174B (zh) | 2011-06-03 | 2015-06-11 | Apple Inc | 自動地建立文字資料與音訊資料間之映射 |
| US8751971B2 (en) | 2011-06-05 | 2014-06-10 | Apple Inc. | Devices, methods, and graphical user interfaces for providing accessibility using a touch-sensitive surface |
| US8781841B1 (en) | 2011-06-07 | 2014-07-15 | Cisco Technology, Inc. | Name recognition of virtual meeting participants |
| US20120317498A1 (en) | 2011-06-07 | 2012-12-13 | Research In Motion Limited | Electronic communication device and method for displaying icons |
| US20120316774A1 (en) | 2011-06-09 | 2012-12-13 | Microsoft Corporation | Automatic navigation to a prior known location |
| WO2012170817A1 (en) | 2011-06-10 | 2012-12-13 | Google Inc. | Augmenting statistical machine translation with linguistic knowledge |
| US20120316875A1 (en) | 2011-06-10 | 2012-12-13 | Red Shift Company, Llc | Hosted speech handling |
| US8732319B2 (en) | 2011-06-10 | 2014-05-20 | Qualcomm Incorporated | Context awareness proximity-based establishment of wireless communication connection |
| US9082408B2 (en) | 2011-06-13 | 2015-07-14 | Mmodal Ip Llc | Speech recognition using loosely coupled components |
| US20130158977A1 (en) | 2011-06-14 | 2013-06-20 | Andrew Senior | System and Method for Evaluating Speech Exposure |
| US20120323967A1 (en) | 2011-06-14 | 2012-12-20 | Microsoft Corporation | Spelling Using a Fuzzy Pattern Search |
| US20120321112A1 (en) | 2011-06-16 | 2012-12-20 | Apple Inc. | Selecting a digital stream based on an audio sample |
| US9201862B2 (en) | 2011-06-16 | 2015-12-01 | Asociacion Instituto Tecnologico De Informatica | Method for symbolic correction in human-machine interfaces |
| US20120324391A1 (en) | 2011-06-16 | 2012-12-20 | Microsoft Corporation | Predictive word completion |
| CN102237088B (zh) | 2011-06-17 | 2013-10-23 | 盛乐信息技术（上海）有限公司 | 语音识别多信息文本获取装置及方法 |
| US20120329529A1 (en) | 2011-06-21 | 2012-12-27 | GreatCall, Inc. | Gesture activate help process and system |
| KR101850124B1 (ko) | 2011-06-24 | 2018-04-19 | 구글 엘엘씨 | 교차-언어 쿼리 제안을 위한 쿼리 번역 평가 |
| JP6014590B2 (ja) | 2011-06-27 | 2016-10-25 | シスメックス株式会社 | 細胞分析装置および細胞分析方法 |
| US10984387B2 (en) | 2011-06-28 | 2021-04-20 | Microsoft Technology Licensing, Llc | Automatic task extraction and calendar entry |
| US20130007240A1 (en) | 2011-06-30 | 2013-01-03 | At&T Intellectual Property I, L.P. | Systems and methods to provide availability notifications for denied content requests |
| EP2717540B1 (en) | 2011-06-30 | 2015-04-15 | Huawei Technologies Co., Ltd. | Method, apparatus, and system for transmitting media data based on over the top (ott) |
| US20130006633A1 (en) | 2011-07-01 | 2013-01-03 | Qualcomm Incorporated | Learning speech models for mobile device users |
| US20140100847A1 (en) | 2011-07-05 | 2014-04-10 | Mitsubishi Electric Corporation | Voice recognition device and navigation device |
| US9582598B2 (en) | 2011-07-05 | 2017-02-28 | Visa International Service Association | Hybrid applications utilizing distributed models and views apparatuses, methods and systems |
| US9367824B2 (en) | 2011-07-05 | 2016-06-14 | Sap Se | Provisioning and performing action items |
| DE102011078642A1 (de) | 2011-07-05 | 2013-01-10 | Robert Bosch Gmbh | Verfahren zum Prüfen eines m aus n Codes |
| US8209183B1 (en) | 2011-07-07 | 2012-06-26 | Google Inc. | Systems and methods for correction of text from different input types, sources, and contexts |
| US8682670B2 (en) | 2011-07-07 | 2014-03-25 | International Business Machines Corporation | Statistical enhancement of speech output from a statistical text-to-speech synthesis system |
| US20130010575A1 (en) | 2011-07-07 | 2013-01-10 | International Business Machines Corporation | Systems and methods of managing electronic calendar applications |
| US8665212B2 (en) | 2011-07-08 | 2014-03-04 | Blackberry Limited | Systems and methods for locking an electronic device |
| US20130018659A1 (en) | 2011-07-12 | 2013-01-17 | Google Inc. | Systems and Methods for Speech Command Processing |
| US8812474B2 (en) | 2011-07-14 | 2014-08-19 | Nuance Communications, Inc. | Methods and apparatus for identifying and providing information sought by a user |
| DE102012212514A1 (de) | 2011-07-18 | 2013-02-21 | Logitech Europe S.A. | Fernbedienungs-Benutzerschnittstelle für Handgerät |
| US20130024277A1 (en) | 2011-07-18 | 2013-01-24 | Teletech Holdings, Inc. | Platform to provide advertisements to users of registered products |
| CA2747153A1 (en) | 2011-07-19 | 2013-01-19 | Suleman Kaheer | Natural language processing dialog system for obtaining goods, services or information |
| US20130024576A1 (en) | 2011-07-22 | 2013-01-24 | Microsoft Corporation | Proximity-Based Detection |
| US8781810B2 (en) | 2011-07-25 | 2014-07-15 | Xerox Corporation | System and method for productive generation of compound words in statistical machine translation |
| US20130031476A1 (en) | 2011-07-25 | 2013-01-31 | Coin Emmett | Voice activated virtual assistant |
| US8732028B2 (en) | 2011-07-26 | 2014-05-20 | Expose Retail Strategies Inc. | Scheduling of order processing for remotely ordered goods |
| US9009041B2 (en) | 2011-07-26 | 2015-04-14 | Nuance Communications, Inc. | Systems and methods for improving the accuracy of a transcription using auxiliary data such as personal data |
| US8260117B1 (en) | 2011-07-26 | 2012-09-04 | Ooyala, Inc. | Automatically recommending content |
| US9292112B2 (en) | 2011-07-28 | 2016-03-22 | Hewlett-Packard Development Company, L.P. | Multimodal interface |
| EP2737476A4 (en) | 2011-07-28 | 2014-12-10 | Blackberry Ltd | METHOD AND DEVICES FOR COMMUNICATION RELIEF |
| EP2551784A1 (en) | 2011-07-28 | 2013-01-30 | Roche Diagnostics GmbH | Method of controlling the display of a dataset |
| US20130030917A1 (en) | 2011-07-28 | 2013-01-31 | American Express Travel Related Services Company, Inc. | Systems and methods for generating and using a digital pass |
| CN102905499B (zh) | 2011-07-29 | 2015-12-09 | 纬创资通股份有限公司 | 竖卡模块及电子装置 |
| US20130030913A1 (en) | 2011-07-29 | 2013-01-31 | Guangyu Zhu | Deriving Ads Ranking of Local Advertisers based on Distance and Aggregate User Activities |
| US20130030789A1 (en) | 2011-07-29 | 2013-01-31 | Reginald Dalce | Universal Language Translator |
| US20130031216A1 (en) | 2011-07-29 | 2013-01-31 | Myxer, Inc. | Systems and methods for generation of customized media playlists |
| US20130035117A1 (en) | 2011-08-04 | 2013-02-07 | GM Global Technology Operations LLC | System and method for restricting driver mobile device feature usage while vehicle is in motion |
| WO2013022218A2 (en) | 2011-08-05 | 2013-02-14 | Samsung Electronics Co., Ltd. | Electronic apparatus and method for providing user interface thereof |
| EP2555536A1 (en) | 2011-08-05 | 2013-02-06 | Samsung Electronics Co., Ltd. | Method for controlling electronic apparatus based on voice recognition and motion recognition, and electronic apparatus applying the same |
| WO2013022222A2 (en) | 2011-08-05 | 2013-02-14 | Samsung Electronics Co., Ltd. | Method for controlling electronic apparatus based on motion recognition, and electronic apparatus applying the same |
| US9417754B2 (en) | 2011-08-05 | 2016-08-16 | P4tents1, LLC | User interface system, method, and computer program product |
| US8595015B2 (en) | 2011-08-08 | 2013-11-26 | Verizon New Jersey Inc. | Audio communication assessment |
| CN102929710B (zh) | 2011-08-09 | 2017-10-27 | 中兴通讯股份有限公司 | 一种调用应用模块的方法及移动终端 |
| US8706472B2 (en) | 2011-08-11 | 2014-04-22 | Apple Inc. | Method for disambiguating multiple readings in language conversion |
| WO2013022135A1 (en) | 2011-08-11 | 2013-02-14 | Lg Electronics Inc. | Electronic device and method of controlling the same |
| US8589160B2 (en) | 2011-08-19 | 2013-11-19 | Dolbey & Company, Inc. | Systems and methods for providing an electronic dictation interface |
| KR101995425B1 (ko) | 2011-08-21 | 2019-07-02 | 엘지전자 주식회사 | 영상 표시 장치, 단말 장치 및 그 동작 방법 |
| US20130055099A1 (en) | 2011-08-22 | 2013-02-28 | Rose Yao | Unified Messaging System with Integration of Call Log Data |
| US8943071B2 (en) | 2011-08-23 | 2015-01-27 | At&T Intellectual Property I, L.P. | Automatic sort and propagation associated with electronic documents |
| JP5736276B2 (ja) | 2011-08-23 | 2015-06-17 | 京セラ株式会社 | 携帯電子機器、制御方法、および、制御プログラム |
| US9195768B2 (en) | 2011-08-26 | 2015-11-24 | Amazon Technologies, Inc. | Remote browsing session management |
| CN102955652A (zh) | 2011-08-29 | 2013-03-06 | 王道平 | 一种拼音输入方法 |
| US20130055147A1 (en) | 2011-08-29 | 2013-02-28 | Salesforce.Com, Inc. | Configuration, generation, and presentation of custom graphical user interface components for a virtual cloud-based application |
| US8994660B2 (en) | 2011-08-29 | 2015-03-31 | Apple Inc. | Text correction processing |
| US20130054706A1 (en) | 2011-08-29 | 2013-02-28 | Mary Graham | Modulation of Visual Notification Parameters Based on Message Activity and Notification Value |
| US8819012B2 (en) | 2011-08-30 | 2014-08-26 | International Business Machines Corporation | Accessing anchors in voice site content |
| US20130054631A1 (en) | 2011-08-30 | 2013-02-28 | Microsoft Corporation | Adding social network data to search suggestions |
| US8554729B2 (en) | 2011-08-31 | 2013-10-08 | Google Inc. | System and method for synchronization of actions in the background of an application |
| US8914288B2 (en) | 2011-09-01 | 2014-12-16 | At&T Intellectual Property I, L.P. | System and method for advanced turn-taking for interactive spoken dialog systems |
| US20130061139A1 (en) | 2011-09-01 | 2013-03-07 | Google Inc. | Server-based spell checking on a user device |
| US8660847B2 (en) | 2011-09-02 | 2014-02-25 | Microsoft Corporation | Integrated local and cloud based speech recognition |
| US9596084B2 (en) | 2011-09-09 | 2017-03-14 | Facebook, Inc. | Initializing camera subsystem for face detection based on sensor inputs |
| EP2774053A4 (en) | 2011-09-09 | 2015-11-18 | Google Inc | USER INTERFACE FOR A TRANSLATION WEB PAGE |
| US8788979B2 (en) | 2011-09-10 | 2014-07-22 | Microsoft Corporation | Secondary actions on a notification |
| US20130066832A1 (en) | 2011-09-12 | 2013-03-14 | Microsoft Corporation | Application state synchronization |
| US10075533B2 (en) | 2011-09-15 | 2018-09-11 | Paypal, Inc. | Method and apparatus for transferring the state of content using short codes |
| US20130073346A1 (en) | 2011-09-16 | 2013-03-21 | David Chun | Identifying companies most closely related to a given company |
| US20130073286A1 (en) | 2011-09-20 | 2013-03-21 | Apple Inc. | Consolidating Speech Recognition Results |
| US20130073293A1 (en) | 2011-09-20 | 2013-03-21 | Lg Electronics Inc. | Electronic device and method for controlling the same |
| US9519453B2 (en) | 2011-09-21 | 2016-12-13 | Telefonaktiebolaget Lm Ericsson (Publ) | Methods, devices and computer programs for transmitting or for receiving and playing media streams |
| US8699963B2 (en) | 2011-09-22 | 2014-04-15 | Blackberry Limited | Mobile communication device with receiver speaker |
| US8798995B1 (en) | 2011-09-23 | 2014-08-05 | Amazon Technologies, Inc. | Key word determinations from voice data |
| US9129606B2 (en) | 2011-09-23 | 2015-09-08 | Microsoft Technology Licensing, Llc | User query history expansion for improving language model adaptation |
| KR20130032966A (ko) | 2011-09-26 | 2013-04-03 | 엘지전자 주식회사 | 사용자 인터페이스 방법 및 장치 |
| US20130080251A1 (en) | 2011-09-26 | 2013-03-28 | Accenture Global Services Limited | Product registration and tracking system |
| US8812301B2 (en) | 2011-09-26 | 2014-08-19 | Xerox Corporation | Linguistically-adapted structural query annotation |
| US8768707B2 (en) | 2011-09-27 | 2014-07-01 | Sensory Incorporated | Background speech recognition assistant using speaker verification |
| US8996381B2 (en) | 2011-09-27 | 2015-03-31 | Sensory, Incorporated | Background speech recognition assistant |
| US8762156B2 (en) | 2011-09-28 | 2014-06-24 | Apple Inc. | Speech recognition repair using contextual information |
| US20130086609A1 (en) | 2011-09-29 | 2013-04-04 | Viacom International Inc. | Integration of an Interactive Virtual Toy Box Advertising Unit and Digital Media Content |
| US8452602B1 (en) | 2011-09-30 | 2013-05-28 | Google Inc. | Structuring verbal commands to allow concatenation in a voice interface in a mobile device |
| US8452597B2 (en) | 2011-09-30 | 2013-05-28 | Google Inc. | Systems and methods for continual speech recognition and detection in mobile computing devices |
| CN103035251A (zh) | 2011-09-30 | 2013-04-10 | 西门子公司 | 一种建立语音转换模型的方法、语音转换的方法及系统 |
| WO2013048880A1 (en) | 2011-09-30 | 2013-04-04 | Apple Inc. | Automatically adapting user interfaces for hands-free interaction |
| MX2012011426A (es) | 2011-09-30 | 2013-04-01 | Apple Inc | Utilizar informacion de contexto para facilitar el procesamiento de comandos en un asistente virtual. |
| AU2015203483A1 (en) | 2011-09-30 | 2015-07-16 | Apple Inc. | Using context information to facilitate processing of commands in a virtual assistant |
| US8468022B2 (en) | 2011-09-30 | 2013-06-18 | Google Inc. | Voice control for asynchronous notifications |
| US8340975B1 (en) | 2011-10-04 | 2012-12-25 | Theodore Alfred Rosenberger | Interactive speech recognition device and system for hands-free building control |
| US8386926B1 (en) | 2011-10-06 | 2013-02-26 | Google Inc. | Network-based custom dictionary, auto-correction and text entry preferences |
| US9521175B2 (en) | 2011-10-07 | 2016-12-13 | Henk B. Rogers | Media tagging |
| US9640175B2 (en) | 2011-10-07 | 2017-05-02 | Microsoft Technology Licensing, Llc | Pronunciation learning from user correction |
| US9021565B2 (en) | 2011-10-13 | 2015-04-28 | At&T Intellectual Property I, L.P. | Authentication techniques utilizing a computing device |
| US8738363B2 (en) | 2011-10-13 | 2014-05-27 | Xerox Corporation | System and method for suggestion mining |
| US20130097566A1 (en) | 2011-10-17 | 2013-04-18 | Carl Fredrik Alexander BERGLUND | System and method for displaying items on electronic devices |
| US9253282B2 (en) | 2011-10-18 | 2016-02-02 | Qualcomm Incorporated | Method and apparatus for generating, using, or updating an enriched user profile |
| US9686088B2 (en) | 2011-10-19 | 2017-06-20 | Facebook, Inc. | Notification profile configuration based on device orientation |
| KR101873741B1 (ko) | 2011-10-26 | 2018-07-03 | 엘지전자 주식회사 | 휴대 단말기 및 그 제어 방법 |
| US8738376B1 (en) | 2011-10-28 | 2014-05-27 | Nuance Communications, Inc. | Sparse maximum a posteriori (MAP) adaptation |
| US9223948B2 (en) | 2011-11-01 | 2015-12-29 | Blackberry Limited | Combined passcode and activity launch modifier |
| US20130111330A1 (en) | 2011-11-01 | 2013-05-02 | Research In Motion Limited | Accelerated compositing of fixed position elements on an electronic device |
| US20130110943A1 (en) | 2011-11-02 | 2013-05-02 | Apple Inc. | Notification and reminder generation, distribution, and storage system |
| US9736089B2 (en) | 2011-11-02 | 2017-08-15 | Blackberry Limited | System and method for enabling voice and video communications using a messaging application |
| US8996350B1 (en) | 2011-11-02 | 2015-03-31 | Dub Software Group, Inc. | System and method for automatic document management |
| US9471666B2 (en) | 2011-11-02 | 2016-10-18 | Salesforce.Com, Inc. | System and method for supporting natural language queries and requests against a user's personal data cloud |
| CN103093334A (zh) | 2011-11-04 | 2013-05-08 | 周超然 | 活动通知文本识别并自动转换为日历项的方法 |
| JP5681611B2 (ja) | 2011-11-09 | 2015-03-11 | 株式会社日立製作所 | ナビゲーションシステム、ナビゲーション装置、方法及びサーバ |
| US9711137B2 (en) | 2011-11-10 | 2017-07-18 | At&T Intellectual Property I, Lp | Network-based background expert |
| US8863202B2 (en) | 2011-11-11 | 2014-10-14 | Sony Corporation | System and method for voice driven cross service search using second display |
| US8996651B2 (en) | 2011-11-12 | 2015-03-31 | Yang Pan | System and method for delivering media assets in a cloud environment |
| US8972263B2 (en) | 2011-11-18 | 2015-03-03 | Soundhound, Inc. | System and method for performing dual mode speech recognition |
| WO2013075071A1 (en) | 2011-11-18 | 2013-05-23 | Ayman Hammad | Mobile wallet store and service injection platform apparatuses, methods and systems |
| KR101467519B1 (ko) | 2011-11-21 | 2014-12-02 | 주식회사 케이티 | 음성 정보를 이용한 컨텐츠 검색 서버 및 방법 |
| CN102510426A (zh) | 2011-11-29 | 2012-06-20 | 安徽科大讯飞信息科技股份有限公司 | 个人助理应用访问方法及系统 |
| CN103135916A (zh) | 2011-11-30 | 2013-06-05 | 英特尔公司 | 手持无线设备中的智能图形界面 |
| WO2013082507A1 (en) | 2011-11-30 | 2013-06-06 | Decarta | Systems and methods for performing geo-search and retrieval of electronic point-of-interest records using a big index |
| KR101830656B1 (ko) | 2011-12-02 | 2018-02-21 | 엘지전자 주식회사 | 이동 단말기 및 이의 제어방법 |
| US9214157B2 (en) | 2011-12-06 | 2015-12-15 | At&T Intellectual Property I, L.P. | System and method for machine-mediated human-human conversation |
| KR101193668B1 (ko) | 2011-12-06 | 2012-12-14 | 위준성 | 스마트 기기를 이용한 상황 인식 기반 외국어 습득 및 학습 서비스 제공 방법 |
| US9323746B2 (en) | 2011-12-06 | 2016-04-26 | At&T Intellectual Property I, L.P. | System and method for collaborative language translation |
| US9082402B2 (en) | 2011-12-08 | 2015-07-14 | Sri International | Generic virtual personal assistant platform |
| US9646313B2 (en) | 2011-12-13 | 2017-05-09 | Microsoft Technology Licensing, Llc | Gesture-based tagging to view related content |
| US20130159847A1 (en) | 2011-12-14 | 2013-06-20 | International Business Machines Corporation | Dynamic Personal Dictionaries for Enhanced Collaboration |
| WO2013090839A1 (en) | 2011-12-14 | 2013-06-20 | Realnetworks, Inc. | Customizable media auto-reply systems and methods |
| US8868529B2 (en) | 2011-12-16 | 2014-10-21 | Sap Se | N-dimensional locking |
| US9408011B2 (en) | 2011-12-19 | 2016-08-02 | Qualcomm Incorporated | Automated user/sensor location recognition to customize audio performance in a distributed multi-sensor environment |
| WO2013091075A1 (en) | 2011-12-20 | 2013-06-27 | Soschen Alona | Natural language processor |
| CN202453859U (zh) | 2011-12-20 | 2012-09-26 | 安徽科大讯飞信息科技股份有限公司 | 一种用于家电的语音交互装置 |
| US8622836B2 (en) | 2011-12-22 | 2014-01-07 | Igt | Use of wireless signal strength to determine connection |
| JP2013134430A (ja) | 2011-12-27 | 2013-07-08 | Toyota Motor Corp | コマンド処理装置、方法、及びプログラム |
| JP5715042B2 (ja) | 2011-12-27 | 2015-05-07 | 京セラ株式会社 | 装置、方法、及びプログラム |
| US8996729B2 (en) | 2012-04-12 | 2015-03-31 | Nokia Corporation | Method and apparatus for synchronizing tasks performed by multiple devices |
| US8818810B2 (en) | 2011-12-29 | 2014-08-26 | Robert Bosch Gmbh | Speaker verification in a health monitoring system |
| US20130173610A1 (en) | 2011-12-29 | 2013-07-04 | Microsoft Corporation | Extracting Search-Focused Key N-Grams and/or Phrases for Relevance Rankings in Searches |
| US9218122B2 (en) | 2011-12-29 | 2015-12-22 | Rovi Guides, Inc. | Systems and methods for transferring settings across devices based on user gestures |
| US9094534B2 (en) | 2011-12-29 | 2015-07-28 | Apple Inc. | Device, method, and graphical user interface for configuring and implementing restricted interactions with a user interface |
| US9189252B2 (en) | 2011-12-30 | 2015-11-17 | Microsoft Technology Licensing, Llc | Context-based device action prediction |
| US10739938B2 (en) | 2012-01-05 | 2020-08-11 | International Business Machines Corporation | Customizing a tag cloud |
| JP5790509B2 (ja) | 2012-01-05 | 2015-10-07 | 富士通株式会社 | 画像再生装置、画像再生プログラム、及び画像再生方法 |
| JP5547216B2 (ja) | 2012-01-06 | 2014-07-09 | 株式会社東芝 | 電子機器及び表示制御方法 |
| JP5887937B2 (ja) | 2012-01-06 | 2016-03-16 | 株式会社リコー | 出力制御システム、出力制御方法、出力制御装置、および出力制御プログラム |
| US8994560B2 (en) | 2012-01-06 | 2015-03-31 | International Business Machines Corporation | Managing parking space availability |
| KR101590332B1 (ko) | 2012-01-09 | 2016-02-18 | 삼성전자주식회사 | 영상장치 및 그 제어방법 |
| US9547832B2 (en) | 2012-01-10 | 2017-01-17 | Oracle International Corporation | Identifying individual intentions and determining responses to individual intentions |
| US8825020B2 (en) | 2012-01-12 | 2014-09-02 | Sensory, Incorporated | Information access and device control using mobile phones and audio in the home environment |
| CN103209369A (zh) | 2012-01-16 | 2013-07-17 | 晨星软件研发(深圳)有限公司 | 电子装置的声控系统以及相关控制方法 |
| US8812302B2 (en) | 2012-01-17 | 2014-08-19 | Google Inc. | Techniques for inserting diacritical marks to text input via a user device |
| US9418674B2 (en) | 2012-01-17 | 2016-08-16 | GM Global Technology Operations LLC | Method and system for using vehicle sound information to enhance audio prompting |
| JP2013148419A (ja) | 2012-01-18 | 2013-08-01 | Clarion Co Ltd | 誘導システム、携帯端末装置および車載装置 |
| CA2786502C (en) | 2012-01-19 | 2017-11-21 | Research In Motion Limited | Next letter prediction for virtual keyboard |
| US20130204813A1 (en) | 2012-01-20 | 2013-08-08 | Fluential, Llc | Self-learning, context aware virtual assistants, systems and methods |
| US9099098B2 (en) | 2012-01-20 | 2015-08-04 | Qualcomm Incorporated | Voice activity detection in presence of background noise |
| US8571528B1 (en) | 2012-01-25 | 2013-10-29 | Intuit Inc. | Method and system to automatically create a contact with contact details captured during voice calls |
| US20130197914A1 (en) | 2012-01-26 | 2013-08-01 | Microtechnologies Llc D/B/A Microtech | Voice activated audio control system and associated method of use |
| WO2013113011A1 (en) | 2012-01-26 | 2013-08-01 | Telecommunication Systems, Inc. | Natural navigational guidance |
| JP5682578B2 (ja) | 2012-01-27 | 2015-03-11 | 日本電気株式会社 | 音声認識結果修正支援システム、音声認識結果修正支援方法および音声認識結果修正支援プログラム |
| US8745760B2 (en) | 2012-01-30 | 2014-06-03 | Cisco Technology, Inc. | Malware classification for unknown executable files |
| US20140310365A1 (en) | 2012-01-31 | 2014-10-16 | Global Relay Communications Inc. | System and Method for Tracking Messages in a Messaging Service |
| US8626748B2 (en) | 2012-02-03 | 2014-01-07 | International Business Machines Corporation | Combined word tree text visualization system |
| KR101900319B1 (ko) | 2012-02-07 | 2018-09-19 | 삼성전자 주식회사 | 서비스 연동 수행 방법과 이를 위한 시스템 |
| US9253135B2 (en) | 2012-02-07 | 2016-02-02 | Google Inc. | Notification management |
| US8995960B2 (en) | 2012-02-10 | 2015-03-31 | Dedo Interactive, Inc. | Mobile device authentication |
| CN102629246B (zh) | 2012-02-10 | 2017-06-27 | 百纳（武汉）信息技术有限公司 | 识别浏览器语音命令的服务器及浏览器语音命令识别方法 |
| US8533266B2 (en) | 2012-02-14 | 2013-09-10 | Google Inc. | User presence detection and event discovery |
| CN103247290A (zh) | 2012-02-14 | 2013-08-14 | 富泰华工业（深圳）有限公司 | 通信装置及其控制方法 |
| US10209954B2 (en) | 2012-02-14 | 2019-02-19 | Microsoft Technology Licensing, Llc | Equal access to speech and touch input |
| CN103259907A (zh) | 2012-02-15 | 2013-08-21 | 深圳富泰宏精密工业有限公司 | 情景模式切换系统及方法 |
| JP2013167806A (ja) | 2012-02-16 | 2013-08-29 | Toshiba Corp | 情報通知支援装置、情報通知支援方法、および、プログラム |
| US8682932B2 (en) | 2012-02-16 | 2014-03-25 | Oracle International Corporation | Mechanisms for searching enterprise data graphs |
| US8832092B2 (en) | 2012-02-17 | 2014-09-09 | Bottlenose, Inc. | Natural language processing optimized for micro content |
| US20150025405A1 (en) * | 2012-02-17 | 2015-01-22 | Koninklijke Philips N.V. | Acute lung injury (ali)/acute respiratory distress syndrome (ards) assessment and monitoring |
| US8793136B2 (en) | 2012-02-17 | 2014-07-29 | Lg Electronics Inc. | Method and apparatus for smart voice recognition |
| US8453058B1 (en) | 2012-02-20 | 2013-05-28 | Google Inc. | Crowd-sourced audio shortcuts |
| US9064497B2 (en) | 2012-02-22 | 2015-06-23 | Htc Corporation | Method and apparatus for audio intelligibility enhancement and computing apparatus |
| US9042867B2 (en) | 2012-02-24 | 2015-05-26 | Agnitio S.L. | System and method for speaker recognition on mobile devices |
| GB2503968B (en) | 2012-02-24 | 2021-02-17 | Blackberry Ltd | Touchscreen keyboard providing word predictions in partitions of the touchscreen keyboard in proximate association with candidate letters |
| KR101889836B1 (ko) | 2012-02-24 | 2018-08-20 | 삼성전자주식회사 | 음성인식을 통한 단말기의 잠금 상태 해제 및 조작 방법 및 장치 |
| JP6053097B2 (ja) | 2012-02-28 | 2016-12-27 | シャープ株式会社 | 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム |
| US10984337B2 (en) | 2012-02-29 | 2021-04-20 | Microsoft Technology Licensing, Llc | Context-based search query formation |
| US8543398B1 (en) | 2012-02-29 | 2013-09-24 | Google Inc. | Training an automatic speech recognition system using compressed word frequencies |
| US9026441B2 (en) | 2012-02-29 | 2015-05-05 | Nant Holdings Ip, Llc | Spoken control for user construction of complex behaviors |
| US10134385B2 (en) | 2012-03-02 | 2018-11-20 | Apple Inc. | Systems and methods for name pronunciation |
| US9483461B2 (en) | 2012-03-06 | 2016-11-01 | Apple Inc. | Handling speech synthesis of content for multiple languages |
| US20130235987A1 (en) | 2012-03-06 | 2013-09-12 | Jose Arroniz-Escobar | Automatic machine to machine distribution of subscriber contact information |
| US9240970B2 (en) | 2012-03-07 | 2016-01-19 | Accenture Global Services Limited | Communication collaboration |
| US20130238326A1 (en) | 2012-03-08 | 2013-09-12 | Lg Electronics Inc. | Apparatus and method for multiple device voice control |
| US8775177B1 (en) | 2012-03-08 | 2014-07-08 | Google Inc. | Speech recognition process |
| US9639174B2 (en) | 2012-03-09 | 2017-05-02 | Paypal, Inc. | Mobile device display content based on shaking the device |
| US20150006157A1 (en) | 2012-03-14 | 2015-01-01 | Nec Corporation | Term synonym acquisition method and term synonym acquisition apparatus |
| US9576593B2 (en) | 2012-03-15 | 2017-02-21 | Regents Of The University Of Minnesota | Automated verbal fluency assessment |
| EP2639792A1 (en) | 2012-03-16 | 2013-09-18 | France Télécom | Voice control of applications by associating user input with action-context idendifier pairs |
| US9223497B2 (en) | 2012-03-16 | 2015-12-29 | Blackberry Limited | In-context word prediction and word correction |
| KR101980173B1 (ko) | 2012-03-16 | 2019-05-20 | 삼성전자주식회사 | 서드 파티 테스크 공급자들의 서비스 제공을 대행하는 협력적 퍼스널 어시스턴트 시스템 및 그에 따른 방법 |
| JP5870790B2 (ja) | 2012-03-19 | 2016-03-01 | 富士通株式会社 | 文章校正装置、及び文章校正方法 |
| US8898064B1 (en) | 2012-03-19 | 2014-11-25 | Rawles Llc | Identifying candidate passwords from captured audio |
| WO2013138999A1 (en) | 2012-03-20 | 2013-09-26 | Nokia Corporation | Method and apparatus for providing group context sensing and inference |
| CN102663016B (zh) | 2012-03-21 | 2015-12-16 | 上海触乐信息科技有限公司 | 电子设备上输入候选框进行输入信息扩展的系统及其方法 |
| JP2013200423A (ja) | 2012-03-23 | 2013-10-03 | Toshiba Corp | 音声対話支援装置、方法、およびプログラム |
| US9147433B2 (en) | 2012-03-26 | 2015-09-29 | Max Abecassis | Identifying a locale depicted within a video |
| US9609395B2 (en) | 2012-03-26 | 2017-03-28 | Max Abecassis | Second screen subtitles function |
| JP5965175B2 (ja) | 2012-03-27 | 2016-08-03 | ヤフー株式会社 | 応答生成装置、応答生成方法および応答生成プログラム |
| US8681950B2 (en) | 2012-03-28 | 2014-03-25 | Interactive Intelligence, Inc. | System and method for fingerprinting datasets |
| US10237696B2 (en) | 2012-03-29 | 2019-03-19 | Intel Corporation | Location-based assistance for personal planning |
| US20130262320A1 (en) | 2012-03-30 | 2013-10-03 | Sap Ag | Systems and methods for customer relationship management |
| CN103366741B (zh) | 2012-03-31 | 2019-05-17 | 上海果壳电子有限公司 | 语音输入纠错方法及系统 |
| US8881269B2 (en) | 2012-03-31 | 2014-11-04 | Apple Inc. | Device, method, and graphical user interface for integrating recognition of handwriting gestures with a screen reader |
| ITRM20120142A1 (it) | 2012-04-05 | 2013-10-06 | X2Tv S R L | Procedimento e sistema per la raccolta in tempo reale di un feedback da parte del pubblico di una trasmissione televisiva o radiofonica |
| US8996356B1 (en) | 2012-04-10 | 2015-03-31 | Google Inc. | Techniques for predictive input method editors |
| US8346563B1 (en) | 2012-04-10 | 2013-01-01 | Artificial Solutions Ltd. | System and methods for delivering advanced natural language interaction applications |
| US8892419B2 (en) | 2012-04-10 | 2014-11-18 | Artificial Solutions Iberia SL | System and methods for semiautomatic generation and tuning of natural language interaction applications |
| US20130275117A1 (en) | 2012-04-11 | 2013-10-17 | Morgan H. Winer | Generalized Phonetic Transliteration Engine |
| US10964320B2 (en) | 2012-04-13 | 2021-03-30 | View, Inc. | Controlling optically-switchable devices |
| US9685160B2 (en) | 2012-04-16 | 2017-06-20 | Htc Corporation | Method for offering suggestion during conversation, electronic device using the same, and non-transitory storage medium |
| US9223537B2 (en) | 2012-04-18 | 2015-12-29 | Next It Corporation | Conversation user interface |
| US20130282709A1 (en) | 2012-04-18 | 2013-10-24 | Yahoo! Inc. | Method and system for query suggestion |
| US20130279724A1 (en) | 2012-04-19 | 2013-10-24 | Sony Computer Entertainment Inc. | Auto detection of headphone orientation |
| US9575963B2 (en) | 2012-04-20 | 2017-02-21 | Maluuba Inc. | Conversational agent |
| US20130283199A1 (en) | 2012-04-24 | 2013-10-24 | Microsoft Corporation | Access to an Application Directly from a Lock Screen |
| US9117449B2 (en) | 2012-04-26 | 2015-08-25 | Nuance Communications, Inc. | Embedded system for construction of small footprint speech recognition with user-definable constraints |
| TWI511537B (zh) | 2012-04-27 | 2015-12-01 | Wistron Corp | 智慧型電視系統、智慧型電視、行動裝置及其輸入操作方法 |
| BR112014018604B1 (pt) | 2012-04-27 | 2022-02-01 | Hewlett-Packard Development Company, L.P. | Dispositivo de computação, método para receber entrada de áudio e meio legível por computador não volátil |
| US9785883B2 (en) | 2012-04-27 | 2017-10-10 | Excalibur Ip, Llc | Avatars for use with personalized generalized content recommendations |
| CN102682771B (zh) | 2012-04-27 | 2013-11-20 | 厦门思德电子科技有限公司 | 一种适用于云平台的多语音控制方法 |
| US20130289991A1 (en) | 2012-04-30 | 2013-10-31 | International Business Machines Corporation | Application of Voice Tags in a Social Media Context |
| US20130285916A1 (en) | 2012-04-30 | 2013-10-31 | Research In Motion Limited | Touchscreen keyboard providing word predictions at locations in association with candidate letters |
| KR101946364B1 (ko) | 2012-05-01 | 2019-02-11 | 엘지전자 주식회사 | 적어도 하나의 마이크 센서를 갖는 모바일 디바이스 및 그 제어방법 |
| US10088853B2 (en) | 2012-05-02 | 2018-10-02 | Honeywell International Inc. | Devices and methods for interacting with an HVAC controller |
| CN103384290A (zh) | 2012-05-03 | 2013-11-06 | 中兴通讯股份有限公司 | 具备定位导航功能的移动终端及其快捷定位导航的方法 |
| US9058332B1 (en) | 2012-05-04 | 2015-06-16 | Google Inc. | Blended ranking of dissimilar populations using an N-furcated normalization technique |
| KR101977072B1 (ko) | 2012-05-07 | 2019-05-10 | 엘지전자 주식회사 | 음성 파일과 관련된 텍스트의 표시 방법 및 이를 구현한 전자기기 |
| US8732560B2 (en) | 2012-05-08 | 2014-05-20 | Infineon Technologies Ag | Method and device for correction of ternary stored binary data |
| US9406299B2 (en) | 2012-05-08 | 2016-08-02 | Nuance Communications, Inc. | Differential acoustic model representation and linear transform-based adaptation for efficient user profile update techniques in automatic speech recognition |
| US9423870B2 (en) | 2012-05-08 | 2016-08-23 | Google Inc. | Input determination method |
| WO2013169842A2 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for selecting object within a group of objects |
| WO2013169843A1 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for manipulating framed graphical objects |
| WO2013169846A1 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for displaying additional information in response to a user contact |
| WO2013169043A1 (ko) | 2012-05-10 | 2013-11-14 | 엘지전자 주식회사 | Nfc를 이용한 콘텐트 다운로드 방법 및 장치 |
| US8725808B2 (en) | 2012-05-10 | 2014-05-13 | Intel Mobile Communications GmbH | Method for transferring data between a first device and a second device |
| JP5996262B2 (ja) | 2012-05-11 | 2016-09-21 | シャープ株式会社 | 文字入力装置、電子機器、制御方法、制御プログラムおよび記録媒体 |
| US9736604B2 (en) | 2012-05-11 | 2017-08-15 | Qualcomm Incorporated | Audio user interaction recognition and context refinement |
| US9746916B2 (en) | 2012-05-11 | 2017-08-29 | Qualcomm Incorporated | Audio user interaction recognition and application interface |
| US9002768B2 (en) | 2012-05-12 | 2015-04-07 | Mikhail Fedorov | Human-computer interface system |
| US8897822B2 (en) | 2012-05-13 | 2014-11-25 | Wavemarket, Inc. | Auto responder |
| US9280610B2 (en) | 2012-05-14 | 2016-03-08 | Apple Inc. | Crowd sourcing information to fulfill user requests |
| US20130308922A1 (en) | 2012-05-15 | 2013-11-21 | Microsoft Corporation | Enhanced video discovery and productivity through accessibility |
| US10417037B2 (en) | 2012-05-15 | 2019-09-17 | Apple Inc. | Systems and methods for integrating third party services with a digital assistant |
| US8775442B2 (en) | 2012-05-15 | 2014-07-08 | Apple Inc. | Semantic search using a single-source semantic model |
| US20130307855A1 (en) | 2012-05-16 | 2013-11-21 | Mathew J. Lamb | Holographic story telling |
| TWI466101B (zh) | 2012-05-18 | 2014-12-21 | Asustek Comp Inc | 語音識別方法及系統 |
| CN103426428B (zh) | 2012-05-18 | 2016-05-25 | 华硕电脑股份有限公司 | 语音识别方法及系统 |
| US20120296638A1 (en) | 2012-05-18 | 2012-11-22 | Ashish Patwa | Method and system for quickly recognizing and responding to user intents and questions from natural language input using intelligent hierarchical processing and personalized adaptive semantic interface |
| US9247306B2 (en) | 2012-05-21 | 2016-01-26 | Intellectual Ventures Fund 83 Llc | Forming a multimedia product using video chat |
| US9406084B2 (en) | 2012-05-23 | 2016-08-02 | Specialty's Café & Bakery, Inc. | Methods for submitting a food order remotely |
| US8484573B1 (en) | 2012-05-23 | 2013-07-09 | Google Inc. | Predictive virtual keyboard |
| US8850037B2 (en) | 2012-05-24 | 2014-09-30 | Fmr Llc | Communication session transfer between devices |
| US9374448B2 (en) | 2012-05-27 | 2016-06-21 | Qualcomm Incorporated | Systems and methods for managing concurrent audio messages |
| US9173074B2 (en) | 2012-05-27 | 2015-10-27 | Qualcomm Incorporated | Personal hub presence and response |
| KR20130133629A (ko) | 2012-05-29 | 2013-12-09 | 삼성전자주식회사 | 전자장치에서 음성명령을 실행시키기 위한 장치 및 방법 |
| US9582146B2 (en) | 2012-05-29 | 2017-02-28 | Nokia Technologies Oy | Causing display of search results |
| US20130325436A1 (en) | 2012-05-29 | 2013-12-05 | Wright State University | Large Scale Distributed Syntactic, Semantic and Lexical Language Models |
| TWI492221B (zh) | 2012-05-30 | 2015-07-11 | 友達光電股份有限公司 | 遙控裝置、遙控系統及遙控裝置之控制方法 |
| US9307293B2 (en) | 2012-05-30 | 2016-04-05 | Palo Alto Research Center Incorporated | Collaborative video application for remote servicing |
| CN102750087A (zh) | 2012-05-31 | 2012-10-24 | 华为终端有限公司 | 控制语音识别功能的方法、装置和终端设备 |
| US20130325447A1 (en) | 2012-05-31 | 2013-12-05 | Elwha LLC, a limited liability corporation of the State of Delaware | Speech recognition adaptation systems based on adaptation data |
| US8843371B2 (en) | 2012-05-31 | 2014-09-23 | Elwha Llc | Speech recognition adaptation systems based on adaptation data |
| US8768693B2 (en) | 2012-05-31 | 2014-07-01 | Yahoo! Inc. | Automatic tag extraction from audio annotated photos |
| CN103455234A (zh) | 2012-06-01 | 2013-12-18 | 腾讯科技（深圳）有限公司 | 显示应用程序界面的方法及装置 |
| US9123338B1 (en) | 2012-06-01 | 2015-09-01 | Google Inc. | Background audio identification for speech disambiguation |
| US20130321267A1 (en) | 2012-06-04 | 2013-12-05 | Apple Inc. | Dynamically changing a character associated with a key of a keyboard |
| US10156455B2 (en) | 2012-06-05 | 2018-12-18 | Apple Inc. | Context-aware voice guidance |
| US8515750B1 (en) | 2012-06-05 | 2013-08-20 | Google Inc. | Realtime acoustic adaptation using stability measures |
| US20130325343A1 (en) | 2012-06-05 | 2013-12-05 | Apple Inc. | Mapping application with novel search field |
| US9997069B2 (en) | 2012-06-05 | 2018-06-12 | Apple Inc. | Context-aware voice guidance |
| US9043150B2 (en) | 2012-06-05 | 2015-05-26 | Apple Inc. | Routing applications for navigation |
| US8725823B2 (en) | 2012-06-05 | 2014-05-13 | Forget You Not, LLC | Location-based communications |
| US9311750B2 (en) | 2012-06-05 | 2016-04-12 | Apple Inc. | Rotation operations in a mapping application |
| US9071564B2 (en) | 2012-06-07 | 2015-06-30 | Apple Inc. | Data synchronization using mail and push notification services |
| US9261961B2 (en) | 2012-06-07 | 2016-02-16 | Nook Digital, Llc | Accessibility aids for users of electronic devices |
| WO2013185109A2 (en) | 2012-06-08 | 2013-12-12 | Apple Inc. | Systems and methods for recognizing textual identifiers within a plurality of words |
| US20130332159A1 (en) | 2012-06-08 | 2013-12-12 | Apple Inc. | Using fan throttling to enhance dictation accuracy |
| US9721563B2 (en) | 2012-06-08 | 2017-08-01 | Apple Inc. | Name recognition system |
| US9230218B2 (en) | 2012-06-08 | 2016-01-05 | Spotify Ab | Systems and methods for recognizing ambiguity in metadata |
| US9002380B2 (en) | 2012-06-08 | 2015-04-07 | Apple Inc. | Proximity-based notifications in a mobile device |
| US9674331B2 (en) | 2012-06-08 | 2017-06-06 | Apple Inc. | Transmitting data from an automated assistant to an accessory |
| US20130332168A1 (en) | 2012-06-08 | 2013-12-12 | Samsung Electronics Co., Ltd. | Voice activated search and control for applications |
| EP2675147B1 (en) | 2012-06-11 | 2022-03-23 | Samsung Electronics Co., Ltd. | Service providing system in a vehicle including display device and mobile device, and method for providing service using the same |
| US9916514B2 (en) | 2012-06-11 | 2018-03-13 | Amazon Technologies, Inc. | Text recognition driven functionality |
| US9183845B1 (en) | 2012-06-12 | 2015-11-10 | Amazon Technologies, Inc. | Adjusting audio signals based on a specific frequency range associated with environmental noise characteristics |
| JP5921348B2 (ja) | 2012-06-13 | 2016-05-24 | 三菱電機株式会社 | 映像表示端末 |
| CN104603773A (zh) | 2012-06-14 | 2015-05-06 | 诺基亚公司 | 基于用户之间的社交扩散使兴趣标签与媒体项关联的方法和设备 |
| EP2862349A4 (en) | 2012-06-14 | 2015-11-11 | Flextronics Ap Llc | METHOD AND SYSTEM FOR ADAPTING TELEVISION CONTENTS |
| US20130339454A1 (en) | 2012-06-15 | 2013-12-19 | Michael Walker | Systems and methods for communicating between multiple access devices |
| JP5819261B2 (ja) | 2012-06-19 | 2015-11-18 | 株式会社Ｎｔｔドコモ | 機能実行指示システム、機能実行指示方法及び機能実行指示プログラム |
| US9185501B2 (en) | 2012-06-20 | 2015-11-10 | Broadcom Corporation | Container-located information transfer module |
| US9734839B1 (en) | 2012-06-20 | 2017-08-15 | Amazon Technologies, Inc. | Routing natural language commands to the appropriate applications |
| US20140012574A1 (en) | 2012-06-21 | 2014-01-09 | Maluuba Inc. | Interactive timeline for presenting and organizing tasks |
| US20130347018A1 (en) | 2012-06-21 | 2013-12-26 | Amazon Technologies, Inc. | Providing supplemental content with active media |
| US20130347029A1 (en) | 2012-06-21 | 2013-12-26 | United Video Properties, Inc. | Systems and methods for navigating to content without an advertisement |
| US20130346347A1 (en) | 2012-06-22 | 2013-12-26 | Google Inc. | Method to Predict a Communicative Action that is Most Likely to be Executed Given a Context |
| US8606577B1 (en) | 2012-06-25 | 2013-12-10 | Google Inc. | Visual confirmation of voice recognized text input |
| US20130342672A1 (en) | 2012-06-25 | 2013-12-26 | Amazon Technologies, Inc. | Using gaze determination with device input |
| US9813882B1 (en) | 2012-06-25 | 2017-11-07 | Amazon Technologies, Inc. | Mobile notifications based upon notification content |
| US9305555B2 (en) | 2012-06-25 | 2016-04-05 | Mitsubishi Electric Corporation | Onboard information device |
| US20130346068A1 (en) | 2012-06-25 | 2013-12-26 | Apple Inc. | Voice-Based Image Tagging and Searching |
| US8819841B2 (en) | 2012-06-26 | 2014-08-26 | Google Inc. | Automated accounts for media playback |
| WO2014000081A1 (en) | 2012-06-26 | 2014-01-03 | Research In Motion Limited | Methods and apparatus to detect and add impact events to a calendar program |
| US20140006153A1 (en) | 2012-06-27 | 2014-01-02 | Infosys Limited | System for making personalized offers for business facilitation of an entity and methods thereof |
| CN102801853B (zh) | 2012-06-27 | 2017-02-15 | 宇龙计算机通信科技(深圳)有限公司 | 移动终端和自动触发任务执行方法 |
| KR101961139B1 (ko) | 2012-06-28 | 2019-03-25 | 엘지전자 주식회사 | 이동 단말기 및 그것의 음성 인식 방법 |
| US9141504B2 (en) | 2012-06-28 | 2015-09-22 | Apple Inc. | Presenting status data received from multiple devices |
| US20140002338A1 (en) | 2012-06-28 | 2014-01-02 | Intel Corporation | Techniques for pose estimation and false positive filtering for gesture recognition |
| JP6050625B2 (ja) | 2012-06-28 | 2016-12-21 | サターン ライセンシング エルエルシーＳａｔｕｒｎ Ｌｉｃｅｎｓｉｎｇ ＬＬＣ | 情報処理装置及び情報処理方法、コンピューター・プログラム、並びに情報通信システム |
| JP5852930B2 (ja) | 2012-06-29 | 2016-02-03 | Kddi株式会社 | 入力文字推定装置およびプログラム |
| US9996628B2 (en) | 2012-06-29 | 2018-06-12 | Verisign, Inc. | Providing audio-activated resource access for user devices based on speaker voiceprint |
| US9195383B2 (en) | 2012-06-29 | 2015-11-24 | Spotify Ab | Systems and methods for multi-path control signals for media presentation devices |
| US10620797B2 (en) | 2012-06-29 | 2020-04-14 | Spotify Ab | Systems and methods for multi-context media control and playback |
| US9426229B2 (en) | 2012-06-29 | 2016-08-23 | Nokia Technologies Oy | Apparatus and method for selection of a device for content sharing operations |
| US9495129B2 (en) | 2012-06-29 | 2016-11-15 | Apple Inc. | Device, method, and user interface for voice-activated navigation and browsing of a document |
| US20140006012A1 (en) | 2012-07-02 | 2014-01-02 | Microsoft Corporation | Learning-Based Processing of Natural Language Questions |
| CN103533143A (zh) | 2012-07-03 | 2014-01-22 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
| KR101972955B1 (ko) | 2012-07-03 | 2019-04-26 | 삼성전자 주식회사 | 음성을 이용한 사용자 디바이스들 간 서비스 연결 방법 및 장치 |
| US9536528B2 (en) | 2012-07-03 | 2017-01-03 | Google Inc. | Determining hotword suitability |
| KR20140004515A (ko) | 2012-07-03 | 2014-01-13 | 삼성전자주식회사 | 디스플레이 장치, 대화형 시스템 및 응답 정보 제공 방법 |
| US9064493B2 (en) | 2012-07-09 | 2015-06-23 | Nuance Communications, Inc. | Detecting potential significant errors in speech recognition results |
| CN103543902A (zh) | 2012-07-09 | 2014-01-29 | 上海博路信息技术有限公司 | 一种短信地址的地图显示方法 |
| CN103544140A (zh) | 2012-07-12 | 2014-01-29 | 国际商业机器公司 | 一种数据处理方法、展示方法和相应的装置 |
| US20140019460A1 (en) | 2012-07-12 | 2014-01-16 | Yahoo! Inc. | Targeted search suggestions |
| US9053708B2 (en) | 2012-07-18 | 2015-06-09 | International Business Machines Corporation | System, method and program product for providing automatic speech recognition (ASR) in a shared resource environment |
| US9355157B2 (en) | 2012-07-20 | 2016-05-31 | Intertrust Technologies Corporation | Information targeting systems and methods |
| US20140026101A1 (en) | 2012-07-20 | 2014-01-23 | Barnesandnoble.Com Llc | Accessible Menu Navigation Techniques For Electronic Devices |
| US9442687B2 (en) | 2012-07-23 | 2016-09-13 | Korea Advanced Institute Of Science And Technology | Method and apparatus for moving web object based on intent |
| US20140028477A1 (en) | 2012-07-24 | 2014-01-30 | Apple Inc. | Vehicle location system |
| US9953584B2 (en) | 2012-07-24 | 2018-04-24 | Nook Digital, Llc | Lighting techniques for display devices |
| US8892480B2 (en) | 2012-07-25 | 2014-11-18 | Aro, Inc. | Contextual information provider |
| JP2014026629A (ja) | 2012-07-26 | 2014-02-06 | Panasonic Corp | 入力装置及び入力支援方法 |
| US8949334B2 (en) | 2012-07-26 | 2015-02-03 | Microsoft Corporation | Push-based recommendations |
| US8589911B1 (en) | 2012-07-26 | 2013-11-19 | Google Inc. | Intent fulfillment |
| US8922034B2 (en) * | 2012-07-27 | 2014-12-30 | Illinois Tool Works Inc. | Power converter for engine generator |
| CN104488288B (zh) | 2012-07-27 | 2018-02-23 | 索尼公司 | 信息处理系统和存储介质 |
| US8442821B1 (en) | 2012-07-27 | 2013-05-14 | Google Inc. | Multi-frame prediction for hybrid neural network/hidden Markov models |
| US8990343B2 (en) | 2012-07-30 | 2015-03-24 | Google Inc. | Transferring a state of an application from a first computing device to a second computing device |
| US9465833B2 (en) | 2012-07-31 | 2016-10-11 | Veveo, Inc. | Disambiguating user intent in conversational interaction system for large corpus information retrieval |
| US20140039893A1 (en) | 2012-07-31 | 2014-02-06 | Sri International | Personalized Voice-Driven User Interfaces for Remote Multi-User Services |
| US20140035823A1 (en) | 2012-08-01 | 2014-02-06 | Apple Inc. | Dynamic Context-Based Language Determination |
| US8831957B2 (en) | 2012-08-01 | 2014-09-09 | Google Inc. | Speech recognition models based on location indicia |
| US10108725B2 (en) | 2012-08-02 | 2018-10-23 | Rule 14 | Real-time and adaptive data mining |
| US9160844B2 (en) | 2012-08-06 | 2015-10-13 | Angel.Com Incorporated | Conversation assistant |
| US9390174B2 (en) | 2012-08-08 | 2016-07-12 | Google Inc. | Search result ranking and presentation |
| TWI442081B (zh) | 2012-08-10 | 2014-06-21 | Acer Inc | 多裝置間轉移工作的方法及手持通訊裝置 |
| WO2014025990A1 (en) | 2012-08-10 | 2014-02-13 | Nuance Communications, Inc. | Virtual agent communication for electronic devices |
| US20140052791A1 (en) | 2012-08-14 | 2014-02-20 | International Business Machines Corporation | Task Based Filtering of Unwanted Electronic Communications |
| US10163058B2 (en) | 2012-08-14 | 2018-12-25 | Sri International | Method, system and device for inferring a mobile user's current context and proactively providing assistance |
| US20140053101A1 (en) | 2012-08-15 | 2014-02-20 | Ge Aviation Systems Llc | Methods for displaying on a graphical user interface |
| WO2014028735A2 (en) | 2012-08-15 | 2014-02-20 | Ie Business Plains, Llc | Online collaborative suite |
| US9497515B2 (en) | 2012-08-16 | 2016-11-15 | Nuance Communications, Inc. | User interface for entertainment systems |
| KR101922464B1 (ko) | 2012-08-16 | 2018-11-27 | 삼성전자주식회사 | 메시지 송수신 방법 및 그 전자장치 |
| US9292487B1 (en) | 2012-08-16 | 2016-03-22 | Amazon Technologies, Inc. | Discriminative language model pruning |
| US9031848B2 (en) | 2012-08-16 | 2015-05-12 | Nuance Communications, Inc. | User interface for searching a bundled service content data source |
| CN104170397B (zh) | 2012-08-16 | 2017-10-24 | 纽昂斯通讯公司 | 一种在电子设备上呈现搜索结果的方法和计算机存储介质 |
| CN102820033B (zh) | 2012-08-17 | 2013-12-04 | 南京大学 | 一种声纹识别方法 |
| US20160357790A1 (en) | 2012-08-20 | 2016-12-08 | InsideSales.com, Inc. | Resolving and merging duplicate records using machine learning |
| US20140279739A1 (en) | 2013-03-15 | 2014-09-18 | InsideSales.com, Inc. | Resolving and merging duplicate records using machine learning |
| US20150199960A1 (en) | 2012-08-24 | 2015-07-16 | Microsoft Corporation | I-Vector Based Clustering Training Data in Speech Recognition |
| US9229924B2 (en) | 2012-08-24 | 2016-01-05 | Microsoft Technology Licensing, Llc | Word detection and domain dictionary recommendation |
| US20150227505A1 (en) | 2012-08-27 | 2015-08-13 | Hitachi, Ltd. | Word meaning relationship extraction device |
| US9026425B2 (en) | 2012-08-28 | 2015-05-05 | Xerox Corporation | Lexical and phrasal feature domain adaptation in statistical machine translation |
| US9390370B2 (en) | 2012-08-28 | 2016-07-12 | International Business Machines Corporation | Training deep neural network acoustic models using distributed hessian-free optimization |
| JP6393021B2 (ja) | 2012-08-28 | 2018-09-19 | 京セラ株式会社 | 電子機器、制御方法、及び制御プログラム |
| US9049295B1 (en) | 2012-08-28 | 2015-06-02 | West Corporation | Intelligent interactive voice response system for processing customer communications |
| US20150208226A1 (en) | 2012-08-28 | 2015-07-23 | Nokia Corporation | Discovery method and apparatuses and system for discovery |
| KR102081925B1 (ko) | 2012-08-29 | 2020-02-26 | 엘지전자 주식회사 | 디스플레이 디바이스 및 스피치 검색 방법 |
| CN102866828B (zh) | 2012-08-29 | 2015-11-25 | 腾讯科技（深圳）有限公司 | 一种终端控制方法和设备 |
| US9424840B1 (en) | 2012-08-31 | 2016-08-23 | Amazon Technologies, Inc. | Speech recognition platforms |
| US9218333B2 (en) | 2012-08-31 | 2015-12-22 | Microsoft Technology Licensing, Llc | Context sensitive auto-correction |
| US20140074589A1 (en) | 2012-09-02 | 2014-03-13 | Aaron David NIELSEN | System and method for the selection and delivery of a customized consumer offer or engagement dialog by a live customer service representative in communication with a consumer |
| KR101398218B1 (ko) | 2012-09-03 | 2014-05-22 | 경희대학교 산학협력단 | 감정 음성 인식장치 및 방법 |
| US8826415B2 (en) | 2012-09-04 | 2014-09-02 | Apple Inc. | Automated device access |
| CN103493500A (zh) | 2012-09-04 | 2014-01-01 | 华为终端有限公司 | 媒体播放方法、控制点和终端 |
| JP2014052445A (ja) | 2012-09-06 | 2014-03-20 | Canon Inc | ズームレンズ |
| US9536049B2 (en) | 2012-09-07 | 2017-01-03 | Next It Corporation | Conversational virtual healthcare assistant |
| US9325809B1 (en) | 2012-09-07 | 2016-04-26 | Mindmeld, Inc. | Audio recall during voice conversations |
| EP2706458A1 (en) | 2012-09-10 | 2014-03-12 | Canon Kabushiki Kaisha | Method and device for controlling communication between applications in a web runtime environment |
| US9576574B2 (en) | 2012-09-10 | 2017-02-21 | Apple Inc. | Context-sensitive handling of interruptions by intelligent digital assistant |
| US8600746B1 (en) | 2012-09-10 | 2013-12-03 | Google Inc. | Speech recognition parameter adjustment |
| US20140074466A1 (en) | 2012-09-10 | 2014-03-13 | Google Inc. | Answering questions using environmental context |
| US20150088523A1 (en) | 2012-09-10 | 2015-03-26 | Google Inc. | Systems and Methods for Designing Voice Applications |
| US20140074470A1 (en) | 2012-09-11 | 2014-03-13 | Google Inc. | Phonetic pronunciation |
| US20140074472A1 (en) | 2012-09-12 | 2014-03-13 | Chih-Hung Lin | Voice control system with portable voice control device |
| WO2014040263A1 (en) | 2012-09-14 | 2014-03-20 | Microsoft Corporation | Semantic ranking using a forward index |
| US20140078065A1 (en) | 2012-09-15 | 2014-03-20 | Ahmet Akkok | Predictive Keyboard With Suppressed Keys |
| US10656808B2 (en) | 2012-09-18 | 2020-05-19 | Adobe Inc. | Natural language and user interface controls |
| US9519641B2 (en) | 2012-09-18 | 2016-12-13 | Abbyy Development Llc | Photography recognition translation |
| CN108710406B (zh) | 2012-09-18 | 2021-10-08 | 谷歌有限责任公司 | 姿势适应选择 |
| JP6057637B2 (ja) | 2012-09-18 | 2017-01-11 | 株式会社アイ・オー・データ機器 | 携帯型情報端末装置、機能切替方法、および機能切替プログラム |
| US9081482B1 (en) | 2012-09-18 | 2015-07-14 | Google Inc. | Text input suggestion ranking |
| US8823507B1 (en) | 2012-09-19 | 2014-09-02 | Amazon Technologies, Inc. | Variable notification alerts |
| US8769651B2 (en) | 2012-09-19 | 2014-07-01 | Secureauth Corporation | Mobile multifactor single-sign-on authentication |
| US9547647B2 (en) | 2012-09-19 | 2017-01-17 | Apple Inc. | Voice-based media searching |
| US9105268B2 (en) | 2012-09-19 | 2015-08-11 | 24/7 Customer, Inc. | Method and apparatus for predicting intent in IVR using natural language queries |
| US10042603B2 (en) | 2012-09-20 | 2018-08-07 | Samsung Electronics Co., Ltd. | Context aware service provision method and apparatus of user device |
| KR101919792B1 (ko) | 2012-09-20 | 2018-11-19 | 엘지전자 주식회사 | 휴대 단말기 및 그 제어 방법 |
| US9076450B1 (en) | 2012-09-21 | 2015-07-07 | Amazon Technologies, Inc. | Directed audio for speech recognition |
| US20140211944A1 (en) | 2012-09-24 | 2014-07-31 | Daniel Joseph Lutz | System and method of protecting, storing and decrypting keys over a computerized network |
| US9092415B2 (en) | 2012-09-25 | 2015-07-28 | Rovi Guides, Inc. | Systems and methods for automatic program recommendations based on user interactions |
| US8983383B1 (en) | 2012-09-25 | 2015-03-17 | Rawles Llc | Providing hands-free service to multiple devices |
| US8935167B2 (en) | 2012-09-25 | 2015-01-13 | Apple Inc. | Exemplar-based latent perceptual modeling for automatic speech recognition |
| US8983836B2 (en) | 2012-09-26 | 2015-03-17 | International Business Machines Corporation | Captioning using socially derived acoustic profiles |
| US9251787B1 (en) | 2012-09-26 | 2016-02-02 | Amazon Technologies, Inc. | Altering audio to improve automatic speech recognition |
| JP6068901B2 (ja) | 2012-09-26 | 2017-01-25 | 京セラ株式会社 | 情報端末、音声操作プログラムおよび音声操作方法 |
| US8498864B1 (en) | 2012-09-27 | 2013-07-30 | Google Inc. | Methods and systems for predicting a text |
| CN104469255A (zh) | 2013-09-16 | 2015-03-25 | 杜比实验室特许公司 | 改进的音频或视频会议 |
| JP2014072586A (ja) | 2012-09-27 | 2014-04-21 | Sharp Corp | 表示装置、表示方法、テレビジョン受像機、プログラム、および、記録媒体 |
| CA2886566A1 (en) | 2012-09-27 | 2014-04-03 | John Joseph Geyer | Mobile device context incorporating near field communications |
| US10824310B2 (en) | 2012-12-20 | 2020-11-03 | Sri International | Augmented reality virtual personal assistant for external representation |
| US10096316B2 (en) | 2013-11-27 | 2018-10-09 | Sri International | Sharing intents to provide virtual assistance in a multi-person dialog |
| US8806613B2 (en) | 2012-09-28 | 2014-08-12 | Intel Corporation | Intelligent task assignment and authorization systems and methods |
| KR20140042994A (ko) | 2012-09-28 | 2014-04-08 | 한국전자통신연구원 | 가상 에이전트와의 대화 내용에서 자동으로 추출되는 개인 프로파일링 정보를 이용한 자동학습 기반의 인공지능 대화 시스템 |
| US9052964B2 (en) | 2012-09-28 | 2015-06-09 | International Business Machines Corporation | Device operability enhancement with alternative device utilization |
| US20140095171A1 (en) | 2012-10-01 | 2014-04-03 | Nuance Communications, Inc. | Systems and methods for providing a voice agent user interface |
| US20140095172A1 (en) | 2012-10-01 | 2014-04-03 | Nuance Communications, Inc. | Systems and methods for providing a voice agent user interface |
| US10276157B2 (en) | 2012-10-01 | 2019-04-30 | Nuance Communications, Inc. | Systems and methods for providing a voice agent user interface |
| US8645128B1 (en) | 2012-10-02 | 2014-02-04 | Google Inc. | Determining pitch dynamics of an audio signal |
| US9367236B2 (en) | 2012-10-05 | 2016-06-14 | Google Inc. | System and method for processing touch actions |
| KR102009423B1 (ko) | 2012-10-08 | 2019-08-09 | 삼성전자주식회사 | 음성 인식을 이용한 미리 설정된 동작 모드의 수행 방법 및 장치 |
| US9230560B2 (en) | 2012-10-08 | 2016-01-05 | Nant Holdings Ip, Llc | Smart home automation systems and methods |
| US8606568B1 (en) | 2012-10-10 | 2013-12-10 | Google Inc. | Evaluating pronouns in context |
| CN102915731B (zh) | 2012-10-10 | 2019-02-05 | 百度在线网络技术（北京）有限公司 | 一种个性化的语音识别的方法及装置 |
| US8543397B1 (en) | 2012-10-11 | 2013-09-24 | Google Inc. | Mobile device voice activation |
| JP6066471B2 (ja) | 2012-10-12 | 2017-01-25 | 本田技研工業株式会社 | 対話システム及び対話システム向け発話の判別方法 |
| US10275513B1 (en) | 2012-10-12 | 2019-04-30 | Google Llc | Providing application functionality |
| US8713433B1 (en) | 2012-10-16 | 2014-04-29 | Google Inc. | Feature-based autocorrection |
| US8843845B2 (en) | 2012-10-16 | 2014-09-23 | Google Inc. | Multi-gesture text input prediction |
| CN103727948B (zh) | 2012-10-16 | 2016-08-17 | 北京掌行通信息技术有限公司 | 乘车导航的实时诱导方法 |
| CN102882752A (zh) | 2012-10-19 | 2013-01-16 | 天津光宏科技有限公司 | 基于物联网及安卓系统的智能家居系统及控制方法 |
| US9031293B2 (en) | 2012-10-19 | 2015-05-12 | Sony Computer Entertainment Inc. | Multi-modal sensor based emotion recognition and emotional interface |
| KR20150069018A (ko) | 2012-10-22 | 2015-06-22 | 브이아이디 스케일, 인크. | 모바일 장치에서의 사용자 존재 검출 |
| US9319445B2 (en) | 2012-10-22 | 2016-04-19 | Spotify Ab | Systems and methods for pre-fetching media content |
| US8527276B1 (en) | 2012-10-25 | 2013-09-03 | Google Inc. | Speech synthesis using deep neural networks |
| US9305439B2 (en) | 2012-10-25 | 2016-04-05 | Google Inc. | Configurable indicator on computing device |
| US9459176B2 (en) | 2012-10-26 | 2016-10-04 | Azima Holdings, Inc. | Voice controlled vibration data analyzer systems and methods |
| WO2014064324A1 (en) | 2012-10-26 | 2014-05-01 | Nokia Corporation | Multi-device speech recognition |
| US8655307B1 (en) | 2012-10-26 | 2014-02-18 | Lookout, Inc. | System and method for developing, updating, and using user device behavioral context models to modify user, device, and application state, settings and behavior for enhanced user security |
| US9158560B2 (en) | 2012-10-26 | 2015-10-13 | Verizon Patent And Licensing Inc. | Dynamic application arranger |
| US20140122086A1 (en) | 2012-10-26 | 2014-05-01 | Microsoft Corporation | Augmenting speech recognition with depth imaging |
| KR20140054643A (ko) | 2012-10-29 | 2014-05-09 | 삼성전자주식회사 | 음성인식장치 및 음성인식방법 |
| WO2014070872A2 (en) | 2012-10-30 | 2014-05-08 | Robert Bosch Gmbh | System and method for multimodal interaction with reduced distraction in operating vehicles |
| US10304465B2 (en) | 2012-10-30 | 2019-05-28 | Google Technology Holdings LLC | Voice control user interface for low power mode |
| KR102117841B1 (ko) | 2012-10-30 | 2020-06-02 | 삼성전자주식회사 | 전자장치 및 그 제어방법 |
| KR101967917B1 (ko) | 2012-10-30 | 2019-08-13 | 삼성전자주식회사 | 음성을 인식하는 전자 장치 및 방법 |
| US9734151B2 (en) | 2012-10-31 | 2017-08-15 | Tivo Solutions Inc. | Method and system for voice based media search |
| WO2014071043A1 (en) | 2012-10-31 | 2014-05-08 | DoWhatILikeBest, LLC | Favorite and serendipitous event correlation and notification |
| US8606576B1 (en) | 2012-11-02 | 2013-12-10 | Google Inc. | Communication log with extracted keywords from speech-to-text processing |
| US9093069B2 (en) | 2012-11-05 | 2015-07-28 | Nuance Communications, Inc. | Privacy-sensitive speech model creation via aggregation of multiple user models |
| CN104903908A (zh) | 2012-11-07 | 2015-09-09 | 英特托拉斯技术公司 | 个人数据管理系统及方法 |
| JP6018881B2 (ja) | 2012-11-07 | 2016-11-02 | 株式会社日立製作所 | ナビゲーション装置、及びナビゲーション方法 |
| KR101510860B1 (ko) | 2012-11-08 | 2015-04-10 | 아주대학교산학협력단 | 사용자 의도 파악 어플리케이션 서비스 방법 및 서버와 이를 이용한 사용자 의도 파악 어플리케이션 서비스 시스템 |
| US20140136987A1 (en) | 2012-11-09 | 2014-05-15 | Apple Inc. | Generation of a user interface based on contacts |
| US9247387B2 (en) | 2012-11-13 | 2016-01-26 | International Business Machines Corporation | Proximity based reminders |
| US9275642B2 (en) | 2012-11-13 | 2016-03-01 | Unified Computer Intelligence Corporation | Voice-operated internet-ready ubiquitous computing device and method thereof |
| KR20140060995A (ko) | 2012-11-13 | 2014-05-21 | 삼성전자주식회사 | 상황별 거절 메시지 제공 방법 및 이를 지원하는 단말기 |
| KR20140061803A (ko) | 2012-11-14 | 2014-05-22 | 삼성전자주식회사 | 프로젝션 장치 |
| US9235321B2 (en) | 2012-11-14 | 2016-01-12 | Facebook, Inc. | Animation sequence associated with content item |
| KR101709187B1 (ko) | 2012-11-14 | 2017-02-23 | 한국전자통신연구원 | 계층적 대화 태스크 라이브러리를 이용한 이중 대화관리 기반 음성대화시스템 |
| US9798799B2 (en) | 2012-11-15 | 2017-10-24 | Sri International | Vehicle personal assistant that interprets spoken natural language input based upon vehicle context |
| US9085303B2 (en) | 2012-11-15 | 2015-07-21 | Sri International | Vehicle personal assistant |
| US9032219B2 (en) | 2012-11-16 | 2015-05-12 | Nuance Communications, Inc. | Securing speech recognition data |
| KR102028702B1 (ko) | 2012-11-16 | 2019-10-04 | 삼성전자주식회사 | 현재의 상태에 따른 응답 메시지를 송신하는 전자 장치 및 방법 |
| US9378456B2 (en) | 2012-11-19 | 2016-06-28 | Microsoft Technology Licensing, Llc | Task completion |
| US10551928B2 (en) | 2012-11-20 | 2020-02-04 | Samsung Electronics Company, Ltd. | GUI transitions on wearable electronic device |
| KR101995428B1 (ko) | 2012-11-20 | 2019-07-02 | 엘지전자 주식회사 | 이동 단말기 및 그 제어방법 |
| KR20140064246A (ko) | 2012-11-20 | 2014-05-28 | 한국전자통신연구원 | 착용형 디스플레이 장치 |
| US9251713B1 (en) | 2012-11-20 | 2016-02-02 | Anthony J. Giovanniello | System and process for assessing a user and for assisting a user in rehabilitation |
| JP2014102669A (ja) | 2012-11-20 | 2014-06-05 | Toshiba Corp | 情報処理装置、情報処理方法およびプログラム |
| US8965754B2 (en) | 2012-11-20 | 2015-02-24 | International Business Machines Corporation | Text prediction using environment hints |
| US11237719B2 (en) | 2012-11-20 | 2022-02-01 | Samsung Electronics Company, Ltd. | Controlling remote electronic device with wearable electronic device |
| CA2892614C (en) | 2012-11-22 | 2021-06-08 | 8303142 Canada Inc. | System and method for managing several mobile devices simultaneously |
| RU2530268C2 (ru) | 2012-11-28 | 2014-10-10 | Общество с ограниченной ответственностью "Спиктуит" | Способ обучения информационной диалоговой системы пользователем |
| US20140146200A1 (en) | 2012-11-28 | 2014-05-29 | Research In Motion Limited | Entries to an electronic calendar |
| WO2014084413A1 (ko) | 2012-11-28 | 2014-06-05 | 엘지전자 주식회사 | 가전 기기 구동 장치 및 방법 |
| US20140149118A1 (en) | 2012-11-28 | 2014-05-29 | Lg Electronics Inc. | Apparatus and method for driving electric device using speech recognition |
| US9875741B2 (en) | 2013-03-15 | 2018-01-23 | Google Llc | Selective speech recognition for chat and digital personal assistant systems |
| US10026400B2 (en) | 2013-06-27 | 2018-07-17 | Google Llc | Generating dialog recommendations for chat information systems based on user interaction and environmental data |
| WO2014085502A1 (en) | 2012-11-29 | 2014-06-05 | Edsense, L.L.C. | System and method for displaying multiple applications |
| US9589149B2 (en) | 2012-11-30 | 2017-03-07 | Microsoft Technology Licensing, Llc | Combining personalization and privacy locally on devices |
| JP2014109889A (ja) | 2012-11-30 | 2014-06-12 | Toshiba Corp | コンテンツ検索装置、コンテンツ検索方法及び制御プログラム |
| US9549323B2 (en) | 2012-12-03 | 2017-01-17 | Samsung Electronics Co., Ltd. | Method and mobile terminal for controlling screen lock |
| US9159319B1 (en) | 2012-12-03 | 2015-10-13 | Amazon Technologies, Inc. | Keyword spotting with competitor models |
| US9026429B2 (en) | 2012-12-05 | 2015-05-05 | Facebook, Inc. | Systems and methods for character string auto-suggestion based on degree of difficulty |
| US9819786B2 (en) | 2012-12-05 | 2017-11-14 | Facebook, Inc. | Systems and methods for a symbol-adaptable keyboard |
| US20140164476A1 (en) | 2012-12-06 | 2014-06-12 | At&T Intellectual Property I, Lp | Apparatus and method for providing a virtual assistant |
| US8615221B1 (en) | 2012-12-06 | 2013-12-24 | Google Inc. | System and method for selection of notification techniques in an electronic device |
| US8930181B2 (en) | 2012-12-06 | 2015-01-06 | Prashant Parikh | Automatic dynamic contextual data entry completion |
| US9244905B2 (en) | 2012-12-06 | 2016-01-26 | Microsoft Technology Licensing, Llc | Communication context based predictive-text suggestion |
| US20140163951A1 (en) | 2012-12-07 | 2014-06-12 | Xerox Corporation | Hybrid adaptation of named entity recognition |
| KR102091003B1 (ko) | 2012-12-10 | 2020-03-19 | 삼성전자 주식회사 | 음성인식 기술을 이용한 상황 인식 서비스 제공 방법 및 장치 |
| US9471559B2 (en) * | 2012-12-10 | 2016-10-18 | International Business Machines Corporation | Deep analysis of natural language questions for question answering system |
| US9276802B2 (en) | 2012-12-11 | 2016-03-01 | Nuance Communications, Inc. | Systems and methods for sharing information between virtual agents |
| US20140164953A1 (en) | 2012-12-11 | 2014-06-12 | Nuance Communications, Inc. | Systems and methods for invoking virtual agent |
| US9659298B2 (en) | 2012-12-11 | 2017-05-23 | Nuance Communications, Inc. | Systems and methods for informing virtual agent recommendation |
| US9697827B1 (en) | 2012-12-11 | 2017-07-04 | Amazon Technologies, Inc. | Error reduction in speech processing |
| US9148394B2 (en) | 2012-12-11 | 2015-09-29 | Nuance Communications, Inc. | Systems and methods for user interface presentation of virtual agent |
| US9679300B2 (en) | 2012-12-11 | 2017-06-13 | Nuance Communications, Inc. | Systems and methods for virtual agent recommendation for multiple persons |
| US20140164532A1 (en) | 2012-12-11 | 2014-06-12 | Nuance Communications, Inc. | Systems and methods for virtual agent participation in multiparty conversation |
| US9704486B2 (en) | 2012-12-11 | 2017-07-11 | Amazon Technologies, Inc. | Speech recognition power management |
| EP2912567A4 (en) | 2012-12-11 | 2016-05-18 | Nuance Communications Inc | SYSTEM AND METHODS FOR VIRTUAL AGENT RECOMMENDATION FOR MULTIPLE PEOPLE |
| US9190057B2 (en) | 2012-12-12 | 2015-11-17 | Amazon Technologies, Inc. | Speech model retrieval in distributed speech recognition systems |
| US9117450B2 (en) | 2012-12-12 | 2015-08-25 | Nuance Communications, Inc. | Combining re-speaking, partial agent transcription and ASR for improved accuracy / human guided ASR |
| US9558275B2 (en) | 2012-12-13 | 2017-01-31 | Microsoft Technology Licensing, Llc | Action broker |
| US9185742B2 (en) | 2012-12-13 | 2015-11-10 | Google Technology Holdings LLC | System and methods for a cloud based wireless personal area network service enabling context activity handoffs between devices |
| KR102014778B1 (ko) | 2012-12-14 | 2019-08-27 | 엘지전자 주식회사 | 텍스트 메시징 서비스를 제공하는 디지털 디바이스 및 그 제어 방법 |
| KR102090269B1 (ko) | 2012-12-14 | 2020-03-17 | 삼성전자주식회사 | 정보 검색 방법, 그와 같은 기능을 갖는 디바이스 및 기록 매체 |
| US9141660B2 (en) | 2012-12-17 | 2015-09-22 | International Business Machines Corporation | Intelligent evidence classification and notification in a deep question answering system |
| US9213754B1 (en) | 2012-12-17 | 2015-12-15 | Google Inc. | Personalizing content items |
| EP3691179A1 (en) | 2012-12-18 | 2020-08-05 | Samsung Electronics Co., Ltd. | Method and device for controlling home device remotely in home network system |
| US9070366B1 (en) | 2012-12-19 | 2015-06-30 | Amazon Technologies, Inc. | Architecture for multi-domain utterance processing |
| US9098467B1 (en) | 2012-12-19 | 2015-08-04 | Rawles Llc | Accepting voice commands based on user identity |
| US20140179295A1 (en) | 2012-12-20 | 2014-06-26 | Enno Luebbers | Deriving environmental context and actions from ad-hoc state broadcast |
| US8977555B2 (en) | 2012-12-20 | 2015-03-10 | Amazon Technologies, Inc. | Identification of utterance subjects |
| US8645138B1 (en) | 2012-12-20 | 2014-02-04 | Google Inc. | Two-pass decoding for speech recognition of search and action requests |
| WO2014096506A1 (en) | 2012-12-21 | 2014-06-26 | Nokia Corporation | Method, apparatus, and computer program product for personalizing speech recognition |
| KR20140082157A (ko) | 2012-12-24 | 2014-07-02 | 한국전자통신연구원 | 다중 음향 모델을 이용하여 음성을 인식하기 위한 장치 및 그 방법 |
| JP2014126600A (ja) | 2012-12-25 | 2014-07-07 | Panasonic Corp | 音声認識装置、音声認識方法、およびテレビ |
| JP2014124332A (ja) | 2012-12-26 | 2014-07-07 | Daiichi Shokai Co Ltd | 遊技機 |
| WO2014105277A2 (en) | 2012-12-29 | 2014-07-03 | Yknots Industries Llc | Device, method, and graphical user interface for moving a cursor according to a change in an appearance of a control icon with simulated three-dimensional characteristics |
| KR102301592B1 (ko) | 2012-12-29 | 2021-09-10 | 애플 인크. | 사용자 인터페이스 계층을 내비게이션하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스 |
| KR20170081744A (ko) | 2012-12-29 | 2017-07-12 | 애플 인크. | 다중 접촉 제스처에 대한 촉각적 출력의 발생을 보류하는 디바이스, 방법, 및 그래픽 사용자 인터페이스 |
| CN107832003B (zh) | 2012-12-29 | 2021-01-22 | 苹果公司 | 用于放大内容的方法和设备、电子设备和介质 |
| CN103049567A (zh) | 2012-12-31 | 2013-04-17 | 威盛电子股份有限公司 | 检索方法、检索系统以及自然语言理解系统 |
| US8571851B1 (en) | 2012-12-31 | 2013-10-29 | Google Inc. | Semantic interpretation using user gaze order |
| CN103020047A (zh) | 2012-12-31 | 2013-04-03 | 威盛电子股份有限公司 | 修正语音应答的方法及自然语言对话系统 |
| CN103077165A (zh) | 2012-12-31 | 2013-05-01 | 威盛电子股份有限公司 | 自然语言对话方法及其系统 |
| KR20140088449A (ko) | 2013-01-02 | 2014-07-10 | 엘지전자 주식회사 | 중앙 제어 장치 및 그것의 제어 방법 |
| KR101892734B1 (ko) | 2013-01-04 | 2018-08-28 | 한국전자통신연구원 | 음성 인식 시스템에서의 오류 수정 방법 및 그 장치 |
| US9497137B2 (en) | 2013-01-04 | 2016-11-15 | Sookbox, LLC | Digital content connectivity and control via a plurality of controllers that are treated discriminatively |
| KR20140093303A (ko) | 2013-01-07 | 2014-07-28 | 삼성전자주식회사 | 디스플레이 장치 및 그의 제어 방법 |
| KR20140089862A (ko) | 2013-01-07 | 2014-07-16 | 삼성전자주식회사 | 디스플레이 장치 및 그의 제어 방법 |
| CN104903846B (zh) | 2013-01-08 | 2017-07-28 | 歌乐株式会社 | 语音识别装置和语音识别方法 |
| US20140195233A1 (en) | 2013-01-08 | 2014-07-10 | Spansion Llc | Distributed Speech Recognition System |
| DE112013006384T5 (de) | 2013-01-09 | 2015-09-24 | Mitsubishi Electric Corporation | Spracherkennungsvorrichtung und Anzeigeverfahren |
| US20140198047A1 (en) | 2013-01-14 | 2014-07-17 | Nuance Communications, Inc. | Reducing error rates for touch based keyboards |
| US9292489B1 (en) | 2013-01-16 | 2016-03-22 | Google Inc. | Sub-lexical language models with word level pronunciation lexicons |
| US8731912B1 (en) | 2013-01-16 | 2014-05-20 | Google Inc. | Delaying audio notifications |
| US8942674B2 (en) | 2013-01-18 | 2015-01-27 | Blackberry Limited | Responding to incoming calls |
| US20140203939A1 (en) | 2013-01-21 | 2014-07-24 | Rtc Inc. | Control and monitoring of light-emitting-diode (led) bulbs |
| JP2014140121A (ja) | 2013-01-21 | 2014-07-31 | Sharp Corp | 会議支援システム |
| US9047274B2 (en) | 2013-01-21 | 2015-06-02 | Xerox Corporation | Machine translation-driven authoring system and method |
| US9148499B2 (en) | 2013-01-22 | 2015-09-29 | Blackberry Limited | Method and system for automatically identifying voice tags through user operation |
| US9530409B2 (en) | 2013-01-23 | 2016-12-27 | Blackberry Limited | Event-triggered hands-free multitasking for media playback |
| EP2760015A1 (en) | 2013-01-23 | 2014-07-30 | BlackBerry Limited | Event-triggered hands-free multitasking for media playback |
| CN103971680B (zh) | 2013-01-24 | 2018-06-05 | 华为终端（东莞）有限公司 | 一种语音识别的方法、装置 |
| US9165566B2 (en) | 2013-01-24 | 2015-10-20 | Microsoft Technology Licensing, Llc | Indefinite speech inputs |
| DE102013001219B4 (de) | 2013-01-25 | 2019-08-29 | Inodyn Newmedia Gmbh | Verfahren und System zur Sprachaktivierung eines Software-Agenten aus einem Standby-Modus |
| JP2014142566A (ja) | 2013-01-25 | 2014-08-07 | Alpine Electronics Inc | 音声認識システムおよび音声認識方法 |
| US9971495B2 (en) | 2013-01-28 | 2018-05-15 | Nook Digital, Llc | Context based gesture delineation for user interaction in eyes-free mode |
| JP6251958B2 (ja) | 2013-01-28 | 2017-12-27 | 富士通株式会社 | 発話解析装置、音声対話制御装置、方法、及びプログラム |
| JP6115152B2 (ja) | 2013-01-29 | 2017-04-19 | コニカミノルタ株式会社 | 情報処理システム、情報処理装置、情報処理端末及びプログラム |
| KR20140098947A (ko) | 2013-01-31 | 2014-08-11 | 삼성전자주식회사 | 광고 제공 시스템, 사용자 단말 및 광고 제공 방법 |
| WO2014119889A1 (en) | 2013-01-31 | 2014-08-07 | Samsung Electronics Co., Ltd. | Method of displaying user interface on device, and device |
| JP2014150323A (ja) | 2013-01-31 | 2014-08-21 | Sharp Corp | 文字入力装置 |
| US10055091B2 (en) | 2013-02-01 | 2018-08-21 | Microsoft Technology Licensing, Llc | Autosave and manual save modes for software applications |
| US20140222435A1 (en) | 2013-02-01 | 2014-08-07 | Telenav, Inc. | Navigation system with user dependent language mechanism and method of operation thereof |
| US9292492B2 (en) | 2013-02-04 | 2016-03-22 | Microsoft Technology Licensing, Llc | Scaling statistical language understanding systems across domains and intents |
| US8694315B1 (en) | 2013-02-05 | 2014-04-08 | Visa International Service Association | System and method for authentication using speaker verification techniques and fraud model |
| US20140218372A1 (en) | 2013-02-05 | 2014-08-07 | Apple Inc. | Intelligent digital assistant in a desktop environment |
| US20140223481A1 (en) | 2013-02-07 | 2014-08-07 | United Video Properties, Inc. | Systems and methods for updating a search request |
| EP3809407A1 (en) | 2013-02-07 | 2021-04-21 | Apple Inc. | Voice trigger for a digital assistant |
| US20140222967A1 (en) | 2013-02-07 | 2014-08-07 | Opanga Networks, Inc. | Transparent media delivery and proxy |
| US9519858B2 (en) | 2013-02-10 | 2016-12-13 | Microsoft Technology Licensing, Llc | Feature-augmented neural networks and applications of same |
| US9842489B2 (en) | 2013-02-14 | 2017-12-12 | Google Llc | Waking other devices for additional data |
| US9408040B2 (en) | 2013-02-14 | 2016-08-02 | Fuji Xerox Co., Ltd. | Systems and methods for room-level location using WiFi |
| US9791921B2 (en) | 2013-02-19 | 2017-10-17 | Microsoft Technology Licensing, Llc | Context-aware augmented reality object commands |
| US10078437B2 (en) | 2013-02-20 | 2018-09-18 | Blackberry Limited | Method and apparatus for responding to a notification via a capacitive physical keyboard |
| US9621619B2 (en) | 2013-02-21 | 2017-04-11 | International Business Machines Corporation | Enhanced notification for relevant communications |
| US9019129B2 (en) | 2013-02-21 | 2015-04-28 | Apple Inc. | Vehicle location in weak location signal scenarios |
| US9734819B2 (en) | 2013-02-21 | 2017-08-15 | Google Technology Holdings LLC | Recognizing accented speech |
| US20140236986A1 (en) | 2013-02-21 | 2014-08-21 | Apple Inc. | Natural language document search |
| US9672822B2 (en) | 2013-02-22 | 2017-06-06 | Next It Corporation | Interaction with a portion of a content item through a virtual assistant |
| US9894312B2 (en) | 2013-02-22 | 2018-02-13 | The Directv Group, Inc. | Method and system for controlling a user receiving device using voice commands |
| US9484023B2 (en) | 2013-02-22 | 2016-11-01 | International Business Machines Corporation | Conversion of non-back-off language models for efficient speech decoding |
| US20140245140A1 (en) | 2013-02-22 | 2014-08-28 | Next It Corporation | Virtual Assistant Transfer between Smart Devices |
| US20140304086A1 (en) | 2013-02-25 | 2014-10-09 | Turn Inc. | Methods and systems for modeling campaign goal adjustment |
| KR101383552B1 (ko) | 2013-02-25 | 2014-04-10 | 미디어젠(주) | 다중 명령어가 포함된 단일 문장의 음성인식방법 |
| CN104007832B (zh) | 2013-02-25 | 2017-09-01 | 上海触乐信息科技有限公司 | 连续滑行输入文本的方法、系统及设备 |
| US9330659B2 (en) | 2013-02-25 | 2016-05-03 | Microsoft Technology Licensing, Llc | Facilitating development of a spoken natural language interface |
| US9172747B2 (en) | 2013-02-25 | 2015-10-27 | Artificial Solutions Iberia SL | System and methods for virtual assistant networks |
| US9865266B2 (en) | 2013-02-25 | 2018-01-09 | Nuance Communications, Inc. | Method and apparatus for automated speaker parameters adaptation in a deployed speaker verification system |
| US9280981B2 (en) | 2013-02-27 | 2016-03-08 | Blackberry Limited | Method and apparatus for voice control of a mobile device |
| US10354677B2 (en) | 2013-02-28 | 2019-07-16 | Nuance Communications, Inc. | System and method for identification of intent segment(s) in caller-agent conversations |
| US9691382B2 (en) | 2013-03-01 | 2017-06-27 | Mediatek Inc. | Voice control device and method for deciding response of voice control according to recognized speech command and detection output derived from processing sensor data |
| US9218819B1 (en) | 2013-03-01 | 2015-12-22 | Google Inc. | Customizing actions based on contextual data and voice-based inputs |
| US9251467B2 (en) | 2013-03-03 | 2016-02-02 | Microsoft Technology Licensing, Llc | Probabilistic parsing |
| US9460715B2 (en) | 2013-03-04 | 2016-10-04 | Amazon Technologies, Inc. | Identification using audio signatures and additional characteristics |
| US9886968B2 (en) | 2013-03-04 | 2018-02-06 | Synaptics Incorporated | Robust speech boundary detection system and method |
| US9554050B2 (en) | 2013-03-04 | 2017-01-24 | Apple Inc. | Mobile device using images and location for reminders |
| KR101952179B1 (ko) | 2013-03-05 | 2019-05-22 | 엘지전자 주식회사 | 이동 단말기 및 그것의 제어방법 |
| US9454957B1 (en) | 2013-03-05 | 2016-09-27 | Amazon Technologies, Inc. | Named entity resolution in spoken language processing |
| US9293129B2 (en) | 2013-03-05 | 2016-03-22 | Microsoft Technology Licensing, Llc | Speech recognition assisted evaluation on text-to-speech pronunciation issue detection |
| US10795528B2 (en) | 2013-03-06 | 2020-10-06 | Nuance Communications, Inc. | Task assistant having multiple visual displays |
| CN104038621A (zh) | 2013-03-06 | 2014-09-10 | 三星电子（中国）研发中心 | 在通信终端中管理事件信息的装置及方法 |
| US10223411B2 (en) | 2013-03-06 | 2019-03-05 | Nuance Communications, Inc. | Task assistant utilizing context for improved interaction |
| US9313261B2 (en) | 2013-03-07 | 2016-04-12 | Qualcomm Incorporated | System and methods of transferring tasks from a first mobile device to a second mobile device |
| US9496968B2 (en) | 2013-03-08 | 2016-11-15 | Google Inc. | Proximity detection by mobile devices |
| US9990611B2 (en) | 2013-03-08 | 2018-06-05 | Baydin, Inc. | Systems and methods for incorporating calendar functionality into electronic messages |
| US20140279622A1 (en) | 2013-03-08 | 2014-09-18 | Sudhakar Bharadwaj | System and method for semantic processing of personalized social data and generating probability models of personal context to generate recommendations in searching applications |
| US20140257902A1 (en) | 2013-03-08 | 2014-09-11 | Baydin, Inc. | Systems and methods for incorporating calendar functionality into electronic messages |
| US9761225B2 (en) | 2013-03-11 | 2017-09-12 | Nuance Communications, Inc. | Semantic re-ranking of NLU results in conversational dialogue applications |
| KR102113272B1 (ko) | 2013-03-11 | 2020-06-02 | 삼성전자주식회사 | 전자장치에서 복사/붙여넣기 방법 및 장치 |
| US8964947B1 (en) | 2013-03-11 | 2015-02-24 | Amazon Technologies, Inc. | Approaches for sharing data between electronic devices |
| US10229697B2 (en) | 2013-03-12 | 2019-03-12 | Google Technology Holdings LLC | Apparatus and method for beamforming to obtain voice and noise signals |
| US9361885B2 (en) | 2013-03-12 | 2016-06-07 | Nuance Communications, Inc. | Methods and apparatus for detecting a voice command |
| WO2014159581A1 (en) | 2013-03-12 | 2014-10-02 | Nuance Communications, Inc. | Methods and apparatus for detecting a voice command |
| US11393461B2 (en) | 2013-03-12 | 2022-07-19 | Cerence Operating Company | Methods and apparatus for detecting a voice command |
| US9129013B2 (en) | 2013-03-12 | 2015-09-08 | Nuance Communications, Inc. | Methods and apparatus for entity detection |
| US9477753B2 (en) | 2013-03-12 | 2016-10-25 | International Business Machines Corporation | Classifier-based system combination for spoken term detection |
| US9076459B2 (en) | 2013-03-12 | 2015-07-07 | Intermec Ip, Corp. | Apparatus and method to classify sound to detect speech |
| US9112984B2 (en) | 2013-03-12 | 2015-08-18 | Nuance Communications, Inc. | Methods and apparatus for detecting a voice command |
| US9282423B2 (en) | 2013-03-13 | 2016-03-08 | Aliphcom | Proximity and interface controls of media devices for media presentations |
| US10219100B2 (en) | 2013-03-13 | 2019-02-26 | Aliphcom | Determining proximity for devices interacting with media devices |
| US9378739B2 (en) | 2013-03-13 | 2016-06-28 | Nuance Communications, Inc. | Identifying corresponding positions in different representations of a textual work |
| US20140274005A1 (en) | 2013-03-13 | 2014-09-18 | Aliphcom | Intelligent connection management in wireless devices |
| US9514741B2 (en) | 2013-03-13 | 2016-12-06 | Nuance Communications, Inc. | Data shredding for speech recognition acoustic model training under data retention restrictions |
| US9135248B2 (en) | 2013-03-13 | 2015-09-15 | Arris Technology, Inc. | Context demographic determination system |
| US10572476B2 (en) | 2013-03-14 | 2020-02-25 | Apple Inc. | Refining a search based on schedule items |
| US10642574B2 (en) | 2013-03-14 | 2020-05-05 | Apple Inc. | Device, method, and graphical user interface for outputting captions |
| US9189196B2 (en) | 2013-03-14 | 2015-11-17 | Google Inc. | Compartmentalized self registration of external devices |
| US20140278349A1 (en) | 2013-03-14 | 2014-09-18 | Microsoft Corporation | Language Model Dictionaries for Text Predictions |
| US10133546B2 (en) | 2013-03-14 | 2018-11-20 | Amazon Technologies, Inc. | Providing content on multiple devices |
| US9842584B1 (en) | 2013-03-14 | 2017-12-12 | Amazon Technologies, Inc. | Providing content on multiple devices |
| US20140267599A1 (en) | 2013-03-14 | 2014-09-18 | 360Brandvision, Inc. | User interaction with a holographic poster via a secondary mobile device |
| US10652394B2 (en) | 2013-03-14 | 2020-05-12 | Apple Inc. | System and method for processing voicemail |
| KR20140112910A (ko) | 2013-03-14 | 2014-09-24 | 삼성전자주식회사 | 입력 제어 방법 및 이를 지원하는 전자 장치 |
| US9368114B2 (en) | 2013-03-14 | 2016-06-14 | Apple Inc. | Context-sensitive handling of interruptions |
| US9977779B2 (en) | 2013-03-14 | 2018-05-22 | Apple Inc. | Automatic supplementation of word correction dictionaries |
| US9524489B2 (en) | 2013-03-14 | 2016-12-20 | Samsung Electronics Co., Ltd. | Computing system with task transfer mechanism and method of operation thereof |
| US9247309B2 (en) | 2013-03-14 | 2016-01-26 | Google Inc. | Methods, systems, and media for presenting mobile content corresponding to media content |
| US9733821B2 (en) | 2013-03-14 | 2017-08-15 | Apple Inc. | Voice control to diagnose inadvertent activation of accessibility features |
| US9123345B2 (en) | 2013-03-14 | 2015-09-01 | Honda Motor Co., Ltd. | Voice interface systems and methods |
| US20140280072A1 (en) | 2013-03-14 | 2014-09-18 | Advanced Search Laboratories, lnc. | Method and Apparatus for Human-Machine Interaction |
| US9201865B2 (en) | 2013-03-15 | 2015-12-01 | Bao Tran | Automated assistance for user request that determines semantics by domain, task, and parameter |
| US9317585B2 (en) | 2013-03-15 | 2016-04-19 | Google Inc. | Search query suggestions based on personal information |
| US9355472B2 (en) | 2013-03-15 | 2016-05-31 | Apple Inc. | Device, method, and graphical user interface for adjusting the appearance of a control |
| EP2973315A4 (en) | 2013-03-15 | 2016-11-16 | Adityo Prakash | SYSTEMS AND METHODS FOR FACILITATING INTEGRATED BEHAVIORAL SUPPORT |
| KR102057795B1 (ko) | 2013-03-15 | 2019-12-19 | 애플 인크. | 콘텍스트-민감성 방해 처리 |
| US9558743B2 (en) | 2013-03-15 | 2017-01-31 | Google Inc. | Integration of semantic context information |
| US10748529B1 (en) | 2013-03-15 | 2020-08-18 | Apple Inc. | Voice activated device for use with a voice-based digital assistant |
| US20140282178A1 (en) | 2013-03-15 | 2014-09-18 | Microsoft Corporation | Personalized community model for surfacing commands within productivity application user interfaces |
| US20140282203A1 (en) | 2013-03-15 | 2014-09-18 | Research In Motion Limited | System and method for predictive text input |
| US9886160B2 (en) | 2013-03-15 | 2018-02-06 | Google Llc | Managing audio at the tab level for user notification and control |
| US9378065B2 (en) | 2013-03-15 | 2016-06-28 | Advanced Elemental Technologies, Inc. | Purposeful computing |
| US10073536B2 (en) | 2013-03-15 | 2018-09-11 | Google Llc | Virtual keyboard input for international languages |
| US10638198B2 (en) | 2013-03-15 | 2020-04-28 | Ebay Inc. | Shoppable video |
| US20140267933A1 (en) | 2013-03-15 | 2014-09-18 | Toshiba America Information Systems, Inc. | Electronic Device with Embedded Macro-Command Functionality |
| US9189157B2 (en) | 2013-03-15 | 2015-11-17 | Blackberry Limited | Method and apparatus for word prediction selection |
| US9176649B2 (en) | 2013-03-15 | 2015-11-03 | American Megatrends, Inc. | Method and apparatus of remote management of computer system using voice and gesture based input |
| US20140279787A1 (en) | 2013-03-15 | 2014-09-18 | Ximplar Limited | Systems And Methods for an Adaptive Application Recommender |
| US9299041B2 (en) | 2013-03-15 | 2016-03-29 | Business Objects Software Ltd. | Obtaining data from unstructured data for a structured data collection |
| WO2014144579A1 (en) | 2013-03-15 | 2014-09-18 | Apple Inc. | System and method for updating an adaptive speech recognition model |
| US20150314454A1 (en) | 2013-03-15 | 2015-11-05 | JIBO, Inc. | Apparatus and methods for providing a persistent companion device |
| CN105190607B (zh) | 2013-03-15 | 2018-11-30 | 苹果公司 | 通过智能数字助理的用户培训 |
| US20160132046A1 (en) | 2013-03-15 | 2016-05-12 | Fisher-Rosemount Systems, Inc. | Method and apparatus for controlling a process plant with wearable mobile control devices |
| US9303997B2 (en) | 2013-03-15 | 2016-04-05 | Apple Inc. | Prediction engine |
| WO2014143959A2 (en) | 2013-03-15 | 2014-09-18 | Bodhi Technology Ventures Llc | Volume control for mobile device using a wireless device |
| EP3101392B1 (en) | 2013-03-15 | 2021-12-15 | Apple Inc. | Mapping application with turn-by-turn navigation mode for output to vehicle display |
| AU2014233517B2 (en) | 2013-03-15 | 2017-05-25 | Apple Inc. | Training an at least partial voice command system |
| US20140288939A1 (en) | 2013-03-20 | 2014-09-25 | Navteq B.V. | Method and apparatus for optimizing timing of audio commands based on recognized audio patterns |
| US9479499B2 (en) | 2013-03-21 | 2016-10-25 | Tencent Technology (Shenzhen) Company Limited | Method and apparatus for identity authentication via mobile capturing code |
| US20140298395A1 (en) | 2013-03-27 | 2014-10-02 | Tencent Technology (Shenzhen) Company Limited | Methods and systems for playing video on multiple terminals |
| JP6115941B2 (ja) | 2013-03-28 | 2017-04-19 | Kddi株式会社 | 対話シナリオにユーザ操作を反映させる対話プログラム、サーバ及び方法 |
| JP6221301B2 (ja) | 2013-03-28 | 2017-11-01 | 富士通株式会社 | 音声処理装置、音声処理システムおよび音声処理方法 |
| CN103236260B (zh) | 2013-03-29 | 2015-08-12 | 京东方科技集团股份有限公司 | 语音识别系统 |
| EP2784774A1 (en) | 2013-03-29 | 2014-10-01 | Orange | Telephone voice personnal assistant |
| KR102050814B1 (ko) | 2013-04-02 | 2019-12-02 | 삼성전자주식회사 | 그룹 대화에서 사적 대화 제공 장치 및 방법 |
| JP2014203207A (ja) | 2013-04-03 | 2014-10-27 | ソニー株式会社 | 情報処理装置、情報処理方法及びコンピュータプログラム |
| CA2897539C (en) | 2013-04-04 | 2016-05-17 | James S. RAND | Unified communications system and method |
| JP6023874B2 (ja) | 2013-04-04 | 2016-11-09 | パイオニア株式会社 | 表示制御装置、表示制御方法、表示制御プログラムおよびコンピュータが読み取り可能な記録媒体 |
| US9300718B2 (en) | 2013-04-09 | 2016-03-29 | Avaya Inc. | System and method for keyword-based notification and delivery of content |
| CN103198831A (zh) | 2013-04-10 | 2013-07-10 | 威盛电子股份有限公司 | 语音操控方法与移动终端装置 |
| WO2014169269A1 (en) | 2013-04-12 | 2014-10-16 | Nant Holdings Ip, Llc | Virtual teller systems and methods |
| US10027723B2 (en) | 2013-04-12 | 2018-07-17 | Provenance Asset Group Llc | Method and apparatus for initiating communication and sharing of content among a plurality of devices |
| US8825474B1 (en) | 2013-04-16 | 2014-09-02 | Google Inc. | Text suggestion output using past interaction data |
| US9875494B2 (en) | 2013-04-16 | 2018-01-23 | Sri International | Using intents to analyze and personalize a user's dialog experience with a virtual personal assistant |
| WO2014172494A1 (en) | 2013-04-16 | 2014-10-23 | Imageware Systems, Inc. | Conditional and situational biometric authentication and enrollment |
| US9760644B2 (en) | 2013-04-17 | 2017-09-12 | Google Inc. | Embedding event creation link in a document |
| US20150193392A1 (en) | 2013-04-17 | 2015-07-09 | Google Inc. | User Interface for Quickly Checking Agenda and Creating New Events |
| NL2010662C2 (en) | 2013-04-18 | 2014-10-21 | Bosch Gmbh Robert | Remote maintenance. |
| US10445115B2 (en) | 2013-04-18 | 2019-10-15 | Verint Americas Inc. | Virtual assistant focused user interfaces |
| US20140315492A1 (en) | 2013-04-22 | 2014-10-23 | Salesforce.Com, Inc. | Content delivery to a secondary device via a primary device |
| US9177318B2 (en) | 2013-04-22 | 2015-11-03 | Palo Alto Research Center Incorporated | Method and apparatus for customizing conversation agents based on user characteristics using a relevance score for automatic statements, and a response prediction function |
| US9075435B1 (en) | 2013-04-22 | 2015-07-07 | Amazon Technologies, Inc. | Context-aware notifications |
| US9110889B2 (en) | 2013-04-23 | 2015-08-18 | Facebook, Inc. | Methods and systems for generation of flexible sentences in a social networking system |
| CN104125322A (zh) | 2013-04-24 | 2014-10-29 | 腾讯科技（深圳）有限公司 | 来电和短信控制方法及移动终端 |
| DE102013007502A1 (de) | 2013-04-25 | 2014-10-30 | Elektrobit Automotive Gmbh | Computer-implementiertes Verfahren zum automatischen Trainieren eins Dialogsystems und Dialogsystem zur Erzeugung von semantischen Annotationen |
| CN103280217B (zh) | 2013-05-02 | 2016-05-04 | 锤子科技（北京）有限公司 | 一种移动终端的语音识别方法及其装置 |
| US9472205B2 (en) | 2013-05-06 | 2016-10-18 | Honeywell International Inc. | Device voice recognition systems and methods |
| US9384751B2 (en) | 2013-05-06 | 2016-07-05 | Honeywell International Inc. | User authentication of voice controlled devices |
| KR20140132246A (ko) | 2013-05-07 | 2014-11-17 | 삼성전자주식회사 | 오브젝트 선택 방법 및 오브젝트 선택 장치 |
| US9064495B1 (en) | 2013-05-07 | 2015-06-23 | Amazon Technologies, Inc. | Measurement of user perceived latency in a cloud based speech application |
| DK2994908T3 (da) | 2013-05-07 | 2019-09-23 | Veveo Inc | Grænseflade til inkrementel taleinput med realtidsfeedback |
| US20140337621A1 (en) | 2013-05-07 | 2014-11-13 | Serguei Nakhimov | Wearable communication device, security complex and user interface |
| US9223898B2 (en) | 2013-05-08 | 2015-12-29 | Facebook, Inc. | Filtering suggested structured queries on online social networks |
| US9923849B2 (en) | 2013-05-09 | 2018-03-20 | Ebay Inc. | System and method for suggesting a phrase based on a context |
| EP2801974A3 (en) | 2013-05-09 | 2015-02-18 | DSP Group Ltd. | Low power activation of a voice activated device |
| JP2014219614A (ja) | 2013-05-10 | 2014-11-20 | アルパイン株式会社 | オーディオ装置、ビデオ装置及びコンピュータプログラム |
| US9489625B2 (en) | 2013-05-10 | 2016-11-08 | Sri International | Rapid development of virtual personal assistant applications |
| US9081411B2 (en) | 2013-05-10 | 2015-07-14 | Sri International | Rapid development of virtual personal assistant applications |
| CN103246638B (zh) | 2013-05-13 | 2017-09-01 | 小米科技有限责任公司 | 一种信息粘贴方法和装置 |
| US20140337751A1 (en) | 2013-05-13 | 2014-11-13 | Microsoft Corporation | Automatic creation of calendar items |
| US20140343943A1 (en) | 2013-05-14 | 2014-11-20 | Saudi Arabian Oil Company | Systems, Computer Medium and Computer-Implemented Methods for Authenticating Users Using Voice Streams |
| US8918272B2 (en) | 2013-05-14 | 2014-12-23 | Sony Corporation | Method and apparatus for finding a lost vehicle |
| US9293138B2 (en) | 2013-05-14 | 2016-03-22 | Amazon Technologies, Inc. | Storing state information from network-based user devices |
| US20140347181A1 (en) | 2013-05-21 | 2014-11-27 | Michael Edward Smith Luna | Sensor-enabled media device |
| US20140344205A1 (en) | 2013-05-15 | 2014-11-20 | Aliphcom | Smart media device ecosystem using local and remote data sources |
| CN103260218A (zh) | 2013-05-15 | 2013-08-21 | 江苏奇异点网络有限公司 | 一种移动终端接入网络的方法 |
| US9495266B2 (en) | 2013-05-16 | 2016-11-15 | Advantest Corporation | Voice recognition virtual test engineering assistant |
| WO2014185922A1 (en) | 2013-05-16 | 2014-11-20 | Intel Corporation | Techniques for natural user interface input based on context |
| US9514470B2 (en) | 2013-05-16 | 2016-12-06 | Microsoft Technology Licensing, Llc | Enhanced search suggestion for personal information services |
| KR101334342B1 (ko) | 2013-05-16 | 2013-11-29 | 주식회사 네오패드 | 문자 입력 장치 및 문자 입력 방법 |
| US9432499B2 (en) | 2013-05-18 | 2016-08-30 | Loralee Hajdu | Peripheral specific selection of automated response messages |
| US9607612B2 (en) | 2013-05-20 | 2017-03-28 | Intel Corporation | Natural human-computer interaction for virtual personal assistant systems |
| US9188445B2 (en) | 2013-05-21 | 2015-11-17 | Honda Motor Co., Ltd. | System and method for storing and recalling location data |
| US9466294B1 (en) | 2013-05-21 | 2016-10-11 | Amazon Technologies, Inc. | Dialog management system |
| US20150199077A1 (en) | 2013-05-23 | 2015-07-16 | Google Inc. | Scheduling and viewing a calender event using time zones based on a user's location at event time |
| US9747900B2 (en) | 2013-05-24 | 2017-08-29 | Google Technology Holdings LLC | Method and apparatus for using image data to aid voice recognition |
| US20140350933A1 (en) | 2013-05-24 | 2014-11-27 | Samsung Electronics Co., Ltd. | Voice recognition apparatus and control method thereof |
| US20140351760A1 (en) | 2013-05-24 | 2014-11-27 | Google Inc. | Order-independent text input |
| US9710147B2 (en) | 2013-05-29 | 2017-07-18 | Lg Electronics Inc. | Mobile terminal and controlling method thereof |
| US20140358523A1 (en) | 2013-05-30 | 2014-12-04 | Wright State University | Topic-specific sentiment extraction |
| US20140358519A1 (en) | 2013-06-03 | 2014-12-04 | Xerox Corporation | Confidence-driven rewriting of source texts for improved translation |
| US10282213B2 (en) | 2013-06-03 | 2019-05-07 | Avaya Inc. | System and method for conversational configuration of applications |
| US20140359637A1 (en) | 2013-06-03 | 2014-12-04 | Microsoft Corporation | Task continuance across devices |
| US9294455B2 (en) | 2013-06-04 | 2016-03-22 | Google Inc. | Maintaining video conference session continuity during transfer of session to alternative device |
| US9286029B2 (en) | 2013-06-06 | 2016-03-15 | Honda Motor Co., Ltd. | System and method for multimodal human-vehicle interaction and belief tracking |
| WO2014197336A1 (en) | 2013-06-07 | 2014-12-11 | Apple Inc. | System and method for detecting errors in interactions with a voice-based digital assistant |
| KR102197560B1 (ko) | 2013-06-07 | 2020-12-31 | 애플 인크. | 지능형 자동 어시스턴트 |
| WO2014197334A2 (en) | 2013-06-07 | 2014-12-11 | Apple Inc. | System and method for user-specified pronunciation of words for speech synthesis and recognition |
| US9267805B2 (en) | 2013-06-07 | 2016-02-23 | Apple Inc. | Modeling significant locations |
| US9582608B2 (en) | 2013-06-07 | 2017-02-28 | Apple Inc. | Unified ranking with entropy-weighted information for phrase-based semantic auto-completion |
| US20140365459A1 (en) | 2013-06-08 | 2014-12-11 | Apple Inc. | Harvesting Addresses |
| WO2014197335A1 (en) | 2013-06-08 | 2014-12-11 | Apple Inc. | Interpreting and acting upon commands that involve sharing information with remote devices |
| WO2014197730A1 (en) | 2013-06-08 | 2014-12-11 | Apple Inc. | Application gateway for providing different user interfaces for limited distraction and non-limited distraction contexts |
| US10481769B2 (en) | 2013-06-09 | 2019-11-19 | Apple Inc. | Device, method, and graphical user interface for providing navigation and search functionalities |
| US9477393B2 (en) | 2013-06-09 | 2016-10-25 | Apple Inc. | Device, method, and graphical user interface for displaying application status information |
| KR101922663B1 (ko) | 2013-06-09 | 2018-11-28 | 애플 인크. | 디지털 어시스턴트의 둘 이상의 인스턴스들에 걸친 대화 지속성을 가능하게 하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스 |
| US9495620B2 (en) | 2013-06-09 | 2016-11-15 | Apple Inc. | Multi-script handwriting recognition using a universal recognizer |
| US10176167B2 (en) | 2013-06-09 | 2019-01-08 | Apple Inc. | System and method for inferring user intent from speech inputs |
| KR20140144104A (ko) | 2013-06-10 | 2014-12-18 | 삼성전자주식회사 | 전자기기 및 이의 서비스 제공 방법 |
| WO2014199596A1 (ja) | 2013-06-10 | 2014-12-18 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 話者識別方法、話者識別装置及び話者識別システム |
| US9892115B2 (en) | 2013-06-11 | 2018-02-13 | Facebook, Inc. | Translation training with cross-lingual multi-media support |
| US9449600B2 (en) | 2013-06-11 | 2016-09-20 | Plantronics, Inc. | Character data entry |
| US9508040B2 (en) | 2013-06-12 | 2016-11-29 | Microsoft Technology Licensing, Llc | Predictive pre-launch for applications |
| US9665662B1 (en) | 2013-06-13 | 2017-05-30 | DataRPM Corporation | Methods and system for providing real-time business intelligence using natural language queries |
| JP2016521948A (ja) | 2013-06-13 | 2016-07-25 | アップル インコーポレイテッド | 音声コマンドによって開始される緊急電話のためのシステム及び方法 |
| US9311414B2 (en) | 2013-06-14 | 2016-04-12 | Google Inc. | Systems and methods of selecting content based on aggregate entity co-occurrence |
| CN103292437B (zh) | 2013-06-17 | 2016-01-20 | 广东美的制冷设备有限公司 | 语音交互式空调器及其控制方法 |
| US9728184B2 (en) | 2013-06-18 | 2017-08-08 | Microsoft Technology Licensing, Llc | Restructuring deep neural network acoustic models |
| CN108806690B (zh) | 2013-06-19 | 2023-05-09 | 松下电器（美国）知识产权公司 | 声音对话方法及声音对话代理服务器 |
| US9437186B1 (en) | 2013-06-19 | 2016-09-06 | Amazon Technologies, Inc. | Enhanced endpoint detection for speech recognition |
| US20140379334A1 (en) | 2013-06-20 | 2014-12-25 | Qnx Software Systems Limited | Natural language understanding automatic speech recognition post processing |
| US9633317B2 (en) | 2013-06-20 | 2017-04-25 | Viv Labs, Inc. | Dynamically evolving cognitive architecture system based on a natural language intent interpreter |
| KR20140147587A (ko) | 2013-06-20 | 2014-12-30 | 한국전자통신연구원 | Ｗｆｓｔ를 이용한 음성 끝점 검출 장치 및 방법 |
| US10474961B2 (en) | 2013-06-20 | 2019-11-12 | Viv Labs, Inc. | Dynamically evolving cognitive architecture system based on prompting for additional user input |
| KR102160767B1 (ko) | 2013-06-20 | 2020-09-29 | 삼성전자주식회사 | 제스처를 감지하여 기능을 제어하는 휴대 단말 및 방법 |
| US10051072B2 (en) | 2013-06-21 | 2018-08-14 | Google Llc | Detecting co-presence in the physical world |
| US9311298B2 (en) | 2013-06-21 | 2016-04-12 | Microsoft Technology Licensing, Llc | Building conversational understanding systems using a toolset |
| JP6171617B2 (ja) | 2013-06-24 | 2017-08-02 | 日本電気株式会社 | 応答対象音声判定装置、応答対象音声判定方法および応答対象音声判定プログラム |
| JP2015012301A (ja) | 2013-06-26 | 2015-01-19 | 京セラ株式会社 | 携帯電話機、携帯端末、音声操作プログラムおよび音声操作方法 |
| US10496743B2 (en) | 2013-06-26 | 2019-12-03 | Nuance Communications, Inc. | Methods and apparatus for extracting facts from a medical text |
| US20150006148A1 (en) | 2013-06-27 | 2015-01-01 | Microsoft Corporation | Automatically Creating Training Data For Language Identifiers |
| US8947596B2 (en) | 2013-06-27 | 2015-02-03 | Intel Corporation | Alignment of closed captions |
| US9747899B2 (en) | 2013-06-27 | 2017-08-29 | Amazon Technologies, Inc. | Detecting self-generated wake expressions |
| WO2014210429A1 (en) | 2013-06-28 | 2014-12-31 | Harman International Industries, Inc. | Wireless control of linked devices |
| US9741339B2 (en) | 2013-06-28 | 2017-08-22 | Google Inc. | Data driven word pronunciation learning and scoring with crowd sourcing based on the word's phonemes pronunciation scores |
| US9646606B2 (en) | 2013-07-03 | 2017-05-09 | Google Inc. | Speech recognition using domain knowledge |
| JP2015014960A (ja) | 2013-07-05 | 2015-01-22 | ソニー株式会社 | 情報処理装置、および記憶媒体 |
| CN103365279A (zh) | 2013-07-10 | 2013-10-23 | 崔海伟 | 智能家居系统的状态反馈系统、方法及状态检测装置 |
| DE102014109121B4 (de) | 2013-07-10 | 2023-05-04 | Gm Global Technology Operations, Llc | Systeme und Verfahren zur Arbitrierung eines Sprachdialogdienstes |
| US9396727B2 (en) | 2013-07-10 | 2016-07-19 | GM Global Technology Operations LLC | Systems and methods for spoken dialog service arbitration |
| JP6102588B2 (ja) | 2013-07-10 | 2017-03-29 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
| WO2015006196A1 (en) | 2013-07-11 | 2015-01-15 | Mophie, Inc. | Method and system for communicatively coupling a wearable computer with one or more non-wearable computers |
| CN105283836B (zh) | 2013-07-11 | 2019-06-04 | 英特尔公司 | 用于设备唤醒的设备、方法、装置及计算机可读存储介质 |
| TWI508057B (zh) | 2013-07-15 | 2015-11-11 | Chunghwa Picture Tubes Ltd | 語音辨識系統以及方法 |
| US9305554B2 (en) | 2013-07-17 | 2016-04-05 | Samsung Electronics Co., Ltd. | Multi-level speech recognition |
| US9711148B1 (en) | 2013-07-18 | 2017-07-18 | Google Inc. | Dual model speaker identification |
| US9311912B1 (en) | 2013-07-22 | 2016-04-12 | Amazon Technologies, Inc. | Cost efficient distributed text-to-speech processing |
| US9407950B2 (en) | 2013-07-23 | 2016-08-02 | Microsoft Technology Licensing, Llc | Controlling devices in entertainment environment |
| US20150032238A1 (en) | 2013-07-23 | 2015-01-29 | Motorola Mobility Llc | Method and Device for Audio Input Routing |
| KR102089444B1 (ko) | 2013-07-25 | 2020-03-16 | 삼성전자 주식회사 | 음성 인식 기능을 지원하는 전자 기기의 음성 입력 제어 방법 및 장치 장치 |
| US9772994B2 (en) | 2013-07-25 | 2017-09-26 | Intel Corporation | Self-learning statistical natural language processing for automatic production of virtual personal assistants |
| US8947530B1 (en) | 2013-07-26 | 2015-02-03 | Joseph Frank Scalisi | Smart lock systems and methods |
| CN103412789B (zh) | 2013-07-26 | 2016-09-21 | 宇龙计算机通信科技(深圳)有限公司 | 一种启动应用程序的方法、系统及移动终端 |
| US9247219B2 (en) | 2013-07-26 | 2016-01-26 | SkyBell Technologies, Inc. | Doorbell communication systems and methods |
| US9335983B2 (en) | 2013-07-28 | 2016-05-10 | Oded Haim Breiner | Method and system for displaying a non-installed android application and for requesting an action from a non-installed android application |
| JP6370033B2 (ja) | 2013-07-29 | 2018-08-08 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
| US9575720B2 (en) | 2013-07-31 | 2017-02-21 | Google Inc. | Visual confirmation for a recognized voice-initiated action |
| US9311915B2 (en) | 2013-07-31 | 2016-04-12 | Google Inc. | Context-based speech recognition |
| TWI516698B (zh) | 2013-07-31 | 2016-01-11 | Apex Medical Corp | Air cushion device and its vent valve |
| US20150039606A1 (en) * | 2013-08-01 | 2015-02-05 | Vamsi Krishna Salaka | Search phrase modification |
| TWI601032B (zh) | 2013-08-02 | 2017-10-01 | 晨星半導體股份有限公司 | 應用於聲控裝置的控制器與相關方法 |
| AU2014306221B2 (en) | 2013-08-06 | 2017-04-06 | Apple Inc. | Auto-activating smart responses based on activities from remote devices |
| KR20150017156A (ko) | 2013-08-06 | 2015-02-16 | 삼성전자주식회사 | 휴대단말기에서 추천어를 제공하는 방법 및 장치 |
| CN105493511A (zh) | 2013-08-06 | 2016-04-13 | 萨罗尼科斯贸易与服务一人有限公司 | 用于借助于语音命令控制电子设备的系统、更具体地借助于语音命令控制多个电子设备的远程控制器 |
| US20150046828A1 (en) | 2013-08-08 | 2015-02-12 | Samsung Electronics Co., Ltd. | Contextualizing sensor, service and device data with mobile devices |
| US9264862B2 (en) | 2013-08-15 | 2016-02-16 | Apple Inc. | Determining exit from a vehicle |
| KR20150020872A (ko) | 2013-08-19 | 2015-02-27 | 현대자동차주식회사 | 차량 기능 제어를 위한 제어 장치 및 제어 방법 |
| CN103780970B (zh) | 2013-08-20 | 2018-03-16 | 华为终端（东莞）有限公司 | 一种媒体播放的方法、装置和系统 |
| CN104426841A (zh) | 2013-08-21 | 2015-03-18 | 阿里巴巴集团控股有限公司 | 设置背景图像的方法及相关的服务器和系统 |
| JP2015041845A (ja) | 2013-08-21 | 2015-03-02 | カシオ計算機株式会社 | 文字入力装置及びプログラム |
| US10047970B2 (en) | 2013-08-21 | 2018-08-14 | Honeywell International Inc. | Devices and methods for interacting with an HVAC controller |
| US9161188B2 (en) | 2013-08-22 | 2015-10-13 | Yahoo! Inc. | System and method for automatically suggesting diverse and personalized message completions |
| WO2015026366A1 (en) | 2013-08-23 | 2015-02-26 | Nuance Communications, Inc. | Multiple pass automatic speech recognition methods and apparatus |
| CN105493180B (zh) | 2013-08-26 | 2019-08-30 | 三星电子株式会社 | 用于语音识别的电子装置和方法 |
| WO2015031486A1 (en) | 2013-08-27 | 2015-03-05 | Persais, Llc | System and method for virtual assistants with shared capabilities and agent store |
| US9729592B2 (en) | 2013-08-27 | 2017-08-08 | Persais, Llc | System and method for distributed virtual assistant platforms |
| CN104423780B (zh) | 2013-08-27 | 2020-07-14 | 北京三星通信技术研究有限公司 | 一种终端设备及其应用程序的关联显示方法 |
| CN104427104B (zh) | 2013-08-28 | 2018-02-27 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
| KR102147935B1 (ko) | 2013-08-29 | 2020-08-25 | 삼성전자주식회사 | 데이터 처리 방법 및 그 전자 장치 |
| MY175230A (en) | 2013-08-29 | 2020-06-16 | Panasonic Ip Corp America | Device control method, display control method, and purchase payment method |
| US10127224B2 (en) | 2013-08-30 | 2018-11-13 | Intel Corporation | Extensible context-aware natural language interactions for virtual personal assistants |
| US20150066506A1 (en) | 2013-08-30 | 2015-03-05 | Verint Systems Ltd. | System and Method of Text Zoning |
| US10867597B2 (en) | 2013-09-02 | 2020-12-15 | Microsoft Technology Licensing, Llc | Assignment of semantic labels to a sequence of words using neural network architectures |
| US10001817B2 (en) | 2013-09-03 | 2018-06-19 | Apple Inc. | User interface for manipulating user interface objects with magnetic properties |
| US9633669B2 (en) | 2013-09-03 | 2017-04-25 | Amazon Technologies, Inc. | Smart circular audio buffer |
| US9316400B2 (en) | 2013-09-03 | 2016-04-19 | Panasonic Intellctual Property Corporation of America | Appliance control method, speech-based appliance control system, and cooking appliance |
| CN110908441B (zh) | 2013-09-03 | 2024-02-02 | 苹果公司 | 用于可穿戴电子设备的表冠输入 |
| KR102065409B1 (ko) | 2013-09-04 | 2020-01-13 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
| WO2015033152A2 (en) | 2013-09-04 | 2015-03-12 | Zero360, Inc. | Wearable device |
| GB2517952B (en) | 2013-09-05 | 2017-05-31 | Barclays Bank Plc | Biometric verification using predicted signatures |
| US9208779B2 (en) | 2013-09-06 | 2015-12-08 | Google Inc. | Mixture of n-gram language models |
| JP6295554B2 (ja) | 2013-09-06 | 2018-03-20 | 株式会社リコー | プログラム、情報処理装置 |
| US9460704B2 (en) | 2013-09-06 | 2016-10-04 | Google Inc. | Deep networks for unit selection speech synthesis |
| US9898642B2 (en) | 2013-09-09 | 2018-02-20 | Apple Inc. | Device, method, and graphical user interface for manipulating user interfaces based on fingerprint sensor inputs |
| US20150140934A1 (en) | 2013-09-10 | 2015-05-21 | Playtabase, LLC | Wireless motion activated user device with bi-modality communication |
| US20150074524A1 (en) | 2013-09-10 | 2015-03-12 | Lenovo (Singapore) Pte. Ltd. | Management of virtual assistant action items |
| US9485708B2 (en) | 2013-09-10 | 2016-11-01 | Qualcomm Incorporated | Systems and methods for concurrent service discovery and minimum spanning tree formation for service delivery |
| CN104700832B (zh) | 2013-12-09 | 2018-05-25 | 联发科技股份有限公司 | 语音关键字检测系统及方法 |
| US9343068B2 (en) | 2013-09-16 | 2016-05-17 | Qualcomm Incorporated | Method and apparatus for controlling access to applications having different security levels |
| US9600228B2 (en) | 2013-09-16 | 2017-03-21 | Here Global B.V. | Enhanced system and method for static query generation and entry |
| US9240182B2 (en) | 2013-09-17 | 2016-01-19 | Qualcomm Incorporated | Method and apparatus for adjusting detection threshold for activating voice assistant function |
| US9755605B1 (en) | 2013-09-19 | 2017-09-05 | Amazon Technologies, Inc. | Volume control |
| JP2015060423A (ja) | 2013-09-19 | 2015-03-30 | 株式会社東芝 | 音声翻訳装置、音声翻訳方法およびプログラム |
| JP2016531375A (ja) | 2013-09-20 | 2016-10-06 | アマゾン テクノロジーズ インコーポレイテッド | ローカルとリモートのスピーチ処理 |
| CN104463552B (zh) | 2013-09-22 | 2018-10-02 | 中国电信股份有限公司 | 日历提醒生成方法和装置 |
| US20150088511A1 (en) | 2013-09-24 | 2015-03-26 | Verizon Patent And Licensing Inc. | Named-entity based speech recognition |
| US9418650B2 (en) | 2013-09-25 | 2016-08-16 | Verizon Patent And Licensing Inc. | Training speech recognition using captions |
| US10134395B2 (en) | 2013-09-25 | 2018-11-20 | Amazon Technologies, Inc. | In-call virtual assistants |
| US9401881B2 (en) | 2013-09-26 | 2016-07-26 | International Business Machines Corporation | Automatic question generation and answering based on monitored messaging sessions |
| US9443527B1 (en) | 2013-09-27 | 2016-09-13 | Amazon Technologies, Inc. | Speech recognition capability generation and control |
| US20150092520A1 (en) | 2013-09-27 | 2015-04-02 | Google Inc. | Adaptive Trigger Point For Smartwatch Gesture-to-Wake |
| CN104516522B (zh) | 2013-09-29 | 2018-05-01 | 北京三星通信技术研究有限公司 | 九宫格键盘输入的方法和装置 |
| US9344755B2 (en) | 2013-09-30 | 2016-05-17 | Sonos, Inc. | Fast-resume audio playback |
| US20150095278A1 (en) | 2013-09-30 | 2015-04-02 | Manyworlds, Inc. | Adaptive Probabilistic Semantic System and Method |
| US20150095031A1 (en) | 2013-09-30 | 2015-04-02 | At&T Intellectual Property I, L.P. | System and method for crowdsourcing of word pronunciation verification |
| KR101772044B1 (ko) | 2013-10-02 | 2017-08-28 | 에스케이테크엑스 주식회사 | 거절메시지 전송 시스템 및 방법, 그리고 이를 위한 장치 및 컴퓨터 프로그램이 기록된 기록매체 |
| US20150095268A1 (en) | 2013-10-02 | 2015-04-02 | Apple Inc. | Intelligent multi-user task planning |
| US20150100537A1 (en) | 2013-10-03 | 2015-04-09 | Microsoft Corporation | Emoji for Text Predictions |
| US20150100983A1 (en) | 2013-10-06 | 2015-04-09 | Yang Pan | Personal Mobile Device as Ad hoc Set-Top Box for Television |
| US9436918B2 (en) | 2013-10-07 | 2016-09-06 | Microsoft Technology Licensing, Llc | Smart selection of text spans |
| KR101480474B1 (ko) | 2013-10-08 | 2015-01-09 | 엘지전자 주식회사 | 오디오 재생장치와 이를 포함하는 시스템 |
| EP3055786A4 (en) | 2013-10-09 | 2017-05-17 | Google, Inc. | Automatic definition of entity collections |
| US20150100313A1 (en) | 2013-10-09 | 2015-04-09 | Verizon Patent And Licensing, Inc. | Personification of computing devices for remote access |
| KR101506510B1 (ko) | 2013-10-10 | 2015-03-30 | 송철호 | 음성인식 홈 네트워크 시스템 |
| KR102114219B1 (ko) | 2013-10-10 | 2020-05-25 | 삼성전자주식회사 | 오디오 시스템 및 오디오 출력 방법, 그리고 스피커 장치 |
| US10834546B2 (en) | 2013-10-14 | 2020-11-10 | Oath Inc. | Systems and methods for providing context-based user interface |
| US8996639B1 (en) | 2013-10-15 | 2015-03-31 | Google Inc. | Predictive responses to incoming communications |
| US9063640B2 (en) | 2013-10-17 | 2015-06-23 | Spotify Ab | System and method for switching between media items in a plurality of sequences of media items |
| US9461945B2 (en) | 2013-10-18 | 2016-10-04 | Jeffrey P. Phillips | Automated messaging response |
| US9143907B1 (en) | 2013-10-21 | 2015-09-22 | West Corporation | Providing data messaging support by intercepting and redirecting received short message service (SMS) messages |
| JP6280342B2 (ja) | 2013-10-22 | 2018-02-14 | 株式会社Ｎｔｔドコモ | 機能実行指示システム及び機能実行指示方法 |
| US20150120723A1 (en) | 2013-10-24 | 2015-04-30 | Xerox Corporation | Methods and systems for processing speech queries |
| JP2015083938A (ja) | 2013-10-25 | 2015-04-30 | 三菱電機株式会社 | ナビゲーションシステム |
| US10346753B2 (en) | 2013-10-28 | 2019-07-09 | Nant Holdings Ip, Llc | Intent engines, systems and method |
| US20150120296A1 (en) | 2013-10-29 | 2015-04-30 | At&T Intellectual Property I, L.P. | System and method for selecting network-based versus embedded speech processing |
| US10055681B2 (en) | 2013-10-31 | 2018-08-21 | Verint Americas Inc. | Mapping actions and objects to tasks |
| US20150123898A1 (en) | 2013-10-31 | 2015-05-07 | Lg Electronics Inc. | Digital device and control method thereof |
| US9942396B2 (en) | 2013-11-01 | 2018-04-10 | Adobe Systems Incorporated | Document distribution and interaction |
| US9183830B2 (en) | 2013-11-01 | 2015-11-10 | Google Inc. | Method and system for non-parametric voice conversion |
| US10019985B2 (en) | 2013-11-04 | 2018-07-10 | Google Llc | Asynchronous optimization for sequence training of neural networks |
| FR3012895B1 (fr) | 2013-11-05 | 2015-12-25 | Commissariat Energie Atomique | Procede et programme d'ordinateur pour l'execution deportee de taches informatiques d'un equipement sans fil |
| US9600474B2 (en) | 2013-11-08 | 2017-03-21 | Google Inc. | User interface for realtime language translation |
| US10088973B2 (en) | 2013-11-08 | 2018-10-02 | Google Llc | Event scheduling presentation in a graphical user interface environment |
| US9547644B2 (en) | 2013-11-08 | 2017-01-17 | Google Inc. | Presenting translations of text depicted in images |
| US10311482B2 (en) | 2013-11-11 | 2019-06-04 | At&T Intellectual Property I, Lp | Method and apparatus for adjusting a digital assistant persona |
| JP6493866B2 (ja) | 2013-11-12 | 2019-04-03 | インターナショナル・ビジネス・マシーンズ・コーポレーションＩｎｔｅｒｎａｔｉｏｎａｌ Ｂｕｓｉｎｅｓｓ Ｍａｃｈｉｎｅｓ Ｃｏｒｐｏｒａｔｉｏｎ | 情報処理装置、情報処理方法、およびプログラム |
| US10430024B2 (en) | 2013-11-13 | 2019-10-01 | Microsoft Technology Licensing, Llc | Media item selection using user-specific grammar |
| GB2520266A (en) | 2013-11-13 | 2015-05-20 | Ibm | Cursor-Based Character input interface |
| US9361084B1 (en) | 2013-11-14 | 2016-06-07 | Google Inc. | Methods and systems for installing and executing applications |
| US9898554B2 (en) | 2013-11-18 | 2018-02-20 | Google Inc. | Implicit question query identification |
| US9443522B2 (en) | 2013-11-18 | 2016-09-13 | Beijing Lenovo Software Ltd. | Voice recognition method, voice controlling method, information processing method, and electronic apparatus |
| US10110932B2 (en) | 2013-11-18 | 2018-10-23 | Cable Television Laboratories, Inc. | Session administration |
| US10058777B2 (en) | 2013-11-21 | 2018-08-28 | Tencent Technology (Shenzhen) Company Limited | Task execution method, apparatus and system |
| US10162813B2 (en) | 2013-11-21 | 2018-12-25 | Microsoft Technology Licensing, Llc | Dialogue evaluation via multiple hypothesis ranking |
| CN103792965B (zh) | 2013-11-22 | 2015-12-09 | 大连日佳电子有限公司 | 智能焊膏准备终端 |
| US10079013B2 (en) | 2013-11-27 | 2018-09-18 | Sri International | Sharing intents to provide virtual assistance in a multi-person dialog |
| US9451434B2 (en) | 2013-11-27 | 2016-09-20 | At&T Intellectual Property I, L.P. | Direct interaction between a user and a communication network |
| US20150149354A1 (en) | 2013-11-27 | 2015-05-28 | Bank Of America Corporation | Real-Time Data Recognition and User Interface Field Updating During Voice Entry |
| US9698999B2 (en) | 2013-12-02 | 2017-07-04 | Amazon Technologies, Inc. | Natural language control of secondary device |
| US9110635B2 (en) | 2013-12-03 | 2015-08-18 | Lenova (Singapore) Pte. Ltd. | Initiating personal assistant application based on eye tracking and gestures |
| US8719039B1 (en) | 2013-12-05 | 2014-05-06 | Google Inc. | Promoting voice actions to hotwords |
| CA2932273C (en) | 2013-12-06 | 2022-08-30 | Adt Us Holdings, Inc. | Voice activated application for mobile devices |
| CN103645876B (zh) | 2013-12-06 | 2017-01-18 | 百度在线网络技术（北京）有限公司 | 语音输入方法和装置 |
| US10296160B2 (en) | 2013-12-06 | 2019-05-21 | Apple Inc. | Method for extracting salient dialog usage from live data |
| US9215510B2 (en) | 2013-12-06 | 2015-12-15 | Rovi Guides, Inc. | Systems and methods for automatically tagging a media asset based on verbal input and playback adjustments |
| US20150162000A1 (en) | 2013-12-10 | 2015-06-11 | Harman International Industries, Incorporated | Context aware, proactive digital assistant |
| US20150162001A1 (en) | 2013-12-10 | 2015-06-11 | Honeywell International Inc. | System and method for textually and graphically presenting air traffic control voice information |
| US20150160855A1 (en) | 2013-12-10 | 2015-06-11 | Google Inc. | Multiple character input with a single selection |
| GB201321927D0 (en) | 2013-12-11 | 2014-01-22 | Touchtype Ltd | System and method for inputting text into electronic devices |
| US9900177B2 (en) | 2013-12-11 | 2018-02-20 | Echostar Technologies International Corporation | Maintaining up-to-date home automation models |
| US9696886B2 (en) | 2013-12-12 | 2017-07-04 | Google Technology Holdings LLC | Systems and methods for communicating task reminders on portable electronic devices |
| US9208153B1 (en) | 2013-12-13 | 2015-12-08 | Symantec Corporation | Filtering relevant event notifications in a file sharing and collaboration environment |
| US20170017501A1 (en) | 2013-12-16 | 2017-01-19 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
| US9571645B2 (en) | 2013-12-16 | 2017-02-14 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
| US9804820B2 (en) | 2013-12-16 | 2017-10-31 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
| US9251492B2 (en) | 2013-12-16 | 2016-02-02 | Nuiku, Inc. | Customized-enterprise-software integration systems and methods |
| US9479931B2 (en) | 2013-12-16 | 2016-10-25 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
| EP3063646A4 (en) | 2013-12-16 | 2017-06-21 | Nuance Communications, Inc. | Systems and methods for providing a virtual assistant |
| US9711135B2 (en) | 2013-12-17 | 2017-07-18 | Sony Corporation | Electronic devices and methods for compensating for environmental noise in text-to-speech applications |
| US9721570B1 (en) | 2013-12-17 | 2017-08-01 | Amazon Technologies, Inc. | Outcome-oriented dialogs on a speech recognition platform |
| GB2523984B (en) | 2013-12-18 | 2017-07-26 | Cirrus Logic Int Semiconductor Ltd | Processing received speech data |
| US10565268B2 (en) | 2013-12-19 | 2020-02-18 | Adobe Inc. | Interactive communication augmented with contextual information |
| US9741343B1 (en) | 2013-12-19 | 2017-08-22 | Amazon Technologies, Inc. | Voice interaction application selection |
| CN105723451B (zh) | 2013-12-20 | 2020-02-28 | 英特尔公司 | 从低功率始终侦听模式到高功率语音识别模式的转换 |
| US10811013B1 (en) | 2013-12-20 | 2020-10-20 | Amazon Technologies, Inc. | Intent-specific automatic speech recognition result generation |
| KR102179506B1 (ko) | 2013-12-23 | 2020-11-17 | 삼성전자 주식회사 | 전자장치 및 그 제어방법 |
| CN203721183U (zh) | 2013-12-25 | 2014-07-16 | 安徽科大讯飞信息科技股份有限公司 | 一种语音唤醒装置 |
| WO2015100172A1 (en) | 2013-12-27 | 2015-07-02 | Kopin Corporation | Text editing with gesture control and natural speech |
| KR102092164B1 (ko) | 2013-12-27 | 2020-03-23 | 삼성전자주식회사 | 디스플레이 장치, 서버 장치 및 이들을 포함하는 디스플레이 시스템과 그 컨텐츠 제공 방법들 |
| JP6121896B2 (ja) | 2013-12-27 | 2017-04-26 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置および情報処理システム |
| JP2015127758A (ja) | 2013-12-27 | 2015-07-09 | シャープ株式会社 | 応答制御装置、制御プログラム |
| US9460735B2 (en) | 2013-12-28 | 2016-10-04 | Intel Corporation | Intelligent ancillary electronic device |
| US10078489B2 (en) | 2013-12-30 | 2018-09-18 | Microsoft Technology Licensing, Llc | Voice interface to a social networking service |
| US9390726B1 (en) | 2013-12-30 | 2016-07-12 | Google Inc. | Supplementing speech commands with gestures |
| US20150278737A1 (en) | 2013-12-30 | 2015-10-01 | Google Inc. | Automatic Calendar Event Generation with Structured Data from Free-Form Speech |
| US9471875B2 (en) | 2013-12-31 | 2016-10-18 | International Business Machines Corporation | Using ontologies to comprehend regular expressions |
| US9274673B2 (en) | 2013-12-31 | 2016-03-01 | Google Inc. | Methods, systems, and media for rewinding media content based on detected audio events |
| US9304657B2 (en) | 2013-12-31 | 2016-04-05 | Abbyy Development Llc | Audio tagging |
| US9830044B2 (en) | 2013-12-31 | 2017-11-28 | Next It Corporation | Virtual assistant team customization |
| US9152307B2 (en) | 2013-12-31 | 2015-10-06 | Google Inc. | Systems and methods for simultaneously displaying clustered, in-line electronic messages in one display |
| US9424241B2 (en) | 2013-12-31 | 2016-08-23 | Barnes & Noble College Booksellers, Llc | Annotation mode including multiple note types for paginated digital content |
| US9742836B2 (en) | 2014-01-03 | 2017-08-22 | Yahoo Holdings, Inc. | Systems and methods for content delivery |
| JP6318621B2 (ja) | 2014-01-06 | 2018-05-09 | 株式会社デンソー | 音声処理装置、音声処理システム、音声処理方法、音声処理プログラム |
| US20150193379A1 (en) | 2014-01-06 | 2015-07-09 | Apple Inc. | System and method for cognizant time-based reminders |
| US9037455B1 (en) | 2014-01-08 | 2015-05-19 | Google Inc. | Limiting notification interruptions |
| US9924215B2 (en) | 2014-01-09 | 2018-03-20 | Hsni, Llc | Digital media content management system and method |
| US9443516B2 (en) | 2014-01-09 | 2016-09-13 | Honeywell International Inc. | Far-field speech recognition systems and methods |
| US8938394B1 (en) | 2014-01-09 | 2015-01-20 | Google Inc. | Audio triggers based on context |
| US20150201077A1 (en) | 2014-01-12 | 2015-07-16 | Genesys Telecommunications Laboratories, Inc. | Computing suggested actions in caller agent phone calls by using real-time speech analytics and real-time desktop analytics |
| US10360907B2 (en) | 2014-01-14 | 2019-07-23 | Toyota Motor Engineering & Manufacturing North America, Inc. | Smart necklace with stereo vision and onboard processing |
| US9514748B2 (en) | 2014-01-15 | 2016-12-06 | Microsoft Technology Licensing, Llc | Digital personal assistant interaction with impersonations and rich multimedia in responses |
| US8868409B1 (en) | 2014-01-16 | 2014-10-21 | Google Inc. | Evaluating transcriptions with a semantic parser |
| US20150199965A1 (en) | 2014-01-16 | 2015-07-16 | CloudCar Inc. | System and method for recognition and automatic correction of voice commands |
| US9336300B2 (en) | 2014-01-17 | 2016-05-10 | Facebook, Inc. | Client-side search templates for online social networks |
| CN104794122B (zh) | 2014-01-20 | 2020-04-17 | 腾讯科技（北京）有限公司 | 一种位置信息推荐方法、装置和系统 |
| KR102210433B1 (ko) | 2014-01-21 | 2021-02-01 | 삼성전자주식회사 | 전자 장치 및 이의 음성 인식 방법 |
| DE112014006235T5 (de) | 2014-01-22 | 2016-10-13 | Apple Inc. | Koordiniertes Weiterreichen einer Audiodatenübermittlung |
| CN103744761B (zh) | 2014-01-22 | 2017-02-08 | 广东欧珀移动通信有限公司 | 一种控制多台移动终端自动执行任务的方法及系统 |
| EP3097458B1 (en) | 2014-01-22 | 2019-07-24 | Sony Corporation | Directing audio output based on gestures |
| CN103760984A (zh) | 2014-01-24 | 2014-04-30 | 成都万先自动化科技有限责任公司 | 人机对话系统 |
| US9858039B2 (en) | 2014-01-28 | 2018-01-02 | Oracle International Corporation | Voice recognition of commands extracted from user interface screen devices |
| US11386886B2 (en) | 2014-01-28 | 2022-07-12 | Lenovo (Singapore) Pte. Ltd. | Adjusting speech recognition using contextual information |
| JP6296813B2 (ja) | 2014-01-30 | 2018-03-20 | キヤノン株式会社 | 情報処理端末、情報処理端末の制御方法およびプログラム |
| US10019060B2 (en) | 2014-01-30 | 2018-07-10 | Duane Matthew Cash | Mind-controlled virtual assistant on a smartphone device |
| US10096040B2 (en) | 2014-01-31 | 2018-10-09 | Walmart Apollo, Llc | Management of the display of online ad content consistent with one or more performance objectives for a webpage and/or website |
| US10978060B2 (en) | 2014-01-31 | 2021-04-13 | Hewlett-Packard Development Company, L.P. | Voice input command |
| US20160173960A1 (en) | 2014-01-31 | 2016-06-16 | EyeGroove, Inc. | Methods and systems for generating audiovisual media items |
| US9292488B2 (en) | 2014-02-01 | 2016-03-22 | Soundhound, Inc. | Method for embedding voice mail in a spoken utterance using a natural language processing computer system |
| US10028008B2 (en) | 2014-02-04 | 2018-07-17 | Google Llc | Persistent media player |
| US10157272B2 (en) | 2014-02-04 | 2018-12-18 | Qualcomm Incorporated | Systems and methods for evaluating strength of an audio password |
| US10050926B2 (en) | 2014-02-05 | 2018-08-14 | Facebook, Inc. | Ideograms based on sentiment analysis |
| JP2015149568A (ja) | 2014-02-05 | 2015-08-20 | キヤノン株式会社 | 画像形成装置、その制御方法およびプログラム |
| KR20150092996A (ko) | 2014-02-06 | 2015-08-17 | 삼성전자주식회사 | 디스플레이 장치 및 이를 이용한 전자 장치의 제어 방법 |
| CN105981099A (zh) | 2014-02-06 | 2016-09-28 | 三菱电机株式会社 | 语音检索装置和语音检索方法 |
| US20150334346A1 (en) | 2014-05-16 | 2015-11-19 | Elwha Llc | Systems and methods for automatically connecting a user of a hands-free intercommunication system |
| US20150228281A1 (en) | 2014-02-07 | 2015-08-13 | First Principles,Inc. | Device, system, and method for active listening |
| US9837075B2 (en) | 2014-02-10 | 2017-12-05 | Mitsubishi Electric Research Laboratories, Inc. | Statistical voice dialog system and method |
| US9576588B2 (en) | 2014-02-10 | 2017-02-21 | Apple Inc. | Close-talk detector for personal listening device with adaptive active noise control |
| WO2015123390A1 (en) | 2014-02-12 | 2015-08-20 | Quixey, Inc. | Query cards |
| US9037967B1 (en) | 2014-02-18 | 2015-05-19 | King Fahd University Of Petroleum And Minerals | Arabic spell checking technique |
| US9589562B2 (en) | 2014-02-21 | 2017-03-07 | Microsoft Technology Licensing, Llc | Pronunciation learning through correction logs |
| US10469428B2 (en) | 2014-02-21 | 2019-11-05 | Samsung Electronics Co., Ltd. | Apparatus and method for transmitting message |
| US10691292B2 (en) | 2014-02-24 | 2020-06-23 | Microsoft Technology Licensing, Llc | Unified presentation of contextually connected information to improve user efficiency and interaction performance |
| US20150243279A1 (en) | 2014-02-26 | 2015-08-27 | Toytalk, Inc. | Systems and methods for recommending responses |
| US9495959B2 (en) | 2014-02-27 | 2016-11-15 | Ford Global Technologies, Llc | Disambiguation of dynamic commands |
| US20150248651A1 (en) | 2014-02-28 | 2015-09-03 | Christine E. Akutagawa | Social networking event planning |
| US10389876B2 (en) | 2014-02-28 | 2019-08-20 | Ultratec, Inc. | Semiautomated relay method and apparatus |
| US10757201B2 (en) | 2014-03-01 | 2020-08-25 | Microsoft Technology Licensing, Llc | Document and content feed |
| WO2015133022A1 (ja) | 2014-03-03 | 2015-09-11 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
| US9412363B2 (en) | 2014-03-03 | 2016-08-09 | Microsoft Technology Licensing, Llc | Model based approach for on-screen item selection and disambiguation |
| US20150256873A1 (en) | 2014-03-04 | 2015-09-10 | Microsoft Technology Licensing, Llc | Relayed voice control of devices |
| US9574890B2 (en) | 2014-03-04 | 2017-02-21 | Qualcomm Incorporated | Reduced power consumption and improved user experience when navigating along familiar routes |
| US9489171B2 (en) * | 2014-03-04 | 2016-11-08 | Microsoft Technology Licensing, Llc | Voice-command suggestions based on user identity |
| US9582246B2 (en) | 2014-03-04 | 2017-02-28 | Microsoft Technology Licensing, Llc | Voice-command suggestions based on computer context |
| US10409454B2 (en) | 2014-03-05 | 2019-09-10 | Samsung Electronics Co., Ltd. | Smart watch device and user interface thereof |
| US9286910B1 (en) | 2014-03-13 | 2016-03-15 | Amazon Technologies, Inc. | System for resolving ambiguous queries based on user context |
| CN103885663A (zh) | 2014-03-14 | 2014-06-25 | 深圳市东方拓宇科技有限公司 | 一种生成和播放音乐的方法及其对应终端 |
| US9405377B2 (en) | 2014-03-15 | 2016-08-02 | Microsoft Technology Licensing, Llc | Trainable sensor-based gesture recognition |
| CN103841268A (zh) | 2014-03-17 | 2014-06-04 | 联想(北京)有限公司 | 信息处理方法和信息处理装置 |
| US9430186B2 (en) | 2014-03-17 | 2016-08-30 | Google Inc | Visual indication of a recognized voice-initiated action |
| US10102274B2 (en) | 2014-03-17 | 2018-10-16 | NLPCore LLC | Corpus search systems and methods |
| CN103885608A (zh) | 2014-03-19 | 2014-06-25 | 百度在线网络技术（北京）有限公司 | 一种输入方法及系统 |
| US9336306B2 (en) | 2014-03-21 | 2016-05-10 | International Business Machines Corporation | Automatic evaluation and improvement of ontologies for natural language processing tasks |
| US9734817B1 (en) | 2014-03-21 | 2017-08-15 | Amazon Technologies, Inc. | Text-to-speech task scheduling |
| US9966079B2 (en) | 2014-03-24 | 2018-05-08 | Lenovo (Singapore) Pte. Ltd. | Directing voice input based on eye tracking |
| US20170075653A1 (en) | 2014-03-26 | 2017-03-16 | Sony Corporation | Electronic device and method for controlling the electronic device |
| US9431021B1 (en) | 2014-03-27 | 2016-08-30 | Amazon Technologies, Inc. | Device grouping for audio based interactivity |
| US9916839B1 (en) | 2014-03-27 | 2018-03-13 | Amazon Technologies, Inc. | Shared audio functionality based on device grouping |
| US9710546B2 (en) | 2014-03-28 | 2017-07-18 | Microsoft Technology Licensing, Llc | Explicit signals personalized search |
| IN2014DE00899A (ko) | 2014-03-28 | 2015-10-02 | Samsung Electronics Co Ltd | |
| RU2014111971A (ru) | 2014-03-28 | 2015-10-10 | Юрий Михайлович Буров | Способ и система голосового интерфейса |
| WO2015153512A1 (en) * | 2014-03-29 | 2015-10-08 | Thomson Reuters Global Resources | Improved method, system and software for searching, identifying, retrieving and presenting electronic documents |
| DE112014006542B4 (de) | 2014-03-31 | 2024-02-08 | Mitsubishi Electric Corporation | Einrichtung und Verfahren zum Verständnis von einer Benutzerintention |
| US9196243B2 (en) | 2014-03-31 | 2015-11-24 | International Business Machines Corporation | Method and system for efficient spoken term detection using confusion networks |
| US20150278370A1 (en) | 2014-04-01 | 2015-10-01 | Microsoft Corporation | Task completion for natural language input |
| US9286892B2 (en) | 2014-04-01 | 2016-03-15 | Google Inc. | Language modeling in speech recognition |
| US10749989B2 (en) | 2014-04-01 | 2020-08-18 | Microsoft Technology Licensing Llc | Hybrid client/server architecture for parallel processing |
| CN103902373B (zh) | 2014-04-02 | 2017-09-29 | 百度在线网络技术（北京）有限公司 | 智能终端控制方法、服务器和智能终端 |
| US10992609B2 (en) | 2014-04-02 | 2021-04-27 | CloLa, Inc. | Text-messaging based concierge services |
| EP3127352B1 (en) | 2014-04-02 | 2020-10-28 | Sony Corporation | Power efficient proximity detection |
| US20150286627A1 (en) | 2014-04-03 | 2015-10-08 | Adobe Systems Incorporated | Contextual sentiment text analysis |
| KR20150115555A (ko) | 2014-04-04 | 2015-10-14 | 삼성전자주식회사 | 전자 장치 및 그의 정보 제공 방법 |
| US9519644B2 (en) | 2014-04-04 | 2016-12-13 | Facebook, Inc. | Methods and devices for generating media items |
| KR102249086B1 (ko) | 2014-04-04 | 2021-05-10 | 삼성전자주식회사 | 레코딩 지원 전자장치 및 방법 |
| US9383827B1 (en) | 2014-04-07 | 2016-07-05 | Google Inc. | Multi-modal command display |
| CN104978963A (zh) | 2014-04-08 | 2015-10-14 | 富士通株式会社 | 语音识别装置、方法以及电子设备 |
| JP6282516B2 (ja) | 2014-04-08 | 2018-02-21 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ | 複数機器の音声操作システム、音声操作方法及び、プログラム |
| US9542948B2 (en) | 2014-04-09 | 2017-01-10 | Google Inc. | Text-dependent speaker identification |
| US20150294516A1 (en) | 2014-04-10 | 2015-10-15 | Kuo-Ching Chiang | Electronic device with security module |
| US9888452B2 (en) | 2014-04-10 | 2018-02-06 | Twin Harbor Labs Llc | Methods and apparatus notifying a user of the operating condition of a household appliance |
| WO2015157013A1 (en) | 2014-04-11 | 2015-10-15 | Analog Devices, Inc. | Apparatus, systems and methods for providing blind source separation services |
| US20150294086A1 (en) | 2014-04-14 | 2015-10-15 | Elwha Llc | Devices, systems, and methods for automated enhanced care rooms |
| US9652453B2 (en) | 2014-04-14 | 2017-05-16 | Xerox Corporation | Estimation of parameters for machine translation without in-domain parallel data |
| CN108551675B (zh) | 2014-04-14 | 2022-04-15 | 创新先进技术有限公司 | 一种应用客户端、服务端及对应的Portal认证方法 |
| US10540979B2 (en) | 2014-04-17 | 2020-01-21 | Qualcomm Incorporated | User interface for secure access to a device using speaker verification |
| US20150302856A1 (en) | 2014-04-17 | 2015-10-22 | Qualcomm Incorporated | Method and apparatus for performing function by speech input |
| US10770075B2 (en) | 2014-04-21 | 2020-09-08 | Qualcomm Incorporated | Method and apparatus for activating application by speech input |
| US20150302316A1 (en) | 2014-04-22 | 2015-10-22 | Google Inc. | System and method for determining unwanted phone messages |
| US9607613B2 (en) | 2014-04-23 | 2017-03-28 | Google Inc. | Speech endpointing based on word comparisons |
| KR20150122561A (ko) | 2014-04-23 | 2015-11-02 | 삼성전자주식회사 | 디바이스 및 상기 디바이스에서의 착신 호출 처리 방법 |
| US20150310862A1 (en) | 2014-04-24 | 2015-10-29 | Microsoft Corporation | Deep learning for semantic parsing including semantic utterance classification |
| CN105025051A (zh) | 2014-04-24 | 2015-11-04 | 深圳市赛格导航科技股份有限公司 | 一种云端语音服务提供方法和系统 |
| US10845982B2 (en) | 2014-04-28 | 2020-11-24 | Facebook, Inc. | Providing intelligent transcriptions of sound messages in a messaging application |
| US9478247B2 (en) | 2014-04-28 | 2016-10-25 | Sonos, Inc. | Management of media content playback |
| US9520127B2 (en) | 2014-04-29 | 2016-12-13 | Microsoft Technology Licensing, Llc | Shared hidden layer combination for speech recognition systems |
| US8976063B1 (en) | 2014-04-29 | 2015-03-10 | Google Inc. | Automated detection of vehicle parking and location |
| US9600600B2 (en) | 2014-04-30 | 2017-03-21 | Excalibur Ip, Llc | Method and system for evaluating query suggestions quality |
| KR102248474B1 (ko) | 2014-04-30 | 2021-05-07 | 삼성전자 주식회사 | 음성 명령 제공 방법 및 장치 |
| US10789304B2 (en) | 2014-05-06 | 2020-09-29 | Oath Inc. | Method and system for measuring user engagement with content items |
| US9501163B2 (en) | 2014-05-06 | 2016-11-22 | Symbol Technologies, Llc | Apparatus and method for activating a trigger mechanism |
| KR102282487B1 (ko) | 2014-05-08 | 2021-07-26 | 삼성전자주식회사 | 애플리케이션 실행 장치 및 방법 |
| US9620105B2 (en) | 2014-05-15 | 2017-04-11 | Apple Inc. | Analyzing audio input for efficient speech and music recognition |
| US9459889B2 (en) | 2014-05-19 | 2016-10-04 | Qualcomm Incorporated | Systems and methods for context-aware application control |
| US10726831B2 (en) | 2014-05-20 | 2020-07-28 | Amazon Technologies, Inc. | Context interpretation in natural language processing using previous dialog acts |
| KR102216048B1 (ko) | 2014-05-20 | 2021-02-15 | 삼성전자주식회사 | 음성 명령 인식 장치 및 방법 |
| US10417554B2 (en) | 2014-05-22 | 2019-09-17 | Lee J. Scheffler | Methods and systems for neural and cognitive processing |
| KR102223278B1 (ko) | 2014-05-22 | 2021-03-05 | 엘지전자 주식회사 | 글래스 타입 단말기 및 이의 제어방법 |
| US9990433B2 (en) | 2014-05-23 | 2018-06-05 | Samsung Electronics Co., Ltd. | Method for searching and device thereof |
| US10592095B2 (en) | 2014-05-23 | 2020-03-17 | Apple Inc. | Instantaneous speaking of content on touch devices |
| KR102329420B1 (ko) | 2014-05-23 | 2021-11-22 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
| US9502031B2 (en) | 2014-05-27 | 2016-11-22 | Apple Inc. | Method for supporting dynamic grammars in WFST-based ASR |
| US9437189B2 (en) | 2014-05-29 | 2016-09-06 | Google Inc. | Generating language models |
| US10170123B2 (en) | 2014-05-30 | 2019-01-01 | Apple Inc. | Intelligent assistant for home automation |
| US10033818B2 (en) | 2014-05-30 | 2018-07-24 | Apple Inc. | Using listen ranges to deliver content to electronic devices from local caching servers |
| TWI520007B (zh) | 2014-05-30 | 2016-02-01 | 由田新技股份有限公司 | 眼控密碼輸入設備、方法、電腦可讀取紀錄媒體及電腦程式產品 |
| WO2015183699A1 (en) | 2014-05-30 | 2015-12-03 | Apple Inc. | Predictive messaging method |
| US10078631B2 (en) | 2014-05-30 | 2018-09-18 | Apple Inc. | Entropy-guided text prediction using combined word and character n-gram language models |
| US9715875B2 (en) | 2014-05-30 | 2017-07-25 | Apple Inc. | Reducing the need for manual start/end-pointing and trigger phrases |
| US9760559B2 (en) | 2014-05-30 | 2017-09-12 | Apple Inc. | Predictive text input |
| US9842101B2 (en) | 2014-05-30 | 2017-12-12 | Apple Inc. | Predictive conversion of language input |
| US9734193B2 (en) | 2014-05-30 | 2017-08-15 | Apple Inc. | Determining domain salience ranking from ambiguous words in natural speech |
| US10237711B2 (en) | 2014-05-30 | 2019-03-19 | Apple Inc. | Dynamic types for activity continuation between electronic devices |
| US9380123B2 (en) | 2014-05-30 | 2016-06-28 | Apple Inc. | Activity continuation between electronic devices |
| US10387451B2 (en) | 2014-05-30 | 2019-08-20 | Apple Inc. | Synchronization system for multiple client devices |
| US9990129B2 (en) | 2014-05-30 | 2018-06-05 | Apple Inc. | Continuity of application across devices |
| US11088807B2 (en) | 2014-05-30 | 2021-08-10 | Apple Inc. | Application-level acknowledgements |
| US9430463B2 (en) | 2014-05-30 | 2016-08-30 | Apple Inc. | Exemplar-based natural language processing |
| US9519634B2 (en) | 2014-05-30 | 2016-12-13 | Educational Testing Service | Systems and methods for determining lexical associations among words in a corpus |
| US10289433B2 (en) | 2014-05-30 | 2019-05-14 | Apple Inc. | Domain specific language for encoding assistant dialog |
| US9966065B2 (en) | 2014-05-30 | 2018-05-08 | Apple Inc. | Multi-command single utterance input method |
| US10579212B2 (en) | 2014-05-30 | 2020-03-03 | Apple Inc. | Structured suggestions |
| US9633004B2 (en) | 2014-05-30 | 2017-04-25 | Apple Inc. | Better resolution when referencing to concepts |
| US9785630B2 (en) | 2014-05-30 | 2017-10-10 | Apple Inc. | Text prediction using combined word N-gram and unigram language models |
| WO2015184387A1 (en) | 2014-05-30 | 2015-12-03 | Apple Inc. | Accessory management system using environment model |
| US9887949B2 (en) | 2014-05-31 | 2018-02-06 | Apple Inc. | Displaying interactive notifications on touch sensitive devices |
| US10318016B2 (en) | 2014-06-03 | 2019-06-11 | Harman International Industries, Incorporated | Hands free device with directional interface |
| GB2526805A (en) | 2014-06-03 | 2015-12-09 | Nokia Technologies Oy | Methods, apparatuses and computer programs for adapting content |
| US9363254B2 (en) | 2014-06-04 | 2016-06-07 | Sonos, Inc. | Cloud queue access control |
| US8995972B1 (en) | 2014-06-05 | 2015-03-31 | Grandios Technologies, Llc | Automatic personal assistance between users devices |
| JP6307356B2 (ja) | 2014-06-06 | 2018-04-04 | 株式会社デンソー | 運転コンテキスト情報生成装置 |
| CN107113222B (zh) | 2014-06-06 | 2020-09-01 | 谷歌有限责任公司 | 基于环境的主动聊天信息系统 |
| US10325205B2 (en) | 2014-06-09 | 2019-06-18 | Cognitive Scale, Inc. | Cognitive information processing system environment |
| CN104380254B (zh) | 2014-06-11 | 2017-09-22 | 华为技术有限公司 | 快速启动应用服务的方法和终端 |
| US10127901B2 (en) | 2014-06-13 | 2018-11-13 | Microsoft Technology Licensing, Llc | Hyper-structure recurrent neural networks for text-to-speech |
| US20150364140A1 (en) | 2014-06-13 | 2015-12-17 | Sony Corporation | Portable Electronic Equipment and Method of Operating a User Interface |
| CN104090652B (zh) | 2014-06-13 | 2017-07-21 | 北京搜狗科技发展有限公司 | 一种语音输入方法和装置 |
| US10250538B2 (en) | 2014-06-14 | 2019-04-02 | Trisha N. Prabhu | Detecting messages with offensive content |
| KR20150144668A (ko) | 2014-06-17 | 2015-12-28 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
| US20150370787A1 (en) | 2014-06-18 | 2015-12-24 | Microsoft Corporation | Session Context Modeling For Conversational Understanding Systems |
| CH709795B1 (fr) | 2014-06-18 | 2021-02-26 | Katia Sa | Procédé et système de filtrage d'appels téléphoniques entrants indésirables. |
| US9390706B2 (en) | 2014-06-19 | 2016-07-12 | Mattersight Corporation | Personality-based intelligent personal assistant system and methods |
| US9462112B2 (en) | 2014-06-19 | 2016-10-04 | Microsoft Technology Licensing, Llc | Use of a digital assistant in communications |
| US10186282B2 (en) | 2014-06-19 | 2019-01-22 | Apple Inc. | Robust end-pointing of speech signals using speaker recognition |
| CN104036774B (zh) | 2014-06-20 | 2018-03-06 | 国家计算机网络与信息安全管理中心 | 藏语方言识别方法及系统 |
| US10783166B2 (en) | 2014-06-24 | 2020-09-22 | Google Llc | List accumulation and reminder triggering |
| US9632748B2 (en) | 2014-06-24 | 2017-04-25 | Google Inc. | Device designation for audio input monitoring |
| US20150371529A1 (en) | 2014-06-24 | 2015-12-24 | Bose Corporation | Audio Systems and Related Methods and Devices |
| US9384738B2 (en) | 2014-06-24 | 2016-07-05 | Google Inc. | Dynamic threshold for speaker verification |
| US9807559B2 (en) | 2014-06-25 | 2017-10-31 | Microsoft Technology Licensing, Llc | Leveraging user signals for improved interactions with digital personal assistant |
| US20150379118A1 (en) | 2014-06-27 | 2015-12-31 | United Video Properties, Inc. | Methods and systems for generating playlists based on activities being performed by a user |
| US10402453B2 (en) | 2014-06-27 | 2019-09-03 | Nuance Communications, Inc. | Utilizing large-scale knowledge graphs to support inference at scale and explanation generation |
| US20150381923A1 (en) | 2014-06-27 | 2015-12-31 | United Video Properties, Inc. | Methods and systems for adjusting a play length of a media asset based user actions |
| US9338493B2 (en) | 2014-06-30 | 2016-05-10 | Apple Inc. | Intelligent automated assistant for TV user interactions |
| KR102261552B1 (ko) | 2014-06-30 | 2021-06-07 | 삼성전자주식회사 | 음성 명령어 제공 방법 및 이를 지원하는 전자 장치 |
| US10659851B2 (en) | 2014-06-30 | 2020-05-19 | Apple Inc. | Real-time digital assistant knowledge updates |
| US20160005320A1 (en) | 2014-07-02 | 2016-01-07 | Christopher deCharms | Technologies for brain exercise training |
| US11330100B2 (en) | 2014-07-09 | 2022-05-10 | Ooma, Inc. | Server based intelligent personal assistant services |
| US20160012038A1 (en) | 2014-07-10 | 2016-01-14 | International Business Machines Corporation | Semantic typing with n-gram analysis |
| US10321204B2 (en) | 2014-07-11 | 2019-06-11 | Lenovo (Singapore) Pte. Ltd. | Intelligent closed captioning |
| US10506273B2 (en) | 2014-07-15 | 2019-12-10 | Verizon Patent And Licensing Inc. | Using a media client device to present media content from a mobile device |
| US9665248B2 (en) | 2014-07-15 | 2017-05-30 | Google Inc. | Adaptive background playback behavior |
| KR20160009344A (ko) | 2014-07-16 | 2016-01-26 | 삼성전자주식회사 | 귓속말 인식 방법 및 장치 |
| CN104113471B (zh) | 2014-07-18 | 2018-06-05 | 广州三星通信技术研究有限公司 | 通讯连接异常时的信息处理方法和装置 |
| WO2016010857A1 (en) | 2014-07-18 | 2016-01-21 | Apple Inc. | Raise gesture detection in a device |
| US9257120B1 (en) | 2014-07-18 | 2016-02-09 | Google Inc. | Speaker verification using co-location information |
| US9560402B2 (en) | 2014-07-23 | 2017-01-31 | Highlands Technologies Solutions | Methods for displaying personalized messages, images and the like at event centers including cinema |
| US9301256B2 (en) | 2014-07-24 | 2016-03-29 | Verizon Patent And Licensing Inc. | Low battery indication for callers to mobile device |
| US20160028666A1 (en) | 2014-07-24 | 2016-01-28 | Framy Inc. | System and method for instant messaging |
| US20160086116A1 (en) | 2014-07-27 | 2016-03-24 | Supriya Rao | Method and system of an automatically managed calendar and contextual task list |
| US9325842B1 (en) | 2014-07-28 | 2016-04-26 | Google Inc. | Systems and methods for associating a string with a content item |
| US10178229B2 (en) | 2014-07-29 | 2019-01-08 | United Efficiency, Inc. | System for limiting mobile phone distraction in motor vehicles and / or within fixed locations |
| EP3410253A1 (en) | 2014-07-31 | 2018-12-05 | Samsung Electronics Co., Ltd. | Mobile communication device using a plurality of wearable devices in parallel |
| US20160034811A1 (en) | 2014-07-31 | 2016-02-04 | Apple Inc. | Efficient generation of complementary acoustic models for performing automatic speech recognition system combination |
| WO2016017997A1 (en) | 2014-07-31 | 2016-02-04 | Samsung Electronics Co., Ltd. | Wearable glasses and method of providing content using the same |
| CN104123191A (zh) | 2014-07-31 | 2014-10-29 | 北京智谷睿拓技术服务有限公司 | 任务迁移控制方法、装置和系统 |
| US9377871B2 (en) | 2014-08-01 | 2016-06-28 | Nuance Communications, Inc. | System and methods for determining keyboard input in the presence of multiple contact points |
| US9898175B2 (en) | 2014-08-05 | 2018-02-20 | Fibar Group S.A. | Home network manager for home automation |
| US9874997B2 (en) | 2014-08-08 | 2018-01-23 | Sonos, Inc. | Social playback queues |
| US9767794B2 (en) | 2014-08-11 | 2017-09-19 | Nuance Communications, Inc. | Dialog flow management in hierarchical task dialogs |
| US9548066B2 (en) | 2014-08-11 | 2017-01-17 | Amazon Technologies, Inc. | Voice application architecture |
| US9361442B2 (en) | 2014-08-12 | 2016-06-07 | International Business Machines Corporation | Triggering actions on a user device based on biometrics of nearby individuals |
| US9838999B2 (en) | 2014-08-14 | 2017-12-05 | Blackberry Limited | Portable electronic device and method of controlling notifications |
| US10243891B2 (en) | 2014-08-14 | 2019-03-26 | Oath Inc. | Cross-device integration system and method |
| JP6044604B2 (ja) | 2014-08-18 | 2016-12-14 | カシオ計算機株式会社 | 端末装置、およびプログラム |
| WO2016028793A1 (en) | 2014-08-18 | 2016-02-25 | Interdigital Patent Holdings, Inc. | Injecting streaming media into a playlist |
| US10345767B2 (en) | 2014-08-19 | 2019-07-09 | Samsung Electronics Co., Ltd. | Apparatus and method for gamification of sensor data interpretation in smart home |
| KR20160023089A (ko) | 2014-08-21 | 2016-03-03 | 엘지전자 주식회사 | 디지털 디바이스 및 그 제어 방법 |
| US20160055240A1 (en) | 2014-08-22 | 2016-02-25 | Microsoft Corporation | Orphaned utterance detection system and method |
| WO2016032806A1 (en) | 2014-08-26 | 2016-03-03 | Apple Inc. | User interface for limiting notifications and alerts |
| CN105472587A (zh) | 2014-08-26 | 2016-04-06 | 小米科技有限责任公司 | 来电处理方法和装置 |
| US10068008B2 (en) | 2014-08-28 | 2018-09-04 | Microsoft Technologies Licensing, LLC | Spelling correction of email queries |
| US10446141B2 (en) | 2014-08-28 | 2019-10-15 | Apple Inc. | Automatic speech recognition based on user feedback |
| US9990610B2 (en) | 2014-08-29 | 2018-06-05 | Google Llc | Systems and methods for providing suggested reminders |
| CN105471705B (zh) | 2014-09-03 | 2021-03-23 | 腾讯科技（深圳）有限公司 | 一种基于即时通讯的智能控制方法、设备及系统 |
| CN104243699A (zh) | 2014-09-04 | 2014-12-24 | 宇龙计算机通信科技(深圳)有限公司 | 一种来电拒接后的提醒方法、系统及移动终端 |
| US9959863B2 (en) | 2014-09-08 | 2018-05-01 | Qualcomm Incorporated | Keyword detection using speaker-independent keyword models for user-designated keywords |
| CN105960672B (zh) | 2014-09-09 | 2019-11-26 | 微软技术许可有限责任公司 | 用于稳健语音识别的变量组件深度神经网络 |
| US20160071517A1 (en) | 2014-09-09 | 2016-03-10 | Next It Corporation | Evaluating Conversation Data based on Risk Factors |
| US10204622B2 (en) | 2015-09-10 | 2019-02-12 | Crestron Electronics, Inc. | Acoustic sensory network |
| US9818400B2 (en) | 2014-09-11 | 2017-11-14 | Apple Inc. | Method and apparatus for discovering trending terms in speech requests |
| US10171558B2 (en) | 2014-09-12 | 2019-01-01 | Microsoft Technology Licensing, Llc | Cross device application discovery and control |
| US10789041B2 (en) | 2014-09-12 | 2020-09-29 | Apple Inc. | Dynamic thresholds for always listening speech trigger |
| CN105490890A (zh) | 2014-09-16 | 2016-04-13 | 中兴通讯股份有限公司 | 智能家庭终端及其控制方法 |
| US10261672B1 (en) | 2014-09-16 | 2019-04-16 | Amazon Technologies, Inc. | Contextual launch interfaces |
| US9548979B1 (en) | 2014-09-19 | 2017-01-17 | United Services Automobile Association (Usaa) | Systems and methods for authentication program enrollment |
| US9778736B2 (en) | 2014-09-22 | 2017-10-03 | Rovi Guides, Inc. | Methods and systems for calibrating user devices |
| US9508028B2 (en) | 2014-09-24 | 2016-11-29 | Nuance Communications, Inc. | Converting text strings into number strings, such as via a touchscreen input |
| JP6052814B2 (ja) | 2014-09-24 | 2016-12-27 | インターナショナル・ビジネス・マシーンズ・コーポレーションＩｎｔｅｒｎａｔｉｏｎａｌ Ｂｕｓｉｎｅｓｓ Ｍａｃｈｉｎｅｓ Ｃｏｒｐｏｒａｔｉｏｎ | 音声認識モデルの構築方法、音声認識方法、コンピュータ・システム、音声認識装置、プログラムおよび記録媒体 |
| US10317992B2 (en) | 2014-09-25 | 2019-06-11 | Microsoft Technology Licensing, Llc | Eye gaze for spoken language understanding in multi-modal conversational interactions |
| US9606986B2 (en) | 2014-09-29 | 2017-03-28 | Apple Inc. | Integrated word N-gram and class M-gram language models |
| US20160094889A1 (en) | 2014-09-29 | 2016-03-31 | Rovi Guides, Inc. | Systems and methods for determining whether to merge search queries based on contextual information |
| US9378740B1 (en) | 2014-09-30 | 2016-06-28 | Amazon Technologies, Inc. | Command suggestions during automatic speech recognition |
| US9646609B2 (en) | 2014-09-30 | 2017-05-09 | Apple Inc. | Caching apparatus for serving phonetic pronunciations |
| US9578156B2 (en) | 2014-09-30 | 2017-02-21 | Samsung Electronics Co., Ltd. | Method and apparatus for operating an electronic device |
| JP6448971B2 (ja) | 2014-09-30 | 2019-01-09 | シャープ株式会社 | 対話装置 |
| US9668121B2 (en) | 2014-09-30 | 2017-05-30 | Apple Inc. | Social reminders |
| US9830321B2 (en) | 2014-09-30 | 2017-11-28 | Rovi Guides, Inc. | Systems and methods for searching for a media asset |
| US10074360B2 (en) | 2014-09-30 | 2018-09-11 | Apple Inc. | Providing an indication of the suitability of speech recognition |
| US10127911B2 (en) | 2014-09-30 | 2018-11-13 | Apple Inc. | Speaker identification and unsupervised speaker adaptation techniques |
| US9886432B2 (en) | 2014-09-30 | 2018-02-06 | Apple Inc. | Parsimonious handling of word inflection via categorical stem + suffix N-gram language models |
| US9646634B2 (en) | 2014-09-30 | 2017-05-09 | Google Inc. | Low-rank hidden input layer for speech recognition neural network |
| EP3201913A4 (en) | 2014-10-01 | 2018-06-06 | Xbrain Inc. | Voice and connection platform |
| US9559993B2 (en) | 2014-10-02 | 2017-01-31 | Oracle International Corporation | Virtual agent proxy in a real-time chat service |
| WO2016054651A1 (en) | 2014-10-03 | 2016-04-07 | Across Lab, Inc. | Method and apparatus for remote, multi-media collaboration, including archive and search capability |
| US9318107B1 (en) | 2014-10-09 | 2016-04-19 | Google Inc. | Hotword detection on multiple devices |
| US9424841B2 (en) | 2014-10-09 | 2016-08-23 | Google Inc. | Hotword detection on multiple devices |
| US9812128B2 (en) | 2014-10-09 | 2017-11-07 | Google Inc. | Device leadership negotiation among voice interface devices |
| US9741344B2 (en) | 2014-10-20 | 2017-08-22 | Vocalzoom Systems Ltd. | System and method for operating devices using voice commands |
| US20160117386A1 (en) | 2014-10-22 | 2016-04-28 | International Business Machines Corporation | Discovering terms using statistical corpus analysis |
| US9576575B2 (en) | 2014-10-27 | 2017-02-21 | Toyota Motor Engineering & Manufacturing North America, Inc. | Providing voice recognition shortcuts based on user verbal input |
| CN104360990A (zh) | 2014-10-27 | 2015-02-18 | 深圳市金立通信设备有限公司 | 一种编辑内容的方法 |
| CN104464733B (zh) | 2014-10-28 | 2019-09-20 | 百度在线网络技术（北京）有限公司 | 一种语音对话的多场景管理方法及装置 |
| CN104460593B (zh) | 2014-10-29 | 2017-10-10 | 小米科技有限责任公司 | 模式切换方法及装置 |
| US9880714B2 (en) | 2014-10-30 | 2018-01-30 | Ebay Inc. | Dynamic loading of contextual ontologies for predictive touch screen typing |
| US10089364B2 (en) | 2014-10-31 | 2018-10-02 | Kabushiki Kaisha Toshiba | Item recommendation device, item recommendation method, and computer program product |
| CN104374399A (zh) | 2014-10-31 | 2015-02-25 | 北京搜狗科技发展有限公司 | 一种导航信息显示方法和装置 |
| US9646611B2 (en) | 2014-11-06 | 2017-05-09 | Microsoft Technology Licensing, Llc | Context-based actions |
| US10572589B2 (en) | 2014-11-10 | 2020-02-25 | International Business Machines Corporation | Cognitive matching of narrative data |
| GB2532075A (en) | 2014-11-10 | 2016-05-11 | Lego As | System and method for toy recognition and detection based on convolutional neural networks |
| US9678946B2 (en) | 2014-11-10 | 2017-06-13 | Oracle International Corporation | Automatic generation of N-grams and concept relations from linguistic input data |
| CA3216868A1 (en) | 2014-11-11 | 2016-05-19 | Webee Corporation | Systems and methods for smart spaces |
| US10228904B2 (en) | 2014-11-12 | 2019-03-12 | Lenovo (Singapore) Pte. Ltd. | Gaze triggered voice recognition incorporating device velocity |
| US9542927B2 (en) | 2014-11-13 | 2017-01-10 | Google Inc. | Method and system for building text-to-speech voice from diverse recordings |
| US20160139662A1 (en) | 2014-11-14 | 2016-05-19 | Sachin Dabhade | Controlling a visual device based on a proximity between a user and the visual device |
| US10116748B2 (en) | 2014-11-20 | 2018-10-30 | Microsoft Technology Licensing, Llc | Vehicle-based multi-modal interface |
| US9361126B1 (en) | 2014-11-24 | 2016-06-07 | International Business Machines Corporation | Device driver aggregation in operating system deployment |
| US9258604B1 (en) | 2014-11-24 | 2016-02-09 | Facebook, Inc. | Commercial detection based on audio fingerprinting |
| US9886430B2 (en) | 2014-11-25 | 2018-02-06 | Microsoft Technology Licensing, Llc | Entity based content selection |
| US10614799B2 (en) | 2014-11-26 | 2020-04-07 | Voicebox Technologies Corporation | System and method of providing intent predictions for an utterance prior to a system detection of an end of the utterance |
| US10431214B2 (en) | 2014-11-26 | 2019-10-01 | Voicebox Technologies Corporation | System and method of determining a domain and/or an action related to a natural language input |
| US9812126B2 (en) | 2014-11-28 | 2017-11-07 | Microsoft Technology Licensing, Llc | Device arbitration for listening devices |
| US10192549B2 (en) | 2014-11-28 | 2019-01-29 | Microsoft Technology Licensing, Llc | Extending digital personal assistant action providers |
| KR20160065503A (ko) | 2014-12-01 | 2016-06-09 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
| CN111757189B (zh) | 2014-12-01 | 2022-07-15 | 构造数据有限责任公司 | 用于连续介质片段识别的系统和方法 |
| US10587541B2 (en) | 2014-12-02 | 2020-03-10 | Facebook, Inc. | Device, method, and graphical user interface for lightweight messaging |
| US9711141B2 (en) | 2014-12-09 | 2017-07-18 | Apple Inc. | Disambiguating heteronyms in speech synthesis |
| US9495345B2 (en) | 2014-12-09 | 2016-11-15 | Idibon, Inc. | Methods and systems for modeling complex taxonomies with natural language understanding |
| US9241073B1 (en) | 2014-12-09 | 2016-01-19 | Ringcentral, Inc. | Systems and methods for managing an event scheduling request in a telephony system |
| US9466297B2 (en) | 2014-12-09 | 2016-10-11 | Microsoft Technology Licensing, Llc | Communication system |
| US20160170966A1 (en) | 2014-12-10 | 2016-06-16 | Brian Kolo | Methods and systems for automated language identification |
| EP3230824A4 (en) | 2014-12-11 | 2018-08-08 | Microsoft Technology Licensing, LLC | Virtual assistant system to enable actionable messaging |
| KR20160071732A (ko) | 2014-12-12 | 2016-06-22 | 삼성전자주식회사 | 음성 입력을 처리하는 방법 및 장치 |
| US9912758B2 (en) | 2014-12-16 | 2018-03-06 | Yahoo Holdings, Inc. | Continuing an application session on a different device |
| US9904673B2 (en) | 2014-12-17 | 2018-02-27 | International Business Machines Corporation | Conversation advisor |
| US20170287472A1 (en) | 2014-12-18 | 2017-10-05 | Mitsubishi Electric Corporation | Speech recognition apparatus and speech recognition method |
| US9552816B2 (en) | 2014-12-19 | 2017-01-24 | Amazon Technologies, Inc. | Application focus in speech-based systems |
| US9911415B2 (en) | 2014-12-19 | 2018-03-06 | Lenovo (Singapore) Pte. Ltd. | Executing a voice command during voice input |
| US9690542B2 (en) | 2014-12-22 | 2017-06-27 | Microsoft Technology Licensing, Llc | Scaling digital personal assistant agents across devices |
| JP6504808B2 (ja) | 2014-12-22 | 2019-04-24 | キヤノン株式会社 | 撮像装置、音声コマンド機能の設定方法、コンピュータプログラム、及び記憶媒体 |
| US10672390B2 (en) | 2014-12-22 | 2020-06-02 | Rovi Guides, Inc. | Systems and methods for improving speech recognition performance by generating combined interpretations |
| KR20160076201A (ko) | 2014-12-22 | 2016-06-30 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
| US9811312B2 (en) | 2014-12-22 | 2017-11-07 | Intel Corporation | Connected device voice command support |
| US10229356B1 (en) | 2014-12-23 | 2019-03-12 | Amazon Technologies, Inc. | Error tolerant neural network model compression |
| US9483388B2 (en) | 2014-12-29 | 2016-11-01 | Quixey, Inc. | Discovery of application states |
| US9837081B2 (en) | 2014-12-30 | 2017-12-05 | Microsoft Technology Licensing, Llc | Discovering capabilities of third-party voice-enabled resources |
| US10713005B2 (en) | 2015-01-05 | 2020-07-14 | Google Llc | Multimodal state circulation |
| US9959129B2 (en) | 2015-01-09 | 2018-05-01 | Microsoft Technology Licensing, Llc | Headless task completion within digital personal assistants |
| KR102389313B1 (ko) | 2015-01-16 | 2022-04-21 | 삼성전자주식회사 | 문법 모델을 이용하여 음성인식을 수행하는 방법 및 디바이스 |
| CN104575501B (zh) | 2015-01-19 | 2017-11-03 | 北京云知声信息技术有限公司 | 一种收音机语音操控指令解析方法及系统 |
| KR102305584B1 (ko) | 2015-01-19 | 2021-09-27 | 삼성전자주식회사 | 언어 모델 학습 방법 및 장치, 언어 인식 방법 및 장치 |
| US9367541B1 (en) | 2015-01-20 | 2016-06-14 | Xerox Corporation | Terminological adaptation of statistical machine translation system through automatic generation of phrasal contexts for bilingual terms |
| CN105869641A (zh) | 2015-01-22 | 2016-08-17 | 佳能株式会社 | 语音识别装置及语音识别方法 |
| US9947313B2 (en) | 2015-01-26 | 2018-04-17 | William Drewes | Method for substantial ongoing cumulative voice recognition error reduction |
| CN104573472A (zh) | 2015-01-30 | 2015-04-29 | 深圳市中兴移动通信有限公司 | 移动终端及其操作方法 |
| US20160224682A1 (en) | 2015-01-30 | 2016-08-04 | Linkedln Corporation | Relevance driven aggregation of federated content items in a social network |
| US20160227107A1 (en) | 2015-02-02 | 2016-08-04 | Lenovo (Singapore) Pte. Ltd. | Method and device for notification preview dismissal |
| US9424412B1 (en) | 2015-02-02 | 2016-08-23 | Bank Of America Corporation | Authenticating customers using biometrics |
| US20160225372A1 (en) | 2015-02-03 | 2016-08-04 | Samsung Electronics Company, Ltd. | Smart home connected device contextual learning using audio commands |
| US9613022B2 (en) | 2015-02-04 | 2017-04-04 | Lenovo (Singapore) Pte. Ltd. | Context based customization of word assistance functions |
| US10062061B2 (en) | 2015-02-05 | 2018-08-28 | Conduent Business Services, Llc | Pay-by-phone parking system aided by a vision based monitoring device |
| US10121472B2 (en) | 2015-02-13 | 2018-11-06 | Knowles Electronics, Llc | Audio buffer catch-up apparatus and method with two microphones |
| CN104679472A (zh) | 2015-02-13 | 2015-06-03 | 百度在线网络技术（北京）有限公司 | 人机语音交互方法和装置 |
| KR101678087B1 (ko) | 2015-02-16 | 2016-11-23 | 현대자동차주식회사 | 차량 및 그 제어방법 |
| KR20160101826A (ko) | 2015-02-17 | 2016-08-26 | 삼성전자주식회사 | 멀티 유저 기반의 전자 장치 |
| JP2016151928A (ja) | 2015-02-18 | 2016-08-22 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
| US9554356B2 (en) | 2015-02-19 | 2017-01-24 | Microsoft Technology Licensing, Llc | Personalized reminders |
| EP3259688A4 (en) | 2015-02-19 | 2018-12-12 | Digital Reasoning Systems, Inc. | Systems and methods for neural language modeling |
| US9928232B2 (en) | 2015-02-27 | 2018-03-27 | Microsoft Technology Licensing, Llc | Topically aware word suggestions |
| WO2016137272A1 (ko) | 2015-02-27 | 2016-09-01 | 삼성전자 주식회사 | 복수의 운영체제가 설치된 디바이스를 제어하는 방법 및 디바이스 |
| US9911412B2 (en) | 2015-03-06 | 2018-03-06 | Nuance Communications, Inc. | Evidence-based natural language input recognition |
| US9865280B2 (en) | 2015-03-06 | 2018-01-09 | Apple Inc. | Structured dictation using intelligent automated assistants |
| US10152299B2 (en) | 2015-03-06 | 2018-12-11 | Apple Inc. | Reducing response latency of intelligent automated assistants |
| US9721566B2 (en) | 2015-03-08 | 2017-08-01 | Apple Inc. | Competing devices responding to voice triggers |
| US10254911B2 (en) | 2015-03-08 | 2019-04-09 | Apple Inc. | Device configuration user interface |
| US9886953B2 (en) | 2015-03-08 | 2018-02-06 | Apple Inc. | Virtual assistant activation |
| US10567477B2 (en) | 2015-03-08 | 2020-02-18 | Apple Inc. | Virtual assistant continuity |
| US20160266871A1 (en) | 2015-03-11 | 2016-09-15 | Adapx, Inc. | Speech recognizer for multimodal systems and signing in/out with and /or for a digital pen |
| US9805713B2 (en) | 2015-03-13 | 2017-10-31 | Google Inc. | Addressing missing features in models |
| US9984686B1 (en) | 2015-03-17 | 2018-05-29 | Amazon Technologies, Inc. | Mapping device capabilities to a predefined set |
| US9899019B2 (en) | 2015-03-18 | 2018-02-20 | Apple Inc. | Systems and methods for structured stem and suffix language models |
| US10721517B2 (en) | 2015-03-20 | 2020-07-21 | Liuzhou Guitong Technology Co., Ltd. | Method and system for synchronously reproducing multimedia multi-information |
| CN104869342A (zh) | 2015-06-09 | 2015-08-26 | 柳州桂通科技股份有限公司 | 一种多媒体多信息同步重现的方法及其应用 |
| US20160286045A1 (en) | 2015-03-23 | 2016-09-29 | Vonage Network Llc | System and method for providing an informative message when rejecting an incoming call |
| US9703394B2 (en) | 2015-03-24 | 2017-07-11 | Google Inc. | Unlearning techniques for adaptive language models in text entry |
| US10063510B2 (en) | 2015-03-24 | 2018-08-28 | Facebook, Inc. | Techniques to share and remix media through a messaging system |
| US9672725B2 (en) | 2015-03-25 | 2017-06-06 | Microsoft Technology Licensing, Llc | Proximity-based reminders |
| US20160284005A1 (en) | 2015-03-25 | 2016-09-29 | Facebook, Inc. | Techniques for product, service, and business recommendation |
| US10261482B2 (en) | 2015-03-26 | 2019-04-16 | Ca, Inc. | Initiating actions on wearable devices |
| US10133538B2 (en) | 2015-03-27 | 2018-11-20 | Sri International | Semi-supervised speaker diarization |
| US20160293157A1 (en) | 2015-03-30 | 2016-10-06 | Google Inc. | Contextual Voice Action History |
| US9484021B1 (en) | 2015-03-30 | 2016-11-01 | Amazon Technologies, Inc. | Disambiguation in speech recognition |
| US10192546B1 (en) | 2015-03-30 | 2019-01-29 | Amazon Technologies, Inc. | Pre-wakeword speech processing |
| TWI525532B (zh) | 2015-03-30 | 2016-03-11 | Yu-Wei Chen | Set the name of the person to wake up the name for voice manipulation |
| US20170047063A1 (en) | 2015-03-31 | 2017-02-16 | Sony Corporation | Information processing apparatus, control method, and program |
| US20170032783A1 (en) | 2015-04-01 | 2017-02-02 | Elwha Llc | Hierarchical Networked Command Recognition |
| US20160322044A1 (en) | 2015-04-01 | 2016-11-03 | Elwha Llc | Networked User Command Recognition |
| US9678664B2 (en) | 2015-04-10 | 2017-06-13 | Google Inc. | Neural network for keyboard input decoding |
| US10021209B2 (en) | 2015-04-10 | 2018-07-10 | Open Text Sa Ulc | Systems and methods for caching of managed content in a distributed environment using a multi-tiered architecture |
| US10095683B2 (en) | 2015-04-10 | 2018-10-09 | Facebook, Inc. | Contextual speller models on online social networks |
| AU2015390534B2 (en) | 2015-04-10 | 2019-08-22 | Honor Device Co., Ltd. | Speech recognition method, speech wakeup apparatus, speech recognition apparatus, and terminal |
| US10049099B2 (en) | 2015-04-10 | 2018-08-14 | Facebook, Inc. | Spell correction with hidden markov models on online social networks |
| US20160299977A1 (en) | 2015-04-13 | 2016-10-13 | Quixey, Inc. | Action-Based App Recommendation Engine |
| US9842105B2 (en) | 2015-04-16 | 2017-12-12 | Apple Inc. | Parsimonious continuous-space phrase representations for natural language processing |
| US10218651B2 (en) | 2015-04-20 | 2019-02-26 | Oracle International Corporation | Virtual assistance for chat agents |
| KR102269035B1 (ko) | 2015-04-21 | 2021-06-24 | 삼성전자주식회사 | 서버 및 서버의 그룹 액션 제어방법 |
| US9472196B1 (en) | 2015-04-22 | 2016-10-18 | Google Inc. | Developer voice actions system |
| CN104836909B (zh) | 2015-04-27 | 2018-05-11 | 广东小天才科技有限公司 | 一种来电自动接通的方法及装置 |
| US10083213B1 (en) | 2015-04-27 | 2018-09-25 | Intuit Inc. | Method and system for routing a question based on analysis of the question content and predicted user satisfaction with answer content before the answer content is generated |
| US10109277B2 (en) | 2015-04-27 | 2018-10-23 | Nuance Communications, Inc. | Methods and apparatus for speech recognition using visual information |
| WO2016175354A1 (ko) | 2015-04-29 | 2016-11-03 | 주식회사 아카인텔리전스 | 인공지능 대화 장치 및 방법 |
| US11010768B2 (en) | 2015-04-30 | 2021-05-18 | Oracle International Corporation | Character-based attribute value extraction system |
| GB2537903B (en) | 2015-04-30 | 2019-09-04 | Toshiba Res Europe Limited | Device and method for a spoken dialogue system |
| US9953063B2 (en) | 2015-05-02 | 2018-04-24 | Lithium Technologies, Llc | System and method of providing a content discovery platform for optimizing social network engagements |
| US20160328205A1 (en) | 2015-05-05 | 2016-11-10 | Motorola Mobility Llc | Method and Apparatus for Voice Operation of Mobile Applications Having Unnamed View Elements |
| CN104867492B (zh) | 2015-05-07 | 2019-09-03 | 科大讯飞股份有限公司 | 智能交互系统及方法 |
| US9892363B2 (en) | 2015-05-07 | 2018-02-13 | Truemotion, Inc. | Methods and systems for sensor-based driving data collection |
| US10685471B2 (en) | 2015-05-11 | 2020-06-16 | Facebook, Inc. | Methods and systems for playing video while transitioning from a content-item preview to the content item |
| US9953648B2 (en) | 2015-05-11 | 2018-04-24 | Samsung Electronics Co., Ltd. | Electronic device and method for controlling the same |
| US20160337299A1 (en) | 2015-05-13 | 2016-11-17 | Google Inc. | Prioritized notification display |
| US9761220B2 (en) | 2015-05-13 | 2017-09-12 | Microsoft Technology Licensing, Llc | Language modeling based on spoken and unspeakable corpuses |
| US9906482B2 (en) | 2015-05-13 | 2018-02-27 | The Travelers Indemnity Company | Predictive electronic message management systems and controllers |
| US10133613B2 (en) | 2015-05-14 | 2018-11-20 | Microsoft Technology Licensing, Llc | Digital assistant extensibility to third party applications |
| US10460227B2 (en) | 2015-05-15 | 2019-10-29 | Apple Inc. | Virtual assistant in a communication session |
| US10861449B2 (en) | 2015-05-19 | 2020-12-08 | Sony Corporation | Information processing device and information processing method |
| KR20160136013A (ko) | 2015-05-19 | 2016-11-29 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
| US10446142B2 (en) | 2015-05-20 | 2019-10-15 | Microsoft Technology Licensing, Llc | Crafting feedback dialogue with a digital assistant |
| US10061848B2 (en) | 2015-05-22 | 2018-08-28 | Microsoft Technology Licensing, Llc | Ontology-crowd-relevance deep response generation |
| US10200824B2 (en) | 2015-05-27 | 2019-02-05 | Apple Inc. | Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device |
| US10097973B2 (en) | 2015-05-27 | 2018-10-09 | Apple Inc. | Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device |
| US10083688B2 (en) | 2015-05-27 | 2018-09-25 | Apple Inc. | Device voice control for selecting a displayed affordance |
| US10110430B2 (en) | 2015-05-27 | 2018-10-23 | Orion Labs | Intelligent agent features for wearable personal communication nodes |
| US9408182B1 (en) | 2015-05-28 | 2016-08-02 | Google Inc. | Third party action triggers |
| US9552547B2 (en) | 2015-05-29 | 2017-01-24 | Sas Institute Inc. | Normalizing electronic communications using a neural-network normalizer and a neural-network flagger |
| US10200543B2 (en) | 2015-06-01 | 2019-02-05 | Huawei Technologies Co., Ltd. | Method and apparatus for customer service management for a wireless communication network |
| US10127220B2 (en) | 2015-06-04 | 2018-11-13 | Apple Inc. | Language identification from short strings |
| EP3304951B1 (en) | 2015-06-05 | 2022-09-21 | Apple Inc. | Changing companion communication device behavior based on status of wearable device |
| US9578173B2 (en) | 2015-06-05 | 2017-02-21 | Apple Inc. | Virtual assistant aided communication with 3rd party service in a communication session |
| US10505884B2 (en) | 2015-06-05 | 2019-12-10 | Microsoft Technology Licensing, Llc | Entity classification and/or relationship identification |
| US9529500B1 (en) | 2015-06-05 | 2016-12-27 | Apple Inc. | Application recommendation based on detected triggering events |
| US10101822B2 (en) | 2015-06-05 | 2018-10-16 | Apple Inc. | Language input correction |
| US10755032B2 (en) | 2015-06-05 | 2020-08-25 | Apple Inc. | Indexing web pages with deep links |
| US9865265B2 (en) | 2015-06-06 | 2018-01-09 | Apple Inc. | Multi-microphone speech recognition systems and related techniques |
| US20160357861A1 (en) | 2015-06-07 | 2016-12-08 | Apple Inc. | Natural language event detection |
| US11025565B2 (en) | 2015-06-07 | 2021-06-01 | Apple Inc. | Personalized prediction of responses for instant messaging |
| US10255907B2 (en) | 2015-06-07 | 2019-04-09 | Apple Inc. | Automatic accent detection using acoustic models |
| US10186254B2 (en) | 2015-06-07 | 2019-01-22 | Apple Inc. | Context-based endpoint detection |
| US20160365101A1 (en) | 2015-06-15 | 2016-12-15 | Motorola Mobility Llc | Enabling Event Driven Voice Interaction with a Device |
| US20160371250A1 (en) | 2015-06-16 | 2016-12-22 | Microsoft Technology Licensing, Llc | Text suggestion using a predictive grammar model |
| WO2016205338A1 (en) | 2015-06-18 | 2016-12-22 | Amgine Technologies (Us), Inc. | Managing interactions between users and applications |
| US9818409B2 (en) | 2015-06-19 | 2017-11-14 | Google Inc. | Context-dependent modeling of phonemes |
| US9767386B2 (en) | 2015-06-23 | 2017-09-19 | Adobe Systems Incorporated | Training a classifier algorithm used for automatically generating tags to be applied to images |
| CN104951077A (zh) | 2015-06-24 | 2015-09-30 | 百度在线网络技术（北京）有限公司 | 基于人工智能的人机交互方法、装置和终端设备 |
| US10462743B2 (en) | 2015-06-25 | 2019-10-29 | Intel IP Corporation | Mobile communications device and a method for controlling a mobile communications device receiver |
| KR102317526B1 (ko) | 2015-06-25 | 2021-10-26 | 엘지전자 주식회사 | 헤드셋 및 그 제어 방법 |
| US10325590B2 (en) | 2015-06-26 | 2019-06-18 | Intel Corporation | Language model modification for local speech recognition systems using remote sources |
| US20160379638A1 (en) | 2015-06-26 | 2016-12-29 | Amazon Technologies, Inc. | Input speech quality matching |
| US20160379641A1 (en) | 2015-06-29 | 2016-12-29 | Microsoft Technology Licensing, Llc | Auto-Generation of Notes and Tasks From Passive Recording |
| US20160378747A1 (en) | 2015-06-29 | 2016-12-29 | Apple Inc. | Virtual assistant for media playback |
| US10134425B1 (en) | 2015-06-29 | 2018-11-20 | Amazon Technologies, Inc. | Direction-based speech endpointing |
| US10019992B2 (en) | 2015-06-29 | 2018-07-10 | Disney Enterprises, Inc. | Speech-controlled actions based on keywords and context thereof |
| US9881613B2 (en) | 2015-06-29 | 2018-01-30 | Google Llc | Privacy-preserving training corpus selection |
| US10121471B2 (en) | 2015-06-29 | 2018-11-06 | Amazon Technologies, Inc. | Language model speech endpointing |
| KR102371188B1 (ko) | 2015-06-30 | 2022-03-04 | 삼성전자주식회사 | 음성 인식 장치 및 방법과 전자 장치 |
| US10374822B2 (en) | 2015-06-30 | 2019-08-06 | K4Connect Inc. | Home automation (HA) system including desired scene implementation based upon user-selectable list of addressable HA devices and related methods |
| US9536527B1 (en) | 2015-06-30 | 2017-01-03 | Amazon Technologies, Inc. | Reporting operational metrics in speech-based systems |
| US9998597B2 (en) | 2015-07-06 | 2018-06-12 | Nuance Communications, Inc. | Systems and methods for facilitating communication using an interactive communication system |
| US10073887B2 (en) | 2015-07-06 | 2018-09-11 | Conduent Business Services, Llc | System and method for performing k-nearest neighbor search based on minimax distance measure and efficient outlier detection |
| CN105100356B (zh) | 2015-07-07 | 2018-04-06 | 上海斐讯数据通信技术有限公司 | 一种音量自动调节的方法和系统 |
| JP2017019331A (ja) | 2015-07-08 | 2017-01-26 | Ntn株式会社 | 車両用モータ駆動装置 |
| US20170011303A1 (en) | 2015-07-09 | 2017-01-12 | Qualcomm Incorporated | Contact-Based Predictive Response |
| US10249297B2 (en) | 2015-07-13 | 2019-04-02 | Microsoft Technology Licensing, Llc | Propagating conversational alternatives using delayed hypothesis binding |
| CN104967748B (zh) | 2015-07-13 | 2018-10-23 | 宁波萨瑞通讯有限公司 | 一种安全操作应用服务的方法 |
| US10426037B2 (en) | 2015-07-15 | 2019-09-24 | International Business Machines Corporation | Circuitized structure with 3-dimensional configuration |
| CN106373575B (zh) | 2015-07-23 | 2020-07-21 | 阿里巴巴集团控股有限公司 | 一种用户声纹模型构建方法、装置及系统 |
| US10686738B2 (en) | 2015-07-24 | 2020-06-16 | Facebook, Inc. | Providing personal assistant service via messaging |
| KR20170014297A (ko) | 2015-07-29 | 2017-02-08 | 엘지전자 주식회사 | 와치 타입의 이동 단말기 및 그 제어 방법 |
| US10311384B2 (en) | 2015-07-29 | 2019-06-04 | Microsoft Technology Licensing, Llc | Automatic creation and maintenance of a taskline |
| US10255921B2 (en) | 2015-07-31 | 2019-04-09 | Google Llc | Managing dialog data providers |
| US20170039283A1 (en) | 2015-08-03 | 2017-02-09 | Microsoft Technology Licensing, Llc | Searching Based on the Persona of Another |
| US9691361B2 (en) | 2015-08-03 | 2017-06-27 | International Business Machines Corporation | Adjusting presentation of content on a display |
| JP5906345B1 (ja) | 2015-08-05 | 2016-04-20 | 株式会社Ｃｙｇａｍｅｓ | 操作履歴に基づいてタッチ対象を予測するプログラム、電子装置、システム及び制御方法 |
| US10248308B2 (en) | 2015-08-10 | 2019-04-02 | Apple Inc. | Devices, methods, and graphical user interfaces for manipulating user interfaces with physical gestures |
| KR102386854B1 (ko) | 2015-08-20 | 2022-04-13 | 삼성전자주식회사 | 통합 모델 기반의 음성 인식 장치 및 방법 |
| JP6809467B2 (ja) | 2015-08-24 | 2021-01-06 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
| US10362978B2 (en) | 2015-08-28 | 2019-07-30 | Comcast Cable Communications, Llc | Computational model for mood |
| US20170061423A1 (en) | 2015-09-01 | 2017-03-02 | Bank Of America Corporation | Use of wearable as an account control system |
| US10339917B2 (en) | 2015-09-03 | 2019-07-02 | Google Llc | Enhanced speech endpointing |
| US9531862B1 (en) | 2015-09-04 | 2016-12-27 | Vishal Vadodaria | Contextual linking module with interactive intelligent agent for managing communications with contacts and navigation features |
| US10740384B2 (en) | 2015-09-08 | 2020-08-11 | Apple Inc. | Intelligent automated assistant for media search and playback |
| US10671428B2 (en) | 2015-09-08 | 2020-06-02 | Apple Inc. | Distributed personal assistant |
| US10747498B2 (en) | 2015-09-08 | 2020-08-18 | Apple Inc. | Zero latency digital assistant |
| US10331312B2 (en) | 2015-09-08 | 2019-06-25 | Apple Inc. | Intelligent automated assistant in a media environment |
| US10026399B2 (en) | 2015-09-11 | 2018-07-17 | Amazon Technologies, Inc. | Arbitration between voice-enabled devices |
| CN106534469A (zh) | 2015-09-11 | 2017-03-22 | 昆明我行科技有限公司 | 一种为智能手机实现电话通讯功能扩展的方法及电子设备 |
| US9736318B2 (en) | 2015-09-16 | 2017-08-15 | International Business Machines Corporation | Adaptive voice-text transmission |
| US9875081B2 (en) | 2015-09-21 | 2018-01-23 | Amazon Technologies, Inc. | Device selection for providing a response |
| US9665567B2 (en) | 2015-09-21 | 2017-05-30 | International Business Machines Corporation | Suggesting emoji characters based on current contextual emotional state of user |
| US20170085547A1 (en) | 2015-09-22 | 2017-03-23 | International Business Machines Corporation | Storing, indexing and recalling data based on brain activity |
| US9734142B2 (en) | 2015-09-22 | 2017-08-15 | Facebook, Inc. | Universal translation |
| US9697820B2 (en) | 2015-09-24 | 2017-07-04 | Apple Inc. | Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks |
| US9990040B2 (en) | 2015-09-25 | 2018-06-05 | Immersion Corporation | Haptic CAPTCHA |
| US11010550B2 (en) | 2015-09-29 | 2021-05-18 | Apple Inc. | Unified language modeling framework for word prediction, auto-completion and auto-correction |
| US10366158B2 (en) | 2015-09-29 | 2019-07-30 | Apple Inc. | Efficient word encoding for recurrent neural network language models |
| US11587559B2 (en) | 2015-09-30 | 2023-02-21 | Apple Inc. | Intelligent device identification |
| US20170092278A1 (en) | 2015-09-30 | 2017-03-30 | Apple Inc. | Speaker recognition |
| US10425768B2 (en) | 2015-09-30 | 2019-09-24 | Lenovo (Singapore) Pte. Ltd. | Adjusting audio output volume based on a detected presence of another device |
| US20170091612A1 (en) | 2015-09-30 | 2017-03-30 | Apple Inc. | Proactive assistant with memory assistance |
| US10970646B2 (en) | 2015-10-01 | 2021-04-06 | Google Llc | Action suggestions for user-selected content |
| US20170102837A1 (en) | 2015-10-07 | 2017-04-13 | Spotify Ab | Dynamic control of playlists using wearable devices |
| US10891106B2 (en) | 2015-10-13 | 2021-01-12 | Google Llc | Automatic batch voice commands |
| US10083685B2 (en) | 2015-10-13 | 2018-09-25 | GM Global Technology Operations LLC | Dynamically adding or removing functionality to speech recognition systems |
| KR102405793B1 (ko) | 2015-10-15 | 2022-06-08 | 삼성전자 주식회사 | 음성 신호 인식 방법 및 이를 제공하는 전자 장치 |
| RU2018113724A (ru) | 2015-10-21 | 2019-11-21 | ГУГЛ ЭлЭлСи | Сбор параметров и автоматическая генерация диалога в диалоговых системах |
| WO2017070535A1 (en) | 2015-10-22 | 2017-04-27 | Knowles Electronics, Llc | Microphone with programmable phone onset detection engine |
| US10579834B2 (en) | 2015-10-26 | 2020-03-03 | [24]7.ai, Inc. | Method and apparatus for facilitating customer intent prediction |
| US10146874B2 (en) | 2015-10-28 | 2018-12-04 | Fujitsu Limited | Refining topic representations |
| CN106657521A (zh) | 2015-10-30 | 2017-05-10 | 中兴通讯股份有限公司 | 一种智能设备语音交流方法、装置和系统 |
| US20170125016A1 (en) | 2015-11-02 | 2017-05-04 | Le Holdings (Beijing) Co., Ltd. | Method and electronic device for processing voice messages |
| US9691378B1 (en) | 2015-11-05 | 2017-06-27 | Amazon Technologies, Inc. | Methods and devices for selectively ignoring captured audio data |
| US10691473B2 (en) | 2015-11-06 | 2020-06-23 | Apple Inc. | Intelligent automated assistant in a messaging environment |
| US10956666B2 (en) | 2015-11-09 | 2021-03-23 | Apple Inc. | Unconventional virtual assistant interactions |
| US9804681B2 (en) | 2015-11-10 | 2017-10-31 | Motorola Mobility Llc | Method and system for audible delivery of notifications partially presented on an always-on display |
| KR102432620B1 (ko) | 2015-11-12 | 2022-08-16 | 삼성전자주식회사 | 외부 객체의 근접에 따른 동작을 수행하는 전자 장치 및 그 방법 |
| US10769189B2 (en) | 2015-11-13 | 2020-09-08 | Microsoft Technology Licensing, Llc | Computer speech recognition and semantic understanding from activity patterns |
| US9940934B2 (en) | 2015-11-18 | 2018-04-10 | Uniphone Software Systems | Adaptive voice authentication system and method |
| US10546028B2 (en) | 2015-11-18 | 2020-01-28 | International Business Machines Corporation | Method for personalized breaking news feed |
| US10255611B2 (en) | 2015-11-20 | 2019-04-09 | International Business Machines Corporation | Determining pricing using categorized costs with tree structures |
| US9697393B2 (en) | 2015-11-20 | 2017-07-04 | Symbol Technologies, Llc | Methods and systems for adjusting mobile-device operating parameters based on housing-support type |
| CN106773742B (zh) | 2015-11-23 | 2019-10-25 | 宏碁股份有限公司 | 语音控制方法及语音控制系统 |
| US9792907B2 (en) | 2015-11-24 | 2017-10-17 | Intel IP Corporation | Low resource key phrase detection for wake on voice |
| CN105430186A (zh) | 2015-11-27 | 2016-03-23 | 东莞酷派软件技术有限公司 | 一种拒接短信的发送方法及系统 |
| CN105897675A (zh) | 2015-11-27 | 2016-08-24 | 乐视云计算有限公司 | 视频服务提供方法、访问鉴权方法及服务器和系统 |
| KR102450853B1 (ko) | 2015-11-30 | 2022-10-04 | 삼성전자주식회사 | 음성 인식 장치 및 방법 |
| US10546015B2 (en) | 2015-12-01 | 2020-01-28 | Facebook, Inc. | Determining and utilizing contextual meaning of digital standardized image characters |
| US9946862B2 (en) | 2015-12-01 | 2018-04-17 | Qualcomm Incorporated | Electronic device generating notification based on context data in response to speech phrase from user |
| US10229671B2 (en) | 2015-12-02 | 2019-03-12 | GM Global Technology Operations LLC | Prioritized content loading for vehicle automatic speech recognition systems |
| US10049668B2 (en) | 2015-12-02 | 2018-08-14 | Apple Inc. | Applying neural network language models to weighted finite state transducers for automatic speech recognition |
| KR102535044B1 (ko) | 2015-12-08 | 2023-05-23 | 삼성전자주식회사 | 단말장치, 서버 및 이벤트 제안방법 |
| US10796693B2 (en) | 2015-12-09 | 2020-10-06 | Lenovo (Singapore) Pte. Ltd. | Modifying input based on determined characteristics |
| US9990921B2 (en) | 2015-12-09 | 2018-06-05 | Lenovo (Singapore) Pte. Ltd. | User focus activated voice recognition |
| US10685170B2 (en) | 2015-12-16 | 2020-06-16 | Microsoft Technology Licensing, Llc | Dynamic content layout generator |
| US9830449B1 (en) | 2015-12-16 | 2017-11-28 | Amazon Technologies, Inc. | Execution locations for request-driven code |
| US10013416B1 (en) | 2015-12-18 | 2018-07-03 | Amazon Technologies, Inc. | Language based solution agent |
| US10223066B2 (en) | 2015-12-23 | 2019-03-05 | Apple Inc. | Proactive assistance based on dialog communication between devices |
| KR102423588B1 (ko) | 2015-12-28 | 2022-07-22 | 삼성전자주식회사 | 정보 제공 방법 및 장치 |
| AU2016383052A1 (en) | 2015-12-29 | 2018-06-28 | Mz Ip Holdings, Llc | Systems and methods for suggesting emoji |
| US9716795B1 (en) | 2015-12-30 | 2017-07-25 | Qualcomm Incorporated | Diversion of a call to a wearable device |
| US10002607B2 (en) | 2016-01-05 | 2018-06-19 | Microsoft Technology Licensing, Llc | Cross device companion application for phone |
| US10382729B2 (en) | 2016-01-06 | 2019-08-13 | Vivint, Inc. | Home automation system-initiated calls |
| US20170193083A1 (en) | 2016-01-06 | 2017-07-06 | International Business Machines Corporation | Identifying message content related to an event utilizing natural language processing and performing an action pertaining to the event |
| JP2017123564A (ja) | 2016-01-07 | 2017-07-13 | ソニー株式会社 | 制御装置、表示装置、方法及びプログラム |
| CN105718448B (zh) | 2016-01-13 | 2019-03-19 | 北京新美互通科技有限公司 | 一种对输入字符进行自动翻译的方法和装置 |
| US9792534B2 (en) | 2016-01-13 | 2017-10-17 | Adobe Systems Incorporated | Semantic natural language vector space |
| US9747289B2 (en) | 2016-01-13 | 2017-08-29 | Disney Enterprises, Inc. | System and method for proximity-based personalized content recommendations |
| US20170206899A1 (en) | 2016-01-20 | 2017-07-20 | Fitbit, Inc. | Better communication channel for requests and responses having an intelligent agent |
| US20170235361A1 (en) | 2016-01-20 | 2017-08-17 | Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America | Interaction based on capturing user intent via eye gaze |
| KR102490548B1 (ko) | 2016-01-25 | 2023-01-19 | 삼성전자주식회사 | 사용자 단말 장치 및 그 제어 방법 |
| US9922647B2 (en) | 2016-01-29 | 2018-03-20 | International Business Machines Corporation | Approach to reducing the response time of a speech interface |
| US10182155B2 (en) | 2016-02-03 | 2019-01-15 | At&T Intellectual Property I, L.P. | Directing care calls using historical call backs, demographics and real time attributes |
| KR102495523B1 (ko) | 2016-02-04 | 2023-02-03 | 삼성전자 주식회사 | 음성 명령을 처리하는 방법 및 이를 제공하는 전자 장치 |
| US10055489B2 (en) | 2016-02-08 | 2018-08-21 | Ebay Inc. | System and method for content-based media analysis |
| US9858927B2 (en) | 2016-02-12 | 2018-01-02 | Amazon Technologies, Inc | Processing spoken commands to control distributed audio outputs |
| US10431218B2 (en) | 2016-02-15 | 2019-10-01 | EVA Automation, Inc. | Integration and probabilistic control of electronic devices |
| US9858129B2 (en) | 2016-02-16 | 2018-01-02 | International Business Machines Corporation | Dynamic copy content retrieval |
| US11023680B2 (en) | 2016-02-17 | 2021-06-01 | The King Abdulaziz City For Science And Technology (Kacst) | Method and system for detecting semantic errors in a text using artificial neural networks |
| KR20170096774A (ko) | 2016-02-17 | 2017-08-25 | 이준영 | 전자기기의 사용자 행동기반 정황인식 작동모드 |
| WO2017141502A1 (ja) | 2016-02-18 | 2017-08-24 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
| US9965247B2 (en) | 2016-02-22 | 2018-05-08 | Sonos, Inc. | Voice controlled media playback system based on user profile |
| US9772817B2 (en) | 2016-02-22 | 2017-09-26 | Sonos, Inc. | Room-corrected voice detection |
| US9947316B2 (en) | 2016-02-22 | 2018-04-17 | Sonos, Inc. | Voice control of a media playback system |
| US20180063308A1 (en) | 2016-02-23 | 2018-03-01 | Bioworld Merchandising | System and Method for Voice Recognition |
| US9779735B2 (en) | 2016-02-24 | 2017-10-03 | Google Inc. | Methods and systems for detecting and processing speech signals |
| US20170249309A1 (en) | 2016-02-29 | 2017-08-31 | Microsoft Technology Licensing, Llc | Interpreting and Resolving Conditional Natural Language Queries |
| US9922648B2 (en) | 2016-03-01 | 2018-03-20 | Google Llc | Developer voice actions system |
| US20170263254A1 (en) | 2016-03-10 | 2017-09-14 | lntel IP Corporation | Malware-proof privacy indicator |
| US10404829B2 (en) | 2016-03-11 | 2019-09-03 | Wipro Limited | Method and system for achieving improved quality of service (QoS) for content delivery in a SDN controller based communication network |
| US10446143B2 (en) | 2016-03-14 | 2019-10-15 | Apple Inc. | Identification of voice inputs providing credentials |
| EP3394852B1 (en) | 2016-03-14 | 2022-09-21 | Apple Inc. | Identification of voice inputs providing credentials |
| DK201670539A1 (en) | 2016-03-14 | 2017-10-02 | Apple Inc | Dictation that allows editing |
| US10176802B1 (en) | 2016-03-21 | 2019-01-08 | Amazon Technologies, Inc. | Lattice encoding using recurrent neural networks |
| US10304444B2 (en) | 2016-03-23 | 2019-05-28 | Amazon Technologies, Inc. | Fine-grained natural language understanding |
| US11089132B2 (en) | 2016-03-29 | 2021-08-10 | Microsoft Technology Licensing, Llc | Extensibility for context-aware digital personal assistant |
| US20170286397A1 (en) | 2016-03-30 | 2017-10-05 | International Business Machines Corporation | Predictive Embeddings |
| US10979843B2 (en) | 2016-04-08 | 2021-04-13 | Qualcomm Incorporated | Spatialized audio output based on predicted position data |
| US20170308609A1 (en) | 2016-04-21 | 2017-10-26 | Microsoft Technology Licensing, Llc | Multi-result ranking exploration |
| WO2017184149A1 (en) | 2016-04-21 | 2017-10-26 | Hewlett-Packard Development Company, L.P. | Electronic device microphone listening modes |
| US10353947B2 (en) | 2016-04-25 | 2019-07-16 | Adobe Inc. | Relevancy evaluation for image search results |
| US20170311005A1 (en) | 2016-04-26 | 2017-10-26 | Szu-Tung Lin | Method of wireless audio transmission and playback |
| US10431205B2 (en) | 2016-04-27 | 2019-10-01 | Conduent Business Services, Llc | Dialog device with dialog support generated using a mixture of language models combined using a recurrent neural network |
| KR20190025549A (ko) | 2016-05-06 | 2019-03-11 | 더 보드 어브 트러스티스 어브 더 리랜드 스탠포드 주니어 유니버시티 | 정신 장애들의 치료를 위한 이동 및 착용 가능한 비디오 캡처 및 피드백 플랫-폼들 |
| US20180284758A1 (en) | 2016-05-09 | 2018-10-04 | StrongForce IoT Portfolio 2016, LLC | Methods and systems for industrial internet of things data collection for equipment analysis in an upstream oil and gas environment |
| JP2019523918A (ja) | 2016-05-10 | 2019-08-29 | グーグル エルエルシー | デバイス上の音声アシスタントの実装 |
| RU2632144C1 (ru) | 2016-05-12 | 2017-10-02 | Общество С Ограниченной Ответственностью "Яндекс" | Компьютерный способ создания интерфейса рекомендации контента |
| US20170329466A1 (en) | 2016-05-13 | 2017-11-16 | Sap Se | User interface application and digital assistant |
| US10217464B2 (en) | 2016-05-13 | 2019-02-26 | Koninklijke Philips N.V. | Vocabulary generation system |
| US10534635B2 (en) | 2016-05-13 | 2020-01-14 | Sap Se | Personal digital assistant |
| KR20170128820A (ko) | 2016-05-16 | 2017-11-24 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
| US11416212B2 (en) | 2016-05-17 | 2022-08-16 | Microsoft Technology Licensing, Llc | Context-based user agent |
| WO2017197650A1 (zh) | 2016-05-20 | 2017-11-23 | 华为技术有限公司 | 通话中的交互方法和设备 |
| US10417566B2 (en) | 2016-05-22 | 2019-09-17 | Microsoft Technology Licensing, Llc | Self-learning technique for training a PDA component and a simulated user component |
| US9934775B2 (en) | 2016-05-26 | 2018-04-03 | Apple Inc. | Unit-selection text-to-speech synthesis based on predicted concatenation parameters |
| US10832665B2 (en) | 2016-05-27 | 2020-11-10 | Centurylink Intellectual Property Llc | Internet of things (IoT) human interface apparatus, system, and method |
| US9922655B2 (en) | 2016-05-31 | 2018-03-20 | International Business Machines Corporation | System, method, and recording medium for controlling dialogue interruptions by a speech output device |
| US9972304B2 (en) | 2016-06-03 | 2018-05-15 | Apple Inc. | Privacy preserving distributed evaluation framework for embedded personalized systems |
| WO2017212206A1 (en) | 2016-06-06 | 2017-12-14 | Cirrus Logic International Semiconductor Limited | Voice user interface |
| US11227589B2 (en) | 2016-06-06 | 2022-01-18 | Apple Inc. | Intelligent list reading |
| US10249300B2 (en) | 2016-06-06 | 2019-04-02 | Apple Inc. | Intelligent list reading |
| US10049663B2 (en) | 2016-06-08 | 2018-08-14 | Apple, Inc. | Intelligent automated assistant for media exploration |
| CN107480161A (zh) | 2016-06-08 | 2017-12-15 | 苹果公司 | 用于媒体探究的智能自动化助理 |
| DK179309B1 (en) | 2016-06-09 | 2018-04-23 | Apple Inc | Intelligent automated assistant in a home environment |
| US10148546B2 (en) | 2016-06-09 | 2018-12-04 | Apple Inc. | Scheduling processing tasks based on predicted context |
| US10192552B2 (en) | 2016-06-10 | 2019-01-29 | Apple Inc. | Digital assistant providing whispered speech |
| US10509862B2 (en) | 2016-06-10 | 2019-12-17 | Apple Inc. | Dynamic phrase expansion of language input |
| US10592601B2 (en) | 2016-06-10 | 2020-03-17 | Apple Inc. | Multilingual word prediction |
| US10490187B2 (en) | 2016-06-10 | 2019-11-26 | Apple Inc. | Digital assistant providing automated status report |
| US10127926B2 (en) | 2016-06-10 | 2018-11-13 | Google Llc | Securely executing voice actions with speaker identification and authentication input types |
| US10067938B2 (en) | 2016-06-10 | 2018-09-04 | Apple Inc. | Multilingual word prediction |
| US10586535B2 (en) | 2016-06-10 | 2020-03-10 | Apple Inc. | Intelligent digital assistant in a multi-tasking environment |
| DK179049B1 (en) | 2016-06-11 | 2017-09-18 | Apple Inc | Data driven natural language event detection and classification |
| AU2017100486C4 (en) | 2016-06-11 | 2019-09-05 | Apple Inc. | Intelligent device arbitration and control |
| DK179415B1 (en) | 2016-06-11 | 2018-06-14 | Apple Inc | Intelligent device arbitration and control |
| DK201670540A1 (en) | 2016-06-11 | 2018-01-08 | Apple Inc | Application integration with a digital assistant |
| DK179343B1 (en) | 2016-06-11 | 2018-05-14 | Apple Inc | Intelligent task discovery |
| CN111913778A (zh) | 2016-06-11 | 2020-11-10 | 苹果公司 | 具有数字助理的应用集成 |
| CN107491285B (zh) | 2016-06-11 | 2019-01-01 | 苹果公司 | 智能设备仲裁和控制 |
| DK201670608A1 (en) | 2016-06-12 | 2018-01-02 | Apple Inc | User interfaces for retrieving contextually relevant media content |
| US10117046B2 (en) | 2016-06-12 | 2018-10-30 | Apple Inc. | Discrete location classification |
| WO2017218194A1 (en) | 2016-06-12 | 2017-12-21 | Apple Inc. | User interfaces for retrieving contextually relevant media content |
| US10257314B2 (en) | 2016-06-22 | 2019-04-09 | Microsoft Technology Licensing, Llc | End-to-end user experiences with a digital assistant |
| US10271093B1 (en) | 2016-06-27 | 2019-04-23 | Amazon Technologies, Inc. | Systems and methods for routing content to an associated output device |
| US10332513B1 (en) | 2016-06-27 | 2019-06-25 | Amazon Technologies, Inc. | Voice enablement and disablement of speech processing functionality |
| US11232136B2 (en) | 2016-06-27 | 2022-01-25 | Google Llc | Contextual voice search suggestions |
| US9990176B1 (en) | 2016-06-28 | 2018-06-05 | Amazon Technologies, Inc. | Latency reduction for content playback |
| US10200397B2 (en) | 2016-06-28 | 2019-02-05 | Microsoft Technology Licensing, Llc | Robust matching for identity screening |
| US10783151B1 (en) | 2016-06-29 | 2020-09-22 | Amazon Technologies, Inc. | Popularity-based content feed management system |
| US20180007096A1 (en) | 2016-06-30 | 2018-01-04 | Microsoft Technology Licensing, Llc | Weighted data center reselection |
| US10491598B2 (en) | 2016-06-30 | 2019-11-26 | Amazon Technologies, Inc. | Multi-factor authentication to access services |
| GB201611380D0 (en) | 2016-06-30 | 2016-08-17 | Microsoft Technology Licensing Llc | Artificial neural network with side input for language modelling and prediction |
| US9934777B1 (en) | 2016-07-01 | 2018-04-03 | Amazon Technologies, Inc. | Customized speech processing language models |
| EP3482391B1 (en) | 2016-07-06 | 2023-06-14 | DRNC Holdings, Inc. | System and method for customizing smart home speech interfaces using personalized speech profiles |
| US10339224B2 (en) | 2016-07-13 | 2019-07-02 | Fujitsu Social Science Laboratory Limited | Speech recognition and translation terminal, method and non-transitory computer readable medium |
| US10467114B2 (en) | 2016-07-14 | 2019-11-05 | International Business Machines Corporation | Hierarchical data processor tester |
| US11211168B2 (en) | 2016-07-19 | 2021-12-28 | Northwestern University | Systems and methods for identifying content based on user interactions |
| US9825801B1 (en) | 2016-07-22 | 2017-11-21 | Spotify Ab | Systems and methods for using seektables to stream media items |
| US10303772B2 (en) | 2016-07-29 | 2019-05-28 | International Business Machines Corporation | Measuring mutual understanding in human-computer conversation |
| US9892732B1 (en) | 2016-08-12 | 2018-02-13 | Paypal, Inc. | Location based voice recognition system |
| US10387461B2 (en) | 2016-08-16 | 2019-08-20 | Google Llc | Techniques for suggesting electronic messages based on user activity and other context |
| US9967382B2 (en) | 2016-08-19 | 2018-05-08 | Amazon Technologies, Inc. | Enabling voice control of telephone device |
| US20180060312A1 (en) | 2016-08-23 | 2018-03-01 | Microsoft Technology Licensing, Llc | Providing ideogram translation |
| US10110272B2 (en) | 2016-08-24 | 2018-10-23 | Centurylink Intellectual Property Llc | Wearable gesture control device and method |
| US10313779B2 (en) | 2016-08-26 | 2019-06-04 | Bragi GmbH | Voice assistant system for wireless earpieces |
| US11200026B2 (en) | 2016-08-26 | 2021-12-14 | Bragi GmbH | Wireless earpiece with a passive virtual assistant |
| US10192551B2 (en) | 2016-08-30 | 2019-01-29 | Google Llc | Using textual input and user state information to generate reply content to present in response to the textual input |
| US10217462B2 (en) | 2016-08-31 | 2019-02-26 | Microsoft Technology Licensing, Llc | Automating natural language task/dialog authoring by leveraging existing content |
| US10546066B2 (en) | 2016-08-31 | 2020-01-28 | Microsoft Technology Licensing, Llc | End-to-end learning of dialogue agents for information access |
| US10474753B2 (en) | 2016-09-07 | 2019-11-12 | Apple Inc. | Language identification using recurrent neural networks |
| CN107809372A (zh) | 2016-09-08 | 2018-03-16 | 阿里巴巴集团控股有限公司 | 活动提醒消息的生成方法、活动提醒方法及装置 |
| US10403273B2 (en) | 2016-09-09 | 2019-09-03 | Oath Inc. | Method and system for facilitating a guided dialog between a user and a conversational agent |
| EP4131912A1 (en) | 2016-09-09 | 2023-02-08 | Honor Device Co., Ltd. | Method and apparatus for pushing notification, mobile terminal, and graphical user interface |
| US20180089166A1 (en) | 2016-09-23 | 2018-03-29 | Apple Inc. | User interface for providing text prediction |
| US10043516B2 (en) | 2016-09-23 | 2018-08-07 | Apple Inc. | Intelligent automated assistant |
| US10846618B2 (en) | 2016-09-23 | 2020-11-24 | Google Llc | Smart replies using an on-device model |
| US9786271B1 (en) | 2016-09-28 | 2017-10-10 | International Business Machines Corporation | Voice pattern coding sequence and cataloging voice matching system |
| US20180088969A1 (en) | 2016-09-28 | 2018-03-29 | Lenovo (Singapore) Pte. Ltd. | Method and device for presenting instructional content |
| US10304463B2 (en) | 2016-10-03 | 2019-05-28 | Google Llc | Multi-user personalization at a voice interface device |
| WO2018067528A1 (en) | 2016-10-03 | 2018-04-12 | Google Llc | Device leadership negotiation among voice interface devices |
| KR102095514B1 (ko) | 2016-10-03 | 2020-03-31 | 구글 엘엘씨 | 디바이스 토폴로지에 기초한 음성 명령 프로세싱 |
| JP2018063537A (ja) | 2016-10-12 | 2018-04-19 | 株式会社東芝 | ホームネットワーク、電子機器、処理装置および表示方法 |
| US10372814B2 (en) | 2016-10-18 | 2019-08-06 | International Business Machines Corporation | Methods and system for fast, adaptive correction of misspells |
| CN106484139B (zh) | 2016-10-19 | 2019-01-29 | 北京新美互通科技有限公司 | 表情符号推荐方法及装置 |
| US11392598B2 (en) | 2016-10-19 | 2022-07-19 | Ebay Inc. | Applying a quantitative range for qualitative terms |
| US10678502B2 (en) | 2016-10-20 | 2020-06-09 | Qualcomm Incorporated | Systems and methods for in-ear control of remote devices |
| US10950230B2 (en) | 2016-10-28 | 2021-03-16 | Panasonic Intellectual Property Corporation Of America | Information processing device and information processing method |
| US10469665B1 (en) | 2016-11-01 | 2019-11-05 | Amazon Technologies, Inc. | Workflow based communications routing |
| US20180121432A1 (en) | 2016-11-02 | 2018-05-03 | Microsoft Technology Licensing, Llc | Digital assistant integration with music services |
| US10783883B2 (en) | 2016-11-03 | 2020-09-22 | Google Llc | Focus session at a voice interface device |
| US10777201B2 (en) | 2016-11-04 | 2020-09-15 | Microsoft Technology Licensing, Llc | Voice enabled bot platform |
| US10776714B2 (en) | 2016-11-04 | 2020-09-15 | Google Llc | Constructing and processing computational graphs for dynamically structured machine learning models |
| US10127908B1 (en) | 2016-11-11 | 2018-11-13 | Amazon Technologies, Inc. | Connected accessory for a voice-controlled device |
| US10515632B2 (en) | 2016-11-15 | 2019-12-24 | At&T Intellectual Property I, L.P. | Asynchronous virtual assistant |
| KR102501714B1 (ko) | 2016-11-16 | 2023-02-21 | 삼성전자주식회사 | 사용자의 음성 입력에 대한 답변 메시지를 제공하는 디바이스 및 방법 |
| US10170110B2 (en) | 2016-11-17 | 2019-01-01 | Robert Bosch Gmbh | System and method for ranking of hybrid speech recognition results with neural networks |
| US10332523B2 (en) | 2016-11-18 | 2019-06-25 | Google Llc | Virtual assistant identification of nearby computing devices |
| US10230841B2 (en) | 2016-11-22 | 2019-03-12 | Apple Inc. | Intelligent digital assistant for declining an incoming call |
| CA3044602A1 (en) | 2016-11-23 | 2018-05-31 | Alarm.Com Incorporated | Detection of authorized user presence and handling of unauthenticated monitoring system commands |
| US10331791B2 (en) | 2016-11-23 | 2019-06-25 | Amazon Technologies, Inc. | Service for developing dialog-driven applications |
| US10242443B2 (en) | 2016-11-23 | 2019-03-26 | General Electric Company | Deep learning medical systems and methods for medical procedures |
| KR20180060328A (ko) | 2016-11-28 | 2018-06-07 | 삼성전자주식회사 | 멀티 모달 입력을 처리하는 전자 장치, 멀티 모달 입력을 처리하는 방법 및 멀티 모달 입력을 처리하는 서버 |
| GB201620235D0 (en) | 2016-11-29 | 2017-01-11 | Microsoft Technology Licensing Llc | Neural network data entry system |
| US9934785B1 (en) | 2016-11-30 | 2018-04-03 | Spotify Ab | Identification of taste attributes from an audio signal |
| US11144825B2 (en) | 2016-12-01 | 2021-10-12 | University Of Southern California | Interpretable deep learning framework for mining and predictive modeling of health care data |
| US11281993B2 (en) | 2016-12-05 | 2022-03-22 | Apple Inc. | Model and ensemble compression for metric learning |
| US20180158548A1 (en) | 2016-12-07 | 2018-06-07 | B9 Systems, LLC | Data processing systems for scheduling work shifts, such as physician work shifts |
| JP6795387B2 (ja) | 2016-12-14 | 2020-12-02 | パナソニック株式会社 | 音声対話装置、音声対話方法、音声対話プログラム及びロボット |
| US10521245B2 (en) | 2016-12-18 | 2019-12-31 | Oracle International Corporation | Method and system for recursive plug-in application recipe generation |
| US10109275B2 (en) | 2016-12-19 | 2018-10-23 | Asapp, Inc. | Word hash language model |
| JP2018101828A (ja) | 2016-12-19 | 2018-06-28 | 船井電機株式会社 | 制御装置 |
| US10216832B2 (en) | 2016-12-19 | 2019-02-26 | Interactions Llc | Underspecification of intents in a natural language processing system |
| US11237696B2 (en) | 2016-12-19 | 2022-02-01 | Google Llc | Smart assist for repeated actions |
| US10032451B1 (en) | 2016-12-20 | 2018-07-24 | Amazon Technologies, Inc. | User recognition for speech processing systems |
| JP2018101242A (ja) | 2016-12-20 | 2018-06-28 | 株式会社リコー | 情報処理装置、情報処理方法及びプログラム。 |
| US20190182176A1 (en) | 2016-12-21 | 2019-06-13 | Facebook, Inc. | User Authentication with Voiceprints on Online Social Networks |
| US20180174576A1 (en) | 2016-12-21 | 2018-06-21 | Google Llc | Acoustic-to-word neural network speech recognizer |
| US10593346B2 (en) | 2016-12-22 | 2020-03-17 | Apple Inc. | Rank-reduced token representation for automatic speech recognition |
| US10186266B1 (en) | 2016-12-28 | 2019-01-22 | Amazon Technologies, Inc. | Message playback using a shared device |
| US10210864B2 (en) | 2016-12-29 | 2019-02-19 | T-Mobile Usa, Inc. | Voice command for communication between related devices |
| JP6725008B2 (ja) | 2016-12-29 | 2020-07-15 | ヤマハ株式会社 | コマンドデータ送信装置、ローカルエリア装置、機器制御システム、コマンドデータ送信装置の制御方法、ローカルエリア装置の制御方法、機器制御方法、及びプログラム |
| US10831366B2 (en) | 2016-12-29 | 2020-11-10 | Google Llc | Modality learning on mobile devices |
| US10268680B2 (en) | 2016-12-30 | 2019-04-23 | Google Llc | Context-aware human-to-computer dialog |
| US10115396B2 (en) | 2017-01-03 | 2018-10-30 | Logitech Europe, S.A. | Content streaming system |
| US11204787B2 (en) | 2017-01-09 | 2021-12-21 | Apple Inc. | Application integration with a digital assistant |
| US9747083B1 (en) | 2017-01-23 | 2017-08-29 | Essential Products, Inc. | Home device application programming interface |
| US9980183B1 (en) | 2017-01-24 | 2018-05-22 | Essential Products, Inc. | Media and communications in a connected environment |
| US10146768B2 (en) | 2017-01-25 | 2018-12-04 | Google Llc | Automatic suggested responses to images received in messages using language model |
| EP3358471A1 (en) | 2017-02-04 | 2018-08-08 | Tata Consultancy Services Limited | Systems and methods for assessing quality of input text using recurrent neural networks |
| US11100384B2 (en) | 2017-02-14 | 2021-08-24 | Microsoft Technology Licensing, Llc | Intelligent device user interactions |
| US10467509B2 (en) | 2017-02-14 | 2019-11-05 | Microsoft Technology Licensing, Llc | Computationally-efficient human-identifying smart assistant computer |
| CN106776581B (zh) | 2017-02-21 | 2020-01-24 | 浙江工商大学 | 基于深度学习的主观性文本情感分析方法 |
| CN108509119B (zh) | 2017-02-28 | 2023-06-02 | 三星电子株式会社 | 用于功能执行的电子设备的操作方法和支持其的电子设备 |
| KR20180101063A (ko) | 2017-03-03 | 2018-09-12 | 삼성전자주식회사 | 사용자 입력을 처리하는 전자 장치 및 그 방법 |
| DE102017203570A1 (de) | 2017-03-06 | 2018-09-06 | Volkswagen Aktiengesellschaft | Verfahren und vorrichtung zur darstellung von empfohlenen bedienhandlungen eines vorschlagssystems und interaktion mit dem vorschlagssystem |
| US10096319B1 (en) | 2017-03-13 | 2018-10-09 | Amazon Technologies, Inc. | Voice-based determination of physical and emotional characteristics of users |
| US10074371B1 (en) | 2017-03-14 | 2018-09-11 | Amazon Technologies, Inc. | Voice control of remote device by disabling wakeword detection |
| US20180268106A1 (en) | 2017-03-17 | 2018-09-20 | Orbit Healthcare, Inc. | System and method for connecting patients, medical service providers, and medical insurance providers |
| US20180270343A1 (en) | 2017-03-20 | 2018-09-20 | Motorola Mobility Llc | Enabling event-driven voice trigger phrase on an electronic device |
| US10547729B2 (en) | 2017-03-27 | 2020-01-28 | Samsung Electronics Co., Ltd. | Electronic device and method of executing function of electronic device |
| US11183181B2 (en) | 2017-03-27 | 2021-11-23 | Sonos, Inc. | Systems and methods of multiple voice services |
| US20180285056A1 (en) | 2017-03-28 | 2018-10-04 | Microsoft Technology Licensing, Llc | Accessory human interface device |
| US10468032B2 (en) | 2017-04-10 | 2019-11-05 | Intel Corporation | Method and system of speaker recognition using context aware confidence modeling |
| US10013979B1 (en) | 2017-04-17 | 2018-07-03 | Essential Products, Inc. | Expanding a set of commands to control devices in an environment |
| KR102414122B1 (ko) | 2017-04-19 | 2022-06-29 | 삼성전자주식회사 | 사용자 발화를 처리하는 전자 장치 및 그 동작 방법 |
| KR102298947B1 (ko) | 2017-04-28 | 2021-09-08 | 삼성전자주식회사 | 음성 데이터 처리 방법 및 이를 지원하는 전자 장치 |
| US10282416B2 (en) | 2017-05-05 | 2019-05-07 | Apple Inc. | Unified framework for text conversion and prediction |
| US10902855B2 (en) | 2017-05-08 | 2021-01-26 | Motorola Mobility Llc | Methods and devices for negotiating performance of control operations with acoustic signals |
| DK201770383A1 (en) | 2017-05-09 | 2018-12-14 | Apple Inc. | USER INTERFACE FOR CORRECTING RECOGNITION ERRORS |
| US10417266B2 (en) | 2017-05-09 | 2019-09-17 | Apple Inc. | Context-aware ranking of intelligent response suggestions |
| US10395654B2 (en) | 2017-05-11 | 2019-08-27 | Apple Inc. | Text normalization based on a data-driven learning network |
| US10726832B2 (en) | 2017-05-11 | 2020-07-28 | Apple Inc. | Maintaining privacy of personal information |
| DK201770439A1 (en) | 2017-05-11 | 2018-12-13 | Apple Inc. | Offline personal assistant |
| US20180330714A1 (en) | 2017-05-12 | 2018-11-15 | Apple Inc. | Machine learned systems |
| DK201770429A1 (en) | 2017-05-12 | 2018-12-14 | Apple Inc. | LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT |
| DK179745B1 (en) | 2017-05-12 | 2019-05-01 | Apple Inc. | SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT |
| DK179496B1 (en) | 2017-05-12 | 2019-01-15 | Apple Inc. | USER-SPECIFIC Acoustic Models |
| US11301477B2 (en) | 2017-05-12 | 2022-04-12 | Apple Inc. | Feedback analysis of a digital assistant |
| DK201770411A1 (en) | 2017-05-15 | 2018-12-20 | Apple Inc. | MULTI-MODAL INTERFACES |
| DK201770431A1 (en) | 2017-05-15 | 2018-12-20 | Apple Inc. | Optimizing dialogue policy decisions for digital assistants using implicit feedback |
| US10366692B1 (en) | 2017-05-15 | 2019-07-30 | Amazon Technologies, Inc. | Accessory for a voice-controlled device |
| DK201770432A1 (en) | 2017-05-15 | 2018-12-21 | Apple Inc. | Hierarchical belief states for digital assistants |
| US10395659B2 (en) | 2017-05-16 | 2019-08-27 | Apple Inc. | Providing an auditory-based interface of a digital assistant |
| US10303715B2 (en) | 2017-05-16 | 2019-05-28 | Apple Inc. | Intelligent automated assistant for media exploration |
| US20180336892A1 (en) | 2017-05-16 | 2018-11-22 | Apple Inc. | Detecting a trigger of a digital assistant |
| EP3445058B1 (en) | 2017-05-16 | 2021-07-07 | Apple Inc. | Methods and interfaces for home media control |
| US10403278B2 (en) | 2017-05-16 | 2019-09-03 | Apple Inc. | Methods and systems for phonetic matching in digital assistant services |
| US11048995B2 (en) | 2017-05-16 | 2021-06-29 | Google Llc | Delayed responses by computational assistant |
| US10009666B1 (en) | 2017-05-16 | 2018-06-26 | Google Llc | Cross-device handoffs |
| US10311144B2 (en) | 2017-05-16 | 2019-06-04 | Apple Inc. | Emoji word sense disambiguation |
| KR102100742B1 (ko) | 2017-05-16 | 2020-04-14 | 애플 인크. | 디지털 어시스턴트 서비스의 원거리 확장 |
| DK179549B1 (en) | 2017-05-16 | 2019-02-12 | Apple Inc. | FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES |
| US20180336439A1 (en) | 2017-05-18 | 2018-11-22 | Intel Corporation | Novelty detection using discriminator of generative adversarial network |
| US10170137B2 (en) | 2017-05-18 | 2019-01-01 | International Business Machines Corporation | Voice signal component forecaster |
| US10521512B2 (en) | 2017-05-26 | 2019-12-31 | Bose Corporation | Dynamic text-to-speech response from a smart speaker |
| US10657328B2 (en) | 2017-06-02 | 2020-05-19 | Apple Inc. | Multi-task recurrent neural network architecture for efficient morphology handling in neural language modeling |
| US20180349447A1 (en) | 2017-06-02 | 2018-12-06 | Apple Inc. | Methods and systems for customizing suggestions using user-specific information |
| US20180349472A1 (en) | 2017-06-02 | 2018-12-06 | Apple Inc. | Methods and systems for providing query suggestions |
| US20180349346A1 (en) | 2017-06-02 | 2018-12-06 | Apple Inc. | Lattice-based techniques for providing spelling corrections |
| US10410635B2 (en) | 2017-06-09 | 2019-09-10 | Soundhound, Inc. | Dual mode speech recognition |
| US20180357073A1 (en) | 2017-06-13 | 2018-12-13 | Motorola Solutions, Inc | Method, device, and system for electronic digital assistant for natural language detection of a user status change and corresponding modification of a user interface |
| US10990930B2 (en) | 2017-06-19 | 2021-04-27 | International Business Machines Corporation | Autonomous event generator |
| US10453451B2 (en) | 2017-07-05 | 2019-10-22 | Comcast Cable Communications, Llc | Methods and systems for using voice to control multiple devices |
| US20190013025A1 (en) | 2017-07-10 | 2019-01-10 | Google Inc. | Providing an ambient assist mode for computing devices |
| US20190019077A1 (en) | 2017-07-17 | 2019-01-17 | Cisco Technology, Inc. | Automatic configuration of cognitive assistant |
| CN107450800A (zh) | 2017-07-25 | 2017-12-08 | 维沃移动通信有限公司 | 一种任务设置方法、移动终端及计算机可读存储介质 |
| US10467552B2 (en) | 2017-07-31 | 2019-11-05 | Pearson Education, Inc. | System and method for automatic content provisioning |
| CN107545262B (zh) | 2017-07-31 | 2020-11-06 | 华为技术有限公司 | 一种在自然场景图像中检测文本的方法及装置 |
| US10783149B2 (en) | 2017-08-02 | 2020-09-22 | Microsoft Technology Licensing, Llc | Dynamic productivity content rendering based upon user interaction patterns |
| US11294530B2 (en) | 2017-08-07 | 2022-04-05 | Microsoft Technology Licensing, Llc | Displaying a translucent version of a user interface element |
| US11972327B2 (en) | 2017-08-25 | 2024-04-30 | Samsung Electronics Co., Ltd. | Method for automating actions for an electronic device |
| KR102426704B1 (ko) | 2017-08-28 | 2022-07-29 | 삼성전자주식회사 | 음성 인식 서비스 운용 방법 및 이를 지원하는 전자 장치 |
| JP6929168B2 (ja) | 2017-08-31 | 2021-09-01 | キヤノン株式会社 | 音声制御デバイス、印刷装置、それらの制御方法およびプログラム |
| US10796687B2 (en) | 2017-09-06 | 2020-10-06 | Amazon Technologies, Inc. | Voice-activated selective memory for voice-capturing devices |
| US10438594B2 (en) | 2017-09-08 | 2019-10-08 | Amazon Technologies, Inc. | Administration of privileges by speech for voice assistant system |
| US11004444B2 (en) | 2017-09-08 | 2021-05-11 | Amazon Technologies, Inc. | Systems and methods for enhancing user experience by communicating transient errors |
| US10445429B2 (en) | 2017-09-21 | 2019-10-15 | Apple Inc. | Natural language understanding using vocabularies with compressed serialized tries |
| US10719507B2 (en) | 2017-09-21 | 2020-07-21 | SayMosaic Inc. | System and method for natural language processing |
| CN107786730B (zh) | 2017-09-27 | 2021-06-25 | 珠海市魅族科技有限公司 | 一种任务管理方法及终端 |
| US10466962B2 (en) | 2017-09-29 | 2019-11-05 | Sonos, Inc. | Media playback system with voice assistance |
| US10755051B2 (en) | 2017-09-29 | 2020-08-25 | Apple Inc. | Rule-based natural language processing |
| US11450314B2 (en) | 2017-10-03 | 2022-09-20 | Google Llc | Voice user interface shortcuts for an assistant application |
| JP6913897B2 (ja) | 2017-10-09 | 2021-08-04 | ボイス・ライフ・インコーポレーテッド | 無線給電の効率化 |
| KR102421255B1 (ko) | 2017-10-17 | 2022-07-18 | 삼성전자주식회사 | 음성 신호를 제어하기 위한 전자 장치 및 방법 |
| KR102299239B1 (ko) | 2017-10-21 | 2021-09-06 | 애플 인크. | 공동 디바이스 상의 가상 어시스턴트 시스템에 대한 개인 도메인 |
| US10680978B2 (en) | 2017-10-23 | 2020-06-09 | Microsoft Technology Licensing, Llc | Generating recommended responses based on historical message data |
| CN107623616A (zh) | 2017-10-27 | 2018-01-23 | 成都密为科技有限公司 | 智能网关和具有智能网关的取电开关 |
| US20190129615A1 (en) | 2017-10-30 | 2019-05-02 | Futurewei Technologies, Inc. | Apparatus and method for simplifying repeat performance of a prior performed task based on a context of a mobile device |
| US10152966B1 (en) | 2017-10-31 | 2018-12-11 | Comcast Cable Communications, Llc | Preventing unwanted activation of a hands free device |
| US9967381B1 (en) | 2017-11-03 | 2018-05-08 | Republic Wireless, Inc. | Virtual telephony assistant |
| US10515640B2 (en) | 2017-11-08 | 2019-12-24 | Intel Corporation | Generating dialogue based on verification scores |
| US10685648B2 (en) | 2017-11-08 | 2020-06-16 | International Business Machines Corporation | Sensor fusion model to enhance machine conversational awareness |
| CN107871500B (zh) | 2017-11-16 | 2021-07-20 | 百度在线网络技术（北京）有限公司 | 一种播放多媒体的方法和装置 |
| US10521946B1 (en) | 2017-11-21 | 2019-12-31 | Amazon Technologies, Inc. | Processing speech to drive animations on avatars |
| US10013654B1 (en) | 2017-11-29 | 2018-07-03 | OJO Labs, Inc. | Cooperatively operating a network of supervised learning processors to concurrently distribute supervised learning processor training and provide predictive responses to input data |
| US10636424B2 (en) | 2017-11-30 | 2020-04-28 | Apple Inc. | Multi-turn canned dialog |
| JP6962158B2 (ja) | 2017-12-01 | 2021-11-05 | ヤマハ株式会社 | 機器制御システム、機器制御方法、及びプログラム |
| CN107919123B (zh) | 2017-12-07 | 2022-06-03 | 北京小米移动软件有限公司 | 多语音助手控制方法、装置及计算机可读存储介质 |
| US10971173B2 (en) | 2017-12-08 | 2021-04-06 | Google Llc | Signal processing coordination among digital voice assistant computing devices |
| KR102480949B1 (ko) | 2017-12-08 | 2022-12-23 | 구글 엘엘씨 | 디지털 음성 어시스턴트 컴퓨팅 디바이스들 사이에서 신호 프로세싱 조정 |
| US11182122B2 (en) | 2017-12-08 | 2021-11-23 | Amazon Technologies, Inc. | Voice control of computing devices |
| US10818290B2 (en) | 2017-12-11 | 2020-10-27 | Sonos, Inc. | Home graph |
| US10664540B2 (en) | 2017-12-15 | 2020-05-26 | Intuit Inc. | Domain specific natural language understanding of customer intent in self-help |
| US11409816B2 (en) | 2017-12-19 | 2022-08-09 | Motorola Solutions, Inc. | Methods and systems for determining an action to be taken in response to a user query as a function of pre-query context information |
| US11221669B2 (en) | 2017-12-20 | 2022-01-11 | Microsoft Technology Licensing, Llc | Non-verbal engagement of a virtual assistant |
| US10685225B2 (en) | 2017-12-29 | 2020-06-16 | Wipro Limited | Method and system for detecting text in digital engineering drawings |
| US10170135B1 (en) | 2017-12-29 | 2019-01-01 | Intel Corporation | Audio gait detection and identification |
| US10733982B2 (en) | 2018-01-08 | 2020-08-04 | Apple Inc. | Multi-directional dialog |
| US10524040B2 (en) | 2018-01-29 | 2019-12-31 | Apple Inc. | Headphones with orientation sensors |
| US10733375B2 (en) | 2018-01-31 | 2020-08-04 | Apple Inc. | Knowledge-based framework for improving natural language understanding |
| US11145298B2 (en) | 2018-02-13 | 2021-10-12 | Roku, Inc. | Trigger word detection with multiple digital assistants |
| US11195000B2 (en) | 2018-02-13 | 2021-12-07 | FLIR Belgium BVBA | Swipe gesture detection systems and methods |
| US10789959B2 (en) | 2018-03-02 | 2020-09-29 | Apple Inc. | Training speaker recognition models for digital assistants |
| US10592604B2 (en) | 2018-03-12 | 2020-03-17 | Apple Inc. | Inverse text normalization for automatic speech recognition |
| US11044364B2 (en) | 2018-03-15 | 2021-06-22 | Ways Investments, LLC | System, method, and apparatus for providing help |
| US10674014B2 (en) | 2018-03-15 | 2020-06-02 | Ways Investments, LLC | System, method, and apparatus for providing help |
| US10818288B2 (en) | 2018-03-26 | 2020-10-27 | Apple Inc. | Natural assistant interaction |
| US10909331B2 (en) | 2018-03-30 | 2021-02-02 | Apple Inc. | Implicit identification of translation payload with neural machine translation |
| US10928918B2 (en) | 2018-05-07 | 2021-02-23 | Apple Inc. | Raise to speak |
| US11145294B2 (en) | 2018-05-07 | 2021-10-12 | Apple Inc. | Intelligent automated assistant for delivering content from user experiences |
| CN108647681B (zh) | 2018-05-08 | 2019-06-14 | 重庆邮电大学 | 一种带有文本方向校正的英文文本检测方法 |
| US11175880B2 (en) | 2018-05-10 | 2021-11-16 | Sonos, Inc. | Systems and methods for voice-assisted media content selection |
| US10984780B2 (en) | 2018-05-21 | 2021-04-20 | Apple Inc. | Global semantic word embeddings using bi-directional recurrent neural networks |
| DK179822B1 (da) | 2018-06-01 | 2019-07-12 | Apple Inc. | Voice interaction at a primary device to access call functionality of a companion device |
| DK180639B1 (en) | 2018-06-01 | 2021-11-04 | Apple Inc | DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT |
| US11386266B2 (en) | 2018-06-01 | 2022-07-12 | Apple Inc. | Text correction |
| US10892996B2 (en) | 2018-06-01 | 2021-01-12 | Apple Inc. | Variable latency device coordination |
| DK201870355A1 (en) | 2018-06-01 | 2019-12-16 | Apple Inc. | VIRTUAL ASSISTANT OPERATION IN MULTI-DEVICE ENVIRONMENTS |
| AU2019100576C4 (en) | 2018-06-03 | 2020-01-30 | Apple Inc. | Accelerated task performance |
| US10496705B1 (en) | 2018-06-03 | 2019-12-03 | Apple Inc. | Accelerated task performance |
| US10818296B2 (en) | 2018-06-21 | 2020-10-27 | Intel Corporation | Method and system of robust speaker recognition activation |
| EP3821323A4 (en) | 2018-07-10 | 2022-03-02 | Microsoft Technology Licensing, LLC | AUTOMATIC GENERATION OF MOVEMENTS OF AN AVATAR |
| US20200019609A1 (en) | 2018-07-13 | 2020-01-16 | Asapp, Inc. | Suggesting a response to a message by selecting a template using a neural network |
| US10721190B2 (en) | 2018-07-31 | 2020-07-21 | Microsoft Technology Licensing, Llc | Sequence to sequence to classification model for generating recommended messages |
| GB2576016B (en) | 2018-08-01 | 2021-06-23 | Arm Ip Ltd | Voice assistant devices |
| US10885277B2 (en) | 2018-08-02 | 2021-01-05 | Google Llc | On-device neural networks for natural language understanding |
| CN112313742A (zh) | 2018-08-23 | 2021-02-02 | 谷歌有限责任公司 | 根据多助理环境的特性来调节助理响应性 |
| TWI683306B (zh) | 2018-08-28 | 2020-01-21 | 仁寶電腦工業股份有限公司 | 多語音助理之控制方法 |
| US20200092625A1 (en) | 2018-09-13 | 2020-03-19 | Hayes S. Raffle | Smart device cover |
| US10958301B2 (en) | 2018-09-18 | 2021-03-23 | Roku, Inc. | Audio synchronization of a dumb speaker and a smart speaker using a spread code |
| US11010561B2 (en) | 2018-09-27 | 2021-05-18 | Apple Inc. | Sentiment prediction from textual data |
| US11170166B2 (en) | 2018-09-28 | 2021-11-09 | Apple Inc. | Neural typographical error modeling via generative adversarial networks |
| US11462215B2 (en) | 2018-09-28 | 2022-10-04 | Apple Inc. | Multi-modal inputs for voice commands |
| US10839159B2 (en) | 2018-09-28 | 2020-11-17 | Apple Inc. | Named entity normalization in a spoken dialog system |
| US20200127988A1 (en) | 2018-10-19 | 2020-04-23 | Apple Inc. | Media intercom over a secure device to device communication channel |
| KR102608470B1 (ko) | 2018-10-23 | 2023-12-01 | 삼성전자주식회사 | 데이터 인식 장치 및 방법과 트레이닝 장치 및 방법 |
| US11196863B2 (en) | 2018-10-24 | 2021-12-07 | Verint Americas Inc. | Method and system for virtual assistant conversations |
| US11475898B2 (en) | 2018-10-26 | 2022-10-18 | Apple Inc. | Low-latency multi-speaker speech recognition |
| US11238850B2 (en) | 2018-10-31 | 2022-02-01 | Walmart Apollo, Llc | Systems and methods for e-commerce API orchestration using natural language interfaces |
| CN110288077B (zh) | 2018-11-14 | 2022-12-16 | 腾讯科技（深圳）有限公司 | 一种基于人工智能的合成说话表情的方法和相关装置 |
| TWI682325B (zh) | 2018-11-20 | 2020-01-11 | 新唐科技股份有限公司 | 辨識系統及辨識方法 |
| US20200175566A1 (en) | 2018-11-30 | 2020-06-04 | International Business Machines Corporation | Adding and prioritizing items in a product list |
| WO2020117295A1 (en) | 2018-12-06 | 2020-06-11 | Google Llc | Pre-emptively initializing an automated assistant routine and/or dismissing a scheduled alarm |
| US11183183B2 (en) | 2018-12-07 | 2021-11-23 | Sonos, Inc. | Systems and methods of operating media playback systems having multiple voice assistant services |
| US11275553B2 (en) | 2018-12-07 | 2022-03-15 | Google Llc | Conditionally assigning various automated assistant function(s) to interaction with a peripheral assistant control device |
| CN109657629B (zh) | 2018-12-24 | 2021-12-07 | 科大讯飞股份有限公司 | 一种文本行提取方法及装置 |
| US11638059B2 (en) | 2019-01-04 | 2023-04-25 | Apple Inc. | Content playback on multiple devices |
| US10937425B2 (en) | 2019-01-10 | 2021-03-02 | Dell Products L.P. | Systems and methods for selectively activating and interacting with a speech recognition service during application runtime without interrupting execution of the application |
| US11501862B2 (en) | 2019-03-01 | 2022-11-15 | Cambia Health Solutions, Inc. | Systems and methods for healthcare provider dashboards |
| US11348573B2 (en) | 2019-03-18 | 2022-05-31 | Apple Inc. | Multimodality in digital assistant systems |
| US11258865B2 (en) | 2019-03-28 | 2022-02-22 | Servicenow, Inc. | Automated integration with cloud-based services |
| US11467646B2 (en) | 2019-03-28 | 2022-10-11 | Lenovo (Singapore) Pte. Ltd. | Context data sharing |
| CN110135411B (zh) | 2019-04-30 | 2021-09-10 | 北京邮电大学 | 名片识别方法和装置 |
| US11475884B2 (en) | 2019-05-06 | 2022-10-18 | Apple Inc. | Reducing digital assistant latency when a language is incorrectly determined |
| US11423908B2 (en) | 2019-05-06 | 2022-08-23 | Apple Inc. | Interpreting spoken requests |
| DK201970509A1 (en) | 2019-05-06 | 2021-01-15 | Apple Inc | Spoken notifications |
| US11307752B2 (en) | 2019-05-06 | 2022-04-19 | Apple Inc. | User configurable task triggers |
| US11140099B2 (en) | 2019-05-21 | 2021-10-05 | Apple Inc. | Providing message response suggestions |
| US20200379640A1 (en) | 2019-05-29 | 2020-12-03 | Apple Inc. | User-realistic path synthesis via multi-task generative adversarial networks for continuous path keyboard input |
| US11496600B2 (en) | 2019-05-31 | 2022-11-08 | Apple Inc. | Remote execution of machine-learned models |
| US20200380389A1 (en) | 2019-05-31 | 2020-12-03 | Apple Inc. | Sentiment and intent analysis for customizing suggestions using user-specific information |
| US11289073B2 (en) | 2019-05-31 | 2022-03-29 | Apple Inc. | Device text to speech |
| DK180129B1 (en) | 2019-05-31 | 2020-06-02 | Apple Inc. | USER ACTIVITY SHORTCUT SUGGESTIONS |
| DK180649B1 (en) | 2019-05-31 | 2021-11-11 | Apple Inc | Voice assistant discoverability through on-device targeting and personalization |
| US11887585B2 (en) | 2019-05-31 | 2024-01-30 | Apple Inc. | Global re-ranker |
| DK201970511A1 (en) | 2019-05-31 | 2021-02-15 | Apple Inc | Voice identification in digital assistant systems |
| US11360641B2 (en) | 2019-06-01 | 2022-06-14 | Apple Inc. | Increasing the relevance of new available information |
| US11468890B2 (en) | 2019-06-01 | 2022-10-11 | Apple Inc. | Methods and user interfaces for voice-based control of electronic devices |
| CN110647274A (zh) | 2019-08-15 | 2020-01-03 | 华为技术有限公司 | 一种界面显示方法及设备 |
| CN110531860B (zh) | 2019-09-02 | 2020-07-24 | 腾讯科技（深圳）有限公司 | 一种基于人工智能的动画形象驱动方法和装置 |
| CN110825469A (zh) | 2019-09-18 | 2020-02-21 | 华为技术有限公司 | 语音助手显示方法及装置 |
| CN110598671B (zh) | 2019-09-23 | 2022-09-27 | 腾讯科技（深圳）有限公司 | 基于文本的虚拟形象行为控制方法、设备和介质 |
| US20210090314A1 (en) | 2019-09-25 | 2021-03-25 | Apple Inc. | Multimodal approach for avatar animation |
| US10757499B1 (en) | 2019-09-25 | 2020-08-25 | Sonos, Inc. | Systems and methods for controlling playback and other features of a wireless headphone |
-
2015
- 2015-12-08 US US14/963,089 patent/US10740384B2/en active Active
-
2016
- 2016-08-16 KR KR1020187006610A patent/KR20180038027A/ko active IP Right Grant
- 2016-08-16 WO PCT/US2016/047215 patent/WO2017044260A1/en active Application Filing
- 2016-08-16 JP JP2018511117A patent/JP6542983B2/ja active Active
- 2016-08-16 KR KR1020197005386A patent/KR102038809B1/ko active IP Right Grant
- 2016-08-16 AU AU2016320681A patent/AU2016320681B2/en active Active
- 2016-08-16 EP EP16760246.5A patent/EP3323058B1/en active Active
- 2016-08-16 CN CN201680057538.3A patent/CN108702539B/zh active Active
-
2019
- 2019-07-30 US US16/526,751 patent/US10956486B2/en active Active
-
2021
- 2021-03-05 US US17/193,967 patent/US11809483B2/en active Active
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20130174034A1 (en) | 2011-12-30 | 2013-07-04 | Next It Corporation | Providing Variable Responses in a Virtual-Assistant Environment |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024085592A1 (ko) * | 2022-10-19 | 2024-04-25 | 삼성전자 주식회사 | 전자 장치 및 전자 장치의 음성 어시스턴트 서비스 제공 방법 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2017044260A9 (en) | 2018-02-08 |
| US11809483B2 (en) | 2023-11-07 |
| JP6542983B2 (ja) | 2019-07-10 |
| AU2016320681A1 (en) | 2018-03-15 |
| KR20190021495A (ko) | 2019-03-05 |
| JP2018534652A (ja) | 2018-11-22 |
| WO2017044260A1 (en) | 2017-03-16 |
| AU2016320681B2 (en) | 2019-07-18 |
| KR20180038027A (ko) | 2018-04-13 |
| US20210191968A1 (en) | 2021-06-24 |
| CN108702539A (zh) | 2018-10-23 |
| EP3323058B1 (en) | 2020-02-19 |
| US10740384B2 (en) | 2020-08-11 |
| US10956486B2 (en) | 2021-03-23 |
| US20190354548A1 (en) | 2019-11-21 |
| US20170068670A1 (en) | 2017-03-09 |
| CN108702539B (zh) | 2021-05-28 |
| EP3323058A1 (en) | 2018-05-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102038809B1 (ko) | 미디어 검색 및 재생을 위한 지능형 자동화 어시스턴트 | |
| JP6779257B2 (ja) | メディア環境内におけるインテリジェント自動アシスタント | |
| US20240134506A1 (en) | Intelligent automated assistant in a media environment |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A107 | Divisional application of patent | ||
| A201 | Request for examination | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |