JPWO2021046449A5 - - Google Patents
Download PDFInfo
- Publication number
- JPWO2021046449A5 JPWO2021046449A5 JP2022514586A JP2022514586A JPWO2021046449A5 JP WO2021046449 A5 JPWO2021046449 A5 JP WO2021046449A5 JP 2022514586 A JP2022514586 A JP 2022514586A JP 2022514586 A JP2022514586 A JP 2022514586A JP WO2021046449 A5 JPWO2021046449 A5 JP WO2021046449A5
- Authority
- JP
- Japan
- Prior art keywords
- user input
- interface
- computer
- intent
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Description
図5Aの例では、モーフィングインターフェースシステム130は、テキスト文字列「Book me a flight」(「飛行機を予約してください」)を含む初期ユーザー入力530Aを受け取る。モーフィングインターフェースシステム130は、ユーザー入力530Aがフライト予約インテントに最も関連付けられている可能性が高いと判定し、それに応じて、フライト予約インターフェース500は、ほぼ瞬時に表示される。インターフェース500は、ウィジェット540を含み得る。ウィジェットは、インターフェースに関連するエンティティに関連する情報を表示または収集するインターフェースレイアウトの一部であり得る。場合によっては、ウィジェット540は、入力フィールド(例えば、テキストフィールド、チェックボックス、または他のデータ入力フォーマット)であり得る。インターフェース500は、エンティティ認識モジュール145によって決定されたエンティティ値を追加(populate)することができるウィジェット540を表示し得る。様々な実施形態では、インターフェース500は、エンティティ認識モジュール145が入力フィールドに追加(populate)する値を決定する前であっても、インターフェース500にするエンティティのためのいくつか、またはすべてのウィジェット540を表示し得る。例えば、図5Aは、フライト予約の目的地の値を入力するためのスペースを含むウィジェット540Aを含む。図5Bは同様に、フライト予約の日付の値を入力するためのスペースを含む出発・帰着日ウィジェット540Bと乗客の人数を示すウィジェット540Cとを含み、エンティティ認識モジュール145が「1 passenger Economy」(「1人、エコノミー」)の値が最も可能性が高い入力値であると予測し、それに応じてウィジェット540Cに追加された値が表示される。 In the example of FIG. 5A, morphing interface system 130 receives initial user input 530A that includes the text string "Book me a flight." Morphing interface system 130 determines that user input 530A is most likely associated with a flight booking intent, and accordingly, flight booking interface 500 is displayed almost instantly. Interface 500 may include widgets 540. A widget may be a part of an interface layout that displays or collects information related to entities associated with the interface. In some cases, widget 540 can be an input field (eg, a text field, check box, or other data entry format). Interface 500 may display a widget 540 that can populate entity values determined by entity recognition module 145. In various embodiments, the interface 500 populates some or all widgets 540 for the entity in the interface 500 even before the entity recognition module 145 determines the values to populate the input fields. can be displayed. For example, FIG. 5A includes a widget 540A that includes a space for entering a destination value for a flight reservation. FIG. 5B similarly includes a departure/return date widget 540B that includes a space for entering a date value for the flight reservation, and a widget 540C that indicates the number of passengers, and the entity recognition module 145 indicates "1 passenger Economy"("1 passenger Economy"). 1 person, economy'') is the most likely input value, and the added value in widget 540C is displayed accordingly.
図6Cは、例示的な実施形態による、より多くのユーザー入力530Fを受け取り、インターフェースが図6Aからモーフィング(morph)し続けるにつれて、ピザTシャツ購入に関連するインターフェースのために表示されるレイアウトを示す図である。図6Cにおいて、ユーザー入力530Fは、追加情報を含む。特に、ユーザーが入力を追加したため、ユーザー入力530Fが、「I want to order a pizza T-Shirt」(「ピザTシャツを注文したい」)を含むようになった。インテントマッチングモジュール140は、追加のユーザー入力を分析し、以前に選択されたピザ注文インテントがもはや最も適用可能なインテントではなくなり、新しい最も関連性のあるインテントがシャツ注文インテントであると決定する。モーフィングインターフェースシステム130は、シャツ購入インテントに適用可能なインターフェース500を選択し、クライアントデバイス110でディスプレイをモーフィング(morph)して、選択されたインテントに関連するレイアウトを表示する。例えば、ピザレストランの提案を表示するのではなく、図6Cのインターフェース500は、購入可能なピザをテーマとしたTシャツの選択肢を表示するようになった。すなわち、ユーザーインターフェース500は、ユーザーが追加の入力情報を提供し続けるにつれて、ピザの注文を表示する図6Bに示されるインターフェースから、明らかに瞬時にピザTシャツ購入オプションを表示する図6Cに示されるインターフェースにモーフィング(morph)する。例示的なシャツ購入インテントに関連するウィジェット540Mは、その時ユーザーが購入のために選択することができるピザTシャツの写真を含み得る。
FIG. 6C shows the layout displayed for an interface related to a pizza T-shirt purchase as more user input 530F is received and the interface continues to morph from FIG. 6A, according to an example embodiment. It is a diagram. In FIG. 6C, user input 530F includes additional information. In particular, user input 530F now includes "I want to order a pizza T-Shirt" because the user added the input. The
さらに、コンピュータシステム700は、静的メモリ706、グラフィックスディスプレイ710(例えば、プラズマディスプレイパネル(PDP)、液晶ディスプレイ(LCD)、またはプロジェクター)を含むことができる。コンピュータシステム700は、また、文字数字入力デバイス712(例えば、キーボード)、カーソル制御デバイス714(例えば、マウス、トラックボール、ジョイスティック、モーションセンサー、または他のポインティング機器)、信号生成デバイス718(例えば、スピーカー)、およびネットワークインターフェースデバイス720を含み得、これらは、また、バス708を介して通信するように構成されている。 Additionally, computer system 700 can include static memory 706 and a graphics display 710 (eg, a plasma display panel (PDP), liquid crystal display (LCD), or projector) . Computer system 700 also includes an alphanumeric input device 712 (e.g., a keyboard), a cursor control device 714 (e.g., a mouse, trackball, joystick, motion sensor, or other pointing device), and a signal generation device 718 (e.g., speakers). ), and a network interface device 720, which are also configured to communicate via bus 708.
Claims (20)
前記第1のユーザー入力に基づいて自然言語処理信号のセットを生成することと、
前記第1のユーザー入力と一致するインテントを選択することであって、前記選択は前記自然言語処理信号に基づき、前記インテントはコンピュータ実行可能な機能に対応することと、
前記インテントに関連する第1のインターフェースを識別することと、
前記第1のユーザー入力から、前記第1のインターフェースのエンティティに関連する値のセットを抽出することと、
前記第1のユーザー入力の前記受信とほぼ同時に、前記ユーザーデバイス上の前記第1のインターフェースとして表示を有効化し、表示される前記第1のインターフェースは前記値のセットからの値を含んでいることと、
を含むコンピュータで実行される方法。 receiving a first user input including an input string from a user device;
generating a set of natural language processing signals based on the first user input;
selecting an intent consistent with the first user input, the selection being based on the natural language processing signal, and the intent corresponding to a computer-executable function;
identifying a first interface associated with the intent;
extracting from the first user input a set of values associated with an entity of the first interface;
substantially simultaneously with said receiving said first user input, enabling display as said first interface on said user device, said first interface being displayed including a value from said set of values; and,
A method performed on a computer that includes.
前記第1のユーザー入力及び前記第2のユーザー入力の組み合わせに基づいて、更新された自然言語処理信号のセットを生成することと、
前記第1のユーザー入力および前記第2のユーザー入力の前記組み合わせに一致するインテントを選択することであって、前記選択は前記更新された自然言語処理信号のセットに基づくことと、
新たに選択されたインテントに関連する第2のインターフェースを識別することと、
前記第1のユーザー入力および前記第2のユーザー入力の前記組み合わせから、前記第2のインターフェースのエンティティに関連する値の第2のセットを抽出することと、
前記第2のインターフェースを前記ユーザーデバイス上の表示用に有効にすることであって、表示用の前記第2のインターフェースは前記値の第2のセットからの値を含むことと、
をさらに含む請求項1に記載のコンピュータで実行される方法。 receiving a second user input including a text string from the user device;
generating an updated set of natural language processing signals based on a combination of the first user input and the second user input;
selecting an intent that matches the combination of the first user input and the second user input, the selection being based on the updated set of natural language processing signals;
identifying a second interface associated with the newly selected intent;
extracting a second set of values associated with an entity of the second interface from the combination of the first user input and the second user input;
enabling the second interface for display on the user device, the second interface for display including values from the second set of values;
The computer-implemented method of claim 1, further comprising:
少なくとも1つのプロセッサによって実行可能な格納された命令を含む非一時的なコンピュータ可読記憶媒体であって、前記命令は、実行されると、前記プロセッサに、
第1のユーザーデバイスから、入力文字列を含む第1のユーザー入力を受信し、
前記第1のユーザー入力に基づいて自然言語処理信号のセットを生成し、
前記第1のユーザー入力と一致するインテントを選択し、前記選択は、前記自然言語処理信号に基づいており、前記インテントは、コンピュータが実行可能な機能に対応しており、
前記インテントに関連する第1のインターフェースを識別し、
前記第1のユーザー入力から、前記第1のインターフェースのエンティティに関連する値のセットを抽出し、および、
前記第1のユーザー入力の前記受信とほぼ同時に、前記ユーザーデバイス上の前記第1のインターフェースとして表示を可能とし、表示のための前記第1のインターフェースは、前記値のセットからの値を含むようにさせる、
コンピュータ可読記憶媒体と、
を含むコンピュータシステム。 one or more computer processors for executing computer program instructions;
a non-transitory computer-readable storage medium containing stored instructions executable by at least one processor, the instructions, when executed, causing the processor to:
receiving a first user input including an input string from a first user device;
generating a set of natural language processing signals based on the first user input;
selecting an intent consistent with the first user input, the selection being based on the natural language processing signal, and the intent corresponding to a computer-executable function;
identifying a first interface associated with the intent;
extracting from the first user input a set of values associated with an entity of the first interface; and
substantially simultaneously upon said receipt of said first user input, said first interface on said user device enables display, said first interface for display including a value from said set of values; to make
a computer readable storage medium;
computer systems including;
前記ユーザーデバイスから、テキスト文字列を含む第2のユーザー入力を受信し、
前記第1のユーザー入力および前記第2のユーザー入力の組み合わせに基づいて、更新された自然言語処理信号のセットを生成し、
前記第1のユーザー入力および前記第2のユーザー入力の前記組み合わせに一致するインテントを選択し、前記選択は、前記更新された自然言語処理信号のセットに基づいており、
新たに選択されたインテントに関連する第2のインターフェースを識別し、
前記第1のユーザー入力及び前記第2のユーザー入力の前記組み合わせから、前記第2のインターフェースのエンティティに関連する値の第2のセットを抽出し、ならびに、
前記第2のインターフェースを前記ユーザーデバイス上の表示用に有効にし、表示用の前記第2のインターフェースは前記値の第2のセットの値を含む、
ようにさせる請求項11に記載のコンピュータシステム。 The instructions further include stored instructions which, when executed, cause the processor to further:
receiving a second user input from the user device including a text string;
generating an updated set of natural language processing signals based on a combination of the first user input and the second user input;
selecting an intent that matches the combination of the first user input and the second user input, the selection being based on the updated set of natural language processing signals;
identifying a second interface associated with the newly selected intent;
extracting a second set of values associated with an entity of the second interface from the combination of the first user input and the second user input; and
enabling the second interface for display on the user device, the second interface for display including values of the second set of values;
The computer system according to claim 11.
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962895944P | 2019-09-04 | 2019-09-04 | |
US62/895,944 | 2019-09-04 | ||
US202063038604P | 2020-06-12 | 2020-06-12 | |
US63/038,604 | 2020-06-12 | ||
PCT/US2020/049544 WO2021046449A1 (en) | 2019-09-04 | 2020-09-04 | Real-time morphing interface for display on a computer screen |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022547482A JP2022547482A (en) | 2022-11-14 |
JPWO2021046449A5 true JPWO2021046449A5 (en) | 2023-09-13 |
Family
ID=74682288
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022514586A Pending JP2022547482A (en) | 2019-09-04 | 2020-09-04 | Real-time morphing interface for computer screen display |
Country Status (6)
Country | Link |
---|---|
US (1) | US11531451B2 (en) |
EP (1) | EP4026120A4 (en) |
JP (1) | JP2022547482A (en) |
KR (1) | KR20220056228A (en) |
CN (1) | CN114365143A (en) |
WO (1) | WO2021046449A1 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114365143A (en) | 2019-09-04 | 2022-04-15 | 布莱恩科技有限责任公司 | Real-time morphing interface for display on a computer screen |
WO2022182824A1 (en) * | 2021-02-26 | 2022-09-01 | Brain Technologies, Inc. | Natural query completion for a real-time morphing interface |
US20230140974A1 (en) * | 2021-11-10 | 2023-05-11 | Pencil Learning Technologies, Inc. | Systems and methods for deeply integrated presentation gadgets |
Family Cites Families (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8082264B2 (en) | 2004-04-07 | 2011-12-20 | Inquira, Inc. | Automated scheme for identifying user intent in real-time |
US9318108B2 (en) * | 2010-01-18 | 2016-04-19 | Apple Inc. | Intelligent automated assistant |
US9171541B2 (en) * | 2009-11-10 | 2015-10-27 | Voicebox Technologies Corporation | System and method for hybrid processing in a natural language voice services environment |
US8694537B2 (en) | 2010-07-29 | 2014-04-08 | Soundhound, Inc. | Systems and methods for enabling natural language processing |
US9619554B2 (en) | 2011-11-03 | 2017-04-11 | Microsoft Technology Licensing, Llc | Domain specific query-completion suggestions |
CA2854886A1 (en) | 2011-11-08 | 2013-05-16 | Google Inc. | Systems and methods for generating and displaying hierarchical search results |
KR102049034B1 (en) | 2012-02-29 | 2020-01-08 | 구글 엘엘씨 | Interactive query completion templates |
US10417037B2 (en) * | 2012-05-15 | 2019-09-17 | Apple Inc. | Systems and methods for integrating third party services with a digital assistant |
US9786097B2 (en) * | 2012-06-22 | 2017-10-10 | Matterport, Inc. | Multi-modal method for interacting with 3D models |
US10304130B2 (en) * | 2013-02-22 | 2019-05-28 | Cantor Futures Exchange, L.P. | Systems and methods of detecting manipulations on a binary options exchange |
CN105190607B (en) * | 2013-03-15 | 2018-11-30 | 苹果公司 | Pass through the user training of intelligent digital assistant |
EP3005150A4 (en) * | 2013-06-07 | 2016-06-15 | Apple Inc | Intelligent automated assistant |
US9633317B2 (en) | 2013-06-20 | 2017-04-25 | Viv Labs, Inc. | Dynamically evolving cognitive architecture system based on a natural language intent interpreter |
US9483519B2 (en) | 2013-08-28 | 2016-11-01 | International Business Machines Corporation | Authorship enhanced corpus ingestion for natural language processing |
US11061893B2 (en) | 2014-05-30 | 2021-07-13 | Apple Inc. | Multi-domain query completion |
US9767091B2 (en) * | 2015-01-23 | 2017-09-19 | Microsoft Technology Licensing, Llc | Methods for understanding incomplete natural language query |
US10482184B2 (en) * | 2015-03-08 | 2019-11-19 | Google Llc | Context-based natural language processing |
US10691473B2 (en) * | 2015-11-06 | 2020-06-23 | Apple Inc. | Intelligent automated assistant in a messaging environment |
EP3403170A4 (en) * | 2016-01-12 | 2019-08-07 | Veritone, Inc. | Methods and systems for search engines selection&optimization |
US20180052824A1 (en) * | 2016-08-19 | 2018-02-22 | Microsoft Technology Licensing, Llc | Task identification and completion based on natural language query |
US10446137B2 (en) * | 2016-09-07 | 2019-10-15 | Microsoft Technology Licensing, Llc | Ambiguity resolving conversational understanding system |
KR20180055189A (en) * | 2016-11-16 | 2018-05-25 | 삼성전자주식회사 | Method and apparatus for processing natural languages, method and apparatus for training natural language processing model |
KR20180060328A (en) * | 2016-11-28 | 2018-06-07 | 삼성전자주식회사 | Electronic apparatus for processing multi-modal input, method for processing multi-modal input and sever for processing multi-modal input |
US11210593B1 (en) | 2016-12-22 | 2021-12-28 | Brain Technologies, Inc. | Storage and execution of operation sequences |
KR20180082033A (en) * | 2017-01-09 | 2018-07-18 | 삼성전자주식회사 | Electronic device for recogniting speech |
US10467510B2 (en) * | 2017-02-14 | 2019-11-05 | Microsoft Technology Licensing, Llc | Intelligent assistant |
US11282006B2 (en) * | 2017-03-20 | 2022-03-22 | Microsoft Technology Licensing, Llc | Action assignment tracking using natural language processing in electronic communication applications |
KR102431817B1 (en) * | 2017-10-12 | 2022-08-12 | 삼성전자주식회사 | Electronic apparatus and server for processing user utterance |
US20200327890A1 (en) * | 2017-11-28 | 2020-10-15 | Sony Corporation | Information processing device and information processing method |
US11145291B2 (en) * | 2018-01-31 | 2021-10-12 | Microsoft Technology Licensing, Llc | Training natural language system with generated dialogues |
KR102596436B1 (en) * | 2018-02-20 | 2023-11-01 | 삼성전자주식회사 | System for processing user utterance and controlling method thereof |
US11200893B2 (en) * | 2018-05-07 | 2021-12-14 | Google Llc | Multi-modal interaction between users, automated assistants, and other computing services |
KR20200052612A (en) * | 2018-11-07 | 2020-05-15 | 삼성전자주식회사 | Electronic apparatus for processing user utterance and controlling method thereof |
US20200159824A1 (en) * | 2018-11-15 | 2020-05-21 | International Business Machines Corporation | Dynamic Contextual Response Formulation |
KR20200059054A (en) * | 2018-11-20 | 2020-05-28 | 삼성전자주식회사 | Electronic apparatus for processing user utterance and controlling method thereof |
US11256868B2 (en) * | 2019-06-03 | 2022-02-22 | Microsoft Technology Licensing, Llc | Architecture for resolving ambiguous user utterance |
US11847167B2 (en) * | 2019-06-05 | 2023-12-19 | Boomi, LP | System and method for generation of chat bot system with integration elements augmenting natural language processing and native business rules |
CN114365143A (en) | 2019-09-04 | 2022-04-15 | 布莱恩科技有限责任公司 | Real-time morphing interface for display on a computer screen |
-
2020
- 2020-09-04 CN CN202080062354.2A patent/CN114365143A/en active Pending
- 2020-09-04 WO PCT/US2020/049544 patent/WO2021046449A1/en unknown
- 2020-09-04 US US17/013,324 patent/US11531451B2/en active Active
- 2020-09-04 JP JP2022514586A patent/JP2022547482A/en active Pending
- 2020-09-04 EP EP20860852.1A patent/EP4026120A4/en active Pending
- 2020-09-04 KR KR1020227010952A patent/KR20220056228A/en not_active Application Discontinuation
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3814890B1 (en) | Refinement of machine learning engines for automatically generating component-based user interfaces | |
CN110096277B (en) | Dynamic page display method and device, electronic equipment and storage medium | |
US10977013B2 (en) | Systems and methods of implementing extensible browser executable components | |
US20200050632A1 (en) | Method and apparatus for generating knowledge graph, device and computer readable storage medium | |
EP3198481B1 (en) | Productivity tools for content authoring | |
US7834877B2 (en) | System-wide content-sensitive text stylization and replacement | |
US9189131B2 (en) | Context menus | |
RU2614539C2 (en) | Task-based address bar and tabs scaling | |
DE202016008310U1 (en) | Predicting search queries through a keyboard | |
US20100083172A1 (en) | Method and system for generating and displaying an interactive dynamic list view of multiply connected objects | |
JPH04344928A (en) | Method and apparatus for graphically associating user-dialogue display with main application in data processing system | |
US20130283198A1 (en) | Display controlling apparatus | |
US20120117470A1 (en) | Learning Tool for a Ribbon-Shaped User Interface | |
US20110234635A1 (en) | Image processing apparatus, image processing method, and image processing program | |
US9940411B2 (en) | Systems and methods of bypassing suppression of event bubbling for popup controls | |
US20230266870A1 (en) | Glyph-aware text selection | |
CA3155636C (en) | Dynamic typesetting | |
US10210141B2 (en) | Stylizing text by replacing glyph with alternate glyph | |
US11816431B2 (en) | Autocomplete of user entered text | |
CN114365143A (en) | Real-time morphing interface for display on a computer screen | |
WO2022071917A1 (en) | Document mark-up and navigation using natural language processing | |
US9548049B2 (en) | Methods and systems for integration of speech into systems | |
US11899904B2 (en) | Text input system with correction facility | |
JPWO2021046449A5 (en) | ||
US20230384910A1 (en) | Using Attributes for Font Recommendations |