JP6235757B2 - 対話データ収集システム、対話データ収集方法、対話データ収集プログラム、対話データ収集支援装置、対話データ収集支援方法および対話データ収集支援プログラム - Google Patents
対話データ収集システム、対話データ収集方法、対話データ収集プログラム、対話データ収集支援装置、対話データ収集支援方法および対話データ収集支援プログラム Download PDFInfo
- Publication number
- JP6235757B2 JP6235757B2 JP2017505992A JP2017505992A JP6235757B2 JP 6235757 B2 JP6235757 B2 JP 6235757B2 JP 2017505992 A JP2017505992 A JP 2017505992A JP 2017505992 A JP2017505992 A JP 2017505992A JP 6235757 B2 JP6235757 B2 JP 6235757B2
- Authority
- JP
- Japan
- Prior art keywords
- task
- achievement
- data collection
- response information
- dialogue
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013480 data collection Methods 0.000 title claims description 99
- 238000000034 method Methods 0.000 title description 14
- 230000004044 response Effects 0.000 claims description 148
- 230000002452 interceptive effect Effects 0.000 claims description 19
- 238000011156 evaluation Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 3
- 238000007726 management method Methods 0.000 description 49
- 230000015572 biosynthetic process Effects 0.000 description 12
- 238000003786 synthesis reaction Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 8
- 230000003993 interaction Effects 0.000 description 7
- 238000012358 sourcing Methods 0.000 description 7
- 230000000052 comparative effect Effects 0.000 description 6
- 206010000210 abortion Diseases 0.000 description 5
- 231100000176 abortion Toxicity 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000013179 statistical model Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
- G06Q10/06316—Sequencing of tasks or work
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
- G06Q10/06311—Scheduling, planning or task assignment for a person or group
- G06Q10/063114—Status monitoring or status determination for a person or group
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/18—Speech classification or search using natural language modelling
- G10L15/1815—Semantic context, e.g. disambiguation of the recognition hypotheses based on word meaning
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/28—Constructional details of speech recognition systems
- G10L15/30—Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Tourism & Hospitality (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Marketing (AREA)
- Multimedia (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Acoustics & Sound (AREA)
- Human Computer Interaction (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Educational Administration (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- General Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Artificial Intelligence (AREA)
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)
Description
図1に例示されるように、第1の実施形態に係る対話データ収集システムは、対話データ収集装置100と、対話管理装置200と、外部アプリケーションサーバ300とを含む。
例えば、課題に対して前述の正解応答文または正解インデックスとは別に特定の応答文またはインデックスが定められている場合に、対話管理装置200からの応答情報が当該特定の応答文またはインデックスに合致するならば、課題達成通知部105は未だ満足していない達成条件を作業者に通知してもよい。
第1の実施形態に係る対話データ収集システムは、課題の達成または未達成を自動判定できるものの、対話システムの性能が低い場合や作業者の発話文が不適切である場合には課題の達成が不可能であったり達成までに膨大な時間を費やしたりするおそれがある。クラウドソーシングを利用して不特定多数の作業者に対話作業を委託する都合上、各課題は概ね均一な時間で達成できることが好ましい。
対話データ収集装置100がクラウドソーシングサーバに組み込まれる場合には、作業者は例えば図6に示される対話データ収集支援装置600(クライアント端末に相当)を操作して対話システムとの対話を行うことができる。
101,601・・・発話文取得部
102,602・・・応答情報提示部
103,603・・・課題提示部
104,604・・・課題達成判定部
105・・・課題達成通知部
106・・・データ収集部
507・・・課題打ち切り判定部
200・・・対話管理装置
300・・・外部アプリケーションサーバ
600・・・対話データ収集支援装置
Claims (12)
- 作業者に与えられる課題を、当該課題を達成するための対話の開始前に提示する課題提示部と、
前記作業者から発話文を取得して対話管理装置に与える取得部と、
前記対話管理装置が前記発話文に基づいて対話状態を進行させることにより生成した応答情報を受け取り、当該応答情報を前記作業者に提示する応答情報提示部と、
前記応答情報を前記課題に対して予め定められた1つ以上の達成条件と比較し、当該達成条件が満足したか否かに基づいて当該課題の達成または未達成を判定する達成判定部と、
前記課題の達成を前記作業者に通知する通知部と、
前記発話文および前記応答情報を含む対話データを収集する収集部と
を具備する、対話データ収集システム。 - 前記対話データは、前記課題の達成または未達成の判定結果をさらに含む、請求項1記載の対話データ収集システム。
- 前記対話データは、前記作業者からフィードバックされた評価結果をさらに含む、請求項1記載の対話データ収集システム。
- 前記課題提示部、前記取得部、前記応答情報提示部および前記通知部は、前記作業者によって操作されるクライアント端末に組み込まれ、
前記課題提示部は、前記クライアント端末にネットワーク接続されたサーバによって管理される課題リストから前記課題を抽出し、
前記通知部は、前記課題の達成が判定された場合に次の課題に挑戦可能であることを前記作業者に通知する、
請求項1記載の対話データ収集システム。 - 前記収集部が前記クライアント端末に組み込まれ、
前記収集部は、前記サーバに組み込まれる対話作業データベースに前記対話データを格納する、
請求項4記載の対話データ収集システム。 - 前記達成判定部は、前記達成条件の総数が2以上である場合には、前記対話管理装置から前記応答情報を受け取る度に当該応答情報を未だ満足していない達成条件と比較し、全ての達成条件が満足すれば前記課題の達成を判定する、請求項1記載の対話データ収集システム。
- 前記達成判定部は、前記達成条件の総数が2以上であって達成順序が設定されている場合には、前記対話管理装置から前記応答情報を受け取る度に当該応答情報を未だ満足していない達成条件のうち対応する達成順序が最小である1つ以上の達成条件と比較し、全ての達成条件が満足すれば前記課題の達成を判定する、請求項1記載の対話データ収集システム。
- 前記達成判定部は、未だ満足していない達成条件を特定し、
前記通知部は、前記未だ満足していない達成条件を前記作業者に通知する、
請求項1記載の対話データ収集システム。 - 発話文の取得回数、同一の発話文の再取得回数、対話状態が同一の状態に再遷移した回数および前記課題が提示されてからの経過時間のうち少なくとも1つの大きさに基づいて前記課題を打ち切るか否かを判定する打ち切り判定部をさらに具備し、
前記通知部は、前記課題の打ち切りを前記作業者に通知する、
請求項1記載の対話データ収集システム。 - 前記課題の打ち切りを要望する発話文が取得された場合に、前記課題の打ち切りを判定する打ち切り判定部をさらに具備し、
前記通知部は、前記課題の打ち切りを前記作業者に通知する、
請求項1記載の対話データ収集システム。 - 作業者に与えられる課題を、当該課題を達成するための対話の開始前に提示することと、
前記作業者から発話文を取得して対話管理装置に与えることと、
前記対話管理装置が前記発話文に基づいて対話状態を進行させることにより生成した応答情報を受け取り、当該応答情報を前記作業者に提示することと、
前記応答情報を前記課題に対して予め定められた1つ以上の達成条件と比較し、当該達成条件が満足したか否かに基づいて当該課題の達成または未達成を判定することと、
前記課題の達成を前記作業者に通知することと、
前記発話文および前記応答情報を含む対話データを収集することと
を具備する、対話データ収集方法。 - コンピュータを、
作業者に与えられる課題を、当該課題を達成するための対話の開始前に提示する手段、
前記作業者から発話文を取得して対話管理装置に与える手段、
前記対話管理装置が前記発話文に基づいて対話状態を進行させることにより生成した応答情報を受け取り、当該応答情報を前記作業者に提示する手段、
前記応答情報を前記課題に対して予め定められた1つ以上の達成条件と比較し、当該達成条件が満足したか否かに基づいて当該課題の達成または未達成を判定する手段、
前記課題の達成を前記作業者に通知する手段、
前記発話文および前記応答情報を含む対話データを収集する手段
として機能させるための対話データ収集プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2015/058323 WO2016147400A1 (ja) | 2015-03-19 | 2015-03-19 | 対話データ収集システム、対話データ収集方法、対話データ収集プログラム、対話データ収集支援装置、対話データ収集支援方法および対話データ収集支援プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016147400A1 JPWO2016147400A1 (ja) | 2017-06-08 |
JP6235757B2 true JP6235757B2 (ja) | 2017-11-22 |
Family
ID=56918504
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017505992A Active JP6235757B2 (ja) | 2015-03-19 | 2015-03-19 | 対話データ収集システム、対話データ収集方法、対話データ収集プログラム、対話データ収集支援装置、対話データ収集支援方法および対話データ収集支援プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11379768B2 (ja) |
JP (1) | JP6235757B2 (ja) |
WO (1) | WO2016147400A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6621776B2 (ja) * | 2017-03-22 | 2019-12-18 | 株式会社東芝 | 検証システム、検証方法及びプログラム |
JP6853752B2 (ja) * | 2017-08-17 | 2021-03-31 | Kddi株式会社 | 対話シナリオコーパスの作成支援システム |
WO2019161198A1 (en) | 2018-02-15 | 2019-08-22 | DMAI, Inc. | System and method for speech understanding via integrated audio and visual based speech recognition |
US11455986B2 (en) * | 2018-02-15 | 2022-09-27 | DMAI, Inc. | System and method for conversational agent via adaptive caching of dialogue tree |
WO2019161241A1 (en) | 2018-02-15 | 2019-08-22 | DMAI, Inc. | System and method for identifying a point of interest based on intersecting visual trajectories |
DK201870353A1 (en) * | 2018-05-07 | 2019-12-04 | Apple Inc. | USER INTERFACES FOR RECOMMENDING AND CONSUMING CONTENT ON AN ELECTRONIC DEVICE |
US20200304313A1 (en) * | 2019-03-19 | 2020-09-24 | Servicenow, Inc. | Electronic signature and acknowledgement approaches |
CN114730580A (zh) | 2019-11-11 | 2022-07-08 | 苹果公司 | 基于时间段的精选播放列表的用户界面 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10333543A (ja) | 1997-06-04 | 1998-12-18 | Mitsubishi Electric Corp | 訓練装置 |
JP3933813B2 (ja) * | 1999-04-08 | 2007-06-20 | 三菱電機株式会社 | 音声対話装置 |
JP2003228449A (ja) | 2002-02-01 | 2003-08-15 | Sharp Corp | 対話装置及び対話処理プログラムを記録した記録媒体 |
JP4197344B2 (ja) * | 2006-02-20 | 2008-12-17 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 音声対話システム |
JP2007264199A (ja) * | 2006-03-28 | 2007-10-11 | Toshiba Corp | 対話装置、対話方法、対話システム及びコンピュータプログラム |
JP4322907B2 (ja) * | 2006-09-29 | 2009-09-02 | 株式会社東芝 | 対話装置、対話方法及びコンピュータプログラム |
US20080244594A1 (en) * | 2007-03-29 | 2008-10-02 | International Business Machines Corporation | Visual scripting of web services for task automation |
JP2009025518A (ja) | 2007-07-19 | 2009-02-05 | Nissan Motor Co Ltd | 音声対話装置 |
US10241644B2 (en) * | 2011-06-03 | 2019-03-26 | Apple Inc. | Actionable reminder entries |
US8959030B2 (en) * | 2010-02-12 | 2015-02-17 | Avaya Inc. | Timeminder for professionals |
US20120290509A1 (en) | 2011-05-13 | 2012-11-15 | Microsoft Corporation | Training Statistical Dialog Managers in Spoken Dialog Systems With Web Data |
JP5646568B2 (ja) | 2012-09-24 | 2014-12-24 | ヤフー株式会社 | 作業評価指標生成装置 |
WO2014144579A1 (en) * | 2013-03-15 | 2014-09-18 | Apple Inc. | System and method for updating an adaptive speech recognition model |
CN105894186A (zh) * | 2016-03-30 | 2016-08-24 | 上海赞越软件服务中心 | 应用多活页的工作流流转机制 |
-
2015
- 2015-03-19 JP JP2017505992A patent/JP6235757B2/ja active Active
- 2015-03-19 WO PCT/JP2015/058323 patent/WO2016147400A1/ja active Application Filing
-
2017
- 2017-02-15 US US15/433,634 patent/US11379768B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
WO2016147400A1 (ja) | 2016-09-22 |
US20170161665A1 (en) | 2017-06-08 |
US11379768B2 (en) | 2022-07-05 |
JPWO2016147400A1 (ja) | 2017-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6235757B2 (ja) | 対話データ収集システム、対話データ収集方法、対話データ収集プログラム、対話データ収集支援装置、対話データ収集支援方法および対話データ収集支援プログラム | |
EP3491533B1 (en) | Providing command bundle suggestions for an automated assistant | |
US10163440B2 (en) | Generic virtual personal assistant platform | |
US20190019112A1 (en) | Automated assistant invocation of appropriate agent | |
JP6817467B2 (ja) | 画像および/または他のセンサデータに基づいている自動アシスタント要求の解決 | |
JP6084654B2 (ja) | 音声認識装置、音声認識システム、当該音声認識システムで使用される端末、および、話者識別モデルを生成するための方法 | |
KR100679043B1 (ko) | 음성 대화 인터페이스 장치 및 방법 | |
JP2019144598A (ja) | 開発者音声アクションシステム | |
JP6235360B2 (ja) | 発話文収集装置、方法、及びプログラム | |
JP2017102921A (ja) | 質問応答(q&a)データベースを拡張するためのシステム、方法、およびコンピュータ・プログラム(質問応答データベースの拡張) | |
US11789695B2 (en) | Automatic adjustment of muted response setting | |
KR20200084260A (ko) | 전자 장치 및 이의 제어 방법 | |
JP2018120202A (ja) | 情報処理方法及びプログラム | |
WO2023122444A1 (en) | Language model prediction of api call invocations and verbal responses | |
CN112236765A (zh) | 基于生成的子查询的集合确定复合查询的响应内容 | |
JP2023173036A (ja) | 対話情報抽出装置及び対話情報抽出方法 | |
US20220094650A1 (en) | Asynchronous resumption of dialog session(s) between a user and an automated assistant based on intermediate user interaction(s) | |
WO2021140955A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP6006737B2 (ja) | 表示制御方法、表示制御装置、表示制御端末及び表示制御プログラム | |
JP2008217370A (ja) | プロファイル登録システム、プロファイル登録方法およびプロファイル登録プログラム | |
US20220020371A1 (en) | Information processing apparatus, information processing system, information processing method, and program | |
JP2023159261A (ja) | 情報処理システム、情報処理方法及びプログラム | |
JP2020098534A (ja) | 評価装置、評価方法及びプログラム | |
JP2017053997A (ja) | 音声認識装置、音声認識方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161205 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170801 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170914 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170926 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171026 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6235757 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 Free format text: JAPANESE INTERMEDIATE CODE: R313114 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |