CN106328166A - 人机对话异常检测系统及方法 - Google Patents
人机对话异常检测系统及方法 Download PDFInfo
- Publication number
- CN106328166A CN106328166A CN201610794627.8A CN201610794627A CN106328166A CN 106328166 A CN106328166 A CN 106328166A CN 201610794627 A CN201610794627 A CN 201610794627A CN 106328166 A CN106328166 A CN 106328166A
- Authority
- CN
- China
- Prior art keywords
- module
- nlg
- dst
- abnormality detection
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 62
- 238000000034 method Methods 0.000 title claims abstract description 29
- 238000012545 processing Methods 0.000 claims abstract description 14
- 238000012549 training Methods 0.000 claims abstract description 7
- 230000005856 abnormality Effects 0.000 claims description 71
- 230000002159 abnormal effect Effects 0.000 claims description 22
- 238000010801 machine learning Methods 0.000 claims description 7
- 238000012937 correction Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 6
- 238000012706 support-vector machine Methods 0.000 claims description 6
- 238000000605 extraction Methods 0.000 claims description 4
- 230000015572 biosynthetic process Effects 0.000 claims description 2
- 238000003786 synthesis reaction Methods 0.000 claims description 2
- 230000002452 interceptive effect Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 241000238558 Eucarida Species 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 210000005036 nerve Anatomy 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000009966 trimming Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000000246 remedial effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Debugging And Monitoring (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
一种人机对话异常检测系统及方法，首先通过收集历史对话收据并进行标注，利用标注好的数据对异常检测模型进行训练，在收到实时对话数据时利用训练好的异常检测模型进行异常检测并获得结果；该系统包括语音识别模块(ASR模块)、语音合成模块(TTS模块)、语义识别模块(SLU模块)、对话状态跟踪模块(DST模块)、对话决策模块(DM模块)、数据库查询模块(DATA模块)、自然语言生成模块(NLG模块)、异常检测及处理模块。本发明能够保证机器能够给出的回复都是可靠的，从而可以应用在任何场景下。
Description
技术领域
本发明涉及的是一种信息处理领域的技术，具体是一种人机对话异常检测系统及方法。
背景技术
自从Siri在iPhone4s及iPad3问世以来，人机对话系统迅速吸引了大众的注意力，从一开始的好奇、试用、调戏，到对其回答不了问题或者答非所问后的失望和放弃。尽管体验不能让人满意，Siri推出后市场的剧烈反响，体现出大众对人工智能的期望很高，苹果、Google、微软、亚马逊等国际巨头相继投入大量资源研究与Siri相似的产品。
人机对话系统的核心在于机器能够在建好的系统框架下，根据事先的数据训练或学习，自动对用户提出的问题进行理解和分析，并给出有意义的回复。限于现有语音及语义理解技术的发展水平，机器尚无法通过训练或学习完全达到和人一样的理解和表达能力。所以，现阶段比较有实际应用价值的应用在于任务型对话系统，即限定在某一个或多个垂直领域，同时进行异常检测，在机器无法正常回复用户的情况下调整回复策略和内容。
随着语音处理及自然语言理解技术的发展，目前的人机对话系统已经显示出一定的智能性，但仍然不具备与人完全自然交流的能力，经常听不懂用户的提问，或者答非所问。因此，我们发明了一种人机对话系统中的异常检测方法，能够在机器无法回答用户问题时给出反馈，并切换到人工回复模式，由人来回答问题用户问题，实现会话任务。同时，保持检测状态，在机器可以自动回答的情况下再切回到自动回复模式，从而在保障较好用户体验的情况下实现对话交互，完成会话任务。
现有人机对话系统的问题主要有：
1、不可靠，在现有人机对话系统里，不能判断机器的回答何时会在什么样的条件下出现什么样的问题，不具备可靠性，从而无法在有准确性要求的任务场景下使用。
2、用户体验差，即使在对准确性没有苛刻要求的场景下使用，机器回答答非所问，而又没有任何干预或补救措施，会大大降低用户体验，甚至被弃用。
发明内容
本发明针对现有技术存在的上述不足，提出一种人机对话异常检测系统及方法，能够在检测到机器无法正常回复用户(即出现异常)的情况下，调整回复策略和内容，从而完成对话任务。
本发明是通过以下技术方案实现的：
本发明涉及一种人机对话异常检测系统包括：语音识别模块(ASR模块)、语音合成模块(TTS模块)、语义识别模块(SLU模块)、对话状态跟踪模块(DST模块)、对话决策模块(DM模块)、数据库查询模块(DATA模块)、自然语言生成模块(NLG模块)、异常检测模块(DAD模块)及异常处理模块，其中：ASR模块将用户输入统一为字符数据后输出至SLU模块，SLU模块通过对字符数据中的语义进行提取后输出提取结果至DST模块，DST模块结合对话上文估计用户的意图并将最可能的用户意图传至DATA模块进行数据库查询，DATA模块将查询的结果返回给DST模块，DST模块将估计的用户意图和数据库查询结果传给DM模块，DM生成语义级用户回复并传给NLG模块，NLG模块将语义级回复转换为自然语言回复并传给异常检测模块，异常检测模块获取之前各个模块(ASR、SLU、DST、DM、NLG)的输出并进行异常检测，在检测到异常时，异常检测模块首先向TTS模块报警，TTS模块根据异常发生与否输出对应的语音提示，同将将将音频及ASR、DST、NLG三个模块的的输出传给异常处理模块；如果没有检测到异常，则直接将NLG的结果传给TTS模块。
所述的异常处理模块包括：用户意图校正模块(H-DST模块)及用户回复校正模块(H-NLG模块)。具体校正过程如下：
1)H-DST模块：人工客服首先根据对对话历史判断DST的对话状态跟踪的结果是否正确，如果正确，则进入H-NLG步骤，否则进行修改意图并重新查询数据库；
2)H-NLG模块：如果H-DST步骤中客服更改了用户意图，则系统重新生成自动回复候选。客服判断NLG自动生成的回复候选是否合理，如果合理，则确认后将其发送给TTS模块；如果不合理，客服进行修改，将修改后的消息发给TTS模块。
本发明涉及上述系统的人机对话异常检测方法，可以是基于规则的检测方法；也可以是基于机器学习的方法，该方法首先通过收集历史对话数据并进行标注，利用标注好的数据对异常检测模型进行训练，在收到实时对话数据时利用训练好的异常检测模型进行异常检测并获得结果。
所述的基于规则的方法中预设规则包括但不限于：检测到预设的关键词、对话时长超过限制。
所述的基于机器学习的异常检测模型，通过以下方式进行建立：
1)收集历史对话数据：收集包括文字信息、语音识别模块(ASR模块)、语义解析模块(SLU模块)、对话状态跟踪模块(DST模块)、对话决策模块(DM模块)、自然语言生成模块(NLG模块)的历史对话数据。
2)制定数据标注规则：分别标注用户输入和系统的回复中任一是否有异常，当任何一个产生异常，则判定该交互回合异常。优选地，当用户的话是异常的时候，系统的回复一般都为异常，但是，当系统的回复还算合理的话，系统的回复就不标注为异常。
3)进行数据标注：采用通用的数据标注方法进行标注。
4)对标注出的异常数据进行特征提取，用于异常检测的特征包括：ASR特征、SLU特征、DM对话状态特征、DM对话决策特征、NLG特征。
所述的对异常检测模型进行训练是指：通过将异常检测问题最终归结为二分类问题(1代表有异常，0代表没有异常)，并利用机器学习模型，例如支持向量机(SVM)或者神经网络，训练一个二分类器，即异常检测模型。
附图说明
图1为本发明异常检测方法示意图；
图2为本发明系统示意图。
具体实施方式
如图1所示，本实施例涉及一种人机对话异常检测系统，包括：语音识别模块(ASR模块)、语音合成模块(TTS模块)、语义识别模块(SLU模块)、对话状态跟踪模块(DST模块)、对话决策模块(DM模块)、数据库查询模块(DATA模块)、自然语言生成模块(NLG模块)以及异常检测模块(DAD模块)及异常处理模块，其中：ASR模块将用户输入统一为字符数据后输出至SLU模块，SLU模块通过对字符数据中的语义进行提取后输出提取结果至DST模块，DST模块结合对话上文估计用户的意图并将最可能的用户意图传至DATA模块进行数据库查询，DATA模块将查询的结果返回给DST模块，DST模块将估计的用户意图和数据库查询结果传给DM模块，DM生成语义级用户回复并传给NLG模块，NLG模块将语义级回复转换为自然语言回复并传给异常检测模块，异常检测模块获取之前各个模块(ASR、SLU、DST、DM、NLG)的输出并进行异常检测，在检测到异常时，异常检测模块向TTS模块报警，TTS模块根据异常发生与否输出对应的语音提示，同将将将音频及ASR、DST、NLG三个模块的的输出传给异常处理模块；如果没有检测到异常，则直接将NLG的结果传给TTS模块。
所述的异常检测模块与NLG模块、TTS模块及异常处理模块相连；异常处理模块与TTS模块及异常检测模块相连。
所述的异常处理模块包括：用户意图校正模块(H-DST模块)及用户回复校正模块(H-NLG模块)。具体校正过程如下：
1)H-DST模块：人工客服首先根据对对话历史判断DST的对话状态跟踪的结果是否正确,如果正确，则进入H-NLG步骤，否则进行修改意图并重新查询数据库；
2)H-NLG模块：如果H-DST步骤中客服更改了用户意图，则系统重新生成自动回复候选。客服判断NLG自动生成的回复候选是否合理，如果合理，则确认后将其发送给TTS模块；如果不合理，客服进行修改，将修改后的消息发给TTS模块。
如图2所示，本实施例涉及上述系统的人机对话异常检测方法，可以是基于规则的检测方法；也可以是基于机器学习的方法，包括：首先通过收集历史对话数据并进行标注，利用标注好的数据对异常检测模型进行训练，在收到实时对话数据时利用训练好的异常检测模型进行异常检测并获得结果。
所述的基于规则的方法中预设规则包括但不限于：检测到预设的关键词、对话时长超过限制。
所述的基于机器学习的异常检测模型，通过以下方式进行建立：
1)收集历史对话数据：收集包括文字信息、语音识别模块(ASR模块)、语义解析模块(SLU模块)、对话状态跟踪模块(DST模块)、对话决策模块(DM模块)、自然语言生成模块(NLG模块)的历史对话数据。
2)制定数据标注规则：分别标注用户输入和系统的回复中任一是否有异常，当任何一个产生异常，则判定该交互回合异常。优选地，当用户的话是异常的时候，系统的回复一般都为异常，但是，当系统的回复还算合理的话，系统的回复就不标注为异常。
3)进行数据标注：采用通用的数据标注方法进行标注。
4)对标注出的异常数据进行特征提取：用于异常检测的特征包括：ASR特征、SLU特征、DST对话状态特征、DM对话决策特征、NLG特征，其中：
i)ASR特征是指：将ASR结果中候选文本按置信度从大到小排序，取前N个候选，提取特征：文本的平均长度、N个置信度(共N+1种特征)。
ii)SLU特征是指：将SLU结果中候选对话动作按置信度从大到小排序，取前N个候选，提取特征：每种对话动作出现在候选列表中的置信度、每种语义槽出现在候选列表中的置信度。
iii)DM对话状态特征是指：将DST的结果中每种语义槽的候选值列表按置信度从大到小排列，对于每个语义槽提取特征：取前M个置信度。
iv)DM对话决策特征是指：从DM的输出提取的特征包括：系统的回复的对话动作中各种动作类型及语义槽是否出现，如果出现就为1，否则就为0；当前的对话轮次(turn)
v)NLG特征是指：从NLG的输出提取的特征包括：系统的回复是否和上一次重复，如果重复则为1，否则为0。
所述的对异常检测模型进行训练是指：通过将异常检测问题最终归结为二分类问题(1代表有异常，0代表没有异常)，并利用机器学习模型，例如支持向量机(SVM)或者神经网络训练一个二分类器，即异常检测模型。
上述具体实施可由本领域技术人员在不背离本发明原理和宗旨的前提下以不同的方式对其进行局部调整，本发明的保护范围以权利要求书为准且不由上述具体实施所限，在其范围内的各个实现方案均受本发明之约束。
Claims (8)
1.一种人机对话异常检测系统，其特征在于，包括：语音识别模块(ASR模块)、语音合成模块(TTS模块)、语义识别模块(SLU模块)、对话状态跟踪模块(DST模块)、对话决策模块(DM模块)、数据库查询模块(DATA模块)、自然语言生成模块(NLG模块)、异常检测模块(DAD)及异常处理模块，其中：ASR模块将用户输入统一为字符数据后输出至SLU模块，SLU模块通过对字符数据中的语义进行提取后输出提取结果至DST模块，DST模块结合对话上文估计用户的意图并将最可能的用户意图传至DATA模块进行数据库查询，DATA模块将查询的结果返回给DST模块，DST模块将估计的用户意图和数据库查询结果传给DM模块，DM生成语义级用户回复并传给NLG模块，NLG模块将语义级回复转换为自然语言回复并传给异常检测模块，异常检测模块获取之前各个模块(ASR、SLU、DST、DM、NLG)的输出并进行异常检测，异常检测模块在发生异常时向TTS模块报警，TTS模块根据异常发生与否输出对应的语音提示，同将将将音频及ASR、DST、NLG三个模块的的输出传给异常处理模块；如果没有检测到异常，则直接将NLG的结果传给TTS模块。
2.根据权利要求1所述的人机对话异常检测系统，其特征是，所述的异常检测模块与NLG模块、TTS模块及异常处理模块相连；异常处理模块与TTS模块及异常检测模块相连。
3.根据权利要求1所述的人机对话异常检测系统，其特征是，所述的异常处理模块包括：用户意图校正模块(H-DST模块)及用户回复校正模块(H-NLG模块)，其中：
1)H-DST模块：人工客服首先根据对对话历史判断DST的对话状态跟踪的结果是否正确，当正确，则进入H-NLG步骤，否则进行修改意图并重新查询数据库；
2)H-NLG模块：当H-DST步骤中客服更改了用户意图，则系统重新生成自动回复候选。客服判断NLG自动生成的回复候选是否合理，当合理，则确认后将其发送给TTS模块；当不合理，客服进行修改，将修改后的消息发给TTS模块。
4.一种基于上述任一权利要求所述系统的人机对话异常检测方法，其特征在于，所述的异常检测是基于规则的检测方法，规则包括检测到预设的关键词、对话时长超过限制，或者是基于机器学习的方法，包括：首先通过收集历史对话数据并进行标注，利用标注好的数据对异常检测模型进行训练，在收到实时对话数据时利用训练好的异常检测模型进行异常检测并获得结果。
5.根据权利要求4所述的人机对话异常检测方法，其特征是，所述的异常检测模型，通过以下方式进行建立：
1)收集历史对话数据：收集包括文字信息、语音识别模块(ASR模块)、语义解析模块(SLU模块)、对话状态跟踪模块(DST模块)、对话决策模块(DM模块)、、自然语言生成模块(NLG模块)的历史对话数据；
2)制定数据标注规则：分别标注用户输入和系统的回复中任一是否有异常，当任何一个产生异常，则判定该交互回合异常；
3)进行数据标注；
4)对标注出的异常数据进行特征提取，用于异常检测的特征包括：ASR特征、SLU特征、DST对话状态特征、DM对话决策特征、NLG特征。
6.根据权利要求4或5所述的人机对话异常检测方法，其特征是，所述的标注，用于训练的历史数据，当用户的话是异常的时候，系统的回复一般都为异常，但是，当系统的回复还算合理的话，系统的回复就不标注为异常。
7.根据权利要求5所述的人机对话异常检测方法，其特征是，所述的ASR特征是指：将ASR结果中候选文本按置信度从大到小排序，取前N个候选，提取特征：文本的平均长度、N个置信度；所述的SLU特征是指：将SLU结果中候选对话动作按置信度从大到小排序，取前N个候选，提取特征：每种对话动作出现在候选列表中的置信度、每种语义槽出现在候选列表中的置信度；所述的DST对话状态特征是指：将DST的结果中每种语义槽的候选值列表按置信度从大到小排列，对于每个语义槽提取特征：取前M个置信度；所述的DM对话决策特征是指：从DM的输出提取的特征包括：系统的回复的对话动作中各种动作类型及语义槽是否出现，如果出现就为1，否则就为0；当前的对话轮次；所述的NLG特征是指：从NLG的输出提取的特征包括：系统的回复是否和上一次重复，如果重复则为1，否则为0。
8.根据权利要求4所述的人机对话异常检测方法，其特征是，所述的对异常检测模型进行训练是指：通过将异常检测问题最终归结为二分类问题，并利用支持向量机(SVM)或者神经网络训练一个二分类器，即异常检测模型。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201610794627.8A CN106328166B (zh) | 2016-08-31 | 2016-08-31 | 人机对话异常检测系统及方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201610794627.8A CN106328166B (zh) | 2016-08-31 | 2016-08-31 | 人机对话异常检测系统及方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN106328166A true CN106328166A (zh) | 2017-01-11 |
| CN106328166B CN106328166B (zh) | 2019-11-08 |
Family
ID=57787717
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201610794627.8A Active CN106328166B (zh) | 2016-08-31 | 2016-08-31 | 人机对话异常检测系统及方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN106328166B (zh) |
Cited By (23)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107944560A (zh) * | 2017-12-08 | 2018-04-20 | 神思电子技术股份有限公司 | 一种自然语言语义推理方法 |
| CN108170859A (zh) * | 2018-01-22 | 2018-06-15 | 北京百度网讯科技有限公司 | 语音查询的方法、装置、存储介质及终端设备 |
| CN109325155A (zh) * | 2018-07-25 | 2019-02-12 | 南京瓦尔基里网络科技有限公司 | 一种新型对话状态存储方法及系统 |
| CN109559754A (zh) * | 2018-12-24 | 2019-04-02 | 焦点科技股份有限公司 | 一种针对摔倒识别的语音救援方法及系统 |
| CN109714491A (zh) * | 2019-02-26 | 2019-05-03 | 上海凯岸信息科技有限公司 | 基于语音信箱的智能语音外呼检测系统 |
| CN109949806A (zh) * | 2019-03-12 | 2019-06-28 | 百度国际科技（深圳）有限公司 | 信息交互方法和装置 |
| CN110096577A (zh) * | 2018-01-31 | 2019-08-06 | 国际商业机器公司 | 从异常简档数据预测用户的意图 |
| CN110265034A (zh) * | 2019-04-12 | 2019-09-20 | 国网浙江省电力有限公司衢州供电公司 | 一种电网调控自动应答方法 |
| CN110741364A (zh) * | 2017-10-12 | 2020-01-31 | 谷歌有限责任公司 | 确定自动化助理对话的状态 |
| CN110765249A (zh) * | 2019-10-21 | 2020-02-07 | 支付宝(杭州)信息技术有限公司 | 机器人客服引导对话中多轮对话的质检方法和装置 |
| CN110781279A (zh) * | 2019-10-16 | 2020-02-11 | 云知声智能科技股份有限公司 | 一种构造asr/nlu引擎交叉优化数据闭环的方法及装置 |
| CN110826339A (zh) * | 2019-10-31 | 2020-02-21 | 联想(北京)有限公司 | 行为识别方法、装置、电子设备以及介质 |
| CN110956958A (zh) * | 2019-12-04 | 2020-04-03 | 深圳追一科技有限公司 | 搜索方法、装置、终端设备及存储介质 |
| CN111177347A (zh) * | 2019-12-20 | 2020-05-19 | 上海优扬新媒信息技术有限公司 | 一种识别人机对话中坏例的方法及装置 |
| CN111538820A (zh) * | 2020-04-10 | 2020-08-14 | 出门问问信息科技有限公司 | 一种异常答复处理、装置以及计算机可读存储介质 |
| CN111737431A (zh) * | 2020-06-19 | 2020-10-02 | 海尔优家智能科技（北京）有限公司 | 设备异常的处理方法及装置、存储介质、电子装置 |
| CN112732887A (zh) * | 2021-01-22 | 2021-04-30 | 南京英诺森软件科技有限公司 | 一种多轮对话的处理装置及其系统 |
| CN113240510A (zh) * | 2021-05-28 | 2021-08-10 | 平安科技（深圳）有限公司 | 异常用户预测方法、装置、设备及存储介质 |
| CN113824843A (zh) * | 2020-06-19 | 2021-12-21 | 大众问问(北京)信息科技有限公司 | 语音通话质量检测方法、装置、设备及存储介质 |
| CN114430378A (zh) * | 2020-10-15 | 2022-05-03 | 中国移动通信集团浙江有限公司 | 聊天机器人的异常检测方法、装置、计算设备及存储介质 |
| CN114743542A (zh) * | 2022-04-29 | 2022-07-12 | 青岛海尔科技有限公司 | 语音处理的方法、装置、存储介质及电子装置 |
| CN115599891A (zh) * | 2022-11-29 | 2023-01-13 | 支付宝（杭州）信息技术有限公司（Cn） | 一种确定异常对话数据方法、装置、设备及可读存储介质 |
| WO2023065633A1 (zh) * | 2021-10-22 | 2023-04-27 | 平安科技（深圳）有限公司 | 异常语义截断检测方法、装置、设备及介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102013254A (zh) * | 2010-11-17 | 2011-04-13 | 广东中大讯通信息有限公司 | 一种数字电视语音识别人机交互系统及方法 |
| CN103279528A (zh) * | 2013-05-31 | 2013-09-04 | 俞志晨 | 一种基于人机结合的问答系统及方法 |
| CN105068661A (zh) * | 2015-09-07 | 2015-11-18 | 百度在线网络技术（北京）有限公司 | 基于人工智能的人机交互方法和系统 |
| CN105227790A (zh) * | 2015-09-24 | 2016-01-06 | 北京车音网科技有限公司 | 一种语音应答方法、电子设备和系统 |
-
2016
- 2016-08-31 CN CN201610794627.8A patent/CN106328166B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102013254A (zh) * | 2010-11-17 | 2011-04-13 | 广东中大讯通信息有限公司 | 一种数字电视语音识别人机交互系统及方法 |
| CN103279528A (zh) * | 2013-05-31 | 2013-09-04 | 俞志晨 | 一种基于人机结合的问答系统及方法 |
| CN105068661A (zh) * | 2015-09-07 | 2015-11-18 | 百度在线网络技术（北京）有限公司 | 基于人工智能的人机交互方法和系统 |
| CN105227790A (zh) * | 2015-09-24 | 2016-01-06 | 北京车音网科技有限公司 | 一种语音应答方法、电子设备和系统 |
Cited By (36)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11790899B2 (en) | 2017-10-12 | 2023-10-17 | Google Llc | Determining state of automated assistant dialog |
| CN110741364B (zh) * | 2017-10-12 | 2023-09-15 | 谷歌有限责任公司 | 确定自动化助理对话的状态 |
| CN110741364A (zh) * | 2017-10-12 | 2020-01-31 | 谷歌有限责任公司 | 确定自动化助理对话的状态 |
| CN107944560B (zh) * | 2017-12-08 | 2018-12-25 | 神思电子技术股份有限公司 | 一种自然语言语义推理方法 |
| CN107944560A (zh) * | 2017-12-08 | 2018-04-20 | 神思电子技术股份有限公司 | 一种自然语言语义推理方法 |
| CN108170859A (zh) * | 2018-01-22 | 2018-06-15 | 北京百度网讯科技有限公司 | 语音查询的方法、装置、存储介质及终端设备 |
| CN108170859B (zh) * | 2018-01-22 | 2020-07-28 | 北京百度网讯科技有限公司 | 语音查询的方法、装置、存储介质及终端设备 |
| CN110096577B (zh) * | 2018-01-31 | 2023-05-30 | 国际商业机器公司 | 数据处理系统中的方法、程序产品、装置和系统 |
| CN110096577A (zh) * | 2018-01-31 | 2019-08-06 | 国际商业机器公司 | 从异常简档数据预测用户的意图 |
| CN109325155A (zh) * | 2018-07-25 | 2019-02-12 | 南京瓦尔基里网络科技有限公司 | 一种新型对话状态存储方法及系统 |
| CN109559754A (zh) * | 2018-12-24 | 2019-04-02 | 焦点科技股份有限公司 | 一种针对摔倒识别的语音救援方法及系统 |
| CN109714491A (zh) * | 2019-02-26 | 2019-05-03 | 上海凯岸信息科技有限公司 | 基于语音信箱的智能语音外呼检测系统 |
| CN109949806A (zh) * | 2019-03-12 | 2019-06-28 | 百度国际科技（深圳）有限公司 | 信息交互方法和装置 |
| CN109949806B (zh) * | 2019-03-12 | 2021-07-27 | 百度国际科技（深圳）有限公司 | 信息交互方法和装置 |
| CN110265034A (zh) * | 2019-04-12 | 2019-09-20 | 国网浙江省电力有限公司衢州供电公司 | 一种电网调控自动应答方法 |
| CN110781279A (zh) * | 2019-10-16 | 2020-02-11 | 云知声智能科技股份有限公司 | 一种构造asr/nlu引擎交叉优化数据闭环的方法及装置 |
| CN110781279B (zh) * | 2019-10-16 | 2022-04-01 | 云知声智能科技股份有限公司 | 一种构造asr/nlu引擎交叉优化数据闭环的方法及装置 |
| CN110765249A (zh) * | 2019-10-21 | 2020-02-07 | 支付宝(杭州)信息技术有限公司 | 机器人客服引导对话中多轮对话的质检方法和装置 |
| CN110826339A (zh) * | 2019-10-31 | 2020-02-21 | 联想(北京)有限公司 | 行为识别方法、装置、电子设备以及介质 |
| CN110826339B (zh) * | 2019-10-31 | 2024-03-01 | 联想(北京)有限公司 | 行为识别方法、装置、电子设备以及介质 |
| CN110956958A (zh) * | 2019-12-04 | 2020-04-03 | 深圳追一科技有限公司 | 搜索方法、装置、终端设备及存储介质 |
| CN111177347A (zh) * | 2019-12-20 | 2020-05-19 | 上海优扬新媒信息技术有限公司 | 一种识别人机对话中坏例的方法及装置 |
| CN111538820A (zh) * | 2020-04-10 | 2020-08-14 | 出门问问信息科技有限公司 | 一种异常答复处理、装置以及计算机可读存储介质 |
| CN113824843A (zh) * | 2020-06-19 | 2021-12-21 | 大众问问(北京)信息科技有限公司 | 语音通话质量检测方法、装置、设备及存储介质 |
| CN111737431B (zh) * | 2020-06-19 | 2024-03-22 | 海尔优家智能科技（北京）有限公司 | 设备异常的处理方法及装置、存储介质、电子装置 |
| CN113824843B (zh) * | 2020-06-19 | 2023-11-21 | 大众问问(北京)信息科技有限公司 | 语音通话质量检测方法、装置、设备及存储介质 |
| CN111737431A (zh) * | 2020-06-19 | 2020-10-02 | 海尔优家智能科技（北京）有限公司 | 设备异常的处理方法及装置、存储介质、电子装置 |
| CN114430378A (zh) * | 2020-10-15 | 2022-05-03 | 中国移动通信集团浙江有限公司 | 聊天机器人的异常检测方法、装置、计算设备及存储介质 |
| CN114430378B (zh) * | 2020-10-15 | 2023-08-18 | 中国移动通信集团浙江有限公司 | 聊天机器人的异常检测方法、装置、计算设备及存储介质 |
| CN112732887A (zh) * | 2021-01-22 | 2021-04-30 | 南京英诺森软件科技有限公司 | 一种多轮对话的处理装置及其系统 |
| CN113240510B (zh) * | 2021-05-28 | 2023-08-01 | 平安科技（深圳）有限公司 | 异常用户预测方法、装置、设备及存储介质 |
| CN113240510A (zh) * | 2021-05-28 | 2021-08-10 | 平安科技（深圳）有限公司 | 异常用户预测方法、装置、设备及存储介质 |
| WO2023065633A1 (zh) * | 2021-10-22 | 2023-04-27 | 平安科技（深圳）有限公司 | 异常语义截断检测方法、装置、设备及介质 |
| CN114743542A (zh) * | 2022-04-29 | 2022-07-12 | 青岛海尔科技有限公司 | 语音处理的方法、装置、存储介质及电子装置 |
| CN115599891B (zh) * | 2022-11-29 | 2023-03-21 | 支付宝(杭州)信息技术有限公司 | 一种确定异常对话数据方法、装置、设备及可读存储介质 |
| CN115599891A (zh) * | 2022-11-29 | 2023-01-13 | 支付宝（杭州）信息技术有限公司（Cn） | 一种确定异常对话数据方法、装置、设备及可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN106328166B (zh) | 2019-11-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN106328166A (zh) | 人机对话异常检测系统及方法 | |
| CN106503805B (zh) | 一种基于机器学习的双模态人人对话情感分析方法 | |
| CN106294774A (zh) | 基于对话服务的用户个性化数据处理方法及装置 | |
| CN105512228B (zh) | 一种基于智能机器人的双向问答数据处理方法和系统 | |
| CN106295807B (zh) | 一种信息处理的方法及装置 | |
| CN107918633B (zh) | 基于语义分析技术的敏感舆情内容识别方法和预警系统 | |
| CN107665708A (zh) | 智能语音交互方法及系统 | |
| CN107222865A (zh) | 基于可疑行为识别的通讯诈骗实时检测方法和系统 | |
| CN107464568A (zh) | 基于三维卷积神经网络文本无关的说话人识别方法及系统 | |
| CN109388700A (zh) | 一种意图识别方法及系统 | |
| CN107767861A (zh) | 语音唤醒方法、系统及智能终端 | |
| CN103258535A (zh) | 基于声纹识别的身份识别方法及系统 | |
| CN107704612A (zh) | 用于智能机器人的对话交互方法及系统 | |
| CN106611604A (zh) | 一种基于深度神经网络的自动语音叠音检测方法 | |
| CN108388553A (zh) | 对话消除歧义的方法、电子设备及面向厨房的对话系统 | |
| CN109243492A (zh) | 一种语音情感识别系统及识别方法 | |
| CN110442700A (zh) | 用于人机交互的人机多轮对话方法及系统、智能设备 | |
| CN113840040B (zh) | 一种人机协作的外呼方法、装置、设备及存储介质 | |
| CN110176228A (zh) | 一种小语料语音识别方法及系统 | |
| CN110085216A (zh) | 一种婴儿哭声检测方法及装置 | |
| CN106653020A (zh) | 一种基于深度学习的智慧视听设备多业务控制方法及系统 | |
| CN109815268A (zh) | 一种交易制裁名单匹配系统 | |
| CN114495217A (zh) | 基于自然语言和表情分析的场景分析方法、装置及系统 | |
| CN109104534A (zh) | 一种提高外呼机器人意图检测准确率、召回率的系统 | |
| CN109545202A (zh) | 一种调整语义逻辑混乱的语料的方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20200617 Address after: Room 105G, 199 GuoShoujing Road, Pudong New Area, Shanghai, 200120 Patentee after: Shanghai Jiaotong University Intellectual Property Management Co.,Ltd. Address before: 200240 Dongchuan Road, Shanghai, No. 800, No. Patentee before: SHANGHAI JIAO TONG University |
|
| TR01 | Transfer of patent right | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20201023 Address after: 215123 14 Tengfei Innovation Park, 388 Xinping street, Suzhou Industrial Park, Suzhou, Jiangsu. Patentee after: AI SPEECH Ltd. Address before: Room 105G, 199 GuoShoujing Road, Pudong New Area, Shanghai, 200120 Patentee before: Shanghai Jiaotong University Intellectual Property Management Co.,Ltd. |
|
| CP01 | Change in the name or title of a patent holder | ||
| CP01 | Change in the name or title of a patent holder |
Address after: 215123 14 Tengfei Innovation Park, 388 Xinping street, Suzhou Industrial Park, Suzhou, Jiangsu. Patentee after: Sipic Technology Co.,Ltd. Address before: 215123 14 Tengfei Innovation Park, 388 Xinping street, Suzhou Industrial Park, Suzhou, Jiangsu. Patentee before: AI SPEECH Ltd. |