CN114548118A - 一种服务对话检测方法及系统 - Google Patents
一种服务对话检测方法及系统 Download PDFInfo
- Publication number
- CN114548118A CN114548118A CN202210448009.3A CN202210448009A CN114548118A CN 114548118 A CN114548118 A CN 114548118A CN 202210448009 A CN202210448009 A CN 202210448009A CN 114548118 A CN114548118 A CN 114548118A
- Authority
- CN
- China
- Prior art keywords
- information
- dialog
- user
- condition
- intention
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/01—Customer relationship services
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Business, Economics & Management (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Accounting & Taxation (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Finance (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Machine Translation (AREA)
Abstract
本发明实施例提供了一种服务对话检测方法及系统，涉及数据处理技术领域，上述方法包括：获得待检测对话信息的对话文本以及目标对话用户的用户信息；提取对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定待检测对话信息的意图信息；在所确定的意图信息违规的情况下，确定待检测对话信息违规；在所确定的意图信息未违规的情况下，若目标对话用户的用户信息满足第一条件、且所确定的意图信息满足第二条件，确定待检测对话信息违规。应用本发明实施例提供的服务对话检测方案，能够提高服务对话检测的准确性。
Description
技术领域
本发明涉及数据处理技术领域，特别是涉及一种服务对话检测方法及系统。
背景技术
如今，各大服务提供商为了给客户提供更好的服务，纷纷推出了各自的客服平台，客户可以通过客服平台与客服进行对话。在客户和客服的服务对话过程中，对话中的任一方可能存在违规行为，从而导致客户体验差或者客户投诉等问题，例如，上述违规行为可以是所发送的对话信息中存在不文明用语或者不符合服务提供商所提供服务的监管要求等情况。为此，需要对客服、客户所发送的对话信息进行违规检测，当检测到违规的对话信息时，对对话过程进行调节，从而为客户营造良好的对话氛围，提高客户体验。例如，当检测到违规的对话信息时，可以生成提醒信息，用于提醒发送违规对话信息的一方，还可以对违规的对话信息进行打码处理等。
现有的服务对话检测方案中，通常通过检测对话信息中是否存在预设的违规关键词来判断对话信息是否违规，若对话信息中存在违规关键词，则说明该条对话信息违规。然而，由于对话信息通常复杂多变，采用上述检索关键词的方式对对话信息进行违规检测难以兼顾对话信息的各种情况，从而易导致违规检测的准确性低，进而导致对对话过程进行调节的准确性低。
发明内容
本发明实施例的目的在于提供一种服务对话检测方法及系统，以提高服务对话检测的准确性。具体技术方案如下：
第一方面，本发明实施例提供了一种服务对话检测方法，所述方法包括：
获得待检测对话信息的对话文本，并获得第一条件中包括的目标对话用户的用户信息，其中，所述待检测对话信息包括：服务对话过程中的当前对话信息以及与所述当前对话信息连续的多条历史对话信息，所述第一条件根据预先约定的服务对话规则中规定的对话用户的用户信息进行设置；
提取所述对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定所述待检测对话信息的意图信息；
在所确定的意图信息违规的情况下，确定所述待检测对话信息违规；
在所确定的意图信息未违规的情况下，判断所述目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件，其中，所述第二条件根据所述服务对话规则的规则内容进行设置；
若所述目标对话用户的用户信息满足所述第一条件、且所确定的意图信息满足所述第二条件，确定所述待检测对话信息违规。
本发明的一个实施例中，所述在各个预设意图信息中确定所述待检测对话信息的意图信息，包括：
将所得到的意图信息确定为所述当前对话信息的意图信息；
所述方法还包括：
针对参与所述服务对话的每一对话用户，判断该对话用户已输入的各条对话信息的意图信息是否满足规则条件，根据判断结果，检测该对话用户已输入的各条对话信息是否违规，其中，所述规则条件根据预先约定的服务对话规则进行设置。
本发明的一个实施例中，所述规则条件包括第三条件以及第四条件，其中，所述第三条件根据所述服务对话规则中规定的对话用户的用户信息进行设置，所述第四条件根据所述服务对话规则的规则内容进行设置；
所述判断该对话用户已输入的各条对话信息的意图信息是否满足规则条件，根据判断结果，检测该对话用户已输入的各条对话信息是否违规，包括：
获得参与所述服务对话过程的各个对话用户的用户信息；
判断各个对话用户的用户信息是否满足所述第三条件，并判断该对话用户输入的各条对话信息的意图信息是否满足所述第四条件；
若各个对话用户的用户信息满足所述第三条件、且该对话用户输入的各条对话信息的意图信息满足所述第四条件，确定该用户已输入的对话信息违规。
本发明的一个实施例中，所述对话用户包括客户和客服；
所述客户的用户信息包括以下信息中的至少一种：
表征客户的风险承受程度的风险承受等级、客户等级、客户权限、客户所在位置；
所述客服的用户信息包括以下多种信息中的至少一种：
客服的职位、客服等级、客服权限、客服所在位置。
本发明的一个实施例中，所述当前对话信息以及所述多条历史对话信息为同一对话用户输入的对话信息。
本发明的一个实施例中，所述提取所述对话文本的特征，将所提取特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，确定所述对话文本的意图信息，包括：
获得由所述对话文本中各单词的词向量构成的文本向量；
将所述文本向量输入预先训练好的意图识别模型，得到所述意图识别模型从各条预设意图信息中确定的意图信息，作为所述对话文本的意图信息，其中，所述意图识别模型是以样本文本向量作为输入、以样本文本向量的意图信息作为标注信息训练得到的。
本发明的一个实施例中，所述获得待检测对话信息的对话文本，包括：
获得当前对话信息的当前文本；
检测所述当前文本中是否包括预设违规关键词；
若为是，则确定所述当前对话信息违规；
若为否，则获得与所述当前对话信息连续的多条历史对话信息的历史文本，得到包含所述当前文本以及历史文本的对话文本。
第二方面，本发明实施例还提供了一种服务对话检测系统，所述系统包括信息处理模块、意图识别模块以及条件判断模块；
所述信息处理模块，用于接收参与对话的各对话用户发送的对话信息，获得待检测对话信息的对话文本，并获得第一条件中包括的目标对话用户的用户信息，其中，所述待检测对话信息包括：服务对话过程中的当前对话信息以及与所述当前对话信息连续的多条历史对话信息；
所述意图识别模块，用于获得所述对话文本，提取所述对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定所述待检测对话信息的意图信息；
所述信息处理模块，还用于获得所确定的意图信息，并根据所确定的意图信息是否违规，检测所述待检测对话信息是否违规；
所述条件判断模块，用于存储第一条件以及第二条件，其中，所述第一条件根据预先约定的服务对话规则中规定的对话用户的用户信息进行设置，所述第二条件根据所述服务对话规则的规则内容进行设置；
所述条件判断模块，还用于获得所述待检测对话信息的意图信息以及第一条件中包括的目标对话用户的用户信息，判断所述目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件，得到第一判断结果；
所述信息处理模块，还用于获得所述第一判断结果，根据所述第一判断结果，检测所述待检测对话信息是否违规。
本发明的一个实施例中，所述意图识别模块，具体用于：
获得所述对话文本，提取所述对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定所述当前对话信息的意图信息；
所述条件判断模块，还用于针对参与所述服务对话的每一对话用户，判断该对话用户已输入的各条对话信息的意图信息是否满足规则条件，得到第二判断结果，其中，所述规则条件根据预先约定的服务对话规则进行设置；
所述信息处理模块，还用于针对参与所述服务对话的每一对话用户，获得该对话用户对应的第二判断结果，根据所述第二判断结果，检测该对话用户已输入的各条对话信息是否违规。
本发明的一个实施例中，所述规则条件包括第三条件以及第四条件，其中，所述第三条件根据所述服务对话规则中规定的对话用户的用户信息进行设置，所述第四条件根据所述服务对话规则的规则内容进行设置；
所述条件判断模块，具体用于获得参与所述服务对话过程的各个对话用户的用户信息，针对参与所述服务对话的每一对话用户，判断各个对话用户的用户信息是否满足所述第三条件，并判断该对话用户输入的各条对话信息的意图信息是否满足所述第四条件，得到第三判断结果；
所述信息处理模块，还用于针对参与所述服务对话的每一对话用户，获得该对话用户对应的第三判断结果，根据所述第三判断结果，检测该对话用户已输入的各条对话信息是否违规。
本发明的一个实施例中，所述对话用户包括客户和客服；
所述客户的用户信息包括以下信息中的至少一种：
表征客户的风险承受程度的风险承受等级、客户等级、客户权限、客户所在位置；
所述客服的用户信息包括以下多种信息中的至少一种：
客服的职位、客服等级、客服权限、客服所在位置。
本发明的一个实施例中，所述当前对话信息以及所述多条历史对话信息为同一对话用户输入的对话信息。
本发明的一个实施例中，所述意图识别模块，具体用于：
获得由所述对话文本中各单词的词向量构成的文本向量；
将所述文本向量输入预先训练好的意图识别模型，得到所述意图识别模型从各条预设意图信息中确定的意图信息，作为所述对话文本的意图信息，其中，所述意图识别模型是以样本文本向量作为输入、以样本文本向量的意图信息作为标注信息训练得到的。
本发明的一个实施例中，所述信息处理模块，还用于获得当前对话信息的当前文本，并检测所述当前文本中是否包括预设违规关键词，若所述当前文本中包括预设违规关键词，则确定所述当前对话信息违规，若所述当前文本中不包括所述违规关键词，则获得与所述当前对话信息连续的多条历史对话信息的历史文本，得到包含所述当前文本以及历史文本的对话文本。
第三方面，本发明实施例还提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现上述第一方面任一所述的方法步骤。
第四方面，本发明实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面任一所述的方法步骤。
本发明实施例有益效果：
由以上可见，应用本发明实施例提供的方案进行服务对话检测时，首先获得待检测对话信息的对话文本以及上述目标对话用户的用户信息，提取所获得的对话文本的特征，并将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果。由于对话文本的特征通常能够表征对话文本的语义，即待检测对话信息的语义，意图信息的特征对意图信息也具有表征性，因此，将对话文本的特征与意图信息的特征进行相似度比较，所得比较结果能够表征待检测对话信息的语义与意图信息之间的相似程度，因此，基于所得到的多个比较结果，能够在各个预设意图信息中准确确定待检测对话信息的意图信息，从而根据所确定的意图信息是否违规，能够准确检测出待检测对话信息是否违规，并且在所确定的意图信息未违规的情况下，判断目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件，这样能够利用服务对话规则来进一步检测待检测对话信息是否违规。由上可见，应用本发明实施例提供的服务对话检测方案，能够提高服务对话检测的准确性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的实施例。
图1为本发明实施例提供的第一种服务对话检测方法的流程示意图；
图2为本发明实施例提供的第二种服务对话检测方法的流程示意图；
图3为本发明实施例提供的第三种服务对话检测方法的流程示意图；
图4为本发明实施例提供的第四种服务对话检测方法的流程示意图；
图5为本发明实施例提供的第五种服务对话检测方法的流程示意图；
图6为本发明实施例提供的第一种服务对话检测系统的结构示意图；
图7a为本发明实施例提供的第二种服务对话检测系统的结构示意图；
图7b为本发明实施例提供的一种服务对话检测系统的工作流程示意图；
图8为本发明实施例提供的第一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员基于本发明所获得的所有其他实施例，都属于本发明保护的范围。
参见图1，图1为本发明实施例提供的第一种服务对话检测方法的流程示意图，上述方法包括以下步骤S101-S105。
步骤S101：获得待检测对话信息的对话文本，并获得第一条件中包括的目标对话用户的用户信息。
其中，待检测对话信息包括：服务对话过程中的当前对话信息以及与当前对话信息连续的多条历史对话信息。
在上述服务对话过程中，各个对话用户可以通过语音、文字等方式进行对话，因此，对话用户发出的对话信息可以是语音信息，也可以是文字信息。
本发明的一个实施例中，上述对话用户可以是接收服务的客户和提供服务的客服。
上述当前对话信息为对话用户当前输入的对话信息。
上述当前对话信息以及与当前对话信息连续的多条历史对话信息可以是服务对话过程中多个对话用户输入的，也可以是同一对话用户输入的。
上述第一条件根据预先约定的服务对话规则中规定的对话用户的用户信息进行设置。
由于对话用户之间的服务对话需要避免触犯该服务对话所属行业的监管要求、行业规范等规定，因此，上述服务对话规则可以看做是根据上述服务对话所属行业的监管要求、行业规范等规定确定的，也可以是人为约定的。
例如，在金融行业，服务对话过程中客服不能推荐个股，不能代替客户理财，不能向客户推荐不符合客户的风险评级的理财产品、不可回答其自身没有资格能力回答的问题等。
针对上述客服不可回答其自身没有资格能力回答的问题这一规定，可以设置上述服务对话规则为客服等级低于预设等级的客服不可回答股市预测类的问题，则第一条件可以是客服等级低于预设等级。
针对上述客服不能向客户推荐不符合客户的风险评级的理财产品这一规定，可以设置上述服务对话规则为客服不能向最低风险承受等级的客户推荐理财产品风险大于最低等级的理财产品，则第一条件可以是客户的风险承受等级为最低风险承受等级。
不同行业中的服务对话存在不同的服务对话规则，本发明实施例不再一一列举。
具体的，在获得目标对话用户的用户信息时，可以确定第一条件中包括的目标对话用户，进而获得所确定的目标对话用户的用户信息。
获得目标对话用户的用户信息的具体实现方式可参见后续实施例，这里暂不详述。
本发明的一个实施例中，可以通过以下两种实现方式中的任一种获得上述对话文本。
第一种实现方式中，可以实时获得服务对话过程中的当前对话信息，并获得与当前对话信息连续的多条历史对话信息。若所获得的各个对话信息均为文字信息，则包含所获得的多个对话信息的文本即为待检测对话信息的对话文本；若所获得的各个对话信息中存在语音信息，则可以对语音信息进行语音识别，将语音信息转换为文字信息，从而得到包含各个文字信息的文本，作为待检测对话信息的对话文本。
本发明的一个实施例中，在获得与当前对话信息连续的多条历史对话信息时，可以预先设置待获得的历史对话信息的信息数量，在获得上述当前对话信息之后，再次获得与当前对话信息连续的预设信息数量条历史对话信息。
例如，上述信息数量可以是2、3或者其他人为设置的数量。
第二种实现方式中，还可以直接获得由其他设备根据上述当前对话信息以及多条历史信息得到的文本，作为待检测对话信息的对话文本。
步骤S102：提取对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定待检测对话信息的意图信息。
上述对话文本的特征对对话文本具有表征性。例如，上述对话文本的特征可以是表征对话文本的语义的特征，也可以是表征对话文本中包含的词汇的特征。
上述预设意图信息用于表征对话用户输入对话信息的意图。例如，上述意图可以是发送不文明用语、推诿、宣传免佣金、承诺收益、推荐产品、回答问题等。
与上述对话文本的特征相类似，上述预设意图信息的特征对预设意图信息具有表征性。
具体的，可以预先获得上述多个预设意图信息以及各个预设意图信息的特征。在获得上述对话文本后，提取对话文本的特征，并将所提取的特征分别与各个预设意图信息中每一预设意图信息的特征进行相似度比较，所得比较结果中可以包括对话文本与意图信息之间的相似度。对话文本的特征与一个预设意图信息的特征进行相似度比较，可以获得一个比较结果，对话文本的特征分别与多个预设意图的特征进行相似度比较，可以获得多个比较结果，这样在获得上述多个比较结果后，可以从各个比较结果中确定所包括的相似度最大的比较结果，从而确定该比较结果对应的意图信息，并将该意图信息确定为待检测对话信息的意图信息。
提取对话文本的特征可以通过现有的特征提取技术实现，不同特征之间进行相似度比较可以通过现有的特征比较技术实现，这里不再详述。
另外，在上述当前对话信息以及多条历史对话信息为同一对话用户输入的对话信息时，可以避免其他对话用户所输入的对话信息对服务对话检测的干扰，从而提高确定待检测对话新的的意图信息的准确性，进而有利于服务对话检测。
另外，从多个预设意图信息中确定待检测对话信息的意图信息，还可以通过预先训练的意图识别模型实现，具体可参见后续图2所示实施例中步骤S102A-102B，这里暂不详述。
步骤S103：在所确定的意图信息违规的情况下，确定待检测对话信息违规。
具体的，在设置上述预设意图信息时，可以规定所设置的预设意图信息是否违规，这样在确定待检测对话信息的意图信息后，由于所确定的意图信息属于上述预设意图信息，因此，可以判断出待检测对话信息的意图信息是否违规，若所确定的意图信息违规，则说明待检测对话信息违规，若所确定的意图信息不违规，则说明待检测对话信息不违规。
例如，存在预设意图信息a，预设意图信息a用于表征对话用户输入对话信息时存在推诿意图，则该预设意图信息a属于违规的意图信息，此时，若待检测对话信息的意图信息为 该预设意图信息a，则说明待检测对话信息违规。
另外，针对不同的违规意图信息，还可以预设不同违规意图信息对应的服务对话调节方式，这样在确定待检测对话信息违规后，通过违规意图信息对应的服务对话调节方式，对上述服务对话过程进行调节。
步骤S104：在所确定的意图信息未违规的情况下，判断目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件。
其中，第二条件根据服务对话规则的规则内容进行设置。
下面以上述步骤S101中对于服务对话规则的两个举例对本步骤进行说明。
在上述关于服务对话规则的举例中，若上述服务对话规则为：客服等级低于预设等级的客服不可回答股市预测类的问题，则第二条件可以是客服回答股市预测类问题。这样在获得客服的用户信息后，可以判断所获得的用户信息中包括的客服等级是否低于预设等级，并判断待检测对话信息的意图信息是否为客服回答股市预测类问题。
若上述服务对话规则为：客服不能向最低风险承受等级的客户推荐理财产品风险大于最低等级的理财产品，则第二条件可以是客服向客户推荐理财产品风险大于最低等级的理财产品。这样在获得客户的用户信息后，可以判断所获得的用户信息中包括的客户风险承受等级是否为最低风险承受等级，并判断待检测对话信息的意图信息是否为客服向客户推荐理财产品风险大于最低等级的理财产品。
另外，由于上述第一条件以及上述目标对话用户的用户信息可以预先得到，因此，可以预先判断目标对话用户的用户信息是否满足第一条件，并在获确定待检测对话信息的意图信息之后，再判断所确定的意图信息是否满足第二条件。
例如，可以在上述服务对话开始时，获得上述第一条件以及目标对话用户的用户信息，并判断目标对话用户的用户信息是否满足第一条件。
由于上述服务对话规则可能有多条，针对每一条服务对话规则，均可以基于该服务对话规则，设置第一条件以及第二条件，这样在进行条件判断时，可以分别利用各条服务对话规则对应的第一条件和第二条件进行判断。
例如，存在两条服务对话规则a、b，基于服务对话规则a，可以设置第一条件a以及第二条件a，基于服务对话规则b，可以设置第一条件b以及第二条件b。在获得上述目标对话用户的用户信息以及待检测对话信息的意图信息后，可以利用第一条件a和第二条件a对所获得的用户信息、意图信息进行判断，得到一个判断结果，然后利用第一条件b和第二条件b再次对所获得的用户信息、意图信息进行判断，得到另一判断结果。
另外，上述第一条件以及第二条件均可以由多个子条件构成，这些子条件可以按照预先设置的组合关系构成第一条件或第二条件。
可以设置满足第一条件或第二条件的触发条件为满足所包括的子条件中的一个或多个。
例如，若第一条件中包括三个子条件a、b、c，在判断目标对话用户的用户信息是否满足第一条件时，若目标对话用户的用户信息满足这三个子条件中的任一子条件，则可以认为目标对话用户的用户信息满足第一条件。
还可以设置上述触发条件为满足所包括的子条件中的必要子条件以及非必要子条件中的一个或多个。
例如，在上述距离中，若子条件a为必要子条件，子条件b、c为非必要子条件，则若目标对话用户的用户信息满足子条件a、且满足子条件b、c中任一个，则认为目标对话用户的用户信息满足第一条件。
步骤S105：若目标对话用户的用户信息满足第一条件、且所确定的意图信息满足第二条件，确定待检测对话信息违规。
若目标对话用户的用户信息满足第一条件，并且所确定的意图信息满足第二条件，则说明待检测对话信息触犯了预先约定的服务对话规则，此时，确定待检测对话信息违规。
另外，由于上述服务对话规则可能有多条，则执行上述步骤S104可以多个判断结果，若多个判断结果中，存在第一条件和第二条件均满足的判断结果，则说明待检测对话信息触犯了该服务对话规则，此时，确定待检测对话信息违规，所触犯的服务对话规则即为待检测对话信息违规的违规原因。
由以上可见，应用本发明实施例提供的方案进行服务对话检测时，首先获得待检测对话信息的对话文本以及上述目标对话用户的用户信息，提取所获得的对话文本的特征，并将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果。由于对话文本的特征通常能够表征对话文本的语义，即待检测对话信息的语义，意图信息的特征对意图信息也具有表征性，因此，将对话文本的特征与意图信息的特征进行相似度比较，所得比较结果能够表征待检测对话信息的语义与意图信息之间的相似程度，因此，基于所得到的多个比较结果，能够在各个预设意图信息中准确确定待检测对话信息的意图信息，从而根据所确定的意图信息是否违规，能够准确检测出待检测对话信息是否违规，并且在所确定的意图信息未违规的情况下，判断目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件，这样能够利用服务对话规则来进一步检测待检测对话信息是否违规。由上可见，应用本发明实施例提供的服务对话检测方案，能够提高服务对话检测的准确性。
下面对上述步骤S101中提及的用户信息以及获得目标对话用户的用户信息的实现方式进行说明。
本发明的一个实施例中， 上述对话用户的用户信息可以包括用户等级、权限、所在位置等信息，还可以包括年龄、性别、工作年限等信息，本发明实施例对此并不限定。
本发明的一个实施例中，上述对话用户包括客户和客服。
客户的用户信息包括以下信息中的至少一种：
表征客户的风险承受程度的风险承受等级、客户等级、客户权限、客户所在位置。
客服的用户信息包括以下多种信息中的至少一种：
客服的职位、客服等级、客服权限、客服所在位置。
本方案中，上述客户或客服的用户信息包括所列举的信息中至少一种，从而为服务对话检测提供了丰富的信息。
在获得目标对话用户的用户信息时，由于述第一条件是根据预先约定的服务对话规则中规定的对话用户的用户信息进行设置的，因此，第一条件中包括的目标对话用户也可以预先确定，进而目标对话用户的用户信息也可以预先获得。例如，可以在上述服务对话过程开始时获得目标对话用户的用户信息。
本发明的一个实施例中，可以预先收集参与服务对话的各个对话用户的用户信息，在确定上述目标对话用户后，可以从所收集的用户信息中，确定上述目标对话用户的用户信息。
本发明的另一个实施例中，上述目标对话用户的用户信息为对对话用户进行评估得到的。
下面对上述步骤S102中提及通过预先训练的意图识别模型，从多个预设意图信息中确定待检测对话信息的意图信息的具体实现方式进行说明。
本发明的一个实施例中，参见图2，提供了第二种服务对话检测方法的流程示意图，本实施例中，可以通过以下步骤S102A-S102B实现上述步骤S102。
步骤S102A：获得由对话文本中各单词的词向量构成的文本向量。
具体的，可以对上述对话文本进行分词处理，得到多个单词，在将各个单词转换为词向量，从而获得由各个单词的词向量构成的文本向量。
本发明的一个实施例中，可以通过以下两种实现方式中任一种实现对对话文本进行分词处理。
第一种是实现方式中，可以针对对话文本中每一条对话信息对应的文本，将该文本进行分词处理。
第二种实现方式中，在上述对话文本为由各条对话信息的文本拼接得到的文本的情况下，可以直接对对话文本进行分词处理。
上述分词处理可以通过现有的分词技术实现，例如word2vec技术。
本发明的一个实施例中，在得到各个单词的词向量之后，可以计算所得到的各个词向量的权重系数，然后对各个词向量进行加权，得到加权后的词向量，进而获得由各个词向量构成的文本向量。
计算各个词向量的权重系数可以通过现有的加权计算技术实现，例如TF-IDF（term frequency–inverse document frequency，词频-逆文本频率指数）技术。
步骤S102B：将文本向量输入预先训练好的意图识别模型，得到意图识别模型从各条预设意图信息中确定的意图信息，作为对话文本的意图信息。
其中，意图识别模型是以样本文本向量作为输入、以样本文本向量的意图信息作为标注信息训练得到的。
本发明一个实施例中，上述意图识别模型包括输入层、卷积层、池化层、BiLSTM（Bi-directional Long Short-Term Memory，双向长短时记忆）层、全连接层以及Softmax层。其中，卷积层用于利用预设的卷积核提取特征，池化层用于降低模型处理的数据的维度复杂度，保留卷积信息，BiLSTM层包含隐藏层，隐藏层节点数为128，Dropout参数为0.8，全连接层用于获得输入向量所对应文本的特征向量表示，Softmax层用于基于特征向量，从多个预设意图信息中确定上述所对应文本的意图信息。
具体的，在意图识别模型训练阶段，基于样本文本向量以及样本文本向量的意图信息，意图识别模型能够学习到各个预设意图信息的特征，从而在获得上述文本向量之后，意图识别模型能够基于学习到的特征，从各个预设意图信息中确定与上述文本向量相符的意图信息，并输出所确定的意图信息。
在训练意图识别模型时，可以将包含样本文本向量以及样本文本向量的意图信息的样本数据集分为训练集以及测试集，训练集用于训练意图识别模型，测试集用于在利用训练集训练完意图识别模型后，对意图识别模型进行测试。
由以上可见，应用本发明实施例提供的方案检测服务对话时，利用意图识别模型在多个预设意图信息中确定待检测对话信息的意图信息，由于意图识别模型是以样本文本向量作为输入、以样本文本向量的意图信息作为标注信息训练得到的，因此，意图识别模型能够基于学习到各个预设意图信息的特征，这样基于学习到的特征，意图识别模型能够准确确定待检测对话信息的意图信息。由上可见，应用本发明实施例提供的服务对话检测方案，能够提高服务对话检测的准确性。
为了保证多个对话用户参与的服务对话过程的合规性，通常需要在服务对话过程中实时检测服务对话，并且需要对整个服务对话过程进行持续检测。
鉴于上述情况，本发明的一个实施例中，参见图3，提供了第三种服务对话检测方法的流程示意图，本实施例中，上述步骤S102可以通过以下步骤S102C实现，且上述方法还包括以下步骤S106。
步骤S102C：提取对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定当前对话信息的意图信息。
本步骤与上述步骤S102相类似，区别仅在于在从各个比较结果中确定所包括的相似度最大的比较结果，并确定该比较结果对应的意图信息之后，将所确定的意图信息确定为当前对话信息的意图信息。这样在服务对话过程中，对话用户每输入一条对话信息时，均可以确定该对话信息的意图信息，从而实现在服务对话过程中实时检测服务对话，确定每一对话用户已输入的各条对话信息的意图信息。
在确定上述当前对话信息的意图信息之后，上述方法还包括以下步骤S106。
步骤S106：针对参与服务对话的每一对话用户，判断该对话用户已输入的各条对话信息的意图信息是否满足规则条件，根据判断结果，检测该对话用户已输入的各条对话信息是否违规。
其中，规则条件根据预先约定的服务对话规则进行设置。
在设置上述规则条件时，针对一条服务对话规则，可以根据该服务对话规则设置一个或多个规则条件。
具体的，在判断对话用户已输入的各条对话信息的意图信息是否满足规则条件时，可以将各条意图信息中每一信息与服务对话规则对应的每一规则条件进行判断，当满足服务对话规则对应的所有规则条件时，则表示该对话用户已输入的各条对话信息的意图信息满足规则条件，说明该对话用户已输入的各条对话信息违规。
例如，根据上述服务对话规则设置了规则条件1和规则条件2，且基于对话用户已输入的三条对话信息，检测出三条意图信息，分别为意图信息1、意图信息2以及意图信息3。在判断各条意图信息是否满足规则条件时，可以首先判断意图信息1是否满足规则条件1或规则条件2，然后判断意图信息2是否满足规则条件1或规则条件2，最后判断意图信息3是否满足规则条件1或规则条件2，若上述三条意图信息中任一条信息满足规则条件1、且三条意图信息中任一条信息满足规则条件2时，则表示该对话用户已输入的这三条对话信息违规。
另外，可以存在多条上述服务对话规则，针对每一服务对话规则，可以基于该服务对话规则对应的规则条件，判断每一对话用户已输入的各条对话信息的意图信息是否满足该服务对话规则对应的规则条件，若满足，则说明该对话用户已输入的各条对话信息违反了该服务对话规则。
由以上可见，应用本发明实施例提供的方案检测服务对话时，可以在上述服务对话过程中，实时检测出对话用户输入的对话信息的意图信息，并根据服务对话规则设置的规则条件，判断所检测出的意图信息是否满足规则条件，当满足所设置的所有规则条件时，则对话用户已输入的各条对话信息违反了预先约定的服务对话规则。因此，应用本发明实施例提供的服务对话检测方案中，能够对整个服务对话过程进行综合检测，提高了服务对话检测的准确性，保证了整个服务对话过程的合规性。
在检测每一对话用户已输入的对话信息是否违规时，不仅可以基于已输入的对话信息的意图信息进行检测，还可以获得参与服务对话过程的各个对话用户的用户信息，结合意图信息以及所获得的用户信息共同进行检测。
本发明的一个实施例中，参见图4，提供了第四种服务对话检测方法的流程示意图，本实施例中，上述规则条件包括第三条件以及第四条件，其中，第三条件根据服务对话规则中规定的对话用户的用户信息进行设置，第四条件根据服务对话规则的规则内容进行设置。
上述第三条件与上述第一条件相类似，上述第四条件与上述第二条件相类似。
本发明实施例提供的方案中，可以通过以下步骤S106A-S106C实现上述步骤S106。
步骤S106A：获得参与服务对话过程的各个对话用户的用户信息。
上述各个对话用户的用户信息可以是预先收集得到的，也可以是对各个对话用户进行评估得到的。
步骤S106B：判断各个对话用户的用户信息是否满足第三条件，并判断该对话用户输入的各条对话信息的意图信息是否满足第四条件。
本步骤与上述步骤S106相类似，这里不再详述。
步骤S106C：若各个对话用户的用户信息满足第三条件、且该对话用户输入的各条对话信息的意图信息满足第四条件，确定该用户已输入的对话信息违规。
当各个对话用户的用户信息满足第三条件，且待对话用户输入的各条对话信息的意图信息满足第四条件时，则说明该对话用户输入的对话信息违反了判断过程中的第三条件、第四条件对应的服务对话规则，此时，确定该用户已输入的对话信息违规。
由以上可见，应用本发明实施例提供的方案检测服务对话时，针对每一对话用户，不仅利用该对话用户已输入的对话信息的意图信息进行检测，还利用了参与服务对话过程的各个对话用户的用户信息进行检测，这样从多个方面对该对话用户已输入的对话信息进行检测，能够提高对话信息检测的准确性。
本发明的一个实施例中，在获得上述对话文本时，可以首先通过检测违规关键词的方式对当前对话信息进行初步检测。
鉴于此，本发明的一个实施例中，参见图5，提供了第五种服务对话检测方法的流程示意图，本实施例中，可以通过以下步骤S101A-S101E实现上述步骤S101。
步骤S101A：获得当前对话信息的当前文本。
获得当前文本的方式与上述步骤S101中提及的获得对话文本的方式相类似，这里不再赘述。
步骤S101B：检测当前文本中是否包括预设违规关键词，若为是，则执行步骤S101C；若为否，则执行步骤S101D。
其中，上述违规关键词可以是不文明用语，也可以是服务对话所属行业中的敏感词汇等。
对当前文本进行违规关键词检测可以通过现有的文本检测技术实现，这里不再详述。
若当前文本中包括预设违规关键词，则说明当前对话信息存在违规行为，此时执行步骤S101C；若当前文本中不包括预设违规关键词，则说明当前对话信息通过初步检测，此时执行步骤S101D，从而进行后续检测步骤。
步骤S101C：确定当前对话信息违规。
步骤S101D：获得与当前对话信息连续的多条历史对话信息的历史文本，得到包含当前文本以及历史文本的对话文本。
获得历史文本的方式与上述步骤S101中提及的获得对话文本的方式相类似，这里不再赘述。
在获得上述历史文本之后，可以对上述当前文本以及历史文本进行合并，得到合并后的文本，作为待检测对话信息的对话文本。
步骤S101E：获得第一条件中包括的目标对话用户的用户信息。
获得目标对话用户的用户信息的具体实现方式可参见前述图1所示实施例中步骤S101，这里不再赘述。
由以上可见，应用本发明实施例提供的方案检测服务对话时，在获得上述对话文本以及目标对话用户的用户信息之前，可以通过检测违规关键词的方式对当前对话信息进行初步检测，这样在当前对话信息的当前文本中检测出违规关键词时即可确定当前对话信息违规，而无需后续利用待检测对话信息的意图信息以及目标对话用户的用户信息进行检测。因此，应用本发明实施例提供的服务对话检测方案，能够提高服务对话检测的效率。
与上述服务对话检测方法相对应，本发明实施例还提供了一种服务对话检测系统。
本发明的一个实施例中，参见图6，提供了一种服务对话检测系统的结构示意图，本实施例中，上述系统包括信息处理模块601、意图识别模块602以及条件判断模块603；
所述信息处理模块601，用于接收参与对话的各对话用户发送的对话信息，获得待检测的对话信息的对话文本，并获得第一条件中包括的目标对话用户的用户信息，其中，所述待检测的对话信息包括：服务对话过程中的当前对话信息以及与所述当前对话信息连续的多条历史对话信息；
所述意图识别模块602，用于获得所述对话文本，提取所述对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定所述待检测对话信息的意图信息；
所述信息处理模块601，还用于获得所确定的意图信息，并根据所确定的意图信息是否违规，检测所述待检测对话信息是否违规。
所述条件判断模块603，用于存储第一条件以及第二条件，其中，所述第一条件根据预先约定的服务对话规则中规定的对话用户的用户信息进行设置，所述第二条件根据所述服务对话规则的规则内容进行设置；
所述条件判断模块603，还用于获得所述待检测对话信息的意图信息以及发出所述待检测对话信息的目标对话用户的用户信息，判断所述目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件，得到第一判断结果；
所述信息处理模块601，还用于获得所述第一判断结果，根据所述第一判断结果，检测所述待检测对话信息是否违规。
由以上可见，应用本发明实施例提供的方案进行服务对话检测时，首先获得待检测对话信息的对话文本以及上述目标对话用户的用户信息，提取所获得的对话文本的特征，并将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果。由于对话文本的特征通常能够表征对话文本的语义，即待检测对话信息的语义，意图信息的特征对意图信息也具有表征性，因此，将对话文本的特征与意图信息的特征进行相似度比较，所得比较结果能够表征待检测对话信息的语义与意图信息之间的相似程度，因此，基于所得到的多个比较结果，能够在各个预设意图信息中准确确定待检测对话信息的意图信息，从而根据所确定的意图信息是否违规，能够准确检测出待检测对话信息是否违规，并且在所确定的意图信息未违规的情况下，判断目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件，这样能够利用服务对话规则来进一步检测待检测对话信息是否违规。由上可见，应用本发明实施例提供的服务对话检测方案，能够提高服务对话检测的准确性。
本发明的一个实施例中，所述意图识别模块602，具体用于：
获得所述对话文本，提取所述对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定所述当前对话信息的意图信息；
所述条件判断模块603，还用于针对参与所述服务对话的每一对话用户，判断该对话用户已输入的各条对话信息的意图信息是否满足规则条件，得到第二判断结果，其中，所述规则条件根据预先约定的服务对话规则进行设置；
所述信息处理模块601，还用于针对参与所述服务对话的每一对话用户，获得该对话用户对应的第二判断结果，根据所述第二判断结果，检测该对话用户已输入的各条对话信息是否违规。
由以上可见，应用本发明实施例提供的方案检测服务对话时，可以在上述服务对话过程中，实时检测出对话用户输入的对话信息的意图信息，并根据服务对话规则设置的规则条件，判断所检测出的意图信息是否满足规则条件，当满足所设置的所有规则条件时，则对话用户已输入的各条对话信息违反了预先约定的服务对话规则。因此，应用本发明实施例提供的服务对话检测方案中，能够对整个服务对话过程进行综合检测，提高了服务对话检测的准确性，保证了整个服务对话过程的合规性。
本发明的一个实施例中，所述规则条件包括第三条件以及第四条件，其中，所述第三条件根据所述服务对话规则中规定的对话用户的用户信息进行设置，所述第四条件根据所述服务对话规则的规则内容进行设置；
所述条件判断模块603，具体用于获得参与所述服务对话过程的各个对话用户的用户信息，针对参与所述服务对话的每一对话用户，判断各个对话用户的用户信息是否满足所述第三条件，并判断该对话用户输入的各条对话信息的意图信息是否满足所述第四条件，得到第三判断结果；
所述信息处理模块601，还用于针对参与所述服务对话的每一对话用户，获得该对话用户对应的第三判断结果，根据所述第三判断结果，检测该对话用户已输入的各条对话信息是否违规。
由以上可见，应用本发明实施例提供的方案检测服务对话时，针对每一对话用户，不仅利用该对话用户已输入的对话信息的意图信息进行检测，还利用了参与服务对话过程的各个对话用户的用户信息进行检测，这样从多个方面对该对话用户已输入的对话信息进行检测，能够提高对话信息检测的准确性。
本发明的一个实施例中，所述对话用户包括客户和客服；
所述客户的用户信息包括以下信息中至少一种：
表征客户的风险承受程度的风险承受等级、客户等级、客户权限、客户所在位置；
所述客服的用户信息包括以下多种信息中的至少一种：
客服的职位、客服等级、客服权限、客服所在位置。
本方案中，上述客户或客服的用户信息包括所列举的信息中至少一种，从而为服务对话检测提供了丰富的信息。
本发明的一个实施例中，所述当前对话信息以及所述多条历史对话信息为同一对话用户输入的对话信息。
本方案中，在上述当前对话信息以及多条历史对话信息为同一对话用户输入的对话信息时，可以避免其他对话用户所输入的对话信息对服务对话检测的干扰，从而提高确定待检测对话新的的意图信息的准确性，进而有利于服务对话检测。
本发明的一个实施例中，所述意图识别模块602，具体用于：
获得由所述对话文本中各单词的词向量构成的文本向量；
将所述文本向量输入预先训练好的意图识别模型，得到所述意图识别模型从各条预设意图信息中确定的意图信息，作为所述对话文本的意图信息，其中，所述意图识别模型是以样本文本向量作为输入、以样本文本向量的意图信息作为标注信息训练得到的。
由以上可见，应用本发明实施例提供的方案检测服务对话时，利用意图识别模型在多个预设意图信息中确定待检测对话信息的意图信息，由于意图识别模型是以样本文本向量作为输入、以样本文本向量的意图信息作为标注信息训练得到的，因此，意图识别模型能够基于学习到各个预设意图信息的特征，这样基于学习到的特征，意图识别模型能够准确确定待检测对话信息的意图信息。由上可见，应用本发明实施例提供的服务对话检测方案，能够提高服务对话检测的准确性。
本发明的一个实施例中，所述信息处理模块601，还用于获得当前对话信息的当前文本，并检测所述当前文本中是否包括预设违规关键词，若所述当前文本中包括预设违规关键词，则确定所述当前对话信息违规，若所述当前文本中不包括所述违规关键词，则获得与所述当前对话信息连续的多条历史对话信息的历史文本，得到包含所述当前文本以及历史文本的对话文本。
由以上可见，应用本发明实施例提供的方案检测服务对话时，在获得上述对话文本以及目标对话用户的用户信息之前，可以通过检测违规关键词的方式对当前对话信息进行初步检测，这样在当前对话信息的当前文本中检测出违规关键词时即可确定当前对话信息违规，而无需后续利用待检测对话信息的意图信息以及目标对话用户的用户信息进行检测。因此，应用本发明实施例提供的服务对话检测方案，能够提高服务对话检测的效率。
本发明的一个实施例中，参见图7a，提供了第二种服务对话检测系统的结构示意图，本实施例中，上述系统除了包括上述信息处理模块601、意图识别模块602以及条件判断模块603之外，还包括SAG（Service Access Gateway，服务访问网关）模块604、SMU（ServiceMonitoring Unit，合规检测单元）模块605、KLU（Knowledge Library Unit，知识库单元）模块606以及IMU（Instant Messenger’s unit，即时通信单元）模块607。
上述SAG模块604，用于提供用户登录、鉴权管理、安全认证和负载均衡等接入服务，实现黑白名单过滤和权限过滤，防止客户越权访问系统，同事提供反骚扰功能，防止同一客户短时间内重复访问系统，造成系统负担。应用负载均衡，能够保障系统内的请求平均分散至后台的各个服务器中，防止大量请求发送至同一服务器所在设备，造成高负载。
上述SMU模块605，用于提供业务管理、智能服务、API（Application ProgrammingInterface，应用程序接口）管理以及路由管理更功能，其中，业务管理功能是指协调系统中各个模块的协作，智能服务功能是指管理系统中的智能对话，智能对话是指客户与人工智能客服之间的交互对话，API管理功能是指向外界提供接口，并负责调用SMU模块605，路由管理功能是指基于系统中资源，按照客户需求、客户信息以及员工信息等信息进行客户与客服的智能分配。
KLU模块606，该模块可以看做是知识库，用于存储服务对话所属行业的行业知识，为客户提供行业内的专业知识，并且可以接收信息处理模块601发送的检索请求，并基于所获得的检索请求，在所存储的知识中进行检索，并将检索到的知识反馈给信息处理模块601。
IMU模块607，用于建立参与服务对话的各个对话用户之间的对话路径，实现对话信息的传输、记录、保存等功能。
上述信息处理模块601，还用于检测待检测对话信息中是否包括预设的违规关键词，若待检测度化信息中包括违规关键词，则确定待检测对话信息违规。
参见图7b，图7b为一种服务对话检测系统的工作流程示意图，图7b中，服务对话检测系统的工作流程包括以下步骤：
步骤S701：SAG模块604接收对话用户发送的对话请求；
步骤S702：基于对话请求，对对话用户进行用户安全认证和鉴权，并在认证通过后，生成对话许可；
步骤S703：向SMU模块605发送对话许可；
步骤S704：SMU模块605接收对话许可，生成对话建立指令
步骤S705：向IMU模块607发送对话建立指令；
步骤S706：IMU模块607建立服务对话；
步骤S707：SMU模块605生成第一监听请求；
步骤S708：SMU模块605向信息处理模块601发送第一监听请求；
步骤S709：服务对话开始，信息处理模块601实时接收各个对话用户发送的对话信息，并对所接收的对话信息进行违规关键词检测，若检测到对话信息中存在违规关键词，则通知发送该违规的对话信息的对话用户；若未检测到对话信息中存在违规关键词，则获得待检测对话信息的对话文本；
步骤S710：信息处理模块601向意图识别模块602发送对话文本；
步骤S711：意图识别模块602获得并识别对话文本的意图信息；
步骤S712：意图识别模块602向条件判断模块603发送上述意图信息；
步骤S713：条件判断模块603判断意图信息是否满足预设条件，得到判断结果；
步骤S714：条件判断模块603向信息处理模块601发送判断结果；
步骤S715：信息处理模块601获得条件判断模块603的判断结果，基于所获得的判断结果，检测待检测对话信息是否违规，若违规，则通知发送该违规的对话信息的对话用户；若未违规，则执行步骤S716；
步骤S716：信息处理模块601向条件判断模块603发送意图信息；
步骤S717：条件判断模块603获得参与服务对话的各个对话用户的用户信息，并获得各个对话信息的意图信息，利用所获得的用户信息以及意图信息进行规则条件判断，并检测是否存在服务对话规则对应的各个条件均被满足，若存在，则生成服务对话规则检测结果；
步骤S718：条件判断模块603向SMU模块605发送服务对话规则检测结果；
步骤S719：SMU模块605获得该检测结果，并确定所违反的服务对话规则对应的预设违规等级，通过所确定的预设违规等级对应的调节方式，对服务对话过程进行调节。
其中，上述预设违规等级可以分为违规和严重违规，违规等级对应的调节方式可以是通知发出违规对话信息的对话用户，严重违规等级对应的调节方式可以是通知发出违规对话信息的对话用户以及服务对话检测系统的管理员。
本发明实施例还提供了一种电子设备，如图8所示，包括处理器801、通信接口802、存储器803和通信总线804，其中，处理器801，通信接口802，存储器803通过通信总线804完成相互间的通信，
存储器803，用于存放计算机程序；
处理器801，用于执行存储器803上所存放的程序时，实现如下步骤：
获得待检测对话信息的对话文本，其中，所述待检测对话信息包括：服务对话过程中的当前对话信息以及与所述当前对话信息连续的多条历史对话信息；
提取所述对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定所述待检测对话信息的意图信息；
根据所确定的意图信息是否违规，检测所述待检测对话信息是否违规。
除此之外，上述电子设备还可以实现如前方法实施例部分所述的其他服务对话检测方法，这里不再详述。
上述电子设备提到的通信总线可以是外设部件互连标准（Peripheral ComponentInterconnect，PCI）总线或扩展工业标准结构（Extended Industry StandardArchitecture，EISA）总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器（Random Access Memory，RAM），也可以包括非易失性存储器（Non-Volatile Memory，NVM），例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器（Central Processing Unit，CPU）、网络处理器（Network Processor，NP）等；还可以是数字信号处理器（Digital SignalProcessor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable Gate Array，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一服务对话检测方法的步骤。
在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一服务对话检测方法。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线（例如同轴电缆、光纤、数字用户线（DSL））或无线（例如红外、无线、微波等）方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质（例如固态硬盘Solid State Disk (SSD)）等。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统、电子设备、计算机可读存储介质以及计算机程序产品实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。
Claims (10)
1.一种服务对话检测方法，其特征在于，所述方法包括：
获得待检测对话信息的对话文本，并获得第一条件中包括的目标对话用户的用户信息，其中，所述待检测对话信息包括：服务对话过程中的当前对话信息以及与所述当前对话信息连续的多条历史对话信息，所述第一条件根据预先约定的服务对话规则中规定的对话用户的用户信息进行设置；
提取所述对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定所述待检测对话信息的意图信息；
在所确定的意图信息违规的情况下，确定所述待检测对话信息违规；
在所确定的意图信息未违规的情况下，判断所述目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件，其中，所述第二条件根据所述服务对话规则的规则内容进行设置；
若所述目标对话用户的用户信息满足所述第一条件、且所确定的意图信息满足所述第二条件，确定所述待检测对话信息违规。
2.根据权利要求1所述的方法，其特征在于，所述在各个预设意图信息中确定所述待检测对话信息的意图信息，包括：
将所得到的意图信息确定为所述当前对话信息的意图信息；
所述方法还包括：
针对参与所述服务对话的每一对话用户，判断该对话用户已输入的各条对话信息的意图信息是否满足规则条件，根据判断结果，检测该对话用户已输入的各条对话信息是否违规，其中，所述规则条件根据预先约定的服务对话规则进行设置。
3.根据权利要求2所述的方法，其特征在于，所述规则条件包括第三条件以及第四条件，其中，所述第三条件根据所述服务对话规则中规定的对话用户的用户信息进行设置，所述第四条件根据所述服务对话规则的规则内容进行设置；
所述判断该对话用户已输入的各条对话信息的意图信息是否满足规则条件，根据判断结果，检测该对话用户已输入的各条对话信息是否违规，包括：
获得参与所述服务对话过程的各个对话用户的用户信息；
判断各个对话用户的用户信息是否满足所述第三条件，并判断该对话用户输入的各条对话信息的意图信息是否满足所述第四条件；
若各个对话用户的用户信息满足所述第三条件、且该对话用户输入的各条对话信息的意图信息满足所述第四条件，确定该用户已输入的对话信息违规。
4.根据权利要求1-3中任一项所述的方法，其特征在于，所述对话用户包括客户和客服；
所述客户的用户信息包括以下信息中的至少一种：
表征客户的风险承受程度的风险承受等级、客户等级、客户权限、客户所在位置；
所述客服的用户信息包括以下多种信息中的至少一种：
客服的职位、客服等级、客服权限、客服所在位置。
5.根据权利要求1-3中任一项所述的方法，其特征在于，所述当前对话信息以及所述多条历史对话信息为同一对话用户输入的对话信息。
6.根据权利要求1-3中任一项所述的方法，其特征在于，所述提取所述对话文本的特征，将所提取特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，确定所述对话文本的意图信息，包括：
获得由所述对话文本中各单词的词向量构成的文本向量；
将所述文本向量输入预先训练好的意图识别模型，得到所述意图识别模型从各条预设意图信息中确定的意图信息，作为所述对话文本的意图信息，其中，所述意图识别模型是以样本文本向量作为输入、以样本文本向量的意图信息作为标注信息训练得到的。
7.根据权利要求1-3中任一项所述的方法，其特征在于，所述获得待检测对话信息的对话文本，包括：
获得当前对话信息的当前文本；
检测所述当前文本中是否包括预设违规关键词；
若为是，则确定所述当前对话信息违规；
若为否，则获得与所述当前对话信息连续的多条历史对话信息的历史文本，得到包含所述当前文本以及历史文本的对话文本。
8.一种服务对话检测系统，其特征在于，所述系统包括信息处理模块、意图识别模块以及条件判断模块；
所述信息处理模块，用于接收参与对话的各对话用户发送的对话信息，获得待检测对话信息的对话文本，并获得第一条件中包括的目标对话用户的用户信息，其中，所述待检测对话信息包括：服务对话过程中的当前对话信息以及与所述当前对话信息连续的多条历史对话信息，所述第一条件根据预先约定的服务对话规则中规定的对话用户的用户信息进行设置；
所述意图识别模块，用于获得所述对话文本，提取所述对话文本的特征，将所提取的特征与多个预设意图信息中每一意图信息的特征进行相似度比较，得到多个比较结果，并基于所得到的多个比较结果，在各个预设意图信息中确定所述待检测对话信息的意图信息；
所述信息处理模块，还用于获得所确定的意图信息，并根据所确定的意图信息是否违规，检测所述待检测对话信息是否违规；
所述条件判断模块，用于存储第一条件以及第二条件，其中，所述第一条件根据预先约定的服务对话规则中规定的对话用户的用户信息进行设置，所述第二条件根据所述服务对话规则的规则内容进行设置；
所述条件判断模块，还用于获得所述待检测对话信息的意图信息以及第一条件中包括的目标对话用户的用户信息，判断所述目标对话用户的用户信息是否满足第一条件，并判断所确定的意图信息是否满足第二条件，得到第一判断结果；
所述信息处理模块，还用于获得所述第一判断结果，根据所述第一判断结果，检测所述待检测对话信息是否违规。
9.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现权利要求1-7任一所述的方法步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-7任一所述的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210448009.3A CN114548118A (zh) | 2022-04-27 | 2022-04-27 | 一种服务对话检测方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210448009.3A CN114548118A (zh) | 2022-04-27 | 2022-04-27 | 一种服务对话检测方法及系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114548118A true CN114548118A (zh) | 2022-05-27 |
Family
ID=81666639
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210448009.3A Pending CN114548118A (zh) | 2022-04-27 | 2022-04-27 | 一种服务对话检测方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114548118A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116822496A (zh) * | 2023-06-02 | 2023-09-29 | 厦门她趣信息技术有限公司 | 一种社交信息违规检测方法、系统及存储介质 |
| CN117540003A (zh) * | 2024-01-09 | 2024-02-09 | 腾讯科技（深圳）有限公司 | 一种文本处理方法及相关装置 |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB2521050A (en) * | 2013-11-21 | 2015-06-10 | Global Analytics Inc | Credit risk decision management system and method using voice analytics |
| CN110197672A (zh) * | 2018-02-27 | 2019-09-03 | 招商信诺人寿保险有限公司 | 一种语音通话质量检测方法、服务器、存储介质 |
| CN112199480A (zh) * | 2020-09-18 | 2021-01-08 | 厦门快商通科技股份有限公司 | 一种基于bert模型的在线对话日志违规检测方法及系统 |
| CN112364661A (zh) * | 2020-11-11 | 2021-02-12 | 北京大米科技有限公司 | 一种数据检测的方法、装置、可读存储介质和电子设备 |
| CN112464661A (zh) * | 2020-11-25 | 2021-03-09 | 马上消费金融股份有限公司 | 模型训练方法、语音对话检测方法及相关设备 |
| CN112804400A (zh) * | 2020-12-31 | 2021-05-14 | 中国工商银行股份有限公司 | 客服呼叫语音质检方法、装置、电子设备及存储介质 |
| CN113064983A (zh) * | 2021-04-23 | 2021-07-02 | 深圳壹账通智能科技有限公司 | 语义检测方法、装置、计算机设备及存储介质 |
| CN113361969A (zh) * | 2021-07-07 | 2021-09-07 | 北京容联七陌科技有限公司 | 一种灵活可配置模板的智能质检系统 |
| CN113723767A (zh) * | 2021-08-10 | 2021-11-30 | 上海浦东发展银行股份有限公司 | 一种基于语音交互数据的业务流程质检方法和装置 |
| CN113901838A (zh) * | 2021-10-20 | 2022-01-07 | 平安科技（深圳）有限公司 | 对话检测方法和装置、电子设备、存储介质 |
-
2022
- 2022-04-27 CN CN202210448009.3A patent/CN114548118A/zh active Pending
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB2521050A (en) * | 2013-11-21 | 2015-06-10 | Global Analytics Inc | Credit risk decision management system and method using voice analytics |
| CN110197672A (zh) * | 2018-02-27 | 2019-09-03 | 招商信诺人寿保险有限公司 | 一种语音通话质量检测方法、服务器、存储介质 |
| CN112199480A (zh) * | 2020-09-18 | 2021-01-08 | 厦门快商通科技股份有限公司 | 一种基于bert模型的在线对话日志违规检测方法及系统 |
| CN112364661A (zh) * | 2020-11-11 | 2021-02-12 | 北京大米科技有限公司 | 一种数据检测的方法、装置、可读存储介质和电子设备 |
| CN112464661A (zh) * | 2020-11-25 | 2021-03-09 | 马上消费金融股份有限公司 | 模型训练方法、语音对话检测方法及相关设备 |
| CN112804400A (zh) * | 2020-12-31 | 2021-05-14 | 中国工商银行股份有限公司 | 客服呼叫语音质检方法、装置、电子设备及存储介质 |
| CN113064983A (zh) * | 2021-04-23 | 2021-07-02 | 深圳壹账通智能科技有限公司 | 语义检测方法、装置、计算机设备及存储介质 |
| CN113361969A (zh) * | 2021-07-07 | 2021-09-07 | 北京容联七陌科技有限公司 | 一种灵活可配置模板的智能质检系统 |
| CN113723767A (zh) * | 2021-08-10 | 2021-11-30 | 上海浦东发展银行股份有限公司 | 一种基于语音交互数据的业务流程质检方法和装置 |
| CN113901838A (zh) * | 2021-10-20 | 2022-01-07 | 平安科技（深圳）有限公司 | 对话检测方法和装置、电子设备、存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 王毛路等: "人工智能与证券监管问题研究", 《人工智能法学研究》 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116822496A (zh) * | 2023-06-02 | 2023-09-29 | 厦门她趣信息技术有限公司 | 一种社交信息违规检测方法、系统及存储介质 |
| CN116822496B (zh) * | 2023-06-02 | 2024-04-19 | 厦门她趣信息技术有限公司 | 一种社交信息违规检测方法、系统及存储介质 |
| CN117540003A (zh) * | 2024-01-09 | 2024-02-09 | 腾讯科技（深圳）有限公司 | 一种文本处理方法及相关装置 |
| CN117540003B (zh) * | 2024-01-09 | 2024-04-26 | 腾讯科技（深圳）有限公司 | 一种文本处理方法及相关装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109922032B (zh) | 用于确定登录账户的风险的方法、装置、设备及存储介质 | |
| CN108366045B (zh) | 一种风控评分卡的设置方法和装置 | |
| CN107071193B (zh) | 互动应答系统接入用户的方法和装置 | |
| CN114548118A (zh) | 一种服务对话检测方法及系统 | |
| CN110147925B (zh) | 一种风险决策方法、装置、设备及系统 | |
| CN110851872B (zh) | 针对隐私数据泄漏的风险评估方法及装置 | |
| CN112633962B (zh) | 业务推荐方法、装置、计算机设备和存储介质 | |
| CN109831459B (zh) | 安全访问的方法、装置、存储介质和终端设备 | |
| CN111079186B (zh) | 数据分析的方法、装置、设备和存储介质 | |
| CN110310123B (zh) | 风险判断方法和装置 | |
| CN111324370B (zh) | 用于对待上线小程序进行风险处理的方法及装置 | |
| CN113627566A (zh) | 一种网络诈骗的预警方法、装置和计算机设备 | |
| CN112561685B (zh) | 客户的分类方法和装置 | |
| WO2019242627A1 (zh) | 一种数据处理方法及其装置 | |
| CN111181757B (zh) | 信息安全风险预测方法、装置以及计算设备、存储介质 | |
| CN112839014A (zh) | 建立识别异常访问者模型的方法、系统、设备及介质 | |
| CN111061948B (zh) | 一种用户标签推荐方法、装置、计算机设备及存储介质 | |
| CN111489175A (zh) | 在线身份认证方法、装置、系统及存储介质 | |
| CN113298121A (zh) | 基于多数据源建模的消息发送方法、装置和电子设备 | |
| CN112053245A (zh) | 信息评估方法及系统 | |
| CN112712270B (zh) | 信息处理方法、装置、设备及存储介质 | |
| CN115660101A (zh) | 一种基于业务节点信息的数据服务提供方法及装置 | |
| CN114841588A (zh) | 信息处理方法、装置、电子设备和计算机可读介质 | |
| CN113935738B (zh) | 交易数据处理方法、装置、存储介质及设备 | |
| CN114399319A (zh) | 基于预测模型的虚假企业识别方法、装置、设备和介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |