CN113343709A - 意图识别模型的训练方法、意图识别方法、装置及设备 - Google Patents
意图识别模型的训练方法、意图识别方法、装置及设备 Download PDFInfo
- Publication number
- CN113343709A CN113343709A CN202110691801.7A CN202110691801A CN113343709A CN 113343709 A CN113343709 A CN 113343709A CN 202110691801 A CN202110691801 A CN 202110691801A CN 113343709 A CN113343709 A CN 113343709A
- Authority
- CN
- China
- Prior art keywords
- text data
- intention
- category
- probability
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Abstract
本申请公开了一种意图识别模型的训练方法、意图识别方法、装置及设备,属于人工智能技术领域。方法包括:获取多个第一文本数据;提取各个第一文本数据的语义特征;基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据;获取各个第二文本数据的意图类别标注结果;根据各个第二文本数据的意图类别标注结果获取意图识别模型。本申请减少需要标注的文本数据量,减少时间消耗,在根据各个第二文本数据的意图类别标注结果获取意图识别模型时,提高了意图识别模型的训练速度,提高意图识别效率。
Description
技术领域
本申请实施例涉及人工智能技术领域,特别涉及一种意图识别模型的训练方法、意图识别方法、装置及设备。
背景技术
随着人工智能技术的进步,以人机对话为核心功能的产品,如智能音箱、智能客服等,逐渐步入大众的视野。针对人机对话为核心功能的产品,通常需要先将用户的语音信息转化为文本数据,再根据训练好的意图识别模型对文本数据进行意图分类,得到文本数据的意图类别。
相关技术中,先收集大量的文本数据,再人工标注各个文本数据的意图类别,基于标注后的各个文本数据对初始分类模型进行训练,得到训练好的意图识别模型。由于训练意图识别模型时需要人工标注大量的文本数据,耗费大量时间,影响意图识别模型的训练速度,降低了意图识别效率。
发明内容
本申请实施例提供了一种意图识别模型的训练方法、意图识别方法、装置及设备,可用于解决相关技术中的问题。所述技术方案如下:
一方面,本申请实施例提供了一种意图识别模型的训练方法,所述方法包括:
获取多个第一文本数据;
提取各个第一文本数据的语义特征;
基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据;
获取各个第二文本数据的意图类别标注结果;
根据所述各个第二文本数据的意图类别标注结果获取意图识别模型。
在一种可能的实现方式中,所述基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据包含多个意图类别的文本数据,且各个意图类别的文本数据的数量相同,则基于所述各个第一文本数据的语义特征,对所述多个第一文本数据进行聚类处理,得到至少一个意图类别;
从各个意图类别对应的第一文本数据中分别筛选出目标数量个第二文本数据。
在一种可能的实现方式中,所述基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据为第一意图类别的文本数据,则基于所述各个第一文本数据的语义特征,对所述多个第一文本数据进行聚类处理,得到至少一个意图类别,所述至少一个意图类别包含所述第一意图类别,所述第一意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别,所述第三文本数据已标注有意图类别标注结果且用于训练所述意图识别模型;
从所述第一意图类别对应的各个第一文本数据中筛选出所述多个第二文本数据。
在一种可能的实现方式中,所述基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:
基于所述各个第一文本数据的语义特征,对所述各个第一文本数据进行分类处理,得到所述各个第一文本数据各自对应的各个意图类别的概率;
根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据。
在一种可能的实现方式中,所述根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据为信息熵大于或者等于目标信息熵的文本数据,则根据所述各个第一文本数据对应的各个意图类别的概率,计算所述各个第一文本数据的信息熵,所述信息熵指示确定文本数据对应的意图类别的难易程度;
响应于存在至少一个第一文本数据的信息熵大于或者等于目标信息熵,将所述至少一个第一文本数据作为所述第二文本数据。
在一种可能的实现方式中,所述根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据为满足第一条件和第二条件中的至少一项的文本数据,则从所述各个第一文本数据对应的各个意图类别的概率中确定最大概率,满足第一条件是指各个意图类别的概率中最大概率小于或者等于概率阈值,满足第二条件是指各个意图类别的概率中最大概率所对应的意图识别为第二意图类别,所述第二意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别;
响应于存在至少一个第一文本数据满足第一条件和第二条件中的至少一项,将所述至少一个第一文本数据确定为所述第二文本数据。
在一种可能的实现方式中,所述根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据为每两个意图类别之间的概率差值均小于或者等于概率差值阈值的文本数据,则基于所述各个第一文本数据对应的各个意图类别的概率,确定所述各个第一文本数据对应的每两个意图类别之间的概率差值;
响应于存在至少一个第一文本数据对应的每两个意图类别之间的概率差值均小于或者等于概率差值阈值,将所述至少一个第一文本数据确定为所述第二文本数据。
另一方面,本申请实施例提供了一种意图识别方法,所述方法包括:
获取待识别意图的文本数据;
基于意图识别模型确定所述文本数据的意图类别,所述意图识别模型是根据上述任一所述的意图识别模型的训练方法得到的。
在一种可能的实现方式中,所述基于意图识别模型确定所述文本数据的意图类别,包括:
将所述文本数据输入至所述意图识别模型,由所述意图识别模型输出所述文本数据对应的各个意图类别的概率;
从所述文本数据对应的各个意图类别的概率中确定最大概率;
将所述最大概率对应的意图类别确定为所述文本数据的意图类别。
另一方面,本申请实施例提供了一种意图识别模型的训练装置,所述装置包括:
获取模块,用于获取多个第一文本数据;
提取模块,用于提取各个第一文本数据的语义特征;
筛选模块,用于基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据;
所述获取模块,还用于获取各个第二文本数据的意图类别标注结果;
所述获取模块,还用于根据所述各个第二文本数据的意图类别标注结果获取意图识别模型。
在一种可能的实现方式中,所述筛选模块,用于响应于所述符合数据条件的多个第二文本数据包含多个意图类别的文本数据,且各个意图类别的文本数据的数量相同,则基于所述各个第一文本数据的语义特征,对所述多个第一文本数据进行聚类处理,得到至少一个意图类别;从各个意图类别对应的第一文本数据中分别筛选出目标数量个第二文本数据。
在一种可能的实现方式中,所述筛选模块,用于响应于所述符合数据条件的多个第二文本数据为第一意图类别的文本数据,则基于所述各个第一文本数据的语义特征,对所述多个第一文本数据进行聚类处理,得到至少一个意图类别,所述至少一个意图类别包含所述第一意图类别,所述第一意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别,所述第三文本数据已标注有意图类别标注结果且用于训练所述意图识别模型;从所述第一意图类别对应的各个第一文本数据中筛选出所述多个第二文本数据。
在一种可能的实现方式中,所述筛选模块,用于基于所述各个第一文本数据的语义特征,对所述各个第一文本数据进行分类处理,得到所述各个第一文本数据各自对应的各个意图类别的概率;根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据。
在一种可能的实现方式中,所述筛选模块,用于响应于所述符合数据条件的多个第二文本数据为信息熵大于或者等于目标信息熵的文本数据,则根据所述各个第一文本数据对应的各个意图类别的概率,计算所述各个第一文本数据的信息熵,所述信息熵指示确定文本数据对应的意图类别的难易程度;响应于存在至少一个第一文本数据的信息熵大于或者等于目标信息熵,将所述至少一个第一文本数据作为所述第二文本数据。
在一种可能的实现方式中,所述筛选模块,用于响应于所述符合数据条件的多个第二文本数据为满足第一条件和第二条件中的至少一项的文本数据,则从所述各个第一文本数据对应的各个意图类别的概率中确定最大概率,满足第一条件是指各个意图类别的概率中最大概率小于或者等于概率阈值,满足第二条件是指各个意图类别的概率中最大概率所对应的意图识别为第二意图类别,所述第二意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别;响应于存在至少一个第一文本数据满足第一条件和第二条件中的至少一项,将所述至少一个第一文本数据确定为所述第二文本数据。
在一种可能的实现方式中,所述筛选模块,用于响应于所述符合数据条件的多个第二文本数据为每两个意图类别之间的概率差值均小于或者等于概率差值阈值的文本数据,则基于所述各个第一文本数据对应的各个意图类别的概率,确定所述各个第一文本数据对应的每两个意图类别之间的概率差值;响应于存在至少一个第一文本数据对应的每两个意图类别之间的概率差值均小于或者等于概率差值阈值,将所述至少一个第一文本数据确定为所述第二文本数据。
另一方面,本申请实施例提供了一种意图识别装置,所述装置包括:
获取模块,用于获取待识别意图的文本数据;
确定模块,用于基于意图识别模型确定所述文本数据的意图类别,所述意图识别模型是根据上述任一所述的意图识别模型的训练方法得到的。
在一种可能的实现方式中,所述确定模块,用于将所述文本数据输入至所述意图识别模型,由所述意图识别模型输出所述文本数据对应的各个意图类别的概率;从所述文本数据对应的各个意图类别的概率中确定最大概率;将所述最大概率对应的意图类别确定为所述文本数据的意图类别。
另一方面,本申请实施例提供了一种电子设备,所述电子设备包括处理器和存储器,所述存储器中存储有至少一条程序代码,所述至少一条程序代码由所述处理器加载并执行,以使所述电子设备实现上述任一所述的意图识别模型的训练方法。
另一方面,本申请实施例提供了一种电子设备,所述电子设备包括处理器和存储器,所述存储器中存储有至少一条程序代码,所述至少一条程序代码由所述处理器加载并执行,以使所述电子设备实现上述任一所述的意图识别方法。
另一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条程序代码,所述至少一条程序代码由处理器加载并执行,以使计算机实现上述任一所述的意图识别模型的训练方法。
另一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条程序代码,所述至少一条程序代码由处理器加载并执行,以使计算机实现上述任一所述的意图识别方法。
另一方面,还提供了一种计算机程序或计算机程序产品,所述计算机程序或计算机程序产品中存储有至少一条计算机指令,所述至少一条计算机指令由处理器加载并执行,以使计算机实现上述任一所述的意图识别模型的训练方法。
另一方面,还提供了一种计算机程序或计算机程序产品,所述计算机程序或计算机程序产品中存储有至少一条计算机指令,所述至少一条计算机指令由处理器加载并执行,以使计算机实现上述任一所述的意图识别方法。
本申请实施例提供的技术方案至少带来如下有益效果:
本申请实施例提供的技术方案基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出多个第二文本数据,再获取各个第二文本数据的意图类别标注结果,减少需要标注的文本数据量,减少时间消耗,在根据各个第二文本数据的意图类别标注结果获取意图识别模型时,提高了意图识别模型的训练速度,提高意图识别效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种实施环境示意图;
图2是本申请实施例提供的一种意图识别模型的训练方法的流程图;
图3为本申请实施例提供的另一种意图识别模型的训练方法的流程图;
图4是本申请实施例提供的一种意图识别方法的流程图;
图5是本申请实施例提供的一种意图识别模型的训练装置的结构示意图;
图6是本申请实施例提供的一种意图识别装置的结构示意图;
图7是本申请实施例提供的一种终端设备的结构示意图;
图8是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
如图1所示,图1是本申请实施例提供的一种实施环境示意图,该实施环境是意图识别模型的训练方法的实施环境,或者是意图识别方法的实施环境。该实施环境包括电子设备11,本申请实施例中意图识别模型的训练方法和/或意图识别方法可以由电子设备11执行。示例性地,电子设备11可以包括终端设备或者服务器中的至少一项。
终端设备可以是智能手机、游戏主机、台式计算机、平板电脑、电子书阅读器和膝上型便携计算机中的至少一种。服务器可以为一台服务器,或者为多台服务器组成的服务器集群,或者为云计算平台和虚拟化中心中的任意一种,本申请实施例对此不加以限定。服务器可以与终端设备通过有线网络或无线网络进行通信连接。服务器可以具有数据处理、数据存储以及数据收发等功能,在本申请实施例中不加以限定。
基于上述实施环境,本申请实施例提供了一种意图识别模型的训练方法,如图2所示,图2是本申请实施例提供的一种意图识别模型的训练方法的流程图,该方法可由图1中的电子设备11执行,该方法包括下述步骤S21-步骤S25。
步骤S21,获取多个第一文本数据。
第一文本数据的获取方式不做限定,示例性的,第一文本数据是从网络上抓取到的,或者第一文本数据是用户输入的,或者第一文本数据是通过对语音信息进行转化得到的。
步骤S22,提取各个第一文本数据的语义特征。
对于一个第一文本数据,可以利用训练好的文本特征提取模型提取该第一文本数据的语义特征,文本特征提取模型的结构和网络大小不做限定。示例性的,文本特征提取模型为基于转换器的双向编码器表示(Bidirectional Encoder Representations fromTransformers,BERT)模型。
在实际应用时,部分文本处理模型在处理文本数据时,需要先提取文本数据的语义特征,再基于语义特征做进一步的处理,因此,可以利用这部分文本处理模型提取第一文本数据的语义特征,文本处理模型的类型、结构、大小不做限定,示例性的,文本处理模型为文本翻译模型、针对文本的意图识别模型、针对文本的情绪识别模型等。
本申请实施例中,先提取一个第一文本数据中各个字符的字符特征和每两个字符之间的关联特征,根据各个字符的字符特征和每两个字符之间的关联特征,得到该第一文本数据的语义特征。或者,先提取一个第一文本数据中各个字符的字符特征和各个字符的位置特征,根据各个字符的字符特征和各个字符的位置特征,得到该第一文本数据的语义特征。
步骤S23,基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据。
基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出多个第二文本数据,第二文本数据为待标注的文本数据,减少了待标注的文本数据的数量,降低了时间消耗。
在一种可能的实现方式中,基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:响应于符合数据条件的多个第二文本数据包含多个意图类别的文本数据,且各个意图类别的文本数据的数量相同,则基于各个第一文本数据的语义特征,对多个第一文本数据进行聚类处理,得到至少一个意图类别;从各个意图类别对应的第一文本数据中分别筛选出目标数量个第二文本数据。
本申请实施例中,基于两个第一文本数据的语义特征,计算两个第一文本数据之间的语义相似度。响应于两个第一文本数据之间的语义相似度大于或者等于语义相似度阈值,则说明这两个第一文本数据表达相同的内容,将这两个第一文本数据聚为一类;响应于两个第一文本数据之间的语义相似度小于语义相似度阈值,则说明这两个第一文本数据表达不同的内容,将这两个第一文本数据分为两类。
通过上述方式,将多个第一文本数据中表达相同内容的第一文本数据聚为一类,将多个第一文本数据中表达不同内容的第一文本数据分为不同类,以此得到至少一个类,一个类可以称为意图类别。即通过上述方式,将多个第一文本数据聚为至少一个意图类别。
在实际应用时,可以采用聚类算法,基于各个第一文本数据的语义特征,对多个第一文本数据进行聚类处理,得到至少一个意图类别。聚类算法包括但不限于K均值聚类算法(K-means Clustering Algorithm,K-means)、K中心点聚类算法(K-medoids ClusteringAlgorithm,K-medoids)、基于随机选择的聚类算法(Clustering Algorithm Based OnRandom Selection,CLARANS)等。
本申请实施例中,对于每一个意图类别,从该意图类别对应的各个第一文本数据中筛选出目标数量个的第二文本数据,其中,目标数量的具体大小不作限定。
例如,将10万个第一文本数据聚为5个意图类别,分别记为意图类别1-5。从意图类别1对应的5万个第一文本数据中筛选出1000个第二文本数据;从意图类别2对应的2万个第一文本数据中筛选出1000个第二文本数据;从意图类别3对应的2万个第一文本数据中筛选出1000个第二文本数据;从意图类别4对应的6千个第一文本数据中筛选出1000个第二文本数据;从意图类别5对应的4千个第一文本数据中筛选出1000个第二文本数据。即从10万个第一文本数据中筛选出5000个第二文本数据,这5000个第二文本数据分为五个意图类别,且每个意图类别的第二文本数据的数量相同。
在另一种可能的实现方式中,基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:响应于符合数据条件的多个第二文本数据为第一意图类别的文本数据,则基于各个第一文本数据的语义特征,对多个第一文本数据进行聚类处理,得到至少一个意图类别,至少一个意图类别包含第一意图类别,第一意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别,第三文本数据已标注有意图类别标注结果且用于训练意图识别模型;从第一意图类别对应的各个第一文本数据中筛选出多个第二文本数据。
本申请实施例中,基于各个第一文本数据的语义特征,对多个第一文本数据进行聚类处理,得到至少一个意图类别的处理方式,详见前文的相关描述,在此不再赘述。
通过将各个意图类别中指定的意图类别,作为第一意图类别,从第一意图类别对应的各个第一文本数据中筛选出若干个第二文本数据。
例如,将10万个第一文本数据聚为5个意图类别,分别记为意图类别1-5,其中,指定的意图类别为意图类别2和意图类别5,则意图类别2和意图类别5均为第一意图类别。从意图类别2对应的2万个第一文本数据中筛选出2000个第二文本数据,从意图类别5对应的4千个第一文本数据中筛选出900个第二文本数据。即从10万个第一文本数据中筛选出2900个第二文本数据,这2900个第二文本数据分为两个意图类别,分别是意图类别2和意图类别5。
本申请实施例中,第一意图类别为至少一个意图类别中包含第三文本数据的数量最少的意图类别,第三文本数据已标注有意图类别标注结果且用于训练意图识别模型。也就是说,第三文本数据也是意图识别模型的训练数据,且先获取第三文本数据及其意图类别标注结果,再根据第三文本数据的意图类别标注结果,确定包含第三文本数据的数量最少的意图类别,将确定出的意图类别作为第一意图类别,之后,从第一意图类别对应的第一文本数据中筛选出若干个第二文本数据,利用第二文本数据和第三文本数据,获取意图识别模型。
在另一种可能的实现方式中,基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:基于各个第一文本数据的语义特征,对各个第一文本数据进行分类处理,得到各个第一文本数据各自对应的各个意图类别的概率;根据各个第一文本数据各自对应的各个意图类别的概率,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据。
本申请实施例中,对于一个第一文本数据,训练好的意图识别模型根据这个第一文本数据的语义特征,输出这个第一文本数据对应的各个意图类别的概率,其中,意图类别为至少两个,每一个意图类别对应一个概率,即一个第一文本数据对应至少两个概率,每一个概率对应一个意图类别。然后根据各个第一文本数据各自对应的各个意图类别的概率,从多个第一文本数据中筛选出多个第二文本数据。
在一种可能的实现方式中,根据各个第一文本数据各自对应的各个意图类别的概率,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:响应于符合数据条件的多个第二文本数据为信息熵大于或者等于目标信息熵的文本数据,则根据各个第一文本数据对应的各个意图类别的概率,计算各个第一文本数据的信息熵,信息熵指示确定文本数据对应的意图类别的难易程度;响应于存在至少一个第一文本数据的信息熵大于或者等于目标信息熵,将至少一个第一文本数据作为第二文本数据。
本申请实施例中,对于一个第一文本数据中的每一个意图类别,先计算该意图类别的概率的对数,再计算对数与该意图类别的概率之间的乘积,将乘积结果与目标数值进行相乘,得到该意图类别对应的信息熵部分。之后,将各个意图类别对应的信息熵部分进行相加,得到这个第一文本数据的信息熵。其中,目标数值的大小不作限定,示例性的,目标数据为1。
第一文本数据的信息熵的计算公式如公式(1)所示。
其中,H(x)为第一文本数据x的信息熵,n为意图类别总数,p(xi)为第一文本数据x对应的第i个意图类别的概率,i为正整数,且i小于或者等于n,∑为求和符号,log为对数符号。
当一个第一文本数据的信息熵大于或者等于目标信息熵时,将这个第一文本数据作为第二文本数据,目标信息熵的数值不做限定。
在另一种可能的实现方式中,根据各个第一文本数据各自对应的各个意图类别的概率,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:响应于符合数据条件的多个第二文本数据为满足第一条件和第二条件中的至少一项的文本数据,则从各个第一文本数据对应的各个意图类别的概率中确定最大概率,满足第一条件是指各个意图类别的概率中最大概率小于或者等于概率阈值,满足第二条件是指各个意图类别的概率中最大概率所对应的意图识别为第二意图类别,第二意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别;响应于存在至少一个第一文本数据满足第一条件和第二条件中的至少一项,将至少一个第一文本数据确定为第二文本数据。
本申请实施例中,可以从一个第一文本数据对应的至少两个概率中确定最大概率,响应于最大概率小于或者等于概率阈值,将这个第一文本数据确定为第二文本数据,响应于最大概率大于概率阈值,过滤掉这个第一文本数据。
例如,第一文本数据对应的三个概率分别为0.4、0.3和0.3,概率阈值为0.5,由于最大概率0.4小于0.5,则将该第一文本数据确定为第二文本数据。
本申请实施例中,还可以从一个第一文本数据对应的至少两个概率中确定最大概率,响应于最大概率所对应的意图类别为第二意图类别,将这个第一文本数据确定为第二文本数据,响应于最大概率所对应的意图类别不为第二意图类别,过滤掉这个第一文本数据。其中,第二意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别,第三文本数据的内容详见前文的相关说明,在此不再赘述。
例如,第一文本数据对应的三个概率分别为0.7、0.2和0.1,0.7对应的意图类别为第二意图类别,由于最大概率0.7对应的意图类别为第二意图类别,则将该第一文本数据确定为第二文本数据。
在另一种可能的实现方式中,根据各个第一文本数据各自对应的各个意图类别的概率,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:响应于符合数据条件的多个第二文本数据为每两个意图类别之间的概率差值均小于或者等于概率差值阈值的文本数据,则基于各个第一文本数据对应的各个意图类别的概率,确定各个第一文本数据对应的每两个意图类别之间的概率差值;响应于存在至少一个第一文本数据对应的每两个意图类别之间的概率差值均小于或者等于概率差值阈值,将至少一个第一文本数据确定为第二文本数据。
本申请实施例中,对于一个第一文本数据,根据这个第一文本数据对应的至少两个意图类别各自的概率,计算每两个意图类别之间的概率差值,响应于每两个意图类别之间的概率差值均小于或者等于概率差值阈值,将这个第一文本数据确定为第二文本数据,响应于存在两个意图类别之间的概率差值大于概率差值阈值,过滤掉这个第一文本数据。
例如,第一文本数据对应三个意图类别各自的概率分别为0.4、0.3和0.3,概率差值阈值为0.3,计算每两个意图类别之间的概率差值,得到三个概率差值,分别为0.1、0.1和0,由于三个概率差值均小于概率差值阈值,则将该第一文本数据确定为第二文本数据。
又如,第一文本数据对应三个意图类别各自的概率分别为0.6、0.3和0.1,概率差值阈值为0.3,计算每两个意图类别之间的概率差值,得到三个概率差值,分别为0.3、0.5和0.2,由于0.5大于概率差值阈值0.3,则将过滤掉该第一文本数据。
步骤S24,获取各个第二文本数据的意图类别标注结果。
对于每一个第二文本数据,人工标注该第二文本数据的意图类别,得到该第二文本数据的意图类别标注结果。
步骤S25,根据各个第二文本数据的意图类别标注结果获取意图识别模型。
将各个第二文本数据输入至初始模型,由初始模型提取各个第二文本数据的语义特征,并对各个第二文本数据的语义特征进行指定操作,由初始模型输出各个第二文本数据各自对应的各个意图类别的概率,利用各个第二文本数据各自对应的各个意图类别的概率和各个第二文本数据的意图类别标注结果,计算初始模型的损失值,并根据损失值调整初始模型的模型参数,得到意图识别模型。其中,指定操作包括但不限于卷积操作、反卷积操作、池化操作等。
需要说明的是,初始模型可以是未训练过的分类模型,即本申请实施例可以根据各个第二文本数据的意图类别标注结果,对未训练过的分类模型进行训练,得到意图识别模型,以实现对文本数据进行意图识别。初始模型也可以是训练过的意图识别模型,即本申请实施例可以根据各个第二文本数据的意图类别标注结果,对训练过的意图识别模型进行再次训练,以优化意图识别模型,提升意图识别模型的识别效果。
本申请实施例提供的技术方案基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出多个第二文本数据,再获取各个第二文本数据的意图类别标注结果,减少需要标注的文本数据量,减少时间消耗,在根据各个第二文本数据的意图类别标注结果获取意图识别模型时,提高了意图识别模型的训练速度,提高意图识别效率。
上述从方法步骤的角度介绍了意图识别模型的训练方法,下面将结合图3进一步阐述意图识别模型的训练方法,如图3所示,图3为本申请实施例提供的另一种意图识别模型的训练方法的流程图。在该意图识别模型的训练过程中,先获取用户的文本数据,然后将文本数据输入至意图识别模型中,由意图识别模型输出文本数据对应的各个意图类别的概率。
之后,根据各个意图类别的概率,确定文本数据是否符合不确定性和稀缺性中的至少一项。本申请实施例中,当文本数据对应的各个意图类别的概率中最大概率小于或者等于概率阈值,则文本数据是否符合不确定性;当文本数据对应的各个意图类别的概率中最大概率所对应的意图类别为第二意图类别,则文本数据是否符合稀缺性,其中,不同文本数据对应的第二意图类别相同或者不同。
若否,即响应于文本数据既不符合不确定性,也不符合稀缺性,则重新获取用户的文本数据并执行后续流程;若是,即响应于文本数据符合不确定性和稀缺性中的至少一项,则对文本数据进行标注,标注该文本数据的意图类别,得到标注后的文本数据,之后,统计标注后的文本数据的数量是否达到数据阈值,其中,数量阈值不做限定,是根据人工经验或者实际应用情况确定的,示例性的,数量阈值为1万。
若否,即响应于标注后的文本数据的数量未达到(小于)数据阈值,则重新获取用户的文本数据并执行后续流程;若是,即响应于标注后的文本数据的数量达到(等于)数据阈值,则根据标注后的文本数据优化意图识别模型,以更新意图识别模型。
本申请实施例中,通过不断收集用户的文本数据,从文本数据中筛选出符合不确定性和/或稀缺性的文本数据。由于符合不确定性的文本数据是文本数据对应的各个意图类别的概率中最大概率小于或者等于概率阈值的文本数据,对于这种文本数据,意图识别模型无法准确的确定意图类别,因此,利用符合不确定性的文本数据优化意图识别模型,可以提高意图识别模型的识别效果;由于符合稀缺性的文本数据是文本数据对应的各个意图类别的概率中最大概率所对应的意图类别为第二意图类别的文本数据,这种文本数据是指定意图类别的文本数据,因此,利用符合稀缺性的文本数据优化意图识别模型,可以使意图识别模型对应的各个意图类别的训练样本的数量相对均衡,提高模型对各个意图类别的识别效率和准确性。
基于上述实施环境,本申请实施例提供了一种意图识别方法,如图4所示,图4是本申请实施例提供的一种意图识别方法的流程图,该方法可由图1中的电子设备11执行,该方法包括下述步骤S41和步骤S42。
步骤S41,获取待识别意图的文本数据。
待识别意图的文本数据的获取方式不做限定,示例性的,待识别意图的文本数据是用户输入的,或者待识别意图的文本数据是通过对用户的语音信息进行转化得到的。
步骤S42,基于意图识别模型确定文本数据的意图类别。
其中,意图识别模型是根据前文所示的意图识别模型的训练方法得到的。
根据如图2所示的意图识别模型的训练方法,从多个第一文本数据中筛选出多个第二文本数据,获取各个第二文本数据的意图类别标注结果,根据各个第二文本数据的意图类别标注结果获取意图识别模型,并基于获取到的意图识别模型确定待识别意图的文本数据的意图类别。
在一种可能的实现方式中,本申请实施例中的意图识别方法应用于语音交互场景。在语音交互场景中,先获取用户输入的语音信息,将语音信息转化为文本数据,转化得到的文本数据作为待识别意图的文本数据,根据意图识别模型确定文本数据的意图类别。进一步的,从语音库中获取与文本数据的意图类别相匹配的语音信息,将获取到的语音信息作为用户输入的语音信息的回复内容发送给用户,或者,从文本库中获取与与文本数据的意图类别相匹配的文本信息,将文本信息转化为语音信息,将转化得到的语音信息作为用户输入的语音信息的回复内容发送给用户。
其中,基于意图识别模型确定文本数据的意图类别,包括:将文本数据输入至意图识别模型,由意图识别模型输出文本数据对应的各个意图类别的概率;从文本数据对应的各个意图类别的概率中确定最大概率;将最大概率对应的意图类别确定为文本数据的意图类别。
本申请实施例中,将待识别意图的文本数据作为输入信息,输入至意图识别模型,由意图识别模型先提取输入信息的语义特征,再对输入信息的语义特征进行指定操作,得到各个意图类别的概率。其中,指定操作包括但不限于卷积操作、反卷积操作、池化操作等。
之后,从待识别意图的文本数据所对应的各个意图类别的概率中确定最大概率,将最大概率对应的意图类别确定为文本数据的意图类别。
例如,意图识别模型输出待识别意图的文本数据所对应的三个意图类别各自的概率分别为0.9、0.04和0.06,则将0.9所对应的意图类别确定为待识别意图的文本数据的意图类别。
本申请实施例提供的技术方案基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出多个第二文本数据,再获取各个第二文本数据的意图类别标注结果,减少需要标注的文本数据量,减少时间消耗,在根据各个第二文本数据的意图类别标注结果获取意图识别模型时,提高了意图识别模型的训练速度,基于意图识别模型确定文本数据的意图类别时,提高了意图识别效率。
如图5所示,图5是本申请实施例提供的一种意图识别模型的训练装置50的结构示意图,意图识别模型的训练装置50包括获取模块51、提取模块52和筛选模块53。
获取模块51,用于获取多个第一文本数据。
提取模块52,用于提取各个第一文本数据的语义特征。
筛选模块53,用于基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据。
获取模块51,还用于获取各个第二文本数据的意图类别标注结果。
获取模块51,还用于根据各个第二文本数据的意图类别标注结果获取意图识别模型。
在一种可能的实现方式中,筛选模块53,用于响应于符合数据条件的多个第二文本数据包含多个意图类别的文本数据,且各个意图类别的文本数据的数量相同,则基于各个第一文本数据的语义特征,对多个第一文本数据进行聚类处理,得到至少一个意图类别;从各个意图类别对应的第一文本数据中分别筛选出目标数量个第二文本数据。
在一种可能的实现方式中,筛选模块53,用于响应于符合数据条件的多个第二文本数据为第一意图类别的文本数据,则基于各个第一文本数据的语义特征,对多个第一文本数据进行聚类处理,得到至少一个意图类别,至少一个意图类别包含第一意图类别,第一意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别,第三文本数据已标注有意图类别标注结果且用于训练意图识别模型;从第一意图类别对应的各个第一文本数据中筛选出多个第二文本数据。
在一种可能的实现方式中,筛选模块53,用于基于各个第一文本数据的语义特征,对各个第一文本数据进行分类处理,得到各个第一文本数据各自对应的各个意图类别的概率;根据各个第一文本数据各自对应的各个意图类别的概率,从多个第一文本数据中筛选出符合数据条件的多个第二文本数据。
在一种可能的实现方式中,筛选模块53,用于响应于符合数据条件的多个第二文本数据为信息熵大于或者等于目标信息熵的文本数据,则根据各个第一文本数据对应的各个意图类别的概率,计算各个第一文本数据的信息熵,信息熵指示确定文本数据对应的意图类别的难易程度;响应于存在至少一个第一文本数据的信息熵大于或者等于目标信息熵,将至少一个第一文本数据作为第二文本数据。
在一种可能的实现方式中,筛选模块53,用于响应于符合数据条件的多个第二文本数据为满足第一条件和第二条件中的至少一项的文本数据,则从各个第一文本数据对应的各个意图类别的概率中确定最大概率,满足第一条件是指各个意图类别的概率中最大概率小于或者等于概率阈值,满足第二条件是指各个意图类别的概率中最大概率所对应的意图识别为第二意图类别,第二意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别;响应于存在至少一个第一文本数据满足第一条件和第二条件中的至少一项,将至少一个第一文本数据确定为第二文本数据。
在一种可能的实现方式中,筛选模块53,用于响应于符合数据条件的多个第二文本数据为每两个意图类别之间的概率差值均小于或者等于概率差值阈值的文本数据,则基于各个第一文本数据对应的各个意图类别的概率,确定各个第一文本数据对应的每两个意图类别之间的概率差值;响应于存在至少一个第一文本数据对应的每两个意图类别之间的概率差值均小于或者等于概率差值阈值,将至少一个第一文本数据确定为第二文本数据。
应理解的是,上述图5提供的装置在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的装置与方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
本申请实施例提供的技术方案基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出多个第二文本数据,再获取各个第二文本数据的意图类别标注结果,减少需要标注的文本数据量,减少时间消耗,在根据各个第二文本数据的意图类别标注结果获取意图识别模型时,提高了意图识别模型的训练速度,提高意图识别效率。
如图6所示,图6是本申请实施例提供的一种意图识别装置60的结构示意图,意图识别装置60包括获取模块61和确定模块62。
获取模块61,用于获取待识别意图的文本数据。
确定模块62,用于基于意图识别模型确定文本数据的意图类别,意图识别模型是根据上述任一所述的意图识别模型的训练方法得到的。
在一种可能的实现方式中,确定模块62,用于将文本数据输入至意图识别模型,由意图识别模型输出文本数据对应的各个意图类别的概率;从文本数据对应的各个意图类别的概率中确定最大概率;将最大概率对应的意图类别确定为文本数据的意图类别。
应理解的是,上述图6提供的装置在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的装置与方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
本申请实施例提供的技术方案基于各个第一文本数据的语义特征,从多个第一文本数据中筛选出多个第二文本数据,再获取各个第二文本数据的意图类别标注结果,减少需要标注的文本数据量,减少时间消耗,在根据各个第二文本数据的意图类别标注结果获取意图识别模型时,提高了意图识别模型的训练速度,基于意图识别模型确定文本数据的意图类别时,提高了意图识别效率。
如图7所示,图7是本申请实施例提供的一种终端设备700的结构示意图。该终端设备700可以是便携式移动终端,比如:智能手机、平板电脑、MP3播放器(Moving PictureExperts GroupAudio Layer III,动态影像专家压缩标准音频层面3)、MP4(MovingPicture Experts GroupAudio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端设备700还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,终端设备700包括有:处理器701和存储器702。
处理器701可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器701可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器701也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器701可以集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器701还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器702可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器702还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器702中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器701所执行以实现本申请中方法实施例提供的意图识别模型的训练方法,或者意图识别方法。
在一些实施例中,终端设备700还可选包括有:外围设备接口703和至少一个外围设备。处理器701、存储器702和外围设备接口703之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口703相连。具体地,外围设备包括:射频电路704、显示屏705、摄像头组件706、音频电路707、定位组件708和电源709中的至少一种。
外围设备接口703可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器701和存储器702。在一些实施例中,处理器701、存储器702和外围设备接口703被集成在同一芯片或电路板上;在一些其他实施例中,处理器701、存储器702和外围设备接口703中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路704用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路704通过电磁信号与通信网络以及其他通信设备进行通信。射频电路704将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路704包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路704可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:万维网、城域网、内联网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路704还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏705用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏705是触摸显示屏时,显示屏705还具有采集在显示屏705的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器701进行处理。此时,显示屏705还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏705可以为一个,设置在终端设备700的前面板;在另一些实施例中,显示屏705可以为至少两个,分别设置在终端设备700的不同表面或呈折叠设计;在另一些实施例中,显示屏705可以是柔性显示屏,设置在终端设备700的弯曲表面上或折叠面上。甚至,显示屏705还可以设置成非矩形的不规则图形,也即异形屏。显示屏705可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件706用于采集图像或视频。可选地,摄像头组件706包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件706还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路707可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器701进行处理,或者输入至射频电路704以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端设备700的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器701或射频电路704的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路707还可以包括耳机插孔。
定位组件708用于定位终端设备700的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件708可以是基于美国的GPS(GlobalPositioning System,全球定位系统)、中国的北斗系统或俄罗斯的伽利略系统的定位组件。
电源709用于为终端设备700中的各个组件进行供电。电源709可以是交流电、直流电、一次性电池或可充电电池。当电源709包括可充电电池时,该可充电电池可以是有线充电电池或无线充电电池。有线充电电池是通过有线线路充电的电池,无线充电电池是通过无线线圈充电的电池。该可充电电池还可以用于支持快充技术。
在一些实施例中,终端设备700还包括有一个或多个传感器710。该一个或多个传感器710包括但不限于:加速度传感器711、陀螺仪传感器712、压力传感器713、指纹传感器714、光学传感器715以及接近传感器716。
加速度传感器711可以检测以终端设备700建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器711可以用于检测重力加速度在三个坐标轴上的分量。处理器701可以根据加速度传感器711采集的重力加速度信号,控制显示屏705以横向视图或纵向视图进行用户界面的显示。加速度传感器711还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器712可以检测终端设备700的机体方向及转动角度,陀螺仪传感器712可以与加速度传感器711协同采集用户对终端设备700的3D动作。处理器701根据陀螺仪传感器712采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器713可以设置在终端设备700的侧边框和/或显示屏705的下层。当压力传感器713设置在终端设备700的侧边框时,可以检测用户对终端设备700的握持信号,由处理器701根据压力传感器713采集的握持信号进行左右手识别或快捷操作。当压力传感器713设置在显示屏705的下层时,由处理器701根据用户对显示屏705的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器714用于采集用户的指纹,由处理器701根据指纹传感器714采集到的指纹识别用户的身份,或者,由指纹传感器714根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器701授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器714可以被设置在终端设备700的正面、背面或侧面。当终端设备700上设置有物理按键或厂商Logo时,指纹传感器714可以与物理按键或厂商Logo集成在一起。
光学传感器715用于采集环境光强度。在一个实施例中,处理器701可以根据光学传感器715采集的环境光强度,控制显示屏705的显示亮度。具体地,当环境光强度较高时,调高显示屏705的显示亮度;当环境光强度较低时,调低显示屏705的显示亮度。在另一个实施例中,处理器701还可以根据光学传感器715采集的环境光强度,动态调整摄像头组件706的拍摄参数。
接近传感器716,也称距离传感器,通常设置在终端设备700的前面板。接近传感器716用于采集用户与终端设备700的正面之间的距离。在一个实施例中,当接近传感器716检测到用户与终端设备700的正面之间的距离逐渐变小时,由处理器701控制显示屏705从亮屏状态切换为息屏状态;当接近传感器716检测到用户与终端设备700的正面之间的距离逐渐变大时,由处理器701控制显示屏705从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图7中示出的结构并不构成对终端设备700的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
图8为本申请实施例提供的服务器的结构示意图,该服务器800可因配置或性能不同而产生比较大的差异,可以包括一个或多个处理器(Central Processing Units,CPU)801和一个或多个的存储器802,其中,该一个或多个存储器802中存储有至少一条程序代码,该至少一条程序代码由该一个或多个处理器801加载并执行以实现上述各个方法实施例提供的意图识别模型的训练方法,或者意图识别方法。当然,该服务器800还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该服务器800还可以包括其他用于实现设备功能的部件,在此不做赘述。
在示例性实施例中,还提供了一种计算机可读存储介质,该存储介质中存储有至少一条程序代码,该至少一条程序代码由处理器加载并执行,以使计算机实现上述任一所述的意图识别模型的训练方法,或者意图识别方法。
可选地,上述计算机可读存储介质可以是只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、只读光盘(Compact Disc Read-OnlyMemory,CD-ROM)、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序或计算机程序产品,该计算机程序或计算机程序产品中存储有至少一条计算机指令,该至少一条计算机指令由处理器加载并执行,以实现上述任一所述的意图识别模型的训练方法,或者意图识别方法。
应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
以上所述仅为本申请的示例性实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (13)
1.一种意图识别模型的训练方法,其特征在于,所述方法包括:
获取多个第一文本数据;
提取各个第一文本数据的语义特征;
基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据;
获取各个第二文本数据的意图类别标注结果;
根据所述各个第二文本数据的意图类别标注结果获取意图识别模型。
2.根据权利要求1所述的方法,其特征在于,所述基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据包含多个意图类别的文本数据,且各个意图类别的文本数据的数量相同,则基于所述各个第一文本数据的语义特征,对所述多个第一文本数据进行聚类处理,得到至少一个意图类别;
从各个意图类别对应的第一文本数据中分别筛选出目标数量个第二文本数据。
3.根据权利要求1所述的方法,其特征在于,所述基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据为第一意图类别的文本数据,则基于所述各个第一文本数据的语义特征,对所述多个第一文本数据进行聚类处理,得到至少一个意图类别,所述至少一个意图类别包含所述第一意图类别,所述第一意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别,所述第三文本数据已标注有意图类别标注结果且用于训练所述意图识别模型;
从所述第一意图类别对应的各个第一文本数据中筛选出所述多个第二文本数据。
4.根据权利要求1所述的方法,其特征在于,所述基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据,包括:
基于所述各个第一文本数据的语义特征,对所述各个第一文本数据进行分类处理,得到所述各个第一文本数据各自对应的各个意图类别的概率;
根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据。
5.根据权利要求4所述的方法,其特征在于,所述根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据为信息熵大于或者等于目标信息熵的文本数据,则根据所述各个第一文本数据对应的各个意图类别的概率,计算所述各个第一文本数据的信息熵,所述信息熵指示确定文本数据对应的意图类别的难易程度;
响应于存在至少一个第一文本数据的信息熵大于或者等于目标信息熵,将所述至少一个第一文本数据作为所述第二文本数据。
6.根据权利要求4所述的方法,其特征在于,所述根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据为满足第一条件和第二条件中的至少一项的文本数据,则从所述各个第一文本数据对应的各个意图类别的概率中确定最大概率,满足第一条件是指各个意图类别的概率中最大概率小于或者等于概率阈值,满足第二条件是指各个意图类别的概率中最大概率所对应的意图识别为第二意图类别,所述第二意图类别为各个意图类别中包含第三文本数据的数量最少的意图类别;
响应于存在至少一个第一文本数据满足第一条件和第二条件中的至少一项,将所述至少一个第一文本数据确定为所述第二文本数据。
7.根据权利要求4所述的方法,其特征在于,所述根据所述各个第一文本数据各自对应的各个意图类别的概率,从所述多个第一文本数据中筛选出符合数据条件的所述多个第二文本数据,包括:
响应于所述符合数据条件的多个第二文本数据为每两个意图类别之间的概率差值均小于或者等于概率差值阈值的文本数据,则基于所述各个第一文本数据对应的各个意图类别的概率,确定所述各个第一文本数据对应的每两个意图类别之间的概率差值;
响应于存在至少一个第一文本数据对应的每两个意图类别之间的概率差值均小于或者等于概率差值阈值,将所述至少一个第一文本数据确定为所述第二文本数据。
8.一种意图识别方法,其特征在于,所述方法包括:
获取待识别意图的文本数据;
基于意图识别模型确定所述文本数据的意图类别,所述意图识别模型是根据权利要求1-7中任一项所述的方法得到的。
9.根据权利要求8所述的方法,其特征在于,所述基于意图识别模型确定所述文本数据的意图类别,包括:
将所述文本数据输入至所述意图识别模型,由所述意图识别模型输出所述文本数据对应的各个意图类别的概率;
从所述文本数据对应的各个意图类别的概率中确定最大概率;
将所述最大概率对应的意图类别确定为所述文本数据的意图类别。
10.一种意图识别模型的训练装置,其特征在于,所述装置包括:
获取模块,用于获取多个第一文本数据;
提取模块,用于提取各个第一文本数据的语义特征;
筛选模块,用于基于所述各个第一文本数据的语义特征,从所述多个第一文本数据中筛选出符合数据条件的多个第二文本数据;
所述获取模块,还用于获取各个第二文本数据的意图类别标注结果;
所述获取模块,还用于根据所述各个第二文本数据的意图类别标注结果获取意图识别模型。
11.一种意图识别装置,其特征在于,所述装置包括:
获取模块,用于获取待识别意图的文本数据;
确定模块,用于基于意图识别模型确定所述文本数据的意图类别,所述意图识别模型是根据权利要求1-7中任一项所述的方法得到的。
12.一种电子设备,所述电子设备包括处理器和存储器,所述存储器中存储有至少一条程序代码,所述至少一条程序代码由所述处理器加载并执行,以使所述电子设备实现如权利要求1-9任一所述的方法。
13.一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条程序代码,所述至少一条程序代码由处理器加载并执行,以使计算机实现如权利要求1-9任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110691801.7A CN113343709B (zh) | 2021-06-22 | 2021-06-22 | 意图识别模型的训练方法、意图识别方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110691801.7A CN113343709B (zh) | 2021-06-22 | 2021-06-22 | 意图识别模型的训练方法、意图识别方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113343709A true CN113343709A (zh) | 2021-09-03 |
CN113343709B CN113343709B (zh) | 2022-08-16 |
Family
ID=77477645
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110691801.7A Active CN113343709B (zh) | 2021-06-22 | 2021-06-22 | 意图识别模型的训练方法、意图识别方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113343709B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117672227A (zh) * | 2024-01-25 | 2024-03-08 | 深圳市音随我动科技有限公司 | 基于智能音箱的问答控制方法、装置、计算机设备和介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106934383A (zh) * | 2017-03-23 | 2017-07-07 | 掌阅科技股份有限公司 | 文件中图片标注信息识别方法、装置及服务器 |
WO2020206850A1 (zh) * | 2019-04-09 | 2020-10-15 | 华为技术有限公司 | 基于高维图像的图像标注方法和装置 |
CN111783993A (zh) * | 2019-05-23 | 2020-10-16 | 北京京东尚科信息技术有限公司 | 智能标注方法、装置、智能平台及存储介质 |
CN112001155A (zh) * | 2020-09-29 | 2020-11-27 | 上海松鼠课堂人工智能科技有限公司 | 智能语音标注方法和系统 |
CN112131890A (zh) * | 2020-09-15 | 2020-12-25 | 北京慧辰资道资讯股份有限公司 | 一种会话意图智能识别模型的构建方法、装置及设备 |
CN112464670A (zh) * | 2021-02-03 | 2021-03-09 | 恒生电子股份有限公司 | 识别方法、识别模型的训练方法、装置、设备、存储介质 |
CN112560428A (zh) * | 2020-12-18 | 2021-03-26 | 中国平安财产保险股份有限公司 | 一种文本处理方法、装置、电子设备及存储介质 |
CN112560408A (zh) * | 2020-12-18 | 2021-03-26 | 广东轩辕网络科技股份有限公司 | 一种文本标注方法、装置、终端及存储介质 |
-
2021
- 2021-06-22 CN CN202110691801.7A patent/CN113343709B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106934383A (zh) * | 2017-03-23 | 2017-07-07 | 掌阅科技股份有限公司 | 文件中图片标注信息识别方法、装置及服务器 |
WO2020206850A1 (zh) * | 2019-04-09 | 2020-10-15 | 华为技术有限公司 | 基于高维图像的图像标注方法和装置 |
CN111783993A (zh) * | 2019-05-23 | 2020-10-16 | 北京京东尚科信息技术有限公司 | 智能标注方法、装置、智能平台及存储介质 |
CN112131890A (zh) * | 2020-09-15 | 2020-12-25 | 北京慧辰资道资讯股份有限公司 | 一种会话意图智能识别模型的构建方法、装置及设备 |
CN112001155A (zh) * | 2020-09-29 | 2020-11-27 | 上海松鼠课堂人工智能科技有限公司 | 智能语音标注方法和系统 |
CN112560428A (zh) * | 2020-12-18 | 2021-03-26 | 中国平安财产保险股份有限公司 | 一种文本处理方法、装置、电子设备及存储介质 |
CN112560408A (zh) * | 2020-12-18 | 2021-03-26 | 广东轩辕网络科技股份有限公司 | 一种文本标注方法、装置、终端及存储介质 |
CN112464670A (zh) * | 2021-02-03 | 2021-03-09 | 恒生电子股份有限公司 | 识别方法、识别模型的训练方法、装置、设备、存储介质 |
Non-Patent Citations (1)
Title |
---|
宋玉: "基于深度学习的问答意图识别及应用", 《中国优秀硕士学位论文全文数据库》, 15 June 2020 (2020-06-15) * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117672227A (zh) * | 2024-01-25 | 2024-03-08 | 深圳市音随我动科技有限公司 | 基于智能音箱的问答控制方法、装置、计算机设备和介质 |
CN117672227B (zh) * | 2024-01-25 | 2024-04-05 | 深圳市音随我动科技有限公司 | 基于智能音箱的问答控制方法、装置、计算机设备和介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113343709B (zh) | 2022-08-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109299315B (zh) | 多媒体资源分类方法、装置、计算机设备及存储介质 | |
CN110222789B (zh) | 图像识别方法及存储介质 | |
CN110059685B (zh) | 文字区域检测方法、装置及存储介质 | |
CN110807361B (zh) | 人体识别方法、装置、计算机设备及存储介质 | |
CN109189950B (zh) | 多媒体资源分类方法、装置、计算机设备及存储介质 | |
CN110490179B (zh) | 车牌识别方法、装置及存储介质 | |
CN111127509B (zh) | 目标跟踪方法、装置和计算机可读存储介质 | |
CN108320756B (zh) | 一种检测音频是否是纯音乐音频的方法和装置 | |
CN110647881B (zh) | 确定图像对应的卡片类型的方法、装置、设备及存储介质 | |
CN111027490B (zh) | 人脸属性识别方法及装置、存储介质 | |
CN111738365B (zh) | 图像分类模型训练方法、装置、计算机设备及存储介质 | |
CN110705614A (zh) | 模型训练方法、装置、电子设备及存储介质 | |
CN110675473B (zh) | 生成gif动态图的方法、装置、电子设备及介质 | |
CN113343709B (zh) | 意图识别模型的训练方法、意图识别方法、装置及设备 | |
CN110853124B (zh) | 生成gif动态图的方法、装置、电子设备及介质 | |
CN112053360A (zh) | 图像分割方法、装置、计算机设备及存储介质 | |
CN111639639B (zh) | 检测文本区域的方法、装置、设备及存储介质 | |
CN112818979A (zh) | 文本识别方法、装置、设备及存储介质 | |
CN114925667A (zh) | 内容分类方法、装置、设备及计算机可读存储介质 | |
CN114283395A (zh) | 车道线检测的方法、装置、设备及计算机可读存储介质 | |
CN114897158A (zh) | 数据处理模型的训练方法、数据处理方法、装置及设备 | |
CN115221888A (zh) | 实体提及的识别方法、装置、设备及存储介质 | |
CN111858983A (zh) | 图片类别的确定方法、装置、电子设备及存储介质 | |
CN112560903A (zh) | 图像美学信息的确定方法、装置、设备及存储介质 | |
CN111125424A (zh) | 提取歌曲核心歌词的方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |