CN111078893A - 一种大规模高效获取识别对话意图用语料的方法 - Google Patents

一种大规模高效获取识别对话意图用语料的方法 Download PDF

Info

Publication number
CN111078893A
CN111078893A CN201911264412.5A CN201911264412A CN111078893A CN 111078893 A CN111078893 A CN 111078893A CN 201911264412 A CN201911264412 A CN 201911264412A CN 111078893 A CN111078893 A CN 111078893A
Authority
CN
China
Prior art keywords
corpus
seed
linguistic data
similarity
dialog
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911264412.5A
Other languages
English (en)
Inventor
简仁贤
王海波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Emotibot Technologies Ltd
Original Assignee
Emotibot Technologies Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Emotibot Technologies Ltd filed Critical Emotibot Technologies Ltd
Priority to CN201911264412.5A priority Critical patent/CN111078893A/zh
Publication of CN111078893A publication Critical patent/CN111078893A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36Creation of semantic tools, e.g. ontology or thesauri
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/951Indexing; Web crawling techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明属于计算机技术领域,公开了一种大规模高效获取识别对话意图用语料的方法,包括以下步骤:步骤一、根据对话意图从预置数据库中调取对应于该对话意图的一个或多个种子语料;步骤二、取一个种子语料输入搜索引擎进行搜索,获取搜索结果;然后进入步骤三;步骤三、对获取到的搜索结果,逐条进行标题抽取操作,将抽取到的标题作为待选语料,获得待选语料集合。本发明解决了现有技术中扩充语料效率低,容易受标注人员水平影响和不能反映真实语料多样性的问题。

Description

一种大规模高效获取识别对话意图用语料的方法
技术领域
本发明属于计算机技术领域,尤其涉及一种大规模高效获取识别对话意图用语料的方法。
背景技术
随着聊天机器人的兴起,很多企业开始着手构建自己的聊天机器人系统,提供7天24小时不间断服务,以缓解对客服人力的大量需求。机器学习模型在这些系统中扮演着重要角色,通常是这些系统智能化的来源。训练一个好的机器学习模型需要大量训练语料,这些语料通常需要人工撰写。比如我们在进行意图识别的时候,对于每个意图,通常需要扩写大量的语句来表达该意图。例如某平台要识别用户“查红包”的意图,为了识别该意图,通常需要扩写大量用户可能表达“查红包”的各种语句,比如:“我账户里面的红包数据是多少啊?”、“现在有几个红包了”、“我的账户上有没有红包”、“红包优惠可以在哪儿看?”、“查一下红包明细”、“查红包”等等,并期望这些扩写能够覆盖“查红包”的各种说法,进而利用机器学习训练意图模型对用户输入进行识别。
如何快速高质量地扩写相关语料成为影响项目实施成本和效率的关键,在一定程度上甚至会影响到企业的口碑和竞争力。
传统的语料扩写方法通常是由语料标注人员根据个人理解人工撰写出一系列跟对话意图语义相似的扩展语料。这种语料扩充方法比较依赖语料标注者本人的素质和水平,相当于重新创作,效率难以保证,同时扩充出的语料容易跟真实用户的查询query脱节。
发明内容
本发明所要解决的技术问题在于针对上述现有技术中的不足,提供一种大规模高效获取识别对话意图用语料的方法,以解决扩充语料效率低,容易受标注人员水平影响和不能反映真实语料多样性的问题。
为解决上述技术问题,本发明采用的技术方案是:一种大规模高效获取识别对话意图用语料的方法,包括以下步骤:
步骤一、根据对话意图从预置数据库中调取对应于该对话意图的一个或多个种子语料;
步骤二、取一个种子语料输入搜索引擎进行搜索,获取搜索结果;然后进入步骤三;
步骤三、对获取到的搜索结果,逐条进行标题抽取操作,将抽取到的标题作为待选语料,获得待选语料集合。
上述一种大规模高效获取识别对话意图用语料的方法,还包括步骤四、取一条种子语料,对待选语料集合中的每个待选语料均与该种子语料计算相似度,并按相似度由大到小的顺序对待选语料集合中的所有待选语料进行排序;获得排序后的待选语料集合。
另外步骤四还可以是:取一条种子语料,对待选语料集合中的每个待选语料均与该种子语料计算相似度,若相似度S<Q,Q为预设阈值,则将对应的待选语料从待选语料集合剔除。进一步的,还包括步骤五、对步骤四完成后的待选语料集合中的所有待选语料按相似度由大到小的顺序排序,获得排序后的待选语料集合。
上述一种大规模高效获取识别对话意图用语料的方法,两种步骤四中计算相似度时,采用计算待选语料词向量和种子语料词向量的余弦距离来计算相似度。
上述一种大规模高效获取识别对话意图用语料的方法,所述步骤三中进行标题抽取操作时,采用web抓取框架Scrapy。
本发明与现有技术相比具有以下优点:本发明通过利用种子语料在搜索引擎中进行搜索,提取出搜索结果的主题作为待选语料(扩充语料),能够快速的获取到大量的扩充语料,相比传统标注人员进行创作式的扩充,效率有巨大的提升,扩充的语料受标注人员的人为因素影响小,扩充出的语料质量稳定。因搜索结果的主题来源于用户的真实输入,所以采用本发明得到的扩充语料丰富多彩,能够反映实际中的真实语料情况,便于应用在训练聊天机器人的机器学习模型中。
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
附图说明
图1为本发明实施例1的方法流程图。
图2为“基金申赎到账时间”在百度搜索中的搜索结果。
图3为本发明实施例2的方法流程图。
具体实施方式
实施例1
如图1所示,一种大规模高效获取识别对话意图用语料的方法,包括以下步骤:
步骤一、根据对话意图从预置数据库中调取对应于该对话意图的一个或多个种子语料;对每个种子语料执行步骤二至步骤四;
步骤二、取一个种子语料输入搜索引擎进行搜索,获取搜索结果;然后进入步骤三;
步骤三、对获取到的搜索结果,逐条进行标题抽取操作,将抽取到的标题作为待选语料,获得待选语料集合;
步骤四、取一个种子语料,优选取步骤二中的种子语料,对待选语料集合中的每个待选语料均与该种子语料计算相似度,并按相似度由大到小的顺序对待选语料集合中的所有待选语料进行排序;获得排序后的待选语料集合。
本实施例中,步骤四中计算相似度时,采用计算待选语料词向量和种子语料词向量的余弦距离来计算相似度。
本实施例中,所述步骤三中进行标题抽取操作时,采用web抓取框架Scrapy。(Scrapy,Python开发的一个快速、高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化的数据。)
下面举例对本发明进一步说明:
此处假设对话意图为“基金申赎到账时间”,从预置数据库中调取对应于该对话意图的所有种子语料,比如种子语料有“基金申赎到账时间”“基金赎回时效?”,“基金到账时间”,“我的基金卖了为何钱到不了帐呀?”。种子语料包括语料标注者撰写表达类似对话意图的相似语料,以及对话意图本身。
取一个种子语料,例如“基金申赎到账时间”,输入搜索引擎进行搜索,搜索引擎为现有的搜索引擎,例如百度、谷歌、搜狗等,获取搜索结果;然后进入步骤三;搜索结果如图2所示;
对获取到的搜索结果,逐条进行标题抽取操作,将抽取到的标题作为待选语料,获得待选语料集合。进行标题抽取操作时,采用web抓取框架Scrapy。
抽取到的待选语料如下:
一般基金赎回到账时间是多久?
基金赎回后多久才能到账呢,到账之后是否有什么变化
基金认购、申购、赎回后何时到账?
基金的购买和赎回时间是什么时候?
基金的申赎周期是几天.比如1号买的几号可以赎回
赎回基金或无法按时到账银行、券商等机构有点懵
基金赎回后几天到账?基金到帐乍比股票慢这么多?
基金申购赎回,一般需要几天时间
可以看到,抽取到的待选语料大部分在语义上跟种子语料“基金申赎到账时间”比较类似,可以作为供标注人员后期提取部分训练聊天机器人的机器学习模型用。
最后取步骤二中的种子语料“基金申赎到账时间”,对待选语料集合中的每个待选语料均与该种子语料计算相似度,并按相似度由大到小的顺序对待选语料集合中的所有待选语料进行排序;获得排序后的待选语料集合。计算相似度时,采用计算待选语料词向量(比如word2vec)和种子语料词向量(比如word2vec)的余弦距离来计算相似度。
需要说明的是,通过采用相似度排序,标注人员可以快速的从大量的待选语料中定位出训练聊天机器人的机器学习模型用的真实语料。
实施例2
如图3所示,一种大规模高效获取识别对话意图用语料的方法,包括以下步骤:
步骤一、根据对话意图从预置数据库中调取对应于该对话意图的一个或多个种子语料;对每个种子语料执行步骤二至步骤四;
步骤二、取一个种子语料输入搜索引擎进行搜索,获取搜索结果;然后进入步骤三;
步骤三、对获取到的搜索结果,逐条进行标题抽取操作,将抽取到的标题作为待选语料,获得待选语料集合。
步骤四、取一条种子语料,优选取步骤二中的种子语料,对待选语料集合中的每个待选语料均与该种子语料计算相似度,若相似度S<Q,Q为预设阈值,则将对应的待选语料从待选语料集合剔除;
步骤五、对步骤四完成后的待选语料集合中的所有待选语料按相似度由大到小的顺序排序,获得排序后的待选语料集合。
本实施例中,步骤四中计算相似度时,采用计算待选语料词向量和种子语料词向量的余弦距离来计算相似度。
本实施例中,所述步骤三中进行标题抽取操作时,采用web抓取框架Scrapy。(Scrapy,Python开发的一个快速、高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化的数据。)
下面举例对本发明进一步说明:
此处假设对话意图为“基金申赎到账时间”,从预置数据库中调取对应于该对话意图的所有种子语料,比如种子语料有“基金申赎到账时间”“基金赎回时效?”,“基金到账时间”,“我的基金卖了为何钱到不了帐呀?”。种子语料包括语料标注者撰写表达类似对话意图的相似语料,以及对话意图本身。
取一个种子语料,例如“基金申赎到账时间”,输入搜索引擎进行搜索,搜索引擎为现有的搜索引擎,例如百度、谷歌、搜狗等,获取搜索结果;然后进入步骤三;搜索结果如图2所示;
对获取到的搜索结果,逐条进行标题抽取操作,将抽取到的标题作为待选语料,获得待选语料集合。进行标题抽取操作时,采用web抓取框架Scrapy。
抽取到的待选语料如下:
一般基金赎回到账时间是多久?
基金赎回后多久才能到账呢,到账之后是否有什么变化
基金认购、申购、赎回后何时到账?
基金的购买和赎回时间是什么时候?
基金的申赎周期是几天.比如1号买的几号可以赎回
赎回基金或无法按时到账银行、券商等机构有点懵
基金赎回后几天到账?基金到帐乍比股票慢这么多?
基金申购赎回,一般需要几天时间
可以看到,抽取到的待选语料大部分在语义上跟种子语料“基金申赎到账时间”比较类似,可以作为供标注人员后期提取部分训练聊天机器人的机器学习模型用。
最后取步骤二中的种子语料“基金申赎到账时间”,对待选语料集合中的每个待选语料均与该种子语料计算相似度,若相似度S<Q,Q为预设阈值,0.4<Q<0.6,则将对应的待选语料从待选语料集合剔除;再对待选语料集合中的所有待选语料按相似度由大到小的顺序排序,获得排序后的待选语料集合。计算相似度时,采用计算待选语料词向量(比如word2vec)和种子语料词向量(比如word2vec)的余弦距离来计算相似度。
需要说明的是,通过相似度S<Q,将相似度过低的待选语料从待选语料集合剔除,以及通过采用相似度排序,标注人员可以快速的从大量的待选语料中定位出训练聊天机器人的机器学习模型用的真实语料。
以上所述,仅是本发明的较佳实施例,并非对本发明作任何限制,凡是根据本发明技术实质对以上实施例所作的任何简单修改、变更以及等效结构变化,均仍属于本发明技术方案的保护范围内。

Claims (6)

1.一种大规模高效获取识别对话意图用语料的方法,其特征在于:包括以下步骤:
步骤一、根据对话意图从预置数据库中调取对应于该对话意图的一个或多个种子语料;
步骤二、取一个种子语料输入搜索引擎进行搜索,获取搜索结果;然后进入步骤三;
步骤三、对获取到的搜索结果,逐条进行标题抽取操作,将抽取到的标题作为待选语料,获得待选语料集合。
2.按照权利要求1所述的一种大规模高效获取识别对话意图用语料的方法,其特征在于:还包括步骤四、取一条种子语料,对待选语料集合中的每个待选语料均与该种子语料计算相似度,并按相似度由大到小的顺序对待选语料集合中的所有待选语料进行排序;获得排序后的待选语料集合。
3.按照权利要求1所述的一种大规模高效获取识别对话意图用语料的方法,其特征在于:还包括步骤四、取一条种子语料,对待选语料集合中的每个待选语料均与该种子语料计算相似度,若相似度S<Q,Q为预设阈值,则将对应的待选语料从待选语料集合剔除。
4.按照权利要求3所述的一种大规模高效获取识别对话意图用语料的方法,其特征在于:还包括步骤五、对步骤四完成后的待选语料集合中的所有待选语料按相似度由大到小的顺序排序,获得排序后的待选语料集合。
5.按照权利要求2、3或4所述的一种大规模高效获取识别对话意图用语料的方法,其特征在于:步骤四中计算相似度时,采用计算待选语料词向量和种子语料词向量的余弦距离来计算相似度。
6.按照权利要求1所述的一种大规模高效获取识别对话意图用语料的方法,其特征在于:所述步骤三中进行标题抽取操作时,采用web抓取框架Scrapy。
CN201911264412.5A 2019-12-11 2019-12-11 一种大规模高效获取识别对话意图用语料的方法 Pending CN111078893A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911264412.5A CN111078893A (zh) 2019-12-11 2019-12-11 一种大规模高效获取识别对话意图用语料的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911264412.5A CN111078893A (zh) 2019-12-11 2019-12-11 一种大规模高效获取识别对话意图用语料的方法

Publications (1)

Publication Number Publication Date
CN111078893A true CN111078893A (zh) 2020-04-28

Family

ID=70313729

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911264412.5A Pending CN111078893A (zh) 2019-12-11 2019-12-11 一种大规模高效获取识别对话意图用语料的方法

Country Status (1)

Country Link
CN (1) CN111078893A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111241813A (zh) * 2020-04-29 2020-06-05 同盾控股有限公司 语料扩展方法、装置、设备及介质
CN112035626A (zh) * 2020-07-06 2020-12-04 北海淇诚信息科技有限公司 一种大规模意图的快速识别方法、装置和电子设备
CN112527989A (zh) * 2020-12-15 2021-03-19 深圳市优必选科技股份有限公司 一种训练方法、训练装置及智能设备
CN112541076A (zh) * 2020-11-09 2021-03-23 北京百度网讯科技有限公司 目标领域的扩充语料生成方法、装置和电子设备
CN112597748A (zh) * 2020-12-18 2021-04-02 深圳赛安特技术服务有限公司 语料生成方法、装置、设备及计算机可读存储介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101847242A (zh) * 2010-05-27 2010-09-29 武汉大学 一种违禁品别名在线自动获取方法及系统
US20110313852A1 (en) * 1999-04-13 2011-12-22 Indraweb.Com, Inc. Orthogonal corpus index for ad buying and search engine optimization
CN102831131A (zh) * 2011-06-16 2012-12-19 富士通株式会社 构建标注网页语料库的方法及装置
CN103092956A (zh) * 2013-01-17 2013-05-08 上海交通大学 社交网络平台上话题关键词自适应扩充的方法及系统
CN105045862A (zh) * 2015-07-13 2015-11-11 广西达译商务服务有限责任公司 汉外双语平行语料自动采集的系统及实现方法
CN106202224A (zh) * 2016-06-29 2016-12-07 北京百度网讯科技有限公司 搜索处理方法及装置
WO2017041370A1 (zh) * 2015-09-07 2017-03-16 百度在线网络技术(北京)有限公司 基于人工智能的人机聊天方法和装置
CN107451126A (zh) * 2017-08-21 2017-12-08 广州多益网络股份有限公司 一种近义词筛选方法及系统
CN107862015A (zh) * 2017-10-30 2018-03-30 北京奇艺世纪科技有限公司 一种关键词关联扩展方法和装置
CN110309289A (zh) * 2019-08-23 2019-10-08 深圳市优必选科技股份有限公司 一种句子生成方法、句子生成装置及智能设备
CN110503143A (zh) * 2019-08-14 2019-11-26 平安科技(深圳)有限公司 基于意图识别的阈值选取方法、设备、存储介质及装置

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110313852A1 (en) * 1999-04-13 2011-12-22 Indraweb.Com, Inc. Orthogonal corpus index for ad buying and search engine optimization
CN101847242A (zh) * 2010-05-27 2010-09-29 武汉大学 一种违禁品别名在线自动获取方法及系统
CN102831131A (zh) * 2011-06-16 2012-12-19 富士通株式会社 构建标注网页语料库的方法及装置
CN103092956A (zh) * 2013-01-17 2013-05-08 上海交通大学 社交网络平台上话题关键词自适应扩充的方法及系统
CN105045862A (zh) * 2015-07-13 2015-11-11 广西达译商务服务有限责任公司 汉外双语平行语料自动采集的系统及实现方法
WO2017041370A1 (zh) * 2015-09-07 2017-03-16 百度在线网络技术(北京)有限公司 基于人工智能的人机聊天方法和装置
CN106202224A (zh) * 2016-06-29 2016-12-07 北京百度网讯科技有限公司 搜索处理方法及装置
CN107451126A (zh) * 2017-08-21 2017-12-08 广州多益网络股份有限公司 一种近义词筛选方法及系统
CN107862015A (zh) * 2017-10-30 2018-03-30 北京奇艺世纪科技有限公司 一种关键词关联扩展方法和装置
CN110503143A (zh) * 2019-08-14 2019-11-26 平安科技(深圳)有限公司 基于意图识别的阈值选取方法、设备、存储介质及装置
CN110309289A (zh) * 2019-08-23 2019-10-08 深圳市优必选科技股份有限公司 一种句子生成方法、句子生成装置及智能设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
付博等: "基于用户自然标注的微博文本的消费意图识别", 《中文信息学报》 *
庞伟: "双语语料库构建研究综述", 《信息技术与信息化》 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111241813A (zh) * 2020-04-29 2020-06-05 同盾控股有限公司 语料扩展方法、装置、设备及介质
CN111241813B (zh) * 2020-04-29 2021-02-12 同盾控股有限公司 语料扩展方法、装置、设备及介质
CN112035626A (zh) * 2020-07-06 2020-12-04 北海淇诚信息科技有限公司 一种大规模意图的快速识别方法、装置和电子设备
CN112541076A (zh) * 2020-11-09 2021-03-23 北京百度网讯科技有限公司 目标领域的扩充语料生成方法、装置和电子设备
CN112541076B (zh) * 2020-11-09 2024-03-29 北京百度网讯科技有限公司 目标领域的扩充语料生成方法、装置和电子设备
CN112527989A (zh) * 2020-12-15 2021-03-19 深圳市优必选科技股份有限公司 一种训练方法、训练装置及智能设备
CN112597748A (zh) * 2020-12-18 2021-04-02 深圳赛安特技术服务有限公司 语料生成方法、装置、设备及计算机可读存储介质
CN112597748B (zh) * 2020-12-18 2023-08-11 深圳赛安特技术服务有限公司 语料生成方法、装置、设备及计算机可读存储介质

Similar Documents

Publication Publication Date Title
CN109726293B (zh) 一种因果事件图谱构建方法、系统、装置及存储介质
CN111078893A (zh) 一种大规模高效获取识别对话意图用语料的方法
CN106649818B (zh) 应用搜索意图的识别方法、装置、应用搜索方法和服务器
CN102479191B (zh) 提供多粒度分词结果的方法及其装置
CN112667794A (zh) 一种基于孪生网络bert模型的智能问答匹配方法及系统
CN111767716B (zh) 企业多级行业信息的确定方法、装置及计算机设备
KR20160026892A (ko) 논팩토이드형 질의 응답 시스템 및 방법
US7962507B2 (en) Web content mining of pair-based data
CN106126619A (zh) 一种基于视频内容的视频检索方法及系统
CN110096572B (zh) 一种样本生成方法、装置及计算机可读介质
CN102693279A (zh) 一种快速计算评论相似度的方法、装置及系统
CN109284389A (zh) 一种文本数据的信息处理方法、装置
CN109684357B (zh) 信息处理方法及装置、存储介质、终端
CN114416914B (zh) 一种基于图片问答的处理方法
CN111061853B (zh) 一种快速获取faq模型训练语料的方法
CN114579796A (zh) 机器阅读理解方法及装置
CN110298020B (zh) 文本反作弊变体还原方法及设备、文本反作弊方法及设备
CN110162614B (zh) 问题信息提取方法、装置、电子设备和存储介质
CN112905752A (zh) 一种智能交互方法、装置、设备以及存储介质
CN112257410A (zh) 一种非平衡文本的相似度计算方法
CN113361281B (zh) 一种白皮书生成方法、装置、设备及存储介质
CN111061924A (zh) 词组提取方法、装置、设备和存储介质
CN113657097B (zh) 一种摘要事实一致性的评估验证方法及其系统
CN115618968B (zh) 新意图发现方法、装置、电子设备及存储介质
CN110852104B (zh) 家谱的识别方法及装置、存储介质、处理器

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200428

RJ01 Rejection of invention patent application after publication