CN112668281A - 基于模板的语料自动化扩充方法、装置、设备及介质 - Google Patents
基于模板的语料自动化扩充方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN112668281A CN112668281A CN202011564948.1A CN202011564948A CN112668281A CN 112668281 A CN112668281 A CN 112668281A CN 202011564948 A CN202011564948 A CN 202011564948A CN 112668281 A CN112668281 A CN 112668281A
- Authority
- CN
- China
- Prior art keywords
- sentence pattern
- semantic
- semantic sentence
- expansion
- corpus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 238000006243 chemical reaction Methods 0.000 claims description 31
- 230000008569 process Effects 0.000 claims description 19
- 239000013598 vector Substances 0.000 claims description 12
- 230000011218 segmentation Effects 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 7
- 238000006467 substitution reaction Methods 0.000 claims description 6
- 239000000463 material Substances 0.000 claims description 4
- 238000005457 optimization Methods 0.000 claims description 4
- 230000000295 complement effect Effects 0.000 claims description 3
- 238000010276 construction Methods 0.000 claims description 3
- 230000001419 dependent effect Effects 0.000 claims description 2
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 230000006870 function Effects 0.000 description 7
- 239000000047 product Substances 0.000 description 7
- 238000012549 training Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 238000007726 management method Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000002372 labelling Methods 0.000 description 3
- 230000036651 mood Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 230000001502 supplementing effect Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000012550 audit Methods 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 238000009960 carding Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000001915 proofreading effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
Images
Landscapes
- Machine Translation (AREA)
Abstract
本发明涉及一种人工智能,揭露一种基于模板的语料自动化扩充方法,包括:根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符;采用语意句式模板通过扩充方式扩充语料,所述扩充方式包括第一扩充方式或/和第二扩充方式,所述第一扩充方式是对语意句式模板匹配出的语料进行扩充,所述第二扩充方式是对语意句式模板扩充,通过扩充后的语意句式模板匹配语料,实现语料扩充。本发明还涉及装置、电子设备及介质。本发明可以能够识别相同语意上不同语料的多样性。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种基于模板的语料自动化扩充方法、装置、电子设备及计算机可读存储介质。
背景技术
在自然语言处理的人工智能技术领域,语料对于模型的训练异常重要,就某些任务而言,语料的质量和数据量的大小决定了模型的效果,由语料质量或者数据量上的提升所带来的效果可能将高于模型上的优化;在金融问答领域中存在公开、高质量的语料较少,而且金融问答在各个子领域的语料也有较大差别;因此,自动化语料扩充的技术对金融领域问答模型尤为重要。
目前业内在语料扩充和自动化标注上均有做一些研究,可以分成两种典型的方法,第一,其中语料扩充的方法最为通用的做法为相似词替换,即将语料中的部分词语替换为其相似词,相似词的替换可以采用固定列表替换和词向量相似性进行;第二,句式改写和句式转换的方式获得同一语意概念中的不同语料。这两种方法均存在一定的不足,相似词替换方法只能在小范围内扩充语料,所扩展语料的规模有限,而句式改写和句式转换可以在将某几类句式进行统一改写,但这种方式并不能从本质上解决同语意上的不同语料的多样性。
发明内容
本发明提供一种基于模板的语料自动化扩充方法、装置、电子设备及计算机可读存储介质,其主要目的在于能够识别相同语意上不同语料的多样性。
为实现上述目的,本发明提供的一种基于模板的语料自动化扩充方法,包括:
根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符;
采用语意句式模板通过扩充方式扩充语料,所述扩充方式包括第一扩充方式或/和第二扩充方式,所述第一扩充方式是对语意句式模板匹配出的语料进行扩充,所述第二扩充方式是对语意句式模板扩充,通过扩充后的语意句式模板匹配语料,实现语料扩充;
其中,所述第一扩充方式的实现步骤包括:
通过语意句式模板在语料中匹配获得不同语意句式;
通过扩充规则扩充语意句式;
其中,所述第二扩充方式的实现步骤包括:
选择扩充规则扩充语意句式模板;
通过扩充后的语意句式模板在语料中匹配,获得多个语意句式;
其中,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种,所述词语替换包括采用词语替换语意句式模板或语意句式中的词语,所述变式替换包括语意句式模板或语意句式的句子结构的顺序调整或/和句子结构的长度调整,所述中介语转换包括采用中介语将包括中介语的两个语意句式模板或语意句式转换成一个语意句式模板或语意句式。
可选地,所述根据句式和句子成分构建语意句式模板的步骤包括:
按照语气补充词、辅助提问词、辅助回答词、常用副词、常用动词、常用主语、常用谓词、常用助词、状态表示词、常用数量词和常用代词作为词语单元构建不同句式的语意句式模板,所述语意句式模板由构成句式的词语单元及其对应的需采集的字符构成。
可选地,所述通过扩充规则扩充语意句式的步骤还包括:
构建数据词表,所述数据词表包括各金融领域对应字段,所述字段包括标注字段和未标注字段,所述标注字段为需要捕获的槽位信息;
其中,所述通过词语替换扩充语意句式的步骤包括:
对每个语意句式模板从语料匹配出的语意句式的需采集字符进行分词,形成多个语意分词;
将语意分词标注成数据词表中对应的字段;
将语意分词中已标注的或者未标注但已明确的数据进行短语对、相似词语或/和一组关联词语替换,所述相似词语包括词向量相近的词语和数据词表中相近字段的枚举值。
可选地,所述通过扩充规则扩充语意句式的步骤包括:
采集金融大数据中的枚举字典,用短语对、相似词语、或/和关联词语对语意句式数据进行替换。
可选地,所述通过扩充规则扩充语意句式的步骤包括:
对语意句式做变式替换,所述变式替换包括句子结构的顺序调整或/和句子结构的长度调整。
可选地,所述通过扩充规则扩充语意句式的步骤包括:
通过中介语完成不同语料之间的转换,中介语的替换是指采用媒介语言做转换。
可选地,所述第一扩充方式的实现步骤还包括判断扩充后语意句式是否符合自然规律的步骤,所述步骤包括:
通过下式构建语言模型
其中,表示语言的生成过程,即字符i从1到字符l整个过程形成的连乘,所有的乘积作为一个整体,从而使得语言模型,进行最大概率P(S)的优化,P(S)为一个替换词的完成概率,表示词语wi的完成概率取决于前n个词语均概率;
将一个语意句式的多个替换词依次输入语言模型,获得不同替换词语的完成概率;
按照下式获得扩充的语料的总平均概率
其中,P(S1)表示第1个替换词生成时的完成概率,j表示整个语意句子替换完成,需要的替换词个数,P(Stotal)为整个语意句子替换的总平均概率;
判断语意句子的总平均概率是否超过设定阈值;
如果超过设定阈值,认为扩充后语意句式符合自然语言规律,存储扩充后语意句式;
如果不超过设定阈值,认为扩充后语意句式不符合自然语言规律,删除扩充后语意句式。
为了解决上述问题,本发明还提供一种装置,所述装置包括:
模板构建模块,用于根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符;
语料扩充模块,用于采用语意句式模板通过扩充方式扩充语料,包括第一扩充子模块或/和第二扩充子模块,所述第一扩充子模块通过第一扩展方式扩充语料,所述第二扩充子模块通过第二扩充方式扩充语料,所述第一扩充方式是对语意句式模板匹配出的语料进行扩充,所述第二扩充方式是对语意句式模板扩充,通过扩充后的语意句式模板匹配语料,实现语料扩充;
其中,所述第一扩充子模块包括:
第一匹配单元,用于通过语意句式模板在语料中匹配获得不同语意句式;
第一扩充单元,用于通过扩充规则扩充语意句式;
其中,所述第二扩充子模块包括:
第二扩充单元,选择扩充规则扩充语意句式模板;
第二匹配单元,通过扩充后的语意句式模板在语料中匹配,获得多个语意句式;
其中,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种,所述词语替换包括采用词语替换语意句式模板或语意句式中的词语,所述变式替换包括语意句式模板或语意句式的句子结构的顺序调整或/和句子结构的长度调整,所述中介语转换包括采用中介语将包括中介语的两个语意句式模板或语意句式转换成一个语意句式模板或语意句式。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述所述的基于模板的语料自动化扩充方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的基于模板的语料自动化扩充方法。
本发明基于模板的语料自动化扩充方法、装置、电子设备及计算机可读存储介质根据句子成分构建不同句式结构的层次化语意句式模板,能够识别同语意上不同语料的多样性。
附图说明
图1为本发明一实施例提供的基于模板的语料自动化扩充方法的流程示意图;
图2为本发明一实施例提供的构建语意句式模板的方法的流程示意图;
图3是本发明另一实施例提供的基于模板的语料自动化扩充方法的流程示意图;
图4是本发明第三实施例提供的基于模板的语料自动化扩充方法的流程示意图;
图5为本发明一实施例提供的基于模板的语料自动化扩充装置的模块示意图;
图6本发明另一实施例提供的基于模板的语料自动化扩充装置的模块示意图;
图7为本发明一实施例提供的实现基于模板的语料自动化扩充方法的电子设备的内部结构示意图;
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明提供一种基于模板的语料自动化扩充方法。参照图1所示,为本发明一实施例提供的基于模板的语料自动化扩充方法的流程示意图。该方法可以由一个装置执行,该装置可以由软件和/或硬件实现。
在本实施例中,基于模板的语料自动化扩充方法包括:
S100、根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符。
详细的,如图2所示,步骤S100包括:
步骤S110,按照语气补充词、辅助提问词、辅助回答词、常用副词、常用动词、常用主语、常用谓词、常用助词、状态表示词、常用数量词和常用代词作为词语单元构建不同句式的构建语意句式模板,所述语意句式模板由构成句式的词语单元及其对应的需采集的字符构成,可以语意句式模板中可以采集每个词语单元对应的字符,也可以采用设定词语单元对应的字符,例如,疑问句的一个语意句式模板为“「辅助提问词,状态表示词+『第一需采集字符』+常用副词,状态表示词+『第二需采集字符』+语气补充词」”;陈述句的一个语意句式模板为“「辅助回答词,状态表示词+常用主语+『第一需采集字符』+常用副词,『第二需采集字符』”。
S200、通过语意句式模板在语料中匹配获得不同语意句式,例如,通过疑问句的语意句式模板在语料中匹配出疑问语意句式“请问下,上次『提额成功』后,目前『我的微粒贷的贷款额度是多少』呢?”,又如,通过陈述句的语意句式模板在语料中匹配出陈述语意句式为“帮你查询到,目前您『提额成功』后,『额度为10万』。
S300、通过扩充规则扩充语意句式,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种。
优选地,所述步骤S100还包括:
步骤S120,将上述语意句式模板加入到金融领域,构建层次化、有区分度的语料模版,所述金融领域包括银行业、信托业、证券业和租赁业。
上述基于模板的语料自动化扩充方法通过按照句子成分进行层次化处理获得不同的语意句式模板对语料进行匹配获得不同语意句式,通过对语意句式进行扩展,在语意句式模板中加入领域,使得语意句式模板具有区分度,能够识别同语意上不同语料的多样性。
在实例性的实施例中,步骤S300包括:采集金融大数据中的枚举字典,用短语对、相似词语、或/和关联词语对语意句式数据进行替换,具体地,包括:
对每个语意句式模板从语料匹配出的语意句式的需采集字符进行分词,形成多个语意分词;
将语意分词进行短语对、相似词语或一组关联词语(比如,我的……是多少可以替换成他的……如何)进行词语替换。
在一个实施例中,步骤S100还包括:构建数据词表,数据词表包括各金融领域对应字段,所述字段包括标注字段和未标注字段,所述标注字段即为需要捕获的槽位信息,是最终需要预测的标签,所预测的标签是指如微粒贷、提额成功、10万等具体的文本数据,这些数据我们称为问题或者文本需要预测的槽位,所述标注字段包括动作字段和产品字段;
其中,步骤S300还包括:
对每个语意句式模板从语料匹配出的语意句式的需采集字符进行分词,形成多个语意分词;
将语意分词标注成数据词表中对应的字段,例如,提额将被标注为贷款执行动作字段,微粒贷将被标注为产品字段,其他的作为未标注字段;
将语意分词中已标注的或者未标注但已明确的数据进行短语对、相似词语或/和一组关联词语替换,所述相似词语包括词向量相近的词语,也包括数据词表中相近字段的枚举值,丰富了替换词语的规模和准确度。
在一个实施例中,步骤S300还包括对语意句式模板做变式替换,所述变式替换包括句子结构的顺序调整或/和句子结构的长度调整。
在一个实施例中,步骤S300还包括:通过中介语完成不同语料之间的转换,中介语的替换是指采用媒介语言做转换,比如已经拥有A-B的语料,但想获得A-C的语料,此时可以选用英文或者中文作为中介语X,将B通过一个外部神经机器翻译模型(例如采用opennmt模型,)翻译成X,再经过X将其以中文或英文形式转译为C,该过程可以得到神经机器翻译在语意层面上的B转为C的语料,这个过程将通过一些外部网络结构(opennmt的神经网络结构)获得额外的语言层面知识,从而获得完全不同于B的语料C,进行得到A-C这样的一个语言对的语料形式实现语料扩展的目的。
该过程可以描述成下面的公式:
Corpus_Xi=nmt_model(Corpus_Bi),i=(1,2,...,n)
Corpus_Ci=nmt_model(Corpus_Xi),i=(1,2,...,n)
nmt_model(Corpus_Xi)=Decode(Encode(Corpus_Xi)),i=(1,2,...,n)
上式中i表示具体的某一条语料(为一个真实且完整的陈述句或问句),nmt_model为一个端到端的神经网络翻译模型(例如开源模型结构opennmt),该模型具体实现如上式所述,将语料编码成中间语意向量,再进行解码成为与Corpus_Xi对应的语言;经过上面的公式后,可以将Corpus_Bi转为Corpus_Xi,再由Corpus_Xi转成Corpus_Ci,从而借助中介方式获得与Corpus_Bi句式结构、语法结构不同但语意相同的Corpus_Ci。
在上述各实施例中,采集金融大数据中的枚举字典,用高质量的短语对、相似词语、或一组关联词语对模版数据进行替换,将模版中已标注的或者未标注但已明确的数据进行短语对、相似词语或一组关联词语进行数据替换,这里的相似词包含词向量相近的词语,也包含数据词表中相近字段的枚举值;这样就极大的丰富了替换词语的规模和准确度。对模版句子做变式替换,替换包括句子结构的顺序调整、句子结构的长度调整;对模版句子的变换可以减轻句式调整的工作量,自动调整好的句式还可以采用人工核对的方式校准或补充。通过结合金融领域大数据字典,可以增强填充语料的可靠性;由于短语对的替换是在模版级别进行的,因此可以大幅度降低人工校对语料的成本;多种扩展手段结合,可以提升了语料扩展的规模。
在一个实施例中,上述基于模板的语料自动化扩充方法还包括:判断扩充后的语意句式是否符合自然规律,如果扩充后的语意句式符合自然规律,存储所述语意句式,如果如果扩充后的语意句式不符合自然规律删除所述语意句式,具体地,包括:
通过下式构建语言模型
其中,表示语言的生成过程,即字符i从1到字符l整个过程形成的连乘,所有的乘积作为一个整体,从而使得语言模型,进行最大概率P(S)的优化,P(S)为一个替换词的完成概率,表示词语wi的完成概率取决于前n个词语的概率,表示wi-n,wi-n+1,...,wi-1,即,每个词生成的过程依赖于其前面的词语,本过程即为一个语言生成的过程,l为句子长度,n为取词窗口的长度。
将一个语意句式的多个替换词依次输入语言模型,获得不同替换词语的完成概率。
按照下式获得扩充的语料的总平均概率
其中,P(S1)表示第1个替换词(短语或者几个短语组合,每一次语料转换过程可以理解为一次替换词语的转换)生成时的完成概率,若整个语意句子替换完成,需要形成1到j个替换词,P(Stotal)为整个语意句子替换的总平均概率,那么整个语意句子的合理性可以表示为多个替换词的完成概率的平均值。
判断语意句子的总平均概率是否超过设定阈值;
如果超过设定阈值,认为扩充后语意句式符合自然语言规律,存储扩充后语意句式;
如果不超过设定阈值,认为扩充后语意句式不符合自然语言规律,删除扩充后语意句式,例如,若总平均概率低于0.8,则认为该语句不合法,认为扩充的语料不符合自然语言规律。
优选地,将步骤S120的标注字段用于语言模型训练的组成部分,也是也是语言模型训练完成后进行未标注字段进行预测,成为标注字段,当获得未标注字段的预测值(将未标注字段通过语言模型转变为标注字段)时就可以开始根据客户端的槽位信息(标注字段,预测的标签)进行数据库检索,获得替换词。
通过构建的层次化语意句式模版和独特的词语替换规则,对语料扩展的生成的过程引入了两个神经网络模型判别手段:
第一,在语料填充或替换过程中,结合语句整体信息输入语言模型中,通过N元语言模型(优选地,n=4)判别选择哪个词语填充或者替换才是最合理的(即选择概率最大的词语)。
第二,在生成好的所有语料中,通过语言模型判别语料的合理性,对于语言模型计算获得的P(S1)、P(S2)、....P(Sj)的完成概率,获得替换后语意句子的总平均概率,若总平均概率低于0.8,则认为该替换后语意句子不合法,认为扩充的语料不符合自然语言规律,从而很大程度上提高了语料扩充的准确度。
在上述各实施例中通过语意句式模板匹配语料后,对语料中的语意就是进行多种方式的扩展,从而实现语料中的扩展。为了进一步降低语料匹配和扩展的复杂度,还可以扩展语意句式模板,通过扩展后的所有语意句式模板对语料进行匹配,从而实现语料的扩展,也可以采用两种方式的结合进行语料的扩展。
在本发明的一个实施例中,如图3所示,基于模板的语料自动化扩充方法,包括:
S1、根据句式和句子成分构建语意句式模板,所述句式可以根据不同的设定规则具有不同的种类,所述设定规则包括表达语气、主语的性质、结构的繁简、判断的性质、句子成分或成分句的位置、语体的风格、句式正极和句子数量中的一个或多个,根据表达语气句式分为陈述句、疑问句、祈使句和感叹句,根据主语的形式句式分为主动句和被动句,根据结构的繁简句式分为长句和短句,根据判断的性质句式分为肯定句和否定句,根据句子成分或成分句的位置句式分为常式句、变式句和把字句,根据语体风格句式分为语句和书面局,根据句式整齐句式分为整句和散句,根据句子数量句式分为单句和复合句,另外,为了降低语料匹配的复杂度和难度,句式可以根据句子成分划分为主谓谓语句、“把”字句、“被”字句、连谓句、兼语句、双宾句和存现句,所述句子成分是句子的组成成分,汉语的句子成分包括主语、谓语、宾语、动语,定语、状语,补语和中心语;英语的句子成分包括主语、谓语、宾语、表语、定语、状语、补足语和同位语,所述语意句式模板包括句子成分和需采集字符,所述需采集字符可以为一个或多个;
S2、选择扩充规则扩展语意句式模板,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种;
S3、通过所有语意句式模板在语料中进行匹配,获得语料中的多个语意句式。
可选地,所述扩展语意句式模板的步骤包括:对语意句式模版做变式替换所述变式替换包括句子结构的顺序调整或/和句子结构的长度调整。
可选地,所述扩展语意句式模板的步骤包括:将需采集字符的位置和句子成分进行交换。
可选地,所述扩展语意句式模板的步骤还包括:
采集金融大数据中的枚举字典,用短语对、相似词语、或/和关联词语对语意句式模版数据进行替换。
在一个实施例中,所述通过所有语意句式模板在语料中进行匹配的步骤之前还包括筛选出符合自然规律的语意句式模板的步骤,所述步骤包括:
构建语言模型;
通过语意句式模型在已有的金融领域语料中匹配,获得语意句式模型对应的多个语意句式,通过语言模型判断语意句式是否符合自然规律;
将符合自然规律的语意句式达到设定个数的语意句式模型认为是符合自然规律的。
优选地,还包括:获得每个语意句式模板的符合自然规律的语意句式的总平均概率的均值;按照所述均值对语意句式模板进行排序;选取第二设定个数的语意句式模板,将所述语意句式模板相对于扩充前的语意句式模板的变化的词向量作为新预料的词向量相近原则替换短语,也就是说,通过已有语料和语言模型对语意句式模板进行训练获得高概率的替换词向量,在新材料的语意句式模板中进行替换,进一步减少了运算量。
在一个实施例中,所述通过所有语意句式模板在语料中进行匹配的步骤之后还包括通过语言模型判断多个语意句式是否符合自然规律的步骤,将符合自然规律的语意句式作为语料。
在一个实施例中,还包括,对语言模型进行训练的步骤,采用采集已有的金融领域的语料构建训练集进行模型训练。
在一个实施例中,基于模板的语料自动化扩充方法还包括:
将语意句式模板加入到金融领域,所述金融领域包括银行业、信托业、证券业和租赁业。
优选地,基于模板的语料自动化扩充方法还包括:通过语言模型获得不同金融领域对应的语意句式模型,具体地包括:
构建语言模型;
通过语意句式模型在已有的不同金融领域语料中匹配,获得不同金融领域的语意句式模型对应的多个语意句式,通过语言模型判断语意句式是否符合自然规律;
将符合自然规律的语意句式达到设定个数的语意句式模型认为是符合自然规律的,从而获得不同金融领域的符合自然规律的语意句式模型。
在本发明的一个实施例中,如图4所示,基于模板的语料自动化扩充方法,包括:
通过关键词匹配对已有的金融领域语料进行层次化梳理,获得已有的金融领域语料的句式,句子成分和对应的金融领域,,所述金融领域包括银行业、信托业、证券业和租赁业。
构建类别组织不同的语意句式结构,所述类别为句式,所述组织为句子成分,将关键词作为需采集的字符,构建语意句式结构;
构建语意句式模板,将语意句式结构加入金融领域构建语意句式模板,例如疑问句的一个语意句式模板为“「辅助提问词,状态表示词+『第一需采集的字符』+常用副词,状态表示词+『第二需采集的字符』+语气补充词」”;
对语意句式模版做变式替换所述变式替换包括句子结构的顺序调整或/和句子结构的长度调整,例如,长度调整后的疑问句的一个语意句式模板为“状态表示词+『第一需采集的字符』+语气补充词」”,又如,句子结构的顺序调整,陈述句进行把字句、被字句的变换;
对语意句式模板及变式替换后的语意句式模板的问答意图和槽位进行标注,同一个套语意句式模版的槽位位置是一致的,意图是根据金融领域和不同的替换词决定,所述槽位为需采集的字符的位置,所述意图是金融领域和“『需采集的字符』”,这样可以节省替换成本,同时还方便进行人工校对;
对未标注实体和已标注实体替换,所述已标注实体是语意句式模板中的槽位,所述未标注实体是语意句式模板中的其他句子成分,可以替换一对未标注实体和已标注实体,也可以替换多对,例如,语意句式模板为“「辅助提问词,状态表示词+『第一需采集的字符』+常用副词,状态表示词+『第二需采集的字符』+语气补充词」”中已标注实体“『第一需采集的字符』”和未标注实体“状态表示词”替换,替换后的语意句式模板为“辅助提问词,『第一需采集的字符』+状态表示词+常用副词,状态表示词+『第二需采集的字符』+语气补充词」”;
根据词向量相近原则替换短语;
语言模型平滑判断,包括:构建语言模型;通过语意句式模型在已有的金融领域语料中匹配,获得语意句式模型对应的多个语意句式,通过语言模型判断语意句式是否符合自然规律;将符合自然规律的语意句式达到设定个数的语意句式模型认为是合理的;
采集金融大数据中的枚举字典,用短语对、相似词语、或/和关联词语对语意句式模版数据进行替换,进一步扩大语意句式模板;
获得初步语料(新的语料),采用扩展后的所有语意句式模型在初步语料中进行匹配,获得初步语料的多个语意句式;
通过语言模型对所述多个语意句式进行平滑筛选,也就是说,通过语言模型对初步语料中的多个语意句式进行是否符合自然规律的判断;
将符合自然规律的语意模型作为最终扩展语料。
如图5所示,是本发明基于模板的语料自动化扩充装置的功能模块图。
本发明所述基于模板的语料自动化扩充装置100可以安装于电子设备中。根据实现的功能,在一个实施例中所述基于模板的语料自动化扩充装置可以包括模板构建模块10和语料扩充模块20。本发所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
基于模板的语料自动化扩充装置,包括:
模板构建模块10,用于根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符;
语料扩充模块20,用于采用语意句式模板通过扩充方式扩充语料,包括第一扩充子模块2,所述第一扩充子模块通过第一扩展方式扩充语料,所述第一扩充方式是对语意句式模板匹配出的语料进行扩充;
其中,所述第一扩充子模块2包括:
第一匹配单元21,用于通过语意句式模板在语料中匹配获得不同语意句式;
第一扩充单元22,用于通过扩充规则扩充语意句式;
其中,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种,所述词语替换包括采用词语替换语意句式中的词语,所述变式替换包括语意句式的句子结构的顺序调整或/和句子结构的长度调整,所述中介语转换包括采用中介语将包括中介语的两个语意句式转换成一个语意句式。
在一个实施例中,模板构建模块10包括:
模板获得单元11,将语料按照语气补充词、辅助提问词、常用副词、常用动词、常用主语、常用谓词、常用助词、状态表示词、常用数量词和常用代词作为词语单元构建不同句式的语意句式模板,所述语意句式模板由构成句式的词语单元及其对应的需采集的字符构成,可以语意句式模板中可以采集每个词语单元对应的字符,也可以采用设定词语单元对应的字符。
优选地,模板构建模块10还包括
领域划分单元12,在模板获得单元的语意句式模板加入到金融领域,所述金融领域包括银行业、信托业、证券业和租赁业。
在一个实施例中,第一扩充单元22包括:
字典数据替换子单元221,采集金融大数据中的枚举字典,用短语对、相似词语、或/和关联词语对语意句式数据进行替换。
优选地,字典数据替换子单元包括:
数据词表构建子单元,构建数据词表,数据词表包括各金融领域对应字段,所述字段包括标注字段和未标注字段,所述标注字段即为需要捕获的槽位信息,所述标注字段包括动作字段和产品字段;
标注子单元,将语意分词标注成数据词表中对应的字段;
替换子单元,将语意分词中已标注的或者未标注但已明确的数据进行短语对、相似词语或/和一组关联词语替换,所述相似词语包括词向量相近的词语,也包括数据词表中相近字段的枚举值,丰富了替换词语的规模和准确度。
在一个实施例中,第一扩充单元22还包括:
变式替换子单元222,对语意句式模板做变式替换,所述变式替换包括句子结构的顺序调整或/和句子结构的长度调整。
在一个实施例中,第一扩充单元22还包括:
中介语转换子单元223,通过中介语完成不同语料之间的转换,中介语的替换是指采用媒介语言做转换。
在一个实施例中,第一扩充子模块2还包括语言模型平滑筛选单元23,在语料扩展过程中,结合语句整体信息输入语言模型中,判别选择哪个词语填充或者替换才是最合理的,具体地包括:
语言模型构建子单元,通过下式构建语言模型
其中,表示语言的生成过程,即字符i从1到字符l整个过程形成的连乘,所有的乘积作为一个整体,从而使得语言模型,进行最大概率P(S)的优化,P(S)为一个替换词的完成概率,表示词语wi的完成概率取决于前n个词语的概率。
第一概率获得子单元,将一个语意句式的多个替换词依次输入语言模型,获得不同替换词语的完成概率;
第二概率获得子单元,按照下式获得扩充的语料的总平均概率
其中,P(S1)表示第1个替换词生成时的完成概率,j表示整个语意句子替换完成,需要的替换词个数,P(Stotal)为整个语意句子替换的总平均概率。
判断子单元,判断语料的总平均概率是否超过设定阈值,如果超过设定阈值,认为扩充的语料符合自然语言规律,存储语料,如果不超过设定阈值,认为扩充的语料不符合自然语言规律,删除语料。
本发明所述基于模板的语料自动化扩充装置100可以安装于电子设备中。根据实现的功能,在另一个实施例中,如图6所示,所述基于模板的语料自动化扩充装置可以包括模板构建模块10和语料扩充模块20,所述模板构建模块10用于根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符,所述语料扩充模块20包括第二扩充子模块3,所述第二扩充子模块通过第二扩充方式扩充语料,所述第二扩充方式是对语意句式模板扩充,通过扩充后的语意句式模板匹配语料,实现语料扩充。
在一个实施例中,所述第二扩充子模块3包括:
第二扩充单元31,选择扩充规则扩充语意句式模板;
第二匹配单元32,通过扩充后的语意句式模板在语料中匹配,获得多个语意句式;
其中,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种,所述词语替换包括采用词语替换语意句式模板中的词语,所述变式替换包括语意句式模板的句子结构的顺序调整或/和句子结构的长度调整,所述中介语转换包括采用中介语将包括中介语的两个语意句式模板转换成一个语意句式模板。
可选地,第二扩充单元31对语意句式模版做变式替换所述变式替换包括句子结构的顺序调整或/和句子结构的长度调整。
可选地,第二扩充单元31将需采集字符的位置和句子成分进行交换。
可选地,第二扩充单元31采集金融大数据中的枚举字典,用短语对、相似词语、或/和关联词语对语意句式模版数据进行替换。
在一个实施例中,所述第二扩充子模块3还包括模板筛选单元33,筛选出符合自然规律的语意句式单元包括:构建语言模型;通过语意句式模型在已有的金融领域语料中匹配,获得语意句式模型对应的多个语意句式,通过语言模型判断语意句式是否符合自然规律;将符合自然规律的语意句式达到设定个数的语意句式模型认为是符合自然规律的。
在一个实施例中,所述第二扩充子模块3还包括语料筛选单元34,通过语言模型判断多个语意句式是否符合自然规律的步骤,将符合自然规律的语意句式作为语料。
如图7所示,是本发明实现基于模板的语料自动化扩充方法的电子设备的结构示意图。
所述电子设备200可以包括存储器210、处理器220和总线,还可以包括存储在所述存储器210中并可在所述处理器220上运行的计算机程序,如基于模板的语料自动化扩充程序211。
其中,所述存储器210至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器210在一些实施例中可以是电子设备200的内部存储单元,例如该电子设备200的移动硬盘。所述存储器210在另一些实施例中也可以是电子设备200的外部存储设备,例如电子设备200上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器210还可以既包括电子设备200的内部存储单元也包括外部存储设备。所述存储器210不仅可以用于存储安装于电子设备200的应用软件及各类数据,例如基于模板的语料自动化扩充程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器220在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器220是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器210内的程序或者模块(例如基于模板的语料自动化扩充程序等),以及调用存储在所述存储器210内的数据,以执行电子设备200的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器210以及至少一个处理器220等之间的连接通信。
图7仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备200的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备200还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器220逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备200还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备200还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备200与其他电子设备之间建立通信连接。
可选地,该电子设备200还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备200中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备200中的所述存储器210存储的基于模板的语料自动化扩充程序211是多个指令的组合,在所述处理器220中运行时,可以实现:
根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符;
采用语意句式模板通过扩充方式扩充语料,所述扩充方式包括第一扩充方式或/和第二扩充方式,所述第一扩充方式是对语意句式模板匹配出的语料进行扩充,所述第二扩充方式是对语意句式模板扩充,通过扩充后的语意句式模板匹配语料,实现语料扩充;
其中,所述第一扩充方式的实现步骤包括:
通过语意句式模板在语料中匹配获得不同语意句式;
通过扩充规则扩充语意句式;
其中,所述第二扩充方式的实现步骤包括:
选择扩充规则扩充语意句式模板;
通过扩充后的语意句式模板在语料中匹配,获得多个语意句式;
其中,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种,所述词语替换包括采用词语替换语意句式模板或语意句式中的词语,所述变式替换包括语意句式模板或语意句式的句子结构的顺序调整或/和句子结构的长度调整,所述中介语转换包括采用中介语将包括中介语的两个语意句式模板或语意句式转换成一个语意句式模板或语意句式。
具体地,所述处理器220对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。需要强调的是,为进一步保证上述待稽核数据的私密和安全性,上述稽核数据还可以存储于一区块链的节点中。
进一步地,所述电子设备200集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
此外,本申请实施例还提出一种计算机可读存储介质,所述计算机可读存储介质可以是非易失性,也可以是易失性,计算机可读存储介质中包括计算机程序,该计算机程序被处理器执行时实现如下操作:
根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符;
采用语意句式模板通过扩充方式扩充语料,所述扩充方式包括第一扩充方式或/和第二扩充方式,所述第一扩充方式是对语意句式模板匹配出的语料进行扩充,所述第二扩充方式是对语意句式模板扩充,通过扩充后的语意句式模板匹配语料,实现语料扩充;
其中,所述第一扩充方式的实现步骤包括:
通过语意句式模板在语料中匹配获得不同语意句式;
通过扩充规则扩充语意句式;
其中,所述第二扩充方式的实现步骤包括:
选择扩充规则扩充语意句式模板;
通过扩充后的语意句式模板在语料中匹配,获得多个语意句式;
其中,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种,所述词语替换包括采用词语替换语意句式模板或语意句式中的词语,所述变式替换包括语意句式模板或语意句式的句子结构的顺序调整或/和句子结构的长度调整,所述中介语转换包括采用中介语将包括中介语的两个语意句式模板或语意句式转换成一个语意句式模板或语意句式。
本申请之计算机可读存储介质的具体实施方式与上述基于模板的语料自动化扩充方法、装置、电子设备的具体实施方式大致相同,在此不再赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种基于模板的语料自动化扩充方法,其特征在于,所述方法包括:
根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符;
采用语意句式模板通过扩充方式扩充语料,所述扩充方式包括第一扩充方式或/和第二扩充方式,所述第一扩充方式是对语意句式模板匹配出的语料进行扩充,所述第二扩充方式是对语意句式模板扩充,通过扩充后的语意句式模板匹配语料,实现语料扩充;
其中,所述第一扩充方式的实现步骤包括:
通过语意句式模板在语料中匹配获得不同语意句式;
通过扩充规则扩充语意句式;
其中,所述第二扩充方式的实现步骤包括:
选择扩充规则扩充语意句式模板;
通过扩充后的语意句式模板在语料中匹配,获得多个语意句式;
其中,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种,所述词语替换包括采用词语替换语意句式模板或语意句式中的词语,所述变式替换包括语意句式模板或语意句式的句子结构的顺序调整或/和句子结构的长度调整,所述中介语转换包括采用中介语将包括中介语的两个语意句式模板或语意句式转换成一个语意句式模板或语意句式。
2.如权利要求1所述的基于模板的语料自动化扩充方法,其特征在于,所述根据句式和句子成分构建语意句式模板的步骤包括:
按照语气补充词、辅助提问词、辅助回答词、常用副词、常用动词、常用主语、常用谓词、常用助词、状态表示词、常用数量词和常用代词作为词语单元构建不同句式的语意句式模板,所述语意句式模板由构成句式的词语单元及其对应的需采集的字符构成。
3.如权利要求2所述的基于模板的语料自动化扩充方法,其特征在于,所述通过扩充规则扩充语意句式的步骤还包括:
构建数据词表,所述数据词表包括各金融领域对应字段,所述字段包括标注字段和未标注字段,所述标注字段为需要捕获的槽位信息;
其中,所述通过词语替换扩充语意句式的步骤包括:
对每个语意句式模板从语料匹配出的语意句式的需采集字符进行分词,形成多个语意分词;
将语意分词标注成数据词表中对应的字段;
将语意分词中已标注的或者未标注但已明确的数据进行短语对、相似词语或/和一组关联词语替换,所述相似词语包括词向量相近的词语和数据词表中相近字段的枚举值。
4.如权利要求1所述的基于模板的语料自动化扩充方法,其特征在于,所述通过扩充规则扩充语意句式的步骤包括:
采集金融大数据中的枚举字典,用短语对、相似词语、或/和关联词语对语意句式数据进行替换。
5.如权利要求1所述的基于模板的语料自动化扩充方法,其特征在于,所述通过扩充规则扩充语意句式的步骤包括:
对语意句式做变式替换,所述变式替换包括句子结构的顺序调整或/和句子结构的长度调整。
6.如权利要求1所述的基于模板的语料自动化扩充方法,其特征在于,所述通过扩充规则扩充语意句式的步骤包括:
通过中介语完成不同语料之间的转换,中介语的替换是指采用媒介语言做转换。
7.如权利要求1所述的基于模板的语料自动化扩充方法,其特征在于,所述第一扩充方式的实现步骤还包括判断扩充后语意句式是否符合自然规律的步骤,所述步骤包括:
通过下式构建语言模型
其中,表示语言的生成过程,即字符i从1到字符l整个过程形成的连乘,所有的乘积作为一个整体,从而使得语言模型,进行最大概率P(S)的优化,P(S)为一个替换词的完成概率,表示词语wi的完成概率取决于前n个词语的概率;
将一个语意句式的多个替换词依次输入语言模型,获得不同替换词语的完成概率;
按照下式获得扩充的语料的总平均概率
其中,P(S1)表示第1个替换词生成时的完成概率,j表示整个语意句子替换完成,需要的替换词个数,P(Stotal)为整个语意句子替换的总平均概率;
判断语意句子的总平均概率是否超过设定阈值;
如果超过设定阈值,认为扩充后语意句式符合自然语言规律,存储扩充后语意句式;
如果不超过设定阈值,认为扩充后语意句式不符合自然语言规律,删除扩充后语意句式。
8.一种基于模板的语料自动化扩充装置,其特征在于,所述装置包括:
模板构建模块,用于根据句式和句子成分构建语意句式模板,所述语意句式模板包括句子成分和需采集字符;
语料扩充模块,用于采用语意句式模板通过扩充方式扩充语料,包括第一扩充子模块或/和第二扩充子模块,所述第一扩充子模块通过第一扩展方式扩充语料,所述第二扩充子模块通过第二扩充方式扩充语料,所述第一扩充方式是对语意句式模板匹配出的语料进行扩充,所述第二扩充方式是对语意句式模板扩充,通过扩充后的语意句式模板匹配语料,实现语料扩充;
其中,所述第一扩充子模块包括:
第一匹配单元,用于通过语意句式模板在语料中匹配获得不同语意句式;
第一扩充单元,用于通过扩充规则扩充语意句式;
其中,所述第二扩充子模块包括:
第二扩充单元,选择扩充规则扩充语意句式模板;
第二匹配单元,通过扩充后的语意句式模板在语料中匹配,获得多个语意句式;
其中,所述扩充规则包括词语替换、变式替换和中介语转换中的一种或多种,所述词语替换包括采用词语替换语意句式模板或语意句式中的词语,所述变式替换包括语意句式模板或语意句式的句子结构的顺序调整或/和句子结构的长度调整,所述中介语转换包括采用中介语将包括中介语的两个语意句式模板或语意句式转换成一个语意句式模板或语意句式。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任一所述的基于模板的语料自动化扩充方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一所述的基于模板的语料自动化扩充方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011564948.1A CN112668281B (zh) | 2020-12-25 | 2020-12-25 | 基于模板的语料自动化扩充方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011564948.1A CN112668281B (zh) | 2020-12-25 | 2020-12-25 | 基于模板的语料自动化扩充方法、装置、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112668281A true CN112668281A (zh) | 2021-04-16 |
CN112668281B CN112668281B (zh) | 2023-09-22 |
Family
ID=75409358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011564948.1A Active CN112668281B (zh) | 2020-12-25 | 2020-12-25 | 基于模板的语料自动化扩充方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112668281B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115470781A (zh) * | 2022-11-01 | 2022-12-13 | 北京红棉小冰科技有限公司 | 语料生成方法、装置和电子设备 |
CN117217196A (zh) * | 2023-11-09 | 2023-12-12 | 杭州瀚斯科技有限公司 | 数据处理系统、方法及计算机装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110334197A (zh) * | 2019-06-28 | 2019-10-15 | 科大讯飞股份有限公司 | 语料处理方法及相关装置 |
CN110516063A (zh) * | 2019-07-11 | 2019-11-29 | 网宿科技股份有限公司 | 一种服务系统的更新方法、电子设备及可读存储介质 |
CN110852117A (zh) * | 2019-11-08 | 2020-02-28 | 沈阳雅译网络技术有限公司 | 一种提升神经机器翻译效果的有效数据增强方法 |
CN111859092A (zh) * | 2020-07-29 | 2020-10-30 | 苏州思必驰信息科技有限公司 | 文本语料扩增方法、装置、电子设备及存储介质 |
-
2020
- 2020-12-25 CN CN202011564948.1A patent/CN112668281B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110334197A (zh) * | 2019-06-28 | 2019-10-15 | 科大讯飞股份有限公司 | 语料处理方法及相关装置 |
CN110516063A (zh) * | 2019-07-11 | 2019-11-29 | 网宿科技股份有限公司 | 一种服务系统的更新方法、电子设备及可读存储介质 |
CN110852117A (zh) * | 2019-11-08 | 2020-02-28 | 沈阳雅译网络技术有限公司 | 一种提升神经机器翻译效果的有效数据增强方法 |
CN111859092A (zh) * | 2020-07-29 | 2020-10-30 | 苏州思必驰信息科技有限公司 | 文本语料扩增方法、装置、电子设备及存储介质 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115470781A (zh) * | 2022-11-01 | 2022-12-13 | 北京红棉小冰科技有限公司 | 语料生成方法、装置和电子设备 |
CN115470781B (zh) * | 2022-11-01 | 2023-03-14 | 北京红棉小冰科技有限公司 | 语料生成方法、装置和电子设备 |
CN117217196A (zh) * | 2023-11-09 | 2023-12-12 | 杭州瀚斯科技有限公司 | 数据处理系统、方法及计算机装置 |
CN117217196B (zh) * | 2023-11-09 | 2024-01-26 | 杭州瀚斯科技有限公司 | 数据处理系统、方法及计算机装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112668281B (zh) | 2023-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111460797B (zh) | 关键字抽取方法、装置、电子设备及可读存储介质 | |
CN113515938B (zh) | 语言模型训练方法、装置、设备及计算机可读存储介质 | |
CN111401058B (zh) | 一种基于命名实体识别工具的属性值抽取方法及装置 | |
CN111506696A (zh) | 基于少量训练样本的信息抽取方法及装置 | |
CN113704429A (zh) | 基于半监督学习的意图识别方法、装置、设备及介质 | |
CN113609838B (zh) | 文档信息抽取及图谱化方法和系统 | |
Abdurakhmonova et al. | Linguistic functionality of Uzbek Electron Corpus: uzbekcorpus. uz | |
CN112668281B (zh) | 基于模板的语料自动化扩充方法、装置、设备及介质 | |
CN112988963A (zh) | 基于多流程节点的用户意图预测方法、装置、设备及介质 | |
CN112528013A (zh) | 文本摘要提取方法、装置、电子设备及存储介质 | |
CN112559687A (zh) | 问题识别及查询方法、装置、电子设备及存储介质 | |
CN111401065A (zh) | 实体识别方法、装置、设备及存储介质 | |
CN112667775A (zh) | 基于关键词提示的检索方法、装置、电子设备及存储介质 | |
CN113360654B (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
Petrov et al. | Sparse multi-scale grammars for discriminative latent variable parsing | |
CN113420542B (zh) | 对话生成方法、装置、电子设备及存储介质 | |
WO2022121152A1 (zh) | 智能对话方法、装置、电子设备及存储介质 | |
CN112597748A (zh) | 语料生成方法、装置、设备及计算机可读存储介质 | |
CN113362072A (zh) | 风控数据处理方法、装置、电子设备及存储介质 | |
CN114757154B (zh) | 基于深度学习的作业生成方法、装置、设备及存储介质 | |
CN116186241A (zh) | 基于语义学分析与提示学习的事件要素抽取方法、装置、电子设备及存储介质 | |
CN113408271B (zh) | 基于rpa及ai的信息抽取方法、装置、设备及介质 | |
CN115510188A (zh) | 文本关键词关联方法、装置、设备及存储介质 | |
CN115169370A (zh) | 语料数据增强方法、装置、计算机设备及介质 | |
CN115221323A (zh) | 基于意图识别模型的冷启动处理方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |