CN114462387A - 无标注语料下的句型自动判别方法 - Google Patents

无标注语料下的句型自动判别方法 Download PDF

Info

Publication number
CN114462387A
CN114462387A CN202210126096.0A CN202210126096A CN114462387A CN 114462387 A CN114462387 A CN 114462387A CN 202210126096 A CN202210126096 A CN 202210126096A CN 114462387 A CN114462387 A CN 114462387A
Authority
CN
China
Prior art keywords
corpus
training
algorithm
samples
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210126096.0A
Other languages
English (en)
Other versions
CN114462387B (zh
Inventor
王函石
邴立新
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Yitan Technology Co ltd
Original Assignee
Beijing Yitan Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Yitan Technology Co ltd filed Critical Beijing Yitan Technology Co ltd
Priority to CN202210126096.0A priority Critical patent/CN114462387B/zh
Publication of CN114462387A publication Critical patent/CN114462387A/zh
Application granted granted Critical
Publication of CN114462387B publication Critical patent/CN114462387B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G06F18/24137—Distances to cluster centroïds
    • G06F18/2414—Smoothing the distance, e.g. radial basis function networks [RBFN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/245—Classification techniques relating to the decision surface
    • G06F18/2451—Classification techniques relating to the decision surface linear, e.g. hyperplane
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Machine Translation (AREA)

Abstract

本发明公开了一种无标注语料下的句型自动判别方法，包括如下步骤，S1、将无标注语料数据和业务规则输入启发式判别算法，获取标注语料A；S2、将标注语料A输入一致性判别算法，获取标注语料B；S3、将标注语料A和标注语料B输入偏向性训练算法，获取最终的判别模型。优选的：实现了在无标注语句条件下，对语句句型进行判别的结果，基于业务逻辑和语言学特征的规则构建，不需要参与者同时拥有业务能力和机器学习算法基础，业务人员和开发人员配合难度低，主动学习所产生的交互裁决样本规模小，人工标注成本低。

Description

无标注语料下的句型自动判别方法
技术领域
本发明涉及句型自动判别技术领域，尤其涉及一种无标注语料下的句型自动判别方法。
背景技术
目前对于句型进行判别的方法是基于监督学习方法，需要对欲判别的语料进行标注，同时为了提高判别的效果，需要不断提高模型复杂度，特别是采用不断加大层数、神经元数量的深度学习模型，对标注语料的规模和质量产生了更大依赖。但实际的业务应用场景中，标注语料不论是量还是质都远远低于理想水平，特别是细分领域，很难用通用领域的标注语料获得复合应用要求的效果。
发明内容
本发明的目的在于提供一种无标注语料下的句型自动判别方法，从而解决现有技术中存在的前述问题。
为了实现上述目的，本发明采用的技术方案如下：
一种无标注语料下的句型自动判别方法，包括如下步骤，
S1、将无标注语料数据和业务规则输入启发式判别算法，获取标注语料A；
S2、将标注语料A输入一致性判别算法，获取标注语料B；
S3、将标注语料A和标注语料B输入偏向性训练算法，获取最终的判别模型。
优选的，步骤S1具体包括如下内容，
S11、利用业务规则对无标注语料进行业务标记；
S12、根据业务标记后的无标注语料的语言学特征，将由中心语、语法角色、语义角色、关联项以及排除项组成的多元组作为一条模式规则；
S13、启发式判别算法根据多元组构成的模式规则对业务标记后且特征化后的无标注语料进行打标，获取标注语料A。
优选的，多元组生成过程如下，
将无标注语料通过语言学分析算法进行特征化：语言学分析算法将无标注语料分解为词间依存关系的多个三元组后，将无标注语料对应的关系类型根据三元组中父节点索引生成图结构；
利用图结构生成多元组：语言学分析算法在图结构上进行搜索，找到频繁项的父、子节点对应的词性和类型，并将频繁项的词性和类型、父节点类型、子节点的类型、频繁项在无标注语句中的邻接词按照既定顺序组成多元组。
优选的，所述三元组包括当前词的节点索引、父节点词索引以及当前词与父节点词的关系类型。
优选的，语言学分析算法在图结构上进行搜索具体为，延图的拓扑路径进行广度优先匹配或深度优先匹配，以获取频繁项；
所述广度优先匹配具体为：以当前节点为始，枚举搜索其邻接节点后，再以这些邻接节点为始，枚举搜索这些邻接节点的邻接节点，达到当前节点的最大深度后，统计频繁项；
所述深度优先匹配具体为：以当前节点为始，随机搜索其一个邻接节点，并以该邻接节点为始，进一步随机搜索其邻接的一个节点，达到当前节点的最大深度后，统计频繁项；
所述邻接节点包括父节点和子节点；当当前节点的最大深度与预设深度相等时，广度优先匹配和深度优先匹配获取的频繁项一致。
优选的，步骤S2具体包括如下内容，
S21、基于统计机器学习中的语言模型、基于词构建词集合向量或基于字和预训练深度模型的实数句向量，对标注样本A进行特征化；
S22、利用特征化后的标注样本A迭代训练机器学习模型，将每轮训练后打标与启发式判别算法打标不一致的样本进行超采样生成下轮训练样本，直到训练的准确度出现下降趋势后，停止训练，获取训练好的机器学习模型；
S23、将训练得到的假阴性样本和假阳性样本经过均匀分布采样后作为主动学习样本交由人工打标，获取标注样本B；
假阴性样本即为，训练好的机器学习模型打标为负样本且人工标记为正样本的样本；
假阳性样本即为，训练好的机器学习模型打标为正样本且人工标记为负样本的样本。
优选的，步骤S3具体包括如下内容，
S31、利用偏向性训练算法迭代训练标注语料A，将每轮迭代中没有被正确判别的样本进行超采样生成下轮训练样本，直到训练的准确度出现下降趋势后，停止训练标注语料A；输出初始判别模型；
S32、利用初始判别模型迭代训练标注语料B，将每轮迭代中没有被正确判别的样本进行超采样生成下轮训练样本，直到训练的准确度出现震荡后，停止训练标注样本B；输出最终的判别模型。
优选的，所述偏向性训练算法为LinearSVC或sigmoid函数作为激活函数的DNN。
优选的，最终的判别模型投入使用后，对无标注语料进行自动打标，人工对其打标结果进行预设比例的抽样检验，将检验中打标与启发式算法打标不一致的样本收集后加入标注语料B，并再次利用初始判别模型迭代训练标注语料B，获取新的最终的判别模型。
本发明的有益效果是：1、实现了在无标注语句条件下，对语句句型进行判别的结果，基于业务逻辑和语言学特征的规则构建，不需要参与者同时拥有业务能力和机器学习算法基础，业务人员和开发人员配合难度低，主动学习所产生的交互裁决样本规模小，人工标注成本低。2、该方法适用于其他没有标注数据的细分领域，可以训练出满足应用要求的自动判别模型，具有很强的推广性，不同的应用场景下的差异主要在于算法所使用的特征不同。
附图说明
图1是本发明实施例中判别方法的原理流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施方式仅仅用以解释本发明，并不用于限定本发明。
实施例一
如图1所示，本实施例中，提供了一种无标注语料下的句型自动判别方法，包括如下步骤，
S1、将无标注语料数据和业务规则输入启发式判别算法，获取标注语料A；
S2、将标注语料A输入一致性判别算法，获取标注语料B；
S3、将标注语料A和标注语料B输入偏向性训练算法，获取最终的判别模型。
该方法3个阶段的算法，算法1(启发式判别算法)的输入是无标注语句数据，输出标注语料A，算法2(一致性判别算法)的输入是标注语料A，输出标注语料B，算法3(偏向性训练算法)的输入是标注语料A和标注语料B，输出最终的判别结果。3个算法实现了在无标注语句条件下，对语句句型进行判别的结果，可视为主动学习的过程，下面分别针对这三个算法进行解释：
1、启发式判别算法。通过对细分领域中最常见业务逻辑进行建模，形成少量判别规则，即少量业务规则；例如判别索联是否成功时，业务人员总结的识别联系方式的正则表达式，再如判别项目、主题时，业务人员提供的关键词列表，算法一并将其转化为基于正则表达的规则。因为业务规则依靠人工总结，总量较少，故为“少量业务规则”，其作用为，保证判别结果有极低的假阳性(False Positive)，用于引导后续机器学习算法的计算方向。相较于机器学习算法，常见业务逻辑由人工总结而成，因此它缺少细节和缺乏量化能力，形成的规则只能用作定性分析，因此涉及的特征少(在句型判别中，采用少量语言学特征)，不会产生过度拟合的分类边界，为后续机器学习算法留出充足的优化空间，而且很容易保证判别结果有极低的假阳性。该算法对无标注语料数据进行判别，产生标注语料A。
2、一致性判别算法。该算法采用机器学习中的语言统计特征，从语言模型产生特征(如TFIDF、BERT等)，根据标注语料A训练拟合度相对低的线性分类模型(如LinearSVC)，因为该算法的目的是判断统计一致性，所以单纯提高训练准确度(ACC)，直到收敛。相较拟合度高的非线性模型，采用线性分类模型可以缓解提高训练ACC时产生的过度拟合问题，可以在判断一致性时有更大的容忍度，训练得到的假阴性(False Negative，即算法判别为负样本，而人工标记为正样本)和假阳性(False Positive，即算法判别为正样本，而人工标记为负样本)样本经采样(一般采用均匀分布采样)作为主动学习样例交由人工打标，打标后获得标注语料B。
3、偏向性训练算法(模型类型不限，可以是任意判别模型，如LinearSVC或者sigmoid函数作为激活函数的DNN)。该算法以学习标注语料A为基础，并保证完全学会标注语料B。由算法1产生的标注语料A规模相对较大但质量相对低，由算法2产生的标注语料B规模较小质量较高，算法3先学习标注语料A，迭代训练中，训练ACC(准确度)出现由高到低的波动后停止回退至较高的训练状态，然后学习标注语料B，当训练ACC变化出现停滞时，通过超采样(super sampling)扩大规模，直至训练ACC在极大值收敛停止训练，获得最终的判别模型C。
最终的判别模型C投入使用后，对无标注语料数据进行自动打标，人工可对其打标结果进行预设比例(1％)的均匀抽样检验(当检验ACC低于收敛停止时的训练ACC的5％时，抽检比例可以扩大)，将检验中错误的样本(打标与启发式算法打标不一致的样本)收集后加入标注语料B，再次利用初始判别模型迭代训练标注语料B，获取新的最终的判别模型C。其中，1％和5％属于统计过程中经验性显著等级阈值，可根据业务或客户体验进行调整。
实施例二
上述三个算法顺序级联后实现的是主动学习过程，在句型判别中，以疑问句为例，详细说明上述三个算法的具体执行过程。
一、启发式判别算法
该部分对应步骤S1，具体包括如下内容，
S11、利用业务规则对无标注语料进行业务标记；具体的：首先利用业务规则对无标注语料做业务标记，比如业务相关信息的判断。业务相关信息包括联系方式(如手机号、邮箱地址、QQ号、微信号)、业务行为(如索联行为、引导应答行为、一般应答行为)、项目信息(如教育、医疗科目)、访客行为(如咨询价格、条件、时间、地点或确认)。
无标注语料的句型一般包括陈述句、一般疑问句、正反疑问句、疑问代词疑问句、选择疑问句等几种类型。比如，在疑问句判别的案例中，业务规则由少量判断疑问句的正则表达式和关键词匹配规则组成。业务规则的作用是为算法1提供少量打标样本(正样本)，为语言学特征分析提供样例。业务规则一般由业务人员手工创建，可借助一定的统计方法。
S12、根据业务标记后的无标注语料的语言学特征，将由中心语、语法角色、语义角色、关联项以及排除项组成的多元组作为一条模式规则；
S13、启发式判别算法根据多元组构成的模式规则对业务标记后且特征化后的无标注语料进行打标，获取标注语料A。
其中，多元组生成过程如下，
将无标注语料通过语言学分析算法进行特征化：语言学分析算法将无标注语料分解为词间依存关系的多个三元组后，将无标注语料对应的关系类型根据三元组中父节点索引生成图结构；所述三元组包括当前词的节点索引、父节点词索引以及当前词与父节点词的关系类型。
利用图结构生成多元组：语言学分析算法在图结构上进行搜索，找到频繁项的父、子节点对应的词性和类型，并将频繁项的词性和类型、父节点类型、子节点的类型、频繁项在无标注语句中邻接词按照既定顺序组成多元组。
语言学分析算法在图结构上进行搜索具体为，延图的拓扑路径进行广度优先匹配或深度优先匹配，以获取频繁项；
所述广度优先匹配具体为：以当前节点为始，枚举搜索其邻接节点(父、子节点)后，再以这些邻接节点(父、子节点)为始，枚举搜索这些邻接节点(父、子节点)的邻接节点(父、子节点)，达到当前节点的最大深度后，统计频繁项；
所述深度优先匹配具体为：以当前节点为始，随机搜索其一个邻接节点(父、子节点)，并以该邻接节点(父、子节点)为始，进一步随机搜索其一个邻接节点(父、子节点)，达到当前节点的最大深度后，统计频繁项。
当当前节点的最大深度(拓扑距离)与预设深度相等时，广度优先匹配和深度优先匹配获取的频繁项一致。预设深度可以根据实际情况进行设定，以便更好的满足实际需求。
频繁项指频繁出现的元组，首先统计元组出现频次，然后按比例选择高频项，经验上选择前1％至5％的高频项(一般先以频次组成的经验分布拟合参数化分布函数，如对数正态分布、帕累托分布，然后以1％至5％分位数为频繁项选取阈值，测试并观察效果)。
算法1根据4类疑问句(一般、选择、特殊和反意)的语言学特征，由中心语、语法角色、语义角色及关联项(依存关系中的父子节点)、排除项组成的多元组比如，在一般疑问句中多元组“('吗','RAD','mDepd','VOB')”或在特殊疑问句中多元组(“('几','ATT','MEAS','VOB','MEAS',['那么'])”)，作为一条模式规则。其中列表['那么']为排除项，即前项匹配后，如果排除项也匹配，则视为该多元组整体所代表的规则未匹配。例如，语句“学习需要几天”匹配前项，且没有匹配排除项，因此语句匹配该条特殊疑问句规则，而语句“学习需要那么几天”匹配前项，而且匹配排除项，因此语句不匹配该条特殊疑问句规则。
多元组生成过程分两步：1.1、语句通过语言学分析算法(即LTP语言技术平台)特征化。LTP会将句子分解为词间依存关系的多个三元组，比如(1,2,MEAS)，其中“1”表示当前词的节点索引，“2”表示其父节点词索引，“MEAS”表示当前词与父节点词的关系类型后，将特征与其依存关系生成图结构，(特征指句子对应的一组关系类型，根据三元组中的父节点索引生成图结构。)1.2、陈述句和疑问句在关系类型和结构上存在统计差异(陈述句中不常出现的词及关系类型，而疑问句中常出现)，统计计算后将疑问句频繁项(词和关系类型)找出，语言学分析算法在图结构上进行搜索(延图的拓补路径进行广度优先或深度优先匹配)，找到频繁项的父、子节点对应的词性和类型，按既定顺序(频繁项词性和类型，父节点类型，子节点类型，频繁项在陈述句中邻接词等)组成上述多元组。
算法1根据多元组构成的模式规则对特征化后(LTP特征化后)的无标注语料数据进行打标，产生的标记和原句组成标注语料A。
词性和类型是指LTP(语言技术平台)使用的863词性标注集；语法角色是指LTP(语言技术平台)使用的句法关系；语义角色是指LTP(语言技术平台)使用的语义角色类型。
二、一致性判别算法
该部分对应步骤S2，具体包括如下内容，
S21、基于统计机器学习中的语言模型、基于词构建词集合向量或基于字和预训练深度模型的实数句向量，对标注样本A进行特征化；
S22、利用特征化后的标注样本A迭代训练机器学习模型，将每轮训练后打标与启发式判别算法打标不一致的样本进行超采样生成下轮训练样本，直到训练的准确度出现下降趋势后，停止训练，获取训练好的机器学习模型；
S23、将训练得到的假阴性样本和假阳性样本经过均匀分布采样后作为主动学习样本交由人工打标，获取标注样本B；
假阴性样本即为，训练好的机器学习模型打标为负样本且人工标记为正样本的样本；
假阳性样本即为，训练好的机器学习模型打标为正样本且人工标记为负样本的样本。
算法2首先基于统计机器学习中的语言模型、基于词构建词集合向量或基于字和预训练深度模型的实数句向量，对标注语料A进行特征化。
然后利用特征化后的标注语料A迭代训练拟合度不高的统计机器学习模型(如线性判别模型中的LinearSVC)，模型控制迭代训练时，将每轮训练校验误差样本(训练后测试与算法1打标不一致的样本)进行超采样(存在误差的样本为总体，在总体上进行放回式均匀采样，采样量＝误差样本量×迭代轮数)生成下轮训练样本A+，直到训练ACC由上升变为下降(即上一轮训练ACC大于当前轮训练ACC)时，训练完成，获取训练好的机器学习模型；利用训练好的机器学习模型判断标注语料A中的疑问句类型，找到与算法1标注的不一致(实际为统计不一致)的样本，即自动判别出的错误案例(Bad Case)作为主动学习样本，将主动学习样本交由人工打标，获取标注语料B。
三、偏向性训练算法
该部分对应步骤S3，具体包括如下内容，
S31、利用偏向性训练算法迭代训练标注语料A，将每轮迭代中没有被正确判别的样本进行超采样生成下轮训练样本，直到训练的准确度出现下降趋势后，停止训练标注语料A；输出初始判别模型；
S32、利用初始判别模型迭代训练标注语料B，将每轮迭代中没有被正确判别的样本进行超采样生成下轮训练样本，直到训练的准确度出现震荡后，停止训练标注样本B；输出最终的判别模型。
所述偏向性训练算法为LinearSVC或sigmoid函数作为激活函数的DNN。
算法3学习算法1和算法2产生的全部语料，首先迭代学习标注语料A，将每轮没有拟合(即训练中没有正确判别的样本)的样本进行超采样(扩大样本)，提高对标注语料A中较难学习的样本的训练强度，当训练ACC出现下降趋势后，停止学习标注语料A，输出初始判别模型；之后开始利用初始判别模型迭代学习标注语料B，对每轮中没有拟合的样本进行超采样，并随着迭代轮数提高超采量，当训练ACC出现震荡(即多轮迭代中，训练ACC围绕均值上下变化，训练ACC趋势性停滞)时，视其收敛，停止学习标注语料B，此时过拟合标注语料B(通常可达到完全拟合标注语料B的效果)，欠拟合标注语料A(对标注语料B的学习通常会导致对标注语料A的拟合度降低)，这种学习算法偏向提高标注语料B的拟合结果，即偏向质量高(实质为统计一致性高)的语料，所训练出的模型，结合了语言学和统计机器学习两方的特征和判别效果。训练停止后，输出最终的判别模型C。
之后即可将最终的判别模型C投入使用对无标注语下的句型进行判别。最终的判别模型C的类型一般为线性判别模型(如linearSVC)或非线性判别模型(如多层感知机、DNN等)，这些类型的模型可以对向量化后的语句进行预测计算，并输出极性化的判别决策值(一般为0到1)，该值可以视为该语句属于此判别类型的置信度(0％到100％)。在分类任务中，大于中间值(0.5)的样本通常判别为正例，但对于精度要求高的任务，特别是对假阳性容忍度低的任务中，判断为正例的置信度阈值可以适当上调(如0.85以上)。
通过采用本发明公开的上述技术方案，得到了如下有益的效果：
本发明提供了一种无标注语下的句型自动判别方法，该方法实现了在无标注语句条件下，对语句句型进行判别的结果，基于业务逻辑和语言学特征的规则构建，不需要参与者同时拥有业务能力和机器学习算法基础，业务人员和开发人员配合难度低，主动学习所产生的交互裁决样本规模小，人工标注成本低。该方法适用于其他没有标注数据的细分领域，可以训练出满足应用要求的自动判别模型，具有很强的推广性，不同的应用场景下的差异主要在于算法所使用的特征不同。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视本发明的保护范围。

Claims (9)

1.一种无标注语料下的句型自动判别方法，其特征在于：包括如下步骤，
S1、将无标注语料数据和业务规则输入启发式判别算法，获取标注语料A；
S2、将标注语料A输入一致性判别算法，获取标注语料B；
S3、将标注语料A和标注语料B输入偏向性训练算法，获取最终的判别模型。
2.根据权利要求1所述的无标注语料下的句型自动判别方法，其特征在于：步骤S1具体包括如下内容，
S11、利用业务规则对无标注语料进行业务标记；
S12、根据业务标记后的无标注语料的语言学特征，将由中心语、语法角色、语义角色、关联项以及排除项组成的多元组作为一条模式规则；
S13、启发式判别算法根据多元组构成的模式规则对业务标记后且特征化后的无标注语料进行打标，获取标注语料A。
3.根据权利要求2所述的无标注语料下的句型自动判别方法，其特征在于：多元组生成过程如下，
将无标注语料通过语言学分析算法进行特征化：语言学分析算法将无标注语料分解为词间依存关系的多个三元组后，将无标注语料对应的关系类型根据三元组中父节点索引生成图结构；
利用图结构生成多元组：语言学分析算法在图结构上进行搜索，找到频繁项的父、子节点对应的词性和类型，并将频繁项的词性和类型、父节点类型、子节点的类型、频繁项在无标注语句中的邻接词按照既定顺序组成多元组。
4.根据权利要求3所述的无标注语料下的句型自动判别方法，其特征在于：所述三元组包括当前词的节点索引、父节点词索引以及当前词与父节点词的关系类型。
5.根据权利要求3所述的无标注语料下的句型自动判别方法，其特征在于：语言学分析算法在图结构上进行搜索具体为，延图的拓扑路径进行广度优先匹配或深度优先匹配，以获取频繁项；
所述广度优先匹配具体为：以当前节点为始，枚举搜索其邻接节点后，再以这些邻接节点为始，枚举搜索这些邻接节点的邻接节点，达到当前节点的最大深度后，统计频繁项；
所述深度优先匹配具体为：以当前节点为始，随机搜索其一个邻接节点，并以该邻接节点为始，进一步随机搜索其邻接的一个节点，达到当前节点的最大深度后，统计频繁项；
所述邻接节点包括父节点和子节点；当当前节点的最大深度与预设深度相等时，广度优先匹配和深度优先匹配获取的频繁项一致。
6.根据权利要求5所述的无标注语料下的句型自动判别方法，其特征在于：步骤S2具体包括如下内容，
S21、基于统计机器学习中的语言模型、基于词构建词集合向量或基于字和预训练深度模型的实数句向量，对标注样本A进行特征化；
S22、利用特征化后的标注样本A迭代训练机器学习模型，将每轮训练后打标与启发式判别算法打标不一致的样本进行超采样生成下轮训练样本，直到训练的准确度出现下降趋势后，停止训练，获取训练好的机器学习模型；
S23、将训练得到的假阴性样本和假阳性样本经过均匀分布采样后作为主动学习样本交由人工打标，获取标注样本B；
假阴性样本即为，训练好的机器学习模型打标为负样本且人工标记为正样本的样本；
假阳性样本即为，训练好的机器学习模型打标为正样本且人工标记为负样本的样本。
7.根据权利要求6所述的无标注语料下的句型自动判别方法，其特征在于：步骤S3具体包括如下内容，
S31、利用偏向性训练算法迭代训练标注语料A，将每轮迭代中没有被正确判别的样本进行超采样生成下轮训练样本，直到训练的准确度出现下降趋势后，停止训练标注语料A；输出初始判别模型；
S32、利用初始判别模型迭代训练标注语料B，将每轮迭代中没有被正确判别的样本进行超采样生成下轮训练样本，直到训练的准确度出现震荡后，停止训练标注样本B；输出最终的判别模型。
8.根据权利要求7所述的无标注语料下的句型自动判别方法，其特征在于：所述偏向性训练算法为LinearSVC或sigmoid函数作为激活函数的DNN。
9.根据权利要求7所述的无标注语料下的句型自动判别方法，其特征在于：最终的判别模型投入使用后，对无标注语料进行自动打标，人工对其打标结果进行预设比例的抽样检验，将检验中打标与启发式算法打标不一致的样本收集后加入标注语料B，并再次利用初始判别模型迭代训练标注语料B，获取新的最终的判别模型。
CN202210126096.0A 2022-02-10 2022-02-10 无标注语料下的句型自动判别方法 Active CN114462387B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210126096.0A CN114462387B (zh) 2022-02-10 2022-02-10 无标注语料下的句型自动判别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210126096.0A CN114462387B (zh) 2022-02-10 2022-02-10 无标注语料下的句型自动判别方法

Publications (2)

Publication Number Publication Date
CN114462387A true CN114462387A (zh) 2022-05-10
CN114462387B CN114462387B (zh) 2022-09-02

Family

ID=81413627

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210126096.0A Active CN114462387B (zh) 2022-02-10 2022-02-10 无标注语料下的句型自动判别方法

Country Status (1)

Country Link
CN (1) CN114462387B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117973362A (zh) * 2024-01-18 2024-05-03 北京师范大学 内嵌语言学特征的人工智能句法关系判定方法和装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104794169A (zh) * 2015-03-30 2015-07-22 明博教育科技有限公司 一种基于序列标注模型的学科术语抽取方法及系统
CN106844333A (zh) * 2016-12-20 2017-06-13 竹间智能科技（上海）有限公司 一种基于语义及语法结构的语句分析方法及系统
CN107145514A (zh) * 2017-04-01 2017-09-08 华南理工大学 基于决策树和svm混合模型的中文句型分类方法
CN107784048A (zh) * 2016-11-14 2018-03-09 平安科技（深圳）有限公司 问答语料库的问题分类方法及装置
US20180260860A1 (en) * 2015-09-23 2018-09-13 Giridhari Devanathan A computer-implemented method and system for analyzing and evaluating user reviews
CN108804677A (zh) * 2018-06-12 2018-11-13 合肥工业大学 结合多层级注意力机制的深度学习问题分类方法及系统
CN111428469A (zh) * 2020-02-27 2020-07-17 宋继华 面向句式结构图解分析的交互式标注方法和系统
CN112214604A (zh) * 2020-11-04 2021-01-12 腾讯科技（深圳）有限公司 文本分类模型的训练方法、文本分类方法、装置及设备
US11170154B1 (en) * 2021-04-09 2021-11-09 Cascade Reading, Inc. Linguistically-driven automated text formatting

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104794169A (zh) * 2015-03-30 2015-07-22 明博教育科技有限公司 一种基于序列标注模型的学科术语抽取方法及系统
US20180260860A1 (en) * 2015-09-23 2018-09-13 Giridhari Devanathan A computer-implemented method and system for analyzing and evaluating user reviews
CN107784048A (zh) * 2016-11-14 2018-03-09 平安科技（深圳）有限公司 问答语料库的问题分类方法及装置
CN106844333A (zh) * 2016-12-20 2017-06-13 竹间智能科技（上海）有限公司 一种基于语义及语法结构的语句分析方法及系统
CN107145514A (zh) * 2017-04-01 2017-09-08 华南理工大学 基于决策树和svm混合模型的中文句型分类方法
CN108804677A (zh) * 2018-06-12 2018-11-13 合肥工业大学 结合多层级注意力机制的深度学习问题分类方法及系统
CN111428469A (zh) * 2020-02-27 2020-07-17 宋继华 面向句式结构图解分析的交互式标注方法和系统
CN112214604A (zh) * 2020-11-04 2021-01-12 腾讯科技（深圳）有限公司 文本分类模型的训练方法、文本分类方法、装置及设备
US11170154B1 (en) * 2021-04-09 2021-11-09 Cascade Reading, Inc. Linguistically-driven automated text formatting

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HUSHENG GUO 等: "An active learning-based SVM multi-class classification model", 《PATTERN RECOGNITION》 *
刘世岳: "基于Co-training方法的中文组块识别的研究", 《中国优秀博硕士学位论文全文数据库 (硕士) 信息科技辑》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117973362A (zh) * 2024-01-18 2024-05-03 北京师范大学 内嵌语言学特征的人工智能句法关系判定方法和装置

Also Published As

Publication number Publication date
CN114462387B (zh) 2022-09-02

Similar Documents

Publication Publication Date Title
Weller et al. Learning from task descriptions
US11790256B2 (en) Analyzing test result failures using artificial intelligence models
Li et al. Long-term knowledge evolution modeling for empirical engineering knowledge
CN108021703B (zh) 一种谈话式智能教学系统
Liu et al. DialTest: automated testing for recurrent-neural-network-driven dialogue systems
CN113254675B (zh) 基于自适应少样本关系抽取的知识图谱构建方法
CN113191148A (zh) 一种基于半监督学习和聚类的轨道交通实体识别方法
CN110807086A (zh) 文本数据标注方法及装置、存储介质、电子设备
CN114462387B (zh) 无标注语料下的句型自动判别方法
Maddumage et al. Intelligent recruitment system
Zhen et al. Constructing knowledge graphs for online collaborative programming
Labbé et al. ChatGPT for phenotypes extraction: one model to rule them all?
Santos et al. Tell me who are you talking to and i will tell you what issues need your skills
Iqbal et al. Uncovering Associations Between Cognitive Presence and Speech Acts: A Network-Based Approach
Zhao et al. Natural language query for technical knowledge graph navigation
Das et al. Mining multiple informational text structure from text data
Veitía et al. User Stories identification in software's issues records using natural language processing
CN114116967A (zh) 数据的清洗方法、装置、电子设备及计算机可读介质
Lima et al. Looking for related posts on GitHub discussions
Mareeswari et al. Deep neural networks based detection and analysis of fake tweets
CN113127769B (zh) 基于标签树和人工智能的习题标签预测系统
Lee et al. Conceptual approach to the development of technology evolution network based on structural and semantic analysis
Jiang et al. Software's Quality-in-use Mining for User's Comments
CN114036293B (zh) 数据处理方法、装置及电子设备
Dhina et al. An innovative approach to classify hierarchical remarks with multi-class using BERT and customized naïve bayes classifier

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant