CN109471919B - 零代词消解方法及装置 - Google Patents
零代词消解方法及装置 Download PDFInfo
- Publication number
- CN109471919B CN109471919B CN201811361401.4A CN201811361401A CN109471919B CN 109471919 B CN109471919 B CN 109471919B CN 201811361401 A CN201811361401 A CN 201811361401A CN 109471919 B CN109471919 B CN 109471919B
- Authority
- CN
- China
- Prior art keywords
- antecedent
- sentence
- sentences
- candidate
- word
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Machine Translation (AREA)
Abstract
本发明公开了一种零代词消解方法及装置,该方法包括:获取当前语句及其上文语句;预测当前语句中代词的插入位置,得到预测位置;根据上文语句确定先行词;将所述先行词插入到所述预测位置,得到候选语句;利用热搜检查所述候选语句,得到消解后语句。利用本发明方案,可以提高处理速度及对不同应用环境的适应能力。
Description
技术领域
本发明涉及自然语言处理技术领域,具体涉及一种零代词消解方法及装置。
背景技术
人机交互技术是指通过计算机输入、输出设备,以有效的方式实现人与计算机对话的技术。基于自然语言理解的人机交互是最方便的一种人机交互方式,在这种交互方式中,人们可以使用自然语言与机器对话。但对于多轮交互的场景,由于具有上下文堆栈特性,交互语句经常会出现不完整的现象,比如零指代现象,这种现象尤其是在中文中经常出现。比如,“双十一购物狂欢节是谁先办的”,“*pro*活动持续多久”,其中*pro*即为当前语句中的零代词,在当前语句中被省略,*pro*指代前文中的语言单位“双十一购物狂欢节”,该语言单位通常称为先行词。
针对这种语言表达现象,为了使机器能够在交互语句不完整的情况下正确理解交互对象的意图,需要对输入语句进行零代词消解处理。零代词消解就是恢复零代词指代前文先行词的过程,也可以称之为省略恢复。零代词消解过程通常分为识别和消解两个任务,识别任务的目的是识别出省略句中零代词存在的位置,消解任务的目的是为识别的零代词选择先行词。
现有技术中的一种零代词消解方案使用句法树和二元文法来表征零代词和候选先行词对,使用SVM(支持向量机)来判断其置信度。该方法在数据规模较小的情况下可以取得较好的效果,但当数据规模出现极大扩展时,句法树的效果就难以保证,解构速度也较慢,SVM的泛化效果较差,无法满足开放域数据和现实应用场景的需要。
发明内容
本发明实施例提供一种零代词消解方法及装置,以解决现有技术中零代词消解处理速度慢、泛化能力差的问题。
为此,本发明提供如下技术方案:
一种零代词消解方法,所述方法包括:
获取当前语句及其上文语句;
利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置;
根据上文语句及预先构建的先行词位置模型预测得到先行词在上文语句中的位置(start,end),其中,start表示先行词的起始位置,end表示先行词的结束位置,将上文语句中对应先行词预测位置的字串作为先行词;
将所述先行词插入到所述预测位置,得到候选语句。
可选地,所述利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置包括:
对所述当前语句进行分词处理,得到各词单元及其词向量;
将所述词向量输入预先构建的零代词位置预测模型,根据所述零代词位置预测模型的输出,得到预测位置。
可选地,所述根据上文语句及预先构建的先行词位置模型预测得到先行词在上文语句中的位置包括:
对所述上文语句进行分词处理,得到各词单元及其词向量;
将所述词向量输入预先构建的先行词位置模型,根据所述先行词位置模型的输出,得到先行词预测位置。
可选地,所述方法还包括:
利用热搜检查所述候选语句,得到消解后语句;和/或
利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句。
可选地,所述利用热搜检查所述候选语句,得到消解后语句包括:
检查热搜库中是否有与所述候选语句相匹配的热搜词条;
如果有,则根据所述候选语句的长度及与所述候选语句相匹配的热搜词条的长度,计算得到所述候选语句的覆盖率,并将覆盖率大于设定的覆盖率阈值的候选语句作为消解后语句。
可选地,所述利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句包括:
利用预先构建的语言模型确定所述候选语句的流畅度得分;
将流畅度得分大于设定的流畅度阈值的候选语句作为消解后语句。
一种零代词消解装置,所述装置包括:
语句获取模块,用于获取当前语句及其上文语句;
位置预测模块,用于利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置;
先行词确定模块,用于根据上文语句及预先构建的先行词位置模型预测得到先行词在上文语句中的位置(start,end),其中,start表示先行词的起始位置,end表示先行词的结束位置,将上文语句中对应先行词预测位置的字串作为先行词;
插入模块,用于将所述先行词插入到所述预测位置,得到候选语句。
可选地,所述位置预测模块包括:
预处理单元,用于对所述当前语句进行分词处理,得到各词单元及其词向量;
预测单元,用于将所述词向量输入预先构建的零代词位置预测模型,根据所述零代词位置预测模型的输出,得到预测位置。
可选地,所述先行词确定模块,具体用于提取上文语句中的名词和命名实体词,将提取的名词和命名实体词作为先行词。
可选地,所述先行词确定模块包括:
分词处理单元,用于对所述上文语句进行分词处理,得到各词单元及其词向量;
位置确定单元,用于将所述词向量输入预先构建的先行词位置模型,根据所述先行词位置模型的输出,得到先行词预测位置;
提取单元,用于获取所述上文语句中对应所述先行词预测位置的字串,并将所述字串作为先行词。
可选地,所述装置还包括:热搜检查模块、和/或流畅度检查模块;
所述热搜检查模块,用于利用热搜检查所述候选语句,得到消解后语句;
所述流畅度检查模块,用于利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句。
可选地,所述热搜检查模块包括:
匹配单元,用于检查热搜库中是否有与所述候选语句相匹配的热搜词条;
覆盖率计算单元,用于根据所述候选语句的长度及与所述候选语句相匹配的热搜词条的长度,计算得到所述候选语句的覆盖率,并将覆盖率大于设定的覆盖率阈值的候选语句作为消解后语句。
可选地,所述流畅度检查模块,具体用于利用预先构建的语言模型确定所述候选语句的流畅度得分;将流畅度得分大于设定的流畅度阈值的候选语句作为消解后语句。
一种电子设备,包括:一个或多个处理器、存储器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,以实现前面所述的方法。
一种可读存储介质,其上存储有指令,所述指令被执行以实现前面所述的方法。
本发明实施例提供的零代词消解方法及装置,首先利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置,然后根据上文语句确定先行词,将所述先行词插入到所述预测位置,得到候选语句。相对于现有技术,本发明方案可以大大提高处理速度,尤其是在人机对话领域,可以更好地满足实时会话的需求。
进一步地,利用先行词位置模型确定上文语句中的先行词位置,有效地避免了由于分词粒度问题导致的无法正确识别由多个分词单元组成的先行词的现象,使得本发明方案有更好的泛化能力。
进一步地,可以利用热搜和/或语言模型对得到的消解后语句进行检查过滤,使输出的消解后语句更符合人类的自然语言表达。
本发明实施例提供的零代词消解方法及装置,可以应用于多种领域,比如,信息抽取、机器翻译、文本摘要、人机交互系统等。尤其是在人机交互系统中,可以使机器通过不断学习,更好地适应人类口语的表达习惯,拟合人类的行为,提高用户使用体验。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据这些附图获得其他的附图。
图1是本发明实施例零代词消解方法的一种流程图;
图2是本发明实施例零代词消解方法的另一种流程图;
图3是本发明实施例零代词消解装置的一种结构示意图;
图4是本发明实施例零代词消解装置的另一种结构示意图;
图5是本发明实施例零代词消解装置的另一种结构示意图;
图6是根据一示例性实施例示出的一种用于零代词消解方法的装置的框图;
图7是本发明实施例中服务器的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明实施例的方案,下面结合附图和实施方式对本发明实施例作进一步的详细说明。
针对上述现有技术存在的问题,本发明实施例提供一种零代词消解方法及装置,利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置;然后根据上文语句确定先行词,将所述先行词插入到所述预测位置,得到候选语句;利用热搜检查所述候选语句,得到消解后语句。
如图1所示,是本发明实施例零代词消解方法的一种流程图,包括以下步骤:
步骤101,获取当前语句及其上文语句。
所述上文语句可以是当前语句的前一句的全部或部分语句,在人机对话环境中,所述上文语句可以是同一说话人或不同说话人的上一轮对话中的全部或部分语句。针对不同的应用需要,可以设定截取不同的上文语句长度。
步骤102,利用预先构建的零代词位置模型预测当前语句中代词的插入位置,得到预测位置。
对于由词W1,W2,…,Wn组成的句子S,任意两个相邻词语之间都有可能具有零代词,包括第一个词语W1前和最后一个词语Wn后,这些可能具有零代词的位置依次记为p0,p1,…pn,p0表示在词W1之前的位置可能为零代词的概率,pi表示在Wi和Wi+1之间的位置可能为零代词的概率,pn表示在词Wn之后的位置可能为零代词的概率,pi∈(0,1)。
基于上述特点,可以将零代词位置预测转换为序列标注问题,每一个词预测出的标注信息为其之前为零代词的概率。
为此,在本发明实施例中,预先构建零代词位置预测模型,所述零代词位置预测模型具体可以采用以下任意一种模型:RNN(循环神经网络),LSTM(长短期记忆网络),GRU(门控循环单元)。模型的输入为当前语句的词向量,输出为零代词可能的位置或者为零代词可能的位置的概率。
所述零代词位置预测模型的构建可以采用常规的训练方式,具体过程如下:
(1)确定零代词位置预测模型拓扑结构;
(2)采集零代词消解数据样本,并对所述训练样本进行分词处理及零代词位置标注;
例如,针对“怎么吃最好吃”,分词后确定可能的零代词位置可以包括“__怎么__吃__最__好吃__”,根据历史对话记录,进行零代词的位置标注,表述为“*pro*怎么吃最好吃”;
(3)利用对数据样本分词后得到的各词单元的词向量及标注信息,训练得到模型参数。
基于上述预先构建的零代词位置预测模型,当前语句为“怎么吃最好吃”,对当前语句分词处理后得到4个词单元:“__怎么__吃__最__好吃__”,可能的零代词位置有5个,分别记为:p0,p1,p2,p3,p4。提取当前语句各词单元的词向量,将所述词向量输入所述零代词位置预测模型,根据所述零代词位置预测模型的输出,得到p0为0.9,其它位置p1=0.02,p2=0.01,p3=0.02,p4=0.05,选取概率最大的位置作为预测位置,可以确定预测位置为p0,即“*pro*怎么吃最好吃”。
步骤103,根据上文语句确定先行词。
在实际应用中,可以根据上文语句中各词的类别确定可能作为先行词的词单元。具体地,首先对所述上文语句进行分词处理,得到各词单元及其类别;然后从这些词单元中获取名词和命名实体词,所述命名实体词是指人名、机构名、地名以及其他所有以名称为标识的实体词。
所述词单元类别的确定可以在分词时根据词库中的标注来确定。
例如,上文语句为“芒果相克的食物有哪些”,利用上述方式可以得到命名实体词:“芒果”、“食物”。
由于分词粒度的不同,有时可能会将原本的一个先行词通过分词处理拆分成了多个词单元,例如:“中华人民共和国”,经过分词处理后为:“中华|人民|共和国”,被拆分成三个分词单元。
针对上述情况,在实际应用中,还可以将上文语句的相邻的同类名词或命名实体词进行组合,将组合后的词作为先行词。比如,可以将词间紧密度大于一定值(比如0.95)的相邻同类名词或相邻同类命名实体词进行组合,将组合后的词作为先行词。所述词间紧密度的计算可以采用现有的一些常规技术,对此本发明实施例不做限定。
另外,还可以通过对先行词位置预测的方式确定上文语句中的先行词。具体地,首先对上文语句进行分词处理,得到各词单元,通过词映射得到各词单元的词向量;将所述词向量输入预先构建的先行词位置模型,根据所述先行词位置模型的输出,得到先行词预测位置,所述先行词预测位置可以采用区间形式表示,该区间标识了先行词的起始位置和终止位置。将所述上文语句中对应所述先行词预测位置的字串作为先行词。
先行词位置模型具体可以采用以下任意一种模型:RNN,LSTM,GRU,其构建过程可以采用常规的利用训练样本训练得到。
所述先行词位置模型的输入为上文语句的词向量,输出为先行词在上文语句中的位置(start,end),其中,start表示先行词的起始位置,end表示先行词的结束位置。
例如,上文语句为:双十一购物狂欢节是谁先办的(__双十一__购物__狂欢节__是__谁__先__办__的__),利用先行词位置模型确定先行词在上文语句中的位置(start,end)为[0,3),从而得到先行词为字串“双十一购物狂欢节”。可见,利用所述先行词位置模型确定先行词的位置,可以用效地避免由于分词粒度对先行词确定带来的影响。
步骤104,将所述先行词插入到所述预测位置,得到候选语句。
对于上述将上文语句中的名词和命名实体词作为先行词的情况,可以将所述名词和命名实体词逐一插入到当前语句中预测的代词所在位置,得到候选语句。
对于利用先行词位置模型预测得到的先行词,将其插入到当前语句中预测的代词所在位置,得到候选语句。
在实际应用中,在有多个候选语句的情况下,可以将这些候选语句输出给后续处理系统,比如,在人机交互过程中,可以将这些候选语句在屏幕上显示出来,由交互方来选择正确的语句,再由机器针对该语句进行响应。
本发明实施例提供的零代词消解方法,利用预先构建的零代词位置模型预测当前语句中代词的插入位置,得到预测位置,然后根据上文语句确定先行词,将所述先行词插入到所述预测位置,得到候选语句,通过热搜检查所述候选语句,得到消解后语句,可以大大提高处理速度,满足实时会话的需求。
如图2所示,是本发明实施例零代词消解方法的另一种流程图,包括以下步骤:
步骤201,获取当前语句及其上文语句。
步骤202,利用预先构建的零代词位置模型预测当前语句中代词的插入位置,得到预测位置。
步骤203,根据上文语句确定先行词。
步骤204,将所述先行词插入到所述预测位置,得到候选语句。
步骤205,利用热搜检查所述候选语句,得到消解后语句,或者利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句。
其中,利用热搜检查所述候选语句,得到消解后语句具体可以是:将各候选语句与热搜库中的热搜词条进行匹配,如果有相匹配的热搜词条,则根据所述候选语句的长度及相匹配的热搜词条的长度,计算得到所述候选语句的覆盖率;输出覆盖率大于设定的覆盖率阈值(比如50%)的候选语句作为消解后语句。如果有多个候选语句的覆盖率大于设定的覆盖率阈值,也可以选择其中覆盖率最大的一个候选语句输出。
例如,候选语句为:西宁市的面积;热搜命中的词条为:西宁市的面积是多少。则该候选语句的覆盖率=候选语句长度/热搜命中的词条长度=6/9=0.667。
利用热搜检查过滤,可以保证消解后的语句是用户搜索过的相似的语句。
利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句具体可以是:利用预先构建的语言模型确定所述候选语句的流畅度得分;输出流畅度得分大于设定的流畅度阈值(比如0.6)的候选语句作为消解后语句输出。如果有多个候选语句流畅度得分大于设定的流畅度阈值,也可以选择其中流畅度得分最大的一个候选语句输出。如果所有候选语句的流畅度得分均小于所述流畅度阈值,则可以返回原始语句,即接收到的当前语句。
所述语言模型可以采用现有技术中一些常规的语言模型,对此不做限定。
需要说明的是,在实际应用中,还可以对得到的候选语句依次进行热搜检查及流畅度过滤,其先后顺序不做限定。比如,可以先对所述候选语句进行热搜检查,对覆盖率大于覆盖率阈值的候选语句,再利用语言模型对其进行流畅度检查,输出流畅度大于流畅度阈值的候选语句;或者也可以先对所述候选语句进行流畅度检查,对流畅度大于流畅度阈值的候选语句,再利用热搜词库对其进行覆盖率检查,输出覆盖率大于覆盖率阈值的候选语句。
本发明实施例提供的零代词消解方法,利用热搜和/或语言模型对得到的候选语句进行检查过滤,可以使输出的消解后语句更符合人类的自然语言表达。
本发明实施例提供的零代词消解方法,可以应用于多种领域,比如,信息抽取、机器翻译、文本摘要、人机交互系统等。尤其是在人机交互系统中,可以使机器通过不断学习,更好地适应人类口语的表达习惯,拟合人类的行为,提高用户使用体验。
相应地,本发明实施还提供一种零代词消解装置,如图3所示,是本发明实施例零代词消解装置的一种结构示意图。
在该实施例中,所述装置包括:
语句获取模块301,用于获取当前语句及其上文语句;
位置预测模块302,用于利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置;
先行词确定模块303,用于根据上文语句确定先行词;
插入模块304,用于将所述先行词插入到所述预测位置,得到候选语句。
所述零代词位置预测模型可以由相应的模型构建模块(未图示)利用训练数据训练得到,所述模型构建模块可以作为本发明装置的一部分,也可以独立于本发明装置,对此不做限定。
所述零代词位置预测模型具体可以采用以下任意一种模型:RNN,LSTM,GRU等。模型的输入为当前语句的词向量,输出为零代词可能的位置或者为零代词可能的位置的概率。
需要说明的是,在实际应用中,接收的当前语句有可能是需要进行零代词消解处理的,也可能是不需要进行零代词消解处理的。本发明实施例的方案不需要对这两种情况进行区分,在接收到当前语句后,由位置预测模块302将该当前语句输入零代词位置预测模型,预测当前语句中代词的插入位置。当然,如果当前语句中没有零代词,则输出的位置序列标注均为0,即表示当前语句中没有零代词,不需要插入先行词。
所述位置预测模块302具体可以包括以下各单元:
预处理单元,用于对所述当前语句进行分词处理,得到各词单元及其词向量;
预测单元,用于将所述词向量输入预先构建的零代词位置预测模型,根据所述零代词位置预测模型的输出,得到预测位置。
上述先行词确定模块303具体采用多种方式确定先行词,比如:
一种确定先行词的方式可以是提取上文语句中的名词和命名实体词,将提取的名词和命名实体词作为先行词。相应地,该先行词确定模块303确定先行词的一种方式可以是:首先对所述上文语句进行分词处理,得到各词单元及其类别,然后获取所述词单元中的名词和命名实体词,将提取的名词和命名实体词作为先行词。
其中,所述词单元与分词的粒度有关,所述粒度可以根据实际应用需要来确定,对此本发明实施例不做限定。进一步地,为了避免分词粒度对先行词的确定带来的影响,还可以将上文语句的相邻的同类名词或命名实体词进行组合,将组合后的词作为先行词。
先行词确定模块303确定先行词的另一种方式可以是:利用预先构建的先行词位置模型来确定上文语句中先行词的位置,然后再根据该位置找到相应的先行词。
所述先行词位置模型具体可以采用以下任意一种模型:RNN,LSTM,GRU,其构建过程可以采用常规的利用训练样本训练得到。
所述先行词位置模型的输入为上文语句的词向量,输出为先行词在上文语句中的位置(start,end),其中,start表示先行词的起始位置,end表示先行词的结束位置。
相应地,所述先行词确定模块303的另一种具体结构可以包括以下各单元:
分词处理单元,用于对所述上文语句进行分词处理,得到各词单元及其词向量;
位置确定单元,用于将所述词向量输入预先构建的先行词位置模型,根据所述先行词位置模型的输出,得到先行词预测位置;
提取单元,用于获取所述上文语句中对应所述先行词预测位置的词单元,并将所述词单元作为先行词。
利用所述先行词位置模型确定先行词的位置,可以用效地避免由于分词粒度对先行词确定带来的影响。
本发明实施例提供的零代词消解装置,利用预先构建的零代词位置模型预测当前语句中代词的插入位置,得到预测位置,然后根据上文语句确定先行词,将所述先行词插入到所述预测位置,得到候选语句,通过热搜检查所述候选语句,得到消解后语句,可以大大提高处理速度,满足实时会话的需求。
如图4所示,是本发明实施例零代词消解装置的另一种结构示意图。
与图3所示实施例不同的是,在该实施例中,所述装置还包括:
热搜检查模块401,用于利用热搜检查所述候选语句,得到消解后语句。所述热搜检查模块401具体可以包括以下各单元:
匹配单元,用于检查热搜库中是否有与所述候选语句相匹配的热搜词条;
覆盖率计算单元,用于根据所述候选语句的长度及与所述候选语句相匹配的热搜词条的长度,计算得到所述候选语句的覆盖率,并将覆盖率大于设定的覆盖率阈值的候选语句作为消解后语句。
如图5所示,是本发明实施例零代词消解装置的另一种结构示意图。
与图3所示实施例不同的是,在该实施例中,所述装置还包括:
所述流畅度检查模块501,用于利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句。比如,利用预先构建的语言模型确定所述候选语句的流畅度得分;将流畅度得分大于设定的流畅度阈值的候选语句作为消解后语句。
需要说明的是,上述流畅度检查模块501同样可以应用于图4所示实施例中,也就是说,对插入模块304输出的候选语句不仅由热搜检查模块401对其进行热搜检查,还需要由流畅度检查模块501对其进行流畅度检查,而且对这两者的处理顺序不做限定。
当然,在实际应用中,对插入模块304输出的候选语句还可以有其它过滤方式,同样可以适用本发明方案。
本发明实施例提供的零代词消解装置,利用热搜和/或语言模型对得到的消解后语句进行检查过滤,可以使输出的消解后语句更符合人类的自然语言表达。
本发明实施例提供的零代词消解装置,可以应用于多种领域,比如,信息抽取、机器翻译、文本摘要、人机交互系统等。尤其是在人机交互系统中,可以使机器通过不断学习,更好地适应人类口语的表达习惯,拟合人类的行为,提高用户使用体验。
图6是根据一示例性实施例示出的一种用于零代词消解方法的装置800的框图。例如,装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图6,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理部件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类别的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类别的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电力组件806为装置800的各种组件提供电力。电力组件806可以包括电源管理系统,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到设备800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信部件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信部件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器804,上述指令可由装置800的处理器820执行以完成上述按键误触纠错方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本发明还提供一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行上述本发明方法实施例中的全部或部分步骤。
图7是本发明实施例中服务器的结构示意图。该服务器1900可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(Central Processing Units,CPU)1922(例如,一个或一个以上处理器)和存储器1932,一个或一个以上存储应用程序1942或数据1944的存储介质1930(例如一个或一个以上海量存储设备)。其中,存储器1932和存储介质1930可以是短暂存储或持久存储。存储在存储介质1930的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器1922可以设置为与存储介质1930通信,在服务器1900上执行存储介质1930中的一系列指令操作。
服务器1900还可以包括一个或一个以上电源1926,一个或一个以上有线或无线网络接口1950,一个或一个以上输入输出接口1958,一个或一个以上键盘1956,和/或,一个或一个以上操作系统1941,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本发明旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (12)
1.一种零代词消解方法,其特征在于,所述方法包括:
获取当前语句及其上文语句;
利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置;
根据上文语句及预先构建的先行词位置模型预测得到先行词在上文语句中的位置(start,end),其中,start表示先行词的起始位置,end表示先行词的结束位置,将上文语句中对应先行词预测位置的字串作为先行词;
将所述先行词插入到所述预测位置,得到候选语句;
其中,所述根据上文语句及预先构建的先行词位置模型预测得到先行词在上文语句中的位置包括:
对所述上文语句进行分词处理,得到各词单元及其词向量;
将所述词向量输入预先构建的先行词位置模型,根据所述先行词位置模型的输出,得到先行词预测位置。
2.根据权利要求1所述的方法,其特征在于,所述利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置包括:
对所述当前语句进行分词处理,得到各词单元及其词向量;
将所述词向量输入预先构建的零代词位置预测模型,根据所述零代词位置预测模型的输出,得到预测位置。
3.根据权利要求1至2任一项所述的方法,其特征在于,所述方法还包括:
利用热搜检查所述候选语句,得到消解后语句;和/或
利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句。
4.根据权利要求3所述的方法,其特征在于,所述利用热搜检查所述候选语句,得到消解后语句包括:
检查热搜库中是否有与所述候选语句相匹配的热搜词条;
如果有,则根据所述候选语句的长度及与所述候选语句相匹配的热搜词条的长度,计算得到所述候选语句的覆盖率,并将覆盖率大于设定的覆盖率阈值的候选语句作为消解后语句。
5.根据权利要求3所述的方法,其特征在于,所述利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句包括:
利用预先构建的语言模型确定所述候选语句的流畅度得分;
将流畅度得分大于设定的流畅度阈值的候选语句作为消解后语句。
6.一种零代词消解装置,其特征在于,所述装置包括:
语句获取模块,用于获取当前语句及其上文语句;
位置预测模块,用于利用预先构建的零代词位置预测模型预测当前语句中代词的插入位置,得到预测位置;
先行词确定模块,用于根据上文语句及预先构建的先行词位置模型预测得到先行词在上文语句中的位置(start,end),其中,start表示先行词的起始位置,end表示先行词的结束位置,将上文语句中对应先行词预测位置的字串作为先行词;
插入模块,用于将所述先行词插入到所述预测位置,得到候选语句;
其中,所述先行词确定模块包括:
分词处理单元,用于对所述上文语句进行分词处理,得到各词单元及其词向量;
位置确定单元,用于将所述词向量输入预先构建的先行词位置模型,根据所述先行词位置模型的输出,得到先行词预测位置;
提取单元,用于获取所述上文语句中对应所述先行词预测位置的字串,并将所述字串作为先行词。
7.根据权利要求6所述的装置,其特征在于,所述位置预测模块包括:
预处理单元,用于对所述当前语句进行分词处理,得到各词单元及其词向量;
预测单元,用于将所述词向量输入预先构建的零代词位置预测模型,根据所述零代词位置预测模型的输出,得到预测位置。
8.根据权利要求6至7任一项所述的装置,其特征在于,所述装置还包括:热搜检查模块、和/或流畅度检查模块;
所述热搜检查模块,用于利用热搜检查所述候选语句,得到消解后语句;
所述流畅度检查模块,用于利用预先构建的语言模型对所述候选语句进行过滤,得到消解后语句。
9.根据权利要求8所述的装置,其特征在于,所述热搜检查模块包括:
匹配单元,用于检查热搜库中是否有与所述候选语句相匹配的热搜词条;
覆盖率计算单元,用于根据所述候选语句的长度及与所述候选语句相匹配的热搜词条的长度,计算得到所述候选语句的覆盖率,并将覆盖率大于设定的覆盖率阈值的候选语句作为消解后语句。
10.根据权利要求8所述的装置,其特征在于,
所述流畅度检查模块,具体用于利用预先构建的语言模型确定所述候选语句的流畅度得分;将流畅度得分大于设定的流畅度阈值的候选语句作为消解后语句。
11.一种电子设备,其特征在于,包括:一个或多个处理器、存储器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,以实现如权利要求1至5任一项所述的方法。
12.一种可读存储介质,其上存储有指令,所述指令被执行以实现如权利要求1至5任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811361401.4A CN109471919B (zh) | 2018-11-15 | 2018-11-15 | 零代词消解方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811361401.4A CN109471919B (zh) | 2018-11-15 | 2018-11-15 | 零代词消解方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109471919A CN109471919A (zh) | 2019-03-15 |
CN109471919B true CN109471919B (zh) | 2021-08-10 |
Family
ID=65673739
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811361401.4A Active CN109471919B (zh) | 2018-11-15 | 2018-11-15 | 零代词消解方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109471919B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110162785B (zh) * | 2019-04-19 | 2024-07-16 | 腾讯科技(深圳)有限公司 | 数据处理方法和代词消解神经网络训练方法 |
CN110413996B (zh) * | 2019-07-15 | 2023-01-31 | 创新先进技术有限公司 | 构造零指代消解语料的方法及装置 |
CN112256953B (zh) * | 2019-07-22 | 2023-11-14 | 腾讯科技(深圳)有限公司 | 查询改写方法、装置、计算机设备和存储介质 |
CN112800189A (zh) * | 2019-11-14 | 2021-05-14 | 科沃斯商用机器人有限公司 | 人机交互方法、装置、智能机器人和存储介质 |
CN112256868A (zh) * | 2020-09-30 | 2021-01-22 | 华为技术有限公司 | 零指代消解方法、训练零指代消解模型的方法及电子设备 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006127089A (ja) * | 2004-10-28 | 2006-05-18 | Fuji Xerox Co Ltd | 照応解析システム |
CN105988990B (zh) * | 2015-02-26 | 2021-06-01 | 索尼公司 | 汉语零指代消解装置和方法、模型训练方法和存储介质 |
CN107402913B (zh) * | 2016-05-20 | 2020-10-09 | 腾讯科技(深圳)有限公司 | 先行词的确定方法和装置 |
CN106294322A (zh) * | 2016-08-04 | 2017-01-04 | 哈尔滨工业大学 | 一种基于lstm的汉语零指代消解方法 |
-
2018
- 2018-11-15 CN CN201811361401.4A patent/CN109471919B/zh active Active
Non-Patent Citations (1)
Title |
---|
基于Deep Learning的代词指代消解;奚雪峰 等;《北京大学学报(自然科学版)》;20140131;第50卷(第1期);第100-110页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109471919A (zh) | 2019-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109471919B (zh) | 零代词消解方法及装置 | |
CN109522419B (zh) | 会话信息补全方法及装置 | |
CN111145756B (zh) | 一种语音识别方法、装置和用于语音识别的装置 | |
CN107291704B (zh) | 处理方法和装置、用于处理的装置 | |
CN107564526B (zh) | 处理方法、装置和机器可读介质 | |
CN107784034B (zh) | 页面类别识别方法及装置、用于页面类别识别的装置 | |
CN107274903B (zh) | 文本处理方法和装置、用于文本处理的装置 | |
CN108538284A (zh) | 同声翻译结果的展现方法及装置、同声翻译方法及装置 | |
CN109815396B (zh) | 搜索词权重确定方法及装置 | |
EP3734472A1 (en) | Method and device for text processing | |
CN108345625B (zh) | 一种信息挖掘方法和装置、一种用于信息挖掘的装置 | |
CN116166843B (zh) | 基于细粒度感知的文本视频跨模态检索方法和装置 | |
CN111160047A (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
CN110968246A (zh) | 中文智能手写输入识别方法及装置 | |
CN113343675A (zh) | 一种字幕生成方法、装置和用于生成字幕的装置 | |
CN107424612B (zh) | 处理方法、装置和机器可读介质 | |
CN109977424B (zh) | 一种机器翻译模型的训练方法及装置 | |
CN113936697B (zh) | 语音处理方法、装置以及用于语音处理的装置 | |
CN112381091A (zh) | 视频内容识别方法、装置、电子设备及存储介质 | |
CN112836026B (zh) | 基于对话的问诊方法及装置 | |
CN110908523B (zh) | 一种输入方法及装置 | |
CN110858100B (zh) | 联想候选词生成方法及装置 | |
CN115146633A (zh) | 一种关键词识别方法、装置、电子设备及存储介质 | |
CN110837741B (zh) | 一种机器翻译方法、装置及系统 | |
CN111198619A (zh) | 联想候选生成方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |