CN110362734A - 文本识别方法、装置、设备及计算机可读存储介质 - Google Patents

文本识别方法、装置、设备及计算机可读存储介质 Download PDF

Info

Publication number
CN110362734A
CN110362734A CN201910548488.4A CN201910548488A CN110362734A CN 110362734 A CN110362734 A CN 110362734A CN 201910548488 A CN201910548488 A CN 201910548488A CN 110362734 A CN110362734 A CN 110362734A
Authority
CN
China
Prior art keywords
visual angle
text
specified text
specified
training data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910548488.4A
Other languages
English (en)
Inventor
刘佳祥
王硕寰
孙宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201910548488.4A priority Critical patent/CN110362734A/zh
Publication of CN110362734A publication Critical patent/CN110362734A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3344Query execution using natural language analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines

Abstract

本申请提供一种文本识别方法、装置、设备及计算机可读存储介质。本申请实施例通过根据指定文本,获得所述指定文本的通用向量表达,进而,可以根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达,使得能够根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果,并对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果,无需人工参与,将人工设置成本降低为零,从而提高了文本识别的可靠性。

Description

文本识别方法、装置、设备及计算机可读存储介质
【技术领域】
本申请涉及文本识别技术,尤其涉及一种文本识别方法、装置、设备及计算机可读存储介质。
【背景技术】
当今互联网中信息丰富多彩,各种各样,有很多信息都可以对我们起到指导作用。例如,在消费领域,商品的一些评论信息等文本,可能会影响到消费者的消费决定。
现有技术中,具体可以预先通过人工采集大量的倾向性词汇,以形成倾向性内容列表。利用这个倾向性内容列表,对待识别的文本,例如,万维网(World Wide Web,Web)页面中的词、句子等,进行匹配处理。若匹配出的内容特征满足指定阈值条件,则将所匹配的内容特征识别为具有某种倾向性例如,负面倾向性等的内容,进而进行基于倾向性的分析与处理。这种文本的识别处理的可靠性不高。
【发明内容】
本申请的多个方面提供一种文本识别方法、装置、设备及计算机可读存储介质,用以提高文本识别的可靠性。
本申请的一方面,提供一种文本识别方法,包括:
根据指定文本,获得所述指定文本的通用向量表达;
根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达;
根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果;
对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
本申请的另一方面,提供一种文本识别装置,包括:
通用编码单元,用于根据指定文本,获得所述指定文本的通用向量表达;
特定编码单元,用于根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达;
分类单元,用于根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果;
融合单元,用于对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
本申请的另一方面,提供一种设备,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述一方面所提供的文本识别方法。
本申请的另一方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述一方面所提供的文本识别方法。
由上述技术方案可知,本申请实施例通过根据指定文本,获得所述指定文本的通用向量表达,进而,可以根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达,使得能够根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果,并对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果,无需人工参与,将人工设置成本降低为零,从而提高了文本识别的可靠性。
另外,采用本申请所提供的技术方案,通过多种视角对文本进行建模,能够更加充分地完成文本信息的表达,从而使得文本识别的结果更加准确。
另外,采用本申请所提供的技术方案,通过在模型训练阶段,利用辅助的语言模型,来根据训练数据集中的训练数据的特征参数的值识别特征参数的重要性,并通过随机丢弃一些重要的特征参数来复制训练数据,来获得更多的训练数据,从而避免模型学习了过多的过强特征。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
【附图说明】
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请一实施例提供的文本识别方法的流程示意图;
图2A为本申请另一实施例提供的文本识别装置的结构示意图;
图2B为本申请另一实施例提供的文本识别装置的结构示意图;
图3为适于用来实现本申请实施方式的示例性计算机系统/服务器12的框图。
【具体实施方式】
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持设备、平板电脑(Tablet Computer)、个人电脑(Personal Computer,PC)、MP3播放器、MP4播放器、可穿戴设备(例如,智能眼镜、智能手表、智能手环等)等。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
本申请中的文本识别,可以定义为从非结构化的文本中提取指定的特征信息,例如,建议表达、情感表达等。与用户自己手动从所阅读的文档中收集到这些特征信息相比,对文本的自动识别,能够有效提高文本识别的效率。
现有技术中,具体可以预先通过人工采集大量的倾向性词汇,以形成倾向性内容列表。利用这个倾向性内容列表,对待识别的文本,例如,Web页面中的词、句子等,进行匹配处理。若匹配出的内容特征满足指定阈值条件,则将所匹配的内容特征识别为具有某种倾向性例如,负面倾向性等的内容,进而进行基于倾向性的分析与处理。这种文本的识别处理的可靠性不高。
基于上述,本申请提供一种文本识别方法,以提高文本识别的可靠性。
图1为本申请一实施例提供的文本识别方法的流程示意图,如图1所示。
101、根据指定文本,获得所述指定文本的通用向量表达。
102、根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达。
103、根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果。
104、对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
需要说明的是,101~104的执行主体的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(SoftwareDevelopment Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行特别限定。
这样,通过根据指定文本,获得所述指定文本的通用向量表达,进而,可以根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达,使得能够根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果,并对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果,无需人工参与,将人工设置成本降低为零,从而提高了文本识别的可靠性。
本申请中,所涉及的指定文本中“指定”二字,并没有特殊含义,就是为了指定当前的操作对象而已,因此,指定文本就是普通文档例如,Web页面中的词、句子、段落、篇章等内容。
可选地,在本实施例的一个可能的实现方式中,在101中,具体可以根据指定文本,利用通用的语言表示模型,获得所述指定文本的通用向量表达。
缺少训练数据是自然语言处理(Natural Language Processing,NLP)面临的最大挑战之一。由于NLP是一个具备不同任务的多样化领域,因此大多数任务特定数据集仅包含几千或几十万个人类标签的训练数据。
然而,研究人员开发了各种技术,使用网络上未标注的文本(即无标注的训练数据)训练一个通用的语言表示模型,此过程可以称为预训练。用预训练的通用的语言表示模型在小数据的NLP任务(例如,指定的特征信息识别)上进行微调,与从头开始训练相比,可以显著提高准确度。
可以看出,由大量的未标注的数据预训练的通用语言模型,对于大多数NLP任务至关重要,即使是没有特定神经架构的领域适应任务。将来,为了更多的使用来自不同领域的数据集,可以采用基于预训练的通用语言模型的对抗梯度或常见领域特征学习方法,打到更好的性能。
在该实现方式中,预训练的通用的语言表示模型,可以为来自Transformer的双向编码器表示(Bidirectional Encoder Representations from Transformers,BERT)模型,或者还可以为生成式预训练(Generative Pre-Training,GPT)模型、GPT2模型或语言模型嵌入(Embeddings from Language Models,ELMo)模型等其他语言表示模型,本实施例对此不进行特别限定。
例如,以句子作为文本为例,在该实现方式中,具体可以在每个句子的前面添加特殊标记,用以帮助通用的语言表示模型对输入的句子进行编码处理。语言表达模型所输出的第一个表达则可以被认为是句子的通用向量表达。
本申请中,所谓的视角,是指文本的语义表达特征所具有的指定特性,例如,时间、空间、注意力或记忆等特性。可选地,在本实施例的一个可能的实现方式中,所述视角可以包括但不限于时间视角、空间时间、注意力视角或者记忆视角。
可选地,在本实施例的一个可能的实现方式中,在102中,具体可以根据所述指定文本的通用向量表达,利用所述每个视角所对应的语言模型,获得该视角上的特定向量表达。
在一个具体的实现过程中,由于语言本质上是时间序列信息,因此,可以利用门控循环单元(Gated Recurrent Unit,GRU)模型,对文本的时间序列状态进行建模,从而学习文本识别中语言的时间序列信息。那么,则可以根据所述指定文本的通用向量表达,利用时间视角所对应的GRU模型,获得该文本在时间视角上的特定向量表达。
在另一个具体的实现过程中,由于相邻单词通常具有空间连接关系,因此,可以利用卷积神经网络(Convolutional Neural Network,CNN)模型,对文本中相邻单词的空间连接状态进行建模,从而学习文本识别中语言的空间连接关系。那么,则可以根据所述指定文本的通用向量表达,利用空间视角所对应的CNN模型,获得该文本在空间视角上的特定向量表达。
在另一个具体的实现过程中,由于文本中通常存在重要的单词组合,因此,可以利用前馈注意力(Feed Forward Attention,FFA)模型,对文本中重要的单词进行建模,从而学习文本中重要的单词组合。那么,则可以根据所述指定文本的通用向量表达,利用注意力视角所对应的FFA模型,获得该文本在注意力视角上的特定向量表达。
在另一个具体的实现过程中,由于文本中有时候会存在共现的单词组合,因此,可以利用记忆网络(Memory Networks)模型,对文本中单词的共现单词进行建模,从而学习文本中单词的共现关系。那么,则可以根据所述指定文本的通用向量表达,利用记忆视角所对应的记忆网络模型,获得该文本在记忆视角上的特定向量表达。
可选地,在本实施例的一个可能的实现方式中,在103中,具体可以分别将所述通用向量表达,以及所述每个视角上的特定向量表达,分别通过全连接层,获得每个向量表达所对应的分类结果,以作为所述指定文本的候选分类结果。
可选地,在本实施例的一个可能的实现方式中,在模型训练阶段,具体可以采用交叉验证方法,例如,K折交叉验证(K-fold cross validation)方法等,进行模型训练。
例如,采用10折交叉验证(10-fold cross validation)方法,将训练数据集中的训练数据分成10份,轮流将其中9份做训练,1份做验证,10次的结果的均值作为对算法精度的估计,一般还需要进行多次10折交叉验证求均值,例如:10次10折交叉验证,以求更精确一点。
这样,在基于训练数据集的多次交叉验证完成之后,则可以根据每个折叠的结果,选择各个模型的最佳参数以及全连接层的最佳的分类阈值,能够保证各个模型的鲁棒性。
在错误分析过程中,发现该模型具有很强的学习任务特定术语的倾向,这意味着该模型过度拟合训练数据。为了解决这个问题,在一个具体的实现过程中,在进行模型训练之前,还可以进一步利用辅助的语言模型,来根据训练数据集中的训练数据的特征参数的值识别特征参数的重要性,例如,线性模型中的特征权重等,并基于该重要性进行训练数据集的更新。
为了防止模型对于训练数据的过度拟合,可以进一步借助一个辅助的语言模型,进行一次辅助训练。其中,所采用的辅助的语言模型可以为支持向量机(Support VectorMachine,SVM)模型、逻辑斯特回归(logits regression)模型等基于线性函数的语言模型,或者还可以为基于其他非线性函数的语言模型,本实施例对此不进行特别限定。在辅助训练完毕之后,可以从辅助的语言模型中抽取每一个特征参数的重要性系数。然后,则可以针对性的对重要性系数较大的特征参数,采取针对性的随机丢弃(dropout)策略,来避免模型学习过多的过强特征。
具体来说,具体可以辅助的语言模型,对用于所述模型训练的训练数据集中每个训练数据进行特征提取处理,以获得所述每个训练数据的特征参数的值,进而,则可以根据所述每个训练数据的特征参数的值,进行指定的特征参数的随机丢弃处理,以获得该训练数据的复制数据。然后,则可以将所述每个训练数据的复制数据,加入到所述训练数据集中。
这样,通过在模型训练阶段,利用辅助的语言模型,来根据训练数据集中的训练数据的特征参数的值识别特征参数的重要性,并通过随机丢弃一些重要的特征参数来复制训练数据,来获得更多的训练数据,从而避免模型学习了过多的过强特征。
可选地,在本实施例的一个可能的实现方式中,在104中,具体可以利用投票策略,对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
本实施例中,通过根据指定文本,获得所述指定文本的通用向量表达,进而,可以根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达,使得能够根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果,并对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果,无需人工参与,将人工设置成本降低为零,从而提高了文本识别的可靠性。
另外,采用本申请所提供的技术方案,通过多种视角对文本进行建模,能够更加充分地完成文本信息的表达,从而使得文本识别的结果更加准确。
另外,采用本申请所提供的技术方案,通过在模型训练阶段,利用辅助的语言模型,来根据训练数据集中的训练数据的特征参数的值识别特征参数的重要性,并通过随机丢弃一些重要的特征参数来复制训练数据,来获得更多的训练数据,从而避免模型学习了过多的过强特征。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图2A为本申请另一实施例提供的文本识别装置的结构示意图,如图2A所示。本实施例的文本识别装置可以包括通用编码单元21、特定编码单元22、分类单元23和融合单元24。其中,通用编码单元21,用于根据指定文本,获得所述指定文本的通用向量表达;特定编码单元22,用于根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达;分类单元23,用于根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果;融合单元24,用于对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
需要说明的是,本实施例所提供的文本识别装置的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的搜索引擎,或者还可以为位于网络侧的分布式系统,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行特别限定。
本申请中,所谓的视角,是指文本的语义表达特征所具有的指定特性,例如,时间、空间、注意力或记忆等特性。可选地,在本实施例的一个可能的实现方式中,所述视角可以包括但不限于时间视角、空间时间、注意力视角或者记忆视角。
可选地,在本实施例的一个可能的实现方式中,所述特定编码单元22,具体可以用于根据所述指定文本的通用向量表达,利用所述每个视角所对应的语言模型,获得该视角上的特定向量表达。
可选地,在本实施例的一个可能的实现方式中,如图2B所示,本实施例提供的文本识别装置还可以进一步包括模型训练单元25,用于采用交叉验证装置,进行模型训练。
具体来说,所述模型训练单元25,还可以进一步用于对用于所述模型训练的训练数据集中每个训练数据进行特征提取处理,以获得所述每个训练数据的特征参数的值;根据所述每个训练数据的特征参数的值,进行指定的特征参数的随机丢弃处理,以获得该训练数据的复制数据;以及将所述每个训练数据的复制数据,加入到所述训练数据集中。
可选地,在本实施例的一个可能的实现方式中,所述融合单元24,具体可以用于利用投票策略,对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
需要说明的是,图1对应的实施例中方法,可以由本实施例提供的文本识别装置实现。详细描述可以参见图1对应的实施例中的相关内容,此处不再赘述。
本实施例中,通过通用编码单元根据指定文本,获得所述指定文本的通用向量表达,进而,可以由特定编码单元根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达,使得分类单元能够根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果,并由融合单元对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果,无需人工参与,将人工设置成本降低为零,从而提高了文本识别的可靠性。
另外,采用本申请所提供的技术方案,通过多种视角对文本进行建模,能够更加充分地完成文本信息的表达,从而使得文本识别的结果更加准确。
另外,采用本申请所提供的技术方案,通过在模型训练阶段,利用辅助的语言模型,来根据训练数据集中的训练数据的特征参数的值识别特征参数的重要性,并通过随机丢弃一些重要的特征参数来复制训练数据,来获得更多的训练数据,从而避免模型学习了过多的过强特征。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
图3示出了适于用来实现本申请实施方式的示例性计算机系统/服务器12的框图。图3显示的计算机系统/服务器12仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图3所示,计算机系统/服务器12以通用计算设备的形式表现。计算机系统/服务器12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,存储装置或者系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机系统/服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机系统/服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图3未显示,通常称为“硬盘驱动器”)。尽管图3中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本申请各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如系统存储器28中,这样的程序模块42包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本申请所描述的实施例中的功能和/或方法。
计算机系统/服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器26等)通信,还可与一个或者多个使得用户能与该计算机系统/服务器12交互的设备通信,和/或与使得该计算机系统/服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口44进行。并且,计算机系统/服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与计算机系统/服务器12的其它模块通信。应当明白,尽管图中未示出,可以结合计算机系统/服务器12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现图1所对应的实施例所提供的文本识别方法。
本申请另一实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现图1所对应的实施例所提供的文本识别方法。
具体来说,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或页面组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一个计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本申请各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (14)

1.一种文本识别方法,其特征在于,包括:
根据指定文本,获得所述指定文本的通用向量表达;
根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达;
根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果;
对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
2.根据权利要求1所述的方法,其特征在于,所述视角包括时间视角、空间时间、注意力视角或者记忆视角。
3.根据权利要求1所述的方法,其特征在于,所述根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达,包括:
根据所述指定文本的通用向量表达,利用所述每个视角所对应的语言模型,获得该视角上的特定向量表达。
4.根据权利要求3所述的方法,其特征在于,所述根据所述指定文本的通用向量表达,利用所述每个视角所对应的语言模型,获得该视角上的特定向量表达之前,还包括:
采用交叉验证方法,进行模型训练。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
对用于所述模型训练的训练数据集中每个训练数据进行特征提取处理,以获得所述每个训练数据的特征参数的值;
根据所述每个训练数据的特征参数的值,进行指定的特征参数的随机丢弃处理,以获得该训练数据的复制数据;
将所述每个训练数据的复制数据,加入到所述训练数据集中。
6.根据权利要求1~5一权利要求所述的方法,其特征在于,所述对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果,包括:
利用投票策略,对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
7.一种文本识别装置,其特征在于,包括:
通用编码单元,用于根据指定文本,获得所述指定文本的通用向量表达;
特定编码单元,用于根据所述指定文本的通用向量表达,获得所述指定文本在至少一个视角中每个视角上的特定向量表达;
分类单元,用于根据所述通用向量表达和所述每个视角上的特定向量表达,获得所述指定文本的至少两个候选分类结果;
融合单元,用于对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
8.根据权利要求7所述的装置,其特征在于,所述视角包括时间视角、空间时间、注意力视角或者记忆视角。
9.根据权利要求7所述的装置,其特征在于,所述特定编码单元,具体用于
根据所述指定文本的通用向量表达,利用所述每个视角所对应的语言模型,获得该视角上的特定向量表达。
10.根据权利要求9所述的装置,其特征在于,所述装置还包括模型训练单元,用于
采用交叉验证装置,进行模型训练。
11.根据权利要求10所述的装置,其特征在于,所述模型训练单元,还用于
对用于所述模型训练的训练数据集中每个训练数据进行特征提取处理,以获得所述每个训练数据的特征参数的值;
根据所述每个训练数据的特征参数的值,进行指定的特征参数的随机丢弃处理,以获得该训练数据的复制数据;以及
将所述每个训练数据的复制数据,加入到所述训练数据集中。
12.根据权利要求7~11一权利要求所述的装置,其特征在于,所述融合单元,具体用于
利用投票策略,对所述至少两个候选分类结果进行融合处理,以获得所述指定文本的目标分类结果。
13.一种设备,其特征在于,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1~6中任一所述的方法。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1~6中任一所述的方法。
CN201910548488.4A 2019-06-24 2019-06-24 文本识别方法、装置、设备及计算机可读存储介质 Pending CN110362734A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910548488.4A CN110362734A (zh) 2019-06-24 2019-06-24 文本识别方法、装置、设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910548488.4A CN110362734A (zh) 2019-06-24 2019-06-24 文本识别方法、装置、设备及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN110362734A true CN110362734A (zh) 2019-10-22

Family

ID=68215895

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910548488.4A Pending CN110362734A (zh) 2019-06-24 2019-06-24 文本识别方法、装置、设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN110362734A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110851604A (zh) * 2019-11-12 2020-02-28 中科鼎富(北京)科技发展有限公司 一种文本分类方法、装置、电子设备及存储介质
CN114154493A (zh) * 2022-01-28 2022-03-08 北京芯盾时代科技有限公司 一种短信类别的识别方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107590134A (zh) * 2017-10-26 2018-01-16 福建亿榕信息技术有限公司 文本情感分类方法、存储介质及计算机
CN108470061A (zh) * 2018-03-26 2018-08-31 福州大学 一种针对视角级文本的情感分类系统
CN109508377A (zh) * 2018-11-26 2019-03-22 南京云思创智信息科技有限公司 基于融合模型的文本特征提取方法、装置、聊天机器人和存储介质
CN109857860A (zh) * 2019-01-04 2019-06-07 平安科技(深圳)有限公司 文本分类方法、装置、计算机设备及存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107590134A (zh) * 2017-10-26 2018-01-16 福建亿榕信息技术有限公司 文本情感分类方法、存储介质及计算机
CN108470061A (zh) * 2018-03-26 2018-08-31 福州大学 一种针对视角级文本的情感分类系统
CN109508377A (zh) * 2018-11-26 2019-03-22 南京云思创智信息科技有限公司 基于融合模型的文本特征提取方法、装置、聊天机器人和存储介质
CN109857860A (zh) * 2019-01-04 2019-06-07 平安科技(深圳)有限公司 文本分类方法、装置、计算机设备及存储介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
李惠富等: "多类型分类器融合的文本分类方法研究", 《计算机应用研究》 *
谢金宝等,: "基于语义理解注意力神经网络的多元特征融合中文文本分类", 《电子与信息学报》 *
阿里云云栖号: "深度学习揭秘之防止过拟合(overfitting)", 《知乎》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110851604A (zh) * 2019-11-12 2020-02-28 中科鼎富(北京)科技发展有限公司 一种文本分类方法、装置、电子设备及存储介质
CN110851604B (zh) * 2019-11-12 2022-09-13 鼎富智能科技有限公司 一种文本分类方法、装置、电子设备及存储介质
CN114154493A (zh) * 2022-01-28 2022-03-08 北京芯盾时代科技有限公司 一种短信类别的识别方法及装置
CN114154493B (zh) * 2022-01-28 2022-06-28 北京芯盾时代科技有限公司 一种短信类别的识别方法及装置

Similar Documents

Publication Publication Date Title
CN109241524B (zh) 语义解析方法及装置、计算机可读存储介质、电子设备
CN110717339B (zh) 语义表示模型的处理方法、装置、电子设备及存储介质
CN111444709B (zh) 文本分类方法、装置、存储介质及设备
CN110188182A (zh) 模型训练方法、对话生成方法、装置、设备及介质
CN107291867B (zh) 基于人工智能的对话处理方法、装置、设备及计算机可读存储介质
CN109271493A (zh) 一种语言文本处理方法、装置和存储介质
CN111985229B (zh) 一种序列标注方法、装置及计算机设备
CN112015859A (zh) 文本的知识层次抽取方法及装置、计算机设备及可读介质
CN109543181B (zh) 一种基于主动学习和深度学习相结合的命名实体模型和系统
CN111738001B (zh) 同义词识别模型的训练方法、同义词确定方法及设备
CN112131366A (zh) 训练文本分类模型及文本分类的方法、装置及存储介质
CN108959482A (zh) 基于深度学习的单轮对话数据分类方法、装置和电子设备
Erdem et al. Neural natural language generation: A survey on multilinguality, multimodality, controllability and learning
CN112836487B (zh) 一种自动评论方法、装置、计算机设备及存储介质
CN110377905A (zh) 语句的语义表示处理方法及装置、计算机设备及可读介质
Islam et al. Exploring video captioning techniques: A comprehensive survey on deep learning methods
CN109034203A (zh) 表情推荐模型的训练、表情推荐方法、装置、设备及介质
Dethlefs Domain transfer for deep natural language generation from abstract meaning representations
CN112699686A (zh) 基于任务型对话系统的语义理解方法、装置、设备及介质
Li et al. Intention understanding in human–robot interaction based on visual-NLP semantics
CN110032736A (zh) 一种文本分析方法、装置及存储介质
Zhang et al. Facial affect recognition based on transformer encoder and audiovisual fusion for the abaw5 challenge
CN116245097A (zh) 训练实体识别模型的方法、实体识别方法及对应装置
CN116541492A (zh) 一种数据处理方法及相关设备
CN110362734A (zh) 文本识别方法、装置、设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20191022