CN112434510A - 一种信息处理方法、装置、电子设备和存储介质 - Google Patents

一种信息处理方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN112434510A
CN112434510A CN202011330581.7A CN202011330581A CN112434510A CN 112434510 A CN112434510 A CN 112434510A CN 202011330581 A CN202011330581 A CN 202011330581A CN 112434510 A CN112434510 A CN 112434510A
Authority
CN
China
Prior art keywords
character
probability
starting
prediction
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011330581.7A
Other languages
English (en)
Other versions
CN112434510B (zh
Inventor
王岩
柴琛林
张新松
李航
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202011330581.7A priority Critical patent/CN112434510B/zh
Publication of CN112434510A publication Critical patent/CN112434510A/zh
Priority to PCT/CN2021/131092 priority patent/WO2022111347A1/zh
Application granted granted Critical
Publication of CN112434510B publication Critical patent/CN112434510B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/194—Calculation of difference between files
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Probability & Statistics with Applications (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开实施例公开了一种信息处理方法、装置、电子设备和存储介质，该方法包括：获取待识别的文本信息，并获取文本信息中各字符作为提取起点的预测起始概率，以及各字符作为提取终点的预测结束概率；根据各字符的预测起始概率确定目标起始字符，以及根据各字符的预测结束概率确定目标结束字符；根据目标起始字符和目标结束字符，提取文本信息中的有效信息。本公开实施例的技术方案，实现了对文本中有效信息的准确提取，对于未知领域或无匹配模板的文本信息，同样具备了文本提取能力，扩大了文本提取技术的应用范围，提高了有效信息的提取精度。

Description

一种信息处理方法、装置、电子设备和存储介质
技术领域
本公开实施例涉及文本处理技术，尤其涉及一种信息处理方法、装置、电子设备和存储介质。
背景技术
随着互联网技术的不断发展，各种各样的文本信息出现在网络中，为人们提供了大量的信息资料，而在众多的信息资料中提取出有用的有效信息，也成为了文本处理领域的重要分支。
通常在获取到待识别的文本信息后，根据文本间的相似度判断该文本信息是否为有效信息，若相似度较高，则判断为有效信息进行保留，若相似度较低，则将待识别的文本信息判断为无效信息进行整体删除。
发明内容
本公开提供了一种信息处理方法、装置、电子设备和存储介质，以实现从待识别的文本信息中提取有效信息。
第一方面，本公开实施例提供了一种信息处理方法，包括：
获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率；
根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符；
根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
第二方面，本公开实施例提供了一种信息处理装置，包括：
预测概率获取模块，用于获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率；
目标字符获取模块，用于根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符；
第一有效信息获取模块，用于根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
第三方面，本公开实施例提供了一种电子设备，包括存储器、处理装置及存储在存储器上并可在处理装置上运行的计算机程序，处理装置执行程序时实现本公开任意实施例的信息处理方法。
第四方面，本公开实施例提供了一种包含计算机可执行指令的存储介质，计算机可执行指令在由计算机处理器执行时用于执行本公开任意实施例的信息处理方法。
本公开实施例的技术方案，获取待识别文本信息中各字符作为提取起点的预测起始概率，以及各字符作为提取终点的预测结束概率，并在确定目标起始字符和目标结束字符后，提取待识别文本信息中的有效信息，实现了对文本中有效信息的准确提取，避免了当待识别的文本信息包含无效信息时，对文本信息进行的全文删除操作，同时对于未知领域或无匹配模板的文本信息，同样具备了文本提取能力，扩大了文本提取技术的应用范围，提高了有效信息的提取精度。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
图1是本公开的一种信息处理方法的一个实施例的流程图；
图2是本公开的一种信息处理方法的另一个实施例的流程图；
图3是本公开的一种信息处理方法的另一个实施例的流程图；
图4是本公开的一种信息处理装置的一个实施例的结构框图；
图5是适于用来实现本公开实施例的一种电子设备的结构框图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
实施例一
图1是本公开实施例一提供的一种信息处理方法的流程图，本实施例可适用于提取文本信息中的有效信息，该方法可以由本公开实施例中的信息处理装置来执行，该装置可以通过软件和/或硬件实现，并集成在终端设备或服务器中，该方法具体包括如下步骤：
S110、获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
待识别的文本信息来源众多，可以是通过问卷调查获取的用户问答结果，也可以是网络用户针对某个事件发表的言论，还可以是电子书籍、期刊杂志等刊登的文本信息，在本公开实施例中，可选的，对待识别文本信息的来源不作具体限定。由于文本信息的来源众多，获取到的文本信息中可能存在无用的文本内容，例如，当获取到网络用户针对某个事件发表的言论时，由于网站在信息展示时的固定表述格式，或用户个人的说话习惯，通常会在答复内容中加入一些问候性的客套表述，因此，需要从待识别的文本信息中，提取需要的有效内容；例如，待识别的文本信息为“您好，这种现象产生的原因是烟圈刚开始时聚集到洞口周围，形成了漩涡，而旋转运动使得其不易与空气摩擦，从而保持烟圈的稳定！希望我的回答对你有帮助！”，显然其中存在问候性的客套表述，有效信息应为“这种现象产生的原因是烟圈刚开始时聚集到洞口周围，形成了漩涡，而旋转运动使得其不易与空气摩擦，从而保持烟圈的稳定！”。
获取到待识别的文本信息后，可以根据数据库中存储的各有效信息的起始字符和结束字符，来预测待识别文本信息中各字符作为提取起点的起始概率，以及作为提取终点的结束概率；例如，统计数据库中所有有效信息的起始字符，并计算出各起始字符的出现概率，并将该概率赋值给待识别文本信息中的相同字符，待识别文本信息中的其它字符的概率为零，据此，获取到待识别文本信息中各字符作为起始字符的概率；同时，统计数据库中所有有效信息的结束字符，并计算出各结束字符的出现概率，并将该概率赋值给待识别文本信息中的相同字符，待识别文本信息中的其它字符的概率为零，据此，获取到待识别文本信息中各字符作为结束字符的概率。
可选的，在本公开实施例中，所述获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率，包括：通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。序列抽取模型，是预先训练完成的排序模型，其作用在于针对输入的文本信息，进行文本特征的提取，并获取特征向量；其中，文本特征是表示文本内容的基本单位，可以将文本信息中的字、词或短语作为该文本信息的文本特征，而特征向量则是文本特征量化表示的结果，通常为多维度的特征向量；在获取到待识别文本信息的特征向量后，通过对特征向量的识别，输出文本信息中各字符作为提取起点的预测起始概率，以及各字符作为提取终点的预测结束概率。例如，待识别文本信息包括50个字符(字符包括文字和符号)，按字符顺序编号为1号至50号，有效内容为5号字符至30号字符之间文本的预测概率为40％，有效内容为8号字符至30号字符之间文本的预测概率为30％，有效内容为5号字符至20号字符之间文本的预测概率为30％；由此，可以确定5号字符作为提取起点的预测概率为40％+30％＝70％，8号字符作为提取起点的预测概率为30％，其它字符作为提取起点的预测概率为0；20号字符作为提取终点的预测概率为30％，30号字符作为提取起点的预测概率为40％+30％＝70％，其它字符作为提取起点的预测概率为0。
可选的，在本公开实施例中，在通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率前，还包括：获取序列样本集合，并通过所述序列样本集合对初始序列抽取模型进行序列抽取训练，以获取训练完成的序列抽取模型。序列样本集合包括了多个序列样本，每个序列样本均是由原始文本信息及对应的有效文本信息组成的映射对，例如，一个序列样本中，原始文本信息为“您好，我来回答您！风是由空气流动引起的一种自然现象，它是由太阳辐射热引起的。如果您对我的回答满意，请给我点赞。”，其对应的有效文本信息为“风是由空气流动引起的一种自然现象，它是由太阳辐射热引起的。”，将序列样本的原始文本信息作为输入信息，有效文本信息作为输出信息，对初始序列抽取模型进行语义理解训练，最终获取到训练完成的序列抽取模型。
可选的，在本公开实施例中，所述初始序列抽取模型基于自注意力机制构建。自注意力机制(Self-attention Mechanism)是在注意力机制(Attention Mechanism)基础上的改进机制，不但可以快速提取稀疏数据的重要特征，同时减少了对外部信息的依赖，更有利于捕捉数据或特征的内部相关性；在本发明是实施例中，所述初始序列抽取模型可以包括Bert模型或Robert模型；其中，Bert(Bidirectional Encoder Representations fromTransformers)模型，是一种预训练(Pre-Train)的语言模型，在经过大量且无标注的语料训练后，能够获取待识别文本信息中包含丰富语义信息的语义表示模型，由于Bert模型本身已具备了较强的语音理解能力，只需对Bert模型进行微调即可，因此使用Bert模型作为初始序列抽取模型，减少了初始序列抽取模型对序列样本集合中序列样本数量的依赖，降低了训练获取难度；Roberta模型则是在Bert模型基础上，通过改进训练任务和数据生成方式获取到的另一种语义表示模型。
S120、根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符。
在获取到各个字符的预测起始概率后，将概率数值最大的字符作为目标起始字符，也即起始概率数值最大的字符最有可能作为提取出来的有效信息的起点；在获取到各个字符的预测结束概率后，将概率数值最大的字符作为目标结束字符，也即结束概率数值最大的字符最有可能作为提取出来的有效信息的终点。例如，以上述技术方案为例，将5号字符和30号字符分别作为目标起始字符和目标结束字符。
可选的，在本公开实施例中，所述根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符，包括：获取各所述预测起始概率中数值最高的第一预测起始概率，并判断所述第一预测起始概率对应的第一字符是否为文字；若判断所述第一字符为文字，则将所述第一字符作为目标起始字符；或者若判断所述第一字符不为文字，则获取除所述第一预测起始概率外，剩余预测起始概率中数值最高的第二预测起始概率，并判断与所述第二预测起始概率对应的第二字符是否为文字，直至剩余预测起始概率中，与数值最高的目标预测起始概率对应的目标字符为文字为止，并将所述目标字符作为目标起始字符。一段完整的有效信息，必定是由文字作为起始字符，因此，如果各预测起始概率中最高概率对应的字符为文字，那么将该字符作为提取起点；如果各预测起始概率中最高概率对应的字符不为文字(例如，为标点符号)，那么在剩余预测起始概率中继续确定最高概率(也即各预测起始概率中数值第二高的概率)对应的字符是否为文字，直至获取到的最高概率值对应的目标字符为文字时，将该目标字符作为提取起点，以避免将标点符号等无具体意义的字符作为提取起点，提高有效信息的提取精度。
特别的，在判断所述第一字符不为文字后，还包括：将位于所述第一字符之后，且与所述第一字符距离最近的文字作为目标起始字符。如果各预测起始概率中最高概率对应的字符不为文字(例如，为标点符号)，那么有可能是序列抽取模型出现了断句错误，此时根据就近原则，将字符顺序位于第一字符之后，且与第一字符距离最近的文字作为目标起始字符，以确保在数值最高的预测起始概率附近寻找对应的起点文字，避免序列抽取模型由于误断句导致的有效信息提取错误的情况发生。
可选的，在本公开实施例中，所述根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符，包括：若各所述预测起始概率中数值最高的第一预测起始概率，对应多个备选起始字符，则在各所述备选起始字符中，选择字符顺序位于最前端的目标备选起始字符，作为目标起始字符；和/或若各所述预测结束概率中数值最高的第一预测结束概率，对应多个备选结束字符，则在各所述备选结束字符中，选择字符顺序位于最后端的目标备选结束字符，作为目标结束字符。如果在各预测起始概率中，同时出现了多个字符的预测起始概率均为最高数值，此时将各备选起始字符按照字符顺序排列，获取位于字符顺序最靠前的字符作为目标起始字符，以尽可能大的提高提取范围，避免有效信息的丢失；同样的，如果在各预测结束概率中，同时出现了多个字符的预测结束概率均为最高数值，此时将各备选结束字符按照字符顺序排列，获取位于字符顺序最靠后的字符作为目标结束字符，以尽可能大的提高提取范围，避免有效信息的丢失；特别的，在提取出有效信息后，还可以再次通过序列提取模型，或者其它方法进行二次提取，即在提取出有效信息后，对上述该有效信息再次进行提取，以获取准确的有效信息。
S130、根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
现有技术中，根据文本间的相似度判断该文本信息是否为有效信息的技术方案，只能根据预先获取的模板信息筛选获取特定内容的文本信息，对于未知领域或无匹配模板的文本信息无法进行识别，同时，在确定文本信息与模板信息的相似度较低后，只能采用删除的方式删除该文本信息，无法对文本信息中的有效信息进行提取，有效信息的提取精度较低；而本公开的技术方案，在确定目标起始字符和目标结束字符后，实现了对文本信息中有效信息的准确提取，对于未知领域或无匹配模板的文本信息，同样具备了文本提取能力。
本公开实施例的技术方案，获取待识别文本信息中各字符作为提取起点的预测起始概率，以及各字符作为提取终点的预测结束概率，并在确定目标起始字符和目标结束字符后，提取待识别文本信息中的有效信息，实现了对文本中有效信息的准确提取，避免了当待识别的文本信息包含无效信息时，对文本信息进行的全文删除操作，同时对于未知领域或无匹配模板的文本信息，同样具备了文本提取能力，扩大了文本提取技术的应用范围，提高了有效信息的提取精度。
实施例二
图2是本公开实施例二提供的一种信息处理方法的流程图，本实施例以上述实施例为基础进行具体化，在本实施例中，在获取到待识别的文本信息后，先对该文本信息进行分类，相应的，本实施例的方法具体包括如下步骤：
S210、获取待识别的文本信息，并获取所述文本信息为包含无效信息文本的分类概率。
在获取到待识别的文本信息后，可以将该文本信息与数据库中存储的各有效信息进行相似性比对，并获取其中数值最高的相似度百分比；由于数据库中存储的各有效信息中均不包含无效信息文本，因此，待识别的文本信息与数据库中存储的各有效信息的相似度百分比越高，那么该文本信息包含无效信息文本的分类概率越低，具体的，用数值1减去该相似度百分比，即获取该文本信息为包含无效信息文本的分类概率。
可选的，在本发明实施例中，所述获取所述文本信息为包含无效信息文本的分类概率，包括：通过训练完成的语义分类模型，获取所述文本信息为包含无效信息文本的分类概率。语义分类模型，是预先训练完成的分类模型，其作用在于针对输入的待识别文本信息，通过文本特征的提取，输出该文本信息的分类类别以及对应的分类概率；其中，分类类别包括包含无效信息文本和不包含无效信息文本；分类概率则反应了该文本信息中包含无效信息的可能性，概率数值越大，则表明该文本内容越可能为包含了无效信息的文本。
可选的，在本公开实施例中，在通过训练完成的语义分类模型，获取所述文本信息为包含无效信息文本的分类概率前，还包括：获取语义样本集合，并通过所述语义样本集合对初始语义分类模型进行语义分类训练，以获取训练完成的语义分类模型；其中，所述初始语义分类模型基于神经网络构建。语义样本集合包括了多个正语义样本和多个负语义样本；正语义样本为无效信息样本，即正语义样本中的所有文本内容均为无效信息，例如，“你好，希望我的回答对你有帮助”和“抱歉，未找到答案。”分别为两个正语义样本，正语义样本的标签信息为1，也即对初始语义分类模型进行训练时，输出结果标定为1；负语义样本为有效信息样本，即负语义样本中的所有文本内容均为有效信息，例如，“水的密度大于冰的密度”和“地震，是地壳快速释放能量过程中造成的振动，期间会产生地震波的一种自然现象”分别为两个负语义样本，负语义样本的标签信息为0，也即对初始语义分类模型进行训练时，输出结果标定为0。通过正语义样本和负语义样本对初始语义分类模型的训练，使得训练完成的语义分类模型具备了根据输入的文本信息，输出该文本信息的分类类别以及对应的分类概率的能力，其中，分类概率为大于等于0，且小于等于1的数值，该数值越大，该文本信息越接近于正语义样本，包含无效信息的概率越大，该数值越小，该文本信息越接近于负语义样本，包括无效信息的概率越小。
S220、若所述分类概率大于等于预设分类概率阈值，则获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
预设分类概率阈值，可以根据需要设定；由于上述技术方案中，输出的分类类别只包括两种类型，即包含无效信息文本和不包含无效信息文本，因此，可以根据二值分类，将预设分类概率阈值设定为0.5，即当文本信息的分类类别为包含无效信息文本时(也即分类概率大于等于0.5)，将文本信息输入至序列抽取模型进行提取；当文本信息的分类类别为不包含无效信息文本时(也即分类概率小于0.5)，将文本信息本身作为有效信息。特别的，虽然分类概率小于0.5时，已将该文本信息的分类类别确定为不包含无效信息文本，但如果该文本信息的分类概率距离0.5较近，例如，为0.4时，那么该文本信息依然有一定的可能性存在无效信息(即存在40％的可能该文本信息中仍然存在无效信息)，为了确保文本信息的提取精度，可以将预设分类概率阈值设定为较小数值，例如，0.05，也即当文本信息的分类概率数值小于0.05时，才将该文本信息的分类类别确定为不包含无效信息文本，只要文本信息的分类概率数值大于等于0.05，则需要将该文本信息通过训练完成的序列抽取模型进行提取，以确保对不包含无效信息文本的分类准确性，避免分类产生的不包含无效信息文本中依然存在无效信息。
若所述分类概率小于预设分类概率阈值，表明该文本信息被判断为不包含无效信息文本，即该文本信息中的文本内容均为有效信息，此时将所述文本信息作为有效信息，也即该文本信息中的所有文本内容均作为有效信息。
S230、根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符。
S240、根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
本公开实施例的技术方案，在获取到待识别的文本信息后，获取了该文本信息包含无关内容的分类概率，并在该分类概率大于等于预设分类概率阈值后，进行有效信息的提取，实现了对文本信息中是否包含无关内容的有效判定，使得仅针对包含无关内容的文本进行有效信息的提取，提高了文本信息中有效信息的提取效率。
实施例三
图3是本公开实施例三提供的一种信息处理方法的流程图，本实施例以上述实施例为基础进行具体化，在本实施例中，待识别的文本信息中包括多个有效信息段落，相应的，本实施例的方法具体包括如下步骤：
S310、获取待识别的文本信息，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
S320、获取各所述预测起始概率中数值最高的第一预测起始概率和数值次高的第二预测起始概率，以及各所述预测结束概率中数值最高的第一预测结束概率和数值次高的第二预测结束概率，并获取与所述第一预测起始概率、所述第二预测起始概率、所述第一预测结束概率和所述第二预测结束概率分别对应的第一字符、第二字符、第三字符和第四字符。
待识别的文本信息中可能包括多段有效信息，例如，待识别的文本信息为“你好！酸雨是指pH小于5.6的雨雪或其他形式的降水，主要是人为的向大气中排放大量酸性物质所造成的；而地震，是地壳快速释放能量过程中造成的振动，期间会产生地震波的一种自然现象。如果您对我的回答满意，请给我点赞。”，显然，该文本信息中包括两个有效信息段落，即“酸雨是指pH小于5.6的雨雪或其他形式的降水，主要是人为的向大气中排放大量酸性物质所造成的”和“地震，是地壳快速释放能量过程中造成的振动，期间会产生地震波的一种自然现象”，分别解释了“酸雨”和“地震”这两种自然现象，因此，在各预测起始概率中，获取数值最高的预设数量的预测起始概率，在各预测结束概率中，获取数值最高的预设数量的预测结束概率，以实现对多个有效信息段落的定位，并获取各概率数值对应的字符。
S330、确定所述第一字符、所述第二字符、所述第三字符和所述第四字符的字符排序。
字符排序，也即各字符在待识别的文本信息中的排列顺序，例如，上述技术方案中，待识别文本信息包括50个字符(字符包括文字和符号)，按字符顺序编号为1号至50号。
S340、若所述字符排序为所述第一字符、所述第三字符、所述第二字符和所述第四字符，则将所述第一字符和所述第三字符分别作为第一目标起始字符和第一目标结束字符，以及将第二字符和所述第四字符分别作为第二目标起始字符和第二目标结束字符。
以上述技术方案为例，待识别的文本信息为“你好！酸雨是指pH小于5.6的雨雪或其他形式的降水，主要是人为的向大气中排放大量酸性物质所造成的；而地震，是地壳快速释放能量过程中造成的振动，期间会产生地震波的一种自然现象。如果您对我的回答满意，请给我点赞。”，其中，如果第一字符为文本“酸雨是指pH小于5.6的雨雪或其他形式的降水”中的“酸”，第二字符为文本“排放大量酸性物质所造成的”中的“的”，第三字符为文本“而地震”中的“地”，第四字符为文本“期间会产生地震波的一种自然现象”中的“象”，同时其字符排列顺序符合上述排列规则，据此，将“酸”和“地”分别作为第一目标起始字符和第二目标起始字符，将“的”和“象”分别作为第一目标结束字符和第二目标结束字符。
S350、根据所述第一目标起始字符和第一目标结束字符，提取所述文本信息中的第一有效信息，以及根据所述第二目标起始字符和所述第二目标结束字符，提取所述文本信息中的第二有效信息。
以上述技术方案为例，提取“酸”和“的”之间的文本信息为第一有效信息，即“酸雨是指pH小于5.6的雨雪或其他形式的降水，主要是人为的向大气中排放大量酸性物质所造成的”，提取“地”和“象”之间的文本信息为第二有效信息，即“地震，是地壳快速释放能量过程中造成的振动，期间会产生地震波的一种自然现象”。
本公开实施例的技术方案，在获取到各字符作为提取起点的预测起始概率，以及各字符作为提取终点的预测结束概率后，通过获取数值最高的多个预测起始概率以及多个预测结束概率，进而实现对文本信息中多段有效信息的分别提取，避免了有效信息的丢失，保证了提取信息的完整性。
实施例四
图4是本公开实施例四提供的一种信息处理装置的结构框图，具体包括：预测概率获取模块410、目标字符获取模块420和第一有效信息获取模块430。
预测概率获取模块410，用于获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率；
目标字符获取模块420，用于根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符；
第一有效信息获取模块430，用于根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
本公开实施例的技术方案，获取待识别文本信息中各字符作为提取起点的预测起始概率，以及各字符作为提取终点的预测结束概率，并在确定目标起始字符和目标结束字符后，提取待识别文本信息中的有效信息，实现了对文本中有效信息的准确提取，避免了当待识别的文本信息包含无效信息时，对文本信息进行的全文删除操作，同时对于未知领域或无匹配模板的文本信息，同样具备了文本提取能力，扩大了文本提取技术的应用范围，提高了有效信息的提取精度。
可选的，在上述技术方案的基础上，预测概率获取模块410，具体用于通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
可选的，在上述技术方案的基础上，信息处理装置，还包括：
分类概率获取模块，用于获取所述文本信息为包含无效信息文本的分类概率。
可选的，在上述技术方案的基础上，预测概率获取模块410，具体用于若所述分类概率大于等于预设分类概率阈值，则获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
可选的，在上述技术方案的基础上，分类概率获取模块，具体用于通过训练完成的语义分类模型，获取所述文本信息为包含无效信息文本的分类概率。
可选的，在上述技术方案的基础上，信息处理装置，还包括：
第二有效信息获取模块，用于若所述分类概率小于预设分类概率阈值，则将所述文本信息作为有效信息。
可选的，在上述技术方案的基础上，信息处理装置，还包括：
语义分类模型获取模块，用于获取语义样本集合，并通过所述语义样本集合对初始语义分类模型进行语义分类训练，以获取训练完成的语义分类模型；其中，所述初始语义分类模型基于神经网络构建。
可选的，在上述技术方案的基础上，信息处理装置，还包括：
序列抽取模型获取模块，用于获取序列样本集合，并通过所述序列样本集合对初始序列抽取模型进行序列抽取训练，以获取训练完成的序列抽取模型。
可选的，在上述技术方案的基础上，目标字符获取模块420，具体包括：
第一预测起始概率获取单元，用于获取各所述预测起始概率中数值最高的第一预测起始概率，并判断所述第一预测起始概率对应的第一字符是否为文字；
第一目标起始字符获取单元，用于若判断所述第一字符为文字，则将所述第一字符作为目标起始字符；或者若判断所述第一字符不为文字，则获取除所述第一预测起始概率外，剩余预测起始概率中数值最高的第二预测起始概率，并判断与所述第二预测起始概率对应的第二字符是否为文字，直至剩余预测起始概率中，与数值最高的目标预测起始概率对应的目标字符为文字为止，并将所述目标字符作为目标起始字符。
可选的，在上述技术方案的基础上，目标字符获取模块420，还包括：
第二目标起始字符获取单元，用于将位于所述第一字符之后，且与所述第一字符距离最近的文字作为目标起始字符。
可选的，在上述技术方案的基础上，目标字符获取模块420，具体包括：
目标起始字符获取模块，用于若各所述预测起始概率中数值最高的第一预测起始概率，对应多个备选起始字符，则在各所述备选起始字符中，选择字符顺序位于最前端的目标备选起始字符，作为目标起始字符；
目标结束字符获取模块，用于若各所述预测结束概率中数值最高的第一预测结束概率，对应多个备选结束字符，则在各所述备选结束字符中，选择字符顺序位于最后端的目标备选结束字符，作为目标结束字符。
可选的，在上述技术方案的基础上，目标字符获取模块420，还包括：
字符提取单元，用于获取各所述预测起始概率中数值最高的第一预测起始概率和数值次高的第二预测起始概率，以及各所述预测结束概率中数值最高的第一预测结束概率和数值次高的第二预测结束概率，并获取与所述第一预测起始概率、所述第二预测起始概率、所述第一预测结束概率和所述第二预测结束概率分别对应的第一字符、第二字符、第三字符和第四字符；
字符排序执行单元，用于确定所述第一字符、所述第二字符、所述第三字符和所述第四字符的字符排序；
目标字符提取单元，用于若所述字符排序为所述第一字符、所述第三字符、所述第二字符和所述第四字符，则将所述第一字符和所述第三字符分别作为第一目标起始字符和第一目标结束字符，以及将第二字符和所述第四字符分别作为第二目标起始字符和第二目标结束字符。
可选的，在上述技术方案的基础上，第一有效信息获取模块430，具体用于根据所述第一目标起始字符和第一目标结束字符，提取所述文本信息中的第一有效信息，以及根据所述第二目标起始字符和所述第二目标结束字符，提取所述文本信息中的第二有效信息。
可选的，在上述技术方案的基础上，所述初始序列抽取模型基于自注意力机制构建。
上述装置可执行本公开任意实施例所提供的信息处理方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本公开任意实施例提供的方法。
实施例五
图5示出了适于用来实现本公开实施例的电子设备500的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示，电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常，以下装置可以连接至I/O接口505：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507；包括例如磁带、硬盘等的存储装置508；以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置509从网络上被下载和安装，或者从存储装置508被安装，或者从ROM 502被安装。在该计算机程序被处理装置501执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率；根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符；根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，模块的名称在某种情况下并不构成对该模块本身的限定，例如，预测概率获取模块，可以被描述为“用于获取待识别的文本信息，并通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率的模块”。本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例，【示例1】提供了一种信息处理方法，包括：
获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率；
根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符；
根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
根据本公开的一个或多个实施例，【示例2】提供了示例1的方法，还包括：
通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
根据本公开的一个或多个实施例，【示例3】提供了示例1的方法，还包括：
获取所述文本信息为包含无效信息文本的分类概率；
若所述分类概率大于等于预设概率阈值，则获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
根据本公开的一个或多个实施例，【示例4】提供了示例3的方法，还包括：
通过训练完成的语义分类模型，获取所述文本信息为包含无效信息文本的分类概率。
根据本公开的一个或多个实施例，【示例5】提供了示例3的方法，还包括：
若所述分类概率小于预设分类概率阈值，则将所述文本信息作为有效信息。
根据本公开的一个或多个实施例，【示例6】提供了示例4的方法，还包括：
获取语义样本集合，并通过所述语义样本集合对初始语义分类模型进行语义分类训练，以获取训练完成的语义分类模型；其中，所述初始语义分类模型基于神经网络构建。
根据本公开的一个或多个实施例，【示例7】提供了示例2的方法，还包括：
获取序列样本集合，并通过所述序列样本集合对初始序列抽取模型进行序列抽取训练，以获取训练完成的序列抽取模型。
根据本公开的一个或多个实施例，【示例8】提供了示例1至示例7任一项所述的方法，还包括：
获取各所述预测起始概率中数值最高的第一预测起始概率，并判断所述第一预测起始概率对应的第一字符是否为文字；
若判断所述第一字符为文字，则将所述第一字符作为目标起始字符；或者
若判断所述第一字符不为文字，则获取除所述第一预测起始概率外，剩余预测起始概率中数值最高的第二预测起始概率，并判断与所述第二预测起始概率对应的第二字符是否为文字，直至剩余预测起始概率中，与数值最高的目标预测起始概率对应的目标字符为文字为止，并将所述目标字符作为目标起始字符。
根据本公开的一个或多个实施例，【示例9】提供了示例8的方法，还包括：
将位于所述第一字符之后，且与所述第一字符距离最近的文字作为目标起始字符。
根据本公开的一个或多个实施例，【示例10】提供了示例1至示例7任一项所述的方法，还包括：
若各所述预测起始概率中数值最高的第一预测起始概率，对应多个备选起始字符，则在各所述备选起始字符中，选择字符顺序位于最前端的目标备选起始字符，作为目标起始字符；
若各所述预测结束概率中数值最高的第一预测结束概率，对应多个备选结束字符，则在各所述备选结束字符中，选择字符顺序位于最后端的目标备选结束字符，作为目标结束字符。
根据本公开的一个或多个实施例，【示例11】提供了示例1至示例7任一项所述的方法，还包括：
获取各所述预测起始概率中数值最高的第一预测起始概率和数值次高的第二预测起始概率，以及各所述预测结束概率中数值最高的第一预测结束概率和数值次高的第二预测结束概率，并获取与所述第一预测起始概率、所述第二预测起始概率、所述第一预测结束概率和所述第二预测结束概率分别对应的第一字符、第二字符、第三字符和第四字符；
确定所述第一字符、所述第二字符、所述第三字符和所述第四字符的字符排序；
若所述字符排序为所述第一字符、所述第三字符、所述第二字符和所述第四字符，则将所述第一字符和所述第三字符分别作为第一目标起始字符和第一目标结束字符，以及将第二字符和所述第四字符分别作为第二目标起始字符和第二目标结束字符；
根据所述第一目标起始字符和第一目标结束字符，提取所述文本信息中的第一有效信息，以及根据所述第二目标起始字符和所述第二目标结束字符，提取所述文本信息中的第二有效信息。
根据本公开的一个或多个实施例，【示例12】提供了示例7所述的方法，还包括：
所述初始序列抽取模型基于自注意力机制构建。
根据本公开的一个或多个实施例，【示例13】提供了一种信息处理装置，包括：
预测概率获取模块，用于获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率；
目标字符获取模块，用于根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符；
第一有效信息获取模块，用于根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
根据本公开的一个或多个实施例，【示例14】提供了示例13的装置，还包括：
预测概率获取模块，具体用于通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
根据本公开的一个或多个实施例，【示例15】提供了示例13的装置，还包括：
分类概率获取模块，用于获取所述文本信息为包含无效信息文本的分类概率。
预测概率获取模块，具体用于若所述分类概率大于等于预设概率阈值，则通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
根据本公开的一个或多个实施例，【示例16】提供了示例15的装置，还包括：
分类概率获取模块，具体用于通过训练完成的语义分类模型，获取所述文本信息为包含无效信息文本的分类概率。
根据本公开的一个或多个实施例，【示例17】提供了示例15的装置，还包括：
第二有效信息获取模块，用于若所述分类概率小于预设概率阈值，则将所述文本信息作为有效信息。
根据本公开的一个或多个实施例，【示例18】提供了示例16的装置，还包括：
语义分类模型获取模块，用于获取语义样本集合，并通过所述语义样本集合对初始语义分类模型进行语义分类训练，以获取训练完成的语义分类模型；其中，所述初始语义分类模型基于神经网络构建。
根据本公开的一个或多个实施例，【示例19】提供了示例114的装置，还包括：
序列抽取模型获取模块，用于获取序列样本集合，并通过所述序列样本集合对初始序列抽取模型进行序列抽取训练，以获取训练完成的序列抽取模型。
根据本公开的一个或多个实施例，【示例20】提供了示例13至示例19任一项所述的装置，目标字符获取模块，具体包括：
第一预测起始概率获取单元，用于获取各所述预测起始概率中数值最高的第一预测起始概率，并判断所述第一预测起始概率对应的第一字符是否为文字；
第一目标起始字符获取单元，用于若判断所述第一字符为文字，则将所述第一字符作为目标起始字符；或者若判断所述第一字符不为文字，则获取除所述第一预测起始概率外，剩余预测起始概率中数值最高的第二预测起始概率，并判断与所述第二预测起始概率对应的第二字符是否为文字，直至剩余预测起始概率中，与数值最高的目标预测起始概率对应的目标字符为文字为止，并将所述目标字符作为目标起始字符。
根据本公开的一个或多个实施例，【示例21】提供了示例20的装置，目标字符获取模块，具体还包括：
第二目标起始字符获取单元，用于将位于所述第一字符之后，且与所述第一字符距离最近的文字作为目标起始字符。
根据本公开的一个或多个实施例，【示例22】提供了示例13至示例19任一项所述的装置，目标字符获取模块，具体包括：
目标起始字符获取模块，用于若各所述预测起始概率中数值最高的第一预测起始概率，对应多个备选起始字符，则在各所述备选起始字符中，选择字符顺序位于最前端的目标备选起始字符，作为目标起始字符；
目标结束字符获取模块，用于若各所述预测结束概率中数值最高的第一预测结束概率，对应多个备选结束字符，则在各所述备选结束字符中，选择字符顺序位于最后端的目标备选结束字符，作为目标结束字符。
根据本公开的一个或多个实施例，【示例23】提供了示例13至示例19任一项所述的装置，目标字符获取模块，具体还包括：
字符提取单元，用于获取各所述预测起始概率中数值最高的第一预测起始概率和数值次高的第二预测起始概率，以及各所述预测结束概率中数值最高的第一预测结束概率和数值次高的第二预测结束概率，并获取与所述第一预测起始概率、所述第二预测起始概率、所述第一预测结束概率和所述第二预测结束概率分别对应的第一字符、第二字符、第三字符和第四字符；
字符排序执行单元，用于确定所述第一字符、所述第二字符、所述第三字符和所述第四字符的字符排序；
目标字符提取单元，用于若所述字符排序为所述第一字符、所述第三字符、所述第二字符和所述第四字符，则将所述第一字符和所述第三字符分别作为第一目标起始字符和第一目标结束字符，以及将第二字符和所述第四字符分别作为第二目标起始字符和第二目标结束字符。
第一有效信息获取模块，具体用于根据所述第一目标起始字符和第一目标结束字符，提取所述文本信息中的第一有效信息，以及根据所述第二目标起始字符和所述第二目标结束字符，提取所述文本信息中的第二有效信息。
根据本公开的一个或多个实施例，【示例24】提供了示例19的装置，还包括：
所述初始序列抽取模型基于自注意力机制构建。
根据本公开的一个或多个实施例，【示例25】提供了一种电子设备，包括存储器、处理装置及存储在存储器上并可在处理装置上运行的计算机程序，处理装置执行程序时实现如示例1-12中任一所述的信息处理方法。
根据本公开的一个或多个实施例，【示例26】提供了一种包含计算机可执行指令的存储介质，计算机可执行指令在由计算机处理器执行时用于执行如示例1-12中任一所述的信息处理方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (15)

1.一种信息处理方法，其特征在于，包括：
获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率；
根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符；
根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
2.根据权利要求1所述的方法，其特征在于，所述获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率，包括：
通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
3.根据权利要求1所述的方法，其特征在于，在获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率前，还包括：
获取所述文本信息为包含无效信息文本的分类概率；
所述获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率，包括：
若所述分类概率大于等于预设分类概率阈值，则获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率。
4.根据权利要求3所述的方法，其特征在于，所述获取所述文本信息为包含无效信息文本的分类概率，包括：
通过训练完成的语义分类模型，获取所述文本信息为包含无效信息文本的分类概率。
5.根据权利要求3所述的方法，其特征在于，在获取所述文本信息为包含无效信息文本的分类概率后，还包括：
若所述分类概率小于预设分类概率阈值，则将所述文本信息作为有效信息。
6.根据权利要求4所述的方法，其特征在于，在通过训练完成的语义分类模型，获取所述文本信息为包含无效信息文本的分类概率前，还包括：
获取语义样本集合，并通过所述语义样本集合对初始语义分类模型进行语义分类训练，以获取训练完成的语义分类模型；其中，所述初始语义分类模型基于神经网络构建。
7.根据权利要求2所述的方法，其特征在于，在通过训练完成的序列抽取模型，获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率前，还包括：
获取序列样本集合，并通过所述序列样本集合对初始序列抽取模型进行序列抽取训练，以获取训练完成的序列抽取模型。
8.根据权利要求1-7任一项所述的方法，其特征在于，所述根据各所述字符的预测起始概率确定目标起始字符，包括：
获取各所述预测起始概率中数值最高的第一预测起始概率，并判断所述第一预测起始概率对应的第一字符是否为文字；
若判断所述第一字符为文字，则将所述第一字符作为目标起始字符；或者
若判断所述第一字符不为文字，则获取除所述第一预测起始概率外，剩余预测起始概率中数值最高的第二预测起始概率，并判断与所述第二预测起始概率对应的第二字符是否为文字，直至剩余预测起始概率中，与数值最高的目标预测起始概率对应的目标字符为文字为止，并将所述目标字符作为目标起始字符。
9.根据权利要求8所述的方法，其特征在于，在判断所述第一字符不为文字后，还包括：
将位于所述第一字符之后，且与所述第一字符距离最近的文字作为目标起始字符。
10.根据权利要求1-7任一项所述的方法，其特征在于，所述根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符，包括：
若各所述预测起始概率中数值最高的第一预测起始概率，对应多个备选起始字符，则在各所述备选起始字符中，选择字符顺序位于最前端的目标备选起始字符，作为目标起始字符；
若各所述预测结束概率中数值最高的第一预测结束概率，对应多个备选结束字符，则在各所述备选结束字符中，选择字符顺序位于最后端的目标备选结束字符，作为目标结束字符。
11.根据权利要求1-7任一项所述的方法，其特征在于，所述根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符，包括：
获取各所述预测起始概率中数值最高的第一预测起始概率和数值次高的第二预测起始概率，以及各所述预测结束概率中数值最高的第一预测结束概率和数值次高的第二预测结束概率，并获取与所述第一预测起始概率、所述第二预测起始概率、所述第一预测结束概率和所述第二预测结束概率分别对应的第一字符、第二字符、第三字符和第四字符；
确定所述第一字符、所述第二字符、所述第三字符和所述第四字符的字符排序；
若所述字符排序为所述第一字符、所述第三字符、所述第二字符和所述第四字符，则将所述第一字符和所述第三字符分别作为第一目标起始字符和第一目标结束字符，以及将第二字符和所述第四字符分别作为第二目标起始字符和第二目标结束字符；
所述根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息，包括：
根据所述第一目标起始字符和第一目标结束字符，提取所述文本信息中的第一有效信息，以及根据所述第二目标起始字符和所述第二目标结束字符，提取所述文本信息中的第二有效信息。
12.根据权利要求7所述的方法，其特征在于，所述初始序列抽取模型基于自注意力机制构建。
13.一种信息处理装置，其特征在于，包括：
预测概率获取模块，用于获取待识别的文本信息，并获取所述文本信息中各字符作为提取起点的预测起始概率，以及各所述字符作为提取终点的预测结束概率；
目标字符获取模块，用于根据各所述字符的预测起始概率确定目标起始字符，以及根据各所述字符的预测结束概率确定目标结束字符；
第一有效信息获取模块，用于根据所述目标起始字符和所述目标结束字符，提取所述文本信息中的有效信息。
14.一种电子设备，包括存储器、处理装置及存储在存储器上并可在处理装置上运行的计算机程序，其特征在于，所述处理装置执行所述程序时实现如权利要求1-12中任一所述的信息处理方法。
15.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-12中任一所述的信息处理方法。
CN202011330581.7A 2020-11-24 2020-11-24 一种信息处理方法、装置、电子设备和存储介质 Active CN112434510B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202011330581.7A CN112434510B (zh) 2020-11-24 2020-11-24 一种信息处理方法、装置、电子设备和存储介质
PCT/CN2021/131092 WO2022111347A1 (zh) 2020-11-24 2021-11-17 信息处理方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011330581.7A CN112434510B (zh) 2020-11-24 2020-11-24 一种信息处理方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN112434510A true CN112434510A (zh) 2021-03-02
CN112434510B CN112434510B (zh) 2024-03-29

Family

ID=74692945

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011330581.7A Active CN112434510B (zh) 2020-11-24 2020-11-24 一种信息处理方法、装置、电子设备和存储介质

Country Status (2)

Country Link
CN (1) CN112434510B (zh)
WO (1) WO2022111347A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113392638A (zh) * 2021-06-11 2021-09-14 北京世纪好未来教育科技有限公司 文本评估方法、装置、设备及介质
CN113641799A (zh) * 2021-10-13 2021-11-12 腾讯科技（深圳）有限公司 文本处理方法、装置、计算机设备及存储介质
CN113836905A (zh) * 2021-09-24 2021-12-24 网易（杭州）网络有限公司 一种主题提取方法、装置、终端及存储介质
WO2022111347A1 (zh) * 2020-11-24 2022-06-02 北京字节跳动网络技术有限公司 信息处理方法、装置、电子设备和存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180089561A1 (en) * 2016-09-26 2018-03-29 Splunk Inc. Automatically generating field extraction recommendations
CN110162594A (zh) * 2019-01-04 2019-08-23 腾讯科技（深圳）有限公司 文本数据的观点生成方法、装置及电子设备
CN110598213A (zh) * 2019-09-06 2019-12-20 腾讯科技（深圳）有限公司 一种关键词提取方法、装置、设备及存储介质
CN111160032A (zh) * 2019-12-17 2020-05-15 浙江大华技术股份有限公司 一种命名实体提取方法、装置、电子设备及存储介质
CN111241832A (zh) * 2020-01-15 2020-06-05 北京百度网讯科技有限公司 核心实体标注方法、装置及电子设备
CN111639234A (zh) * 2020-05-29 2020-09-08 北京百度网讯科技有限公司 用于挖掘核心实体关注点的方法和装置
CN111832287A (zh) * 2020-07-22 2020-10-27 广东工业大学 一种实体关系联合抽取方法及装置
WO2020221298A1 (zh) * 2019-04-30 2020-11-05 北京金山云网络技术有限公司 文本检测模型训练方法、文本区域、内容确定方法和装置
CN111914825A (zh) * 2020-08-03 2020-11-10 腾讯科技（深圳）有限公司 文字识别方法、装置及电子设备

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002032770A (ja) * 2000-06-23 2002-01-31 Internatl Business Mach Corp <Ibm> 文書処理方法、文書処理システムおよび媒体
JP5852930B2 (ja) * 2012-06-29 2016-02-03 Kddi株式会社 入力文字推定装置およびプログラム
CN110175273B (zh) * 2019-05-22 2021-09-07 腾讯科技（深圳）有限公司 文本处理方法、装置、计算机可读存储介质和计算机设备
CN110674271B (zh) * 2019-08-27 2023-01-06 腾讯科技（深圳）有限公司 一种问答处理方法及装置
CN111914559B (zh) * 2020-07-31 2023-04-07 平安科技（深圳）有限公司 基于概率图模型的文本属性抽取方法、装置及计算机设备
CN112434510B (zh) * 2020-11-24 2024-03-29 北京字节跳动网络技术有限公司 一种信息处理方法、装置、电子设备和存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180089561A1 (en) * 2016-09-26 2018-03-29 Splunk Inc. Automatically generating field extraction recommendations
CN110162594A (zh) * 2019-01-04 2019-08-23 腾讯科技（深圳）有限公司 文本数据的观点生成方法、装置及电子设备
WO2020221298A1 (zh) * 2019-04-30 2020-11-05 北京金山云网络技术有限公司 文本检测模型训练方法、文本区域、内容确定方法和装置
CN110598213A (zh) * 2019-09-06 2019-12-20 腾讯科技（深圳）有限公司 一种关键词提取方法、装置、设备及存储介质
CN111160032A (zh) * 2019-12-17 2020-05-15 浙江大华技术股份有限公司 一种命名实体提取方法、装置、电子设备及存储介质
CN111241832A (zh) * 2020-01-15 2020-06-05 北京百度网讯科技有限公司 核心实体标注方法、装置及电子设备
CN111639234A (zh) * 2020-05-29 2020-09-08 北京百度网讯科技有限公司 用于挖掘核心实体关注点的方法和装置
CN111832287A (zh) * 2020-07-22 2020-10-27 广东工业大学 一种实体关系联合抽取方法及装置
CN111914825A (zh) * 2020-08-03 2020-11-10 腾讯科技（深圳）有限公司 文字识别方法、装置及电子设备

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022111347A1 (zh) * 2020-11-24 2022-06-02 北京字节跳动网络技术有限公司 信息处理方法、装置、电子设备和存储介质
CN113392638A (zh) * 2021-06-11 2021-09-14 北京世纪好未来教育科技有限公司 文本评估方法、装置、设备及介质
CN113836905A (zh) * 2021-09-24 2021-12-24 网易（杭州）网络有限公司 一种主题提取方法、装置、终端及存储介质
CN113836905B (zh) * 2021-09-24 2023-08-08 网易（杭州）网络有限公司 一种主题提取方法、装置、终端及存储介质
CN113641799A (zh) * 2021-10-13 2021-11-12 腾讯科技（深圳）有限公司 文本处理方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
CN112434510B (zh) 2024-03-29
WO2022111347A1 (zh) 2022-06-02

Similar Documents

Publication Publication Date Title
CN112434510B (zh) 一种信息处理方法、装置、电子设备和存储介质
CN111753551B (zh) 基于词向量生成模型的信息生成方法和装置
CN112364829B (zh) 一种人脸识别方法、装置、设备及存储介质
CN111428010A (zh) 人机智能问答的方法和装置
CN109933217B (zh) 用于推送语句的方法和装置
CN111178056A (zh) 基于深度学习的文案生成方法、装置及电子设备
CN112883968B (zh) 图像字符识别方法、装置、介质及电子设备
CN111368560A (zh) 文本翻译方法、装置、电子设备及存储介质
CN111382261A (zh) 摘要生成方法、装置、电子设备及存储介质
CN111883117A (zh) 语音唤醒方法及装置
CN113407814A (zh) 文本搜索方法、装置、可读介质及电子设备
CN112632285A (zh) 一种文本聚类方法、装置、电子设备及存储介质
CN110634050B (zh) 一种鉴别房源类型的方法、装置、电子设备及存储介质
CN114298007A (zh) 一种文本相似度确定方法、装置、设备及介质
CN114445754A (zh) 视频处理方法、装置、可读介质及电子设备
CN111931494B (zh) 用于生成预测信息的方法、装置、电子设备和介质
CN112446208A (zh) 广告标题的生成方法、装置、设备和存储介质
CN112819512A (zh) 一种文本处理方法、装置、设备及介质
CN112069786A (zh) 文本信息处理方法、装置、电子设备及介质
CN112329454A (zh) 语种识别方法、装置、电子设备及可读存储介质
CN110750994A (zh) 一种实体关系抽取方法、装置、电子设备及存储介质
CN111555960A (zh) 信息生成的方法
CN115292487A (zh) 基于朴素贝叶斯的文本分类方法、装置、设备和介质
CN111339776B (zh) 简历解析方法、装置、电子设备和计算机可读存储介质
CN112286900A (zh) 一种数据处理方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant