CN118133828A - 文本处理方法、装置、设备、介质和程序产品 - Google Patents

文本处理方法、装置、设备、介质和程序产品 Download PDF

Info

Publication number
CN118133828A
CN118133828A CN202410330709.1A CN202410330709A CN118133828A CN 118133828 A CN118133828 A CN 118133828A CN 202410330709 A CN202410330709 A CN 202410330709A CN 118133828 A CN118133828 A CN 118133828A
Authority
CN
China
Prior art keywords
entity
processed
feature
text
word
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202410330709.1A
Other languages
English (en)
Inventor
陈辉兴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202410330709.1A priority Critical patent/CN118133828A/zh
Publication of CN118133828A publication Critical patent/CN118133828A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G06F40/295—Named entity recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Databases & Information Systems (AREA)
  • Machine Translation (AREA)

Abstract

本公开提供了一种文本处理方法、装置、设备、介质和程序产品，可以应用于自然语言处理领域和金融领域。该方法包括：对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，其中，待处理文本包括多个待处理字；基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，其中，实体类型特征表征待处理字的实体类型；基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列。

Description

文本处理方法、装置、设备、介质和程序产品
技术领域
本公开涉及自然语言处理领域和金融领域，更具体地，涉及一种文本处理方法、装置、设备、介质和程序产品。
背景技术
现有的文本处理方法主要分为基于规则和词典的方法、基于统计的方法。基于规则和词典的方法，在手工构造规则具有主观性较强的特点，且对于不同的语言和领域需要制定相应的规则，可移植性差，难以适应语言的变化和新实体的出现。而在基于统计的方法中，模型性能容易受到语料质量和多样性的影响，对于未在训练语料中出现过的实体效果可能不佳。
发明内容
鉴于上述问题，本公开提供了一种文本处理方法、装置、设备、介质和程序产品。
根据本公开的第一个方面，提供了一种文本处理方法，包括：
对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，其中，待处理文本包括多个待处理字；基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，其中，实体类型特征表征待处理字的实体类型；基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列。
根据本公开的实施例，对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，包括：对待处理文本进行编码，得到与待处理字相关的初始实体特征以及表征待处理字之间连接关系的实体邻接特征；将初始实体特征和实体邻接特征输入至图卷积神经网络中，得到实体特征；利用前馈网络处理实体特征，得到实体边界特征。
根据本公开的实施例，将初始实体特征和实体邻接特征输入至图卷积神经网络中，得到实体特征，包括：将初始实体特征和实体邻接特征输入至图卷积神经网络的第1图卷积神经网络层中，生成第1隐藏状态特征；将第n-1隐藏状态特征和实体邻接特征输入至图卷积神经网络的第n图卷积神经网络层中，生成第n隐藏状态特征；在N＝n的情况下，将第N隐藏状态特征确定为实体特征，其中，N≥n＞1。
根据本公开的实施例，基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，包括：根据实体特征和实体边界特征，生成注意力权重矩阵；基于注意力机制处理注意力权重矩阵和实体特征，得到实体类型特征。
根据本公开的实施例，基于注意力机制处理注意力权重矩阵和实体特征，得到实体类型特征，包括：基于注意力机制处理注意力权重矩阵和实体特征，生成上下文特征；对上下文特征进行归一化处理，生成实体类型特征。
根据本公开的实施例，基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列，包括：根据第i待处理字的实体特征、第j待处理字的实体边界特征和第j待处理字的实体类型特征，生成第i待处理字和第j待处理字之间的相似度；根据指针网络算法处理多个待处理字之间的相似度，得到与待处理字相关的指针概率；根据指针概率，生成实体序列。
根据本公开的实施例，根据指针网络算法处理多个待处理字之间的相似度，得到与待处理字相关的指针概率，包括：计算第i待处理字与K个参考待处理字之间的参考相似度得分，其中，参考待处理字为待处理文本中任意的待处理字，K为大于1的整数；根据K个参考相似度得分的累加和，确定与第i待处理字相关联的第i累积相似度得分；根据第i待处理字和第j待处理字之间的相似度得分，与第i累积相似度得分之间的比值，确定与第i待处理字相对应的指针概率。
本公开的第二方面提供了一种文本处理装置，包括：
边界检测模块，用于对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，其中，待处理文本包括多个待处理字；
类型特征模块，用于基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，其中，实体类型特征表征待处理字的实体类型；以及
实体识别模块，用于基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列。
本公开的第三方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当上述一个或多个程序被上述一个或多个处理器执行时，使得一个或多个处理器执行上述方法。
本公开的第四方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述方法。
本公开的第五方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述方法。
根据本公开的实施例，通过对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，再基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，最后基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列，从而提高了实体识别的准确性和鲁棒性，使用注意力机制可以有效地利用实体边界特征，提高实体类型的分类准确性和一致性，同时利用实体类型特征和实体边界特征对待处理文本进行实体识别，可以有效解决实体词汇表的限制问题，从而提高实体生成的多样性和灵活性。
附图说明
通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：
图1示意性示出了根据本公开实施例的文本处理方法、装置、设备、介质和程序产品的应用场景图；
图2示意性示出了根据本公开实施例的文本处理方法的流程图；
图3示意性示出了根据本公开实施例的确定实体特征和实体边界特征的流程图；
图4示意性示出了根据本公开实施例的文本处理装置的结构框图；以及
图5示意性示出了根据本公开实施例的适于实现文本处理方法的电子设备的方框图。
具体实施方式
以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
命名实体识别(Named Entity Recognition，NER)是自然语言处理中的一项重要任务，目的是从文本中识别出具有特定意义的实体，如人名、地名、组织名等，并标注其类型。命名实体识别有助于提高信息抽取、问答系统、机器翻译等应用的性能。现有的命名实体识别方法主要分为基于规则和词典的方法、基于统计的方法。基于规则和词典的方法的实现思路是利用手工构造的规则模板和已有的词典，通过模式匹配的方式识别出文本中的命名实体。基于统计的方法的实现思路是将命名实体识别作为序列标注问题，利用标注好的预料训练统计模型。如隐马尔可夫模型，条件随机场等，然后通过对文本进行序列标注来识别出命名实体。
基于规则和词典的方法实现命名实体识别存在的不足是，手工构造的规则具有主观性较强的特点。需要丰富的语言学知识和经验，且对于不同的语言和领域需要制定相应的规则，可移植性差。并且，规则的维护和更新成本高，难以适应语言的变化和新实体的出现。基于统计的方法实现命名实体识别存在的不足是，模型性能受到语料质量和多样性的影响，对于未在训练语料中出现过的实体识别效果可能不佳。并且，对于一些复杂的语言问题，如嵌套实体、未登录实体和多义实体等情况处理效果不佳。
有鉴于此，本公开提供了一种文本处理方法、装置、电子设备及介质，该方法包括：对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，其中，待处理文本包括多个待处理字；基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，其中，实体类型特征表征待处理字的实体类型；基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列。
需要说明的是，本公开提供的文本处理方法和装置可用于自然语言处理领域，也可用于除自然语言处理领域之外的任意领域，例如金融技术等领域，本公开提供的文本处理方法和装置的应用领域不做限定。
在本公开的技术方案中，所涉及的用户信息(包括但不限于用户个人信息、用户图像信息、用户设备信息，例如位置信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等)，均为经用户授权或者经过各方充分授权的信息和数据，并且相关数据的收集、存储、使用、加工、传输、提供、公开和应用等处理，均遵守相关法律法规和标准，采取了必要保密措施，不违背公序良俗，并提供有相应的操作入口，供用户选择授权或者拒绝。
图1示意性示出了根据本公开实施例的文本处理方法的应用场景图。
如图1所示，根据该实施例的应用场景100可以包括终端设备101、102、103、网络104、服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是，本公开实施例所提供的文本处理方法一般可以由服务器105执行。相应地，本公开实施例所提供的文本处理装置一般可以设置于服务器105中。本公开实施例所提供的文本处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的文本处理装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景，通过图2和图3对公开实施例的文本处理方法进行详细描述。
图2示意性示出了根据本公开实施例的文本处理方法的流程图。
如图2所示，该实施例的文本处理方法包括操作S210～操作S230。
在操作S210，对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征。
在操作S220，基于注意力机制处理实体边界特征和实体特征，得到实体类型特征。
在操作S230，基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列。
根据本公开的实施例，待处理文本可以表示需要进行命名实体识别的文本，待处理文本具有实际意义，待处理文本可以包括多个待处理字，具体地可以由多个具有实体含义的字或词组成。
根据本公开的实施例，实体边界可以表征实体的开始和结束位置，例如，“吃坚果”中“坚果”是一个实体，“坚”是实体边界的开始位置，“果”是实体边界的结束位置。实体边界检测可以区分实体词和非实体词。实体边界检测方法，例如依存句法、图卷积神经网络等，但不仅限于此，本公开的实施例对实体边界检测的具体方法不做限定。
根据本公开的实施例，实体边界特征可以表征待处理文本中待处理字的实体边界，实体特征可以表征待处理字的隐藏状态序列，其可以用来捕捉待处理字之间的语义和结构信息。
根据本公开的实施例，可以对待处理文本使用图卷积网络进行实体边界检测，从而可以得到与待处理字相关的实体边界特征和实体特征。
根据本公开的实施例，实体类型特征可以表征待处理字的实体类型。可以使用注意力机制处理实体边界特征和实体特征，得到实体类型特征，从而得到实体类型分类，以此捕捉待处理字之间的语义和结构信息。
根据本公开的实施例，可以利用实体类型特征和实体边界特征对文本进行实体识别，从而得到待处理文本中的实体序列。实体识别的方法可以包括嵌套实体、残差空洞卷积神经网络、知识图谱等，但不仅限于此，本公开的实施例对实体识别的具体方法不做限定。
根据本公开的实施例，通过采用一种基于图卷积网络结合注意力机制和指针网络的命名实体识别方法(即文本识别方法)，该方法可以有效的解决嵌套实体、未登录实体和多义实体的情况，且不依赖于预定义的实体类型集合，具有更好的泛化能力和鲁棒性。
根据本公开的实施例，通过对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，再基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，最后基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列，从而提高了实体识别的准确性和鲁棒性，同时利用实体类型特征和实体边界特征对待处理文本进行实体识别，可以有效解决实体词汇表的限制问题，从而提高实体生成的多样性和灵活性。
图3示意性示出了根据本公开实施例的确定实体特征和实体边界特征的流程图。
如图3所示，该实施例的确定实体特征和实体边界特征包括操作S310～操作S330。
在操作S310，对待处理文本进行编码，得到与待处理字相关的初始实体特征以及表征待处理字之间连接关系的实体邻接特征。
在操作S320，将初始实体特征和实体邻接特征输入至图卷积神经网络中，得到实体特征。
在操作S330，利用前馈网络处理实体特征，得到实体边界特征。
根据本公开的实施例，可以使用来自Transformers的双向编码器模型(Bidirectional Encoder Representation from Transformers，BERT)对待处理文本进行编码，但不仅限于此，本公开的实施例对编码模型不做限定。将待处理文本输入编码模型，可以得到与待处理字相关的分布式向量表示(即实体邻接特征)和待处理字的特征向量(即初始实体特征)。实体邻接特征可以表征待处理文本中待处理字之间的连接关系。初始实体特征可以表征待处理字的特征向量。
根据本公开的实施例，图卷积神经网络是一种特殊的卷积神经网络，它在图结构数据上进行卷积操作，可以将待处理文本视为一个图，其中每个待处理字是一个节点，节点之间的连接关系由实体邻接特征表示。
根据本公开的实施例，可以将初始实体特征和实体邻接特征输入至图卷积神经网络中，得到实体特征。再利用图卷积神经网络来更新待处理字的隐藏状态，得到实体特征，然后使用一个全连接层和归一化指数函数来计算每个元素的实体边界特征，如公式(1)所示。
B＝softmax(H(L)W(L)+b) (1)
其中，B表示实体边界特征；H(L)表示最后一层的实体特征；W(L)是最后一层的权重矩阵；b是偏置矩阵。
根据本公开的实施例，通过采用图卷积神经网络的实体边界检测，可以有效捕捉待处理文本中的实体边界信息，从而提高实体识别的准确性和鲁棒性。
根据本公开的实施例，将初始实体特征和实体邻接特征输入至图卷积神经网络中，得到实体特征，包括：将初始实体特征和实体邻接特征输入至图卷积神经网络的第1图卷积神经网络层中，生成第1隐藏状态特征；将第n-1隐藏状态特征和实体邻接特征输入至图卷积神经网络的第n图卷积神经网络层中，生成第n隐藏状态特征；在N＝n的情况下，将第N隐藏状态特征确定为实体特征，其中，N≥n＞1。
根据本公开的实施例，可以将初始实体特征和实体邻接特征输入至图卷积神经网络的第1图卷积神经网络层中，生成第1隐藏状态特征，可以由公式(2)表示。
H1＝σ(D-1/2AD-1/2XW1) (2)
其中，H1表示第1层的隐藏状态特征，A表示实体邻接特征，X表示初始实体特征；W1表示第1层的权重矩阵；D是度矩阵；σ表示激活函数。
根据本公开的实施例，可以将第n-1隐藏状态特征和实体邻接特征输入至图卷积神经网络的第n图卷积神经网络层中，生成第n隐藏状态特征，可以由公式(3)表示。
Hn＝σ(D-1/2AD-1/2Hn-1Wn) (3)
其中，Hn表示第n层的隐藏状态特征，A表示实体邻接特征，Hn-1表示初始实体特征；Wn表示第n层的权重矩阵；D是度矩阵；σ表示激活函数。
根据本公开的实施例，在N＝n的情况下，可以将第N隐藏状态特征确定为实体特征，其中，N≥n＞1。
根据本公开的实施例，基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，包括：根据实体特征和实体边界特征，生成注意力权重矩阵；基于注意力机制处理注意力权重矩阵和实体特征，得到实体类型特征。
根据本公开的实施例，可以根据实体特征和实体边界特征，生成注意力权重矩阵，如公式(4)所示。
其中，αij是第i待处理字对第j待处理字的注意力权重，hi是第i待处理字的实体特征；Bj是第j待处理字的实体边界特征，Wα是权重矩阵，bα是偏置向量，L表示待处理文本中L个待处理字。
根据本公开的实施例，可以基于注意力机制处理注意力权重矩阵和实体特征，得到实体类型特征。
根据本公开的实施例，基于注意力机制处理注意力权重矩阵和实体特征，得到实体类型特征，包括：基于注意力机制处理注意力权重矩阵和实体特征，生成上下文特征；对上下文特征进行归一化处理，生成实体类型特征。
根据本公开的实施例，可以基于注意力机制处理注意力权重矩阵和实体特征，生成上下文特征，如公式(5)所示。
其中，ci表示第i待处理字的上下文特征，αij是第i待处理字对第j待处理字的注意力权重，hi是第i待处理字的实体特征。
根据本公开的实施例，可以对上下文特征进行归一化处理，生成实体类型特征，如公式(6)所示。
T＝softmax(Wcc+bc) (6)
其中，Wc是权重矩阵，bc是偏置向量，c表示上下文特征，T是实体类型得分矩阵。
根据本公开的实施例，通过采用基于注意力机制计算实体类型特征，可以有效地利用上下文信息和实体边界信息，从而提高实体类型的分类准确性和一致性。
根据本公开的实施例，基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列，包括：根据第i待处理字的实体特征、第j待处理字的实体边界特征和第j待处理字的实体类型特征，生成第i待处理字和第j待处理字之间的相似度；根据指针网络算法处理多个待处理字之间的相似度，得到与待处理字相关的指针概率；根据指针概率，生成实体序列。
根据本公开的实施例，可以通过一个全连接层和归一化指数函数来计算，可以根据第i待处理字的实体特征、第j待处理字的实体边界特征和第j待处理字的实体类型特征，生成第i待处理字和第j待处理字之间的相似度，如公式(7)所示。
fij＝softmax(Wp[hi；Bj；Tj]+bp) (7)
其中，fij是第i待处理字和第j待处理字之间的相似度，hi表示第i待处理字的实体特征，Bj表示第j待处理字的实体边界特征，Tj表示第j待处理字的实体类型特征，Wp表示权重矩阵，bp表示偏置向量。
根据本公开的实施例，指针网络是一种能够处理可变长度的输出序列的神经网络。在命名实体识别任务中，可以使用指针网络来利用实体边界特征和实体类型特征，从而生成待处理文本中的实体。
根据本公开的实施例，通过采用指针网络的方法生成实体序列，可以有效地解决实体词汇表的限制问题，从而提高实体生成的多样性和灵活性。
根据本公开的实施例，根据指针网络算法处理多个待处理字之间的相似度，得到与待处理字相关的指针概率，包括：计算第i待处理字与K个参考待处理字之间的参考相似度得分，其中，参考待处理字为待处理文本中任意的待处理字，K为大于1的整数；根据K个参考相似度得分的累加和，确定与第i待处理字相关联的第i累积相似度得分；根据第i待处理字和第j待处理字之间的相似度得分，与第i累积相似度得分之间的比值，确定与第i待处理字相对应的指针概率。
根据本公开的实施例，可以计算第i待处理字与K个参考待处理字之间的参考相似度得分，如公式(8)所示。
fik＝softmax(Wq[hi；Bk；Tk]+bq) (8)
其中，fik是第i待处理字和K个参考待处理字之间的参考相似度得分，hi表示第i待处理字的实体特征，Bk表示第k待处理字的实体边界特征，Tk表示第k待处理字的实体类型特征，Wq表示权重矩阵，bq表示偏置向量。
根据本公开的实施例，可以根据K个参考相似度得分的累加和，确定与第i待处理字相关联的第i累积相似度得分，如公式(9)所示。
其中，E是与第i待处理字相关联的第i累积相似度得分。
根据本公开的实施例，可以根据第i待处理字和第j待处理字之间的相似度得分，与第i累积相似度得分之间的比值，确定与第i待处理字相对应的指针概率，如公式(10)所示。
根据本公开的实施例，根据指针网络算法处理多个待处理字之间的相似度，得到与待处理字相关的指针概率，再可以利用解码算法根据指针概率，生成实体序列如公式(11)所示。
R＝argmax(pij) (11)
其中，R是实体序列，pij是与待处理字相关的指针概率。
根据本公开的实施例，解码算法例如贪婪解码，但不仅限于此，本公开的实施例对解码算法不做限定。
基于上述文本处理方法，本公开还提供了一种文本处理装置。以下将结合图4对该装置进行详细描述。
图4示意性示出了根据本公开实施例的文本处理装置的结构框图。
如图4所示，该实施例的文本处理装置400包括边界检测模块410、类型特征模块420和实体识别模块430。
边界检测模块410，用于对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征。在一实施例中，边界检测模块410可以用于执行前文描述的操作S210，在此不再赘述。
类型特征模块420，用于用于基于注意力机制处理所述实体边界特征和所述实体特征，得到实体类型特征。在一实施例中，类型特征模块420可以用于执行前文描述的操作S220，在此不再赘述。
实体识别模块430，用于用于基于所述实体类型特征和所述实体边界特征对所述待处理文本进行实体识别，得到与所述待处理文本相对应的实体序列。在一实施例中，实体识别模块430可以用于执行前文描述的操作S230，在此不再赘述。
根据本公开的实施例，通过对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，再基于注意力机制处理实体边界特征和实体特征，得到实体类型特征，最后基于实体类型特征和实体边界特征对待处理文本进行实体识别，得到与待处理文本相对应的实体序列，从而提高了实体识别的准确性和鲁棒性，同时利用实体类型特征和实体边界特征对待处理文本进行实体识别，可以有效解决实体词汇表的限制问题，从而提高实体生成的多样性和灵活性。
根据本公开的实施例，边界检测模块包括：编码单元、实体特征单元和边界特征单元。
编码单元，用于对待处理文本进行编码，得到与待处理字相关的初始实体特征以及表征待处理字之间连接关系的实体邻接特征。
实体特征单元，用于将初始实体特征和实体邻接特征输入至图卷积神经网络中，得到实体特征；
边界特征单元，用于利用前馈网络处理实体特征，得到实体边界特征。
根据本公开的实施例，实体特征单元包括：第1生成子单元、第n生成子单元和实体特征子单元。
第1生成子单元，用于将初始实体特征和实体邻接特征输入至图卷积神经网络的第1图卷积神经网络层中，生成第1隐藏状态特征。
第n生成子单元，用于将第n-1隐藏状态特征和实体邻接特征输入至图卷积神经网络的第n图卷积神经网络层中，生成第n隐藏状态特征。
实体特征子单元，用于在N＝n的情况下，将第N隐藏状态特征确定为实体特征，其中，N≥n＞1。
根据本公开的实施例，类型特征模块包括：权重矩阵生成单元和类型得到单元。
权重矩阵生成单元，用于根据实体特征和实体边界特征，生成注意力权重矩阵。
类型得到单元，用于基于注意力机制处理注意力权重矩阵和实体特征，得到实体类型特征。
根据本公开的实施例，类型得到单元包括：上下文特征子单元和归一化子单元。
上下文特征子单元，用于基于注意力机制处理注意力权重矩阵和实体特征，生成上下文特征。
归一化子单元，用于对上下文特征进行归一化处理，生成实体类型特征。
根据本公开的实施例，实体识别模块包括：相似度生成单元、指针概率生成单元和实体序列生成单元。
相似度生成单元，用于根据第i待处理字的实体特征、第j待处理字的实体边界特征和第j待处理字的实体类型特征，生成第i待处理字和第j待处理字之间的相似度。
指针概率生成单元，用于根据指针网络算法处理多个待处理字之间的相似度，得到与待处理字相关的指针概率。
实体序列生成单元，用于根据指针概率，生成实体序列。
根据本公开的实施例，指针概率生成单元包括：计算子单元、第i累积相似度子单元和指针概率子单元
计算子单元，用于计算第i待处理字与K个参考待处理字之间的参考相似度，其中，参考待处理字为待处理文本中任意的待处理字，K为大于1的整数。
第i累积相似度子单元，用于根据K个参考相似度的累加和，确定与第i待处理字相关联的第i累积相似度。
指针概率子单元，用于根据第i待处理字和第j待处理字之间的相似度，与第i累积相似度之间的比值，确定与第i待处理字相对应的指针概率。
根据本公开的实施例，边界检测模块410、类型特征模块420和实体识别模块430中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，边界检测模块410、类型特征模块420和实体识别模块430中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，边界检测模块410、类型特征模块420和实体识别模块430中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
图5示意性示出了根据本公开实施例的适于实现文本处理方法的电子设备的方框图。
如图5所示，根据本公开实施例的电子设备500包括处理器501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。处理器501例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器501还可以包括用于缓存用途的板载存储器。处理器501可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 503中，存储有电子设备500操作所需的各种程序和数据。处理器501、ROM502以及RAM 503通过总线504彼此相连。处理器501通过执行ROM 502和/或RAM 503中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 502和RAM 503以外的个或多个存储器中。处理器501也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例，电子设备500还可以包括输入/输出(I/O)接口505，输入/输出(I/O)接口505也连接至总线504。电子设备500还可以包括连接至I/O接口505的以下部件中的一项或多项：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。
本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。
根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 502和/或RAM 503和/或ROM 502和RAM 503以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的文本处理方法。
在该计算机程序被处理器501执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分509被下载和安装，和/或从可拆卸介质511被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被处理器501执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (11)

1.一种文本处理方法，其特征在于，所述方法包括：
对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，其中，所述待处理文本包括多个所述待处理字；
基于注意力机制处理所述实体边界特征和所述实体特征，得到实体类型特征，其中，所述实体类型特征表征所述待处理字的实体类型；
基于所述实体类型特征和所述实体边界特征对所述待处理文本进行实体识别，得到与所述待处理文本相对应的实体序列。
2.根据权利要求1所述的方法，其特征在于，所述对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，包括：
对所述待处理文本进行编码，得到与待处理字相关的初始实体特征以及表征待处理字之间连接关系的实体邻接特征；
将所述初始实体特征和所述实体邻接特征输入至图卷积神经网络中，得到所述实体特征；
利用前馈网络处理所述实体特征，得到所述实体边界特征。
3.根据权利要求2所述的方法，其特征在于，所述将所述初始实体特征和所述实体邻接特征输入至图卷积神经网络中，得到所述实体特征，包括：
将所述初始实体特征和所述实体邻接特征输入至所述图卷积神经网络的第1图卷积神经网络层中，生成第1隐藏状态特征；
将第n-1隐藏状态特征和所述实体邻接特征输入至所述图卷积神经网络的第n图卷积神经网络层中，生成第n隐藏状态特征；
在N＝n的情况下，将第N隐藏状态特征确定为所述实体特征，其中，N≥n＞1。
4.根据权利要求1所述的方法，其特征在于，所述基于注意力机制处理所述实体边界特征和所述实体特征，得到实体类型特征，包括：
根据所述实体特征和所述实体边界特征，生成注意力权重矩阵；
基于注意力机制处理所述注意力权重矩阵和所述实体特征，得到所述实体类型特征。
5.根据权利要求4所述的方法，其特征在于，所述基于注意力机制处理所述注意力权重矩阵和所述实体特征，得到所述实体类型特征，包括：
基于注意力机制处理所述注意力权重矩阵和所述实体特征，生成上下文特征；
对所述上下文特征进行归一化处理，生成所述实体类型特征。
6.根据权利要求1所述的方法，其特征在于，所述基于所述实体类型特征和所述实体边界特征对所述待处理文本进行实体识别，得到与所述待处理文本相对应的实体序列，包括：
根据所述第i待处理字的实体特征、第j待处理字的实体边界特征和第j待处理字的实体类型特征，生成第i待处理字和第j待处理字之间的相似度；
根据指针网络算法处理多个所述待处理字之间的相似度，得到与所述待处理字相关的指针概率；
根据所述指针概率，生成所述实体序列。
7.根据权利要求6所述的方法，其特征在于，所述根据指针网络算法处理多个所述待处理字之间的相似度，得到与所述待处理字相关的指针概率，包括：
计算所述第i待处理字与K个参考待处理字之间的参考相似度，其中，所述参考待处理字为所述待处理文本中任意的待处理字，K为大于1的整数；
根据K个所述参考相似度的累加和，确定与所述第i待处理字相关联的第i累积相似度；
根据所述第i待处理字和第j待处理字之间的相似度，与所述第i累积相似度之间的比值，确定与所述第i待处理字相对应的指针概率。
8.一种文本处理装置，其特征在于，所述装置包括：
边界检测模块，用于对待处理文本进行实体边界检测，得到与待处理字相关的实体边界特征和实体特征，其中，所述待处理文本包括多个所述待处理字；
类型特征模块，用于基于注意力机制处理所述实体边界特征和所述实体特征，得到实体类型特征，其中，所述实体类型特征表征所述待处理字的实体类型；以及
实体识别模块，用于基于所述实体类型特征和所述实体边界特征对所述待处理文本进行实体识别，得到与所述待处理文本相对应的实体序列。
9.一种电子设备，包括：
一个或多个处理器；
存储器，用于存储一个或多个计算机程序，
其特征在于，所述一个或多个处理器执行所述一个或多个计算机程序以实现根据权利要求1～7中任一项所述方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现根据权利要求1～7中任一项所述方法的步骤。
11.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现根据权利要求1～7中任一项所述方法的步骤。
CN202410330709.1A 2024-03-21 2024-03-21 文本处理方法、装置、设备、介质和程序产品 Pending CN118133828A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410330709.1A CN118133828A (zh) 2024-03-21 2024-03-21 文本处理方法、装置、设备、介质和程序产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202410330709.1A CN118133828A (zh) 2024-03-21 2024-03-21 文本处理方法、装置、设备、介质和程序产品

Publications (1)

Publication Number Publication Date
CN118133828A true CN118133828A (zh) 2024-06-04

Family

ID=91246200

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202410330709.1A Pending CN118133828A (zh) 2024-03-21 2024-03-21 文本处理方法、装置、设备、介质和程序产品

Country Status (1)

Country Link
CN (1) CN118133828A (zh)

Similar Documents

Publication Publication Date Title
CN112528672B (zh) 一种基于图卷积神经网络的方面级情感分析方法及装置
JP7301922B2 (ja) 意味検索方法、装置、電子機器、記憶媒体およびコンピュータプログラム
CN111143576A (zh) 一种面向事件的动态知识图谱构建方法和装置
CN110909550B (zh) 文本处理方法、装置、电子设备和可读存储介质
CN111414561B (zh) 用于呈现信息的方法和装置
CN112256860A (zh) 客服对话内容的语义检索方法、系统、设备及存储介质
Wang et al. Learning distributed word representations for bidirectional lstm recurrent neural network
CN114912450B (zh) 信息生成方法与装置、训练方法、电子设备和存储介质
CN112528654A (zh) 自然语言处理方法、装置及电子设备
CN113761923A (zh) 命名实体识别方法、装置、电子设备及存储介质
US20220129760A1 (en) Training neural networks with label differential privacy
CN111291551A (zh) 文本处理方法、装置、电子设备及计算机可读存储介质
CN114386408A (zh) 政务敏感信息识别方法、装置、设备、介质和程序产品
CN111459959B (zh) 用于更新事件集合的方法和装置
WO2023137903A1 (zh) 基于粗糙语义的回复语句确定方法、装置及电子设备
CN116187341A (zh) 语义识别方法及其装置
CN114490946A (zh) 基于Xlnet模型的类案检索方法、系统及设备
CN115525781A (zh) 多模态虚假信息检测方法、装置和设备
CN112579774B (zh) 模型训练方法、模型训练装置及终端设备
CN118133828A (zh) 文本处理方法、装置、设备、介质和程序产品
CN114691836A (zh) 文本的情感倾向性分析方法、装置、设备及介质
CN116756267B (zh) 事件时序关系识别方法、装置、设备及介质
CN110851569B (zh) 数据处理方法、装置、设备及存储介质
Roy et al. Probabilistic Traffic Tweet Generation Model
CN118114672A (zh) 文本数据处理方法、装置、设备、存储介质及程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination