CN115329767B - 抽取文本实体的方法、装置、电子设备及存储介质 - Google Patents

抽取文本实体的方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN115329767B
CN115329767B CN202211237486.1A CN202211237486A CN115329767B CN 115329767 B CN115329767 B CN 115329767B CN 202211237486 A CN202211237486 A CN 202211237486A CN 115329767 B CN115329767 B CN 115329767B
Authority
CN
China
Prior art keywords
entity
matrix
text
dictionary
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211237486.1A
Other languages
English (en)
Other versions
CN115329767A (zh
Inventor
郭俊廷
支涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Yunji Technology Co Ltd
Original Assignee
Beijing Yunji Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Yunji Technology Co Ltd filed Critical Beijing Yunji Technology Co Ltd
Priority to CN202211237486.1A priority Critical patent/CN115329767B/zh
Publication of CN115329767A publication Critical patent/CN115329767A/zh
Application granted granted Critical
Publication of CN115329767B publication Critical patent/CN115329767B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G06F40/295—Named entity recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/237—Lexical tools
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Probability & Statistics with Applications (AREA)
  • Machine Translation (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本公开涉及文本处理技术领域，提供了抽取文本实体的方法、装置、电子设备及存储介质。该方法包括：获取待处理的用户文本以及用户文本所属领域对应的目标辞典，其中，目标辞典包括多个条目，每个条目包括辞典实体和用于解释辞典实体的释义信息；抽取用户文本中的实体信息，并对实体信息进行实体信息编码处理，得到实体信息矩阵，其中，实体信息包括多个初始文本实体；对用户文本进行依存句法编码处理，得到句法信息矩阵；对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率；基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体。

Description

抽取文本实体的方法、装置、电子设备及存储介质
技术领域
本公开涉及文本处理技术领域，尤其涉及一种抽取文本实体的方法、装置、电子设备及存储介质。
背景技术
随着科学技术的不断发展，智能客服很多行业中得到了广泛的使用，智能客服不但可以解决用户问题，同时也可以节约人力成本，为客户提供更好的服务体验。智能客服为客户提供服务的过程中，准确地抽取出用户文本中的实体是保证用户体验的重要基础。当前业内常见的实体抽取方法是利用领域词作为先验知识，依次进行位置预测（span-basedprediction）和种类预测（class predict）来对实体进行标记。上述方法获得在高质量的文本中有较好的效果，尤其是可以准确地抽取相互重叠和覆盖的实体。然而，在智能客服的实际业务中，用户对于实体的表述往往不是标准的说法，而是较为口语化和不规范的表达（质量较差）。上述方法忽略了句法结构对于实体抽取的信息的影响，导致在面对这种质量较差的文本时效果不尽如人意。
在实现本公开构思的过程中，发明人发现相关技术中至少存在如下技术问题：抽取口语化和不规范的文本中的实体时存在准确度低的问题。
发明内容
有鉴于此，本公开实施例提供了一种抽取文本实体的方法、装置、电子设备及存储介质，以解决现有技术中，抽取口语化和不规范的文本中的实体时存在准确度低的问题。
本公开实施例的第一方面，提供了一种抽取文本实体的方法，包括：获取待处理的用户文本以及用户文本所属领域对应的目标辞典，其中，目标辞典包括多个条目，每个条目包括辞典实体和用于解释辞典实体的释义信息；抽取用户文本中的实体信息，并对实体信息进行实体信息编码处理，得到实体信息矩阵，其中，实体信息包括多个初始文本实体；对用户文本进行依存句法编码处理，得到句法信息矩阵；对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率；基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体。
本公开实施例的第二方面，提供了一种抽取文本实体的装置，包括：获取模块，被配置为获取待处理的用户文本以及用户文本所属领域对应的目标辞典，其中，目标辞典包括多个条目，每个条目包括辞典实体和用于解释辞典实体的释义信息；第一编码模块，被配置为抽取用户文本中的实体信息，并对实体信息进行实体信息编码处理，得到实体信息矩阵，其中，实体信息包括多个初始文本实体；第二编码模块，被配置为对用户文本进行依存句法编码处理，得到句法信息矩阵；匹配模块，被配置为对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率；确定模块，被配置为基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体。
本公开实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
本公开实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
本公开实施例与现有技术相比存在的有益效果是：获取待处理的用户文本以及用户文本所属领域对应的目标辞典，其中，目标辞典包括多个条目，每个条目包括辞典实体和用于解释辞典实体的释义信息；抽取用户文本中的实体信息，并对实体信息进行实体信息编码处理，得到实体信息矩阵，其中，实体信息包括多个初始文本实体；对用户文本进行依存句法编码处理，得到句法信息矩阵；对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率；基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体。采用上述技术手段，可以解决现有技术中，抽取口语化和不规范的文本中的实体时存在准确度低的问题，进而提高抽取口语化和不规范的文本中的实体的准确度。
附图说明
为了更清楚地说明本公开实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1是本公开实施例的应用场景的场景示意图；
图2是本公开实施例提供的一种抽取文本实体的方法的流程示意图；
图3是本公开实施例提供的一种抽取文本实体的装置的结构示意图；
图4是本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本公开实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本公开的描述。
下面将结合附图详细说明根据本公开实施例的一种抽取文本实体的方法和装置。
图1是本公开实施例的应用场景的场景示意图。该应用场景可以包括终端设备101、102和103、服务器104以及网络105。
终端设备101、102和103可以是硬件，也可以是软件。当终端设备101、102和103为硬件时，其可以是具有显示屏且支持与服务器104通信的各种电子设备，包括但不限于智能手机、机器人、膝上型便携计算机和台式计算机等（比如102可以为机器人）；当终端设备101、102和103为软件时，其可以安装在如上的电子设备中。终端设备101、102和103可以实现为多个软件或软件模块，也可以实现为单个软件或软件模块，本公开实施例对此不作限制。进一步地，终端设备101、102和103上可以安装有各种应用，例如数据处理应用、即时通信工具、社交平台软件、搜索类应用、购物类应用等。
服务器104可以是提供各种服务的服务器，例如，对与其建立通信连接的终端设备发送的请求进行接收的后台服务器，该后台服务器可以对终端设备发送的请求进行接收和分析等处理，并生成处理结果。服务器104可以是一台服务器，也可以是由若干台服务器组成的服务器集群，或者还可以是一个云计算服务中心，本公开实施例对此不作限制。
需要说明的是，服务器104可以是硬件，也可以是软件。当服务器104为硬件时，其可以是为终端设备101、102和103提供各种服务的各种电子设备。当服务器104为软件时，其可以是为终端设备101、102和103提供各种服务的多个软件或软件模块，也可以是为终端设备101、102和103提供各种服务的单个软件或软件模块，本公开实施例对此不作限制。
网络105可以是采用同轴电缆、双绞线和光纤连接的有线网络，也可以是无需布线就能实现各种通信设备互联的无线网络，例如，蓝牙（Bluetooth）、近场通信（Near FieldCommunication，NFC）、红外（Infrared）等，本公开实施例对此不作限制。
目标用户可以通过终端设备101、102和103经由网络105与服务器104建立通信连接，以接收或发送信息等。需要说明的是，终端设备101、102和103、服务器104以及网络105的具体类型、数量和组合可以根据应用场景的实际需求进行调整，本公开实施例对此不作限制。
图2是本公开实施例提供的一种抽取文本实体的方法的流程示意图。图2的抽取文本实体的方法可以由图1的终端设备或服务器执行。如图2所示，该抽取文本实体的方法包括：
S201，获取待处理的用户文本以及用户文本所属领域对应的目标辞典，其中，目标辞典包括多个条目，每个条目包括辞典实体和用于解释辞典实体的释义信息；
S202，抽取用户文本中的实体信息，并对实体信息进行实体信息编码处理，得到实体信息矩阵，其中，实体信息包括多个初始文本实体；
S203，对用户文本进行依存句法编码处理，得到句法信息矩阵；
S204，对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率；
S205，基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体。
比如本公开实施例是抽取酒店智能客服收集到的文本中的实体，那么用户就是酒店智能客服，用户文本所属领域就是酒店，目标辞典是整理酒店智能客服收集到的历史文本得到来的。
根据本公开实施例提供的技术方案，获取待处理的用户文本以及用户文本所属领域对应的目标辞典，其中，目标辞典包括多个条目，每个条目包括辞典实体和用于解释辞典实体的释义信息；抽取用户文本中的实体信息，并对实体信息进行实体信息编码处理，得到实体信息矩阵，其中，实体信息包括多个初始文本实体；对用户文本进行依存句法编码处理，得到句法信息矩阵；对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率；基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体。采用上述技术手段，可以解决现有技术中，抽取口语化和不规范的文本中的实体时存在准确度低的问题，进而提高抽取口语化和不规范的文本中的实体的准确度。
对用户文本进行分词处理，抽取经过分词处理后的用户文本中的实体信息，也就是抽取用户文本中的初始文本实体，该方法是现有技术，本公开实施例是在现有技术的基础上进一步提高抽取文本实体的准确度。
实体就是人名、机构名、地名以及其他所有以名称为标识的实体。更广泛的实体还包括数字、日期、货币、地址等等。所以本公开实施例可以被拓展到数字、日期和货币等上。
在步骤S202中，对实体信息进行实体信息编码处理，得到实体信息矩阵，包括：确定每个初始文本实体中每个单词的词向量以及每个初始文本实体的类别信息的独热向量，其中，每个初始文本实体均包括多个单词和类别信息；对每个初始文本实体对应的所有词向量进行向量平均操作，得到每个初始文本实体对应的平均向量；对每个初始文本实体对应的平均向量和独热向量进行向量拼接处理，得到每个初始文本实体对应的实体信息向量；对所有初始文本实体对应的实体信息向量进行编码处理，得到实体信息矩阵。
确定每个初始文本实体中每个单词的词向量，可以通过词向量模型做到；确定每个初始文本实体的类别信息的独热向量，是对每个初始文本实体的类别信息进行独热编码，独热编码即 One-Hot 编码，又称一位有效编码，其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都有它独立的寄存器位，并且在任意时候，其中只有一位有效。如果每个初始文本实体对应的某个词向量的维度少于其它初始文本实体对应的所有词向量的维度，可以对该词向量进行填充，以补全该词向量。向量平均操作，可以理解为对每个初始文本实体对应的所有词向量对应位置上的数据求和再求平均。对所有初始文本实体对应的实体信息向量进行编码处理，可以是利用BERT模型实现。
在步骤S203中，对用户文本进行依存句法编码处理，得到句法信息矩阵，包括：统计用户文本中与每个单词存在依存关系的其它单词的数量，以生成度矩阵；基于用户文本中每个单词与其它单词存在的依存关系，生成邻接矩阵；对度矩阵和邻接矩阵进行矩阵规范化处理；基于经过矩阵规范化处理后的度矩阵和邻接矩阵，确定句法信息矩阵。
度矩阵对角线上的元素表示与对应位置上的单词存在依存关系的其它单词的数量，其它位置的元素用零填充。每个单词与其它单词存在的依存关系可以表示为一个向量，所有单词对应的向量，就是邻接矩阵。由于度矩阵和邻接矩阵都是以单词为最小粒度存储信息，而实体信息矩阵往往以字为最小粒度，同时由于分词过程可能导致实体与单词不能完全对齐，存在偏移。因此本发明将度矩阵与邻接矩阵进行矩阵规范化处理：
对于k*k的度矩阵D中的任意一个元素
Figure 650768DEST_PATH_IMAGE001
，i和j表示两个单词之间的序号，
Figure 390054DEST_PATH_IMAGE002
为i单词的起始位置，
Figure 827988DEST_PATH_IMAGE003
为i单词的终止位置；
Figure 576502DEST_PATH_IMAGE004
为j单词的起始位置，
Figure 49071DEST_PATH_IMAGE005
为j单词的终止位置。对任意
Figure 162521DEST_PATH_IMAGE006
（本公开实施例假设偏移的窗口为1）有
Figure 887419DEST_PATH_IMAGE007
；
Figure 111727DEST_PATH_IMAGE008
为矩阵规范化处理后的
Figure 235541DEST_PATH_IMAGE001
。
邻接矩阵的矩阵规范化处理与度矩阵类似。
通过如下公式，确定句法信息矩阵：
Figure 519891DEST_PATH_IMAGE009
Figure 260314DEST_PATH_IMAGE010
Figure 288313DEST_PATH_IMAGE011
为经过矩阵规范化处理后的度矩阵，
Figure 266633DEST_PATH_IMAGE012
为经过矩阵规范化处理后的邻接矩阵，
Figure 456306DEST_PATH_IMAGE013
为
Figure 356129DEST_PATH_IMAGE012
的维度数，softmax为归一化指数函数，Normalize为矩阵归一化方法，用于将矩阵中的值缩放到0～1之间，
Figure 250136DEST_PATH_IMAGE014
为句法信息矩阵。
统计用户文本中与每个单词存在依存关系的其它单词的数量，以生成度矩阵之前，方法还包括：对用户文本进行语法分析，得到分析结果；基于分析结果，构建用户文本中每两个单词之间的依存关系。
进行语法分析，可以使用语法分析器，例如Zpar等工具。分析结果是用户文本中单词之间在语法上的关系。依存关系是基于分析结果建立的，用于表明用户文本中单词（单词也就是词语）之间的依赖关系。例如，在一个形容词短语片段中，形容词就会依赖于名词。“好吃的饭馆”，“好吃的”就依赖于“饭馆”。
在步骤S204中，对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率，包括：对实体信息矩阵进行实体信息解码处理，得到第一解码矩阵；对句法信息矩阵进行句法信息解码处理，得到第二解码矩阵，并对第二解码矩阵进行复制填充，得到第三解码矩阵，其中，第一解码矩阵和第三解码矩阵的矩阵维度一致；对第一解码矩阵、第三解码矩阵和目标辞典进行匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率。
对第二解码矩阵进行复制填充，是为了第一解码矩阵和第二解码矩阵的矩阵维度一致，复制填充后的第二解码矩阵记为第三解码矩阵。
对第一解码矩阵、第三解码矩阵和目标辞典进行匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率，包括：对第一解码矩阵和第三解码矩阵进行计算，得到第一目标矩阵；对第一目标矩阵和目标辞典进行计算，得到第二目标矩阵；根据第二目标矩阵，确定每个初始文本实体对于目标辞典中所有条目的分布概率。
通过如下公式对第一解码矩阵和第三解码矩阵进行计算：
Figure 551804DEST_PATH_IMAGE015
Emb是第一目标矩阵，
Figure 974695DEST_PATH_IMAGE016
是第一解码矩阵，
Figure 361814DEST_PATH_IMAGE017
是第三解码矩阵，T表示转置，h表示第三解码矩阵的维度数，比如为列的数量。
通过如下公式对第一目标矩阵和目标辞典进行计算：
Figure 731616DEST_PATH_IMAGE018
Figure 418949DEST_PATH_IMAGE019
为第二目标矩阵，Dic为目标辞典中的条目 的释义信息。
通过如下公式确定每个初始文本实体对于目标辞典中所有条目的分布概率Prob：
Figure 216004DEST_PATH_IMAGE020
在步骤S205中，基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体，包括：基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定每个初始文本实体对应的辞典实体；组合所有初始文本实体对应的辞典实体，得到用户文本对应的多个最终文本实体。
将每个初始文本实体对应的概率最高 的条目的辞典实体作为该初始文本实体的最终文本实体。
上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不再一一赘述。
下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。
图3是本公开实施例提供的一种抽取文本实体的装置的示意图。如图3所示，该抽取文本实体的装置包括：
获取模块301，被配置为获取待处理的用户文本以及用户文本所属领域对应的目标辞典，其中，目标辞典包括多个条目，每个条目包括辞典实体和用于解释辞典实体的释义信息；
第一编码模块302，被配置为抽取用户文本中的实体信息，并对实体信息进行实体信息编码处理，得到实体信息矩阵，其中，实体信息包括多个初始文本实体；
第二编码模块303，被配置为对用户文本进行依存句法编码处理，得到句法信息矩阵；
匹配模块304，被配置为对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率；
确定模块305，被配置为基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体。
比如本公开实施例是抽取酒店智能客服收集到的文本中的实体，那么用户就是酒店智能客服，用户文本所属领域就是酒店，目标辞典是整理酒店智能客服收集到的历史文本得到来的。
根据本公开实施例提供的技术方案，获取待处理的用户文本以及用户文本所属领域对应的目标辞典，其中，目标辞典包括多个条目，每个条目包括辞典实体和用于解释辞典实体的释义信息；抽取用户文本中的实体信息，并对实体信息进行实体信息编码处理，得到实体信息矩阵，其中，实体信息包括多个初始文本实体；对用户文本进行依存句法编码处理，得到句法信息矩阵；对实体信息矩阵、句法信息矩阵和目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率；基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定用户文本对应的多个最终文本实体。采用上述技术手段，可以解决现有技术中，抽取口语化和不规范的文本中的实体时存在准确度低的问题，进而提高抽取口语化和不规范的文本中的实体的准确度。
对用户文本进行分词处理，抽取经过分词处理后的用户文本中的实体信息，也就是抽取用户文本中的初始文本实体，该方法是现有技术，本公开实施例是在现有技术的基础上进一步提高抽取文本实体的准确度。
实体就是人名、机构名、地名以及其他所有以名称为标识的实体。更广泛的实体还包括数字、日期、货币、地址等等。所以本公开实施例可以被拓展到数字、日期和货币等上。
可选地，第一编码模块302还被配置为确定每个初始文本实体中每个单词的词向量以及每个初始文本实体的类别信息的独热向量，其中，每个初始文本实体均包括多个单词和类别信息；对每个初始文本实体对应的所有词向量进行向量平均操作，得到每个初始文本实体对应的平均向量；对每个初始文本实体对应的平均向量和独热向量进行向量拼接处理，得到每个初始文本实体对应的实体信息向量；对所有初始文本实体对应的实体信息向量进行编码处理，得到实体信息矩阵。
确定每个初始文本实体中每个单词的词向量，可以通过词向量模型做到；确定每个初始文本实体的类别信息的独热向量，是对每个初始文本实体的类别信息进行独热编码，独热编码即 One-Hot 编码，又称一位有效编码，其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都有它独立的寄存器位，并且在任意时候，其中只有一位有效。如果每个初始文本实体对应的某个词向量的维度少于其它初始文本实体对应的所有词向量的维度，可以对该词向量进行填充，以补全该词向量。向量平均操作，可以理解为对每个初始文本实体对应的所有词向量对应位置上的数据求和再求平均。对所有初始文本实体对应的实体信息向量进行编码处理，可以是利用BERT模型实现。
可选地，第二编码模块303还被配置为统计用户文本中与每个单词存在依存关系的其它单词的数量，以生成度矩阵；基于用户文本中每个单词与其它单词存在的依存关系，生成邻接矩阵；对度矩阵和邻接矩阵进行矩阵规范化处理；基于经过矩阵规范化处理后的度矩阵和邻接矩阵，确定句法信息矩阵。
度矩阵对角线上的元素表示与对应位置上的单词存在依存关系的其它单词的数量，其它位置的元素用零填充。每个单词与其它单词存在的依存关系可以表示为一个向量，所有单词对应的向量，就是邻接矩阵。由于度矩阵和邻接矩阵都是以单词为最小粒度存储信息，而实体信息矩阵往往以字为最小粒度，同时由于分词过程可能导致实体与单词不能完全对齐，存在偏移。因此本发明将度矩阵与邻接矩阵进行矩阵规范化处理：
对于k*k的度矩阵D中的任意一个元素
Figure 152736DEST_PATH_IMAGE001
，i和j表示两个单词之间的序号，
Figure 326228DEST_PATH_IMAGE002
为i单词的起始位置，
Figure 336909DEST_PATH_IMAGE003
为i单词的终止位置；
Figure 104533DEST_PATH_IMAGE004
为j单词的起始位置，
Figure 200665DEST_PATH_IMAGE005
为j单词的终止位置。对任意
Figure 240165DEST_PATH_IMAGE006
（本公开实施例假设偏移的窗口为1）有
Figure 105353DEST_PATH_IMAGE007
；
Figure 244210DEST_PATH_IMAGE008
为矩阵规范化处理后的
Figure 889955DEST_PATH_IMAGE001
。
邻接矩阵的矩阵规范化处理与度矩阵类似。
可选地，第二编码模块303还被配置为通过如下公式，确定句法信息矩阵：
Figure 139671DEST_PATH_IMAGE009
Figure 124944DEST_PATH_IMAGE010
Figure 231441DEST_PATH_IMAGE011
为经过矩阵规范化处理后的度矩阵，
Figure 302165DEST_PATH_IMAGE012
为经过矩阵规范化处理后的邻接矩阵，
Figure 683468DEST_PATH_IMAGE013
为
Figure 523248DEST_PATH_IMAGE012
的维度数，softmax为归一化指数函数，Normalize为矩阵归一化方法，用于将矩阵中的值缩放到0～1之间，
Figure 3908DEST_PATH_IMAGE014
为句法信息矩阵。
可选地，第二编码模块303还被配置为对用户文本进行语法分析，得到分析结果；基于分析结果，构建用户文本中每两个单词之间的依存关系。
进行语法分析，可以使用语法分析器，例如Zpar等工具。分析结果是用户文本中单词之间在语法上的关系。依存关系是基于分析结果建立的，用于表明用户文本中单词（单词也就是词语）之间的依赖关系。例如，在一个形容词短语片段中，形容词就会依赖于名词。“好吃的饭馆”，“好吃的”就依赖于“饭馆”。
可选地，匹配模块304还被配置为对实体信息矩阵进行实体信息解码处理，得到第一解码矩阵；对句法信息矩阵进行句法信息解码处理，得到第二解码矩阵，并对第二解码矩阵进行复制填充，得到第三解码矩阵，其中，第一解码矩阵和第三解码矩阵的矩阵维度一致；对第一解码矩阵、第三解码矩阵和目标辞典进行匹配处理，得到每个初始文本实体对于目标辞典中所有条目的分布概率。
对第二解码矩阵进行复制填充，是为了第一解码矩阵和第二解码矩阵的矩阵维度一致，复制填充后的第二解码矩阵记为第三解码矩阵。
可选地，匹配模块304还被配置为对第一解码矩阵和第三解码矩阵进行计算，得到第一目标矩阵；对第一目标矩阵和目标辞典进行计算，得到第二目标矩阵；根据第二目标矩阵，确定每个初始文本实体对于目标辞典中所有条目的分布概率。
可选地，匹配模块304还被配置为通过如下公式对第一解码矩阵和第三解码矩阵进行计算：
Figure 358666DEST_PATH_IMAGE015
Emb是第一目标矩阵，
Figure 215763DEST_PATH_IMAGE016
是第一解码矩阵，
Figure 972367DEST_PATH_IMAGE017
是第三解码矩阵，T表示转置，h表示第三解码矩阵的维度数，比如为列的数量。
可选地，匹配模块304还被配置为通过如下公式对第一目标矩阵和目标辞典进行计算：
Figure 623928DEST_PATH_IMAGE018
Figure 669244DEST_PATH_IMAGE019
为第二目标矩阵，Dic为目标辞典中的条目 的释义信息。
可选地，匹配模块304还被配置为通过如下公式确定每个初始文本实体对于目标辞典中所有条目的分布概率Prob：
Figure 126770DEST_PATH_IMAGE020
可选地，确定模块305还被配置为基于每个初始文本实体对于目标辞典中所有条目的分布概率，确定每个初始文本实体对应的辞典实体；组合所有初始文本实体对应的辞典实体，得到用户文本对应的多个最终文本实体。
将每个初始文本实体对应的概率最高 的条目的辞典实体作为该初始文本实体的最终文本实体。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本公开实施例的实施过程构成任何限定。
图4是本公开实施例提供的电子设备4的示意图。如图4所示，该实施例的电子设备4包括：处理器401、存储器402以及存储在该存储器402中并且可在处理器401上运行的计算机程序403。处理器401执行计算机程序403时实现上述各个方法实施例中的步骤。或者，处理器401执行计算机程序403时实现上述各装置实施例中各模块/单元的功能。
示例性地，计算机程序403可以被分割成一个或多个模块/单元，一个或多个模块/单元被存储在存储器402中，并由处理器401执行，以完成本公开。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序403在电子设备4中的执行过程。
电子设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备4可以包括但不仅限于处理器401和存储器402。本领域技术人员可以理解，图4仅仅是电子设备4的示例，并不构成对电子设备4的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如，电子设备还可以包括输入输出设备、网络接入设备、总线等。
处理器401可以是中央处理单元（Central Processing Unit，CPU），也可以是其它通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable Gate Array，FPGA）或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器402可以是电子设备4的内部存储单元，例如，电子设备4的硬盘或内存。存储器402也可以是电子设备4的外部存储设备，例如，电子设备4上配备的插接式硬盘，智能存储卡（Smart Media Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。进一步地，存储器402还可以既包括电子设备4的内部存储单元也包括外部存储设备。存储器402用于存储计算机程序以及电子设备所需的其它程序和数据。存储器402还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本公开的范围。
在本公开所提供的实施例中，应该理解到，所揭露的装置/电子设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/电子设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本公开各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本公开实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（Read-Only Memory，ROM）、随机存取存储器（Random Access Memory，RAM）、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本公开的技术方案，而非对其限制；尽管参照前述实施例对本公开进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本公开各实施例技术方案的精神和范围，均应包含在本公开的保护范围之内。

Claims (10)

1.一种抽取文本实体的方法，其特征在于，包括：
获取待处理的用户文本以及所述用户文本所属领域对应的目标辞典，其中，所述目标辞典包括多个条目，每个条目包括辞典实体和用于解释所述辞典实体的释义信息；
抽取所述用户文本中的实体信息，并对所述实体信息进行实体信息编码处理，得到实体信息矩阵，其中，所述实体信息包括多个初始文本实体；
对所述用户文本进行依存句法编码处理，得到句法信息矩阵；
对所述实体信息矩阵、所述句法信息矩阵和所述目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于所述目标辞典中所有条目的分布概率；
基于每个初始文本实体对于所述目标辞典中所有条目的分布概率，确定所述用户文本对应的多个最终文本实体。
2.根据权利要求1所述的方法，其特征在于，所述对所述实体信息进行实体信息编码处理，得到实体信息矩阵，包括：
确定每个初始文本实体中每个单词的词向量以及每个初始文本实体的类别信息的独热向量，其中，每个初始文本实体均包括多个单词和类别信息；
对每个初始文本实体对应的所有词向量进行向量平均操作，得到每个初始文本实体对应的平均向量；
对每个初始文本实体对应的平均向量和独热向量进行向量拼接处理，得到每个初始文本实体对应的实体信息向量；
对所有初始文本实体对应的实体信息向量进行编码处理，得到所述实体信息矩阵。
3.根据权利要求1所述的方法，其特征在于，所述对所述用户文本进行依存句法编码处理，得到句法信息矩阵，包括：
统计所述用户文本中与每个单词存在依存关系的其它单词的数量，以生成度矩阵；
基于所述用户文本中每个单词与其它单词存在的依存关系，生成邻接矩阵；
对所述度矩阵和所述邻接矩阵进行矩阵规范化处理；
基于经过所述矩阵规范化处理后的度矩阵和邻接矩阵，确定所述句法信息矩阵。
4.根据权利要求3所述的方法，其特征在于，所述统计所述用户文本中与每个单词存在依存关系的其它单词的数量，以生成度矩阵之前，所述方法还包括：
对所述用户文本进行语法分析，得到分析结果；
基于所述分析结果，构建所述用户文本中每两个单词之间的依存关系。
5.根据权利要求1所述的方法，其特征在于，所述对所述实体信息矩阵、所述句法信息矩阵和所述目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于所述目标辞典中所有条目的分布概率，包括：
对所述实体信息矩阵进行实体信息解码处理，得到第一解码矩阵；
对所述句法信息矩阵进行句法信息解码处理，得到第二解码矩阵，并对所述第二解码矩阵进行复制填充，得到第三解码矩阵，其中，所述第一解码矩阵和所述第三解码矩阵的矩阵维度一致；
对所述第一解码矩阵、所述第三解码矩阵和所述目标辞典进行匹配处理，得到每个初始文本实体对于所述目标辞典中所有条目的分布概率。
6.根据权利要求5所述的方法，其特征在于，所述对所述第一解码矩阵、所述第三解码矩阵和所述目标辞典进行匹配处理，得到每个初始文本实体对于所述目标辞典中所有条目的分布概率，包括：
对所述第一解码矩阵和所述第三解码矩阵进行计算，得到第一目标矩阵；
对所述第一目标矩阵和所述目标辞典进行计算，得到第二目标矩阵；
根据所述第二目标矩阵，确定每个初始文本实体对于所述目标辞典中所有条目的分布概率。
7.根据权利要求1所述的方法，其特征在于，所述基于每个初始文本实体对于所述目标辞典中所有条目的分布概率，确定所述用户文本对应的多个最终文本实体，包括：
基于每个初始文本实体对于所述目标辞典中所有条目的分布概率，确定每个初始文本实体对应的辞典实体；
组合所有初始文本实体对应的辞典实体，得到所述用户文本对应的多个最终文本实体。
8.一种抽取文本实体的装置，其特征在于，包括：
获取模块，被配置为获取待处理的用户文本以及所述用户文本所属领域对应的目标辞典，其中，所述目标辞典包括多个条目，每个条目包括辞典实体和用于解释所述辞典实体的释义信息；
第一编码模块，被配置为抽取所述用户文本中的实体信息，并对所述实体信息进行实体信息编码处理，得到实体信息矩阵，其中，所述实体信息包括多个初始文本实体；
第二编码模块，被配置为对所述用户文本进行依存句法编码处理，得到句法信息矩阵；
匹配模块，被配置为对所述实体信息矩阵、所述句法信息矩阵和所述目标辞典进行辞典语义匹配处理，得到每个初始文本实体对于所述目标辞典中所有条目的分布概率；
确定模块，被配置为基于每个初始文本实体对于所述目标辞典中所有条目的分布概率，确定所述用户文本对应的多个最终文本实体。
9.一种电子设备，包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。
CN202211237486.1A 2022-10-11 2022-10-11 抽取文本实体的方法、装置、电子设备及存储介质 Active CN115329767B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211237486.1A CN115329767B (zh) 2022-10-11 2022-10-11 抽取文本实体的方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211237486.1A CN115329767B (zh) 2022-10-11 2022-10-11 抽取文本实体的方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN115329767A CN115329767A (zh) 2022-11-11
CN115329767B true CN115329767B (zh) 2023-01-06

Family

ID=83913538

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211237486.1A Active CN115329767B (zh) 2022-10-11 2022-10-11 抽取文本实体的方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN115329767B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0853286A1 (en) * 1997-01-09 1998-07-15 Sharp Kabushiki Kaisha Method of and system for disambiguating syntactic word multiples
JP2004133003A (ja) * 2002-10-08 2004-04-30 Mitsubishi Electric Corp 音声認識辞書作成方法及びその装置と音声認識装置
CN103136352A (zh) * 2013-02-27 2013-06-05 华中师范大学 基于双层语义分析的全文检索系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003505778A (ja) * 1999-05-28 2003-02-12 セーダ インコーポレイテッド 音声制御ユーザインタフェース用の認識文法作成の特定用途を有する句ベースの対話モデル化

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0853286A1 (en) * 1997-01-09 1998-07-15 Sharp Kabushiki Kaisha Method of and system for disambiguating syntactic word multiples
JP2004133003A (ja) * 2002-10-08 2004-04-30 Mitsubishi Electric Corp 音声認識辞書作成方法及びその装置と音声認識装置
CN103136352A (zh) * 2013-02-27 2013-06-05 华中师范大学 基于双层语义分析的全文检索系统

Also Published As

Publication number Publication date
CN115329767A (zh) 2022-11-11

Similar Documents

Publication Publication Date Title
CN110705301B (zh) 实体关系抽取方法及装置、存储介质、电子设备
CN110377740B (zh) 情感极性分析方法、装置、电子设备及存储介质
CN111210335B (zh) 用户风险识别方法、装置及电子设备
CN111177319A (zh) 风险事件的确定方法、装置、电子设备和存储介质
CN114385780B (zh) 程序接口信息推荐方法、装置、电子设备和可读介质
CN111198945A (zh) 数据处理方法、装置、介质及电子设备
CN110634050B (zh) 一种鉴别房源类型的方法、装置、电子设备及存储介质
CN115640815A (zh) 翻译方法、装置、可读介质及电子设备
CN110852057A (zh) 一种计算文本相似度的方法和装置
CN114036921A (zh) 一种政策信息匹配方法和装置
CN115329767B (zh) 抽取文本实体的方法、装置、电子设备及存储介质
CN116402166A (zh) 一种预测模型的训练方法、装置、电子设备及存储介质
CN116502147A (zh) 异常检测模型的训练方法及相关设备
CN115238676A (zh) 招标需求热点识别方法、装置、存储介质及电子设备
CN110929512A (zh) 一种数据增强方法和装置
CN114529309A (zh) 一种信息审核方法、装置、电子设备及计算机可读介质
CN113935334A (zh) 文本信息处理方法、装置、设备和介质
CN113066479A (zh) 一种评测模型的方法和装置
CN113742564A (zh) 目标资源的推送方法和装置
CN112905786A (zh) 一种标签推荐方法和装置
CN117172220B (zh) 文本相似信息生成方法、装置、设备和计算机可读介质
CN111241431A (zh) 一种网页分类方法和装置
CN115758368B (zh) 恶意破解软件的预测方法、装置、电子设备和存储介质
CN115204150B (zh) 信息校验方法、装置、电子设备和计算机可读介质
CN115270799B (zh) 命名实体识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant