CN112507719A - 命名实体识别方法、装置、电子设备及存储介质 - Google Patents

Abstract

本公开公开了命名实体识别方法、装置、电子设备及存储介质，涉及自然语言处理、计算机视觉及深度学习等人工智能领域，其中的方法可包括：分别获取待识别的文本中的各字符对应的字向量和位置向量；根据获取到的字向量和位置向量，分别确定出各字符对应的局部注意力结果；对获取到的局部注意力结果进行投影映射，分别得到各字符对应的投影映射结果；根据获取到的投影映射结果分别确定出各字符对应的命名实体识别标签。应用本公开所述方案，可降低实现复杂度及节省计算资源等。

Description

命名实体识别方法、装置、电子设备及存储介质

技术领域

本公开涉及人工智能技术领域，特别涉及自然语言处理、计算机视觉及深度学习等领域的命名实体识别方法、装置、电子设备及存储介质。

背景技术

命名实体识别(NER，Named Entity Recognition)是指识别出文本中特定类别的实体词，如人名、地名、机构名等。

命名实体识别任务是典型的序列标注任务，可采用基于全局注意力的命名实体识别方式等。

但基于全局注意力的方式中，计算复杂度与文本长度的平方成正比，导致文本长度增大时性能严重下降，而且，每个单词均与文本中的所有单词计算相关性等，而实际起作用的只有邻近的几个单词，因此存在大量无意义的计算，浪费了计算资源等。

发明内容

本公开提供了命名实体识别方法、装置、电子设备及存储介质。

一种命名实体识别方法，包括：

分别获取待识别的文本中的各字符对应的字向量和位置向量；

根据所述字向量和所述位置向量，分别确定出各字符对应的局部注意力结果；

对所述局部注意力结果进行投影映射，分别得到各字符对应的投影映射结果；

根据所述投影映射结果分别确定出各字符对应的命名实体识别标签。

一种命名实体识别装置，包括：向量获取模块、局部注意力模块、投影映射模块以及结果获取模块；

所述向量获取模块，用于分别获取待识别的文本中的各字符对应的字向量和位置向量；

所述局部注意力模块，用于根据所述字向量和所述位置向量，分别确定出各字符对应的局部注意力结果；

所述投影映射模块，用于对所述局部注意力结果进行投影映射，分别得到各字符对应的投影映射结果；

所述结果获取模块，用于根据所述投影映射结果分别确定出各字符对应的命名实体识别标签。

一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如以上所述的方法。

一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行如以上所述的方法。

一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如以上所述的方法。

上述公开中的一个实施例具有如下优点或有益效果：利用实体识别中对于局部特征的依赖特性，采用了基于局部注意力的命名实体识别方式，从而降低了计算复杂度，并避免了大量无意义的计算，节省了计算资源，另外解决了基于全局注意力的方式中难以处理长文本的问题，提升了识别性能等。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1为本公开所述命名实体识别方法实施例的流程图；

图2为本公开所述命名实体识别过程的示意图；

图3为本公开所述命名实体识别装置30实施例的组成结构示意图；

图4示出了可以用来实施本公开的实施例的示例电子设备400的示意性框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

另外，应理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

图1为本公开所述命名实体识别方法实施例的流程图。如图1所示，包括以下具体实现方式。

在步骤101中，分别获取待识别的文本中的各字符对应的字向量和位置向量。

在步骤102中，根据获取到的字向量和位置向量，分别确定出各字符对应的局部注意力结果。

在步骤103中，对获取到的局部注意力结果进行投影映射，分别得到各字符对应的投影映射结果。

在步骤104中，根据获取到的投影映射结果分别确定出各字符对应的命名实体识别标签。

可以看出，上述方法实施例所述方案中，利用实体识别中对于局部特征的依赖特性，采用了基于局部注意力的命名实体识别方式，从而降低了计算复杂度，并避免了大量无意义的计算，节省了计算资源，另外解决了基于全局注意力的方式中难以处理长文本的问题，提升了识别性能等。

针对待识别的文本，需要将其转换为向量的形式才能使用相关模型进行处理。为此，如步骤101中所述，可分别获取文本中的各字符对应的字向量和位置向量。

其中，针对文本中的每个字符，可分别按照以下方式获取其对应的位置向量：将该字符作为基准字符，分别获取基准字符与各非基准字符之间的相对位置向量，非基准字符为文本中除基准字符外的其它各字符。

为便于区分不同的字符，将当前处理的字符称为基准字符，相应地，将其它字符称为非基准字符。针对基准字符，可分别获取基准字符与各非基准字符之间的相对位置向量，用以表示基准字符与各非基准字符之间的相对位置。

如何获取各字符对应的字向量和相对位置向量为现有技术。

如步骤102中所述，根据获取到的字向量和相对位置向量，可分别确定出文本中的各字符对应的局部注意力结果。注意力表示两个字符间的相关程度，局部表示只计算相邻上下文的注意力。

针对文本中的每个字符，可分别按照以下方式确定出其对应的局部注意力结果：将该字符作为基准字符，分别获取各非基准字符相对于基准字符的注意力权重，根据获取到的注意力权重确定出基准字符对应的局部注意力结果。

其中，针对每个非基准字符，可分别根据非基准字符对应的字向量、基准字符对应的字向量以及基准字符与非基准字符之间的相对位置向量，确定出非基准字符相对于基准字符的注意力权重。

具体地，可进行以下计算：

其中，E_i表示基准字符i对应的字向量，E_j表示非基准字符j对应的字向量，R_i-j表示基准字符i和非基准字符j的相对位置向量，W_q、W_kE、W_kR、u^T和v^T分别为模型学习到的参数，其中，W_q、W_kE和W_kR为矩阵形式，u^T和v^T为向量形式。

根据得到的各A′_i,j，可组成第一矩阵A′，并可对第一矩阵进一步进行以下处理：

A＝softmax(A′)； (2)

其中，softmax表示归一化处理。第二矩阵A中的每个元素A_i,j分别表示对应的非基准字符j相对于基准字符i的注意力权重。

假设文本中共包括六个字符，分别为字符1-字符6，以字符1为例，即i＝1，第二矩阵中会记录有字符2相对于字符1的注意力权重A_1,2、字符3相对于字符1的注意力权重A_1,3、字符4相对于字符1的注意力权重A_1,4、字符5相对于字符1的注意力权重A_1,5以及字符6相对于字符1的注意力权重A_1,6，其它类推。

另外，还可获取基准字符相对于基准字符自身的的注意力权重，计算方式可如公式(1)中所示，只是将E_j替换为E_i，相应地，第一矩阵和第二矩阵中也需要记录对应的注意力权重。

在按照公式(1)等方式进行计算时，针对不同的基准字符、不同的非基准字符，可并行进行计算，以提升处理效率等。

针对任一基准字符，根据获取到的注意力权重，可按照以下方式确定出其对应的局部注意力结果：获取设定的相邻上下文长度w，w为正整数，将位于基准字符左侧的w个相邻非基准字符、位于基准字符右侧的w个相邻非基准字符以及基准字符组成第一集合；针对第一集合中的每个字符，分别计算该字符相对于基准字符的注意力权重与该字符对应的字向量的乘积；将各乘积相加，得到基准字符对应的局部注意力结果。w的具体取值可根据实际需要而定。

即有：

其中，c_i表示基准字符对应的局部注意力结果。

比如，待识别的文本为“鲁迅籍贯是绍兴”，以“籍”作为基准字符时为例，假设w的取值为1，那么可获取位于“籍”左侧的1个相邻非基准字符“迅”，并可获取位于“籍”右侧的1个相邻非基准字符“贯”，利用“迅”、“籍”和“贯”组成第一集合，并可分别计算“迅”相对于“籍”的注意力权重与“迅”对应的字向量的乘积、“籍”相对于“籍”的注意力权重与“籍”对应的字向量的乘积，以及“贯”相对于“籍”的注意力权重与“贯”对应的字向量的乘积，将得到的三个乘积相加，将相加之和作为“籍”对应的局部注意力结果。

另外，仍以待识别的文本为“鲁迅籍贯是绍兴”为例，并仍假设w的取值为1，那么可以看出，当“鲁”作为基准字符时，不存在位于其左侧的1个相邻非基准字符，当“兴”作为基准字符时，不存在位于其右侧的1个相邻非基准字符，也就是说，对于“鲁”和“兴”，将无法按照本公开所述方式获取其对应的局部注意力结果。为克服该问题，在实际应用中，可预先对文本进行填充(padding)处理，即在文本的首尾两侧分别添加预定个数的字符，所添加的字符的具体内容不限，比如，可为与文本内容无关的任意字符，所添加的字符的个数可根据w的取值而定，针对添加的各字符，可按照与文本中原有的字符一样的方式进行处理，即获取其对应的字向量、位置向量、注意力权重等。

另外，还可采用多头注意力机制。相应地，针对任一基准字符，可获取设定的M个不同的相邻上下文长度，M为大于一的正整数，针对每个相邻上下文长度，分别获取基准字符对应的局部注意力结果，将M个局部注意力结果按预定顺序进行拼接，将拼接结果作为最终得到的基准字符对应的局部注意力结果。

比如，获取到了2个不同的相邻上下文长度，分别为1和2，并假设待识别的文本为“鲁迅籍贯是绍兴”，以“籍”作为基准字符时为例，当w的取值为1，可获取到“籍”对应的局部注意力结果，当w的取值为2时，可获取位于“籍”左侧的2个相邻非基准字符“鲁迅”，并可获取位于“籍”右侧的2个相邻非基准字符“贯是”，利用“鲁迅”、“籍”和“贯是”组成第一集合，并可分别计算“鲁”相对于“籍”的注意力权重与“鲁”对应的字向量的乘积、“迅”相对于“籍”的注意力权重与“迅”对应的字向量的乘积、“籍”相对于“籍”的注意力权重与“籍”对应的字向量的乘积、“贯”相对于“籍”的注意力权重与“贯”对应的字向量的乘积，以及“是”相对于“籍”的注意力权重与“是”对应的字向量的乘积，进而可将得到的五个乘积相加，将相加之和作为“籍”对应的局部注意力结果，这样，针对“籍”，共得到了两个局部注意力结果，可将这两个局部注意力结果按预定顺序进行拼接，进而将拼接结果作为最终得到的“籍”对应的局部注意力结果。

所述预定顺序具体为何种顺序不限。比如，可按照w的取值从小到大的顺序进行拼接。

通过上述处理，可使得得到的局部注意力结果中融合了更为丰富的信息，从而提升了后续处理结果的准确性等。

如步骤103中所述，在获取到文本中的各字符对应的局部注意力结果后，可对局部注意力结果进行投影映射，从而分别得到各字符对应的投影映射结果。

比如，可使用全连接网络对局部注意力结果进行投影映射，并进行非线性变换：h_i＝ReLU(W_hc_i+b_h)； (4)

其中，h_i表示任一字符对应的投影映射结果，W_h和b_h为模型学习到的参数，W_h为矩阵形式，b_h为向量形式。

如步骤104中所述，可根据投影映射结果分别确定出各字符对应的命名实体识别标签(或简称为标签)。

比如，可根据投影映射结果，通过条件随机场分别确定出各字符对应的标签，即通过条件随机场分别预测出各字符对应的标签。

条件随机场的具体实现为现有技术。通过条件随机场，可准确高效地预测出各字符对应的标签。

进一步地，还可分别将各字符对应的标签解码为明文，从而得到待识别的文本对应的命名实体识别结果。

标签的类型可包括B-x、I-x、O等。其中，O表示非实体词，B-x表示x类实体词的开始，I-x表示x类实体词的持续，可通过B/I的标签确定出实体词边界，x表示实体词的类别。

通过转换为明文，可方便用户对于实体识别结果进行查看等。

基于上述介绍，图2为本公开所述命名实体识别过程的示意图。

如图2所示，假设待识别的文本为“鲁迅籍贯是绍兴”，那么可首先可分别获取其中的各字符对应的字向量和位置向量。其中，在获取位置向量时，针对每个字符，可分别将该字符作为基准字符，并分别获取基准字符与各非基准字符之间的相对位置向量，非基准字符为文本中除基准字符外的其它各字符。比如，当基准字符为“鲁”时，可分别获取“鲁”与“迅”、“鲁”与“籍”、“鲁”与“贯”、“鲁”与“是”、“鲁”与“绍”以及“鲁”与“兴”之间的相对位置向量。

之后，可根据获取到的字向量和位置向量，通过局部注意力机制，分别确定出各字符对应的局部注意力结果，即图2中所示的c₁-c₇，假设w的取值为1。

之后，可对获取到的局部注意力结果进行投影映射，从而分别得到各字符对应的投影映射结果，即图2中所示的h₁-h₇。

进一步地，可根据投影映射结果，通过条件随机场分别确定出各字符对应的标签，图2中的o₁-o₇分别表示各字符对应于不同标签的概率打分。

对于得到的“B-PER”、“I-PER”、“O”、“B-LOC”和“I-LOC”等标签，还可将其解码为明文，从而得到“鲁迅籍贯是绍兴”对应的命名实体识别结果，其中，“鲁迅”为人名，“绍兴”为地名。

图2所示过程可通过一个模型来实现，可预先基于标注后的训练数据对模型进行训练，从而使得模型学习到所需的各种参数等。

需要说明的是，对于前述的方法实施例，为了简单描述，将其表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本公开所必须的。

以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。

图3为本公开所述命名实体识别装置30实施例的组成结构示意图。如图3所示，包括：向量获取模块301、局部注意力模块302、投影映射模块303以及结果获取模块304。

向量获取模块301，用于分别获取待识别的文本中的各字符对应的字向量和位置向量。

局部注意力模块302，用于根据获取到的字向量和位置向量，分别确定出各字符对应的局部注意力结果。

投影映射模块303，用于对获取到的局部注意力结果进行投影映射，分别得到各字符对应的投影映射结果。

结果获取模块304，用于根据获取到的投影映射结果分别确定出各字符对应的命名实体识别标签。

其中，向量获取模块301可针对文本中的每个字符，分别进行以下处理：将该字符作为基准字符，分别获取基准字符与各非基准字符之间的相对位置向量，非基准字符为文本中除基准字符外的其它各字符。

局部注意力模块302可针对文本中的每个字符，分别进行以下处理：将该字符作为基准字符，分别获取各非基准字符相对于基准字符的注意力权重，根据注意力权重确定出基准字符对应的局部注意力结果。

具体地，局部注意力模块302可针对每个非基准字符，分别根据非基准字符对应的字向量、基准字符对应的字向量以及基准字符与非基准字符之间的相对位置向量等，确定出非基准字符相对于基准字符的注意力权重。

另外，局部注意力模块302还可获取基准字符相对于基准字符的注意力权重。相应地，局部注意力模块302可获取设定的相邻上下文长度w，w为正整数，将位于基准字符左侧的w个相邻非基准字符、位于基准字符右侧的w个相邻非基准字符以及基准字符组成第一集合，针对第一集合中的每个字符，分别计算该字符相对于基准字符的注意力权重与该字符对应的字向量的乘积，将各乘积相加，得到基准字符对应的局部注意力结果。

进一步地，局部注意力模块302还可获取设定的M个不同的相邻上下文长度，M为大于一的正整数，针对每个相邻上下文长度，分别获取基准字符对应的局部注意力结果，将M个局部注意力结果按预定顺序进行拼接，将拼接结果作为最终得到的基准字符对应的局部注意力结果。

投影映射模块303可对获取到的局部注意力结果进行投影映射，从而分别得到各字符对应的投影映射结果。进一步地，结果获取模块304可根据投影映射结果，通过条件随机场分别确定出各字符对应的命名实体识别标签。

另外，结果获取模块304还可分别将各字符对应的命名实体识别标签解码为明文，从而得到待识别的文本对应的命名实体识别结果。

图3所示装置实施例的具体工作流程请参照前述方法实施例中的相关说明，不再赘述。

总之，采用本公开装置实施例所述方案，利用实体识别中对于局部特征的依赖特性，采用了基于局部注意力的命名实体识别方式，从而降低了计算复杂度，并避免了大量无意义的计算，节省了计算资源，另外解决了基于全局注意力的方式中难以处理长文本的问题，提升了识别性能等。

本公开所述方案可应用于人工智能领域，特别涉及自然语言处理、计算机视觉及深度学习等领域。

人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术，人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术，人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图4示出了可以用来实施本公开的实施例的示例电子设备400的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图4所示，设备400包括计算单元401，其可以根据存储在只读存储器(ROM)402中的计算机程序或者从存储单元408加载到随机访问存储器(RAM)403中的计算机程序，来执行各种适当的动作和处理。在RAM 403中，还可存储设备400操作所需的各种程序和数据。计算单元401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。

设备400中的多个部件连接至I/O接口405，包括：输入单元406，例如键盘、鼠标等；输出单元407，例如各种类型的显示器、扬声器等；存储单元408，例如磁盘、光盘等；以及通信单元409，例如网卡、调制解调器、无线通信收发机等。通信单元409允许设备400通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元401可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元401的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元401执行上文所描述的各个方法和处理，例如本公开所述的方法。例如，在一些实施例中，本公开所述的方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元408。在一些实施例中，计算机程序的部分或者全部可以经由ROM 402和/或通信单元409而被载入和/或安装到设备400上。当计算机程序加载到RAM 403并由计算单元401执行时，可以执行本公开所述的方法的一个或多个步骤。备选地，在其他实施例中，计算单元401可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行本公开所述的方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (19)

1.一种命名实体识别方法，包括：

分别获取待识别的文本中的各字符对应的字向量和位置向量；

根据所述字向量和所述位置向量，分别确定出各字符对应的局部注意力结果；

对所述局部注意力结果进行投影映射，分别得到各字符对应的投影映射结果；

根据所述投影映射结果分别确定出各字符对应的命名实体识别标签。

2.根据权利要求1所述的方法，其中，分别获取待识别的文本中的各字符对应的位置向量包括：

针对所述文本中的每个字符，分别进行以下处理：

将所述字符作为基准字符；

分别获取所述基准字符与各非基准字符之间的相对位置向量，所述非基准字符为所述文本中除所述基准字符外的其它各字符。

3.根据权利要求2所述的方法，其中，所述分别确定出各字符对应的局部注意力结果包括：

针对所述文本中的每个字符，分别进行以下处理：

将所述字符作为基准字符；

分别获取各非基准字符相对于所述基准字符的注意力权重；

根据所述注意力权重确定出所述基准字符对应的局部注意力结果。

4.根据权利要求3所述的方法，其中，所述分别获取各非基准字符相对于所述基准字符的注意力权重包括：

针对每个非基准字符，分别根据所述非基准字符对应的字向量、所述基准字符对应的字向量以及所述基准字符与所述非基准字符之间的相对位置向量，确定出所述非基准字符相对于所述基准字符的注意力权重。

5.根据权利要求3所述的方法，还包括：获取所述基准字符相对于所述基准字符的注意力权重；

所述根据所述注意力权重确定出所述基准字符对应的局部注意力结果包括：

获取设定的相邻上下文长度w，w为正整数，将位于所述基准字符左侧的w个相邻非基准字符、位于所述基准字符右侧的w个相邻非基准字符以及所述基准字符组成第一集合；

针对所述第一集合中的每个字符，分别计算所述字符相对于所述基准字符的注意力权重与所述字符对应的字向量的乘积；

将各乘积相加，得到所述基准字符对应的局部注意力结果。

6.根据权利要求5所述的方法，还包括：

获取设定的M个不同的相邻上下文长度，M为大于一的正整数；

针对每个相邻上下文长度，分别获取所述基准字符对应的局部注意力结果；

将M个局部注意力结果按预定顺序进行拼接，将拼接结果作为最终得到的所述基准字符对应的局部注意力结果。

7.根据权利要求1所述的方法，其中，所述根据所述投影映射结果分别确定出各字符对应的命名实体识别标签包括：

根据所述投影映射结果，通过条件随机场分别确定出各字符对应的命名实体识别标签。

8.根据权利要求1所述的方法，还包括：

分别将各字符对应的命名实体识别标签解码为明文，得到所述文本对应的命名实体识别结果。

9.一种命名实体识别装置，包括：向量获取模块、局部注意力模块、投影映射模块以及结果获取模块；

所述向量获取模块，用于分别获取待识别的文本中的各字符对应的字向量和位置向量；

所述局部注意力模块，用于根据所述字向量和所述位置向量，分别确定出各字符对应的局部注意力结果；

所述投影映射模块，用于对所述局部注意力结果进行投影映射，分别得到各字符对应的投影映射结果；

所述结果获取模块，用于根据所述投影映射结果分别确定出各字符对应的命名实体识别标签。

10.根据权利要求9所述的装置，其中，

所述向量获取模块针对所述文本中的每个字符，分别进行以下处理：将所述字符作为基准字符；分别获取所述基准字符与各非基准字符之间的相对位置向量，所述非基准字符为所述文本中除所述基准字符外的其它各字符。

11.根据权利要求10所述的装置，其中，

所述局部注意力模块针对所述文本中的每个字符，分别进行以下处理：将所述字符作为基准字符；分别获取各非基准字符相对于所述基准字符的注意力权重；根据所述注意力权重确定出所述基准字符对应的局部注意力结果。

12.根据权利要求11所述的装置，其中，

所述局部注意力模块针对每个非基准字符，分别根据所述非基准字符对应的字向量、所述基准字符对应的字向量以及所述基准字符与所述非基准字符之间的相对位置向量，确定出所述非基准字符相对于所述基准字符的注意力权重。

13.根据权利要求11所述的装置，其中，

所述局部注意力模块进一步用于，获取所述基准字符相对于所述基准字符的注意力权重；

所述局部注意力模块获取设定的相邻上下文长度w，w为正整数，将位于所述基准字符左侧的w个相邻非基准字符、位于所述基准字符右侧的w个相邻非基准字符以及所述基准字符组成第一集合，针对所述第一集合中的每个字符，分别计算所述字符相对于所述基准字符的注意力权重与所述字符对应的字向量的乘积，将各乘积相加，得到所述基准字符对应的局部注意力结果。

14.根据权利要求13所述的装置，其中，

所述局部注意力模块进一步用于，获取设定的M个不同的相邻上下文长度，M为大于一的正整数，针对每个相邻上下文长度，分别获取所述基准字符对应的局部注意力结果，将M个局部注意力结果按预定顺序进行拼接，将拼接结果作为最终得到的所述基准字符对应的局部注意力结果。

15.根据权利要求9所述的装置，其中，

所述结果获取模块根据所述投影映射结果，通过条件随机场分别确定出各字符对应的命名实体识别标签。

16.根据权利要求9所述的装置，其中，

所述结果获取模块进一步用于，分别将各字符对应的命名实体识别标签解码为明文，得到所述文本对应的命名实体识别结果。

17.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。

18.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行权利要求1-8中任一项所述的方法。

19.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。

Images