CN114445833A

CN114445833A - 文本识别方法、装置、电子设备和存储介质

Info

Publication number: CN114445833A
Application number: CN202210110387.0A
Authority: CN
Inventors: 李煜林; 钦夏孟; 章成全; 姚锟
Original assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Current assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Priority date: 2022-01-28
Filing date: 2022-01-28
Publication date: 2022-05-06
Anticipated expiration: 2042-01-28

Abstract

本公开提供了一种文本识别方法，涉及人工智能技术领域，尤其涉及深度学习技术和计算机视觉技术。具体实现方案为：根据待处理图像的文本特征，得到文本特征图；对待处理图像进行视觉特征提取，得到视觉特征；根据文本特征图和视觉特征，得到待处理图像中的融合文档特征；以及根据融合文档特征，识别待处理图像中的文本。本公开还提供了一种文本识别装置、电子设备和存储介质。

Description

文本识别方法、装置、电子设备和存储介质

技术领域

本公开涉及人工智能技术领域，尤其涉及深度学习技术和计算机视觉技术，可应用于OCR(Optical Character Recognition，光学字符识别)等场景。更具体地，本公开提供了一种文本识别方法、装置、电子设备和存储介质。

背景技术

文本是一种重要的信息载体，可以应用在各种场景中。可以通过多种方式从文本中识别出关键信息，例如人工识别出文本中的关键词。

发明内容

本公开提供了一种文本识别方法、装置、设备以及存储介质。

根据第一方面，提供了一种文本识别方法，该方法包括：根据待处理图像的文本特征，得到文本特征图；对所述待处理图像进行视觉特征提取，得到视觉特征；根据所述文本特征图和所述视觉特征，得到所述待处理图像中的融合文档特征；以及根据所述融合文档特征，识别所述待处理图像中的文本。

根据第二方面，提供了一种文本识别装置，该装置包括：第一获得模块，用于根据待处理图像的文本特征，得到文本特征图；视觉特征提取模块，用于对所述待处理图像进行视觉特征提取，得到视觉特征；第二获得模块，用于根据所述文本特征图和所述视觉特征，得到所述待处理图像中的融合文档特征；以及识别模块，用于根据所述融合文档特征，识别所述待处理图像中的文本。

根据第三方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行根据本公开提供的方法。

根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行根据本公开提供的方法。

根据第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据本公开提供的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开的一个实施例的可以应用文本识别方法和装置的示例性系统架构示意图；

图2是根据本公开的一个实施例的文本识别方法的流程图；

图3是根据本公开的另一个实施例的文本识别方法的流程图；

图4是根据本公开的另一个实施例的文本识别方法的流程图；

图5是根据本公开的另一个实施例的文本识别方法的流程图；

图6是根据本公开的一个实施例的文本识别方法的原理图；

图7是根据本公开的另一个实施例的文本识别方法的原理图；

图8是根据本公开的一个实施例的文本识别装置的框图；以及

图9是根据本公开的一个实施例的可以应用文本识别方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

根据一种基于人工的文本识别方法，可以利用人工来进行文本识别，将识别出的内容记录并人工上传至服务器。该方法的人力成本较高。

根据一种基于关键词匹配的文本识别方法，可以搜索文本内的关键词，并利用相关规则从文本中匹配出与搜索到的关键词对应的文本片段。该方法需要确定相关规则，且局限于固定样式的文档，无法快速扩展。

根据一种基于自然语言处理模型的文本识别方法，可以利用自然语言处理模型确定文本中每个文字的类别，并抽取命名实体的信息。例如，对于文本“张三去省会出差”，抽取出的命名实体的信息可以包括：姓名实体“张三”和地点实体“省会”等等。该方法只能对纯文本进行实体抽取，忽略了文本中内容的视觉排版，容易导致语义混淆。

图1是根据本公开的一个实施例的可以应用文本识别方法和装置的示例性系统架构示意图。

需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。

如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

需要说明的是，本公开实施例所提供的文本识别方法一般可以由服务器105执行。相应地，本公开实施例所提供的文本识别装置一般可以设置于服务器105中。本公开实施例所提供的文本识别方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的文本识别装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。

图2是根据本公开的一个实施例的文本识别方法的流程图。

如图2所示，该方法200可以包括操作S210至操作S240。

在操作S210，根据待处理图像的文本特征，得到文本特征图。

例如，待处理图像可以是文本的图像。在一个示例中，可以对纸质文档进行扫描，以获取文本的图像。在另一个示例中，可以利用摄像设备，拍摄纸质文档的照片，以获取文本的图像。

例如，可以利用各种OCR技术，从待处理图像中识别出文字。再根据文字，得到待处理图像的文本特征。

在操作S220，对待处理图像进行视觉特征提取，得到视觉特征。

例如，可以对待处理图像进行特征提取，得到图像特征。再根据图像特征，得到视觉特征。

在操作S230，根据文本特征图和视觉特征，得到待处理图像中的融合文档特征。

例如，可以将文本特征图和视觉特征融合，得到融合文档特征。在一个示例中，可以将文本特征图和视觉特征拼接。

在操作S240，根据融合文档特征，识别待处理图像中的文本。

例如，可以根据融合文档特征，确定待处理文档的语义特征。再根据语义特征，识别出待处理图像中的文字。

例如，文本可以是文档中的实体的名称。在一个示例中，文本可以是日期、地址、电话、名称等。

通过本公开实施例，融合了文本特征和视觉特征，利用了文档的空间排版信息，可以提高识别文本中信息的准确率。

在一些实施例中，文本识别方法还可以包括：确定待处理图像中的至少一个文本区域；以及针对每个文本区域，进行文本特征提取，得到待处理图像的文本特征。

例如，每个文本区域与文档中的一行文字对应。在一个示例中，与待处理图像对应的文档中包含3行文字，相应地，可以从待处理图像中确定3个文本区域。

例如，如上文所述，利用各种OCR技术，从待处理图像中识别出了文字。可以根据每个文本区域内的每个文字，进行文本特征提取，得到待处理图像的文本特征。在一个示例中，可以将一个文本区域内的每个文字编码成d维的向量。再利用BiLSTM(BidirectionalLong Short-Term Memory，双向长短时记忆)模型，得到与每个文本区域对应的文本特征。比如，可以通过以下公式得到文本特征t_i。

t_i＝BiLSTM({c_ij})，j∈[1，k_i] (公式一)

c_ij为第i个文本区域的第j个文字。第i个文本区域中包含k_i个文字。待处理图像中包含N个文字区域。N为大于或等于1的整数，j为大于或等于1的整数，j为小于或等于k_i的整数，i为小于或等于N的整数。

图3是根据本公开的另一个实施例的文本识别方法的流程图。

如图3所示，方法310可以根据待处理图像的文本特征，得到文本特征图，下面将结合操作S311和操作S312进行详细说明。

在操作S311，针对每个文本特征，对每个文本特征进行处理，得到经处理的文本特征。

在本公开实施例中，可以利用全连接层处理每个文本特征，得到经处理的文本特征。

例如，利用全连接层处理文本特征t_i，得到经处理的文本特征

在操作S312，根据每个文本特征的对应文本区域在待处理图像中的位置，将经处理的文本特征添加到文本特征图的对应位置处。

在本公开实施例中，经处理的文本特征的维度、文本特征图的维度与视觉特征的维度彼此一致。

例如，可以生成一个w×h×d的特征图T₀。该特征图的维度可以与视觉特征的维度相同。

例如，第i个文本区域的位置可以为(x_i，y_i，w_i1，h_i1)。(x_i，y_i)为与第i个文本区域在待处理图像中的左上顶点坐标。w_i1为第i个文本区域的宽度。h_i1为第i个文本区域的高度。

例如，经处理的文本特征

的维度为w_i2×h_i2×d。在一个示例中，

w_i2＝w。

例如，根据特征图T₀中与坐标(x_i，y_i)对应的位置，将经处理的文本特征

添加到特征图T₀中。采用类似的方式，将N个经处理的文本特征添加到特征图T₀之后，可以得到文本特征图T。

通过本公开实施例，获得的文本特征图具有与视觉特征一致的维度，使得文本特征图和视觉特征可以融合。

图4是根据本公开的另一个实施例的文本识别方法的流程图。

如图4所示，该方法420可以对待处理图像进行视觉特征提取，得到视觉特征，下面将结合操作S421至操作S423进行详细说明。

在操作S421，确定待处理图像的图像特征。

例如，可以利用CNN(Convolutional Neural Networks，卷积神经网络)模型，确定待处理图像的图像特征F。在一个示例中，图像特征F的尺寸可以是w×h×d。

在操作S422，根据图像特征，确定待处理图像的空间特征。

在本公开实施例中，根据图像特征，确定图像特征的对应位置信息。

例如，可以确定图像特征F中每个元素的坐标，作为对应位置信息。

在本公开实施例中，将对应位置信息编码为空间特征。

在本公开实施例中，空间特征的维度可以与图像特征的维度一致。

例如，可以利用一个全连接层，将每个元素的坐标编码成d的向量，可以得到空间特征P。空间特征P的尺寸可以是w×h×d。

在操作S423，基于图像特征和空间特征，得到待处理图像的视觉特征。

在本公开实施例中，可以对图像特征和空间特征进行融合，得到视觉特征。

例如，可以将图像特征F和空间特征P相加，得到视觉特征V。视觉特征V的尺寸可以是w×h×d。

在一些实施例中，根据文本特征图和视觉特征，得到待处理图像中的融合文档特征包括：将文本特征图和视觉特征融合，得到融合文档特征。

例如，通过以下公式将文本特征图和视觉特征融合，得到融合文档特征I：

I＝concat(V，T) (公式二)

concat(·)为拼接函数。在一个示例中，融合文档特征I的尺寸为w×h×2d。

需要说明的是，融合文档特征I的尺寸也可以是为2w×h×d或w×2h×d。

图5是根据本公开的另一个实施例的文本识别方法的流程图。

如图5所示，该方法540可以根据融合文档特征，识别待处理图像中的文本，下面将结合操作S541至操作S543进行详细说明。

在操作S541，对融合文档特征进行编码，得到编码的融合文档特征。

例如，可以通过以下公式对融合文档特征I进行编码，得到编码的融合文档特征H₀：

H₀＝reshape(I) (公式三)

在一个示例中，如上文所述，融合文档特征I的尺寸为w×h×2d。编码的融合文档特征H₀的尺寸可以为wh×2d。

在操作S542，根据编码的融合文档特征，确定待处理图像的语义特征。

例如，可以利用K个级联的Transformer模型确定语义特征。K为大于或等于1的整数。

例如，可以将编码的融合文档特征H₀输入第1个Transformer模型，得到输出特征H₁。将第k-1个输出特征输入第k个Transformer模型，得到输出特征H_k。k为小于或等于K的整数。

在一个示例中，可以通过以下公式得到输出特征H_k：

W_k1为第k个Transformer模型的第一参数矩阵，W_k2为第k个Transformer模型的第二参数矩阵，σ(·)可以为Softmax函数。

例如，根据公式四得到最后一个Transformer模型的输出特征H_K之后，可以根据输出特征H_K得到语义特征Sem。

在一个示例中，可以通过以下公式得到语义特征Sem：

Sem＝reshape(H_K) (公式五)

语义特征Sem的尺寸可以为w×h×2d。

在操作S543，根据语义特征，识别待处理图像中的文本。

例如，可以根据语义特征Sem上的每个特征t^s，进行文本识别，得到待处理图像中的文本。

图6是根据本公开的一个实施例的文本识别方法的原理图。

如图6所示，可以将待处理图像Image输入文本特征提取模型610，得到文本特征图T。可以将待处理图像Image输入视觉特征提取模型620，得到视觉特征V。根据文本特征图T和视觉特征V，可以得到待处理图像Image中的融合文档特征I。将融合文档特征I输入语义特征提取模型630，可以确定待处理图像Image的语义特征Sem。再将语义特征Sem输入识别模型640，可以识别出待处理图像Image中的文本。

图7是根据本公开另一个实施例的文本识别方法的原理图。

如图7所示，文本特征提取模型710可以包括OCR层711、BiLSTM层712、全连接层713和嵌入层714。在一个示例中，BiLSTM层712可以是基于上文所述的BiLSTM模型构建的。

对应待处理图像Image的文档中包含多行文字。待处理图像Image中包含多个文本区域，每个文本区域与一行文字对应。

文本特征提取模型710可以处理待处理图像Image，输出文本特征图T。例如，OCR层711可以识别出待处理图像Image中的文字。将每个文本区域中的每个文字编码成d维的向量，得到与每个文本区域对应的多个向量。BiLSTM层712可以根据多个向量，输出与每个文本区域对应的文本特征。全连接层713可以处理多个文本特征，输出多个经处理的文本特征。嵌入层714可以根据对应每个文本特征的文本区域在待处理图像Image中的位置，将经处理后的文本特征添加至特征图T₀，输出文本特征图T。

视觉特征提取模型720可以包括CNN层721和位置编码层722。在一个示例中，CNN层721可以是基于上文所述的CNN模型构建的。

视觉特征提取模型710可以处理待处理图像Image，输出视觉特征V。CNN层721可以确定待处理图像Image的图像特征F。位置编码层可以根据图像特征F，确定待处理图像Image的空间特征P。接下来，将图像特征F和空间特征P相加，可以得到待处理图像Image的视觉特征V。

接下来，将文本特征图T和视觉特征V拼接，得到融合文档特征I。融合文档特征I的尺寸可以为w×h×2d。

语义特征提取模型730可以包括Reshape层731、K个Transformer层和Reshape层735。在一个示例中，Transformer层可以是基于上文所述的Transformer模型构建的。

语义特征提取模型730可以根据融合文档特征I，确定待处理图像Image的语义特征Sem。例如，Reshape层731可以对融合文档特征I进行编码，得到编码的融合文档特征H₀。编码的融合文档特征H₀的尺寸可以为wh×2d。第1个Transformer层732可以处理编码的融合文档特征H₀，得到输出特征H₁。第k个Transformer层733可以处理输出特征H_k-1，得到输出特征H_k。第K个Transformer层734可以处理输出特征H_K-1，得到输出特征H_K。Reshape层735可以处理输出特征H_K，得到语义特征Sem。语义特征Sem的尺寸可以为w×h×2d。

识别模型740可以包括ROI Pooling(Region of Interest Pooling，感兴趣区域池化)层741、全连接层742和Softmax层743。

识别模型740可以处理语义特征Sem，输出待处理图像Image中的文本。例如，ROIPooling层741可以基于每个文本区域的位置，对语义特征Sem上的每个特征t^s进行池化，将每个特征t^s变换为统一的尺寸。在一个示例中，基于第i个文本区域的位置(x_i，y_i，w_i1，h_i1)，对语义特征Sem上的特征

进行ROI Pooling操作，将特征

转换统一的尺寸的特征

接下来，利用全连接层742处理特征

再利用Softmax层对全连接层742的输出进行处理，以识别待处理图像Image中的文本。

图8是根据本公开的另一个实施例的文本识别装置的框图。

如图8所示，该装置800可以包括第一获得模块810、视觉特征提取模块820、第二获得模块830和识别模块840。

第一获得模块810，用于根据待处理图像的文本特征，得到文本特征图。

视觉特征提取模块820，用于对所述待处理图像进行视觉特征提取，得到视觉特征。

第二获得模块830，用于根据所述文本特征图和所述视觉特征，得到所述待处理图像中的融合文档特征。

识别模块840，用于根据所述融合文档特征，识别所述待处理图像中的文本。

在一些实施例中，装置800还包括：确定模块，用于确定所述待处理图像中的至少一个文本区域；以及文本特征提取模块，用于针对每个文本区域，进行文本特征提取，得到所述待处理图像的文本特征。

在一些实施例中，所述文本特征包括多个文本特征，每个文本特征与所述待处理图像的一个文本区域相对应；所述第一获得模块包括：处理子模块，用于针对每个文本特征，对所述每个文本特征进行处理，得到经处理的文本特征；以及添加子模块，用于根据所述每个文本特征的对应文本区域在所述待处理图像中的位置，将所述经处理的文本特征添加到所述文本特征图的对应位置处。例如，所述经处理的文本特征的维度、所述文本特征图的维度与所述视觉特征的维度彼此一致。

在一些实施例中，所述处理子模块包括：处理单元，用于利用全连接层处理每个文本特征，得到经处理的文本特征。

在一些实施例中，所述视觉特征提取模块包括：第一确定子模块，用于确定所述待处理图像的图像特征；第二确定子模块，用于根据所述图像特征，确定所述待处理图像的空间特征；以及获得子模块，用于基于所述图像特征和所述空间特征，得到所述待处理图像的视觉特征。

在一些实施例中，所述第二确定子模块包括：确定单元，用于根据所述图像特征，确定所述图像特征的对应位置信息；以及编码单元，用于将所述对应位置信息编码为空间特征。例如，所述空间特征的维度与所述图像特征的维度一致。

在一些实施例中，所述编码单元还用于：利用全连接层处理所述对应位置信息，得到所述空间特征。

在一些实施例中，所述识别模块包括：编码子模块，用于对所述融合文档特征进行编码，得到编码的融合文档特征；第三确定子模块，用于根据所述编码的融合文档特征，确定所述待处理图像的语义特征；以及识别子模块，用于根据所述语义特征，识别所述待处理图像中的文本。

本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图9所示，设备900包括计算单元901，其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序，来执行各种适当的动作和处理。在RAM 903中，还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。

设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如文本识别方法。例如，在一些实施例中，文本识别方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时，可以执行上文描述的文本识别方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行文本识别方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims

1.一种文本识别方法，包括：

根据待处理图像的文本特征，得到文本特征图；

对所述待处理图像进行视觉特征提取，得到视觉特征；

根据所述文本特征图和所述视觉特征，得到所述待处理图像中的融合文档特征；以及

根据所述融合文档特征，识别所述待处理图像中的文本。

2.根据权利要求1所述的方法，还包括：

确定所述待处理图像中的至少一个文本区域；以及

针对每个文本区域，进行文本特征提取，得到所述待处理图像的文本特征。

3.根据权利要求1或2所述的方法，其中，所述文本特征包括多个文本特征，每个文本特征与所述待处理图像的一个文本区域相对应；所述根据待处理图像的文本特征，得到文本特征图包括：

针对每个文本特征，

对所述每个文本特征进行处理，得到经处理的文本特征；以及

根据所述每个文本特征的对应文本区域在所述待处理图像中的位置，将所述经处理的文本特征添加到所述文本特征图的对应位置处；

其中，所述经处理的文本特征的维度、所述文本特征图的维度与所述视觉特征的维度彼此一致。

4.根据权利要求3所述的方法，其中，所述对所述每个文本特征进行处理，得到经处理的文本特征包括：

利用全连接层处理每个文本特征，得到经处理的文本特征。

5.根据权利要求1所述的方法，其中，所述对所述待处理图像进行视觉特征提取，得到视觉特征包括：

确定所述待处理图像的图像特征；

根据所述图像特征，确定所述待处理图像的空间特征；以及

基于所述图像特征和所述空间特征，得到所述待处理图像的视觉特征。

6.根据权利要求5所述的方法，其中，所述根据图像特征，确定所述待处理图像的空间特征包括：

根据所述图像特征，确定所述图像特征的对应位置信息；以及

将所述对应位置信息编码为空间特征；

其中，所述空间特征的维度与所述图像特征的维度一致。

7.根据权利要求6所述的方法，其中，所述将所述对应位置信息编码为空间特征包括：

利用全连接层处理所述对应位置信息，得到所述空间特征。

8.根据权利要求1所述的方法，其中，所述根据所述融合文档特征，识别所述待处理图像中的文本包括：

对所述融合文档特征进行编码，得到编码的融合文档特征；

根据所述编码的融合文档特征，确定所述待处理图像的语义特征；以及

根据所述语义特征，识别所述待处理图像中的文本。

9.一种文本识别装置，包括：

第一获得模块，用于根据待处理图像的文本特征，得到文本特征图；

视觉特征提取模块，用于对所述待处理图像进行视觉特征提取，得到视觉特征；

第二获得模块，用于根据所述文本特征图和所述视觉特征，得到所述待处理图像中的融合文档特征；以及

识别模块，用于根据所述融合文档特征，识别所述待处理图像中的文本。

10.根据权利要求9所述的装置，还包括：

确定模块，用于确定所述待处理图像中的至少一个文本区域；以及

文本特征提取模块，用于针对每个文本区域，进行文本特征提取，得到所述待处理图像的文本特征。

11.根据权利要求9或10所述的装置，其中，所述文本特征包括多个文本特征，每个文本特征与所述待处理图像的一个文本区域相对应；所述第一获得模块包括：

处理子模块，用于针对每个文本特征，对所述每个文本特征进行处理，得到经处理的文本特征；以及

添加子模块，用于根据所述每个文本特征的对应文本区域在所述待处理图像中的位置，将所述经处理的文本特征添加到所述文本特征图的对应位置处；

12.根据权利要求11所述的装置，其中，所述处理子模块包括：

处理单元，用于利用全连接层处理每个文本特征，得到经处理的文本特征。

13.根据权利要求9所述的装置，其中，所述视觉特征提取模块包括：

第一确定子模块，用于确定所述待处理图像的图像特征；

第二确定子模块，用于根据所述图像特征，确定所述待处理图像的空间特征；以及

获得子模块，用于基于所述图像特征和所述空间特征，得到所述待处理图像的视觉特征。

14.根据权利要求13所述的装置，其中，所述第二确定子模块包括：

确定单元，用于根据所述图像特征，确定所述图像特征的对应位置信息；以及

编码单元，用于将所述对应位置信息编码为空间特征；

其中，所述空间特征的维度与所述图像特征的维度一致。

15.根据权利要求14所述的装置，其中，所述编码单元还用于：

利用全连接层处理所述对应位置信息，得到所述空间特征。

16.根据权利要求9所述的装置，其中，所述识别模块包括：

编码子模块，用于对所述融合文档特征进行编码，得到编码的融合文档特征；

第三确定子模块，用于根据所述编码的融合文档特征，确定所述待处理图像的语义特征；以及

识别子模块，用于根据所述语义特征，识别所述待处理图像中的文本。

17.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1至8中任一项所述的方法。

18.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1至8中任一项所述的方法。

19.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1至8中任一项所述的方法。