CN116229480A - 文本识别模型训练方法、文本识别方法、装置及存储介质 - Google Patents

文本识别模型训练方法、文本识别方法、装置及存储介质 Download PDF

Info

Publication number
CN116229480A
CN116229480A CN202310033044.3A CN202310033044A CN116229480A CN 116229480 A CN116229480 A CN 116229480A CN 202310033044 A CN202310033044 A CN 202310033044A CN 116229480 A CN116229480 A CN 116229480A
Authority
CN
China
Prior art keywords
branch
image
training
text
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310033044.3A
Other languages
English (en)
Other versions
CN116229480B (zh
Inventor
刘珊珊
吕鹏原
吴亮
乔美娜
章成全
姚锟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202310033044.3A priority Critical patent/CN116229480B/zh
Publication of CN116229480A publication Critical patent/CN116229480A/zh
Application granted granted Critical
Publication of CN116229480B publication Critical patent/CN116229480B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/19—Recognition using electronic means
    • G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19147—Obtaining sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06V10/7753—Incorporation of unlabelled data, e.g. multiple instance learning [MIL]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40—Document-oriented image-based pattern recognition
    • G06V30/41—Analysis of document content

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Character Discrimination (AREA)
  • Image Analysis (AREA)

Abstract

本公开提供了一种文本识别模型训练方法、文本识别方法、装置及存储介质。本公开涉及人工智能技术领域，具体为深度学习、图像处理、计算机视觉技术领域，可应用于光学字符识别等场景。具体实现方案为：获取第一训练数据和第二训练数据；将第一训练数据输入待训练模型的第一分支，以及将第二训练数据输入待训练模型的第二分支，第一分支和第二分支共用一个图像编码器；获取第一分支基于第一训练数据输出的重构图像，以及第二分支基于第二训练数据输出的预测文本；基于重构图像训练第一分支，以及基于预测文本与真实文本训练第二分支；基于训练好的第一分支和训练好的第二分支，得到文本识别模型。根据本公开的方案，能够提高文本识别的准确性。

Description

文本识别模型训练方法、文本识别方法、装置及存储介质
技术领域
本公开涉及人工智能技术领域，具体为深度学习、图像处理、计算机视觉技术领域，可应用于光学字符识别等场景。
背景技术
近些年来，文字识别技术飞速发展。通用场景下的文字识别，很多开源算法或者论文算法基本可以达到可用状态。然而，对于一些版式差异不同、形态变化较大、应用场景特点明显的多场景多分布输入，给文字识别系统带来了巨大挑战。此外，对于银行、保险公司、车管所、事业单位等具有很多卡证、票据、单据识别需求的单位，需要大量重复人工操作，包括拍照、审核、信息录入、系统比对等，也会出现场景较多、分布不均匀等问题，导致文字识别准确率较低。
发明内容
本公开提供了一种文本识别模型训练方法、文本识别方法、装置及存储介质。
根据本公开的第一方面，提供了一种文本识别模型训练方法，包括：
获取第一训练数据和第二训练数据；
将第一训练数据输入待训练模型的第一分支，以及将第二训练数据输入待训练模型的第二分支，第一分支和第二分支共用一个图像编码器，图像编码器用于提取图像特征；
获取第一分支基于第一训练数据输出的重构图像，以及第二分支基于第二训练数据输出的预测文本；
基于重构图像训练第一分支，以及基于预测文本与真实文本训练第二分支；
基于训练好的第一分支和训练好的第二分支，得到文本识别模型。
根据本公开的第二方面，提供了一种文本识别方法，包括：
获取待识别图像；
获取待识别图像的K个图像，K个图像是对待识别图像做行级别划分后得到的，K为不小于1的整数；
将K个图像和第二标签输入文本识别模型，获得文本识别模型根据K个图像和第二标签输出的预测文本，第二标签用于指示K个图像供文本识别模型的第二分支读取，该文本识别模型通过第一方面中任一项的方法训练获得。
根据本公开的第三方面，提供了一种文本识别模型训练装置，包括：
第一获取模块，用于获取第一训练数据和第二训练数据；
输入模块，用于将第一训练数据输入待训练模型的第一分支，以及将第二训练数据输入待训练模型的第二分支，第一分支和第二分支共用一个图像编码器，图像编码器用于提取图像特征；
第二获取模块，用于获取第一分支基于第一训练数据输出的重构图像，以及第二分支基于第二训练数据输出的预测文本；
训练模块，用于基于重构图像训练第一分支，以及基于预测文本与真实文本训练第二分支；
第三获取模块，用于基于训练好的第一分支和训练好的第二分支，得到文本识别模型。
根据本公开的第四方面，提供了一种文本识别装置，包括：
第五获取模块，用于获取待识别图像；
第六获取模块，用于获取待识别图像的K个图像，K个图像是对待识别图像做行级别划分后得到的，K为不小于1的整数；
控制模块，用于将K个图像和第二标签输入文本识别模型，获得文本识别模型根据K个图像和第二标签输出的预测文本，第二标签用于指示K个图像供文本识别模型的第二分支读取，文本识别模型通过第一方面中任一项所述的方法训练获得。
根据本公开的第五方面，提供了一种电子设备，包括：
至少一个处理器；
与至少一个处理器通信连接的存储器；
存储器存储有可以被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行第一方面提供的文本识别模型训练方法和/或第二方面提供的文本识别方法。
根据本公开的第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行第一方面提供的文本识别模型训练方法和/或第二方面提供的文本识别方法。
根据本公开的方案，能够提高文本识别的准确性。
上述概述仅仅是为了说明书的目的，并不意图以任何方式进行限制。除上述描述的示意性的方面、实施方式和特征之外，通过参考附图和以下的详细描述，本申请进一步的方面、实施方式和特征将会是容易明白的。
附图说明
在附图中，除非另外规定，否则贯穿多个附图相同的附图标记表示相同或相似的部件或元素。这些附图不一定是按照比例绘制的。应该理解，这些附图仅描绘了根据本申请公开的一些实施方式，而不应将其视为是对本申请范围的限制。
图1是根据本公开实施例的文本识别模型训练方法的流程示意图；
图2是根据本公开实施例的依据标签读取训练数据的处理示意图；
图3是根据本公开实施例的并行训练方式的处理流程图；
图4是根据本公开实施例的对第一原始图像进行掩码处理的示意图；
图5是根据本公开实施例的文本识别模型的结构示意图；
图6是根据本公开实施例的文本识别方法的流程示意图；
图7是根据本公开实施例的文本识别模型训练装置的结构示意图；
图8是根据本公开实施例的文本识别装置的结构示意图；
图9是根据本公开实施例的文本识别模型训练的场景示意图；
图10是根据本公开实施例的文本识别的场景示意图；
图11是用来实现本公开实施例的文本识别模型训练方法和/或文本识别方法的电子设备的结构示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
本公开的说明书实施例和权利要求书及上述附图中的术语“第一”“第二”和“第三”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元。方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
相关技术中，文字识别系统通常包含通用检测模型和通用识别模型，通用识别模型分为中英横排识别模型、竖排识别模型。即，针对输入的一张自然场景的图片，按照文字的排列顺序和阅读顺序区分横竖排，使得不同排列的文字都可以识别。但是对于输入图片的场景不同时，一个模型很难同时适应多个场景。同时，对于任意场景，多场景数据融合训练的模型差于单一场景数据训练的模型，导致统一识别模型方案效果较差。
常见的文字识别方案分为连接时序分类(Connectionist TemporalClassification，CTC)识别和注意力(Attention Model)识别。对于系统服务来说，Attention属于串行预测解码，预测速度慢。CTC则能并行解码且预测速度较快。因此，本公开文本识别模型采用CTC解码方式。但是，由于CTC先天缺乏语义信息，在输入分布不均匀、输入版式较多的情况下，识别效果较差甚至无法识别。
在实际应用中，想要提高不同场景、不同分布数据下的模型效果，需要的场景数据比较多。而这类数据通常从收集到标注都耗费了巨大的人力成本和时间成本。
本公开为了至少部分地解决上述问题以及其他潜在问题中的一个或者多个问题，提出了一种通用的文字识别方案，通过无监督训练分支提供强大的特征提取器，为有监督训练提供丰富的特征信息，进而能提升模型的训练效果；同时，使得训练得到的文本识别模型适用于不同分布不同场景，提高了各场景下文本识别的准确性。
本公开实施例提供了一种文本识别模型训练方法，图1是根据本公开实施例的文本识别模型训练方法的流程示意图，该文本识别模型训练方法可以应用于文本识别模型训练装置。该文本识别模型训练装置位于电子设备。该电子设备包括但不限于固定设备和/或移动设备。例如，固定设备包括但不限于服务器，服务器可以是云服务器或普通服务器。例如，移动设备包括但不限于：手机、平板电脑、车载终端。在一些可能的实现方式中，该文本识别模型训练方法还可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。如图1所示，该文本识别模型训练方法包括：
S101：获取第一训练数据和第二训练数据；
S102：将第一训练数据输入待训练模型的第一分支，以及将第二训练数据输入待训练模型的第二分支，第一分支和第二分支共用一个图像编码器，图像编码器用于提取图像特征；
S103：获取第一分支基于第一训练数据输出的重构图像，以及第二分支基于第二训练数据输出的预测文本；
S104：基于重构图像训练第一分支，以及基于预测文本与真实文本训练第二分支；
S105：基于训练好的第一分支和训练好的第二分支，得到文本识别模型。
本公开实施例中，第一训练数据包括各场景下的图像数据。例如，第一训练数据包括票据(增值税发票、购物小票等)的图像数据。又例如，第一训练数据包括卡证(身份证、银行卡、行驶证、驾驶证等)的图像数据。再例如，第一训练数据包括通用(包括街景、网图、商品、文档、随拍等)场景的图像数据。再例如，第一训练数据包括手写、涂鸦等主流文字场景的图像数据。第一训练数据包括的各场景下的图像数据，以行级别图像形式存在。这里，行级别图像是以上仅为示例性说明，不作为对第一训练数据的相关信息的限定，只是这里不做穷举。
本公开实施例中，第二训练数据包括各场景下的图像和图像上的文字。例如，第二训练数据包括银行票据图像以及该银行票据图像的出票日期。又例如，卡证图像以及该卡证图像上的文字信息。再例如，第二训练数据包括商品图像以及该商品图像上的文字信息。这里，第二训练数据包括的各场景下的图像数据，同样以行级别图像形式存在。以上仅为示例性说明，不作为对第二训练数据的相关信息的限定，只是这里不做穷举。
本公开实施例中，可采用任何可行实现方式来获取第一训练数据。例如，可通过线上服务回流的方式收集第一原始图像，该收集方式覆盖了真实业务能够遇到的几乎所有场景数据，累计的第一原始图像的数量级可达到亿级别。又例如，可从网络上随机抓取图片作为第一原始图像。获得第一原始图像后，通过已有文本行检测服务，将第一原始图像中的文本行提取出来，得到以文本行为单位的图像。这里，已有文本行检测服务，包括但不限于高效和准确的场景文本(Efficient andAccuracy Scene Text，EAST)检测算法，可微二值化(Differentiable Binarization，DB)检测算法等。以上仅为示例性说明，不作为对第一训练数据全部可能的获取方式的限定，只是这里不做穷举。
本公开实施例中，可采用任何可行实现方式来获取第二训练数据。例如，可通过线上服务回流的方式收集第二原始图像。又例如，可从网络上抓取图片作为第二原始图像。获得第二原始图像后，通过已有文本行检测服务，将第二原始图像中的文本行提取出来，得到以文本行为单位的图像。并且，通过检测模型识别出第二原始图像上的文字。将以文本行为单位的图像以及文字，作为第二训练数据。以上仅为示例性说明，不作为对第二训练数据全部可能的获取方式的限定，只是这里不做穷举。
本公开实施例中，第一分支为待训练模型的一个分支。第一分支具体为无监督预训练分支。无监督预训练是用来训练不包括输出目标的训练数据，通过学习算法自动学习到有价值的信息。第一分支的输入是大量的不带有标注结果的纯图像数据，具体为行级别图像数据，第一分支的输出是重构的图像。通过第一分支，能为共享的图像编码器(也称Image Encoder模块)提供足够丰富的样本信息。
本公开实施例中，第二分支为待训练模型的一个分支。第二分支具体为自监督识别分支。自监督识别分支基于标记示例进行学习。该分支通过标记数据进行训练，对图像进行标记，使得每一个示例与特定类别相关联。通过研究每一个类的各种示例的特征，使得该分支能对它从未记录过的数据进行分类。第二分支的输入是相对少量的带有标注结果的图像文本对数据，第二分支的输出是预测的文本内容。第二分支和第一分支共享图像编码器，可以获取丰富的特征用于有监督学习。
本公开实施例中，将第一训练数据输入至待训练模型的无监督预训练分支，并将第二训练数据输入至待训练模型的自监督识别分支，无监督分支与自监督分支共用同一个图像编码器，基于图像编码器提取图像特征；获取无监督预训练分支基于第一训练数据输出的重构图像，获取自监督识别分支基于第二训练数据输出的预测文本，基于训练好的无监督分支和训练好的自监督分支，得到文本识别模型。
其中，待训练模型用于根据第一训练数据以及第二训练数据，输出第一训练数据的重构图像以及第二训练数据的预测文本。基于此，可以理解的是，本公开实施例中，待训练模型可以包括：至少一个数据读取模型，用于读取第一标签对应的第一训练数据以及第二标签对应的第二训练数据；至少两个特征对比模型，一个特征对比模型用于对重构图像与原始图像进行比对，另一个特征对比模型用于对预测文本与真实文本进行比对。文本识别模型是通过待训练数据对待训练模型进行训练获得的。因此，与待训练模型具有相同的模型结构，区别在于模型参数在经过训练后被更新。
本公开实施例的技术方案，将第一训练数据输入待训练模型的第一分支，以及将第二训练数据输入待训练模型的第二分支，获取第一分支基于第一训练数据输出的重构图像，以及第二分支基于第二训练数据输出的预测文本；基于重构图像训练第一分支，以及基于预测文本与真实文本训练第二分支；基于训练好的第一分支和训练好的第二分支，得到文本识别模型。由于第一分支和第二分支共用一个图像编码器，图像编码器用于提取图像特征；通过第一分支即无监督预训练分支能提供强大的特征提取器，为第二分支的自监督识别提供丰富特征信息，使得训练得到的文本识别模型能够自适应多种场景，进而能提升训练得到的文本识别模型的精度，提高文本识别模型的文本识别准确性。另外，通过第一分支与第二分支并行训练的方式，能够提高文本识别模型的训练速度。
在一些实施例中，该文本识别模型训练方法，还可包括：
S106：获取第一分支对应的第一标签和第二分支对应的第二标签。
这里，第一标签用于指示当前数据供第一分支读取。
这里，第二标签用于指示当前数据供第二分支读取。
需要说明的是，第一标签和第二标签可根据需求进行设定。本公开不对第一标签和第二标签的具体内容和表示形式进行限定。
基于此，在一些实施例中，S102可包括：
S102a：响应于读取到携带有第一标签的第一训练数据，将第一训练数据输入至第一分支；以及
S102b：响应于读取到携带有第二标签的第二训练数据，将第二训练数据输入至第二分支。
这里，S102a与S102b为并列关系。
图2示出了依据标签读取训练数据的处理示意图，如图2所示，通过第一标签和第二标签，区分第一训练数据和第二训练数据。
在一些实施方式中，第一分支与第二分支采用不同的训练数据，并为第一分支和第二分支分别设置了不同的训练参数。为了实现数据自动分配，为第一分支和第二分支设置了独有的标签(tag)，即，第一分支读取第一标签对应的数据；第二分支读取第二标签对应的数据。
本公开实施例中，采用数据加载器(Data Loader)读取数据，将原始数据进行预处理，该预处理可包括：对一个批次的数据条进行变换位置和并行加速等处理，为处理后的数据条分配标签。在进行读取时，根据不同的标签进行筛选，并通过代码控制自动分配批次。
本公开实施例中，第一分支可采用掩码自编码器(Masked Auto Encodes，MAE)结构进行图像重建。该第一分支的输入是纯图像数据，输出是重建后的图像。
如此，实现了数据隔离和数据自动分配，提升了待训练数据的易识别性，有助于提升各分支获取的待训练数据的准确性，从而有助于提升文本识别模型的训练效果。
在一些实施例中，S104可包括：采用并行训练方式对第一分支和第二分支进行训练。
在一些实施例中，该文本识别模型至少包括两个分支；第一分支代表无监督预训练分支，第二分支代表自监督识别分支。并行训练时，两个分支共享图像编码器，用各自的损失函数进行监督学习。
本公开实施例中，采用共享图像编码器的方式实现两个分支的连接，即，两个分支的输入通过相同的图像编码器后分成两个并行的链路，通过各自的损失函数监督学习。
这里，通过各自的损失函数进行监督学习，即，基于重构图像构建无监督损失函数；基于无监督损失函数训练第一分支；以及基于预测文本与真实文本构建有监督损失函数；基于有监督损失函数训练第二分支。
本公开实施例中，为了实现并行，我们从数据读取和模型设计两个维度进行了适配。数据方面，两个分支输入不同的训练数据，为不同的分支设置了独有的标签，数据读取中设计了不同分支自动读取标签信息对应的数据，采用这种方式实现了数据隔离和数据自动分配。模型设计方面，采用共享图像编码器的方式实现两个分支的连接，也就是两个分支的输入通过相同的图像编码器后分成两个并行的链路，通过各自的损失函数监督学习。通过对数据和模型的设计，既可以实现并行训练，也可以独立分支运行，实现了灵活的可配置网络。
在一些实施方式中，第一分支基于共享的图像编码器读取第一标签，得到第一训练数据，对第一训练数据进行无监督预训练得到重构图像。第二分支基于共享的图像编码器读取第二标签，得到第二训练数据，对第二训练数据进行自监督识别得到预测文本。如此，通过向第一分支输入大量的不带有标注结果的纯图像数据，为共享的图像编码器提供足够丰富的样本信息，能提升特征提取的效率和准确率。向第二分支输入相对少量的带有标注结果的图像文本对数据，第二分支和第一分支共享图像编码器，可以获取丰富的特征用于有监督学习。
如此，能够充分利用多种场景、多种分布的图像数据进行预训练，解决实际场景文本识别效果难以提升的问题，从而有助于提高文本识别模型训练的效果。
在一些实施例中，S104可包括：
S104a：基于重构图像构建无监督损失函数；
S104b：基于无监督损失函数训练第一分支；以及
S104a’：基于预测文本与真实文本构建有监督损失函数；
S104b’：基于有监督损失函数训练第二分支。
这里，S104a与S104a’为并列关系，S104b与S104b’为并列关系。
图3示出了并行训练方式的处理流程图，如图3所示，基于重构图像构建无监督损失函数，基于无监督损失函数训练第一分支(即图3中的左侧分支)；基于预测文本与真实文本构建有监督损失函数；基于有监督损失函数训练第二分支(即图3中的右侧分支)。第一分支与第二分支并行训练，得到文本识别模型。
由于第一分支和第二分支共用同一个图像编码器，在第一分支和第二分支分别进行监督学习时，都会对该图像编码器进行优化，可以让第二分支获取丰富的特征用于有监督学习。预训练和自监督训练的输入都是行级别图像，共享图像编码器，所以输出的特征维度一致，两个分支并行训练，可使得特征充分对齐。
示例性的，获取一张背景为白色并带有一行文字的图像1，通过检测模型得到该图像1上的文字为“Hello”。将该图像1切分成9个图像，对9个图像中的2个图像进行掩码处理，将图像1的2个经过掩码处理的图像和7个未经掩码处理的图像，作为第一训练数据，输入至第一分支；将图像1切分成的9个图像和该图像1上的文本“Hello”，作为第二训练数据，输入至第二分支。第一分支和第二分支基于共同的图像编码器提取图像特征，第一分支将该图像编码器得到的图像特征输入第一分支的第一解码器，第一解码器对图像特征进行解码，得到第一重建图像特征，第一预测器用于基于第一解码器输出的第一重建图像特征进行预测，得到重构图像。第一分支的重构图像与原始图像进行比对，构建无监督损失函数，基于无监督损失函数训练第一分支。第二分支将该图像编码器得到的图像特征输入第二分支的第二解码器，第二解码器对图像特征进行解码，得到第二重建图像特征，第二预测器用于基于第二解码器输出的第二重建图像特征进行预测，得到预测文本。将预测文本与真实文本进行比对，基于预测文本与真实文本构建有监督损失函数，基于有监督损失函数训练第二分支。最后，基于训练好的第一分支和训练好的第二分支，得到文本识别模型。这里，本公开不对第一分支和第二分支的训练结束顺序进行限定。比如，第一分支训练结束时间可早于第二分支训练结束时间。又比如，第一分支训练结束时间可晚于第二分支训练结束时间。再比如，第一分支训练结束时间可等于第二分支训练结束时间。
如此，能够通过不同的损失函数对第一分支以及第二分支进行并行训练，能提高模型训练的速度，也能提高文本识别模型的精度，从而提高文本识别的准确性。
在一些实施例中，获取第一训练数据，可包括：收集第一原始图像；对第一原始图像做行级别划分，得到第一原始图像的N个图像，N为不小于1的整数，第一训练数据包括第一原始图像的N个图像。
本公开实施例中，通过线上服务回流的方式收集第一原始图像。通过线上服务回流的方式可以收集通用场景、卡证、票据以及手写体文字图像等主流文字场景的图像数据。这样，覆盖了真实业务能够遇到的几乎所有场景数据，累计图像数量可达到亿级别。针对这些第一原始图像，可通过预先训练好的检测模型，将图像中的文本行图像提取出来，作为无监督预训练的输入。
本公开实施例中，自然场景中文本的多样性和变异性有别于文档中的文字，自然场景中的文本表现出更高的多样性和变异性。例如，场景文本的实例可以使用不同的语言、颜色、字体、大小、方向和形状。此外，场景文本的纵横比和布局可能会有很大差异。实际情况下，背景的复杂性和干扰自然场景的背景几乎是不可预测的。可能存在与文本极其相似的图案(例如，树叶、交通标志、砖块、窗户和栅栏)，或者由异物造成的遮挡，这可能会导致混淆和错误。并且，文本实例可能由于不适当的拍摄距离或角度而具有低分辨率和严重失真，或者由于失焦或抖动而变得模糊，或者由于低光强而产生噪声，或者被高光或阴影破坏。因此，通过对第一原始图像进行行级别的划分，得到N个图像各自对应的行文字图像，能够使得第一训练数据更准确，且能为实现利用多种场景、多种分布的图像数据进行预训练提供有效的数据支撑。
如此，基于第一原始图像确定第一训练数据，能为模型提供更加丰富的样本数据支持，从而有助于提高文本识别模型训练的准确性。
在一些实施例中，如图4所示，获取第一训练数据，可进一步包括：对N个图像中的S个图像进行掩码处理。第一训练数据包括第一原始图像的S个经过掩码处理的图像和N-S个未经掩码处理的图像，S为大于0小于N的整数。
在一些实施方式中，将第一原始图像进行无重叠的切割，得到N个图像块(patch)，将该N个图像块进行卷积操作，获得N个图像块各自对应的特征。为了进一步提升文本识别模型的泛化性，可随机将N个图像块中S个图像块的特征进行掩码(mask)处理。这里，掩码处理包括在第一原始图片上覆盖一层掩膜，用于屏蔽或选择特定元素。实际应用中，掩码操作可以理解为让这部分被掩码的特征置0。
如此，通过随机掩码处理，丰富了训练样本的类型，扩充了训练样本的数量，有助于提高文本识别模型的鲁棒性，进而提升了文本识别的准确性。
在一些实施例中，获取第二训练数据，可包括：收集第二原始图像；识别第二原始图像得到第二原始图像的真实文本；对第二原始图像做行级别划分，得到第二原始图像对应的M个图像，M为不小于1的整数，第二训练数据包括第二原始图像的M个图像和第二原始图像的真实文本。
这里，第二原始图像的M个图像和第二原始图像的真实文本，可以理解为第二原始图像的图像文本对(Image-Text Pair)。
在一些实施方式中，通过线上服务回流的方式获取第二原始图像。
在一些实施方式中，从第一训练数据中选取部分第一原始图像作为第二原始图像。
这里，不对真实文本的文本类型进行限定。比如，文本类型可以是中文字符，还可以是外文字符。
如此，第二分支基于自监督识别得到的识别文本，对文本识别模型进行训练，提高了文本识别模型训练的效率，提升了文本识别的准确性。
在一些实施例中，如图5所示，文本识别模型包括第一分支和第二分支；其中，第一分支包括图像编码器、第一解码器和第一预测器，第一解码器的一端连接图像编码器，第一解码器的另一端连接第一预测器，第一解码器用于基于图像编码器输出的第一图像特征得到第一重建图像特征，第一预测器用于基于第一重建图像特征得到重构图像；第二分支包括图像编码器、第二解码器和第二预测器，第二解码器的一端连接图像编码器，第二解码器的另一端连接第二预测器，第二解码器用于基于图像编码器输出的第二图像特征得到第二重建图像特征，第二预测器用于基于第二重建图像特征输出预测文本。
本公开实施例中，第一预测器可以为MAE结构的第一头(head)模块。第一head模块用于将第一解码器解码得到的第一重建图像特征，进行加强和预测。第一head模块可采用轻量级结构。
本公开实施例中，第二预测器为CTC结构的第二head模块。第二head模块用于将第二解码器解码得到的第二重建图像特征，进行加强和预测。第二head模块可采用轻量级结构。
本公开实施例中，第二分支充分利用第一分支的特征，同样采用编码-解码(Encoder-Decoder)结构，图像编码器作为整个分支的骨干(backbone)用于获取图像特征，第二解码器和第二头部模块的作用与第一分支类似。为了提升文本识别的效果，我们在解码部分设计了不同深度、宽度、头数等超参，在速度和效果中进行了折中选择。通常情况下，深度、宽度等越大，效果越好，但同时训练和预测速度越慢。实际应用中，在进行折中选择时，为了保证精度和速度，可根据需求调节这些参数。
如此，通过第一分支对多场景多分布的大数据预训练，能获取更多场景更多分布的图像信息；第二分支采用预训练获取的图像信息，在自监督阶段不需要大量的标注数据，节约了时间成本和人力成本。通过文本识别模型的中第一分支和第二分支的协作与分工，解决了实际场景文本识别效果难提升的问题，不仅能够提高文本识别模型训练的效率，还能提高文本识别模型训练的精度，进而提升了文本识别的准确性。
本公开实施例提供了一种文本识别方法，图6是根据本公开实施例的文本识别方法的流程示意图，该文本识别方法可以应用于文本识别装置。该文本识别装置内设置有文本识别模型或能与文本识别模型连接。该文本识别装置位于电子设备。该电子设备包括但不限于固定设备和/或移动设备。在一些可能的实现方式中，该文本识别方法还可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。如图6所示，该文本识别方法包括：
S601：获取待识别图像；
S602：获取待识别图像的K个图像，K个图像是对待识别图像做行级别划分后得到的，K为不小于1的整数；
S603：将K个图像和第二标签输入文本识别模型，获得文本识别模型根据K个图像和第二标签输出的预测文本，第二标签用于指示K个图像供文本识别模型的第二分支读取。
这里，该文本识别模型通过上文所述的文本识别模型训练方法中任一项的方法训练获得的。
本公开实施例中，待识别图像可以为纯图像数据，也可以是带有标注的图像。
本公开实施例中，待识别图像可以为存在异物造成的遮挡的图像，还可以为背景杂乱的图像，还可以为因光线原因导致不清晰的图像。
这里，获取待识别图像的K个图像，可以通过预先训练好的检测模型来获取，也可以采用其他方式如在线划分方式来获取。本公开不对如何获取对待识别图像进行行划分进行限定。本公开不对如何训练得到检测模型进行限定。
这里，K的取值可根据精度或速度需求进行设定或调整，也可根据待识别图像的具体情况进行适应性选取。
示例性的，将一张背景为店铺的图像输入文本识别模型。文本识别模型基于图像编码器提取图像特征，得到第二分支输出的预测文本“包子铺”和“十元三个”。
如此，通过将待识别图像的K个图像和第二标签输入文本识别模型，由文本识别模型根据K个图像和第二标签输出预测文本，提高了文本识别的速度，也提高了文本识别的准确性。
在一些实施例中，S603可包括：
S603a：响应于检测到第二标签，第二分支读取K个图像；
S603b：第二分支基于K个图像输出预测文本。
如此，文本识别模型能快速基于第二标签读取图像数据，进而输出预测文本，提高了文本识别的速度。
本公开实施例提供了一种文本识别模型训练装置，如图7所示，该文本识别模型训练装置可以包括：第一获取模块701，用于获取第一训练数据和第二训练数据；输入模块702，用于将第一训练数据输入待训练模型的第一分支，以及将第二训练数据输入待训练模型的第二分支，第一分支和第二分支共用一个图像编码器，图像编码器用于提取图像特征；第二获取模块703，用于获取第一分支基于第一训练数据输出的重构图像，以及第二分支基于第二训练数据输出的预测文本；训练模块704，用于基于重构图像训练第一分支，以及基于预测文本与真实文本训练第二分支；第三获取模块705，用于基于训练好的第一分支和训练好的第二分支，得到文本识别模型。
在一些实施例中，该文本识别模型训练装置，包括：第四获取模块706(图7中未示出)，用于获取第一分支对应的第一标签和第二分支对应的第二标签。
在一些实施例中，该输入模块704，包括：第一输入子模块，用于响应于读取到携带有第一标签的第一训练数据，将第一训练数据输入至第一分支；第二输入子模块，用于响应于读取到携带有第二标签的第二训练数据，将第二训练数据输入至第二分支。
在一些实施例中，该训练模块704，包括：训练子模块，用于采用并行训练方式对第一分支和第二分支进行训练。
在一些实施例中，该训练子模块，具体用于：基于重构图像构建无监督损失函数；基于无监督损失函数训练第一分支；以及基于预测文本与真实文本构建有监督损失函数；基于有监督损失函数训练第二分支。
在一些实施例中，该第一获取模块701，包括：第一收集子模块，用于收集第一原始图像；第一划分子模块，用于对第一原始图像做行级别划分，得到第一原始图像对应的N个图像，N为不小于1的整数，第一训练数据包括第一原始图像的N个图像。
在一些实施例中，该第一获取模块701，包括：掩码子模块，用于对N个图像中的S个图像进行掩码处理，第一训练数据包括第一原始图像的S个经过掩码处理的图像和N-S个未经掩码处理的图像，S为大于0小于N的整数。
在一些实施例中，该第一获取模块701，包括：第二收集子模块，用于收集第二原始图像；识别子模块，用于识别第二原始图像得到第二原始图像的真实文本；第二划分子模块，用于对第二原始图像做行级别划分，得到第二原始图像对应的M个图像，M为不小于1的整数，第二训练数据包括第二原始图像的M个图像和第二原始图像的真实文本。
在一些实施例中，该文本识别模型包括：第一分支包括图像编码器、第一解码器和第一预测器，第一解码器的一端连接图像编码器，第一解码器的另一端连接第一预测器，第一解码器用于基于图像编码器输出的第一图像特征得到第一重建图像特征，第一预测器用于基于第一重建图像特征得到重构图像；第二分支包括图像编码器、第二解码器和第二预测器，第二解码器的一端连接图像编码器，第二解码器的另一端连接第二预测器，第二解码器用于基于图像编码器输出的第二图像特征得到第二重建图像特征，第二预测器用于基于第二重建图像特征输出预测文本。
本领域技术人员应当理解，本公开实施例的文本识别模型训练装置中各处理模块的功能，可参照前述的文本识别模型训练方法的相关描述而理解，本公开实施例的文本识别模型训练装置中各处理模块，可通过实现本公开实施例该的功能的模拟电路而实现，也可以通过执行本公开实施例该的功能的软件在电子设备上的运行而实现。
本公开实施例的文本识别模型训练装置，能够提高文本识别模型的精度，进而能提高文本识别的准确性。
本公开实施例提供了一种文本识别装置，如图8所示，该文本识别装置可以包括：第五获取模块801，用于获取待识别图像；第六获取模块802，用于获取待识别图像的K个图像，K个图像是对待识别图像做行级别划分后得到的，K为不小于1的整数；控制模块803，用于将K个图像和第二标签输入文本识别模型，获得文本识别模型根据K个图像和第二标签输出的预测文本，第二标签用于指示K个图像供文本识别模型的第二分支读取，文本识别模型通过文本识别模型训练方法训练获得。
在一些实施例中，该控制模块803，包括：读取子模块，用于响应于检测到第二标签，第二分支读取K个图像；控制子模块，用于获取第二分支基于K个图像输出的预测文本。
本领域技术人员应当理解，本公开实施例的文本识别装置中各处理模块的功能，可参照前述的文本识别方法的相关描述而理解，本公开实施例的文本识别装置中各处理模块，可通过实现本公开实施例该的功能的模拟电路而实现，也可以通过执行本公开实施例该的功能的软件在电子设备上的运行而实现。
本公开实施例的文本识别装置，能够提高文本识别的准确性。
本公开实施例提供了一种文本识别模型训练的场景示意图，如图9所示。
如前所述的，本公开实施例提供的文本识别模型训练方法应用于电子设备。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。
具体地，电子设备可具体执行以下操作：
获取第一训练数据和第二训练数据；
将第一训练数据输入待训练模型的第一分支，以及将第二训练数据输入待训练模型的第二分支，第一分支和第二分支共用一个图像编码器，图像编码器用于提取图像特征；
获取第一分支基于第一训练数据输出的重构图像，以及第二分支基于第二训练数据输出的预测文本；
基于重构图像训练第一分支，以及基于预测文本与真实文本训练第二分支；
基于训练好的第一分支和训练好的第二分支，得到文本识别模型。
其中，第一训练数据和第二训练数据，可以从数据源获取。数据源可以是各种形式的数据存储设备，例如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。数据源还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。此外，数据源与用户终端可以是同一设备。
应理解，图9所示的场景图仅仅是示意性而非限制性的，本领域技术人员可以基于图9的例子进行各种显而易见的变化和/或替换，得到的技术方案仍属于本公开实施例的公开范围。
本公开实施例提供了一种文本识别的场景示意图，如图10所示。
如前所述的，本公开实施例提供的文本识别方法应用于电子设备。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。
具体地，电子设备可具体执行以下操作：
获取待识别图像；
获取待识别图像的K个图像，K个图像是对待识别图像做行级别划分后得到的，K为不小于1的整数；
将K个图像和第二标签输入文本识别模型，获得文本识别模型根据K个图像和第二标签输出的预测文本，第二标签用于指示K个图像供文本识别模型的第二分支读取，文本识别模型利用上文所述的文本识别模型训练方法训练获得。
其中，待识别图像和待识别图像所包括的K个图像，以及第二标签可以从数据源获取。数据源可以是各种形式的数据存储设备，例如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。数据源还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。此外，数据源与用户终端可以是同一设备。
应理解，图10所示的场景图仅仅是示意性而非限制性的，本领域技术人员可以基于图10的例子进行各种显而易见的变化和/或替换，得到的技术方案仍属于本公开实施例的公开范围。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质、一种计算机程序产品。
图11示出了可以用来实施本公开的实施例的示例电子设备1100的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系，以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图11所示，设备1100包括计算单元1101，其可以根据存储在只读存储器(Read-Only Memory，ROM)1102中的计算机程序或者从存储单元1108加载到随机访问存储器(Random Access Memory，RAM)1103中的计算机程序，来执行各种适当的动作和处理。在RAM1103中，还可存储设备1100操作所需的各种程序和数据。计算单元1101、ROM 1102以及RAM1103通过总线1104彼此相连。输入/输出(Input/Output，I/O)接口1105也连接至总线1104。
设备1100中的多个部件连接至I/O接口1105，包括：输入单元1106，例如键盘、鼠标等；输出单元1107，例如各种类型的显示器、扬声器等；存储单元1108，例如磁盘、光盘等；以及通信单元1109，例如网卡、调制解调器、无线通信收发机等。通信单元1109允许设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1101的一些示例包括但不限于中央处理单元(Central Processing Unit，CPU)、图形处理单元(Graphics Processing Unit，GPU)、各种专用的人工智能(ArtificialIntelligence，AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(Digital Signal Processor，DSP)，以及任何适当的处理器、控制器、微控制器等。计算单元1101执行上文所描述的各个方法和处理，例如文本识别模型训练方法/文本识别方法。例如，在一些实施例中，文本识别模型训练方法/文本识别方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元1108。在一些实施例中，计算机程序的部分或者全部可以经由ROM 1102和/或通信单元1109而被载入和/或安装到设备1100上。当计算机程序加载到RAM 1103并由计算单元1101执行时，可以执行上文描述的文本识别模型训练方法/文本识别方法的一个或多个步骤。备选地，在其他实施例中，计算单元1101可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行文本识别模型训练方法/文本识别方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(Field Programmable Gate Array，FPGA)、专用集成电路(Application Specific Integrated Circuit，ASIC)、专用标准产品(Application-Specific Standard Products，ASSP)、芯片上系统的系统(System on Chip，SOC)、复杂可编程逻辑设备(Complex Programmable Logic Device，CPLD)、计算机硬件、固件、软件和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的，或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器、只读存储器、可擦除可编程只读存储器(ErasableProgrammable Read-Only Memory，EPROM)、快闪存储器、光纤、便捷式紧凑盘只读存储器(Compact Disk Read Only Memory，CD-ROM)、光学储存设备、磁储存设备，或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，阴极射线管(Cathode Ray Tube，CRT)或者液晶显示器(Liquid Crystal Display，LCD)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈，或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入，或者触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)，或者包括中间件部件的计算系统(例如，应用服务器)，或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)，或者包括这种后台部件、中间件部件，或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(Local Area Network，LAN)、广域网(Wide Area Network，WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端和服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (22)

1.一种文本识别模型训练方法，包括：
获取第一训练数据和第二训练数据；
将所述第一训练数据输入待训练模型的第一分支，以及将所述第二训练数据输入所述待训练模型的第二分支，所述第一分支和所述第二分支共用一个图像编码器，所述图像编码器用于提取图像特征；
获取所述第一分支基于所述第一训练数据输出的重构图像，以及所述第二分支基于所述第二训练数据输出的预测文本；
基于所述重构图像训练所述第一分支，以及基于所述预测文本与真实文本训练所述第二分支；
基于训练好的所述第一分支和训练好的所述第二分支，得到文本识别模型。
2.根据权利要求1所述的方法，还包括：
获取所述第一分支对应的第一标签和所述第二分支对应的第二标签；
其中，所述将所述第一训练数据输入待训练模型的第一分支，以及将所述第二训练数据输入所述待训练模型的第二分支，包括：
响应于读取到携带有所述第一标签的所述第一训练数据，将所述第一训练数据输入至所述第一分支；以及
响应于读取到携带有所述第二标签的所述第二训练数据，将所述第二训练数据输入至所述第二分支。
3.根据权利要求1所述的方法，其中，所述基于所述重构图像训练所述第一分支，以及基于所述预测文本与真实文本训练所述第二分支，包括：
采用并行训练方式对所述第一分支和所述第二分支进行训练。
4.根据权利要求3所述的方法，其中，所述采用并行训练方式对所述第一分支和所述第二分支进行训练，包括：
基于所述重构图像构建无监督损失函数；
基于所述无监督损失函数训练所述第一分支；以及
基于所述预测文本与所述真实文本构建有监督损失函数；
基于所述有监督损失函数训练所述第二分支。
5.根据权利要求1所述的方法，其中，获取第一训练数据，包括：
收集第一原始图像；
对所述第一原始图像做行级别划分，得到所述第一原始图像的N个图像，N为不小于1的整数，所述第一训练数据包括所述第一原始图像的N个图像。
6.根据权利要求5所述的方法，其中，所述获取第一训练数据，还包括：
对所述N个图像中的S个图像进行掩码处理，所述第一训练数据包括所述第一原始图像的S个经过掩码处理的图像和N-S个未经掩码处理的图像，S为大于0且小于N的整数。
7.根据权利要求1所述的方法，其中，获取第二训练数据，包括：
收集第二原始图像；
识别所述第二原始图像得到所述第二原始图像的真实文本；
对所述第二原始图像做行级别划分，得到所述第二原始图像的M个图像，M为不小于1的整数，所述第二训练数据包括所述第二原始图像的M个图像和所述第二原始图像的真实文本。
8.根据权利要求1至7任一项所述的方法，其中，所述第一分支包括所述图像编码器、第一解码器和第一预测器，所述第一解码器的一端连接所述图像编码器，所述第一解码器的另一端连接所述第一预测器，所述第一解码器用于基于所述图像编码器输出的第一图像特征得到第一重建图像特征，所述第一预测器用于基于所述第一重建图像特征得到所述重构图像；所述第二分支包括所述图像编码器、第二解码器和第二预测器，所述第二解码器的一端连接所述图像编码器，所述第二解码器的另一端连接所述第二预测器，所述第二解码器用于基于所述图像编码器输出的第二图像特征得到第二重建图像特征，所述第二预测器用于基于所述第二重建图像特征输出所述预测文本。
9.一种文本识别方法，包括：
获取待识别图像；
获取所述待识别图像的K个图像，所述K个图像是对所述待识别图像做行级别划分后得到的，K为不小于1的整数；
将所述K个图像和第二标签输入文本识别模型，获得所述文本识别模型根据所述K个图像和所述第二标签输出的预测文本，所述第二标签用于指示所述K个图像供所述文本识别模型的第二分支读取，所述文本识别模型通过权利要求1～8中任一项所述的方法训练获得。
10.根据权利要求9所述的方法，其中，所述获得所述文本识别模型根据所述K个图像和所述第二标签输出的预测文本，包括：
响应于检测到所述第二标签，所述第二分支读取所述K个图像；
获取所述第二分支基于所述K个图像输出的所述预测文本。
11.一种文本识别模型训练装置，包括：
第一获取模块，用于获取第一训练数据和第二训练数据；
输入模块，用于将所述第一训练数据输入待训练模型的第一分支，以及将所述第二训练数据输入所述待训练模型的第二分支，所述第一分支和所述第二分支共用一个图像编码器，所述图像编码器用于提取图像特征；
第二获取模块，用于获取所述第一分支基于所述第一训练数据输出的重构图像，以及所述第二分支基于所述第二训练数据输出的预测文本；
训练模块，用于基于所述重构图像训练所述第一分支，以及基于所述预测文本与真实文本训练所述第二分支；
第三获取模块，用于基于训练好的所述第一分支和训练好的所述第二分支，得到文本识别模型。
12.根据权利要求11所述的装置，还包括：
第四获取模块，用于获取所述第一分支对应的第一标签和所述第二分支对应的第二标签；
其中，所述输入模块，包括：
第一输入子模块，用于响应于读取到携带有所述第一标签的所述第一训练数据，将所述第一训练数据输入至所述第一分支；以及
第二输入子模块，用于响应于读取到携带有所述第二标签的所述第二训练数据，将所述第二训练数据输入至所述第二分支。
13.根据权利要求11所述的装置，其中，所述训练模块，包括：
训练子模块，用于采用并行训练方式对所述第一分支和所述第二分支进行训练。
14.根据权利要求13所述的装置，其中，所述训练子模块，具体用于：
基于所述重构图像构建无监督损失函数；
基于所述无监督损失函数训练所述第一分支；以及
基于所述预测文本与真实文本构建有监督损失函数；
基于所述有监督损失函数训练所述第二分支。
15.根据权利要求11所述的装置，其中，所述第一获取模块，包括：
第一收集子模块，用于收集第一原始图像；
第一划分子模块，用于对所述第一原始图像做行级别划分，得到所述第一原始图像的N个图像，N为不小于1的整数，所述第一训练数据包括所述第一原始图像的N个图像。
16.根据权利要求15所述的装置，其中，所述第一获取模块，包括：
掩码子模块，用于对所述N个图像中的S个图像进行掩码处理，所述第一训练数据包括所述第一原始图像的S个经过掩码处理的图像和N-S个未经掩码处理的图像，S为大于0且小于N的整数。
17.根据权利要求11所述的装置，其中，所述第一获取模块，包括：
第二收集子模块，用于收集第二原始图像；
识别子模块，用于识别所述第二原始图像得到所述第二原始图像的真实文本；
第二划分子模块，用于对所述第二原始图像做行级别划分，得到所述第二原始图像对应的M个图像，M为不小于1的整数，所述第二训练数据包括所述第二原始图像的M个图像和所述第二原始图像的真实文本。
18.根据权利要求11至17任一项所述的装置，其中，所述第一分支包括所述图像编码器、第一解码器和第一预测器，所述第一解码器的一端连接所述图像编码器，所述第一解码器的另一端连接所述第一预测器，所述第一解码器用于基于所述图像编码器输出的第一图像特征得到第一重建图像特征，所述第一预测器用于基于所述第一重建图像特征得到所述重构图像；所述第二分支包括所述图像编码器、第二解码器和第二预测器，所述第二解码器的一端连接所述图像编码器，所述第二解码器的另一端连接所述第二预测器，所述第二解码器用于基于所述图像编码器输出的第二图像特征得到第二重建图像特征，所述第二预测器用于基于所述第二重建图像特征输出所述预测文本。
19.一种文本识别装置，包括：
第五获取模块，用于获取待识别图像；
第六获取模块，用于获取所述待识别图像的K个图像，所述K个图像是对所述待识别图像做行级别划分后得到的，K为不小于1的整数；
控制模块，用于将所述K个图像和第二标签输入文本识别模型，获得所述文本识别模型根据所述K个图像和所述第二标签输出的预测文本，所述第二标签用于指示所述K个图像供所述文本识别模型的第二分支读取，所述文本识别模型通过权利要求1至8中任一项所述的方法训练获得。
20.根据权利要求19所述的装置，其中，所述控制模块，包括：
读取子模块，用于响应于检测到所述第二标签，所述第二分支读取所述K个图像；
控制子模块，用于获取所述第二分支基于所述K个图像输出的所述预测文本。
21.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1至10中任一项所述的方法。
22.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1至10中任一项所述的方法。
CN202310033044.3A 2023-01-10 2023-01-10 文本识别模型训练方法、文本识别方法、装置及存储介质 Active CN116229480B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310033044.3A CN116229480B (zh) 2023-01-10 2023-01-10 文本识别模型训练方法、文本识别方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310033044.3A CN116229480B (zh) 2023-01-10 2023-01-10 文本识别模型训练方法、文本识别方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN116229480A true CN116229480A (zh) 2023-06-06
CN116229480B CN116229480B (zh) 2024-05-28

Family

ID=86579806

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310033044.3A Active CN116229480B (zh) 2023-01-10 2023-01-10 文本识别模型训练方法、文本识别方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN116229480B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200027444A1 (en) * 2018-07-20 2020-01-23 Google Llc Speech recognition with sequence-to-sequence models
CN112712079A (zh) * 2021-01-07 2021-04-27 北京三快在线科技有限公司 基于渐进式编码的文字识别方法、装置、电子设备
CN112966792A (zh) * 2021-05-19 2021-06-15 腾讯科技（深圳）有限公司 血管图像分类处理方法、装置、设备及存储介质
CN115019316A (zh) * 2022-06-13 2022-09-06 深圳市星桐科技有限公司 一种文本识别模型的训练方法、文本识别方法
CN115035538A (zh) * 2022-03-22 2022-09-09 北京百度网讯科技有限公司 文本识别模型的训练方法、文本识别方法及装置
CN115512176A (zh) * 2022-08-15 2022-12-23 Oppo广东移动通信有限公司 模型训练方法、图像理解方法、装置、介质与电子设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200027444A1 (en) * 2018-07-20 2020-01-23 Google Llc Speech recognition with sequence-to-sequence models
CN112712079A (zh) * 2021-01-07 2021-04-27 北京三快在线科技有限公司 基于渐进式编码的文字识别方法、装置、电子设备
CN112966792A (zh) * 2021-05-19 2021-06-15 腾讯科技（深圳）有限公司 血管图像分类处理方法、装置、设备及存储介质
CN115035538A (zh) * 2022-03-22 2022-09-09 北京百度网讯科技有限公司 文本识别模型的训练方法、文本识别方法及装置
CN115019316A (zh) * 2022-06-13 2022-09-06 深圳市星桐科技有限公司 一种文本识别模型的训练方法、文本识别方法
CN115512176A (zh) * 2022-08-15 2022-12-23 Oppo广东移动通信有限公司 模型训练方法、图像理解方法、装置、介质与电子设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
PENGYUAN LYU ET AL.: "MaskOCR: Text Recognition with Masked Encoder-Decoder Pretraining", 《ARXIV:2206.60311V1》, pages 1 - 13 *

Also Published As

Publication number Publication date
CN116229480B (zh) 2024-05-28

Similar Documents

Publication Publication Date Title
Sun et al. A robust approach for text detection from natural scene images
CN111488826B (zh) 一种文本识别方法、装置、电子设备和存储介质
Gao et al. Reading scene text with fully convolutional sequence modeling
Bonechi et al. Weak supervision for generating pixel–level annotations in scene text segmentation
CN109726657B (zh) 一种深度学习场景文本序列识别方法
KR20220013298A (ko) 문자 인식 방법 및 장치
US20180114071A1 (en) Method for analysing media content
CN113239807B (zh) 训练票据识别模型和票据识别的方法和装置
Harizi et al. Convolutional neural network with joint stepwise character/word modeling based system for scene text recognition
Bijalwan et al. Automatic text recognition in natural scene and its translation into user defined language
Mohanty et al. Deep learning for understanding satellite imagery: An experimental survey. Front
Minakshi et al. A framework based on deep neural networks to extract anatomy of mosquitoes from images
CN114596566A (zh) 文本识别方法及相关装置
Shah et al. Efficient portable camera based text to speech converter for blind person
CN114581710A (zh) 图像识别方法、装置、设备、可读存储介质及程序产品
CN110781856A (zh) 异质人脸识别模型训练方法、人脸识别方法及相关装置
CN116189162A (zh) 一种船牌检测与识别方法、装置、电子设备和储存介质
Rigaud et al. What do we expect from comic panel extraction?
CN104966109A (zh) 医疗化验单图像分类方法及装置
Natei et al. Extracting text from image document and displaying its related information
Phan et al. Vietnamese character recognition based on CNN model with reduced character classes
Bae et al. Character recognition system for cellular phone with camera
Satwashil et al. Integrated natural scene text localization and recognition
CN116229480B (zh) 文本识别模型训练方法、文本识别方法、装置及存储介质
Seeri et al. A novel approach for Kannada text extraction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant