CN112101355B - 图像中文本检测方法、装置、电子设备以及计算机介质 - Google Patents

图像中文本检测方法、装置、电子设备以及计算机介质 Download PDF

Info

Publication number
CN112101355B
CN112101355B CN202011026490.4A CN202011026490A CN112101355B CN 112101355 B CN112101355 B CN 112101355B CN 202011026490 A CN202011026490 A CN 202011026490A CN 112101355 B CN112101355 B CN 112101355B
Authority
CN
China
Prior art keywords
text
detection model
labeling
image
text detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011026490.4A
Other languages
English (en)
Other versions
CN112101355A (zh
Inventor
杜泓江
庞敏辉
谢国斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202011026490.4A priority Critical patent/CN112101355B/zh
Publication of CN112101355A publication Critical patent/CN112101355A/zh
Application granted granted Critical
Publication of CN112101355B publication Critical patent/CN112101355B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了一种图像中文本检测方法和装置,涉及图像处理技术领域。该方法的一具体实施方式包括:确定标注图像中的标注模板以及标注模板中的文本行;基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本;基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,训练完成的文本检测模型输入为图像,输出为图像中文本行的位置;采用训练完成的文本检测模型对待测图像中的文本行进行预测,得到训练完成的文本检测模型输出的文本行的位置。该实施方式提升了文本检测的效率。

Description

图像中文本检测方法、装置、电子设备以及计算机介质
技术领域
本申请涉及图像处理技术领域,具体涉及计算机视觉技术领域,尤其涉及一种图像中文本检测方法、装置、电子设备以及计算机可读介质。
背景技术
日常生活中增值税发票、医疗收费票据等票据均需盖有印章,才能用于报销流程。印章中一般刻有企业名称、印章类型以及印章编号等信息,一般包含两类文字行:弯曲文字行、直线型文字行。
现有的图像检测技术,通常是对图像中水平或垂直等常规中文文字进行检测,对于票据图像中混合了弯曲和非弯曲的复杂文字行位置的检测手段较少。
发明内容
提供了一种图像中文本检测方法、装置、电子设备以及计算机可读介质。
根据第一方面,提供了一种图像中文本检测方法,上述方法包括:确定标注图像中的标注模板以及标注模板中的文本行;基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本;基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息;采用训练完成的文本检测模型对待测图像中的文本行进行预测,得到训练完成的文本检测模型输出的待测图像中的文本行的位置信息。
根据第二方面,提供了一种图像中文本检测装置,该装置包括:确定单元,被配置成确定标注图像中的标注模板以及标注模板中的文本行;得到单元,被配置成基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本;训练单元,被配置成基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息;预测单元,被配置成采用训练完成的文本检测模型对待测图像中的文本行进行预测,得到训练完成的文本检测模型输出的待测图像中的文本行的位置信息。
根据第三方面,提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器,其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面任一实现方式描述的方法。
根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行如第一方面任一实现方式描述的方法。
本申请的实施例提供的图像中文本检测方法和装置,首先确定标注图像中的标注模板以及标注模板中的文本行;其次,基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本;然后,基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息;最后,采用训练完成的文本检测模型对待测图像中的文本行进行预测,得到训练完成的文本检测模型输出的待测图像中的文本行的位置信息。由此,基于图像中的标注模板的位置以及形状,采用多边形标注框标注标注模板中所有文本行中的文字,得到的文字标注样本的位置更加准确,实现了标注模板中文本行的标注的同时,还可以使训练完成的文本检测模型准确度更高,提升了文本检测的效率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请图像中文本检测方法的一个实施例的流程图;
图2是本申请采用至少一个多边形标注框标注所有文本行中的文字的方法的一种流程图;
图3是本申请中对印章中所有文本行中的文字进行标注的一种示意图;
图4是本申请得到训练完成的文本检测模型的方法的一种流程图;
图5是根据本申请图像中文本检测装置的实施例的结构示意图;
图6是用来实现本申请实施例的图像中文本检测方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1示出了根据本申请图像中文本检测方法的一个实施例的流程100。上述图像中文本检测方法包括以下步骤:
步骤101,确定标注图像中的标注模板以及标注模板中的文本行。
本实施例中,标注图像可以是预先设置的用于实现标注的图像,该标注图像可以是生活中具有增值税发票、医疗收费票据的图像,当然,标注图像也可以是用户输入的图像,用户决定对什么图像进行检测,确定什么文本的位置,并准备好需要标注的标注图像,以对标注图像进行数据标注。
可选地,可以在确定标注图像中的标注模板前,对标注图像进行数据增强处理,数据增强处理包括:高斯噪声图像解析(在标注图像中增加高斯噪声),对图像进行旋转或翻转等。
本实施例中,标注模板是标注图像中的图形,比如,在增值税发票或医疗收费票据的图像中,标注模板可以是印章,该印章可以是财务专用章、发票专用章等,进一步地,标注模型的形状可以是圆形、方形、菱形等不同形状,针对不同形状的标注模板,可以采用计算机视觉库软件确定标注模板的位置,比如采用OpenCV(Open Source Computer VisionLibrary)确定标注模板,OpenCV是一个种跨平台计算机视觉库,它轻量级而且高效——由一系列C函数和少量C++类构成,同时提供了Python、Ruby、MATLAB等多种语言接口,实现了图像处理和计算机视觉方面的很多通用算法。
本实施例中,标注模板中的文本行可以是弯曲的文本行,也可以是非弯曲的文本行,针对不同的形状的文本行,可以采用计算机视觉库软件对标注模板中的文本的弯曲度进行分析,以确定文本行是否为弯曲的文本行。
步骤102,基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本。
本实施例中,文本行可以是弯曲文本行,或者文本行是弯曲文本行和非弯曲文本行,其中非弯曲文本行进一步还可以是直线文本行。多边形标注框是指具有三个边以上的标注框,其可以是规则的等边N边形(N>3),也可以是非规则的N边形。本实施例中,针对弯曲文本行和非弯曲文本行,均可以采用多边形标注框进行标注,当采用至少一个多边形标注框标注完标注模板中的所有文本行之后,即可以得到文字标注样本,将文字标注样本输入与该文字标注样本对应的模型即可以对模型进行训练。
可选地,还可以在得到文字标注样本后,对原标注图像和文字标注样本进行数据增强处理。
在本实施例的一些可选实现方式中,文本行包括:弯曲文本行。标注模板轮廓的形状为圆形或椭圆;在实际应用中,标注模板可以是图像中的印章。上述基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,包括:对弯曲文本行进行分段,得到两段以上文字行;基于两段以上文字行,确定每段文字行对应的多边形标注框,以使一个多边形标注框框选一个文字行。其中,相邻两个多边形标注框互不交叉,且每个多边形标注框与标注模板轮廓具有至少两个交点。
本可选实现方式,由于标注模板为圆形或椭圆,在确定每段文字行的多边形标注框时,可以对弯曲文本行的文字行采用倒梯形进行标注,即弯曲文字被分成几段,每一段采用倒梯形标注,每一段的倒梯形的上底贴近标注模板的弧边,不同段的文字行之间,任意相邻的倒梯形相互逼近但是不交叉。进一步地,可以采用标注工具得到多边形标注框,以使用多边形标注框标注文字行,比如,采用labelme、labelImg等标注工具。labelme是一种图像标注工具,可以使用该工具创建定制化标注任务或执行图像标注。labelImg是一款专业的图像标注工具,通过该工具可方便创建数据集,使用户轻松进行工作,其在执行命令之后,可以自动寻找运行文件,打开运行文件就可以对图像进行画框。
本可选实现方式中,多边形标注框与标注模板的轮廓具有至少两个交点,可以使标注模板作为标注模板中所有的弯曲文本行的标注基准,由于标注基准的位置是确定的,各个弯曲文本行的位置便很容易标注出来,提高了标注文本行的便利性。进一步地,将相邻两个多边形标注框设置为互不交叉,可以保持各个文字行的独立性,为具体定位各个文字的位置奠定了基础。
本可选实现方式提供的标注文本行中文字的方法,对弯曲文本进行分段,得到两段以上的文字行,确定每个文字行的多边形标注框,由于标注模板的位置确定,基于标注模板的形状为每个文字行分配多边形标注框保证了文本行标注的位置的可靠性。
步骤103,基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型。
其中,训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息。
本实施例中,训练完成的文本检测模型用于对图像中的文本行进行检测,检测结果为图像中文本行的位置信息。该图像中文本行的位置信息可以不同形式表现出来,位置信息包括:各个文本行中文字行在图像中的坐标,以及在图像上标出的文本行中各文字行的图像等等。进一步地,当在训练完成的文本检测模型输入的是待检测图像,则训练完成的文本检测模型输出的是待检测图像中的文本行的位置信息。
本实施例中,文本检测模型训练过程可以如下:
1)收集所有的文字标注样本。
2)采用诸如卷积神经网络等模型结构构建文本检测模型。然后利用收集的文字标注样本对文本检测模型进行训练。在训练过程中,可以根据文本检测模型对文字标注样本的文本检测结果与文字标注样本的多边形标注框之间的差异确定文本检测模型的误差,利用误差反向传播的方式迭代调整文本检测模型的参数,使其误差逐步缩小。在文本检测模型的误差收敛至一定的范围内或迭代的次数达到预设的次数阈值时可以停止调整参数,得到训练完成的文本检测模型。
进一步地,本实施例中,文本检测模型可以采用TextSnake(文字蛇)、CTPN(Detecting Text inNatural Image with Connectionist Text Proposal Network)等模型。其中,TextSnake模型能够以水平、多方向和弯曲的形式有效地表征文本实例。在TextSnake模型中,文本实例检测框表征为以对称轴为中心的有序的、重叠的圆盘序列,每个圆盘都有其可变的半径和方向。CTPN模型为在场景中提取文字的一个效果较好的算法,能对自然环境中的文本信息位置进行检测。
为了得到更优地训练完成的文本检测模型,在本实施例的一些可选实现方式中,可以在上述文本检测模型训练的过程中外再加一个外循环,该外循环原理是:设置多个文本检测模型的训练参数,每进行一次外循环时,在多个文本检测模型的训练参数中选取一个训练参数进行上述文本检测模型训练的过程。这样针对每个文本检测模型的训练参数都可以生成一个文本检测模型,再从生成的所有的文本检测模型中选择一个评价指标最优的模型,作为训练完成的文本检测模型。
具体地,在本可选实现方式中,上述基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,包括:设置多组训练参数;针对每组训练参数,将文字标注样本输入文本检测模型,以使文本检测模型按该组训练参数进行训练;在各组训练参数对应的文本检测模型均训练完成之后,获取各组训练参数对应的文本检测模型的评价指标;将所有文本检测模型的评价指标进行由高至低排名;将评价指标排名最高的文本检测模型,作为训练完成的文本检测模型。
本可选实现方式中,训练参数是模型训练过程中需要采集的参数,训练参数包括:迭代次数和/或epoch(轮次)等,其中,epoch是指模型在训练时,所有文字标注样本都训练一次的次数。迭代次数是在一个epoch中训练所有文字标注样本的次数。
本可选实现方式中,文本检测模型的评价指标是指评价文本检测模型的训练效果的指标,该指标可以包括:准确率、召回率和F1-score(F1分数)等,其中,准确率为预测出来并且预测对的数量/预测出来的总数;召回率为预测出来并且预测对的数量/实际预测总数;F1-score=2*准确率*召回率/(准确率+召回率)。
本可选实现方式提供的得到训练完成的文本检测模型的方法,针对设置的每组训练参数,文本检测模型按该组训练参数进行训练,得到与每组训练参数一一对应的文本检测模型,将与训练参数对应的文本检测模型的评价指标进行排序,得到评价指数排名的最高的文本检测模型。由此,可以从多个文本检测模型,确定最优的文本检测模型作为训练完成的文本检测模型,保证了训练完成的文本检测模型的检测的准确性和可靠性。
步骤104,采用训练完成的文本检测模型对待测图像中的文本行进行预测,得到训练完成的文本检测模型输出的待测图像中的文本行的位置信息。
本实施例中,待测图像是用户需要检测的图像,且待测图像是未做任何标注的图像,在预测过程中,将待测图像输入训练完成的文本检测模型,就会得到训练完成的文本检测模型输出的预测结果,该预测结果即为待测图像中的文本行的位置信息。
本实施例提供的图像中文本检测方法,相当于针对这类图像检测任务开发一个工具,只需为此工具配置好参数,然后根据这些参数生成图像检测模型,然后应用到实际待测图像中文本行的预测中。
本实施例提供的图像中文本检测方法,还可以基于除图像领域之外的不同领域(如文本、法律、金融……)的类似小样本进行标注,生成针对不同领域的文本检测模型。
本实施例可以对复杂票据的检测实现自动化、自助化,智能化,能够快速在不同情况下的获取到检测结果,大幅降低了基于小样本的复杂票据类型的检测门槛,用户只需提供标注图像、待测图像就能够快速、便捷、低成本、高效率的进行生产部署与应用。
综上,本申请的实施例提供的图像中文本检测方法,首先确定标注图像中的标注模板以及标注模板中的文本行;其次,基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本;然后,基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息;最后,采用训练完成的文本检测模型对待测图像中的文本行进行预测,得到训练完成的文本检测模型输出的待测图像中的文本行的位置信息。由此,基于图像中的标注模板的位置以及形状,采用多边形标注框标注标注模板中所有文本行中的文字,得到的文字标注样本的位置更加准确,实现了标注模板中文本行的标注的同时,还可以使训练完成的文本检测模型准确度更高,提升了文本检测的效率。
针对上述实施例,文本行可以是弯曲文本行,或者是弯曲文本行和直线文本行,标注模板轮廓的形状为圆形或椭圆。在本实施例的一些可选实现方式中,文本行包括:弯曲文本行和直线文本行。如图2,示出了根据本申请采用至少一个多边形标注框标注所有文本行中的文字的方法的一种流程200。上述采用至少一个多边形标注框标注所有文本行中的文字的方法包括以下步骤:
步骤201,对弯曲文本行进行分段,得到两段以上文字行。
本可选实现方式中,对弯曲文本的分段可以根据弯曲文本中文字个数进行分段,如图3所示,标注模板为印章,该印章上具有直线文本行和弯曲文本行,而对弯曲文本中每两个文字一段,得到七个文字行,其中,两个文字形成一个文字行。
步骤202,基于两段以上文字行,确定每段文字行对应的多边形标注框,以使一个多边形标注框框选一个文字行。
其中,相邻两个多边形标注框互不交叉,且每个多边形标注框与标注模板轮廓具有至少两个交点。
具体地,参见图3所示,标注模板为印章,该印章上具有直线文本行和弯曲文本行,直线文本行包括:“发票专用章”。在图3中采用倒梯形标注框标注每个分段的文字行,倒梯形标注框的上底与发票专用章的轮廓相交,且任意相邻两个倒梯形标注框之间互不交叉。当然,还可以采用倒梯形之外的多边形标注框对弯曲文本进行标注。
步骤203,在直线文本行位于标注模板轮廓中心时,确定直线文本行对应的最小外接矩形标注框,以使最小外接矩形标注框框选直线文本行。
本可选实现方式中,在标注模板轮廓的中心具有一直线文本行,通过标注工具做一可变矩形标注框,使该可变矩形标注框先框选上该直线文本行,并向该直线文本行逐渐逼近,直至可变矩形标注框贴近该直线文本行为止,得到该直线文本行的最小外接矩形标注框,固定该最小外接矩形标注框。
本可选实现方式中,可以为标注模板中的所有直线文本行匹配最小外接矩形标注框,且各个最小外接矩形标注框互不交叉,所有最小外接矩形标注框也与弯曲文本行的所有多边形标注框没有任何交叉。
本可选实施例提供的采用至少一个多边形标注框标注所有文本行中的文字的方法,针对文本行包括弯曲文本和直线文本的情况,采用多边形标注框可以标注所有文本行,提高了标注的全面性。
为了得到更优地训练完成的文本检测模型,在本实施例的一些可选实现方式中,参见图4所示,为本申请得到训练完成的文本检测模型的方法的一种流程400,该得到训练完成的文本检测模型的方法包括以下步骤:
步骤401,设置多组训练参数。
本可选实现方式中,训练参数是模型训练过程中需要采集的参数,训练参数包括:迭代次数和/或epoch(轮次)等,其中,epoch在训练时,所有文字标注样本都训练一次的次数。迭代次数是在一个epoch中训练batch的次数。
步骤402,针对每组训练参数,将文字标注样本输入文本检测模型,以使文本检测模型按该组训练参数进行训练。
步骤403,同时在文本检测模型按该组训练参数进行训练时,采用网格搜索算法和/或贝叶斯优化算法优化文本检测模型。
本可选实现方式中,贝叶斯优化算法和网格搜索算法均用于机器学习调参。
其中,贝叶斯优化算法主要思想是:给定优化的目标函数(广义的函数,只需指定输入和输出即可,无需知道内部结构以及数学性质),通过不断地添加样本点来更新目标函数的后验分布(高斯过程,直到后验分布基本贴合于真实分布。简单的说,就是考虑了上一次参数的信息,从而更好的调整当前的参数。
贝叶斯优化算法具有以下优点:
1、贝叶斯优化算法的调参采用高斯过程,考虑之前的参数信息,不断地更新先验。2、贝叶斯优化算法的调参迭代次数少,速度快。3、贝叶斯优化算法的调参针对非凸问题依然稳健。
网格搜索算法是应用最广泛的超参数搜索算法,网格搜索算法通过查找搜索范围内的所有的点,来确定最优值。一般通过给出较大的搜索范围以及较小的步长,网格搜索算法是一定可以找到全局最大值或最小值的。
步骤404,在各组训练参数对应的文本检测模型均训练完成之后,获取各组训练参数对应的文本检测模型的评价指标。
本可选实现方式中,文本检测模型的评价指标是指评价文本检测模型的训练效果的指标,该指标可以包括:准确率、召回率和F1-score(F1分数)等,其中,准确率为预测出来并且预测对的数量/预测出来的总数;召回率为预测出来并且预测对的数量/实际预测总数;F1-score=2*准确率*召回率/(准确率+召回率)。本实施例中,可以优选F1-score作为文本检测模型的评价指标。
步骤405,将所有文本检测模型的评价指标进行由高至低排名。
步骤406,将评价指标排名最高的文本检测模型,作为训练完成的文本检测模型。
本可选实现方式提供的得到训练完成的文本检测模型的方法,在文本检测模型按不同组训练参数进行训练时采用网格搜索算法和/或贝叶斯算法优化文本检测模型,从而使得到的训练完成的文本检测模型检测效果更好,提高了训练完成的文本检测模型的准确性和可靠性。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了图像中文本检测装置的一个实施例,该装置实施例与图1所示的方法实施例相对应,该装置具体可应用于各种电子设备中。
如图5所示,本实施例提供的图像中文本检测装置500包括:确定单元501,得到单元502,训练单元503,预测单元504。其中,上述确定单元501,可以被配置成确定标注图像中的标注模板以及标注模板中的文本行。上述得到单元502,可以被配置成基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本。上述训练单元503,可以被配置成基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息。上述预测单元504,可以被配置成采用训练完成的文本检测模型对待测图像中的文本行进行预测,得到训练完成的文本检测模型输出的待测图像中的文本行的位置信息。
在本实施例中,图像中文本检测装置500中:确定单元501,得到单元502,训练单元503,预测单元504的具体处理及其所带来的技术效果可分别参考图1对应实施例中的步骤101、步骤102、步骤103、步骤104的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,上述文本行包括:弯曲文本行;标注模板轮廓的形状为圆形或椭圆;上述得到单元502包括:分段模块(图中未示出),得到模块(图中未示出)。其中,上述分段模块,可以被配置成对弯曲文本行进行分段,得到两段以上文字行。上述得到模块,可以被配置成基于两段以上文字行,确定每段文字行对应的多边形标注框,以使一个多边形标注框框选一个文字行,相邻两个多边形标注框互不交叉,且每个多边形标注框与标注模板轮廓具有至少两个交点。
在本实施例的一些可选的实现方式中,上述文本行还包括:直线文本行;上述得到单元502还包括:确定模块(图中未示出)。其中,上述确定模块,可以被配置成在直线文本行位于标注模板轮廓中心时,确定直线文本行对应的最小外接矩形标注框,以使最小外接矩形标注框框选直线文本行。
在本实施例的一些可选的实现方式中,上述训练单元503包括:设置模块(图中未示出),训练模块(图中未示出),计算模块(图中未示出),排名模块(图中未示出),提取模块(图中未示出)。其中,上述设置模块,可以被配置成设置多组训练参数。上述训练模块,可以被配置成针对每组训练参数,将文字标注样本输入文本检测模型,以使文本检测模型按该组训练参数进行训练。上述计算模块,可以被配置成在各组训练参数对应的文本检测模型均训练完成之后,获取各组训练参数对应的文本检测模型的评价指标;上述排名模块,可以被配置成将所有文本检测模型的评价指标进行由高至低排名。上述提取模块,可以被配置成将评价指标排名最高的文本检测模型,作为训练完成的文本检测模型。
在本实施例的一些可选的实现方式中,上述训练单元503还包括:优化模块(图中未示出)。上述优化模块,可以被配置成在文本检测模型按该组训练参数进行训练时,采用网格搜索算法和/或贝叶斯优化算法优化文本检测模型。
本申请的实施例提供的图像中文本检测装置,首先,确定单元501确定标注图像中的标注模板以及标注模板中的文本行;其次,得到单元502基于标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本;然后,训练单元503基于文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息;最后,预测单元504采用训练完成的文本检测模型对待测图像中的文本行进行预测,得到训练完成的文本检测模型输出的待测图像中的文本行的位置信息。由此,基于图像中的标注模板的位置以及形状,采用多边形标注框标注标注模板中所有文本行中的文字,得到的文字标注样本的位置更加准确,提升了文本检测的效率实现了标注模板中文本行的标注的同时,还可以使训练完成的文本检测模型准确度更高,提升了文本检测的效率。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图6所示,是根据本申请实施例的图像中文本检测方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的图像中文本检测方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的图像中文本检测方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的图像中文本检测方法对应的程序指令/模块(例如,附图5所示的确定单元501、得到单元502、训练单元503和预测单元504)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的图像中文本检测方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据图像中文本检测方法的电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至图像中文本检测方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
图像中文本检测方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线605或者其他方式连接,图6中以通过总线605连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与图像中文本检测方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与虚拟专用服务器(VPS,Virtual Private Server)服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (10)

1.一种图像中文本检测方法,包括:
确定标注图像中的标注模板以及所述标注模板中的文本行;
基于所述标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本;所述文本行包括:弯曲文本行;所述标注模板轮廓的形状为圆形或椭圆;所述基于所述标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,包括:对所述弯曲文本行进行分段,得到两段以上文字行;基于所述两段以上文字行,确定每段文字行对应的多边形标注框,以使一个多边形标注框框选一个文字行,其中,相邻两个多边形标注框互不交叉,且每个多边形标注框与所述标注模板轮廓具有至少两个交点;所述确定每段文字行对应的多边形标注框包括:对所述弯曲文本行的文字行采用倒梯形进行标注,即弯曲文字被分成几段,每一段采用倒梯形标注,每一段的倒梯形的上底贴近标注模板的弧边,不同段的文字行之间,任意相邻的倒梯形相互逼近但是不交叉;
基于所述文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,所述训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息;
采用所述训练完成的文本检测模型对待测图像中的文本行进行预测,得到所述训练完成的文本检测模型输出的所述待测图像中的文本行的位置信息。
2.根据权利要求1所述的方法,其中,所述文本行还包括:直线文本行;所述基于所述标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,还包括:
在所述直线文本行位于所述标注模板轮廓中心时,确定所述直线文本行对应的最小外接矩形标注框,以使所述最小外接矩形标注框框选所述直线文本行。
3.根据权利要求1所述的方法,其中,所述基于所述文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,包括:
设置多组训练参数;
针对每组训练参数,将所述文字标注样本输入文本检测模型,以使所述文本检测模型按该组训练参数进行训练;
在各组训练参数对应的文本检测模型均训练完成之后,获取各组训练参数对应的文本检测模型的评价指标;
将所有文本检测模型的评价指标进行由高至低排名;
将评价指标排名最高的文本检测模型,作为训练完成的文本检测模型。
4.根据权利要求3所述的方法,其中,所述基于所述文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,还包括:
在所述文本检测模型按该组训练参数进行训练时,采用网格搜索算法和/或贝叶斯优化算法优化所述文本检测模型。
5.一种图像中文本检测装置,包括:
确定单元,被配置成确定标注图像中的标注模板以及所述标注模板中的文本行;
得到单元,被配置成基于所述标注模板轮廓的形状,采用至少一个多边形标注框标注所有文本行中的文字,得到文字标注样本;所述文本行包括:弯曲文本行;所述标注模板轮廓的形状为圆形或椭圆;所述得到单元包括:分段模块,被配置成对所述弯曲文本行进行分段,得到两段以上文字行;得到模块,被配置成基于所述两段以上文字行,确定每段文字行对应的多边形标注框,以使一个多边形标注框框选一个文字行,相邻两个多边形标注框互不交叉,且每个多边形标注框与所述标注模板轮廓具有至少两个交点;所述得到模块进一步被配置成:对所述弯曲文本行的文字行采用倒梯形进行标注,即弯曲文字被分成几段,每一段采用倒梯形标注,每一段的倒梯形的上底贴近标注模板的弧边,不同段的文字行之间,任意相邻的倒梯形相互逼近但是不交叉;
训练单元,被配置成基于所述文字标注样本,对文本检测模型训练,得到训练完成的文本检测模型,所述训练完成的文本检测模型输入为图像,输出为图像中文本行的位置信息;
预测单元,被配置成采用所述训练完成的文本检测模型对待测图像中的文本行进行预测,得到所述训练完成的文本检测模型输出的所述待测图像中的文本行的位置信息。
6.根据权利要求5所述的装置,其中,所述文本行还包括:直线文本行;
所述得到单元还包括:
确定模块,被配置成在所述直线文本行位于所述标注模板轮廓中心时,确定所述直线文本行对应的最小外接矩形标注框,以使所述最小外接矩形标注框框选所述直线文本行。
7.根据权利要求5所述的装置,其中,所述训练单元包括:
设置模块,被配置成设置多组训练参数;
训练模块,被配置成针对每组训练参数,将所述文字标注样本输入文本检测模型,以使所述文本检测模型按该组训练参数进行训练;
计算模块,被配置成在各组训练参数对应的文本检测模型均训练完成之后,获取各组训练参数对应的文本检测模型的评价指标;
排名模块,被配置成将所有文本检测模型的评价指标进行由高至低排名;
提取模块,被配置成将评价指标排名最高的文本检测模型,作为训练完成的文本检测模型。
8.根据权利要求7所述的装置,其中,所述训练单元还包括:
优化模块,被配置成在所述文本检测模型按该组训练参数进行训练时,采用网格搜索算法和/或贝叶斯优化算法优化所述文本检测模型。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的方法。
CN202011026490.4A 2020-09-25 2020-09-25 图像中文本检测方法、装置、电子设备以及计算机介质 Active CN112101355B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011026490.4A CN112101355B (zh) 2020-09-25 2020-09-25 图像中文本检测方法、装置、电子设备以及计算机介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011026490.4A CN112101355B (zh) 2020-09-25 2020-09-25 图像中文本检测方法、装置、电子设备以及计算机介质

Publications (2)

Publication Number Publication Date
CN112101355A CN112101355A (zh) 2020-12-18
CN112101355B true CN112101355B (zh) 2024-04-02

Family

ID=73755524

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011026490.4A Active CN112101355B (zh) 2020-09-25 2020-09-25 图像中文本检测方法、装置、电子设备以及计算机介质

Country Status (1)

Country Link
CN (1) CN112101355B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112348021A (zh) * 2021-01-08 2021-02-09 北京易真学思教育科技有限公司 文本检测方法、装置、设备及存储介质
CN112766246A (zh) * 2021-04-09 2021-05-07 上海旻浦科技有限公司 基于深度学习的文档标题识别方法、系统、终端及介质
CN114882313B (zh) * 2022-05-17 2023-07-25 阿波罗智能技术(北京)有限公司 生成图像标注信息的方法、装置、电子设备及存储介质
WO2024197829A1 (zh) * 2023-03-31 2024-10-03 京东方科技集团股份有限公司 单字检测方法、模型的训练方法、装置、设备及介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109948604A (zh) * 2019-02-01 2019-06-28 北京捷通华声科技股份有限公司 不规则排列文本的识别方法、装置、电子设备及存储介质
CN110414498A (zh) * 2019-06-14 2019-11-05 华南理工大学 一种基于交叉注意力机制的自然场景文本识别方法
CN110751154A (zh) * 2019-09-27 2020-02-04 西北工业大学 一种基于像素级分割的复杂环境多形状文本检测方法
CN110837835A (zh) * 2019-10-29 2020-02-25 华中科技大学 一种基于边界点检测的场景文本端到端识别方法
CN110969129A (zh) * 2019-12-03 2020-04-07 山东浪潮人工智能研究院有限公司 一种端到端税务票据文本检测与识别方法
CN111027553A (zh) * 2019-12-23 2020-04-17 武汉唯理科技有限公司 一种圆形印章文字识别方法
CN111223065A (zh) * 2020-01-13 2020-06-02 中国科学院重庆绿色智能技术研究院 图像矫正方法、不规则文本识别方法、装置、存储介质和设备
CN111242126A (zh) * 2020-01-15 2020-06-05 上海眼控科技股份有限公司 不规则文本校正方法、装置、计算机设备和存储介质
CN111401371A (zh) * 2020-06-03 2020-07-10 中邮消费金融有限公司 一种文本检测识别方法、系统及计算机设备
CN111612009A (zh) * 2020-05-21 2020-09-01 腾讯科技(深圳)有限公司 文本识别方法、装置、设备和存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9042640B2 (en) * 2012-01-13 2015-05-26 Xerox Corporation Methods and system for analyzing and rating images for personalization

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109948604A (zh) * 2019-02-01 2019-06-28 北京捷通华声科技股份有限公司 不规则排列文本的识别方法、装置、电子设备及存储介质
CN110414498A (zh) * 2019-06-14 2019-11-05 华南理工大学 一种基于交叉注意力机制的自然场景文本识别方法
CN110751154A (zh) * 2019-09-27 2020-02-04 西北工业大学 一种基于像素级分割的复杂环境多形状文本检测方法
CN110837835A (zh) * 2019-10-29 2020-02-25 华中科技大学 一种基于边界点检测的场景文本端到端识别方法
CN110969129A (zh) * 2019-12-03 2020-04-07 山东浪潮人工智能研究院有限公司 一种端到端税务票据文本检测与识别方法
CN111027553A (zh) * 2019-12-23 2020-04-17 武汉唯理科技有限公司 一种圆形印章文字识别方法
CN111223065A (zh) * 2020-01-13 2020-06-02 中国科学院重庆绿色智能技术研究院 图像矫正方法、不规则文本识别方法、装置、存储介质和设备
CN111242126A (zh) * 2020-01-15 2020-06-05 上海眼控科技股份有限公司 不规则文本校正方法、装置、计算机设备和存储介质
CN111612009A (zh) * 2020-05-21 2020-09-01 腾讯科技(深圳)有限公司 文本识别方法、装置、设备和存储介质
CN111401371A (zh) * 2020-06-03 2020-07-10 中邮消费金融有限公司 一种文本检测识别方法、系统及计算机设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于神经网络的发票文字检测与识别方法;蒋冲宇;鲁统伟;闵峰;熊寒颖;胡记伟;;武汉工程大学学报(第06期);全文 *
基于语义分割的食品标签文本检测;田萱;王子亚;王建新;;农业机械学报(第08期);全文 *

Also Published As

Publication number Publication date
CN112101355A (zh) 2020-12-18

Similar Documents

Publication Publication Date Title
CN112101355B (zh) 图像中文本检测方法、装置、电子设备以及计算机介质
EP3926526A2 (en) Optical character recognition method and apparatus, electronic device and storage medium
CN111860506B (zh) 识别文字的方法和装置
CN111144577B (zh) 异构图之中节点表示的生成方法、装置和电子设备
CN111859951B (zh) 语言模型的训练方法、装置、电子设备及可读存储介质
KR102326395B1 (ko) 다수의 객체 입력을 인식하기 위한 시스템 및 그 방법 및 제품
JP7142121B2 (ja) 文字認識の方法、装置、電子設備、コンピュータ可読記憶媒体、及びプログラム
CN112036509A (zh) 用于训练图像识别模型的方法和装置
CN110795569A (zh) 知识图谱的向量表示生成方法、装置及设备
CN111339759A (zh) 领域要素识别模型训练方法、装置及电子设备
CN111667056A (zh) 用于搜索模型结构的方法和装置
CN111611990B (zh) 用于识别图像中表格的方法和装置
CN112149741B (zh) 图像识别模型的训练方法、装置、电子设备及存储介质
CN111539347B (zh) 用于检测目标的方法和装置
CN111326251B (zh) 一种问诊问题输出方法、装置以及电子设备
US20210350173A1 (en) Method and apparatus for evaluating image relative definition, device and medium
CN112560499B (zh) 语义表示模型的预训练方法、装置、电子设备及存储介质
CN111881908A (zh) 目标检测模型的修正方法、检测方法、装置、设备及介质
CN112507090A (zh) 用于输出信息的方法、装置、设备和存储介质
KR20220034083A (ko) 글꼴 데이터베이스의 생성 방법, 신경망 모델의 훈련 방법 및 장치, 전자 기기, 저장 매체, 컴퓨터 프로그램
CN112329453A (zh) 样本章节的生成方法、装置、设备以及存储介质
CN114511743A (zh) 检测模型训练、目标检测方法、装置、设备、介质及产品
CN111767946B (zh) 医学影像分级模型训练及预测方法、装置、设备及介质
CN113822272A (zh) 数据处理方法和装置
CN112200169A (zh) 用于训练模型的方法、装置、设备以及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant