CN117037166A - 基于人工智能的文本识别方法、装置、计算机设备及介质 - Google Patents

基于人工智能的文本识别方法、装置、计算机设备及介质 Download PDF

Info

Publication number
CN117037166A
CN117037166A CN202310833857.0A CN202310833857A CN117037166A CN 117037166 A CN117037166 A CN 117037166A CN 202310833857 A CN202310833857 A CN 202310833857A CN 117037166 A CN117037166 A CN 117037166A
Authority
CN
China
Prior art keywords
text
image
bounding box
recognition
character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310833857.0A
Other languages
English (en)
Inventor
欧阳高询
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Life Insurance Company of China Ltd
Original Assignee
Ping An Life Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Life Insurance Company of China Ltd filed Critical Ping An Life Insurance Company of China Ltd
Priority to CN202310833857.0A priority Critical patent/CN117037166A/zh
Publication of CN117037166A publication Critical patent/CN117037166A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/153Segmentation of character regions using recognition of characters or words
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/1444Selective acquisition, locating or processing of specific regions, e.g. highlighted text, fiducial marks or predetermined fields
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/16Image preprocessing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/19007Matching; Proximity measures
    • G06V30/19013Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Character Discrimination (AREA)

Abstract

本发明涉及人工智能技术领域,尤其涉及一种基于人工智能的文本识别方法、装置、计算机设备及介质。该方法提取待识别图像和模板图像的字符包围框和参考包围框,计算字符包围框与其最接近的参考包围框的交并比,以所有交并比均值作为匹配参数,若匹配参数满足预设条件,根据模板图像作为基准图像相对标准图像的旋转参数,对待识别图像校正,将校正得到的目标图像输入文本识别模型,输出识别文本,根据标准图像中标准文本框的关联关系,对识别文本进行语义关联,根据语义关联结果,对识别文本修正,根据模板图像的旋转参数进行图像校正,结合语义关联结果修正待识别文本,提高了文本识别的准确率,提高了金融服务平台对金融文本数据的处理准确率。

Description

基于人工智能的文本识别方法、装置、计算机设备及介质
技术领域
本发明涉及人工智能技术领域,尤其涉及一种基于人工智能的文本识别方法、装置、计算机设备及介质。
背景技术
随着人工智能技术的兴起,基于人工智能模型的文本识别技术已广泛应用于金融服务平台中,金融服务平台可以是保险系统、银行系统、交易系统、订单系统等,金融服务平台可以支持购物、社交、互动游戏、资源转移等功能,还可以具有申请贷款、信用卡或者购买保险、理财产品等功能。
文本识别任务能够为金融服务平台中的智能金融文本分析、证件信息录入等功能提供基础,金融文本可以包括保险单据、合同、交易记录等,从而有效降低了人工成本,也避免了人工造成的识别准确率的下降。
但是,文本识别任务往往仅能够将自然文本中的字符识别出来,在出现识别错误时,无法实现错误识别结果的智能发现和智能纠错,导致文本识别的准确率较低,仍然需要人工参与进行核验,文本识别的准确率也会受到主观因素影响而导致较低,因此,如何提高文本识别的准确率成为了亟待解决的问题。
发明内容
有鉴于此,本发明实施例提供了一种基于人工智能的文本识别方法、装置、计算机设备及介质,以解决文本识别的准确率较低的问题。
第一方面,本发明实施例提供一种基于人工智能的文本识别方法,所述文本识别方法包括:
获取待识别图像,将所述待识别图像输入训练好的字符定位模型中,输出所述待识别图像中每个识别字符所属的字符包围框;
获取N个预设的模板图像,针对任一个模板图像,获取所述模板图像的至少一个参考包围框,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框,计算每个字符包围框与其最接近的参考包围框的交并比,以所有交并比的均值作为对应模板图像的匹配参数;
若最大的匹配参数大于预设阈值,以最大的匹配参数对应的模板图像作为基准图像,根据所述基准图像相对于预设标准图像的旋转参数,对所述待识别图像进行校正,确定校正结果为目标图像;
将所述目标图像输入训练好的文本识别模型中,输出至少一个识别文本及其识别文本框,根据获取的所述标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联;
根据各个识别文本的语义关联结果,对各个识别文本进行修正,得到修正后的识别文本。
第二方面,本发明实施例提供一种基于人工智能的文本识别装置,所述文本识别装置包括:
字符定位模块,用于获取待识别图像,将所述待识别图像输入训练好的字符定位模型中,输出所述待识别图像中每个识别字符所属的字符包围框;
包围框匹配模块,用于获取N个预设的模板图像,针对任一个模板图像,获取所述模板图像的至少一个参考包围框,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框,计算每个字符包围框与其最接近的参考包围框的交并比,以所有交并比的均值作为对应模板图像的匹配参数;
图像校正模块,用于若最大的匹配参数大于预设阈值,以最大的匹配参数对应的模板图像作为基准图像,根据所述基准图像相对于预设标准图像的旋转参数,对所述待识别图像进行校正,确定校正结果为目标图像;
语义关联模块,用于将所述目标图像输入训练好的文本识别模型中,输出至少一个识别文本及其识别文本框,根据获取的所述标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联;
文本修正模块,用于根据各个识别文本的语义关联结果,对各个识别文本进行修正,得到修正后的识别文本。
第三方面,本发明实施例提供一种计算机设备,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的基于人工智能的文本识别方法。
第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的基于人工智能的文本识别方法。
本发明实施例与现有技术相比存在的有益效果是:
获取待识别图像,将待识别图像输入训练好的字符定位模型中,输出待识别图像中每个识别字符所属的字符包围框,获取N个预设的模板图像,针对任一个模板图像,获取模板图像的至少一个参考包围框,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框,计算每个字符包围框与其最接近的参考包围框的交并比,以所有交并比的均值作为对应模板图像的匹配参数,若最大的匹配参数大于预设阈值,以最大的匹配参数对应的模板图像作为基准图像,根据基准图像相对于预设标准图像的旋转参数,对待识别图像进行校正,确定校正结果为目标图像,将目标图像输入训练好的文本识别模型中,输出至少一个识别文本及其识别文本框,根据获取的标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联,根据各个识别文本的语义关联结果,对各个识别文本进行修正,得到修正后的识别文本,通过包围框匹配的形式筛选出与待识别图像对应的模板图像,使得能够根据模板图像和标准图像的旋转参数对待识别图像进行校正,以应用标准图像的关联信息挖掘识别文本的语义关联信息,对识别文本进行结构化表征,结合语义关联结果对识别文本进行修正,有效减少了识别错误的情况,提高了文本识别的准确率,提高了金融服务平台对金融文本数据的处理准确率。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种基于人工智能的文本识别方法的一应用环境示意图;
图2是本发明实施例一提供的一种基于人工智能的文本识别方法的流程示意图;
图3是本发明实施例二提供的一种基于人工智能的文本识别装置的结构示意图;
图4是本发明实施例三提供的一种计算机设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
应当理解,当在本发明说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本发明说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本发明说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本发明实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
应理解,以下实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
为了说明本发明的技术方案,下面通过具体实施例来进行说明。
本发明实施例一提供的一种基于人工智能的文本识别方法,可应用在如图1的应用环境中,其中,客户端与服务端进行通信。其中,客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、云端终端设备、个人数字助理(personal digital assistant,PDA)等计算机设备。服务端可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
客户端和服务端可以部署于金融服务平台中,金融服务平台可以是保险系统、银行系统、交易系统、订单系统等,金融服务平台可以支持购物、社交、互动游戏、资源转移等功能,还可以具有申请贷款、信用卡或者购买保险、理财产品等功能,服务端可以提供文本识别服务,为金融服务平台中的金融文本归档、金融文本查询、文本推荐、身份信息录入等功能提供基础,提高金融服务平台对文本数据处理的准确性。
参见图2,是本发明实施例一提供的一种基于人工智能的文本识别方法的流程示意图,上述文本识别方法可以应用于图1中的服务端,服务端对应的计算机设备连接客户端,以从客户端获取用户输入的需要进行文本识别的待识别图像,服务端对应的计算机设备部署有训练好的字符定位模型和训练好的文本识别模型,训练好的字符定位模型可以用于确定字符在输入图像中的位置信息,文本识别模型可以用于识别输入图像中所包含的字符信息。如图2所示,该文本识别方法可以包括以下步骤:
步骤S201,获取待识别图像,将待识别图像输入训练好的字符定位模型中,输出待识别图像中每个识别字符所属的字符包围框。
其中,待识别图像可以是指需要进行文本识别的图像,在本实施例中,待识别图像可以是指包含金融文本信息的合同图像、保单图像、交易记录图像、身份证照片等,训练好的字符定位模型可以用于确定待识别图像中所包含的每个识别字符的位置信息,待识别图像中可以包括至少一个识别字符,字符包围框可以用于表征对应识别字符的位置信息,字符包围框可以通过一组坐标对进行表示,坐标对包括字符包围框的左上角点坐标和右下角点坐标。
具体地,训练好的字符定位模型的输入为待识别图像,训练好的字符识别模型可以包括编码器和全连接层,编码器可以用于提取待识别图像的图像特征,全连接层可以用于将提取到的图像特征映射到输出空间中,本实施例中,输出空间可以是指识别字符的字符包围框向量空间。
需要说明的是,上述识别字符在本实施例中指的是字符区域,也即,可以由至少一个字符组成该识别字符区域,相应地,字符包围框可以是指对应识别字符区域的包围框。
可选的是,获取待识别图像,将待识别图像输入训练好的字符定位模型中,输出待识别图像中每个识别字符所属的字符包围框包括:
将待识别图像输入训练好的分类模型中,输出分类结果;
当分类结果满足预设类别时,将待识别图像输入训练好的字符定位模型中,输出待识别图像中每个识别字符所属的字符包围框。
其中,训练好的分类模型可以用于对输入的待识别图像的类别进行预测,在本实施例中,文本识别任务可以具体为出生证明识别任务,相应地,分类结果可以为二分类,一分类结果可以是出生证明类别,另一分类结果可以是其他类别,预设类别即可以是指出生证明类别。
具体地,可以采集多个出生证明的图像作为正样本,采集多个其他文本的图像作为负样本,正样本对应的标签可以是出生证明类别,负样本对应的标签可以是其他类别,在本实施例中,建议正样本的数量和负样本的数量相近,以避免分类模型在训练时出现过拟合的情况,根据正样本及其对应的标签、负样本及其对应的标签和训练时的损失函数,对分类模型进行训练,得到训练好的分类模型,训练时的损失函数可以采用二值交叉熵损失函数。
本实施例中,通过分类模型预先对待识别图像的类别进行预测,从而剔除无关的待识别图像,提高后续文本识别过程的针对性,也即仅针对于特定类别的待识别图像,从而提高文本识别的准确率。
上述获取待识别图像,将待识别图像输入训练好的字符定位模型中,输出待识别图像中每个识别字符所属的字符包围框的步骤,对字符包围框进行提取,为后续进行包围框匹配以及文本语义关联提供参考,从而提高了文本识别的准确率。
步骤S202,获取N个预设的模板图像,针对任一个模板图像,获取模板图像的至少一个参考包围框,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框,计算每个字符包围框与其最接近的参考包围框的交并比,以所有交并比的均值作为对应模板图像的匹配参数。
其中,本实施例以出生证明文本识别为例,模板图像可以是指出生证明文本模板,N为大于零的整数,N个模板图像可以是指不同图像角度的模板图像,参考包围框可以是指对应模板图像中字符区域的包围框,字符包围框和参考包围框之间的距离可以表征字符包围框和参考包围框的位置差异,交并比可以用于表征字符包围框和参考包围框之间的重合程度,匹配参数可以用于衡量待识别图像的字符包围框和模板图像的参考包围框之间的匹配程度。
具体地,由于待识别图像在采集过程中,文本原件并非一定是严格按照预设的方位放置的,若直接将待识别图像与预设方位下的模板图像进行比对,会出现错误比对的情况。
因此,在模板图像采集时,将模板文本原件采用不同的方位进行放置,采集到N个不同图像角度的模板图像,也即不同方位的模板图像。
交并比的计算具体为,计算字符包围框和参考包围框的交集,统计交集包含的像素点数量,再计算字符包围框和参考包围框的并集,统计并集包含的像素点数量,以交集包含的像素点数量和并集包含的像素点数量作比,得到的比值即为字符包围框和参考包围框的交并比。
由于交并比的值域范围为[0,1],则所有交并比的均值值域范围也为[0,1],也即匹配参数的值域范围为[0,1],匹配参数越接近1,说明待识别图像和模板图像的包围框匹配程度越大,匹配参数越接近0,说明待识别图像和模板图像的包围框匹配程度越小。
可选的是,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框包括:
获取每个字符包围框的中心点,以及每个参考包围框的中心点;
根据字符包围框的中心点和参考包围框的中心点之间的距离,为每个字符包围框确定与其最接近的参考包围框。
其中,中心点可以用于表征包围框的位置信息,中心点可以根据包围框的左上角点坐标和右下角点坐标计算得到。
具体地,根据左上角点坐标的横坐标和右下角点坐标的横坐标,进行均值计算,得到中心点的横坐标,根据左上角点坐标的纵坐标和右下角点坐标的纵坐标,进行均值计算,得到中心点的纵坐标。
针对任一个字符包围框,将该字符包围框的中心点坐标分别和每个参考包围框的中心点坐标进行欧式距离计算,得到对应参考包围框的距离,取所有距离中的最大值,该最大值对应的参考包围框即为与该字符包围框最接近的参考包围框。
本实施例通过中心点简化包围框位置的表征形式,同时令包围框之间的距离容易度量,从而可以高效快捷地度量出包围框之间的距离差异,提高了计算效率,进而提高了整个文本识别流程的效率。
可选的是,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框包括:
确定所有参考包围框为待选包围框,针对任一个字符包围框,计算字符包围框分别和所有待选包围框之间的距离,确定距离最大值对应的待选包围框为与字符包围框最接近的参考包围框;
将距离最大值对应的待选包围框调整为非待选包围框;
遍历所有字符包围框,得到每个字符包围框对应的最接近的参考包围框,其中,任两个字符包围框所对应的参考包围框不同。
其中,待选包围框可以是指能够被用于匹配的参考包围框,非待选包围框可以是指已经存在匹配对象的参考包围框。
具体地,当一个待选包围框被确定为与某个字符包围框最接近,则该待选包围框将变更为非待选包围框,也即,该待选包围框不再参与后续字符包围框的最接近参考包围框筛选,从而使得每个参考包围框至多有一个对应的字符包围框。
本实施例中,通过设置待选包围框和非待选包围框标识的方式,使得任两个字符包围框所对应的参考包围框不同,避免了错误对应关系的建立,提高了匹配参数计算的准确率,进而提高了整个文本识别过程的准确率。
上述获取N个预设的模板图像,针对任一个模板图像,获取模板图像的至少一个参考包围框,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框,计算每个字符包围框与其最接近的参考包围框的交并比,以所有交并比的均值作为对应模板图像的匹配参数的步骤,通过匹配参数量化模板图像和待识别图像的匹配程度,从而为后续进行待识别校正提供可靠的模板图像作为参照,进而提高了文本识别的准确率。
步骤S203,若最大的匹配参数大于预设阈值,以最大的匹配参数对应的模板图像作为基准图像,根据基准图像相对于预设标准图像的旋转参数,对待识别图像进行校正,确定校正结果为目标图像。
其中,预设阈值可以用于判断待识别图像与其最接近的模板图像之间是否足够匹配,进而判断是否属于同一图像角度。基准图像可以用于确定待识别图像校正时的参数,也即旋转参数,旋转参数可以通过矩阵形式表示,标准图像可以是指符合预设方位的模板图像,目标图像可以是指校正后的待识别图像。
具体地,待识别图像校正时的参数可以通过变换矩阵表示,变换矩阵中包含旋转矩阵和平移矩阵,本实施例中,由于默认图像采集时仅存在图像角度的变化,因此仅以旋转矩阵作为旋转参数进行图像校正。
可选的是,根据基准图像相对于预设标准图像的旋转参数,对待识别图像进行校正包括:
以基准图像的逆和标准图像相乘,得到旋转参数;
将待识别图像和旋转参数相乘,得到校正结果。
其中,基准图像可以视作像素点构成的矩阵形式,则可以进行求逆计算,计算结果即为基准图像的逆。
具体地,对基准图像进行求逆计算,将基准图像的逆和标准图像相乘,即可得到变换矩阵,在此默认变换矩阵仅包含旋转参数,将待识别图像和变换矩阵相乘,即可得到旋转后的待识别图像,也即校正结果。
上述若最大的匹配参数大于预设阈值,以最大的匹配参数对应的模板图像作为基准图像,根据基准图像相对于预设标准图像的旋转参数,对待识别图像进行校正,确定校正结果为目标图像的步骤,对待识别图像进行校正,得到目标图像,以避免因图像方向不同造成后续文本识别的错误,提高了文本识别的准确率。
步骤S204,将目标图像输入训练好的文本识别模型中,输出至少一个识别文本及其识别文本框,根据获取的标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联。
其中,训练好的文本识别模型可以用于提取目标图像中的文本信息并标记其位置,识别文本可以是指从目标图像中提取到的文本信息,识别文本框可以表征文本信息的位置,关联关系可以是指预设的关联规则。
具体地,以出生证明为例,通常情况下,父母姓氏和孩子姓氏存在关联关系,即孩子姓氏通常与父母姓氏中的一个相同,则可以构建为预设的关联规则,出生证编号与孩子出生地、孩子出生日期等均存在关联关系,也可以构建为预设的关联规则等。
可选的是,根据获取的标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联包括:
针对任一个识别文本框,确定识别文本框在标准图像中对应的标准文本框,获取标准文本框与其他标准文本框的关联关系;
根据标准文本框与其他标准文本框的关联关系,以及标准文本框和识别文本框的对应关系,将识别文本框内的识别文本与其他识别文本框内的识别文本进行语义关联。
其中,标准文本框可以是指标准图像内文本的包围框,标准文本框与其他标准文本框的关联关系即为上述预设的关联规则。
具体地,待识别图像进行图像校正后,可以认为待识别图像中的每个识别文本框在标准图像中均有位置相同的标准文本框相对应,语义关联可以是指建立语义关联关系,对识别文本进行结构化,每个识别文本均可以有与其存在语义关联关系的其他识别文本。
本实施例中,通过待识别图像和标准图像的对应关系,以及标准图像内部预设的关联规则,为识别文本进行语义关联,形成结构化表示,便于后续根据语义关联结果进行识别文本的修正,提高文本识别的准确率。
上述将目标图像输入训练好的文本识别模型中,输出至少一个识别文本及其识别文本框,根据获取的标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联的步骤,通过挖掘特定文本的语义关联规则,将识别文本进行结构化表示,便于后续进行识别文本的修正,从而提高文本识别的准确率。
步骤S205,根据各个识别文本的语义关联结果,对各个识别文本进行修正,得到修正后的识别文本。
其中,语义关联结果可以是指与任一识别文本存在语义关联关系的所有其他识别文本,修正后的识别文本可以作为文本识别任务的最终输出。
可选的是,根据各个识别文本的语义关联结果,对各个识别文本进行修正包括:
针对任一个识别文本,将与识别文本具有语义关联的其他识别文本和识别文本进行拼接,将拼接结果输入训练好的评价模型中,输出识别文本的置信度;
若置信度小于预设置信度阈值,对与识别文本具有语义关联的其他识别文本分别进行关键词提取,得到至少一个关键词;
根据每个关键词在其所属的其他识别文本中的位置信息,从预设映射表中获取每个关键词的位置信息在识别文本中对应的字符位置,得到至少一组具有对应关系的关键词和识别文本中的字符;
采用每个关键词对识别文本中对应的字符进行替换,确定替换后的识别文本为修改后的识别文本。
其中,拼接结果可以采用字符向量的形式表示,训练好的评价模型可以用于评价输入向量的语义关联程度,该语义关联程度通过置信度进行表征。
预设的置信度阈值可以用于判断语义关联是否成立,关键词可以是指识别文本中与关联规则相关的字符,关键词在所属的识别文本中的位置信息可以通过字符序号表示,预设的映射表可以包括关键词的位置信息和识别文本中字符位置的映射关系。
具体地,若置信度小于预设置信度阈值,说明此时识别文本及其语义关联的其他识别文本无法满足预设的语义关联规则,因此需要根据其他识别文本的信息对该识别文本进行修正,在本实施例中,预设置信度阈值可以设置为0.8,实施者可以根据实际情况调整该预设置信度阈值。
关键词提取时,可以根据预设提取规则进行提取,例如,对于姓名一项,通常是取第一个字符或者前两个字符作为姓氏关键词,父母姓氏的关键词的字符序号可以为1,则对应孩子姓氏的字符位置相应为首位字符。
训练好的评价模型可以根据实际语义关联关系进行训练,将符合语义关联关系的字符拼接为训练正样本,将不符合语义关联关系的字符拼接为训练负样本,标签即为置信度标签,训练正样本的置信度标签为1,训练负样本的置信度标签为0,根据训练正样本和训练负样本及其分别对应的置信度标签,采用均方误差损失函数对评价模型进行训练,需要说明的是,根据待识别文本的对象不同,实施者可以根据对应待识别文本对象的语义关联关系,分别训练对应的评价模型,从而提高评价的准确率。
上述根据各个识别文本的语义关联结果,对各个识别文本进行修正,得到修正后的识别文本的步骤,根据语义信息对识别文本进一步修正,从而提高了识别文本语义的准确性,也即提高了文本识别的准确率。
本实施例中,通过包围框匹配的形式筛选出与待识别图像对应的模板图像,使得能够根据模板图像和标准图像的旋转参数对待识别图像进行校正,以应用标准图像的关联信息挖掘识别文本的语义关联信息,对识别文本进行结构化表征,结合语义关联结果对识别文本进行修正,有效减少了识别错误的情况,提高了文本识别的准确率,提高了金融服务平台对金融文本数据的处理准确率。
对应于上文实施例的基于人工智能的文本识别方法,图3示出了本发明实施例二提供的基于人工智能的文本识别装置的结构框图,上述文本识别装置应用于服务端,服务端对应的计算机设备连接客户端,以从客户端获取用户输入的需要进行文本识别的待识别图像,服务端对应的计算机设备部署有训练好的字符定位模型和训练好的文本识别模型,训练好的字符定位模型可以用于确定字符在输入图像中的位置信息,文本识别模型可以用于识别输入图像中所包含的字符信息。为了便于说明,仅示出了与本发明实施例相关的部分。
参见图3,该文本识别装置包括:
字符定位模块31,用于获取待识别图像,将待识别图像输入训练好的字符定位模型中,输出待识别图像中每个识别字符所属的字符包围框;
包围框匹配模块32,用于获取N个预设的模板图像,针对任一个模板图像,获取模板图像的至少一个参考包围框,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框,计算每个字符包围框与其最接近的参考包围框的交并比,以所有交并比的均值作为对应模板图像的匹配参数;
图像校正模块33,用于若最大的匹配参数大于预设阈值,以最大的匹配参数对应的模板图像作为基准图像,根据基准图像相对于预设标准图像的旋转参数,对待识别图像进行校正,确定校正结果为目标图像;
语义关联模块34,用于将目标图像输入训练好的文本识别模型中,输出至少一个识别文本及其识别文本框,根据获取的标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联;
文本修正模块35,用于根据各个识别文本的语义关联结果,对各个识别文本进行修正,得到修正后的识别文本。
可选的是,上述字符定位模块31包括:
图像分类单元,用于将待识别图像输入训练好的分类模型中,输出分类结果;
类别判断单元,用于当分类结果满足预设类别时,将待识别图像输入训练好的字符定位模型中,输出待识别图像中每个识别字符所属的字符包围框。
可选的是,上述包围框匹配模块32包括:
中心点获取单元,用于获取每个字符包围框的中心点,以及每个参考包围框的中心点;
距离度量单元,用于根据字符包围框的中心点和参考包围框的中心点之间的距离,为每个字符包围框确定与其最接近的参考包围框。
可选的是,上述包围框匹配模块32包括:
距离计算单元,用于确定所有参考包围框为待选包围框,针对任一个字符包围框,计算字符包围框分别和所有待选包围框之间的距离,确定距离最大值对应的待选包围框为与字符包围框最接近的参考包围框;
属性调整单元,用于将距离最大值对应的待选包围框调整为非待选包围框;
包围框遍历单元,用于遍历所有字符包围框,得到每个字符包围框对应的最接近的参考包围框,其中,任两个字符包围框所对应的参考包围框不同。
可选的是,上述图像校正模块33包括:
参数计算单元,用于以基准图像的逆和标准图像相乘,得到旋转参数;
参数校正单元,用于将待识别图像和旋转参数相乘,得到校正结果。
可选的是,上述语义关联模块34包括:
关联获取单元,用于针对任一个识别文本框,确定识别文本框在标准图像中对应的标准文本框,获取标准文本框与其他标准文本框的关联关系;
关联语义单元,用于根据标准文本框与其他标准文本框的关联关系,以及标准文本框和识别文本框的对应关系,将识别文本框内的识别文本与其他识别文本框内的识别文本进行语义关联。
可选的是,上述文本修正模块35包括:
文本评价单元,用于针对任一个识别文本,将与识别文本具有语义关联的其他识别文本和识别文本进行拼接,将拼接结果输入训练好的评价模型中,输出识别文本的置信度;
关键词提取单元,用于若置信度小于预设置信度阈值,对与识别文本具有语义关联的其他识别文本分别进行关键词提取,得到至少一个关键词;
对应关系确定单元,用于根据每个关键词在其所属的其他识别文本中的位置信息,从预设映射表中获取每个关键词的位置信息在识别文本中对应的字符位置,得到至少一组具有对应关系的关键词和识别文本中的字符;
字符替换单元,用于采用每个关键词对识别文本中对应的字符进行替换,确定替换后的识别文本为修改后的识别文本。
需要说明的是,上述模块、单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图4为本发明实施例三提供的一种计算机设备的结构示意图。如图4所示,该实施例的计算机设备包括:至少一个处理器(图4中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意各个文本识别方法实施例中的步骤。
该计算机设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,图4仅仅是计算机设备的举例,并不构成对计算机设备的限定,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括网络接口、显示屏和输入装置等。
所称处理器可以是CPU,该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器包括可读存储介质、内存储器等,其中,内存储器可以是计算机设备的内存,内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘,在另一些实施例中也可以是计算机设备的外部存储设备,例如,计算机设备上配备的插接式硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述装置中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
本发明实现上述实施例方法中的全部或部分流程,也可以通过一种计算机程序产品来完成,当计算机程序产品在计算机设备上运行时,使得计算机设备执行时实现可实现上述方法实施例中的步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于人工智能的文本识别方法,其特征在于,所述文本识别方法包括:
获取待识别图像,将所述待识别图像输入训练好的字符定位模型中,输出所述待识别图像中每个识别字符所属的字符包围框;
获取N个预设的模板图像,针对任一个模板图像,获取所述模板图像的至少一个参考包围框,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框,计算每个字符包围框与其最接近的参考包围框的交并比,以所有交并比的均值作为对应模板图像的匹配参数;
若最大的匹配参数大于预设阈值,以最大的匹配参数对应的模板图像作为基准图像,根据所述基准图像相对于预设标准图像的旋转参数,对所述待识别图像进行校正,确定校正结果为目标图像;
将所述目标图像输入训练好的文本识别模型中,输出至少一个识别文本及其识别文本框,根据获取的所述标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联;
根据各个识别文本的语义关联结果,对各个识别文本进行修正,得到修正后的识别文本。
2.根据权利要求1所述的文本识别方法,其特征在于,所述获取待识别图像,将所述待识别图像输入训练好的字符定位模型中,输出所述待识别图像中每个识别字符所属的字符包围框包括:
将所述待识别图像输入训练好的分类模型中,输出分类结果;
当所述分类结果满足预设类别时,将所述待识别图像输入所述训练好的字符定位模型中,输出所述待识别图像中每个识别字符所属的字符包围框。
3.根据权利要求1所述的文本识别方法,其特征在于,所述根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框包括:
获取每个字符包围框的中心点,以及每个参考包围框的中心点;
根据字符包围框的中心点和参考包围框的中心点之间的距离,为每个字符包围框确定与其最接近的参考包围框。
4.根据权利要求1所述的文本识别方法,其特征在于,所述根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框包括:
确定所有参考包围框为待选包围框,针对任一个字符包围框,计算所述字符包围框分别和所有待选包围框之间的距离,确定距离最大值对应的待选包围框为与所述字符包围框最接近的参考包围框;
将所述距离最大值对应的待选包围框调整为非待选包围框;
遍历所有字符包围框,得到每个字符包围框对应的最接近的参考包围框,其中,任两个字符包围框所对应的参考包围框不同。
5.根据权利要求1所述的文本识别方法,其特征在于,所述根据所述基准图像相对于预设标准图像的旋转参数,对所述待识别图像进行校正包括:
以所述基准图像的逆和所述标准图像相乘,得到所述旋转参数;
将所述待识别图像和所述旋转参数相乘,得到所述校正结果。
6.根据权利要求1所述的文本识别方法,其特征在于,所述根据获取的所述标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联包括:
针对任一个识别文本框,确定所述识别文本框在所述标准图像中对应的标准文本框,获取所述标准文本框与其他标准文本框的关联关系;
根据所述标准文本框与其他标准文本框的关联关系,以及标准文本框和识别文本框的对应关系,将所述识别文本框内的识别文本与其他识别文本框内的识别文本进行语义关联。
7.根据权利要求1至6任一项所述的文本识别方法,其特征在于,所述根据各个识别文本的语义关联结果,对各个识别文本进行修正包括:
针对任一个识别文本,将与所述识别文本具有语义关联的其他识别文本和所述识别文本进行拼接,将拼接结果输入训练好的评价模型中,输出所述识别文本的置信度;
若所述置信度小于预设置信度阈值,对与所述识别文本具有语义关联的其他识别文本分别进行关键词提取,得到至少一个关键词;
根据每个关键词在其所属的其他识别文本中的位置信息,从预设映射表中获取每个关键词的位置信息在所述识别文本中对应的字符位置,得到至少一组具有对应关系的关键词和所述识别文本中的字符;
采用每个关键词对所述识别文本中对应的字符进行替换,确定替换后的识别文本为所述修改后的识别文本。
8.一种基于人工智能的文本识别装置,其特征在于,所述文本识别装置包括:
字符定位模块,用于获取待识别图像,将所述待识别图像输入训练好的字符定位模型中,输出所述待识别图像中每个识别字符所属的字符包围框;
包围框匹配模块,用于获取N个预设的模板图像,针对任一个模板图像,获取所述模板图像的至少一个参考包围框,根据字符包围框和参考包围框之间的距离,为每个字符包围框确定与其最接近的参考包围框,计算每个字符包围框与其最接近的参考包围框的交并比,以所有交并比的均值作为对应模板图像的匹配参数;
图像校正模块,用于若最大的匹配参数大于预设阈值,以最大的匹配参数对应的模板图像作为基准图像,根据所述基准图像相对于预设标准图像的旋转参数,对所述待识别图像进行校正,确定校正结果为目标图像;
语义关联模块,用于将所述目标图像输入训练好的文本识别模型中,输出至少一个识别文本及其识别文本框,根据获取的所述标准图像中各个标准文本框之间的关联关系,对各个对应标准文本框的识别文本框内的识别文本进行语义关联;
文本修正模块,用于根据各个识别文本的语义关联结果,对各个识别文本进行修正,得到修正后的识别文本。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的文本识别方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的文本识别方法。
CN202310833857.0A 2023-07-07 2023-07-07 基于人工智能的文本识别方法、装置、计算机设备及介质 Pending CN117037166A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310833857.0A CN117037166A (zh) 2023-07-07 2023-07-07 基于人工智能的文本识别方法、装置、计算机设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310833857.0A CN117037166A (zh) 2023-07-07 2023-07-07 基于人工智能的文本识别方法、装置、计算机设备及介质

Publications (1)

Publication Number Publication Date
CN117037166A true CN117037166A (zh) 2023-11-10

Family

ID=88630704

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310833857.0A Pending CN117037166A (zh) 2023-07-07 2023-07-07 基于人工智能的文本识别方法、装置、计算机设备及介质

Country Status (1)

Country Link
CN (1) CN117037166A (zh)

Similar Documents

Publication Publication Date Title
CN110555372A (zh) 数据录入方法、装置、设备及存储介质
CN111767422A (zh) 一种数据审核方法、装置、终端及存储介质
CN113657274B (zh) 表格生成方法、装置、电子设备及存储介质
CN113111880A (zh) 证件图像校正方法、装置、电子设备及存储介质
CN112580108A (zh) 签名和印章完整性验证方法及计算机设备
CN112613293A (zh) 摘要生成方法、装置、电子设备及存储介质
CN112036304A (zh) 医疗票据版面识别的方法、装置及计算机设备
CN111784665A (zh) 基于傅里叶变换的oct图像质量评估方法、系统及装置
CN113705749A (zh) 基于深度学习的二维码识别方法、装置、设备及存储介质
CN113705468A (zh) 基于人工智能的数字图像识别方法及相关设备
CN117351504A (zh) 一种电子病历表格抽取的方法、装置、设备及介质
CN113836297B (zh) 文本情感分析模型的训练方法及装置
CN115880702A (zh) 数据处理方法、装置、设备、程序产品及存储介质
CN117037166A (zh) 基于人工智能的文本识别方法、装置、计算机设备及介质
CN112381458A (zh) 项目评审方法、项目评审装置、设备及存储介质
CN114612919B (zh) 一种票据信息处理系统及方法、装置
CN113888760B (zh) 基于软件应用的违规信息监控方法、装置、设备及介质
CN115497112B (zh) 表单识别方法、装置、设备以及存储介质
CN117636363A (zh) 一种文档图像质量评分方法、装置、计算机设备及介质
CN115294576A (zh) 基于人工智能的数据处理方法、装置、计算机设备及介质
CN117037167A (zh) 基于人工智能的敏感信息检测方法、装置、设备及介质
CN117033548A (zh) 用于缺陷分析的数据检索方法、装置、计算机设备及介质
CN118279914A (zh) 一种图章识别方法、装置、计算机设备及存储介质
CN116663562A (zh) 基于人工智能的实体识别方法、装置、计算机设备及介质
CN114387254A (zh) 一种文档质量分析方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination