CN114998906B - 文本检测方法、模型的训练方法、装置、电子设备及介质 - Google Patents
文本检测方法、模型的训练方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN114998906B CN114998906B CN202210583992.XA CN202210583992A CN114998906B CN 114998906 B CN114998906 B CN 114998906B CN 202210583992 A CN202210583992 A CN 202210583992A CN 114998906 B CN114998906 B CN 114998906B
- Authority
- CN
- China
- Prior art keywords
- sample
- feature map
- global feature
- detection
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 295
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000012549 training Methods 0.000 title claims abstract description 27
- 238000012545 processing Methods 0.000 claims abstract description 47
- 238000013136 deep learning model Methods 0.000 claims abstract description 37
- 230000011218 segmentation Effects 0.000 claims description 18
- 238000000605 extraction Methods 0.000 claims description 14
- 230000005764 inhibitory process Effects 0.000 claims description 5
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 15
- 238000004590 computer program Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 11
- 238000012015 optical character recognition Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 238000013507 mapping Methods 0.000 description 5
- 238000002372 labelling Methods 0.000 description 4
- 230000003993 interaction Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000033228 biological regulation Effects 0.000 description 2
- 230000001788 irregular Effects 0.000 description 2
- 230000001629 suppression Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了文本检测方法、深度学习模型的训练方法、装置、电子设备、存储介质以及程序产品,涉及人工智能技术领域,尤其涉及深度学习、图像处理、计算机视觉技术领域,可应用于OCR等场景。具体实现方案为:对待检测图像进行图像特征提取,得到全局特征图;对全局特征图进行分类,得到分类结果;基于分类结果,从多个检测模式中确定目标检测模式;以及按照目标检测模式处理全局特征图,得到待检测图像的文本检测结果。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及深度学习、图像处理、计算机视觉技术领域,可应用于OCR等场景。具体涉及文本检测方法、深度学习模型的训练方法、装置、电子设备、存储介质以及程序产品。
背景技术
OCR(Optical Character Recognition,光学字符识别),可以是指利用文本检测方法以及文本识别方法,将待检测图像中的文本内容进行检测、识别并转换为计算机可以处理的语言的技术。OCR是自动识别技术研究和应用领域中的一个重要方面。
随着图像数据量爆炸式增长,海量的数据源以及丰富的数据层次,使得待检测图像中的文本内容的类型越来越广泛,进而对OCR技术的要求也越来越高。
发明内容
本公开提供了一种文本检测方法、深度学习模型的训练方法、装置、电子设备、存储介质以及程序产品。
根据本公开的一方面,提供了一种文本检测方法,包括:对待检测图像进行图像特征提取,得到全局特征图;对上述全局特征图进行分类,得到分类结果;基于上述分类结果,从多个检测模式中确定目标检测模式;以及按照上述目标检测模式处理上述全局特征图,得到上述待检测图像的文本检测结果。
根据本公开的另一方面,提供了一种深度学习模型的训练方法,包括:对样本图像进行图像特征提取,得到样本全局特征图;按照多个检测模式分别处理上述样本全局特征图,得到多个样本文本检测结果;基于上述多个样本文本检测结果,确定上述样本图像的分类标签;将上述样本全局特征图输入至深度学习模型中,得到样本分类结果;以及利用上述样本分类结果和上述分类标签,训练上述深度学习模型,得到经训练的深度学习模型。
根据本公开的另一方面,提供了一种文本检测装置,包括:提取模块,用于对待检测图像进行图像特征提取,得到全局特征图;分类模块,用于对上述全局特征图进行分类,得到分类结果;确定模块,用于基于上述分类结果,从多个检测模式中确定目标检测模式;以及检测模块,用于按照上述目标检测模式处理上述全局特征图,得到上述待检测图像的文本检测结果。
根据本公开的另一方面,提供了一种深度学习模型的训练装置,包括:样本提取模块,用于对样本图像进行图像特征提取,得到样本全局特征图;样本检测模块,用于按照多个检测模式分别处理上述样本全局特征图,得到多个样本文本检测结果;样本确定模块,用于基于上述多个样本文本检测结果,确定上述样本图像的分类标签;样本输入模块,用于将上述样本全局特征图输入至深度学习模型中,得到样本分类结果;以及训练模块,用于利用上述样本分类结果和上述分类标签,训练上述深度学习模型,得到经训练的深度学习模型。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,上述存储器存储有可被上述至少一个处理器执行的指令,上述指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行如本公开的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,上述计算机指令用于使上述计算机执行如本公开的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现如本公开的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开实施例的可以应用文本检测方法及装置的示例性系统架构;
图2示意性示出了根据本公开实施例的文本检测方法的应用场景图;
图3示意性示出了根据本公开实施例的文本检测方法的流程图;
图4示意性示出了根据本公开实施例的获取分类结果的方法的流程示意图;
图5示意性示出了根据本公开另一实施例的文本检测方法的流程示意图;
图6示意性示出了根据本公开另一实施例的文本检测方法的流程示意图;
图7示意性示出了根据本公开另一实施例的深度学习模型的训练方法的流程图;
图8示意性示出了根据本公开实施例的文本检测装置的框图;
图9示意性示出了根据本公开实施例的深度学习模型的训练装置的框图;以及
图10示意性示出了根据本公开实施例的适于实现文本检测方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本公开提供了一种文本检测方法、深度学习模型的训练方法、装置、电子设备、存储介质以及程序产品。
根据本公开的实施例,提供了一种文本检测方法,包括:对待检测图像进行图像特征提取,得到全局特征图;对全局特征图进行分类,得到分类结果;基于分类结果,从多个检测模式中确定目标检测模式;以及按照目标检测模式处理全局特征图,得到待检测图像的文本检测结果。
在本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
图1示意性示出了根据本公开实施例的可以应用文本检测方法及装置的示例性系统架构。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。例如,在另一实施例中,可以应用文本检测方法及装置的示例性系统架构可以包括终端设备,但终端设备可以无需与服务器进行交互,即可实现本公开实施例提供的文本检测方法及装置。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备l01、l02、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如知识阅读类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的内容提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的文本检测方法一般可以由终端设备101、102、或103执行。相应地,本公开实施例所提供的文本检测装置也可以设置于终端设备101、102、或103中。
或者,本公开实施例所提供的文本检测方法一般也可以由服务器105执行。相应地,本公开实施例所提供的文本检测装置一般可以设置于服务器105中。本公开实施例所提供的文本检测方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的文本检测装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
应注意,以下方法中各个操作的序号仅作为该操作的表示以便描述,而不应被看作表示该各个操作的执行顺序。除非明确指出,否则该方法不需要完全按照所示顺序来执行。
图2示意性示出了根据本公开实施例的文本检测方法的应用场景图。
如图2所示,待检测图像201中涉及对象车辆,可以利用本公开实施例提供的文本检测方法,自动检测得到例如车牌的标识信息的文本位置,用例如矩形的虚线检测框202标示。进而基于文本识别方法,基于车牌的标识信息的文本位置,识别得到待检测图像中对应的车牌的标识信息。
根据本公开的实施例,图2所示的从图像中检测文本信息的文本位置的操作,可以作为OCR技术中的文本检测技术。OCR技术还可以包括:文本识别技术,例如将与文本位置相对应的文本信息进行识别的技术。利用文本检测技术与文本识别技术相结合的OCR技术,可以将待检测图像内的文本转换为字符串或数字等计算机可以直接识别、处理的文本。OCR技术可以作为机器视觉领域的重要分支,应用于拍照、扫描、或者截图等内容的录入、纸质文档电子化、或者图像内容审核等场景中。
根据本公开的实施例,用户可以利用例如扫描机、摄像机等终端设备,将待检测图像发送给服务器,由服务器对待检测图像进行本公开实施例提供的文本检测方法,得到文本检测结果例如文本信息的文本位置。或者由能够与终端设备和/或服务器通信的服务器或服务器集群对待检测图像进行处理,并最终得到文本检测结果。但是并不局限于此。还可以利用终端设备直接执行本公开实施例提供的文本检测方法,得到文本检测结果。在此不再赘述。
图3示意性示出了根据本公开实施例的文本检测方法的流程图。
如图3所示,该方法包括操作S310~S340。
在操作S310,对待检测图像进行图像特征提取,得到全局特征图。
在操作S320,对全局特征图进行分类,得到分类结果。
在操作S330,基于分类结果,从多个检测模式中确定目标检测模式。
在操作S340,按照目标检测模式处理全局特征图,得到待检测图像的文本检测结果。
根据本公开的实施例,待检测图像可以为涉及文本信息的图像,可以通过本公开实施例提供的文本检测方法,从待检测图像中得到关于文本信息的文本位置的文本检测结果。文本检测结果的类型不做限定,例如,可以是以各种形状的检测框作为文本检测结果,还可以是以坐标信息标识的文本检测结果,只要是能够标示出文本信息的文本位置的结果类型即可。
根据本公开的其他实施例,对待检测图像进行图像特征提取,得到全局特征图,可以按照预定检测模式处理全局特征图,得到检测图像的文本检测结果。但是,在不同的应用场景下,待检测图像中的文本信息的类型也不相同。例如,待检测图像中的文本信息存在字段划分界限模糊、文本行重叠、超长文本、弯曲文本、艺术字体等影响文本检测结果精度的类型。针对涉及不同类型的文本信息的待检测图像,均按照相同的预定检测模式处理,文本检测结果的精度将受到影响。
根据本公开的实施例,可以对全局特征图进行分类,得到分类结果。分类结果用于表征待检测图像中文本信息的类型或者用于表征待检测图像中文本信息的适用检测模式。在确定分类结果的情况下,可以确定与分类结果,例如待检测图像中文本信息的类型或者适用检测模式相匹配的目标检测模式,并按照目标检测模式处理全局特征图,得到文本检测结果。例如,针对超长文本,可以选择适用处理超长文本的检测模式A作为目标检测模式,进而按照检测模式A来处理全局特征图,得到文本检测结果。针对弯曲文本,可以选择适用处理弯曲文本的检测模式B作为目标检测模式,进而按照检测模式B来处理全局特征图,得到文本检测结果。
利用本公开实施例提供的文本检测方法,通过设置多个检测模式,提高文本检测方法的通用性。并基于分类结果,从多个检测模式中确定目标检测模式,由此可以通过分类结果从多个检测模式中确定与待检测图像相匹配的目标检测模式,进而提高文本检测结果的精度。
本公开提供另一种实施例,图3所示的操作S320进一步可以包括:对全局特征图进行第一卷积操作,得到第一卷积后的全局特征图;以及对第一卷积后的全局特征图进行分类,得到分类结果。
图4示意性示出了根据本公开实施例的获取分类结果的方法的流程示意图。
如图4所示,可以对待检测图像T_P进行图像特征提取,得到全局特征图M_P。对全局特征图M_P进行第一卷积操作,得到第一卷积后的全局特征图M_P_1。对第一卷积后的全局特征图M_P_1进行分类,得到分类结果T_C。基于分类结果T_C,从多个检测模式M_M中确定目标检测模式O_M。按照目标检测模式O_M处理全局特征图M_P,得到待检测图像的文本检测结果A_P。
根据本公开的实施例,可以利用骨干网络作为图像特征提取模块,将待检测图像输入至骨干网络中,进行图像特征提取,得到全局特征图。该骨干网络可以包括级联的ResNet18(残差神经网络)和U-Net。利用本公开实施例提供的骨干网络,可以使得全局特征图的特征表征更为完整。
根据本公开的实施例,第一卷积操作可以包括多个卷积操作。对第一卷积后的全局特征图进行分类,得到分类结果。可以将该分类操作作为二分类问题,但是并不局限于此,还可以将该分类操作作为多分类问题。可以根据检测模式的数量来确定。例如,分类结果用于表征待检测图像中文本信息的类型或者适用检测模式分类结果。可以根据检测模式的数量,设置与检测模式的数量相匹配的适用检测模式分类结果。多个适用检测模式分类结果与多个检测模式一一对应,基于适用检测模式分类结果与检测模式之间的映射关系,从多个检测模式中确定与分类结果相对应的目标检测模式。
例如,分类结果输出为0~1之间的数值,设置大于或者等于分类阈值例如0.6的分类结果为第一适用检测模式分类结果,与检测模式A相对应;设置小于分类阈值的分类结果为第二适用检测模式分类结果,与检测模式B相对应。在得到分类结果为0.4的数值的情况下,可以确定分类结果表征第二适用检测模式分类结果,与检测模式B相对应。利用该种方式确定目标检测模式,方式简单易操作,且适应性强。
本公开提供另一种实施例,图3所示的操作S330进一步可以包括:在确定分类结果为分割分类结果的情况下,确定目标检测模式为分割检测模式;以及在确定分类结果为回归分类结果的情况下,确定目标检测模式为回归检测模式。
图5示意性示出了根据本公开另一实施例的文本检测方法的流程示意图。
如图5所示,多个检测模式可以包括分割检测模式和回归检测模式。分类结果可以包括分割分类结果和回归分类结果。可以建立分割检测模式与分割分类结果之间的映射关系,建立回归检测模式与回归分类结果之间的映射关系。在确定分类结果T_C为分割分类结果的情况下,确定目标检测模式为分割检测模式。在确定分类结果T_C为回归分类结果的情况下,确定目标检测模式为回归检测模式。
本公开提供另一种实施例,在确定目标检测模式为回归检测模式的情况下,图3所示的操作S340进一步可以包括:对全局特征图进行第二卷积操作,得到第二卷积后的全局特征图;以及对第二卷积后的全局特征图进行非极大值抑制处理,得到待检测图像的文本检测结果。
如图5所示,在确定分类结果为回归分类结果的情况下,确定目标检测模式为回归检测模式。按照回归检测模式处理全局特征图,放弃执行按照分割检测模式进行处理的操作。如图5所示,对全局特征图M_P进行第二卷积操作,得到第二卷积后的全局特征图M_P_2。对第二卷积后的全局特征图M_P_2进行非极大值抑制处理,得到待检测图像的文本检测结果A_P。
根据本公开的实施例,对全局特征图进行第二卷积操作,得到第二卷积后的全局特征图,可以包括:对全局特征图进行多个卷积操作,得到第二卷积后的全局特征图。第二卷积后的全局特征图可以为32通道的特征图,第二卷积后的全局特征图中的每个像素点包括32维特征向量,32维特征向量代表该像素点相对于该像素点所在的文本行的16个关键点的坐标偏移。对通过第二卷积后的全局特征图上的各个像素点还原出的文本轮廓进行非极大值抑制处理(NMS,Non-Maximum Suppression),得到最终的文本检测结果A_P。
根据本公开的实施例,回归检测模式还可以包括:将全局特征图输入至回归检测模型中,得到文本检测结果。回归检测模型可以包括CTPN(Connectionist Text ProposalNetwork)模型,但是并不局限于此,还可以包括EAST(Efficient and Accuracy SceneText)模型,只要是能够提供回归检测模式的模型即可。
利用本公开实施例提供的回归检测模式处理全局特征图,能够精确检测待检测图像中的例如包括重叠文本、弯曲文本、或者大标题中包含小标题类型的文本信息的文本位置。避免因待检测图像中的文本信息不规则而导致的检测框倾斜或者检测框位置标示错误的问题。此外,利用本公开实施例提供的回归检测模式,能够利用回归文字区域的关键点控制对,进行不规则文字区域的形状矫正,进而较好地矫正弯曲文本。
本公开提供另一实施例,在确定分类结果为分割分类结果的情况下,确定目标检测模式为分割检测模式。在确定目标检测模式为分割检测模式的情况下,图3所示的操作S340进一步可以包括:对全局特征图进行第三卷积操作,得到第三卷积后的全局特征图。对第三卷积后的全局特征图进行连通域标记处理,得到待检测图像的文本检测结果。
根据本公开的实施例,对全局特征图进行第三卷积操作,得到第三卷积后的全局特征图可以包括:对全局特征图进行多个卷积操作,并针对特征图中的每个像素点关于文本类别的置信度进行阈值化处理,得到第三卷积后的全局特征图。第三卷积后的全局特征图中是以文本类别的前景的像素点和非文本类别的背景的像素点来分割的。
根据本公开的实施例,可以通过连通域标记处理第三卷积后的全局特征图,通过寻找连通域的最小外切框,得到文本检测结果,例如标示待检测图像中文本位置的矩形框。
根据本公开的其他实施例,分割检测模式还可以包括:将全局特征图输入至分割检测模型中,得到文本检测结果。分割检测模型可以包括DB(DifferentiableBinarization)模型,但是并不局限于此,只要是能够提供分割检测模式的模型即可。
根据本公开的实施例,对于待检测图像中的长文本,可以通过分割检测模式,得到完整连通的文本检测结果的同时,提高检测效率。
综上所述,可以利用回归检测模式处理分割检测模式无法解决的场景,例如分割检测模式无法分离的重叠文本、分割检测模式无法确定起始位置的弯曲文本等。可以利用分割检测模式处理回归检测模式无法解决的场景,例如利用回归检测模式处理会出现位置回归不准确、耗时等的问题的场景。通过多种互补的检测模式作为备选,可以提高本公开实施例提供的文本检测方法的通用性。此外,可以通过对全局特征图进行分类,基于分类结果从多个检测模式中确定目标检测模式,可以精准定位与待检测图像中的文本信息相匹配的检测模式,进而提高检测精度的同时提高检测效率。
图6示意性示出了根据本公开另一实施例的文本检测方法的流程示意图。
图6所示的文本检测方法可以与图4所示的文本检测方法基本一致,其不同之处在于:利用分类模块610对全局特征图M_P进行分类,得到分类结果。即将全局特征图M_P输入至分类模块610中,得到分类结果T_C。
根据本公开的实施例,分类模块可以包括级联的多个卷积层、全连接层和激活函数。分类模块可以采用如下图7所示的训练方法训练得到。
图7示意性示出了根据本公开实施例的深度学习模型的训练方法的流程图。
如图7所示,该方法包括操作S710~S750。
在操作S710,对样本图像进行图像特征提取处理,得到样本全局特征图。
在操作S720,按照多个检测模式分别处理样本全局特征图,得到多个样本文本检测结果。
在操作S730,基于多个样本文本检测结果,确定样本图像的分类标签。
在操作S740,将样本全局特征图输入至深度学习模型中,得到样本分类结果。
在操作S750,利用样本分类结果和分类标签,训练深度学习模型,得到经训练的深度学习模型。
根据本公开的实施例,样本图像的分类标签可以用于表征样本图像中文本信息的类型或者用于表征样本图像的模式适用分类结果。与样本图像相对应的分类标签可以采用人工标注的方式得到,例如样本图像中涉及弯曲文本或者重叠文本等容易区分的文本信息的类型。但是并不局限于此。分类标签还可以基于多个样本文本检测结果,来确定样本图像的分类标签。相比于人工标注的方式,基于多个样本文本检测结果来确定分类标签,能够在解放人力的同时,提高训练效率。
本公开提供另一种实施例,图7所示的操作S730进一步可以包括:从多个样本文本检测结果中确定目标样本文本检测结果。确定与目标样本文本检测结果相匹配的目标样本检测模式。将与目标样本检测模式相对应的预定标签作为样本图像的分类标签。
根据本公开的实施例,多个检测模式中具有与样本图像中文本信息的类型相匹配的目标检测模式,利用目标检测模式处理样本图像的样本全局特征图,得到的样本文本检测结果最为精准,或者得到的样本文本检测结果的置信度最高。可以基于置信度,从多个样本文本检测结果中确定目标样本文本检测结果,例如将置信度最高的样本文本检测结果作为目标样本文本检测结果。可以建立样本检测模式与预定分类标签之间的映射关系,基于映射关系确定与目标样本检测模式相对应的预定分类标签,将其作为样本图像的分类标签。由此来提高样本图像的标注效率和标注精度。
本公开提供另一种实施例,图7所示的操作S750进一步可以包括:将样本分类结果和分类标签,输入至与深度学习模型相匹配的损失函数中,得到损失值。基于损失值调整深度学习模型的参数,直至损失值收敛。将损失值收敛的模型作为经训练的深度学习模型。损失函数可以不做限定,例如可以为交叉熵损失函数,只要是与深度学习模型相匹配的损失函数即可。
根据本公开的实施例,可以利用上述深度学习模型的训练方法训练上述实施例中的分类模块,使得在无人工标注的情况下,即可高效率地训练分类模块,进而使得训练后的分类模块应用于文本检测方法中,分类精度高。
图8示意性示出了根据本公开实施例的文本检测装置的框图。
如图8所示,文本检测装置800包括:提取模块810、分类模块820、确定模块830、以及检测模块840。
提取模块810,用于对待检测图像进行图像特征提取,得到全局特征图。
分类模块820,用于对全局特征图进行分类,得到分类结果。
确定模块830,用于基于分类结果,从多个检测模式中确定目标检测模式。
检测模块840,用于按照目标检测模式处理全局特征图,得到待检测图像的文本检测结果。
根据本公开的实施例,分类模块包括:第一卷积单元、分类单元。
第一卷积单元,用于对全局特征图进行第一卷积操作,得到第一卷积后的全局特征图。
分类单元,用于对第一卷积后的全局特征图进行分类,得到分类结果。
根据本公开的实施例,确定模块包括:第一确定单元、第二确定单元。
第一确定单元,用于在确定分类结果为分割分类结果的情况下,确定目标检测模式为分割检测模式。
第二确定单元,用于在确定分类结果为回归分类结果的情况下,确定目标检测模式为回归检测模式。
根据本公开的实施例,目标检测模式包括回归检测模式。
根据本公开的实施例,检测模块包括:第二卷积单元、第一处理单元。
第二卷积单元,用于对全局特征图进行第二卷积操作,得到第二卷积后的全局特征图。
第一处理单元,用于对第二卷积后的全局特征图进行非极大值抑制处理,得到待检测图像的文本检测结果。
根据本公开的实施例,目标检测模式包括分割检测模式。
根据本公开的实施例,检测模块包括:第三卷积单元、第二处理单元。
第三卷积单元,用于对全局特征图进行第三卷积操作,得到第三卷积后的全局特征图。
第二处理单元,用于对第三卷积后的全局特征图进行连通域标记处理,得到待检测图像的文本检测结果。
图9示意性示出了根据本公开实施例的深度学习模型的训练装置的框图。
如图9所示,深度学习模型的训练装置900包括:样本提取模块910、样本检测模块920、样本确定模块930、样本输入模块940、训练模块950。
样本提取模块910,用于对样本图像进行图像特征提取,得到样本全局特征图。
样本检测模块920,用于按照多个检测模式分别处理样本全局特征图,得到多个样本文本检测结果。
样本确定模块930,用于基于多个样本文本检测结果,确定样本图像的分类标签。
样本输入模块940,用于将样本全局特征图输入至深度学习模型中,得到样本分类结果。
训练模块950,用于利用样本分类结果和分类标签,训练深度学习模型,得到经训练的深度学习模型。
根据本公开的实施例,样本确定模块包括:第一样本确定单元、第二样本确定单元、第三样本确定单元。
第一样本确定单元,用于从多个样本文本检测结果中确定目标样本文本检测结果。
第二样本确定单元,用于确定与目标样本文本检测结果相匹配的目标样本检测模式。
第三样本确定单元,用于将与目标样本检测模式相对应的预定分类标签作为样本图像的分类标签。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例,一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如本公开实施例的方法。
根据本公开的实施例,一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如本公开实施例的方法。
根据本公开的实施例,一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如本公开实施例的方法。
图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示,设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006,例如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如文件检测方法。例如,在一些实施例中,文件检测方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的文件检测方法的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行文件检测方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (16)
1.一种文本检测方法,包括:
对待检测图像进行图像特征提取,得到全局特征图;
基于所述全局特征图,确定针对所述待检测图像的分类结果;
基于所述分类结果,从多个检测模式中确定目标检测模式;以及
按照所述目标检测模式处理所述全局特征图,得到所述待检测图像的文本检测结果。
2.根据权利要求1所述的方法,其中,所述基于所述全局特征图,确定针对所述待检测图像的分类结果,包括:
对所述全局特征图进行第一卷积操作,得到第一卷积后的全局特征图;以及
对所述第一卷积后的全局特征图进行分类,得到所述分类结果。
3.根据权利要求1或2所述的方法,其中,所述基于所述分类结果,从多个检测模式中确定目标检测模式,包括:
在确定所述分类结果为分割分类结果的情况下,确定所述目标检测模式为分割检测模式;以及
在确定所述分类结果为回归分类结果的情况下,确定所述目标检测模式为回归检测模式。
4.根据权利要求3所述的方法,其中,所述目标检测模式包括回归检测模式;
所述按照所述目标检测模式处理所述全局特征图,得到所述待检测图像的文本检测结果,包括:
对所述全局特征图进行第二卷积操作,得到第二卷积后的全局特征图;以及
对所述第二卷积后的全局特征图进行非极大值抑制处理,得到所述待检测图像的文本检测结果。
5.根据权利要求3所述的方法,其中,所述目标检测模式包括分割检测模式;
所述按照所述目标检测模式处理所述全局特征图,得到所述待检测图像的文本检测结果,包括:
对所述全局特征图进行第三卷积操作,得到第三卷积后的全局特征图;以及
对所述第三卷积后的全局特征图进行连通域标记处理,得到所述待检测图像的所述文本检测结果。
6.一种深度学习模型的训练方法,包括:
对样本图像进行图像特征提取,得到样本全局特征图;
按照多个检测模式分别处理所述样本全局特征图,得到多个样本文本检测结果;
基于所述多个样本文本检测结果,确定所述样本图像的分类标签;
将所述样本全局特征图输入至深度学习模型中,得到样本分类结果;以及
利用所述样本分类结果和所述分类标签,训练所述深度学习模型,得到经训练的深度学习模型。
7.根据权利要求6所述的方法,其中,所述基于所述多个样本文本检测结果,确定所述样本图像的分类标签,包括:
从所述多个样本文本检测结果中确定目标样本文本检测结果;
确定与所述目标样本文本检测结果相匹配的目标样本检测模式;以及
将与所述目标样本检测模式相对应的预定分类标签作为所述样本图像的分类标签。
8.一种文本检测装置,包括:
提取模块,用于对待检测图像进行图像特征提取,得到全局特征图;
分类模块,用于基于所述全局特征图,确定针对所述待检测图像的分类结果;
确定模块,用于基于所述分类结果,从多个检测模式中确定目标检测模式;以及
检测模块,用于按照所述目标检测模式处理所述全局特征图,得到所述待检测图像的文本检测结果。
9.根据权利要求8所述的装置,其中,所述分类模块包括:
第一卷积单元,用于对所述全局特征图进行第一卷积操作,得到第一卷积后的全局特征图;以及
分类单元,用于对所述第一卷积后的全局特征图进行分类,得到所述分类结果。
10.根据权利要求8或9所述的装置,其中,所述确定模块包括:
第一确定单元,用于在确定所述分类结果为分割分类结果的情况下,确定所述目标检测模式为分割检测模式;以及
第二确定单元,用于在确定所述分类结果为回归分类结果的情况下,确定所述目标检测模式为回归检测模式。
11.根据权利要求10所述的装置,其中,所述目标检测模式包括回归检测模式;
所述检测模块包括:
第二卷积单元,用于对所述全局特征图进行第二卷积操作,得到第二卷积后的全局特征图;以及
第一处理单元,用于对所述第二卷积后的全局特征图进行非极大值抑制处理,得到所述待检测图像的文本检测结果。
12.根据权利要求10所述的装置,其中,所述目标检测模式包括分割检测模式;
所述检测模块包括:
第三卷积单元,用于对所述全局特征图进行第三卷积操作,得到第三卷积后的全局特征图;以及
第二处理单元,用于对所述第三卷积后的全局特征图进行连通域标记处理,得到所述待检测图像的所述文本检测结果。
13.一种深度学习模型的训练装置,包括:
样本提取模块,用于对样本图像进行图像特征提取,得到样本全局特征图;
样本检测模块,用于按照多个检测模式分别处理所述样本全局特征图,得到多个样本文本检测结果;
样本确定模块,用于基于所述多个样本文本检测结果,确定所述样本图像的分类标签;
样本输入模块,用于将所述样本全局特征图输入至深度学习模型中,得到样本分类结果;以及
训练模块,用于利用所述样本分类结果和所述分类标签,训练所述深度学习模型,得到经训练的深度学习模型。
14.根据权利要求13所述的装置,其中,所述样本确定模块包括:
第一样本确定单元,用于从所述多个样本文本检测结果中确定目标样本文本检测结果;
第二样本确定单元,用于确定与所述目标样本文本检测结果相匹配的目标样本检测模式;以及
第三样本确定单元,用于将与所述目标样本检测模式相对应的预定分类标签作为所述样本图像的分类标签。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210583992.XA CN114998906B (zh) | 2022-05-25 | 2022-05-25 | 文本检测方法、模型的训练方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210583992.XA CN114998906B (zh) | 2022-05-25 | 2022-05-25 | 文本检测方法、模型的训练方法、装置、电子设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114998906A CN114998906A (zh) | 2022-09-02 |
CN114998906B true CN114998906B (zh) | 2023-08-08 |
Family
ID=83029491
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210583992.XA Active CN114998906B (zh) | 2022-05-25 | 2022-05-25 | 文本检测方法、模型的训练方法、装置、电子设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114998906B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109934181A (zh) * | 2019-03-18 | 2019-06-25 | 北京海益同展信息科技有限公司 | 文本识别方法、装置、设备和计算机可读介质 |
CN112926581A (zh) * | 2021-03-29 | 2021-06-08 | 中国科学院合肥物质科学研究院 | 一种基于基于轮廓建模的文本检测方法 |
CN112949653A (zh) * | 2021-02-23 | 2021-06-11 | 科大讯飞股份有限公司 | 文本识别方法以及电子设备、存储装置 |
CN113033558A (zh) * | 2021-04-19 | 2021-06-25 | 深圳市华汉伟业科技有限公司 | 一种用于自然场景的文本检测方法及装置、存储介质 |
CN113255679A (zh) * | 2021-06-18 | 2021-08-13 | 北京世纪好未来教育科技有限公司 | 文本检测方法、装置、介质和电子设备 |
CN114092947A (zh) * | 2022-01-04 | 2022-02-25 | 湖南师范大学 | 一种文本检测方法、装置、电子设备及可读存储介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3608828A1 (de) * | 2018-08-09 | 2020-02-12 | Olympus Soft Imaging Solutions GmbH | Verfahren zur bereitstellung eines auswertungsmittels für wenigstens ein optisches anwendungssystem einer mikroskopischen anwendungstechnologie |
EP4115392A4 (en) * | 2020-03-04 | 2023-08-23 | Magic Leap, Inc. | SYSTEMS AND PROCESSES FOR EFFICIENT GENERATION OF FLOOR PLANS FROM 3D SCANS OF INTERIOR SCENES |
CN112215223B (zh) * | 2020-10-16 | 2024-03-19 | 清华大学 | 基于多元注意力机制的多方向场景文字识别方法及系统 |
-
2022
- 2022-05-25 CN CN202210583992.XA patent/CN114998906B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109934181A (zh) * | 2019-03-18 | 2019-06-25 | 北京海益同展信息科技有限公司 | 文本识别方法、装置、设备和计算机可读介质 |
CN112949653A (zh) * | 2021-02-23 | 2021-06-11 | 科大讯飞股份有限公司 | 文本识别方法以及电子设备、存储装置 |
CN112926581A (zh) * | 2021-03-29 | 2021-06-08 | 中国科学院合肥物质科学研究院 | 一种基于基于轮廓建模的文本检测方法 |
CN113033558A (zh) * | 2021-04-19 | 2021-06-25 | 深圳市华汉伟业科技有限公司 | 一种用于自然场景的文本检测方法及装置、存储介质 |
CN113255679A (zh) * | 2021-06-18 | 2021-08-13 | 北京世纪好未来教育科技有限公司 | 文本检测方法、装置、介质和电子设备 |
CN114092947A (zh) * | 2022-01-04 | 2022-02-25 | 湖南师范大学 | 一种文本检测方法、装置、电子设备及可读存储介质 |
Non-Patent Citations (1)
Title |
---|
《基于多尺度特征融合注意力机制的纸病分类方法研究》;张开生 等;《中国造纸》;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN114998906A (zh) | 2022-09-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110569341B (zh) | 配置聊天机器人的方法、装置、计算机设备和存储介质 | |
CN112597837B (zh) | 图像检测方法、装置、设备、存储介质和计算机程序产品 | |
CN112101386B (zh) | 文本检测方法、装置、计算机设备和存储介质 | |
CN113657274B (zh) | 表格生成方法、装置、电子设备及存储介质 | |
CN113221918B (zh) | 目标检测方法、目标检测模型的训练方法及装置 | |
CN113255501B (zh) | 生成表格识别模型的方法、设备、介质及程序产品 | |
CN114359932B (zh) | 文本检测方法、文本识别方法及装置 | |
CN114429633B (zh) | 文本识别方法、模型的训练方法、装置、电子设备及介质 | |
CN115861400B (zh) | 目标对象检测方法、训练方法、装置以及电子设备 | |
CN113610809B (zh) | 骨折检测方法、装置、电子设备以及存储介质 | |
CN114637877A (zh) | 标注方法、电子设备及存储介质 | |
CN114494751A (zh) | 证照信息识别方法、装置、设备及介质 | |
CN107992872B (zh) | 一种对图片进行文本识别的方法及移动终端 | |
CN114495101A (zh) | 文本检测方法、文本检测网络的训练方法及装置 | |
CN117523584A (zh) | 一种电子面单的识别方法、装置、设备及介质 | |
CN116309963B (zh) | 一种图像的批量标注方法、装置、电子设备及存储介质 | |
CN114998906B (zh) | 文本检测方法、模型的训练方法、装置、电子设备及介质 | |
CN115934928A (zh) | 一种信息抽取方法、装置、设备及存储介质 | |
CN114120305B (zh) | 文本分类模型的训练方法、文本内容的识别方法及装置 | |
CN116110066A (zh) | 票据文本的信息提取方法、装置、设备及存储介质 | |
CN113705559B (zh) | 基于人工智能的文字识别方法及装置、电子设备 | |
CN114387600A (zh) | 文本特征识别方法、装置、计算机设备和存储介质 | |
CN113887394A (zh) | 一种图像处理方法、装置、设备及存储介质 | |
CN115205555B (zh) | 确定相似图像的方法、训练方法、信息确定方法及设备 | |
CN116311296A (zh) | 一种图片识别方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |