CN114863439B - 信息提取方法、装置、电子设备和介质 - Google Patents
信息提取方法、装置、电子设备和介质 Download PDFInfo
- Publication number
- CN114863439B CN114863439B CN202210546057.6A CN202210546057A CN114863439B CN 114863439 B CN114863439 B CN 114863439B CN 202210546057 A CN202210546057 A CN 202210546057A CN 114863439 B CN114863439 B CN 114863439B
- Authority
- CN
- China
- Prior art keywords
- feature
- target
- document image
- characteristic
- mapping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000605 extraction Methods 0.000 title claims abstract description 116
- 230000004927 fusion Effects 0.000 claims abstract description 86
- 238000000034 method Methods 0.000 claims abstract description 39
- 238000012545 processing Methods 0.000 claims abstract description 17
- 238000013507 mapping Methods 0.000 claims description 78
- 238000005070 sampling Methods 0.000 claims description 30
- 230000006870 function Effects 0.000 claims description 17
- 230000004913 activation Effects 0.000 claims description 9
- 238000013528 artificial neural network Methods 0.000 claims description 7
- 238000011176 pooling Methods 0.000 claims description 6
- 230000009467 reduction Effects 0.000 claims description 6
- 230000003213 activating effect Effects 0.000 claims description 5
- 230000008569 process Effects 0.000 abstract description 12
- 238000012015 optical character recognition Methods 0.000 abstract description 11
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000013135 deep learning Methods 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 description 13
- 238000004590 computer program Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003058 natural language processing Methods 0.000 description 2
- UFHFLCQGNIYNRP-UHFFFAOYSA-N Hydrogen Chemical compound [H][H] UFHFLCQGNIYNRP-UHFFFAOYSA-N 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 229910052739 hydrogen Inorganic materials 0.000 description 1
- 239000001257 hydrogen Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/18—Extraction of features or characteristics of the image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种信息提取方法、装置、电子设备和介质,涉及人工智能技术领域,具体为深度学习、图像处理、计算机视觉等技术领域,可应用于OCR等场景。实现方案为:对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征;对目标特征图和目标文本特征进行融合,以得到目标融合特征;根据目标融合特征,提取第一文档图像中与查询信息中的设定实体词匹配的结构化信息。由此,可以实现从文档图像中提取与查询信息中用户所需的实体词匹配的结构化信息,以满足用户的实际提取需求,改善用户的使用体验;并且,通过自动提取结构化信息,可以提高待办事件的处理效率,支持企业办公智能化进程。
Description
技术领域
本公开涉及人工智能技术领域,具体为深度学习、图像处理、计算机视觉等技术领域,可应用于OCR(Optical Character Recognition,光学字符识别)等场景,尤其涉及一种信息提取方法、装置、电子设备和介质。
背景技术
文档作为一种重要的结构化信息载体,被广泛用于各种商业、办公等场景。在自动化办公系统中,从文档图像中识别和抽取结构化信息是系统的重要功能之一,可以帮助企业实现自动化文档识别和信息抽取(或信息提取)的功能,极大地提高办公人员的处理效率,支持企业办公智能化进程。
发明内容
本公开提供了一种信息提取方法、装置、电子设备和介质。
根据本公开的一方面,提供了一种信息提取方法,包括:
获取第一文档图像和查询信息,其中,所述查询信息中包括设定实体词;
对所述第一文档图像进行编码,以得到多个尺度的目标特征图;
对所述查询信息进行编码,以得到目标文本特征;
对所述目标特征图和所述目标文本特征进行融合,以得到目标融合特征;
根据所述目标融合特征,提取所述文档图像中与所述设定实体词匹配的结构化信息。
根据本公开的另一方面,提供了一种信息提取装置,包括:
获取模块,用于获取第一文档图像和查询信息,其中,所述查询信息中包括设定实体词;
第一编码模块,用于对所述第一文档图像进行编码,以得到多个尺度的目标特征图;
第二编码模块,用于对所述查询信息进行编码,以得到目标文本特征;
融合模块,用于对所述目标特征图和所述目标文本特征进行融合,以得到目标融合特征;
提取模块,用于根据所述目标融合特征,提取所述文档图像中与所述设定实体词匹配的结构化信息。
根据本公开的又一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开上述一方面提出的信息提取方法。
根据本公开的再一方面,提供了一种计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本公开上述一方面提出的信息提取方法。
根据本公开的还一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现本公开上述一方面提出的信息提取方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1为本公开实施例一所提供的信息提取方法的流程示意图;
图2为本公开实施例二所提供的信息提取方法的流程示意图;
图3为本公开实施例三所提供的信息提取方法的流程示意图;
图4为本公开实施例四所提供的信息提取方法的流程示意图;
图5为本公开实施例五所提供的信息提取方法的流程示意图;
图6为本公开实施例六所提供的信息提取方法的流程示意图;
图7为本公开实施例七所提供的信息提取方法的流程示意图;
图8为本公开实施例八所提供的信息提取装置的结构示意图;
图9示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
相关技术中,可以通过以下几种方式,识别并抽取文档图像中的结构化信息:
第一种方式,通过办公人员人工识别文档图像中的结构化信息,并手动录入上述结构化信息。然而人工识别方式,不仅耗时费力,成本较高,且效率低下。
第二种方式,可以基于OCR技术对文档图像进行字符识别,得到文本识别结果,并通过一些规则化方式或文本分类方式,从文本识别结果中抽取出结构化信息。比如,可以基于自然语言处理技术中的命名实体识别技术,标记文本识别结果中的语义实体。
然而,由于OCR技术不具有结构化识别能力,即OCR技术仅将文档图像中所有字符进行识别,存在大量冗余的信息。并且,OCR识别和结构化信息抽取(或信息提取)是两个独立的串联单元,无法联合优化,如果OCR识别错误,则会直接干扰后续结构化信息抽取的精确度。
第三种方式,基于模板匹配的方式,识别图像中的结构化信息。即针对结构简单的票据图像或证件图像,一般具有固定的几何板式,可以通过制作标准模板文件,从图像中提取与指定位置匹配的目标区域,并利用OCR技术识别目标区域中的字符信息,以得到结构化信息。
然而这种方式只适用于固定类型的文档图像,适用范围不高。
针对上述存在的至少一项问题,本公开提出一种信息提取方法、装置、电子设备和介质。
下面参考附图描述本公开实施例的信息提取方法、装置、电子设备和介质。
图1为本公开实施例一所提供的信息提取方法的流程示意图。
本公开实施例以该信息提取方法被配置于信息提取装置中来举例说明,该信息提取装置可以应用于任一电子设备中,以使该电子设备可以执行信息提取功能。
其中,电子设备可以为任一具有计算能力的设备,例如可以为电脑、移动终端、服务器等,移动终端例如可以为车载设备、手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
如图1所示,该信息提取方法可以包括以下步骤:
步骤101,获取第一文档图像和查询信息,其中,查询信息中包括设定实体词。
在本公开实施例中,查询信息为预先设定的,例如,可以根据应用场景或应用需求预先设定查询信息。其中,该查询信息中包括至少一个设定实体词,比如,设定实体词可以包括:标题、落款、日期、姓名、地址等实体词。
在本公开实施例中,第一文档图像是指包含文档内容的图像。其中,对第一文档图像的类型不做限制,即该第一文档图像可以为票据类型或证件类型等固定板式的文档图像,或者,也可以为其他类型的非固定板式的文档图像。
在本公开实施例中,对第一文档图像的获取方式不作限制,例如,第一文档图像可以为在线采集的图像,比如可以通过网络爬虫技术,在线采集第一文档图像,或者,第一文档图像也可以为线下采集的图像(比如可以对纸质文档进行图像采集,得到第一文档图像),或者,第一文档图像也可以为实时采集的图像,或者,第一文档图像也可以为人工合成的图像,等等,本公开实施例对此并不做限制。
步骤102,对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征。
在本公开实施例中,可以基于图像编码方式,对第一文档图像进行编码,以得到多个尺度的目标特征图。
作为一种示例,标记目标特征图的个数为M,多个尺度的目标特征图wi×hi×ci可以标记为Ii,其中,i为目标特征图的序号,wi为目标特征图的多个宽度分量,hi为目标特征图的多个高度分量,ci为目标特征图的多个维度分量。
在本公开实施例中,还可以基于文本编码方式,对查询信息进行编码,以得到目标文本特征。
步骤103,对目标特征图和目标文本特征进行融合,以得到目标融合特征。
在本公开实施例中,可以对多个尺度的目标特征图和目标文本特征进行融合,以得到目标融合特征。
步骤104,根据目标融合特征,提取第一文档图像中与设定实体词匹配的结构化信息。
在本公开实施例中,结构化信息可以包括键值对,其中,键值对中可以包括属性键和属性值以及属性键和属性值之间的关联关系(比如等于、大于、小于、不等于),上述属性键即为上述设定实体词。由此,可以实现提取键值对形式的结构化信息,从而可以便于将键值对形式的结构化信息进行存储,提升结构化信息的录入效率。
比如,属性键为日期,属性值可以为2022年5月16日,关联关系可以为等于。
在本公开实施例中,可以根据目标融合特征,提取文档图像中与查询信息中至少一个设定实体词匹配的结构化信息。
本公开实施例的信息提取方法,通过对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征;对目标特征图和目标文本特征进行融合,以得到目标融合特征;根据目标融合特征,提取第一文档图像中与查询信息中的设定实体词匹配的结构化信息。由此,可以实现根据文档图像对应的多个尺度的特征图和包含设定实体词的查询信息对应的文本特征,从文档图像中自动提取与设定实体词匹配的结构化信息,一方面,可以实现从文档图像中提取与查询信息中用户所需的实体词匹配的结构化信息,以满足用户的实际提取需求,改善用户的使用体验;另一方面,通过自动提取与设定实体词匹配的结构化信息,可以提高待办事件的处理效率,支持企业办公智能化进程;再一方面,对文档图像的类型不做限制,可以提升该方法的灵活性和适用性。
需要说明的是,本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均在征得用户同意的前提下进行,并且均符合相关法律法规的规定,且不违背公序良俗。
为了清楚说明本公开任一实施例中是如何对文档图像进行编码的,本公开还提出一种信息提取方法。
图2为本公开实施例二所提供的信息提取方法的流程示意图。
如图2所示,该信息提取方法可以包括以下步骤:
步骤201,获取第一文档图像和查询信息,其中,查询信息中包括设定实体词。
步骤201的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
步骤202,对第一文档图像进行尺寸调整,以得到符合第一设定尺寸的第二文档图像。
在本公开实施例中,第一设定尺寸为预先设定的图像尺寸。
在本公开实施例中,可以对第一文档图像进行尺寸调整,以使得调整后的第一文档图像,本公开中记为第二文档图像的尺寸与第一设定尺寸匹配。
例如,以第一设定尺寸为512*512进行示例性说明,如果第一文档图像的宽度和高度相等,则可以将第一文档图像的各边进行等比例缩放至512尺寸;而如果第一文档图像的宽度和高度不等,则可以将第一文档图像的长边缩放至512尺寸,短边的缩放比例与长边相同,并将缩放后的短边采用0填充至512尺寸,以得到512*512的固定尺寸的第二文档图像。
步骤203,采用特征提取网络的多个特征提取分支,逐层提取第二文档图像的深度特征图。
在本公开实施例中,可以采用特征提取网络的多个特征提取分支逐层提取第二文档图像的深度特征图,其中,每个特征提取分支的设置可以存在不同,进而可获取到不同尺度的特征图。
作为一种示例,每个特征提取分支可以包括卷积层,可以基于卷积层的卷积功能,实现第二文档图像的深度特征图的提取。实现过程中,当前卷积层输出的深度特征图可以作为下一个卷积层的输入,从第二个卷积层开始,每层均基于上一个卷积层输出的深度特征图进行进一步地特征图的提取,进而使得每个卷积层可以获取到第二文档图像对应的不同尺度的深度特征图,使得第二文档图像中的有效特征可以被更好的体现。
步骤204,对多个特征提取分支输出的深度特征图分别进行池化,以得到多个深度特征图对应的目标特征图,其中,多个目标特征图之间的尺度不同。
在本公开实施例中,可以对多个特征提取分支输出的深度特征图分别进行池化,以得到多个深度特征图对应的目标特征图。例如,可以采用特征提取网络中的池化层对多个特征提取分支输出的深度特征图进行池化,以得到多个深度特征图对应的目标特征图,其中,多个目标特征图之间的尺度不同。
作为一种示例,以特征提取网络为残差网络进行示例,该残差网络可以包括50个卷积层、50个激活Relu层、2个池化层。可以将第一设定尺寸的第二文档图像输入该残差网络,通过该残差网络提取第二文档图像的多个不同尺度的目标特征图。以目标特征图的个数为4进行示例,多个尺度的目标特征图可以表示为Ii,其中,i=1,2,3,4,di是指即目标特征图的分辨率(即目标特征图的多个宽度分量wi和多个高度分量hi相等,且均为di),比如,d1=128,d2=64,d3=32,d4=16,ci是指目标特征图的多个维度分量(即通道数),比如,c1=64,c2=128,c3=256,c4=512。
步骤205,对查询信息进行编码,以得到目标文本特征。
步骤206,对目标特征图和目标文本特征进行融合,以得到目标融合特征。
步骤207,根据目标融合特征,提取第一文档图像中与设定实体词匹配的结构化信息。
步骤205至207的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
本公开实施例的信息提取方法,通过先将第一文档图像进行尺寸调整,可以使得调整后的文档图像能够满足特征提取网络的输入要求,避免图像尺寸与特征提取网络的输入要求不匹配时,而导致特征提取网络无法提取特征图的情况,从而提升特征图提取的有效性,即可以基于特征提取网络中的多个特征提取分支,对图像尺寸满足输入要求的文档图像的多个尺度的特征图进行有效提取。
为了清楚说明本公开任一实施例中是如何对查询信息进行编码的,本公开还提出一种信息提取方法。
图3为本公开实施例三所提供的信息提取方法的流程示意图。
如图3所示,该信息提取方法可以包括以下步骤:
步骤301,获取第一文档图像和查询信息,其中,查询信息中包括设定实体词。
步骤302,对第一文档图像进行编码,以得到多个尺度的目标特征图。
步骤301至302的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
步骤303,根据查询信息中各字符在设定字典中所处的位置,确定各字符的编码特征。
在本公开实施例中,设定字典为预先设定的字典,比如,以该方法用于识别图像中的中文字符(即汉字)进行示例,该设定字典中可以包括常用的10784个中文汉字。
在本公开实施例中,可以根据查询信息中各字符在设定字典中所处的位置,确定各字符的编码特征。比如,可以预先根据各字符在设定字典中的位置,为各字符编码为1~10784的ID,该ID即为字符的编码特征。
步骤304,根据各字符的编码特征,确定查询信息对应的文本特征。
在本公开实施例中,可以根据各字符的编码特征,确定查询信息对应的文本信息。比如,可以根据各字符在查询信息中的位置,对各字符的编码特征进行顺序排列,以得到查询信息对应的文本特征(或称为文本序列)。
可选地,标记查询信息的长度为k,即查询信息包含k个字符,并标记文本特征为Q,则Q∈Rk。
仍以上述例子进行示例,可以将各字符的ID,按照各字符在查询信息中的位置进行顺序排列,以得到文本特征Q(即ID序列)。
步骤305,从多个尺度的目标特征图wi×hi×ci对应的维度分量值中,确定最大维度分量值。
其中,i为目标特征图的序号,wi为目标特征图的多个宽度分量,hi为目标特征图的多个高度分量,ci为目标特征图的多个维度分量。
在本公开实施例中,可以从多个尺度的目标特征图wi×hi×ci对应的维度分量值中,确定最大维度分量值,即确定多个尺度的目标特征图对应的ci中的最大值。以步骤204中的例子进行示例,ci中的最大值为c4,即最大维度分量值为c4=512。
步骤306,对文本特征进行维度映射,以得到与最大维度分量值匹配的目标文本特征。
在本公开实施例中,可以对文本特征进行维度映射,以得到与最大维度分量值匹配的目标文本特征。比如,可以基于映射网络(embedding网络)将文本特征Q进行维度映射,以得到与最大维度分量值匹配的目标文本特征。比如,标记该目标文本特征为T。
步骤307,对目标特征图和目标文本特征进行融合,以得到目标融合特征。
步骤308,根据目标融合特征,提取第一文档图像中与设定实体词匹配的结构化信息。
步骤307至308的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
本公开实施例的信息提取方法,通过根据查询信息中各字符在设定字典中所处的位置,确定各字符的编码特征,从而可以根据各字符的编码特征,有效确定查询信息对应的文本特征。本公开中,根据查询信息中各字符的编码特征,确定查询信息的文本特征,可以提升文本特征确定结果的准确性和可靠性。进一步地,将上述文本特征进行维度映射,以得到与最大维度分量值匹配的目标文本特征,从而可以实现将维度分量值匹配的文本特征和特征图进行有效融合,以避免特征之间的维度分量值不同,而导致各特征无法融合的情况,从而提升特征融合的有效性。
为了清楚说明本公开任一实施例中是如何对多个尺度的目标特征图和目标文本特征进行融合的,本公开还提出一种信息提取方法。
图4为本公开实施例四所提供的信息提取方法的流程示意图。
如图4所示,该信息提取方法可以包括以下步骤:
步骤401,获取第一文档图像和查询信息,其中,查询信息中包括设定实体词。
步骤402,对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征。
步骤401至402的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
步骤403,将多个尺度的目标特征图按照维度分量值降序排列,以得到特征序列。
在本公开实施例中,可以将多个尺度的目标特征图按照维度分量值降序排列,以得到特征序列。以步骤204中的例子进行示例,I4的维度分量值为512,I3的维度分量值为256,I2的维度分量值为128,I1的维度分量值为64,则特征序列为:I4 I3 I2 I1。
步骤404,将特征序列中的首个目标特征图的元素进行拉伸,并基于拉伸后的元素生成首个目标特征图对应的目标图像特征。
在本公开实施例中,可以将特征序列中的首个目标特征图的元素进行拉伸,并基于拉伸后的元素,生成该首个目标特征图对应的目标图像特征。
步骤405,将首个目标特征图对应的目标图像特征与目标文本特征进行拼接,以得到第一拼接特征。
在本公开实施例中,可以将特征序列中的首个特征图对应的目标图像特征与目标文本特征进行拼接,以得到第一拼接特征。
步骤406,根据第一拼接特征生成第一映射特征。
在本公开实施例中,可以将该第一拼接特征F输入至注意力网络,并将注意力网络的输出输入至前馈网络,以得到前馈网络输出的第一映射特征。可选地,标记该第一映射特征为F'。
其中,Transformer网络可以由12个相同的网络层堆叠组成,每一层网络层分别由多头注意力层和前馈网络层组成,其中前馈网络层为一层全连接层。多头注意力层和前馈网络层之间均有残差连接与层归一化操作,多头注意力层的层数可为12。
步骤407,根据第一映射特征对特征序列中除首个目标特征图之外的其余目标特征图进行依次拼接,以得到目标融合特征。
在本公开实施例中,可以根据第一映射特征,对特征序列中除首个目标特征图之外的其余目标特征图进行依次拼接,以得到目标融合特征。
步骤408,根据目标融合特征,提取第一文档图像中与设定实体词匹配的结构化信息。
步骤408的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
本公开实施例的信息提取方法,通过将多个尺度的目标特征图按照维度分量值降序排列,以得到特征序列;将特征序列中的首个目标特征图的元素进行拉伸,并基于拉伸后的元素生成首个目标特征图对应的目标图像特征;将首个目标特征图对应的目标图像特征与目标文本特征进行拼接,以得到第一拼接特征;根据第一拼接特征生成第一映射特征;根据第一映射特征对特征序列中除首个目标特征图之外的其余目标特征图进行依次拼接,以得到目标融合特征。由此,可以实现将三维的目标特征图中的元素进行拉伸的方式,来得到二维的目标图像特征,从而可以将二维的目标图像特征与二维的目标文本特征进行有效拼接,得到第一拼接特征,以避免特征之间的维度不同,而导致各特征无法拼接的情况。进一步地,根据该第一拼接特征对其余目标特征图进行依次拼接,以得到目标融合特征,可以实现通过特征拼接方式,来实现对各特征进行有效融合,从而可以根据融合了设定实体词的目标融合特征,对结构化信息的提取起到指导作用,以提取与用户所需的设定实体词匹配的结构化信息,满足用户的实际提取需求。
为了清楚说明本公开任一实施例中是如何对各特征进行依次拼接,以得到目标融合特征的,本公开还提出一种信息提取方法。
图5为本公开实施例五所提供的信息提取方法的流程示意图。
如图5所示,该信息提取方法可以包括以下步骤:
步骤501,获取第一文档图像和查询信息,其中,查询信息中包括设定实体词。
步骤502,对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征。
步骤503,将多个尺度的目标特征图按照维度分量值降序排列,以得到特征序列。
步骤504,将特征序列中的首个目标特征图的元素进行拉伸,并基于拉伸后的元素生成首个目标特征图对应的目标图像特征。
步骤505,将首个目标特征图对应的目标图像特征与目标文本特征进行拼接,以得到第一拼接特征。
步骤506,根据第一拼接特征生成第一映射特征。
步骤501至506的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
步骤507,根据查询信息的长度,从第一映射特征中确定用于指示查询信息的第一子特征以及用于指示第一文档图像的第二子特征。
在本公开实施例中,可以根据查询信息的长度,从第一映射特征中确定用于指示查询信息的第一子特征以及用于指示第一文档图像的第二子特征。即可以将第一映射特征中的后k个属于查询信息的特征,作为第一子特征,将第一映射特征中除第一子特征之外的特征,作为第二子特征。其中,K为查询信息的长度。
仍以步骤406中的例子进行示例,可以确定第一映射特征F'中属于查询信息的特征区域并提取该特征区域对应的特征,以得到第一子特征T'(即第一映射特征中的后k个特征)并可以确定第一映射特征F'中前个属于第一文档图像的第二子特征
步骤508,对第二子特征进行维度映射,以使映射后的第二子特征的维度分量值与长度匹配。
在本公开实施例中,可以对第二子特征进行维度映射,以使映射后的第二子特征的维度分量值与查询信息的长度匹配。
步骤509,对映射后的第二子特征进行上采样,以得到第一采样特征。
在本公开实施例中,可以对映射后的第二子特征进行上采样,以得到第一采样特征,其中,第一采样特征的尺寸与特征序列中的第二个目标特征图的尺寸匹配。
步骤510,将第一采样特征和第二个目标特征图在维度分量方向进行拼接,以得到第二拼接特征。
在本公开实施例中,可以将第一采样特征和第二个目标特征图在维度分量方向进行拼接,以得到第二拼接特征。
步骤511,根据第二拼接特征对特征序列中除首个目标特征图和第二个目标特征图之外的其他目标特征图进行依次拼接,以得到目标融合特征。
在本公开实施例中,在目标特征图的个数M=2时,该第二拼接特征即可为目标融合特征,或者,可以将第二拼接特征输入第一卷积网络(即卷积层),以得到第一卷积网络输出的目标融合特征。
在本公开实施例中,在目标特征图的个数M大于2时,可以根据第二拼接特征对特征序列中除首个目标特征图和第二个目标特征图之外的其他目标特征图进行依次拼接,以得到目标融合特征。其中,M为正整数。
作为一种可能的实现方式,可以将第j拼接特征输入第一卷积网络,以得到第一卷积网络输出的第j映射特征,其中,j=2,…,M-1,之后,可以将第j映射特征进行上采样,以得到第j采样特征,其中,第j采样特征的尺寸与特征序列中的第j+1个目标特征图的尺寸匹配,之后,可将第j采样特征和第j+1个目标特征图在维度分量方向进行拼接,以得到第j+1拼接特征,通过迭代上述过程,可以确定第M拼接特征,从而本公开中,可以将M拼接特征输入第一卷积网络,以得到第一卷积网络输出的目标融合特征。由此,可以通过迭代方式,对各特征进行有效融合,并且,在每次迭代过程中,将各特征之间的尺寸进行调整,可以避免特征尺寸不匹配而导致各特征无法拼接的情况,从而提升特征融合的有效性。
仍以上述例子进行示例,当M=4时,可以将第二拼接特征输入第一卷积网络,以得到第一卷积网络输出的第二映射特征,该第二映射特征 即第一卷积网络的作用为:将特征的通道数映射为k;之后,可以将第二映射特征进行上采样,以得到第二采样特征,标记该第二采样特征为C3,该接着,可以将C3与I2进行拼接,得到第三拼接特征,标记该第三拼接特征为P2,则而后,可以将P2输入第一卷积网络,以得到第三映射特征并将第三映射特征进行上采样,以得到第三采样特征,标记该第三采样特征为C2,该之后,可以将C2与I1进行拼接,得到第四拼接特征,标记该第四拼接特征为P1,则最后,可以将P1输入第一卷积网络,以得到第一卷积网络输出的目标融合特征。其中,目标融合特征的尺寸与第一设定尺寸或特征序列中最后一个目标特征图的尺寸匹配,例如,标记目标融合特征为C1,则该
步骤512,根据目标融合特征,提取第一文档图像中与设定实体词匹配的结构化信息。
步骤512的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
本公开实施例的信息提取方法,通过根据查询信息的长度,从第一映射特征中确定用于指示查询信息的第一子特征以及用于指示第一文档图像的第二子特征;对第二子特征进行维度映射,以使映射后的第二子特征的维度分量值与长度匹配;对映射后的第二子特征进行上采样,以得到第一采样特征,其中,第一采样特征的尺寸与特征序列中的第二个目标特征图的尺寸匹配;将第一采样特征和第二个目标特征图在维度分量方向进行拼接,以得到第二拼接特征;根据第二拼接特征对所述特征序列中除首个目标特征图和第二个目标特征图之外的其他目标特征图进行依次拼接,以得到目标融合特征。由此,通过对特征进行维度映射、上采样等方式,来实现对特征的维度和尺寸进行调整,以使调整后的特征之间的尺度匹配,从而可以对尺度匹配的特征进行有效拼接,以避免特征尺度不匹配,而导致特征无法融合的情况,提升特征融合的有效性。
为了清楚说明本公开任一实施例中是如何根据目标融合特征提取文档图像中的结构化信息的,本公开还提出一种信息提取方法。
图6为本公开实施例六所提供的信息提取方法的流程示意图。
如图6所示,该信息提取方法可以包括以下步骤:
步骤601,获取第一文档图像和查询信息,其中,查询信息中包括设定实体词。
步骤602,对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征。
步骤603,对目标特征图和目标文本特征进行融合,以得到目标融合特征。
步骤601至603的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
步骤604,从目标融合特征中提取与查询信息匹配的匹配特征。
在本公开实施例中,可以从目标融合特征中提取与查询信息匹配的匹配特征,即该匹配特征用于指示第一文档图像中与查询信息匹配的结构化信息。
步骤605,将匹配特征映射为符合第二设定尺寸的目标中间特征。
在本公开实施例中,第二设定尺寸为预先设定的图像尺寸,其中,第二设定尺寸与第一设定尺寸可以相同,或者,也可以不同,本公开对此并不做限制。比如,第二设定尺寸可以为48*4,或者也可以为其他尺寸。
在本公开实施例中,可以将匹配特征映射为符合第二设定尺寸的目标中间特征。可选地,标记该目标中间特征为Cq,该Cq∈Rw×h×k,其中,w×h为第二设定尺寸,比如,以第二设定尺寸为48*4进行示例,w可为48,h可为4。
步骤606,采用全连接神经网络对目标中间特征进行维度映射,以得到目标映射特征。
步骤607,对目标映射特征进行字符识别,以得到第一文档图像中与设定实体词匹配的结构化信息。
在本公开实施例中,可以对目标映射特征进行字符识别,以得到第一文档图像中与查询信息中的至少一个设定实体词匹配的结构化信息。比如,可以采用CTC(Connectionist Temporal Classification)算法,对目标映射特征进行字符识别,以得到第一文档图像中与查询信息匹配的结构化信息。其中,结构化信息包括键值对,键值对中包括属性键和属性值以及属性键和属性值之间的关联关系,属性键为设定实体词。
本公开实施例的信息提取方法,通过从目标融合特征中提取与查询信息匹配的匹配特征;将匹配特征映射为符合第二设定尺寸的目标中间特征;采用全连接神经网络对目标中间特征进行维度映射,以得到目标映射特征;对目标映射特征进行字符识别,以得到文档图像中与至少一个设定实体词匹配的结构化信息。由此,通过从目标融合特征中提取与查询信息匹配的局部特征,仅根据该局部特征识别第一文档图像中的结构化信息,可以提升信息提取效率。即由于无需对目标融合特征中的全量字符进行识别,可以提升结构化信息的提取效率。
为了清楚说明本公开任一实施例中是如何从目标融合特征中提取与查询信息匹配的匹配特征的,本公开还提出一种信息提取方法。
图7为本公开实施例七所提供的信息提取方法的流程示意图。
如图7所示,该信息提取方法可以包括以下步骤:
步骤701,获取第一文档图像和查询信息,其中,查询信息中包括设定实体词。
步骤702,对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征。
步骤703,对目标特征图和目标文本特征进行融合,以得到目标融合特征。
步骤704,对目标融合特征进行上采样,以得到第一中间特征。
在本公开实施例中,可以对目标融合特征进行上采样,以得到第一中间特征,其中,第一中间特征的尺寸与第一设定尺寸匹配。
作为一种示例,可以通过上采样层对目标融合特征C1进行上采样,得到第一中间特征C0,例如,以第一设定尺寸为512*512进行示例,该C0∈R512×512×k。
步骤705,根据第一中间特征生成第二中间特征。
在本公开实施例中,可以根据第一中间特征,生成第二中间特征。
作为一种可能的实现方式,将步骤507得到的第一子特征和第一中间特征映射至同一维度进行相乘,以得到第二中间特征。
作为一种示例,可以将二维的第一子特征T'和三维的第一中间特征C0均扩展为4维特征,并将扩展后的两个特征在后两维度做广播矩阵乘法,并将乘积与C0的前两个维度拼接,得到4维的矩阵Ct,最后再将上述4维的矩阵Ct压缩至3维,即可得到第二中间特征。
例如,可以将C0添加一个维度,维度扩展后的C0∈R512×512×1×k,并将T'添加两个维度,例如将T'扩展为将维度扩展后的C0和T'在后两维做广播矩阵乘法,且C0的前两维保持不变,即可得到:将Ct压缩至3维,得到的第二中间特征
步骤706,采用第二卷积网络对第二中间特征进行降维处理,以得到设定维度分量值的第三中间特征。
其中,设定维度分量值为预先设置的,比如,该设定维度分量值可以为1。
在本公开实施例中,可以采用第二卷积网络对第二中间特征进行降维处理,以得到设定维度分量值(即设定通道数)的第三中间特征。
作为一种示例,以设定维度分量值为1进行示例,可以采用第二卷积网络(即卷积层)将第二中间特征的通道数降为1,得到的第三中间特征∈R512×512×1。
步骤707,将第三中间特征中各元素的取值采用激活函数激活,以得到各元素的置信度。
在本公开实施例中,激活函数可以为非线性激活函数,比如为sigmoid激活函数。
在本公开实施例中,可以将第三中间特征中各元素的取值采用激活函数激活,以得到各元素的置信度(或称为概率值)。
步骤708,根据各元素的置信度,从第三中间特征中确定目标区域,其中,目标区域中元素的置信度大于设定置信度阈值。
在本公开实施例中,设定置信度阈值(或称为设定概率阈值)为预先设定的,比如,该设定置信度阈值可以为0.5、0.55、0.6等等。
在本公开实施例中,可以根据各元素的置信度,从第三中间特征中确定目标区域,其中,目标区域中元素的置信度大于设定置信度阈值。
作为一种示例,可以对第三中间特征中的每个元素进行二分类,从各元素中确定置信度大于设定置信度阈值的目标元素,并对各目标元素使用连通域获取其外接矩形,该外接矩形在第三中间特征中所在的区域,即为目标区域。其中,目标区域用于指示查询信息对应文本(或结构化信息)在文档图像中的位置。
步骤709,根据目标区域在第三中间特征中的位置,从第一中间特征中截取与位置匹配的匹配特征。
在本公开实施例中,可以根据目标区域在第三中间特征中的位置,从第一中间特征中截取与位置匹配的匹配特征。
作为一种示例,可以确定目标区域的各顶点在第三中间特征中的位置,根据各顶点的位置从第一中间特征中截取匹配特征,即匹配特征为第一中间特征中由各顶点的位置所围成的区域对应的特征。
步骤710,将匹配特征映射为符合第二设定尺寸的目标中间特征。
步骤711,采用全连接神经网络对目标中间特征进行维度映射,以得到目标映射特征。
步骤712,对目标映射特征进行字符识别,以得到第一文档图像中与设定实体词匹配的结构化信息。
步骤710至712的解释说明可以参见本公开任一实施例中的相关描述,在此不做赘述。
本公开实施例的信息提取方法,通过对目标融合特征进行上采样,以得到第一中间特征;其中,第一中间特征的尺寸与第一设定尺寸匹配;根据第一中间特征生成第二中间特征;采用第二卷积网络对第二中间特征进行降维处理,以得到设定维度分量值的第三中间特征;将第三中间特征中各元素的取值采用激活函数激活,以得到各元素的置信度;根据各元素的置信度,从第三中间特征中确定目标区域,其中,目标区域中元素的置信度大于设定置信度阈值;根据目标区域在第三中间特征中的位置,从第一中间特征中截取与所述位置匹配的匹配特征。由此,可以实现通过对特征中的元素进行二分类的方式,来确定用于指示查询信息对应文本(或结构化信息)在第一文档图像中的位置的目标区域,从而可以基于目标区域从上述特征中有效截取与查询信息匹配的匹配特征,进而可以仅识别并提取该匹配特征中的结构化信息,可以提升结构化信息的提取效率。
综上,通过引入设定的查询信息,来对第一文档图像中指定的实体词进行文本识别,可以避免对第一文档图像中的全量字符进行识别,而造成的无效损耗,提升结构化信息的提取效率。并且,无需对第一文档图像中的全量字符进行识别,可以避免OCR识别错误而干扰文本分类的情况,提升结构化信息提取的准确性和可靠性。
与上述图1至图7实施例提供的信息提取方法相对应,本公开还提供一种信息提取装置,由于本公开实施例提供的信息提取装置与上述图1至图7实施例提供的信息提取方法相对应,因此在信息提取方法的实施方式也适用于本公开实施例提供的信息提取装置,在本公开实施例中不再详细描述。
图8为本公开实施例八所提供的信息提取装置的结构示意图。
如图8所示,该信息提取装置800可以包括:获取模块801、第一编码模块802、第二编码模块803、融合模块804以及提取模块805。
其中,获取模块801,用于获取第一文档图像和查询信息,其中,查询信息中包括设定实体词。
第一编码模块802,用于对第一文档图像进行编码,以得到多个尺度的目标特征图。
第二编码模块803,用于对查询信息进行编码,以得到目标文本特征。
融合模块804,用于对目标特征图和目标文本特征进行融合,以得到目标融合特征。
提取模块805,用于根据目标融合特征,提取第一文档图像中与设定实体词匹配的结构化信息。
在本公开实施例的一种可能的实现方式中,第一编码模块802,具体用于:对第一文档图像进行尺寸调整,以得到符合第一设定尺寸的第二文档图像;采用特征提取网络的多个特征提取分支逐层提取第二文档图像的深度特征图;对多个特征提取分支输出的深度特征图分别进行池化,以得到多个深度特征图对应的目标特征图,其中,多个目标特征图之间的尺度不同。
在本公开实施例的一种可能的实现方式中,第二编码模块803,具体用于:根据查询信息中各字符在设定字典中所处的位置,确定各字符的编码特征;根据各字符的编码特征,确定查询信息对应的文本特征;从多个尺度的目标特征图wi×hi×ci对应的维度分量值中,确定最大维度分量值;其中,i为目标特征图的序号,wi为目标特征图的多个宽度分量,hi为目标特征图的多个高度分量,ci为目标特征图的多个维度分量;对文本特征进行维度映射,以得到与最大维度分量值匹配的目标文本特征。
在本公开实施例的一种可能的实现方式中,融合模块804,具体用于:将多个尺度的目标特征图按照维度分量值降序排列,以得到特征序列;将特征序列中的首个目标特征图的元素进行拉伸,并基于拉伸后的元素生成首个目标特征图对应的目标图像特征;将首个目标特征图对应的目标图像特征与目标文本特征进行拼接,以得到第一拼接特征;根据第一拼接特征生成第一映射特征;根据第一映射特征对特征序列中除首个目标特征图之外的其余目标特征图进行依次拼接,以得到目标融合特征。
在本公开实施例的一种可能的实现方式中,融合模块804,具体用于:根据查询信息的长度,从第一映射特征中确定用于指示查询信息的第一子特征以及用于指示第一文档图像的第二子特征;对第二子特征进行维度映射,以使映射后的第二子特征的维度分量值与长度匹配;对映射后的第二子特征进行上采样,以得到第一采样特征,其中,第一采样特征的尺寸与特征序列中的第二个目标特征图的尺寸匹配;将第一采样特征和第二个目标特征图在维度分量方向进行拼接,以得到第二拼接特征;根据第二拼接特征对特征序列中除首个目标特征图和第二个目标特征图之外的其他目标特征图进行依次拼接,以得到目标融合特征。
在本公开实施例的一种可能的实现方式中,目标特征图的数量为M,其中,M的取值为大于2的正整数;融合模块804,具体用于:将第j拼接特征输入第一卷积网络,以得到第一卷积网络输出的第j映射特征;将第j映射特征进行上采样,以得到第j采样特征,其中,第j采样特征的尺寸与特征序列中的第j+1个目标特征图的尺寸匹配;将第j采样特征和第j+1个目标特征图在维度分量方向进行拼接,以得到第j+1拼接特征,其中,j=2,…,M-1;将第M拼接特征输入第一卷积网络,以得到第一卷积网络输出的目标融合特征。
在本公开实施例的一种可能的实现方式中,提取模块805,具体用于:从目标融合特征中提取与查询信息匹配的匹配特征;将匹配特征映射为符合第二设定尺寸的目标中间特征;采用全连接神经网络对目标中间特征进行维度映射,以得到目标映射特征;对目标映射特征进行字符识别,以得到第一文档图像中与设定实体词匹配的结构化信息。
在本公开实施例的一种可能的实现方式中,提取模块805,具体用于:对目标融合特征进行上采样,以得到第一中间特征;其中,第一中间特征的尺寸与第一设定尺寸匹配;根据第一中间特征生成第二中间特征;采用第二卷积网络对第二中间特征进行降维处理,以得到设定维度分量值的第三中间特征;将第三中间特征中各元素的取值采用激活函数激活,以得到各元素的置信度;根据各元素的置信度,从第三中间特征中确定目标区域,其中,目标区域中元素的置信度大于设定置信度阈值;根据目标区域在第三中间特征中的位置,从第一中间特征中截取与位置匹配的匹配特征。
在本公开实施例的一种可能的实现方式中,结构化信息包括键值对,键值对中包括属性键和属性值以及属性键和属性值之间的关联关系,属性键为设定实体词。
本公开实施例的信息提取装置,通过对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征;对目标特征图和目标文本特征进行融合,以得到目标融合特征;根据目标融合特征,提取第一文档图像中与查询信息中的设定实体词匹配的结构化信息。由此,可以实现根据文档图像对应的多个尺度的特征图和包含设定实体词的查询信息对应的文本特征,从文档图像中自动提取与设定实体词匹配的结构化信息,一方面,可以实现从文档图像中提取与查询信息中用户所需的实体词匹配的结构化信息,以满足用户的实际提取需求,改善用户的使用体验;另一方面,通过自动提取与设定实体词匹配的结构化信息,可以提高待办事件的处理效率,支持企业办公智能化进程;再一方面,对文档图像的类型不做限制,可以提升该方法的灵活性和适用性。
为了实现上述实施例,本公开还提供一种电子设备,该电子设备可以包括至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开上述任一实施例提出的信息提取方法。
为了实现上述实施例,本公开还提供一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开上述任一实施例提出的信息提取方法。
为了实现上述实施例,本公开还提供一种计算机程序产品,该计算机程序产品包括计算机程序,计算机程序在被处理器执行时实现本公开上述任一实施例提出的信息提取方法。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图9示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示,电子设备900包括计算单元901,其可以根据存储在ROM(Read-OnlyMemory,只读存储器)902中的计算机程序或者从存储单元908加载到RAM(Random AccessMemory,随机访问/存取存储器)903中的计算机程序,来执行各种适当的动作和处理。在RAM903中,还可存储电子设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM903通过总线904彼此相连。I/O(Input/Output,输入/输出)接口905也连接至总线904。
电子设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许电子设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于CPU(Central Processing Unit,中央处理单元)、GPU(Graphic Processing Units,图形处理单元)、各种专用的AI(Artificial Intelligence,人工智能)计算芯片、各种运行机器学习模型算法的计算单元、DSP(Digital SignalProcessor,数字信号处理器)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如上述信息提取方法。例如,在一些实施例中,上述信息提取方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到电子设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的信息提取方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行上述信息提取方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、FPGA(Field Programmable Gate Array,现场可编程门阵列)、ASIC(Application-Specific Integrated Circuit,专用集成电路)、ASSP(Application Specific StandardProduct,专用标准产品)、SOC(System On Chip,芯片上系统的系统)、CPLD(ComplexProgrammable Logic Device,复杂可编程逻辑设备)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、RAM、ROM、EPROM(Electrically Programmable Read-Only-Memory,可擦除可编程只读存储器)或快闪存储器、光纤、CD-ROM(Compact Disc Read-Only Memory,便捷式紧凑盘只读存储器)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode-Ray Tube,阴极射线管)或者LCD(Liquid Crystal Display,液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:LAN(LocalArea Network,局域网)、WAN(Wide Area Network,广域网)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(VirtualPrivate Server,虚拟专用服务器)中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
其中,需要说明的是,人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
根据本公开实施例的技术方案,通过对第一文档图像进行编码,以得到多个尺度的目标特征图,并对查询信息进行编码,以得到目标文本特征;对目标特征图和目标文本特征进行融合,以得到目标融合特征;根据目标融合特征,提取第一文档图像中与查询信息中的设定实体词匹配的结构化信息。由此,可以实现根据文档图像对应的多个尺度的特征图和包含设定实体词的查询信息对应的文本特征,从文档图像中自动提取与设定实体词匹配的结构化信息,一方面,可以实现仅需从文档图像中提取与查询信息中用户所需的实体词匹配的结构化信息,以满足用户的实际提取需求,改善用户的使用体验;另一方面,通过自动提取与设定实体词匹配的结构化信息,可以提高待办事件的处理效率,支持企业办公智能化进程;再一方面,对文档图像的类型不做限制,可以提升该方法的灵活性和适用性。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开提出的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (16)
1.一种信息提取方法,包括:
获取第一文档图像和查询信息,其中,所述查询信息中包括设定实体词;
对所述第一文档图像进行编码,以得到多个尺度的目标特征图;
对所述查询信息进行编码,以得到目标文本特征;
对所述目标特征图和所述目标文本特征进行融合,以得到目标融合特征;
根据所述目标融合特征,提取所述第一文档图像中与所述设定实体词匹配的结构化信息;
所述对所述目标特征图和所述目标文本特征进行融合,以得到目标融合特征,包括:
将所述多个尺度的目标特征图按照维度分量值降序排列,以得到特征序列;
将所述特征序列中的首个目标特征图的元素进行拉伸,并基于拉伸后的元素生成所述首个目标特征图对应的目标图像特征;
将所述首个目标特征图对应的目标图像特征与所述目标文本特征进行拼接,以得到第一拼接特征;
根据所述第一拼接特征生成第一映射特征;
根据所述查询信息的长度,从所述第一映射特征中确定用于指示所述查询信息的第一子特征以及用于指示所述第一文档图像的第二子特征;
对所述第二子特征进行维度映射,以使映射后的第二子特征的维度分量值与所述长度匹配;
对所述映射后的第二子特征进行上采样,以得到第一采样特征,其中,所述第一采样特征的尺寸与所述特征序列中的第二个目标特征图的尺寸匹配;
将所述第一采样特征和所述第二个目标特征图在维度分量方向进行拼接,以得到第二拼接特征;
根据所述第二拼接特征对所述特征序列中除所述首个目标特征图和所述第二个目标特征图之外的其他目标特征图进行依次拼接,以得到所述目标融合特征。
2.根据权利要求1所述的方法,其中,所述对所述第一文档图像进行编码,以得到多个尺度的目标特征图,包括:
对所述第一文档图像进行尺寸调整,以得到符合第一设定尺寸的第二文档图像;
采用特征提取网络的多个特征提取分支逐层提取所述第二文档图像的深度特征图;
对多个所述特征提取分支输出的所述深度特征图分别进行池化,以得到多个所述深度特征图对应的所述目标特征图,其中,多个所述目标特征图之间的尺度不同。
3.根据权利要求1所述的方法,其中,所述对所述查询信息进行编码,以得到目标文本特征,包括:
根据所述查询信息中各字符在设定字典中所处的位置,确定所述各字符的编码特征;
根据所述各字符的编码特征,确定所述查询信息对应的文本特征;
从所述多个尺度的目标特征图wi×hi×ci对应的维度分量值中,确定最大维度分量值;其中,i为所述目标特征图的序号,wi为所述目标特征图的多个宽度分量,hi为所述目标特征图的多个高度分量,ci为所述目标特征图的多个维度分量;
对所述文本特征进行维度映射,以得到与所述最大维度分量值匹配的所述目标文本特征。
4.根据权利要求1所述的方法,其中,所述目标特征图的数量为M,其中,M的取值为大于2的正整数;
所述根据所述第二拼接特征对所述特征序列中除所述首个目标特征图和所述第二个目标特征图之外的其他目标特征图进行依次拼接,以得到目标融合特征,包括:
将所述第j拼接特征输入第一卷积网络,以得到所述第一卷积网络输出的第j映射特征;
将所述第j映射特征进行上采样,以得到第j采样特征,其中,所述第j采样特征的尺寸与所述特征序列中的第j+1个目标特征图的尺寸匹配;
将所述第j采样特征和所述第j+1个目标特征图在维度分量方向进行拼接,以得到第j+1拼接特征,其中,j=2,…,M-1;
将第M拼接特征输入所述第一卷积网络,以得到所述第一卷积网络输出的所述目标融合特征。
5.根据权利要求1-4中任一项所述的方法,其中,所述根据所述目标融合特征,提取所述第一文档图像中与所述设定实体词匹配的结构化信息,包括:
从所述目标融合特征中提取与所述查询信息匹配的匹配特征;
将所述匹配特征映射为符合第二设定尺寸的目标中间特征;
采用全连接神经网络对所述目标中间特征进行维度映射,以得到目标映射特征;
对所述目标映射特征进行字符识别,以得到所述第一文档图像中与所述设定实体词匹配的结构化信息。
6.根据权利要求5所述的方法,其中,所述从所述目标融合特征中确定与所述查询信息匹配的匹配特征,包括:
对所述目标融合特征进行上采样,以得到第一中间特征;其中,所述第一中间特征的尺寸与第一设定尺寸匹配;
根据所述第一中间特征生成第二中间特征;
采用第二卷积网络对所述第二中间特征进行降维处理,以得到设定维度分量值的第三中间特征;
将所述第三中间特征中各元素的取值采用激活函数激活,以得到各所述元素的置信度;
根据各所述元素的置信度,从所述第三中间特征中确定目标区域,其中,所述目标区域中元素的置信度大于设定置信度阈值;
根据所述目标区域在所述第三中间特征中的位置,从所述第一中间特征中截取与所述位置匹配的匹配特征。
7.根据权利要求1-4中任一项所述的方法,其中,所述结构化信息包括键值对,所述键值对中包括属性键和属性值以及所述属性键和所述属性值之间的关联关系,所述属性键为所述设定实体词。
8.一种信息提取装置,包括:
获取模块,用于获取第一文档图像和查询信息,其中,所述查询信息中包括设定实体词;
第一编码模块,用于对所述第一文档图像进行编码,以得到多个尺度的目标特征图;
第二编码模块,用于对所述查询信息进行编码,以得到目标文本特征;
融合模块,用于对所述目标特征图和所述目标文本特征进行融合,以得到目标融合特征;
提取模块,用于根据所述目标融合特征,提取所述第一文档图像中与所述设定实体词匹配的结构化信息;
其中,所述融合模块,具体用于:
将所述多个尺度的目标特征图按照维度分量值降序排列,以得到特征序列;
将所述特征序列中的首个目标特征图的元素进行拉伸,并基于拉伸后的元素生成所述首个目标特征图对应的目标图像特征;
将所述首个目标特征图对应的目标图像特征与所述目标文本特征进行拼接,以得到第一拼接特征;
根据所述第一拼接特征生成第一映射特征;
根据所述第一映射特征对所述特征序列中除所述首个目标特征图之外的其余目标特征图进行依次拼接,以得到所述目标融合特征;
根据所述查询信息的长度,从所述第一映射特征中确定用于指示所述查询信息的第一子特征以及用于指示所述第一文档图像的第二子特征;
对所述第二子特征进行维度映射,以使映射后的第二子特征的维度分量值与所述长度匹配;
对所述映射后的第二子特征进行上采样,以得到第一采样特征,其中,所述第一采样特征的尺寸与所述特征序列中的第二个目标特征图的尺寸匹配;
将所述第一采样特征和所述第二个目标特征图在维度分量方向进行拼接,以得到第二拼接特征;
根据所述第二拼接特征对所述特征序列中除所述首个目标特征图和所述第二个目标特征图之外的其他目标特征图进行依次拼接,以得到所述目标融合特征。
9.根据权利要求8所述的装置,其中,所述第一编码模块,具体用于:
对所述第一文档图像进行尺寸调整,以得到符合第一设定尺寸的第二文档图像;
采用特征提取网络的多个特征提取分支逐层提取所述第二文档图像的深度特征图;
对多个所述特征提取分支输出的所述深度特征图分别进行池化,以得到多个所述深度特征图对应的所述目标特征图,其中,多个所述目标特征图之间的尺度不同。
10.根据权利要求8所述的装置,其中,所述第二编码模块,具体用于:
根据所述查询信息中各字符在设定字典中所处的位置,确定所述各字符的编码特征;
根据所述各字符的编码特征,确定所述查询信息对应的文本特征;
从所述多个尺度的目标特征图wi×hi×ci对应的维度分量值中,确定最大维度分量值;其中,i为所述目标特征图的序号,wi为所述目标特征图的多个宽度分量,hi为所述目标特征图的多个高度分量,ci为所述目标特征图的多个维度分量;
对所述文本特征进行维度映射,以得到与所述最大维度分量值匹配的所述目标文本特征。
11.根据权利要求8所述的装置,其中,所述目标特征图的数量为M,其中,M的取值为大于2的正整数;
所述融合模块,具体用于:
将所述第j拼接特征输入第一卷积网络,以得到所述第一卷积网络输出的第j映射特征;
将所述第j映射特征进行上采样,以得到第j采样特征,其中,所述第j采样特征的尺寸与所述特征序列中的第j+1个目标特征图的尺寸匹配;
将所述第j采样特征和所述第j+1个目标特征图在维度分量方向进行拼接,以得到第j+1拼接特征,其中,j=2,…,M-1;
将第M拼接特征输入所述第一卷积网络,以得到所述第一卷积网络输出的所述目标融合特征。
12.根据权利要求8-11中任一项所述的装置,其中,所述提取模块,具体用于:
从所述目标融合特征中提取与所述查询信息匹配的匹配特征;
将所述匹配特征映射为符合第二设定尺寸的目标中间特征;
采用全连接神经网络对所述目标中间特征进行维度映射,以得到目标映射特征;
对所述目标映射特征进行字符识别,以得到所述第一文档图像中与所述设定实体词匹配的结构化信息。
13.根据权利要求12所述的装置,其中,所述提取模块,具体用于:
对所述目标融合特征进行上采样,以得到第一中间特征;其中,所述第一中间特征的尺寸与第一设定尺寸匹配;
根据所述第一中间特征生成第二中间特征;
采用第二卷积网络对所述第二中间特征进行降维处理,以得到设定维度分量值的第三中间特征;
将所述第三中间特征中各元素的取值采用激活函数激活,以得到各所述元素的置信度;
根据各所述元素的置信度,从所述第三中间特征中确定目标区域,其中,所述目标区域中元素的置信度大于设定置信度阈值;
根据所述目标区域在所述第三中间特征中的位置,从所述第一中间特征中截取与所述位置匹配的匹配特征。
14.根据权利要求8-11中任一项所述的装置,其中,所述结构化信息包括键值对,所述键值对中包括属性键和属性值以及所述属性键和所述属性值之间的关联关系,所述属性键为所述设定实体词。
15.一种电子设备,其中,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210546057.6A CN114863439B (zh) | 2022-05-19 | 2022-05-19 | 信息提取方法、装置、电子设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210546057.6A CN114863439B (zh) | 2022-05-19 | 2022-05-19 | 信息提取方法、装置、电子设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114863439A CN114863439A (zh) | 2022-08-05 |
CN114863439B true CN114863439B (zh) | 2023-02-17 |
Family
ID=82639406
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210546057.6A Active CN114863439B (zh) | 2022-05-19 | 2022-05-19 | 信息提取方法、装置、电子设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114863439B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115578702B (zh) * | 2022-09-26 | 2023-12-05 | 北京百度网讯科技有限公司 | 道路元素的提取方法、装置、电子设备、存储介质及车辆 |
CN115546488B (zh) * | 2022-11-07 | 2023-05-19 | 北京百度网讯科技有限公司 | 信息分割方法、信息提取方法和信息分割模型的训练方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111914779A (zh) * | 2020-08-10 | 2020-11-10 | 上海眼控科技股份有限公司 | 表格文本检测方法、装置、计算机设备和存储介质 |
CN113205041A (zh) * | 2021-04-29 | 2021-08-03 | 百度在线网络技术(北京)有限公司 | 结构化信息提取方法、装置、设备和存储介质 |
CN113378580A (zh) * | 2021-06-23 | 2021-09-10 | 北京百度网讯科技有限公司 | 文档版面分析方法、模型训练方法、装置和设备 |
WO2022037573A1 (zh) * | 2020-08-17 | 2022-02-24 | 北京市商汤科技开发有限公司 | 表单识别方法、装置、设备及计算机可读存储介质 |
CN114398434A (zh) * | 2021-12-14 | 2022-04-26 | 北京百度网讯科技有限公司 | 结构化信息抽取方法、装置、电子设备和存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111860682B (zh) * | 2020-07-30 | 2024-06-14 | 上海高德威智能交通系统有限公司 | 序列识别方法、装置、图像处理设备和存储介质 |
-
2022
- 2022-05-19 CN CN202210546057.6A patent/CN114863439B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111914779A (zh) * | 2020-08-10 | 2020-11-10 | 上海眼控科技股份有限公司 | 表格文本检测方法、装置、计算机设备和存储介质 |
WO2022037573A1 (zh) * | 2020-08-17 | 2022-02-24 | 北京市商汤科技开发有限公司 | 表单识别方法、装置、设备及计算机可读存储介质 |
CN113205041A (zh) * | 2021-04-29 | 2021-08-03 | 百度在线网络技术(北京)有限公司 | 结构化信息提取方法、装置、设备和存储介质 |
CN113378580A (zh) * | 2021-06-23 | 2021-09-10 | 北京百度网讯科技有限公司 | 文档版面分析方法、模型训练方法、装置和设备 |
CN114398434A (zh) * | 2021-12-14 | 2022-04-26 | 北京百度网讯科技有限公司 | 结构化信息抽取方法、装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114863439A (zh) | 2022-08-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230106873A1 (en) | Text extraction method, text extraction model training method, electronic device and storage medium | |
CN112949415B (zh) | 图像处理方法、装置、设备和介质 | |
CN114863439B (zh) | 信息提取方法、装置、电子设备和介质 | |
CN112001368A (zh) | 文字结构化提取方法、装置、设备以及存储介质 | |
CN114818708B (zh) | 关键信息抽取方法、模型训练方法、相关装置及电子设备 | |
CN113360699A (zh) | 模型训练方法和装置、图像问答方法和装置 | |
CN114612921B (zh) | 表单识别方法、装置、电子设备和计算机可读介质 | |
CN112990035A (zh) | 一种文本识别的方法、装置、设备以及存储介质 | |
CN115482395A (zh) | 模型训练方法、图像分类方法、装置、电子设备和介质 | |
CN113343981A (zh) | 一种视觉特征增强的字符识别方法、装置和设备 | |
CN114092948B (zh) | 一种票据识别方法、装置、设备以及存储介质 | |
US20220148324A1 (en) | Method and apparatus for extracting information about a negotiable instrument, electronic device and storage medium | |
CN114444465A (zh) | 信息抽取方法、装置、设备及存储介质 | |
US20240021000A1 (en) | Image-based information extraction model, method, and apparatus, device, and storage medium | |
CN115130473B (zh) | 关键信息抽取方法、模型训练方法、相关装置及电子设备 | |
CN115116080A (zh) | 表格解析方法、装置、电子设备和存储介质 | |
CN113361522B (zh) | 用于确定字符序列的方法、装置和电子设备 | |
CN115880702A (zh) | 数据处理方法、装置、设备、程序产品及存储介质 | |
CN114445833A (zh) | 文本识别方法、装置、电子设备和存储介质 | |
CN114398434A (zh) | 结构化信息抽取方法、装置、电子设备和存储介质 | |
CN114842489A (zh) | 表格解析方法及装置 | |
CN114419327A (zh) | 图像检测方法和图像检测模型的训练方法、装置 | |
CN116152817B (zh) | 信息处理方法、装置、设备、介质和程序产品 | |
CN114639107B (zh) | 表格图像处理方法、装置和存储介质 | |
CN114792423B (zh) | 文档图像的处理方法、装置和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |