CN114118049B - 信息获取方法、装置、电子设备及存储介质 - Google Patents
信息获取方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114118049B CN114118049B CN202111266037.5A CN202111266037A CN114118049B CN 114118049 B CN114118049 B CN 114118049B CN 202111266037 A CN202111266037 A CN 202111266037A CN 114118049 B CN114118049 B CN 114118049B
- Authority
- CN
- China
- Prior art keywords
- information
- determining
- feature
- processed
- file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000012545 processing Methods 0.000 claims description 28
- 238000011156 evaluation Methods 0.000 claims description 26
- 238000013145 classification model Methods 0.000 claims description 13
- 238000000605 extraction Methods 0.000 claims description 3
- 238000012163 sequencing technique Methods 0.000 claims 1
- 238000013473 artificial intelligence Methods 0.000 abstract description 11
- 238000013135 deep learning Methods 0.000 abstract description 8
- 238000003058 natural language processing Methods 0.000 abstract description 7
- 238000010586 diagram Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 11
- 238000004590 computer program Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 10
- 238000012015 optical character recognition Methods 0.000 description 8
- 238000012549 training Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 238000013506 data mapping Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 239000013604 expression vector Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000003924 mental process Effects 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000013439 planning Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012384 transportation and delivery Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/216—Parsing using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/131—Fragmentation of text files, e.g. creating reusable text-blocks; Linking to fragments, e.g. using XInclude; Namespaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/148—Segmentation of character regions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/28—Character recognition specially adapted to the type of the alphabet, e.g. Latin alphabet
- G06V30/287—Character recognition specially adapted to the type of the alphabet, e.g. Latin alphabet of Kanji, Hiragana or Katakana characters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种信息获取方法、装置、电子设备及存储介质,涉及计算机技术领域,具体涉及深度学习、自然语言处理等人工智能技术领域。具体实现方案为:获取待处理文件和信息类型,并从待处理文件中识别出与信息类型相关的至少一个候选信息,再确定候选信息的目标识别特征和候选信息的语义特征,其中,目标识别特征用于描述候选信息与信息类型的匹配情况,以及根据目标识别特征和语义特征,从至少一个候选信息之中确定出目标信息,由此,能够有效地提升信息获取方法的适用性。
Description
技术领域
本公开涉及计算机技术领域,具体涉及深度学习、自然语言处理等人工智能技术领域,尤其涉及一种信息获取方法、装置、电子设备及存储介质。
背景技术
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术,以及机器学习、深度学习、大数据处理技术、知识图谱技术等几大方向。
相关技术中,通常是采用命名实体识别的方式和阅读理解方式获取文件(文件可以例如是文本文件(例如,移植文档格式(Portable Document Format,PDF)文件)或者是扫描件等)的关键信息,易于受到文件大小影响,从而导致信息获取效果不佳,适用性不够广泛。
发明内容
本公开提供了一种信息获取方法、装置、电子设备、存储介质以及计算机程序产品。
根据本公开的第一方面,提供了一种信息获取方法,包括:获取待处理文件和信息类型;从所述待处理文件中识别出与所述信息类型相关的至少一个候选信息;确定所述候选信息的目标识别特征和所述候选信息的语义特征,其中,所述目标识别特征用于描述所述候选信息与所述信息类型的匹配情况;以及根据所述目标识别特征和所述语义特征,从所述至少一个候选信息之中确定出目标信息。
根据本公开的第二方面,提供了一种信息获取装置,包括:获取模块,用于获取待处理文件和信息类型;识别模块,用于从所述待处理文件中识别出与所述信息类型相关的至少一个候选信息;第一确定模块,用于确定所述候选信息的目标识别特征和所述候选信息的语义特征,其中,所述目标识别特征用于描述所述候选信息与所述信息类型的匹配情况;以及第二确定模块,用于根据所述目标识别特征和所述语义特征,从所述至少一个候选信息之中确定出目标信息。
根据本公开的第三方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如本公开第一方面的信息获取方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行如本公开第一方面的信息获取方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如本公开第一方面的信息获取方法的步骤。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其他特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的示意图;
图2是根据本公开实施例的Global Pointer模型训练的流程示意图;
图3是根据本公开第二实施例的示意图;
图4是根据本公开第三实施例的示意图;
图5是根据本公开实施例的分类模型训练的流程示意图;
图6是根据本公开实施例的信息获取装置的结构示意图;
图7是根据本公开第四实施例的示意图;
图8是根据本公开第五实施例的示意图;
图9示出了用来实施本公开实施例的信息获取方法的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本公开第一实施例的示意图。
其中,需要说明的是,本实施例的信息获取方法的执行主体为信息获取装置,该装置可以由软件和/或硬件的方式实现,该装置可以配置在电子设备中,电子设备可以包括但不限于终端、服务器端等。
本公开实施例涉及深度学习、自然语言处理等人工智能技术领域。
其中,人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。深度学习的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。
自然语言处理(Natural Language Processing,NLP),能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。深度学习的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。
如图1所示,该信息获取方法,包括:
S101:获取待处理文件和信息类型。
其中,当前待对其进行信息获取的文件,即可以被称为待处理文件,待处理文件,可以是文件可以例如是文本文件(例如,PDF文件)或者是扫描件等,待处理文件,可以具体例如为合同文件,参考资料文件等,对此不做限制。
一些实施例中,获取待处理文件,可以是直接将经由文件输入接口(该文件输入接口可以例如是电子设备上配置的一个接口,可以被用于接收待处理文件)接收用户输入的文件(合同文件,或参考资料文件)作为待处理文件,对此不做限制。
另一些实施例中,获取待处理文件,还可以是获取多张图像(例如,可以是针对文本信息进行扫描处理,以得到多张扫描图像),而后可以对多张图像进行拼接处理,并将拼接处理得到的文件作为待处理文件,对此不做限制。
其中,待处理文件可以用于表达相应的文件信息,文件信息可以具体例如文字信息,图片信息等,对此不做限制。
其中,待处理文件所表达的信息可以具有不同的类型,该类型即可以被称为信息类型,不同待处理文件可以具有不同的信息类型。
举例而言,当待处理文件具体为合同文件时,待处理文件的信息类型可以具体例如为甲方,乙方,合同内容,合同订立日期等,对此不做限制。
可选地,一些实施例中,待处理文件的数据量小于或等于预设阈值,获取待处理文件,可以是获取初始文件,并基于预设阈值对初始文件进行拆分处理,以得到至少一个待处理文件,支持对较大数据量初始文件的拆分处理,并且由与是对初始文件进行拆分处理,从而可以在信息获取过程中,有效地降低单次文件处理的数据量,支持任意数据量的文件的信息获取,从而能够有效地提升信息获取的适用性,另外,在对初始文件进行拆分处理得到至少一个待处理文件后,可以支持同时对至少一个待处理文件进行处理,有效地拓展了信息获取的适用范围,能够有效地辅助提升信息获取的效率。
其中,在信息获取方法开始阶段获取得到的未经处理的文件,即可以被称为初始文件,即获取待处理文件,可以是获取初始文件,并对初始文件进行拆分处理,以得到多个数据量小于或等于预设阈值的待处理文件。
举例而言,假设获取得到的待处理文件为100页的PDF合同文件,可以把100页的PDF合同文件,以页为单位,采用数据映射(Data Mapping)方式拆分为100个文件,并将前述拆分得到的100个文件共同作为待处理文件。
需要说明的是,本公开实施例中的待处理文件,或者是其他任意可能涉及到用户信息的文件,均是在经过相关用户授权后获取的,其获取过程均符合相关法律、法规的规定,且不违背公序良俗。
S102:从待处理文件中识别出与信息类型相关的至少一个候选信息。
本公开实施例在获取待处理文件和信息类型之后,可以从待处理文件中识别出与信息类型相关的至少一个信息,该信息即可以被称为候选信息,而该候选信息可以具体例如为语义,实体,字符,图片等,对此不做限制。
一些实施例中,从待处理文件中识别出与信息类型相关的至少一个候选信息,可以是采用实体识别的方法从待处理文件中识别出与信息类型相关的至少一个实体信息,并将该实体信息作为至少一个候选信息,对此不做限制。
本实施例中,可以是结合预训练的全局指针(Global Pointer)模型,从待处理文件中识别出与信息类型相关的至少一个候选信息,即可以将待处理文件输入预训练的Global Pointer模型中,以得到Global Pointer模型输出的至少一个候选信息,对此不做限制。
其中,Global Pointer模型是基于旋转位置编码(一种相对位置编码)的人工智能模型,该模型可以处理序列长度上千的文本,具有较好的文本信息获取效果。
本公开实施例中,如图2所示,图2是根据本公开实施例的Global Pointer模型训练的流程示意图,在采用Global Pointer模型从待处理文件中识别出与信息类型相关的至少一个候选信息之前,可以采用标注工具对待处理文件的文本信息进行标注处理,使得待处理文件可以具有Global Pointer模型训练需要的格式,再将标注处理后的待处理文件输入Global Pointer模型中,该格式可以具体例如为:
{[“text1”,[start11,end11,entity1],[start12,end12,entity2],...],[“text2”,[start21,end21,entity1],[start22,nd22,ntity2],..],..},其中,text是待处理文件的文本信息,start是实体(entity)开始的位置索引,end是实体(entity)结束的位置索引。
可选地,一些实施例中,从待处理文件中识别出与信息类型相关的至少一个候选信息,可以是采用并行处理方式分别从至少一个待处理文件中识别出与信息类型相关的至少一个候选信息,由于是采用并行处理的方式分别从至少一个待处理文件中识别出与信息类型相关的至少一个候选信息,由于是采用并行处理的方式同时对多个待处理文件进行识别,从而能够在有效地保障候选信息识别效果的同时,较大程度地提升候选信息的识别效率,使得信息获取方法能够有效地适配于对获取效率需求较高的应用场景中。
其中,并行处理(Parallel Processing)是计算机系统中能同时执行两个或多个处理的一种计算方法。并行处理可同时工作于同一程序的不同方面。并行处理的主要目的是节省大型和复杂问题的解决时间。为使用并行处理,首先需要对程序进行并行化处理,也就是说将工作各部分分配到不同处理进程(线程)中,本公开实施例中可以由不同处理进程(线程)执行从相应待处理文件中识别出与信息类型相关的至少一个候选信息的步骤。
如上述图2所示,采用并行处理方式分别从待处理文件中识别出与信息类型相关的至少一个候选信息,可以是将待处理文件拆分为多个待处理文件,再对多个待处理文件进行并行化处理,即可以将多个待处理文件分别看作一个训练数据,对多个待处理文件进行并行的独立推理,以得到Global Pointer模型输出的与信息类型相关的多个候选信息,对此不做限制。
S103:确定候选信息的目标识别特征和候选信息的语义特征,其中,目标识别特征用于描述候选信息与信息类型的匹配情况。
其中,用于描述候选信息与信息类型的匹配情况的特征,即可以被称为目标识别特征,也即是说,该目标识别特征,可以是在对待处理文件进行识别过程中所识别得到的候选信息,与信息类型的匹配情况,匹配情况可以具体例如为是否匹配的结果,或者是匹配的程度等,对此不做限制。
举例而言,目标识别特征可以具体例如为候选信息与信息类型的匹配程度值,对此不做限制。
一些实施例中,确定候选信息的目标识别特征,可以是确定候选信息与信息类型的匹配程度,例如可以是确定候选信息与信息类型之间的相似度,并将该相似度作为候选信息与信息类型的匹配程度,并将该匹配程度作为候选信息的目标识别特征,或者,还可以是将候选信息和信息类型输入预先训练好的匹配模型中,以得到预先训练好的匹配模型输出的候选信息与信息类型的匹配程度,并将该匹配程度作为候选信息的目标识别特征,对此不做限制。
其中,用于描述描述候选信息语义的特征,即可以称为候选语义特征,候选语义特征可以例如是候选信息自身的语义内容、上下文语义、前序语义、后续语义等等,对此不做限制。
语义特征可以具体以特征表示向量的形式呈现,而特征表示向量,可以是对候选信息进行语义特征解析,以得到初始语义特征,而后将初始语义特征,映射至向量空间,以进行向量化处理,得到能够表征候选信息语义特征的向量空间中的向量表示,作为候选语义特征。
语义特征还可以具体以文本的形式呈现,图片的形式呈现等,对此不做限制。
一些实施例中,可以是将候选信息输入预先训练好的特征提取模型中,以得到特征提取模型输出的候选语义特征,或者也可以采用其他任意可能的方式确定候选信息的语义特征,对此不做限制。
S104:根据目标识别特征和语义特征,从至少一个候选信息之中确定出目标信息。
一些实施例中,根据目标识别特征和语义特征,从至少一个候选信息中确定出目标识别信息,可以是将目标识别特征,语义特征及至少一个候选信息输入预先训练好的神经网络模型中,以得到神经网络模型输出的目标信息,对此不做限制。
另一些实施例中,根据目标识别特征和语义特征,从至少一个候选信息之中确定出目标识别信息,可以是在目标识别特征和语义特征满足预先设定的条件(该条件可以根据实际获取业务需求自适应配置)时,直接将与目标识别特征和语义特征对应的候选信息作为目标识别信息,对此不做限制。
本实施例中,通过获取待处理文件和信息类型,并从待处理文件中识别出与信息类型相关的至少一个候选信息,再确定候选信息的目标识别特征和候选信息的语义特征,其中,目标识别特征用于描述候选信息与信息类型的匹配情况,以及根据目标识别特征和语义特征,从至少一个候选信息之中确定出目标信息,由此,能够有效地提升信息获取方法的适用性。
图3是根据本公开第二实施例的示意图。
如图3所示,该信息获取方法,包括:
S301:获取待处理文件和信息类型。
S301的描述说明可以具体参见上述实施例,在此不再赘述。
S302:确定与待处理文件对应的待处理文本。
其中,待处理文件可以具有对应的文本内容,该文本内容即可以被称为待处理文本。
举例而言,当待处理文件是合同文件时,待处理文件可以具体例如为合同文本,而合同文本可以具体例如为:合同正文,合同名称,合同订立日期等,对此不做限制。
本公开实施例中,确定与待处理文件对应的待处理文本,可以是对待处理文件进行文本解析,以得到与待处理文件对应的多个文本,并将多个文本共同作为待处理文本。
S303:从待处理文本中识别出至少一个连续文本信息。
其中,待处理文本中可以具有多个连续的文本信息,该文本信息即可以被称为连续文本信息,连续文本信息可以是待处理文本中具有完整语言结构的句子,词汇,段落等,对此不做限制。
举例而言,当待处理文本具体例如为合同文本时,连续文本信息可以具体例如为:“合同签订起即日生效”,“乙方:李明”等,对此不做限制。
S304:从至少一个连续文本信息中识别出与信息类型匹配的连续文本信息,并将连续文本信息作为候选信息。
本公开实施例在从待处理文本中识别出至少一个连续文本信息后,可以根据信息类型对至少一个连续文本信息进行匹配处理,并将匹配得到的至少一个连续文本信息作为候选信息,由于通常信息获取场景中需要识别的信息均为包含相应完整语义的信息,从而本公开实施例将待处理文本中的至少一个连续文本信息作为候选信息,能够有效地考量信息获取的实际应用场景需求,使得候选信息能够用于表征连续的文本信息,及时地去除非连续信息对信息获取带入噪音干扰,能够保障候选信息的语义连贯性和准确性,提升信息获取的针对性和信息获取的效率,有效地提升候选信息的语义表征效果。
举例而言,假设连续文本信息为“合同签订之日起成立”,“李明”,“2021年10月20日”,从至少一个连续文本信息中识别出与信息类型匹配的连续文本信息,可以是从至少一个连续文本信息识别出与信息类型(乙方)相匹配的连续文本信息(李明),与信息类型(合同签订日期)相匹配的连续文本信息(2021年10月20日),并将前述确定的与信息类型相匹配的连续文本信息“2021年10月20日”,“李明”共同作为候选信息,对此不做限制。
或者,也可以采用其他任意可能的方式从至少一个连续文本信息中识别出与信息类型匹配的连续文本信息,并将连续文本信息作为候选信息,例如模型匹配的方式,相似度匹配的方式等,对此不做限制。
可选地,一些实施例中,从至少一个连续文本信息中识别出与信息类型匹配的连续文本信息,可以是确定与至少一个连续文本信息分别对应的至少一个语义权重值,并根据语义权重值对至少一个连续文本信息进行排序,得到至少一个排序后连续文本信息,再基于信息类型确定参考数量,并从至少一个排序后连续文本信息中提取出与信息类型匹配,且排序在前的参考数量的连续文本信息,由于语义权重值能够用于描述连续文本信息在整体待处理文本中的语义权重情况,当结合连续文本信息对应的语义权重值辅助确定出连续文本信息时,能够更为准确的从多个连续文本信息中,识别出与信息类型匹配的连续文本信息,提升连续文本信息的质量,提升连续文本信息被识别为目标信息的命中概率,缩小了识别目标信息的数据搜索范围,还能够实现提前过滤权重值较低的连续文本信息,从而能够有效地降低运算资源的消耗,有效地辅助提升信息获取的效率,提升目标信息的命中效果。
其中,用于描述与至少一个连续文本信息分别对应的至少一个语义权重的量化数值,即可以被称为语义权重值,该语义权重可以用于描述多个连续文本信息的重要性程度。
其中,该语义权重可以是预先标定的,也可以是在信息获取的过程中结合待处理文本的上下文信息动态确定的,对此不做限制。
可选地,一些实施例中,确定与多个连续文本信息分别对应的多个语义权重值,可以是针对一个连续文本信息,确定该连续文本信息在待处理文本中的出现次数值,并根据出现次数值确定对应该连续文本信息的语义权重值,由此,能够使得语义权重值能够有针对性的表征出连续文本信息的可靠程度,从而在参考语义权重值,从多个连续文本信息中识别出与信息类型匹配的连续文本信息时,能够避免其他主观因素对连续文本信息识别产生的干扰,有效地提升识别得到的连续文本信息的客观性和可靠性。
其中,用于描述连续文本信息在待处理文本中出现次数的值,即可以被称为次数值。
一些实施例中,针对一个连续文本信息,确定该连续文本信息在待处理文本中的出现次数值,可以是遍历待处理文件,在识别得到待处理文件中对应的连续文本信息时,则可以对该连续文本信息进行次数累计计数,从而得到相应的次数值,并将该次数值作为相应连续文本信息的语义权重值,对此不做限制。
另一些实施例中,可以是采用层次分析法分别计算与至少一个连续文本信息分别对应的至少一个语义权重值,或者也可以是采用其他任意可能的方式确定与至少一个连续文本信息分别对应的至少一个语义权重值,对此不做限制。
本公开实施例在确定与至少一个连续文本信息分别对应的至少一个语义权重值后,可以根据语义权重值对多个连续文本信息进行排序,例如可以按照语义权重值的大小对语义权重值对应的多个连续文本信息进行排序,并将排序后的多个连续文本信息作为排序后连续文本信息。
本公开实施例在得到至少一个排序后连续文本信息后,可以从至少一个排序后连续文本信息中,选择参考数量(参考数量可以是根据信息类型结合设定规则自适应确定,对此不做限制)的,且排序在前的连续文本信息,并将其作为候选信息。
S305:确定与候选信息对应的至少一个初始识别特征,其中,初始识别特征是候选信息的类型是信息类型的概率特征。
其中,概率特征可以用于描述初始确定的候选信息的类型是信息类型的概率情况,初始识别特征可以候选信息中各个字符对应的识别概率来衡量。
本公开实施例中,确定与候选信息对应的至少一个初始识别特征,可以是确定候选信息的类型是信息类型的概率值,并将该概率值作为候选信息对应的初始识别特征。
或者,确定与候选信息对应的至少一个初始识别特征,还可以是确定与候选信息相应的多个字符是信息类型的多个概率值,并将多个概率值共同作为与候选信息对应的多个初始识别特征,对此不做限制。
S306:根据至少一个初始识别特征,生成目标识别特征。
一些实施例中,根据至少一个初始识别特征,生成目标识别特征,可以是对多个初始识别特征按照其对应的概率值进行排序处理(例如,从大至小排序),并从前述排序好的多个初始识别特征中选择设定数量(该设定数量可以根据实际业务场景自适应配置,对此不做限制)的初始识别特征,并将其作为目标识别特征,或者,还可以是设定一定的概率阈值(该概率阈值可以根据实际业务场景自适应配置,对此不做限制),并将多个初始识别特征中,概率值大于等于概率阈值的初始识别特征作为目标识别特征,对此不做限制。
本公开实施例中,由于是先确定与候选信息对应的至少一个初始识别特征,再根据至少一个初始识别特征,生成目标识别特征,由于初始识别特征可以用于描述候选信息的类型是信息类型的概率,从而在基于初始识别特征,生成目标识别特征时,能够基于该概率实现对初始识别特征的择优选取,从而能够有效地提升目标识别特征在信息获取任务中的可参考性,提升目标识别特征对相应候选信息的表征效果,辅助确定出更为准确的目标信息。
S307:根据目标识别特征和语义特征,从至少一个候选信息之中确定出目标信息。
S307的描述说明书可以具体参见上述实施例,在此不再赘述。
本实施例中,通过获取待处理文件和信息类型,并确定与待处理文件对应的待处理文本,再从至少一个连续文本信息中识别出与信息类型匹配的连续文本信息,并将连续文本信息作为候选信息,能够及时地去除非连续信息对信息获取带入噪音干扰,能够保障候选信息的语义连贯性和准确性,提升信息获取的针对性和信息获取的效率,有效地提升候选信息的语义表征效果,再确定与候选信息对应的至少一个初始识别特征,并根据至少一个初始识别特征,生成目标识别特征,能够基于该概率实现对初始识别特征的择优选取,从而能够有效地提升目标识别特征在信息获取任务中的可参考性,提升目标识别特征对相应候选信息的表征效果,辅助确定出更为准确的目标信息。
图4是根据本公开第三实施例的示意图。
如图4所示,该信息获取方法,包括:
S401:获取待处理文件和信息类型。
S402:从待处理文件中识别出与信息类型相关的至少一个候选信息。
S401-S402的描述说明可以具体参见上述实施例,在此不再赘述。
S403:确定候选信息的多个字符。
本公开实施例在从待处理文件中识别出与信息类型相关的多个候选信息后,可以确定候选信息的多个字符。
举例而言,假设信息类型是合同名称,则从待处理文件中识别出与合同名称相关的多个候选信息,可以是从合同文件中识别出“建设工程合同”,则确定候选信息的多个字符,可以是对候选信息以字符为单位进行拆分处理,以得到多个字符为(“建”,“设”,“工”,“程”,“合”,“同”)。
S404:确定与多个字符分别对应的多个字符识别置信度,并基于多个字符识别置信度分别确定对应的初始识别特征。
其中,候选信息的多个字符可以分别对应不同的识别置信度,该识别置信度即可以被称为字符识别置信度,该字符识别置信度可以用于描述该字符识别的可靠程度,字符识别置信度越高则表明该字符识别的可靠性程度越高,反之,字符识别置信度越低则表明该字符识别的可靠性程度越低。
本公开实施例在确定候选信息的多个字符后,可以确定与多个字符分别对应的多个字符识别置信度,并将多个字符识别置信度作为多个初始识别特征,由于是将多个字符的识别置信度作为多个初始识别特征,从而能够使得初始识别特征可以准确的表征多个字符的识别情况,有效地提升初始识别特征的可参考性,从而在基于初始识别特征执行后续的信息获取方法时,能够具有更为准确的信息获取效果。
本公开实施例中,确定与多个字符分别对应的多个字符识别置信度,可以是采用光学字符识别(Optical Character Recognition,OCR)识别方法对每个字符进行识别,以得到多个字符分别对应的识别置信度。
举例而言,在采用OCR)识别方法对多个候选信息的多个字符进行识别时,可以得到多个候选信息的多个字符分别对应不同的识别置信度,例如:
候选信息1:{“多恸痛信部门”:[0.55,0.55,0.54,0.99,0.98,0.98]},
候选信息2:{“移云通信部门”:[0.99,0.97,0.99,0.99,0.99,0.99]},
候选信息3:{“禾力通信部门”:[0.78,0.45,0.99,0.99,0.99,0.99]}。
S405:确定多个字符识别置信度之中最小字符识别置信度,其中,最小字符识别置信度被作为目标识别特征。
其中,在采用OCR识别方法对多个字符进行识别时,由于会存在光线、折叠、翻转,清晰度,印章遮挡等原因,部分字符的识别置信度可能偏低,多个字符识别置信度中值最小的字符识别置信度即可以被称为最小字符识别置信度。
本公开实施例中,可以是结合预先训练的排序模型,确定多个字符识别置信度之中的最小字符识别置信度,例如,可以将多个字符识别置信度输入预先训练的排序模型之中,以得到排序模型输出的最小字符识别置信度,并将最小字符识别置信度作为目标识别特征,对此不做限制。
S406:确定多个字符识别置信度的平均字符识别置信度,其中,平均字符识别置信度被作为目标识别特征。
其中,多个候选信息中,多个字符对应的字符识别置信度的平均值即可以被称为平均字符识别置信度。
本公开实施例中,确定多个字符识别置信度的平均字符识别置信度,可以是分别确定多个字符对应的多个字符识别置信度,再确定多个字符对应的多个字符识别置信度的平均值,并将确定得到的平均值作为该字符的平均字符识别置信度,对此不做限制。
上述在确定多个字符的平均字符识别置信度后,可以将平均字符识别置信度作为目标识别特征,由于最小识别置信度可以用于描述字符识别出错的概率,而平均识别置信度可以用于描述字符特征空间的平均分布,从而在将最小识别置信度和平均字符识别置信度作为目标识别特征时,可以使得目标识别特征可以准确地,全面地对字符识别的情况进行表征,能够有效地提升目标识别特征的表现性能。
S407:确定与信息类型对应的索引信息,并确定与索引信息对应的索引特征,其中,索引特征被作为语义特征。
其中,信息类型可以具有一些与索引相关的信息,该信息即可以被称为索引信息,而索引信息可以具体例如索引表等,对此不做限制。
本公开实施例中,在确定与信息类型相关的多个候选信息后,可以根据与信息类型相关的多个候选信息,自行设计一个数据模式(Schema),Schema可以用于存储与信息类型相关的多个候选信息,该Schema即可以被称为与信息类型对应的索引表,对此不做限制。
其中,用于描述信息类型对应的索引信息的特征,即可以被称为索引特征,而索引特征可以具体例如为索引值,对此不做限制。
举例而言,与信息类型对应的索引值可以是信息类型在Schema中的索引位置,对此不做限制。
本公开实施例中,在确定与信息类型对应的索引信息后,可以确定与索引表对应的索引值,并将该索引值作为索引特征。
举例而言,假设前述构建的索引表为:[“甲方”,“乙方”,“签订日期”],则可以确定在索引表中与“甲方”对应的索引值为0,与“乙方”对应的索引值为1,与“签订日期”对应的索引值为2,并将前述确定的索引值作为与索引信息对应的索引特征。
S408:确定与信息类型对应的类型特征,其中,类型特征被作为语义特征。
其中,用于描述信息类型的特征,即可以被称为类型特征,而类型特征可以具体例如为信息类型自身的语义特征,关联关系特征等,对此不做限制。
S409:确定候选信息的语义编码特征,其中,语义编码特征被作为语义特征。
其中,用于描述候选信息的语义编码信息的特征,即可以被称为语义编码特征,而语义编码特征可以具体例如为语义编码向量,对此不做限制。
本公开实施例中,确定候选信息的语义编码特征,可以是将与信息类型相应的候选信息输入预训练的变压器的双向编码器表示(Bidirectional EncoderRepresentationsfrom Transformer,BERT)模型中,以得到BERT模型输出的768维的语义编码向量,该语义编码向量即可以被称为语义编码特征,或者也可以采用其他任意可能的方式确定候选信息的语义编码特征,对此不做限制。
本实施例中,通过确定与信息类型对应的索引信息,并确定与信息类型对应的类型特征,以及与索引信息对应的索引特征,再确定候选信息的语义编码特征,并将类型特征、索引特征,以及语义编码特征作为语义特征,从而能够使语义特征从多个维度对候选信息进行全面表征,进而能够充分考量候选信息的多维度信息,从而能够在后续信息获取方法的执行过程中,有效地保障获取得到的信息,可上达至交付指标。
S410:将最小字符识别置信度、平均字符识别置信度、类型特征、索引特征,以及语义编码特征输入至预训练的分类模型中,以得到分类模型输出的对应各个候选信息的分类评价值。
其中,预训练的分类模型可以具体例如为梯度提升(Extreme GradientBoosting,XGBoost)模型,或者,也可以是其他任意能够执行信息获取方法的人工智能模型,对此不做限制。
其中,分类模型输出的值,即可以被称为分类评价值,该分类评价值可以用于描述与该分类评价值相应的候选信息的可靠程度,分类评价值越高则表明与该分类评价值相应的候选信息的可靠程度较高,反之,分类评价值越低则表明与该分类评价值相应的候选信息的可靠程度较低,对此不做限制。
本公开实施例中,可以一并结合图5对本实施例做具体的解释说明书,图5是根据本公开实施例的分类模型训练的流程示意图,如图5所示,在确定候选信息的语义编码特征,类型特征,索引特征,最小字符识别置信度及平均字符识别置信度后,可以将语义编码特征,类型特征,索引特征,最小字符识别置信度及平均字符识别置信度,共同输入预训练的XGBoost模型中,以得到XGBoost模型输出的分类评价值。
S411:根据各个分类评价值,从至少一个候选信息之中确定出目标信息。
本公开实施例中,在得到XGBoost模型输出的多个分类评价值后,可以从多个根据多个分类评价值,从分类评价值相应的多个候选信息之中确定出目标信息,由于是结合XGBoost模型,从多个候选信息之中确定出目标信息,从而能够基于XGBoost模型对召回的海量候选信息进行排序,并能够基于排序结果从海量候选信息中确定出最有可能的候选信息,较大程度的提高了目标信息确定的准确率。
举例而言,可以根据多个分类评价值的大小,对多个分类评价值相应的多个候选信息进行排序,并从多个分类评价值之中,确定值最高的分类评价值,再把与该分类评价值相应的候选信息作为目标信息,对此不做限制。
本实施例中,如图6所示,图6是根据本公开实施例的信息获取装置的结构示意图,在获取待处理文件(例如,PDF文件或者扫描件图片)后,可以采用PDF解析库(PDF Plumber)和OCR识别方法对待处理文件进行解析处理,以得到待处理文件的文本信息,而后可以采用数据Mapping的方式对前述得到的文本信息,进行拆分处理,并将拆分得到的文本信息转化为模型训练需要的格式,并将其输入在经模型调参,Global Pointer模型训练,模型发布等操作训练好的Global Pointer模型中进行训练,另外,还可以对前述得到的文本信息(未进行格式转化)进行模型推理,以召回候选信息,同时召回待处理文件的OCR识别特征,而后将召回的候选信息和OCR识别特征,输入XGBoost模型中,以实现从多个候选信息之中确定出目标信息。
本实施例中,通过获取待处理文件和信息类型,并从待处理文件中识别出与信息类型相关的至少一个候选信息,再确定候选信息的多个字符,以及确定与多个字符分别对应的多个字符识别置信度,并基于多个字符识别置信度分别确定对应的初始识别特征,能够有效地提升初始识别特征的可参考性,从而在基于初始识别特征执行后续的信息获取方法时,能够具有更为准确的信息获取效果,再确定多个字符识别置信度之中最小字符识别置信度,并确定多个字符识别置信度的平均字符识别置信度,能够在将最小识别置信度和平均字符识别置信度作为目标识别特征时,可以使得目标识别特征可以准确地,全面地反映字符识别的情况,有效地提升目标识别特征的表现性能,再确定与信息类型对应的索引信息,并确定与信息类型对应的类型特征,以及与索引信息对应的索引特征,再确定候选信息的语义编码特征,并将类型特征、索引特征,以及语义编码特征作为语义特征,从而能够使语义特征从多个维度对候选信息进行全面表征,进而能够充分考量候选信息的多维度信息,从而能够在后续信息获取方法的执行过程中,有效地保障获取得到的信息,可上达至交付指标,而后将最小字符识别置信度、平均字符识别置信度、类型特征、索引特征,以及语义编码特征输入至预训练的分类模型中,以得到分类模型输出的对应各个候选信息的分类评价值,再根据各个分类评价值,从至少一个候选信息之中确定出目标信息,较大程度的提高了目标信息确定的准确率。
图7是根据本公开第四实施例的示意图。
如图7所示,该信息获取装置70,包括:
获取模块701,用于获取待处理文件和信息类型;
识别模块702,用于从待处理文件中识别出与信息类型相关的至少一个候选信息;
第一确定模块703,用于确定候选信息的目标识别特征和候选信息的语义特征,其中,目标识别特征用于描述候选信息与信息类型的匹配情况;以及
第二确定模块704,用于根据目标识别特征和语义特征,从至少一个候选信息之中确定出目标信息。
在本公开的一些实施例中,如图8所示,图8是根据本公开第五实施例的示意图,该信息获取装置80,包括:获取模块801、识别模块802、第一确定模块803、第二确定模块804,其中,获取模块801,还用于:
获取初始文件;
基于预设阈值对初始文件进行拆分处理,以得到至少一个待处理文件。
在本公开的一些实施例中,其中,识别模块802,还用于:
采用并行处理方式分别从至少一个待处理文件中识别出与信息类型相关的至少一个候选信息。
在本公开的一些实施例中,其中,识别模块802,包括:
第一确定子模块8021,用于确定与待处理文件对应的待处理文本;
第一识别子模块8022,用于从待处理文本中识别出至少一个连续文本信息;
第二识别子模块8023,用于从至少一个连续文本信息中识别出与信息类型匹配的连续文本信息,并将连续文本信息作为候选信息。
在本公开的一些实施例中,其中,第二识别子模块8023,包括:
第一确定单元80231,用于确定与至少一个连续文本信息分别对应的至少一个语义权重值;
排序单元80232,用于根据语义权重值对至少一个连续文本信息进行排序,得到至少一个排序后连续文本信息;
提取单元80233,用于从至少一个排序后连续文本信息中提取出与信息类型匹配,且排序在前的参考数量的连续文本信息。
在本公开的一些实施例中,其中,第二识别子模块8023,还包括:
第二确定单元80234,用于基于信息类型确定参考数量。
在本公开的一些实施例中,其中,第一确定单元80231,还用于:
针对一个连续文本信息,确定该连续文本信息在待处理文本中的出现次数值,并根据出现次数值确定对应该连续文本信息的语义权重值。
在本公开的一些实施例中,其中,第一确定模块803,包括:
第二确定子模块8031,用于确定与候选信息对应的至少一个初始识别特征,其中,初始识别特征是候选信息的类型是信息类型的概率特征;
生成子模块8032,用于根据至少一个初始识别特征,生成目标识别特征。
在本公开的一些实施例中,其中,第二确定子模块8031,还用于:
确定候选信息的多个字符;
确定与多个字符分别对应的多个字符识别置信度,并基于多个字符识别置信度分别确定对应的初始识别特征。
在本公开的一些实施例中,其中,生成子模块8032,还用于:
确定多个字符识别置信度之中最小字符识别置信度,其中,最小字符识别置信度被作为目标识别特征;和/或
确定多个字符识别置信度的平均字符识别置信度,其中,平均字符识别置信度被作为目标识别特征。
在本公开的一些实施例中,第一确定模块803,还用于:
确定与信息类型对应的索引信息,并确定与索引信息对应的索引特征,其中,索引特征被作为语义特征;和/或
确定与信息类型对应的类型特征,其中,类型特征被作为语义特征;和/或
确定候选信息的语义编码特征,其中,语义编码特征被作为语义特征。
在本公开的一些实施例中,第二确定模块804,还用于:
将最小字符识别置信度、平均字符识别置信度、类型特征、索引特征,以及语义编码特征输入至预训练的分类模型中,以得到分类模型输出的对应各个候选信息的分类评价值;
根据各个分类评价值,从至少一个候选信息之中确定出目标信息。
可以理解的是,本实施例附图8中的信息获取装置80与上述实施例中的信息获取装置70,获取模块801与上述实施例中的获取模块701,识别模块802与上述实施例中的识别模块702,第一确定模块803与上述实施例中的第一确定模块703,第二确定模块804与上述实施例中的第二确定模块704,可以具有相同的功能和结构
需要说明的是,前述对信息获取方法的解释说明也适用于本实施例的信息获取装置,此处不再赘述。
本实施例中,通过获取待处理文件和信息类型,并从待处理文件中识别出与信息类型相关的至少一个候选信息,再确定候选信息的目标识别特征和候选信息的语义特征,其中,目标识别特征用于描述候选信息与信息类型的匹配情况,以及根据目标识别特征和语义特征,从至少一个候选信息之中确定出目标信息,由此,能够有效地提升信息获取方法的适用性。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图9示出了用来实施本公开实施例的信息获取方法的示例电子设备的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其他适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其他类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示,设备900包括计算单元901,其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序,来执行各种适当的动作和处理。在RAM 903中,还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如信息获取方法。例如,在一些实施例中,信息获取方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的信息获取方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行信息获取方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其他种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网及区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (24)
1.一种信息获取方法,包括:
获取待处理文件和信息类型;
从所述待处理文件中识别出与所述信息类型相关的至少一个候选信息;
确定所述候选信息的目标识别特征和所述候选信息的语义特征,其中,所述目标识别特征用于描述所述候选信息与所述信息类型的匹配情况;以及
根据所述目标识别特征和所述语义特征,从所述至少一个候选信息之中确定出目标信息;
其中,所述根据所述目标识别特征和所述语义特征,从所述至少一个候选信息之中确定出目标信息,包括:
将最小字符识别置信度、平均字符识别置信度、类型特征、索引特征,以及语义编码特征输入至预训练的分类模型中,以得到所述分类模型输出的对应各个所述候选信息的分类评价值;
根据各个所述分类评价值,从所述至少一个候选信息之中确定出所述目标信息。
2.根据权利要求1所述的方法,所述待处理文件的数据量小于或等于预设阈值,其中,所述获取待处理文件,包括:
获取初始文件;
基于所述预设阈值对所述初始文件进行拆分处理,以得到至少一个所述待处理文件。
3.根据权利要求2所述的方法,其中,所述从所述待处理文件中识别出与所述信息类型相关的至少一个候选信息,包括:
采用并行处理方式分别从所述至少一个待处理文件中识别出与所述信息类型相关的至少一个候选信息。
4.根据权利要求1所述的方法,其中,所述从所述待处理文件中识别出与所述信息类型相关的至少一个候选信息,包括:
确定与所述待处理文件对应的待处理文本;
从所述待处理文本中识别出至少一个连续文本信息;
从所述至少一个连续文本信息中识别出与所述信息类型匹配的连续文本信息,并将所述连续文本信息作为所述候选信息。
5.根据权利要求4所述的方法,其中,所述从所述至少一个连续文本信息中识别出与所述信息类型匹配的连续文本信息,包括:
确定与所述至少一个连续文本信息分别对应的至少一个语义权重值;
根据所述语义权重值对所述至少一个连续文本信息进行排序,得到至少一个排序后连续文本信息;
从所述至少一个排序后连续文本信息中提取出与所述信息类型匹配,且排序在前的参考数量的连续文本信息。
6.根据权利要求5所述的方法,其中,所述方法还包括:
基于所述信息类型确定所述参考数量。
7.根据权利要求5所述的方法,其中,所述确定与所述至少一个连续文本信息分别对应的至少一个语义权重值,包括:
针对一个连续文本信息,确定该连续文本信息在所述待处理文本中的出现次数值,并根据所述出现次数值确定对应该连续文本信息的语义权重值。
8.根据权利要求1所述的方法,其中,所述确定所述候选信息的目标识别特征,包括:
确定与所述候选信息对应的至少一个初始识别特征,其中,所述初始识别特征是所述候选信息的类型是所述信息类型的概率特征;
根据所述至少一个初始识别特征,生成所述目标识别特征。
9.根据权利要求8所述的方法,其中,所述确定与所述候选信息对应的至少一个初始识别特征,包括:
确定所述候选信息的多个字符;
确定与所述多个字符分别对应的多个字符识别置信度,并基于所述多个字符识别置信度分别确定对应的初始识别特征。
10.根据权利要求9所述的方法,其中,所述根据所述至少一个初始识别特征,生成所述目标识别特征,包括:
确定所述多个字符识别置信度之中最小字符识别置信度,其中,所述最小字符识别置信度被作为所述目标识别特征;和/或
确定所述多个字符识别置信度的平均字符识别置信度,其中,所述平均字符识别置信度被作为所述目标识别特征。
11.根据权利要求1所述的方法,其中,所述确定所述候选信息的语义特征,包括:
确定与所述信息类型对应的索引信息,并确定与所述索引信息对应的索引特征,其中,所述索引特征被作为所述语义特征;和/或
确定与所述信息类型对应的类型特征,其中,所述类型特征被作为所述语义特征;和/或
确定所述候选信息的语义编码特征,其中,所述语义编码特征被作为所述语义特征。
12.一种信息获取装置,包括:
获取模块,用于获取待处理文件和信息类型;
识别模块,用于从所述待处理文件中识别出与所述信息类型相关的至少一个候选信息;
第一确定模块,用于确定所述候选信息的目标识别特征和所述候选信息的语义特征,其中,所述目标识别特征用于描述所述候选信息与所述信息类型的匹配情况;以及
第二确定模块,用于根据所述目标识别特征和所述语义特征,从所述至少一个候选信息之中确定出目标信息;
其中,所述第二确定模块,还用于:
将最小字符识别置信度、平均字符识别置信度、类型特征、索引特征,以及语义编码特征输入至预训练的分类模型中,以得到所述分类模型输出的对应各个所述候选信息的分类评价值;
根据各个所述分类评价值,从所述至少一个候选信息之中确定出所述目标信息。
13.根据权利要求12所述的装置,所述待处理文件的数据量小于或等于预设阈值,其中,所述获取模块,还用于:
获取初始文件;
基于所述预设阈值对所述初始文件进行拆分处理,以得到至少一个所述待处理文件。
14.根据权利要求13所述的装置,其中,所述识别模块,还用于:
采用并行处理方式分别从所述至少一个待处理文件中识别出与所述信息类型相关的至少一个候选信息。
15.根据权利要求12所述的装置,其中,所述识别模块,包括:
第一确定子模块,用于确定与所述待处理文件对应的待处理文本;
第一识别子模块,用于从所述待处理文本中识别出至少一个连续文本信息;
第二识别子模块,用于从所述至少一个连续文本信息中识别出与所述信息类型匹配的连续文本信息,并将所述连续文本信息作为所述候选信息。
16.根据权利要求15所述的装置,其中,所述第二识别子模块,包括:
第一确定单元,用于确定与所述至少一个连续文本信息分别对应的至少一个语义权重值;
排序单元,用于根据所述语义权重值对所述至少一个连续文本信息进行排序,得到至少一个排序后连续文本信息;
提取单元,用于从所述至少一个排序后连续文本信息中提取出与所述信息类型匹配,且排序在前的参考数量的连续文本信息。
17.根据权利要求16所述的装置,其中,所述第二识别子模块,还包括:
第二确定单元,用于基于所述信息类型确定所述参考数量。
18.根据权利要求16所述的装置,其中,所述第一确定单元,还用于:
针对一个连续文本信息,确定该连续文本信息在所述待处理文本中的出现次数值,并根据所述出现次数值确定对应该连续文本信息的语义权重值。
19.根据权利要求12所述的装置,其中,所述第一确定模块,包括:
第二确定子模块,用于确定与所述候选信息对应的至少一个初始识别特征,其中,所述初始识别特征是所述候选信息的类型是所述信息类型的概率特征;
生成子模块,用于根据所述至少一个初始识别特征,生成所述目标识别特征。
20.根据权利要求19所述的装置,其中,所述第二确定子模块,还用于:
确定所述候选信息的多个字符;
确定与所述多个字符分别对应的多个字符识别置信度,并基于所述多个字符识别置信度分别确定对应的初始识别特征。
21.根据权利要求20所述的装置,其中,所述生成子模块,还用于:
确定所述多个字符识别置信度之中最小字符识别置信度,其中,所述最小字符识别置信度被作为所述目标识别特征;和/或
确定所述多个字符识别置信度的平均字符识别置信度,其中,所述平均字符识别置信度被作为所述目标识别特征。
22.根据权利要求12所述的装置,其中,所述第一确定模块,还用于:
确定与所述信息类型对应的索引信息,并确定与所述索引信息对应的索引特征,其中,所述索引特征被作为所述语义特征;和/或
确定与所述信息类型对应的类型特征,其中,所述类型特征被作为所述语义特征;和/或
确定所述候选信息的语义编码特征,其中,所述语义编码特征被作为所述语义特征。
23.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-11中任一项所述的方法。
24.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-11中任一项所述的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111266037.5A CN114118049B (zh) | 2021-10-28 | 2021-10-28 | 信息获取方法、装置、电子设备及存储介质 |
EP22204057.8A EP4116860A3 (en) | 2021-10-28 | 2022-10-27 | Method for acquiring information, electronic device and storage medium |
US18/050,580 US20230081015A1 (en) | 2021-10-28 | 2022-10-28 | Method and apparatus for acquiring information, electronic device and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111266037.5A CN114118049B (zh) | 2021-10-28 | 2021-10-28 | 信息获取方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114118049A CN114118049A (zh) | 2022-03-01 |
CN114118049B true CN114118049B (zh) | 2023-09-22 |
Family
ID=80377427
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111266037.5A Active CN114118049B (zh) | 2021-10-28 | 2021-10-28 | 信息获取方法、装置、电子设备及存储介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230081015A1 (zh) |
EP (1) | EP4116860A3 (zh) |
CN (1) | CN114118049B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115309785B (zh) * | 2022-08-08 | 2023-07-07 | 北京百度网讯科技有限公司 | 文件规则引擎库的生成、文件信息检测方法、装置及设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112215008A (zh) * | 2020-10-23 | 2021-01-12 | 中国平安人寿保险股份有限公司 | 基于语义理解的实体识别方法、装置、计算机设备和介质 |
CN112507700A (zh) * | 2020-11-26 | 2021-03-16 | 北京百度网讯科技有限公司 | 事件抽取方法、装置、电子设备及存储介质 |
CN112507702A (zh) * | 2020-12-03 | 2021-03-16 | 北京百度网讯科技有限公司 | 文本信息的抽取方法、装置、电子设备及存储介质 |
CN112990035A (zh) * | 2021-03-23 | 2021-06-18 | 北京百度网讯科技有限公司 | 一种文本识别的方法、装置、设备以及存储介质 |
CN113536793A (zh) * | 2020-10-14 | 2021-10-22 | 腾讯科技(深圳)有限公司 | 一种实体识别方法、装置、设备以及存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9971760B2 (en) * | 2014-12-22 | 2018-05-15 | International Business Machines Corporation | Parallelizing semantically split documents for processing |
CN111428507B (zh) * | 2020-06-09 | 2020-09-11 | 北京百度网讯科技有限公司 | 实体链指方法、装置、设备以及存储介质 |
-
2021
- 2021-10-28 CN CN202111266037.5A patent/CN114118049B/zh active Active
-
2022
- 2022-10-27 EP EP22204057.8A patent/EP4116860A3/en not_active Withdrawn
- 2022-10-28 US US18/050,580 patent/US20230081015A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113536793A (zh) * | 2020-10-14 | 2021-10-22 | 腾讯科技(深圳)有限公司 | 一种实体识别方法、装置、设备以及存储介质 |
CN112215008A (zh) * | 2020-10-23 | 2021-01-12 | 中国平安人寿保险股份有限公司 | 基于语义理解的实体识别方法、装置、计算机设备和介质 |
CN112507700A (zh) * | 2020-11-26 | 2021-03-16 | 北京百度网讯科技有限公司 | 事件抽取方法、装置、电子设备及存储介质 |
CN112507702A (zh) * | 2020-12-03 | 2021-03-16 | 北京百度网讯科技有限公司 | 文本信息的抽取方法、装置、电子设备及存储介质 |
CN112990035A (zh) * | 2021-03-23 | 2021-06-18 | 北京百度网讯科技有限公司 | 一种文本识别的方法、装置、设备以及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
EP4116860A3 (en) | 2023-03-22 |
EP4116860A2 (en) | 2023-01-11 |
US20230081015A1 (en) | 2023-03-16 |
CN114118049A (zh) | 2022-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113836314B (zh) | 知识图谱构建方法、装置、设备以及存储介质 | |
CN115099239B (zh) | 一种资源识别方法、装置、设备以及存储介质 | |
US20210342379A1 (en) | Method and device for processing sentence, and storage medium | |
CN113268560A (zh) | 用于文本匹配的方法和装置 | |
EP4191544A1 (en) | Method and apparatus for recognizing token, electronic device and storage medium | |
CN113128209A (zh) | 用于生成词库的方法及装置 | |
CN113392218A (zh) | 文本质量评估模型的训练方法和确定文本质量的方法 | |
CN112632227A (zh) | 简历匹配方法、装置、电子设备、存储介质和程序产品 | |
CN114861758A (zh) | 多模态数据处理方法、装置、电子设备及可读存储介质 | |
CN114118049B (zh) | 信息获取方法、装置、电子设备及存储介质 | |
CN112906368B (zh) | 行业文本增量方法、相关装置及计算机程序产品 | |
CN117971698A (zh) | 测试用例生成方法、装置、电子设备和存储介质 | |
CN115248890A (zh) | 用户兴趣画像的生成方法、装置、电子设备以及存储介质 | |
CN114818736B (zh) | 文本处理方法、用于短文本的链指方法、装置及存储介质 | |
CN114490969B (zh) | 基于表格的问答方法、装置以及电子设备 | |
CN114647739B (zh) | 实体链指方法、装置、电子设备及存储介质 | |
CN114461665B (zh) | 用于生成语句转换模型的方法、装置及计算机程序产品 | |
CN115481599A (zh) | 文档的处理方法、装置、电子设备和存储介质 | |
CN116010571A (zh) | 知识库构建方法、信息查询方法、装置以及设备 | |
CN115292506A (zh) | 应用于办公领域的知识图谱本体构建方法和装置 | |
CN114969371A (zh) | 一种联合知识图谱的热度排序方法及装置 | |
CN114863450A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN114201953A (zh) | 一种关键词提取、模型训练方法、装置、设备及存储介质 | |
CN114201607A (zh) | 一种信息处理的方法和装置 | |
CN114328855A (zh) | 文档查询方法、装置、电子设备和可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |