CN111144210A - 图像的结构化处理方法及装置、存储介质及电子设备 - Google Patents

图像的结构化处理方法及装置、存储介质及电子设备 Download PDF

Info

Publication number
CN111144210A
CN111144210A CN201911170024.0A CN201911170024A CN111144210A CN 111144210 A CN111144210 A CN 111144210A CN 201911170024 A CN201911170024 A CN 201911170024A CN 111144210 A CN111144210 A CN 111144210A
Authority
CN
China
Prior art keywords
text
image
structured
model
document
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911170024.0A
Other languages
English (en)
Other versions
CN111144210B (zh
Inventor
卫晓明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taikang Insurance Group Co Ltd
Taikang Pension Insurance Co Ltd
Original Assignee
Taikang Insurance Group Co Ltd
Taikang Pension Insurance Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taikang Insurance Group Co Ltd, Taikang Pension Insurance Co Ltd filed Critical Taikang Insurance Group Co Ltd
Priority to CN201911170024.0A priority Critical patent/CN111144210B/zh
Publication of CN111144210A publication Critical patent/CN111144210A/zh
Application granted granted Critical
Publication of CN111144210B publication Critical patent/CN111144210B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Machine Translation (AREA)

Abstract

本公开涉及图像处理技术领域,具体涉及一种图像的结构化处理方法、图像的结构化处理装置、存储介质及电子设备,所述方法包括:根据第一神经网络模型识别待处理图像中的至少一个文本区域;提取文本区域中的文本信息,并根据文本区域在待处理图像中的位置排布文本信息以生成文本文档;根据第二神经网络模型对文本文档进行结构分析,以获取文本文档对应的结构化模型;基于结构化模型对文本文档进行结构化排列以获取结构化文本。本公开实施例的技术方案一方面能够避免通过预先存储的识别模板进行文字区域识别造成的识别缺失、识别错误等问题;另一方面,能够准确选中图像对应的结构化模型,避免由于结构化模型不匹配造成的结构化错误等问题。

Description

图像的结构化处理方法及装置、存储介质及电子设备
技术领域
本公开涉及图像处理技术领域,具体而言,涉及一种图像的结构化处理方法、图像的结构化处理装置、计算机可读存储介质及电子设备。
背景技术
随着信息技术的发展,大量的实体数据,例如纸质数据,被转换为了电子数据,进而通过大数据分析等方式对电子数据进行提取和分析,以获取数据规律等信息。
为了能够准确的进行数据分析,常常需要通过结构化将不同形式的电子数据转换为相同形式的结构化数据。OCR(光学字符识别)技术是数据结构化的基础,它能够通过预先存储的识别模板将图像文件转换为文本格式的技术,目前被广泛的应用于将实体数据转换为电子数据的过程中。例如,在保险领域内,能够通过OCR技术将医疗机构开具的理赔资料转换为电子数据,进而对电子数据进行结构化。
然而,在材料的种类和格式越来越多的情况下,这种依赖于预先存储好的识别模板进行OCR识别的方法很可能出现识别缺失或者识别错误等问题,进而也会造成数据结构化的准确率较低的问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种图像的结构化处理方法、图像的结构化处理装置、计算机可读存储介质及电子设备,进而至少在一定程度上克服基于识别模板进行OCR准确率低造成的数据结构化准确率低的问题。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的第一方面,提供了一种图像的结构化处理方法,包括:
根据第一神经网络模型识别待处理图像中的至少一个文本区域;
提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档;
根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型;
基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。
在本公开的一种示例性实施例中,基于前述方案,在所述提取所述文本区域中的文本信息之后,所述方法还包括:
根据语言标准模型对所述文本信息进行逻辑语义推断,以对所述文本信息进行校正。
在本公开的一种示例性实施例中,基于前述方案,所述根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型,包括:
根据所述第二神经网络模型对所述文本文档进行结构分析得到所述文本文档的标题,以确定所述文本文档的文档类型;
获取所述文档类型对应的结构化模型,并将所述结构化模型确定为所述文本文档对应的结构化模型。
在本公开的一种示例性实施例中,基于前述方案,所述结构化模型包括关键字及其对应的文本填写区域;所述基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本,包括:
读取所述结构化模型中的关键字;
在所述文本文档中识别所述关键字,以确定所述关键字对应的文本区域;
将所述关键字对应的文本区域中的文本信息填入所述结构化模型中关键字对应的文本填写区域。
在本公开的一种示例性实施例中,基于前述方案,在所述文本文档中识别所述关键字,以确定所述关键字对应的文本区域之后,所述方法还包括:
生成所述关键字与所述待处理图像中的所述文本区域的映射关系。
在本公开的一种示例性实施例中,基于前述方案,在所述生成所述关键字与所述待处理图像中的所述文本区域的映射关系之后,所述方法还包括:
响应于对所述关键字或所述文本填写区域的第一操作,根据所述映射关系在所述待处理图像中确定对应的文本区域,并将所述文本区域突出显示。
在本公开的一种示例性实施例中,基于前述方案,在所述根据第一神经网络模型识别待处理图像中的至少一个文本区域之前,所述方法还包括:
对所述待处理图像进行预处理;其中,所述预处理包括降噪处理、倾斜校正处理、锐化处理、灰度处理、二值化处理中的至少一种或多种的组合。
在本公开的一种示例性实施例中,基于前述方案,在所述基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本之后,所述方法还包括:
根据数据标准模型识别所述结构化文本中的错误数据,并对所述错误数据进行标记。
根据本公开的第二方面,提供了一种图像的结构化处理装置,包括:
区域识别模块,用于根据第一神经网络模型识别待处理图像中的至少一个文本区域;
文本提取模块,用于提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档;
模型获取模块,用于根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型;
结构化模块,用于基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。
根据本公开的第三方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述任一项所述的图像的结构化处理方法。
根据本公开实施例的第四方面,提供了一种电子设备,包括:
处理器;以及
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上述任一项所述的图像的结构化处理方法。
本公开实施例提供的技术方案可以包括以下有益效果:
本公开的一种实施例所提供的图像的结构化处理方法中,根据第一神经网络模型识别待处理图像中的至少一个文本区域;提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档;根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型;基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。本公开实施例的技术方案,一方面通过第一神经网络模型识别文本区域并根据文本区域的位置排布文本文档,避免通过预先存储的识别模板进行文字区域识别造成的识别缺失、识别错误等问题;另一方面,通过对文本文档进行结构分析获取对应的结构化模型,能够准确选中图像对应的结构化模型,避免由于结构化模型不匹配造成的结构化错误等问题。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示意性示出本公开示例性实施例中一种图像的结构化处理方法的流程图;
图2示意性示出本公开示例性实施例中根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型的方法的流程图;
图3示意性示出本公开示例性实施例中基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本的方法的流程图;
图4示出本公开示例性实施例中以医疗领域的病历为待处理图像时,图像的结构化处理方法的流程图;
图5示出本公开示例性实施例中的病历;
图6示出本公开示例性实施例中识别病历中的文本区域的识别结构;
图7示出本公开示例性实施例中得到的文本文档;
图8示意性示出本公开示例性实施例中一种图像的结构化处理装置的组成示意图;
图9示意性示出了适于用来实现本公开示例性实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参照附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
在本示例性实施例中,首先提供了一种图像的结构化处理方法,可以应用于医疗理赔图像的结构化处理过程,例如,对于病例、诊断报告等理赔文件对应的图像数据进行结构化处理。参照图1中所示,上述的图像的结构化处理方法可以包括以下步骤:
S110,根据第一神经网络模型识别待处理图像中的至少一个文本区域;
S120,提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档;
S130,根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型;
S140,基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。
根据本示例性实施例中所提供的图像的结构化处理方法中,一方面通过第一神经网络模型识别文本区域并根据文本区域的位置排布文本文档,避免通过预先存储的识别模板进行文字区域识别造成的识别缺失、识别错误等问题;另一方面,通过对文本文档进行结构分析获取对应的结构化模型,能够准确选中图像对应的结构化模型,避免由于结构化模型不匹配造成的结构化错误等问题。
下面,将结合附图及实施例对本示例性实施例中的图像的结构化处理方法的各个步骤进行更详细的说明。
在步骤S110中,根据第一神经网络模型识别待处理图像中的至少一个文本区域。
在本公开的一种示例实施例中,所述第一神经网络模型是根据大量的包含文字的样本图像进行训练得到的。第一神经网络模型可以根据样本图像中各个位置的亮度特征识别图像中包含文字的区域和不包含文字的空白区域。具体的,在将待处理图像输入第一神经网络模型时,第一神经网络模型则可以根据待处理图像中各个位置亮度特征,识别待处理图像中的文字区域和空白区域。由于待处理图像中可能包括多个段落的文字,因此第一神经网络模型能够通过文字区域和空白区域的分布情况识别出多个文本区域。
在本公开的一种示例实施例中,在所述根据第一神经网络模型识别待处理图像中的至少一个文本区域之前,所述方法还包括:对所述待处理图像进行预处理。
在本公开的一种示例实施例中,所述预处理包括降噪处理、倾斜校正处理、锐化处理、灰度处理、二值化处理中的至少一种或多种的组合。举例而言,针对一些拍摄倾斜的待处理图像,可以通过一些倾斜校正算法对其进行校正之后,再输入第一神经网络模型进行识别。通过提取对待处理图像进行预处理,能够提高待处理图像的质量,有助于更精准的识别和结构化。
在步骤S120中,提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档。
在本公开的一种示例实施例中,在通过神经网络模型识别出各个文本区域后,可以将各个文本区域中的文本信息提取出来,并按照文本区域在待处理图像中的位置排布对应的文本信息,以生成文本文档。需要说明的是,由于文本信息的排布是根据对应的文本区域的位置进行排布的,因此在文本文档中的文本信息与在待处理图像中的文本信息的相对位置一致。
需要说明的是,上述步骤S110和S120可以由基于第一神经网络模型的光学字符识别技术执行。通过依据第一神经网络模型识别待处理图像中的至少一个文本区域,能够避免根据基于识别模板进行OCR准确率低的问题。
在本公开的一种示例实施例中,在所述提取所述文本区域中的文本信息之后,所述方法还包括:根据语言标准模型对所述文本信息进行逻辑语义推断,以对所述文本信息进行校正。
在本公开的一种示例实施例中,所述语言标准模型可以选取标准的历史文档样本进行训练,使得语言标准模型能够对通过光学字符识别出的文本文档进行校正。其中,语言标准模型包括自然语言标准模型,以及一些特殊领域中的语言标准模型,例如,医疗领域内的医疗语言标准模型。在根据语言标准模型进行校正时,能够对不符合语言标准的文本文档进行校正。例如,待处理图像中存在“文章”二字,可能由于待处理图像的不够清晰,通过光学字符识别技术将“文章”识别为“文栗”。通过自然语言标准模型能够对文本信息进行逻辑语义推断,将“文栗”校正为“文章”。通过语言标准模型对文本文档进行校正,能够对识别错误进行修正,提高结构化结果的准确率。
在步骤S130中,根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型。
在本公开的一种示例实施例中,所述第二神经网络模型可以根据文本文档样本进行训练,使得第二神经网络能够对文本文档的结构进行分析,进而获取与结构分析结果对应的结构化模型。
在本公开的一种示例实施例中,所述根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型,参照图2所示,包括如下步骤S210至S220,以下进行详细阐述:
步骤S210,根据所述第二神经网络模型对所述文本文档进行结构分析得到所述文本文档的标题,以确定所述文本文档的文档类型。
在本公开的一种示例实施例中,将所述文本文档输入所述第二神经网络模型,以使所述第二神经网络模型提取所述文本文档中文本信息的文本特征,根据所述文本特征确定所述文本文档的标题,最后根据所述文本文档的标题确定所述文本文档的文档类型。例如,在医疗保险中,可能存在“病历”“诊断报告”等待处理图像,对应的,文本文档也会分为病历、诊断报告等类型。
步骤S220,获取所述文档类型对应的结构化模型,并将所述结构化模型确定为所述文本文档对应的结构化模型。
在本公开的一种示例实施例中,由于不同的文本文档中包含的文本信息也不同,因此可以针对不同的类型的文本文档设置不同的结构化模型。例如,在“病历”这种文本文档中可能包括主诉、婚育史等;而在“诊断报告”这种文本文档中则可能包括检查部位、诊断结果等。所述结构化模型可以多种形式的模型,例如,可以是表格、文本框等形式。通过根据文档类型选择对应的结构化模型,能够使得结构化模型与待处理图像更加匹配,进而能够对待处理图像进行准确地识别和结构化,避免由于结构化模型不匹配造成的识别错误。
在步骤S140中,基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。
在本公开的一种示例实施例中,所述结构化模型可以包括关键字及其对应的文本填写区域。其中,所述关键字可以包括该结构化模型中需要提取内容的标题。例如,在“病历”对应的结构化模型中,可以包括关键字“主诉”、“婚育史”,用于在文本文档中提取关键字对应的内容“车祸致昏迷”、“适龄结婚,育有子女均健康”。
在本公开的一种示例实施例中,基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本,参照图3所示,包括如下步骤S310至S330,以下进行详细阐述:
步骤S310,读取所述结构化模型中的关键字。
在本公开的一种示例实施例中,在根据文档类型确定结构化模型后,需要读取结构化模型中的关键字,以便于根据关键字在对应的文本区域中提取文本信息。例如,在“病历”对应的结构化模型中,可以提取“主诉”、“婚育史”等关键字。
步骤S320,在所述文本文档中识别所述关键字,以确定所述关键字对应的文本区域。
在本公开的一种示例实施例中,在文本文档中识别关键字,根据关键字所在的文本区域确定每个关键字对应的文本区域。举例而言,可以在文本文档中识别“主诉”、“婚育史”的关键字,并将“主诉”所在的文本区域确定为“主诉”对应的文本区域,将“婚育史”所在的文本区域确定为“婚育史”对应的文本区域。
步骤S330,将所述关键字对应的文本区域中的文本信息填入所述结构化模型中关键字对应的文本填写区域。
在本公开的一种示例实施例中,根据关键字确定关键字对应的文本区域后,可以根据对应关系将文本区域中的文本信息填入结构化模型中对应的文本填写区域。例如,确定“主诉”对应的文本区域包含“主诉:车祸致昏迷”的文本信息,可以将文本区域中的“主诉:车祸致昏迷”填入所述结构化模型中关键字对应的文本填写区域。
需要说明的是,结构化模型的关键字可以直接写入对应文本填写区域的一定位置,例如前方。此时,可以将对应文本区域中除了关键字以外的文本信息填入文本填写区域。例如,关键字“主诉”后的文本填写区域可以直接填入“车祸致昏迷”。此外,结构化模型包括的关键字可以不写入模型中,而是根据映射关系将关键字与各个文本填写区域对应起来,在识别后直接将所有文本区域中的文字填入对应的文本填写区域即可。例如,在结构化模型中仅包括两个空白的文本填写区域,其中,关键字“主诉”与第一个文本填写区域存在映射关系。因此,当在文本文档中识别“主诉”的关键字时,直接将“主诉:车祸致昏迷”填入对应的文本填写区域即可。
在本公开的一种示例实施例中,在所述文本文档中识别所述关键字,以确定所述关键字对应的文本区域之后,所述方法还包括:生成所述关键字与所述待处理图像中的所述文本区域的映射关系。
在本公开的一种示例实施例中,为了能够追溯结构化处理结果中,各个文本填写区域的来源,可以在确定关键字对应的文本区域后,生成关键字与文本区域的映射关系。例如,在确定待处理图像中的第一个文本区域与关键字“主诉”对应后,可以生成关键字主诉与第一个文本区域之间的映射关系。
在本公开的一种示例实施例中,在所述生成所述关键字与所述待处理图像中的所述文本区域的映射关系之后,所述方法还包括:响应于对所述关键字或所述文本填写区域的第一操作,根据所述映射关系在所述待处理图像中确定对应的文本区域,并将所述文本区域突出显示。
在本公开的一种示例实施例中,所述第一操作可以是点击、双击等操作,通过第一操作可以在结构化文本中确定关键字。由于关键字与文本填写区域存在对应关系,因此当用户在结构化文本上进行第一操作时,可以根据第一操作的位置确定关键字,进而根据映射关系确定与该关键字对应的待处理图像中的文本区域,进而对该文本区域进行突出显示。通过设置映射关系,能够帮助用户根据结构化文本快速链接至待处理图像中的文本区域,进而便于在结构化文本出现错误时追溯到源文件。
在本公开的一种示例实施例中,所述突出显示可以是通过将文本区域放大实现的突出显示,也可以是通过向文本区域添加高亮背景实现的突出显示,本公开对突出显示的方式不做特殊限制。
在本公开的一种示例实施例中,在所述基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本之后,所述方法还包括:根据数据标准模型识别所述结构化文本中的错误数据,并对所述错误数据进行标记。
在本公开的一种示例实施例中,在一些领域中可能存在特殊的数据以及单位,这些数据通常情况不会超出一个正常的范围。例如,在医疗领域中,人体的体温、血压等数据通常都有特定的范围。此时,可以根据医疗数据标准模型识别结构化文本中的错误数据,并对出现错误的位置进行标记,以便于根据标记进行查找和更正错误。例如,人体的正常体温通常在30℃至50℃。当进行结构化排列后,获取到的体温数值在100℃以上,则很大可能是识别错误。此时可以通过医疗数据标准模型识别100为错误数据,并对100进行标记。通过根据数据标准模型对结构化文本进行识别,能够将其中可能存在错误的位置标记出来,以便于用户根据标记进行确认或者修改。
以下以医疗领域为例,以图5所示的病历为待处理图像,以表1形式的表格为结构化模型,参照图4至图7以及表1、表2,对本公开实施例的技术方案的实现细节进行详细阐述:
步骤S401,对如图5所示的病历图像进行倾斜校正预处理;
步骤S402,根据第一神经网络模型识别如图5所示的病历图像中的文本区域,识别结果如图6所示;
步骤S403,提取各文本区域中的文字;
步骤S404,根据医疗语言标准模型对所述文本信息进行逻辑语义推断,以对所述文本信息进行校正;
步骤S405,根据文本区域在病历图像中的位置排布提取出的文字得到文本文档,如图7所示;
步骤S406,根据第二神经网络模型对文本文档进行结构分析,得到文本文档的标题“病历”;
步骤S407,根据标题“病历”获取对应的病历结构化模型,如表1所示;
步骤S408,读取病历结构化模型中的关键字“主诉”、“现病史”、“既往史”、“个人史”、“婚育史”、“家族史”;
步骤S409,在文本文档中识别关键字“主诉”、“现病史”、“既往史”、“个人史”、“婚育史”、“家族史”,确定各关键字对应的文本区域;
步骤S410,将关键字对应的文本区域中的文字填入病历结构化模型中对应的表格中,如表2所示;
表1病历结构化模型
Figure BDA0002288450750000121
表2结构化结果
Figure BDA0002288450750000122
步骤S411,根据医疗数据标准模型识别结构化结果中的错误数据,并对所述错误数据进行标记。
步骤S412,生成病历结构化模型中“主诉”、“现病史”、“既往史”、“个人史”、“婚育史”、“家族史”等关键字与病历图像中各文字区域的映射关系。
通过建立关键字与病例图像中的文字区域的映射关系,使得用户可以通过关键字追溯至病例图像中对应的文字区域,进而进行查找识别错误等操作。
需要注意的是,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
此外,在本公开的示例性实施方式中,还提供了一种图像的结构化处理装置。参照图8所示,所述图像的结构化处理装置800包括:区域识别模块810,文本提取模块820,模型获取模块830和结构化模块840。
其中,所述区域识别模块810可以用于根据第一神经网络模型识别待处理图像中的至少一个文本区域;所述文本提取模块820可以用于提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档;所述模型获取模块830可以用于根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型;所述结构化模块840可以用于基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。
在本公开的一种示例性实施例中,基于前述方案,所述文本提取模块820可以用于根据语言标准模型对所述文本信息进行逻辑语义推断,以对所述文本信息进行校正。
在本公开的一种示例性实施例中,基于前述方案,所述模型获取模块830可以用于根据所述第二神经网络模型对所述文本文档进行结构分析得到所述文本文档的标题,以确定所述文本文档的文档类型;获取所述文档类型对应的结构化模型,并将所述结构化模型确定为所述文本文档对应的结构化模型。
在本公开的一种示例性实施例中,基于前述方案,所述结构化模块840可以用于读取所述结构化模型中的关键字;在所述文本文档中识别所述关键字,以确定所述关键字对应的文本区域;将所述关键字对应的文本区域中的文本信息填入所述结构化模型中关键字对应的文本填写区域。
在本公开的一种示例性实施例中,基于前述方案,所述图像的结构化处理装置800还包括映射关系模块850(图中未示出),所述映射关系模块850可以用于生成所述关键字与所述待处理图像中的所述文本区域的映射关系。
在本公开的一种示例性实施例中,基于前述方案,所述映射关系模块850可以用于响应于对所述关键字或所述文本填写区域的第一操作,根据所述映射关系在所述待处理图像中确定对应的文本区域,并将所述文本区域突出显示。
在本公开的一种示例性实施例中,基于前述方案,所述图像的结构化处理装置800还包括预处理模块860(图中未示出),所述预处理模块860可以用于对所述待处理图像进行预处理;其中,所述预处理包括降噪处理、倾斜校正处理、锐化处理、灰度处理、二值化处理中的至少一种或多种的组合。
在本公开的一种示例性实施例中,基于前述方案,所述图像的结构化处理装置800还包括错误标记模块870(图中未示出),所述错误标记模块870可以用于根据数据标准模型识别所述结构化文本中的错误数据,并对所述错误数据进行标记。
由于本公开的示例实施例的图像的结构化处理装置的各个功能模块与上述图像的结构化处理方法的示例实施例的步骤对应,因此对于本公开装置实施例中未披露的细节,请参照本公开上述的图像的结构化处理方法的实施例。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,在本公开的示例性实施例中,还提供了一种能够实现上述图像的结构化处理方法的电子设备。
所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施例、完全的软件实施例(包括固件、微代码等),或硬件和软件方面结合的实施例,这里可以统称为“电路”、“模块”或“系统”。
下面参照图9来描述根据本公开的这种实施例的电子设备900。图9显示的电子设备900仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图9所示,电子设备900以通用计算设备的形式表现。电子设备900的组件可以包括但不限于:上述至少一个处理单元910、上述至少一个存储单元920、连接不同系统组件(包括存储单元920和处理单元910)的总线930、显示单元940。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元910执行,使得所述处理单元910执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施例的步骤。例如,所述处理单元910可以执行如图1中所示的步骤S110:根据第一神经网络模型识别待处理图像中的至少一个文本区域;S120:提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档;S130:根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型;S140:基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。
又如,所述的电子设备可以实现如图2至图4所示的各个步骤。
存储单元920可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)921和/或高速缓存存储单元922,还可以进一步包括只读存储单元(ROM)923。
存储单元920还可以包括具有一组(至少一个)程序模块925的程序/实用工具924,这样的程序模块925包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线930可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备900也可以与一个或多个外部设备970(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备900交互的设备通信,和/或与使得该电子设备900能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口950进行。并且,电子设备900还可以通过网络适配器960与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器960通过总线930与电子设备900的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备900使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施例的描述,本领域的技术人员易于理解,这里描述的示例实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施例的方法。
在本公开的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施例中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施例的步骤。
此外,本公开的示例性实施例中还提供了一种用于实现上述方法的程序产品,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施例。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

Claims (10)

1.一种图像的结构化处理方法,其特征在于,包括:
根据第一神经网络模型识别待处理图像中的至少一个文本区域;
提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档;
根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型;
基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。
2.根据权利要求1所述的方法,其特征在于,在所述提取所述文本区域中的文本信息之后,所述方法还包括:
根据语言标准模型对所述文本信息进行逻辑语义推断,以对所述文本信息进行校正。
3.根据权利要求1所述的方法,其特征在于,所述根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型,包括:
根据所述第二神经网络模型对所述文本文档进行结构分析得到所述文本文档的标题,以确定所述文本文档的文档类型;
获取所述文档类型对应的结构化模型,并将所述结构化模型确定为所述文本文档对应的结构化模型。
4.根据权利要求1所述的方法,其特征在于,所述结构化模型包括关键字及其对应的文本填写区域;
所述基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本,包括:
读取所述结构化模型中的关键字;
在所述文本文档中识别所述关键字,以确定所述关键字对应的文本区域;
将所述关键字对应的文本区域中的文本信息填入所述结构化模型中关键字对应的文本填写区域。
5.根据权利要求4所述的方法,其特征在于,在所述文本文档中识别所述关键字,以确定所述关键字对应的文本区域之后,所述方法还包括:
生成所述关键字与所述待处理图像中的所述文本区域的映射关系。
6.根据权利要求5所述的方法,其特征在于,在所述生成所述关键字与所述待处理图像中的所述文本区域的映射关系之后,所述方法还包括:
响应于对所述关键字或所述文本填写区域的第一操作,根据所述映射关系在所述待处理图像中确定对应的文本区域,并将所述文本区域突出显示。
7.根据权利要求1所述的方法,其特征在于,在所述根据第一神经网络模型识别待处理图像中的至少一个文本区域之前,所述方法还包括:
对所述待处理图像进行预处理;其中,所述预处理包括降噪处理、倾斜校正处理、锐化处理、灰度处理、二值化处理中的至少一种或多种的组合。
8.一种图像的结构化处理装置,其特征在于,包括:
区域识别模块,用于根据第一神经网络模型识别待处理图像中的至少一个文本区域;
文本提取模块,用于提取所述文本区域中的文本信息,并根据所述文本区域在所述待处理图像中的位置排布所述文本信息以生成文本文档;
模型获取模块,用于根据第二神经网络模型对所述文本文档进行结构分析,以获取所述文本文档对应的结构化模型;
结构化模块,用于基于所述结构化模型对所述文本文档进行结构化排列以获取结构化文本。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至7中任一项所述的图像的结构化处理方法。
10.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至7中任一项所述的图像的结构化处理方法。
CN201911170024.0A 2019-11-26 2019-11-26 图像的结构化处理方法及装置、存储介质及电子设备 Active CN111144210B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911170024.0A CN111144210B (zh) 2019-11-26 2019-11-26 图像的结构化处理方法及装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911170024.0A CN111144210B (zh) 2019-11-26 2019-11-26 图像的结构化处理方法及装置、存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN111144210A true CN111144210A (zh) 2020-05-12
CN111144210B CN111144210B (zh) 2023-07-18

Family

ID=70516669

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911170024.0A Active CN111144210B (zh) 2019-11-26 2019-11-26 图像的结构化处理方法及装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN111144210B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111695441A (zh) * 2020-05-20 2020-09-22 平安科技(深圳)有限公司 图像文档处理方法、装置及计算机可读存储介质
CN111859863A (zh) * 2020-06-03 2020-10-30 远光软件股份有限公司 一种文档的结构转换方法、装置、存储介质及电子设备
CN111914729A (zh) * 2020-07-28 2020-11-10 中国建设银行股份有限公司 凭证关联方法、装置、计算机设备及存储介质
CN112364857A (zh) * 2020-10-23 2021-02-12 中国平安人寿保险股份有限公司 基于数值抽取的图像识别方法、装置及存储介质
CN112990177A (zh) * 2021-04-13 2021-06-18 太极计算机股份有限公司 基于电子卷宗文件的分类编目方法、装置及设备
CN113762028A (zh) * 2020-06-03 2021-12-07 Sap欧洲公司 从文本文档进行数据驱动的结构提取
CN114005107A (zh) * 2021-11-03 2022-02-01 深圳须弥云图空间科技有限公司 文档处理方法及装置、存储介质、电子设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080204819A1 (en) * 2007-02-28 2008-08-28 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and printing system
CN106599857A (zh) * 2016-12-20 2017-04-26 广东欧珀移动通信有限公司 图像识别方法、装置、计算机可读存储介质及终端设备
CN108805116A (zh) * 2018-05-18 2018-11-13 浙江蓝鸽科技有限公司 图像文本检测方法及其系统
CN109002768A (zh) * 2018-06-22 2018-12-14 深源恒际科技有限公司 基于神经网络文本检测识别的医疗票据类文字提取方法
CN109376658A (zh) * 2018-10-26 2019-02-22 信雅达系统工程股份有限公司 一种基于深度学习的ocr方法
CN109871521A (zh) * 2019-01-08 2019-06-11 平安科技(深圳)有限公司 一种电子文档的生成方法及设备
CN109933702A (zh) * 2019-03-11 2019-06-25 智慧芽信息科技(苏州)有限公司 一种检索展示方法、装置、设备及存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080204819A1 (en) * 2007-02-28 2008-08-28 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and printing system
CN106599857A (zh) * 2016-12-20 2017-04-26 广东欧珀移动通信有限公司 图像识别方法、装置、计算机可读存储介质及终端设备
CN108805116A (zh) * 2018-05-18 2018-11-13 浙江蓝鸽科技有限公司 图像文本检测方法及其系统
CN109002768A (zh) * 2018-06-22 2018-12-14 深源恒际科技有限公司 基于神经网络文本检测识别的医疗票据类文字提取方法
CN109376658A (zh) * 2018-10-26 2019-02-22 信雅达系统工程股份有限公司 一种基于深度学习的ocr方法
CN109871521A (zh) * 2019-01-08 2019-06-11 平安科技(深圳)有限公司 一种电子文档的生成方法及设备
CN109933702A (zh) * 2019-03-11 2019-06-25 智慧芽信息科技(苏州)有限公司 一种检索展示方法、装置、设备及存储介质

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111695441A (zh) * 2020-05-20 2020-09-22 平安科技(深圳)有限公司 图像文档处理方法、装置及计算机可读存储介质
CN111695441B (zh) * 2020-05-20 2024-05-10 平安科技(深圳)有限公司 图像文档处理方法、装置及计算机可读存储介质
CN111859863A (zh) * 2020-06-03 2020-10-30 远光软件股份有限公司 一种文档的结构转换方法、装置、存储介质及电子设备
CN113762028A (zh) * 2020-06-03 2021-12-07 Sap欧洲公司 从文本文档进行数据驱动的结构提取
CN111914729A (zh) * 2020-07-28 2020-11-10 中国建设银行股份有限公司 凭证关联方法、装置、计算机设备及存储介质
CN112364857A (zh) * 2020-10-23 2021-02-12 中国平安人寿保险股份有限公司 基于数值抽取的图像识别方法、装置及存储介质
CN112364857B (zh) * 2020-10-23 2024-04-26 中国平安人寿保险股份有限公司 基于数值抽取的图像识别方法、装置及存储介质
CN112990177A (zh) * 2021-04-13 2021-06-18 太极计算机股份有限公司 基于电子卷宗文件的分类编目方法、装置及设备
CN114005107A (zh) * 2021-11-03 2022-02-01 深圳须弥云图空间科技有限公司 文档处理方法及装置、存储介质、电子设备

Also Published As

Publication number Publication date
CN111144210B (zh) 2023-07-18

Similar Documents

Publication Publication Date Title
CN111144210B (zh) 图像的结构化处理方法及装置、存储介质及电子设备
CN107908635B (zh) 建立文本分类模型以及文本分类的方法、装置
US10915788B2 (en) Optical character recognition using end-to-end deep learning
CN111090641B (zh) 数据处理方法及装置、电子设备、存储介质
CN105631393A (zh) 信息识别方法及装置
CN112509661B (zh) 用于识别体检报告的方法、计算设备和介质
CN116303537A (zh) 数据查询方法及装置、电子设备、存储介质
CN112464927A (zh) 一种信息提取方法、装置及系统
CN112149680A (zh) 错字检测识别方法、装置、电子设备及存储介质
CN112989050B (zh) 一种表格分类方法、装置、设备及存储介质
CN110751994B (zh) 一种病历模板的差异化显示方法和系统
CN110362688B (zh) 试题标注方法、装置、设备及计算机可读存储介质
CN114842982B (zh) 一种面向医疗信息系统的知识表达方法、装置及系统
CN111063445A (zh) 基于医疗数据的特征提取方法及装置、设备和介质
CN116860747A (zh) 训练样本的生成方法、装置、电子设备及存储介质
CN115759040A (zh) 一种电子病历解析方法、装置、设备和存储介质
CN112699642B (zh) 复杂医疗文书的索引提取方法及装置、介质及电子设备
US10522246B2 (en) Concepts for extracting lab data
CN113515588A (zh) 表单数据检测方法、计算机装置及存储介质
CN112307195A (zh) 一种专利信息展示方法、装置、设备及存储介质
CN111768261B (zh) 一种展示信息确定方法、装置、设备及介质
CN115358186B (zh) 一种槽位标签的生成方法、装置及存储介质
EP4297039A1 (en) Data processing method, device and storage medium
US20240184985A1 (en) Information representation structure analysis device, and information representation structure analysis method
CN110968677B (zh) 文本寻址的方法及装置、介质和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant