CN111626118A - 文本纠错方法、装置、电子设备及计算机可读存储介质 - Google Patents
文本纠错方法、装置、电子设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN111626118A CN111626118A CN202010326324.XA CN202010326324A CN111626118A CN 111626118 A CN111626118 A CN 111626118A CN 202010326324 A CN202010326324 A CN 202010326324A CN 111626118 A CN111626118 A CN 111626118A
- Authority
- CN
- China
- Prior art keywords
- text
- image
- standard
- word
- error
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/90335—Query processing
- G06F16/90344—Query processing by using string matching techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/148—Segmentation of character regions
- G06V30/153—Segmentation of character regions using recognition of characters or words
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Character Discrimination (AREA)
Abstract
本发明涉及一种人工智能技术,揭露了一种文本纠错方法,包括:获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像;利用预先训练完成的文本识别模型对所述标准图像进行文本识别,得到字/词向量,并对所述字/词向量编码,生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本;利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本;利用所述正确文本替换所述错误文本,得到标准输出文本。本发明还提出一种文本纠错装置、电子设备以及一种计算机可读存储介质。本发明可以解决文本纠错精度低,成本高的问题。另外,本发明还涉及区块链技术,也试用于智慧城市领域中。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种文本纠错方法、装置、电子设备及计算机可读存储介质。
背景技术
目前文本识别的方法多为利用OCR技术把图像中的文字读取出来,并转换成一种计算机能够接受、人可以理解的字符格式。但是由于OCR技术对输入图像的质量要求很高,在图像精度较低的情况下容易出现大量的识别错误的情况,因此需要对识别出的字符进行纠错处理。但是传统方法只根据图像信息中的字符进行纠错,导致OCR直接输出的纠错结果无法满足实际应用要求,准确率较低。因此如何实现低成本,高精度的文本纠错越来越被人们所重视。
发明内容
本发明提供一种文本纠错方法、装置、电子设备及计算机可读存储介质,其主要目的在于解决文本纠错精度低,成本高的问题。
为实现上述目的,本发明提供的一种文本纠错方法,包括:
获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像;
利用预先训练完成的文本识别模型对所述标准图像进行文本识别,得到字/词向量,并对所述字/词向量编码,生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本;
利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本;
利用所述正确文本替换所述错误文本,得到标准输出文本。
可选地,所述将所述原始文本图像进行预处理操作,得到标准图像,包括:
将所述原始文本图像的图像信号进行放大处理,得到放大图像信号;
对所述放大图像信号进行采样,得到采样信号;
将所述采样信号进行滤波处理,得到所述标准图像。
可选地,所述文本识别模型包括:
字/词向量层,用于将所述标准图像包含的文本中的单词和字符进行转化,获得字/词向量;
Bi-LSTM层,用于将所述字/词向量进行分割,对分割后的所述字/词向量进行编码,得到所述字/词向量的编码表征,利用所述编码表征对所述字/词向量进行标注,得到键值和结果值;
CRF层,用于将相同类型的键值和结果值进行拼接,将拼接完成的文本按照编码的逆过程进行解码,生成所述输出文本。
可选地,所述计算所述输出文本与预设的标准纠错表的编辑距离,包括:
利用如下编辑距离算法计算所述编辑距离:
Simtopic=Pearson(R,S)
其中,R为所述输出文本的键值,S为标准纠错表的键值,Pearson为编辑距离运算,Simtopic为键值之间的编辑距离。
可选地,所述根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本,包括:
将输出文本的键值与标准纠错表的键值之间的编辑距离与预设的距离阈值进行对比;
在所述编辑距离小于所述距离阈值时,对应的输出文本的键值判定为错误字符以及对应的标准纠错表的键值判定为对应的正确字符;
汇集所有错误字符得到所述输出文本中的错误文本,以及汇集所述正确字符得到所述错误文本对应的正确文本。
为了解决上述问题,本发明还提供一种文本纠错装置,所述装置包括:
调制转化模块,用于获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像;
文本分割模块,用于利用预先训练完成的文本识别模型对所述标准图像进行文本识别,得到字/词向量,并对所述字/词向量编码,生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本;
距离计算模块,用于利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本;
纠错输出模块,用于利用所述正确文本替换所述错误文本,得到标准输出文本。
可选地,所述文本识别模型包括:
字/词向量层:用于将所述标准图像包含的文本中的单词和字符进行转化,获得字/词向量;
Bi-LSTM层:用于将所述字/词向量进行分割,对分割后的所述字/词向量进行编码,得到所述字/词向量的编码表征,利用所述编码表征对分割后的所述字/词向量进行标注,得到键值和结果值;
CRF层:将相同类型的键值和结果值进行拼接,将拼接完成的文本按照编码的逆过程进行解码,生成所述输出文本。
可选地,所述调制转化模块将所述原始文本图像进行预处理操作时,执行:
将所述原始文本图像的图像信号进行放大处理,得到放大图像信号;
对所述放大图像信号进行采样,得到采样信号;
将所述采样信号进行滤波处理,得到所述标准图像。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述所述的文本纠错方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的文本纠错方法。
本发明实施例将原始文本图像进行预处理操作,去除了所述原始图像中的烦扰因素,为后续对图像中文本的纠错提供了前置基础。进一步地,相较于现有技术中只根据图像信息中字符的本身进行纠错,本发明实施例计算字符的键值及键值对应的结果值,并利用所述键值和所述结果值与一个预设的标准纠错表进行对比,从而对通过图像识别技术得到输出文本进行纠错,使得对错误的纠正更加精准。因此本发明提出的文本纠错方法、装置及计算机可读存储介质,可以实现对低成本,高精度的文本纠错方案。
附图说明
图1为本发明一实施例提供的文本纠错方法的流程示意图;
图2为本发明一实施例提供的文本纠错方法的模块示意图;
图3为本发明一实施例提供的文本纠错方法的电子设备的内部结构示意图;
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明提供一种文本纠错方法。参照图1所示,为本发明一实施例提供的文本纠错方法的流程示意图。该方法可以由一个装置执行,该装置可以由软件和/或硬件实现。
在本实施例中,文本纠错方法包括:
S1、获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像。
本发明实施例中,所述原始文本图像是通过对纸质文档,如医疗发票纸质文档、书籍等进行二维扫描得到的。
为了去除通过二维扫描得到的所述原始文本图像中的噪声等干扰因素,本发明实施例首先对所述原始文本图像进行如下预处理:
将所述原始文本图像的图像信号进行放大处理,得到放大图像信号;
对所述放大图像信号进行采样,得到采样信号;
将所述采样信号进行滤波处理,得到所述标准图像。
详细地,本发明实施例利用现有的放大电路将所述原始文本图像的图像信号进行放大处理。所述放大电路是以晶体管为控制元件组成的具有放大电信号功能的电路;根据不同的放大需求可以选择其他合适的放大电路,利用所选择的放大电路将所述原始文本图像不失真地进行放大,得到放大图像信号。
进一步地,本发明实施例利用现有的采样电路对所述放大图像信号进行采样。所述采样电路是一种可根据预设采样频率定时对所述放大图像信号进行采样的电路。
本发明实施例对所述原始文本图像采用上述放大、采样、滤波的处理,去除了所述原始文本图像中的噪声等干扰因素,得到所述标准图像,保证了后续文本纠错的精确性。
S2、利用预先训练完成的文本识别模型对所述标准图像进行文本识别,得到字/词向量,并对所述字/词向量编码,生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本。
优选地,本发明实施例中所述文本识别模型可以是一个预先训练完成的NER(Named Entity Recognition,命名实体识别)模型。
较佳地,所述NER模型采用Bi-LSTM-CRF结构,包括:
字/词向量层:用于将所述标准图像包含的文本中的单词和字符转化为字/词向量;Bi-LSTM层:将所述字/词向量进行分割,对分割后的所述字/词向量进行编码,得到所述字/词向量的编码表征,利用所述编码表征对分割后的所述字/词向量进行标注,得到键值和结果值;
CRF层:将相同类型的键值和结果值进行拼接,将拼接完成的文本按照编码的逆过程进行解码,生成所述输出文本。
其中,所述字/词向量层利用已经训练好的词向量作为初始化参数,将所述标准图像包含的文本中的单词和字符转化为字/词向量,所述已经训练好的词向量是由以往对字/词向量进行转化时总结出来的一套标准转化规则。
由于所述标准图像中包含的文本可能较多,文本中的语句可能较长,如果只是进行字符转换,可能会出现文本粘滞的情况,不利于后续的文本纠错,因此本发明实施例利用所述Bi-LSTM层可将所述字/词向量进行分割。
优选地,所述Bi-LSTM层可采用java语言将所述字/词向量进行分割,并对分割后的所述字/词向量进行编码,所述编码表征包含Key-B,Value-B,Key-I,Value-I,Other-B,Other-I六类标注类型。其中,Key为键值,Value为结果值,Other为其他值。
所述CRF层将相同类型的键值和结果值进行拼接,如Key-B,Key-I或Value-B,Value-I。
进一步地,本发明实施例根据所述键值和对应的结果值将所述标准图像转换为输出文本,例如,本发明其中一个示例中,所述标准图像中有文本“支付2.00元(现金支付)分类自负0.00元”,经上述NER模型处理后,生成如下的输出文本:
Key:{支付,分类自负} |
Value:{2.00元,0.00元} |
Other(现金支付) |
S3、利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本。
由于所述标准图像中可能存在着一些内容上的错误,如错别字等,因此,本发明实施例将利用一个标准纠错表对上述的输出文本进行纠错。
本发明实施例中,所述标准纠错表是由没有任何错误的字符串及所述字符串对应的键值和结果值组成。
所述编辑距离是指两个字符串之间,由一个字符串转换成另一个字符串所需的最少编辑操作次数。
例如,计算输出文本ABBD与标准纠错表中字符串ABCD的编辑距离,由于所述输出文本ABBD与字符串ABCD中只有第三位的字符不相同,可利用上述方法计算出最少编辑操作次数为1,即是将‘B’字符替换成‘C’字符。
详细地,本发明实施例利用如下编辑距离算法计算所述编辑距离Simtopic:
Simtopic=Pearson(R,S)
其中,R为所述输出文本键值,S为标准纠错表的键值,Pearson为编辑距离运算。
进一步地,为了筛选出所述标准纠错表中的哪些字符串可以用于所述输出文本的纠错,本发明实施例根据所述根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本,包括:
将输出文本的键值与标准纠错表的键值之间的编辑距离与预设的距离阈值进行对比;
在所述编辑距离小于所述距离阈值时,对应的输出文本的键值判定为错误字符以及对应的标准纠错表的键值判定为对应的正确字符;
汇集所有错误字符得到所述输出文本中的错误文本,以及汇集所述正确字符得到所述错误文本对应的正确文本。
进一步地,所述编辑距离大于或等于所述距离阈值,则说明所述输出文本与所述标准纠错表不匹配,无法用所述标准纠错表对所述输出文本进行纠错。
S4、利用所述正确文本替换所述错误文本,得到标准输出文本。
本发明实施例可直接利用所述正确文本替换所述错误文本,即可实现对错误文本中的错误内容进行纠错,得到标准输出文本。
需要强调的是,为进一步保证文本图像的私密和安全性,原始文本图像还可以存储于一区块链的节点中。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
同时,本方案可试用于智慧城市中的智慧医疗等领域中,从而推动智慧城市的建设。
本发明实施例将原始文本图像进行预处理操作,去除了所述原始图像中的烦扰因素,为后续对图像中文本的纠错提供了前置基础。进一步地,相较于现有技术中只根据图像信息本身进行字符的纠错,本发明实施例计算字符的键值及键值对应的结果值,并利用所述键值和所述结果值与一个预设的标准纠错表进行对比,从而利用一个预设的标准纠错表对通过图像识别技术得到输出文本进行纠错,使得对错误的纠正更加精准。因此本发明提出的文本纠错方法、装置及计算机可读存储介质,可以实现对低成本,高精度的文本纠错。
如图2所示,是本发明文本纠错装置的功能模块图。
本发明所述文本纠错装置100可以安装于电子设备中。根据实现的功能,所述文本纠错装置可以包括图像获取模块101、图像分割模块102、匹配模块103和纠错模块104。本发所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述调制转化模块101用于获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像;
所述文本分割模块102,用于利用预先训练完成的文本识别模型对所述标准图像进行文本识别,得到字/词向量,并对所述字/词向量编码,生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本;
所述距离计算模块103,用于利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本;
所述纠错输出模块104,用于利用所述正确文本替换所述错误文本,得到标准输出文本。
详细地,所述所述文本纠错装置100各模块的具体实施步骤如下:
所述图像获取模块101获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像。
本发明实施例中,所述原始文本图像是通过对纸质文档,如医疗发票纸质文档、书籍等进行二维扫描得到的。
为了去除通过二维扫描得到的所述原始文本图像中的噪声等干扰因素,本发明实施例首先对所述原始文本图像进行如下预处理:
将所述原始文本图像的图像信号进行放大处理,得到放大图像信号;
对所述放大图像信号进行采样,得到采样信号;
将所述采样信号进行滤波处理,得到所述标准图像。
详细地,本发明实施例利用现有的放大电路将所述原始文本图像的图像信号进行放大处理。所述放大电路是以晶体管为控制元件组成的具有放大电信号功能的电路;根据不同的放大需求可以选择其他合适的放大电路,利用所选择的放大电路将所述原始文本图像不失真地进行放大,得到放大图像信号。
进一步地,本发明实施例利用现有的采样电路对所述放大图像信号进行采样。所述采样电路是一种可根据预设采样频率定时对所述放大图像信号进行采样的电路。
本发明实施例对所述原始文本图像采用上述放大、采样、滤波的处理,去除了所述原始文本图像中的噪声等干扰因素,得到所述标准图像,保证了后续文本纠错的精确性。
所述图像分割模块102利用预先训练完成的文本识别模型对所述标准图像进行文本识别,得到字/词向量,并对所述字/词向量编码,生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本。
由于所述标准图像中包含的文本可能较多,文本中的语句可能较长,如果直接进行字符转换,可能会出现文本粘滞的情况,不利于后续的文本纠错,因此本发明实施例利用文本识别模型对所述标准图像进行文本识别及分割处理。
优选地,本发明实施例中所述文本识别模型可以是一个预先训练完成的NER(Named Entity Recognition,命名实体识别)模型。
较佳地,所述NER模型采用Bi-LSTM-CRF结构,包括:
字/词向量层:用于将所述标准图像包含的文本中的单词和字符进行转化,获得字/词向量;
Bi-LSTM层:用于将所述字/词向量进行分割,对分割后的所述字/词向量进行编码,得到所述字/词向量的编码表征,利用所述编码表征对所述字/词向量进行标注,得到键值和结果值;
CRF层:将相同类型的键值和结果值进行拼接,将拼接完成的文本按照编码的逆过程进行解码,生成所述输出文本。
其中,所述字/词向量层利用已经训练好的词向量作为初始化参数,将所述标准图像包含的文本中的单词和字符转化为字/词向量,所述已经训练好的词向量是由以往对字/词向量进行转化时总结出来的一套标准转化规则。
所述Bi-LSTM层可采用java语言对所述字/词向量进行编码,所述编码表征包含Key-B,Value-B,Key-I,Value-I,Other-B,Other-I六类标注类型。其中,Key为键值,Value为结果值,Other为其他值。
所述CRF层将相同类型的键值和结果值进行拼接,如Key-B,Key-I或Value-B,Value-I。
进一步地,本发明实施例根据所述键值和对应的结果值将所述标准图像转换为输出文本,例如,本发明其中一个示例中,所述标准图像中有文本“支付2.00元(现金支付)分类自负0.00元”,经上述NER模型处理后,生成如下的输出文本:
Key:{支付,分类自负} |
Value:{2.00元,0.00元} |
Other(现金支付) |
所述匹配模块103利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本。
由于所述标准图像中可能存在着一些内容上的错误,如错别字等,因此,本发明实施例将利用一个标准纠错表对上述的输出文本进行纠错。
本发明实施例中,所述标准纠错表是由没有任何错误的字符串及所述字符串对应的键值和结果值组成。所述编辑距离是指两个字符串之间,由一个字符串转换成另一个字符串所需的最少编辑操作次数。
例如,计算输出文本ABBD与标准纠错表中字符串ABCD的编辑距离,由于所述输出文本ABBD与字符串ABCD中只有第三位的字符不相同,可利用上述方法计算出最少编辑操作次数为1,即是将‘B’字符替换成‘C’字符。
详细地,本发明实施例利用如下编辑距离算法计算所述编辑距离Simtopic:
Simtopic=Pearson(R,S)
其中,R为所述输出文本键值,S为标准纠错表的键值,Pearson为编辑距离运算。
进一步地,为了筛选出所述标准纠错表中的哪些字符串可以用于所述输出文本的纠错,本发明实施例根据所述根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本,包括:
将输出文本的键值与标准纠错表的键值之间的编辑距离与预设的距离阈值进行对比;
在所述编辑距离小于所述距离阈值时,对应的输出文本的键值判定为错误字符以及对应的标准纠错表的键值判定为对应的正确字符;
汇集所有错误字符得到所述输出文本中的错误文本,以及汇集所述正确字符得到所述错误文本对应的正确文本。
进一步地,所述编辑距离大于或等于所述距离阈值,则说明所述输出文本与所述标准纠错表不匹配,无法用所述标准纠错表对所述输出文本进行纠错。
所述纠错模块104利用所述正确文本替换所述错误文本,得到标准输出文本。
本发明实施例可直接利用所述正确文本替换所述错误文本,即可实现对错误文本中的错误内容进行纠错,得到标准输出文本。
如图3所示,是本发明实现文本纠错方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如文本纠错程序12。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如文本纠错程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行文本纠错程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图3仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的文本纠错程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像;
利用预先训练完成的文本识别模型对所述标准图像进行文本识别及分割处理并对分割后的所述标准图像生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本;
利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本;
利用所述正确文本替换所述错误文本,得到标准输出文本。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种文本纠错方法,其特征在于,所述方法包括:
获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像;
利用预先训练完成的文本识别模型对所述标准图像进行文本识别,得到字/词向量,并对所述字/词向量编码,生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本;
利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本;
利用所述正确文本替换所述错误文本,得到标准输出文本。
2.如权利要求1所述的文本纠错方法,其特征在于,所述将所述原始文本图像进行预处理操作,得到标准图像,包括:
将所述原始文本图像的图像信号进行放大处理,得到放大图像信号;
对所述放大图像信号进行采样,得到采样信号;
将所述采样信号进行滤波处理,得到所述标准图像。
3.如权利要求1所述的文本纠错方法,其特征在于,所述文本识别模型包括:
字/词向量层,用于将所述标准图像包含的文本中的单词和字符进行转化,获得字/词向量;
Bi-LSTM层,用于将所述字/词向量进行分割,对分割后的所述字/词向量进行编码,得到所述字/词向量的编码表征,利用所述编码表征对所述字/词向量进行标注,得到键值和结果值;
CRF层,用于将相同类型的键值和结果值进行拼接,将拼接完成的文本按照编码的逆过程进行解码,生成所述输出文本。
4.如权利要求3所述的文本纠错方法,其特征在于,所述计算所述输出文本与预设的标准纠错表的编辑距离,包括:
利用如下编辑距离算法计算所述编辑距离:
Simtopic=Pearson(R,S)
其中,R为所述输出文本的键值,S为标准纠错表的键值,Pearson为编辑距离运算,Simtopic为键值之间的编辑距离。
5.如权利要求4所述的文本纠错方法,其特征在于,所述根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本,包括:
将输出文本的键值与标准纠错表的键值之间的编辑距离与预设的距离阈值进行对比;
在所述编辑距离小于所述距离阈值时,对应的输出文本的键值判定为错误字符以及对应的标准纠错表的键值判定为对应的正确字符;
汇集所有错误字符得到所述输出文本中的错误文本,以及汇集所述正确字符得到所述错误文本对应的正确文本。
6.一种文本纠错装置,其特征在于,所述装置包括:
调制转化模块,用于获取原始文本图像,将所述原始文本图像进行预处理操作,得到标准图像;
文本分割模块,用于利用预先训练完成的文本识别模型对所述标准图像进行文本识别,得到字/词向量,并对所述字/词向量编码,生成键值和对应的结果值,根据所述键值和对应的结果值,将所述标准图像转换为输出文本;
距离计算模块,用于利用所述键值计算所述输出文本与预设的标准纠错表的编辑距离,根据所述编辑距离得到所述输出文本中的错误文本及所述错误文本对应的正确文本;
纠错输出模块,用于利用所述正确文本替换所述错误文本,得到标准输出文本。
7.如权利要求6所述的文本纠错装置,其特征在于,所述文本识别模型包括:
字/词向量层,用于将所述标准图像包含的文本中的单词和字符进行转化,获得字/词向量;
Bi-LSTM层,用于将所述字/词向量进行分割,对分割后的所述字/词向量进行编码,得到所述字/词向量的编码表征,利用所述编码表征对所述字/词向量进行标注,得到键值和结果值;
CRF层,用于将相同类型的键值和结果值进行拼接,将拼接完成的文本按照编码的逆过程进行解码,生成所述输出文本。
8.如权利要求6所述的文本纠错装置,其特征在于,所述调制转化模块将所述原始文本图像进行预处理操作时,执行:
将所述原始文本图像的图像信号进行放大处理,得到放大图像信号;
对所述放大图像信号进行采样,得到采样信号;
将所述采样信号进行滤波处理,得到所述标准图像。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至5中任一项所述的文本纠错方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的文本纠错方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010326324.XA CN111626118A (zh) | 2020-04-23 | 2020-04-23 | 文本纠错方法、装置、电子设备及计算机可读存储介质 |
PCT/CN2020/093561 WO2021212614A1 (zh) | 2020-04-23 | 2020-05-30 | 文本纠错方法、装置、计算机可读存储介质及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010326324.XA CN111626118A (zh) | 2020-04-23 | 2020-04-23 | 文本纠错方法、装置、电子设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111626118A true CN111626118A (zh) | 2020-09-04 |
Family
ID=72258113
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010326324.XA Pending CN111626118A (zh) | 2020-04-23 | 2020-04-23 | 文本纠错方法、装置、电子设备及计算机可读存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111626118A (zh) |
WO (1) | WO2021212614A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113111660A (zh) * | 2021-04-22 | 2021-07-13 | 脉景(杭州)健康管理有限公司 | 数据处理方法、装置、设备和存储介质 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114550185B (zh) * | 2022-04-19 | 2022-07-19 | 腾讯科技(深圳)有限公司 | 一种文档生成的方法、相关装置、设备以及存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8472726B2 (en) * | 2011-01-07 | 2013-06-25 | Yuval Gronau | Document comparison and analysis |
CN107491730A (zh) * | 2017-07-14 | 2017-12-19 | 浙江大学 | 一种基于图像处理的化验单识别方法 |
CN107633250B (zh) * | 2017-09-11 | 2023-04-18 | 畅捷通信息技术股份有限公司 | 一种文字识别纠错方法、纠错系统及计算机装置 |
CN107844481B (zh) * | 2017-11-21 | 2019-09-13 | 新疆科大讯飞信息科技有限责任公司 | 识别文本检错方法及装置 |
CN110046350B (zh) * | 2019-04-12 | 2023-04-07 | 百度在线网络技术(北京)有限公司 | 文法错误识别方法、装置、计算机设备及存储介质 |
CN110782885B (zh) * | 2019-09-29 | 2021-11-26 | 深圳数联天下智能科技有限公司 | 语音文本修正方法及装置、计算机设备和计算机存储介质 |
-
2020
- 2020-04-23 CN CN202010326324.XA patent/CN111626118A/zh active Pending
- 2020-05-30 WO PCT/CN2020/093561 patent/WO2021212614A1/zh active Application Filing
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113111660A (zh) * | 2021-04-22 | 2021-07-13 | 脉景(杭州)健康管理有限公司 | 数据处理方法、装置、设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2021212614A1 (zh) | 2021-10-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112597312A (zh) | 文本分类方法、装置、电子设备及可读存储介质 | |
CN102750794B (zh) | 一种票据自动录入系统及其应用方法 | |
CN112036292A (zh) | 基于神经网络的文字识别方法、装置及可读存储介质 | |
CN111626118A (zh) | 文本纠错方法、装置、电子设备及计算机可读存储介质 | |
CN111431537A (zh) | 数据压缩方法、装置及计算机可读存储介质 | |
CN112446207A (zh) | 标题生成方法、装置、电子设备及存储介质 | |
CN112233700A (zh) | 基于音频的用户状态识别方法、装置及存储介质 | |
CN113064994A (zh) | 会议质量评估方法、装置、设备及存储介质 | |
CN112508145A (zh) | 电子印章生成及验证方法、装置、电子设备及存储介质 | |
CN112528013A (zh) | 文本摘要提取方法、装置、电子设备及存储介质 | |
CN112733551A (zh) | 文本分析方法、装置、电子设备及可读存储介质 | |
CN112885423A (zh) | 疾病标签检测方法、装置、电子设备及存储介质 | |
CN111985491A (zh) | 基于深度学习的相似信息合并方法、装置、设备及介质 | |
CN112560855B (zh) | 图像信息提取方法、装置、电子设备及存储介质 | |
CN113205814A (zh) | 语音数据标注方法、装置、电子设备及存储介质 | |
CN112883346A (zh) | 基于复合数据的安全身份认证方法、装置、设备及介质 | |
CN115409041B (zh) | 一种非结构化数据提取方法、装置、设备及存储介质 | |
CN114757154B (zh) | 基于深度学习的作业生成方法、装置、设备及存储介质 | |
CN115496166A (zh) | 多任务处理方法、装置、电子设备及存储介质 | |
CN115203364A (zh) | 软件故障反馈处理方法、装置、设备及可读存储介质 | |
CN114943306A (zh) | 意图分类方法、装置、设备及存储介质 | |
CN112580505B (zh) | 网点开关门状态识别方法、装置、电子设备及存储介质 | |
CN115346095A (zh) | 视觉问答方法、装置、设备及存储介质 | |
CN113947066A (zh) | 基于asr的文本比对方法、装置、电子设备及存储介质 | |
CN112712797A (zh) | 语音识别方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |