CN111177378B - 一种文本挖掘方法、装置及电子设备 - Google Patents
一种文本挖掘方法、装置及电子设备 Download PDFInfo
- Publication number
- CN111177378B CN111177378B CN201911329799.8A CN201911329799A CN111177378B CN 111177378 B CN111177378 B CN 111177378B CN 201911329799 A CN201911329799 A CN 201911329799A CN 111177378 B CN111177378 B CN 111177378B
- Authority
- CN
- China
- Prior art keywords
- corpus
- text
- mining
- ith
- word
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005065 mining Methods 0.000 title claims abstract description 176
- 238000000034 method Methods 0.000 title claims abstract description 29
- 238000009412 basement excavation Methods 0.000 claims abstract description 18
- 238000012545 processing Methods 0.000 claims description 32
- 238000013527 convolutional neural network Methods 0.000 claims description 19
- 230000015654 memory Effects 0.000 claims description 18
- 238000004458 analytical method Methods 0.000 claims description 3
- 230000007787 long-term memory Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 5
- 238000004590 computer program Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种文本挖掘方法、装置及电子设备,所述方法包括:从原始文本中获取第i挖掘文本;判断所述第i挖掘文本是否满足预设条件;若所述第i挖掘文本未满足预设条件,将所述第i挖掘文本作为原始文本获取第i+1挖掘文本;若所述第i挖掘文本满足预设条件,输出所述第i挖掘文本;其中,i为自然数,所述从原始文本中获取第i挖掘文本包括:根据预设匹配规则从原始文本中选取语料;根据所述语料与挖掘目标是否相关将所述语料分为相关语料和无关语料;将所述相关语料向量化处理,得到向量化语料;将所述向量化语料输入预设模型中得到第i挖掘文本。本发明具有操作简单,输出结果准确的优点。
Description
技术领域
本发明涉及互联网技术领域,具体而言,涉及一种文本挖掘方法、装置、电子设备及计算机可读介质。
背景技术
随着互联网技术的快速发展,网络信息呈爆炸式增长,这给基于海量信息的文本挖掘提供了良好的数据基础。现有文本挖掘主要是针对用户感兴趣的关键词进行挖掘,这些关键词主要是一些通用词,如人名、地名、企业名称等。而在一些特定的应用场景中,例如,挖掘出目标手机号码,并判断该目标手机号码是不是机主本人的手机号码,需要对这些通用词进行个性化处理,从而挖掘出满足个性化应用场景的文本,实现个性化的文本挖掘。
发明内容
本发明旨在解决现有技术只能挖掘到通用词,无法根据应用场景进行个性化文本挖掘的技术问题。
为了解决上述技术问题,本发明第一方面提出一种文本挖掘方法,所述方法包括:
从原始文本中获取第i挖掘文本;
判断所述第i挖掘文本是否满足预设条件;
若所述第i挖掘文本未满足预设条件,将所述第i挖掘文本作为原始文本获取第i+1挖掘文本;若所述第i挖掘文本满足预设条件,输出所述第i挖掘文本;
其中,i为自然数,所述从原始文本中获取第i挖掘文本包括:
根据预设匹配规则从原始文本中选取语料;
根据所述语料与挖掘目标是否相关将所述语料分为相关语料和无关语料;
将所述相关语料向量化处理,得到向量化语料;
将所述向量化语料输入预设模型中得到第i挖掘文本。
根据本发明一种优选的实施方式,所述根据所述语料与挖掘目标是否相关将所述语料分为相关语料和无关语料包括:
创建挖掘目标的关联词库;所述关联词库包含所述挖掘目标的同义词、近义词和用户自定义的挖掘目标关联词,
判断所述语料是否同时包含所述关联词库中用户自定义挖掘目标关联词和至少一个其他词语;
若所述语料同时包含所述关联词库中的用户自定义挖掘目标关联词和至少一个其他词语,标记所述语料为相关语料;若所述语料不同时包含关联词库中用户自定义挖掘目标关联词和至少一个其他词语,标记所述语料为无关语料。
根据本发明一种优选的实施方式,所述创建挖掘目标的关联词库包括:
分析所述挖掘目标的语义,根据所述挖掘目标的语义获取挖掘目标的同义词和近义词;
显示关联词输入界面,根据用户在所述关联词输入界面输入的个性化挖掘信息获取用户自定义的挖掘目标关联词。
根据本发明一种优选的实施方式,将所述相关语料通过词向量模型word2vec进行向量化处理。
根据本发明一种优选的实施方式,所述预设模型包括卷积神经网络模型CNN和长短期记忆网络模型LSTM,所述将所述向量化语料输入预设模型中得到第i挖掘文本包括:
将所述向量化语料输入CNN中,得到中间语料分类结果;
将所述中间语料分类结果输入LSTM中,LSTM输出有用语料和无用语料,将所述有用语料作为第i挖掘文本。
根据本发明一种优选的实施方式,所述预设匹配规则为预设正则匹配规则。
为了解决上述技术问题,本发明第二方面提供一种文本挖掘装置,所述装置包括:
文本挖掘模块,用于从原始文本中获取第i挖掘文本;
判断模块,用于判断所述第i挖掘文本是否满足预设条件;
处理模块,用于若所述第i挖掘文本未满足预设条件,将所述第i挖掘文本作为原始文本输入所述文本挖掘模块获取第i+1挖掘文本;若所述第i挖掘文本满足预设条件,输出所述第i挖掘文本;
其中,i为自然数,所述文本挖掘模块包括:
第一选取模块,用于根据预设匹配规则从原始文本中选取语料;
分类模块,用于根据所述语料与挖掘目标是否相关将所述语料分为相关语料和无关语料;
向量化模块,用于将所述相关语料向量化处理,得到向量化语料;
模型处理模块,用于将所述向量化语料输入预设模型中得到第i挖掘文本。
根据本发明一种优选的实施方式,所述分类模块包括:
创建模块,用于创建挖掘目标的关联词库;所述关联词库包含所述挖掘目标的同义词、近义词和用户自定义的挖掘目标关联词,
子判断模块,用于判断所述语料是否同时包含所述关联词库中用户自定义挖掘目标关联词和至少一个其他词语;
标记模块,用于若所述语料同时包含所述关联词库中的用户自定义挖掘目标关联词和至少一个其他词语,标记所述语料为相关语料;若所述语料不同时包含关联词库中用户自定义挖掘目标关联词和至少一个其他词语,标记所述语料为无关语料。
根据本发明一种优选的实施方式,所述创建模块包括:
第一获取模块,用于分析所述挖掘目标的语义,根据所述挖掘目标的语义获取挖掘目标的同义词和近义词;
第二获取模块,用于显示关联词输入界面,根据用户在所述关联词输入界面输入的个性化挖掘信息获取用户自定义的挖掘目标关联词。
根据本发明一种优选的实施方式,所述向量化模块具体用于将所述相关语料通过词向量模型word2vec进行向量化处理。
根据本发明一种优选的实施方式,所述预设模型包括卷积神经网络模型CNN和长短期记忆网络模型LSTM,所述模型处理模块包括:
第一处理模块,用于将所述向量化语料输入CNN中,得到中间语料分类结果;
第二处理模块,用于将所述中间语料分类结果输入LSTM中,LSTM输出有用语料和无用语料,将所述有用语料作为第i挖掘文本。
根据本发明一种优选的实施方式,所述预设匹配规则为预设正则匹配规则。
为了解决上述技术问题,本发明第三方面提供一种电子设备,包括:
处理器;以及
存储计算机可执行指令的存储器,所述计算机可执行指令在被执行时使所述处理器执行上述的方法。
为了解决上述技术问题,本发明第四方面提出一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,当所述一个或多个程序被处理器执行时,实现上述方法。
本发明从原始文本中迭代多次挖掘文本,直到挖掘文本满足预设条件时得到最终的挖掘文本,而在每一次的文本挖掘中,先根据预设匹配规则从原始文本中选取语料;通过挑选出与挖掘目标相关联的相关语料,完成个性化挖掘的基础,再将相关语料向量化处理并输入预设模型中,通过预设模型自主学习相关语料特征,将这个过程迭代多次,预设模型不断自主学习相关语料,最终输出用户想要的文本,从而实现个性化的文本挖掘。本发明具有操作简单,输出结果准确的优点。
附图说明
为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚,下面将参照附图详细描述本发明的具体实施例。但需声明的是,下面描述的附图仅仅是本发明的示例性实施例的附图,对于本领域的技术人员来讲,在不付出创造性劳动的前提下,可以根据这些附图获得其他实施例的附图。
图1是本发明一种文本挖掘方法的流程示意图;
图2是本发明根据语料与挖掘目标是否相关将语料分为相关语料和无关语料步骤的流程示意图;
图3a~3b是本发明创建挖掘目标的关联词库步骤的两种示意图;
图4是本发明文本挖掘装置的结构框架示意图;
图5是根据本发明的一种电子设备的示例性实施例的结构框图;
图6是本发明一个计算机可读介质实施例的示意图。
具体实施方式
现在将参考附图来更加全面地描述本发明的示例性实施例,虽然各示例性实施例能够以多种具体的方式实施,但不应理解为本发明仅限于在此阐述的实施例。相反,提供这些示例性实施例是为了使本发明的内容更加完整,更加便于将发明构思全面地传达给本领域的技术人员。
在符合本发明的技术构思的前提下,在某个特定的实施例中描述的结构、性能、效果或者其他特征可以以任何合适的方式结合到一个或更多其他的实施例中。
在对于具体实施例的介绍过程中,对结构、性能、效果或者其他特征的细节描述是为了使本领域的技术人员对实施例能够充分理解。但是,并不排除本领域技术人员可以在特定情况下,以不含有上述结构、性能、效果或者其他特征的技术方案来实施本发明。
附图中的流程图仅是一种示例性的流程演示,不代表本发明的方案中必须包括流程图中的所有的内容、操作和步骤,也不代表必须按照图中所显示的顺序执行。例如,流程图中有的操作/步骤可以分解,有的操作/步骤可以合并或部分合并,等等,在不脱离本发明的发明主旨的情况下,流程图中显示的执行顺序可以根据实际情况改变。
附图中的框图一般表示的是功能实体,并不一定必然与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
各附图中相同的附图标记表示相同或类似的元件、组件或部分,因而下文中可能省略了对相同或类似的元件、组件或部分的重复描述。还应理解,虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分,但是这些器件、元件、组件或部分不应受这些定语的限制。也就是说,这些定语仅是用来将一者与另一者区分。例如,第一器件亦可称为第二器件,但不偏离本发明实质的技术方案。此外,术语“和/或”、“及/或”是指包括所列出项目中的任一个或多个的所有组合。
如图1是本发明提供的一种文本挖掘方法的流程示意图;所述方法包括:
S1、从原始文本中获取第i挖掘文本;
本发明中,i为自然数,所述从原始文本中获取第i挖掘文本包括:
S11、根据预设匹配规则从原始文本中选取语料;
其中,所述预设匹配规则可以根据挖掘目标来设置,其具体可以通过正则匹配、python函数、模型学习等方式实现,本发明中通过预设正则匹配规则从原始文本中选取语料。其中,预设正则匹配规则的具体设置与挖掘目标相关,如挖掘目标是找到目标手机号码,并判断该手机号码是否是机主本人的,则通过预设正则匹配规则来选取原始文本中与目标手机号码相关的语料。若挖掘目标是特定的小额贷款公司,则通过预设正则匹配规则来选取原始文本中与小额贷款公司相关的语料。
S12、根据所述语料与挖掘目标是否相关将所述语料分为相关语料和无关语料;
显然,本步骤中需要判断语料与挖掘目标是否相关,在此,可以通过预先设置挖掘目标的关联词库来判断,如图2所示,本步骤具体包括:
S121、创建挖掘目标的关联词库;
本发明中,所述关联词库包含所述挖掘目标的同义词、近义词和用户自定义的挖掘目标关联词。则所述创建挖掘目标的关联词库包括:
S101、分析所述挖掘目标的语义,根据所述挖掘目标的语义获取挖掘目标的同义词和近义词;
示例性的,可以先接收用户输入的挖掘目标,如用户输入目标手机号码:1234567,或者,用户输入目标贷款公司,如“小于50万”和“贷款公司”。在接收到挖掘目标后,先对挖掘目标进行语义解析,再根据语义解析结果找到挖掘目标的同义词和近义词,将这些同义词和近义词存入本次文本挖掘的挖掘目标关联词库中。
S102、显示关联词输入界面,根据用户在所述关联词输入界面输入的个性化挖掘信息获取用户自定义的挖掘目标关联词。
本步骤中,可以通过关联词输入界面接收用户输入的个性化挖掘信息,所述个性化挖掘信息即为本次文本挖掘的个性化条件。如图3a,关联词输入界100包括挖掘目标输入框101和个性化挖掘信息输入框102,用户在挖掘目标输入框101中输入目标手机号码:1234567后,再次在个性化挖掘信息输入框102中输入“1234567”、“本人”,则表明本次文本挖掘目的是找到目标电话号码相关的文本,并判断目标电话号码是否是机主本人所有;在个性化挖掘信息输入框102中接收到“1234567”、“本人”时,通过第三方通信平台获取目标电话号码“1234567”的机主姓名,将目标电话号码“1234567”的机主姓名作为用户自定义的挖掘目标关联词存入本次文本挖掘的挖掘目标关联词库中。
或者,如图3b,关联词输入界面100包括挖掘目标输入框101和个性化挖掘信息输入框102,用户在挖掘目标输入框101中输入目标贷款公司,如“小于50万”和“贷款公司”后,用户再次在个性化挖掘信息输入框102中输入“北京”,则表明本次文本挖掘目的是找到在北京的贷款额小于50万的贷款公司相关的文本,在个性化挖掘信息输入框102中接收到“北京”时,将北京作为用户自定义的挖掘目标关联词存入本次文本挖掘的挖掘目标关联词库中。
S122、判断所述语料是否同时包含所述关联词库中用户自定义挖掘目标关联词和至少一个其他词语;
具体可以将语料分解为词语,对比整个语料中是否同时包含关联词库中用户自定义挖掘目标关联词和至少一个其他词语。
S123、若所述语料同时包含所述关联词库中的用户自定义挖掘目标关联词和至少一个其他词语,标记所述语料为相关语料;若所述语料不同时包含关联词库中用户自定义挖掘目标关联词和至少一个其他词语,标记所述语料为无关语料。
通过这种方式筛选出来的有用语料既包含了挖掘目标有包含了用户自定义的挖掘目标关联词,从而实现了个性化的文本挖掘。但经过这种处理的相关语料只是原始文本中挖掘目标的初步识别,还不是用户想要的文本,需要进一步通过模型训练和挖掘。
S13、将所述相关语料向量化处理,得到向量化语料;
将所述相关语料通过词向量模型word2vec进行向量化处理。
S14、将所述向量化语料输入预设模型中得到第i挖掘文本。
本发明中,所述预设模型包括卷积神经网络模型CNN和长短期记忆网络模型LSTM,所述将所述向量化语料输入预设模型中得到第i挖掘文本包括:
S141、将所述向量化语料输入CNN中,得到中间语料分类结果;
通过CNN模型将向量化的语料分为不同的类别。
S142、将所述中间语料分类结果输入LSTM中,LSTM输出有用语料和无用语料,将所述有用语料作为第i挖掘文本。
LSTM模型在其算法中加入了一个判断信息有用与否的“处理器”,这个处理器作用的结构被称为cell。一个cell中被放置了三扇门,分别叫做输入门、遗忘门和输出门。一个中间语料分类结果进入LSTM的网络当中,可以根据规则来判断是否有用。只有符合算法认证的信息才会留下作为有用语料,不符的算法认证信息的无用语料则通过遗忘门被遗忘。
S2、判断所述第i挖掘文本是否满足预设条件;
其中,预设条件可以根据实际的文本挖掘需要进行设置,例如可以将预设条件设为i=3,即将步骤S1迭代3次,输出第3次挖掘文本即可结束本次文本挖掘。
S3、若所述第i挖掘文本未满足预设条件,将所述第i挖掘文本作为原始文本获取第i+1挖掘文本;若所述第i挖掘文本满足预设条件,输出所述第i挖掘文本;
本步骤中,若所述第i挖掘文本未满足预设条件,将第i挖掘文本作为原始文本,重复步骤S1的方式获取第i+1挖掘文本。若所述第i挖掘文本满足预设条件,输出所述第i挖掘文本即可。
本发明根据用户输入的挖掘目标和用户自定义挖掘目标关联词筛选出满足用户个性化挖掘的有用语料,将有用语料向量化处理后,再通过预设模型进行自主学习,经过多次迭代的模型学习后输出尽量接近用户个性化需求的挖掘文本,满足个性化挖掘的需求。
图4是本发明一种文本挖掘装置的结构框架示意图,如图4所示,所述装置包括:文本挖掘模块41,判断模块42和处理模块43;其中:
文本挖掘模块41,用于从原始文本中获取第i挖掘文本;
判断模块42,用于判断所述第i挖掘文本是否满足预设条件;
处理模块43,用于若所述第i挖掘文本未满足预设条件,将所述第i挖掘文本作为原始文本输入所述文本挖掘模块41获取第i+1挖掘文本;若所述第i挖掘文本满足预设条件,输出所述第i挖掘文本;
其中,i为自然数,所述文本挖掘模块41包括:
第一选取模块411,用于根据预设匹配规则从原始文本中选取语料;其中,所述预设匹配规则为预设正则匹配规则。
分类模块412,用于根据所述语料与挖掘目标是否相关将所述语料分为相关语料和无关语料;
向量化模块413,用于将所述相关语料向量化处理,得到向量化语料;
模型处理模块414,用于将所述向量化语料输入预设模型中得到第i挖掘文本。
在一种实施方式中,所述关联词库包含所述挖掘目标的同义词、近义词和用户自定义的挖掘目标关联词,所述分类模块412包括:
创建模块,用于创建挖掘目标的关联词库;
子判断模块,用于判断所述语料是否同时包含所述关联词库中用户自定义挖掘目标关联词和至少一个其他词语;
标记模块,用于若所述语料同时包含所述关联词库中的用户自定义挖掘目标关联词和至少一个其他词语,标记所述语料为相关语料;若所述语料不同时包含关联词库中用户自定义挖掘目标关联词和至少一个其他词语,标记所述语料为无关语料。
所述创建模块包括:
第一获取模块,用于分析所述挖掘目标的语义,根据所述挖掘目标的语义获取挖掘目标的同义词和近义词;
第二获取模块,用于显示关联词输入界面,根据用户在所述关联词输入界面输入的个性化挖掘信息获取用户自定义的挖掘目标关联词。
所述向量化模块413具体用于将所述相关语料通过词向量模型word2vec进行向量化处理。
在一种实施方式中,所述预设模型包括卷积神经网络模型CNN和长短期记忆网络模型LSTM,所述模型处理模块414包括:
第一处理模块,用于将所述向量化语料输入CNN中,得到中间语料分类结果;
第二处理模块,用于将所述中间语料分类结果输入LSTM中,LSTM输出有用语料和无用语料,将所述有用语料作为第i挖掘文本。
本领域技术人员可以理解,上述装置实施例中的各模块可以按照描述分布于装置中,也可以进行相应变化,分布于不同于上述实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
下面描述本发明的电子设备实施例,该电子设备可以视为对于上述本发明的方法和装置实施例的实体形式的实施方式。对于本发明电子设备实施例中描述的细节,应视为对于上述方法或装置实施例的补充;对于在本发明电子设备实施例中未披露的细节,可以参照上述方法或装置实施例来实现。
图5是根据本发明的一种电子设备的示例性实施例的结构框图。图5显示的电子设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,该示例性实施例的电子设备500以通用数据处理设备的形式表现。电子设备500的组件可以包括但不限于:至少一个处理单元510、至少一个存储单元520、连接不同电子设备组件(包括存储单元520和处理单元510)的总线530、显示单元540等。
其中,所述存储单元520存储有计算机可读程序,其可以是源程序或都只读程序的代码。所述程序可以被处理单元510执行,使得所述处理单元510执行本发明各种实施方式的步骤。例如,所述处理单元510可以执行如图1所示的步骤。
所述存储单元520可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)5201和/或高速缓存存储单元5202,还可以进一步包括只读存储单元(ROM)5203。所述存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具5204,这样的程序模块5205包括但不限于:操作电子设备、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备500也可以与一个或多个外部设备300(例如键盘、显示器、网络设备、蓝牙设备等)通信,使得用户能经由这些外部设备500与该电子设备500交互,和/或使得该电子设备500能与一个或多个其它数据处理设备(例如路由器、调制解调器等等)进行通信。这种通信可以通过输入/输出(I/O)接口550进行,还可以通过网络适配器560与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)进行。网络适配器560可以通过总线530与电子设备500的其它模块通信。应当明白,尽管图5中未示出,电子设备500中可使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID电子设备、磁带驱动器以及数据备份存储电子设备等。
图6是本发明的一个计算机可读介质实施例的示意图。如图6所示,所述计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的电子设备、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。当所述计算机程序被一个或多个数据处理设备执行时,使得该计算机可读介质能够实现本发明的上述方法,即:从原始文本中获取第i挖掘文本;判断所述第i挖掘文本是否满足预设条件,若所述第i挖掘文本未满足预设条件,将所述第i挖掘文本作为原始文本获取第i+1挖掘文本;若所述第i挖掘文本满足预设条件时,输出所述第i挖掘文本;其中,i为自然数,所述从原始文本中获取第i挖掘文本包括:根据预设匹配规则从原始文本中选取语料;根据所述语料与挖掘目标是否相关将所述语料分为相关语料和无关语料;将所述相关语料向量化处理,得到向量化语料;将所述向量化语料输入预设模型中得到第i挖掘文本。
通过以上的实施方式的描述,本领域的技术人员易于理解,本发明描述的示例性实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个计算机可读的存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台数据处理设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行电子设备、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述,本发明可以执行计算机程序的方法、装置、电子设备或计算机可读介质来实现。可以在实践中使用微处理器或者数字信号处理器(DSP)等通用数据处理设备来实现本发明的一些或者全部功能。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详细说明,应理解的是,本发明不与任何特定计算机、虚拟装置或者电子设备固有相关,各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (12)
1.一种文本挖掘方法,其特征在于,所述方法包括:
从原始文本中获取第i挖掘文本;
判断所述第i挖掘文本是否满足预设条件;
若所述第i挖掘文本未满足预设条件,将所述第i挖掘文本作为原始文本获取第i+1挖掘文本;若所述第i挖掘文本满足预设条件,输出所述第i挖掘文本;
其中,i为自然数,所述从原始文本中获取第i挖掘文本包括:
根据预设匹配规则从原始文本中选取语料;
创建挖掘目标的关联词库;所述关联词库包含所述挖掘目标的同义词、近义词和用户自定义的挖掘目标关联词;
判断所述语料是否同时包含所述关联词库中用户自定义的挖掘目标关联词和至少一个其他词语;
若所述语料同时包含所述关联词库中的用户自定义的挖掘目标关联词和至少一个其他词语,标记所述语料为相关语料;若所述语料不同时包含关联词库中用户自定义的挖掘目标关联词和至少一个其他词语,标记所述语料为无关语料;
将所述相关语料向量化处理,得到向量化语料;
将所述向量化语料输入预设模型中得到第i挖掘文本。
2.根据权利要求1所述的方法,其特征在于,所述创建挖掘目标的关联词库包括:
分析所述挖掘目标的语义,根据所述挖掘目标的语义获取挖掘目标的同义词和近义词;
显示关联词输入界面,根据用户在所述关联词输入界面输入的个性化挖掘信息获取用户自定义的挖掘目标关联词。
3.根据权利要求1所述的方法,其特征在于,将所述相关语料通过词向量模型word2vec进行向量化处理。
4.根据权利要求1所述的方法,其特征在于,所述预设模型包括卷积神经网络模型CNN和长短期记忆网络模型LSTM,所述将所述向量化语料输入预设模型中得到第i挖掘文本包括:
将所述向量化语料输入CNN中,得到中间语料分类结果;
将所述中间语料分类结果输入LSTM中,LSTM输出有用语料和无用语料,将所述有用语料作为第i挖掘文本。
5.根据权利要求1所述的方法,其特征在于,所述预设匹配规则为预设正则匹配规则。
6.一种文本挖掘装置,其特征在于,所述装置包括:
文本挖掘模块,用于从原始文本中获取第i挖掘文本;
判断模块,判断所述第i挖掘文本是否满足预设条件;
处理模块,若所述第i挖掘文本未满足预设条件,将所述第i挖掘文本作为原始文本输入所述文本挖掘模块获取第i+1挖掘文本;若所述第i挖掘文本满足预设条件,输出所述第i挖掘文本;
其中,i为自然数,所述文本挖掘模块包括:
第一选取模块,用于根据预设匹配规则从原始文本中选取语料;
创建模块,用于创建挖掘目标的关联词库;所述关联词库包含所述挖掘目标的同义词、近义词和用户自定义的挖掘目标关联词,
子判断模块,用于判断所述语料是否同时包含所述关联词库中用户自定义的挖掘目标关联词和至少一个其他词语;
标记模块,用于若所述语料同时包含所述关联词库中的用户自定义的挖掘目标关联词和至少一个其他词语,标记所述语料为相关语料;若所述语料不同时包含关联词库中用户自定义的挖掘目标关联词和至少一个其他词语,标记所述语料为无关语料;
向量化模块,用于将所述相关语料向量化处理,得到向量化语料;
模型处理模块,用于将所述向量化语料输入预设模型中得到第i挖掘文本。
7.根据权利要求6所述的装置,其特征在于,所述创建模块包括:
分析模块,用于分析所述挖掘目标的语义,根据所述挖掘目标的语义获取挖掘目标的同义词和近义词;
显示模块,用于显示关联词输入界面,根据用户在所述关联词输入界面输入的个性化挖掘信息获取用户自定义的挖掘目标关联词。
8.根据权利要求6所述的装置,其特征在于,将所述相关语料通过词向量模型word2vec进行向量化处理。
9.根据权利要求6所述的装置,其特征在于,所述预设模型包括卷积神经网络模型CNN和长短期记忆网络模型LSTM,所述模型处理模块包括:
第一输入模块,用于将所述向量化语料输入CNN中,得到中间语料分类结果;
第二输入模块,用于将所述中间语料分类结果输入LSTM中,LSTM输出有用语料和无用语料,将所述有用语料作为第i挖掘文本。
10.根据权利要求6所述的装置,其特征在于,所述预设匹配规则为预设正则匹配规则。
11.一种电子设备,包括:
处理器;以及
存储计算机可执行指令的存储器,所述计算机可执行指令在被执行时使所述处理器执行根据权利要求1-5中任一项所述的方法。
12.一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,当所述一个或多个程序被处理器执行时,实现权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911329799.8A CN111177378B (zh) | 2019-12-20 | 2019-12-20 | 一种文本挖掘方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911329799.8A CN111177378B (zh) | 2019-12-20 | 2019-12-20 | 一种文本挖掘方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111177378A CN111177378A (zh) | 2020-05-19 |
CN111177378B true CN111177378B (zh) | 2023-09-26 |
Family
ID=70650372
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911329799.8A Active CN111177378B (zh) | 2019-12-20 | 2019-12-20 | 一种文本挖掘方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111177378B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113157788B (zh) * | 2021-04-13 | 2024-02-13 | 福州外语外贸学院 | 大数据挖掘方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108804512A (zh) * | 2018-04-20 | 2018-11-13 | 平安科技(深圳)有限公司 | 文本分类模型的生成装置、方法及计算机可读存储介质 |
CN110399455A (zh) * | 2019-06-05 | 2019-11-01 | 福建奇点时空数字科技有限公司 | 一种基于cnn和lstm的深度学习数据挖掘方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150347570A1 (en) * | 2014-05-28 | 2015-12-03 | General Electric Company | Consolidating vocabulary for automated text processing |
WO2019133570A1 (en) * | 2017-12-26 | 2019-07-04 | Lexisnexis, A Division Of Reed Elsevier Inc. | Systems, methods and computer program products for mining text documents to identify seminal issues and cases |
-
2019
- 2019-12-20 CN CN201911329799.8A patent/CN111177378B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108804512A (zh) * | 2018-04-20 | 2018-11-13 | 平安科技(深圳)有限公司 | 文本分类模型的生成装置、方法及计算机可读存储介质 |
CN110399455A (zh) * | 2019-06-05 | 2019-11-01 | 福建奇点时空数字科技有限公司 | 一种基于cnn和lstm的深度学习数据挖掘方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111177378A (zh) | 2020-05-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110163478B (zh) | 一种合同条款的风险审查方法及装置 | |
US11468342B2 (en) | Systems and methods for generating and using knowledge graphs | |
CN109325121B (zh) | 用于确定文本的关键词的方法和装置 | |
CN107102993B (zh) | 一种用户诉求分析方法和装置 | |
US9336207B2 (en) | Measuring linguistic markers and linguistic noise of a machine-human translation supply chain | |
CN116663525B (zh) | 一种文档审核方法、装置、设备及存储介质 | |
CN110162771A (zh) | 事件触发词的识别方法、装置、电子设备 | |
CN110941951A (zh) | 文本相似度计算方法、装置、介质及电子设备 | |
CN111783450A (zh) | 语料文本中的短语提取方法、装置、存储介质及电子设备 | |
CN115098556A (zh) | 用户需求匹配方法、装置、电子设备及存储介质 | |
US20230297784A1 (en) | Automated decision modelling from text | |
CN117807482B (zh) | 海关报关单的分类方法、装置、设备及存储介质 | |
CN111177378B (zh) | 一种文本挖掘方法、装置及电子设备 | |
CN111241273A (zh) | 文本数据分类方法、装置、电子设备及计算机可读介质 | |
CN110929499B (zh) | 文本相似度获取方法、装置、介质及电子设备 | |
CN112989050A (zh) | 一种表格分类方法、装置、设备及存储介质 | |
CN113569578B (zh) | 一种用户意图识别方法、装置和计算机设备 | |
CN116048463A (zh) | 基于标签管理的需求项内容智能推荐方法及装置 | |
CN116167382A (zh) | 意图事件提取方法及装置、电子设备、存储介质 | |
CN115470790A (zh) | 一种识别文件中的命名实体的方法和装置 | |
US11675980B2 (en) | Bias identification and correction in text documents | |
CN115620726A (zh) | 语音文本生成方法、语音文本生成模型的训练方法、装置 | |
US11487938B2 (en) | Methods and systems for improving language processing for ambiguous instances | |
CN114490946A (zh) | 基于Xlnet模型的类案检索方法、系统及设备 | |
CN114064859A (zh) | 知识抽取方法、装置、设备、介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |