CN107423285A - 一种基于文本规则的公司简称识别方法及系统 - Google Patents
一种基于文本规则的公司简称识别方法及系统 Download PDFInfo
- Publication number
- CN107423285A CN107423285A CN201710486058.5A CN201710486058A CN107423285A CN 107423285 A CN107423285 A CN 107423285A CN 201710486058 A CN201710486058 A CN 201710486058A CN 107423285 A CN107423285 A CN 107423285A
- Authority
- CN
- China
- Prior art keywords
- company
- abbreviation
- text
- full name
- rule
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/31—Indexing; Data structures therefor; Storage structures
- G06F16/313—Selection or weighting of terms for indexing
Abstract
本发明公开了一种基于文本规则的公司简称识别方法及系统,方法包括:根据需要识别的公司全称,通过对应的上市公司公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析;根据需要识别的公司全称,通过网络搜索进行简称识别。系统包括公告文本分析单元和搜索分析单元。本发明通过公告文本挖掘和网络搜索规则相结合的方式进行简称识别,从而在保证中文公司简称准确率的同时,大大提高了查全率,有效提升识别效果。本发明可广泛应用于识别领域中。
Description
技术领域
本发明涉及识别处理领域,尤其涉及一种基于文本规则的公司简称识别方法及系统。
背景技术
由于中文公司名称命名的用字规律不强,使用比较随意,经常以简称的形式出现,如“中国银行股份有限公司”经常以简称的形式出现,如“中国银行”或“中行”,这为公司名的识别、应用带来了困难。
目前市面并没有一套可以能查全率比较高的简称识别方法。一般中文公司简称识别的难点在于,在不同领域和场景下,命名简称的外延有差异,名称变化频繁,并且没有严格的规律可以遵循,表达形式多样,而且在中文文本的处理中,由于中文分词效果很容易影响识别效果,导致识别准确率较低。
发明内容
为了解决上述技术问题,本发明的目的提供是一种能提高识别准确率,基于文本规则的公司简称识别方法及系统。
本发明所采取的技术方案是:
一种基于文本规则的公司简称识别方法,包括以下步骤:
根据需要识别的公司全称,通过对应的上市公司公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析;
根据需要识别的公司全称,通过网络搜索进行简称识别。
作为所述的一种基于文本规则的公司简称识别方法的进一步改进,所述的根据需要识别的公司全称,通过对应的证券公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析,这一步骤具体包括:
根据需要识别的公司全称,加载该公司的上市公司公告资讯文本;
从上市公司公告资讯文本中抽取含有该公司全称的句子和段落,得到抽取样本;
从抽取样本中根据预设的抽取规则进行简称抽取,并从上市公司公告资讯文本中根据预设的表格特征进行简称抽取,得到若干的待检测简称;
判断待检测简称是否有效,若是,则结束识别过程;反之,则继续识别过程。
作为所述的一种基于文本规则的公司简称识别方法的进一步改进,所述根据需要识别的公司全称,通过网络搜索进行简称识别,这一步骤具体包括:
根据需要识别的公司全称,结合预设的搜索规则进行网络搜索,得到网络搜索结果;
对网络搜索结果进行分析,对每项网络搜索结果的摘要进行抽取;
根据预设的抽取规则,对得到的摘要进行简称抽取,得到若干的待测公司简称;
对待测公司简称进行数据清洗,得到并保存清洗后的公司简称。
本发明所采用的另一技术方案是:
一种基于文本规则的公司简称识别系统,包括:
公告文本分析单元,用于根据需要识别的公司全称,通过对应的上市公司公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析;
搜索分析单元,用于根据需要识别的公司全称,通过网络搜索进行简称识别。
作为所述的一种基于文本规则的公司简称识别系统的进一步改进,所述公告文本分析单元具体包括:
公告加载单元,用于根据需要识别的公司全称,加载该公司的上市公司公告资讯文本;
样本抽取单元,用于从上市公司公告资讯文本中抽取含有该公司全称的句子和段落,得到抽取样本;
简称抽取单元,用于从抽取样本中根据预设的抽取规则进行简称抽取,并从上市公司公告资讯文本中根据预设的表格特征进行简称抽取,得到若干的待检测简称;
简称检测单元,用于判断待检测简称是否有效,若是,则结束识别过程;反之,则继续识别过程。
作为所述的一种基于文本规则的公司简称识别系统的进一步改进,所述搜索分析单元具体包括:
搜索单元,用于根据需要识别的公司全称,结合预设的搜索规则进行网络搜索,得到网络搜索结果;
摘要抽取单元,用于对网络搜索结果进行分析,对每项网络搜索结果的摘要进行抽取;
简称分析单元,用于根据预设的抽取规则,对得到的摘要进行简称抽取,得到若干的待测公司简称;
数据清洗单元,用于对待测公司简称进行数据清洗,得到并保存清洗后的公司简称。
本发明的有益效果是:
本发明一种基于文本规则的公司简称识别方法及系统通过公告文本挖掘和网络搜索规则相结合的方式进行简称识别,从而在保证中文公司简称准确率的同时,大大提高了查全率,有效提升识别效果。
附图说明
下面结合附图对本发明的具体实施方式作进一步说明:
图1是本发明一种基于文本规则的公司简称识别方法的步骤流程图;
图2是本发明一种基于文本规则的公司简称识别方法中公告文本分析的步骤流程图;
图3是本发明一种基于文本规则的公司简称识别方法中搜索分析的步骤流程图;
图4是本发明一种基于文本规则的公司简称识别系统的模块方框图。
具体实施方式
参考图1,本发明一种基于文本规则的公司简称识别方法,包括以下步骤:
根据需要识别的公司全称,通过对应的上市公司公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析;
根据需要识别的公司全称,通过网络搜索进行简称识别。
参考图2,进一步作为优选的实施方式,所述的根据需要识别的公司全称,通过对应的证券公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析,这一步骤具体包括:
根据需要识别的公司全称,加载该公司的上市公司公告资讯文本;
从上市公司公告资讯文本中抽取含有该公司全称的句子和段落,得到抽取样本;
从抽取样本中根据预设的抽取规则进行简称抽取,并从上市公司公告资讯文本中根据预设的表格特征进行简称抽取,得到若干的待检测简称;
判断待检测简称是否有效,若是,则结束识别过程;反之,则继续识别过程。
参考图3,进一步作为优选的实施方式,所述根据需要识别的公司全称,通过网络搜索进行简称识别,这一步骤具体包括:
根据需要识别的公司全称,结合预设的搜索规则进行网络搜索,得到网络搜索结果;
对网络搜索结果进行分析,对每项网络搜索结果的摘要进行抽取;
根据预设的抽取规则,对得到的摘要进行简称抽取,得到若干的待测公司简称;
对待测公司简称进行数据清洗,得到并保存清洗后的公司简称。
本实施例中,所述抽取规则为中文分词和上下文特征规则,对中文公司简称分析发现其构成与全称之间存在一定关系,并且在文本语法有一定的规则。
中文分词为对公司全称进行分词,提取文本中每个N元组(N-gram)作为候选的公司简称,然后建立N元组与每个全称的最优对齐关系,然后对其进行评价筛选,所通过筛选的简称,再进行一次百度搜索认证,确定简称的真实性。
对于文本挖掘识别不到简称的公司全称,进行基于规则的百度搜索识别方法。某句子出现“某某有限公司(以下简称‘某某简称’)”,或者“某某有限公司(简称‘某某简称’)”,利用互联网的庞大资讯数据网,有效地增加简称的查全率。
本发明具体实施例如下:
S01、加载需要识别的公司全称;
S02、根据需要识别的公司全称,加载该公司的上市公司公告资讯文本;
S03、对每一篇上市公司公告资讯文本(记为Artitle_1),在Artitle_1中抽取出现全称的句子、段落(记为Sect_1);
S04、通过中文分词、上下文规则特征对Sect_1进行抽取简称
S05、在Artitle_1中,抽取表格形式的文本块(记为table_1),对table_1进行基于表格特征的简称抽取;
S06、判断待检测简称是否有效,若是,则结束识别过程;反之,则继续识别过程;
S07、根据需要识别的公司全称,结合预设的搜索规则(例如“某某简称以下简称”)去百度网页搜索;例如识别全称为“中国银行股份有限公司”简称时,百度网页搜索“中国银行股份有限公司以下简称”,搜索结果内容记为BaiduSearch_1;
S08、解析百度搜索结果,分析BaiduSearch_1,抽取出每一个搜索结果的摘要,记为searchItem_1;
S09、抽取简称,通过抽取规则在searchItem_1抽取出简称名称;
S10、简称数据清洗,保存识别后的简称。
参考图4,本发明一种基于文本规则的公司简称识别系统,包括:
公告文本分析单元,用于根据需要识别的公司全称,通过对应的上市公司公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析;
搜索分析单元,用于根据需要识别的公司全称,通过网络搜索进行简称识别。
进一步作为优选的实施方式,所述公告文本分析单元具体包括:
公告加载单元,用于根据需要识别的公司全称,加载该公司的上市公司公告资讯文本;
样本抽取单元,用于从上市公司公告资讯文本中抽取含有该公司全称的句子和段落,得到抽取样本;
简称抽取单元,用于从抽取样本中根据预设的抽取规则进行简称抽取,并从上市公司公告资讯文本中根据预设的表格特征进行简称抽取,得到若干的待检测简称;
简称检测单元,用于判断待检测简称是否有效,若是,则结束识别过程;反之,则继续识别过程。
进一步作为优选的实施方式,所述搜索分析单元具体包括:
搜索单元,用于根据需要识别的公司全称,结合预设的搜索规则进行网络搜索,得到网络搜索结果;
摘要抽取单元,用于对网络搜索结果进行分析,对每项网络搜索结果的摘要进行抽取;
简称分析单元,用于根据预设的抽取规则,对得到的摘要进行简称抽取,得到若干的待测公司简称;
数据清洗单元,用于对待测公司简称进行数据清洗,得到并保存清洗后的公司简称。
从上述内容可知,本发明一种基于文本规则的公司简称识别方法及系统通过公告文本挖掘和网络搜索规则相结合的方式进行简称识别,从而在保证中文公司简称准确率的同时,大大提高了查全率,有效提升识别效果。
以上是对本发明的较佳实施进行了具体说明,但本发明创造并不限于所述实施例,熟悉本领域的技术人员在不违背本发明精神的前提下还可做作出种种的等同变形或替换,这些等同的变形或替换均包含在本申请权利要求所限定的范围内。
Claims (6)
1.一种基于文本规则的公司简称识别方法,其特征在于,包括以下步骤:
根据需要识别的公司全称,通过对应的上市公司公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析;
根据需要识别的公司全称,通过网络搜索进行简称识别。
2.根据权利要求1所述的一种基于文本规则的公司简称识别方法,其特征在于:
所述的根据需要识别的公司全称,通过对应的证券公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析,这一步骤具体包括:
根据需要识别的公司全称,加载该公司的上市公司公告资讯文本;
从上市公司公告资讯文本中抽取含有该公司全称的句子和段落,得到抽取样本;
从抽取样本中根据预设的抽取规则进行简称抽取,并从上市公司公告资讯文本中根据预设的表格特征进行简称抽取,得到若干的待检测简称;
判断待检测简称是否有效,若是,则结束识别过程;反之,则继续识别过程。
3.根据权利要求1所述的一种基于文本规则的公司简称识别方法,其特征在于:
所述根据需要识别的公司全称,通过网络搜索进行简称识别,这一步骤具体包括:
根据需要识别的公司全称,结合预设的搜索规则进行网络搜索,得到网络搜索结果;
对网络搜索结果进行分析,对每项网络搜索结果的摘要进行抽取;
根据预设的抽取规则,对得到的摘要进行简称抽取,得到若干的待测公司简称;
对待测公司简称进行数据清洗,得到并保存清洗后的公司简称。
4.一种基于文本规则的公司简称识别系统,其特征在于,包括:
公告文本分析单元,用于根据需要识别的公司全称,通过对应的上市公司公告文本进行简称抽取,得到待检测简称,并对待检测简称进行有效性分析;
搜索分析单元,用于根据需要识别的公司全称,通过网络搜索进行简称识别。
5.根据权利要求4所述的一种基于文本规则的公司简称识别系统,其特征在于:
所述公告文本分析单元具体包括:
公告加载单元,用于根据需要识别的公司全称,加载该公司的上市公司公告资讯文本;
样本抽取单元,用于从上市公司公告资讯文本中抽取含有该公司全称的句子和段落,得到抽取样本;
简称抽取单元,用于从抽取样本中根据预设的抽取规则进行简称抽取,并从上市公司公告资讯文本中根据预设的表格特征进行简称抽取,得到若干的待检测简称;
简称检测单元,用于判断待检测简称是否有效,若是,则结束识别过程;反之,则继续识别过程。
6.根据权利要求4所述的一种基于文本规则的公司简称识别系统,其特征在于:
所述搜索分析单元具体包括:
搜索单元,用于根据需要识别的公司全称,结合预设的搜索规则进行网络搜索,得到网络搜索结果;
摘要抽取单元,用于对网络搜索结果进行分析,对每项网络搜索结果的摘要进行抽取;
简称分析单元,用于根据预设的抽取规则,对得到的摘要进行简称抽取,得到若干的待测公司简称;
数据清洗单元,用于对待测公司简称进行数据清洗,得到并保存清洗后的公司简称。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710486058.5A CN107423285B (zh) | 2017-06-23 | 2017-06-23 | 一种基于文本规则的公司简称识别方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710486058.5A CN107423285B (zh) | 2017-06-23 | 2017-06-23 | 一种基于文本规则的公司简称识别方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107423285A true CN107423285A (zh) | 2017-12-01 |
CN107423285B CN107423285B (zh) | 2020-08-28 |
Family
ID=60427279
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710486058.5A Active CN107423285B (zh) | 2017-06-23 | 2017-06-23 | 一种基于文本规则的公司简称识别方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107423285B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108460014A (zh) * | 2018-02-07 | 2018-08-28 | 百度在线网络技术(北京)有限公司 | 企业实体的识别方法、装置、计算机设备及存储介质 |
CN108460016A (zh) * | 2018-02-09 | 2018-08-28 | 中云开源数据技术(上海)有限公司 | 一种实体名称分析识别方法 |
CN110096571A (zh) * | 2019-04-10 | 2019-08-06 | 北京明略软件系统有限公司 | 一种机构名简称生成方法和装置、计算机可读存储介质 |
CN111695340A (zh) * | 2020-06-16 | 2020-09-22 | 深圳前海微众银行股份有限公司 | 一种简称提取方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150205807A1 (en) * | 2012-08-13 | 2015-07-23 | Commvault Systems, Inc | Lightweight mounting of a secondary copy of file system data |
CN105045847A (zh) * | 2015-07-01 | 2015-11-11 | 广州市万隆证券咨询顾问有限公司 | 一种从文本信息中提取中文机构单位名称的方法 |
CN105975455A (zh) * | 2016-05-03 | 2016-09-28 | 成都数联铭品科技有限公司 | 基于双向递归神经网络的信息分析系统 |
CN105975555A (zh) * | 2016-05-03 | 2016-09-28 | 成都数联铭品科技有限公司 | 一种基于双向递归神经网络的企业简称提取方法 |
CN106066856A (zh) * | 2016-05-24 | 2016-11-02 | 北京工商大学 | 一种基于编辑距离以及词频和词向量的实体关系识别方法 |
-
2017
- 2017-06-23 CN CN201710486058.5A patent/CN107423285B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150205807A1 (en) * | 2012-08-13 | 2015-07-23 | Commvault Systems, Inc | Lightweight mounting of a secondary copy of file system data |
CN105045847A (zh) * | 2015-07-01 | 2015-11-11 | 广州市万隆证券咨询顾问有限公司 | 一种从文本信息中提取中文机构单位名称的方法 |
CN105975455A (zh) * | 2016-05-03 | 2016-09-28 | 成都数联铭品科技有限公司 | 基于双向递归神经网络的信息分析系统 |
CN105975555A (zh) * | 2016-05-03 | 2016-09-28 | 成都数联铭品科技有限公司 | 一种基于双向递归神经网络的企业简称提取方法 |
CN106066856A (zh) * | 2016-05-24 | 2016-11-02 | 北京工商大学 | 一种基于编辑距离以及词频和词向量的实体关系识别方法 |
Non-Patent Citations (1)
Title |
---|
穆一夫: "基于认知的非结构化信息抽取关键技术与算法研究", 《中国博士学位论文全文数据库信息科技辑》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108460014A (zh) * | 2018-02-07 | 2018-08-28 | 百度在线网络技术(北京)有限公司 | 企业实体的识别方法、装置、计算机设备及存储介质 |
CN108460014B (zh) * | 2018-02-07 | 2022-02-25 | 百度在线网络技术(北京)有限公司 | 企业实体的识别方法、装置、计算机设备及存储介质 |
CN108460016A (zh) * | 2018-02-09 | 2018-08-28 | 中云开源数据技术(上海)有限公司 | 一种实体名称分析识别方法 |
CN110096571A (zh) * | 2019-04-10 | 2019-08-06 | 北京明略软件系统有限公司 | 一种机构名简称生成方法和装置、计算机可读存储介质 |
CN110096571B (zh) * | 2019-04-10 | 2021-06-08 | 北京明略软件系统有限公司 | 一种机构名简称生成方法和装置、计算机可读存储介质 |
CN111695340A (zh) * | 2020-06-16 | 2020-09-22 | 深圳前海微众银行股份有限公司 | 一种简称提取方法及装置 |
CN111695340B (zh) * | 2020-06-16 | 2021-12-28 | 深圳前海微众银行股份有限公司 | 一种简称提取方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN107423285B (zh) | 2020-08-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10679051B2 (en) | Method and apparatus for extracting information | |
CN107423285A (zh) | 一种基于文本规则的公司简称识别方法及系统 | |
CN105956180B (zh) | 一种敏感词过滤方法 | |
US20170053031A1 (en) | Information forecast and acquisition method based on webpage link parameter analysis | |
CN103577755A (zh) | 一种基于支持向量机的恶意脚本静态检测方法 | |
CN105550583A (zh) | 基于随机森林分类方法的Android平台恶意应用检测方法 | |
CN107153716B (zh) | 网页内容提取方法和装置 | |
CN111310476B (zh) | 一种使用基于方面的情感分析方法的舆情监控方法和系统 | |
CN108363701B (zh) | 命名实体识别方法及系统 | |
CN103309862A (zh) | 一种网页类型识别方法和系统 | |
CN111460446A (zh) | 基于模型的恶意文件检测方法及装置 | |
CN113141360B (zh) | 网络恶意攻击的检测方法和装置 | |
CN111079408B (zh) | 一种语种识别方法、装置、设备及存储介质 | |
CN112749284A (zh) | 知识图谱构建方法、装置、设备及存储介质 | |
CN106951782A (zh) | 一种面向安卓应用的恶意代码检测方法 | |
CN109918648B (zh) | 一种基于动态滑动窗口特征评分的谣言深度检测方法 | |
CN109033203A (zh) | 一种面向大数据的特征提取并行处理方法 | |
CN111078979A (zh) | 一种基于ocr和文本处理技术识别网贷网站的方法及系统 | |
CN107451120B (zh) | 一种公开文本情报的内容冲突检测方法及系统 | |
CN114385775A (zh) | 一种基于大数据的敏感词识别方法 | |
CN109284465B (zh) | 一种基于url的网页分类器构建方法及其分类方法 | |
CN107145591A (zh) | 一种基于标题的网页有效元数据内容提取方法 | |
Branz et al. | Sentiment analysis of twitter data: towards filtering, analyzing and interpreting social network data | |
CN112183093A (zh) | 一种企业舆情分析方法、装置、设备及可读存储介质 | |
CN111581478A (zh) | 一种特定主体的跨网站通用新闻采集方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |