CN105975555A - 一种基于双向递归神经网络的企业简称提取方法 - Google Patents

一种基于双向递归神经网络的企业简称提取方法 Download PDF

Info

Publication number
CN105975555A
CN105975555A CN201610285157.2A CN201610285157A CN105975555A CN 105975555 A CN105975555 A CN 105975555A CN 201610285157 A CN201610285157 A CN 201610285157A CN 105975555 A CN105975555 A CN 105975555A
Authority
CN
China
Prior art keywords
word
enterprise
prime
leftarrow
rightarrow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610285157.2A
Other languages
English (en)
Inventor
刘世林
何宏靖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu Business Big Data Technology Co Ltd
Original Assignee
Chengdu Business Big Data Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu Business Big Data Technology Co Ltd filed Critical Chengdu Business Big Data Technology Co Ltd
Priority to CN201610285157.2A priority Critical patent/CN105975555A/zh
Publication of CN105975555A publication Critical patent/CN105975555A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/332Query formulation
    • G06F16/3325Reformulation based on results of preceding query
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Machine Translation (AREA)

Abstract

本发明涉及自然语言处理领域,特别涉及一种基于双向递归神经网络的企业简称提取方法,本发明通过分词处理将待处理文本序列化,并选取一定数量待处理文本进行人工标注,将其中的企业名称分段标注为:开始部分、关键字部分、行业部分和组织形式部分,将企业名称以外的数据标注为无关部分,将标注后的训练样本输入双向递归神经网络中训练所述双向递归神经网络,经过所述双向递归神经网络的预测,将其中属于企业名称的字词序列提取出来,进一步的提取出属于名称关键字部分的字段作为企业的简称,建立相应的企业简称数据库,为非正式文本的相关信息分析提供有力的技术支撑。

Description

一种基于双向递归神经网络的企业简称提取方法
技术领域
本发明涉及自然语言处理领域,特别涉及一种基于双向递归神经网络的企业简称提取方法。
背景技术
随着互联网的快速发展,产生了大量的、公开的网页数据,也因此催发了各种基于大数据技术的新兴产业,比如互联网医疗、互联网教育、企业或者个人征信等。这些互联网产业的兴起于繁荣离不开大量的信息数据分析,而信息分析的价值在于敏锐和准确,敏锐的分析要求及时快速的发现新的信息;但是直接从网页上获取到数据大部分都是非结构化的,为了使用这些数据,数据清洗工作成了各大公司耗费时间精力最多的地方。而数据清洗当中特定信息提取,特别是命名实体的提取又是经常发生的事情,比如做企业征信,最常见的任务就是从大篇幅文本当中提取公司的名字。
除了常见的按照“省市+关键字+行业+组织形式”的规则来命名之外,还存在大量的例外,比如公司名没有使用省市作为开头,又或者在非正式文本里,公司名可能以简写、缩写的方式出现,这直接导致了使用传统的方式来进行的信息解析的召回率不高。事实上,非正式文本比如:网络新闻、媒体资讯、简报、评论文章、微博内容等中涉及企业名称的内容中的企业名称大多数都是以简称的方式出现,且这些非正式文本在相关的信息分析中的比重远大于正式文本,在这些海量的互联网信息中快速准确的提取相关的企业名称以及简称,对于避免相关信息的漏判具有重要的意义。
传统的自然语言处理方法使用条件随机场(CRF)对文本进行序列建模,进行文本分析识别和发现公司名。使用条件随机场,首先需要根据待识别实体的特点来设计构建特征模板,特征模板包括指定窗口大小上下文的一阶词或者多阶词组,词的前缀、后缀,词性标注等状态特征;特征模板的构造非常耗时耗力,而手动设置的特征模板往往仅依据部分样本的特点,通用性差;识别结果对特征模板的依赖程度极大,而且通常只能用到局部的上下文信息,各个特征模板的使用也是相互独立的,预测不能依赖更长的历史状态信息,也无法利用更长未来的信息反馈来纠正可能的历史错误;预测过程费时费力,预测结果难以实现全局最优。此外由于企业简称的随机性和非规则性,提取出企业的简称使用传统的CRF的方式很难实现。
发明内容
本发明的目的在于克服现有技术中所存在的上述不足,提供一种基于双向递归神经网络的企业简称提取方法。通过双向递归神经网络来来识别待处理文本中的企业名称,并将企业名称中的简称提取出来存入企业简称数据库中。
为了实现上述发明目的,本发明提供了以下技术方案:
一种基于双向递归神经网络的企业简称提取方法,本发明方法包含以下实现步骤:
(1)对待处理文本进行分词处理,形成对应的字词序列;
(2)选取设定数量的待处理样本进行人工标注,根据分词结果,将其中的企业名称分段标注为开始部分、关键字部分、行业部分和组织形式部分,将企业名称以外的文本标注为无关部分;
(3)将人工标注的文本,先正向再反向输入所双向述递归神经网络中,训练所述双向递归神经网络;
(4)将待分析文本中的文字序列,先正向再反向输入训练好的所述双向递归神经网络中,经过双向递归神经网络判断出文字序列中各个词或者字的分类,并将其中相邻的属于企业名称的字词作为一个整体提取出来;
(5)将提取出来的企业名称中属于企业名称关键字部分的作为企业的简称提取出来,放入企业简称数据库中。
进一步的,所述双向递归神经网络采用以下向前算法公式:
a h → t = Σ i I w i h → x i t + Σ h ′ → H w h → h ′ → b h ′ → t - 1
b h → t = θ ( a h → t )
a h ← t = Σ i I w i h ← x i t + Σ h ′ ← H w h ← h ′ ← b h ′ ← t + 1
b h ← t = θ ( a h ← t )
a k t = Σ h ′ → H w h ′ → k b h ′ → t + Σ h ′ ← H w h ′ ← k b h ′ ← t
y k t = exp ( a k t ) Σ k ′ K exp ( a k ′ t )
I为向量化的字或者词的维度,H为隐含层的神经元个数,K是输出层神经元的个数,其中为正向输入(文字序列从头至尾正向输入所述神经网络)时t时刻所述双向递归神经网络的隐含层神经元的输入,为反向输入(文字序列从尾至头反向输入所述神经网络)时t时刻所述双向递归神经网络的输出层神经元的输入,为正向输入时t时刻隐含层神经元的输出,为反向输入时t时刻隐含层神经元的输出,θ()为隐含层神经元的非线性激励函数,为(先正向再反向输入)t时刻输出层神经元的输入,为t时刻输出层神经元的输出,为一个概率值,表示第k个神经元的输出值相对于K个神经元输出值总和的比值,取值最大的神经元对应的分类为t时刻所述双向递归神经网络预测的对应字或词的最终分类。
具体的,是各个维度值均为0的向量,T为输入序列的长度。
进一步的,本发明方法中通过构建词典映射表来实现待处理文本序列中字或者词的向量化。所述词典映射表为一个矩阵,其中的每个行向量对应一个字或者词,而行向量与字或者词的对应关系在构建所述词典映射时设置的。
进一步的,在进行数据标注时,将待标注文本中的企业名称的开始部分标记为B、关键字部分标记为K、行业部分标记为I、组织形式部分标记为T,将企业主体名称以外的文字的无关部分标记为N。
进一步的,所述步骤(4)中,将所述双向递归神经网络分类结果中N BK…I…T N、N B K…I…N、N K…I…E N、N K…TN中B K…I…T、B K…I…、K…I…、K…T对应的文字作为企业名称整体提取出来,其中K…为至少1个K组成的序列,I…为至少1个I组成的序列。
进一步的,所述步骤(5)中将相邻的属于K…、B K…和,或K…I…所对应的字段作为企业简称提取出来。
进一步的,在标注文本中选取25%的样本作为开发样本,75%的样本为训练样本。在所述双向递归神经网络训练过程中仅保留在开发集上识别准确率最高的模型。
与现有技术相比,本发明的有益效果:本发明提供一种基于双向递归神经网络的企业简称提取方法,通过双向递归神经网络对待处理文本中的企业名称进行预测,并在企业名称预测的基础上进一步的提取出企业简称。使用双向递归神经网络在每预测一个字或者词的分类时既依赖了前文信息又依赖了后文信息,结合上下文的方式使得对字词的预测结果更加准确,而且本发明方法使用的双向递归神经网络的方式可以依赖的上下文信息为全文信息,预测结果实现了全局最优而非局部优化。不仅如此,本发明不需要进行手动设置特征模板,大量节省了手动设置特征模板所花费的人力和时间,通用性也更好。本发明在进行训练样本标注时,将企业名称根据情况分段标注为:开始、关键字、行业和组织形式,这样在进行模型的训练和预测时输出的企业名称对应包含:开始、关键字、行业和组织形式,这样分段的标注方式为企业简称的提取提供了前提条件,通过本发明可以直接识别出企业的简称并存储于对应的数据库中,为海量的非正式文本的分析提供技术支撑。
附图说明:
图1为本基于双向递归神经网络的企业简称提取方法的实现过程示意图。
图2为本基于双向递归神经网络的企业简称提取方法的双向递归神经网络模型训练过程示意图。
图3为本基于双向递归神经网络的企业简称提取方法的信号流程示意图。
应该明白本发明说明书附图仅为示意性的,不代表真实的实施方式。
具体实施方式
下面结合试验例及具体实施方式对本发明作进一步的详细描述。但不应将此理解为本发明上述主题的范围仅限于以下的实施例,凡基于本发明内容所实现的技术均属于本发明的范围。
本发明提供一种基于双向递归神经网络的企业简称提取方法,经过分词处理将待处理文本序列化,并选取一定数量(比如5000件)待处理文本进行人工标注,将其中的企业名称分段标注为:开始部分、关键字部分、行业部分和组织形式部分,将企业名称以外的数据标注为无关部分,将标注后的训练样本输入双向递归神经网络中训练所述双向递归神经网络,经过所述双向递归神经网络的预测,输出文本中的企业名称并进一步提取出企业简称存入企业简称库中。为了实现上述发明目的,本发明提供如图1、图2所示的技术方案:
一种基于双向递归神经网络的企业简称提取方法,包含以下实现步骤:
(1)对待处理文本进行分词处理,形成对应的字词序列;目前可用的分词工具很多比如说:斯坦福分词器、ICTCLAS、盘古分词、庖丁分词器……通过分词将较长的文本内容分解成相对独立的字词单元,使待处理文本内容离散化、序列化,为双向递归神经网络的应用提供基础。
(2)选取设定数量(比如说4000件)的待处理样本进行人工标注,根据分词结果,将其中的企业名称分段标注为开始部分、关键字部分、行业部分和组织形式部分,将企业名称以外的文本标注为无关部分。规则命名的企业名称一般是:省市(行政区划)+关键字+行业+组织形式,基于企业命名的特点,将规则命名的企业名称分段标注为:省市(行政区划)对应的字段标注为开始部分(用字母B表示),将关键字对于的字段标记为关键字部分(用字母K表示),将行业对应的字段标注为行业部分(用字母I表示),将组织形式对应的字段标注为组织形式部分(用字母T表示);比如说将:“北京XX生物技术有限公司”经过分词后形成:“北京/XX/生物/技术/有限公司”将其中的“北京”标注为B,将“XX”标注为“K”,将“生物”标记为“I”,将“技术”标记为“I”,将“有限公司”标记为“T”。分段标注的方式,为企业名称的识别以及企业简称的提取奠定了分类的基础,同时将神经网络的分类用字母表示,快捷方便,为后期的相关操作提供一定便利。
(3)如图3所示,将人工标注的文本形成的字词序列经过词典映射转化成对应的向量数据序列,将这些向量数据序列,先正向再反向输入所双向述递归神经网络中,训练所述双向递归神经网络;(所述正向输入是指将序列中的字或者词,按照位置的前后顺利依次输入对应时刻的递归神经网络中,所述反向输入是指将序列中的字或者词倒序依次输入对应时刻的递归神经网中)所述双向归神经网络每个当前时刻的输入信号还包括上一时刻所述双向递归神经网络的输出信号。
所述词典映射表为一个二维矩阵,其中矩阵中的每一个行向量代表一个字或者词,而字或者词与行向量的对应关系是在构建词典映射表时所设定的。通过词典映射表将待处理文本中的字、词或者标点符号转化成神经网络可以处理的向量数据,打破了自然语言与神经网络之间的技术壁垒,为使用神经网络来识别文本中间的企业名称开辟了道路。
(4)将待分析文本中的文字序列,先正向再反向输入训练好的所述双向递归神经网络中,经过双向递归神经网络判断出文字序列中各个字、词或者标点符号的分类,并将其中相邻的属于企业名称的字词作为一个整体提取出来。
(5)将提取出来的企业名称中属于企业名称关键字部分的作为企业的简称提取出来,放入企业简称数据库中。建立企业简称的数据库或者数据列表,这样在进行数据分析时可以直接根据数据库中已有的企业名称和简称快速准确的分析相关的数据,而避免重复的企业名称分析,为信息的及时处理提供保障。
进一步的,为了使双向递归神经网络的模型简单,本发明所述双向递归神经网络采用如下向前算法公式:
a h → t = Σ i I w i h → x i t + Σ h ′ → H w h → h ′ → b h ′ → t - 1
b h → t = θ ( a h → t )
a h ← t = Σ i I w i h ← x i t + Σ h ′ ← H w h ← h ′ ← b h ′ ← t + 1
b h ← t = θ ( a h ← t )
a k t = Σ h ′ → H w h ′ → k b h ′ → t + Σ h ′ ← H w h ′ ← k b h ′ ← t
y k t = exp ( a k t ) Σ k ′ K exp ( a k ′ t )
I为文字序列中的字或者词向量化后的维度,H为隐含层的神经元个数,K是输出层神经元的个数,其中为t时刻向量化的字或者词在第i维度的取值,为正向输入(文字序列正向输入神经网络)时,t时刻所述双向递归神经网络的隐含层神经元的输入(本发明方法中所述双向递归神经网络的时刻序号与输入文字序列的位置序号相对应,比如所文字序列中处于第3位置的字或者词,对应输入第3时刻的双向递归神经网络中),为反向输入(文字序列反向输入神经网络)时,t时刻所述双向递归神经网络的输出层神经元的输入,为正向输入时t时刻隐含层神经元的输出,为反向输入时t时刻隐含层神经元的输出,θ()为隐含层神经元输入到输出的函数,为t时刻输出层神经元的输入,可以看出结合了t时刻正向输入时隐含层神经元的输出信号和反向输入时的隐含层神经元的输出信号),的计算结果一直向前传播直到所述双向递归神经网络输出该时刻的分类结果;这样在计算当前时刻对应字或者词的分类结果时既结合了历史序列信息又结合了未来序列信息,依赖了整个文本的上下文信息而非局部信息,从而使得预测结果达到了全局最优。为t时刻输出层神经元的输出,为一个概率值,表示第k个神经元的输出值相对于K个神经元输出值总和的比值,通常取最大的神经元对应的分类为该时刻所述双向递归神经网络预测的最终分类。为正向输入时的权重系数,为反向输入时的权重系数,为正向输入时的权重系数,为反向输入时的权重系数,的权重系数,的权重系数。
特别的,是各个维度值均为0的向量,T为输入序列的长度。
从上述向前算法公式可以看出,本发明方法使用双向递归神经网络的方式在预测企业名称时,在一次向前算法中先将文本序列从头至尾依次正向输入所述递归神经网络中,再从尾至头反向输入到所述递归神经网络中;在正向和反向输入的过程中各时刻双向递归神经网络的输入信号包括该时刻向量化的字或者词信号和上一时刻递归神经网络的输出信号,仅在反向输入时所述双向递归神经网络才输出该时刻对应字或者词的分类结果。这样在预测企业主体名称时既依赖了前文信息又依赖了后文信息,预测的结果为实现了全局优化,识别的可靠性更高。而且通过双向递归神经网络的处理方式,无需手动设置特征模板,节省人力且通用性更好,可以在各种类型的文本中发现并提取企业名称,识别的召回率较传统基于规则的处理方法显著提高。
进一步的,本发明采用上述向前算法在所述双向递归神经网络中来逐层传输运算数据,在输出层获取到识别(预测)数据,当预测结果与训练样本的标注结果具有偏差时,通过神经网络中经典的误差反向传播算法来调整神经网络中的各个权重,误差反向传播方法将误差逐级反向传播分摊到各层的所有神经元,获得各层神经元的误差信号,进而修正各神经元的权重。通过向前算法逐层传输运算数据,并通过向后算法来逐渐修改各神经元的权重的过程就是神经网络的训练过程;重复上述过程,直到预测结果的正确率达到设定的阈值,停止训练,此时可认为所述双向递归神经网络模型已经训练完成。
进一步的,所述步骤(1)中,了识别待处理的非正式文本中已有的企业简称、缩写,对应选取一定数量的(标注样本的1/5)包含企业简称、缩写的非正式文本来进行人工标注;比如说将“3月9日晚间,XXYY集团公司发布公告称,拟以全资子公司香港XXYY股份有限公司为投资主体,出资300万美元与其他方共同成立XX人工智能科技公司,总股本1亿股,香港XX占比15%。”经过分词处理为:“3月/9日/晚间/,/XX/YY/集团公司/发布/公告/称/,/拟/以/全资/子公司/香港/XX/YY/股份有限公司/为/投资/主体/,/出资/300/万美元/与/其他方/共同/成立/XX/人工智能/科技/公司/,/总/股本/1亿股/,/香港/XX/占比/15%/。”将其中的“XX/YY/集团公司”标注为“KKT”,件“香港/XX/YY/股份有限公司”标注为“BKKT”将“XX/人工智能/科技/公司”标注为“KIIT”,将“香港/XX”标注为:“BK”,而将其他字或者词标注为N。信号流程如图3所示,(其中vec-a、vec-b、vec-c、vec-d、vec-e、vec-f、vec-g、vec-h、vec-i、vec-j、vec-k、vec-l、vec-m……vec-z等代表词典映射表中二维矩阵的行向量这样本标注文本中即包括企业全称也包括企业简称,标注1000件这样的样本,用来训练所述双向递归神经网络来训练所述双向递归神经网络,当所述双向递归神经网络训练完毕之后可以在待处理文本中识别出类似结构的企业全称和已近存在的简称。
进一步的,所述步骤(5)中,将相邻的属于K…、B K…和,或K…I…所对应的字段作为企业简称提取出来,企业的简称在非正式的文本中可能会有多种多样的表述,比如说某企业的全称为“北京AB科技有限公司”在非正式的文本中可能为:“北京AB”、“AB科技”或者“AB”,企业的全称与简称是“一对多”的关系,为了识别出企业的简称,则将“北京AB科技有限公司”经过所述双向递归神经网络所得到的分类序列为“BKIT”中“BK”、“KI”和“K”对应的“北京AB”、“AB科技”和“AB”作为“北京AB科技有限公司”的简称提取出来,并存于对应的企业简称数据库中。这样一对多的简称提取方式能够涵盖绝大部分文本的企业称谓,为相关信息的分析提供更加全面准确的数据基础。
进一步的,如图2所示,在人工标注文本的样本中选取25%的样本作为开发样本,75%的样本为训练样本。在所述双向递归神经网络训练过程中仅保留在开发集上识别准确率最高的模型。在神经网络的训练过程中使用开发集来验证训练的效果,可以防止神经网络训练模型的过拟合,保证神经网络的训练朝着正确的方向进行。

Claims (9)

1.一种基于双向递归神经网络的企业简称提取方法,其特征在于,包含以下实现步骤:
(1)对待处理文本进行分词处理,形成对应的字词序列;
(2)选取设定数量的待处理样本进行人工标注,根据分词结果,将其中的企业名称分段开始部分、关键字部分、行业部分和组织形式部分,将企业名称以外的文本标注为无关部分;
(3)将人工标注的文本,先正向再反向输入所双向述递归神经网络中,训练所述双向递归神经网络;
(4)将待分析文本中的文字序列,先正向再反向输入训练好的所述双向递归神经网络中,经过双向递归神经网络判断出文字序列中各个词或者字的分类,并将其中相邻的属于企业名称的字词作为一个整体提取出来;
(5)将提取出来的企业名称中属于企业名称关键字部分的作为企业的简称提取出来,放入企业简称数据库中。
2.如权利要求1所述的方法,其特征在于,所述双向递归神经网络采用如下向前算法公式:
a h → t = Σ i I w i h → x i t + Σ h ′ → H w h → h ′ → b h ′ → t - 1
b h → t = θ ( a h → t )
a h ← t = Σ i I w i h ← x i t + Σ h ′ ← H w h ← h ′ ← b h ′ ← t - 1
b h ← t = θ ( a h ← t )
a k t = Σ h ′ → H w h ′ → k b h ′ → t + Σ h ′ ← H w h ′ ← k b h ′ ← t
y k t = exp ( a k t ) Σ k ′ K exp ( a k ′ t )
I为向量化的字或者词的维度,H为隐含层的神经元个数,K是输出层神经元的个数,其中为正向输入时t时刻所述双向递归神经网络的隐含层神经元的输入,为反向输入时t时刻所述双向递归神经网络的输出层神经元的输入,为正向输入时t时刻隐含层神经元的输出,为反向输入时t时刻隐含层神经元的输出,θ()为为隐含层神经元的非线性激励函数,为t时刻输出层神经元的输入,为t时刻输出层神经元的输出,为一个概率值,表示第k个神经元的输出值相对于K个神经元输出值总和的比值。
3.如权利要求2所述的方法,其特征在于,是各个维度值均为0的向量,其中T为输入文字序列的长度。
4.如权利要求1至3之一所述的方法,其特征在于,通过构建词典映射表来实现待处理文本序列中字或者词的向量化,所述词典映射表为一个矩阵,其中的每个行向量对应一个字或者词,而行向量与字或者词的对应关系在构建所述词典映射时设置的。
5.如权利要求4所述的方法,其特征在于,在进行数据标注时,将待标注文本中的企业名称的开始部分标记为B、关键字部分标记为K、行业部分标记为I、组织形式部分标记为T,将企业主体名称以外的文字的无关部分标记为N。
6.如权利要求5所述的方法,其特征在于,所述步骤(4)中,将所述双向递归神经网络分类结果中N B K…I…T N、N B K…I…N、N K…I…E N、NK…TN中B K…I…T、B K…I…、K…I…、K…T对应的文字作为企业名称整体提取出来,其中K…为至少1个K组成的序列。
7.如权利要求6所述的方法,其特征在于,所述步骤(5)中将相邻的属于K…、K…I…、B K…所对应的字段作为企业简称提取出来。
8.如权利要求7所述的方法,其特征在于,在标注文本中选取25%的样本作为开发样本,75%的样本为训练样本。
9.如权利要求8所述的方法,其特征在于,在所述双向递归神经网络训练过程中仅保留在开发集上识别准确率最高的模型。
CN201610285157.2A 2016-05-03 2016-05-03 一种基于双向递归神经网络的企业简称提取方法 Pending CN105975555A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610285157.2A CN105975555A (zh) 2016-05-03 2016-05-03 一种基于双向递归神经网络的企业简称提取方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610285157.2A CN105975555A (zh) 2016-05-03 2016-05-03 一种基于双向递归神经网络的企业简称提取方法

Publications (1)

Publication Number Publication Date
CN105975555A true CN105975555A (zh) 2016-09-28

Family

ID=56993526

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610285157.2A Pending CN105975555A (zh) 2016-05-03 2016-05-03 一种基于双向递归神经网络的企业简称提取方法

Country Status (1)

Country Link
CN (1) CN105975555A (zh)

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106547735A (zh) * 2016-10-25 2017-03-29 复旦大学 基于深度学习的上下文感知的动态词或字向量的构建及使用方法
CN106777336A (zh) * 2017-01-13 2017-05-31 深圳爱拼信息科技有限公司 一种基于深度学习的公司名成分抽取系统和方法
CN106779467A (zh) * 2016-12-31 2017-05-31 成都数联铭品科技有限公司 基于自动信息筛选的企业行业分类系统
CN106991085A (zh) * 2017-04-01 2017-07-28 中国工商银行股份有限公司 一种实体的简称生成方法及装置
CN107247700A (zh) * 2017-04-27 2017-10-13 北京捷通华声科技股份有限公司 一种添加文本标注的方法及装置
CN107423285A (zh) * 2017-06-23 2017-12-01 广州市万隆证券咨询顾问有限公司 一种基于文本规则的公司简称识别方法及系统
CN107609639A (zh) * 2017-09-18 2018-01-19 前海梧桐(深圳)数据有限公司 仿神经元的企业数据层次表示方法及其系统
CN107748745A (zh) * 2017-11-08 2018-03-02 厦门美亚商鼎信息科技有限公司 一种企业名称关键字提取方法
CN107797989A (zh) * 2017-10-16 2018-03-13 平安科技(深圳)有限公司 企业名称识别方法、电子设备及计算机可读存储介质
CN107943788A (zh) * 2017-11-17 2018-04-20 平安科技(深圳)有限公司 企业简称生成方法、装置及存储介质
CN108038490A (zh) * 2017-10-30 2018-05-15 上海思贤信息技术股份有限公司 一种基于互联网数据的p2p企业自动识别方法与系统
CN108428137A (zh) * 2017-02-14 2018-08-21 阿里巴巴集团控股有限公司 生成简称、校验电子金融业务合法性的方法及装置
CN108460014A (zh) * 2018-02-07 2018-08-28 百度在线网络技术(北京)有限公司 企业实体的识别方法、装置、计算机设备及存储介质
CN108733828A (zh) * 2018-05-24 2018-11-02 北京金堤科技有限公司 公司名称的提取方法、装置和计算机可读介质
CN109636643A (zh) * 2018-12-13 2019-04-16 平安医疗健康管理股份有限公司 异常购药的识别方法、装置、终端及计算机可读存储介质
CN110162617A (zh) * 2018-09-29 2019-08-23 腾讯科技(深圳)有限公司 提取摘要信息的方法、装置、语言处理引擎和介质
CN110263123A (zh) * 2019-06-05 2019-09-20 腾讯科技(深圳)有限公司 机构名简称的预测方法、装置和计算机设备
CN110750700A (zh) * 2019-10-29 2020-02-04 北京中数智汇科技股份有限公司 一种基于机器学习的企业简称生成方法及模型
TWI689825B (zh) * 2017-12-29 2020-04-01 大陸商中國銀聯股份有限公司 一種文件品質指標獲取方法及裝置
CN111104791A (zh) * 2019-11-14 2020-05-05 北京金堤科技有限公司 行业信息获取方法和装置、电子设备和介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105139141A (zh) * 2015-11-02 2015-12-09 浪潮软件股份有限公司 一种自动审核企业名称的方法和系统
CN105320645A (zh) * 2015-09-24 2016-02-10 天津海量信息技术有限公司 中文企业名称的识别方法
CN105893354A (zh) * 2016-05-03 2016-08-24 成都数联铭品科技有限公司 一种基于双向递归神经网络的分词方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105320645A (zh) * 2015-09-24 2016-02-10 天津海量信息技术有限公司 中文企业名称的识别方法
CN105139141A (zh) * 2015-11-02 2015-12-09 浪潮软件股份有限公司 一种自动审核企业名称的方法和系统
CN105893354A (zh) * 2016-05-03 2016-08-24 成都数联铭品科技有限公司 一种基于双向递归神经网络的分词方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ALEX GRAVES 等: "Speech recognition with deep recurrent neural networks", 《2013 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH AND SIGNAL PROCESSING》 *
JASON P.C. CHIU 等: "Named Entity Recognition with Bidirectional LSTM-CNNs", 《ARXIV:1511.08308V1》 *

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106547735B (zh) * 2016-10-25 2020-07-07 复旦大学 基于深度学习的上下文感知的动态词或字向量的构建及使用方法
CN106547735A (zh) * 2016-10-25 2017-03-29 复旦大学 基于深度学习的上下文感知的动态词或字向量的构建及使用方法
CN106779467A (zh) * 2016-12-31 2017-05-31 成都数联铭品科技有限公司 基于自动信息筛选的企业行业分类系统
CN106777336A (zh) * 2017-01-13 2017-05-31 深圳爱拼信息科技有限公司 一种基于深度学习的公司名成分抽取系统和方法
CN108428137A (zh) * 2017-02-14 2018-08-21 阿里巴巴集团控股有限公司 生成简称、校验电子金融业务合法性的方法及装置
CN106991085A (zh) * 2017-04-01 2017-07-28 中国工商银行股份有限公司 一种实体的简称生成方法及装置
CN106991085B (zh) * 2017-04-01 2020-08-04 中国工商银行股份有限公司 一种实体的简称生成方法及装置
CN107247700A (zh) * 2017-04-27 2017-10-13 北京捷通华声科技股份有限公司 一种添加文本标注的方法及装置
CN107423285B (zh) * 2017-06-23 2020-08-28 广州市万隆证券咨询顾问有限公司 一种基于文本规则的公司简称识别方法及系统
CN107423285A (zh) * 2017-06-23 2017-12-01 广州市万隆证券咨询顾问有限公司 一种基于文本规则的公司简称识别方法及系统
CN107609639A (zh) * 2017-09-18 2018-01-19 前海梧桐(深圳)数据有限公司 仿神经元的企业数据层次表示方法及其系统
CN107797989A (zh) * 2017-10-16 2018-03-13 平安科技(深圳)有限公司 企业名称识别方法、电子设备及计算机可读存储介质
CN108038490A (zh) * 2017-10-30 2018-05-15 上海思贤信息技术股份有限公司 一种基于互联网数据的p2p企业自动识别方法与系统
CN107748745A (zh) * 2017-11-08 2018-03-02 厦门美亚商鼎信息科技有限公司 一种企业名称关键字提取方法
CN107748745B (zh) * 2017-11-08 2021-08-03 厦门美亚商鼎信息科技有限公司 一种企业名称关键字提取方法
CN107943788A (zh) * 2017-11-17 2018-04-20 平安科技(深圳)有限公司 企业简称生成方法、装置及存储介质
TWI689825B (zh) * 2017-12-29 2020-04-01 大陸商中國銀聯股份有限公司 一種文件品質指標獲取方法及裝置
CN108460014A (zh) * 2018-02-07 2018-08-28 百度在线网络技术(北京)有限公司 企业实体的识别方法、装置、计算机设备及存储介质
CN108460014B (zh) * 2018-02-07 2022-02-25 百度在线网络技术(北京)有限公司 企业实体的识别方法、装置、计算机设备及存储介质
CN108733828A (zh) * 2018-05-24 2018-11-02 北京金堤科技有限公司 公司名称的提取方法、装置和计算机可读介质
CN110162617A (zh) * 2018-09-29 2019-08-23 腾讯科技(深圳)有限公司 提取摘要信息的方法、装置、语言处理引擎和介质
CN110162617B (zh) * 2018-09-29 2022-11-04 腾讯科技(深圳)有限公司 提取摘要信息的方法、装置、语言处理引擎和介质
CN109636643A (zh) * 2018-12-13 2019-04-16 平安医疗健康管理股份有限公司 异常购药的识别方法、装置、终端及计算机可读存储介质
CN110263123A (zh) * 2019-06-05 2019-09-20 腾讯科技(深圳)有限公司 机构名简称的预测方法、装置和计算机设备
CN110263123B (zh) * 2019-06-05 2023-10-31 腾讯科技(深圳)有限公司 机构名简称的预测方法、装置和计算机设备
CN110750700A (zh) * 2019-10-29 2020-02-04 北京中数智汇科技股份有限公司 一种基于机器学习的企业简称生成方法及模型
CN111104791A (zh) * 2019-11-14 2020-05-05 北京金堤科技有限公司 行业信息获取方法和装置、电子设备和介质
CN111104791B (zh) * 2019-11-14 2024-02-20 北京金堤科技有限公司 行业信息获取方法和装置、电子设备和介质

Similar Documents

Publication Publication Date Title
CN105975555A (zh) 一种基于双向递归神经网络的企业简称提取方法
CN110807328B (zh) 面向法律文书多策略融合的命名实体识别方法及系统
CN108763326B (zh) 一种基于特征多样化的卷积神经网络的情感分析模型构建方法
CN105976056A (zh) 基于双向rnn的信息提取系统
CN112214610B (zh) 一种基于跨度和知识增强的实体关系联合抽取方法
CN111783394B (zh) 事件抽取模型的训练方法、事件抽取方法和系统及设备
CN105975455A (zh) 基于双向递归神经网络的信息分析系统
CN107168945A (zh) 一种融合多特征的双向循环神经网络细粒度意见挖掘方法
CN107220237A (zh) 一种基于卷积神经网络的企业实体关系抽取的方法
CN105975987A (zh) 一种基于全自动学习的企业行业分类方法
CN106980609A (zh) 一种基于词向量表示的条件随机场的命名实体识别方法
CN105589844A (zh) 一种用于多轮问答系统中缺失语义补充的方法
CN108664589A (zh) 基于领域自适应的文本信息提取方法、装置、系统及介质
CN103207855A (zh) 针对产品评论信息的细粒度情感分析系统及方法
CN106682089A (zh) 一种基于RNNs的短信自动安全审核的方法
CN115564393B (zh) 一种基于招聘需求相似度的职位推荐方法
CN112749265B (zh) 一种基于多信息源的智能问答系统
CN111709244A (zh) 一种用于矛盾纠纷事件因果关系识别的深度学习方法
CN111428481A (zh) 一种基于深度学习的实体关系抽取方法
CN115759092A (zh) 一种基于albert的网络威胁情报命名实体识别方法
CN116383399A (zh) 一种事件舆情风险预测方法及系统
Li et al. Event extraction for criminal legal text
CN113505583A (zh) 基于语义决策图神经网络的情感原因子句对提取方法
Paul et al. Detecting hate speech using deep learning techniques
US11741318B2 (en) Open information extraction from low resource languages

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20160928

WD01 Invention patent application deemed withdrawn after publication