CN109918639A - 一种基于深度学习技术和规则库的银行授信文本解析方法 - Google Patents

Abstract

本发明提供了一种基于深度学习技术和规则库的银行授信文本解析方法，包括如下步骤：(1)、建立银行授信业务的关注点规则库；(2)、银行授信文本解析，具体包括如下步骤：1)、业务情况和贷后内容识别；2)、实体关系抽取；3)、业务情况属性值提取；4)、贷后关注点识别以及属性值提取；5)、整体流程，包括：a、输入授信文本内容；b、将文本内容分割为业务情况和贷后要求两部分内容；c、通过实体识别模型对分割的业务内容信息进行实体识别，然后从文本中找出每个实体对应的上下文信息，再用关系模型进行关系识别；d、基于正则方法解析业务内容各种属性值；e、然后对贷后要求内容进行解析，通过扫描规则库，提取触发事件和每个事件对应的属性值；f、解析结果合并，输出。本专利识别精度高，工作效率高。

Description

一种基于深度学习技术和规则库的银行授信文本解析方法

技术领域

本发明涉及一种授信文本解析方法，尤其是一种识别精度高，工作效率高的基于深度学习技术和规则库的银行授信文本解析方法。

背景技术

目前针对银行授信系统的审批文本数据的解析还处于人工处理结合简单的规则进行解析的阶段，效率低下，同时解析效果无法保证。

发明内容

为解决上述问题，本发明提供了一种基于深度学习技术和规则库的银行授信文本解析方法，包括如下步骤：

1、建立银行授信业务的关注点规则库；所述规则库的规则结构如下：一个事件由关注点、触发词、不变属性和可变属性构成，不变属性可有可无，其中rex代表的是该条语句是正则表达式；规则库包含了若干条事件，主要是针对金融领域积累的规则；通过匹配文本句子是否命中触发词，来判断该关注点是否发生，如果命中了触发词，再对关注点进行可变属性和不变属性值提取。

2、银行授信文本解析，具体包括如下步骤：

(1)、业务情况和贷后内容识别

银行授信系统审批内容包含了业务情况的介绍和贷后管理的说明，首先我们对于给定的文本内容，先将文本内容切分成两部分，第一部分为业务情况，第二部分为贷后情况，主要通过：“要求”，“管理要求”，“建议”，“提示”等字用正则方法对文本内容进行分割，分割后，若有多个部分，第一部分为业务情况介绍，其它部分合并为贷后内容；

(2)、实体关系抽取

针对银行业务，实体关系识别总共5种：担保抵押、股东、子公司、实际控制人、隶属集团。通过上述步骤，从授信文本中分割出业务内容，用实体识别模型，我们采用的是基于双向长短时记忆模型(Bi-directional Long Short-Term Memory，BiLSTM)结合条件随机场(Conditional random field， CRF)实现序列标注，对文本进行实体识别。抽取到实体后，分别提取实体在文本中的上下文信息内容，然后分别输入到卷积神经网络(Convolutional Neural Network，CNN)模型中，在最后一层的pooling层对特征进行拼接，最后输入到softmax层进行实体关系分类，总类别数为6类：5种关系类别再加上非关系类别(即该实体不属于预先定义的任何一种关系)。

例如文本信息：

“同意维持北京赛科力工程机械设备有限公司综合授信额度人民5亿元，授信期限1年，业务品种为流动资金、承兑汇票、国内信用证业务，单笔业务不超过1年，由南京瀚雅健康科技有限公司提供连带责任担保，现有授信余额纳入管理。”

通过实体识别模型抽取到实体为：北京赛科力工程机械设备有限公司和南京瀚雅健康科技有限公司，两个实体的上下文信息分别为(同意，综合授信额度人民币5亿元)和(由，提供连带责任担保)分别输入到CNN实体关系分类模型中，最后得到的识别结果为，第一组为非实体关系，第二组为担保抵押关系。

(3)、业务情况属性值提取

对文本分割成两部分后，提取业务情况内容，比如说授信金额，期限，支付方式等。为了提高正则匹配的精确度和效率，我们把内容按照标点符号分割成多个句子，然后对每一个句子进行属性值的提取，每个属性值通过正则匹配结果，业务情况属性值为：业务名称、金额、利率、利率调整方式、信用证种类、期限、还款方式、支付方式、手续费、用途、收款人、受益人、最高额合同、担保方式、重点事项。每个属性值的提取通过正则表达式进行提取。如正则表达式里，对于金额写的正则表达式为：金额，对分割后的每一句，用这两条正则表达式提取句子的金额具体值，如果有，则返回结果，没有，则金额这个属性值为空，比如句子：同意提交该户该笔非项目型专项授信额度项下的本次用信，金额10000万元。通过正则：提取了句子中的10000万元，则输出为，金额：10000万元。其它属性值的提取原理一样。

(4)、贷后关注点识别以及属性值提取

提取分割后的贷后内容，同样将该贷后内容按照标点符号划分成多个句子，对每一个句子，首先判断规则库里面的每一个关注点对应的触发词是否和句子匹配，如上面的规则库中的贷款使用关注点，对应的触发词有：rex、贷款用作、贷款挪用到、融资用途、授信用途：共5个触发词，其中第一个为正则表达式，如果正则表达式能够从句子提取满足该模式的结果，则该句子有贷款使用关注点，若没有匹配上，则判断后面的四个词是否在句子上，只要有一个在句子里，贷款使用关注点都被激活，对每个用触发词命中的关注点，然后提取该关注点的属性值，分为可变属性和不变属性，其中的不变属性若有，则匹配句子，没有则不需要，然后对可变属性通过多个正则表达式提取属性值，例如句子：本笔贷款资金仅用于油品采购，全额受托支付。贷款使用关注点中触发词一栏中的第一个正则表达式能够找到句子满足rex模式，所以该句话含有贷后使用关注点，然后提取该关注点的属性值，其中不变属性：经营性周转需求、募集资金用途、贷款资金流向、资金流向、贷款投向在句子中都没出现，则没有不变属性值，对于可变属性值的提取，最后一条正则，rex能够提取句子满足的模式，得到结果为：用于油品采购。所以输出的结果为：贷款使用：用于油品采购。对每个句子扫描整个规则库，做同样的操作，最后将多个句子提取的关注点合并一起，去掉重复的，得到该段文本内容的所有关注点，以及每个关注点对应的属性值。

(5)、整体流程

a、输入授信文本内容；

b、将文本内容分割为业务情况和贷后要求两部分内容；

c、通过实体识别模型对分割的业务内容信息进行实体识别，然后从文本中找出每个实体对应的上下文信息，再用关系模型进行关系识别；

d、基于正则方法解析业务内容各种属性值；

e、然后对贷后要求内容进行解析，通过扫描规则库，提取触发事件和每个事件对应的属性值；

f、解析结果合并，输出。

本专利所述的一种基于深度学习技术和规则库的银行授信文本解析方法，利用深度学习技术和丰富的金融领域规则库，提高了文本处理领域实体识别和关系识别精度，对银行授信系统的审批意见进行文本解析，提高了业务人员工作效率，同时根据结果分析方便业务人员采取贷后措施。

附图说明

图1为本发明的一种银行授信文本解析流程示意图

具体实施方式

如图1所示，本发明的一种基于深度学习技术和规则库的银行授信文本解析方法，包括如下步骤：

1、建立银行授信业务的关注点规则库；所述规则库的规则结构如下：一个事件由关注点、触发词、不变属性和可变属性构成，不变属性可有可无，其中rex代表的是该条语句是正则表达式；规则库包含了若干条事件，主要是针对金融领域积累的规则；通过匹配文本句子是否命中触发词，来判断该关注点是否发生，如果命中了触发词，再对关注点进行可变属性和不变属性值提取。

2、银行授信文本解析，具体包括如下步骤：

(1)、业务情况和贷后内容识别

银行授信系统审批内容包含了业务情况的介绍和贷后管理的说明，首先我们对于给定的文本内容，先将文本内容切分成两部分，第一部分为业务情况，第二部分为贷后情况，主要通过：“要求”，“管理要求”，“建议”，“提示”等字用正则方法对文本内容进行分割，分割后，若有多个部分，第一部分为业务情况介绍，其它部分合并为贷后内容；

(2)、实体关系抽取

针对银行业务，实体关系识别总共5种：担保抵押、股东、子公司、实际控制人、隶属集团。通过上述步骤，从授信文本中分割出业务内容，用实体识别模型，我们采用的是基于双向长短时记忆模型(Bi-directional Long Short-Term Memory，BiLSTM)结合条件随机场(Conditional random field， CRF)实现序列标注，对文本进行实体识别。抽取到实体后，分别提取实体在文本中的上下文信息内容，然后分别输入到卷积神经网络(Convolutional Neural Network，CNN)模型中，在最后一层的pooling层对特征进行拼接，最后输入到softmax层进行实体关系分类，总类别数为6类：5种关系类别再加上非关系类别(即该实体不属于预先定义的任何一种关系)。

例如文本信息：

“同意维持北京赛科力工程机械设备有限公司综合授信额度人民5亿元，授信期限1年，业务品种为流动资金、承兑汇票、国内信用证业务，单笔业务不超过1年，由南京瀚雅健康科技有限公司提供连带责任担保，现有授信余额纳入管理。”

通过实体识别模型抽取到实体为：北京赛科力工程机械设备有限公司和南京瀚雅健康科技有限公司，两个实体的上下文信息分别为(同意，综合授信额度人民币5亿元)和(由，提供连带责任担保)分别输入到CNN实体关系分类模型中，最后得到的识别结果为，第一组为非实体关系，第二组为担保抵押关系。

(3)、业务情况属性值提取

对文本分割成两部分后，提取业务情况内容，比如说授信金额，期限，支付方式等。为了提高正则匹配的精确度和效率，我们把内容按照标点符号分割成多个句子，然后对每一个句子进行属性值的提取，每个属性值通过正则匹配结果，业务情况属性值为：业务名称、金额、利率、利率调整方式、信用证种类、期限、还款方式、支付方式、手续费、用途、收款人、受益人、最高额合同、担保方式、重点事项。每个属性值的提取通过正则表达式进行提取。

(4)、贷后关注点识别以及属性值提取

提取分割后的贷后内容，同样将该贷后内容按照标点符号划分成多个句子，对每一个句子，首先判断规则库里面的每一个关注点对应的触发词是否和句子匹配，如上面的规则库中的贷款使用关注点，对应的触发词有：rex、贷款用作、贷款挪用到、融资用途、授信用途：共5个触发词，其中第一个为正则表达式，如果正则表达式能够从句子提取满足该模式的结果，则该句子有贷款使用关注点，若没有匹配上，则判断后面的四个词是否在句子上，只要有一个在句子里，贷款使用关注点都被激活，对每个用触发词命中的关注点，然后提取该关注点的属性值，分为可变属性和不变属性，其中的不变属性若有，则匹配句子，没有则不需要，然后对可变属性通过多个正则表达式提取属性值，例如句子：本笔贷款资金仅用于油品采购，全额受托支付。贷款使用关注点中触发词一栏中的第一个正则表达式能够找到句子满足rex模式，所以该句话含有贷后使用关注点，然后提取该关注点的属性值，其中不变属性：经营性周转需求、募集资金用途、贷款资金流向、资金流向、贷款投向在句子中都没出现，则没有不变属性值，对于可变属性值的提取，最后一条正则，rex能够提取句子满足的模式，得到结果为：用于油品采购。所以输出的结果为：贷款使用：用于油品采购。对每个句子扫描整个规则库，做同样的操作，最后将多个句子提取的关注点合并一起，去掉重复的，得到该段文本内容的所有关注点，以及每个关注点对应的属性值。

(5)、整体流程

a、输入授信文本内容；

b、将文本内容分割为业务情况和贷后要求两部分内容；

c、通过实体识别模型对分割的业务内容信息进行实体识别，然后从文本中找出每个实体对应的上下文信息，再用关系模型进行关系识别；

d、基于正则方法解析业务内容各种属性值；

e、然后对贷后要求内容进行解析，通过扫描规则库，提取触发事件和每个事件对应的属性值；

f、解析结果合并，输出。

本专利所述的一种基于深度学习技术和规则库的银行授信文本解析方法，利用深度学习技术和丰富的金融领域规则库，提高了文本处理领域实体识别和关系识别精度，对银行授信系统的审批意见进行文本解析，提高了业务人员工作效率，同时根据结果分析方便业务人员采取贷后措施。

上面所述的实施例仅仅是对本发明的优选实施方式进行描述，并非对本发明的范围进行限定，在不脱离本发明设计精神前提下，本领域普通工程技术人员对本发明技术方案做出的各种变形和改进，均应落入本发明的权利要求书确定的保护范围内。

Claims (1)

1.一种基于深度学习技术和规则库的银行授信文本解析方法，其特征在于，包括如下步骤：

(1)、建立银行授信业务的关注点规则库；所述规则库的规则结构如下：一个事件由关注点、触发词、不变属性和可变属性构成，不变属性可有可无，其中rex代表的是该条语句是正则表达式；规则库包含了若干条事件，主要是针对金融领域积累的规则；通过匹配文本句子是否命中触发词，来判断该关注点是否发生，如果命中了触发词，再对关注点进行可变属性和不变属性值提取；

(2)、银行授信文本解析，具体包括如下步骤：

1)、业务情况和贷后内容识别

银行授信系统审批内容包含了业务情况的介绍和贷后管理的说明，首先我们对于给定的文本内容，先将文本内容切分成两部分，第一部分为业务情况，第二部分为贷后情况，主要通过：“要求”，“管理要求”，“建议”，“提示”等字用正则方法对文本内容进行分割，分割后，若有多个部分，第一部分为业务情况介绍，其它部分合并为贷后内容；

2)、实体关系抽取

针对银行业务，实体关系识别总共5种：担保抵押、股东、子公司、实际控制人、隶属集团，通过上述步骤，从授信文本中分割出业务内容，用实体识别模型，我们采用的是基于双向长短时记忆模型结合条件随机场实现序列标注，对文本进行实体识别；抽取到实体后，分别提取实体在文本中的上下文信息内容，然后分别输入到卷积神经网络模型中，在最后一层的pooling层对特征进行拼接，最后输入到softmax层进行实体关系分类，总类别数为6类：5种关系类别再加上非关系类别，即该实体不属于预先定义的任何一种关系；

3)、业务情况属性值提取

对文本分割成两部分后，提取业务情况内容，比如说授信金额，期限，支付方式等，为了提高正则匹配的精确度和效率，我们把内容按照标点符号分割成多个句子，然后对每一个句子进行属性值的提取，每个属性值通过正则匹配结果，业务情况属性值为：业务名称、金额、利率、利率调整方式、信用证种类、期限、还款方式、支付方式、手续费、用途、收款人、受益人、最高额合同、担保方式、重点事项，每个属性值的提取通过正则表达式进行提取；

4)、贷后关注点识别以及属性值提取

提取分割后的贷后内容，同样将该贷后内容按照标点符号划分成多个句子，对每一个句子，首先判断规则库里面的每一个关注点对应的触发词是否和句子匹配，如上面的规则库中的贷款使用关注点，对应的触发词有：rex、贷款用作、贷款挪用到、融资用途、授信用途：共5个触发词，其中第一个为正则表达式，如果正则表达式能够从句子提取满足该模式的结果，则该句子有贷款使用关注点，若没有匹配上，则判断后面的四个词是否在句子上，只要有一个在句子里，贷款使用关注点都被激活，对每个用触发词命中的关注点，然后提取该关注点的属性值，分为可变属性和不变属性，其中的不变属性若有，则匹配句子，没有则不需要，然后对可变属性通过多个正则表达式提取属性值，对每个句子扫描整个规则库，做同样的操作，最后将多个句子提取的关注点合并一起，去掉重复的，得到该段文本内容的所有关注点，以及每个关注点对应的属性值；

5)、整体流程

a、输入授信文本内容；

b、将文本内容分割为业务情况和贷后要求两部分内容；

c、通过实体识别模型对分割的业务内容信息进行实体识别，然后从文本中找出每个实体对应的上下文信息，再用关系模型进行关系识别；

d、基于正则方法解析业务内容各种属性值；

e、然后对贷后要求内容进行解析，通过扫描规则库，提取触发事件和每个事件对应的属性值；

f、解析结果合并，输出。