CN111402092B - 一种基于多层次语义解析的法律法规检索系统 - Google Patents

Abstract

一种基于多层次语义解析的法律法规检索系统，包括：法规库结构化模块：基于网络上公开的法律法规数据来构建法规库；法律图谱模块：用于对法规库中的相关数据进行抽取并构建法规图谱；自然语言生成模块：用于对法规图谱中的条例数据生成相应的自然语言描述，并生成扩充语料库；语义解析模块：用于对生成的自然语言描述定制模型训练，并识别自然语言中的语义；检索模块：用于对法律图谱模块所构建的法规图谱提供法规检索功能。本发明提供的系统将人工智能领域的自然语言处理技术应用于法律法规检索领域，提升用户体验以及检索效率，并在一定程度上提升普法力度，促进中国社会法制化建设。

Description

一种基于多层次语义解析的法律法规检索系统

技术领域

本发明涉及人工智能领域，具体涉及一种基于多层次语义解析的法律法规检索系统。

背景技术

目前，人工智能的自然语言处理领域发展迅猛，也促进了金融、医疗、法律等领域的业务逐渐向人工智能转型。

如当前市场上流行的基于知识图谱的医疗导诊机器人，借助构建的知识图谱针对用户问题进行深层次的语义理解进而得到更加精确的用户意图。

从法律领域的法规检索上来看，大众在生活和工作中遇到相关问题时，往往需要检索相关的法律法规，然而目前市场上的法规检索系统仍然是基于标题或者全文的检索方式，针对法条并不能达到精确检索的效果，且针对法规检索的自然语言处理和理解系统尚无成熟的、专业的技术成果和商业应用。

针对法律领域，由于其高度的严谨性、强逻辑性，业内对于法律法规检索工作并未取得明显突破。

发明内容

为了解决上述问题，本发明提供了一种基于多层次语义解析的法律法规检索系统，能够将人工智能领域的自然语言处理技术应用于法律法规检索领域，提升用户体验以及检索效率；能够提升普法力度，促进中国社会法制化建设。

本发明的技术方案如下所示：

一种基于多层次语义解析的法律法规检索系统，包括：

法规库结构化模块：基于网络上公开的法律法规数据来构建法规库；

法规图谱模块：用于对法规库中的条例序号、条例关键词进行抽取并构建法规图谱；

自然语言生成模块：用于对法规图谱中的条例数据生成相应的自然语言描述，并生成扩充语料库；

语义解析模块：用于对生成的自然语言描述定制模型训练，并识别自然语言中的语义；

检索模块：用于对法规图谱模块所构建的法规图谱提供法规检索功能。

优选的，所述检索模块的检索方式包括常规检索和自然语言检索。

优选的，所述法规库结构化模块中构建法规库的过程为：

S1：设定爬虫爬取网络上公开的数据源，获取对应的法规内容；

S2：将获取到的法规内容结合正则表达式进行预处理，以预设的格式存储到数据库中。

优选的，所述预设的格式为： <法规名称，法规对应内容>。

优选的，所述法规图谱模块构建法规图谱的步骤为：

S1：对法规库中的内容数据进行条例序号抽取，生成<法规名称，条例序号，条例对应内容>形式的信息；

S2：对法规库中的内容数据进行条例关键词抽取，生成<法规名称，条例关键词，条例对应内容>形式的信息；

S3：将步骤S1、S2中生成的两种三元组信息存储到图数据库中。

优选的，所述自然语言生成模块中所实现的步骤为：

S1：针对法规库中的法规名称，利用话术规则生成对应的别名，形成法规别名库；

S2：针对法规图谱中的条例关键词制定话术规则，形成条例关键词话术种子语料库；

S3：针对法规图谱中的条例内容，从公开的法律咨询网站逐条获取与所述条例内容相关的咨询问题，形成条例内容自然语言种子语料库；

S4：针对形成的条例关键词话术种子语料库和条例内容自然语言种子语料库，使用基于Transformer的Seq2Seq模型进行训练，并通过模型生成扩充语料库。

优选的，所述Transformer为基于自注意力机制的一种可以并行计算的编码器。

优选的，所述语义解析模块中定制模型的步骤为：

S1：对所述自然语言生成模块生成的扩充语料库进行词向量预训练；

S2：针对用户输入的文本，基于预训练得到的词向量文件查找对应词语的向量表示；

S3：基于词向量定制余弦相似度计算方法。其公式如下所示：

其中x、y分别表示两个句子的向量集合，x_i代表句子x中第i个词语的向量表示，y_i代表句子y中第i个词语的向量表示；

S4：对步骤S3得到的所有自然语言的相似度进行排序，将相似度最高的自然语言对应的条例关键词作为用户输入文本匹配到的条例关键词项；

S5：针对自然语言生成模块生成的通过条例内容的自然语言种子语料库，基于BERT进行模型训练进而得到法规分类模型。

优选的，所述常规检索包括法规名称提取、条例提取和内容查询；

法规名称提取：根据自然语言生成模块中构建的法规别名库匹配用户输入文本中的法规名称；

条例提取：针对用户输入文本来提取条例标识；若为序号表达，则直接进行正则提取；若为关键词表达，则基于语义解析模块中的相似度计算匹配关键词；

内容查询：基于提取到的法规名称和条例标识，使用图查询语句查询出对应的条例内容。

优选的，所述自然语言检索包括法规名称提取、条例提取以及内容查询；

法规名称提取：基于法规分类模型匹配用户输入文本中的法规名称；

条例提取：基于语义解析模块中的相似度计算匹配与提取到的法规名称相关联的自然语言表达，进而匹配到对应的条例关键词；

内容查询：基于提取到的法规名称和具体条例关键词，使用图查询语句查询出对应的条例内容。

本发明的有益效果：本发明提供的系统将人工智能领域的自然语言处理技术应用于法律法规检索领域，提升用户体验以及检索效率，并在一定程度上提升普法力度，促进中国社会法制化建设。

附图说明

图1为本发明实施例的整体架构图。

图2为本发明实施例的自然语言生成模块的架构图。

图3为本发明实施例的Transformer的Seq2Seq的模型架构图。

图4为本发明实施例的语义解析模块的架构图。

图5为本发明实施例的法规分类模型架构图。

图6为本发明实施例的检索模块的架构图。

具体实施方式

下面将结合附图对本发明的实施例进行进一步的说明。

本发明提出的一种基于多层次语义解析的法律法规检索系统，如图1所示，包括法规库结构化模块、法律图谱模块、自然语言生成模块、语义解析模块、检索模块。

法规库结构化模块为整个系统提供数据支撑，具体步骤如图1所示，包括：

步骤1，定制数据采集。

针对基本法律和普通法律，在不违反数据协议的情况下定制爬虫爬取网络上公开的数据源，进而获取对应的法规内容。

步骤2，数据预处理及存储。

将获取到的数据结合正则表达式进行预处理，针对其中文本内容去除无效字符，并通过正则表达式抽取出对应的法规名称以及法规对应内容，以<法规名称，法规条对应内容>这种形式存储到数据库中。如针对“中华人民共和国婚姻法”的存储形式为<“中华人民共和国婚姻法”，“第一条：【立法目的】本法是婚姻家庭关系的基本准则；第二条：【婚姻制度】实行婚姻自由、一夫一妻、男女平等的婚姻制度......”>。

获取到结构化的法规库之后，即可通过法规图谱模块构建出法规图谱，如图1所示，包括如下步骤：

步骤1，条例序号抽取。

针对结构化的法规库中的法规内容数据通过编写正则表达式进行信息抽取，进而得到每项法规条例对应的条例序号，并以<法规名称，条例序号，条例对应内容>这种形式保存。

如针对“中华人民共和国婚姻法”的法规内容进行抽取后可得到的前两条条例信息为：<中华人民共和国婚姻法，第一条，【立法目的】本法是婚姻家庭关系的基本准则>、<中华人民共和国婚姻法，第二条，【婚姻制度】实行婚姻自由、一夫一妻、男女平等的婚姻制度>。

步骤2，条例关键词抽取。

针对结构化的法规库中的法规内容数据通过编写正则表达式进行信息抽取，进而得到每项法规条例对应的关键词，并以<法规名称，条例关键词，条例对应内容>这种形式保存。

如针对“中华人民共和国婚姻法”的法规内容进行抽取后可得到的前两条条例信息为：<中华人民共和国婚姻法，立法目的，【立法目的】本法是婚姻家庭关系的基本准则>、<中华人民共和国婚姻法，婚姻制度，【婚姻制度】实行婚姻自由、一夫一妻、男女平等的婚姻制度>。

步骤3，图谱存储。

将步骤1和步骤2得到的三元组信息存储到图数据库中（如Neo4j）。

结构化的法规库以及法规图谱构建好之后，需要通过自然语言生成模块构建出与法规条例相关联的自然语言数据，如图1和图2所示，包括如下步骤：

步骤1，法规别名库构建。

针对结构化的法规库中的所有法规名称进行收集，进而制定几种话术规则，基于话术模板生成某个法规的对应别名，存储到法规别名库中。若制定的话术规则为“将中华人民共和国替换为中国”、“删除中华人民共和国”两种，以“中华人民共和国婚姻法”为例，则可生成两个法规别名：“中国婚姻法”和“婚姻法”，而后通过{“中华人民共和国婚姻法”：[“中国婚姻法”，“婚姻法”]}这种字典形式存储。

步骤2，关键词话术种子语料库构建。

选取法规图谱中的部分法规，针对每项法规关联的条例关键词进行收集，而后制定几种话术规则，将每个条例关键词转换成多种描述形式，随后存储到条例关键词话术种子语料库中。

若制定的话术规则有2种：一个是对关键词分词后随机交换两个词语；另一个是在关键词文本中随机追加“是啥”、“是什么”等内容。以“中华人民共和国婚姻法”的前2条对应的条例关键词为例，针对第一条的条例关键词而言，依据第一话术规则可变换为“目的立法”，依据第二话术规则可变换为“立法目的是什么”；针对第二条的条例关键词而言，依据第一话术规则可变换为“制度婚姻”，依据第二话术规则可变换为“婚姻制度是啥”。而后通过<立法目的，目的立法>、<立法目的，立法目的是什么>、<婚姻制度，制度婚姻>、<婚姻制度、婚姻制度是啥>这种形式存储到条例关键词话术种子语料库。

步骤3，自然语言种子语料库构建

选取法规图谱中的部分数据，以每项法规条例为法律依据，从公开的法律咨询网站获取与该法律依据一致的咨询问题，以<条例内容，咨询问题>这种形式存储到条例内容自然语言种子语料库中。

步骤4，自然语言增强。

针对步骤2和步骤3形成的条例关键词话术种子语料库和条例内容自然语言种子语料库，使用基于Transformer的Seq2Seq模型进行训练进而通过模型生成扩充语料库，如图3所示。具体而言，是将其中的条例内容或条例关键词作为模型的输入，将每一个样本中的条例关键词或条例内容对应的话术生成文本作为模型的输出，通过这种方式训练模型，待模型训练好之后，将步骤2和步骤3未选取的对应数据作为模型输入，通过模型编码、解码后即可得到相对应的自然语言。随后将生成的自然语言与步骤2和步骤3的两种语料库合并，最终以<条例关键词，自然语言>这种问题对的形式存储到自然语言语料库中。其中，考虑到Transformer是一种基于自注意力机制的架构而且支持并行计算，这可以充分捕捉法律领域输入文本和输出文本之间的语义相关特征。模型具体架构如图3所示。

构建好法规相对应的自然语言语料库之后，即可通过语义解析模块训练语义解析模型，如图4所示，包括如下步骤：

步骤1，词向量预训练。

针对自然语言生成模块生成的自然语言语料库进行分词、去停用词，而后基于word2vec模型进行词向量预训练，将训练结果保存为词向量文件。

步骤2，文本表示。

针对文本s，首先进行分词、去停用词，而后基于步骤1的词向量文件查找句中每个词语对应的词向量，而后生成文本对应的向量表示：

步骤3，相似度计算。

针对用户输入文本x与自然语言语料库中的自然语言文本y，首先通过步骤2的文本表示将其表示为对应的向量表示，而后如下余弦相似度计算公式计算出x与语料库中的每个自然语言文本之间的相似度。

，其中x、y分别表示两个句 子的向量集合，x_i代表句子x中第i个词语的向量表示，y_i代表句子y中第i个词语的向量表示

步骤4，条例关键词匹配。

针对步骤3得到的与每个自然语言的相似度进行排序，此处将关键词阈值设置为0.85，而后将相似度大于阈值的那一个自然语言对应的条例关键词作为用户输入文本匹配到的条例关键词项。

步骤5，法规分类。

针对自然语言生成模块生成的针对条例内容的自然语言语料库提取出对应的法规名称与自然语言，以<自然语言，法规名称>形成法规分类语料库，而后基于BERT预训练模型进行模型微调进而得到法规分类模型。具体的模型架构如图5所示。

在构建好结构化法规库、法规图谱等数据支撑，基于自然语言生成的语料库训练好语义解析模型后，即可进入检索模块进行法规检索，如图6所示，包括如下步骤：

步骤1，常规检索。

该检索方式主要分为法规名称提取、条例标识提取以及内容查询三步。

步骤1.1，法规名称提取。

以自然语言生成模块中构建的法规别名库中的所有法规名称项为候选项，使用最长公共子序列算法与最小公共子串算法结合在用户输入文本中匹配候选项中的命中法规，而后基于命中法规查询法规别名库中的标准法规名。以用户输入文本为“婚姻法第二条”为例，基于所述步骤提取出“婚姻法”这个命中法规，而后在法规别名库中查询到“中华人民共和国婚姻法”：[中国婚姻法，婚姻法]这个字典，此时将这个字典的key即“中华人民共和国婚姻法”作为匹配到的法规名称。

步骤1.2，条例标识提取。

针对用户输入文本按情况提取条例标识。若为“第一条”、“第2条”等序号表达，则直接正则提取；若为关键词表达，则基于语义解析模块中的步骤2、3、4得到匹配的条例关键词。

步骤1.3，内容查询。

基于步骤1.1和步骤1.2提取到的法规名称和具体条例标识，而后使用图查询语句查询法规图谱，而后将返回内容作为该法规对应的条例内容返回给用户。

步骤2，自然语言检索。

该检索方式主要分为法规名称提取、条例关键词提取以及内容查询三步。

步骤2.1，法规名称提取。

将用户输入文本输入到自然语言生成模块的步骤5训练好的法规分类模型中即可自动得到对应的法规名称。此处设置法规分类的阈值为0.75，若法规分类模型得到法规名称的对应概率大于该阈值，则将该法律保存下来。

步骤2.2，条例关键词提取。

针对步骤2.1保存的法规名称集合，首先去法规图谱中查询与这些法规名称相关联的条例关键词，形成<法规名称，条例关键词>这种数据集合。而后基于语义解析模块的步骤2、3、4针对数据集合中的条例关键词进行相似度计算，从而得到与用户输入文本相匹配的条例关键词，也过滤掉了数据集合中不符合条件的数据。

步骤2.3，内容查询。

针对步骤2.2得到的数据集合，基于数据集合中的每个样本对应的法规名称和对应的条例关键词，使用图查询语句查询法规图谱，而后将返回内容作为该法规对应的条例内容返回给用户。

最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (5)

1.一种基于多层次语义解析的法律法规检索系统，其特征在于，包括：

法规库结构化模块：基于网络上公开的法律法规数据来构建法规库；

法规图谱模块：用于对法规库中的条例序号、条例关键词进行抽取并构建法规图谱，针对法规库中的法规名称，形成法规别名库；

自然语言生成模块：用于对法规图谱中的条例数据生成相应的自然语言描述，并生成扩充语料库；

语义解析模块：用于对生成的自然语言描述定制模型训练，进行相似度计算，并识别自然语言中的语义；

检索模块：用于对法规图谱模块所构建的法规图谱提供法规检索功能；

所述法规库结构化模块中构建法规库的过程为：将获取到的法律法规数据结合正则表达式进行预处理，针对其中文本内容去除无效字符，并通过正则表达式抽取出对应的法规名称以及法规对应内容，以<法规名称，法规条对应内容>这种形式存储到数据库中；

所述检索模块的检索方式包括常规检索和自然语言检索；

所述常规检索分为法规名称提取、条例标识提取以及内容查询三步；

S1.1：法规名称提取：以自然语言生成模块中构建的法规别名库中的所有法规名称项为候选项，使用最长公共子序列算法与最小公共子串算法结合在用户输入文本中匹配候选项中的命中法规，而后基于命中法规查询法规别名库中的标准法规名；

S1.2：条例提取：针对用户输入文本来提取条例标识；若为序号表达，则直接进行正则提取；若为关键词表达，则基于语义解析模块中的相似度计算匹配关键词；

S1.3：内容查询：基于提取到的法规名称和条例标识，使用图查询语句查询出对应的条例内容；

所述自然语言检索分为法规名称提取、条例关键词提取以及内容查询三步；

S2.1：法规名称提取：将用户输入文本输入到自然语言生成模块中的训练好的法规分类模型中自动得到对应的法规名称，设置法规分类的阈值为0 .75，若法规分类模型得到法规名称的对应概率大于该阈值，则将该法规保存下来；

S2.2：条例关键词提取：针对步骤S2 .1保存的法规名称集合，首先在法规图谱中查询与法规名称相关联的条例关键词，形成<法规名称，条例关键词>的数据集合；然后基于语义解析模块中的相似度计算得到与用户输入文本相匹配的条例关键词；

S2 .3，内容查询：针对步骤2 .2得到的数据集合，基于数据集合中的每个样本对应的法规名称和对应的条例关键词，使用图查询语句查询法规图谱，而后将返回内容作为该法规对应的条例内容返回给用户。

2.根据权利要求1所述的基于多层次语义解析的法律法规检索系统，其特征在于，所述法规图谱模块构建法规图谱的步骤为：

S1：对法规库中每项法规的条例内容进行条例序号抽取，生成<法规名称，条例序号，条例对应内容>形式的信息；

S2：对法规库中每项法规的条例内容进行条例关键词抽取，生成<法规名称，条例关键词，条例对应内容>形式的信息；

S3：将步骤S1、S2中生成的两种三元组信息存储到图数据库中。

3.根据权利要求2所述的基于多层次语义解析的法律法规检索系统，其特征在于，所述自然语言生成模块中所实现的步骤为：

S1：针对法规库中的法规名称，利用话术规则生成对应的别名，形成法规别名库；

S2：针对法规图谱中的条例关键词制定话术规则，形成条例关键词话术种子语料库；

S3：针对法规图谱中的条例内容，从公开的法律咨询网站逐条获取与所述条例内容相关的咨询问题，形成条例内容自然语言种子语料库；

S4：针对形成的条例关键词话术种子语料库和条例内容自然语言种子语料库，使用基于Transformer的Seq2Seq模型进行训练，并通过模型生成扩充语料库。

4.根据权利要求3所述的基于多层次语义解析的法律法规检索系统，其特征在于，所述Transformer为基于自注意力机制的一种可以并行计算的编码器。

5.根据权利要求3所述的基于多层次语义解析的法律法规检索系统，其特征在于，所述语义解析模块中定制模型的步骤为：

S1：对所述自然语言生成模块生成的扩充语料库进行词向量预训练；

S2：针对用户输入的文本，基于预训练得到的词向量文件查找对应词语的向量表示；

S3：基于词向量定制余弦相似度计算方法；

其公式如下所示：

其中x、y分别表示两个句子的向量集合，x_i代表句子x中第i个词语的向量表示，y_i代表句子y中第i个词语的向量表示；

S4：对步骤S3得到的所有自然语言的相似度进行排序，将相似度最高的自然语言对应的条例关键词作为用户输入文本匹配到的条例关键词项；

S5：针对自然语言生成模块生成的通过条例内容的自然语言种子语料库，基于BERT进行模型训练进而得到法规分类模型。

Images