CN116304845B

CN116304845B - 一种建筑物料的层次分类识别方法

Info

Publication number: CN116304845B
Application number: CN202310581319.7A
Authority: CN
Inventors: 谷满昌
Original assignee: Yunzhu Information Technology Chengdu Co ltd
Current assignee: Yunzhu Information Technology Chengdu Co ltd
Priority date: 2023-05-23
Filing date: 2023-05-23
Publication date: 2023-08-18
Anticipated expiration: 2043-05-23
Also published as: CN116304845A

Abstract

本发明公开了一种建筑物料的层次分类识别方法，包括获取标准物料库的层次分类树结构和样本，提取层次分类树各层的节点标签，生成各样本对应的样本文本序列；基于层次分类树生成各节点标签对应的第一特征编码并进行样本增强；生成各样本文本序列对应的第二特征编码并构建层次分类识别模型；最后对层次分类识别模型进行训练。本发明将图神经网络应用于建筑物料的识别，有效消除了物料描述不一致的数据冗余，以搭建起各工程局之间系统物料流通桥梁，进一步实现施工企业对物料精益化成本管理；采用数据增强对少量样本做注意力选择，以扩充样本对，提供充足的训练数据供模型学习。

Description

一种建筑物料的层次分类识别方法

技术领域

本发明属于计算机技术领域，具体涉及一种建筑物料的层次分类识别方法。

背景技术

物料是建筑采购供应链业务的核心数据，各工程局、子公司在信息化建设进程中均有自己的物料标准。但是在实际招投标业务中，用户极少直接在标准物料库中选择物料进行约标，更多是将自己结构各异的物料清单上传到招投标系统，这样无法确保同一种物料在采购供应链业务上下游中描述规范的一致性，难以对招采业务进行数据核对和分析。

因此，本发明提供了一种建筑物料的层次分类识别方法，以至少解决上述部分技术问题。

发明内容

本发明要解决的技术问题是：提供一种建筑物料的层次分类识别方法，以至少解决上述部分技术问题。

为实现上述目的，本发明采用的技术方案如下：

一种建筑物料的层次分类识别方法，包括以下步骤：

步骤1、获取标准物料库的层次分类树结构和样本，提取层次分类树各层的节点标签，生成各样本对应的样本文本序列；

步骤2、基于层次分类树生成各节点标签对应的第一特征编码，采用第一特征编码对样本文本序列进行数据增强，得到合成文本序列并补充至样本文本序列中；

步骤3、基于样本文本序列，生成各样本对应的第二特征编码；

步骤4、构建层次分类识别模型：采用卷积核作用于第二特征编码，得到各层节点标签的卷积向量；将各层节点标签的卷积向量分别与上层节点标签的卷积向量融合，生成各层节点标签的分层表征；将各层节点标签的分层表征输入至全连接层，得到各层节点标签的输出概率；

步骤5、构建层次分类识别模型的损失函数，对层次分类识别模型进行训练。

进一步地，所述数据增强方法包括：步骤A、将一个样本文本序列中部分字段替换分别为任意一个字段，得到替换文本序列和替换文本序列的token序列；步骤B、基于第一特征编码对token序列进行选择，得到每个token对各节点标签的贡献概率；步骤C、采用维度求和，得到每个token对全部节点标签的贡献概率；步骤D、设置一个阈值，基于每个token对全部节点标签的贡献概率与阈值的比较，得到合成文本序列。

进一步地，在所述步骤D中，如果每个token对全部节点标签的贡献概率均大于所述阈值，则将当前替换文本序列作为合成文本序列，如果至少有一个token对全部节点标签的贡献概率小于所述阈值，则将0取代当前合成文本序列中对应的token，得到合成文本序列。

进一步地，在所述步骤A中，部分字段的含量至少占样本文本序列全部字段的10%。

进一步地，所述第一特征编码生成方法为：初始化层次分类树各层的节点标签，生成对应的节点特征，然后基于层次编码、空间编码和边编码得到任意两个节点标签的相似矩阵，最后归一化得到第一特征编码。

进一步地，所述第二特征编码生成方法为：采用BERT模型，将样本文本序列输入至BERT模型，得到第二特征编码。

进一步地，所述步骤4中，采用宽卷积核作用于高层级的第二特征编码，采用窄卷积核作用于低层级的第二特征编码。

进一步地，所述步骤4中，通过门控机制将各层节点标签的卷积向量分别与上层节点标签的卷积向量融融合。

进一步地，所述步骤5中，基于各层节点标签的输出概率、以及样本预设的样本标签，分别构建各层损失函数，将各层损失函数相加得到总损失函数，对层次分类识别模型进行训练。

与现有技术相比，本发明具有以下有益效果：

本发明将图神经网络应用于建筑物料的识别，有效消除了物料描述不一致的数据冗余，以搭建起各工程局之间系统物料流通桥梁，进一步实现施工企业对物料精益化成本管理。为提高模型训练的收敛性，本发明采用数据增强对少量样本做注意力选择，以扩充样本对，提供充足的训练数据供模型学习。

附图说明

图1为本发明的方法流程图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图1，对本发明进一步详细说明。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

首先，获取标准物料库的层次分类树结构和样本。本发明参考标准物料库参考国标GB/T50851-2013，将物料共分为一级大类、二级子类、三级子类、四级子类，其中一级类目53个，二级类目240个，三级类目有962个，四级类目共计4687个。一级大类、二级子类、三级子类、四级子类构成层次分类树，由上至下依次为一层、二层、三层、四层，每层包含对应个数的节点，每个节点具有一一对应的节点文本和节点标签，节点文本向量化后得到节点标签。每个样本（物料名称）预设有匹配的样本标签，也就是每个物料名称预设有匹配的物料标签，通过节点标签和物料名称预设的物料标签进行匹配，进而训练完成训练。

然后基于层次分类树生成各节点标签对应的第一特征编码。本发明采取有向无环图表示，利用图编码器对/>个节点标签/>进行编码，E表示节点标签之间的边，初始化得到各节点标签的节点特征/>为：/>，/>是节点标签/>的平均嵌入向量，然后将所有节点特征/>堆叠为特征矩阵/>。

本发明采用改进的Transformer模型来捕获图的结构信息，并且在自注意力模块中引入了三种编码，层次编码、空间编码和边编码。基于层次编码、空间编码和边编码得到任意两个节点标签的相似矩阵，最后归一化得到第一特征编码。

层次编码是度量节点的重要程度，不同层次的节点具有不同的重要程度，在Transformer模型的输入层中，将节点特征和对应节点标签/>的分类层数/>向量相加，得到层次编码值/>，/>。

由于图结构不是典型的序列数据，所以采用基于相对位置的空间编码给Transformer模型的自注意力模块添加两个节点标签之间最短路径作为空间编码的距离度量，如果节点标签对/>、/>是连通的，则/>是可以计算出来的，如果其是不连通的，则/>默认为一个预先设定的值-1。

边编码是通过找到节点对之间最短路径上所有边特征的平均值，其中/>是第f条边的特征，边编码/>。其目的是将节点之间有意义的边集合向量进行聚合，进一步丰富特征结构信息。

由层次编码、空间编码和边编码的输出值得到任意两个节点标签、/>的相似矩阵/>，/> ，将所有/>相加得到/>，最后归一化得到第一特征编码/>，/>，/>为得到的特征矩阵。

第一特征编码是基于节点标签和层次分类联合训练而成，通过节点标签的name对标签树(1-2-3-4级)进行图编码，它不仅用到了节点标签本身的节点文本向量编码，还额外地使用了层次分类树的层次结构特征信息。

与此同时，采用BERT模型，将样本也就是物料名称，生成对应的样本文本序列，n为文本长度，[CLS]和[SEP]分别是文本序列的开始和结束两个特殊标记，然后将样本文本序列/>输入至BERT模型，得到第二特征编码，/>，/>为样本文本序列中每一个token的特征维度。

由于层次文本分类是多标签分类的一个极具挑战性分类任务，因为它的标签层次结构复杂，例如：标准物料库包含的标签分为一级类目53个，二级类目240个，三级类目962个，四级类目4687个。而根据目前已入库样本分析存在某些四级类目对应的物料名称可能只有几个样本，部分类目数量分布不平衡，这种现象可能导致层次分类识别模型训练时可能无法收敛，并且少量训练数据难以提供足够的信息供给模型学习。为此，本发明利用标签树输出的图编码器对样本做注意力选择，扩充样本对。

首先，将待扩充样本对应的样本文本序列中部分字段替换为任意一个字段/>，得到替换文本序列/>，部分字段的含量至少占样本文本序列全部字段的10%；将替换文本序列/>输入至BERT模型，得到替换文本序列的token序列：/>；然后，基于第一特征编码对token序列中每个输入的token进行选择，得到每个token对各节点标签的贡献概率/> ，，/> '表示特征映射矩阵，/>表示第/>层中第j个节点标签对应的第一特征编码/>，/>，/>表示/>的转置，d表示每个token的特征维度；采用维度求和，得到每个token对全部节点标签的贡献概率/>，/>；最后通过设置一个阈值/>，确定采样的token，其中0代表特殊的token，其embedding的每一位都是0，基于阈值/>得到合成文本序列/>，具体为：如果每个token对全部节点标签的贡献概率/>均大于所述阈值/>，则将替换文本序列作为合成文本序列/>；如果至少有一个token对全部节点标签的贡献概率小于所述阈值/>，则将0取代替换文本序列中对应的token，得到合成文本序列/>。

基于样本的数据增强，任意一条样本可以扩充为多条合成样本，再将合成文本序列补充至样本文本序列，最后送入BERT共享层得到第二特征编码。

针对不同层级结构的分类任务，本发明利用不同尺寸的卷积核作用于第二特征编码上，采用较宽的卷积核来处理较高层级的数据（高层次的第二特征编码/>），针对细粒度层级数据（低层级的第二特征编码/>），则使用较窄的卷积核来处理。采用卷积核作用于第二特征编码/>，得到各层节点标签的卷积向量；各层节点标签的卷积向量分别与上层节点标签的卷积向量的卷积向量融合，生成各层节点标签的分层表征；将各层节点标签的分层表征输入至全连接层，得到各层节点标签的输出概率。

例如，第层使用一个宽度为h、高度为d的卷积核/>分别与/>(h个词)进行卷积操作，/>，其中/>是偏置项，/>为激活函数；经过卷积操作之后，第/>层可以得到一个/>维的向量；由于同一个父类下的子类应具备某些公共特征，将有价值的上层特征信息传递至下层，通过门控机制进行上下层信息融合，生成第/>层的分层表征/>，以用于该层的分类任务，，其中/>是逐元素相乘，/>表示门控权重矩阵；对于第/>层的多标签分类任务，/>表示类别数，将第/>层的分层表征/>输入至全连接层，得到第/>层中第/>个节点标签的输出概率/>，/>，表示全连接层的权重，/>表示全连接层的偏置，/>为激活函数。

基于第层节点标签的输出概率/>、以及物料名称预设的物料标签/>，分别构建各层损失函数：/>，其中/>表示物料名称对应的第/>层第/>个类别的物料标签；然后将各层损失函数相加得到总损失函数；基于总损失函数/>对层次分类识别模型进行训练。最后将训练好的层次分类识别模型用于实际建筑物料的层次分类。

最后应说明的是：以上各实施例仅仅为本发明的较优实施例用以说明本发明的技术方案，而非对其限制，当然更不是限制本发明的专利范围；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围；也就是说，但凡在本发明的主体设计思想和精神上作出的毫无实质意义的改动或润色，其所解决的技术问题仍然与本发明一致的，均应当包含在本发明的保护范围之内；另外，将本发明的技术方案直接或间接的运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims

1.一种建筑物料的层次分类识别方法，其特征在于，包括以下步骤：

步骤5、构建层次分类识别模型的损失函数，对层次分类识别模型进行训练；

所述步骤2中，利用图编码器对节点标签进行编码，基于节点标签和节点标签之间的边构建有向无环图，各个节点标签的平均嵌入向量作为对应节点标签的节点特征，然后将所有的节点特征堆叠为特征矩阵；在自注意力模块中引入层次编码、空间编码和边编码，由层次编码、空间编码和边编码的输出值得到任意两个节点标签的相似矩阵，将所有的相似矩阵相加得到相加矩阵，基于相加矩阵和特征矩阵归一化得到第一特征编码；

基于各层节点标签的输出概率、以及样本预设的样本标签，分别构建各层损失函数，将各层损失函数相加得到总损失函数，对层次分类识别模型进行训练。

2.根据权利要求1所述的一种建筑物料的层次分类识别方法，其特征在于，所述数据增强的方法包括：步骤A、将一个样本文本序列中部分字段替换为任意一个字段，得到替换文本序列和替换文本序列的token序列；步骤B、基于第一特征编码对token序列进行选择，得到每个token对各节点标签的贡献概率；步骤C、采用维度求和，得到每个token对全部节点标签的贡献概率；步骤D、设置一个阈值，基于每个token对全部节点标签的贡献概率与阈值的比较，得到合成文本序列。

3.根据权利要求2所述的一种建筑物料的层次分类识别方法，其特征在于，在所述步骤D中，如果每个token对全部节点标签的贡献概率均大于所述阈值，则将当前替换文本序列作为合成文本序列，如果至少有一个token对全部节点标签的贡献概率小于所述阈值，则将0取代当前合成文本序列中对应的token，得到合成文本序列。

4.根据权利要求2所述的一种建筑物料的层次分类识别方法，其特征在于，在所述步骤A中，部分字段的含量至少占样本文本序列全部字段的10%。

5.根据权利要求1所述的一种建筑物料的层次分类识别方法，其特征在于，所述第一特征编码生成方法为：初始化层次分类树各层的节点标签，生成对应的节点特征，然后基于层次编码、空间编码和边编码得到任意两个节点标签的相似矩阵，最后归一化得到第一特征编码。

6.根据权利要求1所述的一种建筑物料的层次分类识别方法，其特征在于，所述第二特征编码生成方法为：采用BERT模型，将样本文本序列输入至BERT模型，得到第二特征编码。

7.根据权利要求1所述的一种建筑物料的层次分类识别方法，其特征在于，所述步骤4中，采用宽卷积核作用于高层级的第二特征编码，采用窄卷积核作用于低层级的第二特征编码。

8.根据权利要求1所述的一种建筑物料的层次分类识别方法，其特征在于，所述步骤4中，通过门控机制将各层节点标签的卷积向量分别与上层节点标签的卷积向量融合。