CN114997155A - 一种基于表格检索和实体图推理的事实验证方法与装置 - Google Patents

Abstract

本发明公开了一种基于表格检索和实体图推理的事实验证方法与装置，方法包括如下步骤：首先针对输入的文本声明，进行表格证据检索，得到与声明最相关的表格证据集合；接着利用BERT模型对表格和文本声明进行编码，并得到表格和文本中的实体表示；然后将获取的实体表示和声明表示构建为实体图，并利用注意力聚合及信息融合操作增强表格实体与声明的交互；最后利用最佳表格提取操作获得最终声明的验证结果。本发明利用信息检索技术赋予模型表格证据检索的能力，并结合图注意力以及信息融合等操作增强模型的验证准确率，能够在海量语料库中根据给定声明检索表格证据，并结合表格证据对网络中的声明进行真实性验证。

Description

一种基于表格检索和实体图推理的事实验证方法与装置

技术领域

本发明涉及一种基于表格检索和实体图推理的事实验证方法与装置，属于互联网与人工智能技术领域。

背景技术

为抑制假新闻和虚假信息的负面社会影响，引导人们正确认识现实世界，越来越多的研究者开始关注文本的事实验证(Fact Verification)，该任务旨在根据语料库或者证据库验证给定声明真实与否，这一任务可以作为谣言检测或者虚假新闻验证的基础，其验证能力的提升可以对谣言检测等任务产生正面影响，从而有效保护社交媒体环境。但是，传统的事实验证模型主要面向非结构化数据，例如将文本作为语料库，难以推广到语料库为结构化或者半结构化数据的情况，因此面向表格型数据进行事实验证是同等重要但尚未充分解决的问题。

现有面向表格型数据的事实验证研究通常给定声明的单个关联表，这虽然对模型的开发非常有用，但是这种封闭的设置不能反映现实世界的事实验证任务，在现实任务中通常难以得知要查阅哪个表来获取证据。检索与声明相关的证据是一项重要需求，因为证据为声明的验证结果提供了基本理由，这对于让用户相信系统的验证能力并评估其正确性至关重要。因此，要满足现实系统，必须包含从大型数据源中检索证据的步骤。表格证据检索过程需要模型能够在具有庞大数量的语料库中搜索出与声明相关程度最高的一组表格。验证过程不仅面临与给定单个关联表格场景中类似的问题且需要利用检索到的多个表格证据，这需要模型能精准地结合表格中的关键信息进行推理，但现有技术尚无法实现。

发明内容

针对现有技术中存在的问题，本发明提出一个基于表格检索和实体图推理的事实验证模型，促使模型具备从大型语料库中检索与声明相关信息的能力，使得模型的验证过程有证据支撑，并且该模型通过实体图推理与信息融合等操作，增强模型的验证准确率。

为了达到上述目的，本发明提供如下技术方案：

一种基于表格检索和实体图推理的事实验证方法，包括如下步骤：

步骤1，获取与文本声明相关的表格证据集合

通过计算证据语料库中每个表格内容双元表示的TF-IDF向量点积来获取表格中每个token的编码，使用同样的方法对文本声明所包含实体的token进行编码；根据表格单词表示与实体表示之间的最佳匹配得分之和作为表格证据与声明之间的匹配得分，将得分排名前k的表格作为检索到的证据集合；

步骤2，获取表格证据集合以及文本声明的初步表示

将步骤1中获取的表格证据集合以及给定的文本声明作为BERT模型的输入，获取初步编码表示；通过BERTNER对表格证据集合中涉及的实体进行识别，获取实体的初步表示；

步骤3，根据抽取的实体构建并初始化实体图，在此基础上进行图推理

将表格中的实体以及文本声明句子作为实体图中的节点，并根据节点之间的关系构建实体图的边，并利用GAT进行节点间的信息传播，获取实体节点以及声明节点的特征表示；

步骤4，融合表格与声明之间的信息

经过实体图处理获得每个表格中的实体节点的特征表示后，通过注意力聚合机制来融合不同表格以及不同实体之间的信息，并利用信息融合机制感知声明特征表示；

步骤5，获取最终对声明真实性的预测结果

将融合信息层输出的表格表示作为全连接层分类器的输入，得到一组预测输出，表示根据每一个表格获得的对声明的预测；使用联合建模表格证据的检索重排序以及声明验证过程的方法，获取最佳证据表格并得到声明的最终验证结果。

进一步的，所述步骤1具体包括如下过程：

首先计算表格中每个单元包含的字词bi-gram的TF-IDF，得到表格的TF-IDF向量表示：

然后，在文本声明和表格单元或者表格标题之间搜索最长的子字符串匹配对，将匹配的短语表示为链接实体，并对链接到的实体进行bi-gram的TF-IDF向量表示：

计算文本声明和表格之间的得分，计算方式如式(1)所示：

将得分排名前k的表格作为检索到的证据集合T_s。

进一步的，所述步骤2具体包括如下过程：

子步骤2-1：骤将T_s中的每一个表格t_i与文本声明s进行连接，在连接后的序列前添加[CLS]标识符，然后把这个长序列作为BERT预训练模型的输入，并将输出的[CLS]标识符的特征表示作为每一个证据表格的特征编码表示

如公式(2)：

r_i＝BERT(t_i,s) (2)

同时，BERT模型输出对表格的编码表示

以及对文本声明的编码表示

其中L₁和L₂分别表示表格的长度和文本声明的长度；

子步骤2-2：对表格证据中涉及的实体进行识别，使用BERTNER作为实体识别工具来从表格证据中提取实体，并直接利用与实体相关的表格单元内容来生成实体表示；具体包括：通过构建一个二进制矩阵M_e来记录实体

与表格中每一个token之间的关系；模型通过在BERT编码器之上构建一个全连接层，将表格表示的向量维度进行转换使得

计算过程如式(3)：

通过将二进制矩阵M_e与表格表示t_i相乘来保留与实体相关的行，然后通过平均池化层以及最大池化层的连接作为实体的表示E_i，具体计算过程如下所示：

其中，mean-pool和max-pool分别代表平均池化操作和最大池化操作，⊙代表矩阵的元素相乘(element-wise)，最终可以得到t_i中的实体表示：

则所有检索到的表格证据中的实体表示为：E＝[E₁,...,E_k]＝[e₁,...,e_m]。

进一步的，所述子步骤2-2中，若矩阵中M_e(i,j)＝1，则表示表格中的第j个token属于实体e_i范围内，若为0则代表这个字符与该实体无关。

进一步的，所述步骤3具体包括如下过程：

子步骤3-1：首先，模型根据声明中字符的平均池化结果将声明节点初始化为如式(7)所示的

然后，通过计算一个选择门g来计算声明与实体之间的相关性，并可获得实体节点的初始表示E⁽⁰⁾，计算过程如下所示：

g＝σ([λ₁,…,λ_m]) (9)

E⁽⁰⁾＝gE＝[g₁e₁,…,g_me_m] (10)

子步骤3-2：采用GAT来传播节点信息以进行推理；图中节点的初始表示为

包含m个实体节点以及一个文本声明节点；获得第t-1层的节点表示

后，通过一个图注意力层来得到第t层的节点表示，图注意力层分为注意力系数计算以及结点间的加权求和；

首先通过一个线性层对上一层获得的实体表示进行处理，计算过程如式(11)：

其中，

是模型的可训练参数，然后通过共享注意力机制计算表示实体j特征对实体i的重要性的注意力系数

计算过程如式(12)：

表示一个单层的前馈神经网络层，得到实体之间的注意力系数之后，模型根据该系数计算实体节点之间的注意力得分，计算过程如式(13)：

其中，

代表两实体之间的注意力权重，表示要从实体i传播到实体j的信息的比例；

每个节点通过聚合来自其邻居的信息进行更新，如式(14)所示：

ReLU函数为激活函数，B_i表示节点n_i的所有邻居节点，通过式可以获得经过第t层处理后的所有实体表示

进一步的，所述步骤4具体包括如下过程：

首先将文本声明的表示

作为查询向量来计算每个实体

与其注意力得分μ_j，计算过程如式(15)所示：

其中，

和

为模型的权重矩阵，||表示连接操作；得到实体与声明之间的注意力得分后，通过使用softmax函数获取归一化的权重系数α_j来对各实体表示蕴含的信息进行聚合，具体如式(16)：

其中，m表示表格证据集合中包含的实体数量；根据归一化权重系数α_j获得聚合后的实体表示a，具体计算如式(17)：

最后，利用融合层将

与公式(2)获得的表格证据表示r_i连接作为下游最终结果预测的输入，即通过信息融合层处理过的单个表格表示为

表格证据集合表示为

进一步的，所述步骤5具体包括如下过程：

在给定声明和获取到一组表格证据的前提下，假设声明验证结果c和v是独立变量，则p(c,v∣s,T_s)也是一个分类分布，且具有一个可以优化的正确结果，这一结果表示检索正确的表格证据以及声明的正确预测结果，在训练阶段，通过式(18)获得该分布结果：

p(c,v∣s,T_s)＝σ(f_mlp((T_s)_c)_v) (18)

其中，f_mlp表示全连接层，σ表示softmax函数；在测试阶段，模型通过对表格选择变量c进行边缘化来得到最终声明的验证结果分布，具体如式(19)所示：

同时，该模块通过边缘化变量v预测与文本声明匹配的最佳表格证据，如式(20)所示：

根据式(19)获得的分布，通过构建交叉熵损失函数来训练模型获得最佳表格证据。

进一步的，所述步骤5中，在训练阶段，若集合T_s未包含真实表格证据，则将T_s中得分最低的表格替换为t_g。

本发明还提供了一种基于表格检索和实体图推理的事实验证装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，该计算机程序被加载至处理器时实现上述基于表格检索和实体图推理的事实验证方法。

进一步的，基于表格检索和实体图推理的事实验证装置包括表格证据检索模块和声明验证模块；基于实体链接的表格证据检索模块用于获取与声明相关的表格证据集合，作为验证模块的证据支撑，具体包括基于表格检索和实体图推理的事实验证方法中步骤1内容；基于实体图推理的声明验证模块用于有效提取表格证据集合中的关键信息，从而获得对声明的验证结果，具体包括基于表格检索和实体图推理的事实验证方法中步骤2-5内容。

与现有技术相比，本发明具有如下优点和有益效果：

1.本发明通过结合TF-IDF和实体链接进行表格检索，来为模型验证过程提供证据支撑，并且提取多个证据表格中的实体构建图神经网络来有效整合表格中与声明相关的关键信息，最后利用注意力聚合以及信息融合操作增强声明与证据之间的关联，从而提升模型对声明的验证准确率。

2.本发明还提供了一个基于表格检索和实体图推理的事实验证装置，应用于未给定与声明相关表格的事实验证场景，包含基于实体链接的表格证据检索模块以及基于实体图推理的声明验证模块。为了建模表格证据检索步骤，本发明将给定与声明相关表格的场景中所有涉及的表格作为证据检索的大型语料库，并通过实体链接与TF-IDF结合的方式，进行表格证据的检索；在声明验证模块，为了生成检索到的表格内以及表格间更细粒度的证据特征，本发明提出一个基于实体图的事实验证算法。该算法将实体作为图中的节点，并根据表格实体中的关系以及实体与声明之间的关系构造图中的边。为了约束与声明相关的实体子图中的信息传播，本算法引入门约束，并应用图神经网络传播实体特征进行推理。为了使模型在检索阶段能获得更为准确的证据表格，对表格证据检索排序过程以及声明验证过程进行联合训练。

附图说明

图1为本发明实施例的方法总体框架图。

图2为声明验证模块的模型结构图。

图3为本发明实施例的方法流程图。

具体实施方式

以下将结合具体实施例对本发明提供的技术方案进行详细说明，应理解下述具体实施方式仅用于说明本发明而不用于限制本发明的范围。

参见图1、图2、图3，一种基于表格检索和实体图推理的事实验证方法，具体实施步骤如下：

步骤1，首先计算表格中每个单元包含的字词双元(bi-gram)的TF-IDF，得到表格的TF-IDF向量表示：

表示表格t获得的bi-gram词表中第m个token；然后，在文本声明和表格单元或者表格标题之间搜索最长的子字符串匹配对，将匹配的短语表示为链接实体，并对链接到的实体进行bi-gram的TF-IDF向量表示：

表示声明s中的实体获得的bi-gram词表中的第n个token；最后为了能获得能对文本声明进行验证的表格证据集合T_s，接下来将计算文本声明和表格之间的得分，计算方式如式(1)所示：

将得分排名前k的表格作为检索到的证据集合T_s。

步骤2，将步骤1获得的表格证据集合T_s＝{t₁,...,t_k}以及文本声明s作为声明验证模块的输入，该模块的模型结构如图2所示。步骤2用来获取输入的初始表示以及实体的初步表示，可以分为以下两个子步骤：

子步骤2-1：为了获得表格证据和文本声明的初步表示，该步骤将T_s中的每一个表格t_i与文本声明s进行连接，在连接后的序列前添加[CLS]标识符，然后把这个长序列作为BERT预训练模型的输入，并将输出的[CLS]标识符的特征表示作为每一个证据表格的特征编码表示

d表示BERT输出向量的隐层维度，如公式(2)：

r_i＝BERT(t_i,s) (2)

同时，BERT模型会输出对表格的编码表示

以及对文本声明的编码表示

其中L₁和L₂分别表示表格的长度和文本声明的长度。

子步骤2-2：对表格证据中涉及的实体进行识别，使用BERT NER作为实体识别工具来从表格证据中提取实体，并直接利用与实体相关的表格单元内容来生成实体表示。具体来说，通过构建一个二进制矩阵M_e来记录实体

与表格中每一个token之间的关系，d¹表示实体表示的隐层维度。若矩阵中M_e(i,j)＝1，则表示表格中的第j个token属于实体e_i范围内，若为0则代表这个字符与该实体无关。除此之外，为了保持向量维度的一致性，模型通过在BERT编码器之上构建一个全连接层，将表格表示的向量维度进行转换使得

计算过程如式(3)：

为了获得最终的实体表示，该模块仅通过将二进制矩阵M_e与表格表示t_i相乘来保留与实体相关的行，然后通过平均池化层以及最大池化层的连接作为实体的表示E_i，具体计算过程如下所示：

其中，f_mean-pool(·)和f_max-pool(·)分别代表平均池化操作和最大池化操作，⊙代表矩阵的元素相乘(element-wise)，f_concat(·)表示连接操作，最终可以得到t_i中的实体表示：

则所有检索到的表格证据中的实体可以表示为：E＝[E₁,...,E_k]＝[e₁,...,e_m]。

步骤3，为了充分捕获实体之间的语义关系，本发明基于表格实体间的关系以及实体与声明之间的关系构建一个实体图。该实体图中包含两类节点，一类是从表格中提取的实体节点，另一类是文本声明节点。这两类节点间可以构建以下两类边：(1)同一表格中的实体之间存在相连的边；(2)不同表格间的相同实体之间存在相连的边；(3)所有实体与声明节点之间存在相连的边。步骤3可以分为以下两个子步骤：

子步骤3-1：首先，模型根据声明中字符的平均池化结果将声明节点初始化为如式(7)所示的

然后，通过计算一个选择门g来计算声明与实体之间的相关性，并可获得实体节点的初始表示E⁽⁰⁾，计算过程如下所示：

g＝σ([λ₁,…,λ_m]) (9)

E⁽⁰⁾＝gE＝[g₁e₁,…,g_me_m] (10)

其中，W_g表示权重系数，e_i为声明中第i个实体的表示，σ表示softmax函数。

子步骤3-2：该步骤采用GAT来传播节点信息以进行推理。图中节点的初始表示为

包含m个实体节点以及一个文本声明节点。具体来说，获得第t-1层的节点表示

后，可以通过一个图注意力层来得到第t层的节点表示，图注意力层分为注意力系数计算以及结点间的加权求和。

为了获得节点之间的注意力系数，首先通过一个线性层对上一层获得的实体表示进行处理，得到如式(11)所示的隐层表示

其中，

是模型的可训练参数，然后通过共享注意力机制计算表示实体j特征对实体i的重要性的注意力系数

计算过程如式(12)：

表示一个单层的前馈神经网络层，f_LR(·)表示激活函数LeakReLU。得到实体之间的注意力系数之后，模型根据该系数计算实体节点之间的注意力得分，计算过程如式(13)：

其中，

代表两实体之间的注意力权重，表示要从实体i传播到实体j的信息的比例，exp()表示指数函数。

为了根据注意力系数进行加权求和获得节点的最终表示，每个节点通过聚合来自其邻居的信息进行更新，如式(14)所示：

f_R表示ReLU激活函数，B_i表示节点n_i的所有邻居节点，通过式(14)可以获得经过第t层处理后的所有实体表示

步骤4，在获得每个表格证据中的实体节点表示后，该模块通过注意力聚合机制来融合不同表格以及不同实体之间的信息。该模块首先将文本声明的表示

作为查询向量来计算每个实体

与其注意力得分μ_j，计算过程如式(15)所示：

其中，

和

为模型的权重矩阵，||表示连接操作。得到实体与声明之间的注意力得分后，该模块通过使用softmax函数获取归一化的权重系数α_j来对各实体表示蕴含的信息进行聚合，具体如式(16)：

其中，m表示表格证据集合中包含的实体数量。根据归一化权重系数α_j可以获得聚合后的实体表示a，具体计算如式(17)：

最后，利用融合层将

与公式(2)获得的表格证据表示r_i连接作为下游最终结果预测的输入，即通过信息融合层处理过的单个表格可以表示为

表格证据集合可以表示为

步骤5，将融合信息层输出的表格表示

作为全连接层分类器的输入，可以得到一组预测输出L＝(L₁,…,L_k)，表示根据每一个表格获得的对声明的预测。为了文本声明最终的预测结果，本发明使用联合建模表格证据的检索重排序以及声明验证过程的方法。

具体来说，在训练阶段模型假设每个声明的最佳匹配证据表格可以得到，并可以用来学习证据排序函数。模型将其建模为从集合T_s中选择正确的表，并设置一个分类变量c来表明应该选择哪一个证据表。因此，在给定声明和获取到一组表格证据的前提下，本发明假设c和v(声明验证结果)是独立变量，则p(c,v∣s,T_s)也是一个分类分布，且具有一个可以优化的正确结果，这一结果表示检索正确的表格证据以及声明的正确预测结果，在训练阶段，通过式(18)获得该分布结果：

p(c,v∣s,T_s)＝σ(f_mlp((T_s)_c)_v) (18)

其中，f_mlp表示全连接层，σ表示softmax函数。在测试阶段，模型通过对表格选择变量c进行边缘化来得到最终声明的验证结果分布，具体如式(19)所示：

同时，该模块通过边缘化变量v预测与文本声明匹配的最佳表格证据，如式(20)所示：

根据式(19)和(20)获得的分布，本发明通过构建交叉熵损失函数来训练模型获得最佳表格证据。为保证真实表格证据t_g出现，在训练阶段，若集合T_s未包含真实表格证据，则将T_s中得分最低的表格替换为t_g。

基于相同的发明构思，本发明实施例公开了一种基于表格检索和实体图推理的事实验证装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，该计算机程序被加载至处理器时实现上述基于表格检索和实体图推理的事实验证方法。具体的，该装置结构如图1所示，包括表格证据检索模块和声明验证模块。基于实体链接的表格证据检索模块用于获取与声明相关的表格证据集合，作为验证模块的证据支撑，具体包括基于表格检索和实体图推理的事实验证方法中步骤1内容；基于实体图推理的声明验证模块用于有效提取表格证据集合中的关键信息，从而获得对声明的验证结果，具体包括基于表格检索和实体图推理的事实验证方法中步骤2内容。

本发明方案所公开的技术手段不仅限于上述实施方式所公开的技术手段，还包括由以上技术特征任意组合所组成的技术方案。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围。

Claims (10)

1.一种基于表格检索和实体图推理的事实验证方法，其特征在于，包括如下步骤：

步骤1，获取与文本声明相关的表格证据集合

通过计算证据语料库中每个表格内容双元表示的TF-IDF向量点积来获取表格中每个token的编码，使用同样的方法对文本声明所包含实体的token进行编码；根据表格单词表示与实体表示之间的最佳匹配得分之和作为表格证据与声明之间的匹配得分，将得分排名前k的表格作为检索到的证据集合；

步骤2，获取表格证据集合以及文本声明的初步表示

将步骤1中获取的表格证据集合以及给定的文本声明作为BERT模型的输入，获取初步编码表示；通过BERTNER对表格证据集合中涉及的实体进行识别，获取实体的初步表示；

步骤3，根据抽取的实体构建并初始化实体图，在此基础上进行图推理

将表格中的实体以及文本声明句子作为实体图中的节点，并根据节点之间的关系构建实体图的边，并利用GAT进行节点间的信息传播，获取实体节点以及声明节点的特征表示；

步骤4，融合表格与声明之间的信息

经过实体图处理获得每个表格中的实体节点的特征表示后，通过注意力聚合机制来融合不同表格以及不同实体之间的信息，并利用信息融合机制感知声明特征表示；

步骤5，获取最终对声明真实性的预测结果

将融合信息层输出的表格表示作为全连接层分类器的输入，得到一组预测输出，表示根据每一个表格获得的对声明的预测；使用联合建模表格证据的检索重排序以及声明验证过程的方法，获取最佳证据表格并得到声明的最终验证结果。

2.根据权利要求1所述的基于表格检索和实体图推理的事实验证方法，其特征在于，所述步骤1具体包括如下过程：

首先计算表格中每个单元包含的字词bi-gram的TF-IDF，得到表格的TF-IDF向量表示：

然后，在文本声明和表格单元或者表格标题之间搜索最长的子字符串匹配对，将匹配的短语表示为链接实体，并对链接到的实体进行bi-gram的TF-IDF向量表示：

计算文本声明和表格之间的得分，计算方式如式(1)所示：

将得分排名前k的表格作为检索到的证据集合T_s。

3.根据权利要求1所述的基于表格检索和实体图推理的事实验证方法，其特征在于，所述步骤2具体包括如下过程：

子步骤2-1：骤将T_s中的每一个表格t_i与文本声明s进行连接，在连接后的序列前添加[CLS]标识符，然后把这个长序列作为BERT预训练模型的输入，并将输出的[CLS]标识符的特征表示作为每一个证据表格的特征编码表示

如公式(2)：

r_i＝BERT(t_i,s) (2)

同时，BERT模型输出对表格的编码表示

以及对文本声明的编码表示

其中L₁和L₂分别表示表格的长度和文本声明的长度；

子步骤2-2：对表格证据中涉及的实体进行识别，使用BERTNER作为实体识别工具来从表格证据中提取实体，并直接利用与实体相关的表格单元内容来生成实体表示；具体包括：通过构建一个二进制矩阵M_e来记录实体

与表格中每一个token之间的关系；模型通过在BERT编码器之上构建一个全连接层，将表格表示的向量维度进行转换使得

计算过程如式(3)：

通过将二进制矩阵M_e与表格表示t_i相乘来保留与实体相关的行，然后通过平均池化层以及最大池化层的连接作为实体的表示E_i，具体计算过程如下所示：

其中，mean-pool和max-pool分别代表平均池化操作和最大池化操作，⊙代表矩阵的元素相乘(element-wise)，最终可以得到t_i中的实体表示：

则所有检索到的表格证据中的实体表示为：E＝[E₁,...,E_k]＝[e₁,…,e_m]。

4.根据权利要求3所述的基于表格检索和实体图推理的事实验证方法，其特征在于，所述子步骤2-2中，若矩阵中M_e(i,j)＝1，则表示表格中的第j个token属于实体e_i范围内，若为0则代表这个字符与该实体无关。

5.根据权利要求1所述的基于表格检索和实体图推理的事实验证方法，其特征在于，所述步骤3具体包括如下过程：

子步骤3-1：首先，模型根据声明中字符的平均池化结果将声明节点初始化为如式(7)所示的

然后，通过计算一个选择门g来计算声明与实体之间的相关性，并可获得实体节点的初始表示E⁽⁰⁾，计算过程如下所示：

g＝σ([λ₁,…,λ_m]) (9)

E⁽⁰⁾＝gE＝[g₁e₁,…,g_me_m] (10)

子步骤3-2：采用GAT来传播节点信息以进行推理；图中节点的初始表示为

包含m个实体节点以及一个文本声明节点；获得第t-1层的节点表示

后，通过一个图注意力层来得到第t层的节点表示，图注意力层分为注意力系数计算以及结点间的加权求和；

首先通过一个线性层对上一层获得的实体表示进行处理，计算过程如式(11)：

其中，

是模型的可训练参数，然后通过共享注意力机制计算表示实体j特征对实体i的重要性的注意力系数

计算过程如式(12)：

表示一个单层的前馈神经网络层，得到实体之间的注意力系数之后，模型根据该系数计算实体节点之间的注意力得分，计算过程如式(13)：

其中，

代表两实体之间的注意力权重，表示要从实体i传播到实体j的信息的比例；

每个节点通过聚合来自其邻居的信息进行更新，如式(14)所示：

ReLU函数为激活函数，B_i表示节点n_i的所有邻居节点，通过式可以获得经过第t层处理后的所有实体表示

6.根据权利要求1所述的基于表格检索和实体图推理的事实验证方法，其特征在于，所述步骤4具体包括如下过程：

首先将文本声明的表示

作为查询向量来计算每个实体

与其注意力得分μ_j，计算过程如式(15)所示：

其中，

和

为模型的权重矩阵，||表示连接操作；得到实体与声明之间的注意力得分后，通过使用softmax函数获取归一化的权重系数α_j来对各实体表示蕴含的信息进行聚合，具体如式(16)：

其中，m表示表格证据集合中包含的实体数量；根据归一化权重系数α_j获得聚合后的实体表示a，具体计算如式(17)：

最后，利用融合层将

与公式(2)获得的表格证据表示r_i连接作为下游最终结果预测的输入，即通过信息融合层处理过的单个表格表示为

表格证据集合表示为

7.根据权利要求1所述的基于表格检索和实体图推理的事实验证方法，其特征在于，所述步骤5具体包括如下过程：

在给定声明和获取到一组表格证据的前提下，假设声明验证结果c和v是独立变量，则p(c,v∣s,T_s)也是一个分类分布，且具有一个可以优化的正确结果，这一结果表示检索正确的表格证据以及声明的正确预测结果，在训练阶段，通过式(18)获得该分布结果：

p(c,v∣s,T_s)＝σ(f_mlp((T_s)_c)_v) (18)

其中，f_mlp表示全连接层，σ表示softmax函数；在测试阶段，模型通过对表格选择变量c进行边缘化来得到最终声明的验证结果分布，具体如式(19)所示：

同时，该模块通过边缘化变量v预测与文本声明匹配的最佳表格证据，如式(20)所示：

根据式(19)获得的分布，通过构建交叉熵损失函数来训练模型获得最佳表格证据。

8.根据权利要求7所述的基于表格检索和实体图推理的事实验证方法，其特征在于，所述步骤5中，在训练阶段，若集合T_s未包含真实表格证据，则将T_s中得分最低的表格替换为t_g。

9.一种基于表格检索和实体图推理的事实验证装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，该计算机程序被加载至处理器时实现权利要求1-8中任意一项所述的基于表格检索和实体图推理的事实验证方法。

10.根据权利要求9所述的基于表格检索和实体图推理的事实验证装置，其特征在于，基于表格检索和实体图推理的事实验证装置包括表格证据检索模块和声明验证模块；基于实体链接的表格证据检索模块用于获取与声明相关的表格证据集合，作为验证模块的证据支撑，具体包括基于表格检索和实体图推理的事实验证方法中步骤1内容；基于实体图推理的声明验证模块用于有效提取表格证据集合中的关键信息，从而获得对声明的验证结果，具体包括基于表格检索和实体图推理的事实验证方法中步骤2-5内容。

Images