CN116340887B - 多模态假新闻检测方法及系统 - Google Patents

多模态假新闻检测方法及系统 Download PDF

Info

Publication number
CN116340887B
CN116340887B CN202310610867.8A CN202310610867A CN116340887B CN 116340887 B CN116340887 B CN 116340887B CN 202310610867 A CN202310610867 A CN 202310610867A CN 116340887 B CN116340887 B CN 116340887B
Authority
CN
China
Prior art keywords
news
feature
features
modal
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310610867.8A
Other languages
English (en)
Other versions
CN116340887A (zh
Inventor
高赞
杨红旗
赵一博
马春杰
李传森
刘冬冬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Zhonglian Audio Visual Information Technology Co ltd
Original Assignee
Shandong Zhonglian Audio Visual Information Technology Co ltd
Tianjin University of Technology
Shandong Institute of Artificial Intelligence
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Zhonglian Audio Visual Information Technology Co ltd, Tianjin University of Technology, Shandong Institute of Artificial Intelligence filed Critical Shandong Zhonglian Audio Visual Information Technology Co ltd
Priority to CN202310610867.8A priority Critical patent/CN116340887B/zh
Publication of CN116340887A publication Critical patent/CN116340887A/zh
Application granted granted Critical
Publication of CN116340887B publication Critical patent/CN116340887B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/34—Browsing; Visualisation therefor
    • G06F16/345—Summarisation for human users
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/243—Classification techniques relating to the number of classes
    • G06F18/2431—Multiple classes
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/30—Writer recognition; Reading and verifying signatures
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供一种多模态假新闻检测方法及系统，属于电子信息技术领域，获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征；将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。本发明使得假新闻检测模型更加关注于新闻文本的有效信息，并通过将文本特征和摘要特征分别与图像特征进行跨通道信息增强，对于多模态之间的交互和关联捕捉效果较好；具有对多样性和复杂性较高的虚假新闻检测准确率高的技术效果。

Description

多模态假新闻检测方法及系统
技术领域
本发明属于电子信息技术领域，具体涉及一种多模态假新闻检测方法及系统。
背景技术
基于人工智能技术的发展，人们可以轻松地使用图像、视频和音频生成以假乱真的虚假新闻消息。随着互联网的普及和社交媒体的兴起，虚假新闻泛滥已经成为一个严重的问题。虚假新闻检测是指利用计算机视觉和自然语言处理技术从给定的信息来判断新闻的真假，通过利用多模态如文本、图像、视频等以提高虚假新闻检测的准确性和可靠性。因此，多模态虚假新闻检测已经成为研究和应用的热点之一。
在现有技术中，多模态虚假新闻检测存在的弊端如下：
1）现有的虚假新闻检测模型使用拼接或者点乘方式实现多模态特征的融合；虽然具有操作简单、不需要额外参数和可以保留模态的原始信息的优点；但是，对于多模态之间的交互和关联捕捉效果欠佳；2）现有的虚假新闻检测模型在识别多样性和复杂性较高的虚假新闻时，有效性较差。
因此，亟需一种虚假新闻识别效率高的多模态假新闻检测方法及系统。
发明内容
本发明提供一种多模态假新闻检测方法、系统、电子设备及存储介质，用以克服现有技术中存在的至少一个技术问题。
为实现上述目的，本发明提供一种多模态假新闻检测方法，方法包括：
获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；其中，新闻信息包括新闻文本和新闻图像；
根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征；
将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；
将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。
进一步的，优选的方法为，将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征的方法包括，
将文本特征与图像特征作为第一特征向量，将摘要特征与图像特征作为第二特征向量，将第一特征向量和第二特征向量分别输入注意力网络；
将第一特征向量和第二特征向量分别映射为Q、K和V三个矩阵；利用第一特征向量的Q矩阵和第二特征向量的K矩阵获取相互注意力矩阵，并使用梯度信息生成掩码矩阵；
利用相互注意力矩阵、掩码矩阵分别和第一特征向量的V矩阵与第二特征向量的V矩阵，获取两个共同注意力向量；
将所获取的两个共同注意力向量和第一特征向量和第二特征向量相融合，获得两个跨模特征态特征。
进一步的，优选的方法为，利用相互注意力矩阵、掩码矩阵和第二特征向量的V矩阵，获取共同注意力向量通过以下公式实现：
其中，h i 代表共同注意力向量，d h 代表h特征的维度，input1和input2代表输入的第一特征向量和第二特征向量，MLP代表对输入的特征向量进行聚合并与初始特征向量融合后提取的两个模态的q、k、v值，mask代表使用梯度信息生成的掩码矩阵。
进一步的，优选的方法为，第一特征向量的获取方法包括，
利用多层感知机对文本特征中的每一个token计算和文本特征中所有token的相关性；
在文本特征中筛选和文本特征中所有token的相关性高于预设阈值的token；
将所筛选的文本特征中的token和图像特征进行模态聚合，获得第一特征向量。
进一步的，优选的方法为，将两个跨模态特征输入多模态假新闻检测模型之前，还包括将两个跨模态特征使用粗分类机制进行跨模态优化获得优化后的跨模态特征的步骤，包括，
多层感知机利用至少两个粗分类层对两个跨模态特征进行重复分类，获得优化后的跨模态特征；其中，
粗分类层为利用加权函数分别计算两个跨模态特征的权重，将跨模态特征和对应的权重做内积运算后获得；
优化后的跨模态特征通过以下公式实现：；其中，为第i个优化后的跨模态特征，为优化前的跨模态特征，均为超参数，S i 为第i个跨模态特征的粗分类的得分。
进一步的，优选的方法为，多模态假新闻检测模型利用损失函数进行约束训练后获得；
损失函数通过以下公式实现：
；
；
其中，L f 表示跨模态特征优化后的分类损失，L is 表示图像特征和摘要特征融合后粗分类的损失，L it 表示图像特征和文本特征融合后粗分类的损失。
进一步的，优选的方法为，根据新闻文本、新闻图像和新闻信息的摘要信息，获取文本特征、图像特征和摘要特征通过以下公式实现：
T={t 1 ...,t m }=BERT(W)
I={i 1 ...,i m }=ResNet50(R)
S={s 1 ...,s m }=BERT(X)
其中，W代表新闻文本，t代表经过Bert模型提取后的文本特征，m代表数据的序号，R代表新闻图像数据， i代表经过ResNet50模型提取后的图像特征，X代表新闻信息的摘要信息，s代表经过Bert模型提取后的摘要特征。
为了解决上述问题，本发明还提供一种多模态假新闻检测系统，包括：
摘要获取单元，用于获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；其中，新闻信息包括新闻文本和新闻图像；
特征获取单元，用于根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征；
特征增强单元，用于将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；
检测单元，用于将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。
为了解决上述问题，本发明还提供一种电子设备，电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上述的多模态假新闻检测方法中的步骤。
本发明还保护一种计算机可读存储介质，存储有计算机程序，计算机程序被处理器执行时实现如上述的多模态假新闻检测方法。
本发明的一种多模态假新闻检测方法、系统、电子设备以及存储介质，获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；其中，新闻信息包括新闻文本和新闻图像；根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征；将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。本发明具有有益效果如下：通过抽取待检测的新闻信息的摘要特征，使得模型更加关注于新闻文本的有效信息，减少了噪声对模型的影响；并通过将文本特征和摘要特征分别与图像特征进行跨通道信息增强，对于多模态之间的交互和关联捕捉效果较好；在识别多样性和复杂性较高的虚假新闻场景中，有效性较高；本发明的多模态假新闻检测模型在更加关注于文本的强信息的同时模型的鲁棒性得到了增强。
附图说明
图1为根据本发明实施例的多模态假新闻检测方法的流程示意图；
图2为根据本发明实施例的多模态假新闻检测方法的原理示意图；
图3为根据本发明实施例的假新闻示例图；
图4为根据本发明实施例的多模态假新闻检测系统的逻辑结构框图；
图5根据本发明实施例的实现多模态假新闻检测方法的电子设备的内部结构示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本申请实施例可以基于人工智能技术和计算机视觉技术对相关的数据进行获取和处理。其中，人工智能（Artificial Intelligence，AI）是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
具体的，作为示例，图1为本发明一实施例提供的多模态假新闻检测方法的流程示意图。参照图1所示，本发明提供一种多模态假新闻检测方法，该方法可以由一个装置执行，该装置可以由软件和/或硬件实现。多模态假新闻检测方法，包括步骤S110~ S140。
S110、获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；其中，新闻信息包括新闻文本和新闻图像。
传统多模态虚假新闻检测往往利用新闻文本和新闻图像进行分类，但这些文本信息往往含有与新闻主题无关的噪声，本发明的创新在于利用抽取式算法为每条新闻数据生成一个摘要，减少噪声对模型的影响，同时保留原始的新闻文本信息，避免有效的上下文内容被去除。在具体的实施过程中，通过抽取式摘要算法生成对应新闻的摘要。示例如下：对于Weibo数据集由于其新闻内容较短，该数据集的摘要控制在50字以内；对于FakeNewsNet，由于其数据内容较长，该数据集摘要控制在200字以内。抽取式算法是从原文中摘取完整的句子以概括文章的主要内容，从而减少不必要的噪声对模型的影响。
在一个具体的实施例中，新闻文本为“[鲸现场:品牌+电商开启汽车后服务市场蓝海]美国固铂轮胎与专业汽车后市场o2o平台----汽车超人(隶属金固股份)战略合作签署仪式在上海举行。Cooper美国固铂轮胎将借助汽车超人的平台优势，实现产品在线销售与线下渠道布局完美结合。汽车后服务或成为汽车领域另一大蓝海。”通过利用抽取式算法获取新闻信息的摘要信息后，摘要信息为“汽车后服务或成为汽车领域另一大蓝海”。
S120、根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征。
具体地说，需要抽取两种文本特征和一个图像特征。对于文本特征而言，为了提取更加全面的层次信息，在本实施例中以Bert模型作为文本的编码器，该模型的hidden_states输出共有13层，其中，第1层为embedding层，另外12层为各层隐藏状态的输出，使用坐标为第3、6、9、12的隐藏状态，每个输出特征的形状是(batch_size, sequence_length,hidden_size)，特征通道为768，为了降低模型的参数同时与图像的特征维度保持一致，每一层的输出后使用了一个卷积层将元素形状控制为（batch_size,64)，最后将得到的特征进行融合得到文本的最终表示t i ；对于图像特征，本实施例以ResNet50模型作为图像的编码器，对模型进行改进提取Layer1、Layer2、Layer3、Layer4层的特征，并在每个Layer层的后面使用卷积改变特征形状并降低特征维度，减少模型参数的数量，使元素的形状控制为（batch_size,64)，最后将得到的特征进行融合。多尺度特征提取网络还可以包括新闻文本特征提取子网络、新闻图像特征提取子网络、新闻摘要特征提取子网络，并通过该新闻文本特征提取子网络提取新闻文本特征、通过新闻图像特征提取子网络提取新闻图像特征、通过新闻摘要特征提取子网络提取摘要特征。
也就是说，在具体的实施过程中，根据新闻文本、新闻图像和新闻信息的摘要信息，获取文本特征、图像特征和摘要特征通过以下公式实现：
T={t 1 ...,t m }=BERT(W)
I={i 1 ...,i m }=ResNet50(R)
S={s 1 ...,s m }=BERT(X)
其中，W代表新闻文本，t代表经过Bert模型提取后的文本特征，m代表数据的序号，R代表新闻图像数据，i代表经过ResNet50模型提取后的图像特征，X代表新闻信息的摘要信息，s代表经过Bert模型提取后的摘要特征。
总之，将新闻文本、新闻图像和摘要信息分别输入多尺度编码器，从多个层提取模态信息，通过对模态不同粒度的处理可以观察到不同的特征；也就是说通过多尺度编码器获取模态更全面的表征信息。针对现有的假新闻检测模型中语义信息丢失问题，本发明采用多尺度编码器的方法提取新闻文本和新闻图片的低维、中维、高维特征，使多模态假新闻检测模型获得更全面的表征信息。
S130、将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征。即，将通过多尺度编码器获取模态更全面的表征信息，引入注意力模块进行跨模态特征的交互，通过跨通道信息增强模块解决多模态特征信息交互融合的问题。
具体地说，通过改进共同注意力设计了跨通道信息增强模块，在本实施例中跨通道信息增强模块由两个信息增强模块(MS blocks)并行排列而成。
将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征的方法包括步骤S131~ S134。
S131、将文本特征与图像特征作为第一特征向量，将摘要特征与图像特征作为第二特征向量，将第一特征向量和第二特征向量分别输入注意力网络。
第一特征向量的获取方法包括，S1311、利用多层感知机对文本特征中的每一个token计算和文本特征中所有token的相关性；S1312、在文本特征中筛选和文本特征中所有token的相关性高于预设阈值的token；S1313、将所筛选的文本特征中的token和图像特征进行模态聚合，获得第一特征向量。其中，多层感知机是一种前向结构的人工神经网络，包含输入层、输出层及多个隐藏层融合特征描述子。
也就是说，在输入到共同注意力之前，使用多层感知机计算每个token的重要性，并根据重要性分数将模态聚合为一个表示，以达到使模型只关注有用的特征信息的目的。
S132、将第一特征向量和第二特征向量分别映射为Q、K和V三个矩阵；利用第一特征向量的Q矩阵和第二特征向量的K矩阵获取相互注意力矩阵，并使用梯度信息生成掩码矩阵。S133、利用相互注意力矩阵、掩码矩阵分别和第一特征向量的V矩阵与第二特征向量的V矩阵，获取两个共同注意力向量。
也就是说，将两个输入的特征张量（即将文本特征与图像特征作为第一特征向量，将摘要特征与图像特征作为第二特征向量，第一特征向量和第二特征向量两个特征向量）分别映射为query、key和value（即Q、K和V三个矩阵），用于共同注意力。具体地说，利用一个特征向量输入的query和另一个特征向量输入的key计算一个相互注意力矩阵，表示两个输入的特征向量之间的相关性；然后通过使用梯度信息生成两个特征向量的掩码矩阵，以实现只关注两个输入的特征向量的对模型输出有贡献的部分。进而利用相互注意力矩阵、掩码矩阵和两个特征向量输入的value计算两个共同注意力向量，以表示两个输入的特征向量对对方的关注；最后，将共同注意力向量与两个输入的特征张量相融合，完成通道级的多模态信息增强，得到最终的输出。
在具体的实施过程中，
Q i = QW i Q , K i = KW i K , V i = VW i V
W i Q ，W i K ，W i V 代表第i个头的投影矩阵，多头自注意函数的计算过程可以表示如下：Co(Q,K,V) = hW O
其中，h=h1 h2 ... h3 ；h i 代表经过加权函数的共同注意力向量，代表拼接特征向量，W O ∈ 。
利用相互注意力矩阵、掩码矩阵和第二特征向量的V矩阵，获取共同注意力向量通过以下公式实现：
；其中，h i 代表共同注意力向量，d h 代表h特征的维度，input1和input2代表输入的第一特征向量和第二特征向量，MLP代表对输入的特征向量进行聚合并与初始特征向量融合后提取的两个模态的q、k、v值，mask代表使用梯度信息生成的掩码矩阵。
同样的，对于获取第一特征向量对应的共同注意力向量的方式也是参照上述公式，只是将上述第二特征向量的V矩阵替换为第一特征向量的V矩阵即可，具体的实现方式不再赘述。
S134、将所获取的两个共同注意力向量和第一特征向量和第二特征向量相融合，获得两个跨模特征态特征。
综上，将通过多尺度编码器获取模态更全面的表征信息，通过引入共同注意力模块进行跨模态特征的交互解决多模态特征信息交互融合的问题。然后，需要将融合后的多模态特征信息进行分类。
S140、将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。
将新闻文本、摘要信息分别与新闻图像进行跨通道信息增强会得到两个跨模态特征，并将两个跨模态特征进行交互融合后，本发明创新性的采用粗分类方法对两个跨模态特征进行优化。具体地说，将多模态新闻分类任务分解为多个层次，前几层粗分类主要学习两个跨模态特征对最终结果的贡献度，将跨模态特征进行多层次优化从而提高分类的准确性和效率，最后一层细分类作为最终的分类结果。
具体地说，将两个跨模态特征输入多模态假新闻检测模型之前，还包括将两个跨模态特征使用粗分类机制进行跨模态优化获得优化后的跨模态特征的步骤，包括，多层感知机利用至少两个粗分类层对两个跨模态特征进行重复分类，获得优化后的跨模态特征；其中，粗分类层为利用加权函数分别计算两个跨模态特征的权重，将跨模态特征和对应的权重做内积运算后获得。即，将两个跨模态特征通过多层感知机进行分类后，使用sigmoid进行激活，得出该特征属于真新闻的概率值，同时从多视图的角度出发将两个特征向量看作共同决定分类结果的两个视图使用加权函数重新计算权重，将得到的权重与特征进行相乘，完成一层跨模态特征的优化，如此重复粗分类层完成多层次特征优化使得模型在最终分类中更准确的识别出新闻的真伪。
优化后的跨模态特征通过以下公式实现：
；其中，为第i个优化后的跨模态特征，为优化前的跨模态特征，均为超参数，S i 为第i个跨模态特征的粗分类的得分。
也就是说，在粗分类模块，使用MLP（多层感知机）预先将融合特征进行聚合分类，得到的粗分类结果为属于真新闻的概率。即从多视图的角度出发，将两个跨模态特征看作是影响结果的两个视图，使用加权函数重新计算两者的权重，权重代表对于结果的贡献度，将权重与输入特征做内积运算，从而实现一层跨模态特征的优化；如此重复粗分类层完成多层次特征优化使得模型在最终分类中更准确的识别出新闻的真伪；在进行粗分类后再次经过跨通道信息增强模块进行融合，最终完成跨模态特征的优化。本发明通过设置粗分类机制使模型在最终分类前进行跨模态特征的优化，实现了增强模型的鲁棒性的技术效果。
在具体的实施过程中，在粗分类层完成多层次特征优化后，在最后一层细分类作为最终的分类结果。也就是说，本发明将优化后的跨模态特征作为最后的分类特征，并使用交叉熵函数计算分类损失，同时在最后一次粗分类分别计算出两个跨模态特征的损失，联合三个损失约束网络进行模型训练，模型可以建模多模态信息之间和之内的关系，同时建模文本内容和图像内容各自的层次语义关系，分类器根据网络输出的特征向量，将其映射为一个概率分布，表示该新闻属于每个类别的可能性。
多模态假新闻检测模型利用损失函数进行约束训练后获得；
损失函数通过以下公式实现：
；
；其中，L f 表示跨模态特征优化后的分类损失，L is 表示图像特征和摘要特征融合后粗分类的损失，L it 表示图像特征和文本特征融合后粗分类的损失。
综上，本发明的多模态假新闻检测方法通过抽取式摘要算法生成新闻的摘要，解决了多模态信息噪声较多的问题；通过多尺度提取多模态的特征，解决了传统多模态虚假新闻检测提取特征的问题；利用跨模态融合模块解决了多模态特征信息交互的问题；使用粗分类机制优化了跨模态特征，最终实现了假新闻的有效检测。
图2为根据本发明实施例的多模态假新闻检测方法的原理示意图；如图2所示，在具体的实施过程中，第一步：利用抽取式算法为每条新闻数据生成一个摘要，减少噪声对模型的影响，同时保留原始的新闻文本信息，避免有效的上下文内容被去除。第二步：将新闻文本、新闻图像和摘要信息分别输入多尺度编码器，从多个层提取模态信息，通过对模态不同粒度的处理可以观察到不同的特征；采用多尺度编码器的方法提取新闻文本和新闻图片的低维、中维、高维特征，使多模态假新闻检测模型获得更全面的表征信息，即并通过文本编码器提取新闻文本特征、通过图像编码器提取新闻图像特征、通过文本编码器提取摘要特征。第三步：通过引入共同注意力模块进行跨模态特征的交互解决多模态特征信息交互融合的问题，跨通道信息增强模块由两个信息增强模块(MS blocks)并行排列而成；即将摘要与图像进行融合得到跨模态增强特征；将文本与图像进行融合得到另一个跨模态增强特征。第四步：将两者放到粗分类模块进行特征优化后再进行融合，这样使模型更加关注于文本的强信息同时增强了模型的鲁棒性。其中，跨通道信息增强模块同样由两个信息增强模块(MS blocks)并行排列而成。最后一步：将优化后的跨模态特征作为最后的分类特征，并使用交叉熵函数计算分类损失，同时在最后一次粗分类分别计算出两个跨模态特征的损失，联合三个损失约束网络进行模型训练，模型可以建模多模态信息之间和之内的关系，同时建模文本内容和图像内容各自的层次语义关系，分类器根据网络输出的特征向量，将其映射为一个概率分布，表示该新闻属于每个类别的可能性。
图3为利用本发明的多模态假新闻检测方法识别的虚假新闻示例；其中，图3-A的待识别的原始新闻文本为战争中的越南兄妹；经过本发明的多模态假新闻检测方法进行检测后发现这是两个越南兄弟姐妹的真实照片，但这张照片是2015年尼泊尔地震期间拍摄的；因此，判定为假新闻。 图3-B的待识别的原始新闻文本为飓风桑迪期间马路上出现鲨鱼；经过本发明的多模态假新闻检测方法进行检测后发现这是拼接后获取的鲨鱼图片，因此，判定为假新闻。图3-C的待识别的原始新闻文本为2015年3月20日出现日食，经过本发明的多模态假新闻检测方法进行检测后发现上述图片是人工智能生成的艺术品，因此，判定为假新闻。
利用本发明的多模态假新闻检测方法在Weibo、FakeNewsNet等各个数据集上进行检测，结果表1所示：
表1：本发明的多模态假新闻检测模型在各个数据集中检测结果表
通过观察表1可见，本发明的多模态假新闻检测方法在各个数据集上的检测的平均准确率均达到了86%以上。尤其是在Weibo数据集上的真新闻的查准率为0.95远远超过其他模型的查准率。
综上，本发明的多模态假新闻检测方法，针对新闻文本含有大量无用信息使用多层感知机首先减少噪声的干扰，并将提取的上下文有效信息与图像进行融合得到跨模态辅助特征；其次提取的新闻摘要在极大程度上去除了新闻文本的噪声信息，将摘要与图像进行融合得到跨模态增强特征，并将两者放到粗分类模块进行特征优化后再进行融合，最终获得更加关注于文本的强信息以及强鲁棒性的多模态假新闻检测模型。
与上述多模态假新闻检测方法相对应，本发明还提供一种多模态假新闻检测系统。图4示出了根据本发明实施例的多模态假新闻检测系统的功能模块。
如图4所示，本发明提供的多模态假新闻检测系统400可以安装于电子设备中。根据实现的功能，所述多模态假新闻检测系统400可以包括摘要获取单元410、特征获取单元420、特征增强单元430和检测单元440。本发明所述单元也可以称之为模块，指的是一种能够被电子设备的处理器所执行，并且能够完成某一固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
在本实施例中，关于各模块/单元的功能如下：
摘要获取单元410，用于获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；其中，新闻信息包括新闻文本和新闻图像；
特征获取单元420，用于根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征；
特征增强单元430，用于将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；
检测单元440，用于将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。
本发明所提供的上述多模态假新闻检测系统的更为具体的实现方式，均可以参照上述对多模态假新闻检测方法的实施例表述，在此不再一一列举。
本发明所提供的上述多模态假新闻检测系统，通过获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；其中，新闻信息包括新闻文本和新闻图像；根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征；将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。本发明具有有益效果如下：通过抽取待检测的新闻信息的摘要特征，使得模型更加关注于新闻文本的有效信息，减少了噪声对模型的影响；并通过将文本特征和摘要特征分别与图像特征进行跨通道信息增强，对于多模态之间的交互和关联捕捉效果较好；在识别多样性和复杂性较高的虚假新闻场景中，有效性较高；本发明的多模态假新闻检测模型在更加关注于文本的强信息的同时模型的鲁棒性得到了增强。
如图5所示，本发明提供一种多模态假新闻检测方法的电子设备5。
该电子设备5可以包括处理器50、存储器51和总线，还可以包括存储在存储器51中并可在所述处理器50上运行的计算机程序，如基于生成对抗网络的腹腔镜影像除烟程序52。
其中，所述存储器51至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器（例如：SD或DX存储器等）、磁性存储器、磁盘、光盘等。所述存储器51在一些实施例中可以是电子设备5的内部存储单元，例如该电子设备5的移动硬盘。所述存储器51在另一些实施例中也可以是电子设备5的外部存储设备，例如电子设备5上配备的插接式移动硬盘、智能存储卡（Smart Media Card，SMC）、安全数字（SecureDigital，SD）卡、闪存卡（Flash Card）等。进一步地，所述存储器51还可以既包括电子设备5的内部存储单元也包括外部存储设备。所述存储器51不仅可以用于存储安装于电子设备5的应用软件及各类数据，例如基于生成对抗网络的腹腔镜影像除烟程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器50在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器（Central Processing unit，CPU）、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器50是所述电子设备的控制核心（Control Unit），利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器51内的程序或者模块（例如基于生成对抗网络的腹腔镜影像除烟程序等），以及调用存储在所述存储器51内的数据，以执行电子设备5的各种功能和处理数据。
所述总线可以是外设部件互连标准（peripheral component interconnect，简称PCI）总线或扩展工业标准结构（extended industry standard architecture，简称EISA）总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器51以及至少一个处理器50等之间的连接通信。
图5仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图5示出的结构并不构成对所述电子设备5的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管未示出，所述电子设备5还可以包括给各个部件供电的电源（比如电池），优选地，电源可以通过电源管理装置与所述至少一个处理器50逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备5还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
进一步地，所述电子设备5还可以包括网络接口，可选地，所述网络接口可以包括有线接口和/或无线接口（如WI-FI接口、蓝牙接口等），通常用于在该电子设备5与其他电子设备之间建立通信连接。
可选地，该电子设备5还可以包括用户接口，用户接口可以是显示器（Display）、输入单元（比如键盘（Keyboard）），可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED（Organic Light-Emitting Diode，有机发光二极管）触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备5中处理的信息以及用于显示可视化的用户界面。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
所述电子设备5中的所述存储器51存储的基于生成对抗网络的腹腔镜影像除烟程序52是多个指令的组合，在所述处理器50中运行时，可以实现：S110、获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；其中，新闻信息包括新闻文本和新闻图像。S120、根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征；S130、将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；S140、将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。
具体地，所述处理器50对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。需要强调的是，为进一步保证上述基于生成对抗网络的腹腔镜影像除烟程序的私密和安全性，上述基于生成对抗网络的腹腔镜影像除烟程序存储于本服务器集群所处区块链的节点中。
进一步地，所述电子设备5集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（ROM，Read-Only Memory）。
本发明实施例还提供一种计算机可读存储介质，所述存储介质可以是非易失性的，也可以是易失性的，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现：S110、获取待检测的新闻信息，并利用抽取式算法获取新闻信息的摘要信息；其中，新闻信息包括新闻文本和新闻图像。S120、根据新闻文本、新闻图像和摘要信息，获取文本特征、图像特征和摘要特征；S130、将文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；S140、将两个跨模态特征输入多模态假新闻检测模型，确定待检测的新闻信息是否为假新闻。
具体地，所述计算机程序被处理器执行时具体实现方法可参考实施例多模态假新闻检测方法中相关步骤的描述，在此不赘述。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (8)

1.一种多模态假新闻检测方法，其特征在于，包括：
获取待检测的新闻信息，并利用抽取式算法获取所述新闻信息的摘要信息；其中，所述新闻信息包括新闻文本和新闻图像；
根据所述新闻文本、所述新闻图像和所述摘要信息，获取文本特征、图像特征和摘要特征；
将所述文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；
将所述两个跨模态特征输入多模态假新闻检测模型，确定所述待检测的新闻信息是否为假新闻；
其中，将所述文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征的方法包括，
将所述文本特征与图像特征作为第一特征向量，将摘要特征与图像特征作为第二特征向量，将所述第一特征向量和第二特征向量分别输入注意力网络；
将所述第一特征向量和第二特征向量分别映射为Q、K和V三个矩阵；利用第一特征向量的Q矩阵和第二特征向量的K矩阵获取相互注意力矩阵，并使用梯度信息生成掩码矩阵；
通过以下公式实现利用所述相互注意力矩阵、所述掩码矩阵分别和所述第一特征向量的V矩阵与第二特征向量的V矩阵，获取两个共同注意力向量；
其中，hi代表共同注意力向量，dh代表h特征的维度，input1和input2代表输入的第一特征向量和第二特征向量，MLP代表对输入的特征向量进行聚合并与初始特征向量融合后提取的两个模态的q、k、v值，mask代表使用梯度信息生成的掩码矩阵；
将所获取的两个共同注意力向量和第一特征向量和第二特征向量相融合，获得两个跨模特征态特征。
2.如权利要求1所述的多模态假新闻检测方法，其特征在于，所述第一特征向量的获取方法包括，
利用多层感知机对文本特征中的每一个token计算和文本特征中所有token的相关性；
在文本特征中筛选和文本特征中所有token的相关性高于预设阈值的token；
将所筛选的文本特征中的token和图像特征进行模态聚合，获得第一特征向量。
3.如权利要求1中所述的多模态假新闻检测方法，其特征在于，
将所述两个跨模态特征输入多模态假新闻检测模型之前，还包括将所述两个跨模态特征使用粗分类机制进行跨模态优化获得优化后的跨模态特征的步骤，包括，
多层感知机利用至少两个粗分类层对所述两个跨模态特征进行重复分类，获得优化后的跨模态特征；其中，
所述粗分类层为利用加权函数分别计算所述两个跨模态特征的权重，将跨模态特征和对应的权重做内积运算后获得；
所述优化后的跨模态特征通过以下公式实现：
其中，ωi为第i个优化后的跨模态特征，ei为优化前的跨模态特征，α和β均为超参数，Si为第i个跨模态特征的粗分类的得分。
4.如权利要求1中所述的多模态假新闻检测方法，其特征在于，
所述多模态假新闻检测模型利用损失函数进行约束训练后获得；
所述损失函数通过以下公式实现：
L＝Lf+(Lis+Lit)/2
其中，Lf表示跨模态特征优化后的分类损失，Lis表示图像特征和摘要特征融合后粗分类的损失，Lit表示图像特征和文本特征融合后粗分类的损失。
5.如权利要求1中所述的多模态假新闻检测方法，其特征在于，根据所述新闻文本、所述新闻图像和所述新闻信息的摘要信息，获取文本特征、图像特征和摘要特征通过以下公式实现：
T＝{t1...,tm}＝BERT(W)
I＝{i1...,im}＝ResNet50(R)
S＝{s1...,sm}＝BERT(X)
其中，W代表新闻文本，t代表经过Bert模型提取后的文本特征，m代表数据的序号，R代表新闻图像数据，i代表经过ResNet50模型提取后的图像特征，X代表新闻信息的摘要信息，s代表经过Bert模型提取后的摘要特征。
6.一种多模态假新闻检测系统，其特征在于，包括：
摘要获取单元，用于获取待检测的新闻信息，并利用抽取式算法获取所述新闻信息的摘要信息；其中，所述新闻信息包括新闻文本和新闻图像；
特征获取单元，用于根据所述新闻文本、所述新闻图像和所述摘要信息，获取文本特征、图像特征和摘要特征；
特征增强单元，用于将所述文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征；
检测单元，用于将所述两个跨模态特征输入多模态假新闻检测模型，确定所述待检测的新闻信息是否为假新闻；
其中，将所述文本特征和摘要特征分别与图像特征进行跨通道信息增强，获取两个跨模态特征的方法包括，
将所述文本特征与图像特征作为第一特征向量，将摘要特征与图像特征作为第二特征向量，将所述第一特征向量和第二特征向量分别输入注意力网络；
将所述第一特征向量和第二特征向量分别映射为Q、K和V三个矩阵；利用第一特征向量的Q矩阵和第二特征向量的K矩阵获取相互注意力矩阵，并使用梯度信息生成掩码矩阵；
通过以下公式实现利用所述相互注意力矩阵、所述掩码矩阵分别和所述第一特征向量的V矩阵与第二特征向量的V矩阵，获取两个共同注意力向量；
其中，hi代表共同注意力向量，dh代表h特征的维度，input1和input2代表输入的第一特征向量和第二特征向量，MLP代表对输入的特征向量进行聚合并与初始特征向量融合后提取的两个模态的q、k、v值，mask代表使用梯度信息生成的掩码矩阵；
将所获取的两个共同注意力向量和第一特征向量和第二特征向量相融合，获得两个跨模特征态特征。
7.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至5中任一所述的多模态假新闻检测方法中的步骤。
8.一种计算机可读存储介质，存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至5中任一所述的多模态假新闻检测方法。
CN202310610867.8A 2023-05-29 2023-05-29 多模态假新闻检测方法及系统 Active CN116340887B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310610867.8A CN116340887B (zh) 2023-05-29 2023-05-29 多模态假新闻检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310610867.8A CN116340887B (zh) 2023-05-29 2023-05-29 多模态假新闻检测方法及系统

Publications (2)

Publication Number Publication Date
CN116340887A CN116340887A (zh) 2023-06-27
CN116340887B true CN116340887B (zh) 2023-09-01

Family

ID=86884442

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310610867.8A Active CN116340887B (zh) 2023-05-29 2023-05-29 多模态假新闻检测方法及系统

Country Status (1)

Country Link
CN (1) CN116340887B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117290504B (zh) * 2023-09-22 2024-11-29 南京航空航天大学 一种基于时序聚合多模态图神经网络的虚假新闻检测方法
CN117315695B (zh) * 2023-10-09 2025-07-25 中国科学技术大学 一种基于多层次语义增强的多模态假新闻检测方法
CN117251795B (zh) * 2023-10-10 2025-09-23 天津理工大学 基于自适应融合的多模态虚假新闻检测方法
CN118364124A (zh) * 2024-04-03 2024-07-19 中国科学技术大学 一种基于实体增强和立场检查的多模态事实核查方法
CN118171236B (zh) * 2024-05-13 2024-07-30 智联信通科技股份有限公司 基于区块链的跨模态数据联合管理方法
CN118568418A (zh) * 2024-06-07 2024-08-30 德州学院 基于区块链的新闻时政短语发现方法及系统
CN118968636A (zh) * 2024-07-26 2024-11-15 蚂蚁区块链科技(上海)有限公司 证件图像的防伪识别方法及装置
CN118626996B (zh) * 2024-08-13 2024-10-22 四川大学 一种基于域自适应的多模态虚假新闻检测方法及系统
CN118673390B (zh) * 2024-08-22 2024-11-22 杭州安之维物联技术有限公司 基于物联网的智慧园区安全管理系统及方法
CN119649837B (zh) * 2025-02-14 2025-04-18 青岛科技大学 一种基于vq-mae网络的抹香鲸叫声增强方法
CN119848613A (zh) * 2025-03-21 2025-04-18 深圳市金大智能创新科技有限公司 一种结合领域信息的多模态伪造信息检测方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113934882A (zh) * 2021-09-29 2022-01-14 北京中科睿鉴科技有限公司 细粒度的多模态虚假新闻检测方法
CN114548274A (zh) * 2022-02-22 2022-05-27 齐鲁工业大学 一种基于多模态交互的谣言检测方法及系统
CN115130613A (zh) * 2022-07-26 2022-09-30 西北工业大学 虚假新闻识别模型构建方法、虚假新闻识别方法与装置
CN115775349A (zh) * 2022-12-09 2023-03-10 浙江微衡科技有限责任公司 基于多模态融合的假新闻检测方法和装置
CN115964482A (zh) * 2022-05-24 2023-04-14 西北工业大学 一种基于用户认知一致性推理的多模态虚假新闻检测方法
CN115982350A (zh) * 2022-12-07 2023-04-18 南京大学 基于多模态Transformer的虚假新闻检测方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017112808A1 (en) * 2015-12-21 2017-06-29 The Knife Llc Rating a level of journalistic distortion in news media content
US12141878B2 (en) * 2018-09-21 2024-11-12 Kai SHU Method and apparatus for collecting, detecting and visualizing fake news
US11494446B2 (en) * 2019-09-23 2022-11-08 Arizona Board Of Regents On Behalf Of Arizona State University Method and apparatus for collecting, detecting and visualizing fake news
US20220036011A1 (en) * 2020-07-30 2022-02-03 InfoAuthN AI Inc. Systems and Methods for Explainable Fake News Detection

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113934882A (zh) * 2021-09-29 2022-01-14 北京中科睿鉴科技有限公司 细粒度的多模态虚假新闻检测方法
CN114548274A (zh) * 2022-02-22 2022-05-27 齐鲁工业大学 一种基于多模态交互的谣言检测方法及系统
CN115964482A (zh) * 2022-05-24 2023-04-14 西北工业大学 一种基于用户认知一致性推理的多模态虚假新闻检测方法
CN115130613A (zh) * 2022-07-26 2022-09-30 西北工业大学 虚假新闻识别模型构建方法、虚假新闻识别方法与装置
CN115982350A (zh) * 2022-12-07 2023-04-18 南京大学 基于多模态Transformer的虚假新闻检测方法
CN115775349A (zh) * 2022-12-09 2023-03-10 浙江微衡科技有限责任公司 基于多模态融合的假新闻检测方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
融合多模态特征的社会多媒体谣言检测技术研究;金志威;曹娟;王博;王蕊;张勇东;;南京信息工程大学学报(自然科学版)(06);全文 *

Also Published As

Publication number Publication date
CN116340887A (zh) 2023-06-27

Similar Documents

Publication Publication Date Title
CN116340887B (zh) 多模态假新闻检测方法及系统
Li et al. Findnet: Can you find me? boundary-and-texture enhancement network for camouflaged object detection
Kadam et al. Detection and localization of multiple image splicing using MobileNet V1
CN113283446B (zh) 图像中目标物识别方法、装置、电子设备及存储介质
CN114758362B (zh) 基于语义感知注意力和视觉屏蔽的换衣行人重识别方法
Do et al. Forensics face detection from GANs using convolutional neural network
Fan et al. Image visual realism: From human perception to machine computation
CN114998934A (zh) 基于多模态智能感知和融合的换衣行人重识别和检索方法
WO2021151313A1 (zh) 证件鉴伪方法、装置、电子设备及存储介质
CN115131849A (zh) 图像生成方法以及相关设备
Pan et al. Hierarchical support vector machine for facial micro-expression recognition
Li et al. Unified performance evaluation method for perceptual image hashing
CN113887438B (zh) 人脸图像的水印检测方法、装置、设备及介质
Liu et al. Attentive cross-modal fusion network for RGB-D saliency detection
CN116958637A (zh) 图像检测模型的训练方法、装置、设备及存储介质
CN114842559A (zh) 基于多模态时间感知和注意力的视频交互动作检测方法
CN113869219A (zh) 人脸活体检测方法、装置、设备及存储介质
Ilyas et al. E-Cap Net: an efficient-capsule network for shallow and deepfakes forgery detection
CN111738213B (zh) 人物属性识别方法、装置、计算机设备及存储介质
CN118349829A (zh) 多模态的图文匹配方法、装置、电子设备及存储介质
CN111583215B (zh) 损伤图像智能定损方法、装置、电子设备及存储介质
CN117370882A (zh) 图像分类模型的训练方法、装置、设备、介质和程序产品
CN114898155B (zh) 车辆定损方法、装置、设备及存储介质
WO2024066927A1 (zh) 图像分类模型的训练方法、装置及设备
Alrowais et al. Boosting deep feature fusion-based detection model for fake faces generated by generative adversarial networks for consumer space environment

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20231225

Address after: Building A6-211, Hanyu Jingu, No. 7000 Jingshi Road, Jinan Area, China (Shandong) Free Trade Pilot Zone, High tech Zone, Jinan City, Shandong Province, 250000

Patentee after: Shandong Zhonglian Audio-Visual Information Technology Co.,Ltd.

Address before: No.19 Keyuan Road, Lixia District, Jinan City, Shandong Province

Patentee before: Shandong Institute of artificial intelligence

Patentee before: Shandong Zhonglian Audio-Visual Information Technology Co.,Ltd.

Patentee before: TIANJIN University OF TECHNOLOGY

TR01 Transfer of patent right