CN115018472A - 一种基于可解释机制的交互式增量化情报分析系统 - Google Patents

Abstract

本发明公开了一种基于可解释机制的交互式增量化情报分析系统，属于情报数据分析服务领域，该系统包括深度神经网络学习器、模型解释器、人机交互器、样本增强生成器、增量学习器和零小样本处置器，其中，多源情报数据输入深度神经网络学习器进行训练；先后通过模型解释器、人机交互器、样本增强生成器和增量学习器，实现足量样本情况下的情报分析透明化、可交互化、增量化地提升；并通过模型解释器、人机交互器以及零小样本处置器实现情报数据分析中新情况、新事件的零小样本学习与分析处理。本发明可有效克服基于深度神经网络等“黑盒”模型技术的传统情报分析处理机制盲目甚至无效学习的瓶颈问题。

Description

一种基于可解释机制的交互式增量化情报分析系统

技术领域

本发明属于情报数据分析服务领域，特别涉及一种基于可解释机制的交互式增量化情报分析系统，用于实现情报数据分析服务领域深度学习模型的可解释性和精准性。

背景技术

随着人工智能技术在情报数据分析服务领域的不断推进，现已初步实现了有无人协同甚至无人化的智能情报生成与应用能力，在一定程度上提升了各级情报研判人员的工作效能。然而面向未来多模态、海量化、高精度、高时效的情报数据服务需求，现有情报数据智能处理受限于智能化认知不足、专家知识应用不足等问题导致现有情报智能数据分析仍存在较大缺陷。因此，如何提升情报数据分析中所用到智能化方法的可解释性、可认知性，并将专家知识更好地融入模型训练，将现有情报分析系统的盲目、无效学习模式向透明式增量化学习模式转变，是有效提升情报应用系统服务化转型、信息服务精准分析等能力的关键环节。

面向情报数据分析服务领域，各级情报研判及指挥决策人员对智能情报分析模型内部学习过程可认知、产出结果可溯因以及与机器灵活交互的迫切需求，需要研究一种基于可解释机制的交互式增量化情报分析系统，以实现现有情报分析服务系统的升级改造。

发明内容

本发明的目的在于解决传统情报数据分析系统在专家知识融合、零小样本处理、增量化学习等方面的不足，突破盲目甚至无效学习的瓶颈问题，提出一种基于可解释机制的交互式增量化情报分析系统，借助可解释及增量学习机制实现人机融合的情报综合判读、推理及认知，保障基于深度学习模型的智能化情报分析的精准性、灵活性。

为了实现上述目的，本发明采用的技术方案如下：

一种基于可解释机制的交互式增量化情报分析系统，包括深度神经网络学习器、模型解释器、人机交互器、样本增强生成器、增量学习器和零小样本处置器；

深度神经网络学习器用于接收多源情报数据样本，进行包括目标智能监测识别、文本智能处理、轨迹融合和轨迹预测功能用到的深度神经网络模型的训练，将训练好的模型和多源情报数据样本输出至模型解释器；还用于在模型修正后得到目标智能监测识别、文本智能处理、轨迹融合和轨迹预测的处理结果；其中多源情报数据样本为足量样本或零小样本；

模型解释器用于对训练好的模型进行透明化和可理解化，将模型的解释结果输出至人机交互器和零小样本处置器，并将多源情报数据样本输出至人机交互器；其中模型的解释结果包含模型内部结构的解释以及产生结果的溯因；

人机交互器用于在多源情报数据样本为足量样本时借助模型解释器对模型内部结构的解释以及产生结果的溯因，依靠人为经验知识对多源情报数据样本进行正向干预，将干预后的多源情报数据样本输出至样本增强生成器，在多源情报数据样本为零小样本时将人为经验知识输出至零小样本处置器；其中正向干预包括对多源情报数据样本进行修正与关键样本筛选；

样本增强生成器用于将干预后的多源情报数据样本进行增强生成，将增强生成后的数据样本输出至增量学习器；

增量学习器用于基于回放的增量学习机制，利用增强生成后的数据样本对深度神经网络学习器训练的模型进行修正；

零小样本处置器用于将模型的解释结果与人为经验知识进行匹配，实现新事件和新情况下的零小样本学习，得到零样本和小样本的识别或分析结果。

进一步地，模型解释器对训练好的模型进行透明化和可理解化的具体实现过程为：

从浅层特征和深层语义两个角度分别采用基于特征空间以及基于隐语义的可解释方法，从模型内部结构以及模型结果与输入关联关系方面对模型进行解释，得出深度神经网络结构中神经元激活状态与高阶语义的映射关系，以及输入样本中典型特征与输出结果的关联关系，并以文本以及图谱化的形式进行可视化展示。

进一步地，人机交互器对多源情报数据样本进行正向干预的具体实现过程为：

以模型解释器的输出解释结果为基础，借助情报研判人员的经验及对场景的理解，采用情报研判人员直接对输入多源情报数据样本进行筛选与修改的方式，对关键样本进行挑选并对样本标签进行标注与修改。

进一步地，零小样本处置器的具体实现过程为：

零小样本处置器依托模型解释器得出的深度神经网络结构中神经元激活状态与高阶语义的映射关系，得到零小样本在现有深度神经网络学习器中神经元激活状态向量，并将人为经验知识所认知的高级语义转化为表征相应神经元激活状态的向量形式，计算零小样本所对应的神经元激活状态向量与人为经验知识所对应的神经元激活状态向量的相似程度，按照匹配程度最高的原则得到零小样本的识别或分析结果。

本发明与背景技术相比具有如下优点：

1. 本发明提出的一种基于可解释机制的交互式增量化情报分析系统，是以可解释机制为突破点，以解释结果可视化呈现为依托，以人机交互为媒介的透明增量式学习框架，能够实现专家知识与深度模型的双向相互，解决现有情报数据分析系统盲目、无效学习及无法处理新事件、新情况的问题，提升情报数据分析的精准性、灵活性。

2. 本发明提出的一种基于可解释机制的交互式增量化情报分析系统，以可解释深度模型为支撑实现模型结构、学习过程以及输出结果向情报分析人员的友好呈现，以可视化操作的方式提供情报分析人员正向干预模型训练的接口，可有效弥补现有方法框架专家知识难以用于情报分析模型性能提升的不足，提升情报数据分析服务对专家经验知识的有效利用率。

3. 本发明提出的一种基于可解释机制的交互式增量化情报分析系统，基于可解释器的输出结果与专家知识的向量化转化，通过零小样本处置器为情报分析所面临的新事件、新情况的处理提供了新的解决思路，有效解决了现有情报数据分析系统对零小样本处理准确率低的问题。

附图说明

图1是本发明基于可解释机制的交互式增量化情报分析系统的原理框架图。

具体实施方式

下面结合附图对本发明的具体实施方式进行描述，以便本领域的技术人员更好地理解本发明。需要特别提醒注意的是，在以下的描述中，当已知功能和设计的详细描述也许会淡化本发明的主要内容时，这些描述在这里将被忽略。

图1是本发明一种基于可解释机制的交互式增量化情报分析系统具体实施下的原理框架图。

在本实施例中，如图1所示一种基于可解释机制的交互式增量化情报分析系统，包括深度神经网络学习器、模型解释器、人机交互器、样本增强生成器、增量学习器和零小样本处置器；

深度神经网络学习器用于接收多源情报数据样本，进行包括目标智能监测识别、文本智能处理、轨迹融合和轨迹预测功能用到的深度神经网络模型的训练，将训练好的模型和多源情报数据样本输出至模型解释器；还用于在模型修正后得到目标智能监测识别、文本智能处理、轨迹融合和轨迹预测的处理结果；其中多源情报数据样本为足量样本或零小样本；

模型解释器用于对训练好的模型进行透明化和可理解化，将模型的解释结果输出至人机交互器和零小样本处置器，并将多源情报数据样本输出至人机交互器；其中模型的解释结果包含模型内部结构的解释以及产生结果的溯因；其中，模型解释器对训练好的模型进行透明化和可理解化的具体实现过程为：

从浅层特征和深层语义两个角度分别采用基于特征空间以及基于隐语义的可解释方法，从模型内部结构以及模型结果与输入关联关系方面对模型进行解释，得出深度神经网络结构中神经元激活状态与高阶语义的映射关系，以及输入样本中典型特征与输出结果的关联关系，并以文本以及图谱化的形式进行可视化展示；

人机交互器用于在多源情报数据样本为足量样本时借助模型解释器对模型内部结构的解释以及产生结果的溯因，依靠人为经验知识对多源情报数据样本进行正向干预，将干预后的多源情报数据样本输出至样本增强生成器，在多源情报数据样本为零小样本时将人为经验知识输出至零小样本处置器；其中正向干预包括对多源情报数据样本进行修正与关键样本筛选；人机交互器对多源情报数据样本进行正向干预的具体实现过程为：

以模型解释器的输出解释结果为基础，借助情报研判人员的经验及对场景的理解，采用情报研判人员直接对输入多源情报数据样本进行筛选与修改的方式，对关键样本进行挑选并对样本标签进行标注与修改；

样本增强生成器用于将干预后的多源情报数据样本进行增强生成，将增强生成后的数据样本输出至增量学习器；

增量学习器用于基于回放的增量学习机制，利用增强生成后的数据样本对深度神经网络学习器训练的模型进行修正；

零小样本处置器用于将模型的解释结果与人为经验知识进行匹配，实现新事件和新情况下的零小样本学习，得到零样本和小样本的识别或分析结果；具体实现过程为：

零小样本处置器依托模型解释器得出的深度神经网络结构中神经元激活状态与高阶语义的映射关系，得到零小样本在现有深度神经网络学习器中神经元激活状态向量，并将人为经验知识所认知的高级语义转化为表征相应神经元激活状态的向量形式，计算零小样本所对应的神经元激活状态向量与人为经验知识所对应的神经元激活状态向量的相似程度，按照匹配程度最高的原则得到零小样本的识别或分析结果。

本发明实现一种基于可解释机制的交互式增量化情报分析系统，该系统包括深度神经网络学习器、模型解释器、人机交互器、样本增强生成器、增量学习器和零小样本处置器，其中，多源情报数据输入深度神经网络学习器进行训练；先后通过模型解释器、人机交互器、样本增强生成器和增量学习器，实现足量样本情况下的情报分析透明化、可交互化、增量化地提升；并通过模型解释器、人机交互器以及零小样本处置器实现情报数据分析中新情况、新事件的零小样本学习与分析处理。本发明可有效克服基于深度神经网络等“黑盒”模型技术的传统情报分析处理机制盲目甚至无效学习的瓶颈问题。

尽管上面对本发明说明性的具体实施方式进行了描述，以便于本技术领域的技术人员理解本发明，但应该清楚，本发明不限于具体实施方式的范围，对本技术领域的普通技术人员来讲，只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内，这些变化是显而易见的，一切利用本发明构思的发明创造均在保护之列。

Claims (4)

1.一种基于可解释机制的交互式增量化情报分析系统，其特征在于，包括深度神经网络学习器、模型解释器、人机交互器、样本增强生成器、增量学习器和零小样本处置器；

深度神经网络学习器用于接收多源情报数据样本，进行包括目标智能监测识别、文本智能处理、轨迹融合和轨迹预测功能用到的深度神经网络模型的训练，将训练好的模型和多源情报数据样本输出至模型解释器；还用于在模型修正后得到目标智能监测识别、文本智能处理、轨迹融合和轨迹预测的处理结果；其中多源情报数据样本为足量样本或零小样本；

模型解释器用于对训练好的模型进行透明化和可理解化，将模型的解释结果输出至人机交互器和零小样本处置器，并将多源情报数据样本输出至人机交互器；其中模型的解释结果包含模型内部结构的解释以及产生结果的溯因；

人机交互器用于在多源情报数据样本为足量样本时借助模型解释器对模型内部结构的解释以及产生结果的溯因，依靠人为经验知识对多源情报数据样本进行正向干预，将干预后的多源情报数据样本输出至样本增强生成器，在多源情报数据样本为零小样本时将人为经验知识输出至零小样本处置器；其中正向干预包括对多源情报数据样本进行修正与关键样本筛选；

样本增强生成器用于将干预后的多源情报数据样本进行增强生成，将增强生成后的数据样本输出至增量学习器；

增量学习器用于基于回放的增量学习机制，利用增强生成后的数据样本对深度神经网络学习器训练的模型进行修正；

零小样本处置器用于将模型的解释结果与人为经验知识进行匹配，实现新事件和新情况下的零小样本学习，得到零样本和小样本的识别或分析结果。

2.根据权利要求1所述的一种基于可解释机制的交互式增量化情报分析系统，其特征在于，模型解释器对训练好的模型进行透明化和可理解化的具体实现过程为：

从浅层特征和深层语义两个角度分别采用基于特征空间以及基于隐语义的可解释方法，从模型内部结构以及模型结果与输入关联关系方面对模型进行解释，得出深度神经网络结构中神经元激活状态与高阶语义的映射关系，以及输入样本中典型特征与输出结果的关联关系，并以文本以及图谱化的形式进行可视化展示。

3.根据权利要求1所述的一种基于可解释机制的交互式增量化情报分析系统，其特征在于，人机交互器对多源情报数据样本进行正向干预的具体实现过程为：

以模型解释器的输出解释结果为基础，借助情报研判人员的经验及对场景的理解，采用情报研判人员直接对输入多源情报数据样本进行筛选与修改的方式，对关键样本进行挑选并对样本标签进行标注与修改。

4.根据权利要求1所述的一种基于可解释机制的交互式增量化情报分析系统，其特征在于，零小样本处置器的具体实现过程为：

零小样本处置器依托模型解释器得出的深度神经网络结构中神经元激活状态与高阶语义的映射关系，得到零小样本在现有深度神经网络学习器中神经元激活状态向量，并将人为经验知识所认知的高级语义转化为表征相应神经元激活状态的向量形式，计算零小样本所对应的神经元激活状态向量与人为经验知识所对应的神经元激活状态向量的相似程度，按照匹配程度最高的原则得到零小样本的识别或分析结果。

Images