CN117312534B - 一种基于保密知识库的智能问答实现方法、装置及介质 - Google Patents

一种基于保密知识库的智能问答实现方法、装置及介质 Download PDF

Info

Publication number
CN117312534B
CN117312534B CN202311595380.3A CN202311595380A CN117312534B CN 117312534 B CN117312534 B CN 117312534B CN 202311595380 A CN202311595380 A CN 202311595380A CN 117312534 B CN117312534 B CN 117312534B
Authority
CN
China
Prior art keywords
question
vector
knowledge base
vectors
answering
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311595380.3A
Other languages
English (en)
Other versions
CN117312534A (zh
Inventor
史鹏程
路冰
范金平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Zhongfu Information Technology Co Ltd
Original Assignee
Nanjing Zhongfu Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Zhongfu Information Technology Co Ltd filed Critical Nanjing Zhongfu Information Technology Co Ltd
Priority to CN202311595380.3A priority Critical patent/CN117312534B/zh
Publication of CN117312534A publication Critical patent/CN117312534A/zh
Application granted granted Critical
Publication of CN117312534B publication Critical patent/CN117312534B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/38—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G06N5/022—Knowledge engineering; Knowledge acquisition
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本发明提出的一种基于保密知识库的智能问答实现方法、装置及介质，属于智能问答技术领域。本发明通过从关键词和语义两个方面结合，将保密知识库分为问答库和语料库两类，并针对语料库检索增加关键词嵌入的方式，极大的提高了检索的准确性，进而保证了最终答案的准确性。

Description

一种基于保密知识库的智能问答实现方法、装置及介质
技术领域
本发明涉及智能问答技术领域，更具体的说是涉及一种基于保密知识库的智能问答实现方法、装置及介质。
背景技术
智能对话系统因其巨大的潜力和商业价值受到越来越多研究者和从业者的关注，对话的主要种类包括闲聊型、知识型、任务型、阅读理解型等，目前已经广泛应用在智能客服、智能音箱、智能车载等众多场景。
当前，在问答系统方向主要采用的技术包括基于生成式模型和信息检索两种形式。生成式模型存在知识更新代价大、输出不可控的问题，在对答案十分严谨的垂直领域，始终无法很好的落地。
在比较严谨的垂直领域，比如进行基于保密知识库的智能对话时，采用信息检索的方式仍是主流技术形式之一。相较于搜索引擎，它是一种更高级的信息检索模式，但是在通过检索保密知识库的获取问题答案时经常出现检索不准的问题。导致此类问题的原因在于，在信息检索方向，基于关键词的检索存在极大的局限性，虽然使用NLP的语义检索技术相比于关键词有了极大进步，但由于语料库段落与待检索问题存在很大的区别，仍然会出现大量检索错误的情况出现。
发明内容
针对以上问题，本发明的目的在于提供一种基于保密知识库的智能问答实现方法、装置及介质，通过从关键词和语义两个方面结合，将保密知识库分为问答库和语料库两类，并针对语料库检索增加关键词嵌入的方式，极大的提高了检索的准确性，进而保证了最终答案的准确性。
本发明为实现上述目的，通过以下技术方案实现：一种基于保密知识库的智能问答实现方法，包括如下步骤：
S1：将保密知识库分为问答库和语料库，将问答库中的问题转换成问题向量，将语料库中的文本转换成句子向量，将问题向量和句子向量存储在向量数据库中；
S2：获取用户问题，使用bert模型将用户问题向量化，生成用户问题向量；
S3：依次计算用户问题向量与向量数据库中每个问题向量的余弦相似度；
S4：根据相似度阈值判断问答库中是否存在用户问题的答案；若存在，则执行步骤S5；若不存在，则执行步骤S6；
S5：直接返回问答库中对应的答案；
S6：将用户问题输入关键词生成模型，获取相关的关键词；
S7：使用bert模型将关键词向量化，生成关键词向量，将关键词向量与用户问题向量叠加，生成特征信息向量；
S8：依次计算特征信息向量与向量数据库中每个句子向量的余弦相似度；
S9：对余弦相似度进行排序，根据排序结果在语料库中筛选出候选语料；
S10：根据候选语料与用户问题构建prompt语句；
S11：将prompt语句输入大语言模型，并输出最终答案。
进一步，步骤S2包括：
使用bert模型对应的字典库将用户问题数字化，并输入bert模型中，以生成用户问题向量。
进一步，步骤S1包括：
将保密知识库分为问答库和语料库；
使用bert模型对应的字典库将问答库中的问题数字化，并输入bert模型中，以生成问题向量；
将语料库中的文本拆分成句子，将每个句子输入关键词生成模型，获取每个句子的关键词；使用bert模型对应的字典库将每个句子的关键词数字化，并输入bert模型中，以生成句子向量；
将问题向量和句子向量存储在faiss向量数据库中。
进一步，步骤S4包括：
判断在计算出的余弦相似度中是否存在大于0.9的余弦相似度；
若存在，则问答库中存在用户问题的答案；否则，问答库中不存在用户问题的答案。
进一步，步骤S5包括：
根据余弦相似度大于0.9的问题向量在问答库找到对应的答案，并输出答案。
进一步，步骤S7包括：
使用bert模型对应的字典库将关键词数字化，并输入bert模型中，以生成关键词；
将关键词向量累加归一化得到向量v；
通过公式将向量v与问题向量s相加归一化得到特征信息向量s’。
进一步，步骤S9包括：
将余弦相似度从大到小进行排序，并获取排名前五的余弦相似度；
根据获取的余弦相似度确定相应的句子向量；
根据确定的句子向量确定语料库中的对应段落，将其截取出来形成候选语料。
进一步，大语言模型采用chatglm大语言模型。
相应的，本发明公开了一种基于保密知识库的智能问答装置，包括：
存储器，用于存储基于保密知识库的智能问答程序；
处理器，用于执行所述基于保密知识库的智能问答程序时实现如上文任一项所述基于保密知识库的智能问答实现方法的步骤。
相应的，本发明公开了一种可读存储介质，所述可读存储介质上存储有基于保密知识库的智能问答程序，所述基于保密知识库的智能问答程序被处理器执行时实现如上文任一项所述基于保密知识库的智能问答实现方法的步骤。
对比现有技术，本发明有益效果在于：
1、本发明基于自然语言处理技术，采用问答库检索和语料库检索相结合的方式，可以快速返回准确与简洁的匹配答案，而非相关网页信息罗列的形式，极大提高了问答系统回答的可靠性和专业性。本发明满足了人们更高层次的检索需求，它不仅可以更好地理解用户用自然语言提问的真实意图，而且解决了搜索引擎关键词匹配的局限性。
2.本发明在语料库检索中，使用关键词生成模型，将关键词信息嵌入用户问题的向量中，使段落更具特征性，一定程度上缓解了句子过长湮没语义主题的现象，增强了用户问题的语义信息，极大提高了语料检索的准确性。
3、经实际使用验证，本发明能够快速地利用现有资源和知识库的知识，生成保密领域的相关答案，解决了检索过程中对非结构化数据匹配不准或匹配不到的问题，极大提高了回答的准确性和专业性。
由此可见，本发明与现有技术相比，具有突出的实质性特点和显著的进步，其实施的有益效果也是显而易见的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1是本发明具体实施方式的方法流程图；
图2是本发明具体实施方式的bert模型的结构示意图。
图3是本发明具体实施方式的transformer编码器结构网络示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面结合附图和具体实施方式对本发明作进一步的详细说明。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
实施例一：
如图1所示，本实施例提供了一种基于保密知识库的智能问答实现方法，包括如下步骤：
S1：将保密知识库分为问答库和语料库，将问答库中的问题转换成问题向量，将语料库中的文本转换成句子向量，将问题向量和句子向量存储在向量数据库中。
S2：获取用户问题，使用bert模型将用户问题向量化，生成用户问题向量。
具体来说，使用bert模型对应的字典库将用户问题数字化，并输入bert模型中，以生成用户问题向量。
在具体实施方式中，首先进行用户问题的数字化，再将数字化的问题向量话。具体过程如下：
1、用户问题数字化：
先使用bert模型对应的字典库将输入的问题数字化，然后输入模型生成我们需要的句子向量。
例如用户输入问题：“保密法制定的目的是什么”，根据字典将文字转成对应的数字下标token值[924,2166,3791,1169,2137,4638,4680,4638,3221,784,
720],文本开头结尾需加cls和sep占位符，对应数字101和102，最终生成[101,924,2166,3791,1169,2137,4638,4680,4638,3221,784,720,102]作为图2所示的Bert模型的输入。
2、数字化的问题向量化：
将输入的数字通过Embedding技术转换成词向量，对应图3中的E1...EN，输入transformer编码器结构网络计算，输出向量T=[T1,T2...TN],将T向量平均池化处理，即得到句向量A=（T1+T2+...+TN）/N，作为用户问题向量。
S3：依次计算用户问题向量与向量数据库中每个问题向量的余弦相似度。
需要特别说明的是，在本方法的步骤S3和S8均利用余弦相似度来衡量向量的相似程度。余弦相似度衡量的是2个向量间的夹角大小，通过夹角的余弦值表示结果，因此2个向量的余弦相似度为：
分子为向量A与向量B的点乘，分母为二者各自的L2相乘，即将所有维度值的平方相加后开方。 余弦相似度的取值为[-1,1]，值越大表示越相似。
S4：根据相似度阈值判断问答库中是否存在用户问题的答案；若存在，则执行步骤S5；若不存在，则执行步骤S6。
在具体实施方式中，根据业务场景设置相似度阈值threshold=0.9，当存在问题向量与用户问题向量的余弦相似度大于阈值0.9时，则说明对应的问题与用户问题相同或相似，即可确定问答库中存在用户问题的答案。如果所有问题向量与用户问题向量的余弦相似度均不大于阈值0.9，则说明问答库中存在不存在与用户问题相同或相似的问题，问答库中必然不存在用户问题的答案。
S5：直接返回问答库中对应的答案。
具体的，根据余弦相似度大于0.9的问题向量在问答库找到对应的答案，并输出答案。
S6：将用户问题输入关键词生成模型，获取相关的关键词。
在本步骤中，关键词生成模型的生成过程具体如下：
首先根据业务场景收集一批数据用于训练关键词生成模型。训练集类似于[“涉密人员离岗离职应注意涉密”,“涉密人员、离岗、离职、保密工作、涉密信息、脱密期、保密协议”]。然后将这批训练数据在大语言模型下进行微调，得到关键词生成模型。
得到关键词生成模型主要用于对用户输入问题提取相关的关键词。
S7：使用bert模型将关键词向量化，生成关键词向量，将关键词向量与用户问题向量叠加，生成特征信息向量。
在具体实施方式中，首先参考步骤S2的过程使用bert模型对应的字典库将关键词数字化，并输入bert模型中，以生成关键词。然后将关键词向量累加归一化得到向量v。
最后，通过公式将向量v与问题向量s相加归一化得到特征信息向量s’，从而在问题向量中引入了额外相关语义的信息，有助于语料库检索的精准性。
S8：依次计算特征信息向量与向量数据库中每个句子向量的余弦相似度。
作为示例的，参考步骤S3的计算方法，计算出每个句子向量的余弦相似度。
S9：对余弦相似度进行排序，根据排序结果在语料库中筛选出候选语料。
在具体实施方式中，首先将计算出余弦相似度从大到小进行排序，并确定出排名前五的余弦相似度。然后，根据排名前五的余弦相似度确定相应的句子向量，五个句子向量分别对应语料库中的五个句子。最后，联系上下文获取这五个句子在语料库中所在的段落，将其截取出来形成候选语料。
S10：根据候选语料与用户问题构建prompt语句。
S11：将prompt语句输入大语言模型，并输出最终答案。
其中，大语言模型采用chatglm大语言模型。
在具体实施方式中，本方法的步骤S1的目的在于在将保密知识库分为问答库和语料库的基础上，分别将问答库和语料库的信息向量化，并存储到faiss向量数据库中。具体如下：
参考步骤S2的过程，使用bert模型对应的字典库将问答库中的问题数字化，并输入bert模型中，生成问题向量，并将问题向量存储在faiss向量数据库中
由于语料库中的文本都是非结构化数据，所以先将语料库中的文本拆分成句子，在参考步骤S6的过程将每个句子输入关键词生成模型，获取每个句子的关键词。此时，参考参考步骤S2的过程使用bert模型对应的字典库将每个句子的关键词数字化，并输入bert模型中，以生成句子向量。最后，将句子向量存储在faiss向量数据库中。
本实施例提供了一种基于保密知识库的智能问答实现方法，基于自然语言处理技术，采用问答库检索和语料库检索相结合的方式，可以快速返回准确与简洁的匹配答案，极大提高了问答系统回答的可靠性和专业性。本方法满足了人们更高层次的检索需求，它不仅可以更好地理解用户用自然语言提问的真实意图，而且解决了搜索引擎关键词匹配的局限性。
实施例二：
本实施例公开了一种基于保密知识库的智能问答装置，包括处理器和存储器；其中，所述处理器执行所述存储器中保存的基于保密知识库的智能问答程序时实现以下步骤：
1、将保密知识库分为问答库和语料库，将问答库中的问题转换成问题向量，将语料库中的文本转换成句子向量，将问题向量和句子向量存储在向量数据库中。
2、获取用户问题，使用bert模型将用户问题向量化，生成用户问题向量。
3、依次计算用户问题向量与向量数据库中每个问题向量的余弦相似度。
4、根据相似度阈值判断问答库中是否存在用户问题的答案；若存在，则执行步骤5；若不存在，则执行步骤6。
5、直接返回问答库中对应的答案。
6、将用户问题输入关键词生成模型，获取相关的关键词。
7、使用bert模型将关键词向量化，生成关键词向量，将关键词向量与用户问题向量叠加，生成特征信息向量。
8、依次计算特征信息向量与向量数据库中每个句子向量的余弦相似度。
9、对余弦相似度进行排序，根据排序结果在语料库中筛选出候选语料。
10、根据候选语料与用户问题构建prompt语句。
11、将prompt语句输入大语言模型，并输出最终答案。
进一步的，本实施例中的基于保密知识库的智能问答装置，还可以包括：
输入接口，用于获取外界导入的基于保密知识库的智能问答程序，并将获取到的基于保密知识库的智能问答程序保存至所述存储器中，还可以用于获取外界终端设备传输的各种指令和参数，并传输至处理器中，以便处理器利用上述各种指令和参数展开相应的处理。本实施例中，所述输入接口具体可以包括但不限于USB接口、串行接口、语音输入接口、指纹输入接口、硬盘读取接口等。
输出接口，用于将处理器产生的各种数据输出至与其相连的终端设备，以便于与输出接口相连的其他终端设备能够获取到处理器产生的各种数据。本实施例中，所述输出接口具体可以包括但不限于USB接口、串行接口等。
通讯单元，用于在基于保密知识库的智能问答装置和外部服务器之间建立远程通讯连接，以便于基于保密知识库的智能问答装置能够将镜像文件挂载到外部服务器中。本实施例中，通讯单元具体可以包括但不限于基于无线通讯技术或有线通讯技术的远程通讯单元。
键盘，用于获取用户通过实时敲击键帽而输入的各种参数数据或指令。
显示器，用于运行基于保密知识库的智能问答过程的相关信息进行实时显示。
鼠标，可以用于协助用户输入数据并简化用户的操作。
实施例三：
本实施例还公开了一种可读存储介质，这里所说的可读存储介质包括随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动硬盘、CD-ROM或技术领域内所公知的任意其他形式的存储介质。可读存储介质中存储有基于保密知识库的智能问答程序，所述基于保密知识库的智能问答程序被处理器执行时实现以下步骤：
1、将保密知识库分为问答库和语料库，将问答库中的问题转换成问题向量，将语料库中的文本转换成句子向量，将问题向量和句子向量存储在向量数据库中。
2、获取用户问题，使用bert模型将用户问题向量化，生成用户问题向量。
3、依次计算用户问题向量与向量数据库中每个问题向量的余弦相似度。
4、根据相似度阈值判断问答库中是否存在用户问题的答案；若存在，则执行步骤5；若不存在，则执行步骤6。
5、直接返回问答库中对应的答案。
6、将用户问题输入关键词生成模型，获取相关的关键词。
7、使用bert模型将关键词向量化，生成关键词向量，将关键词向量与用户问题向量叠加，生成特征信息向量。
8、依次计算特征信息向量与向量数据库中每个句子向量的余弦相似度。
9、对余弦相似度进行排序，根据排序结果在语料库中筛选出候选语料。
10、根据候选语料与用户问题构建prompt语句。
11、将prompt语句输入大语言模型，并输出最终答案。
综上所述，本发明通过从关键词和语义两个方面结合，将保密知识库分为问答库和语料库两类，并针对语料库检索增加关键词嵌入的方式，极大的提高了检索的准确性，进而保证了最终答案的准确性。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的方法而言，由于其与实施例公开的系统相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的基于保密知识库的智能问答实现方法、装置及可读存储介质进行了详细介绍。本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。

Claims (10)

1.一种基于保密知识库的智能问答实现方法，其特征在于，包括如下步骤：
S1：将保密知识库分为问答库和语料库，将问答库中的问题转换成问题向量，将语料库中的文本转换成句子向量，将问题向量和句子向量存储在向量数据库中；
S2：获取用户问题，使用bert模型将用户问题向量化，生成用户问题向量；
S3：依次计算用户问题向量与向量数据库中每个问题向量的余弦相似度；
S4：根据相似度阈值判断问答库中是否存在用户问题的答案；若存在，则执行步骤S5；若不存在，则执行步骤S6；
S5：直接返回问答库中对应的答案；
S6：将用户问题输入关键词生成模型，获取相关的关键词；
S7：使用bert模型将关键词向量化，生成关键词向量，将关键词向量与用户问题向量叠加，生成特征信息向量；
S8：依次计算特征信息向量与向量数据库中每个句子向量的余弦相似度；
S9：对余弦相似度进行排序，根据排序结果在语料库中筛选出候选语料；
S10：根据候选语料与用户问题构建prompt语句；
S11：将prompt语句输入大语言模型，并输出最终答案。
2.根据权利要求1所述的基于保密知识库的智能问答实现方法，其特征在于，所述步骤S2包括：
使用bert模型对应的字典库将用户问题数字化，并输入bert模型中，以生成用户问题向量。
3.根据权利要求1所述的基于保密知识库的智能问答实现方法，其特征在于，所述步骤S1包括：
将保密知识库分为问答库和语料库；
使用bert模型对应的字典库将问答库中的问题数字化，并输入bert模型中，以生成问题向量；
将语料库中的文本拆分成句子，将每个句子输入关键词生成模型，获取每个句子的关键词；使用bert模型对应的字典库将每个句子的关键词数字化，并输入bert模型中，以生成句子向量；
将问题向量和句子向量存储在faiss向量数据库中。
4.根据权利要求1所述的基于保密知识库的智能问答实现方法，其特征在于，所述步骤S4包括：
判断在计算出的余弦相似度中是否存在大于0.9的余弦相似度；
若存在，则问答库中存在用户问题的答案；否则，问答库中不存在用户问题的答案。
5.根据权利要求4所述的基于保密知识库的智能问答实现方法，其特征在于，所述步骤S5包括：
根据余弦相似度大于0.9的问题向量在问答库找到对应的答案，并输出答案。
6.根据权利要求1所述的基于保密知识库的智能问答实现方法，其特征在于，所述步骤S7包括：
使用bert模型对应的字典库将关键词数字化，并输入bert模型中，以生成关键词；
将关键词向量累加归一化得到向量v；
通过公式将向量v与问题向量s相加归一化得到特征信息向量s’。
7.根据权利要求1所述的基于保密知识库的智能问答实现方法，其特征在于，所述步骤S9包括：
将余弦相似度从大到小进行排序，并获取排名前五的余弦相似度；
根据获取的余弦相似度确定相应的句子向量；
根据确定的句子向量确定语料库中的对应段落，将其截取出来形成候选语料。
8.根据权利要求1所述的基于保密知识库的智能问答实现方法，其特征在于，所述大语言模型采用chatglm大语言模型。
9.一种基于保密知识库的智能问答装置，其特征在于，包括：
存储器，用于存储基于保密知识库的智能问答程序；
处理器，用于执行所述基于保密知识库的智能问答程序时实现如权利要求1至8任一项权利要求所述的基于保密知识库的智能问答实现方法的步骤。
10.一种可读存储介质，其特征在于：所述可读存储介质上存储有基于保密知识库的智能问答程序，所述基于保密知识库的智能问答程序被处理器执行时实现如权利要求1至8任一项权利要求所述的基于保密知识库的智能问答实现方法的步骤。
CN202311595380.3A 2023-11-28 2023-11-28 一种基于保密知识库的智能问答实现方法、装置及介质 Active CN117312534B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311595380.3A CN117312534B (zh) 2023-11-28 2023-11-28 一种基于保密知识库的智能问答实现方法、装置及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311595380.3A CN117312534B (zh) 2023-11-28 2023-11-28 一种基于保密知识库的智能问答实现方法、装置及介质

Publications (2)

Publication Number Publication Date
CN117312534A CN117312534A (zh) 2023-12-29
CN117312534B true CN117312534B (zh) 2024-02-23

Family

ID=89286871

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311595380.3A Active CN117312534B (zh) 2023-11-28 2023-11-28 一种基于保密知识库的智能问答实现方法、装置及介质

Country Status (1)

Country Link
CN (1) CN117312534B (zh)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110162611A (zh) * 2019-04-23 2019-08-23 苏宁易购集团股份有限公司 一种智能客服应答方法及系统
KR20200087016A (ko) * 2019-01-10 2020-07-20 나영혜 Lbs 및 채팅 에이전트 기반 주문전화번호를 이용한 주문 결제 서비스 제공 방법
CN111460783A (zh) * 2020-03-30 2020-07-28 腾讯科技（深圳）有限公司 一种数据处理方法、装置、计算机设备及存储介质
CN115858750A (zh) * 2022-11-29 2023-03-28 山东鲁软数字科技有限公司 基于自然语言处理的电网技术标准智能问答方法及系统
CN116244414A (zh) * 2023-01-28 2023-06-09 北京百分点科技集团股份有限公司 一种结合用户行为数据的问答交互方法及装置
CN116340467A (zh) * 2023-05-11 2023-06-27 腾讯科技（深圳）有限公司 文本处理方法、装置、电子设备及计算机可读存储介质
CN116628172A (zh) * 2023-07-24 2023-08-22 北京酷维在线科技有限公司 基于知识图谱的政务服务领域多策略融合的对话方法
CN116719917A (zh) * 2023-05-25 2023-09-08 北京中科凡语科技有限公司 一种大模型与外部知识相结合的知识问答系统、方法及储存介质
CN116805001A (zh) * 2023-06-26 2023-09-26 城云科技（中国）有限公司 适用于垂直领域的智能问答系统、方法及其应用
CN116860925A (zh) * 2023-06-09 2023-10-10 国网吉林省电力有限公司吉林供电公司 基于LLMs提示词优化的电网调度智能问答系统及方法
CN117056471A (zh) * 2023-07-11 2023-11-14 数字郑州科技有限公司 知识库构建方法及基于生成式大语言模型的问答对话方法和系统
CN117093699A (zh) * 2023-10-20 2023-11-21 北京中关村科金技术有限公司 智能问答方法、装置、设备及介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220377403A1 (en) * 2021-05-20 2022-11-24 International Business Machines Corporation Dynamically enhancing a video by automatically generating and adding an overlay window

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200087016A (ko) * 2019-01-10 2020-07-20 나영혜 Lbs 및 채팅 에이전트 기반 주문전화번호를 이용한 주문 결제 서비스 제공 방법
CN110162611A (zh) * 2019-04-23 2019-08-23 苏宁易购集团股份有限公司 一种智能客服应答方法及系统
CN111460783A (zh) * 2020-03-30 2020-07-28 腾讯科技（深圳）有限公司 一种数据处理方法、装置、计算机设备及存储介质
CN115858750A (zh) * 2022-11-29 2023-03-28 山东鲁软数字科技有限公司 基于自然语言处理的电网技术标准智能问答方法及系统
CN116244414A (zh) * 2023-01-28 2023-06-09 北京百分点科技集团股份有限公司 一种结合用户行为数据的问答交互方法及装置
CN116340467A (zh) * 2023-05-11 2023-06-27 腾讯科技（深圳）有限公司 文本处理方法、装置、电子设备及计算机可读存储介质
CN116719917A (zh) * 2023-05-25 2023-09-08 北京中科凡语科技有限公司 一种大模型与外部知识相结合的知识问答系统、方法及储存介质
CN116860925A (zh) * 2023-06-09 2023-10-10 国网吉林省电力有限公司吉林供电公司 基于LLMs提示词优化的电网调度智能问答系统及方法
CN116805001A (zh) * 2023-06-26 2023-09-26 城云科技（中国）有限公司 适用于垂直领域的智能问答系统、方法及其应用
CN117056471A (zh) * 2023-07-11 2023-11-14 数字郑州科技有限公司 知识库构建方法及基于生成式大语言模型的问答对话方法和系统
CN116628172A (zh) * 2023-07-24 2023-08-22 北京酷维在线科技有限公司 基于知识图谱的政务服务领域多策略融合的对话方法
CN117093699A (zh) * 2023-10-20 2023-11-21 北京中关村科金技术有限公司 智能问答方法、装置、设备及介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
DSQA-LLM：Domain-Specific Intelligent Question Answering Based on Large Language Model;Dengrong Huang 等;《AI-generated Content》;170-180 *
LEVERAGING LARGE LANGUAGE MODELS FOR MULTIPLE CHOICE QUESTION ANSWERING;Joshua Robinson 等;《arXiv:2210.12353v3》;1-28 *
基于大语言模型的问答技术研究进展综述;文森 等;《数据分析与知识发现》;1-17 *

Also Published As

Publication number Publication date
CN117312534A (zh) 2023-12-29

Similar Documents

Publication Publication Date Title
CN110674271B (zh) 一种问答处理方法及装置
CN110765277B (zh) 一种基于知识图谱的移动端的在线设备故障诊断方法
CN107402912B (zh) 解析语义的方法和装置
CN106708929B (zh) 视频节目的搜索方法和装置
CN109508458B (zh) 法律实体的识别方法及装置
WO2021218028A1 (zh) 基于人工智能的面试内容精炼方法、装置、设备及介质
CN108536807B (zh) 一种信息处理方法及装置
WO2016119604A1 (zh) 一种语音信息搜索方法、装置及服务器
CN111694940A (zh) 一种用户报告的生成方法及终端设备
CN110414004A (zh) 一种核心信息提取的方法和系统
CN112581327B (zh) 基于知识图谱的法律推荐方法、装置和电子设备
CN111858913A (zh) 一种自动生成文本摘要的方法和系统
CN112395391B (zh) 概念图谱构建方法、装置、计算机设备及存储介质
CN116628186B (zh) 文本摘要生成方法及系统
CN112287090A (zh) 一种基于知识图谱的金融问题反问方法及系统
CN116150306A (zh) 问答机器人的训练方法、问答方法及装置
CN112307364B (zh) 一种面向人物表征的新闻文本发生地抽取方法
CN113761124A (zh) 文本编码模型的训练方法、信息检索方法及设备
KR20220042838A (ko) 법률질문에 대한 수치화된 ai 답변서비스를 제공하는 시스템 및 방법
CN110287396B (zh) 文本匹配方法及装置
CN117076636A (zh) 一种智能客服的信息查询方法、系统和设备
CN117312534B (zh) 一种基于保密知识库的智能问答实现方法、装置及介质
CN111476026A (zh) 语句向量的确定方法、装置、电子设备及存储介质
CN116204622A (zh) 一种跨语言稠密检索中的查询表示增强方法
CN115759085A (zh) 基于提示模型的信息预测方法、装置、电子设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant