CN116759077A - 一种基于智能体的医疗对话意图识别方法 - Google Patents

一种基于智能体的医疗对话意图识别方法 Download PDF

Info

Publication number
CN116759077A
CN116759077A CN202311042120.3A CN202311042120A CN116759077A CN 116759077 A CN116759077 A CN 116759077A CN 202311042120 A CN202311042120 A CN 202311042120A CN 116759077 A CN116759077 A CN 116759077A
Authority
CN
China
Prior art keywords
medical
intention
dialogue
recognition model
predicted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311042120.3A
Other languages
English (en)
Inventor
蒋江涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
North Health Medical Big Data Technology Co ltd
Original Assignee
North Health Medical Big Data Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by North Health Medical Big Data Technology Co ltd filed Critical North Health Medical Big Data Technology Co ltd
Priority to CN202311042120.3A priority Critical patent/CN116759077A/zh
Publication of CN116759077A publication Critical patent/CN116759077A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/237—Lexical tools
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/284—Lexical analysis, e.g. tokenisation or collocates
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/092—Reinforcement learning
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Computation (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Pathology (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Human Computer Interaction (AREA)
  • Probability & Statistics with Applications (AREA)
  • Machine Translation (AREA)

Abstract

本申请公开一种基于智能体的医疗对话意图识别方法，属于智能医疗技术领域，包括如下步骤采集医疗对话数据，并对医疗对话数据进行预处理、根据医疗对话数据构建智能体、模型评估和调优。通过采集医疗对话数据，并对医疗对话数据进行预处理、根据医疗对话数据构建智能体、模型评估和调优，能够实现高效、准确的医疗对话意图识别；智能体的构建使得本发明能够自动学习和理解医疗对话的意图，减少对人工标注数据的依赖，提高对新领域的适应性，处理复杂的对话场景，并减少对人工干预的需求。

Description

一种基于智能体的医疗对话意图识别方法
技术领域
本发明涉及智能医疗技术领域，尤其涉及一种基于智能体的医疗对话意图识别方法。
背景技术
在医疗领域，医生和患者之间的对话非常重要。然而，随着医疗信息的爆炸式增长，医生在处理大量患者对话时可能会遇到困难。因此，开发一种能够自动识别医疗对话中的意图的方法变得至关重要。
目前，已有一些对话意图方法，如基于规则的方法、传统的机器学习方法、基于自然语言处理和机器学习的方法。这些方法通常使用预定义的规则或训练数据集来训练模型。
然而，这些方法存在一些缺点，如需要大量的人工标注数据：传统的机器学习方法通常需要大量的人工标注数据来训练模型，而且，当面对不同领域的医疗对话时，传统方法的性能可能会显著下降，需要重新调整规则或重新训练模型。无法处理复杂的对话场景：医疗对话往往包含复杂的语义和上下文信息，传统方法往往无法充分捕捉这些信息。对人工干预的依赖：某些方法需要依赖专业人员进行规则的制定或模型的调整，这需要专业知识和经验，并且容易受到主观因素的影响，而且，随着医疗领域的不断发展和变化，这些规则和调整需要不断更新和调整，增加了维护和更新的成本。
发明内容
本发明提供一种基于智能体的医疗对话意图识别方法，用于解决上述技术问题。
为了实现上述目的，本发明实施例提供如下技术方案：
包括如下步骤：
S1：采集医疗对话数据，并对医疗对话数据进行预处理；
S2：对预处理后的医疗对话数据进行模型训练，从而构建智能体，其中，智能体包括意图识别模型和强化学习算法；
S3：使用评估指标对意图识别模型进行评估，根据评估结果对意图识别模型进行调优。
进一步的，采集方法至少包括以下一种：
与医疗机构合作，和医生进行模拟对话，记录模拟对话数据；
与医疗机构合作，查看医疗记录，采集医疗记录中的医疗对话数据。
进一步的，预处理包括如下步骤：
对采集到的医疗对话数据进行分析和处理，将医疗对话数据逐个切分成词语；
构造停用词集合，查询医疗对话数据切分成的词语是否出现在停用词集合中，若出现，则说明该词语是停用词，并将该词语过滤掉；
对过滤后的词语的词性按照其含义和上下文内容进行标记，获取带标签的词语。
进一步的，对预处理后的医疗对话数据进行模型训练，从而构建智能体，包括如下具体过程：
对经过预处理后的医疗对话数据进行监督学习，得到初始的意图识别模型；
对初始的意图识别模型进行训练，将预处理后的医疗对话数据输入到初始的意图识别模型中；
初始的意图识别模型通过学习预处理后的医疗对话数据中的语义信息来预测对话的意图；
将预测的对话的意图与真实标签进行比较，计算出初始的意图识别模型的损失，并使用反向传播算法调整初始的意图识别模型的参数，得到调整后的意图识别模型。
进一步的，对预处理后的医疗对话数据进行模型训练，从而构建智能体，还包括：
将真实的医疗对话数据输入到意图识别模型中，意图识别模型根据真实的医疗对话数据预测对话的意图；
根据预测的结果进行相应的行动，并获得环境的反馈信号；
根据反馈信号调整意图识别模型的参数，得到调整后的意图识别模型。
进一步的，意图识别模型的构建过程具体如下：
数据预处理：首先，需要准备一个带有标签的意图分类数据集，该数据集包含一系列的输入句子，以及对应的意图标签，然后，将原始文本转换为模型可以处理的数字表示，使用词嵌入将每个单词映射为一个向量；
构建模型输入：模型的输入由两部分组成：输入嵌入和位置编码，输入嵌入将每个单词的向量表示与位置编码相加以得到输入序列；
其中，输入嵌入的表达式为：，
式中是输入句子的单词嵌入矩阵，/>是位置编码矩阵；
注意力机制的表达式为：，
其中，是第/>个位置的表示，/>、/>和/>分别是对应位置的查询矩阵、键矩阵和值矩阵，/>是特征的维度；
编码器层：编码器由多个相同的模块堆叠而成，每个编码器层由两个子层组成，分别是多头自注意力机制和全连接前馈网络，每个子层的输出都经过残差连接和层归一化进行处理；
其中，多头自注意力机制的表达式为：，
式中，是第$i$个注意力头的输出，/>、/>和/>是线性变换参数；
残差连接的表达式为：，
式中，是残差连接的输出，/>是层归一化操作；
自注意力机制：在序列中捕捉不同位置之间的关系，自注意力机制通过计算注意力权重来定义每个位置对其他位置的依赖关系，具体而言，对于每个位置，通过对序列进行线性变换，然后计算该位置与其他所有位置的相似度得到注意力权重，最终根据权重进行加权求和得到该位置的表示；
全连接前馈网络：全连接前馈网络由两层线性投影和非线性激活函数组成，它用于对自注意力机制的输出进行进一步的转换和特征提取；
全连接前馈网络的表达式为：，
式中，是全连接前馈网络的输出，/>、/>、/>和/>是线性变换参数；
模型输出：编码器的最后一层输出经过全连接层，映射到意图标签的数量，并经过softmax函数进行归一化，得到每个意图的概率分布；
模型输出的表达式为：，
式中，是意图标签的概率分布，/>和/>是全连接层的参数。
进一步的，强化学习的构建流程如下：
确定环境和动作空间：明确意图识别模型的环境和可选择的动作空间，根据输入的语句来选择意图分类的结果；
构建策略网络：建立一个神经网络作为意图识别模型的策略网络，输入为语句，输出为各个意图分类的概率分布；
收集数据：通过与环境进行交互，收集一定量的数据，包括输入语句和实际的意图分类结果；
计算策略梯度：使用收集到的数据计算策略的梯度，将输入语句传入策略网络，得到对应的意图分类概率分布，然后使用概率分布和实际意图分类结果计算策略的梯度；
优化策略：使用策略梯度信息更新策略网络参数，采用梯度下降的方法，将策略网络的参数朝着梯度的反方向进行更新。重复步骤3-5多次，以不断优化意图识别模型的策略网络。
进一步的，强化学习的构建流程还包括：
构建优势函数：,
式中，表示在状态/>下选择动作/>相对于平均行为的优势，/>表示在状态/>下选择动作/>的动作值函数；/>表示状态/>的值函数；
策略的概率比率：，
式中，表示当前策略/>相对于旧策/>的概率比率；
构建强化学习的目标函数：，
式中，表示强化学习的目标函数，/>表示优势函数，/>表示对概率比率/>进行截断限制，使其在/>之间，/>为超参数，用于控制截断范围；
构建强化学习的总体目标函数：,
式中，表示强化学习的总体目标函数，/>为值函数的平方误差，用于约束策略改进的距离；
通过最大化总体目标函数优化策略网络的参数，以提高意图识别模型的性能。
进一步的，评估指标至少包括如下一种：准确率、召回率、精确率、F1值，其中，F1值是同时考虑精确率和召回率，让两者同时达到最高，取得平衡。
进一步的，准确率是预测正确的结果占总样本的百分比，表达式为：
，式中A为准确率，TP表示预测为1，实际为1时，预测正确的量，FP表示预测为1，实际为0时，预测错误的量，FN表示预测为0，实际为1时，预测错误的量，TN表示预测为0，实际为0时，预测正确的量；
召回率是在实际为正的样本中被预测为正样本的概率，表达式为：
，式中R为召回率，TP表示预测为1，实际为1时，预测正确的量，FN表示预测为0，实际为1时，预测错误的量；
精确率是在被所有预测为正的样本中实际为正样本的概率，表达式为：
，式中P为精确率，TP表示预测为1，实际为1时，预测正确的量，FP表示预测为1，实际为0时，预测错误的量；
F1值的表达式为：
，式中P为精确率，R为召回率。
本申请发明的有益效果：通过采集医疗对话数据，并对医疗对话数据进行预处理、根据医疗对话数据构建智能体、模型评估和调优，能够实现高效、准确的医疗对话意图识别；智能体的构建使得本发明能够自动学习和理解医疗对话的意图，减少对人工标注数据的依赖，提高对新领域的适应性，处理复杂的对话场景，并减少对人工干预的需求。
本发明的这些和其它目的、特点和优势，通过下述的详细说明，得以充分体现。
附图说明
图1示出了本申请基于智能体的医疗对话意图识别方法的流程图。
图2示出了本申请基于智能体的医疗对话意图识别方法的框架示意图。
具体实施方式
以下描述用于揭露本发明以使本领域技术人员能够实现本发明。以下描述中的优选实施例只作为举例，本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
本领域技术人员应理解的是，在说明书的揭露中，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。因此，上述术语不能理解为对本发明的限制。
可以理解的是，术语“一”应理解为“至少一”或“一个或多个”，即在一个实施例中，一个元件的数量可以为一个，而在另外的实施例中，该元件的数量可以为多个，术语“一”不能理解为对数量的限制。
参考图1和图2，依本发明一较佳实施例的一种基于智能体的医疗对话意图识别方法将在以下被详细地阐述，其中，包括如下步骤：S1：采集医疗对话数据，并对医疗对话数据进行预处理；S2：对预处理后的医疗对话数据进行模型训练，从而构建智能体，其中，智能体包括意图识别模型和强化学习算法；S3：使用评估指标对意图识别模型进行评估，根据评估结果对意图识别模型进行调优。
采集医疗对话数据，并对医疗对话数据进行预处理：是建立准确的意图识别模型的基础，充分的数据量和高质量的预处理可以提供丰富的语义信息，帮助意图分类更好地理解医疗对话。
对预处理后的医疗对话数据进行模型训练，从而构建智能体：使用深度学习技术构建一个智能体，该智能体由意图识别模型和强化学习算法组成，意图识别模型负责将医疗对话映射到对应的意图类别，而强化学习算法负责优化意图识别模型的性能。
能够实现高效、准确的医疗对话意图识别，智能体的构建使得本发明能够自动学习和理解医疗对话的意图，并通过与环境的交互不断优化模型的性能，提高医生的工作效率和患者的体验。
根据本发明一实施例，采集方法至少包括以下一种：
与医疗机构合作，和医生进行模拟对话，记录模拟对话数据；
与医疗机构合作，查看医疗记录，采集医疗记录中的医疗对话数据。
根据本发明一实施例，预处理包括如下步骤：
对采集到的医疗对话数据进行分析和处理，将医疗对话数据逐个切分成词语；
构造停用词集合，查询医疗对话数据切分成的词语是否出现在停用词集合中，若出现，则说明该词语是停用词，并将该词语过滤掉；其中，停用词包括语气词、助词、标点符号等；
对过滤后的词语的词性按照其含义和上下文内容进行标记，其中，标记方法采用词性标记算法：隐马尔可夫模型。
根据本发明一实施例，对预处理后的医疗对话数据进行模型训练，从而构建智能体，包括如下具体过程：
对经过预处理后的医疗对话数据进行监督学习，得到初始的意图识别模型；
对初始的意图识别模型进行训练，将预处理后的医疗对话数据输入到初始的意图识别模型中；
初始的意图识别模型通过学习预处理后的医疗对话数据中的语义信息来预测对话的意图；
将预测的对话的意图与真实标签进行比较，计算出初始的意图识别模型的损失，并使用反向传播算法调整初始的意图识别模型的参数，得到调整后的意图识别模型。
其中，该过程被定义为内循环，即通过强化学习的方式不断地优化智能体的意图识别模型使其达到一个较好的水平。
根据本发明一实施例，对预处理后的医疗对话数据进行模型训练，从而构建智能体，还包括：
将真实的医疗对话数据输入到意图识别模型中，意图识别模型根据真实的医疗对话数据预测对话的意图；
根据预测的结果进行相应的行动，并获得环境的反馈信号；
根据反馈信号调整意图识别模型的参数，得到调整后的意图识别模型，其中，反馈信号至少包括如下一种：对话的正确意图、奖励信号。
其中，智能体采用强化学习算法，其中，强化学习算法至少包括以下一种：Q-learning、策略梯度。
以上过程被定义为外循环，外循环是在与外界环境交互的过程中，即将该方法应用到实际医疗对话的场景中，也就是说，环境交互是指用户使用基于意图识别模型的智能对话或问答系统交互的过程，该过程中用户首先向智能对话或问答系统提问问题，智能对话或问答系统利用意图识别模型识别用户的意图，然后根据识别的意图生成相应的回答，最后用户需要反馈生成的回答是否满足用户的需求，如果满足则说明意图识别是正确，如果不满足，则间接说明意图识别不正确。智能对话或问答系统需要记录下每次交互数据，并根据用户的反馈构建成用于优化意图识别模型的训练样本，通过强化学习不断地优化意图识别模型，使其实能够不断地进化。
参数更新是指通过优化算法，如梯度下降法或其变种，调整意图识别模型的参数，以最小化损失函数，参数更新的目标是使策略逐渐收敛到最优策略，从而使系统在与用户的交互中获得最大的累积奖励函数；奖励函数是指根据用户的反馈来评估系统回答的质量，如果系统的回答满足用户的需求，可以给予正向奖励；如果回答不满足用户的需求，可以给予负向奖励，奖励函数的设计需要考虑到用户的满意度和系统的性能指标。
根据本发明一实施例，意图识别模型采用Transformer-encoder架构，其构建过程具体如下：
数据预处理：首先，需要准备一个带有标签的意图分类数据集，该数据集包含一系列的输入句子，以及对应的意图标签，然后，将原始文本转换为模型可以处理的数字表示，使用词嵌入将每个单词映射为一个向量；
构建模型输入：模型的输入由两部分组成：输入嵌入（Input Embedding）和位置编码（Positional Encoding），输入嵌入将每个单词的向量表示与位置编码相加以得到输入序列；
其中，输入嵌入的表达式为：，
式中是输入句子的单词嵌入矩阵，/>是位置编码矩阵；
注意力机制的表达式为：，
其中，是第/>个位置的表示，/>、/>和/>分别是对应位置的查询矩阵、键矩阵和值矩阵，/>是特征的维度；
编码器（Encoder）层：编码器由多个相同的模块（Encoder Layer）堆叠而成，每个Encoder Layer由两个子层组成，分别是多头自注意力机制（Multi-head Self-attention）和全连接前馈网络（Feed-forward Neural Network），每个子层的输出都经过残差连接（Residual Connection）和层归一化（Layer Normalization）进行处理；
其中，多头自注意力机制的表达式为：，
式中，是第$i$个注意力头的输出，/>、/>和/>是线性变换参数；
残差连接（Residual Connection）的表达式为：，
式中，是残差连接的输出，/>是层归一化操作；
自注意力机制：在序列中捕捉不同位置之间的关系，自注意力机制通过计算注意力权重来定义每个位置对其他位置的依赖关系，具体而言，对于每个位置，通过对序列进行线性变换，然后计算该位置与其他所有位置的相似度得到注意力权重，最终根据权重进行加权求和得到该位置的表示；
全连接前馈网络：全连接前馈网络由两层线性投影和非线性激活函数组成，它用于对自注意力机制的输出进行进一步的转换和特征提取；
全连接前馈网络的表达式为：，
式中，是全连接前馈网络的输出，/>、/>、/>和/>是线性变换参数；
模型输出：编码器的最后一层输出经过全连接层，映射到意图标签的数量，并经过softmax函数进行归一化，得到每个意图的概率分布；
模型输出的表达式为：，
式中，是意图标签的概率分布，/>和/>是全连接层的参数。
根据本发明一实施例，强化学习的构建流程如下：
确定环境和动作空间：明确意图识别模型的环境和可选择的动作空间，根据输入的语句来选择意图分类的结果；
构建策略网络：建立一个神经网络作为意图识别模型的策略网络，输入为语句，输出为各个意图分类的概率分布；
收集数据：通过与环境进行交互，收集一定量的数据，包括输入语句和实际的意图分类结果；
计算策略梯度：使用收集到的数据计算策略的梯度，将输入语句传入策略网络，得到对应的意图分类概率分布，然后使用概率分布和实际意图分类结果计算策略的梯度；
优化策略：使用策略梯度信息更新策略网络参数，采用梯度下降的方法，将策略网络的参数朝着梯度的反方向进行更新。
采用PPO（Proximal Policy Optimization）算法构建的强化学习模型，其中PPO是一种基于策略梯度的强化学习算法，用于优化意图识别模型。以下是PPO强化学习的构建流程：
根据本发明一实施例，强化学习的构建流程还包括：
构建优势函数：构建优势函数：,
式中，表示在状态/>下选择动作/>相对于平均行为的优势，/>表示在状态/>下选择动作/>的动作值函数；/>表示状态/>的值函数；
策略的概率比率：，
式中，表示当前策略/>相对于旧策/>的概率比率；
构建强化学习的目标函数：，
式中，表示强化学习的目标函数，/>表示优势函数，/>表示对概率比率/>进行截断限制，使其在/>之间，/>为超参数，用于控制截断范围；
构建强化学习的总体目标函数：,
式中，表示强化学习的总体目标函数，/>为值函数的平方误差，用于约束策略改进的距离；
通过最大化总体目标函数优化策略网络的参数，以提高意图识别模型的性能。
根据本发明一实施例，评估指标至少包括如下一种：准确率、召回率、精确率、F1值，其中，F1值是同时考虑精确率和召回率，让两者同时达到最高，取得平衡；
准确率是预测正确的结果占总样本的百分比，表达式为：
，式中A为准确率，TP表示预测为1，实际为1时，预测正确的量，FP表示预测为1，实际为0时，预测错误的量，FN表示预测为0，实际为1时，预测错误的量，TN表示预测为0，实际为0时，预测正确的量；
召回率是在实际为正的样本中被预测为正样本的概率，表达式为：
，式中R为召回率，TP表示预测为1，实际为1时，预测正确的量，FN表示预测为0，实际为1时，预测错误的量；
精确率是在被所有预测为正的样本中实际为正样本的概率，表达式为：
，式中P为精确率，TP表示预测为1，实际为1时，预测正确的量，FP表示预测为1，实际为0时，预测错误的量；
F1值的表达式为：
，式中P为精确率，R为召回率。
模型评估和调优是确保智能体性能优良的关键步骤，通过评估指标的分析，可以了解模型的准确性和鲁棒性，并根据评估结果进行相应的调整和改进。
本领域的技术人员应理解，上述描述及附图中所示的本发明的实施例只作为举例而并不限制本发明。本发明的优势已经完整并有效地实现。本发明的功能及结构原理已在实施例中展示和说明，在没有背离所述原理下，本发明的实施方式可以有任何变形或修改。

Claims (10)

1.一种基于智能体的医疗对话意图识别方法，其特征在于，包括如下步骤：
S1：采集医疗对话数据，并对医疗对话数据进行预处理；
S2：对预处理后的医疗对话数据进行模型训练，从而构建智能体，其中，智能体包括意图识别模型和强化学习算法；
S3：使用评估指标对意图识别模型进行评估，根据评估结果对意图识别模型进行调优。
2.如权利要求1所述的基于智能体的医疗对话意图识别方法，其特征在于，采集方法至少包括以下一种：
与医疗机构合作，和医生进行模拟对话，记录模拟对话数据；
与医疗机构合作，查看医疗记录，采集医疗记录中的医疗对话数据。
3.如权利要求2所述的基于智能体的医疗对话意图识别方法，其特征在于，预处理包括如下步骤：
对采集到的医疗对话数据进行分析和处理，将医疗对话数据逐个切分成词语；
构造停用词集合，查询医疗对话数据切分成的词语是否出现在停用词集合中，若出现，则说明该词语是停用词，并将该词语过滤掉；
对过滤后的词语的词性按照其含义和上下文内容进行标记，获取带标签的词语。
4.如权利要求1所述的基于智能体的医疗对话意图识别方法，其特征在于，对预处理后的医疗对话数据进行模型训练，从而构建智能体，包括如下具体过程：
对经过预处理后的医疗对话数据进行监督学习，得到初始的意图识别模型；
对初始的意图识别模型进行训练，将预处理后的医疗对话数据输入到初始的意图识别模型中；
初始的意图识别模型通过学习预处理后的医疗对话数据中的语义信息来预测对话的意图；
将预测的对话的意图与真实标签进行比较，计算出初始的意图识别模型的损失，并使用反向传播算法调整初始的意图识别模型的参数，得到调整后的意图识别模型。
5.如权利要求4所述的基于智能体的医疗对话意图识别方法，其特征在于，对预处理后的医疗对话数据进行模型训练，从而构建智能体，还包括：
将真实的医疗对话数据输入到意图识别模型中，意图识别模型根据真实的医疗对话数据预测对话的意图；
根据预测的结果进行相应的行动，并获得环境的反馈信号；
根据反馈信号调整意图识别模型的参数，得到调整后的意图识别模型。
6.如权利要求5所述的基于智能体的医疗对话意图识别方法，其特征在于，意图识别模型的构建过程具体如下：
数据预处理：首先，需要准备一个带有标签的意图分类数据集，该数据集包含一系列的输入句子，以及对应的意图标签，然后，将原始文本转换为模型可以处理的数字表示，使用词嵌入将每个单词映射为一个向量；
构建模型输入：模型的输入由两部分组成：输入嵌入和位置编码，输入嵌入将每个单词的向量表示与位置编码相加以得到输入序列；
其中，输入嵌入的表达式为：，
式中是输入句子的单词嵌入矩阵，/>是位置编码矩阵；
注意力机制的表达式为：，
其中，是第/>个位置的表示，/>、/>和/>分别是对应位置的查询矩阵、键矩阵和值矩阵，/>是特征的维度；
编码器层：编码器由多个相同的模块堆叠而成，每个编码器层由两个子层组成，分别是多头自注意力机制和全连接前馈网络，每个子层的输出都经过残差连接和层归一化进行处理；
其中，多头自注意力机制的表达式为：，
式中，是第$i$个注意力头的输出，/>、/>和/>是线性变换参数；
残差连接的表达式为：，
式中，是残差连接的输出，/>是层归一化操作；
自注意力机制：在序列中捕捉不同位置之间的关系，自注意力机制通过计算注意力权重来定义每个位置对其他位置的依赖关系，具体而言，对于每个位置，通过对序列进行线性变换，然后计算该位置与其他所有位置的相似度得到注意力权重，最终根据权重进行加权求和得到该位置的表示；
全连接前馈网络：全连接前馈网络由两层线性投影和非线性激活函数组成，它用于对自注意力机制的输出进行进一步的转换和特征提取；
全连接前馈网络的表达式为：，
式中，是全连接前馈网络的输出，/>、/>、/>和/>是线性变换参数；
模型输出：编码器的最后一层输出经过全连接层，映射到意图标签的数量，并经过softmax函数进行归一化，得到每个意图的概率分布；
模型输出的表达式为：，
式中，是意图标签的概率分布，/>和/>是全连接层的参数。
7.如权利要求6所述的基于智能体的医疗对话意图识别方法，其特征在于，强化学习的构建流程如下：
确定环境和动作空间：明确意图识别模型的环境和可选择的动作空间，根据输入的语句来选择意图分类的结果；
构建策略网络：建立一个神经网络作为意图识别模型的策略网络，输入为语句，输出为各个意图分类的概率分布；
收集数据：通过与环境进行交互，收集一定量的数据，包括输入语句和实际的意图分类结果；
计算策略梯度：使用收集到的数据计算策略的梯度，将输入语句传入策略网络，得到对应的意图分类概率分布，然后使用概率分布和实际意图分类结果计算策略的梯度；
优化策略：使用策略梯度信息更新策略网络参数，采用梯度下降的方法，将策略网络的参数朝着梯度的反方向进行更新。
8.如权利要求7所述的基于智能体的医疗对话意图识别方法，其特征在于，强化学习的构建流程还包括：
构建优势函数：,
式中，表示在状态/>下选择动作/>相对于平均行为的优势，/>表示在状态/>下选择动作/>的动作值函数；/>表示状态/>的值函数；
策略的概率比率：，
式中，表示当前策略/>相对于旧策/>的概率比率；
构建强化学习的目标函数：
，
式中，表示强化学习的目标函数，/>表示优势函数，/>表示对概率比率/>进行截断限制，使其在/>之间，/>为超参数，用于控制截断范围；
构建强化学习的总体目标函数：
,
式中，表示强化学习的总体目标函数，/>为值函数的平方误差，用于约束策略改进的距离；
通过最大化总体目标函数优化策略网络的参数，以提高意图识别模型的性能。
9.如权利要求1所述的基于智能体的医疗对话意图识别方法，其特征在于，评估指标至少包括如下一种：准确率、召回率、精确率、F1值，其中，F1值是同时考虑精确率和召回率，让两者同时达到最高，取得平衡。
10.如权利要求9所述的基于智能体的医疗对话意图识别方法，其特征在于，准确率是预测正确的结果占总样本的百分比，表达式为：
，式中A为准确率，TP表示预测为1，实际为1时，预测正确的量，FP表示预测为1，实际为0时，预测错误的量，FN表示预测为0，实际为1时，预测错误的量，TN表示预测为0，实际为0时，预测正确的量；
召回率是在实际为正的样本中被预测为正样本的概率，表达式为：
，式中R为召回率，TP表示预测为1，实际为1时，预测正确的量，FN表示预测为0，实际为1时，预测错误的量；
精确率是在被所有预测为正的样本中实际为正样本的概率，表达式为：
，式中P为精确率，TP表示预测为1，实际为1时，预测正确的量，FP表示预测为1，实际为0时，预测错误的量；
F1值的表达式为：
，式中P为精确率，R为召回率。
CN202311042120.3A 2023-08-18 2023-08-18 一种基于智能体的医疗对话意图识别方法 Pending CN116759077A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311042120.3A CN116759077A (zh) 2023-08-18 2023-08-18 一种基于智能体的医疗对话意图识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311042120.3A CN116759077A (zh) 2023-08-18 2023-08-18 一种基于智能体的医疗对话意图识别方法

Publications (1)

Publication Number Publication Date
CN116759077A true CN116759077A (zh) 2023-09-15

Family

ID=87955542

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311042120.3A Pending CN116759077A (zh) 2023-08-18 2023-08-18 一种基于智能体的医疗对话意图识别方法

Country Status (1)

Country Link
CN (1) CN116759077A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117556864A (zh) * 2024-01-12 2024-02-13 阿里云计算有限公司 信息处理方法、电子设备及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112417894A (zh) * 2020-12-10 2021-02-26 上海方立数码科技有限公司 一种基于多任务学习的对话意图识别方法及识别系统
CN112541570A (zh) * 2020-11-24 2021-03-23 北京三快在线科技有限公司 一种多模型训练方法、装置、电子设备及存储介质
CN112579758A (zh) * 2020-12-25 2021-03-30 北京百度网讯科技有限公司 模型训练方法、装置、设备、存储介质和程序产品
US20230079879A1 (en) * 2021-09-13 2023-03-16 International Business Machines Corporation Conversation generation using summary-grounded conversation generators
CN115905486A (zh) * 2022-11-15 2023-04-04 曲阜师范大学 任务型对话模型训练方法、装置、设备和计算机可读介质
CN116010575A (zh) * 2023-01-19 2023-04-25 桂林电子科技大学 一种融合基础知识与用户信息的对话生成方法
CN116127056A (zh) * 2022-12-28 2023-05-16 东北大学 一种多层次特征增强的医疗对话摘要方法
US20230229898A1 (en) * 2020-09-29 2023-07-20 Huawei Technologies Co., Ltd. Data processing method and related device
US20230245651A1 (en) * 2020-03-14 2023-08-03 Polypie Inc. Enabling user-centered and contextually relevant interaction

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230245651A1 (en) * 2020-03-14 2023-08-03 Polypie Inc. Enabling user-centered and contextually relevant interaction
US20230229898A1 (en) * 2020-09-29 2023-07-20 Huawei Technologies Co., Ltd. Data processing method and related device
CN112541570A (zh) * 2020-11-24 2021-03-23 北京三快在线科技有限公司 一种多模型训练方法、装置、电子设备及存储介质
CN112417894A (zh) * 2020-12-10 2021-02-26 上海方立数码科技有限公司 一种基于多任务学习的对话意图识别方法及识别系统
CN112579758A (zh) * 2020-12-25 2021-03-30 北京百度网讯科技有限公司 模型训练方法、装置、设备、存储介质和程序产品
US20230079879A1 (en) * 2021-09-13 2023-03-16 International Business Machines Corporation Conversation generation using summary-grounded conversation generators
CN115905486A (zh) * 2022-11-15 2023-04-04 曲阜师范大学 任务型对话模型训练方法、装置、设备和计算机可读介质
CN116127056A (zh) * 2022-12-28 2023-05-16 东北大学 一种多层次特征增强的医疗对话摘要方法
CN116010575A (zh) * 2023-01-19 2023-04-25 桂林电子科技大学 一种融合基础知识与用户信息的对话生成方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
刘建伟;高峰;罗雄麟;: "基于值函数和策略梯度的深度强化学习综述", 计算机学报, no. 06 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117556864A (zh) * 2024-01-12 2024-02-13 阿里云计算有限公司 信息处理方法、电子设备及存储介质
CN117556864B (zh) * 2024-01-12 2024-04-16 阿里云计算有限公司 信息处理方法、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN110364251B (zh) 一种基于机器阅读理解的智能交互导诊咨询系统
CN111353029B (zh) 一种基于语义匹配的多轮对话口语理解方法
CN111933127A (zh) 一种具备自学习能力的意图识别方法及意图识别系统
CN116759077A (zh) 一种基于智能体的医疗对话意图识别方法
CN113871020B (zh) 一种基于ai机器学习的急危重症诊后健康管理方法及系统
CN111984780A (zh) 多意图识别模型训练方法和多意图识别方法及相关装置
CN116010575A (zh) 一种融合基础知识与用户信息的对话生成方法
CN115545041B (zh) 一种增强医疗语句语义向量表示的模型构造方法及系统
CN117077786A (zh) 一种基于知识图谱的数据知识双驱动智能医疗对话系统和方法
CN117690581A (zh) 一种基于大语言模型的疾病问诊过程辅助信息生成方法
Somogyi The Application of Artificial Intelligence
CN117149977A (zh) 一种基于机器人流程自动化的智能催收机器人
CN115171870A (zh) 一种基于m-BERT预训练模型的就诊引导提示方法及系统
CN113920379A (zh) 一种基于知识辅助的零样本图像分类方法
CN113555133A (zh) 一种医疗问诊数据处理方法和装置
CN117877660A (zh) 基于语音识别的医学报告获取方法及系统
CN116595994A (zh) 基于提示学习的矛盾信息预测方法、装置、设备及介质
CN114238605B (zh) 一种智能语音客服机器人自动对话方法及装置
CN115510230A (zh) 一种基于多维特征融合与比较增强学习机制的蒙古语情感分析方法
CN115455984A (zh) 一种任务型客服服务升级方法及装置
KR20230023505A (ko) 음성 언어 이해 모델 생성 방법 및 장치
CN117435716B (zh) 电网人机交互终端的数据处理方法及系统
CN117037789B (zh) 一种客服语音识别方法、装置、计算机设备及存储介质
CN114281973A (zh) Rasa框架下的智能问答方法、系统、装置及存储介质
CN117251599B (zh) 一种视频语料智能测试优化方法、装置和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination