CN114792097A - 预训练模型提示向量的确定方法、装置及电子设备 - Google Patents

预训练模型提示向量的确定方法、装置及电子设备 Download PDF

Info

Publication number
CN114792097A
CN114792097A CN202210524331.XA CN202210524331A CN114792097A CN 114792097 A CN114792097 A CN 114792097A CN 202210524331 A CN202210524331 A CN 202210524331A CN 114792097 A CN114792097 A CN 114792097A
Authority
CN
China
Prior art keywords
vector
prompt
vectors
determining
prompt vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210524331.XA
Other languages
English (en)
Other versions
CN114792097B (zh
Inventor
柴业坤
王硕寰
孙宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202210524331.XA priority Critical patent/CN114792097B/zh
Publication of CN114792097A publication Critical patent/CN114792097A/zh
Application granted granted Critical
Publication of CN114792097B publication Critical patent/CN114792097B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本公开公开了一种预训练模型提示向量的确定方法、装置和电子设备，尤其涉及自然语言处理、深度学习等人工智能技术领域。其中，方案为：获取第一个提示向量及样本数据对应的第一向量；将第一向量与第一个提示向量融合后，输入至预训练模型中，以获取第一个提示向量对应的奖励值；基于奖励值，对第一个提示向量进行修正，以确定第二个提示向量；基于第二个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。由此，可以基于奖励值对提示向量进行修正，以确定出下一个提示向量，也即通过前向推断，确定目标提示向量，节省了计算资源，同时也节省了确定目标提示向量的时间，提高了效率，为工业化部署提供了条件。

Description

预训练模型提示向量的确定方法、装置及电子设备
技术领域
本公开涉及计算机技术领域，具体涉及自然语言处理、深度学习等人工智能技术领域，尤其涉及一种预训练模型提示向量的确定方法、装置、电子设备和存储介质。
背景技术
随着计算机技术的发展，自然语言处理应用的也越来越广泛。
相关技术中，可以通过在预训练模型输入端加一组连续的提示prompt向量，之后在固定预训练模型参数的情况下，利用训练样本对提示向量进行反向传播与优化，以确定最佳的提示向量。通常预训练模型参数可能较大，层数可能较深，涉及的计算量可能较大，从而可能导致计算提示向量的时间过长。由此，如何节省计算提示向量的时间，显得至关重要。
发明内容
本公开提供了一种预训练模型提示向量的确定方法、装置、电子设备和存储介质。
本公开一方面，提供了一种预训练模型提示向量的确定方法，包括：
获取第一个提示向量及样本数据对应的第一向量；
将所述第一向量与所述第一个提示向量融合后，输入至预训练模型中，以获取所述第一个提示向量对应的奖励值；
基于所述奖励值，对所述第一个提示向量进行修正，以确定第二个提示向量；
基于所述第二个提示向量，返回执行上述获取奖励值的操作，直至确定所述样本数据对应的目标提示向量。
本公开的另一方面，提供了一种预训练模型提示向量的确定装置，包括：
获取模块，用于获取第一个提示向量及样本数据对应的第一向量；
输入模块，用于将所述第一向量与所述第一个提示向量融合后，输入至预训练模型中，以获取所述第一个提示向量对应的奖励值；
修正模块，用于基于所述奖励值，对所述第一个提示向量进行修正，以确定第二个提示向量；
确定模块，用于基于所述第二个提示向量，返回执行上述获取奖励值的操作，直至确定所述样本数据对应的目标提示向量。
本公开的另一方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述一方面实施例所述的预训练模型提示向量的确定方法。
本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其上存储有计算机程序，所述计算机指令用于使所述计算机执行上述一方面实施例所述的预训练模型提示向量的确定方法。
本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现上述一方面实施例所述的预训练模型提示向量的确定方法。
本公开提供的预训练模型提示向量的确定方法、装置、电子设备和存储介质，可以先获取第一个提示向量及样本数据对应的第一向量，之后可以将第一向量与第一个提示向量融合后，输入至预训练模型中，以获取第一个提示向量对应的奖励值，再基于奖励值，对第一个提示向量进行修正，以确定第二个提示向量，之后可以基于第二个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。由此，通过将样本数据对应的第一向量及提示向量融合后，输入至预训练模型中，可以获取对应的奖励值，之后基于奖励值对提示向量进行修正，可以确定出下一个提示向量，之后可以基于新确定出的提示向量，返回继续执行获取奖励值的操作，直至确定出目标提示向量，也即通过前向推断，可以较为快速的确定出目标提示向量，涉及的数据量较少，从而节省了计算资源，同时也节省了确定目标提示向量的时间，提高了效率，为工业化部署提供了条件。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1为本公开一实施例提供的一种预训练模型提示向量的确定方法的流程示意图；
图2为本公开一实施例提供的一种预训练模型提示向量的确定方法的流程示意图；
图3为本公开一实施例提供的一种预训练模型提示向量的确定方法的流程示意图；
图3A为本公开一实施例提供的一种预训练模型提示向量的确定过程的示意图；
图4为本公开另一实施例提供的一种预训练模型提示向量的确定装置的结构示意图；
图5为用来实现本公开实施例的预训练模型提示向量的确定方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习、深度学习、大数据处理技术、知识图谱技术等几大方向。
自然语言处理是用计算机来处理、理解以及运用人类语言(如中文、英文等)，它是计算机科学与语言学的交叉学科，又常被称为计算语言学。由于自然语言是人类区别于其他动物的根本标志。没有语言，人类的思维也就无从谈起，所以自然语言处理体现了人工智能的最高任务与境界，也就是说，只有当计算机具备了处理自然语言的能力时，机器才算实现了真正的智能。
深度学习是指多层的人工神经网络和训练它的方法。一层神经网络会把大量矩阵数字作为输入，通过非线性激活方法取权重，再产生另一个数据集合作为输出。通过合适的矩阵数量，多层组织链接一起，形成神经网络“大脑”进行精准复杂的处理，就像人们识别物体标注图片一样。
下面参考附图描述本公开实施例的预训练模型提示向量的确定方法、装置、电子设备和存储介质。
本公开实施例的预训练模型提示向量的确定方法，可由本公开实施例提供的预训练模型提示向量的确定装置执行，该装置可配置于电子设备中。
图1为本公开实施例提供的一种预训练模型提示向量的确定方法的流程示意图。
如图1所示，该预训练模型提示向量的确定方法，可以包括以下步骤：
步骤101，获取第一个提示向量及样本数据对应的第一向量。
通常，提示prompt可以理解为在文本上附加额外的提示信息作为输入，将下游的预测等任务转化为语言模型任务，并将语言模型的预测结果转化为原本下游任务的预测结果。从而，本公开实施例中提示可以理解为提示向量信息。
其中，第一个提示向量，可以为随机初始化的向量，或者也可以为任意向量等，本公开对此不做限定。
另外，第一向量，可以为样本数据对应的向量。比如，样本数据为文本数据，那么第一向量，可以为该文本数据对应的文本向量，比如可以通过向量词表获取到该文本数据对应的第一向量，或者也可以通过其他方式获取到该样本数据对应的第一向量等等，本公开对此不做限定。
另外，样本数据的类型可以为多种，比如，可以为文本数据，或者也可以为图像数据、音频数据等等。另外，样本数据通常可以为多个，比如可以为多个文本类型的样本数据，每个样本数据有各自对应的第一向量等等。样本数据可以为小样本数据，比如仅包含16、20个样本数据等等，或者为大样本数据等等，本公开对此不做限定。
步骤102，将第一向量与第一个提示向量融合后，输入至预训练模型中，以获取第一个提示向量对应的奖励值。
其中，第一向量与第一个提示向量融合的方式，有多种。比如，可以将二者可以拼接融合，或者也可以采用其他方式融合等等，本公开对此不做限定。
另外，预训练模型，可以为任意类型的预训练模型，比如可以为BERT(bidirectionecoder representations from transformers，双向编码器)或者也可以为ELMo(embeddings from language models，语言模型嵌入)等等，本公开对此不做限定。
可选的，可以将第一向量与第一个提示向量融合后，输入至预训练模型中，以经过预训练模型的处理，输出第一向量也即样本数据对应的预测标签，之后可以将该预测标签与该样本数据对应的标注标签进行匹配，以确定二者间的差异，之后可以根据该差异，确定对应的奖励值。
比如，可以利用损失函数，确定出预测标签与标注标签间的损失值，之后根据该损失值，确定出对应的奖励值。或者，也可以根据预测标签与标注标签间的差异，确定出准确率、综合评价指标等等，将其作为对应的奖励值等等，本公开对此不做限定。
步骤103，基于奖励值，对第一个提示向量进行修正，以确定第二个提示向量。
举例来说，可以将第一个提示向量中的各个元素分别与该奖励值相加等等，以对该第一个提示向量进行修正，并将修正后的向量确定为第二个提示向量等等，本公开对此不做限定。
从而，本公开实施例中，可以基于奖励值，对第一个提示向量进行前向推断，即可确定出下一个提示向量，也即第二个提示向量，无需利用训练样本对提示向量进行反向传播与优化，通过前向推断可以较为快速的确定出下一个提示向量，所涉及的数据量可能较少，从而节省了计算资源，也节省了确定提示向量的时间，提高了效率。
步骤104，基于第二个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。
其中，目标提示向量，可以为该样本数据对应的较为准确的提示向量，利用该目标提示向量，可以对样本数据进行更为准确、可靠的处理等等，从而，即使在小样本学习场景下，也可以有效地保持较好的学习效果等。本公开对此不做限定。
举例来说，在确定出第二个提示向量之后，可以将样本数据对应第一向量与第二个提示向量融合，之后将融合后的向量输入至预训练模型中，以获取第二个提示向量对应的奖励值，之后可以基于该奖励值，对第二个提示向量进行修正，以确定第三个提示向量，之后可以基于第三个提示向量，返回执行获取奖励值的操作，直至确定出样本数据对应的目标提示向量等等，本公开对此不做限定。
可选的，可以在达到指定训练步数时，停止执行上述获取奖励值的操作；或者，也可以在达到指定训练周期后，停止执行上述获取奖励值的操作，之后可以从训练过程中得到的多个提示向量中确定出目标提示向量等等，本公开对此不做限定。
可以理解的是，本公开提供的预训练模型提示向量的确定方法，可以适用于任意预训练模型提示向量的确定场景中，比如可以应用于文本分类、问答对的生成、文本理解等等，本公开对此不做限定。
下面以应用于文本分类为例，对本公开提供的预训练模型提示向量的确定过程进行简单说明。
可以理解的是，可以先对文本数据进行处理，以生成文本数据对应的第一向量，之后可以获取第一个提示向量。之后可以将文本数据对应的第一向量与第一个提示向量融合后，输入至预训练模型中，以经过预训练模型的处理，获取到第一个提示向量对应的奖励值。之后可以基于奖励值，对第一个提示向量进行修正，以确定第二个提示向量；之后可以将第二个提示向量与文本数据对应的第一向量融合后，输入至该预训练模型中，以经过预训练模型的处理，获取到第二个提示向量对应的奖励值。之后可以基于该奖励值，对第二个提示向量进行修正，以确定出第三个提示向量，之后可以基于第三个提示向量，返回执行上述获取奖励值的操作，比如可以参照第二个提示向量的过程，直至确定出文本数据对应的目标提示向量。
需要说明的是，上述示例只是示意性说明，不能作为对本公开实施例中预训练模型提示向量的确定过程的限定。
本公开实施例，可以先获取第一个提示向量及样本数据对应的第一向量，之后可以将第一向量与第一个提示向量融合后，输入至预训练模型中，以获取第一个提示向量对应的奖励值，再基于奖励值，对第一个提示向量进行修正，以确定第二个提示向量，之后可以基于第二个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。由此，通过将样本数据对应的第一向量及提示向量融合后，输入至预训练模型中，可以获取对应的奖励值，之后基于奖励值对提示向量进行修正，可以确定出下一个提示向量，之后可以基于新确定出的提示向量，返回继续执行获取奖励值的操作，直至确定出目标提示向量，也即通过前向推断，可以较为快速的确定出目标提示向量，涉及的数据量较少，从而节省了计算资源，同时也节省了确定目标提示向量的时间，提高了效率，为工业化部署提供了条件。
图2为本公开实施例提供的一种预训练模型提示向量的确定方法的流程示意图，如图2所示，该预训练模型提示向量的确定方法，可以包括以下步骤：
步骤201，将第一向量与第N+1个提示向量融合后，输入至预训练模型中，以获取第N+1个提示向量对应的奖励值。
其中，第一向量可以为样本数据对应的向量。
可以理解的是，本公开中，可以先获取第一个提示向量及样本数据对应的第一向量，之后可以将第一向量与第一个提示向量融合后，输入至预训练模型中，以获取第一个提示向量对应的奖励值，再基于奖励值，对第一个提示向量进行修正，以确定第二个提示向量，之后可以基于第二个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。比如，在确定出第N+1个提示向量后，可以将第一向量与第N+1个提示向量融合后，输入至预训练模型中，以获取第N+1个提示向量对应的奖励值。
步骤202，响应于第N+1个提示向量对应的奖励值为m，其中，N为大于1的正整数，m为实数。
可以理解的是，每个提示向量都有对应的奖励值，不同的提示向量对应的奖励值，可能相同，或者也可能不同等等，本公开对此不做限定。
步骤203，获取与第N+1个提示向量相邻的前L个提示向量,其中，L为小于或等于N，且大于1的正整数。
举例来说，在N的取值为5的情况下，可以获取与第6个提示向量相邻的前L个提示向量，其中，L的取值可以为1、2、3、4、5等等，比如L的取值为3，那么可以获取第3个提示向量、第4个提示向量及第5个提示向量等等，本公开对此不做限定。
步骤204，将前L个提示向量进行融合，以获取融合后的向量。
其中，可以将前L个提示向量按照各个元素分别进行加和，所得向量即为融合后的向量；或者也可以将前L个提示向量进行拼接，所得向量即为融合后的向量等等，本公开对此不做限定。
举例来说，在N的取值为6、L的取值为3时，可以将第3个提示向量、第4个提示向量及第5个提示向量按照各个元素分别进行相加，所得向量即为融合后的向量；或者也可以将第3个提示向量、第4个提示向量及第5个提示向量进行拼接，所得向量即为融合后的向量等等，本公开对此不做限定。
可选的，也可以将前L个提示向量及第N+1个提示向量进行融合，以获取融合后的向量。
举例来说，在N的取值为6、L的取值为3时，可以将第3个提示向量、第4个提示向量、第5个提示向量及第6个提示向量，分别按照各个元素进行加和，所得向量即为融合后的向量；或者也可以将第3个提示向量、第4个提示向量、第5个提示向量及第6个提示向量进行拼接，所得向量即为融合后的向量等等，本公开对此不做限定。
需要说明的是，上述示例只是示意性说明，不能作为对本公开实施中获取融合后的向量的方式等的限定。
步骤205，基于奖励值m对融合后的向量进行修正，以生成第N+2个提示向量。
可选的，可以将融合后的向量中的各个元素分别与该奖励值m相加等等，以对融合后的向量进行修正，并将修正后的向量确定为第N+2个提示向量等等，本公开对此不做限定。
可选的，本公开实施例中，无需通过对文字进行映射，以得到提示向量，直接从向量空间中获取提示向量，可以使得向量表征更为全面与完整。
步骤206，基于第N+2个提示向量，返回执行上述获取奖励值的操作。
步骤207，记录候选提示向量序列，其中，候选提示向量序列中每相邻的两个候选提示向量对应的序号值间的差值为K，K为正整数。
可以理解的是，在确定出第一个提示向量、第二个提示向量、……、第N个提示向量之后，可以从这多个提示向量中，选取出候选提示向量。比如，一共有100个提示向量，在K取值为10的情况下，可以将第1个提示向量、第11个提示向量、第21个提示向量、第31个提示向量、第41个提示向量、第51个提示向量、第61个提示向量、第71个提示向量、第81个提示向量、第91个提示向量作为候选提示向量，以构成候选提示向量序列等等，本公开对此不做限定。
步骤208，将验证数据对应的第二向量与候选提示向量融合后，输入至预训练模型中，以确定验证数据对应的预测标签。
其中，第二向量，可以为验证数据对应的向量，在验证数据为文本数据的情况下，第二向量为文本数据对应的向量。
另外，第二向量与候选提示向量融合的方式，有多种。比如，可以将二者可以拼接融合，或者也可以采用其他方式融合等等，本公开对此不做限定。
步骤209，基于验证数据对应的预测标签与标注标签的差异，确定候选提示向量对应的奖励值。
可以理解的是，可以将第二向量与候选提示向量融合后，输入至预训练模型中，以经过预训练模型的处理，输出第二向量也即验证数据对应的预测标签，之后可以将该预测标签与该验证数据对应的标注标签进行匹配，以确定二者间的差异，之后可以根据该差异，确定出该候选提示向量对应的奖励值。
比如，可以利用损失函数，确定出预测标签与标注标签间的损失值，之后根据该损失值，确定出对应的奖励值。或者，也可以根据预测标签与标注标签间的差异，确定出准确率、综合评价指标等等，将其作为对应的奖励值，本公开对此不做限定。
步骤210，将最高奖励值对应的候选提示向量确定为目标提示向量。
举例来说，若候选提示向量1对应的奖励值为：2、候选提示向量2对应的奖励值为：10、候选提示向量3对应的奖励值为：-1，那么可以将“候选提示向量2”，确定为目标提示向量等等，本公开对此不做限定。
可选的，可以在最高奖励值为多个的情况下，将多个最高奖励值中最小序号值对应的候选提示向量，确定为目标提示向量。举例来说，若候选提示向量1对应的奖励值为：10、候选提示向量2对应的奖励值为：5、候选提示向量3对应的奖励值为：-1，候选提示向量4对应的奖励值为：10，其中，最高奖励值“10”有两个，候选提示向量1的序号为：12，候选提示向量4的序号为：48，那么可以将“候选提示向量1”，确定为目标提示向量等等，本公开对此不做限定。
可以理解的是，本公开提供的预训练模型提示向量的确定方法，可以适用于任意预训练模型提示向量的确定场景中，比如可以应用于文本分类、问答对的生成、文本理解等等，本公开对此不做限定。
本公开实施例，可以先将第一向量与第N+1个提示向量融合后，输入至预训练模型中，以获取第N+1个提示向量对应的奖励值，在第N+1个提示向量对应的奖励值为m的情况下，获取与第N+1个提示向量相邻的前L个提示向量，将前L个提示向量进行融合，以获取融合后的向量，基于奖励值m对融合后的向量进行修正，以生成第N+2个提示向量，之后可以基于第N+2个提示向量，返回执行上述获取奖励值的操作，之后可以记录候选提示向量序列，并将验证数据对应的第二向量与候选提示向量融合后，输入至预训练模型中，以确定验证数据对应的预测标签，之后可以基于验证数据对应的预测标签与标注标签的差异，确定候选提示向量对应的奖励值，并将最高奖励值对应的候选提示向量确定为目标提示向量。由此，通过将样本数据对应的第一向量及提示向量融合后，输入至预训练模型中，可以获取到对应的奖励值，之后可以先将相邻的前L个提示向量进行融合，再基于奖励值对融合后的向量进行修正，从而生成下一个提示向量，之后可以基于新确定出的提示向量，返回继续执行获取奖励值的操作，之后可以从候选提示向量序列中，确定出目标提示向量，也即通过前向推断，可以较为快速的确定出目标提示向量，涉及的数据量较少，从而节省了计算资源，同时也节省了确定目标提示向量的时间，提高了效率，为工业化部署提供了条件。
图3为本公开实施例提供的一种预训练模型提示向量的确定方法的流程示意图，如图3所示，该预训练模型提示向量的确定方法，可以包括以下步骤：
步骤301，获取与第N+1个提示向量相邻的前L个提示向量及前L个提示向量中每个提示向量对应的奖励值。
其中，L为小于或等于N，且大于1的正整数，N为大于1的正整数。
举例来说，在N的取值为5的情况下，可以获取与第6个提示向量相邻的前L个提示向量，其中，L的取值可以为1、2、3、4、5等等，比如L的取值为3，那么可以获取第3个提示向量及对应的奖励值m1、第4个提示向量及对应的奖励值m2、第5个提示向量及对应的奖励值m3等等，本公开对此不做限定。
步骤302，基于前L个提示向量中每个提示向量对应的奖励值，对每个提示向量进行修正，以获取修正后的L个提示向量。
其中，可以将每个提示向量中的各个元素分别与对应的奖励值相加等等，以对每个提示向量进行修正，从而生成修正后的
举例来说，在N的取值为6、L的取值为3时，可以将第3个提示向量中各个元素分别与奖励值m1相加；将第4个提示向量中各个元素分别与奖励值m2相加；将第5个提示向量中各个元素分别与奖励值m3相加；以得到修正后的3个提示向量等等，本公开对此不做限定。
可选的，可以根据前L个提示向量中每个提示向量对应的奖励值，确定每个提示向量对应的权重，之后可以基于每个提示向量对应的权重，对每个提示向量进行修正，以获取修正后的L个提示向量。
可以理解的是，奖励值越大，对应的提示向量的权重可能也越大；奖励值越小，对应的提示向量的权重可能也越小。从而，本公开实施例中，可以基于每个提示向量对应的奖励值，确定每个提示向量对应的权重。
另外，在确定出每个提示向量对应的权重之后，可以将每个提示向量与该提示向量对应的权重进行加和，以对每个提示向量进行修正。
举例来说，在N的取值为6、L的取值为3时，若第3个提示向量的奖励值为：10；将第4个提示向量的奖励值为：5；第5个提示向量的奖励值为5；那么第3个提示向量、第4个提示向量及第5个提示向量对应的权重可以分别为：0.5、0.25、0.25，之后可以基于各个提示向量对应的权重，对上述三个提示向量进行修正，从而获取修正后的3个提示向量。
需要说明的是，上述示例只是示意性说明，不能作为对本公开实施例中奖励值、权重以及修正后的L个提示向量等的限定。
步骤303，将修正后的L个提示向量进行融合，以生成第N+2个提示向量。
步骤304，将第一向量与第N+2个提示向量融合后，输入至预训练模型中，以获取第N+2个提示向量对应的奖励值。
其中，第一向量可以为样本数据对应的向量。
步骤305，基于第N+2个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。
可以理解的是，本公开提供的预训练模型提示向量的确定方法，可以适用于任意预训练模型提示向量的确定场景中，比如可以应用于文本分类、问答对的生成、文本理解等等，本公开对此不做限定。
下面以文本分类为例，结合图3A对本公开提供的预训练模型提示向量的确定过程进行说明。
首先，可以使用DDPG(deep deterministic policy gradient,深度确定性策略梯度算法)初始化生成第一个提示向量[P1…Pm]，之后可以将提示向量与文本数据[Tok 1 Tok2… Tok N]对应的第一向量[E1 E2… EN]进行融合后，输入至预训练模型(pretrainedlanguage model)中，以获取第一个提示向量对应的奖励值。比如，可以将第一个提示向量拼接到文本数据对应的第一向量的左侧，之后将其输入至预训练模型中。其中，还可以使用E[CLS]作为第一个提示向量与文本数据对应的第一向量融合后的向量，之后经过预训练模型的处理，比如可以通过一个线性分类器，对输入E[CLS]进行预测，之后可以将预测标签
Figure BDA0003644106250000081
文本数据对应的标注标签y进行匹配，比如可以通过交叉熵确定出
Figure BDA0003644106250000082
并将其作为奖励值reward。之后可以利用智能体agent，对奖励值进行解析处理，以输出相应的动作action，也即生成第二个提示向量，之后可以基于第二个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。
其中，在返回执行上述获取奖励值的操作过程中，可能有多种情况。
下面以N的取值为5为例，对获取奖励值的操作进行简单说明。
举例来说，在N的取值为5、L的取值为4的情况下，可以先获取与第6个提示向量相邻的前4个提示向量及分别对应的奖励值，也即第2个提示向量对应的奖励值、第3个提示向量对应的奖励值、第4个提示向量对应的奖励值及第5个提示向量对应的奖励值，之后可以基于这4个提示向量中分别对应的奖励值，对这4个提示向量分别进行修正，以获取修正后的4个提示向量，之后可以将修正后的4个提示向量进行融合，以生成第7个提示向量。之后可以基于第7个提示向量，返回执行上述获取奖励值的操作，直至确定出目标提示向量。可选的，本公开实施例中，在确定样本数据对应的目标提示向量的过程中，可以采用试错算法，对提示向量进行优化；或者也可以使用其任何可取的算法，对提示向量进行优化等等，本公开对此不做限定。
需要说明的是，上述示例只是示意性说明，不能作为对本公开实施例中确定目标提示向量的方式等的限定。
本公开实施例，可以先获取与第N+1个提示向量相邻的前L个提示向量及前L个提示向量中每个提示向量对应的奖励值,之后可以基于前L个提示向量中每个提示向量对应的奖励值，对每个提示向量进行修正，以获取修正后的L个提示向量，之后可以将修正后的L个提示向量进行融合，以生成第N+2个提示向量，之后可以将第一向量与第N+2个提示向量融合后，输入至预训练模型中，以获取第N+2个提示向量对应的奖励值，之后可以基于第N+2个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。由此，可以基于奖励值，对每个提示向量进行修正并融合，以生成下一个提示向量，之后可以将第一向量与新生成的提示向量融合后，输入至预训练模型中，以获取对应的奖励值，之后可以返回重复操作，直至确定出目标提示向量，也即通过前向推断，可以较为快速的确定出目标提示向量，涉及的数据量较少，从而节省了计算资源，同时也节省了确定目标提示向量的时间，提高了效率，为工业化部署提供了条件。
为了实现上述实施例，本公开还提出一种预训练模型提示向量的确定装置。
图4为本公开实施例提供的一种预训练模型提示向量的确定装置的结构示意图。
如图4所示，该预训练模型提示向量的确定装置400，包括：获取模块410、输入模块420、修正模块430及确定模块440。
其中，获取模块410，用于获取第一个提示向量及样本数据对应的第一向量。
输入模块420，用于将所述第一向量与所述第一个提示向量融合后，输入至预训练模型中，以获取所述第一个提示向量对应的奖励值。
修正模块430，用于基于所述奖励值，对所述第一个提示向量进行修正，以确定第二个提示向量。
确定模块440，用于基于所述第二个提示向量，返回执行上述获取奖励值的操作，直至确定所述样本数据对应的目标提示向量。
可选的，所述确定模块440，具体用于：
响应于第N+1个提示向量对应的奖励值为m，其中，N为大于1的正整数，m为实数；
获取与所述第N+1个提示向量相邻的前L个提示向量,其中，L为小于或等于N，且大于1的正整数；
将所述前L个提示向量进行融合，以获取融合后的向量；
基于所述奖励值m对所述融合后的向量进行修正，以生成第N+2个提示向量。
可选的，所述确定模块440，包括：
获取单元，用于获取与第N+1个提示向量相邻的前L个提示向量及所述前L个提示向量中每个提示向量对应的奖励值,其中，L为小于或等于N，且大于1的正整数，N为大于1的正整数；
修正单元，用于基于前L个提示向量中每个所述提示向量对应的奖励值，对每个所述提示向量进行修正，以获取修正后的L个提示向量；
生成单元，用于将所述修正后的L个提示向量进行融合，以生成第N+2个提示向量。
可选的，所述修正单元，具体用于：
根据前L个提示向量中每个提示向量对应的奖励值，确定每个所述提示向量对应的权重；
基于每个所述提示向量对应的权重，对每个所述提示向量进行修正，以获取修正后的L个提示向量。
可选的，所述确定模块440，具体用于：
记录候选提示向量序列，其中，所述候选提示向量序列中每相邻的两个候选提示向量对应的序号值间的差值为K，K为正整数；
将验证数据对应的第二向量与候选提示向量融合后，输入至所述预训练模型中，以确定所述验证数据对应的预测标签；
基于所述验证数据对应的预测标签与标注标签的差异，确定所述候选提示向量对应的奖励值；
将最高奖励值对应的候选提示向量确定为目标提示向量。
可选的，所述确定模块440，还用于：
在最高奖励值为多个的情况下，将所述多个最高奖励值中最小序号值对应的候选提示向量，确定为目标提示向量。
本公开实施例中的上述各模块的功能及具体实现原理，可参照上述各方法实施例，此处不再赘述。
本公开实施例的预训练模型提示向量的确定装置，可以先获取第一个提示向量及样本数据对应的第一向量，之后可以将第一向量与第一个提示向量融合后，输入至预训练模型中，以获取第一个提示向量对应的奖励值，再基于奖励值，对第一个提示向量进行修正，以确定第二个提示向量，之后可以基于第二个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。由此，通过将样本数据对应的第一向量及提示向量融合后，输入至预训练模型中，可以获取对应的奖励值，之后基于奖励值对提示向量进行修正，可以确定出下一个提示向量，之后可以基于新确定出的提示向量，返回继续执行获取奖励值的操作，直至确定出目标提示向量，也即通过前向推断，可以较为快速的确定出目标提示向量，涉及的数据量较少，从而节省了计算资源，同时也节省了确定目标提示向量的时间，提高了效率，为工业化部署提供了条件。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图5所示，设备500包括计算单元501，其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序，来执行各种适当的动作和处理。在RAM 503中，还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理，例如预训练模型提示向量的确定方法。例如，在一些实施例中，预训练模型提示向量的确定方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时，可以执行上文描述的预训练模型提示向量的确定方法的一个或多个步骤。备选地，在其他实施例中，计算单元501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行预训练模型提示向量的确定方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("Virtual Private Server"，或简称"VPS")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
本公开的技术方案，可以先获取第一个提示向量及样本数据对应的第一向量，之后可以将第一向量与第一个提示向量融合后，输入至预训练模型中，以获取第一个提示向量对应的奖励值，再基于奖励值，对第一个提示向量进行修正，以确定第二个提示向量，之后可以基于第二个提示向量，返回执行上述获取奖励值的操作，直至确定样本数据对应的目标提示向量。由此，通过将样本数据对应的第一向量及提示向量融合后，输入至预训练模型中，可以获取对应的奖励值，之后基于奖励值对提示向量进行修正，可以确定出下一个提示向量，之后可以基于新确定出的提示向量，返回继续执行获取奖励值的操作，直至确定出目标提示向量，也即通过前向推断，可以较为快速的确定出目标提示向量，涉及的数据量较少，从而节省了计算资源，同时也节省了确定目标提示向量的时间，提高了效率，为工业化部署提供了条件。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (15)

1.一种预训练模型提示向量的确定方法，其中，包括：
获取第一个提示向量及样本数据对应的第一向量；
将所述第一向量与所述第一个提示向量融合后，输入至预训练模型中，以获取所述第一个提示向量对应的奖励值；
基于所述奖励值，对所述第一个提示向量进行修正，以确定第二个提示向量；
基于所述第二个提示向量，返回执行上述获取奖励值的操作，直至确定所述样本数据对应的目标提示向量。
2.如权利要求1所述的方法，其中，所述返回执行上述获取奖励值的操作，包括：
响应于第N+1个提示向量对应的奖励值为m，其中，N为大于1的正整数，m为实数；
获取与所述第N+1个提示向量相邻的前L个提示向量,其中，L为小于或等于N，且大于1的正整数；
将所述前L个提示向量进行融合，以获取融合后的向量；
基于所述奖励值m对所述融合后的向量进行修正，以生成第N+2个提示向量。
3.如权利要求1所述的方法，其中，所述返回执行上述获取奖励值的操作，包括：
获取与第N+1个提示向量相邻的前L个提示向量及所述前L个提示向量中每个提示向量对应的奖励值,其中，L为小于或等于N，且大于1的正整数，N为大于1的正整数；
基于前L个提示向量中每个所述提示向量对应的奖励值，对每个所述提示向量进行修正，以获取修正后的L个提示向量；
将所述修正后的L个提示向量进行融合，以生成第N+2个提示向量。
4.如权利要求3所述的方法，其中，所述基于前L个提示向量中每个所述提示向量对应的奖励值，对每个所述提示向量进行修正，以获取修正后的L个提示向量，包括：
根据前L个提示向量中每个提示向量对应的奖励值，确定每个所述提示向量对应的权重；
基于每个所述提示向量对应的权重，对每个所述提示向量进行修正，以获取修正后的L个提示向量。
5.如权利要求1-4中任一所述的方法，其中，所述基于所述第二个提示向量，返回执行上述获取奖励值的操作，直至确定所述样本数据对应的目标提示向量，包括：
记录候选提示向量序列，其中，所述候选提示向量序列中每相邻的两个候选提示向量对应的序号值间的差值为K，K为正整数；
将验证数据对应的第二向量与候选提示向量融合后，输入至所述预训练模型中，以确定所述验证数据对应的预测标签；
基于所述验证数据对应的预测标签与标注标签的差异，确定所述候选提示向量对应的奖励值；
将最高奖励值对应的候选提示向量确定为目标提示向量。
6.如权利要求5所述的方法，其中，在所述基于所述验证数据对应的预测标签与标注标签的差异，确定所述候选提示向量对应的奖励值之后，还包括：
在最高奖励值为多个的情况下，将所述多个最高奖励值中最小序号值对应的候选提示向量，确定为目标提示向量。
7.一种预训练模型提示向量的确定装置，其中，所述装置包括：
获取模块，用于获取第一个提示向量及样本数据对应的第一向量；
输入模块，用于将所述第一向量与所述第一个提示向量融合后，输入至预训练模型中，以获取所述第一个提示向量对应的奖励值；
修正模块，用于基于所述奖励值，对所述第一个提示向量进行修正，以确定第二个提示向量；
确定模块，用于基于所述第二个提示向量，返回执行上述获取奖励值的操作，直至确定所述样本数据对应的目标提示向量。
8.如权利要求7所述的装置，其中，所述确定模块，具体用于：
响应于第N+1个提示向量对应的奖励值为m，其中，N为大于1的正整数，m为实数；
获取与所述第N+1个提示向量相邻的前L个提示向量,其中，L为小于或等于N，且大于1的正整数；
将所述前L个提示向量进行融合，以获取融合后的向量；
基于所述奖励值m对所述融合后的向量进行修正，以生成第N+2个提示向量。
9.如权利要求7所述的装置，其中，所述确定模块，包括：
获取单元，用于获取与第N+1个提示向量相邻的前L个提示向量及所述前L个提示向量中每个提示向量对应的奖励值,其中，L为小于或等于N，且大于1的正整数，N为大于1的正整数；
修正单元，用于基于前L个提示向量中每个所述提示向量对应的奖励值，对每个所述提示向量进行修正，以获取修正后的L个提示向量；
生成单元，用于将所述修正后的L个提示向量进行融合，以生成第N+2个提示向量。
10.如权利要求9所述的装置，其中，所述修正单元，具体用于：
根据前L个提示向量中每个提示向量对应的奖励值，确定每个所述提示向量对应的权重；
基于每个所述提示向量对应的权重，对每个所述提示向量进行修正，以获取修正后的L个提示向量。
11.如权利要求7-10中任一所述的装置，其中，所述确定模块，具体用于：
记录候选提示向量序列，其中，所述候选提示向量序列中每相邻的两个候选提示向量对应的序号值间的差值为K，K为正整数；
将验证数据对应的第二向量与候选提示向量融合后，输入至所述预训练模型中，以确定所述验证数据对应的预测标签；
基于所述验证数据对应的预测标签与标注标签的差异，确定所述候选提示向量对应的奖励值；
将最高奖励值对应的候选提示向量确定为目标提示向量。
12.如权利要求11所述的装置，其中，所述确定模块，还用于：
在最高奖励值为多个的情况下，将所述多个最高奖励值中最小序号值对应的候选提示向量，确定为目标提示向量。
13.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
15.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的方法。
CN202210524331.XA 2022-05-14 2022-05-14 预训练模型提示向量的确定方法、装置及电子设备 Active CN114792097B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210524331.XA CN114792097B (zh) 2022-05-14 2022-05-14 预训练模型提示向量的确定方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210524331.XA CN114792097B (zh) 2022-05-14 2022-05-14 预训练模型提示向量的确定方法、装置及电子设备

Publications (2)

Publication Number Publication Date
CN114792097A true CN114792097A (zh) 2022-07-26
CN114792097B CN114792097B (zh) 2022-12-06

Family

ID=82463228

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210524331.XA Active CN114792097B (zh) 2022-05-14 2022-05-14 预训练模型提示向量的确定方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN114792097B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116186534A (zh) * 2022-12-23 2023-05-30 北京百度网讯科技有限公司 预训练模型的更新方法、装置及电子设备

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108509410A (zh) * 2017-02-27 2018-09-07 广东神马搜索科技有限公司 文本语义相似度计算方法、装置及用户终端
CN109032375A (zh) * 2018-06-29 2018-12-18 北京百度网讯科技有限公司 候选文本排序方法、装置、设备及存储介质
CN109034203A (zh) * 2018-06-29 2018-12-18 北京百度网讯科技有限公司 表情推荐模型的训练、表情推荐方法、装置、设备及介质
CN110414004A (zh) * 2019-07-31 2019-11-05 阿里巴巴集团控股有限公司 一种核心信息提取的方法和系统
CN110489555A (zh) * 2019-08-21 2019-11-22 创新工场(广州)人工智能研究有限公司 一种结合类词信息的语言模型预训练方法
CN111079442A (zh) * 2019-12-20 2020-04-28 北京百度网讯科技有限公司 文档的向量化表示方法、装置和计算机设备
CN111274787A (zh) * 2020-02-21 2020-06-12 支付宝(杭州)信息技术有限公司 一种用户意图预测方法和系统
CN111414538A (zh) * 2020-03-19 2020-07-14 腾讯科技（北京）有限公司 基于人工智能的文本推荐方法、装置及电子设备
CN113051869A (zh) * 2021-05-24 2021-06-29 杭州有数金融信息服务有限公司 一种结合语义识别实现标识文本差异内容的方法及系统
CN113535902A (zh) * 2021-07-13 2021-10-22 辽宁工程技术大学 一种融合对抗训练的生成式对话系统
CN113553824A (zh) * 2021-07-07 2021-10-26 临沂中科好孕智能技术有限公司 一种句子向量模型训练方法
CN113987209A (zh) * 2021-11-04 2022-01-28 浙江大学 基于知识指导前缀微调的自然语言处理方法、装置、计算设备和存储介质
US20220084681A1 (en) * 2020-09-15 2022-03-17 Vuno Inc. Method and apparatus for predicting medical event from electronic medical record using pre_trained artficial neural network
CN114218379A (zh) * 2021-11-23 2022-03-22 中国人民解放军国防科技大学 一种面向智能问答系统的无法回答问题的归因方法
CN114416991A (zh) * 2022-01-18 2022-04-29 中山大学 一种基于prompt的文本情感原因分析方法和系统

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108509410A (zh) * 2017-02-27 2018-09-07 广东神马搜索科技有限公司 文本语义相似度计算方法、装置及用户终端
CN109032375A (zh) * 2018-06-29 2018-12-18 北京百度网讯科技有限公司 候选文本排序方法、装置、设备及存储介质
CN109034203A (zh) * 2018-06-29 2018-12-18 北京百度网讯科技有限公司 表情推荐模型的训练、表情推荐方法、装置、设备及介质
CN110414004A (zh) * 2019-07-31 2019-11-05 阿里巴巴集团控股有限公司 一种核心信息提取的方法和系统
CN110489555A (zh) * 2019-08-21 2019-11-22 创新工场(广州)人工智能研究有限公司 一种结合类词信息的语言模型预训练方法
CN111079442A (zh) * 2019-12-20 2020-04-28 北京百度网讯科技有限公司 文档的向量化表示方法、装置和计算机设备
CN111274787A (zh) * 2020-02-21 2020-06-12 支付宝(杭州)信息技术有限公司 一种用户意图预测方法和系统
CN111414538A (zh) * 2020-03-19 2020-07-14 腾讯科技（北京）有限公司 基于人工智能的文本推荐方法、装置及电子设备
US20220084681A1 (en) * 2020-09-15 2022-03-17 Vuno Inc. Method and apparatus for predicting medical event from electronic medical record using pre_trained artficial neural network
CN113051869A (zh) * 2021-05-24 2021-06-29 杭州有数金融信息服务有限公司 一种结合语义识别实现标识文本差异内容的方法及系统
CN113553824A (zh) * 2021-07-07 2021-10-26 临沂中科好孕智能技术有限公司 一种句子向量模型训练方法
CN113535902A (zh) * 2021-07-13 2021-10-22 辽宁工程技术大学 一种融合对抗训练的生成式对话系统
CN113987209A (zh) * 2021-11-04 2022-01-28 浙江大学 基于知识指导前缀微调的自然语言处理方法、装置、计算设备和存储介质
CN114218379A (zh) * 2021-11-23 2022-03-22 中国人民解放军国防科技大学 一种面向智能问答系统的无法回答问题的归因方法
CN114416991A (zh) * 2022-01-18 2022-04-29 中山大学 一种基于prompt的文本情感原因分析方法和系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
KHALID ALBULAYHI.ETC: ""An Adaptive Deep-Ensemble Anomaly-Based Intrusion Detection System for the Internet of Things"", 《2021 IEEE WORLD AI IOT CONGRESS (AIIOT)》 *
于尊瑞等: ""基于预训练语言模型的关键词感知问题生成"", 《计算机工程》 *
王海峰等: ""知识增强预训练模型"", 《中兴通讯技术》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116186534A (zh) * 2022-12-23 2023-05-30 北京百度网讯科技有限公司 预训练模型的更新方法、装置及电子设备
CN116186534B (zh) * 2022-12-23 2024-02-23 北京百度网讯科技有限公司 预训练模型的更新方法、装置及电子设备

Also Published As

Publication number Publication date
CN114792097B (zh) 2022-12-06

Similar Documents

Publication Publication Date Title
CN113705187B (zh) 预训练语言模型的生成方法、装置、电子设备和存储介质
CN112560496B (zh) 语义分析模型的训练方法、装置、电子设备及存储介质
CN109582956B (zh) 应用于句子嵌入的文本表示方法和装置
JP2022177220A (ja) テキスト認識モデルの訓練方法、テキスト認識方法及び装置
CN112541122A (zh) 推荐模型的训练方法、装置、电子设备及存储介质
CN115035538A (zh) 文本识别模型的训练方法、文本识别方法及装置
CN113435208B (zh) 学生模型的训练方法、装置及电子设备
CN114820871B (zh) 字体生成方法、模型的训练方法、装置、设备和介质
CN116152833B (zh) 基于图像的表格还原模型的训练方法及表格还原方法
CN112580733A (zh) 分类模型的训练方法、装置、设备以及存储介质
CN112740200A (zh) 用于基于共指消解的端到端深度强化学习的系统和方法
CN114792097B (zh) 预训练模型提示向量的确定方法、装置及电子设备
CN111241843B (zh) 基于复合神经网络的语义关系推断系统和方法
CN112507705B (zh) 一种位置编码的生成方法、装置及电子设备
CN114037052A (zh) 检测模型的训练方法、装置、电子设备及存储介质
CN116186534B (zh) 预训练模型的更新方法、装置及电子设备
CN112948584A (zh) 短文本分类方法、装置、设备以及存储介质
CN114970666B (zh) 一种口语处理方法、装置、电子设备及存储介质
CN113361621B (zh) 用于训练模型的方法和装置
CN115510860A (zh) 一种文本情感分析方法、装置、电子设备及存储介质
CN115577106A (zh) 基于人工智能的文本分类方法、装置、设备和介质
CN114817476A (zh) 语言模型的训练方法、装置、电子设备和存储介质
CN113033213A (zh) 使用注意力模型分析文本信息的方法及装置、电子设备
CN115840867A (zh) 数学解题模型的生成方法、装置、电子设备和存储介质
CN113204616A (zh) 文本抽取模型的训练与文本抽取的方法、装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant