CN115168577A - 模型更新方法、装置、电子设备及存储介质 - Google Patents

Abstract

本公开提供了模型更新方法、装置、电子设备及存储介质，涉及深度学习以及自然语言处理等人工智能领域，其中的方法可包括：针对评估数据集中的待处理数据，分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据所述处理结果比对待优化模型以及工具的处理效果优劣，所述待处理数据属于至少两个不同的类别；根据比对结果确定出待优化类别以及对应的优势工具，所述待优化类别为工具的处理效果优于待优化模型的类别，所述优势工具为处理效果优于待优化模型的工具；基于对应的优势工具生成待优化类别的训练数据；利用所述训练数据对待优化模型进行更新。应用本公开所述方案，可提升模型性能。

Description

模型更新方法、装置、电子设备及存储介质

技术领域

本公开涉及人工智能技术领域，特别涉及深度学习以及自然语言处理等领域的模型更新方法、装置、电子设备及存储介质。

背景技术

目前，通过训练得到的深度学习模型在各种场景下得到了广泛应用。比如，在搜索场景下，可使用到语义检索模型以及语义匹配模型，其中，语义检索模型可用于从海量内容中召回候选结果，语义匹配模型可用于对召回的候选结果进行排序。但上述模型的性能均有待提升。

发明内容

本公开提供了模型更新方法、装置、电子设备及存储介质。

一种模型更新方法，包括：

针对评估数据集中的待处理数据，分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据所述处理结果比对所述待优化模型以及所述工具的处理效果优劣，所述待处理数据属于至少两个不同的类别；

根据比对结果确定出待优化类别以及对应的优势工具，所述待优化类别为工具的处理效果优于所述待优化模型的类别，所述优势工具为处理效果优于所述待优化模型的工具；

基于对应的优势工具生成所述待优化类别的训练数据；

利用所述训练数据对所述待优化模型进行更新。

一种模型更新装置，包括：效果比对模块、信息确定模块、样本生成模块以及模型更新模块；

所述效果比对模块，用于针对评估数据集中的待处理数据，分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据所述处理结果比对所述待优化模型以及所述工具的处理效果优劣，所述待处理数据属于至少两个不同的类别；

所述信息确定模块，用于根据比对结果确定出待优化类别以及对应的优势工具，所述待优化类别为工具的处理效果优于所述待优化模型的类别，所述优势工具为处理效果优于所述待优化模型的工具；

所述样本生成模块，用于基于对应的优势工具生成所述待优化类别的训练数据；

所述模型更新模块，用于利用所述训练数据对所述待优化模型进行更新。

一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如以上所述的方法。

一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行如以上所述的方法。

一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现如以上所述的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1为本公开所述模型更新方法实施例的流程图；

图2为本公开所述模型更新方法的整体实现过程示意图；

图3为本公开所述模型更新装置实施例300的组成结构示意图；

图4示出了可以用来实施本公开的实施例的电子设备400的示意性框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

另外，应理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

图1为本公开所述模型更新方法实施例的流程图。如图1所示，包括以下具体实现方式。

在步骤101中，针对评估数据集中的待处理数据，分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据处理结果比对待优化模型以及工具的处理效果优劣，所述待处理数据属于至少两个不同的类别。

在步骤102中，根据比对结果确定出待优化类别以及对应的优势工具，待优化类别为工具的处理效果优于待优化模型的类别，优势工具为处理效果优于待优化模型的工具。

在步骤103中，基于对应的优势工具生成待优化类别的训练数据。

在步骤104中，利用生成的训练数据对待优化模型进行更新。

采用上述方法实施例所述方案，可借助于工具集中的工具，确定出待优化模型存在的问题，即待优化类别，并可相应地生成待优化类别的训练数据，进而可根据生成的训练数据对待优化模型进行更新，即提出了一种数据驱动的指向性模型优化方式，可定向解决待优化模型存在的问题，进而提升了模型性能。

上述方法实施例所述方案可应用于深度学习以及自然语言处理等人工智能领域。具体地，如可应用于搜索场景，相应地，所述待优化模型可为语义匹配模型，所述待处理数据可为用户输入的查询(query)，所述处理结果可为对基于query召回的候选结果进行排序后的结果，所述不同的类别即指不同的query类别，如可分为问题类、关键词查询类、寻求网址类以及音视频播放类等类别，或者，也可分为游戏类、汽车类、生活常识类和医疗类等类别，如何划分不同类别可根据实际需要而定。针对评估数据集中的query，如文本形式的query，可分别利用语义匹配模型以及工具集中的工具获取对应的处理结果，并可根据处理结果比对语义匹配模型以及工具的处理效果优劣，进而可根据比对结果确定出待优化类别以及对应的优势工具，进一步地，可基于对应的优势工具生成待优化类别的训练数据，并可利用生成的训练数据对语义匹配模型进行更新。在按照上述方式得到优化后的语义匹配模型后，可将其进行实际应用，即针对用户输入的query，可得到召回的候选结果，并可利用优化后的语义匹配模型对召回的候选结果进行排序，相应地，可提升排序结果的准确性。

本公开的一个实施例中，工具集中可包括以下类型的工具之一或任意组合：待优化模型的历史版本模型，待优化模型的同类模型，待优化模型的同类系统，词法工具，句法工具，知识库，所述同类表示具有相同功能。

在实际应用中，可按照“博采众长”的思想，将尽可能多的工具加入到工具集中，相应地，工具集中可包括上述全部内容，以提升后续构建出的训练数据的数量及类型等，从而提升模型的优化效果。

其中，以待优化模型为语义匹配模型为例，待优化模型的历史版本模型即指历史上得到的各版本的语义匹配模型。相比于待优化模型，历史版本模型的整体能力虽然差一些，但在某个或某些类别上，历史版本模型可能会有更好的表现。因此，可以将待优化模型的所有历史版本模型均加入到工具集中。

另外，假设待优化模型为基于某种规则的语义匹配模型，那么同类模型可为基于其它规则的语义匹配模型，另外，可将各种搜索引擎作为待优化模型的同类系统。

再有，假设某一待处理数据为用户输入的query“**(某一城市名称)的平均房价是多少”，可以利用词法工具确定出query中的关键词之一是“**”，相应地，可基于以下原则对召回的候选结果进行排序：如果候选结果中未出现“**”，则大概率是不太相关的答案，排序应该比较靠后。句法工具和知识库等也能够实现类似的功能。

本公开的一个实施例中，评估数据集中还可包括：各待处理数据分别对应的正确的处理结果。

比如，在搜索场景下，待处理数据为用户输入的query，对应的处理结果可为针对基于query召回的各候选结果的正确排序顺序。

如何生成评估数据集不作限制，评估数据集中具体包括多少条待处理数据也不作限制，可根据实际需要而定。另外，评估数据集中的待处理数据需要属于至少两个不同的类别，所述至少两个不同的类别分别为何种类别同样可根据实际需要而定，比如，待处理数据为用户输入的query，那么某一类别可为query中包括生僻字。

另外，假设评估数据集中包括100(仅为举例说明，实际可能远大于此)条待处理数据，可分别属于10个不同的类别，每个类别中可分别包括10条待处理数据。

针对评估数据集中的待处理数据，可比对待优化模型以及工具集中的工具的处理效果优劣。

其中，对于工具集中的任一工具来说，可能为可独立运行的工具，也可能为不可独立运行的工具，相应地，在比对待优化模型以及工具的处理效果优劣时，可采用不同的处理方式，以下分别进行介绍。

1)可独立运行的工具

本公开的一个实施例中，可利用待优化模型获取评估数据集中的各待处理数据对应的第一处理结果，并且，针对工具集中的任一可独立运行的工具，可分别进行以下处理：利用工具获取评估数据集中的各待处理数据对应的第二处理结果，基于所述正确的处理结果、第一处理结果以及第二处理结果，确定出待优化模型与工具针对不同类别的处理效果优劣。

以待优化模型为语义匹配模型为例，工具集中的大多数工具均为可独立运行的工具，如历史版本模型、同类模型和词法工具等，可独立运行的工具即指可直接利用工具对评估数据集中的各待处理数据对应的候选结果进行排序的工具。反之，对于某一搜索引擎，无法直接利用该工具对评估数据集中的各待处理数据对应的候选结果进行排序，那么该工具则为不可独立运行的工具。

相应地，利用待优化模型获取评估数据集中的各待处理数据对应的第一处理结果，即可指利用待优化模型对评估数据集中的各待处理数据对应的候选结果进行排序，得到的排序结果即为第一处理结果，类似地，利用工具获取评估数据集中的各待处理数据对应的第二处理结果，即可指利用工具对评估数据集中的各待处理数据对应的候选结果进行排序，得到的排序结果即为第二处理结果。

通过上述处理，可结合正确的处理结果以及待优化模型和工具分别对应的处理结果，高效准确地确定出待优化模型与工具的处理效果优劣。

具体地，本公开的一个实施例中，针对任一类别，可分别基于评估数据集中属于该类别的待处理数据对应的正确的处理结果、第一处理结果以及第二处理结果，确定出待优化模型与工具的处理效果优劣，相应地，响应于确定工具的处理效果优于待优化模型，可将该类别作为待优化类别，并可将工具作为优势工具。

比如，对于类别a，假设其中包括10条待处理数据，为便于表述，分别称为待处理数据1～待处理数据10，那么可通过与正确的处理结果进行比较，确定出待处理数据1～待处理数据10分别对应的第一处理结果中正确的第一处理结果的数量，并可确定出待处理数据1～待处理数据10分别对应的第二处理结果(假设为利用工具b得到的)中正确的第二处理结果的数量，并可分别获取各自的正确率，作为待优化模型以及工具b的评价指标，若确定工具b的评价指标优于待优化模型的评价指标，则可确定工具b的处理效果优于待优化模型，反之，可确定待优化模型的处理效果优于工具b。

需要说明的是，以上得到评价指标的方式仅为举例说明，并不用于限制本公开的技术方案，具体如何设定评价指标可根据实际需要而定。

通过上述处理，可针对不同的类别，分别确定出待优化模型与工具的处理效果优劣，并可相应地确定出待优化类别以及对应的优势工具，进而为后续处理奠定了良好的基础。

2)不可独立运行的工具

针对工具集中的任一不可独立运行的工具，可分别进行以下处理：利用工具获取评估数据集中的各待处理数据对应的第三处理结果，并针对任一待处理数据，分别利用待优化模型对其第三处理结果进行正确与否的验证，响应于确定验证结果为不正确，获取人工判定结果，根据人工判定结果确定出待优化模型与工具针对该待处理数据的处理效果优劣。

以待优化模型为语义匹配模型、待处理数据为用户输入的query为例，对于搜索引擎等工具，无法直接利用这类工具对评估数据集中的各待处理数据对应的候选结果进行排序，那么这类工具则为不可独立运行的工具，相应地，只能反向操作。

具体地，对于评估数据集中的任一query，可将其输入到搜索引擎中，从而得到搜索引擎给出的检索结果，即召回的各候选结果及各候选结果的排序顺序，即上述的第三处理结果，之后可利用待优化模型分别对各待处理数据对应的第三处理结果进行正确与否的验证，如针对每个第三处理结果，可分别利用待优化模型对各候选结果进行重新排序，并可比较重新排序结果与第三处理结果是否一致，若不一致，则可确定验证结果为不正确，相应地，可获取人工判定结果，即由相关人员来判定哪种排序结果更为准确，进而可根据人工判定结果确定出待优化模型与工具针对各待处理数据的处理效果优劣。

本公开的一个实施例中，针对任一待处理数据，根据人工判定结果确定出待优化模型与工具针对该待处理数据的处理效果优劣可包括：响应于人工判定结果为该待处理数据对应的第三处理结果正确，确定工具的处理效果优于待优化模型，否则，确定待优化模型的处理效果优于工具，相应地，针对任一类别，响应于确定评估数据集中属于该类别的待处理数据中、工具的处理效果优于待优化模型的待处理数据的数量大于待优化模型的处理效果优于工具的待处理数据的数量，将该类别作为待优化类别，并将工具作为优势工具。

假设类别b中包括10条待处理数据，其中5条待处理数据为工具(假设为工具c)的处理效果优于待优化模型的处理效果，2条待处理数据为待优化模型的处理效果优于工具的处理效果，剩余3条待处理数据待优化模型和工具的处理效果相同，那么则可将类别b作为待优化类别，并可将工具c作为优势工具。

通过上述介绍可以看出，无论是可独立运行的工具，还是不可独立运行的工具，本公开所述方案均可适用，即具有普遍适用性。

待优化类别即指存在问题的类别，之后，可通过数据驱动的方式解决问题。即可基于对应的优势工具生成待优化类别的训练数据，并可利用生成的训练数据对待优化模型进行更新。

本公开的一个实施例中，针对任一待优化类别，可分别进行以下处理：从数据库中获取属于待优化类别的待处理数据，响应于待优化类别对应的优势工具的数量为一，根据获取到的待处理数据，基于优势工具生成待优化类别的训练数据，响应于待优化类别对应的优势工具的数量大于一，根据获取到的待处理数据，分别基于各优势工具生成待优化类别的训练数据。

假设工具集中共存在3个工具，分别为工具a、工具b和工具c，另外，假设评估数据集中的待处理数据分别属于10个不同的类别，分别为类别1～类别10，其中，相比于待优化模型，工具a在类别3～类别5上处理效果更优，工具b在类别4～类别6上处理效果更优，工具c在类别5～类别7上处理效果更优，那么，类别3、类别4、类别5、类别6和类别7均为待优化类别，另外，对于类别3来说，其对应的优势工具的数量为一，即工具a，相应地，可基于工具a生成类别3的训练数据，对于类别5来说，其对应的优势工具的数量大于一，包括工具a、工具b和工具c，相应地，可基于工具a生成类别5的训练数据、基于工具b生成类别5的训练数据以及基于工具c生成类别5的训练数据，其它不再赘述。

如何从数据库中获取待优化类别的待处理数据不作限制，比如，可从数据库中属于待优化类别的query中随机抽取出部分query，如待优化类别为query中包括生僻字，那么可从相应类别的query中随机抽取出部分query，抽取出的query中均包括生僻字。

通过上述处理，可得到基于不同优势工具生成的训练数据，从而丰富了训练数据的内容，提升了模型的优化效果。

在实际应用中，可能存在各工具的优势集中在某个或某些类别上的情况，如上述类别5，相应地，相比于其它类别，类别5对应的训练数据就会很多，为了避免出现不同类别对应的训练数据的数量比例差异巨大的问题，在利用生成的训练数据对待优化模型进行更新之前，还可对生成的各类别对应的训练数据进行去重或采样等处理，以使得不同类别的训练数据在整个训练数据集中的比例比较均衡，进而进一步提升模型的优化效果等。

本公开的一个实施例中，针对任一优势工具，在基于优势工具生成待优化类别的训练数据时，可针对获取到的各待处理数据，利用优势工具获取对应的第四处理结果，并可利用待优化模型获取对应的第五处理结果，之后可从获取到的各待处理数据中选出符合以下要求的待处理数据：第四处理结果与第五处理结果不一致，进而可基于选出的待处理数据生成训练数据。

比如，对于获取到的各query，可分别获取其对应的候选结果，如何获取不作限制，之后，可分别利用优势工具以及待优化模型对各query对应的候选结果进行排序，从而分别得到各query对应的第四处理结果以及第五处理结果，若任一query对应的第四处理结果和第五处理结果不一致，则可将该query作为选出的待处理数据，进而可根据选出的待处理数据生成所需的训练数据。

通过上述处理，可精准有效地筛选出所需的待处理数据，而且，实验证明，仅需利用较少的待处理数据来生成训练数据，即可达到较好的模型优化效果。

本公开的一个实施例中，在基于选出的待处理数据生成训练数据时，可结合选出的待处理数据以及针对选出的待处理数据的第四处理结果和/或第五处理结果的人工标注结果，生成训练数据。

比如，对于选出的一条待处理数据，可人工对其对应的第四处理结果和第五处理结果进行判定，若确定第四处理结果正确而第五处理结果不正确，则可利用该待处理数据以及第四处理结果生成一条训练数据，标签为1，即该条训练数据为正样本，并可利用该待处理数据以及第五处理结果生成一条训练数据，标签为0，即该条训练数据为负样本，或者，若确定第四处理结果和第五处理结果均不正确，那么可对其中的一个处理结果进行手动修改，从而得到一个正样本，并可根据未修改的处理结果生成一个负样本等。

借助于人工标注，可提升生成的训练数据的准确性，进而可提升模型的优化效率和优化效果等。

本公开的一个实施例中，除如上所述，利用优势工具生成待优化类别的训练数据外，还可根据获取到的人工评估结果生成训练数据，所述人工评估结果为基于待优化模型的用户行为日志生成的评估结果，并可利用生成的训练数据对待优化模型进行更新。

待优化模型在投入使用之后，通常会记录用户行为日志，而作为对模型效果负责的工程师会通过定期人工评估的方式判断模型效果的好坏，如对于某个query，发现用户点击了排在第4位的候选结果并花费了一定的时间来阅读，那么则可认为该候选结果要优于前3位的候选结果，相应地，可对候选结果的排序顺序进行修改，从而生成一个正样本，并可根据修改前的排序顺序生成一个负样本。

通过上述处理，可直接基于用户行为日志发现待优化模型存在的问题，并可相应地生成训练数据，进而进一步提升了模型的优化效果。

结合前述介绍，图2为本公开所述模型更新方法的整体实现过程示意图。如图2所示，可利用工具集中的工具，发现待优化模型存在的问题，并可借助于工具集中的工具，针对发现的问题来解决问题，即可生成对应的训练数据，并可基于生成的训练数据对待优化模型进行更新，进而可不断地重复所述过程，具体实现可参照前述相关说明，不再赘述。

需要说明的是，对于前述的方法实施例，为了简单描述，将其表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本公开所必须的。

总之，采用本公开方法实施例所述方案，可借助于各种工具发现待优化模型存在的问题，并可通过丰富工具的种类来提升对于问题的覆盖面，而且，所发现的问题都是模型无法解决的真实问题，并能够针对每个问题定向产出训练数据，从而提升了模型优化效果，进而提升了模型性能。

以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。

图3为本公开所述模型更新装置实施例300的组成结构示意图。如图3所示，包括：效果比对模块301、信息确定模块302、样本生成模块303以及模型更新模块304。

效果比对模块301，用于针对评估数据集中的待处理数据，分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据所述处理结果比对待优化模型以及工具的处理效果优劣，所述待处理数据属于至少两个不同的类别。

信息确定模块302，用于根据比对结果确定出待优化类别以及对应的优势工具，待优化类别为工具的处理效果优于待优化模型的类别，优势工具为处理效果优于待优化模型的工具。

样本生成模块303，用于基于对应的优势工具生成待优化类别的训练数据。

模型更新模块304，用于利用生成的训练数据对待优化模型进行更新。

采用上述装置实施例所述方案，可借助于工具集中的工具，确定出待优化模型存在的问题，即待优化类别，并可相应地生成待优化类别的训练数据，进而可根据生成的训练数据对待优化模型进行更新，即提出了一种数据驱动的指向性模型优化方式，可定向解决待优化模型存在的问题，从而提升了模型性能。

本公开的一个实施例中，工具集中可包括以下之一或任意组合：待优化模型的历史版本模型，待优化模型的同类模型，待优化模型的同类系统，词法工具，句法工具，知识库，所述同类表示具有相同功能。

本公开的一个实施例中，评估数据集中还可包括：各待处理数据分别对应的正确的处理结果。

比如，在搜索场景下，待处理数据为用户输入的query，对应的处理结果可为针对基于query召回的各候选结果的正确排序顺序。

针对评估数据集中的待处理数据，可比对待优化模型以及工具集中的工具的处理效果优劣。

本公开的一个实施例中，效果比对模块301可利用待优化模型获取评估数据集中的各待处理数据对应的第一处理结果，并可针对工具集中的任一可独立运行的工具，分别进行以下处理：利用工具获取评估数据集中的各待处理数据对应的第二处理结果，基于正确的处理结果、第一处理结果以及第二处理结果，确定出待优化模型与工具针对不同类别的处理效果优劣。

以待优化模型为语义匹配模型为例，利用待优化模型获取评估数据集中的各待处理数据对应的第一处理结果，即可指利用待优化模型对评估数据集中的各待处理数据对应的候选结果进行排序，得到的排序结果即为第一处理结果，类似地，利用工具获取评估数据集中的各待处理数据对应的第二处理结果，即可指利用工具对评估数据集中的各待处理数据对应的候选结果进行排序，得到的排序结果即为第二处理结果。

本公开的一个实施例中，针对任一类别，效果比对模块301可分别基于评估数据集中属于该类别的待处理数据对应的正确的处理结果、第一处理结果以及第二处理结果，确定出待优化模型与工具的处理效果优劣，相应地，信息确定模块302响应于确定工具的处理效果优于待优化模型，可将该类别作为待优化类别，并可将工具作为优势工具。

本公开的一个实施例中，效果比对模块301可针对工具集中的任一不可独立运行的工具，分别进行以下处理：利用工具获取评估数据集中的各待处理数据对应的第三处理结果，并针对任一待处理数据，分别利用待优化模型对该第三处理结果进行正确与否的验证，响应于确定验证结果为不正确，获取人工判定结果，根据人工判定结果确定出待优化模型与工具针对该待处理数据的处理效果优劣。

本公开的一个实施例中，效果比对模块301响应于人工判定结果为第三处理结果正确，确定工具的处理效果优于待优化模型，否则，确定待优化模型的处理效果优于工具，相应地，信息确定模块302针对任一类别，响应于确定评估数据集中属于该类别的待处理数据中、工具的处理效果优于待优化模型的待处理数据的数量大于待优化模型的处理效果优于工具的待处理数据的数量，将该类别作为待优化类别，并将工具作为优势工具。

待优化类别即指存在问题的类别，之后，可通过数据驱动的方式解决问题。即可基于对应的优势工具生成待优化类别的训练数据，并可利用生成的训练数据对待优化模型进行更新。

本公开的一个实施例中，针对任一待优化类别，样本生成模块303可分别进行以下处理：从数据库中获取属于待优化类别的待处理数据，响应于待优化类别对应的优势工具的数量为一，根据获取到的待处理数据，基于优势工具生成待优化类别的训练数据，响应于待优化类别对应的优势工具的数量大于一，根据获取到的待处理数据，分别基于各优势工具生成待优化类别的训练数据。

如何从数据库中获取待优化类别的待处理数据不作限制，比如，可从数据库中属于待优化类别的query中随机抽取出部分query。

本公开的一个实施例中，样本生成模块303在基于任一优势工具生成待优化类别的训练数据时，可针对获取到的各待处理数据，利用优势工具获取对应的第四处理结果，并可利用待优化模型获取对应的第五处理结果，之后可从获取到的各待处理数据中选出符合以下要求的待处理数据：第四处理结果与第五处理结果不一致，进而可基于选出的待处理数据生成训练数据。

本公开的一个实施例中，样本生成模块303在基于选出的待处理数据生成训练数据时，可结合选出的待处理数据以及针对选出的待处理数据的第四处理结果和/或第五处理结果的人工标注结果，生成训练数据。

本公开的一个实施例中，除如上所述，利用优势工具生成待优化类别的训练数据外，样本生成模块303还可根据获取到的人工评估结果生成训练数据，所述人工评估结果为基于待优化模型的用户行为日志生成的评估结果，相应地，模型更新模块304可利用生成的训练数据对待优化模型进行更新。

图3所示装置实施例的具体工作流程可参照前述方法实施例中的相关说明，不再赘述。

总之，采用本公开装置实施例所述方案，可借助于各种工具发现待优化模型存在的问题，并可通过丰富工具的种类来提升对于问题的覆盖面，而且，所发现的问题都是模型无法解决的真实问题，并能够针对每个问题定向产出训练数据，从而提升了模型优化效果，进而提升了模型性能。

本公开所述方案可应用于人工智能领域，特别涉及深度学习以及自然语言处理等领域。人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术，人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术，人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

本公开所述实施例中的待处理数据等并不是针对某一特定用户的，并不能反映出某一特定用户的个人信息，另外，本公开所述方法的执行主体可以通过各种公开、合法合规的方式获取所述待处理数据。

本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图4示出了可以用来实施本公开的实施例的电子设备400的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图4所示，设备400包括计算单元401，其可以根据存储在只读存储器(ROM)402中的计算机程序或者从存储单元408加载到随机访问存储器(RAM)403中的计算机程序，来执行各种适当的动作和处理。在RAM 403中，还可存储设备400操作所需的各种程序和数据。计算单元401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。

设备400中的多个部件连接至I/O接口405，包括：输入单元406，例如键盘、鼠标等；输出单元407，例如各种类型的显示器、扬声器等；存储单元408，例如磁盘、光盘等；以及通信单元409，例如网卡、调制解调器、无线通信收发机等。通信单元409允许设备400通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元401可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元401的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元401执行上文所描述的各个方法和处理，例如本公开所述的方法。例如，在一些实施例中，本公开所述的方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元408。在一些实施例中，计算机程序的部分或者全部可以经由ROM 402和/或通信单元409而被载入和/或安装到设备400上。当计算机程序加载到RAM 403并由计算单元401执行时，可以执行本公开所述的方法的一个或多个步骤。备选地，在其他实施例中，计算单元401可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行本公开所述的方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (23)

1.一种模型更新方法，包括：

针对评估数据集中的待处理数据，分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据所述处理结果比对所述待优化模型以及所述工具的处理效果优劣，所述待处理数据属于至少两个不同的类别；

根据比对结果确定出待优化类别以及对应的优势工具，所述待优化类别为工具的处理效果优于所述待优化模型的类别，所述优势工具为处理效果优于所述待优化模型的工具；

基于对应的优势工具生成所述待优化类别的训练数据；

利用所述训练数据对所述待优化模型进行更新。

2.根据权利要求1所述的方法，其中，

所述工具集中包括以下之一或任意组合：所述待优化模型的历史版本模型，所述待优化模型的同类模型，所述待优化模型的同类系统，词法工具，句法工具，知识库，所述同类表示具有相同功能。

3.根据权利要求1所述的方法，其中，

所述评估数据集中还包括：各待处理数据分别对应的正确的处理结果；

所述分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据所述处理结果比对所述待优化模型以及所述工具的处理效果优劣包括：

利用所述待优化模型获取所述评估数据集中的各待处理数据对应的第一处理结果；

针对所述工具集中的任一可独立运行的工具，分别进行以下处理：利用所述工具获取所述评估数据集中的各待处理数据对应的第二处理结果，基于所述正确的处理结果、所述第一处理结果以及所述第二处理结果，确定出所述待优化模型与所述工具针对不同类别的处理效果优劣。

4.根据权利要求3所述的方法，其中，

所述确定出所述待优化模型与所述工具针对不同类别的处理效果优劣包括：针对任一类别，分别基于所述评估数据集中属于所述类别的待处理数据对应的所述正确的处理结果、所述第一处理结果以及所述第二处理结果，确定出所述待优化模型与所述工具的处理效果优劣；

所述根据比对结果确定出待优化类别以及对应的优势工具包括：针对任一类别，响应于确定所述工具的处理效果优于所述待优化模型，将所述类别作为所述待优化类别，并将所述工具作为所述优势工具。

5.根据权利要求1所述的方法，其中，所述分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据所述处理结果比对所述待优化模型以及所述工具的处理效果优劣包括：

针对所述工具集中的任一不可独立运行的工具，分别进行以下处理：利用所述工具获取所述评估数据集中的各待处理数据对应的第三处理结果，并针对任一待处理数据，分别利用所述待优化模型对所述第三处理结果进行正确与否的验证，响应于确定验证结果为不正确，获取人工判定结果，根据所述人工判定结果确定出所述待优化模型与所述工具针对所述待处理数据的处理效果优劣。

6.根据权利要求5所述的方法，其中，

所述根据所述人工判定结果确定出所述待优化模型与所述工具针对所述待处理数据的处理效果优劣包括：响应于所述人工判定结果为所述第三处理结果正确，确定所述工具的处理效果优于所述待优化模型，否则，确定所述待优化模型的处理效果优于所述工具；

所述根据比对结果确定出待优化类别以及对应的优势工具包括：针对任一类别，响应于确定所述评估数据集中属于所述类别的待处理数据中、所述工具的处理效果优于所述待优化模型的待处理数据的数量大于所述待优化模型的处理效果优于所述工具的待处理数据的数量，将所述类别作为所述待优化类别，并将所述工具作为所述优势工具。

7.根据权利要求1～6中任一项所述的方法，其中，所述基于对应的优势工具生成所述待优化类别的训练数据包括：

针对任一待优化类别，分别进行以下处理：

从数据库中获取属于所述待优化类别的待处理数据；

响应于所述待优化类别对应的所述优势工具的数量为一，根据获取到的待处理数据，基于所述优势工具生成所述待优化类别的训练数据；

响应于所述待优化类别对应的所述优势工具的数量大于一，根据获取到的待处理数据，分别基于各优势工具生成所述待优化类别的训练数据。

8.根据权利要求7所述的方法，其中，所述基于所述优势工具生成所述待优化类别的训练数据包括：

针对获取到的各待处理数据，利用所述优势工具获取对应的第四处理结果，并利用所述待优化模型获取对应的第五处理结果；

从获取到的各待处理数据中选出符合以下要求的待处理数据：所述第四处理结果与所述第五处理结果不一致；

基于选出的待处理数据生成所述训练数据。

9.根据权利要求8所述的方法，其中，所述基于选出的待处理数据生成所述训练数据包括：

结合所述选出的待处理数据以及针对所述选出的待处理数据的第四处理结果和/或第五处理结果的人工标注结果，生成所述训练数据。

10.根据权利要求1～6中任一项所述的方法，还包括：

根据获取到的人工评估结果生成训练数据，所述人工评估结果为基于所述待优化模型的用户行为日志生成的评估结果，利用所述训练数据对所述待优化模型进行更新。

11.一种模型更新装置，包括：效果比对模块、信息确定模块、样本生成模块以及模型更新模块；

所述效果比对模块，用于针对评估数据集中的待处理数据，分别利用待优化模型以及工具集中的工具获取对应的处理结果，根据所述处理结果比对所述待优化模型以及所述工具的处理效果优劣，所述待处理数据属于至少两个不同的类别；

所述信息确定模块，用于根据比对结果确定出待优化类别以及对应的优势工具，所述待优化类别为工具的处理效果优于所述待优化模型的类别，所述优势工具为处理效果优于所述待优化模型的工具；

所述样本生成模块，用于基于对应的优势工具生成所述待优化类别的训练数据；

所述模型更新模块，用于利用所述训练数据对所述待优化模型进行更新。

12.根据权利要求11所述的装置，其中，

所述工具集中包括以下之一或任意组合：所述待优化模型的历史版本模型，所述待优化模型的同类模型，所述待优化模型的同类系统，词法工具，句法工具，知识库，所述同类表示具有相同功能。

13.根据权利要求11所述的装置，其中，

所述评估数据集中还包括：各待处理数据分别对应的正确的处理结果；

所述效果比对模块利用所述待优化模型获取所述评估数据集中的各待处理数据对应的第一处理结果，并针对所述工具集中的任一可独立运行的工具，分别进行以下处理：利用所述工具获取所述评估数据集中的各待处理数据对应的第二处理结果，基于所述正确的处理结果、所述第一处理结果以及所述第二处理结果，确定出所述待优化模型与所述工具针对不同类别的处理效果优劣。

14.根据权利要求13所述的装置，其中，

所述效果比对模块针对任一类别，分别基于所述评估数据集中属于所述类别的待处理数据对应的所述正确的处理结果、所述第一处理结果以及所述第二处理结果，确定出所述待优化模型与所述工具的处理效果优劣；

所述信息确定模块针对任一类别，响应于确定所述工具的处理效果优于所述待优化模型，将所述类别作为所述待优化类别，并将所述工具作为所述优势工具。

15.根据权利要求11所述的装置，其中，

所述效果比对模块针对所述工具集中的任一不可独立运行的工具，分别进行以下处理：利用所述工具获取所述评估数据集中的各待处理数据对应的第三处理结果，并针对任一待处理数据，分别利用所述待优化模型对所述第三处理结果进行正确与否的验证，响应于确定验证结果为不正确，获取人工判定结果，根据所述人工判定结果确定出所述待优化模型与所述工具针对所述待处理数据的处理效果优劣。

16.根据权利要求15所述的装置，其中，

所述效果比对模块响应于所述人工判定结果为所述第三处理结果正确，确定所述工具的处理效果优于所述待优化模型，否则，确定所述待优化模型的处理效果优于所述工具；

所述信息确定模块针对任一类别，响应于确定所述评估数据集中属于所述类别的待处理数据中、所述工具的处理效果优于所述待优化模型的待处理数据的数量大于所述待优化模型的处理效果优于所述工具的待处理数据的数量，将所述类别作为所述待优化类别，并将所述工具作为所述优势工具。

17.根据权利要求11～16中任一项所述的装置，其中，

所述样本生成模块针对任一待优化类别，分别进行以下处理：从数据库中获取属于所述待优化类别的待处理数据；响应于所述待优化类别对应的所述优势工具的数量为一，根据获取到的待处理数据，基于所述优势工具生成所述待优化类别的训练数据；响应于所述待优化类别对应的所述优势工具的数量大于一，根据获取到的待处理数据，分别基于各优势工具生成所述待优化类别的训练数据。

18.根据权利要求17所述的装置，其中，

针对任一优势工具，所述样本生成模块针对获取到的各待处理数据，利用所述优势工具获取对应的第四处理结果，并利用所述待优化模型获取对应的第五处理结果，从获取到的各待处理数据中选出符合以下要求的待处理数据：所述第四处理结果与所述第五处理结果不一致，基于选出的待处理数据生成所述训练数据。

19.根据权利要求18所述的装置，其中，

所述样本生成模块结合所述选出的待处理数据以及针对所述选出的待处理数据的第四处理结果和/或第五处理结果的人工标注结果，生成所述训练数据。

20.根据权利要求11～16中任一项所述的装置，其中，

所述样本生成模块进一步用于，根据获取到的人工评估结果生成训练数据，所述人工评估结果为基于所述待优化模型的用户行为日志生成的评估结果。

21.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-10中任一项所述的方法。

22.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行权利要求1-10中任一项所述的方法。

23.一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现权利要求1-10中任一项所述的方法。

Images