CN115081616A - 一种数据的去噪方法以及相关设备 - Google Patents

Abstract

本申请实施例公开一种数据的去噪方法以及相关设备，该方法可将人工智能技术用于对数据进行去噪，对带噪数据执行的至少一次去噪操作中任意一次目标去噪操作包括：根据第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息，第一预测信息指示第二带噪数据与干净数据之间的预测噪声，第二预测信息指示第二带噪数据和干净数据之间的预测噪声的平方，或者，指示第一预测信息和实际噪声之间的预测距离的平方，实际噪声包括第二带噪数据和干净数据之间的实际噪声；从分布信息指向的分布空间中采样去噪后数据。由于不是直接学习与去噪操作对应的分布信息，因此对带噪数据执行去噪操作的次数不受训练阶段的约束，提高了推理阶段的灵活性。

Description

一种数据的去噪方法以及相关设备

技术领域

本申请涉及人工智能领域，尤其涉及一种数据的去噪方法以及相关设备。

背景技术

扩散概率模型(diffusion probabilistic model，DPM)在众多生成任务上取得了不错的效果，例如生成高分辨率的图像、文字转换为图像、文字转换为语音、语音生成等等。前述过程均能通过利用扩散概率模型对带噪数据执行去噪操作来实现。

目前，在利用扩散概率模型进行去噪的过程中，是将带噪数据输入到扩散概率模型中，基于扩散概率模型输出的数据确定与本次去噪操作对应的均值；将带噪数据输入到目标神经网络中，得到目标神经网络输出的与本次去噪操作对应的协方差；从与本次去噪操作对应的均值和协方差指向的分布空间中，采样得一个与带噪数据对应的去噪后的数据。

在对扩散概率模型和上述神经网络进行训练过程中，先在干净数据上逐次加入高斯噪声，在执行M步加噪操作后，直至将干净数据转移成带噪数据，一般s的取值是几百至几千。为了提高去噪过程的效率，去噪操作的执行次数可以小于加噪操作的执行次数，但由于目标神经网络输出的是与去噪操作对应的协方差，导致目标神经网络在推理阶段执行的去噪次数需要和训练阶段的去噪次数一致，也即训练出来的目标神经网络的灵活性较差；作为示例，若在训练阶段，目标神经网络学习的是执行10次去噪操作后，将带噪数据逐渐转移至干净数据，则在去噪阶段也必须执行10次去噪操作。

此外，由于执行10次去噪操作并不一定能够得到很好的去噪效果，但若想在执行20次去噪操作后，将带噪数据逐渐转移至干净数据，就需要重新训练新的目标神经网络，计算资源的开销巨大。

发明内容

本申请实施例提供了一种数据的去噪方法以及相关设备，基于第一预测信息和第二预测信息，生成与去噪操作对应的分布信息，由于第一特征处理网络和第二特征处理网络均不直接学习与去噪操作对应的分布信息，因此对第一带噪数据执行去噪操作的次数不受训练阶段的约束，当需要调整去噪操作的次数时，不需要重新训练第一特征处理网络和第二特征处理网络，本申请实施例提供的去噪方案，避免了对神经网络进行反复训练所带来的计算机资源的开销，提高了推理阶段的灵活性。

为解决上述技术问题，本申请实施例提供以下技术方案：

第一方面，本申请实施例提供一种数据的去噪方法，可将人工智能技术用于对数据进行去噪，方法用于执行设备对第一带噪数据执行至少一次去噪操作，以得到与第一带噪数据对应的干净数据，至少一次去噪操作中的任意一次目标去噪操作包括：

执行设备获取第一预测信息，其中，第一预测信息指示第二带噪数据与干净数据之间的预测噪声，第一预测信息由第一特征处理网络生成，若目标去噪操作是第一次去噪操作，则第二带噪数据为第一带噪数据；若至少一次去噪操作为至少两个去噪操作，且目标去噪操作不是第一次去噪操作，则第二带噪数据为对第一带噪数据执行过至少一次去噪操作后的带噪数据。

执行设备获取第二预测信息，其中，第二预测信息指示第二带噪数据和干净数据之间的预测噪声的平方，“第二带噪数据和干净数据之间的预测噪声的平方”代表第二带噪数据和干净数据之间的预测噪声中每个值的平方；或者，第二预测信息指示第一预测信息和实际噪声之间的预测距离的平方，实际噪声包括第二带噪数据和干净数据之间的实际噪声，第二预测信息由第二特征处理网络生成，第一特征处理网络和第二特征处理网络处理的特征信息均基于第二带噪数据得到。

执行设备根据第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息；对分布信息指向的分布空间执行采样操作，以得到与第二带噪数据对应的去噪后数据，也即得到执行完目标去噪操作之后的去噪后数据。

本实现方式中，在执行去噪操作的过程中，通过第一特征处理网络生成第一预测信息，也即带噪数据与干净数据之间的预测噪声；通过第二特征处理网络生成第二预测信息，第二预测信息指示带噪数据和干净数据之间的预测噪声的平方，或者，指示第一预测信息和实际噪声之间的距离的平方；进而基于第一预测信息和第二预测信息，生成与去噪操作对应的分布信息，从分布信息指向的分布空间中采样得到与带噪数据对应的去噪后数据，也即完成了M步去噪操作中的一次去噪操作，由于第一特征处理网络和第二特征处理网络学习的是带噪数据和干净数据之间的数据，也即第一特征处理网络和第二特征处理网络均不直接学习与去噪操作对应的分布信息，因此对第一带噪数据执行去噪操作的次数不受训练阶段的约束，当需要调整去噪操作的次数时，不需要重新训练第一特征处理网络和第二特征处理网络，本申请实施例提供的去噪方案，避免了对神经网络进行反复训练所带来的计算机资源的开销，提高了推理阶段的灵活性。

在第一方面的一种可能实现方式中，至少一次去噪操作为N次去噪操作，N为大于或等于1的整数。由于在训练阶段，纯噪声是对干净数据执行了M步加噪过程后得到的，对应的，通过对纯噪声执行M步去噪操作能够得到干净数据，且最理想的状态是每次去噪操作所得到的去噪后数据是对应的加噪操作的完全逆过程。为了提高推理阶段的效率，本方案中在推理阶段仅执行N次去噪操作，N的取值远小于s，则N次去噪操作中的每次去噪操作的目的是基于M步加噪操作中第n步加噪操作所对应的带噪数据，得到M步去噪操作中第s步加噪操作所对应的带噪数据，n和s均为正整数，n的取值大于s的取值，且n与s之间的差值大于或等于2，也即N次去噪操作中的每次去噪操作包括得到理想状态中M步去噪操作的多次去噪操作的去噪效果。第一特征处理网络和第二特征处理网络处理的特征信息均基于第二带噪数据和与第二带噪数据对应的n的取值得到，

其中，若第一带噪数据为纯噪声，则n的取值可以被M整除；若第一带噪数据不是纯噪声，则执行设备可以基于第一带噪数据，对第一带噪数据所对应的n和N的取值进行预估；第一带噪数据中携带的噪声越多，则n的取值越靠近M，N的取值也越大；第一带噪数据中携带的噪声越多，则n和N的取值就越小。

在第一方面的一种可能实现方式中，第一特征处理网络和第二特征处理网络用于处理相同的特征信息，具体的，在一种情况下，第一特征处理网络和第二特征处理网络采用的同一个特征提取网络；在另一种情况下，第一神经网络包括的第一特征提取网络和第二神经网络包括的第二特征提取网络可以为相同的神经网络。

本实现方式中，由于第一特征处理网络和第二特征处理网络处理的是相同的特征信息，也即第一特征处理网络和第二特征处理网络所对应的是同一个特征提取网络，或者，第一特征处理网络和第二特征处理网络所对应的是相同的特征提取网络，也即在训练阶段仅需要对一个特征提取网络进行训练，有利于提高训练阶段的效率。

在第一方面的一种可能实现方式中，至少一次去噪操作为N次去噪操作，N为大于或等于1的整数，若第一带噪数据为纯噪声，则N为超参数，第一特征处理网络处理的特征信息包括第二带噪数据的特征信息和约束信息的特征信息，干净数据满足约束信息的约束。本实现方式中，可以基于约束信息，对纯噪声(也即不携带干净数据中的信息)不断执行去噪操作，得到符合约束信息的干净数据，也即利用第一神经网络和第二神经网络能够从无生成服从约束信息的干净数据，扩展了特定的干净数据的获取渠道。

在第一方面的一种可能实现方式中，若与去噪操作对应的分布空间满足高斯分布或伽马分布，则执行设备根据第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息，包括：执行设备根据第一预测信息，生成与目标去噪操作对应的均值；根据第二预测信息，生成与目标去噪操作对应的协方差。

本实现方式中，进一步公开了根据第一预测信息和第二预测信息，生成与每次去噪操作的分布信息的实现细节，提高了本方案的可实现性。

在第一方面的一种可能实现方式中，执行设备根据第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息，包括：执行设备可以确定与N次去噪操作中的第H次去噪操作(也即目标去噪操作)对应的n和s的取值，进而根据与第二带噪数据对应的第一预测信息、n的取值和s的取值，生成与N次去噪操作中的第H次去噪操作(也即目标去噪操作)对应的均值，H的取值大于或等于1。对应的，执行设备可以根据与第二带噪数据对应的第二预测信息、n的取值和s的取值，生成与N次去噪操作中的第H次去噪操作(也即目标去噪操作)对应的协方差。

在第一方面的一种可能实现方式中，分布信息指向的分布空间服从高斯分布或伽马分布。本实现方式中，可以在服从高斯分布或伽马分布的分布空间中采样去噪后数据，也即无论带噪数据中携带的噪声为高斯噪声还是伽马噪声，都可以采用本申请实施例提供的数据的去噪方法进行去噪，扩展了本方案的应用场景，提高了本方案的实现灵活性。

在第一方面的一种可能实现方式中，干净数据具体可以用于表达为如下任一种类型的数据：图像数据、声音数据、文本数据或其他类型的数据等等。进一步地，干净数据、第一带噪数据、第二带噪数据的数据尺寸相同，也即干净数据、带噪数据和第二带噪数据具体均为H维的张量，且H维中每个维度上的长度均相同。

第二方面，本申请实施例提供一种神经网络的训练方法，可将人工智能技术用于对数据进行去噪，方法包括：训练设备将第三带噪数据输入特征提取网络，得到特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息；训练设备通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，第二预测信息指示第三带噪数据和第一干净数据之间的预测噪声的平方，第三带噪数据为对第一干净数据执行多次加噪操作得到；训练设备根据与第三带噪数据对应的第一期望信息、第二预测信息和第一损失函数，对第二特征处理网络进行训练，直至满足收敛条件，其中，第一损失函数指示第二预测信息和第一期望信息之间的相似度，第一期望信息指示第三带噪数据和第一干净数据之间的实际噪声的平方。

本申请第二方面中，训练设备还可以用于执行第一方面以及第一方面的各个可能实现方式中执行设备执行的步骤，第二方面的各个可能实现方式中的步骤的具体实现方式、名词的含义以及所带来的有益效果，均可以参阅第一方面，此处不再赘述。

第三方面，本申请实施例提供一种神经网络的训练方法，可将人工智能技术用于对数据进行去噪，方法包括：训练设备将第三带噪数据输入特征提取网络，得到特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息；

训练设备通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，第三带噪数据为对第一干净数据执行多次加噪操作后得到，第二预测信息指示第一预测信息和实际噪声之间的预测距离的平方，第一预测信息包括由第一神经网络生成的第三带噪数据和第一干净数据之间的预测噪声，第一神经网络用于基于输入的第三带噪数据生成第一预测信息，实际噪声包括第三带噪数据和第一干净数据之间的实际噪声；

训练设备根据与第三带噪数据对应的第二期望信息、第二预测信息和第二损失函数，对第二特征处理网络进行训练，直至满足收敛条件，其中，第二损失函数指示第二预测信息和第二期望信息之间的相似度，第二期望信息指示第一预测信息和实际噪声之间的实际距离的平方。

本申请第三方面中，训练设备还可以用于执行第一方面以及第一方面的各个可能实现方式中执行设备执行的步骤，第三方面的各个可能实现方式中的步骤的具体实现方式、名词的含义以及所带来的有益效果，均可以参阅第一方面，此处不再赘述。

第四方面，本申请实施例提供一种数据的去噪装置，可将人工智能技术用于对数据进行去噪，数据的去噪装置用于对第一带噪数据执行至少一次去噪操作，以得到与第一带噪数据对应的干净数据，去噪装置包括：获取模块，用于获取第一预测信息，其中，第一预测信息指示第二带噪数据与干净数据之间的预测噪声，第一预测信息由第一特征处理网络生成，第二带噪数据为第一带噪数据，或者，第二带噪数据为对第一带噪数据执行过至少一次去噪操作后的带噪数据；

获取模块，还用于获取第二预测信息，其中，第二预测信息指示第二带噪数据和干净数据之间的预测噪声的平方，或者，第二预测信息指示第一预测信息和实际噪声之间的预测距离的平方，实际噪声包括第二带噪数据和干净数据之间的实际噪声，第二预测信息由第二特征处理网络生成，第一特征处理网络和第二特征处理网络处理的特征信息均基于第二带噪数据得到；

生成模块，用于根据第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息，目标去噪操作为至少一次去噪操作中的任意一次；采样模块，用于从分布信息指向的分布空间中采样得到与第二带噪数据对应的去噪后数据。

本申请第四方面中，数据的去噪装置还可以用于执行第一方面以及第一方面的各个可能实现方式中执行设备执行的步骤，第四方面的各个可能实现方式中的步骤的具体实现方式、名词的含义以及所带来的有益效果，均可以参阅第一方面，此处不再赘述。

第五方面，本申请实施例提供一种神经网络的训练装置，可将人工智能技术用于对数据进行去噪，神经网络的训练装置包括：特征提取模块，用于将第三带噪数据输入特征提取网络，得到特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息；特征处理模块，用于通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，第二预测信息指示第三带噪数据和第一干净数据之间的预测噪声的平方，第三带噪数据为对第一干净数据执行多次加噪操作得到；

训练模块，用于根据与第三带噪数据对应的第一期望信息、第二预测信息和第一损失函数，对第二特征处理网络进行训练，直至满足收敛条件，其中，第一损失函数指示第二预测信息和第一期望信息之间的相似度，第一期望信息指示第三带噪数据和第一干净数据之间的实际噪声的平方。

本申请第五方面中，神经网络的训练装置还可以用于执行第二方面以及第二方面的各个可能实现方式中执行设备执行的步骤，第五方面的各个可能实现方式中的步骤的具体实现方式、名词的含义以及所带来的有益效果，均可以参阅第二方面，此处不再赘述。

第六方面，本申请实施例提供一种神经网络的训练装置，可将人工智能技术用于对数据进行去噪，神经网络的训练装置包括：特征提取模块，用于将第三带噪数据输入特征提取网络，得到特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息；特征处理模块，用于通过第三特征处理网络对第一特征信息进行处理，得到第三特征处理网络输出的第三预测信息，第三预测信息指示第三带噪数据和第一干净数据之间的预测噪声的平方，第三带噪数据为对第一干净数据执行多次加噪操作得到；

训练模块，用于根据与第三带噪数据对应的第一期望信息、第三预测信息和第一损失函数，对第三特征处理网络进行训练，直至满足收敛条件，其中，第一损失函数指示第三预测信息和第一期望信息之间的相似度，第一期望信息指示第三带噪数据和第一干净数据之间的实际噪声的平方。

本申请第六方面中，神经网络的训练装置还可以用于执行第三方面以及第三方面的各个可能实现方式中执行设备执行的步骤，第六方面的各个可能实现方式中的步骤的具体实现方式、名词的含义以及所带来的有益效果，均可以参阅第三方面，此处不再赘述。

第七方面，本申请实施例提供了一种计算机程序产品，计算机程序产品包括程序，当该程序在计算机上运行时，使得计算机执行上述第一方面、第二方面或第三方面所述的方法。

第八方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，当其在计算机上运行时，使得计算机执行上述第一方面、第二方面或第三方面所述的方法。

第九方面，本申请实施例提供了一种执行设备，包括处理器和存储器，处理器与存储器耦合，存储器，用于存储程序；处理器，用于执行存储器中的程序，使得执行设备执行上述第一方面的数据的去噪方法。

第十方面，本申请实施例提供了一种训练设备，包括处理器和存储器，处理器与存储器耦合，存储器，用于存储程序；处理器，用于执行存储器中的程序，使得训练设备执行上述第二方面或第三方面所述的神经网络的训练方法。

第十一方面，本申请提供了一种芯片系统，该芯片系统包括处理器，用于支持终端设备或通信设备实现上述方面中所涉及的功能，例如，发送或处理上述方法中所涉及的数据和/或信息。在一种可能的设计中，所述芯片系统还包括存储器，所述存储器，用于保存终端设备或通信设备必要的程序指令和数据。该芯片系统，可以由芯片构成，也可以包括芯片和其他分立器件。

附图说明

图1a为本申请实施例提供的人工智能主体框架的一种结构示意图；

图1b为本申请实施例提供的数据的去噪方法的一种应用场景图；

图2a为本申请实施例提供的数据的去噪系统的一种系统架构图；

图2b为本申请实施例提供的数据的去噪方法的一种流程示意图；

图3为本申请实施例提供的神经网络的训练方法的一种流程示意图；

图4为本申请实施例提供的对干净数据进行加噪的一种流程示意图；

图5为本申请实施例提供的第一神经网络的一种结构示意图；

图6为本申请实施例提供的第二神经网络的一种结构示意图；

图7为本申请实施例提供的神经网络的训练方法的一种流程示意图；

图8为本申请实施例提供的神经网络的训练方法一种流程示意图；

图9为本申请实施例中提供的数据的去噪方法中神经网络的一种部署示意图；

图10为本申请实施例提供的数据的去噪方法的一种流程示意图；

图11为本申请实施例中提供的数据的去噪方法中执行去噪操作的一种示意图；

图12为本申请实施例中提供的数据的去噪方法的一种流程示意图；

图13为本申请实施例提供的采用扩散概率模型和本申请实施例提供的方法生成的干净数据的一种对比示意图；

图14为本申请实施例提供的数据的去噪装置的一种结构示意图；

图15为本申请实施例提供的神经网络的训练装置的一种结构示意图；

图16为本申请实施例提供的神经网络的训练装置的一种结构示意图；

图17为本申请实施例提供的执行设备的一种结构示意图；

图18为本申请实施例提供的训练设备的一种结构示意图；

图19为本申请实施例提供的芯片的一种结构示意图。

具体实施方式

下面结合附图，对本申请的实施例进行描述。本领域普通技术人员可知，随着技术的发展和新场景的出现，本申请实施例提供的技术方案对于类似的技术问题，同样适用。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的术语在适当情况下可以互换，这仅仅是描述本申请的实施例中对相同属性的对象在描述时所采用的区分方式。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，以便包含一系列单元的过程、方法、系统、产品或设备不必限于那些单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它单元。

首先对人工智能系统总体工作流程进行描述，请参见图1a，图1a示出的为人工智能主体框架的一种结构示意图，下面从“智能信息链”(水平轴)和“IT价值链”(垂直轴)两个维度对上述人工智能主题框架进行阐述。其中，“智能信息链”反映从数据的获取到处理的一列过程。举例来说，可以是智能信息感知、智能信息表示与形成、智能推理、智能决策、智能执行与输出的一般过程。在这个过程中，数据经历了“数据—信息—知识—智慧”的凝练过程。“IT价值链”从人智能的底层基础设施、信息(提供和处理技术实现)到系统的产业生态过程，反映人工智能为信息技术产业带来的价值。

(1)基础设施

基础设施为人工智能系统提供计算能力支持，实现与外部世界的沟通，并通过基础平台实现支撑。通过传感器与外部沟通；计算能力由智能芯片提供，该智能芯片具体可以采用中央处理器(central processing unit，CPU)、嵌入式神经网络处理器(neural-network processing unit，NPU)、图形处理器(graphics processing unit，GPU)、专用集成电路(application specific integrated circuit，ASIC)或现场可编程门阵列(fieldprogrammable gate array，FPGA)等硬件加速芯片；基础平台包括分布式计算框架及网络等相关的平台保障和支持，可以包括云存储和计算、互联互通网络等。举例来说，传感器和外部沟通获取数据，这些数据提供给基础平台提供的分布式计算系统中的智能芯片进行计算。

(2)数据

基础设施的上一层的数据用于表示人工智能领域的数据来源。数据涉及到图形、图像、语音、文本，还涉及到传统设备的物联网数据，包括已有系统的业务数据以及力、位移、液位、温度、湿度等感知数据。

(3)数据处理

数据处理通常包括数据训练，机器学习，深度学习，搜索，推理，决策等方式。

其中，机器学习和深度学习可以对数据进行符号化和形式化的智能信息建模、抽取、预处理、训练等。

推理是指在计算机或智能系统中，模拟人类的智能推理方式，依据推理控制策略，利用形式化的信息进行机器思维和求解问题的过程，典型的功能是搜索与匹配。

决策是指智能信息经过推理后进行决策的过程，通常提供分类、排序、预测等功能。

(4)通用能力

对数据经过上面提到的数据处理后，进一步基于数据处理的结果可以形成一些通用的能力，比如可以是算法或者一个通用系统，例如，翻译，文本的分析，计算机视觉的处理，语音识别，图像的识别等等。

(5)智能产品及行业应用

智能产品及行业应用指人工智能系统在各领域的产品和应用，是对人工智能整体解决方案的封装，将智能信息决策产品化、实现落地应用，其应用领域主要包括：智能终端、智能制造、智能交通、智能家居、智能医疗、智能安防、自动驾驶、智慧城市等。

本申请可以应用于人工智能的各个应用领域中，具体用于对各个应用领域中的带噪数据执行去噪操作，以得到与该带噪数据对应的干净数据。进一步地，该带噪数据可以具体表现为纯噪声，也即该带噪数据中可以不携带该干净数据中的信息；或者该带噪数据中可以携带该干净数据中的信息。

作为示例，例如在智能终端领域中，智能终端可以接收用户输入的一段文本描述，向用户展示满足前述文本描述的一个图像；该图像的生成过程可以包括基于该文本描述(也即约束信息的一种示例)的约束，对纯噪声(也即带噪数据的一个示例)执行多次去噪操作，从而得到满足该文本描述的约束的一个图像(也即干净数据的一个示例)。为更直观地理解本应用场景，请参阅图1b，图1b为本申请实施例提供的数据的去噪方法的一种应用场景图。如图所示，该文本描述是一个寸头男孩在公共交通上，戴着蓝牙耳机玩手机；则可以生成图1b中右侧的图片，应理解，图1b中的示例仅为方便理解本方案，不用于限定本方案。

作为另一示例，例如在智能安防领域中，设置于城市中的监控设备在采集到图像之后，可以将采集到的图像发送至控制中心，在前述图像的传输过程中可能会引入噪声，则控制中心得到的可以是携带有噪声的图像(也即带噪数据的一个示例)，则可以对携带有噪声的图像执行多次去噪操作，从而得到干净的图像(也即干净数据的一个示例)。

作为另一示例，例如在智能家居领域中，智能家居可以提供翻译的功能，若将一段中文的文本描述转换为英文的语音输出，则可以基于该中文的文本描述的约束(也即约束信息的一种示例)，对纯噪声(也即带噪数据的一个示例)进行去噪，以得到与该文本描述对应的英文语音(也即干净数据的一个示例)等等，应理解，此处对应用场景的举例仅为方便立即本方案，不用于限定本方案。

在对本申请实施例提供的数据的去噪方法进行介绍之前，请先参阅图2a，图2a为本申请实施例提供的数据的去噪系统的一种系统架构图，在图2a中，数据的去噪系统200包括训练设备210、数据库220、执行设备230、数据存储系统240和客户设备250，执行设备230中包括计算模块231。

其中，数据库220中存储有训练数据集合，训练数据集合包括多个带噪数据；训练设备210生成第一模型/规则201和第二模型/规则202，并利用训练数据集合对第一模型/规则201和第二模型/规则202进行迭代训练，得到训练后的第一模型/规则201。第一模型/规则201可以具体表现为神经网络，也可以表现为非神经网络的模型，本申请实施例中仅以第一模型/规则201和第二模型/规则202均表现为特征处理网络为例进行说明。

训练设备210得到的训练后的第一模型/规则201和第二模型/规则202可以应用于不同产品形态的执行设备230中。其中，执行设备230可以调用数据存储系统240中的数据、代码等，也可以将数据、指令等存入数据存储系统240中。数据存储系统240可以置于执行设备230中，也可以为数据存储系统240相对执行设备230是外部存储器。

执行设备230可以利用计算模块231中的第一模型/规则201和第二模型/规则202执行本申请实施例提供的数据的去噪方法。具体的，请参阅图2b，图2b为本申请实施例提供的数据的去噪方法的一种流程示意图。前述方法包括：执行设备230对第一带噪数据执行至少一次去噪操作，以得到与第一带噪数据对应的干净数据，至少一次去噪操作中的任意一次目标去噪操作包括：A1、执行设备230获取第一预测信息，其中，第一预测信息指示第二带噪数据与干净数据之间的预测噪声，第一预测信息由第一特征处理网络生成，第二带噪数据为第一带噪数据，或者，第二带噪数据为对第一带噪数据执行过至少一次去噪操作后的带噪数据；A2、执行设备230获取第二预测信息，其中，第二预测信息指示第二带噪数据和干净数据之间的预测噪声的平方，或者，第二预测信息指示第一预测信息和实际噪声之间的距离的平方，实际噪声包括第二带噪数据和干净数据之间的实际噪声，第二预测信息由第二特征处理网络生成，第一特征处理网络和第二特征处理网络处理的特征信息均基于第二带噪数据得到；A3、执行设备230根据第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息；A4、执行设备230从分布信息指向的分布空间中采样得到与第一带噪数据对应的去噪后数据。

其中，由于执行设备230需要执行N次去噪操作后才能得到该干净数据，则若目标去噪操作为第N次去噪操作，前述去噪后数据可以表现为干净数据；若目标去噪操作不是第N次去噪操作，则对第一带噪数据执行了一次去噪操作后得到的去噪后数据可以表现为带噪数据。

本申请实施例中，由于执行设备230在执行每次去噪操作的过程中，通过第一特征处理网络和第二特征处理网络生成的是带噪数据和干净数据之间的数据，也即第一特征处理网络和第二特征处理网络不是直接生成与去噪操作对应的分布信息，因此N的取值不受训练阶段的约束，当需要调整去噪操作的次数时，不需要重新训练第一特征处理网络和第二特征处理网络，本申请实施例提供的去噪方案，避免了对神经网络进行反复训练所带来的计算机资源的开销，提高了推理阶段的灵活性。

本申请的一些实施例中，请参阅图2a，执行设备230和客户设备250可以为分别独立的设备，执行设备230配置有输入/输出(I/O)接口，与客户设备250进行数据交互，“用户”可以直接与客户设备250进行交互，客户设备250通过I/O接口与执行设备230进行数据通信，执行设备230在利用计算模块231中的第一模型/规则201和第二模型/规则202生成干净数据之后，可以通过I/O接口将前述干净数据发送给客户设备250，提供给用户。

值得注意的，图2a仅是本发明实施例提供的一种数据的去噪系统的架构示意图，图中所示设备、器件、模块等之间的位置关系不构成任何限制。例如，在本申请的另一些实施例中，执行设备230可以配置于客户设备250中，作为示例，例如当客户设备为手机或平板时，执行设备230可以为手机或平板的主处理器(Host CPU)中用于执行去噪操作的模块，执行设备230也可以为手机或平板中的神经网络处理器(NPU)或者图形处理器(graphicsprocessing unit，GPU)，NPU或GPU作为协处理器挂载到主处理器上，由主处理器分配任务。

结合上述描述，下面开始对本申请实施例提供的神经网络的训练阶段和应用阶段的具体实现流程进行描述。

一、训练阶段

本申请实施例中，在一种情况下，第二预测信息指示带噪数据和干净数据之间的预测噪声的平方；在另一种情况下，第二预测信息指示第一预测信息和实际噪声之间的距离的平方，前述两种情况所对应的实现流程有所不同，以下对前述两种情况分别进行描述。

(一)第二预测信息指示带噪数据和干净数据之间的预测噪声的平方

请参阅图3，图3为本申请实施例提供的神经网络的训练方法的一种流程示意图，本申请实施例提供的神经网络的训练方法可以包括：

301、训练设备将第四带噪数据输入第一特征提取网络，得到第一特征提取网络生成的第二特征信息，第二特征信息至少包括第四带噪数据的特征信息。

本申请实施例中，训练设备上配置有训练数据集合，训练数据集合中有多个训练数据，每个训练数据可以包括用于训练的带噪数据，以及与该用于训练的带噪数据对应的一个干净数据。

具体的，针对与干净数据对应的带噪数据的获取。电子设备可以在获取到干净数据之后，在干净数据上加入符合目标数据分布的噪声，得到对干净数据执行了一次加噪操作后的带噪数据；再在前述加噪数据的基础上加入符合目标数据分布的噪声，得到对干净数据执行了两次加噪操作后的带噪数据。电子设备重复执行前述加噪操作M次之后，得到执行第M步加噪操作后生成的带噪数据。

为更直观地理解本方案，请参阅图4，图4为本申请实施例提供的对干净数据进行加噪的一种流程示意图。如图所示，可以对干净数据执行M步加噪操作后，能够得到用于执行训练操作的带噪数据，在每步加噪操作的过程中，均可以在执行上一步加噪操作后得到的带噪数据中加入符合目标数据分布的噪声，应理解，图4中的示例仅为方便理解本方案，不用于限定本方案。

电子设备还可以获取到执行前M-1步加噪操作时所生成的M-1个带噪数据，需要说明的是，对干净数据执行加噪操作的电子设备和训练设备可以为同一个设备；该电子设备和训练设备也可以为两个独立的设备，也即训练设备接收电子设备发送的训练数据。

其中，在对干净数据执行多次加噪操作的过程中，生成的带噪数据会不断失去干净数据中的信息，在执行M步加噪操作后得到的带噪数据可以具体表现为纯噪声，也即输入第一神经网络的带噪数据中不携带干净数据中的信息。

一个训练数据可以包括对干净数据执行n步加噪数据后得到的带噪数据、n的取值和该干净数据，n的取值大于0且小于或等于M。可选地，n的取值可以与M与N之间的除数确定，作为示例，例如M的取值为1000，N的取值为10，则n的取值可以为1000、900、800、700、600、500、400、300、200和100就，应理解，此处举例仅为方便理解n的取值，不用于限定本方案。

目标数据分布可以为高斯分布、伽马分布或其他类型的分布等，此处不做穷举；符合高斯分布的噪声也可以称为“高斯噪声”，符合伽马分布的噪声也可以称为“伽马噪声”等。本申请实施例中，可以在服从高斯分布或伽马分布的分布空间中采样去噪后数据，也即无论带噪数据中携带的噪声为高斯噪声还是伽马噪声，都可以采用本申请实施例提供的数据的去噪方法进行去噪，扩展了本方案的应用场景，提高了本方案的实现灵活性。

干净数据具体可以用于表达为如下任一种类型的数据：图像数据、声音数据、文本数据或其他类型的数据等等。

进一步地，干净数据、带噪数据和上述去噪操作采用的噪声的数据尺寸相同，也即干净数据、带噪数据和上述去噪操作采用的噪声具体均为H维的张量，且H维中每个维度上的长度均相同。作为示例，例如若干净数据为向量，则带噪数据和上述去噪操作采用的噪声也为向量，且干净数据、带噪数据和上述去噪操作采用的噪声中携带的数值个数相同；作为另一示例，例如若干净数据为矩阵，则带噪数据和上述去噪操作采用的噪声也为矩阵，且干净数据、带噪数据和上述去噪操作采用的噪声在长和宽这两个维度上均相同，应理解，此处举例仅为方便理解“数据尺寸相同”这一概念，不用于限定本方案。

本申请的一些实施例中，训练设备可以分开训练第一神经网络和第二神经网络，也即在生成训练后的第一神经网络之后，再训练第二神经网络；或者，在生成训练后的第二神经网络之后，再训练第一神经网络。则在对第一神经网络的一次训练过程中，训练设备可以从训练数据集合中获取第四带噪数据，将第四带噪数据和与第四带噪数据对应的n的取值输入第一特征提取网络，得到第一特征提取网络生成的第二特征信息，第二特征信息至少包括第四带噪数据的特征信息。

其中，第一神经网络可以包括第一特征提取网络和第一特征处理网络，也即第一神经网络的公式可以表达为

x_n代表输入第一神经网络中的带噪数据，n代表为了得到带噪数据所执行的加噪操作的次数，head(.)为第一特征处理网络，emb(.)为第一特征提取网络。

进一步地，第一特征提取网络可以采用卷积神经网络、循环神经网络、残差神经网络或其他类型的神经网络等等，对应的，第一特征处理网络也可以采用任意类型的神经网络，第一神经网络的具体结构，可以结合实际处理的数据类型来确定。

作为示例，例如第一特征提取网络具体可以采用U型神经网络(Unet)，Unet是一种呈现为U型结构的神经网络架构，第一特征处理网络具体可以采用概率扩散模型(diffusion probabilistic model，DPM)。为更直观地理解本方案，请参阅图5，图5为本申请实施例提供的第一神经网络的一种结构示意图。如图5所示，第一神经网络包括的第一特征提取网络采用Unet，第一神经网络包括的第一特征处理网络可以采用DPM模型，应理解，图5中的示例仅为方便理解本方案，不用于限定本方案。

可选地，训练设备可以将第四带噪数据、与第四带噪数据对应的n的取值和第二约束信息输入第一特征提取网络，得到第一特征提取网络生成的第二特征信息。其中，第二特征信息包括第四带噪数据和第二约束信息的特征信息；第四带噪数据可以为纯噪声，也可以为携带有第二干净数据中的信息。

第二干净数据满足该第二约束信息的约束；作为示例，例如第二约束信息为一段文本描述，第二干净数据为用特定人物的声音将该文本描述读出来的声音，第四带噪数据为用于表达声音数据的纯噪声；作为另一示例，例如第二约束信息为一段文本描述，第二干净数据为与该文本描述相符合的图像，第四带噪数据为用于表达图像数据的纯噪声等等，需要说明的是，此处举例仅为方便理解“约束信息”的概念，不用于限定本方案。

302、训练设备通过第一特征处理网络对第二特征信息进行处理，得到第一特征处理网络输出的第一预测信息，第一特征提取网络和第一特征处理网络包括于第一神经网络。

本申请实施例中，训练设备在通过第一特征提取网络生成第二特征信息之后，可以通过第一特征处理网络对第二特征信息进行处理，得到第一特征处理网络输出的第一预测信息，也即得到整个第一神经网络输出的第一预测信息。其中，第一预测信息指示第四带噪数据与第二干净数据之间的预测噪声，第一预测信息和带噪数据的数据尺寸相同。

303、训练设备根据与第四带噪数据对应的第二期望信息、第一预测信息和目标损失函数，对第一神经网络进行训练，目标损失函数指示第一预测信息和第二期望信息之间的相似度，第二期望信息指示第四带噪数据与第二干净数据之间的实际噪声。

本申请实施例中，训练设备可以基于第四带噪数据归属的训练数据，获取与第四带噪数据对应的第二期望信息，第二期望信息指示第四带噪数据与第二干净数据之间的实际噪声。训练设备根据第二期望信息和第一预测信息，计算目标损失函数的函数值，目标损失函数指示第一预测信息和第二期望信息之间的相似度。

训练设备对目标损失函数的函数值进行梯度求导，并反向更新第一神经网络的参数，以实现对第一神经网络的一次训练，训练设备可以重复执行步骤301至303，以实现对第一神经网络的迭代训练，直至满足第一收敛条件，得到训练后的第一神经网络，也即得到训练后的第一特征提取网络和训练后的第一特征处理网络；其中，第一收敛条件可以为满足目标损失函数的收敛条件、对第一神经网络迭代训练的次数达到预设次数或其他类型的收敛条件等等，此处不做限定。

304、训练设备将第三带噪数据输入第二特征提取网络，得到第二特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息。

本申请实施例中，训练设备可以初始化第二神经网络，第二神经网络可以包括第二特征提取网络和第二特征处理网络，由于第二神经网络和第一神经网络输出不同的预测信息，则第二神经网络和第一神经网络包括不同的特征处理网络。

针对第二神经网络中的第二特征提取网络，在一种实现方式中，若训练设备先对第一神经网络进行训练，得到训练后的第一神经网络，则可以将训练后的第一特征提取网络作为第二神经网络的第二特征提取网络，且在第二神经网络的训练过程中保持第二特征提取网络的参数不变，也即第二神经网络的训练过程中不再更新第二特征提取网络的参数，从而训练后的第一神经网络和第二神经网络包括相同的特征提取网络。

第二神经网络的公式可以表达为h_n(x_n)＝head_φ(emb(x_n,n))，x_n代表输入第二神经网络中的带噪数据，n代表为了得到带噪数据所执行的加噪操作的次数，emb(.)代表第二特征提取网络(也即训练后的第一特征提取网络)，在对第二神经网络进行训练的过程中可以固定第二特征提取网络的参数不变，head_φ(.)代表第二特征处理网络。

为更直观地理解本方案，请参阅图6，图6为本申请实施例提供的第二神经网络的一种结构示意图。如图6所示，第二神经网络包括的第二特征提取网络采用Unet，第二特征提取网络可以来源于训练后的第一神经网络；在对第二神经网络进行训练的过程中，可以保持第二特征提取网络的参数不变，对第二特征处理网络的参数进行更新，应理解，图6中的示例仅为方便理解本方案，不用于限定本方案。

在另一种实现方式中，训练设备先对第一神经网络进行训练，得到训练后的第一神经网络，则可以将训练后的第一特征提取网络作为第二神经网络的第二特征提取网络，且在第二神经网络的训练过程中也会更新第二特征提取网络的参数。

在另一种实现方式中，训练设备可以重新初始化第二神经网络中的第二特征提取网络，第二特征提取网络和第一特征提取网络为不同的神经网络。需要说明的是，第二特征提取网络和第二特征处理网络具体表现为什么类型的神经网络可以参阅步骤301中的描述，此处不做赘述。

本申请实施例中，训练设备从训练数据集中获取第三带噪数据，将第三带噪数据和与第三带噪数据对应的n的取值输入第二特征提取网络，得到第二特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息。

可选地，训练设备可以将第三带噪数据、与第三带噪数据对应的n的取值和第一约束信息输入第二特征提取网络，得到第二特征提取网络生成的第一特征信息。其中，第一特征信息包括第三带噪数据和第一约束信息的特征信息；第三带噪数据可以为纯噪声，也可以为携带有第一干净数据中的信息。

需要说明的是，若第一神经网络和第二神经网络采用相同的特征提取网络，则输入第一神经网络和第二神经网络的数据相同；若第一神经网络和第二神经网络采用不同的特征提取网络，则可以将约束信息输入至第一神经网络，且不将约束信息输入至第二神经网络；或者，也可以第一神经网络和第二神经网络中均输入约束信息。

305、训练设备通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，第二预测信息指示第三带噪数据和第一干净数据之间的预测噪声的平方。

本申请实施例中，训练设备在通过第二特征处理网络生成第一特征信息之后，可以通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，也即得到整个第二神经网络输出的第二预测信息。

其中，第二预测信息和带噪数据的数据尺寸相同，第二预测信息指示第三带噪数据和第一干净数据之间的预测噪声的平方。进一步地，第三带噪数据和第一干净数据之间的预测噪声的平方指的可以是第三带噪数据和第一干净数据之间的预测噪声中每个值的平方。

306、训练设备根据与第三带噪数据对应的第一期望信息、第二预测信息和第一损失函数，对第二特征处理网络进行训练，其中，第一损失函数指示第二预测信息和第一期望信息之间的相似度，第一期望信息指示第三带噪数据和第一干净数据之间的实际噪声的平方。

本申请实施例中，训练设备可以基于第三带噪数据归属的训练数据，获取与第三带噪数据对应的第二期望信息，第一期望信息指示第三带噪数据和第一干净数据之间的实际噪声的平方。训练设备根据第一期望信息和第一预测信息，计算第一损失函数的函数值，第一损失函数指示第二预测信息和第一期望信息之间的相似度。

其中，第一损失函数可以采用第二预测信息和第一期望信息之间的余弦相似度，或者，第一损失函数可以采用第二预测信息和第一期望信息之间的L2距离、欧式距离或采用其他类型的公式等，此处不做穷举。

作为示例，例如第一损失函数的公式可以为

h_n(x_n)代表第二神经网络输出的第二预测信息，

代表带噪数据和干净数据之间实际噪声的平方(也即第二期望信息)，

代表第二预测信息和第二期望信息之间的均方误差(也即第二预测信息和第一期望信息之间的L2距离)，应理解，此处举例仅为证明本方案的可实现性，不用于限定本方案。

针对训练设备第二神经网络中的参数进行更新的过程。在一种实现方式中，第二特征提取网络来源于训练后的第一神经网络，也即第二特征提取网络采用的为训练后的第一特征提取网络，则训练设备可以对第一损失函数的函数值进行梯度求导，并保持第二特征提取网络的参数不变，对第二神经网络中第二特征处理网络的参数进行更新，以实现对第二神经网络的一次训练。

在另一种实现方式中，训练设备可以对第一损失函数的函数值进行梯度求导，并反向更新整个第二神经网络的参数，以实现对第二神经网络的一次训练。

训练设备可以重复执行步骤304至306，以实现对第二神经网络的迭代训练，直至满足第二收敛条件，得到训练后的第二神经网络，也即得到训练后的第二特征处理网络；其中，第二收敛条件可以为满足第一损失函数的收敛条件、对第二神经网络迭代训练的次数达到预设次数或其他类型的收敛条件等等，此处不做限定。

需要说明的是，本申请实施例不限定步骤301至306的执行顺序，若分开训练第一神经网络和第二神经网络，则也可以先执行步骤304至306，再执行步骤301至303，则第一神经网络中的第一特征提取网络可以采用训练后的第二特征提取网络；若同时训练第一神经网络和第二神经网络，则可以将相同的带噪数据分别输入第一神经网络和第二神经网络中，进而对第一神经网络和第二神经网络进行训练。

进一步地，在推理阶段，第一特征处理网络输出的第一预测信息(也即带噪数据与所述干净数据之间的预测噪声)和第二特征处理网络输出的第二预测信息用于共同生成与去噪操作对应的分布信息，进而能够从分布信息指向的分布空间中采样得到与带噪数据对应的去噪后数据(也即执行过一次去噪操作后得到的去噪后数据)，具体实现原理将在后续针对推理阶段的方法中详细描述。

(二)第二预测信息指示第一预测信息和实际噪声之间的距离的平方

请参阅图7，图7为本申请实施例提供的神经网络的训练方法的一种流程示意图，本申请实施例提供的神经网络的训练方法可以包括：

701、训练设备将第四带噪数据输入第一特征提取网络，得到第一特征提取网络生成的第二特征信息，第二特征信息至少包括第四带噪数据的特征信息。

702、训练设备通过第一特征处理网络对第二特征信息进行处理，得到第一特征处理网络输出的与第四带噪数据对应的第一预测信息，与第四带噪数据对应的第一预测信息指示第四带噪数据与第二干净数据之间的预测噪声，第一特征提取网络和第一特征处理网络包括于第一神经网络。

703、训练设备根据与第四带噪数据对应的第二期望信息、第一预测信息和目标损失函数，对第一神经网络进行训练，目标损失函数指示与第四带噪数据对应的第一预测信息和第二期望信息之间的相似度，第二期望信息指示第四带噪数据与第二干净数据之间的实际噪声。

本申请实施例中，步骤701至703的具体实现方式可以参阅图3对应实施例中步骤301至303中的描述，步骤701至703中各个名词的具体含义可以参阅图3对应实施例中的描述，此处不再进行赘述。

704、训练设备将第三带噪数据输入第一神经网络，得到第一神经网络输出的与第三带噪数据对应的第一预测信息，与第三带噪数据对应的第一预测信息指示第三带噪数据与第一干净数据之间的预测噪声。

本申请的一些实施例中，若训练设备是同步训练第一神经网络和第二神经网络，也即将相同的带噪数据分别输入第一神经网络和第二神经网络，则可以不执行步骤701至703，直接执行步骤704；若训练设备是先训练第一神经网络，再训练第二神经网络，则为了生成第二期望信息，还需要将第三带噪数据输入训练后的第一神经网络中，得到与训练后的第一神经网络输出的第三带噪数据对应的第一预测信息；与第三带噪数据对应的第一预测信息指示第三带噪数据与第一干净数据之间的预测噪声。

步骤704的具体实现方式可以参阅图3对应实施例中步骤301和302中的描述，步骤704中各个名词的具体含义可以参阅图3对应实施例中的描述，此处不再进行赘述。

705、训练设备将第三带噪数据输入第二特征提取网络，得到第二特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息。

本申请实施例中，步骤705的具体实现方式可以参阅图3对应实施例中步骤304中的描述，步骤705中各个名词的具体含义可以参阅图3对应实施例中的描述，此处不再进行赘述。

706、训练设备通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，第二预测信息指示第一预测信息和第一实际噪声之间的预测距离的平方，第一实际噪声包括第三带噪数据和第一干净数据之间的实际噪声。

本申请实施例中，训练设备可以通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，也即得到整个第二神经网络输出的第二预测信息；其中，本实施例中的第二预测信息指示第一预测信息和第一实际噪声之间的预测距离的平方，第一实际噪声包括第三带噪数据和第一干净数据之间的实际噪声。

707、训练设备根据与第三带噪数据对应的第二期望信息、第二预测信息和第二损失函数，对第二特征处理网络进行训练，其中，第二损失函数指示第二预测信息和第二期望信息之间的相似度，第二期望信息指示与第三带噪数据对应的第一预测信息和第一实际噪声之间的实际距离的平方。

本申请实施例中，训练设备可以根据与第三带噪数据对应的第一预测信息和第一实际噪声，生成第二期望信息，第二期望信息指示与第三带噪数据对应的第一预测信息和第一实际噪声之间的实际距离的平方。根据与第三带噪数据对应的第二期望信息和第二预测信息，生成第二损失函数的函数值，第二损失函数指示与第三带噪数据对应的第二预测信息和第二期望信息之间的相似度。

其中，“与第三带噪数据对应的第一预测信息和第一实际噪声之间的实际距离”可以具体采用与第三带噪数据对应的第一预测信息和第一实际噪声之间的残差、余弦距离、L2距离或其他距离等等，此处不做穷举。

第二损失函数具体可以采用第二预测信息和第二期望信息之间的余弦相似度，或者，第一损失函数可以采用第二预测信息和第一期望信息之间的L2距离、欧式距离或采用其他类型的公式等，此处不做穷举。

作为示例，例如“与第三带噪数据对应的第一预测信息和第一实际噪声之间的实际距离的平方”的公式可以为

x_n代表输入的带噪数据，

代表第一神经网络生成的预测信息(也即带噪数据和干净数据之间的预测噪声)，∈_n代表输入的带噪数据和干净数据之间的实际噪声，

代表第一神经网络生成的预测信息和实际噪声之间的残差的平方。

例如第二损失函数的公式可以为

x_n代表输入第二神经网络中的带噪数据，g_n(x_n)代表第二神经网络输出的第二预测信息，

代表第一神经网络生成的预测信息和实际噪声之间的残差的平方(也即第二期望信息)，

代表第二预测信息和第二期望信息之间的L2距离，应理解，此处对“与第三带噪数据对应的第一预测信息和第一实际噪声之间的实际距离”和第二损失函数的举例仅为方便理解本方案，不用于限定本方案。

针对训练设备第二神经网络中的参数进行更新的过程。在一种实现方式中，第二特征提取网络来源于训练后的第一神经网络，也即第二特征提取网络采用的为训练后的第一特征提取网络，则训练设备可以对第二损失函数的函数值进行梯度求导，并保持第二特征提取网络的参数不变，对第二神经网络中第二特征处理网络的参数进行更新，以实现对第二神经网络的一次训练。

在另一种实现方式中，训练设备可以对第二损失函数的函数值进行梯度求导，并反向更新整个第二神经网络的参数，以实现对第二神经网络的一次训练。

训练设备可以重复执行步骤704至707，以实现对第二神经网络的迭代训练，直至满足第三收敛条件，得到训练后的第二神经网络，也即得到训练后的第二特征处理网络；其中，第三收敛条件可以为满足第二损失函数的收敛条件、对第二神经网络迭代训练的次数达到预设次数或其他类型的收敛条件等等，此处不做限定。

需要说明的是，若训练设备同步训练第一神经网络和第二神经网络，则不需要执行步骤701至704，训练设备还需要根据与第三带噪数据对应的第二期望信息、与第三带噪数据对应的第一预测信息和目标损失函数，对第一神经网络进行训练，目标损失函数指示第一预测信息和第二期望信息之间的相似度，与第三带噪数据对应的第二期望信息指示第三带噪数据与第一干净数据之间的实际噪声。

为更直观地理解本方案，请参阅图8，图8为本申请实施例提供的神经网络的训练方法一种流程示意图。图8中示出的为对第二神经网络的训练过程，在训练阶段，对每个干净数据x₀执行M次加噪操作后，能够得到与干净数据x₀对应的纯噪声，在执行M次加噪操作中能够获得M个带噪数据，从M个带噪数据中获取一个或多个带噪数据x_n。训练设备可以先采用多个带噪数据x_n对第一神经网络进行训练，得到训练后的第一神经网络，训练后的第一神经网络包括训练后的第一特征提取网络和训练后的第一特征处理网络。

训练设备将训练后的第一特征提取网络确定为第二神经网络包括的第二特征提取网络，并保持第二特征提取网络的参数不变，基于多个带噪数据x_n对第二特征提取网络的参数进行更新，具体对第一神经网络和第二神经网络的训练细节可以参阅上述实施例中的描述，此处不做赘述，应理解，图8中的示例仅为方便理解本方案，不用于限定本方案。

二、推理阶段

本申请实施例中，执行设备上部署有训练后的第一特征处理网络和训练后的第二特征处理网络，在一种实现方式中，如图9所示，图9为本申请实施例中提供的数据的去噪方法中神经网络的一种部署示意图，如图9所示，执行设备上部署有一个训练后的特征提取网络、训练后的第一特征处理网络和训练后的第二特征处理网络，也即第一特征处理网络和第二特征处理网络采用的同一个特征提取网络，则第一特征处理网络和第二特征处理网络用于处理相同的特征信息，应理解，图9中的示例仅为方便理解本方案，执行设备上还可以采用其他方式部署第一特征处理网络和第二特征处理网络，此处不做限定。

在另一种实现方式中，执行设备上分别部署有第一神经网络和第二神经网络，第一神经网络包括的第一特征提取网络和第二神经网络包括的第二特征提取网络可以为相同的神经网络，也可以为不同的神经网络。若第一特征提取网络和第二特征提取网络为相同的神经网络，则第一特征处理网络和第二特征处理网络用于处理相同的特征信息。

本申请实施例中，由于第一特征处理网络和第二特征处理网络处理的是相同的特征信息，也即第一特征处理网络和第二特征处理网络所对应的是同一个特征提取网络，或者，第一特征处理网络和第二特征处理网络所对应的是相同的特征提取网络，也即在训练阶段仅需要对一个特征提取网络进行训练，有利于提高训练阶段的效率。

具体的，请参阅图10，图10为本申请实施例提供的数据的去噪方法的一种流程示意图，本申请实施例提供的数据的去噪方法可以包括：

1001、执行设备通过第一特征处理网络生成与第一带噪数据对应的第一预测信息，与第一带噪数据对应的第一预测信息指示第一带噪数据与目标干净数据之间的预测噪声。

本申请实施例中，若执行设备对第一带噪数据执行至少一次去噪操作，以得到与第一带噪数据对应的目标干净数据，则执行设备需要通过第一特征处理网络生成与第一带噪数据对应的第一预测信息，与第一带噪数据对应的第一预测信息指示第一带噪数据与目标干净数据之间的预测噪声。

其中，第一带噪数据可以为纯噪声，也即第一带噪数据中不携带目标干净数据中的信息；或者，第一带噪数据也可以携带有目标干净数据中的信息。

具体的，在一种实现方式中，若第一特征处理网络和第二特征处理网络采用的同一个特征提取网络，则执行设备可以确定与第一带噪数据对应的n的取值，将第一带噪数据和与第一带噪数据对应的n的取值输入前述特征提取网络中，得到前述特征提取网络生成的与第一带噪数据对应的目标特征信息，目标特征信息至少包括第一带噪数据的特征信息。

其中，若第一带噪数据为纯噪声，则n的取值可以为M，N的取值是预先配置的超参数；若第一带噪数据不是纯噪声，则执行设备可以基于第一带噪数据，对n和N的取值进行预估；第一带噪数据中携带的噪声越多，则n的取值越靠近M，N的取值也越大；第一带噪数据中携带的噪声越多，则n和N的取值就越小。

可选地，执行设备将第一带噪数据、与第一带噪数据对应的n的取值和目标约束信息输入上述特征提取网络中，得到前述特征提取网络生成的目标特征信息，目标特征信息包括第一带噪数据的特征信息和目标约束信息的特征信息。

执行设备通过第一特征处理网络对目标特征信息进行处理，得到第一特征处理网络生成的与第一带噪数据对应的第一预测信息。

在另一种实现方式中，若执行设备上分别部署有第一神经网络和第二神经网络，则执行设备可以将第一带噪数据输入第一神经网络，得到第一神经网络中的第一特征提取网络生成的与第一带噪数据对应的目标特征信息，目标特征信息至少包括第一带噪数据的特征信息。

可选地，执行设备将第一带噪数据和目标约束信息输入第一神经网络中，得到第一神经网络中的第一特征提取网络生成的目标特征信息，目标特征信息包括第一带噪数据的特征信息和目标约束信息的特征信息。

执行设备通过第一神经网络中的第一特征处理网络对目标特征信息进行处理，得到第一神经网络生成的与第一带噪数据对应的第一预测信息。

1002、执行设备通过第二特征处理网络生成与第一带噪数据对应的第二预测信息，与第一带噪数据对应的第二预测信息指示第一带噪数据和目标干净数据之间的预测噪声的平方，或者，第二预测信息指示第一预测信息和目标实际噪声之间的预测距离的平方，目标实际噪声包括第一带噪数据和目标干净数据之间的实际噪声。

本申请实施例中，执行设备需要通过第二特征处理网络生成与第一带噪数据对应的第二预测信息，与第一带噪数据对应的第二预测信息指示第一带噪数据和目标干净数据之间的预测噪声的平方，或者，第二预测信息指示第一预测信息和目标实际噪声之间的预测距离的平方，目标实际噪声包括第一带噪数据和目标干净数据之间的实际噪声。

具体的，在一种实现方式中，若第一特征处理网络和第二特征处理网络采用的同一个特征提取网络，则执行设备可以获取前述特征提取网络生成的与第一带噪数据对应的目标特征信息；并通过第二特征处理网络处理前述目标特征信息，得到第二特征处理网络生成与第一带噪数据对应的第二预测信息。

其中，与第一带噪数据对应的目标特征信息至少包括第一带噪数据的特征信息。可选地，目标特征信息包括第一带噪数据的特征信息和目标约束信息的特征信息。

在另一种实现方式中，若执行设备上分别部署有第二神经网络和第二神经网络，则执行设备可以将第一带噪数据输入第二神经网络，得到第二神经网络中的第二特征提取网络生成的与第一带噪数据对应的目标特征信息，目标特征信息至少包括第一带噪数据的特征信息。

可选地，执行设备将第一带噪数据和目标约束信息输入第二神经网络中，得到第二神经网络中的第二特征提取网络生成的目标特征信息，目标特征信息包括第一带噪数据的特征信息和目标约束信息的特征信息。

执行设备通过第二神经网络中的第二特征处理网络对目标特征信息进行处理，得到第二神经网络生成的与第一带噪数据对应的第二预测信息。

需要说明的是，步骤1001和1002中各个名词的具体含义可以参阅图3和图7对应的各个实施例中的描述，此处不再一一进行赘述。

本申请实施例中，可以基于约束信息，对纯噪声(也即不携带干净数据中的信息)不断执行去噪操作，得到符合约束信息的干净数据，也即利用第一神经网络和第二神经网络能够从无生成服从约束信息的干净数据，扩展了特定的干净数据的获取渠道。

1003、执行设备根据与第一带噪数据对应的第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息。

本申请实施例中，针对执行设备对第一带噪数据执行N次去噪操作中的任意一次去噪操作(为方便描述，后续称为“目标去噪操作”)，执行设备可以获取与第一带噪数据对应的第一预测信息和第二预测信息，确定目前正在执行N次去噪操作中的第H次去噪操作，N次去噪操作中不同次去噪操作所对应的分布信息可以不同；训练设备根据与第一带噪数据对应的第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息。

其中，由于在训练阶段，纯噪声是对干净数据执行了M步加噪过程后得到的，对应的，通过对纯噪声执行M步去噪操作能够得到干净数据，且最理想的状态是每次去噪操作所得到的去噪后数据是对应的加噪操作的完全逆过程。作为示例，例如M的取值是1000，则理想状态中第1次去噪操作得到的去噪后数据和第999次加噪操作得到的带噪数据一致；作为另一示例，例如M的取值是1000，则理想状态中第100次去噪操作得到的去噪后数据和第900步加噪操作得到的带噪数据一致等，应理解，此处举例仅为方便理解本方案，不用于限定本方案。

为了提高推理阶段的效率，本方案中在推理阶段仅执行N次去噪操作，N的取值远小于s，则N次去噪操作中的每次去噪操作的目的是基于M步加噪操作中第n步加噪操作所对应的带噪数据，得到M步去噪操作中第s步加噪操作所对应的带噪数据，n和s均为正整数，n的取值大于s的取值，且n与s之间的差值大于或等于2，也即N次去噪操作中的每次去噪操作包括得到理想状态中M步去噪操作的多次去噪操作的去噪效果。

作为示例，例如M的取值为1000，N的取值为10，则10次去噪操作中的第一次去噪操作的目的是基于执行了1000步加噪操作后得到的带噪数据，生成执行了900步加噪操作后得到的带噪数据，也即若第一次去噪操作中n的取值为1000，s的取值为900。

10次去噪操作中的第二次去噪操作的目的是基于执行了900步加噪操作后得到的带噪数据，生成执行了800步加噪操作后得到的带噪数据，也即若第二次去噪操作中n的取值为900，s的取值为800。

10次去噪操作中的第三次去噪操作的目的是基于执行了800步加噪操作后得到的带噪数据，生成执行了700步加噪操作后得到的带噪数据，也即若第二次去噪操作中n的取值为800，s的取值为700等，10次去噪操作中的剩下的七次去噪操作可以以此类推，此处不再对剩下的七次去噪操作想要实现的效果进行赘述。

具体的，若与去噪操作对应的分布空间满足高斯分布或伽马分布，则执行设备可以根据与第一带噪数据对应的第一预测信息，生成与目标去噪操作对应的均值；根据与第一带噪数据对应的第二预测信息，生成与目标去噪操作对应的协方差，与目标去噪操作对应的均值和协方差能够指向特定的分布空间。

更具体的，执行设备可以确定与N次去噪操作中的第H次去噪操作(也即目标去噪操作)对应的n和s的取值，进而根据与第一带噪数据对应的第一预测信息、n的取值和s的取值，生成与N次去噪操作中的第H次去噪操作(也即目标去噪操作)对应的均值，H的取值大于或等于1，步骤1002中H的取值为1。

对应的，执行设备可以根据与第一带噪数据对应的第二预测信息、n的取值和s的取值，生成与N次去噪操作中的第H次去噪操作(也即目标去噪操作)对应的协方差。

其中，与第一带噪数据对应的第二预测信息指示第一带噪数据和目标干净数据之间的预测噪声的平方，或者，第二预测信息指示第一预测信息和目标实际噪声之间的预测距离的平方。为进一步理解本方案，以下公开基于与第一带噪数据对应的第二预测信息生成与目标去噪操作对应的协方差的公式的两个示例。

若第二预测信息指示第一带噪数据和目标干净数据之间的预测噪声的平方，如下公开与目标去噪操作对应的协方差的计算公式的一个示例：

其中，

代表与目标去噪操作对应的协方差，x_n代表输入至第一神经网络中的带噪数据，具体可以代表第一带噪数据，也可以代表第二带噪数据，

代表加噪过程中，从第0次加噪操作到第n步加噪操作加入的噪声总量的方差，

η为超参数，η的取值在0和1之间，一般η取做0或1，

代表加噪过程中，从第0次加噪操作到第s步次加噪操作加入的噪声总量的方差，β_n|s代表加噪过程中第s步加噪操作到第n步加噪操作加入的噪声总量的方差；

h_n(x_n)代表带噪数据和干净数据之间的预测噪声的平方(也即第二特征处理网络生成的第二预测信息的一种含义)，

代表第一特征处理网络生成的第一预测信息(也即带噪数据和干净数据之间的预测噪声)的平方，应理解，式(1)中的举例仅为证明本方案的可实现性，不用于限定本方案。

若第二预测信息指示第一预测信息和目标实际噪声之间的预测距离的平方，如下公开与目标去噪操作对应的协方差的计算公式的另一个示例：

其中，

代表与目标去噪操作对应的协方差，x_n、

和

的含义可以参阅上述对式(1)中参数的解释，此处不再赘述；g_n(x_n)代表第一预测信息和目标实际噪声之间的预测距离的平方(也即第二特征处理网络生成的第二预测信息的另一种含义)，应理解，式(2)中的举例仅为证明本方案的可实现性，不用于限定本方案。

进一步地，针对式(1)的生成原理，由于理想状态下，M步去噪操作中任意一步去噪操作能够实现对应的加噪操作的逆过程，也即每次去噪操作得到的去噪后数据与对应位置的加噪数据完全一致；则可以通过第一概率分布和第二概率分布之间的相似度，来优化N次去噪操作中每次去噪操作的效果。其中，N次去噪操作中任意一次去噪操作(也即第H次去噪操作)用于根据与第n步加噪操作对应的带噪数据，得到与第s步加噪操作对应的带噪数据，第一概率分布指的是第n步加噪操作后得到的带噪数据(也即第M-n步去噪操作后得到的去噪后数据的理想状态)和第s步加噪操作后得到的带噪数据(也即第M-s步去噪操作后得到的去噪后数据的理想状态)的概率分布，第二概率分布指的是通过第一神经网络和第二神经网络执行第H-1次去噪操作得到的去噪后数据和执行第H次去噪操作后得到的去噪数据的概率分布。第一概率分布和第二概率分布之间的相似度越高，则证明通过第一神经网络和第二神经网络执行的第H次去噪操作的效果越好。

则优化第一概率分布和第二概率分布之间的相似度，相当于优化第H次去噪操作的效果。则获取到用于表达目标为最小化第一概率分布和第二概率分布之间的相似度的第一公式，由于通过第一神经网络和第二神经网络执行每次去噪操作包括：基于第一神经网络生成的第一预测信息生成与第H次去噪操作对应的均值，基于第二神经网络生成的第二预测信息生成与第H次去噪操作对应的协方差，则第一公式中存在代表第H次去噪操作所对应的协方差的函数项。在得到第一公式之后，基于矩匹配原理对前述第一公式进行变换，得到第二公式；进而基于协方差分解公式(covariance decomposition formula)对第二公式进行变换，能够得到最终的最优协方差表达式。

为进一步理解本方案，此处以第一概率分布和第二概率分布之间的相似度具体采用第一概率分布和第二概率分布之间的KL散度，且借助于带噪数据和目标干净数据之间的预测噪声的平方来表达最优协方差为例，则最优协方差表达式的一个示例可以如下：

其中，

代表与目标去噪操作对应的协方差，

和

的含义可以参阅上述对式(1)中参数的解释，此处不再赘述，

代表期望利用x_n能够预测到最准确的

代表x_n(也即第H次去噪操作中所处理的带噪数据)和干净数据之间的实际噪声的平方，当h_n(x_n)(也即第二特征处理网络的输出)为最优结果时，h_n(x_n)和

等效；

代表

的平方，

代表期望利用x_n能够预测到最准确的∈_n，∈_n代表x_n和干净数据之间的实际噪声，当

(也即第一特征处理网络的输出)为最优结果时，

和

等效，因此，基于继续对式(3)进行推导，能够得到式(1)。

为进一步理解本方案，此处以第一概率分布和第二概率分布之间的相似度具体采用第一概率分布和第二概率分布之间的KL散度，且借助于第一预测信息和目标实际噪声之间的预测距离的平方来表达最优协方差为例，则最优协方差表达式的一个示例可以如下：

其中，

代表与目标去噪操作对应的协方差，

和

的含义可以参阅上述对式(1)中参数的解释，此处不再赘述，

代表期望利用x_n能够预测到最准确的

代表x_n与干净数据之间的实际噪声，和，第一特征提取网络输出的与x_n对应的第一预测信息之间的残差的平方，当g_n(x_n)(也即第二特征处理网络输出的结果)最优时，g_n(x_n)和

等效，因此，继续对式(4)进行推导，能够得到式(2)，应理解，此处对式(3)和式(4)的举例仅为证明式(1)和式(2)的可行性，不用于限定本方案。

本申请实施例中，进一步公开了根据第一预测信息和第二预测信息，生成与每次去噪操作的分布信息的实现细节，提高了本方案的可实现性。

1004、执行设备从与目标去噪操作对应的分布信息指向的分布空间中采样得到与第一带噪数据对应的去噪后数据。

本申请实施例中，执行设备在得到与目标去噪操作对应的分布信息之后，可以从分布信息指向的分布空间中随机采样一个数据，得到与第一带噪数据对应的一个去噪后数据，也即完成了N次去噪操作中的一次去噪操作，得到了执行N次去噪操作中的一次去噪操作后的去噪后数据。

为更直观地理解本方案，请参阅图11，图11为本申请实施例中提供的数据的去噪方法中执行去噪操作的一种示意图，如图11所示，训练设备在对第一带噪数据执行N次去噪操作后，能够得到与第一带噪数据对应的目标干净数据，理想状态中，N次去噪操作中的第H次去噪操作是由与第n步加噪操作对应的带噪数据(也即图11中的x_n)，得到与第s步加噪操作对应的带噪数据(也即图11中的x_s)，应理解，图11中的示例仅为方便理解本方案，不用于限定本方案。

1005、执行设备判断对第一带噪数据执行去噪操作的次数是否达到N次，若未达到N次，进入步骤1006；若达到N次，输出执行第N次去噪操作后得到的与第一带噪数据对应的目标干净数据。

本申请实施例中，执行设备在对第一带噪数据执行一次去噪操作后，可以判断对第一带噪数据执行去噪操作的总次数是否达到N次，若未达到N次，则进入步骤1006；若达到N次，则输出执行第N次去噪操作后得到的与第一带噪数据对应的目标干净数据。其中，N为大于或等于1的整数，且N为超参数；对应的，在M的次数固定的前提下，N次去噪操作中的每次去噪操作所对应的n和s也是超参数。

1006、执行设备通过第一特征处理网络生成与第二带噪数据对应的第一预测信息，与第二带噪数据对应的第一预测信息指示第二带噪数据与目标干净数据之间的预测噪声。

1007、执行设备通过第二特征处理网络生成与第二带噪数据对应的第二预测信息，与第二带噪数据对应的第二预测信息指示第二带噪数据和目标干净数据之间的预测噪声的平方，或者，第二预测信息指示第一预测信息和目标实际噪声之间的预测距离的平方。

1008、执行设备根据与第二带噪数据对应的第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息。

1009、执行设备从与目标去噪操作对应的分布信息指向的分布空间中采样得到与第二带噪数据对应的去噪后数据。

本申请实施例中，步骤1005至1009均为可选步骤，若N的取值为1，则在执行完步骤1004后，可以将步骤1004中生成的去噪后数据确定为与第一带噪数据对应的干净数据。若N的取值为大于或等于2的整数，则执行步骤1005至1009，并在执行完步骤1009之后，重新进入步骤1005；步骤1005至1009的具体实现方式可以参阅上述对步骤1001至1004的具体实现方式的介绍，区别在于，将步骤1001至1004中初始的带噪数据(也即第一带噪数据)，替换为步骤1005至1009中执行过至少一次去噪操作后的带噪数据。

为更直观地理解本方案，请参阅图12，图12为本申请实施例中提供的数据的去噪方法的一种流程示意图，如图12所示，执行设备在得到第一带噪数据之后，需要对第一带噪数据执行N次去噪操作；在第一次去噪操作中，执行设备将第一带噪数据输入特征提取网络中，得到特征提取网络生成的特征信息。

执行设备通过第一特征处理网络对上述特征信息进行处理，得到第一特征处理网络生成的第一预测信息，基于该第一预测信息生成与本次去噪操作对应的均值；执行设备通过第二特征处理网络对上述特征信息进行处理，得到第二特征处理网络生成的第二预测信息，基于该第二预测信息生成与本次去噪操作对应的协方差。

执行设备基于与本次去噪操作对应的均值和协方差，确定与本次去噪操作对应的分布空间，并对前述分布空间执行采样操作，得到与第一次去噪操作对应的去噪后数据，也即得到了第二去噪操作时所采用的带噪数据x_n。

在第二次去噪操作中，执行设备将带噪数据x_n输入特征提取网络，得到特征提取网络生成的特征信息。进而基于前述特征信息执行第二次去噪操作，得到与第二次去噪操作对应的去噪后数据，也即得到了第三次去噪操作时所采用的带噪数据。

执行设备重复执行去噪操作N次，能够得到与第一带噪数据对应的干净数据，应理解，图12中的示例仅为方便理解本方案，不用于限定本方案。

本申请实施例中，在执行去噪操作的过程中，通过第一特征处理网络生成第一预测信息，也即带噪数据与干净数据之间的预测噪声；通过第二特征处理网络生成第二预测信息，第二预测信息指示带噪数据和干净数据之间的预测噪声的平方，或者，指示第一预测信息和实际噪声之间的距离的平方；进而基于第一预测信息和第二预测信息，生成与去噪操作对应的分布信息，从分布信息指向的分布空间中采样得到与带噪数据对应的去噪后数据，也即完成了M步去噪操作中的一次去噪操作，由于第一特征处理网络和第二特征处理网络学习的是带噪数据和干净数据之间的数据，也即第一特征处理网络和第二特征处理网络均不直接学习与去噪操作对应的分布信息，因此对第一带噪数据执行去噪操作的次数不受训练阶段的约束，当需要调整去噪操作的次数时，不需要重新训练第一特征处理网络和第二特征处理网络，本申请实施例提供的去噪方案，避免了对神经网络进行反复训练所带来的计算机资源的开销，提高了推理阶段的灵活性。

接下来还结合实验数据，对本申请实施例所带来的有益效果进行展示。相比原始的扩散概率模型对数据执行去噪操作，采用本申请实施例提供的方法对数据执行去噪操作，能够在保证干净数据的质量的前提下，大大提高推理过程的速度，并减少推理阶段对计算资源的消耗。如图13所示，图13为本申请实施例提供的采用扩散概率模型和本申请实施例提供的方法生成的干净数据的一种对比示意图。图13的上子示意图是在数据集CIFAR10上进行的实验，图13的下子示意图是在数据集ImageNet上进行的实验，通过对比可知，基于本申请实施例提供的方法得到的干净数据的质量也不差。

而当对CIFAR10中的数据执行去噪操作，以得到干净数据时，相对于采用原始的扩散概率模型，采用本申请实施例提供的神经网络的推理速度提升了59倍，计算资源的开销仅为原来的1.7％。

而当对ImageNet中的数据执行去噪操作，以得到干净数据时，相对于采用原始的扩散概率模型，采用本申请实施例提供的神经网络的推理速度提升了80倍，计算资源的开销仅为原来的1.3％。

在图1a至图13所对应的实施例的基础上，为了更好的实施本申请实施例的上述方案，下面还提供用于实施上述方案的相关设备。具体参阅图14，图14为本申请实施例提供的数据的去噪装置的一种结构示意图，数据的去噪装置1400用于对第一带噪数据执行至少一次去噪操作，以得到与第一带噪数据对应的干净数据，去噪装置1400包括：获取模块1401，用于获取第一预测信息，其中，第一预测信息指示第二带噪数据与干净数据之间的预测噪声，第一预测信息由第一特征处理网络生成，第二带噪数据为第一带噪数据，或者，第二带噪数据为对第一带噪数据执行过至少一次去噪操作后的带噪数据；获取模块1401，还用于获取第二预测信息，其中，第二预测信息指示第二带噪数据和干净数据之间的预测噪声的平方，或者，第二预测信息指示第一预测信息和实际噪声之间的预测距离的平方，实际噪声包括第二带噪数据和干净数据之间的实际噪声，第二预测信息由第二特征处理网络生成，第一特征处理网络和第二特征处理网络处理的特征信息均基于第二带噪数据得到；生成模块1402，用于根据第一预测信息和第二预测信息，生成与目标去噪操作对应的分布信息，目标去噪操作为至少一次去噪操作中的任意一次；采样模块1403，用于从分布信息指向的分布空间中采样得到与第二带噪数据对应的去噪后数据。

在一种可能的设计中，第一特征处理网络和第二特征处理网络用于处理相同的特征信息。

在一种可能的设计中，若第一带噪数据为纯噪声，则至少一次去噪操作为N次去噪操作，N为大于或等于11的整数，且N为超参数，第一特征处理网络处理的特征信息包括第二带噪数据的特征信息和约束信息的特征信息，干净数据满足约束信息的约束。

在一种可能的设计中，生成模块1402，包括：第一生成子模块，用于根据第一预测信息，生成与目标去噪操作对应的均值；第二生成子模块，用于根据第二预测信息，生成与目标去噪操作对应的协方差。

在一种可能的设计中，分布信息指向的分布空间服从高斯分布或伽马分布。

需要说明的是，数据的去噪装置1400中各模块/单元之间的信息交互、执行过程等内容，与本申请中图10至图12对应的各个方法实施例基于同一构思，具体内容可参见本申请前述所示的方法实施例中的叙述，此处不再赘述。

请参阅图15，图15为本申请实施例提供的神经网络的训练装置的一种结构示意图，神经网络的训练装置1500包括：特征提取模块1501，用于将第三带噪数据输入特征提取网络，得到特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息；特征处理模块1502，用于通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，第二预测信息指示第三带噪数据和第一干净数据之间的预测噪声的平方，第三带噪数据为对第一干净数据执行多次加噪操作得到；训练模块1503，用于根据与第三带噪数据对应的第一期望信息、第二预测信息和第一损失函数，对第二特征处理网络进行训练，直至满足收敛条件，其中，第一损失函数指示第二预测信息和第一期望信息之间的相似度，第一期望信息指示第三带噪数据和第一干净数据之间的实际噪声的平方。

在一种可能的设计中，训练模块1503，具体用于保持特征提取网络的参数不变，对第二特征处理网络的参数进行更新；其中，特征提取网络来源于训练后的第一神经网络，第一神经网络用于基于输入的第四带噪数据，生成第四带噪数据和第二干净数据之间的预测噪声，第二干净数据为对第四带噪数据执行多次加噪操作后得到。

在一种可能的设计中，神经网络的训练装置1500还用于获取训练后的第一神经网络，第一神经网络用于基于输入的纯噪声和约束信息，生成第一预测信息，第一预测信息指示纯噪声和满足约束信息的干净数据之间的预测噪声。

需要说明的是，神经网络的训练装置1500中各模块/单元之间的信息交互、执行过程等内容，与本申请中图3至图6对应的各个方法实施例基于同一构思，具体内容可参见本申请前述所示的方法实施例中的叙述，此处不再赘述。

请参阅图16，图16为本申请实施例提供的神经网络的训练装置的一种结构示意图，神经网络的训练装置1600包括：特征提取模块1601，用于将第三带噪数据输入特征提取网络，得到特征提取网络生成的第一特征信息，第一特征信息至少包括第三带噪数据的特征信息；特征处理模块1602，用于通过第二特征处理网络对第一特征信息进行处理，得到第二特征处理网络输出的第二预测信息，第三带噪数据为对第一干净数据执行多次加噪操作后得到，第二预测信息指示第一预测信息和实际噪声之间的预测距离的平方，第一预测信息包括由第一神经网络生成的第三带噪数据和第一干净数据之间的预测噪声，第一神经网络用于基于输入的第三带噪数据生成第一预测信息，实际噪声包括第三带噪数据和第一干净数据之间的实际噪声；

训练模块1603，用于根据与第三带噪数据对应的第二期望信息、第二预测信息和第二损失函数，对第二特征处理网络进行训练，直至满足收敛条件，其中，第二损失函数指示第二预测信息和第二期望信息之间的相似度，第二期望信息指示第一预测信息和实际噪声之间的实际距离的平方。

在一种可能的设计中，训练模块1603，具体用于保持特征提取网络的参数不变，对第二特征处理网络的参数进行更新，其中，特征提取网络来源于训练后的第一神经网络。

需要说明的是，神经网络的训练装置1600中各模块/单元之间的信息交互、执行过程等内容，与本申请中图7至图9对应的各个方法实施例基于同一构思，具体内容可参见本申请前述所示的方法实施例中的叙述，此处不再赘述。

接下来介绍本申请实施例提供的一种执行设备，请参阅图17，图17为本申请实施例提供的执行设备的一种结构示意图，具体的，执行设备1700包括：接收器1701、发射器1702、处理器1703和存储器1704(其中执行设备1700中的处理器1703的数量可以一个或多个，图17中以一个处理器为例)，其中，处理器1703可以包括应用处理器17031和通信处理器17032。在本申请的一些实施例中，接收器1701、发射器1702、处理器1703和存储器1704可通过总线或其它方式连接。

存储器1704可以包括只读存储器和随机存取存储器，并向处理器1703提供指令和数据。存储器1704的一部分还可以包括非易失性随机存取存储器(non-volatile randomaccess memory，NVRAM)。存储器1704存储有处理器和操作指令、可执行模块或者数据结构，或者它们的子集，或者它们的扩展集，其中，操作指令可包括各种操作指令，用于实现各种操作。

处理器1703控制执行设备的操作。具体的应用中，执行设备的各个组件通过总线系统耦合在一起，其中总线系统除包括数据总线之外，还可以包括电源总线、控制总线和状态信号总线等。但是为了清楚说明起见，在图中将各种总线都称为总线系统。

上述本申请实施例揭示的方法可以应用于处理器1703中，或者由处理器1703实现。处理器1703可以是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器1703中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器1703可以是通用处理器、数字信号处理器(digital signal processing，DSP)、微处理器或微控制器，还可进一步包括专用集成电路(application specific integratedcircuit，ASIC)、现场可编程门阵列(field-programmable gate array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。该处理器1703可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器1704，处理器1703读取存储器1704中的信息，结合其硬件完成上述方法的步骤。

接收器1701可用于接收输入的数字或字符信息，以及产生与执行设备的相关设置以及功能控制有关的信号输入。发射器1702可用于通过第一接口输出数字或字符信息；发射器1702还可用于通过第一接口向磁盘组发送指令，以修改磁盘组中的数据；发射器1702还可以包括显示屏等显示设备。

本申请实施例中，处理器1703中的应用处理器17031，用于执行图10至图12对应实施例中的执行设备执行的数据的去噪方法。需要说明的是，应用处理器17031执行上述各个步骤的具体方式，与本申请中图10至图12对应的各个方法实施例基于同一构思，其带来的技术效果与本申请中图10至图12对应的各个方法实施例相同，具体内容可参见本申请前述所示的方法实施例中的叙述，此处不再赘述。

本申请实施例还提供了一种训练设备，请参阅图18，图18是本申请实施例提供的训练设备一种结构示意图，具体的，训练设备1800由一个或多个服务器实现，训练设备1800可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(centralprocessing units，CPU)1822(例如，一个或一个以上处理器)和存储器1832，一个或一个以上存储应用程序1842或数据1844的存储介质1830(例如一个或一个以上海量存储设备)。其中，存储器1832和存储介质1830可以是短暂存储或持久存储。存储在存储介质1830的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对训练设备中的一系列指令操作。更进一步地，中央处理器1822可以设置为与存储介质1830通信，在训练设备1800上执行存储介质1830中的一系列指令操作。

训练设备1800还可以包括一个或一个以上电源1826，一个或一个以上有线或无线网络接口1850，一个或一个以上输入输出接口1858，和/或，一个或一个以上操作系统1841，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等等。

本申请实施例中，在一种情况下，中央处理器1822，用于执行图3至图6对应实施例中的训练设备执行的数据的去噪方法。需要说明的是，中央处理器1822执行上述各个步骤的具体方式，与本申请中图3至图6对应的各个方法实施例基于同一构思，其带来的技术效果与本申请中图图3至图6对应的各个方法实施例相同，具体内容可参见本申请前述所示的方法实施例中的叙述，此处不再赘述。

在一种情况下，中央处理器1822，用于执行图7至图9对应实施例中的训练设备执行的数据的去噪方法。需要说明的是，中央处理器1822执行上述各个步骤的具体方式，与本申请中图7至图9对应的各个方法实施例基于同一构思，其带来的技术效果与本申请中图图7至图9对应的各个方法实施例相同，具体内容可参见本申请前述所示的方法实施例中的叙述，此处不再赘述。

本申请实施例中还提供一种包括计算机程序产品，计算机程序产品包括程序，当该程序在计算机上运行时，使得计算机执行如前述图10至图12所示实施例描述的方法中执行设备所执行的步骤，或者，使得计算机执行如前述图3至图6所示实施例描述的方法中训练设备所执行的步骤，或者，使得计算机执行如前述图7至图9所示实施例描述的方法中训练设备所执行的步骤。

本申请实施例中还提供一种计算机可读存储介质，该计算机可读存储介质中存储有程序，当该程序在计算机上运行时，使得计算机执行如前述图10至图12所示实施例描述的方法中执行设备所执行的步骤，或者，使得计算机执行如前述图3至图6所示实施例描述的方法中训练设备所执行的步骤，或者，使得计算机执行如前述图7至图9所示实施例描述的方法中训练设备所执行的步骤。

本申请实施例提供的执行设备、训练设备、数据的去噪装置或神经网络的训练装置具体可以为芯片，芯片包括：处理单元和通信单元，所述处理单元例如可以是处理器，所述通信单元例如可以是输入/输出接口、管脚或电路等。该处理单元可执行存储单元存储的计算机执行指令，以使芯片执行上述图10至图12所示实施例描述的数据的去噪方法，或者，以使训练设备内的芯片执行上述图3至图6所示实施例描述的神经网络的训练方法，或者，以使训练设备内的芯片执行上述图7至图9所示实施例描述的神经网络的训练方法。可选地，所述存储单元为所述芯片内的存储单元，如寄存器、缓存等，所述存储单元还可以是所述无线接入设备端内的位于所述芯片外部的存储单元，如只读存储器(read-only memory，ROM)或可存储静态信息和指令的其他类型的静态存储设备，随机存取存储器(randomaccess memory，RAM)等。

具体的，请参阅图19，图19为本申请实施例提供的芯片的一种结构示意图，所述芯片可以表现为神经网络处理器NPU 190，NPU 190作为协处理器挂载到主CPU(Host CPU)上，由Host CPU分配任务。NPU190的核心部分为运算电路1903，通过控制器1904控制运算电路1903提取存储器中的矩阵数据并进行乘法运算。

在一些实现中，运算电路1903内部包括多个处理单元(Process Engine，PE)。在一些实现中，运算电路1903是二维脉动阵列。运算电路1903还可以是一维脉动阵列或者能够执行例如乘法和加法这样的数学运算的其它电子线路。在一些实现中，运算电路1903是通用的矩阵处理器。

举例来说，假设有输入矩阵A，权重矩阵B，输出矩阵C。运算电路从权重存储器1902中取矩阵B相应的数据，并缓存在运算电路中每一个PE上。运算电路从输入存储器1901中取矩阵A数据与矩阵B进行矩阵运算，得到的矩阵的部分结果或最终结果，保存在累加器(accumulator)1908中。

统一存储器1906用于存放输入数据以及输出数据。权重数据直接通过存储单元访问控制器(Direct Memory Access Controller，DMAC)1905，DMAC被搬运到权重存储器1902中。输入数据也通过DMAC被搬运到统一存储器1906中。

BIU为Bus Interface Unit即，总线接口单元1910，用于AXI总线与DMAC和取指存储器(Instruction Fetch Buffer，IFB)1909的交互。

总线接口单元1910(Bus Interface Unit，简称BIU)，用于取指存储器1909从外部存储器获取指令，还用于存储单元访问控制器1905从外部存储器获取输入矩阵A或者权重矩阵B的原数据。

DMAC主要用于将外部存储器DDR中的输入数据搬运到统一存储器1906或将权重数据搬运到权重存储器1902中或将输入数据数据搬运到输入存储器1901中。

向量计算单元1907包括多个运算处理单元，在需要的情况下，对运算电路的输出做进一步处理，如向量乘，向量加，指数运算，对数运算，大小比较等等。主要用于神经网络中非卷积/全连接层网络计算，如Batch Normalization(批归一化)，像素级求和，对特征平面进行上采样等。

在一些实现中，向量计算单元1907能将经处理的输出的向量存储到统一存储器1906。例如，向量计算单元1907可以将线性函数和/或非线性函数应用到运算电路1903的输出，例如对卷积层提取的特征平面进行线性插值，再例如累加值的向量，用以生成激活值。在一些实现中，向量计算单元1907生成归一化的值、像素级求和的值，或二者均有。在一些实现中，处理过的输出的向量能够用作到运算电路1903的激活输入，例如用于在神经网络中的后续层中的使用。

控制器1904连接的取指存储器(instruction fetch buffer)1909，用于存储控制器1904使用的指令；

统一存储器1906，输入存储器1901，权重存储器1902以及取指存储器1909均为On-Chip存储器。外部存储器私有于该NPU硬件架构。

其中，上述各个方法实施例中的神经网络中各层的运算可以由运算电路1903或向量计算单元1907执行。

其中，上述任一处提到的处理器，可以是一个通用中央处理器，微处理器，ASIC，或一个或多个用于控制上述第一方面方法的程序执行的集成电路。

另外需说明的是，以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。另外，本申请提供的装置实施例附图中，模块之间的连接关系表示它们之间具有通信连接，具体可以实现为一条或多条通信总线或信号线。

通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件的方式来实现，当然也可以通过专用硬件包括专用集成电路、专用CPU、专用存储器、专用元器件等来实现。一般情况下，凡由计算机程序完成的功能都可以很容易地用相应的硬件来实现，而且，用来实现同一功能的具体硬件结构也可以是多种多样的，例如模拟电路、数字电路或专用电路等。但是，对本申请而言更多情况下软件程序实现是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在可读取的存储介质中，如计算机的软盘、U盘、移动硬盘、ROM、RAM、磁碟或者光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，训练设备，或者网络设备等)执行本申请各个实施例所述的方法。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。

所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、训练设备或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、训练设备或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的训练设备、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘(Solid State Disk，SSD))等。

Claims (24)

1.一种数据的去噪方法，其特征在于，所述方法用于对第一带噪数据执行至少一次去噪操作，以得到与所述第一带噪数据对应的干净数据，所述至少一次去噪操作中的任意一次目标去噪操作包括：

获取第一预测信息，其中，所述第一预测信息指示第二带噪数据与所述干净数据之间的预测噪声，所述第一预测信息由第一特征处理网络生成，所述第二带噪数据为所述第一带噪数据，或者，所述第二带噪数据为对所述第一带噪数据执行过至少一次去噪操作后的带噪数据；

获取第二预测信息，其中，所述第二预测信息指示所述第二带噪数据和所述干净数据之间的预测噪声的平方，或者，所述第二预测信息指示所述第一预测信息和实际噪声之间的预测距离的平方，所述实际噪声包括所述第二带噪数据和所述干净数据之间的实际噪声，所述第二预测信息由第二特征处理网络生成，所述第一特征处理网络和所述第二特征处理网络处理的特征信息均基于所述第二带噪数据得到；

根据所述第一预测信息和所述第二预测信息，生成与所述目标去噪操作对应的分布信息；

从所述分布信息指向的分布空间中采样得到与所述第二带噪数据对应的去噪后数据。

2.根据权利要求1所述的方法，其特征在于，所述第一特征处理网络和所述第二特征处理网络用于处理相同的特征信息。

3.根据权利要求1或2所述的方法，其特征在于，所述至少一次去噪操作为N次去噪操作，所述N为大于或等于1的整数，若所述第一带噪数据为纯噪声，则所述N为超参数，所述第一特征处理网络处理的特征信息包括所述第二带噪数据的特征信息和约束信息的特征信息，所述干净数据满足所述约束信息的约束。

4.根据权利要求1或2所述的方法，其特征在于，所述根据所述第一预测信息和所述第二预测信息，生成与所述目标去噪操作对应的分布信息，包括：

根据所述第一预测信息，生成与所述目标去噪操作对应的均值；

根据所述第二预测信息，生成与所述目标去噪操作对应的协方差。

5.根据权利要求1或2所述的方法，其特征在于，所述分布信息指向的分布空间服从高斯分布或伽马分布。

6.一种神经网络的训练方法，其特征在于，所述方法包括：

将第三带噪数据输入特征提取网络，得到所述特征提取网络生成的第一特征信息，所述第一特征信息至少包括所述第三带噪数据的特征信息；

通过第二特征处理网络对所述第一特征信息进行处理，得到所述第二特征处理网络输出的第二预测信息，所述第二预测信息指示所述第三带噪数据和第一干净数据之间的预测噪声的平方，所述第三带噪数据为对所述第一干净数据执行多次加噪操作得到；

根据与所述第三带噪数据对应的第一期望信息、所述第二预测信息和第一损失函数，对所述第二特征处理网络进行训练，直至满足收敛条件，其中，所述第一损失函数指示所述第二预测信息和所述第一期望信息之间的相似度，所述第一期望信息指示所述第三带噪数据和所述第一干净数据之间的实际噪声的平方。

7.根据权利要求6所述的方法，其特征在于，所述对所述第二特征处理网络进行训练，包括：

保持所述特征提取网络的参数不变，对所述第二特征处理网络的参数进行更新；

其中，所述特征提取网络来源于训练后的第一神经网络，所述第一神经网络用于基于输入的第四带噪数据，生成所述第四带噪数据和第二干净数据之间的预测噪声，所述第二干净数据为对所述第四带噪数据执行多次加噪操作后得到。

8.根据权利要求6或7所述的方法，其特征在于，所述方法还用于获取训练后的第一神经网络，所述第一神经网络用于基于输入的纯噪声和约束信息，生成第一预测信息，所述第一预测信息指示所述纯噪声和满足所述约束信息的干净数据之间的预测噪声。

9.一种神经网络的训练方法，其特征在于，所述方法包括：

将第三带噪数据输入特征提取网络，得到所述特征提取网络生成的第一特征信息，所述第一特征信息至少包括所述第三带噪数据的特征信息；

通过第二特征处理网络对所述第一特征信息进行处理，得到所述第二特征处理网络输出的第二预测信息，所述第三带噪数据为对第一干净数据执行多次加噪操作后得到，所述第二预测信息指示第一预测信息和实际噪声之间的预测距离的平方，所述第一预测信息包括由第一神经网络生成的所述第三带噪数据和所述第一干净数据之间的预测噪声，所述第一神经网络用于基于输入的所述第三带噪数据生成所述第一预测信息，所述实际噪声包括所述第三带噪数据和所述第一干净数据之间的实际噪声；

根据与所述第三带噪数据对应的第二期望信息、所述第二预测信息和第二损失函数，对所述第二特征处理网络进行训练，直至满足收敛条件，其中，所述第二损失函数指示所述第二预测信息和所述第二期望信息之间的相似度，所述第二期望信息指示所述第一预测信息和所述实际噪声之间的实际距离的平方。

10.根据权利要求9所述的方法，其特征在于，所述对所述第二特征处理网络进行训练，包括：

保持所述特征提取网络的参数不变，对所述第二特征处理网络的参数进行更新，其中，所述特征提取网络来源于训练后的所述第一神经网络。

11.一种数据的去噪装置，其特征在于，所述数据的去噪装置用于对第一带噪数据执行至少一次去噪操作，以得到与所述第一带噪数据对应的干净数据，所述去噪装置包括：

获取模块，用于获取第一预测信息，其中，所述第一预测信息指示第二带噪数据与所述干净数据之间的预测噪声，所述第一预测信息由第一特征处理网络生成，所述第二带噪数据为所述第一带噪数据，或者，所述第二带噪数据为对所述第一带噪数据执行过至少一次去噪操作后的带噪数据；

所述获取模块，还用于获取第二预测信息，其中，所述第二预测信息指示所述第二带噪数据和所述干净数据之间的预测噪声的平方，或者，所述第二预测信息指示所述第一预测信息和实际噪声之间的预测距离的平方，所述实际噪声包括所述第二带噪数据和所述干净数据之间的实际噪声，所述第二预测信息由第二特征处理网络生成，所述第一特征处理网络和所述第二特征处理网络处理的特征信息均基于所述第二带噪数据得到；

生成模块，用于根据所述第一预测信息和所述第二预测信息，生成与目标去噪操作对应的分布信息，所述目标去噪操作为所述至少一次去噪操作中的任意一次；

采样模块，用于从所述分布信息指向的分布空间中采样得到与所述第二带噪数据对应的去噪后数据。

12.根据权利要求11所述的装置，其特征在于，所述第一特征处理网络和所述第二特征处理网络用于处理相同的特征信息。

13.根据权利要求11或12所述的装置，其特征在于，若所述第一带噪数据为纯噪声，则所述至少一次去噪操作为N次去噪操作，所述N为大于或等于11的整数，且所述N为超参数，所述第一特征处理网络处理的特征信息包括所述第二带噪数据的特征信息和约束信息的特征信息，所述干净数据满足所述约束信息的约束。

14.根据权利要求11或12所述的装置，其特征在于，所述生成模块，包括：

第一生成子模块，用于根据所述第一预测信息，生成与所述目标去噪操作对应的均值；

第二生成子模块，用于根据所述第二预测信息，生成与所述目标去噪操作对应的协方差。

15.根据权利要求11或12所述的装置，其特征在于，所述分布信息指向的分布空间服从高斯分布或伽马分布。

16.一种神经网络的训练装置，其特征在于，所述装置包括：

特征提取模块，用于将第三带噪数据输入特征提取网络，得到所述特征提取网络生成的第一特征信息，所述第一特征信息至少包括所述第三带噪数据的特征信息；

特征处理模块，用于通过第二特征处理网络对所述第一特征信息进行处理，得到所述第二特征处理网络输出的第二预测信息，所述第二预测信息指示所述第三带噪数据和第一干净数据之间的预测噪声的平方，所述第三带噪数据为对所述第一干净数据执行多次加噪操作得到；

训练模块，用于根据与所述第三带噪数据对应的第一期望信息、所述第二预测信息和第一损失函数，对所述第二特征处理网络进行训练，直至满足收敛条件，其中，所述第一损失函数指示所述第二预测信息和所述第一期望信息之间的相似度，所述第一期望信息指示所述第三带噪数据和所述第一干净数据之间的实际噪声的平方。

17.根据权利要求16所述的装置，其特征在于，所述训练模块，具体用于保持所述特征提取网络的参数不变，对所述第二特征处理网络的参数进行更新；

其中，所述特征提取网络来源于训练后的第一神经网络，所述第一神经网络用于基于输入的第四带噪数据，生成所述第四带噪数据和第二干净数据之间的预测噪声，所述第二干净数据为对所述第四带噪数据执行多次加噪操作后得到。

18.根据权利要求16或17所述的装置，其特征在于，所述装置还用于获取训练后的第一神经网络，所述第一神经网络用于基于输入的纯噪声和约束信息，生成第一预测信息，所述第一预测信息指示所述纯噪声和满足所述约束信息的干净数据之间的预测噪声。

19.一种神经网络的训练装置，其特征在于，所述装置包括：

特征提取模块，用于将第三带噪数据输入特征提取网络，得到所述特征提取网络生成的第一特征信息，所述第一特征信息至少包括所述第三带噪数据的特征信息；

特征处理模块，用于通过第二特征处理网络对所述第一特征信息进行处理，得到所述第二特征处理网络输出的第二预测信息，所述第三带噪数据为对第一干净数据执行多次加噪操作后得到，所述第二预测信息指示第一预测信息和实际噪声之间的预测距离的平方，所述第一预测信息包括由第一神经网络生成的所述第三带噪数据和所述第一干净数据之间的预测噪声，所述第一神经网络用于基于输入的所述第三带噪数据生成所述第一预测信息，所述实际噪声包括所述第三带噪数据和所述第一干净数据之间的实际噪声；

训练模块，用于根据与所述第三带噪数据对应的第二期望信息、所述第二预测信息和第二损失函数，对所述第二特征处理网络进行训练，直至满足收敛条件，其中，所述第二损失函数指示所述第二预测信息和所述第二期望信息之间的相似度，所述第二期望信息指示所述第一预测信息和所述实际噪声之间的实际距离的平方。

20.根据权利要求19所述的装置，其特征在于，

所述训练模块，具体用于保持所述特征提取网络的参数不变，对所述第二特征处理网络的参数进行更新，其中，所述特征提取网络来源于训练后的所述第一神经网络。

21.一种计算机程序产品，其特征在于，所述计算机程序产品包括程序，当所述程序在计算机上运行时，使得计算机执行如权利要求1至10中任一项所述的方法。

22.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有程序，当所述程序在计算机上运行时，使得计算机执行如权利要求1至10中任一项所述的方法。

23.一种执行设备，其特征在于，包括处理器和存储器，所述处理器与所述存储器耦合，

所述存储器，用于存储程序；

所述处理器，用于执行所述存储器中的程序，使得所述执行设备执行如权利要求1至5中任一项所述的方法。

24.一种训练设备，其特征在于，包括处理器和存储器，所述处理器与所述存储器耦合，

所述存储器，用于存储程序；

所述处理器，用于执行所述存储器中的程序，使得所述训练设备执行如权利要求6至8中任一项所述的方法，或者，使得所述训练设备执行如权利要求9或10所述的方法。

Images