CN108898219A - 一种基于区块链的神经网络训练方法、装置及介质 - Google Patents

Abstract

本发明公开了一种基于区块链的神经网络训练方法、装置及介质，该方法的步骤包括：响应目标节点所发起的训练请求，并获取目标节点提供的神经网络模型以及样本数据；选取区块链网络中符合预设条件的可用节点；将样本数据划分为数据片段，并将神经网络模型及数据片段分配至各可用节点；控制各可用节点以根据数据片段对神经网络模型进行训练，并获取结果模型；将各结果模型进行合并，以生成神经网络训练结果。本方法相对保证了神经网络训练的效果，并且实现神经网络训练的难度相对较低。此外，本发明还提供一种基于区块链的神经网络训练装置及介质，有益效果同上所述。

Description

一种基于区块链的神经网络训练方法、装置及介质

技术领域

本发明涉及区块链技术领域，特别是涉及一种基于区块链的神经网络训练方法、装置及介质。

背景技术

神经网络在十几年前被众多科学家提出后迅速黯淡下来，研究和发展遭遇了巨大的障碍，最主要的原因是受限于计算资源的限制以及数据来源的短缺，进而无法为神经网络的训练提供有力的支持。近年来，由于集成电路的发展，使计算机的硬件能够逐渐适应神经网络训练的高强度运算，另外由于传感器技术的发展，使用于神经网络训练的数据样本也在逐渐丰富，因此神经网络训练再次成为目前的技术流行趋势。

然而，为了达到对神经网络训练后“深度学习”的效果，仅凭单独的计算机硬件进行神经网络训练仍然难以实现。当前所提出的神经网络训练策略，通常是采用“云计算”的方案，但是“云计算”对设备之间的兼容性有相对较高的要求，需要所有设备的兼容性均符合同一标准，因此通过“云计算”进行神经网络训练的实现难度较大。

由此可见，提供一种基于区块链的神经网络训练方法，以在保证神经网络训练效果的同时，降低神经网络训练的实现难度，是本领域技术人员亟待解决的问题。

发明内容

本发明的目的是提供一种基于区块链的神经网络训练方法、装置及介质，以在保证神经网络训练效果的同时，降低神经网络训练的实现难度。

为解决上述技术问题，本发明提供一种基于区块链的神经网络训练方法，包括：

响应目标节点所发起的训练请求，并获取目标节点提供的神经网络模型以及样本数据；

选取区块链网络中符合预设条件的可用节点；

将样本数据划分为数据片段，并将神经网络模型及数据片段分配至各可用节点；

控制各可用节点以根据数据片段对神经网络模型进行训练，并获取结果模型；

将各结果模型进行合并，以生成神经网络训练结果。

优选的，在选取区块链网络中符合预设条件的可用节点前，该方法进一步包括：

获取目标节点预设的训练期望时间，并计算区块链网络中各节点对神经网络模型进行训练所需的训练时间；

相应的，预设条件具体为训练时间小于训练期望时间。

优选的，在控制各可用节点以根据数据片段对神经网络模型进行训练后，该方法进一步包括：

判断在进行训练的过程中是否有目标可用节点脱离区块链网络；

如果是，则通过区块链网络中其它的可用节点重新执行目标可用节点的训练内容。

优选的，数据片段依照线性规划的原则分配至各可用节点。

优选的，目标节点具体为个人电脑。

此外，本发明还提供一种基于区块链的神经网络训练装置，包括：

响应获取模块，用于响应目标节点所发起的训练请求，并获取目标节点提供的神经网络模型以及样本数据；

节点选取模块，用于选取区块链网络中符合预设条件的可用节点；

数据分配模块，用于将样本数据划分为数据片段，并将神经网络模型及数据片段分配至各可用节点；

训练执行模块，用于控制各可用节点以根据数据片段对神经网络模型进行训练，并获取结果模型；

结果合并模块，用于将各结果模型进行合并，以生成神经网络训练结果。

优选的，该装置进一步包括：

训练预估模块，用于获取目标节点预设的训练期望时间，并计算区块链网络中各节点对神经网络模型进行训练所需的训练时间。

优选的，该装置进一步包括：

判断模块，用于判断在进行训练的过程中是否有目标可用节点脱离区块链网络，如果是，则执行重执行模块；

重执行模块，用于通过区块链网络中其它的可用节点重新执行目标可用节点的训练内容。

此外，本发明还提供一种基于区块链的神经网络训练装置，包括：

存储器，用于存储计算机程序；

处理器，用于执行计算机程序时实现如上述的基于区块链的神经网络训练方法的步骤。

此外，本发明还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时实现如上述的基于区块链的神经网络训练方法的步骤。

本发明所提供的基于区块链的神经网络训练方法，响应在区块链网络中目标节点所发起的神经网络训练请求，并且获取与训练相关的神经网络模型以及样本数据，进而在区块链网络中选取符合预设条件的各可用节点，以用于根据样本数据所划分的数据片段分别对神经网络模型进行训练，在训练后对结果模型进行合并，得到最终的神经网络训练结果。本方法实现了基于区块链的方式对神经网络的训练，由于区块链网络是由可相互通信的节点所构成的，进而在本方法中将目标节点所提供的神经网络模型以及样本数据分配到区块链网络中的多个节点以同步执行神经网络训练任务，相对保证了神经网络训练的效果，并且由于区块链网络对于节点的性能以及节点之间的兼容性要求较低，因此建立区块链网络以实现神经网络训练的难度相对较低，也在一定程度上节省了配置高性能节点所需要的开销，降低了实现神经网络训练的整体成本。此外，本发明还提供一种基于区块链的神经网络训练装置及介质，有益效果同上所述。

附图说明

为了更清楚地说明本发明实施例，下面将对实施例中所需要使用的附图做简单的介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种基于区块链的神经网络训练方法的流程图；

图2为本发明实施例提供的一种基于区块链的神经网络训练装置结构图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下，所获得的所有其他实施例，都属于本发明保护范围。

本发明的核心是提供一种基于区块链的神经网络训练方法，以在保证神经网络训练效果的同时，降低神经网络训练的实现难度。本发明的另一核心是提供一种基于区块链的神经网络训练装置及介质。

为了使本技术领域的人员更好地理解本发明方案，下面结合附图和具体实施方式对本发明作进一步的详细说明。

实施例一

图1为本发明实施例提供的一种基于区块链的神经网络训练方法的流程图。请参考图1，基于区块链的神经网络训练方法的具体步骤包括：

步骤S10：响应目标节点所发起的训练请求，并获取目标节点提供的神经网络模型以及样本数据。

本步骤的主要内容是响应对于神经网络所发起的训练请求，目标节点可以具体为区块链网络以外的节点，在此情况下需要通过目标节点与区块链网络中的节点进行通信实现对区块链网络中节点的控制。作为较优选的方式，目标节点也可以是区块链网络中任意的节点，由于目标节点与其它节点在相同的网络机制下，因此目标节点与其它节点的通信效率也能够得到保障。另外，发起训练请求的对象具体可以为区块链的控制软件，即通过区块链的控制软件发起训练请求，通过区块链的控制软件对区块链网络中节点的文件系统进行控制，以实现对节点中区块链的操作。另外，区块链的控制软件可以仅安装在区块链网络中的某一节点中并对所有节点进行统一控制，可以分别安装在区块链网络中的各节点中，进而各节点中的控制软件相互兼容并通信，以建立并维系各节点之间的区块链网络。

另外，需要说明的是，所获取的神经网络模型是实现神经网络训练的基础，是由大量的、简单的处理单元广泛的互相连接而形成的复杂网络系统，能够反映人脑的许多基本特征的数据信息处理模型。所获取的样本数据是为神经网络模型的训练提供的数据基础。需要强调的是，本申请中所指的“训练”，本质是对于数据的计算，而在神经网络和深度学习的领域中习惯性地将对基于神经网络模型的数据计算称为“训练”。

步骤S11：选取区块链网络中符合预设条件的可用节点。

本步骤中的预设条件通常是与节点的当前状态或节点的性能相关的条件，例如预设条件为“所选取的节点需要处于在线状态”或“所选取的节点的计算性能达到既定水平”等，设置预设条件的目的在于选取能够进行神经网络训练工作且能够胜任当前训练强度的节点。

步骤S12：将样本数据划分为数据片段，并将神经网络模型及数据片段分配至各可用节点。

需要说明的是，为了对神经网络模型进行训练以尽可能达到“深度学习”的目的，需要大量的样本数据作为神经网络模型的训练基础，而单独的节点往往难以承担海量数据下的神经网络训练，因此在本步骤中将样本数据划分为数据片段，进而将数据片段以及神经网络模型分配至之前步骤所选取的可用节点中，以此实现了由多个节点共同进行神经网络的训练，将训练压力分摊至多个节点，保证了整体的训练效率。此外，需要强调的是，在区块链网络中节点之间的通信均采取非对称加密，即通信时发送方在传输数据前，需要先使用接收方的公钥对所传输数据进行加密，在得到加密数据后将加密数据传输至接收方，接收方通过自身的私钥对加密数据进行解密，以得到发送方所传输的数据。

步骤S13：控制各可用节点以根据数据片段对神经网络模型进行训练，并获取结果模型。

可以理解的是，本步骤的目的是进行各个可用节点中神经网络的训练，每一个可用节点都具有相同的神经网络模型以及不同的数据片段，每个可用节点均根据自身的数据片段对神经网络模型进行训练，进而得到各可用节点执行训练后的结果模型。

另外，需要说明的是，在可用节点根据数据片段对神经网络模型进行训练得到结果模型后，可以对可用节点采取相应的奖励机制，例如按照可用节点的工作量给予可用节点相应的代币作为回应，以此能够激励更多的用户节点自发的加入区块链网络中，进行对神经网络模型的训练，进一步降低了实现神经网络训练的整体成本。另外，可以采用PoW(工作量证明)的算法衡量可用节点的工作量，但这仅为一种具体的实现方法，在此不做为限定。

步骤S14：将各结果模型进行合并，以生成神经网络训练结果。

可以理解的是，本步骤是对各个可用节点进行神经网络训练所得的结果进行汇总，合并成为完整的神经网络训练结果，该神经网络训练结果就相当于对完整的样本数据进行训练所得的结果。

本发明所提供的基于区块链的神经网络训练方法，响应在区块链网络中目标节点所发起的神经网络训练请求，并且获取与训练相关的神经网络模型以及样本数据，进而在区块链网络中选取符合预设条件的各可用节点，以用于根据样本数据所划分的数据片段分别对神经网络模型进行训练，在训练后对结果模型进行合并，得到最终的神经网络训练结果。本方法实现了基于区块链的方式对神经网络的训练，由于区块链网络是由可相互通信的节点所构成的，进而在本方法中将目标节点所提供的神经网络模型以及样本数据分配到区块链网络中的多个节点以同步执行神经网络训练任务，相对保证了神经网络训练的效果，并且由于区块链网络对于节点的性能以及节点之间的兼容性要求较低，因此建立区块链网络以实现神经网络训练的难度相对较低，也在一定程度上节省了配置高性能节点所需要的开销，降低了实现神经网络训练的整体成本。

实施例二

在上述实施例的基础上，本发明还提供以下一系列优选的实施方式。

作为一种优选的实施方式，在选取区块链网络中符合预设条件的可用节点前，该方法进一步包括：

获取目标节点预设的训练期望时间，并计算区块链网络中各节点对神经网络模型进行训练所需的训练时间；

相应的，预设条件具体为训练时间小于训练期望时间。

需要说明的是，由于区块链网络对于节点的性能要求较低，考虑到区块链网络中的节点性能可能存在参差不齐的情况，性能较低的节点无法承担对较复杂的神经网络模型的训练任务，因此在本实施方式中，目标节点预设有训练期望时间，即目标节点能够接受的训练时间，进而需要根据神经网络模型计算区块链网络中各节点完成对神经网络模型的训练所需要的时间，此处的时间可以具体为节点训练单位样本数据所需要的时间。只有实际的训练时间小于训练期望时间的节点，才能够符合目标节点对训练时间的要求，相应的，所选取的可用节点所满足的预设条件应具体为“训练时间小于训练期望时间”。另外，需要说明的是，根据神经网络模型计算训练所需要的时间应具体根据神经网络模型的结构、层数以及每层中神经网络的数目进行综合性的计算。例如，神经网络模型中具有3层，并且底层具有9个神经网络，中间层具有3个神经网络，最顶层为神经网络的根节点，并且最底层神经网络的单位训练时间为1，中间层神经网络的单位训练时间为2，最顶层神经网络的单位训练时间为3，则单位数据完成对该神经网络模型的训练所需要的训练时间应为1*9+2*3+3*1＝18，上述仅为对训练时间的计算示例，并不作为具体限定。

作为一种优选的实施方式，在控制各可用节点以根据数据片段对神经网络模型进行训练后，该方法进一步包括：

判断在进行训练的过程中是否有目标可用节点脱离区块链网络；

如果是，则通过区块链网络中其它的可用节点重新执行目标可用节点的训练内容。

由于考虑到区块链网络中的节点性能普遍较低，并且在实际的区块链使用场景下，区块链网络中各个节点都是由互联网中互不相识的用户自发加入的，并且共同响应区块链网络的运作，因此各节点的可靠性相对难以得到保障，在此情况下，为了神经网络训练结果的完整性，可以判断在进行训练的过程中是否有目标可用节点脱离区块链网络，如果是，则说明该节点无法提供神经网络训练的结果模型，进而需要通过区块链网络中其它的可用节点重新执行目标可用节点的训练内容，以此确保了神经网络训练结果的完整性。需要说明的是，此处的“其它的可用节点”指的是在区块链网络中，除目标可用节点外的任意节点。

作为一种优选的实施方式，数据片段依照线性规划的原则分配至各可用节点。

需要说明的是，线性规划是研究线性约束条件下线性目标函数的极值问题的理论和方法。在本实施例中，由于考虑到可用节点中的各个节点的资源也往往各不相同，因此需要将数据片段合理的分配至各可用节点中。由于节点的资源数量与所处理数据片段的数量、节点的资源数量与训练时间、数据片段的数量与训练时间等参数之间均存在线性关系，在本实施方式中，线性规划所解决的问题在于根据当前的线性关系，规划最合理的数据分配策略，因此能够进一步提高神经网络训练的整体效率。

在上述实施例的基础上，作为一种优选的实施方式，目标节点具体为个人电脑。

考虑到在区块链机制下，对于设备的运算以及兼容性无特殊要求，因此可以采用个人电脑作为区块链网络中的目标节点。通过个人电脑发起对神经网络模型的训练相对便捷并且符合用户的日常使用习惯，并且目标节点在发起神经网络训练请求的同时也能够作为众多执行训练的可用节点中的一员，在实现神经网络训练的前提下，相对降低了整体的成本。

实施例三

在上文中对于基于区块链的神经网络训练方法的实施例进行了详细的描述，本发明还提供一种与该方法对应的基于区块链的神经网络训练装置，由于装置部分的实施例与方法部分的实施例相互对应，因此装置部分的实施例请参见方法部分的实施例的描述，这里暂不赘述。

图2为本发明实施例提供的一种基于区块链的神经网络训练装置结构图。本发明实施例提供的基于区块链的神经网络训练装置，包括：

响应获取模块10，用于响应目标节点所发起的训练请求，并获取目标节点提供的神经网络模型以及样本数据；

节点选取模块11，用于选取区块链网络中符合预设条件的可用节点；

数据分配模块12，用于将样本数据划分为数据片段，并将神经网络模型及数据片段分配至各可用节点；

训练执行模块13，用于控制各可用节点以根据数据片段对神经网络模型进行训练，并获取结果模型；

结果合并模块14，用于将各结果模型进行合并，以生成神经网络训练结果。

本发明所提供的基于区块链的神经网络训练装置，响应在区块链网络中目标节点所发起的神经网络训练请求，并且获取与训练相关的神经网络模型以及样本数据，进而在区块链网络中选取符合预设条件的各可用节点，以用于根据样本数据所划分的数据片段分别对神经网络模型进行训练，在训练后对结果模型进行合并，得到最终的神经网络训练结果。本装置实现了基于区块链的方式对神经网络的训练，由于区块链网络是由可相互通信的节点所构成的，进而在本装置中将目标节点所提供的神经网络模型以及样本数据分配到区块链网络中的多个节点以同步执行神经网络训练任务，相对保证了神经网络训练的效果，并且由于区块链网络对于节点的性能以及节点之间的兼容性要求较低，因此建立区块链网络以实现神经网络训练的难度相对较低，也在一定程度上节省了配置高性能节点所需要的开销，降低了实现神经网络训练的整体成本。

在实施例三的基础上，该装置还包括：

训练预估模块，用于获取目标节点预设的训练期望时间，并计算区块链网络中各节点对神经网络模型进行训练所需的训练时间。

在实施例三的基础上，该装置还包括：

判断模块，用于判断在进行训练的过程中是否有目标可用节点脱离区块链网络，如果是，则执行重执行模块；

重执行模块，用于通过区块链网络中其它的可用节点重新执行目标可用节点的训练内容。

实施例四

本发明还提供一种基于区块链的神经网络训练装置，包括：

存储器，用于存储计算机程序；

处理器，用于执行计算机程序时实现如上述的基于区块链的神经网络训练方法的步骤。

本发明所提供的基于区块链的神经网络训练装置，响应在区块链网络中目标节点所发起的神经网络训练请求，并且获取与训练相关的神经网络模型以及样本数据，进而在区块链网络中选取符合预设条件的各可用节点，以用于根据样本数据所划分的数据片段分别对神经网络模型进行训练，在训练后对结果模型进行合并，得到最终的神经网络训练结果。本装置实现了基于区块链的方式对神经网络的训练，由于区块链网络是由可相互通信的节点所构成的，进而在本装置中将目标节点所提供的神经网络模型以及样本数据分配到区块链网络中的多个节点以同步执行神经网络训练任务，相对保证了神经网络训练的效果，并且由于区块链网络对于节点的性能以及节点之间的兼容性要求较低，因此建立区块链网络以实现神经网络训练的难度相对较低，也在一定程度上节省了配置高性能节点所需要的开销，降低了实现神经网络训练的整体成本。

本发明还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时实现如上述的基于区块链的神经网络训练方法的步骤。

本发明所提供的基于区块链的神经网络训练的计算机可读存储介质，响应在区块链网络中目标节点所发起的神经网络训练请求，并且获取与训练相关的神经网络模型以及样本数据，进而在区块链网络中选取符合预设条件的各可用节点，以用于根据样本数据所划分的数据片段分别对神经网络模型进行训练，在训练后对结果模型进行合并，得到最终的神经网络训练结果。本计算机可读存储介质实现了基于区块链的方式对神经网络的训练，由于区块链网络是由可相互通信的节点所构成的，进而在本计算机可读存储介质中将目标节点所提供的神经网络模型以及样本数据分配到区块链网络中的多个节点以同步执行神经网络训练任务，相对保证了神经网络训练的效果，并且由于区块链网络对于节点的性能以及节点之间的兼容性要求较低，因此建立区块链网络以实现神经网络训练的难度相对较低，也在一定程度上节省了配置高性能节点所需要的开销，降低了实现神经网络训练的整体成本。

以上对本发明所提供的一种基于区块链的神经网络训练方法、装置及介质进行了详细介绍。说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。

还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims (10)

1.一种基于区块链的神经网络训练方法，其特征在于，包括：

响应目标节点所发起的训练请求，并获取所述目标节点提供的神经网络模型以及样本数据；

选取区块链网络中符合预设条件的可用节点；

将所述样本数据划分为数据片段，并将所述神经网络模型及所述数据片段分配至各所述可用节点；

控制各所述可用节点以根据所述数据片段对所述神经网络模型进行训练，并获取结果模型；

将各所述结果模型进行合并，以生成神经网络训练结果。

2.根据权利要求1所述的方法，其特征在于，在所述选取区块链网络中符合预设条件的可用节点前，该方法进一步包括：

获取所述目标节点预设的训练期望时间，并计算所述区块链网络中各节点对所述神经网络模型进行训练所需的训练时间；

相应的，所述预设条件具体为所述训练时间小于所述训练期望时间。

3.根据权利要求1所述的方法，其特征在于，在控制各所述可用节点以根据所述数据片段对所述神经网络模型进行训练后，该方法进一步包括：

判断在进行所述训练的过程中是否有目标可用节点脱离所述区块链网络；

如果是，则通过所述区块链网络中其它的所述可用节点重新执行所述目标可用节点的训练内容。

4.根据权利要求1所述的方法，其特征在于，所述数据片段依照线性规划的原则分配至各所述可用节点。

5.根据权利要求1-4任意一项所述的方法，其特征在于，所述目标节点具体为个人电脑。

6.一种基于区块链的神经网络训练装置，其特征在于，包括：

响应获取模块，用于响应目标节点所发起的训练请求，并获取所述目标节点提供的神经网络模型以及样本数据；

节点选取模块，用于选取区块链网络中符合预设条件的可用节点；

数据分配模块，用于将所述样本数据划分为数据片段，并将所述神经网络模型及所述数据片段分配至各所述可用节点；

训练执行模块，用于控制各所述可用节点以根据所述数据片段对所述神经网络模型进行训练，并获取结果模型；

结果合并模块，用于将各所述结果模型进行合并，以生成神经网络训练结果。

7.根据权利要求6所述的装置，其特征在于，该装置进一步包括：

训练预估模块，用于获取所述目标节点预设的训练期望时间，并计算所述区块链网络中各节点对所述神经网络模型进行训练所需的训练时间。

8.根据权利要求6所述的装置，其特征在于，该装置进一步包括：

判断模块，用于判断在进行所述训练的过程中是否有目标可用节点脱离所述区块链网络，如果是，则执行重执行模块；

所述重执行模块，用于通过所述区块链网络中其它的所述可用节点重新执行所述目标可用节点的训练内容。

9.一种基于区块链的神经网络训练装置，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如权利要求1至5任一项所述的基于区块链的神经网络训练方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至5任一项所述的基于区块链的神经网络训练方法的步骤。