CN111679905A

CN111679905A - 算网融合网络模型

Info

Publication number: CN111679905A
Application number: CN202010390773.0A
Authority: CN
Inventors: 仇超; 任晓旭; 曹一凡; 王晓飞
Original assignee: Tianjin University
Current assignee: Pioneer Cloud Computing Shanghai Co ltd
Priority date: 2020-05-11
Filing date: 2020-05-11
Publication date: 2020-09-18
Anticipated expiration: 2040-05-11
Also published as: CN111679905B

Abstract

一种算网融合网络模型，应用于人工智能技术领域，包括基础设施层，用于提供算力资源，以及将各计算子任务接收至相应的计算节点；资源池层，用于感知该算力资源，并将算力资源进行池化和分组，得到多个算力资源池和网络资源池；算力调度优化层，用于分析用户的需求类型，将该用户需求对应的各计算子任务分配到该基础设施层中的不同的计算节点上，并根据各计算子任务的计算等级，选择相匹配的算力资源池；AI应用层，用于将AI应用进行分类；区块链层，用于将三侧之间进行的算力交易情况反馈至算力调度优化层；AI执行层，用于根据AI应用的类型，选择机器学习执行平台和神经网络，响应来自人工智能应用快速增长的算力需求，推动计算和网络的融合。

Description

算网融合网络模型

技术领域

本公开涉及人工智能技术领域，尤其涉及一种算网融合网络模型(INC，In-NetComputing)。

背景技术

近年来，人工智能(AI，Artificial Intelligence)技术和产业迅猛发展，正在全球掀起新的产业革命。算法、数据和算力是人工智能发展的重要支撑，其中高效算力作为关键驱动因素之一，在数据处理、算法优化、高精度快速交互等方面起着催化作用。随着算力向众多网络边缘甚至终端设备的扩展，算力网络的概念被提出。

但是，现有针对算力网络的研究主要集中在计算资源的管理与调度，对网络资源优化方面的研究较少。

发明内容

本公开的主要目的在于提供一种算网融合网络模型，以响应来自人工智能应用的快速增长的算力需求，使得无处不在的AI需求和无处不在的计算、联网能力的相互匹配，推动计算和网络的融合。

为实现上述目的，本公开实施例提供一种算网融合网络模型，包括：

基础设施层、资源池层、算力调度优化层、AI执行层、区块链层、AI应用层；

所述基础设施层，用于提供算力资源，以及将所述算力调度优化层分配的各计算子任务接收至相应的计算节点；

所述资源池层，用于感知所述算力资源，并将所述算力资源在计算池和网络池进行池化和分组，得到多个算力资源池和网络资源池，用于为各计算子任务提供传输到所述基础设施层的传输路径；

所述算力调度优化层，用于分析用户的需求类型，利用资源分配算法，将所述用户需求对应的各计算子任务分配到所述基础设施层中的不同的计算节点上，并根据各计算子任务的计算等级，选择相匹配的算力资源池；

所述AI应用层，用于将不同类型的AI应用进行分类；

所述区块链层，用于将用户侧、组网侧和算力提供者侧之间进行的算力交易情况反馈至所述算力调度优化层，优化所述资源分配算法；

所述AI执行层，用于根据AI应用的类型，选择与所述AI应用的类型相匹配的机器学习执行平台和神经网络。

可选的，所述优化所述资源分配算法包括：

从所述用户侧对所述资源分配算法进行优化，以最大化所述用户侧的效用；

从所述组网侧对所述资源分配算法进行优化，降低算网融合网络的平均拥塞指数，使得用户获得单位算力资源的等待时间更小；

从所述算力提供者侧对所述资源分配算法进行优化，鼓励所述算网融合网络模型外的算力提供者加入到所述基础设施层，提高算力提供者的算力收益。

可选的，所述从所述用户侧对所述资源分配算法进行优化包括：

建立用户侧算力分配机制，所述用户侧算力分配机制中，每个被指定的AI应用必须在规定的时间内完成，每个计算节点上的计算单元必须在安全强度范围内，保证用户侧计算单元分配的总请求不超过可用的算力。

可选的，所述从所述组网侧对所述资源分配算法进行优化包括：

建立组网侧算力分配机制，从所述组网侧对所述资源分配算法进行优化，以最小化组网侧的平均拥塞指数，从而降低网络等待时延，提高资源利用率。

可选的，所述从所述算力提供者侧对所述资源分配算法进行优化包括：

建立算力提供者算力分配机制，从所述算力提供侧对算力资源进行优化以最大化所述算力提供者的福利。

可选的，所述区块链层采用交易规则多方统一的分布式账本，以维护多方之间的交易，所述多方包括用户、组网和算力提供者。

可选的，所述区块链层采用共识协议，以保证各参与方对一个区块增加的唯一顺序一致。

可选的，所述区块链层采用智能合约，所述智能合约在满足预设条件时自动执行。

可选的，所述根据各计算子任务的计算等级，选择相匹配的算力资源池包括：

将各计算子任务划分为多个计算等级，利用资源分配算法，选择与进行等级划分后的各计算子任务相匹配的算力资源池。

可选的，所述用户的需求类型包括计算类需求、网络类需求和支付费用类需求。

在本实施例中，算网融合网络模型包括基础设施层、资源池层、算力调度优化层、AI执行层、区块链层、AI应用层；该基础设施层，用于提供算力资源，以及将该算力调度优化层分配的各计算子任务接收至相应的计算节点；该资源池层，用于感知该算力资源，并将该算力资源在计算池和网络池进行池化和分组，得到多个算力资源池和网络资源池，用于为各计算子任务提供传输到该基础设施层的传输路径；该算力调度优化层，用于分析用户的需求类型，利用资源分配算法，将该用户需求对应的各计算子任务分配到该基础设施层中的不同的计算节点上，并根据各计算子任务的计算等级，选择相匹配的算力资源池；该AI应用层，用于将不同类型的AI应用进行分类；该区块链层，用于将用户侧、组网侧和算力提供者侧之间进行的算力交易情况反馈至该算力调度优化层，优化该资源分配算法；该AI执行层，用于根据AI应用的类型，选择与该AI应用的类型相匹配的机器学习执行平台和神经网络。响应来自人工智能应用的快速增长的算力需求，推动计算和网络的融合。

附图说明

为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本公开一实施例提供的算网融合网络模型的结构示意图；

图2为本公开一实施例提供的算网融合网络模型的结构示意图；

图3为本公开一实施例提供的人工智能任务的工作流程示意图。

具体实施方式

为使得本公开的公开目的、特征、优点能够更加的明显和易懂，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而非全部实施例。基于本公开中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。

请参阅图1，图1为本公开一实施例提供的算网融合网络模型的结构示意图，该模型包括：

该基础设施层，用于提供算力资源，以及将该算力调度优化层分配的各计算子任务接收至相应的计算节点；

该资源池层，用于感知该算力资源，并将该算力资源在计算池和网络池进行池化和分组，得到多个算力资源池和网络资源池，用于为各计算子任务提供传输到该基础设施层的传输路径；

该算力调度优化层，用于分析用户的需求类型，利用资源分配算法，将该用户需求对应的各计算子任务分配到该基础设施层中的不同的计算节点上，并根据各计算子任务的计算等级，选择相匹配的算力资源池；

该AI应用层，用于将不同类型的AI应用进行分类；

该区块链层，用于将用户侧、组网侧和算力提供者侧之间进行的算力交易情况反馈至该算力调度优化层，优化该资源分配算法；

该AI执行层，用于根据AI应用的类型，选择与该AI应用的类型相匹配的机器学习执行平台和神经网络。

具体的，请参阅图2，在基础设施层中，包括wifi、路由器、基站等提供的组网能力，5G和边缘计算的出现加速了算力从云端向网络边缘和终端设备的迁移，而由各类基础设备合作构成的端-边-云协同网络架构越来越成为网络计算架构未来的趋势。终端设备如智能摄像头、终端传感器、交通灯等具有突出的计算和网络特性，可以执行敏捷且无处不在的数据收集和推理。在网络边缘，人工智能站(华为Atlas系列芯片)、移动边缘计算基站、智能家居网关都是边缘智能的优势。而在某些情况下，边缘只能受限于其有限的算力(大数据分析、大型神经网络训练等)，仍然需要云端进行高速的计算、存储。

具体的，在资源池层中，包括算力资源池和网络资源池。多层次的计算资源和无处不在的网络资源在这一层被抽象和聚集。通常，资源池管理器负责从基础设施层感知物理计算和网络，同时将分散的资源在计算池和网络池中进行池化和分组。由于算力是由分散的算力提供者提供的，所以对计算池中计算资源使用情况的追踪也是很重要的问题。同时，网络池的可靠性和私密性也是需要被保障的。

具体的，在算力调度优化层中，INC上不同用户的需求差异较大，所以根据用户的计算需求、网络需求、和对贡献者的支付金额将他们的需求分成不同的类。其中计算需求包括“密集计算型”需求，“适中计算型”需求和“轻量计算型”需求。网络需求也按类似的分类方法分为“快速网络型”需求，“适中网络型”需求和“低速网络型”。由于系统鼓励用户付费使用算力和网络，因此支付金额可以分为“较高费用型”，“适中费用型”和“较低费用型”。之后利用强化学习、拍卖机制、凸优化等资源分配算法对划分后的需求进行优化分配，使之匹配不同的算力资源池。

具体的，在AI执行层中，为了能高效地完成人工智能应用，该框架实现了接口式的神经网络和机器学习执行平台。根据不同的人工智能应用的需求，该层能灵活地选择合适地神经网络。例如使用反向传播网络(BPNs)进行文本识别、使用递归神经网络(RNNs)进行语音识别、使用卷积神经网络(CNNs)进行图像识别等。此外，这一层也包含各种各样的学习平台框架，如Tensorflow，Caffe，PyTorch，Theano，CNTK等。

具体的，在区块链层中，来自端、边、云架构异构、分散和众筹的算力被不同的用户以一种有补偿的方式使用。因此需要一个可信的平台来支持安全可靠的管理，并确保自发算力提供者的服务可靠性。由于区块链安全、透明和去中心化的特性，我们将区块链层引入INC中，以一种防篡改和可追踪的方式在算力用户和算力贡献者之间构建信任。另一方面，区块链的激励机制能鼓励更多的算力提供者加入INC，这可能是未来算力实现的新趋势。此外，在区块链中执行类似于PoW等耗能的共识机制时对算力有很大需求。因此在INC中使用区块链是两者互利的。由于分布式账本、共识协议、智能合约、密码学原理四个不同的技术特点，区块链有机会在INC中发挥巨大的作用。

具体的，在AI应用层中，AI应用可以分成应用业务和系统业务两部分。其中应用业务涉及人脸识别、智能制造、轨迹识别、交通控制等，而系统业务则更多体现对系统的监控，如功率控制、流量控制等。

在申请其中一个实施例中，该优化该资源分配算法包括：

从该用户侧对该资源分配算法进行优化，以最大化该用户侧的效用；

从该组网侧对该资源分配算法进行优化，降低算网融合网络的平均拥塞指数，使得用户获得单位算力资源的等待时间更小；

从该算力提供者侧对该资源分配算法进行优化，鼓励该算网融合网络模型外的算力提供者加入到该基础设施层，提高算力提供者的算力收益。

在本实施例中，面对AI应用不断增长的算力需求，分别从用户、组网和算力提供者的角度出发，考虑了三者之间的关系和交互。对于算力较强的用户来说，在保证相关任务的延迟和安全问题的同时，能获得最佳的效用。对于组网来说，使得来自不同类型的计算节点的算力能够共享合作，同时满足用户和算力提供者的一致要求。此外，对于算力提供者来说，他们会因为服务了用户的需求而获得更好的收益。因此，不仅能够帮助这三方获得更高的收益，还能激励更多的人加入到本申请提供的INC中来。

在申请其中一个实施例中，应从该用户侧优化该资源分配：

建立用户侧算力分配机制，该用户侧算力分配机制中，每个被指定的AI应用必须在规定的时间内完成，每个计算节点上的计算单元必须在安全强度范围内，保证用户侧计算单元分配的总请求不超过可用的算力。

具体的，用户侧算力分配机制首先应满足用户侧对服务质量(QoS)的要求，包括延迟要求、传输可靠性和效用优先要求。如果INC中的计算负载没有得到很好的管理，那么移动用户和INC的QoS都无法得到保证。用户总是希望能在满足任务传输所需的时延和保证业务信息安全的前提下，能获得更大的效用。我们假设用户的效用是准线性的，而在INC中的用户效用是由内在价值减去服务报酬得到的。在这种情况下，为了最大化用户的效用，我们将用户侧算力分配机制建模如下：

P1：max Average Utility

s.t.

Completion Time(task)≤T_d

δ·Security Strength(task)≤S_n

Requested Computing Units(user)≤C

其中，

将AI应用延迟视作算力分配机制的约束之一，即每个被指定的AI应用必须在其物联网应用所规定的时间T_d内完成。其中，完成时间由计算节点之间的传输时间、任务在执行节点上的执行时间和等待处理的队列延迟组成。除了延迟约束外，QoS的另外一个约束时安全需求

约束中的二进制变量x表示任务是否被分配给计算节点。此外，每个计算节点上的计算单元必须在安全强度范围S_n内具有足够的安全性和高可靠性。约束

确保计算单元分配的总请求不超过可用的算力C。

在申请其中一个实施例中，从所述组网侧对所述资源分配算法进行优化包括：建立组网侧算力分配机制，从所述组网侧对所述资源分配算法进行优化，以最小化组网侧的平均拥塞指数，从而降低网络等待时延，提高资源利用率。

具体的，本文定义网络等待时延和资源利用率的比值为平均拥塞指数，建立侧算力分配机制，应从所述组网侧对所述资源分配算法进行优化，以最小化组网侧的平均拥塞指数，从而降低网络等待时延，提高资源利用率。具体的，INC可以通过将计算密集型任务转移到丰富的异构计算资源池(即端边云协同计算网络)来扩展移动设备的算力。虽然可以方便地访问计算资源池，但是将繁琐地任务从终端设备传输到计算节点会导致网络拥塞和能量消耗进一步增大网络延迟和不必要的资源浪费。因此，从网络的角度出发，我们希望将协同计算的等待时延和资源利用率，最小化平均拥塞指数以解决物联网和类似应用中设计到的网络问题。模型可以表示为：

P2：min Average Congestion Index

s.t.

Completion Time(task)≤T_d

δ·Security Strength(task)≤S_n

Requested Computing Units(user)≤C

Average Utility(user)≥0，Welfare(node)≥0

其中，约束条件新增用户侧和算力提供侧的约束需求。从组网侧的角度来看，算例分配机制减少了网络等待时延，提高了资源利用率，同时提供了本地物理和虚拟移动性，用低成本高效地支持此类移动物联网应用。

在申请其中一个实施例中，所述从所述算力提供者侧对所述资源分配算法进行优化包括：

具体的，该算力提供者算力分配机制旨在最大化所述算力提供侧的福利，因此将算力提供侧的算力分配机制建模如下：

P3：max Welfare

s.t.

Completion Time(task)≤T_d

δ·Security Strength(task)≤S_n

Requested Computing Units(user)≤C.

具体的，算力提供侧的算力节点旨在在资源有限的环境中为移动端设备提供算力。当某个用户需要一组计算单元时，会提交一个竞标。在算力提供侧，参与服务的计算节点可以向移动端设备通过一套完整的计算和通讯设施提供算力，同时他们也能获得服务用户需求的收入。假设用户竞争的算力节点并不参与挖矿任务，INC中所获得的算力提供者的收益来自服务的收入减去执行任务的电力成本和由任务传输而损失的收入。因此，算力拍卖者将决定如何分配计算单元给用户，使得算力提供者的收益最大化。因为在计算节点上执行由终端设备卸载的复杂任务是一个艰难而费力的任务，加上这样的计算节点数量也有限，这样就会导致移动端用户们不得不竞争稀缺的计算资源。因此，对算力提供者来说，这种算力分配机制能刺激更多的提供者参与到机制中来提供丰富的算力。

在申请其中一个实施例中，该区块链层采用交易规则多方统一的分布式账本，以维护多方之间的交易，该多方包括用户、网络和算力提供者。

具体的，与传统的由中心权威机构控制的分布式存储系统不同，分布式账本技术依赖于多方制定统一的规则，然后共同决策，维护数据。随着算力交易的快速增长，分布式账本技术将有利于维护多方交易，提高交易的可操作性和可信性。

在申请其中一个实施例中，该区块链层采用共识协议，以保证各参与方对一个区块增加的唯一顺序一致。

具体的，共识协议是分布式账本技术的必要前提，它保证了各参与方对一个区块的增加的唯一顺序达成一致。在不同区块链中使用的共识协议各不相同，大致可以分为基于工作量的协议和基于副本的协议。在基于工作量的协议中，各方独自解决一个计算难题，以竞争哪方可以优先发布一个区块。而基于副本的协议则利用状态机复制机制来达成共识。无论是哪种共识协议，都需要大量的算力。

在申请其中一个实施例中，该区块链层采用智能合约，该智能合约在满足预设条件时自动执行。

具体的，智能合约实际上是存储在区块链中的一个微型计算机程序，它在满足某些特定条件时自动执行。算力提供者可以通过这种自动执行且透明的方式按合约内容收取服务费用，而无需任何信任的公证人。

更多的，该区块链层还可采用密码学原理，密码学作为区块链的底层基础，为区块链提供了大量的安全可靠技术，包括哈希算法、对称和非对称加密，数字签名，数字证书、零知识证明和同态加密等。

在中请其中一个实施例中，该根据各计算子任务的计算等级，选择相匹配的算力资源池包括：

在申请其中一个实施例中，该用户的需求类型包括计算类需求、网络类需求和支付费用类需求。

具体的，在一种示例中，计算需求的计算等级划分为“密集计算型”需求，“适中计算型”需求和“轻量计算型”需求。网络需求的计算等级也按类似的分类方法划分为“快速网络型”需求，“适中网络型”需求和“低速网络型”。由于系统鼓励用户付费使用算力和网络，因此支付金额的计算等级可以划分为“较高费用型”，“适中费用型”和“较低费用型”。可理解的，本申请不对划分方式作出具体限制，采用任一划分方式均可实现本申请。

以下请参阅图3，以短视频业务中的动作识别需求为例，详细对我们的框架流程进行阐述。当视频任务进入我们提出的区块链赋能的INC系统后，系统首先对任务进行识别，确定该任务为短视频中的动作识别。接下来在各类深度学习算法的框架下，用户们选择搭建具体的神经网络来训练和推理。在需求分析模块中，我们综合地考虑了计算需求、网络需求和支付的费用三个方面以适应来自不同用户的不同需求。依据用户需求，在算力调度优化层为了实现最优资源分配，调度控制中心会做些一些任务分割、模型分割，并根据使用的资源分配算法将不同的计算子任务分配端-边-云协同网络架构的不同的计算节点上。由各种算力基本单元组成的算力资源池形成一个巨大资源网络为各种任务的计算提供传输路径。在计算任务传输的过程中，网络传输的时延、可靠性，能源的消耗以及资源使用率这些信息都将反馈给前一层的算力调度中心，而具体的计算任务则传输到基础设备层。

然而，这些广泛存在的计算设备在完成视频动作识别任务的同时，也会有一些设备执行挖矿任务来获得交易的优先记账权。区块链中的价值激励使得算力提供者能更广泛地获得除服务以外的收益，这也鼓励越来越多的算力提供者加入到INC中提供算力。如果一台云服务器被分配到训练处理视频任务用到的三维卷积神经网络，那么在它完成任务之后会获得来自用户支付的服务费用。与此同时，一个边缘智能小站通过执行PoL共识机制获得了优先记录交易的权力。那么等到区块出块后，这台边缘设备将获得出块奖励和记录交易的服务费。而想加入区块链搭建的普通用户也可以通过租用INC中的算力帮助自己获得交易的优先记账权从而获得相应的奖励。

受益于其技术特性，区块链的融入还可以帮助实现INC中计算、交易的透明可追溯，并将算力交易情况反馈至算力调度中心以改善调度分配，提高算力服务质量。此外，区块链中的公私钥匹配以及哈希算法等密码学技术，作为区块链的基础，极大地提高了个人账户的隐私安全性和传输数据的安全性。

从另一个方面来说，由于区块链的加入，其中涉及到许多密码学问题都需要大量的算力支持，尤其是一些耗能型的共识协议。所以算网融合网络中合理高效的计算资源和网络资源调度能很好地为区块链的运行和维护提供充足的支撑。

需要说明的是，在本公开各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。

该集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来。

需要说明的是，对于前述的各方法实施例，为了简便描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，因为依据本发明，某些步骤可以采用其它顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定都是本发明所必须的。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其它实施例的相关描述。

以上为对本发明所提供的一种算网融合网络模型的描述，对于本领域的技术人员，依据本发明实施例的思想，在具体实施方式及应用范围上均会有改变之处，综上，本说明书内容不应理解为对本发明的限制。

Claims

1.一种算网融合网络模型，其特征在于，包括：

所述AI应用层，用于将不同类型的AI应用进行分类；

2.根据权利要求1所述的算网融合网络模型，其特征在于，所述优化所述资源分配算法包括：

3.根据权利要求2所述的算网融合网络模型，其特征在于，所述从所述用户侧对所述资源分配算法进行优化包括：

4.根据权利要求2所述的算网融合网络模型，其特征在于，所述从所述组网侧对所述资源分配算法进行优化包括：

5.根据权利要求2所述的算网融合网络模型，其特征在于，所述从所述算力提供者侧对所述资源分配算法进行优化包括：

6.根据权利要求1至5任意一项所述的算网融合网络模型，其特征在于，所述区块链层采用交易规则多方统一的分布式账本，以维护多方之间的交易，所述多方包括用户、网络和算力提供者。

7.根据权利要求1至5任意一项所述的算网融合网络模型，其特征在于，所述区块链层采用共识协议，以保证各参与方对一个区块增加的唯一顺序一致。

8.根据权利要求1至5任意一项所述的算网融合网络模型，其特征在于，所述区块链层采用智能合约，所述智能合约在满足预设条件时自动执行。

9.根据权利要求1至5任意一项所述的算网融合网络模型，其特征在于，所述根据各计算子任务的计算等级，选择相匹配的算力资源池包括：

10.根据权利要求1至5任意一项所述的算网融合网络模型，其特征在于，所述用户的需求类型包括计算类需求、网络类需求和支付费用类需求。