CN110647396A - 端云协同低功耗带宽受限智能应用实现方法 - Google Patents
端云协同低功耗带宽受限智能应用实现方法 Download PDFInfo
- Publication number
- CN110647396A CN110647396A CN201910822536.4A CN201910822536A CN110647396A CN 110647396 A CN110647396 A CN 110647396A CN 201910822536 A CN201910822536 A CN 201910822536A CN 110647396 A CN110647396 A CN 110647396A
- Authority
- CN
- China
- Prior art keywords
- network
- sub
- data
- output
- cloud
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 9
- 238000004364 calculation method Methods 0.000 claims abstract description 9
- 238000013528 artificial neural network Methods 0.000 claims description 22
- 238000013507 mapping Methods 0.000 claims description 3
- 238000012549 training Methods 0.000 claims description 3
- 238000004891 communication Methods 0.000 abstract description 11
- 238000005265 energy consumption Methods 0.000 abstract description 2
- 238000012545 processing Methods 0.000 abstract description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
- G06V10/95—Hardware or software architectures specially adapted for image or video understanding structured as a network, e.g. client-server architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
- H04L67/025—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP] for remote control or remote monitoring of applications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Medical Informatics (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Computing Systems (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本发明提供了一种端云协同低功耗带宽受限智能应用实现方法。在带宽受限的条件下,如果将所有的数据都从物联网终端传至云,将消耗大量的能量和通信资源,且时延无法满足智能应用的实时性要求。然而物联网终端往往能量有限,计算能力不足,无法独自及时地完成对数据的处理,需要利用云的计算资源实现智能应用。本发明能够利用有限的本地能量和计算资源,在完成一定的计算任务的同时,减少需要传输到云的数据量,使得在带宽和能耗受限的条件下通信与计算需求能够得到满足。
Description
技术领域
本发明涉及计算通信网络领域,具体涉及物联网中的端云协同机制。
背景技术
物联网(Internet of things,IoT)旨在基于各类感知技术,实现物品与物品之间的信息交互和通信。物联网智能终端设备的大量部署,使得海量数据可以被采集并实现各类智能识别、决策任务,如人脸识别、智能交通、智能电网和智能家居等。以人脸识别为例,物联网智能终端在采集特定数据后,需要对采集到的数据进行处理,完成人脸识别算法的计算任务来识别人脸。目前深度神经网络在人工智能领域扮演着重要角色,在实际应用中,往往是将终端采集到的数据经预处理后作为深度神经网络的输入,深度神经网络将输入的数据映射到对应的输出,实现特定识别、决策等功能。
由于通信网络中带宽资源有限,海量数据的传输对通信网络容量带来了巨大挑战。同时,对于一些特殊的智能应用场景,对应用的实时性要求较高。如果将所有的数据都从物联网智能终端传至云端处理后再反馈给终端以实现智能应用,将使得时延无法满足实时性要求。如果采集到的数据能够在本地处理,将大大减少通信资源的损耗和智能应用的时延,但是物联网智能终端受有限的成本和能量的限制,往往计算能力有限,终端无法满足大量的计算任务需求。
发明内容
本发明的目的是:建立有效的端云协同机制,利用有限的本地能量和计算资源,在完成一定的计算任务的同时,减少需要传输到云的数据量。
为了达到上述目的,本发明的技术方案是提供了一种端云协同低功耗带宽受限智能应用实现方法,所述智能应用采用深度神经网络,将物联网智能终端采集到的数据记为x,数据量大小表示为N,深度神经网络的输入和输出之间的映射关系记为f,深度神经网络的输出记为y,则所述智能应用的表示为:y=f(x),其特征在于,所述方法包括以下步骤:
步骤1、设计并训练深度神经网络f,深度神经网络f表示为子网络g和子网络h的级联,即有:
y=h(g(x))
其中,子网络g的规模远小于子网络h,物联网智能终端有限的能量和计算能力能够满足子网络g的计算需求,将子网络g的输出的数据量大小表示为M,确保子网络g输出的数据量相比于采集到的数据x的数据量显著降低,即M<<<N;
步骤2、子网络g运行在物联网智能终端,数据x作为子网络g的输入,子网络g的输出数据m表示为:
m=g(x)
子网络g的输出数据m的数据量大小即为M;
步骤3、将物联网智能终端中,经过子网络g处理后的输出数据m传输至云端;
步骤4、子网络h运行在云端,云端接收到的输出数据m作为子网络h的输入,并在云端中计算得到深度神经网络的输出结果y,即有:
y=h(m)
步骤5、智能应用根据计算得到的输出结果y产生最终的输出,并将最终的输出反馈给物联网智能终端。
优选地,所述智能应用为人脸识别和决策应用。
优选地,步骤5中,智能应用根据计算得到的输出结果y产生的最终输出为最终的人脸识别、决策结果。
本发明提供了一种在带宽和能量受限情况下基于端云协同,减少带宽资源和终端能量的消耗并实现智能应用的方法。在带宽受限的条件下,如果将所有的数据都从物联网终端传至云,将消耗大量的能量和通信资源,且时延无法满足智能应用的实时性要求。然而物联网终端往往能量有限,计算能力不足,无法独自及时地完成对数据的处理,需要利用云的计算资源实现智能应用。本发明能够利用有限的本地能量和计算资源,在完成一定的计算任务的同时,减少需要传输到云的数据量,使得在带宽和能耗受限的条件下通信与计算需求能够得到满足。
附图说明
图1为端云协同示意图。
具体实施方式
下面结合具体实施例,进一步阐述本发明。应理解,这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本申请所附权利要求书所限定的范围。
我们将物联网智能终端采集到的数据记为x,其数据量大小表示为N,深度神经网络的输入和输出之间的映射关系记为f,深度神经网络的输出记为y,则本发明中智能应用的实现可以简洁地表示为:
y=f(x)
本实施例中,智能应用是人脸识别和决策应用,本领域技术人员也可以采用其他智能应用,本发明并不做限定。深度神经网络f则根据实际所采用的智能应用进行针对性的设计。
本发明中提出了一种在带宽和能量受限情况下基于端云协同,减少通信资源和终端能量的损耗并实现智能应用的方法,具体步骤如下:
步骤1、设计并训练深度神经网络f,该深度神经网络可以表示为子网络g和子网络h的级联,即有:
y=h(g(x))
设计的子网络g的规模将远小于子网络h,使得物联网智能终端有限的能量和计算能力能够满足子网络g的计算需求。同时,将子网络g的输出的数据量大小表示为M。设计的该深度神经网络的结构将确保子网络g输出的数据量相比于采集到的数据x的数据量显著降低,即M<<<N。
步骤2、子网络g运行在物联网智能终端,数据x作为子网络g的输入,子网络g的输出数据m表示为m=g(x)
其数据量大小即为M。
步骤3、将物联网智能终端中,经过子网络g处理后的输出数据m传输至云端。
步骤4、子网络h运行在云端,云端接收到的输出数据m作为子网络h的输入,并在云中计算得到深度神经网络的输出结果y,则有:
y=h(m)
步骤5、智能应用根据计算得到的输出结果y产生最终的输出,并将最终的输出反馈给物联网智能终端。本实施例中,由于智能应用是人脸识别和决策应用,因此根据计算得到的输出结果y,将实现智能应用需要的最终识别、决策结果,如是否识别出目标等,反馈给物联网智能终端。
如图1所示,由于物联网终端计算资源和能量有限,因此子网络g的规模较小,满足终端的低功耗要求,大量的计算将由运行在云的子网络h完成。由于传输带宽有限,设计出的子网络g的输出数据量相较于采集的数据大幅减少,减少传输至云需要的通信资源。
Claims (3)
1.一种端云协同低功耗带宽受限智能应用实现方法,所述智能应用采用深度神经网络,将物联网智能终端采集到的数据记为x,数据量大小表示为N,深度神经网络的输入和输出之间的映射关系记为f,深度神经网络的输出记为y,则所述智能应用的表示为:y=f(x),其特征在于,所述方法包括以下步骤:
步骤1、设计并训练深度神经网络f,深度神经网络f表示为子网络g和子网络h的级联,即有:
y=h(g(x))
其中,子网络g的规模远小于子网络h,物联网智能终端有限的能量和计算能力能够满足子网络g的计算需求,将子网络g的输出的数据量大小表示为M,确保子网络g输出的数据量相比于采集到的数据x的数据量显著降低,即M<<<N;
步骤2、子网络g运行在物联网智能终端,数据x作为子网络g的输入,子网络g的输出数据m表示为:
m=g(x)
子网络g的输出数据m的数据量大小即为M;
步骤3、将物联网智能终端中,经过子网络g处理后的输出数据m传输至云端;
步骤4、子网络h运行在云端,云端接收到的输出数据m作为子网络h的输入,并在云端中计算得到深度神经网络的输出结果y,即有:
y=h(m)
步骤5、智能应用根据计算得到的输出结果y产生最终的输出,并将最终的输出反馈给物联网智能终端。
2.如权利要求1所述的一种端云协同低功耗带宽受限智能应用实现方法,其特征在于,所述智能应用为人脸识别和决策应用。
3.如权利要求2所述的一种端云协同低功耗带宽受限智能应用实现方法,其特征在于,步骤5中,智能应用根据计算得到的输出结果y产生的最终输出为最终的人脸识别、决策结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910822536.4A CN110647396A (zh) | 2019-09-02 | 2019-09-02 | 端云协同低功耗带宽受限智能应用实现方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910822536.4A CN110647396A (zh) | 2019-09-02 | 2019-09-02 | 端云协同低功耗带宽受限智能应用实现方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110647396A true CN110647396A (zh) | 2020-01-03 |
Family
ID=68991478
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910822536.4A Pending CN110647396A (zh) | 2019-09-02 | 2019-09-02 | 端云协同低功耗带宽受限智能应用实现方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110647396A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111355619A (zh) * | 2020-05-26 | 2020-06-30 | 成都信息工程大学 | 一种多核网状协同关系的跨链协同方法 |
CN112486669A (zh) * | 2020-11-03 | 2021-03-12 | 深圳市中博科创信息技术有限公司 | 一种自组织移动边缘计算平台和方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180284737A1 (en) * | 2016-05-09 | 2018-10-04 | StrongForce IoT Portfolio 2016, LLC | Methods and systems for detection in an industrial internet of things data collection environment with large data sets |
CN109543829A (zh) * | 2018-10-15 | 2019-03-29 | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) | 在终端和云端上混合部署深度学习神经网络的方法和系统 |
CN109685088A (zh) * | 2017-10-18 | 2019-04-26 | 上海仪电(集团)有限公司中央研究院 | 基于云端分离卷积神经网络的窄带通信智能图像分析系统 |
-
2019
- 2019-09-02 CN CN201910822536.4A patent/CN110647396A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180284737A1 (en) * | 2016-05-09 | 2018-10-04 | StrongForce IoT Portfolio 2016, LLC | Methods and systems for detection in an industrial internet of things data collection environment with large data sets |
CN109685088A (zh) * | 2017-10-18 | 2019-04-26 | 上海仪电(集团)有限公司中央研究院 | 基于云端分离卷积神经网络的窄带通信智能图像分析系统 |
CN109543829A (zh) * | 2018-10-15 | 2019-03-29 | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) | 在终端和云端上混合部署深度学习神经网络的方法和系统 |
Non-Patent Citations (3)
Title |
---|
SURAT TEERAPITTAYANON等: "Distributed Deep Neural Networks over the Cloud, the Edge and End Devices", 《2017 IEEE 37TH INTERNATIONAL CONFERENCE ON DISTRIBUTED COMPUTING SYSTEMS (ICDCS)》 * |
卢冶等: "面向边缘计算的嵌入式FPGA卷积神经网络构建方法", 《计算机研究与发展》 * |
邓晓衡等: "基于综合信任的边缘计算资源协同研究", 《计算机研究与发展》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111355619A (zh) * | 2020-05-26 | 2020-06-30 | 成都信息工程大学 | 一种多核网状协同关系的跨链协同方法 |
CN112486669A (zh) * | 2020-11-03 | 2021-03-12 | 深圳市中博科创信息技术有限公司 | 一种自组织移动边缘计算平台和方法 |
CN112486669B (zh) * | 2020-11-03 | 2022-03-18 | 深圳市中博科创信息技术有限公司 | 一种自组织移动边缘计算平台和方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Zhang et al. | Toward wisdom-evolutionary and primitive-concise 6G: A new paradigm of semantic communication networks | |
Zhou et al. | Edge intelligence: Paving the last mile of artificial intelligence with edge computing | |
CN109753751B (zh) | 一种基于机器学习的mec随机任务迁移方法 | |
CN110928654A (zh) | 一种边缘计算系统中分布式的在线任务卸载调度方法 | |
CN111857734B (zh) | 一种分布式深度学习模型平台部署及使用方法 | |
CN108376099B (zh) | 一种优化时延与能效的移动终端计算迁移方法 | |
CN110647396A (zh) | 端云协同低功耗带宽受限智能应用实现方法 | |
CN110955463A (zh) | 支持边缘计算的物联网多用户计算卸载方法 | |
CN114330722B (zh) | 推理实现方法、网络、电子设备及存储介质 | |
CN111132230A (zh) | 一种面向数据采集的带宽分配和数据压缩联合优化方法 | |
CN116455768A (zh) | 面向全局时延优化的云边端协同cnn推理方法及系统 | |
Gündüz et al. | Timely and massive communication in 6G: Pragmatics, learning, and inference | |
CN117114113B (zh) | 一种基于排队论的协同推理加速方法 | |
Deng et al. | Adaptive federated learning with negative inner product aggregation | |
Zhao et al. | A joint communication and computation design for semantic wireless communication with probability graph | |
CN117196014A (zh) | 基于联邦学习的模型训练方法、装置、计算机设备及介质 | |
CN109308517B (zh) | 面向二值神经网络的二值化装置、方法及应用 | |
CN114979027B (zh) | 基于能量采集的海上边缘计算网络任务卸载与资源分配方法 | |
CN114928587B (zh) | 一种基于云边协同系统的AIoT设备复用建模化方法 | |
CN112188502B (zh) | 一种变电站监控中前后端协同通信的资源分配方法 | |
CN114116074A (zh) | 一种高性能的数据序列化及反序列化系统 | |
CN202713363U (zh) | 一种基于协议接口适配的无线电监测系统 | |
Chen et al. | Cloud-edge collaborative data processing architecture for state assessment of transmission equipments | |
CN104683467A (zh) | 一种实现产品自我学习功能的系统及方法 | |
CN110113193A (zh) | 基于分级代理的数据传输方法、系统及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200103 |