CN109685207A - 一种基于循环神经网络的多核芯片热管理方法 - Google Patents

一种基于循环神经网络的多核芯片热管理方法 Download PDF

Info

Publication number
CN109685207A
CN109685207A CN201811431592.7A CN201811431592A CN109685207A CN 109685207 A CN109685207 A CN 109685207A CN 201811431592 A CN201811431592 A CN 201811431592A CN 109685207 A CN109685207 A CN 109685207A
Authority
CN
China
Prior art keywords
core chip
multi core
model
neural network
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811431592.7A
Other languages
English (en)
Inventor
王海
郭星星
李伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201811431592.7A priority Critical patent/CN109685207A/zh
Publication of CN109685207A publication Critical patent/CN109685207A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065—Analogue means
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02E—REDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
    • Y02E40/00—Technologies for an efficient electrical power generation, transmission or distribution
    • Y02E40/70—Smart grids as climate change mitigation technology in the energy generation sector
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明涉及信息控制技术领域，公开了一种基于循环神经网络的多核芯片热管理方法。本发明使用循环神经网络的方法建立多核芯片热模型，传统的循环神经网络在对考虑静态功耗的多核芯片建立热模型时存在长期依赖性问题；采用回声状态网络的方法避免此问题，对多核芯片建立精确的热模型。再将热模型与改进的模型预测控制方法相结合，对多核芯片进行有效的热管理。此方法从多核芯片系统读取芯片温度然后使用卡尔曼滤波器计算状态变量，再将此变量代入基于回声状态网络的模型预测控制方法中，根据目标温度计算出对应的所需动态功率输入分布。本发明中精确的回声状态网络模型和先进的模型预测控制方法相结合能够发挥热管理的最佳效果。

Description

一种基于循环神经网络的多核芯片热管理方法
技术领域
本发明属于电子设计自动化领域，涉及信息控制技术领域，特别涉及一种基于循环神经网络的多核芯片热管理方法。
背景技术
现在，随着工艺水平的不断提升，器件功率密度不断增加，导致高性能多核处理器出现了很多热相关的问题，比如系统可靠性问题和性能下降等问题。为了找到经济高效的方法去解决这个问题，研究者提出使用动态热管理的方法，通过任务迁移和动态电压频率调节的方法去管理多核芯片的热性能。为了更好的引导这些热管理行为，动态热管理方法又与其他的先进控制方法相结合，比如传统的基于线性模型的模型预测控制方法。
但是，传统的动态热管理都没有考虑到泄露电流，即静态功耗与温度之间的非线性关系。然而对于现在的多核处理器，静态功耗占总功耗的比值超过了百分之五十。更严重的是，静态功耗与温度之间存在指数型正反馈的非线性关系，当温度升高时，静态功耗增加，而静态功耗的增加又会反过来导致温度进一步上升。所以静态功耗成为了现代多核芯片系统发展的一个主要的限制性因素。
在现在的一些考虑静态功耗的动态热管理方法中，主要有两种方法去处理静态功耗。第一种是对静态功耗进行了简单的线性化处理，这会导致很大的模型误差；第二种是使用多项式近似模型，但是因为其自身还是非线性模型，所以目前只能用于单核芯片系统。
针对以上问题，提出一种能够精确考虑静态功耗的多核芯片动态热管理方法是信息控制技术领域目前急待解决的问题之一。
发明内容
为了解决上述技术中的问题，本发明提供了一种基于循环神经网络的多核芯片热管理方法。使用循环神经网络的方法去建立考虑静态功耗的多核芯片热模型，它可以很自然的处理静态功耗与温度之间的非线性关系。然后基于此模型，提出了一种特殊的基于非线性模型的模型预测控制方法，可以准确地计算出下一时刻的输入动态功率，然后结合任务迁移和频率调节的方法对多核芯片的温度进行有效的控制。
本发明采用以下技术方案解决上述问题：
步骤一，从Hotspot中提取多核芯片热模型参数，主要是整个芯片上的热电容和热电阻参数，建立传统的考虑静态功耗的多核芯片热模型。
步骤二，因为在静态功耗模型中静态功耗与温度之间存在指数型的正反馈关系，这种相互依赖的非线性关系导致传统的热模型无法直接计算芯片温度。我们提出使用基于循环神经网络的热模型方法去处理静态功耗与温度之间的非线性关系问题。
步骤三，说明了传统的循环神经网络在建立考虑静态功耗的多核芯片热模型时存在梯度爆炸引起的长期依赖性问题，这会导致建立的热模型存在很大的误差。为了克服这个问题，我们提出使用一种特殊的循环神经网络结构，回声状态网络去建立多核芯片热模型，并从理论和实验上证明了回声状态网络可以有效避免梯度爆炸引起的长期依赖性问题，保证了热模型的精度。
步骤四，将建立的基于回声状态网络的多核芯片热模型与模型预测控制方法相结合。由于传统的模型预测控制方法是基于线性模型的，而回声状态网络热模型是一种非线性模型，所以本发明对原方法进行改进，提出了基于非线性模型的模型预测控制方法。其可以为多核芯片系统提供精确的动态功率输入分布建议，从而准确的进行温度管理，使芯片温度到达设定的目标温度。
与现有技术相比，本发明的有益结果是：回声状态网络既能够有效处理静态功耗与温度之间的非线性关系，还能够避免传统循环神经网络的长期依赖性问题；基于回声状态网络的改进的模型预测控制方法可以对多核芯片实现高效的温度管理。
附图说明
下面结合附图和实施例对本发明进一步说明。
图1为用HSPICE仿真和曲线拟合方法针对PTM-MG 7nm FinFET产生的静态功耗与温度关系比较图。
图2为传统的循环神经网络结构示意图。
图3为说明传统神经网络存在梯度爆炸问题示意图。
图4为回声状态网络结构示意图。
图5为基于回声状态网络的模型预测控制方法流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明实例中的附图，对本发明实例中的技术方案进行清楚、完整地描述，显然，所描述的实例是本发明的一部分实例，而不是全部的实例。基于本发明中的实例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实例，都属于本发明保护的范围。
图1为用HSPICE仿真和曲线拟合方法针对PTM-MG 7nm FinFET产生的静态功耗与温度关系比较图。
在本发明实例中，我们使用的是PTM-MG 7nm FinFET工艺。对于一个多核芯片系统，芯片功耗由动态功耗和静态功耗两部分组成，动态功耗可以很容易的由数值计算方法求出。而静态功耗由泄露电流产生，主要包括亚阈值电流，栅电流和反向偏置的的结泄露电流。其中，亚阈值电流又与温度之间存在指数型的非线性关系。图1展示了HSPICE对泄露电流的仿真结果和曲线拟合方法的结果，可以看出传统泄漏电流模型有很高的精度，而且与温度之间存在非线性关系。然后我们从HSPICE软件提取热模型参数，得到传统的多核芯片热模型。
图2传统的循环神经网络结构示意图。
具体而言，循环神经网络是一种用于处理时间序列问题的黑盒子模型，通常与非线性动态系统相结合。为了有效处理静态功耗与温度之间的非线性关系，从而高效的控制多核芯片温度。自然想到了利用循环神经网络的方法去建立热模型。图2是一种常见的循环神经网络结构，从输出层到隐藏层的反馈连接构成循环。但是，我们发现传统的循环神经网络方法很难去建立考虑静态功耗的多核芯片热模型，因为在训练模型时要进行梯度计算，存在权重矩阵连乘，此过程中存在由梯度爆炸引起的长期依赖性问题，图3展示了在梯度计算过程中，权重矩阵的奇异值大于1，权重矩阵连乘会导致梯度爆炸问题，从而引起很大的模型误差。
图4为回声状态网络结构示意图。
为了解决普通循环神经网络在建立考虑静态功耗的多核芯片热模型时存在的长期依赖性问题，我们使用回声状态网络去建立多核芯片热模型。图4中输入单元是多核芯片的动态功耗，输出单元是对应核的芯片温度，隐藏单元是回声状态网络的隐藏层，通过改变隐藏单元的神经元数量去调节热模型精度。其中，回声状态网络中只有输出权重矩阵需要被训练，输入和循环权重矩阵在训练过程中都是已知的。
图5为基于回声状态网络的模型预测控制方法流程图。
具体而言，在得到了基于回声状态网络的热模型之后，我们要将其与先进的控制方法，模型预测控制方法相结合。因为传统的模型预测控制方法是基于线性模型的，所以我们对其进行改进，从而可以和回声状态网络热模型方法相结合。图5是基于回声状态网络的模型预测控制方法的流程图。其中扩展的非线性卡尔曼滤波器用于计算回声状态网络的隐藏层状态变量。我们首先从多核芯片系统读取芯片温度，然后将此温度放入扩展的非线性卡尔曼滤波器，计算出状态变量，接着利用回声状态网络模型计算出未来几个时刻的芯片温度，再代入模型预测控制的优化算法中计算输入动态功率。在此过程中，使用Levenberg-Marquardt算法求解模型预测控制算法中的代价方程，最后，根据设计者提供的目标温度，使用迭代的方法就计算出下一时刻的输入动态功率。再结合任务迁移和动态频率调节等动态热管理方法就可以对多核芯片系统的温度进行高效合理的控制。
本发明公开了一种基于循环神经网路的多核芯片热管理方法，以上实例对本发明进行了详细的说明，但是并不局限于此，之后依然可以对之前实例所记载的技术方案进行修改，这并不会使相应技术方案的本质脱离本发明各实例技术方案的精神和范围。

Claims (7)

1.一种基于循环神经网络的多核芯片热管理方法，其特征在于：考虑多核芯片静态功耗的动态热管理技术；基于循环神经网络方法的多核芯片热模型的建立；普通循环神经网络在建立考虑静态功耗的热模型时存在长期依赖性问题；基于回声状态网络方法建立多核芯片热模型，避免长期依赖性问题；基于回声状态网络热模型的模型预测控制方法。
2.根据权利要求1所述的基于循环神经网络的多核芯片热管理方法，其特征在于：所述的考虑多核芯片静态功耗的动态热管理技术，静态功耗与温度之间存在指数型的非线性关系，导致在动态热管理技术中无法直接计算芯片温度。
3.根据权利要求1所述的基于循环神经网络的多核芯片热管理方法，其特征在于：所述的基于循环神经网络方法的多核芯片热模型的建立，使用循环神经网络的方法自然的处理静态功耗与温度之间的非线性关系。
4.根据权利要求1所述的基于循环神经网络的多核芯片热管理方法，其特征在于：所述的普通循环神经网络在建立考虑静态功耗的热模型时存在长期依赖性问题，普通循环神经网络在处理静态功耗问题时存在由梯度爆炸引起的长期依赖性问题。
5.根据权利要求1所述的基于循环神经网络的多核芯片热管理方法，其特征在于：所述的基于回声状态网络方法建立多核芯片热模型，回声状态网络的输入和循环权重矩阵已知，只需训练输出权重矩阵，可以有效避免长期依赖性问题。
6.根据权利要求1所述的基于循环神经网络的多核芯片热管理方法，其特征在于：所述的基于回声状态网络热模型的模型预测控制方法，对传统的基于线性模型的模型预测控制方法进行改进，使其与非线性模型相结合。
7.根据权利要求6所述的方法，其特征在于：所述的改进的模型预测控制方法，采用Levenberg-Marquardt算法去计算优化的芯片动态功耗输入分布。
CN201811431592.7A 2018-11-27 2018-11-27 一种基于循环神经网络的多核芯片热管理方法 Pending CN109685207A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811431592.7A CN109685207A (zh) 2018-11-27 2018-11-27 一种基于循环神经网络的多核芯片热管理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811431592.7A CN109685207A (zh) 2018-11-27 2018-11-27 一种基于循环神经网络的多核芯片热管理方法

Publications (1)

Publication Number Publication Date
CN109685207A true CN109685207A (zh) 2019-04-26

Family

ID=66185955

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811431592.7A Pending CN109685207A (zh) 2018-11-27 2018-11-27 一种基于循环神经网络的多核芯片热管理方法

Country Status (1)

Country Link
CN (1) CN109685207A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109902807A (zh) * 2019-02-27 2019-06-18 电子科技大学 一种基于循环神经网络的众核芯片分布式热建模方法
WO2021232266A1 (zh) * 2020-05-20 2021-11-25 华为技术有限公司 芯片的控制方法和控制装置
CN113760660A (zh) * 2021-09-07 2021-12-07 南京大学 一种基于长短时记忆神经网络的三维多核芯片温度预测方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1692326A (zh) * 2002-08-23 2005-11-02 英特尔公司 用于多核心微处理器热管理的装置
CN104242393A (zh) * 2014-09-12 2014-12-24 安徽启光能源科技研究院有限公司 基于动态soc估算系统的电池管理系统
CN106681453A (zh) * 2016-11-24 2017-05-17 电子科技大学 一种高性能多核微处理器的动态热管理方法
CN107991877A (zh) * 2017-12-20 2018-05-04 东南大学 一种基于循环神经网络的动态模型辨识方法及系统
CN108120451A (zh) * 2017-12-21 2018-06-05 苏州大学 基于改进pso优化神经网络的硅微加速度计温度补偿方法、系统
CN108536931A (zh) * 2018-03-23 2018-09-14 南京大学 基于贪婪算法的三维片上网络中温度传感器的部署方法
CN108872866A (zh) * 2018-06-04 2018-11-23 桂林电子科技大学 一种锂离子电池荷电状态动态评估与长效预测融合方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1692326A (zh) * 2002-08-23 2005-11-02 英特尔公司 用于多核心微处理器热管理的装置
CN104242393A (zh) * 2014-09-12 2014-12-24 安徽启光能源科技研究院有限公司 基于动态soc估算系统的电池管理系统
CN106681453A (zh) * 2016-11-24 2017-05-17 电子科技大学 一种高性能多核微处理器的动态热管理方法
CN107991877A (zh) * 2017-12-20 2018-05-04 东南大学 一种基于循环神经网络的动态模型辨识方法及系统
CN108120451A (zh) * 2017-12-21 2018-06-05 苏州大学 基于改进pso优化神经网络的硅微加速度计温度补偿方法、系统
CN108536931A (zh) * 2018-03-23 2018-09-14 南京大学 基于贪婪算法的三维片上网络中温度传感器的部署方法
CN108872866A (zh) * 2018-06-04 2018-11-23 桂林电子科技大学 一种锂离子电池荷电状态动态评估与长效预测融合方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109902807A (zh) * 2019-02-27 2019-06-18 电子科技大学 一种基于循环神经网络的众核芯片分布式热建模方法
CN109902807B (zh) * 2019-02-27 2022-07-05 电子科技大学 一种基于循环神经网络的众核芯片分布式热建模方法
WO2021232266A1 (zh) * 2020-05-20 2021-11-25 华为技术有限公司 芯片的控制方法和控制装置
CN115668097A (zh) * 2020-05-20 2023-01-31 华为技术有限公司 芯片的控制方法和控制装置
CN113760660A (zh) * 2021-09-07 2021-12-07 南京大学 一种基于长短时记忆神经网络的三维多核芯片温度预测方法及系统
CN113760660B (zh) * 2021-09-07 2023-08-11 南京大学 一种基于长短时记忆神经网络的三维多核芯片温度预测方法及系统

Similar Documents

Publication Publication Date Title
Mi et al. Short‐term power load forecasting method based on improved exponential smoothing grey model
CN109685207A (zh) 一种基于循环神经网络的多核芯片热管理方法
CN109063291B (zh) 机电装备冷却通道结构智能化拓扑优化设计方法
CN109242236A (zh) 基于关联全连接神经网络和lstm的pmu一次调频负荷预测方法
CN109687467B (zh) 一种考虑区间相关性的电网区间潮流改进方法
Ji et al. Multi-stage dynamic programming method for short-term cascade reservoirs optimal operation with flow attenuation
CN113361214A (zh) 一种基于水位流量数据的明渠控制模型参数辨识方法
Cui et al. Bayesian-based automated model generation method for neural network modeling of microwave components
Deng et al. Recurrent neural network for combined economic and emission dispatch
Kumari et al. Dual degree branched type-2 fuzzy controller optimized with a hybrid algorithm for frequency regulation in a triple-area power system integrated with renewable sources
Yan et al. Improved hybrid sparrow search algorithm for an extreme learning machine neural network for short‐term photovoltaic power prediction in 5G energy‐routing base stations
CN117852762B (zh) 一种综合能源系统多能流计算分析方法及系统
CN109902807A (zh) 一种基于循环神经网络的众核芯片分布式热建模方法
CN117239754A (zh) 一种考虑碳排放的风-光-火多电源协调运行方法及系统
Liu Short-term load forecasting of distributed energy supply system based on Elman neural network
Sun et al. Comparison of a fuzzy control and the data-driven model for flood forecasting
CN108803342B (zh) 一种单元机组负荷快速响应预测控制方法
Zhao et al. On predicting the pue with gated recurrent unit in data centers
Hua Power quality prediction of active distribution network based on CNN-LSTM deep learning model
Xu et al. Based on neural network PID controller design and simulation
Xu et al. Adaptive Feature Selection and GCN with Optimal Graph Structure-based Ultra-short-term Wind Farm Cluster Power Forecasting Method
Liu et al. A Power Grid Load Forecasting Method Based on MapReduce Improved Deep Boltzmann Machine
CN112036091A (zh) 一种利用回归算法预测四角切圆燃烧器喷口风量的方法
Sun et al. Research on Carbon Traceability of Power System Based on Blockchain and Power Flow Calculation under Carbon Peaking and Carbon Neutrality Goals
Yueqiang Application of Neural Network Algorithm in Building Energy Consumption Prediction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20190426

WD01 Invention patent application deemed withdrawn after publication