CN110033082A - 一种识别ai设备中深度学习模型的方法 - Google Patents

一种识别ai设备中深度学习模型的方法 Download PDF

Info

Publication number
CN110033082A
CN110033082A CN201910206257.5A CN201910206257A CN110033082A CN 110033082 A CN110033082 A CN 110033082A CN 201910206257 A CN201910206257 A CN 201910206257A CN 110033082 A CN110033082 A CN 110033082A
Authority
CN
China
Prior art keywords
data
model
different
dnn
dnn model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910206257.5A
Other languages
English (en)
Other versions
CN110033082B (zh
Inventor
吴哲夫
方泽彬
江壮壮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University of Technology ZJUT
Original Assignee
Zhejiang University of Technology ZJUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University of Technology ZJUT filed Critical Zhejiang University of Technology ZJUT
Priority to CN201910206257.5A priority Critical patent/CN110033082B/zh
Publication of CN110033082A publication Critical patent/CN110033082A/zh
Application granted granted Critical
Publication of CN110033082B publication Critical patent/CN110033082B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

一种高精度识别AI设备中的深度学习模型的方法，利用树莓派和数据采集卡搭建数据采集平台，检测分为两个阶段：不同DNN模型测试阶段和参数估计模型测试阶段。采集完毕后，对数据进行预处理后排除异常值，对提取的功率数据算其网络特征，对得到的特征数据进行机器学习方法处理。本发明能够以较低的成本，较简便的实际操作，有效实现对不同网络模型的识别区分，本发明在侧信道安全领域具有一定的应用价值。

Description

一种识别AI设备中深度学习模型的方法
技术领域
本发明涉及一种通过对AI设备中的侧信道信息进行收集和处理，使用机器学习的方法进行分类，可以高精度地识别深度学习模型的方法。
背景技术
深度学习网络(Deep Neutral Networks)一直是人们关注的焦点,并广泛应用于许多人工智能(AI)领域，例如图像分类、物体检测、视频识别、自然语言处理等。许多DNN应用程序在嵌入式设备上部署和实现，例如机器人、自动驾驶汽车和智能手机等。随着DNN的小型化和AI芯片的发展，嵌入式硬件上的DNN正在变得越来越多，越来越普遍。
发明内容
为了克服限于DNN网络模型多、分类识别困难的不足，本发明提供一种识别AI设备中深度学习模型的方法，以较低的成本，较简便的实际操作，有效实现对不同网络模型的识别区分。
本发明解决其技术问题所采用的技术方案是：
一种高精度识别AI设备中的深度学习模型的方法，包括以下步骤：
步骤1：搭建DNN(Deep Neutral Networks)模型功率数据采集平台；
步骤2：在树莓派上通过运行不同已经训练完成的DNN模型，来对同一目标图片库的相同尺寸的图片素材进行测试，在测试进行的过程中利用数据采集卡对树莓派实时的电压和电流数据进行采集；
步骤3：对采集到的数据进行处理；
步骤4：采集DNN模型基于不同初始化方式(ckpt)的功率数据；
步骤5：采集DNN模型基于不同超参数(bottleneck的数量)的功率数据；
步骤6：采集DNN模型基于不同稀疏度(dropout_keep_prob)大小的功率数据；
步骤7：对采集到的三类样本分别基于机器学习的方法进行分类，以混淆矩阵的方式呈现测试结果。
进一步，所述步骤3的过程如下：
步骤3-1：通过采集到的实时电流电压数据，得到了不同DNN模型运行过程中的功率数据P，在采集到足够量的数据P的情况下，为了避免实验数据的偶然性，保证实验数据的科学性，以预设数量(例如10000)组功率数据为单位，得到平均值中位数PM、标准差PSD；
步骤3-2：利用SVM、朴素贝叶斯、随机森林、KNN这四种常用机器学习的方法，分别对不同DNN模型的功率参数进行分类处理，以增强实验数据的说服力；
步骤3-3：数据分类处理后得到的结果用混淆矩阵的方式呈现，以便于更加直观的表现不同DNN网络之间分类的精确度。
再进一步，所述步骤3中，所述对不同DNN模型功率数据进行采集，用机器学习的方法对数据结果进行分类。
本发明的有益效果是：
1.合理利用自带AI芯片的树莓派作为实验平台，部署简单，抗干扰能力较强，且价格低廉，易于普及。
2.本发明提出的高精度分类的方法对边信道攻击所涉及的安全领域具有一定的参考价值；
3.本发明机器学习算法SVM、朴素贝叶斯、随机森林、KNN，对数据量较大的情况同样具有较好的分类效果。
附图说明
图1是本发明的系统框图；
图2是数据采集平台搭建的位置示意图；
图3-1～3-4是本发明实施方式依次使用SVM、朴素贝叶斯、随机森林、KNN这四种机器学习方法来区分9个不同DNN模型的性能效果图。
具体实施方式
下面结合附图对本发明的较佳实施例进行详细阐述，以使本发明的优点和特征能更易于被本领域技术人员理解，从而对本发明的实际意义做出更为清楚明确的界定。
参照图1～图3，一种高精度识别AI设备中的深度学习模型的方法，包括以下步骤：
步骤1：搭建DNN(Deep Neutral Networks)模型功率数据采集平台；
步骤2：在树莓派上通过运行不同已经训练完成的DNN模型，来对同一目标图片库的相同尺寸的图片素材进行测试，在测试进行的过程中利用数据采集卡对树莓派实时的电压和电流数据进行采集；
步骤3：对采集到的数据进行处理，过程如下：
步骤3-1：通过采集到的实时电流电压数据，得到不同DNN模型运行过程中的功率数据P，在采集到足够量的数据P的情况下，得到平均值P、中位数PM、标准差PSD；
步骤3-2：利用SVM、朴素贝叶斯、随机森林、KNN这四种常用机器学习的方法，分别对不同DNN模型的功率参数进行分类处理，以增强实验数据的说服力；
步骤3-3：数据分类处理后得到的结果用混淆矩阵的方式呈现，以便于更加直观的表现不同DNN网络之间分类的精确度；
步骤4：采集DNN模型基于不同初始化方式(ckpt)的功率数据；
步骤5：采集DNN模型基于不同超参数(bottleneck的数量)的功率数据；
步骤6：采集DNN模型基于不同稀疏度(dropout_keep_prob)大小的功率数据；
步骤7：对采集到的三类样本分别基于机器学习的方法进行分类，以混淆矩阵的方式呈现测试结果；
进一步，所述步骤3中，所述对不同DNN模型功率数据进行采集，用机器学习的方法对数据结果进行分类。
本实施例中，实验平台主要包括树莓派和数据采集卡两部分，在树莓派上运行不同DNN模型，再用数据采集卡进行实时的数据采集，具体实施场地为一个实验室。
每次采集的数据都会保存延用，以避免实验数据的偶然性和单一性，不同的DNN模型都在特定时间内识别相同的图片库的内容，每次不同DNN模型的数据采集时间为20分钟，进行3次采集且不连续采集同一模型数据。采集完毕后，都能得到一个.txt文件，再根据.txt文件中的数据进行预处理，排除异常值，对提取的功率数据算其网络特征，平均值、标准差、中位数，对得到的特征数据进行本发明方法处理。
参数估计模型测试阶段，不同的模型也以20分钟为一个实验周期，采集测试数据3次且不连续采集同一模型数据，同样经过上述的处理后，对测试数据进行本发明方法处理。
对每个不同DNN模型或参数估计模型的功率数据，都依次用机器学习算法SVM、朴素贝叶斯、随机森林、KNN进行分类，同时根据发明内容中步骤3～步骤7的详细过程，得到分类精确度及混淆矩阵。
以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (3)

1.一种高精度识别AI设备中的深度学习模型的方法，其特征在于，所述方法包括以下步骤：
步骤1：搭建DNN模型功率数据采集平台；
步骤2：在树莓派上通过运行不同已经训练完成的DNN模型，来对同一目标图片库的相同尺寸的图片素材进行测试，在测试进行的过程中利用数据采集卡对树莓派实时的电压和电流数据进行采集；
步骤3：对采集到的数据进行处理；
步骤4：采集DNN模型基于不同初始化方式的功率数据；
步骤5：采集DNN模型基于不同超参数的功率数据；
步骤6：采集DNN模型基于不同稀疏度大小的功率数据；
步骤7：采用同样方法对采集到的三类样本功率数据进行基于机器学习的方法进行分类，以混淆矩阵的方式呈现测试结果。
2.根据权利要求1所述的高精度识别AI设备中深度学习模型方法，其特征在于，所述步骤3的过程为：
步骤3-1：通过采集到的实时电流电压数据得到不同DNN模型运行过程中的功率数据P，并得到平均值中位数PM、标准差PSD；
步骤3-2：利用SVM、朴素贝叶斯、随机森林、KNN四种常用机器学习的方法，分别对不同DNN模型的功率参数进行分类处理；
步骤3-3：分类结果用混淆矩阵方式表现不同DNN网络之间分类的精确度。
3.如权利要求1或2所述的一种高精度识别AI设备中的深度学习模型的方法，其特征在于，所述步骤3中，所述对不同DNN模型功率数据进行采集，用机器学习的方法对数据结果进行分类。
CN201910206257.5A 2019-03-19 2019-03-19 一种识别ai设备中深度学习模型的方法 Active CN110033082B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910206257.5A CN110033082B (zh) 2019-03-19 2019-03-19 一种识别ai设备中深度学习模型的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910206257.5A CN110033082B (zh) 2019-03-19 2019-03-19 一种识别ai设备中深度学习模型的方法

Publications (2)

Publication Number Publication Date
CN110033082A true CN110033082A (zh) 2019-07-19
CN110033082B CN110033082B (zh) 2021-05-18

Family

ID=67236241

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910206257.5A Active CN110033082B (zh) 2019-03-19 2019-03-19 一种识别ai设备中深度学习模型的方法

Country Status (1)

Country Link
CN (1) CN110033082B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113676311A (zh) * 2021-07-05 2021-11-19 浙江工业大学 一种基于侧信道信息获取深度学习模型结构的方法及系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105022021A (zh) * 2015-07-08 2015-11-04 国家电网公司 一种基于多智能体的关口电能计量装置的状态识别方法
CN107122790A (zh) * 2017-03-15 2017-09-01 华北电力大学 基于混合神经网络和集成学习的非侵入式负荷识别算法
CN107239852A (zh) * 2017-05-05 2017-10-10 南京邮电大学 一种基于深度学习的电量消耗预测方法
CN107563414A (zh) * 2017-08-14 2018-01-09 北京航空航天大学 一种基于Kohonen‑SVM的复杂设备退化状态识别方法
US20180075337A1 (en) * 2016-09-14 2018-03-15 Hewlett Packard Enterprise Development Lp Neuron circuits
WO2018173472A1 (ja) * 2017-03-22 2018-09-27 株式会社デンソー ニューラルネットワーク回路

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105022021A (zh) * 2015-07-08 2015-11-04 国家电网公司 一种基于多智能体的关口电能计量装置的状态识别方法
US20180075337A1 (en) * 2016-09-14 2018-03-15 Hewlett Packard Enterprise Development Lp Neuron circuits
CN107122790A (zh) * 2017-03-15 2017-09-01 华北电力大学 基于混合神经网络和集成学习的非侵入式负荷识别算法
WO2018173472A1 (ja) * 2017-03-22 2018-09-27 株式会社デンソー ニューラルネットワーク回路
CN107239852A (zh) * 2017-05-05 2017-10-10 南京邮电大学 一种基于深度学习的电量消耗预测方法
CN107563414A (zh) * 2017-08-14 2018-01-09 北京航空航天大学 一种基于Kohonen‑SVM的复杂设备退化状态识别方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HUIXIN T.等: "Estimation of EV battery SOC based on KF dynamic neural network with GA", 《2018 CHINESE CONTROL AND DECISION CONFERENCE (CCDC)》 *
王华: "高性能ADC芯片测试技术研究", 《中国集成电路》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113676311A (zh) * 2021-07-05 2021-11-19 浙江工业大学 一种基于侧信道信息获取深度学习模型结构的方法及系统

Also Published As

Publication number Publication date
CN110033082B (zh) 2021-05-18

Similar Documents

Publication Publication Date Title
CN112380952B (zh) 基于人工智能的电力设备红外图像实时检测及识别方法
CN108197664B (zh) 模型获取方法、装置、电子设备及计算机可读存储介质
CN110163033B (zh) 正样本获取方法、行人检测模型生成方法和行人检测方法
CN101271515B (zh) 能识别多角度目标的图像检测装置
CN102163290B (zh) 基于时空关联信息的多视角视频监控中异常事件建模方法
CN105404886B (zh) 特征模型生成方法和特征模型生成装置
CN109829467A (zh) 图像标注方法、电子装置及非暂态电脑可读取储存媒体
CN113435546B (zh) 基于区分置信度水平的可迁移图像识别方法及系统
CN104063719A (zh) 基于深度卷积网络的行人检测方法及装置
CN110717554B (zh) 图像识别方法、电子设备及存储介质
CN107369635B (zh) 一种基于深度学习的智能半导体装备系统
CN110781829A (zh) 一种轻量级深度学习的智慧营业厅人脸识别方法
CN101738998B (zh) 一种基于局部判别分析的工业过程监测系统及方法
CN109740590A (zh) 基于目标跟踪辅助的roi精确提取方法及系统
CN111209935B (zh) 基于自适应域转移的无监督目标检测方法及系统
CN103824092A (zh) 一种用于输变电设备状态在线监测的图像分类方法
CN113870254B (zh) 目标对象的检测方法、装置、电子设备及存储介质
CN106951863B (zh) 一种基于随机森林的变电站设备红外图像变化检测方法
CN104134364A (zh) 具有自我学习能力的实时交通信号识别方法及系统
CN103390151A (zh) 人脸检测方法及装置
CN109740654A (zh) 一种基于深度学习的舌体自动检测方法
CN112364708A (zh) 基于知识蒸馏与对抗学习的多模态人体动作识别方法
CN112668438A (zh) 红外视频时序行为定位方法、装置、设备及存储介质
CN114879628A (zh) 基于对抗局部最大均值差异的多模态工业过程故障诊断方法
Zhang et al. Yeast cell detection and segmentation in bright field microscopy

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant