CN113497802B - 一种基于机器学习算法的车载ecu安全风险评估系统 - Google Patents

一种基于机器学习算法的车载ecu安全风险评估系统 Download PDF

Info

Publication number
CN113497802B
CN113497802B CN202110156103.7A CN202110156103A CN113497802B CN 113497802 B CN113497802 B CN 113497802B CN 202110156103 A CN202110156103 A CN 202110156103A CN 113497802 B CN113497802 B CN 113497802B
Authority
CN
China
Prior art keywords
module
parameter component
evaluation
data
threat
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110156103.7A
Other languages
English (en)
Other versions
CN113497802A (zh
Inventor
宋涛
李秀华
李辉
明钊
范琪琳
文俊浩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University
Original Assignee
Chongqing University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University filed Critical Chongqing University
Priority to CN202110156103.7A priority Critical patent/CN113497802B/zh
Publication of CN113497802A publication Critical patent/CN113497802A/zh
Application granted granted Critical
Publication of CN113497802B publication Critical patent/CN113497802B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/14Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/14Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1416Event detection, e.g. attack signature detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开一种基于机器学习算法的车载ECU安全风险评估系统,包括待评估数据获取模块、历史数据获取模块、数据清洗模块、训练数据集与测试数据集生成模块、威胁等级评估模块、影响水平评估模块、风险评估模块和数据库;本发明提出一种应用机器学习算法主动生成模型参数,改进HEAVENS模型,实现车载ECU网络安全风险自动评估,使得车载ECU网络安全风险评估智能化,节约了评估所需要花费的时间成本和人力成本。

Description

一种基于机器学习算法的车载ECU安全风险评估系统
技术领域
本发明涉及车载网络安全技术领域,具体是一种基于机器学习算法的车载ECU安全风险评估系统。
背景技术
在车联网网络通信中,车载ECU通信安全一直是汽车界非常重要的研究方向。ECU通信过程中的风险评估、风险识别、风险预测等应用非常广泛,不仅在快速识别车辆安全风险等级、优化网络通信、促进OTA升级、保障驾乘人员安全及降低财产损失起着重要作用,而且为整车信息安全功能规划和开发打下坚实基础。
在车载ECU通信过程中,一些车载ECU的运行状态或数据出现相较于长期的运行状态或数据等产生了较大变化,且这种变化超过了一定范围,我们将这种变化称为汽车存在的风险或威胁。当我们需要准确知道车辆ECU面临的风险等级时,就需要对风险指标进行量化处理,我们将这种量化处理的过程称为风险评估。
风险评估在车辆信息安全中的作用十分关键,目前比较常见的风险评估模型有两种:一种是根据ISO/IEC 15408和ISO/DIS 26262相关标准建立的EVITA威胁严重性分类模型,该模型使用攻击树分析法来识别通用威胁,从而确定信息安全要求,根据攻击结果的严重程度和成功攻击的可能性制定威胁风险分类建议。另一种是欧洲提出的一种针对车辆电子电气系统的信息安全威胁分析和风险评估方法——HEAVENS,HEAVENS被认为是汽车行业内出色的信息安全风险评价模型,该模型借鉴了BSI相关标准,具有比EVITA更细致的威胁分析维度和更规范的评估流程,HEAVENS采用微软的STRIDE方法对汽车电子电气系统进行威胁评估,主要通过威胁分析发现潜在威胁、评估风险、输出安全需求。
在现有的车载网络安全风险评估方法中,风险评估方法主要是根据评估经验,结合相关的评估标准和评估流程对车载ECU网络中存在的安全风险进行评估,并给予相应的风险权重,风险权重越大,代表风险程度越高,再根据重叠加计算整体水平,最后与基本标准进行对比分析,以此实现安全风险评估。第一种评估模型缺乏规范的评估流程,评估维度不够全面;第二种评估模型拥有规范的评估流程和评估标准,评价维度远高于第一种模型,弥补了第一种模型的不足之处,但在进行TARA(威胁分析与评价)时需要非常专业的人员参与大量的评估和计算,该过程需要耗费较多的时间和人力,且容易出现误判。
发明内容
本发明的目的是提供一种基于机器学习算法的车载ECU安全风险评估系统,包括待评估数据获取模块、历史数据获取模块、数据清洗模块、训练数据集与测试数据集生成模块、威胁等级评估模块、影响水平评估模块、风险评估模块和数据库。
所述待评估数据获取模块获取待评估车辆的安全评价数据,并发送至威胁等级评估模块、影响水平评估模块。
所述历史数据获取模块获取若干车辆的历史安全评价数据,并发送至数据清洗模块。
所述历史风险评估数据包括车载ECU的威胁-资产对。所述威胁类型包括仿冒、篡改、否认、信息泄露、拒绝服务、特权提升识别。
所述数据清洗模块去除历史安全评价数据的噪声,并将去噪后的安全评价数据写入安全评价向量集中。所述数据清洗模块将安全评价向量集发送至训练数据集与测试数据集生成模块。安全评价向量集中元素个数记为n。
数据清洗模块去除历史安全评价数据的噪声的步骤如下:
1)判断当前历史风险评估数据是否为车载ECU的风险评估数据,若是,则进行步骤2),否则,删除。
2)车载ECU的威胁等级、风险等级之和是否等于风险等级评价指标,若是,则包括车载ECU的数据,否则,删除。
3)删除历史安全评价数据与威胁描述不匹配的数据。所述威胁描述包括安全评价数据所属的威胁类型。
所述训练数据集与测试数据集生成模块随机生成比例系数β,0<β<1。并根据比例系数β将安全评价向量集划分为训练数据集和测试数据集。其中,训练数据集的元素个数为βn,测试数据集的元素个数为(1-β)n。
所述训练数据集与测试数据集将训练数据集、测试数据集发送至威胁等级评估模块和影响水平评估模块。
所述威胁等级评估模块存储有威胁等级评估模型。
威胁等级评估模型和风险等级评估均为Elman神经网络模型。
所述威胁等级评估模块利用训练数据集对威胁等级评估模型进行训练,并利用测试数据集对训练后的威胁等级评估模型进行测试,得到最优威胁等级评估模型。
所述威胁等级评估模块将去噪后的待评估车辆安全评价数据输入到最优威胁等级评估模型中,得到威胁等级TL,并发送至风险评估模块。
所述威胁等级评估模型包括输入层、隐含层、承接层和输出层。
所述输入层的输入包括Expertise参数分量E={E1,E2,E3,···,En}、Knowledgeof TOE参数分量K={K1,K2,K3,···,Kn}、Window of Opportunity参数分量W={W1,W2,WE3,···,Wn}、Equipment参数分量T={T1,T2,T3,···,Tn}。其中,Expertise参数分量E、Knowledge of TOE参数分量K、Window of Opportunity参数分量W、Equipment参数分量T中元素均为归一化元素,即元素Ei∈[0,1],元素Ki∈[0,1],元素Wi∈[0,1],元素Ti∈[0,1]。且元素
Figure BDA0002933522920000031
元素
Figure BDA0002933522920000032
元素
Figure BDA0002933522920000033
元素
Figure BDA0002933522920000034
Figure BDA0002933522920000035
分别表示Expertise参数分量E、Knowledge of TOE参数分量K、Window of Opportunity参数分量W、Equipment参数分量T的伴随矩阵的第i个元素,μE、μK、μW、μT分别是参数分量EKWT的期望;σE、σK、σW、σT分别是参数分量EKWT的方差。
Expertise参数分量E、Knowledge of TOE参数分量K、Window of Opportunity参数分量W、Equipment参数分量T的权值分别记为wim1、wim2、wim3、wim4
隐含层节点M={M1,M2,M3,···,Mm}的数目
Figure BDA0002933522920000036
其中,n为输入层节点数,l为输出层节点数,a为常数,a∈[1,10]。隐含层节点M影响威胁等级TL的权值记为WM→out={wmo1,wmo2,wmo3,···,wmom}。
参数a取值的确定方法如下:
1)初始化威胁等级评估模型的误差参数εTL=0.1,其中
Figure BDA0002933522920000037
设定循环迭代的最大次数为tmax。记迭代次数初始值t=1。
2)令a=t。
3)计算威胁等级评估模型的误差
Figure BDA0002933522920000038
若误差
Figure BDA0002933522920000039
或达到最大循环迭代次数,则停止迭代,并输出a,否则,令t=t+1,并返回步骤2)。
隐含层激活函数为ReLU:f(x)=max(0,x),学习速率记为R,目标误差记为θ。
承接层节点表示为CM={CM1,CM2,CM3,···CMm}。承接层输出向量Xcm(t)=h(∑Vm(t-1)Um(t-1))。h(·)为承接层函数。Vm为承接层到隐含层的连接权值。Um为承接层的输入向量。
威胁等级评估模型的误差函数如下所示:
Figure BDA0002933522920000041
式中,dTL(k)为期望输出。yTL(k)为威胁等级评估模型输出。ETL为均方误差。
若误差ETL大于预设值θ,则更新威胁等级评估模型的权重,直至ETL≤θ成立。
所述影响水平评估模块存储有影响水平评估模型。
所述影响水平评估模块利用训练数据集对影响水平评估模型进行训练,并利用测试数据集对训练后的影响水平评估模型进行测试,得到最优影响水平评估模型。
所述影响水平评估模块将去噪后的待评估车辆安全评价数据输入到最优影响水平评估模型中,得到影响水平IL,并发送至风险评估模块。
所述影响水平评估模型包括输入层、隐含层、承接层和输出层。
所述输入层的输入包括Safety参数分量S={S1,S2,S3,···,Sn}、Financial参数分量F={F1,F2,F3,···,Fn}、Operational参数分量O={O1,O2,O3,···,On}、Privacy&Legislation参数分量P={P1,P2,P3,···,Pn}。其中,Safety参数分量S、Financial参数分量F、Operational参数分量O、E Privacy&Legislation参数分量P中元素均为归一化元素,即元素Si∈[0,1],元素Fi∈[0,1],元素Oi∈[0,1],元素Pi∈[0,1]。且元素
Figure BDA0002933522920000042
元素
Figure BDA0002933522920000043
元素
Figure BDA0002933522920000044
元素
Figure BDA0002933522920000045
Figure BDA0002933522920000046
分别表示Safety参数分量S、Financial参数分量F、Operational参数分量O、E Privacy&Legislation参数分量P的伴随矩阵的第i个元素,μS、μF、μO、μP分别是参数分量SFOP的期望;σS、σF、σO、σP分别是SFOP的方差。
Safety参数分量S、Financial参数分量F、Operational参数分量O、Privacy&Legislation参数分量P的权值分别记为wig1、wig2、wig3、wig4
隐含层节点G={G1,G2,G3,···,Gs}的数目
Figure BDA0002933522920000047
其中,r为输入层节点数,j为输出层节点数。b为常数。b∈[1,10]。隐含层节点M影响威胁等级TL的权值记为WG→out={wgo1,wgo2,wgo3,···,wgos}。
参数b取值的确定方法如下:
1)初始化威胁等级评估模型的误差参数εIL=0.1,
Figure BDA0002933522920000051
Figure BDA0002933522920000052
设定循环迭代的最大次数为10。记迭代次数初始值t=1。
2)令b=t。
3)计算威胁等级评估模型的误差
Figure BDA0002933522920000053
若误差
Figure BDA0002933522920000054
则停止迭代,并输出b,否则,令t=t+1,并返回步骤2)。
隐含层激活函数为ReLU,f(x)=max(0,x),学习速率记为R,目标误差记为θ。
承接层节点表示为CG={CG1,CG2,CG3,···CGs}。承接层输出向量Xcg(t)=h(∑Vg(t-1)Ug(t-1)。h(·)为承接层函数。Vg为承接层到隐含层的连接权值。Ug为承接层的输入向量。
影响水平评估模型的误差函数如下所示:
Figure BDA0002933522920000055
式中,dIL(k)为期望输出。yIL(k)为影响水平评估模型输出。EIL为误差。
若误差EIL大于预设值θ,则更新影响水平评估模型的权重,直至EIL≤θ成立。
所述风险评估模块计算安全风险等级SL=TL+IL。
所述数据库存储待评估数据获取模块、历史数据获取模块、数据清洗模块、训练数据集与测试数据集生成模块、威胁等级评估模块、影响水平评估模块、风险评估模块的数据。
本发明的技术效果是毋庸置疑的,为解决现有技术存在的问题,本发明提出一种基于Elman神经网络算法来改进HEAVENS模型。相比同类型网络(比如:BP网络、BPNN网络),Elman神经网络模型在训练过程中拥有很高的分类精度和更快的收敛速度,能够很好的实现模型计算的快速性、准确性和高效性。
本发明基于HEAVENS安全模型,通过使用机器学习算法生成模型参数,实现车载ECU网络安全风险的自动评估。本发明提出一种应用机器学习算法主动生成模型参数,实现基于HEAVENS模型的车载ECU网络安全风险自动评估,使得车载ECU网络安全风险评估智能化,并节约了评估所需要花费的时间成本和人力成本。本发明使用车载ECU安全风险评价数据并结合Elman神经网络算法生成风险评估模型HEAVENS的模型参数,使用原始安全评价数据作为训练数据拟合HEAVENS模型参数,输出量化的SL值,实现车载ECU的安全风险的智能化评估。经过仿真验证,本发明自动化程度高,评估结果有效且高效,可以为汽车信息安全风险量化评估指标提供计算支持。
附图说明
图1为确定隐含层节点及最优a值流程图;
图2为改进HEAVENS模型SL的计算方法;
图3为确认最优b值流程图。
具体实施方式
下面结合实施例对本发明作进一步说明,但不应该理解为本发明上述主题范围仅限于下述实施例。在不脱离本发明上述技术思想的情况下,根据本领域普通技术知识和惯用手段,做出各种替换和变更,均应包括在本发明的保护范围内。
实施例1:
参见图1至图3,一种基于机器学习算法的车载ECU安全风险评估系统,包括待评估数据获取模块、历史数据获取模块、数据清洗模块、训练数据集与测试数据集生成模块、威胁等级评估模块、影响水平评估模块、风险评估模块和数据库。
所述待评估数据获取模块获取待评估车辆的安全评价数据,并发送至威胁等级评估模块、影响水平评估模块。
所述历史数据获取模块获取若干车辆的历史安全评价数据,并发送至数据清洗模块。
所述历史风险评估数据包括车载ECU(电子控制单元)的威胁-资产对。所述威胁类型包括仿冒、篡改、信息泄露、拒绝服务、特权提升识别。
所述数据清洗模块去除历史安全评价数据的噪声,并将去噪后的安全评价数据写入安全评价向量集中。所述数据清洗模块将安全评价向量集发送至训练数据集与测试数据集生成模块。安全评价向量集中元素个数记为n。
数据清洗模块去除历史安全评价数据的噪声的步骤如下:
1)判断当前历史风险评估数据是否为车载ECU的风险评估数据,若是,则进行步骤2),否则,删除。
2)车载ECU的威胁等级、风险等级之和是否等于风险等级评价指标,若是,则包括车载ECU的数据,否则,删除。
3)删除历史安全评价数据与威胁描述不匹配的数据。所述威胁描述包括安全评价数据所属的威胁类型。
所述训练数据集与测试数据集生成模块随机生成比例系数β,0<β<1。并根据比例系数β将安全评价向量集划分为训练数据集和测试数据集。其中,训练数据集的元素个数为βn,测试数据集的元素个数为(1-β)n。
所述训练数据集与测试数据集将训练数据集、测试数据集发送至威胁等级评估模块和影响水平评估模块。
所述威胁等级评估模块存储有威胁等级评估模型。
威胁等级评估模型和风险等级评估均为Elman神经网络模型。
所述威胁等级评估模块利用训练数据集对威胁等级评估模型进行训练,并利用测试数据集对训练后的威胁等级评估模型进行测试,得到最优威胁等级评估模型。
所述威胁等级评估模块将去噪后的待评估车辆安全评价数据输入到最优威胁等级评估模型中,得到威胁等级TL,并发送至风险评估模块。
所述威胁等级评估模型包括输入层、隐含层、承接层和输出层。
所述输入层的输入包括Expertise参数分量E={E1,E2,E3,···,En}、Knowledgeof TOE参数分量K={K1,K2,K3,···,Kn}、Window of Opportunity参数分量W={W1,W2,W3,···,Wn}、Equipment参数分量T={T1,T2,T3,···,Tn}。其中,Expertise参数分量E、Knowledge of TOE参数分量K、Window of Opportunity参数分量W、Equipment参数分量T中元素均为归一化元素,即元素Ei∈[0,1],元素Ki∈[0,1],元素Wi∈[0,1],元素Ti∈[0,1]。且元素
Figure BDA0002933522920000071
元素
Figure BDA0002933522920000072
元素
Figure BDA0002933522920000073
元素
Figure BDA0002933522920000074
Figure BDA0002933522920000075
分别表示Expertise参数分量E、Knowledge of TOE参数分量K、Window of Opportunity参数分量W、Equipment参数分量T的伴随矩阵的第i个元素,μE、μK、μW、μT分别是参数分量EKWT的期望;σE、σK、σW、σT分别是参数分量EKWT的方差。。
Expertise(经验)参数分量E、Knowledge of TOE(评估对象的知识)参数分量K、Window of Opportunity(机会窗口)参数分量W、Equipment(所需设备)参数分量T的权值分别记为wim1、wim2、wim3、wim4
隐含层节点M={M1,M2,M3,···,Mm}的数目
Figure BDA0002933522920000081
其中,l为常数。
Figure BDA0002933522920000082
为整数。a∈[1,10]。隐含层节点M影响威胁等级TL的权值记为WM→out={wmo1,wmo2,wmo3,···,wmom}。wmom为第m个隐含层节点影响威胁等级TL的权值。
参数a取值的确定方法如下:
1)初始化威胁等级评估模型的误差参数ε=1,设定循环迭代的最大次数为10。记迭代次数初始值t=1。
2)令a=t。
3)计算威胁等级评估模型的误差ε*。若误差ε*≤ε,则停止迭代,并输出a,否则,令t=t+1,并返回步骤2)。
隐含层激活函数为ReLU,f(x)=max(0,x),学习速率记为R,目标误差记为θ。
承接层节点表示为CM={CM1,CM2,CM3,···CMm}。承接层输出向量Xcm(t)=h(∑Vm(t-1)Um(t-1))。h(·)为承接层函数。Vm为承接层到隐含层的连接权值。Um为承接层的输入向量。
威胁等级评估模型的误差函数如下所示:
Figure BDA0002933522920000083
式中,dTL(k)为期望输出。yTL(k)为威胁等级评估模型输出。ETL为误差。
若误差ETL大于预设值θ,则更新威胁等级评估模型的权重,直至ETL≤θ成立。
所述影响水平评估模块存储有影响水平评估模型。
所述影响水平评估模块利用训练数据集对影响水平评估模型进行训练,并利用测试数据集对训练后的影响水平评估模型进行测试,得到最优影响水平评估模型。
所述影响水平评估模块将去噪后的待评估车辆安全评价数据输入到最优影响水平评估模型中,得到影响水平IL,并发送至风险评估模块。
所述影响水平评估模型包括输入层、隐含层、承接层和输出层。
所述输入层的输入包括Safety参数分量S={S1,S2,S3,···,Sn}、Financial参数分量F={F1,F2,F3,···,Fn}、Operational参数分量O={O1,O2,O3,···,On}、Privacy&Legislation参数分量P={P1,P2,P3,···,Pn}。其中,Safety参数分量S、Financial参数分量F、Operational参数分量O、E Privacy&Legislation参数分量P中元素均为归一化元素,即元素Si∈[0,1],元素Fi∈[0,1],元素Oi∈[0,1],元素Pi∈[0,1]。且元素
Figure BDA0002933522920000091
元素
Figure BDA0002933522920000092
元素
Figure BDA0002933522920000093
元素
Figure BDA0002933522920000094
Figure BDA0002933522920000095
分别表示Safety参数分量S、Financial参数分量F、Operational参数分量O、E Privacy&Legislation参数分量P的伴随矩阵的第i个元素,μS、μF、μO、μP分别是参数分量SFOP的期望;σS、σF、σO、σP分别是SFOP的方差。
Safety(安全性)参数分量S、Financial(成本)参数分量F、Operational(运营)参数分量O、Privacy&Legislation(保密性)参数分量P的权值分别记为wig1、wig2、wig3、wig4
隐含层节点G={G1,G2,G3,···,Gs}的数目
Figure BDA0002933522920000096
其中r为输入层节点数,j为输出层节点数。b为常数。b∈[1,10]。隐含层节点M影响威胁等级TL的权值记为WG→out={wgo1,wgo2,wgo3,···,wgos}。
参数b取值的确定方法如下:
1)初始化威胁等级评估模型的误差参数εIL=0.1,
Figure BDA0002933522920000097
Figure BDA0002933522920000098
设定循环迭代的最大次数为10。记迭代次数初始值t=1。
2)令b=t。
3)计算威胁等级评估模型的误差
Figure BDA0002933522920000099
若误差
Figure BDA00029335229200000910
则停止迭代,并输出b,否则,令t=t+1,并返回步骤2)。
隐含层激活函数为f(x)=max(0,x),学习速率记为R,目标误差记为θ。
承接层节点表示为CG={CG1,CG2,CG3,···CGs}。承接层输出向量Xcg(t)=h(∑Vg(t-1)Ug(t-1)。h(·)为承接层函数。Vg为承接层到隐含层的连接权值。Ug为承接层的输入向量。
首先初始化IL误差参数εIL=0.1,其中
Figure BDA00029335229200000911
Figure BDA00029335229200000912
设定循环迭代的最大次数为10,第一次迭代的初始值为i=1,每次迭代后i自加1,直到
Figure BDA00029335229200000913
停止循环,最后得到b=i,进而确定s的值。
影响水平评估模型的误差函数如下所示:
Figure BDA00029335229200000914
式中,dIL(k)为期望输出。yIL(k)为影响水平评估模型输出。EIL为误差。
若误差EIL大于预设值θ,则更新影响水平评估模型的权重,直至EIL≤θ成立。
所述风险评估模块计算安全风险等级SL=TL+IL。
所述数据库存储待评估数据获取模块、历史数据获取模块、数据清洗模块、训练数据集与测试数据集生成模块、威胁等级评估模块、影响水平评估模块、风险评估模块的数据。
实施例2:
1)数据清洗。基于车载ECU网络的安全评价数据,对整车ECU网络安全评价数据进行清洗。主要包括以下步骤:
1.1)基于评价规范和风险区间,筛选掉评价有误的信息,即经过威胁等级和影响水平累加后的风险等级计算值与风险等级评价值不等的数据;
1.2)基于设定的风险资产,过滤掉不合格资产数据,如:假设评价的资产为车载ECU,但是原始数据表中存在IVI娱乐系统的评价数据,此时需要删除该类型评价信息;
1.3)通过Threat威胁的界定,筛选掉资产评价信息与Threat威胁描述中不匹配的数据,如:假设Threat威胁描述是车载ECU的门锁信号,但在资产信息中显示是评价方向信号;经过以上的数据清洗工作,最终得到可用的安全评价数据。
2)建立训练数据集和测试数据集。根据步骤一中所得到的数据设置ID序列,通过ID区间划分训练数据序列和测试数据序列。数据序列编号为1~n,随机选择n*0.8条数据作为训练数据,且定义训练数据编号为1~t1,t1∈[1,0.8*n],0.2*n条数据作为测试数据,且定义测试数据编号为1~t2,t2∈[1,0.2*n]。
3)TL计算
将TL设计为一个有n*4输入,1输出的Elman神经网络。
首先,需要将E={E1,E2,E3,···,En},K={K1,K2,K3,···,Kn},W={W1,W2,W3,···,Wn},T={T1,T2,T3,···,Tn}中的元素进行归一化处理,使得Ei∈[0,1],Ki∈[0,1],Wi∈[0,1],Ti∈[0,1]。归一化方法如下:1)计算原矩阵的伴随矩阵,得到E*,K*,W*,K*;2)将伴随矩阵进行如下处理:
Figure BDA0002933522920000101
Figure BDA0002933522920000102
然后,确认隐含节点M={M1,M2,M3,···,Mm}的数目m。一般由经验公式
Figure BDA0002933522920000111
来确定,此处l=1,
Figure BDA0002933522920000112
为整数a∈[1,10]。由于取值的不确定性,为了满足一定误差和计算量的要求,需要采用图1的算法来确认最优的a值,该算法的计算过程是:首先初始化TL误差参数εTL=0.1,
Figure BDA0002933522920000113
设定循环迭代的最大次数为10,第一次迭代的初始值为i=1,每次迭代后i自加1,直到
Figure BDA0002933522920000114
停止循环,最后得到a=i,进而确定m的值。
使用向量Win→M={wim1,wim2,wim3,wim4}表示EKWT参数权值,使用向量WM→out={wmo1,wmo2,wmo3,···,wmom}作为M={M1,M2,M3,···,Mm}影响TL的权值,隐含层激活函数选用ReLU,f(x)=max(0,x),学习速率设置为R=0.1,目标误差设置为θ=0.01。
承接层的计算中,承接层节点表示为CM={CM1,CM2,CM3,···CMm},采用t记录迭代次序,使用Xcm作为承接层的输出向量,承接层的输入使用Um向量,承接层到隐含层的连接权值使用Vg向量,(·)作为承接层函数,可得到Xcm(t)=(∑Vm(t-1)Um(t-1))。
4)IL计算
将IL设计为一个有n*4输入,1输出的Elman网络。
首先,需要将S={S1,S2,S3,···,Sn},F={F1,F2,F3,···,Fn},O={O1,O2,O3,···,On},P={P1,P2,P3,···,Pn}中的元素进行归一化处理,使得Si∈[0,1],Fi∈[0,1],Oi∈[0,1],Pi∈[0,1]。归一化方法如下:1)计算原矩阵的伴随矩阵,得到S*,F*,O*,P*;2)将伴随矩阵进行如下处理:
Figure BDA0002933522920000115
然后,确认隐含节点G={G1,G2,G3,···,Gs}的数目s。一般由经验公式
Figure BDA0002933522920000116
来确定,此处i=1,
Figure BDA0002933522920000117
为整数b∈[1,10]。由于取值的不确定性,为了满足一定误差和计算量的要求,需要采用图3的算法来确认最优的b值,该算法的计算过程是:首先初始化IL误差参数εIL=0.1,
Figure BDA0002933522920000118
设定循环迭代的最大次数为10,第一次迭代的初始值为i=1,每次迭代后i自加1,直到
Figure BDA0002933522920000119
停止循环,最后得到b=i,进而确定s的值。
使用向量Win→G={wig1,wig2,wig3,wig4}表示EKWT参数权值,使用向量WG→out={wgo1,wgo2,wgo3,···,wgos}作为G={G1,G2,G3,···,Gs}影响IL的权值,隐含层激活函数选用ReLU,f(x)=max(0,x),学习速率设置为R=0.1,目标误差设置为θ=0.01。
承接层的计算中,承接层节点表示为CG={CG1,CG2,CG3,···CGs},采用t记录迭代次序,使用Xcg作为承接层的输出向量,承接层的输入使用Ug向量,承接层到隐含层的连接权值使用Vg向量,(·)作为承接层函数,可得到Xcg(t)=h(∑Vg(t-1)Ug(t-1))。
5)SL的计算
TL和IL的计算参数会根据大量的数据进行训练,训练完成后将会将TL和IL作为SL的计算参数,根据SL=TL+IL获取HEAVENS模型的参数从而得到风险评估数值。
改进后HEAVENS的TL、IL和SL的计算方法可以用图2来表示。
6)误差计算
定义TL和IL结果的输出为yTL(k),yIL(k),期望输出为dTL(k),dIL(k),误差函数的计算采用
Figure BDA0002933522920000121
Figure BDA0002933522920000122
通过预设的标准误差θ进行权值的迭代更新,即Elman神经网络的输出yTL(k),yIL(k)与期望输出dTL(k),dIL(k)的方差dTL,dIL大于预设值θ,神经网络输入权重值将会在原权重值基础上重新计算新权值,直到ETL<θ,EIL<θ停止迭代,从而得到最优权值,以此确定Elman神经网络模型的参数,最终确定HEAVENS风险评估模型的参数。
7)结果验证
将测试数据加入训练后的模型进行测试,得到TL的计算值TLtest和IL的计算值ILtest,通过计算偏差,得出改进后的HEAVENS模型,并将改进HEAVENS模型的计算结果与专家的评估结果相对比,具有一致性好,计算快速、准确性高的优点。

Claims (7)

1.一种基于机器学习算法的车载ECU安全风险评估系统,其特征在于:包括待评估数据获取模块、历史数据获取模块、数据清洗模块、训练数据集与测试数据集生成模块、威胁等级评估模块、影响水平评估模块、风险评估模块和数据库;
所述待评估数据获取模块获取待评估车辆的安全评价数据,并发送至威胁等级评估模块、影响水平评估模块;
所述历史数据获取模块获取若干车辆的历史安全评价数据,并发送至数据清洗模块;
所述数据清洗模块去除历史安全评价数据的噪声,并将去噪后的安全评价数据写入安全评价向量集中;所述数据清洗模块将安全评价向量集发送至训练数据集与测试数据集生成模块;安全评价向量集中元素个数记为n;
所述训练数据集与测试数据集生成模块随机生成比例系数β,0<β<1;并根据比例系数β将安全评价向量集划分为训练数据集和测试数据集;其中,训练数据集的元素个数为βn,测试数据集的元素个数为(1-β)n;
所述训练数据集与测试数据集生成模块将训练数据集、测试数据集发送至威胁等级评估模块和影响水平评估模块;
所述威胁等级评估模块存储有威胁等级评估模型;
所述威胁等级评估模块利用训练数据集对威胁等级评估模型进行训练,并利用测试数据集对训练后的威胁等级评估模型进行测试,得到最优威胁等级评估模型;
所述威胁等级评估模块将去噪后的待评估车辆安全评价数据输入到最优威胁等级评估模型中,得到威胁等级TL,并发送至风险评估模块;
所述威胁等级评估模型包括输入层、隐含层、承接层和输出层;
所述输入层的输入包括Expertise参数分量E={E1,E2,E3,…,En}、Knowledge of TOE参数分量K={K1,K2,K3,…,Kn}、Window of Opportunity参数分量W={W1,W2,W3,…,Wn}、Equipment参数分量T={T1,T2,T3,…,Tn};其中,Expertise参数分量E、Knowledge of TOE参数分量K、Window of Opportunity参数分量W、Equipment参数分量T中元素均为归一化元素,即元素Ei∈[0,1],元素Ki∈[0,1],元素Wi∈[0,1],元素Ti∈[0,1];且元素
Figure FDA0003489013470000011
元素
Figure FDA0003489013470000012
元素
Figure FDA0003489013470000013
元素
Figure FDA0003489013470000014
Figure FDA0003489013470000015
分别表示Expertise 参数分量E、Knowledge of TOE参数分量K、Window of Opportunity参数分量W、Equipment参数分量T的伴随矩阵的第i个元素,μE、μK、μw、μT分别是参数分量EKWT的期望;σE、σK、σW、σT分别是参数分量EKWT的方差;Expertise参数分量E、Knowledge of TOE参数分量K、Window of Opportunity参数分量W、Equipment参数分量T的权值分别记为wim1、wim2、wim3、wim4
隐含层节点M={M1,M2,M3,…,Mm}的数目
Figure FDA0003489013470000021
其中,n为输入层节点数,l为输出层节点数;a为常数;a∈[1,10];隐含层节点M影响威胁等级TL的权值记为WM→out={wmo1,wmo2,wmo3,…,wmom};
隐含层激活函数为ReLU函数:f(x)=max(0,x);学习速率记为R,目标误差记为θ;
承接层节点表示为CM={CM1,CM2,CM3,…CMm};承接层输出向量Xcm(t)=h(∑Vm(t-1)Um(t-1));h(·)为承接层函数;Vm(t-1)为承接层到隐含层的连接权值;Um(t-1)为承接层的输入向量;
所述影响水平评估模块存储有影响水平评估模型;
所述影响水平评估模块利用训练数据集对影响水平评估模型进行训练,并利用测试数据集对训练后的影响水平评估模型进行测试,得到最优影响水平评估模型;
所述影响水平评估模块将去噪后的待评估车辆安全评价数据输入到最优影响水平评估模型中,得到影响水平IL,并发送至风险评估模块;
所述影响水平评估模型包括输入层、隐含层、承接层和输出层;
所述输入层的输入包括Safety参数分量S={S1,S2,S3,…,Sn}、Financial参数分量F={F1,F2,F3,…,Fn}、Operational参数分量O={O1,O2,O3,…,On}、Privacy&Legislation参数分量P={P1,P2,P3,…,Pn};其中,Safety参数分量S、Financial参数分量F、Operational参数分量O、E Privacy&Legislation参数分量P中元素均为归一化元素,即元素Si∈[0,1],元素Fi∈[0,1],元素Oi∈[0,1],元素Pi∈[0,1];且元素
Figure FDA0003489013470000022
元素
Figure FDA0003489013470000023
元素
Figure FDA0003489013470000024
元素
Figure FDA0003489013470000025
Figure FDA0003489013470000026
分别表示Safety参数分量S、Financial参数分量F、Operational参数分量O、E Privacy&Legislation参数分量P的伴随矩阵的第i个元素,μS、μF、μO、μP分别是参数分量SFOP的期望;σS、σF、σO、σP分别是SFOP的方差;
Safety参数分量S、Financial参数分量F、Operational参数分量O、Privacy&Legislation参数分量P的权值分别记为wig1、wig2、wig3、wig4
隐含层节点G={G1,G2,G3,…,Gs}的数目
Figure FDA0003489013470000031
其中,其中r为输入层节点数,j为输出层节点数;b为常数;且b∈[1,10];隐含层节点M影响威胁等级TL的权值记为WG→out={wgo1,wgo2,wgo3,…,wgos};
隐含层激活函数为ReLU:f(x)=max(0,x);学习速率记为R,目标误差记为θ;
承接层节点表示为CG={CG1,CG2,CG3,…CGs};承接层输出向量Xcg(t)=h(∑Vg(t-1)Ug(t-1);h(·)为承接层函数;Vg为承接层到隐含层的连接权值;Ug为承接层的输入向量;
首先初始化IL误差参数εIL=0.1,
Figure FDA0003489013470000032
Figure FDA0003489013470000033
设定循环迭代的最大次数为10,第一次迭代的初始值为i=1,每次迭代后i自加1,直到
Figure FDA0003489013470000034
停止循环,最后得到b=i,进而确定s的值;dIL(k)为期望输出;yIL(k)为影响水平评估模型输出;
所述风险评估模块计算安全风险等级SL=TL+IL;
所述数据库存储待评估数据获取模块、历史数据获取模块、数据清洗模块、训练数据集与测试数据集生成模块、威胁等级评估模块、影响水平评估模块、风险评估模块的数据。
2.根据权利要求1所述的一种基于机器学习算法的车载ECU安全风险评估系统,其特征在于:所述历史风险评估数据包括车载ECU的威胁-资产对;威胁类型包括仿冒、篡改、否认、信息泄露、拒绝服务、特权提升识别。
3.根据权利要求2所述的一种基于机器学习算法的车载ECU安全风险评估系统,其特征在于:数据清洗模块去除历史安全评价数据的噪声的步骤如下:
1)判断当前历史风险评估数据是否为车载ECU的风险评估数据,若是,则进行步骤2),否则,删除;
2)车载ECU的威胁等级、影响水平之和是否等于风险等级评价指标,若是,则包括车载ECU的数据,否则,删除;
3)删除历史安全评价数据与威胁描述不匹配的数据;所述威胁描述包括安全评价数据所属的威胁类型。
4.根据权利要求1所述的一种基于机器学习算法的车载ECU安全风险评估系统,其特征在于:威胁等级评估模型和影响水平评估模型均为Elman神经网络模型。
5.根据权利要求1所述的一种基于机器学习算法的车载ECU安全风险评估系统,其特征在于,参数a取值的确定方法如下:
1)初始化威胁等级评估模型的误差参数εTL=0.1,设定循环迭代的最大次数为tmax;记迭代次数初始值t=1;
2)令a=t;
3)计算当前威胁等级评估模型的误差
Figure FDA0003489013470000041
Figure FDA0003489013470000042
dTL(k)为期望输出;yTL(k)为威胁等级评估模型输出;若误差
Figure FDA0003489013470000043
或达到最大循环迭代次数,则停止迭代,并输出a,否则,令t=t+1,并返回步骤2)。
6.根据权利要求1所述的一种基于机器学习算法的车载ECU安全风险评估系统,其特征在于,威胁等级评估模型的误差函数如下所示:
Figure FDA0003489013470000044
式中,dTL(k)为期望输出;yTL(k)为威胁等级评估模型输出;ETL为均方误差;
若误差ETL大于预设值θ,则更新威胁等级评估模型的权重,直至ETL≤θ成立。
7.根据权利要求1所述的一种基于机器学习算法的车载ECU安全风险评估系统,其特征在于:影响水平评估模型的误差函数如下所示:
Figure FDA0003489013470000045
式中,dIL(k)为期望输出;yIL(k)为影响水平评估模型输出;EIL为误差;
若误差EIL大于预设值θ,则更新影响水平评估模型的权重,直至EIL≤θ成立。
CN202110156103.7A 2021-02-04 2021-02-04 一种基于机器学习算法的车载ecu安全风险评估系统 Active CN113497802B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110156103.7A CN113497802B (zh) 2021-02-04 2021-02-04 一种基于机器学习算法的车载ecu安全风险评估系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110156103.7A CN113497802B (zh) 2021-02-04 2021-02-04 一种基于机器学习算法的车载ecu安全风险评估系统

Publications (2)

Publication Number Publication Date
CN113497802A CN113497802A (zh) 2021-10-12
CN113497802B true CN113497802B (zh) 2022-03-08

Family

ID=77995778

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110156103.7A Active CN113497802B (zh) 2021-02-04 2021-02-04 一种基于机器学习算法的车载ecu安全风险评估系统

Country Status (1)

Country Link
CN (1) CN113497802B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114065402B (zh) * 2021-11-25 2024-04-19 华中科技大学 基于hssa-bpnn模型的车辆全态声品质预报方法
CN115396161A (zh) * 2022-08-10 2022-11-25 中国第一汽车股份有限公司 车辆网络安全的评估方法、装置以及云服务器

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109587125A (zh) * 2018-11-23 2019-04-05 南方电网科学研究院有限责任公司 一种网络安全大数据分析方法、系统及相关装置
CN110287703A (zh) * 2019-06-10 2019-09-27 百度在线网络技术(北京)有限公司 车辆安全风险检测的方法及装置
CN110298077A (zh) * 2019-05-27 2019-10-01 中国汽车技术研究中心有限公司 汽车信息安全tara分析方法与数字化建模系统
CN110401649A (zh) * 2019-07-17 2019-11-01 湖北央中巨石信息技术有限公司 基于态势感知学习的信息安全风险评估方法和系统
CN111652496A (zh) * 2020-05-28 2020-09-11 中国能源建设集团广东省电力设计研究院有限公司 基于网络安全态势感知系统的运行风险评估方法及装置
CN111985789A (zh) * 2020-07-29 2020-11-24 惠州市德赛西威智能交通技术研究院有限公司 一种车载终端信息安全威胁分析和风险评估系统及方法
CN112016138A (zh) * 2020-08-13 2020-12-01 上海帆一尚行科技有限公司 一种车联网自动化安全建模的方法、装置和电子设备
CN112100623A (zh) * 2020-08-21 2020-12-18 百度在线网络技术(北京)有限公司 机器学习模型的风险评估方法、装置、设备及存储介质

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180018602A1 (en) * 2016-02-25 2018-01-18 Mcs2, Llc Determining risk level and maturity of compliance activities
US11200142B2 (en) * 2018-10-26 2021-12-14 International Business Machines Corporation Perform preemptive identification and reduction of risk of failure in computational systems by training a machine learning module

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109587125A (zh) * 2018-11-23 2019-04-05 南方电网科学研究院有限责任公司 一种网络安全大数据分析方法、系统及相关装置
CN110298077A (zh) * 2019-05-27 2019-10-01 中国汽车技术研究中心有限公司 汽车信息安全tara分析方法与数字化建模系统
CN110287703A (zh) * 2019-06-10 2019-09-27 百度在线网络技术(北京)有限公司 车辆安全风险检测的方法及装置
CN110401649A (zh) * 2019-07-17 2019-11-01 湖北央中巨石信息技术有限公司 基于态势感知学习的信息安全风险评估方法和系统
CN111652496A (zh) * 2020-05-28 2020-09-11 中国能源建设集团广东省电力设计研究院有限公司 基于网络安全态势感知系统的运行风险评估方法及装置
CN111985789A (zh) * 2020-07-29 2020-11-24 惠州市德赛西威智能交通技术研究院有限公司 一种车载终端信息安全威胁分析和风险评估系统及方法
CN112016138A (zh) * 2020-08-13 2020-12-01 上海帆一尚行科技有限公司 一种车联网自动化安全建模的方法、装置和电子设备
CN112100623A (zh) * 2020-08-21 2020-12-18 百度在线网络技术(北京)有限公司 机器学习模型的风险评估方法、装置、设备及存储介质

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
Md Delwar Hossain ; Hiroyuki Inoue ; Hideya Ochiai ; Doudou Fall ; Y.LSTM-Based Intrusion Detection System for In-Vehicle Can Bus Communications.《IEEE Access》.2020,第8卷 *
Yi Wang ; Dan Wei Ming Chia ; Yajun Ha.Vulnerability of Deep Learning Model based Anomaly Detection in Vehicle Network.《2020 IEEE 63rd International Midwest Symposium on Circuits and Systems (MWSCAS)》.2020, *
基于BP神经网络改进HEAVENS安全模型风险评估方法;Neo Wong;《https://zhuanlan.zhihu.com/p/260031371》;20200928;全文 *
基于HEAVENS模型的汽车行业漏洞等级划分研究;邵学彬; 靳一洲;《江苏科技信息》;20180520;第35卷(第14期);75-77页 *
基于车联网信息安全平台风险评估系统的研究与实现;杨曙光;《中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑》;20200731;C034-489页 *

Also Published As

Publication number Publication date
CN113497802A (zh) 2021-10-12

Similar Documents

Publication Publication Date Title
CN113497802B (zh) 一种基于机器学习算法的车载ecu安全风险评估系统
Yang et al. The reliability of travel time forecasting
CN111294341A (zh) 基于自编码器和递归神经网络的车载系统入侵检测方法
CN101438238A (zh) 用于异常检测的方法和系统
CN110706213B (zh) 基于应变响应累积分布函数差的桥梁集群结构损伤判别方法
CN109917777B (zh) 基于混合多采样率概率主成分分析模型的故障检测方法
CN105784556A (zh) 一种基于自组织模糊神经网络的空气细颗粒物pm2.5软测量方法
CN112529234A (zh) 基于深度学习的地表水质预测方法
CN112163624A (zh) 基于深度学习和极值理论的数据异常判断方法及系统
CN113139687A (zh) 一种预测信用卡用户违约的方法及装置
CN114580087B (zh) 一种船载设备的联邦剩余使用寿命预测方法、装置及系统
CN112613617A (zh) 基于回归模型的不确定性估计方法和装置
CN111967308A (zh) 一种在线路面不平度辨识方法及系统
CN111241629B (zh) 基于数据驱动的飞机液压泵性能变化趋势智能预测方法
CN111832442A (zh) 从海量桥梁动态应变数据中自动化分离温度应变成分的方法
CN115983329A (zh) 空气质量及气象条件的预测方法、装置、设备及存储介质
CN107862126B (zh) 一种部件级信息多样性条件下的系统可靠性评估方法
CN114819449A (zh) 预测车辆除霜性能的方法、装置、设备及存储介质
CN112508080A (zh) 基于经验回放的车辆型号识别方法、装置、设备及介质
DE102020201183A1 (de) Verfahren und Vorrichtung zur Simulation eines technischen Systems
Yang et al. Adaptive testing for connected and automated vehicles with sparse control variates in overtaking scenarios
CN116628619B (zh) 一种基于车网耦合的未知异常电气现象辨识方法
CN117436770B (zh) 基于bim的建筑工程建设管理方法及系统
CN111222643B (zh) 一种差异基因调控网络推断方法
EP4293334A1 (en) Crash test device, apparatus, method and computer program for controlling a crash test device and for training a neural network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
DD01 Delivery of document by public notice
DD01 Delivery of document by public notice

Addressee: Patent of Chongqing University The person in charge

Document name: Notification of conformity

GR01 Patent grant
GR01 Patent grant