CN113052490A - 一种电力工控系统协同防御方法、装置及存储介质 - Google Patents
一种电力工控系统协同防御方法、装置及存储介质 Download PDFInfo
- Publication number
- CN113052490A CN113052490A CN202110409014.9A CN202110409014A CN113052490A CN 113052490 A CN113052490 A CN 113052490A CN 202110409014 A CN202110409014 A CN 202110409014A CN 113052490 A CN113052490 A CN 113052490A
- Authority
- CN
- China
- Prior art keywords
- data
- target
- target data
- terminal
- control strategy
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 90
- 230000007123 defense Effects 0.000 title claims abstract description 59
- 238000003860 storage Methods 0.000 title claims abstract description 16
- 238000011217 control strategy Methods 0.000 claims abstract description 77
- 206010048669 Terminal state Diseases 0.000 claims abstract description 32
- 230000006870 function Effects 0.000 claims description 26
- 230000015654 memory Effects 0.000 claims description 21
- 238000004458 analytical method Methods 0.000 claims description 16
- 238000005516 engineering process Methods 0.000 claims description 12
- 238000010276 construction Methods 0.000 claims description 7
- 230000004927 fusion Effects 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 5
- 238000003062 neural network model Methods 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 2
- 230000006399 behavior Effects 0.000 description 15
- 230000002159 abnormal effect Effects 0.000 description 14
- 238000013528 artificial neural network Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000003993 interaction Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 239000003795 chemical substances by application Substances 0.000 description 4
- 230000002787 reinforcement Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000004807 localization Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 241001123248 Arma Species 0.000 description 1
- 241000258937 Hemiptera Species 0.000 description 1
- 241000700605 Viruses Species 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/067—Enterprise or organisation modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
Landscapes
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Engineering & Computer Science (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Tourism & Hospitality (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Educational Administration (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Health & Medical Sciences (AREA)
- Public Health (AREA)
- Water Supply & Treatment (AREA)
- General Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Remote Monitoring And Control Of Power-Distribution Networks (AREA)
Abstract
本发明提供一种电力工控系统协同防御方法、装置及存储介质，其中，方法，应用于云端服务器，包括如下步骤：接收至少一个终端的第一目标数据；将所述第一目标数据输入至第一目标模型，得到终端状态数据；根据所述终端状态数据，确定并下发第一控制策略。通过实施本发明，将终端上传的第一目标数据输入至第一目标模型，得到终端状态数据，根据终端状态数据确定控制策略，相比于针对某种特定的工控系统协议格式开展防御方法，本方法的第一目标模型适用于多种工控系统的协议，能够识别多种终端状态，可扩展性更强，准确率更高，且将终端数据进行汇总，由云端服务器统一处理，提高了处理效率。
Description
技术领域
本发明涉及信息安全技术领域，具体涉及一种电力工控系统协同防御方法、装置及存储介质。
背景技术
随着科学技术和网络技术的发展，电力企业中大量应用电力工控系统，在提高效率的同时，也大大提高了企业的经济效益。目前，针对电力工控系统的高级可持续性威胁攻击等新型攻击手段层出不穷，而且工控系统重点关注设备专用操作系统漏洞、配置缺陷、信息通信协议这类极易引起工业现场生产设备突然中断，导致重大安全事故的问题。
传统异常流量检测方法及特征识别技术存在高漏检率及无法对抗未知威胁等缺陷，目前主要的研究是针对某种特定的工控系统协议格式开展防御方法研究，该方法无法进行扩展，缺乏普遍性；也有基于网络流量协议逆向分析技术研究，但识别准确性较低；还有基于执行轨迹的协议逆向分析协议状态机复原准确，准确性较高，但是依赖协议实体的运行环境，效率低，耗时长。因此，亟需提出一种电力工控系统协同防御方法，以解决防御方法可扩展性低、准确性低、效率低的问题。
发明内容
有鉴于此，本发明实施例提供了一种电力工控系统协同防御方法、装置及存储介质，以解决现有技术中防御方法可扩展性低、准确性低、效率低的缺陷。
根据第一方面，本发明实施例提供一种电力工控系统协同防御方法，应用于云端服务器，包括如下步骤：接收至少一个终端的第一目标数据；将所述第一目标数据输入至第一目标模型，得到终端状态数据；根据所述终端状态数据，确定并下发第一控制策略。
可选地，还包括：接收调度网的第二目标数据，所述调度网连接多个终端；根据所述第二目标数据与运行基线，确定调度网状态数据；根据所述调度网状态数据，确定并下发第二控制策略。
可选地，所述运行基线根据第二目标模型得到，包括：将第三目标数据输入至第二目标模型，得到目标数据类型的基本可信度，所述第三目标数据为所述调度网进行特征提取以及特征证据体空间构造得到的数据；当基本可信度高于预设阈值的所述第三目标数据类型为新增类型，则将所述第三目标数据与历史调度网运行基线进行特征融合，得到更新后的调度网运行基线。
可选地，所述第二目标模型为径向基神经网络模型。
根据第二方面，本发明实施例提供一种电力工控系统协同防御方法，应用于云端服务器，包括如下步骤：接收调度网的第四目标数据，所述调度网连接多个终端；根据所述第四目标数据与运行基线，确定调度网状态数据，所述运行基线根据第三目标模型得到；根据所述调度网状态数据，确定并下发第三控制策略。
根据第三方面，本发明实施例提供一种电力工控系统协同防御方法，应用于调度网，包括如下步骤：接收至少一个终端的采集数据；提取所述采集数据的特征，并构造特征证据体空间，得到目标数据；发送所述目标数据至云端服务器；接收目标控制策略，根据所述目标控制策略下发第四控制策略。
根据第四方面，本发明实施例一种电力工控系统协同防御方法，应用于终端，包括如下步骤：数据采集；对所述数据进行本地化分析以及归并，得到第一目标数据；将所述第一目标数据发送至云端服务器；接收并执行第一控制策略。
可选地，还包括：接收并执行第四控制策略。
可选地，对所述数据进行本地化分析，包括：利用污点分析技术和局部符号执行技术提取出电力系统控制软件的函数调用逻辑以及参数数据，并对数据进行标记，跟踪数据的流向，解析函数调用规律，所述函数调用规律包括函数调用数据、指令特征数据、后门特征数据中的一种或多种。
可选地，所述终端引入边缘计算代理，在所述边缘计算代理内存创建可信执行环境。
根据第五方面，本发明实施例提供一种电力工控系统协同防御装置，应用于云端服务器，包括：第一目标数据接收模块，用于接收至少一个终端的第一目标数据；终端状态数据确定模块，用于将所述第一目标数据输入至第一目标模型，得到终端状态数据；第一控制策略确定模块，用于根据所述终端状态数据，确定并下发第一控制策略。
根据第六方面，本发明实施例提供一种电力工控系统协同防御装置，应用于云端服务器，包括：第四目标数据接收模块，用于接收调度网的第四目标数据，所述调度网连接多个终端；调度网状态数据确定模块，用于根据所述第四目标数据与运行基线，确定调度网状态数据，所述运行基线根据第三目标模型得到；第三控制策略确定模块，用于根据所述调度网状态数据，确定并下发第三控制策略。
根据第七方面，本发明实施例提供一种电力工控系统协同防御装置，应用于调度网，包括：采集数据接收模块，用于接收至少一个终端的采集数据；目标数据确定模块，用于提取所述采集数据的特征，并构造特征证据体空间，得到目标数据；第一发送模块，用于发送所述目标数据至云端服务器；目标控制策略接收模块，用于接收目标控制策略，根据所述目标控制策略下发第四控制策略。
根据第八方面，本发明实施例提供一种电力工控系统协同防御装置，应用于终端，包括：数据采集模块，用于数据采集；第一目标数据确定模块，用于对所述数据进行本地化分析以及归并，得到第一目标数据；第二发送模块，用于将所述第一目标数据发送至云端服务器；第一执行模块，用于接收并执行第一控制策略。
根据第九方面，本发明实施例提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现第一方面或第一方面任一实施方式，或第二方面或第二方面任一实施方式，或第三方面或第三方面任一实施方式，或第四方面或第四方面任一实施方式所述的电力工控系统协同防御方法的步骤。
根据第十方面，本发明实施例提供一种存储介质，其上存储有计算机指令，该指令被处理器执行时实现第一方面或第一方面任一实施方式，或第二方面或第二方面任一实施方式，或第三方面或第三方面任一实施方式，或第四方面或第四方面任一实施方式所述的电力工控系统协同防御方法的步骤。
本发明技术方案，具有如下优点：
本实施例提供的电力工控系统协同防御方法，将终端上传的第一目标数据输入至第一目标模型，得到终端状态数据，根据终端状态数据确定控制策略，相比于针对某种特定的工控系统协议格式开展防御方法，本方法的第一目标模型适用于多种工控系统的协议，能够识别多种终端状态，可扩展性更强，准确率更高，且将终端数据进行汇总，由云端服务器统一处理，提高了处理效率。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1－6为本发明实施例中电力工控系统协同防御方法的一个具体示例的流程图；
图7－10为本发明实施例中电力工控系统协同防御装置的一个具体示例原理框图；
图11为本发明实施例中电子设备的一个具体示例的原理框图。
具体实施方式
下面将结合附图对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在本发明的描述中，需要说明的是，术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”仅用于描述目的，而不能理解为指示或暗示相对重要性。
在本发明的描述中，需要说明的是，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，还可以是两个元件内部的连通，可以是无线连接，也可以是有线连接。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。
此外，下面所描述的本发明不同实施方式中所涉及的技术特征只要彼此之间未构成冲突就可以相互结合。
本实施例提供一种电力工控系统协同防御方法，应用于云端服务器，云端服务器可以通过代理软件执行防御，从而实现预防恶意行为、预防病毒以及进行数据加密，如图1所示，包括如下步骤：
S101，接收至少一个终端的第一目标数据；
示例性地，终端可以是工控设备终端，也可以是各种传感器终端，第一目标数据可以表征终端属性参数以及运行数据，比如，终端的控制软件运行数据，终端之间的通信交互数据，终端的属性参数(比如终端的ip地址、终端类型、终端型号等)等等，第一目标数据也可以表征电力工控系统中的各个传感器数据。本实施例对第一目标参数类型不做限定，本领域技术人员可以根据需要确定。
第一目标数据可以是终端对自身数据进行本地化分析以及归并处理后的数据。本地化分析可以包括数据缓存、数据计算处理、数据分类、设定数据波动区间、数据聚合等等，不同数据集可以包括正常行为数据集以及恶意交互行为数据集。闭源电力工控系统中出现的与已有正常交互行为数据及恶意行为数据间存在显著差异的数据为增量学习对象。基于已有的正常行为数据样本和恶意行为数据样本，通过异常数据检测机制，实现归并，从而完成增量学习样本的识别与获取，并将其添加到正常行为数据集或恶意交互行为数据集中，以便后续第一目标模型对增量学习样本进行学习和判别。接收至少一个终端的第一目标数据的方式可以是云服务器与终端通过有线/无线的通信方式得到。
S102，将第一目标数据输入至第一目标模型，得到终端状态数据；
示例性地，第一目标模型可以是根据终端发送的历史目标数据训练得到，其输入为目标数据，输出为终端的状态数据，状态数据表征终端当前所属状态或第一目标数据的状态，比如，IP地址为191.255.255.254的终端出现异常访问状态，IP地址为191.255.255.255终端发送的第一目标数据存在丢失。
S103，根据终端状态数据，确定并下发第一控制策略。
示例性地，根据终端状态数据，确定第一控制策略的方式可以是将终端状态数据与该终端的运行基线进行比对，终端的运行基线可以以终端处于正常状态的数据信息集合表征。终端的运行基线可以预先存储在云端服务器，也可以根据终端上传的数据实时更新得到。当终端状态数据与该终端的运行基线不符，或者终端状态数据与该终端的运行基线的差值超出预设范围，则可以认为该终端存在异常情况，那么第一控制策略可以是针对该异常情况下发的控制策略，比如，IP地址为191.255.255.254的终端出现异常访问状态，第一控制策略可以为禁止该终端对异常访问的设备进行再次访问。确定该异常情况对应的控制策略的方式可以是将该异常情况与预先存储的异常情况及其对应策略进行匹配，得到该异常情况的控制策略；也可以是在云端服务器内置强化学习模型，该强化学习模型学习云端服务器获取的历史数据，根据历史数据学习不同终端状态数据对应的最优控制策略，以使其奖励最大化。
当终端状态数据与运行基线相符，或者终端状态数据与运行基线的差值不超过预设范围，则认为终端处于正常状态，那么第一控制策略则可以是维护该终端日常运行的控制策略，维护终端日常运行的控制策略可以预先存储在云端服务器中，比如，某终端在12点需要运行A软件。
本实施例提供的电力工控系统协同防御方法，将终端上传的第一目标数据输入至第一目标模型，得到终端状态数据，根据终端状态数据确定控制策略，相比于针对某种特定的工控系统协议格式开展防御方法，本方法的第一目标模型适用于多种工控系统的协议，能够识别多种终端状态，可扩展性更强，准确率更高，且将终端数据进行汇总，由云端服务器统一处理，提高了处理效率。
作为本实施例一种可选的实施方式，电力工控系统协同防御方法，还包括：
首先，接收调度网的第二目标数据，调度网连接多个终端；调度网表征由多个终端连接组成的网络，调度网的第二目标数据通过多个与之连接的终端上传的数据得到。
其次，根据第二目标数据与运行基线，确定调度网状态数据；
示例性地，调度网的运行基线表征调度网正常运行状态数据的集合，运行基线可以根据第二目标模型得到，第二目标模型可以是通过调度网的历史目标数据训练而成，第二目标模型根据终端上传的历史目标数据，得到调度网的运行基线。运行基线也可以预先存储在云端服务器中。
根据第二目标数据与运行基线，确定调度网状态数据的方式可以是第二目标数据与将调度网的运行基线进行比对，判断第二目标数据所表征的调度网所处状态，调度网状态可以包括调度网下对应的终端的安全状态以及网络连接状态，比如，调度网下对应的终端是否安全、调度网网络是否中断等等。具体比对方式可以是当第二目标数据中某一指标与运行基线中对应的指标不符，或者第二目标数据某一指标超出运行基线中对应的指标的预设范围时，则调度网运行状态则可以是调度网中该指标异常。
再次，根据调度网状态数据，确定并下发第二控制策略。
示例性地，根据调度网状态数据下发第二控制策略的方式可以是将该调度网状态数据与预先存储的调度网状态及其对应策略进行匹配，得到该调度网状态数据的控制策略，比如，调度网状态数据为调度网网络未中断，但调度网下对应的终端异常，出现未知的恶意行为或者恶意代码等潜在的攻击行为，则对应的第二控制策略可以是下发安防策略，并生成预警信息。
根据调度网状态数据下发第二控制策略的方式也可以是在云端服务器内置强化学习模型，该强化学习模型学习云端服务器获取的历史数据，根据历史数据学习不同调度网状态数据对应的最优控制策略，以使其奖励最大化。本实施例对根据调度网状态数据，确定并下发第二控制策略的方式不做限定，本领域技术人员可以根据需要确定。
本实施例提供的电力工控系统协同防御方法，接收调度网的数据，该调度网接入了多个终端，并且不同调度网接入的终端不同，那么每一个调度网数据能够反映区域性的终端状态，其生成的控制策略更具有全局性，可以与根据终端状态数据确定的第一控制策略进行互补。
作为本实施例一种可选的实施方式，运行基线根据第二目标模型得到，包括：将第三目标数据输入至第二目标模型，得到第三目标数据类型的基本可信度；当基本可信度高于预设阈值的第三目标数据类型为新增类型，则将第三目标数据与历史调度网运行基线进行特征融合，得到更新后的调度网运行基线。
示例性地，第三目标数据可以是终端上传的历史数据，也可以与第二目标数据为同一数据。第二目标模型利用聚类算法对第三目标数据进行分簇，对每个簇使用软决策融合处理，把对某一假设支持程度的大小表征为0－1之间的某个值，某一类别所具有的支持程度越大，目标数据属于该类别的可能性就越高，则基本可信度越高。
当第三目标数据属于某一数据类别的基本可信度高于预设阈值，且该第三目标数据所表征的数据类别在历史数据中并未出现，则可认为第三目标数据类型为新增类型。当判定第三目标数据属于新增类型时，则将该新增类型数据发送至融合中心进行基于可信度的证据加权融合，并依据预设规则进行决策，实现对调度网运行基线的更新。
本实施例提供的电力工控系统协同防御方法，通过更新运行基线，使得运行基线能够紧跟目标数据的变化而变化，相比于固定的运行基线，实时更新的运行基线更能反映当前调度网的运行状态，从而提高电力工控系统的防御效果。
作为本实施例一种可选的实施方式，第二目标模型为径向基神经网络模型。
示例性地，径向基神经网络属于前向型神经网络类型，能够以任意精度逼近任意连续函数，善于解决分类问题，大大加快了学习速度并解决了局部极小问题。径向基神经网络拥有更快的学习效率，以及更高精度的威胁识别能力。因此本实施例使用径向基神经网络实现初步训练。
径向基神经网络通过构造多个独立的诊断子网络，使得初步诊断过程具有以下优点：通过划分可以降低每个神经网络的复杂程度，降低了训练空间的维数，减少训练和推理时间；每个神经网络之间是并行的，加快了数据处理的速度；因为每个输入矢量只对应某一个或几个神经网络，当输入矢量发生改变，只需要重新训练与改动的矢量有关的神经网络，从而使网络构造更加灵活有效，增加了推理的灵活性，提高了网络的泛化能力。
本实施例提供一种电力工控系统协同防御方法，如图2所示，应用于云端服务器，包括如下步骤：
S201，接收调度网的第四目标数据，调度网连接多个终端；具体内容参见上述实施例方法中“接收调度网的第二目标数据，调度网连接多个终端”对应部分，在此不再赘述。
S202，根据第四目标数据与运行基线，确定调度网状态数据，运行基线根据第三目标模型得到；具体内容参见上述实施例方法中“根据第二目标数据与运行基线，确定调度网状态数据”对应部分，在此不再赘述。
S203，根据调度网状态数据，确定并下发第三控制策略。具体内容参见上述实施例方法中“根据调度网状态数据，确定并下发第三控制策略”对应部分，在此不再赘述。
本实施例提供的电力工控系统协同防御方法，将调度网上传的第四目标数据与运行基线进行比对，确定调度网状态，且运行基线根据第三目标模型得到，根据调度网状态数据确定控制策略，相比于针对某种特定的工控系统协议格式开展防御方法，本方法的第三目标模型适用于多种工控系统的协议，能够识别多种数据，建立全面的调度网运行基线，有助于识别不同的调度网状态，可扩展性更强，准确率更高，且将调度网状态数据进行汇总，由云端服务器统一处理，提高了处理效率。
本实施例提供一种电力工控系统协同防御方法，应用于调度网，如图3所示，包括如下步骤：
S301，接收至少一个终端的采集数据；
S302，提取采集数据的特征，并构造特征证据体空间，得到目标数据，目标数据为第二目标数据和第四目标数据中的任意一个；
示例性地，特征是原始数据和决策的中间形态，且同一数据可有多个不类型的特征。将特征划分为标量特征和向量特征，标量特征也就是一个单个特定的值，可是整型、浮点型、布尔型。提取标量特征的方式一般是根据传感器数据统计学得到，比如均值、方差等。向量特征是数据按照一定的算法进行变换后，得到的反映目标某一方面的特征，例如，经过傅立叶变换后，得到数据的频域特征；对数据进行PCA分析，抽取出各维度的主要成分对数据波形进行回归，那么得到的系数可看作是形态特征；对快速波动时间序列ARMA分析，得到模型参数可看作序列的波动特征；对图像做非负矩阵变换，可以抽取图像某一个局部元素。
构造特征证据体空间的方式可以是提取字段边界特征与构造特征的映射关系，字段格式的提取依赖字段之间的特征差异性，利用特征构造的拟合方法，实现字段边界特征与构造特征的映射关系，形成特征空间，特征证据体空间的构造可以为后续特征选择融合或提取处理，提供特征模板。
S303，发送目标数据至云端服务器。发送目标数据的方式可以是通过有线/无线通信方式。
S304，接收目标控制策略，根据目标控制策略下发第四控制策略，目标控制策略为第二控制策略和第三控制策略中的任意一个。
示例性地，根据目标控制策略下发第四控制策略的方式可以是调度网根据目标控制策略对调度网下的终端制定区域性控制策略，比如，当调度网状态数据不符合运行基线，出现安全漏洞，目标控制策略为升级接入该调度网的所有终端或重点终端的安防等级时，第四控制策略可以是对接入该调度网的所有终端或重点终端下发安防升级软件包。本实施例对根据目标控制策略下发第四控制策略的方式不做限定，本领域技术人员可以根据需要确定。
本实施例提供的电力工控系统协同防御方法，调度网将终端的采集数据进行汇总，生成目标数据并上传至云端服务器，接收云端服务器根据目标数据下发的目标控制策略，并生成第四控制策略发送至终端，完成终端－网端－云端的协同防御。
本实施例提供一种电力工控系统协同防御方法，如图4所示，应用于终端，包括如下步骤：
S401，数据采集；
示例性地，终端可以是工控设备，也可以是传感器设备。数据可以通过读取工控设备的系统日志得到，也可以通过各种传感器终端采集得到。在本实施例中可以在终端引入了边缘计算代理，内置可信芯片，创建可信执行环境，实现数据的采集以及终端、调度网以及云端服务器的可信交互。其中边缘计算代理内部，如图5所示，包括历史数据模块、实时数据库模块以及计算中心模块，智能终端采集的数据以及本地用户数据通过数据接口上传至实时数据库。
S402，对数据进行本地化分析以及归并，得到第一目标数据；
示例性地，如图5所示的边缘代理内部的计算中心对实时数据以及历史数据进行运算处理(包括进行本地化分析以及归并)，得到第一目标数据，将第一目标数据反馈至历史数据库并且发送至云端服务器。
本地化分析包括利用污点分析技术和局部符号执行技术提取出电力系统控制软件的函数调用逻辑以及参数数据，并对数据进行标记，跟踪数据的流向，解析函数调用规律，所述函数调用规律包括函数调用数据、指令特征数据、后门特征数据中的一种或多种。归并包括基于已有的正常行为数据样本和恶意行为数据样本，通过异常数据检测机制，实现增量学习样本的识别与获取，并将其添加到正常行为数据集或恶意交互行为数据集中。
S403，将第一目标数据发送至云端服务器。将第一目标数据发送至云端服务器的方式可以是通过有线通信或者无线通信方式。
S404，接收并执行第一控制策略。
本实施例提供的电力工控系统协同防御方法，终端进行数据采集，并将采集数据进行处理，得到第一目标数据，接收并执行云端服务器根据第一目标数据确定的第一控制策略，完成了终端－云端的协同防御。
作为本实施例一种可选的实施方式，还包括：接收并执行第四控制策略。
本实施例提供的电力工控系统协同防御方法，终端接收并执行第四控制策略，第四控制策略为根据终端－网端－云端协同得到的策略，其策略更具备全局性，能够与第一控制策略互补，增加了协同防御的全面性。
电力工控系统协同防御方法在终端、调控网、云端服务器三端进行协同防御的过程总体可以如图6所示，包括终端－云端服务器两端协同过程以及终端、调控网、云端服务器三端协同过程。
本实施例提供一种电力工控系统协同防御装置，如图7所示，应用于云端服务器，包括：
第一目标数据接收模块501，用于接收至少一个终端的第一目标数据；具体内容参见上述实施例方法部分，在此不再赘述。
终端状态数据确定模块502，用于将所述第一目标数据输入至第一目标模型，得到终端状态数据；具体内容参见上述实施例方法部分，在此不再赘述。
第一控制策略确定模块503，用于根据所述终端状态数据，确定并下发第一控制策略。具体内容参见上述实施例方法部分，在此不再赘述。
作为本实施例一种可选的实施方式，还包括：
第二目标数据接收模块，用于接收调度网的第二目标数据，所述调度网连接多个终端；具体内容参见上述实施例方法部分，在此不再赘述。
调度网状态数据确定模块，用于根据所述第二目标数据与运行基线，确定调度网状态数据；具体内容参见上述实施例方法部分，在此不再赘述。
第二控制策略确定模块，用于根据所述调度网状态数据，确定并下发第二控制策略。具体内容参见上述实施例方法部分，在此不再赘述。
作为本实施例一种可选的实施方式，调度网状态数据确定模块，包括：
基本可信度确定模块，用于将第三目标数据输入至第二目标模型，得到目标数据类型的基本可信度，所述第三目标数据为所述调度网进行特征提取以及特征证据体空间构造得到的数据；具体内容参见上述实施例方法部分，在此不再赘述。
更新模块，用于当基本可信度高于预设阈值的所述第三目标数据类型为新增类型，则将所述第三目标数据与历史调度网运行基线进行特征融合，得到更新后的调度网运行基线。具体内容参见上述实施例方法部分，在此不再赘述。
作为本实施例一种可选的实施方式，调度网状态数据确定模块包括：径向基神经网络模型。具体内容参见上述实施例方法部分，在此不再赘述。
本实施例提供一种电力工控系统协同防御装置，如图8所示，应用于云端服务器，包括：
第四目标数据接收模块601，用于接收调度网的第四目标数据，所述调度网连接多个终端；具体内容参见上述实施例方法部分，在此不再赘述。
调度网状态数据确定模块602，用于根据所述第四目标数据与运行基线，确定调度网状态数据，所述运行基线根据第三目标模型得到；具体内容参见上述实施例方法部分，在此不再赘述。
第三控制策略确定模块603，用于根据所述调度网状态数据，确定并下发第三控制策略。具体内容参见上述实施例方法部分，在此不再赘述。
本实施例提供一种电力工控系统协同防御装置，如图9所示，应用于调度网，包括：
采集数据接收模块701，用于接收至少一个终端的采集数据；具体内容参见上述实施例方法部分，在此不再赘述。
目标数据确定模块702，用于提取所述采集数据的特征，并构造特征证据体空间，得到目标数据，所述目标数据为第二目标数据和第四目标数据中的任意一个；具体内容参见上述实施例方法部分，在此不再赘述。
第一发送模块703，用于发送所述目标数据至云端服务器；具体内容参见上述实施例方法部分，在此不再赘述。
目标控制策略接收模块704，用于接收目标控制策略，根据所述目标控制策略下发第四控制策略，所述目标控制策略为第二控制策略和第三控制策略中的任意一个。具体内容参见上述实施例方法部分，在此不再赘述。
本实施例提供一种电力工控系统协同防御装置，如图10所示，应用于终端，包括：
数据采集模块801，用于数据采集；具体内容参见上述实施例方法部分，在此不再赘述。
第一目标数据确定模块802，用于对所述数据进行本地化分析以及归并，得到第一目标数据；具体内容参见上述实施例方法部分，在此不再赘述。
第二发送模块803，用于将所述第一目标数据发送至云端服务器；具体内容参见上述实施例方法部分，在此不再赘述。
第一执行模块804，用于接收并执行第一控制策略。具体内容参见上述实施例方法部分，在此不再赘述。
作为本实施例一种可选的实施方式，还包括：第四控制策略执行模块，用于接收并执行第四控制策略。具体内容参见上述实施例方法部分，在此不再赘述。
作为本实施例一种可选的实施方式，第一目标数据确定模块802，包括：本地化分析模块，用于利用污点分析技术和局部符号执行技术提取出电力系统控制软件的函数调用逻辑以及参数数据，并对数据进行标记，跟踪数据的流向，解析函数调用规律，所述函数调用规律包括函数调用数据、指令特征数据、后门特征数据中的一种或多种。具体内容参见上述实施例方法部分，在此不再赘述。
作为本实施例一种可选的实施方式，可信执行环境模块，用于所述终端引入边缘计算代理，在所述边缘计算代理内存创建可信执行环境。具体内容参见上述实施例方法部分，在此不再赘述。
本申请实施例还提供一种电子设备，如图11所示，处理器910和存储器920，其中处理器910和存储器920可以通过总线或者其他方式连接。
处理器910可以为中央处理器(Central Processing Unit，CPU)。处理器910还可以为其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等芯片，或者上述各类芯片的组合。
存储器920作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序、非暂态计算机可执行程序以及模块，如本发明实施例中的电力工控系统协同防御方法对应的程序指令/模块。处理器通过运行存储在存储器中的非暂态软件程序、指令以及模块，从而执行处理器的各种功能应用以及数据处理。
存储器920可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储处理器所创建的数据等。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施例中，存储器920可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
所述一个或者多个模块存储在所述存储器920中，当被所述处理器910执行时，执行如图1所示实施例中的电力工控系统协同防御方法。
上述电子设备的具体细节可以对应参阅图1、2、3、4所示的实施例中对应的相关描述和效果进行理解，此处不再赘述。
本实施例还提供了一种计算机存储介质，所述计算机存储介质存储有计算机可执行指令，该计算机可执行指令可执行上述任意方法实施例中电力工控系统协同防御方法。其中，所述存储介质可为磁碟、光盘、只读存储记忆体(Read－Only Memory，ROM)、随机存储记忆体(Random Access Memory，RAM)、快闪存储器(Flash Memory)、硬盘(Hard DiskDrive，缩写：HDD)或固态硬盘(Solid－State Drive，SSD)等；所述存储介质还可以包括上述种类的存储器的组合。
显然，上述实施例仅仅是为清楚地说明所作的举例，而并非对实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引伸出的显而易见的变化或变动仍处于本发明创造的保护范围之中。
Claims (16)
1.一种电力工控系统协同防御方法，其特征在于，应用于云端服务器，包括如下步骤：
接收至少一个终端的第一目标数据；
将所述第一目标数据输入至第一目标模型，得到终端状态数据；
根据所述终端状态数据，确定并下发第一控制策略。
2.根据权利要求1所述的方法，其特征在于，还包括：
接收调度网的第二目标数据，所述调度网连接多个终端；
根据所述第二目标数据与运行基线，确定调度网状态数据；
根据所述调度网状态数据，确定并下发第二控制策略。
3.根据权利要求2所述的方法，其特征在于，所述运行基线根据第二目标模型得到，包括：
将第三目标数据输入至第二目标模型，得到目标数据类型的基本可信度，所述第三目标数据为所述调度网进行特征提取以及特征证据体空间构造得到的数据；
当基本可信度高于预设阈值的所述第三目标数据类型为新增类型，则将所述第三目标数据与历史调度网运行基线进行特征融合，得到更新后的调度网运行基线。
4.根据权利要求2所述的方法，其特征在于，所述第二目标模型为径向基神经网络模型。
5.一种电力工控系统协同防御方法，其特征在于，应用于云端服务器，包括如下步骤：
接收调度网的第四目标数据，所述调度网连接多个终端；
根据所述第四目标数据与运行基线，确定调度网状态数据，所述运行基线根据第三目标模型得到；
根据所述调度网状态数据，确定并下发第三控制策略。
6.一种电力工控系统协同防御方法，其特征在于，应用于调度网，包括如下步骤：
接收至少一个终端的采集数据；
提取所述采集数据的特征，并构造特征证据体空间，得到目标数据；
发送所述目标数据至云端服务器；
接收目标控制策略，根据所述目标控制策略下发第四控制策略。
7.一种电力工控系统协同防御方法，其特征在于，应用于终端，包括如下步骤：
数据采集；
对所述数据进行本地化分析以及归并，得到第一目标数据；
将所述第一目标数据发送至云端服务器；
接收并执行第一控制策略。
8.根据权利要求7所述的方法，其特征在于，还包括：接收并执行第四控制策略。
9.根据权利要求7所述的方法，其特征在于，对所述数据进行本地化分析，包括：利用污点分析技术和局部符号执行技术提取出电力系统控制软件的函数调用逻辑以及参数数据，并对数据进行标记，跟踪数据的流向，解析函数调用规律，所述函数调用规律包括函数调用数据、指令特征数据、后门特征数据中的一种或多种。
10.根据权利要求7所述的方法，其特征在于，所述终端引入边缘计算代理，在所述边缘计算代理内存创建可信执行环境。
11.一种电力工控系统协同防御装置，其特征在于，应用于云端服务器，包括：
第一目标数据接收模块，用于接收至少一个终端的第一目标数据；
终端状态数据确定模块，用于将所述第一目标数据输入至第一目标模型，得到终端状态数据；
第一控制策略确定模块，用于根据所述终端状态数据，确定并下发第一控制策略。
12.一种电力工控系统协同防御装置，其特征在于，应用于云端服务器，包括：
第四目标数据接收模块，用于接收调度网的第四目标数据，所述调度网连接多个终端；
调度网状态数据确定模块，用于根据所述第四目标数据与运行基线，确定调度网状态数据，所述运行基线根据第三目标模型得到；
第三控制策略确定模块，用于根据所述调度网状态数据，确定并下发第三控制策略。
13.一种电力工控系统协同防御装置，其特征在于，应用于调度网，包括：
采集数据接收模块，用于接收至少一个终端的采集数据；
目标数据确定模块，用于提取所述采集数据的特征，并构造特征证据体空间，得到目标数据；
第一发送模块，用于发送所述目标数据至云端服务器；
目标控制策略接收模块，用于接收目标控制策略，根据所述目标控制策略下发第四控制策略。
14.一种电力工控系统协同防御装置，其特征在于，应用于终端，包括：
数据采集模块，用于数据采集；
第一目标数据确定模块，用于对所述数据进行本地化分析以及归并，得到第一目标数据；
第二发送模块，用于将所述第一目标数据发送至云端服务器；
第一执行模块，用于接收并执行第一控制策略。
15.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1－10任一所述的电力工控系统协同防御方法的步骤。
16.一种存储介质，其上存储有计算机指令，其特征在于，该指令被处理器执行时实现权利要求1－10任一所述的电力工控系统协同防御方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110409014.9A CN113052490A (zh) | 2021-04-15 | 2021-04-15 | 一种电力工控系统协同防御方法、装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110409014.9A CN113052490A (zh) | 2021-04-15 | 2021-04-15 | 一种电力工控系统协同防御方法、装置及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113052490A true CN113052490A (zh) | 2021-06-29 |
Family
ID=76519516
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110409014.9A Pending CN113052490A (zh) | 2021-04-15 | 2021-04-15 | 一种电力工控系统协同防御方法、装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113052490A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114143348A (zh) * | 2021-11-30 | 2022-03-04 | 中国电力科学研究院有限公司 | 一种电力物联网安全防御方法、系统、存储介质及服务器 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109218292A (zh) * | 2018-08-15 | 2019-01-15 | 全球能源互联网研究院有限公司 | 一种电力网络边界安全协同防御方法及系统 |
| CN109902916A (zh) * | 2019-01-15 | 2019-06-18 | 中国电力科学研究院有限公司 | 一种面向攻击的电力工控系统业务自恢复方法及系统 |
| CN109922038A (zh) * | 2018-12-29 | 2019-06-21 | 中国电力科学研究院有限公司 | 一种用于电力终端的异常数据的检测方法及装置 |
| CN110224977A (zh) * | 2019-04-30 | 2019-09-10 | 南瑞集团有限公司 | 一种协同防御策略冲突消解方法及系统 |
| CN110417725A (zh) * | 2019-05-23 | 2019-11-05 | 国网江苏省电力有限公司南京供电分公司 | 一种适应于源网荷控制专网的多层协同防御模型 |
| CN112290674A (zh) * | 2020-10-07 | 2021-01-29 | 刘文祥 | 一种采用互联网自动控制的智能电网 |
| CN112600828A (zh) * | 2020-12-07 | 2021-04-02 | 中国南方电网有限责任公司超高压输电公司 | 基于数据报文的电力控制系统攻击检测防护方法及装置 |
| CN112613024A (zh) * | 2021-01-07 | 2021-04-06 | 国网上海市电力公司 | 一种数据交互方法、装置、系统及存储介质 |
-
2021
- 2021-04-15 CN CN202110409014.9A patent/CN113052490A/zh active Pending
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109218292A (zh) * | 2018-08-15 | 2019-01-15 | 全球能源互联网研究院有限公司 | 一种电力网络边界安全协同防御方法及系统 |
| CN109922038A (zh) * | 2018-12-29 | 2019-06-21 | 中国电力科学研究院有限公司 | 一种用于电力终端的异常数据的检测方法及装置 |
| CN109902916A (zh) * | 2019-01-15 | 2019-06-18 | 中国电力科学研究院有限公司 | 一种面向攻击的电力工控系统业务自恢复方法及系统 |
| CN110224977A (zh) * | 2019-04-30 | 2019-09-10 | 南瑞集团有限公司 | 一种协同防御策略冲突消解方法及系统 |
| CN110417725A (zh) * | 2019-05-23 | 2019-11-05 | 国网江苏省电力有限公司南京供电分公司 | 一种适应于源网荷控制专网的多层协同防御模型 |
| CN112290674A (zh) * | 2020-10-07 | 2021-01-29 | 刘文祥 | 一种采用互联网自动控制的智能电网 |
| CN112600828A (zh) * | 2020-12-07 | 2021-04-02 | 中国南方电网有限责任公司超高压输电公司 | 基于数据报文的电力控制系统攻击检测防护方法及装置 |
| CN112613024A (zh) * | 2021-01-07 | 2021-04-06 | 国网上海市电力公司 | 一种数据交互方法、装置、系统及存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| 冯兆红;贾铁军;: "电力二次系统主动安全防御策略及实现", 电气自动化, no. 01 * |
| 王宇;李俊娥;周亮;王海翔;余文豪;卢新岱;: "针对嵌入式终端安全威胁的电力工控系统自愈体系", 电网技术, no. 09 * |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114143348A (zh) * | 2021-11-30 | 2022-03-04 | 中国电力科学研究院有限公司 | 一种电力物联网安全防御方法、系统、存储介质及服务器 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Al-Jarrah et al. | Intrusion detection systems for intra-vehicle networks: A review | |
| Wagh et al. | Survey on intrusion detection system using machine learning techniques | |
| CN111262722A (zh) | 一种用于工业控制系统网络的安全监测方法 | |
| CN111953757B (zh) | 基于云计算和智能设备交互的信息处理方法及云端服务器 | |
| Weng et al. | Multi-agent-based unsupervised detection of energy consumption anomalies on smart campus | |
| CN111885060B (zh) | 面向车联网的无损式信息安全漏洞检测系统和方法 | |
| JP2021515498A (ja) | 完全性監視及びネットワーク侵入検出のための属性ベースのポリシー | |
| CN110535850B (zh) | 帐号登录的处理方法和装置、存储介质及电子装置 | |
| CN113313280B (zh) | 云平台的巡检方法、电子设备及非易失性存储介质 | |
| CN114330544A (zh) | 一种业务流量异常检测模型建立方法及异常检测方法 | |
| CN113052490A (zh) | 一种电力工控系统协同防御方法、装置及存储介质 | |
| CN114707834A (zh) | 一种告警提醒方法、装置及存储介质 | |
| Kou et al. | A lightweight intrusion detection model for 5G-enabled industrial Internet | |
| Khan et al. | DivaCAN: Detecting in-vehicle intrusion attacks on a controller area network using ensemble learning | |
| Woodard et al. | A survey of data cleansing techniques for cyber-physical critical infrastructure systems | |
| CN111935089B (zh) | 基于大数据和边缘计算的数据处理方法及人工智能服务器 | |
| Su et al. | Unknown tag identification protocol based on collision slot resolution in large-scale and battery-less RFID system | |
| Minjie et al. | Abnormal Traffic Detection Technology of Power IOT Terminal Based on PCA and OCSVM | |
| Garcés-Jiménez et al. | Industrial Internet of Things embedded devices fault detection and classification. A case study | |
| CN113011745A (zh) | 电网安全运维中的异常检测方法、装置、设备和介质 | |
| Kim et al. | Revitalizing self-organizing map: Anomaly detection using forecasting error patterns | |
| CN113347021B (zh) | 一种模型生成方法、撞库检测方法、装置、电子设备及计算机可读存储介质 | |
| Awaad et al. | An Intelligent, Two-Stage, In-Vehicle Diagnostic-Based Secured Framework | |
| Yli-Olli | Machine Learning for Secure Vehicular Communication: an Empirical Study | |
| CN117041121B (zh) | 基于数据挖掘的物联网异常监测方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |