CN112532635A - 拟态防御设备的安全验证方法及装置 - Google Patents
拟态防御设备的安全验证方法及装置 Download PDFInfo
- Publication number
- CN112532635A CN112532635A CN202011386780.XA CN202011386780A CN112532635A CN 112532635 A CN112532635 A CN 112532635A CN 202011386780 A CN202011386780 A CN 202011386780A CN 112532635 A CN112532635 A CN 112532635A
- Authority
- CN
- China
- Prior art keywords
- executive
- mimicry defense
- verification
- pool
- mimicry
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1425—Traffic logging, e.g. anomaly detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1416—Event detection, e.g. attack signature detection
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Debugging And Monitoring (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请提供一种拟态防御设备的安全验证方法及装置，应用于安全验证系统中的测试设备，安全验证系统还包括与测试设备相连的拟态防御设备，拟态防御设备具有多个执行体池，每个执行体池包括多个执行体，每个执行体部署有与测试设备关联的控制程序；响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对拟态防御设备进行有效性验证；在拟态防御设备通过有效性验证后，响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对拟态防御设备进行可靠性验证；在拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。本申请可以提高拟态防御设备安全验证的测试效率和准确性。
Description
技术领域
本申请涉及通信技术领域，尤其涉及拟态防御设备的安全验证方法及装置。
背景技术
拟态防御机制可以协助解决网络设备存在的漏洞，所以被广泛应用于各种网络设备：拟态Web服务器、路由器、域名服务器等。
在网络设备中加装拟态防御机制后可以称为拟态防御设备，为了保证拟态防御设备的安全性，需要拟态防御设备进行安全验证。
目前对于拟态防御设备进行安全验证时暂时没有统一规范，不同测试人员可以使用不同的安全验证指标和验证方式。因此现有技术中利用人工进行安全验证的方案，其测试效率和测试准确性有待提高。
发明内容
鉴于此，本申请提供拟态防御设备的安全验证方法及装置，以便提高拟态防御设备安全验证的测试效率和准确性。
为了实现上述目的，本发明提供了下述技术特征：
一种拟态防御设备的安全验证方法，应用于安全验证系统中的测试设备，所述安全验证系统还包括与所述测试设备相连的拟态防御设备，所述拟态防御设备具有多个执行体池，每个执行体池包括多个执行体，每个执行体部署有与测试设备关联的控制程序；则所述方法包括：
响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行有效性验证；
在所述拟态防御设备通过有效性验证后，响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行可靠性验证；
在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
可选的，所述响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行有效性验证包括：
响应于测试界面的操控操作，操控拟态防御设备中执行体中的控制程序、提取执行体的基础环境，获取每个执行体池中各个执行体的基础环境，若每个执行体池中各个执行体的基础环境为异构的，则确定执行体池的基础环境通过验证，否则确定执行体池的基础环境未通过验证；
响应于测试界面的操控操作生成测试用例的测试输入，基于所述测试输入操控执行体池中的控制程序，获取所述拟态防御设备中表决器的输出结果，若输出结果与测试输出相同，则确定表决器功能正常，否则确定表决器功能异常；
响应于测试界面的操控操作，控制拟态防御设备中一执行体池中在线执行体的控制程序，设置该执行体处于异常状态，判断预设时间周期内该执行体池中在线执行体能否调度至正常状态，若是则确定动态调度通过验证，若否则确定动态调度未通过验证；
若执行体池的基础环境通过验证、表决器功能正常且动态调度通过验证，则确定所述拟态防御设备通过有效性验证。
可选的，所述响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行可靠性验证包括：
响应于测试界面的操控操作，控制执行体池中一个执行体的控制程序，设置该执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过一模可靠性验证；
响应于测试界面的操控操作，控制执行体池中N-1个执行体的控制程序，设置N-1个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N-1模可靠性验证；其中N为执行体池中执行体的数量；
响应于测试界面的操控操作，控制执行体池中N个执行体的控制程序，设置N个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N模可靠性验证；其中N为执行体池中执行体的数量；
若拟态防御设备通过一模可靠性验证、拟态防御设备通过N-1模可靠性验证且拟态防御设备通过N模可靠性验证，则确定拟态防御设备通过可靠性验证。
可选的，所述测试界面包括多个执行体池区域，每个执行体池区域包括多个执行体视图；响应于所述执行体视图的操控操作，调整拟态防御设备中执行体的状态。
可选的，测试界面还用于展示多个执行体池中各个执行体的状态；
测试界面还包括拟态防御设备输出结果的展示区域，以展现拟态防御设备的输出结果。
一种拟态防御设备的安全验证装置，应用于安全验证系统中的测试设备，所述安全验证系统还包括与所述测试设备相连的拟态防御设备，所述拟态防御设备具有多个执行体池，每个执行体池包括多个执行体，每个执行体部署有与测试设备关联的控制程序；则所述装置包括：
有效性验证模块，用于响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行有效性验证；
可靠性验证模块，用于在所述拟态防御设备通过有效性验证后，响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行可靠性验证；
确定模块，用于在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
可选的，所述有效性验证模块包括：
基础环境验证单元，用于响应于测试界面的操控操作，操控拟态防御设备中执行体中的控制程序、提取执行体的基础环境，获取每个执行体池中各个执行体的基础环境，若每个执行体池中各个执行体的基础环境为异构的，则确定执行体池的基础环境通过验证，否则确定执行体池的基础环境未通过验证；
表决器功能验证单元，用于响应于测试界面的操控操作生成测试用例的测试输入，基于所述测试输入操控执行体池中的控制程序，获取所述拟态防御设备中表决器的输出结果，若输出结果与测试输出相同，则确定表决器功能正常，否则确定表决器功能异常；
动态调度反馈单元，用于响应于测试界面的操控操作，控制拟态防御设备中一执行体池中在线执行体的控制程序，设置该执行体处于异常状态，判断预设时间周期内该执行体池中在线执行体能否调度至正常状态，若是则确定动态调度通过验证，若否则确定动态调度未通过验证；
有效性确定单元，用于若执行体池的基础环境通过验证、表决器功能正常且动态调度通过验证，则确定所述拟态防御设备通过有效性验证。
可选的，所述可靠性验证模块包括：
一模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中一个执行体的控制程序，设置该执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过一模可靠性验证；
N-1模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中N-1个执行体的控制程序，设置N-1个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N-1模可靠性验证；其中N为执行体池中执行体的数量；
N模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中N个执行体的控制程序，设置N个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N模可靠性验证；其中N为执行体池中执行体的数量；
可靠性确定单元，用于若拟态防御设备通过一模可靠性验证、拟态防御设备通过N-1模可靠性验证且拟态防御设备通过N模可靠性验证，则确定拟态防御设备通过可靠性验证。
可选的，所述测试界面包括多个执行体池区域，每个执行体池区域包括多个执行体视图；响应于所述执行体视图的操控操作，调整拟态防御设备中执行体的状态。
可选的，测试界面还用于展示多个执行体池中各个执行体的状态；
测试界面还包括拟态防御设备输出结果的展示区域，以展现拟态防御设备的输出结果。
通过以上技术手段，可以实现以下有益效果：
本发明提供拟态防御设备的安全验证方法，可以先基于测试界面操控拟态防御设备中多个执行体池中在线执行体的状态，对所述拟态防御设备进行有效性验证；在所述拟态防御设备通过有效性验证后，基于测试界面操控拟态防御设备中多个执行体池中在线执行体的状态，对所述拟态防御设备进行可靠性验证；在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
对拟态防御设备的安全验证过程为自动化进行，且，拟态防御设备必须满足有效性验证和可靠性验证后，才确定拟态防御设备处于安全状态，本申请可以提高拟态防御设备安全验证的测试效率和准确性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1a为本申请实施例公开的一种安全验证系统的结构示意图；
图1b-1c为本申请实施例公开的测试界面的示意图；
图2为本申请实施例公开的一种拟态防御设备的安全验证方法的流程图；
图3为本申请实施例公开的又一种拟态防御设备的安全验证方法的流程图；
图4为本申请实施例公开的又一种拟态防御设备的安全验证方法的流程图；
图5为本申请实施例公开的拟态防御设备的示意图；
图6为本申请实施例公开的一种拟态防御设备的安全验证装置的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
参见图1a，本发明提供一种安全验证系统，包括测试设备100和拟态防御设备200。拟态防御设备200具有多个执行体池，每个执行体池包括多个执行体，每个执行体部署有与测试设备关联的控制程序。
本申请利用API组件(API，Application Programming Interface，即应用程序编程接口，提供一个连接测试设备100和拟态防御设备200的测试通道。
API组件包括：展现于测试设备中的API界面也即下文提供的测试界面，以及，设置于拟态防御设备每个执行体池中执行体的API程序也即下文提供的、设置于执行体中控制程序。
API界面通过页面形式提供集中化、易使用以及可视化的测试界面。API界面与执行体中部署的API程序进行通信连接，从而实现基于API界面来操控整个安全验证过程的目的。
参见图1b，本发明提供一种测试界面，所述测试界面包括多个执行体池区域，每个执行体池区域包括多个执行体视图。
响应于所述执行体视图的操控操作，可以调整拟态防御设备中执行体的状态。例如，测试人员可以在测试界面中点击一个执行体的异常选项，则可以调整该执行体处于异常状态。
测试界面还用于展示多个执行体池中各个执行体的状态。在测试人员操控一个执行体的异常选项之后，于测试界面中展示该执行体的异常选项处于选中状态，以表示该执行体处于异常状态。
同时，在测试过程中拟态防御设备会刷新执行体的状态，则执行体被刷新后可能会变为正常状态，此时可以于测试界面展现执行体的正常选项处于选中状态，以表示该执行体恢复为正常状态。
测试界面还包括拟态防御设备输出结果的展示区域，以展现拟态防御设备的输出结果。
本发明提供一种拟态防御设备的安全验证方法，应用于图1所示安全验证系统中的测试设备，所述安全验证系统还包括与所述测试设备相连的拟态防御设备，所述拟态防御设备具有多个执行体池，每个执行体池包括多个执行体，每个执行体部署有与测试设备关联的控制程序。
参见图2，本申请提供的拟态防御设备的安全验证方法，应用于测试设备，所述方法包括：
步骤S201：响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行有效性验证。
参见图3，本步骤可以采用以下步骤实现：
步骤S301：响应于测试界面的操控操作，操控拟态防御设备中执行体中的控制程序、提取执行体的基础环境，获取每个执行体池中各个执行体的基础环境，若每个执行体池中各个执行体的基础环境为异构的，则确定执行体池的基础环境通过验证，否则确定执行体池的基础环境未通过验证。
在拟态防御设备中，为了提高拟态防御设备的安全性，要求一个执行体池中各个执行体的基础环境是异构的，这样可以避免各个执行体均因同一漏洞而宕机。
测试人员可以操控测试界面中的基础环境验证选项，拟态防御设备中各个执行体便接收到操作指令，每个执行体池中执行体的控制程序，会提取执行体在硬件平台层、操作系统层、虚拟化软件层、服务器软件层等层级的基础环境，并基础环境至测试设备。
测试设备针对每个执行体池进行基础环境异构验证：若一个执行体池中各个执行体的硬件平台层、操作系统层、虚拟化软件层、服务器软件层等层级不尽相同，则确定一个执行体池的基础环境是异构的。
若拟态防御设备中各个执行体池的基础环境异构性验证通过，则确定拟态防御设备的基础环境异构性验证通过。
步骤S302：响应于测试界面的操控操作生成测试用例的测试输入，基于所述测试输入操控执行体池中的控制程序，获取所述拟态防御设备中表决器的输出结果，若输出结果与测试输出相同，则确定表决器功能正常，否则确定表决器功能异常。
测试人员可以预先构建测试用例，例如，一个测试输入和一个测试输出为一个测试用例，在测试界面中按测试输入调整执行体池中各个执行体的状态，使得其符合测试输入。测试输入可以作为请求发送至拟态防御设备。
在拟态防御设备的测试过程中，拟态防御设备接收请求，拟态防御设备中的表决器会将请求进行复制并分发至各个执行体池进行处理，表决器获得各个执行体池的对请求的执行结果。各个执行体池仅有一个在线执行体，其余为备用执行体，以便进行灾备切换。
表决器通常采用大数表决算法，通过大数表决算法可以确定输出结果。测试设备可以获得拟态防御设备的输出结果，若输出结果与测试输出相同，则确定表决器功能正常，否则确定表决器功能异常。
步骤S303：基于测试界面操控拟态防御设备中一执行体池中在线执行体的控制程序，设置该执行体处于异常状态，判断预设时间周期内该执行体池中在线执行体能否调度至正常状态，若是则确定动态调度通过验证，若否则确定动态调度未通过验证。
所述动态调度验证是验证拟态防御设备是否能够在周期时间内进行清洗还原，这是拟态防御设备所需要满足有效性的一方面。
步骤S304：若执行体池的基础环境通过验证、表决器功能正常且动态调度通过验证，则确定所述拟态防御设备通过有效性验证。
接步骤S201进入步骤S202：在所述拟态防御设备通过有效性验证后，响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行可靠性验证。
参见图4，本步骤可以采用以下步骤实现：
步骤S401：响应于测试界面的操控操作，控制执行体池中一个执行体的控制程序，设置该执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过一模可靠性验证。
测试人员操控测试界面，设置一个执行体池中的在线执行体处于异常状态，则拟态防御设备中该执行体池中的执行体则处于异常状态。
在此情况下，拟态防御设备会启动调度功能并进行灾备切换，更换为正常状态的执行体作为在线执行体。
若拟态防御设备中执行体池中的在线执行体能够恢复为正常状态，则确定拟态防御设备通过一模可靠性验证，否则确定拟态防御设备未通过一模可靠性验证。
步骤S402：响应于测试界面的操控操作，控制执行体池中N-1个执行体的控制程序，设置N-1个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N-1模可靠性验证；其中N为执行体池中执行体的数量。
步骤S403：响应于测试界面的操控操作，控制执行体池中N个执行体的控制程序，设置N个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N模可靠性验证；其中N为执行体池中执行体的数量。
步骤S404：若拟态防御设备通过一模可靠性验证、拟态防御设备通过N-1模可靠性验证且拟态防御设备通过N模可靠性验证，则确定拟态防御设备通过可靠性验证。
接步骤S202进入步骤S203：在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
参见图1c，为拟态防御设备通过有效性验证和可靠性验证之后的测试界面，可以显示输出结果，有效性验证的情况和可靠性验证的情况。
可以理解的是，在有效性验证中任一种未通过认证，或者，可靠性验证中任一种未通过验证，则确定拟态防御设备处于不安全状态。
通过以上技术手段，可以实现以下有益效果：
本发明提供拟态防御设备的安全验证方法，可以先基于测试界面操控拟态防御设备中多个执行体池中在线执行体的状态，对所述拟态防御设备进行有效性验证；在所述拟态防御设备通过有效性验证后，基于测试界面操控拟态防御设备中多个执行体池中在线执行体的状态，对所述拟态防御设备进行可靠性验证；在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
对拟态防御设备的安全验证过程为自动化进行，且，拟态防御设备必须满足有效性验证和可靠性验证后，才确定拟态防御设备处于安全状态，本申请可以提高拟态防御设备安全验证的测试效率和准确性。
参见图5，提供拟态防御设备的一种示意图，图示中采用3个执行体池：执行体池A、执行体池B和执行体池C，每个执行体池具有3个异构冗余的执行体。
拟态防御设备可以接收用户设备发送的访问请求，针对每次访问请求，拟态防御设备的表决器会可以将访问请求复制三份，并分发至每个执行体池中的在线执行体。在线执行体执行结束后会反馈执行结果至表决器，以供表决器进行大数表决获得最终结果，反馈最终结果至用户设备。
针对有效性验证中的基础环境异构性验证：
基于API界面进行操控操作，API程序可以获取每个执行体池中各个执行体在硬件平台层、操作系统层、虚拟化软件层、服务器软件层等层级的基础环境，并反馈每个执行体池中各个执行体的基础环境至测试设备。
测试设备可以于测试界面中显示每个执行体池中各个执行体的基础环境，并针对每个执行体池进行基础环境异构验证：执行体池中各个执行体的基础环境是异构的，也即各个执行体的硬件平台层、操作系统层、虚拟化软件层、服务器软件层等层级不尽相同。
若执行体池中各个执行体的基础环境不尽相同，则确定执行体池的基础环境异构性验证通过。若执行体池A、执行体池B、执行体池C的基础环境异构性验证通过，则确定拟态防御设备的基础环境异构性验证通过。
针对有效性验证中的表决器功能验证：
API程序部署在执行池中的异构冗余执行体中，API界面与API程序进行通信连接，API程序负责执行API界面中提供的操控功能。
测试人员主要是通过修改执行体的API程序，使得执行体处于异常状态，然后查看表决器的输出结果，以此来分析拟态防御设备的表决器功能是否正常。
设置一个正常的测试用例，包括测试输入和测试输出。
修改一个执行体池中在线执行体的API程序，设置该执行体为异常状态，由于有三个执行体池，表决器采用大数表决的输出结果与测试用例的测试输出一致，则表示表决器功能正常，否则表示表决器功能异常。
修改两个及以上执行体池中在线执行体的API程序，设置两个以上在线执行体为异常状态，表决器采用大数表决后的输出结果与测试用例的测试输出不一致，则表示表决器功能正常，否则表示表决器功能异常。
针对有效性验证中的动态调度验证：
动态调度验证是根据拟态防御设备的动态功能测试，以验证拟态防御设备是否在周期时间内进行清洗还原。
在API界面修改一执行体池中的在线执行体为异常状态(也即被攻击状态)之后，在开启时间计时，在API界面的执行体状态监测处于异常状态的执行体，直到执行体恢复正常时停止计时，记录所需时间T。
如果在有限时间内被标记攻击的执行体可以恢复正常，则动态调度功能正常，否则表示动态调度功能异常。
针对可靠性测试中的一模可靠性验证：
在破坏某一执行体池中的在线执行体的情况下，测试拟态防御设备否具备抵御差模(一模)可靠性攻击的能力。
在API界面修改一个执行体池中的在线执行体为异常状态(也即被攻击状态)之后，在开启时间计时，在API界面的执行体状态监测处于异常状态的执行体，直到执行体恢复正常时停止计时，记录所需时间T。
如果在有限时间内被标记攻击的执行体可以恢复正常，则表示一模可靠性验证成功，一模可靠性验证失败。
针对可靠性测试中的N-1模可靠性验证：
在破坏两个执行体池中的在线执行体的情况下，测试拟态防御设备否具备抵御N-1模可靠性攻击的能力。
在API界面修改两个执行体池中的在线执行体为异常状态(也即被攻击状态)之后，开启时间计时，在API界面的执行体状态监测处于异常状态的执行体，直到执行体恢复正常时停止计时，记录所需时间T。
如果在有限时间内被标记攻击的执行体可以恢复正常，则表示N-1模可靠性验证成功，N-1模可靠性验证失败。
针对可靠性测试中的N模可靠性验证：
在破坏三个执行体池中的在线执行体的情况下，测试拟态防御设备是否具备抵御N模可靠性攻击的能力。
在API界面修改三个执行体池中的在线执行体为异常状态(也即被攻击状态)之后，开启时间计时，在API界面的执行体状态监测处于异常状态的执行体，直到执行体恢复正常时停止计时，记录所需时间T。
如果在有限时间内被标记攻击的执行体可以恢复正常，则表示N模可靠性验证成功，N模可靠性验证失败。
参见图6，本发明提供了一种拟态防御设备的安全验证装置，应用于安全验证系统中的测试设备，所述安全验证系统还包括与所述测试设备相连的拟态防御设备，所述拟态防御设备具有多个执行体池，每个执行体池包括多个执行体，每个执行体部署有与测试设备关联的控制程序；则所述装置包括：
有效性验证模块61，用于响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行有效性验证；
可靠性验证模块62，用于在所述拟态防御设备通过有效性验证后，响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行可靠性验证；
确定模块63，用于在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
其中，有效性验证模块包括：
基础环境验证单元，用于响应于测试界面的操控操作，操控拟态防御设备中执行体中的控制程序、提取执行体的基础环境，获取每个执行体池中各个执行体的基础环境，若每个执行体池中各个执行体的基础环境为异构的，则确定执行体池的基础环境通过验证，否则确定执行体池的基础环境未通过验证；
表决器功能验证单元，用于响应于测试界面的操控操作生成测试用例的测试输入，基于所述测试输入操控执行体池中的控制程序，获取所述拟态防御设备中表决器的输出结果，若输出结果与测试输出相同，则确定表决器功能正常，否则确定表决器功能异常；
动态调度验证单元，用于响应于测试界面的操控操作，控制拟态防御设备中一执行体池中在线执行体的控制程序，设置该执行体处于异常状态，判断预设时间周期内该执行体池中在线执行体能否调度至正常状态，若是则确定动态调度通过验证，若否则确定动态调度未通过验证；
有效性确定单元，用于若执行体池的基础环境通过验证、表决器功能正常且动态调度通过验证，则确定所述拟态防御设备通过有效性验证。
其中所述可靠性验证模块包括：
一模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中一个执行体的控制程序，设置该执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过一模可靠性验证；
N-1模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中N-1个执行体的控制程序，设置N-1个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N-1模可靠性验证；其中N为执行体池中执行体的数量；
N模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中N个执行体的控制程序，设置N个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N模可靠性验证；其中N为执行体池中执行体的数量；
可靠性确定单元，用于若拟态防御设备通过一模可靠性验证、拟态防御设备通过N-1模可靠性验证且拟态防御设备通过N模可靠性验证，则确定拟态防御设备通过可靠性验证。
其中，所述测试界面包括多个执行体池区域，每个执行体池区域包括多个执行体视图；响应于所述执行体视图的操控操作，调整拟态防御设备中执行体的状态。
测试界面还用于展示多个执行体池中各个执行体的状态；
测试界面还包括拟态防御设备输出结果的展示区域，以展现拟态防御设备的输出结果。
通过以上技术手段，可以实现以下有益效果：
本发明提供拟态防御设备的安全验证方法，可以先基于测试界面操控拟态防御设备中多个执行体池中在线执行体的状态，对所述拟态防御设备进行有效性验证；在所述拟态防御设备通过有效性验证后，基于测试界面操控拟态防御设备中多个执行体池中在线执行体的状态，对所述拟态防御设备进行可靠性验证；在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
对拟态防御设备的安全验证过程为自动化进行，且，拟态防御设备必须满足有效性验证和可靠性验证后，才确定拟态防御设备处于安全状态，本申请可以提高拟态防御设备安全验证的测试效率和准确性。
本实施例方法所述的功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算设备可读取存储介质中。基于这样的理解，本申请实施例对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该软件产品存储在一个存储介质中，包括若干指令用以使得一台计算设备(可以是个人计算机，服务器，移动计算设备或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种拟态防御设备的安全验证方法，其特征在于，应用于安全验证系统中的测试设备，所述安全验证系统还包括与所述测试设备相连的拟态防御设备，所述拟态防御设备具有多个执行体池，每个执行体池包括多个执行体，每个执行体部署有与测试设备关联的控制程序；则所述方法包括：
响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行有效性验证；
在所述拟态防御设备通过有效性验证后，响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行可靠性验证；
在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
2.如权利要求1所述的方法，其特征在于，所述响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行有效性验证包括：
响应于测试界面的操控操作，操控拟态防御设备中执行体中的控制程序、提取执行体的基础环境，获取每个执行体池中各个执行体的基础环境，若每个执行体池中各个执行体的基础环境为异构的，则确定执行体池的基础环境通过验证，否则确定执行体池的基础环境未通过验证；
响应于测试界面的操控操作生成测试用例的测试输入，基于所述测试输入操控执行体池中的控制程序，获取所述拟态防御设备中表决器的输出结果，若输出结果与测试输出相同，则确定表决器功能正常，否则确定表决器功能异常；
响应于测试界面的操控操作，控制拟态防御设备中一执行体池中在线执行体的控制程序，设置该执行体处于异常状态，判断预设时间周期内该执行体池中在线执行体能否调度至正常状态，若是则确定动态调度通过验证，若否则确定动态调度未通过验证；
若执行体池的基础环境通过验证、表决器功能正常且动态调度通过验证，则确定所述拟态防御设备通过有效性验证。
3.如权利要求1或2所述的方法，其特征在于，所述响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行可靠性验证包括：
响应于测试界面的操控操作，控制执行体池中一个执行体的控制程序，设置该执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过一模可靠性验证；
响应于测试界面的操控操作，控制执行体池中N-1个执行体的控制程序，设置N-1个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N-1模可靠性验证；其中N为执行体池中执行体的数量；
响应于测试界面的操控操作，控制执行体池中N个执行体的控制程序，设置N个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N模可靠性验证；其中N为执行体池中执行体的数量；
若拟态防御设备通过一模可靠性验证、拟态防御设备通过N-1模可靠性验证且拟态防御设备通过N模可靠性验证，则确定拟态防御设备通过可靠性验证。
4.如权利要求1所述的方法，其特征在于，
所述测试界面包括多个执行体池区域，每个执行体池区域包括多个执行体视图；响应于所述执行体视图的操控操作，调整拟态防御设备中执行体的状态。
5.如权利要求1所述的方法，其特征在于，
测试界面还用于展示多个执行体池中各个执行体的状态；
测试界面还包括拟态防御设备输出结果的展示区域，以展现拟态防御设备的输出结果。
6.一种拟态防御设备的安全验证装置，其特征在于，应用于安全验证系统中的测试设备，所述安全验证系统还包括与所述测试设备相连的拟态防御设备，所述拟态防御设备具有多个执行体池，每个执行体池包括多个执行体，每个执行体部署有与测试设备关联的控制程序；则所述装置包括：
有效性验证模块，用于响应于测试界面的操控操作、调整拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行有效性验证；
可靠性验证模块，用于在所述拟态防御设备通过有效性验证后，响应于测试界面的操控操作、控制拟态防御设备中多个执行体池中在线执行体的工作状态，对所述拟态防御设备进行可靠性验证；
确定模块，用于在所述拟态防御设备通过可靠性验证后，确定拟态防御设备处于安全状态。
7.如权利要求6所述的装置，其特征在于，所述有效性验证模块包括：
基础环境验证单元，用于响应于测试界面的操控操作，操控拟态防御设备中执行体中的控制程序、提取执行体的基础环境，获取每个执行体池中各个执行体的基础环境，若每个执行体池中各个执行体的基础环境为异构的，则确定执行体池的基础环境通过验证，否则确定执行体池的基础环境未通过验证；
表决器功能验证单元，用于响应于测试界面的操控操作生成测试用例的测试输入，基于所述测试输入操控执行体池中的控制程序，获取所述拟态防御设备中表决器的输出结果，若输出结果与测试输出相同，则确定表决器功能正常，否则确定表决器功能异常；
动态调度反馈单元，用于响应于测试界面的操控操作，控制拟态防御设备中一执行体池中在线执行体的控制程序，设置该执行体处于异常状态，判断预设时间周期内该执行体池中在线执行体能否调度至正常状态，若是则确定动态调度通过验证，若否则确定动态调度未通过验证；
有效性确定单元，用于若执行体池的基础环境通过验证、表决器功能正常且动态调度通过验证，则确定所述拟态防御设备通过有效性验证。
8.如权利要求6或7所述的装置，其特征在于，所述可靠性验证模块包括：
一模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中一个执行体的控制程序，设置该执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过一模可靠性验证；
N-1模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中N-1个执行体的控制程序，设置N-1个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N-1模可靠性验证；其中N为执行体池中执行体的数量；
N模可靠性验证单元，用于响应于测试界面的操控操作，控制执行体池中N个执行体的控制程序，设置N个执行体处于异常状态，判断拟态防御设备能否恢复至正常状态；若能够恢复至正常状态，则确定拟态防御设备通过N模可靠性验证；其中N为执行体池中执行体的数量；
可靠性确定单元，用于若拟态防御设备通过一模可靠性验证、拟态防御设备通过N-1模可靠性验证且拟态防御设备通过N模可靠性验证，则确定拟态防御设备通过可靠性验证。
9.如权利要求6所述的装置，其特征在于，
所述测试界面包括多个执行体池区域，每个执行体池区域包括多个执行体视图；响应于所述执行体视图的操控操作，调整拟态防御设备中执行体的状态。
10.如权利要求6所述的装置，其特征在于，
测试界面还用于展示多个执行体池中各个执行体的状态；
测试界面还包括拟态防御设备输出结果的展示区域，以展现拟态防御设备的输出结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011386780.XA CN112532635B (zh) | 2020-12-01 | 2020-12-01 | 拟态防御设备的安全验证方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011386780.XA CN112532635B (zh) | 2020-12-01 | 2020-12-01 | 拟态防御设备的安全验证方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112532635A true CN112532635A (zh) | 2021-03-19 |
| CN112532635B CN112532635B (zh) | 2023-04-18 |
Family
ID=74995996
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011386780.XA Active CN112532635B (zh) | 2020-12-01 | 2020-12-01 | 拟态防御设备的安全验证方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112532635B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118590478A (zh) * | 2024-07-31 | 2024-09-03 | 河南嵩山实验室产业研究院有限公司洛阳分公司 | web服务拟态多维模糊判决方法及系统 |
Citations (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004154515A (ja) * | 2002-11-06 | 2004-06-03 | Fujiwara Fumiaki | 弾性部材装着具 |
| US20120011573A1 (en) * | 2010-07-12 | 2012-01-12 | Menasce Daniel A | System and method for managing insider security threats |
| CN105791279A (zh) * | 2016-02-29 | 2016-07-20 | 中国人民解放军信息工程大学 | 一种拟态化sdn控制器构建方法 |
| CN106411937A (zh) * | 2016-11-15 | 2017-02-15 | 中国人民解放军信息工程大学 | 基于拟态防御架构的零日攻击检测、分析和响应系统及其方法 |
| US20170140359A1 (en) * | 2015-11-17 | 2017-05-18 | American Express Travel Related Services Co., Inc. | Secure government transactions |
| CN106713262A (zh) * | 2016-11-17 | 2017-05-24 | 上海红阵信息科技有限公司 | 基于可信度的异构执行体动态调度装置及其调度方法 |
| CN108337224A (zh) * | 2017-12-14 | 2018-07-27 | 兆辉易安（北京）网络安全技术有限公司 | 三模异构冗余的工控安全网关系统及其入侵感知方法 |
| CN108769073A (zh) * | 2018-07-04 | 2018-11-06 | 中国人民解放军战略支援部队信息工程大学 | 一种信息处理方法及设备 |
| CN109831519A (zh) * | 2019-03-07 | 2019-05-31 | 中国人民解放军战略支援部队信息工程大学 | 一种提升服务质量的方法及系统 |
| CN110691133A (zh) * | 2019-09-29 | 2020-01-14 | 河南信大网御科技有限公司 | 一种应用于网络通信设备的web服务拟态系统及方法 |
| US20200015472A1 (en) * | 2018-07-15 | 2020-01-16 | Carol L. dePaiva | Aposematic mimicry device |
| CN110740077A (zh) * | 2019-09-24 | 2020-01-31 | 华东计算技术研究所（中国电子科技集团公司第三十二研究所） | 基于网络抓包的拟态系统异构性测试系统、方法及装置 |
| CN110830462A (zh) * | 2019-10-30 | 2020-02-21 | 南京理工大学 | 一种面向拟态防御架构的安全性分析方法 |
| KR20200036500A (ko) * | 2018-09-28 | 2020-04-07 | 한국서부발전 주식회사 | 발전 제어 설비 사이버보안 시뮬레이션 시스템 |
| CN111191229A (zh) * | 2019-12-24 | 2020-05-22 | 国网天津市电力公司 | 一种电力Web应用拟态防御系统 |
| CN111585952A (zh) * | 2020-03-23 | 2020-08-25 | 浙江大学 | 一种云上Web应用应对虚拟主机层攻击的解决方法 |
| CN111740964A (zh) * | 2020-06-04 | 2020-10-02 | 河南信大网御科技有限公司 | 远程同步通信方法、拟态虚拟终端、异构执行体及介质 |
| CN111866038A (zh) * | 2019-04-25 | 2020-10-30 | 华东计算技术研究所（中国电子科技集团公司第三十二研究所） | 基于异构多副本的分布式存储动态防御系统及方法 |
| CN111901348A (zh) * | 2020-07-29 | 2020-11-06 | 北京宏达隆和科技有限公司 | 主动网络威胁感知与拟态防御的方法及系统 |
-
2020
- 2020-12-01 CN CN202011386780.XA patent/CN112532635B/zh active Active
Patent Citations (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004154515A (ja) * | 2002-11-06 | 2004-06-03 | Fujiwara Fumiaki | 弾性部材装着具 |
| US20120011573A1 (en) * | 2010-07-12 | 2012-01-12 | Menasce Daniel A | System and method for managing insider security threats |
| US20170140359A1 (en) * | 2015-11-17 | 2017-05-18 | American Express Travel Related Services Co., Inc. | Secure government transactions |
| CN105791279A (zh) * | 2016-02-29 | 2016-07-20 | 中国人民解放军信息工程大学 | 一种拟态化sdn控制器构建方法 |
| CN106411937A (zh) * | 2016-11-15 | 2017-02-15 | 中国人民解放军信息工程大学 | 基于拟态防御架构的零日攻击检测、分析和响应系统及其方法 |
| CN106713262A (zh) * | 2016-11-17 | 2017-05-24 | 上海红阵信息科技有限公司 | 基于可信度的异构执行体动态调度装置及其调度方法 |
| CN108337224A (zh) * | 2017-12-14 | 2018-07-27 | 兆辉易安（北京）网络安全技术有限公司 | 三模异构冗余的工控安全网关系统及其入侵感知方法 |
| CN108769073A (zh) * | 2018-07-04 | 2018-11-06 | 中国人民解放军战略支援部队信息工程大学 | 一种信息处理方法及设备 |
| US20200015472A1 (en) * | 2018-07-15 | 2020-01-16 | Carol L. dePaiva | Aposematic mimicry device |
| KR20200036500A (ko) * | 2018-09-28 | 2020-04-07 | 한국서부발전 주식회사 | 발전 제어 설비 사이버보안 시뮬레이션 시스템 |
| CN109831519A (zh) * | 2019-03-07 | 2019-05-31 | 中国人民解放军战略支援部队信息工程大学 | 一种提升服务质量的方法及系统 |
| CN111866038A (zh) * | 2019-04-25 | 2020-10-30 | 华东计算技术研究所（中国电子科技集团公司第三十二研究所） | 基于异构多副本的分布式存储动态防御系统及方法 |
| CN110740077A (zh) * | 2019-09-24 | 2020-01-31 | 华东计算技术研究所（中国电子科技集团公司第三十二研究所） | 基于网络抓包的拟态系统异构性测试系统、方法及装置 |
| CN110691133A (zh) * | 2019-09-29 | 2020-01-14 | 河南信大网御科技有限公司 | 一种应用于网络通信设备的web服务拟态系统及方法 |
| CN110830462A (zh) * | 2019-10-30 | 2020-02-21 | 南京理工大学 | 一种面向拟态防御架构的安全性分析方法 |
| CN111191229A (zh) * | 2019-12-24 | 2020-05-22 | 国网天津市电力公司 | 一种电力Web应用拟态防御系统 |
| CN111585952A (zh) * | 2020-03-23 | 2020-08-25 | 浙江大学 | 一种云上Web应用应对虚拟主机层攻击的解决方法 |
| CN111740964A (zh) * | 2020-06-04 | 2020-10-02 | 河南信大网御科技有限公司 | 远程同步通信方法、拟态虚拟终端、异构执行体及介质 |
| CN111901348A (zh) * | 2020-07-29 | 2020-11-06 | 北京宏达隆和科技有限公司 | 主动网络威胁感知与拟态防御的方法及系统 |
Non-Patent Citations (4)
| Title |
|---|
| BEI GONG等: "A Trusted Attestation Mechanism for the Sensing Nodes of Internet of Things Based on Dynamic Trusted Measurement", 《中国通信》 * |
| YING DONG;YUQING ZHANG;HUA MA;QIANRU WU;QIXU LIU;KAI WANG;WENJIE WANG;: "An adaptive system for detecting malicious queries in web attacks" * |
| 张长华: "海上通信网络拟态防御数据自动加密方法", 《舰船科学技术》 * |
| 李红娇;李建华;: "基于程序行为异常检测的数据流属性分析" * |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118590478A (zh) * | 2024-07-31 | 2024-09-03 | 河南嵩山实验室产业研究院有限公司洛阳分公司 | web服务拟态多维模糊判决方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112532635B (zh) | 2023-04-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Lutz | Software engineering for safety: a roadmap | |
| US8166341B2 (en) | Systems and methods for testing results of configuration management activity | |
| Papakonstantinou et al. | A zero trust hybrid security and safety risk analysis method | |
| CN107451040A (zh) | 故障原因的定位方法、装置及计算机可读存储介质 | |
| EP3958152A1 (en) | Attack scenario simulation device, attack scenario generation system, and attack scenario generation method | |
| CN112508249A (zh) | 突发事件推演图结构的构建及突发事件推演的方法和装置 | |
| Yuan et al. | Argument schemes in computer system safety engineering | |
| Kloos et al. | Improved Modelling and Assessment of the Performance of Firefighting Means in the Frame of a Fire PSA | |
| CN113553078A (zh) | 轨旁设备系统升级方法、装置、电子设备及可读存储介质 | |
| CN112532635B (zh) | 拟态防御设备的安全验证方法及装置 | |
| Popov | Models of reliability of fault-tolerant software under cyber-attacks | |
| Chiaradonna et al. | On performability modeling and evaluation of software fault tolerance structures | |
| CN115660422A (zh) | 面向船舶人因风险管控的安全屏障性能评价方法及系统 | |
| CN113537507B (zh) | 机器学习系统、方法及电子设备 | |
| Fang et al. | Design and development of safety instrumented system | |
| CN110175736B (zh) | 一种电力系统调控中心自动拆挂牌方法 | |
| Hawkins et al. | A structured approach to selecting and justifying software safety evidence | |
| Peschke et al. | A Method for Modeling Human Behavior as a Dynamic Process in the Context of External and Internal Hazards | |
| CN110188539A (zh) | 一种运行应用的方法、装置及系统 | |
| Stålhane et al. | Agile safety analysis | |
| Boring et al. | P-203: Human Reliability Analysis (HRA) Training Course | |
| Ruef et al. | Build it break it: Measuring and comparing development security | |
| Armstrong et al. | Risk management of electromagnetic disturbances | |
| Yuan et al. | Computer system safety argument schemes | |
| CN117455453A (zh) | 故障事件处理方法及装置、存储介质及电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |