CN115296840B - 基于关联节点安全状态的安全预警方法、装置及电子设备 - Google Patents
基于关联节点安全状态的安全预警方法、装置及电子设备 Download PDFInfo
- Publication number
- CN115296840B CN115296840B CN202210728471.9A CN202210728471A CN115296840B CN 115296840 B CN115296840 B CN 115296840B CN 202210728471 A CN202210728471 A CN 202210728471A CN 115296840 B CN115296840 B CN 115296840B
- Authority
- CN
- China
- Prior art keywords
- security
- node
- nodes
- early warning
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 230000008859 change Effects 0.000 claims abstract description 74
- 230000006399 behavior Effects 0.000 claims description 73
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 7
- 230000005540 biological transmission Effects 0.000 abstract description 10
- 238000012216 screening Methods 0.000 abstract description 9
- 238000004891 communication Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 11
- 230000003993 interaction Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000007726 management method Methods 0.000 description 5
- 241000700605 Viruses Species 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 241000208340 Araliaceae Species 0.000 description 2
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 2
- 235000003140 Panax quinquefolius Nutrition 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 235000008434 ginseng Nutrition 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/10—Network architectures or network communication protocols for network security for controlling access to devices or network resources
- H04L63/105—Multiple levels of security
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/10—Network architectures or network communication protocols for network security for controlling access to devices or network resources
- H04L63/108—Network architectures or network communication protocols for network security for controlling access to devices or network resources when the policy decisions are valid for a limited amount of time
Landscapes
- Engineering & Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Alarm Systems (AREA)
Abstract
本申请涉及一种基于关联节点安全状态的安全预警方法、装置、电子设备及计算机可读介质。该方法包括:获取待识别节点的节点信息和对应的预警目标;基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;确定多个关联节点的安全等级;根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;在所述安全概率满足安全趋势策略时,生成安全预警信息。本申请涉及的基于关联节点安全状态的安全预警方法、装置、电子设备及计算机可读介质,能够快速准确的对待识别节点的信息安全进行监督评价,及时生成预警信息,从而保证各节点信息安全、数据传输安全、系统安全。
Description
技术领域
本申请涉及计算机信息处理领域,具体而言,涉及一种基于关联节点安全状态的安全预警方法、装置、电子设备及计算机可读介质。
背景技术
随着网络的发展,越来越多的用户选择在网络上处理个人事务,也有越来越多的终端设备接入互联网,在于其他终端设备进行信息交互。随之而来的用户和终端设备的信息安全风险也在实时遭受考验。为了保证用户和终端设备的信息的安全,各个服务提供机构均想方设法的从各个角度对用户和终端设备的当前的状态进行分析,以期望在用户和终端设备的信息遭受风险时,能够提前预警。
但是,目前各个服务机构对用户信息安全风险的判别经常是通过对用户的基础信息和行为信息的进行分析获得,可例如,基础信息可包括用户的交互信息、性别、地域等等,行为信息可包括用户的操作信息,用户浏览信息等等。目前各个服务机构对重点信息安全风险的判别经常是通过对终端设备的软件或者硬件保护进行分析获得,可例如,该终端设备的操作系统是否安全,是否安装了病毒防护软件和防火墙等等。如何挖掘出更多的能够反映用户和终端设备的信息安全方面特征,以对用户和终端设备的信息安全进行更加全面的分析和判别,是目前广泛关注的课题。
在所述背景技术部分公开的上述信息仅用于加强对本申请的背景的理解,因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
有鉴于此,本申请提供一种基于关联节点安全状态的安全预警方法、装置、电子设备及计算机可读介质,能够快速准确的对待识别节点的信息安全进行监督评价,及时生成预警信息,从而保证节点信息安全、数据传输安全、系统安全。
本申请的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本申请的实践而习得。
根据本申请的一方面,提出一种基于关联节点安全状态的安全预警方法,该方法包括:获取待识别节点的节点信息和对应的预警目标;基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;确定多个关联节点的安全等级;根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;在所述安全概率满足安全趋势策略时,生成安全预警信息。
可选地,基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点,包括:根据所述预警目标确定目标周期和目标行为;根据所述目标周期和所述节点信息构建节点关系网;在所述节点关系网中根据所述目标行为提取多个关联节点。
可选地,根据所述目标周期和所述节点信息构建节点关系网,包括:根据所述节点信息提取目标周期内和所述待识别节点有直接关联关系和/或间接关联关系的其他节点;通过所述待识别节点、其他节点、直接关联关系和/或间接关联关系构建所述节点关系网。
可选地,确定多个关联节点的安全等级,包括:提取多个关联节点的节点信息;根据多个关联节点的节点信息中的行为信息确定多个关联节点的安全等级。
可选地,根据多个关联节点的节点信息中的行为信息确定多个关联节点的安全等级,包括:根据行为信息确定关联节点的行为类别和行为时间;根据所述行为类别和所述行为时间确定所述关联节点的安全概率;根据所述安全概率确定所述关联节点的安全等级。
可选地,根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率,包括:依据时间信息将多个关联节点依次排列,通过所述关联节点的安全等级确定所述关联节点中的预警节点;将所述时间信息划分为多组时间区间,基于所述时间区间中所述预警节点的数量,得到所述预警节点随时间变化的数量变化趋势;根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率;根据多组安全概率确定所述待识别节点的安全概率。
可选地,依据时间信息将多个关联节点依次排列,包括:获取多个关联节点的目标行为的发生时间;根据目标行为的发生时间将多个关联节点按照时序排列。
可选地,根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率,包括:确定多个计算周期;在多个计算周期内,分别根据多个关联节点的安全等级计算生成多组参考安全概率;通过所述数量变化趋势对多组所述参考安全概率进行修正,得到多组安全概率。
可选地,分别根据多个关联节点的安全等级计算生成多组参考安全概率,包括:根据关联节点和所述待识别节点的关联关系确定权重;分别根据多个关联节点对应的权重和安全等级计算生成所述多组参考安全概率。
根据本申请的一方面,提出一种基于关联节点安全状态的安全预警装置,该装置包括:信息模块,用于获取待识别节点的节点信息和对应的预警目标;关联模块,用于基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;等级模块,用于确定多个关联节点的安全等级;概率模块,用于根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;预警模块,用于在所述安全概率满足安全趋势策略时,生成安全预警信息。
根据本申请的一方面,提出一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上文的方法。
根据本申请的一方面,提出一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上文中的方法。
根据本申请的基于关联节点安全状态的安全预警方法、装置、电子设备及计算机可读介质,通过获取待识别节点的节点信息和对应的预警目标;基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;确定多个关联节点的安全等级;根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;在所述安全概率满足安全趋势策略时,生成安全预警信息的方式,能够快速准确的对待识别节点的信息安全进行监督评价,及时生成预警信息,从而保证各节点信息安全、数据传输安全、系统安全。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本申请。
附图说明
通过参照附图详细描述其示例实施例,本申请的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本申请的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据一示例性实施例示出的一种基于关联节点安全状态的安全预警方法及装置的系统框图。
图2是根据一示例性实施例示出的一种基于关联节点安全状态的安全预警方法的流程图。
图3是根据另一示例性实施例示出的一种基于关联节点安全状态的安全预警方法的流程图。
图4是根据另一示例性实施例示出的一种基于关联节点安全状态的安全预警方法的流程图。
图5是根据一示例性实施例示出的一种基于关联节点安全状态的安全预警装置的框图。
图6是根据一示例性实施例示出的一种电子设备的框图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而,示例实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施例;相反,提供这些实施例使得本申请将全面和完整,并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本申请的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本申请的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
应理解,虽然本文中可能使用术语第一、第二、第三等来描述各种组件,但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此,下文论述的第一组件可称为第二组件而不偏离本申请概念的教示。如本文中所使用,术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。
本领域技术人员可以理解,附图只是示例实施例的示意图,附图中的模块或流程并不一定是实施本申请所必须的,因此不能用于限制本申请的保护范围。
本申请的实施例提供的基于关联节点安全状态的安全预警方法可适用于安防、协助警方、电子硬件设备、投资、银行、证券以及电商等多个应用领域中的任一应用领域。在各个应用领域中,所涉及的应用场景可包括但不限于视频监控安防、电子设备安全识别、注册用户安全识别、节假日活动或者促销活动等。本申请实施例提供的基于关联节点安全状态的安全预警方法可适用于上述任一应用场景的任一业务类型中节点信息安全的预警。
本案申请人发现,随着大数据、人工智能技术的不断发展,各行各业对大数据知识获取的需求不断提升,所涉及的数据维度也更加广泛。面对数据维度和数据量快速增加的压力,如何寻找更有效的视角解决各类问题成为难题。本案申请人认为,可通过已有数据与信息对主体间、主体内及其他主体间的关联情况进行结构化的描述,使其转化为可供分析的有效知识。
本案申请人认为,可在数据预处理环节应用“联系”的观点进行特征衍生。特征之间有直接联系与间接联系的关系,可基于联系进行特征预处理,衍生新特征应于业务上。
以数据交易服务场景中的信息泄露识别为例,信息泄露的待识别节点(可例如为用户或终端设备)之间的直接联系一般体现在共用某些地点、ip地址等;间接联系则体现在待识别节点的行为模式上,如收付款信息。比如,与待识别节点A产生收付款行为的节点参与了信息泄露行为,则它极有可能将信息泄露知识传递给待识别节点A,甚至通过待识别节点A间接传递给其他收付款者。根据知识传递这一间接联系的逻辑,观察与待识别节点A有过收付款行为的节点的信息泄露情况,衍生出近3/15/30/60/180天待识别节点A邻域信息泄露情况特征组:邻域管理度特征组,包含高风险特征、低风险特征及相关性特征,通过对这个特征组进行分析,可对待识别节点面临的节点信息风险进行预警。
下面借助具体的实施例,对本申请的内容进行详细说明。
图1是根据一示例性实施例示出的一种基于关联节点安全状态的安全预警方法及装置的系统框图。
如图1所示,系统架构10可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
待识别节点可以是终端设备101、也可以是使用终端设备101的用户,当待识别节点是用户时,可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如互联网服务类应用、购物类应用、网页浏览器应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对待识别节点利用终端设备101、102、103所浏览的互联网服务类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的待识别节点数据进行分析等处理,并将处理结果(例如安全预警信息)反馈给互联网服务网站的管理员和/或终端设备101、102、103。
服务器105可由终端设备101、102、103获取待识别节点的节点信息;服务器105还可确定预警目标;服务器105可基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;服务器105可确定多个关联节点的安全等级;服务器105可根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;服务器105可在所述安全概率满足安全趋势策略时,生成安全预警信息;服务器105还可将所述安全预警信息发送至终端设备101、102、103。
服务器105可以是一个实体的服务器,还可例如为多个服务器组成,需要说明的是,本申请实施例所提供的基于关联节点安全状态的安全预警方法可以由服务器105和/或终端设备101、102、103执行,相应地,基于关联节点安全状态的安全预警装置可以设置于服务器105和/或终端设备101、102、103中。而提供给待识别节点进行互联网服务平台浏览的网页端一般位于终端设备101、102、103中。
图2是根据一示例性实施例示出的一种基于关联节点安全状态的安全预警方法的流程图。基于关联节点安全状态的安全预警方法20至少包括步骤S202至S210。
如图2所示,在S202中,获取待识别节点的节点信息和对应的预警目标。
在本申请实施例中,待识别节点可为个人用户或者企业用户,其中,节点信息可包括经过用户授权的基础信息,例如,基础信息可以是业务账号信息、用户的终端设备标识信息、用户所处地域信息等;节点信息还可包括行为信息,例如,行为信息可以是用户在视频或图片中的行为信息、用户的页面操作数据、用户的业务访问时长、用户的业务访问频率等,节点信息的具体内容可根据实际应用场景确定,在此不做限制。
在一个具体的应用中,待识别的节点可为用户,节点信息为该用户和其他用户之间的交互信息,交互信息可包括:互联网上进行过互动,在同一地理位置同时出现并同行,共用过同样的硬件设备等等。通过是否有交互来确定用户之间是否有关联,然后再依据本申请中的方法生成该用的关联用户,进而再根据关联节点的行为(比如,是否存在违规行为,是否存在不良记录等等)来确定该关联节点是不是会影响到用户信息安全的可疑人员。
在本申请实施例中,待识别节点还可以是终端设备或者服务器,其中,节点信息可以是终端设备或服务器中的基础信息,该基础信息可以是终端设备或服务器的日志信息、数据传输信息、设备状态信息等等。
在一个具体的应用中,待识别的节点可为终端设备,待识别的节点信息可为进而该终端有过数据传输的其他终端,或者是和该终端处在同一网段内的其他终端,还可以是和该终端处于同一公司名下的其他终端。可通过终端之间是否有传输过数据、终端之间是否有物理连接关系,来确定该终端的关联终端。
由于病毒的传播是通过终端之间的连接、终端之间的数据传输来实现的,存在关联关系的终端中,若有任意终端出现数据安全类的问题,其他有关联关系的终端的安全性能都可能会受到影响。所以,可以根据该终端的关联终端是否存在现数据丢失、终端中病毒等等故障情况,来确定该终端的安全等级。
在一个实施例中,可根据应用场景的类型设置不同的预警目标,还可根据其他特征设定预警目标,本申请以终端设备数据安全作为背景,以终端设备数据安全中关联节点的数据出现泄露导致待识别节点的信息泄露事件作为预警目标,进行后文中的举例说明,可以理解的是,本申请的技术内容还可应用在其他场景中,也可以设置其他的预警目标。
在S204中,基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点。可例如,根据所述预警目标确定目标周期和目标行为;根据所述目标周期和所述节点信息构建节点关系网;在所述节点关系网中根据所述目标行为提取多个关联节点。
在一个具体的应用中,预警目标为终端设备的信息泄露风险事件,则可将目标周期确定为最近一个月内的时间,还可将目标行为确定为和产生过信息泄露行为的终端设备有关联关系,还可将目标行为确定为和有安全风险的终端设备有关联关系等等,目标行为包括多个行为。
其中,节点关系网中可包括直接关联关系和/或间接关联关系的其他节点。可通过节点信息获取和待识别节点具有直接关联关系的第一节点,还可根据这些有直接关联关系的第一节点,挖掘和第一节点具有关联关系的第二节点,进而生成节点关系网中的直接关联关系和间接关联关系。
在S206中,确定多个关联节点的安全等级。可例如,提取多个关联节点的节点信息;根据多个关联节点的节点信息中的行为信息确定多个关联节点的安全等级。
其中,可根据行为信息确定关联节点的行为类别和行为时间;根据所述行为类别和所述行为时间确定所述关联节点的安全概率;根据所述安全概率确定所述关联节点的安全等级。
在一个实际的应用中,提取出的关联节点和目标行为如下:与待识别节点A近3天产生数据交互行为的节点有a、b、c、d,节点a历史上曾出现信息泄露或者安全风险的事件,且三天内未解决(中风险);节点b为新终端设备,还未记录相关数据(低风险);节点c历史没有出现过信息泄露或者安全风险的事件(低风险);节点d历史曾出现信息泄露或者安全风险的事件,且三十天内未解决(高风险);
其中,曾出现信息泄露或者安全风险的事件,且七天内未解决对应的行为类别的风险可为中风险;
还未记录相关数据的行为类型对应的风险可为低风险;
没有出现过信息泄露或者安全风险的事件对应的风险可为低风险;
曾出现信息泄露或者安全风险的事件,且三十天内未解决对应的行为类别的风险可为高风险。
更进一步的,低风险行为对应的安全概率可为0.9,中风对应的安全概率可为0.5,高风险行为对应的安全概率可为0.2,当然,还可以有其他的风险等级。
还可对关联节点产生安全风险行为的时间进行判断,比如,关联节点d他曾经在一年前发生过高风险行为,近期均未发生高风险行为,此时,可以生成调整系数,对待识别节点d的高风险行为对应的安全概率进行调节,产生安全风险行为的时间距今时间越长,调整后的安全概率越大。
将关联节点的安全概率和阈值区间进行比对,以最终确定关联节点的风险等级。
在S208中,根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率。可例如,依据时间信息将多个关联节点依次排列,通过所述关联节点的安全等级确定所述关联节点中的预警节点;将所述时间信息划分为多组时间区间,基于所述时间区间中所述预警节点的数量,得到所述预警节点随时间变化的数量变化趋势;根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率;根据多组安全概率确定所述待识别节点的安全概率。
更具体的,可获取多个关联节点的目标行为的发生时间;根据目标行为的发生时间将多个关联节点按照时序排列。
在一个实施例中,根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率,包括:确定多个计算周期;在多个计算周期内,分别根据多个关联节点的安全等级计算生成多组参考安全概率;通过所述数量变化趋势对多组所述参考安全概率进行修正,得到多组安全概率。
更具体的,可根据关联节点和所述待识别节点的关联关系确定权重;分别根据多个关联节点对应的权重和安全等级计算生成所述多组参考安全概率。
在S210中,在所述安全概率满足安全趋势策略时,生成安全预警信息。可例如,安全趋势策略可以是预设安全阈值,在安全概率小于安全阈值时,生成安全预警信息;安全趋势策略也可以根据预警节点随时间变化的数量变化趋势来设定安全阈值,比如,可以设置一个基准安全阈值和一个单位安全阈值,当预警节点随时间变化的数量变化趋势是数量降低时,根据数量变化趋势生成变化曲线,对变化曲线求导得到降低率,将基准安全阈值减去降低率乘以单位安全阈值,得到当前数量变化趋势对应的安全阈值,在安全概率小于安全阈值时,生成安全预警信息。同理,当预警节点随时间变化的数量变化趋势是数量增长时,将基准安全阈值加上增长率乘以单位安全阈值,在安全概率小于安全阈值时,生成安全预警信息,最终可以在预警节点的数量变化趋势不同的情况下设定不同的安全阈值,以提高预警的准确性。可根据关联节点的信息生成预警信息,以提供待识别节点所面临的具体风险内容。
还可通过不同的信息渠道将安全预警信息推送到待识别节点处。
根据本申请的基于关联节点安全状态的安全预警方法,通过获取待识别节点的节点信息和对应的预警目标;基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;确定多个关联节点的安全等级;根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;在所述安全概率满足安全趋势策略时,生成安全预警信息的方式,能够快速准确的对待识别节点的信息安全进行监督评价,及时生成预警信息,从而保证节点信息安全、数据传输安全、系统安全。
应清楚地理解,本申请描述了如何形成和使用特定示例,但本申请的原理不限于这些示例的任何细节。相反,基于本申请公开的内容的教导,这些原理能够应用于许多其它实施例。
图3是根据另一示例性实施例示出的一种基于关联节点安全状态的安全预警方法的流程图。图3所示的流程30是对图2所示的流程中S204“基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点”的详细描述。
如图3所示,在S302中,根据所述预警目标确定目标周期和目标行为。不同的预警目标对应着不同的目标行为和目标周期,目标行为可周目标周期可根据历史数据分析得到,可例如,在预警目标是关联节点的信息被盗取事件,则目标周期可为一周内,目标行为可为和标签为虚假信息的关联节点有关联关系,目标行为还可例如为和多次在不同的异地进行过登陆的关联节点具有关系关系。
在S304中,根据所述目标周期和所述节点信息构建节点关系网。可例如,根据所述节点信息提取目标周期内和所述待识别节点有直接关联关系和/或间接关联关系的其他节点;通过所述待识别节点、其他节点、直接关联关系和/或间接关联关系构建所述节点关系网。
在S306中,在所述节点关系网中根据所述目标行为提取多个关联节点。在节点关系网中,包含了所有与待识别节点有过关联关系的其他节点,关联关系可为通信关系,公共平台好友关系,共用设备等等关系,所以,在其他节点中,很多节点是正常行为的节点,仅提取包含目标行为的节点作为关联节点。
在其他实施例中,比如,节点为终端设备的方案中,关联关系可以是终端设备之间是否进行过数据传输、终端设备之间是否有物理连接关系、终端设备之间是否进行过;还比如,节点为用户的方案中,关联关系可以是用户是否一起行动、用户是否进行过聊天、用户是否进行过交流等等。
图4是根据另一示例性实施例示出的一种基于关联节点安全状态的安全预警方法的流程图。图4所示的流程40是对图2所示的流程中S208“根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率”的详细描述。
如图4所示,在S402中,依据时间信息将多个关联节点依次排列,通过所述关联节点的安全等级确定所述关联节点中的预警节点。可获取多个关联节点的目标行为的发生时间;根据目标行为的发生时间将多个关联节点按照时序排列。可以设定预警等级,根据关联节点的安全等级来确定预警节点,具体的,比如,当关联节点的安全等级小于或等于预警等级,则可以将该关联节点作为预警节点,以实现对关联节点的进一步细分,提高识别精度。
在404中,将所述时间信息划分为多组时间区间,基于所述时间区间中所述预警节点的数量,得到所述预警节点随时间变化的数量变化趋势。可例如,按照预设时间跨度,将该时间信息等间距划分,得到多组时间区间,统计每组时间区间内的预警节点的数量,然后将各个时间区间内预警节点的数量按时间顺序排列,即可得到预警节点随时间变化的数量变化趋势,当然,也可以采用画图的方式来直接拟合得到数量变化趋势,比如,以时间为横轴,预警节点的数量为纵轴,在坐标系中进行标记数据点,拟合得到对应的预警节点的数量随时间变化的变化曲线,作为本实施例中的数量变化趋势。
在S406中,根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率。可例如,确定多个计算周期;在多个计算周期内,分别根据多个关联节点的安全等级计算生成多组参考安全概率,通过所述数量变化趋势对多组所述参考安全概率进行修正,得到多组安全概率。
在本实施例中,通过数量变化趋势对参考安全概率进行修正,可以通过确定数量变化趋势的当前变化增长率,比如,数量变化趋势增长时,当前变化增长率是一个正值,数量变化趋势降低时,当前变化增长率是一个负值;确定当前变化增长率,可以通过对数量变化趋势进行拟合得到曲线,对曲线的当前时间点求导即可得到当前变化增长率,还可以通过时间区间内预警节点的数量变化率来得到当前变化增长率,具体的,数量变化率=(Nn-Nn-1)-(Nn-1-Nn-2),Nn表示当前时间区间的预警节点的数量,Nn-1表示当前时间区间之前一时间区间的预警节点的数量,Nn-2表示当前时间区间之前二时间区间的预警节点的数量;而预警节点的数量越多,安全概率则越低,所以,可以通过如下公式,对参考安全概率进行修正,得到安全概率:
P=P参(1-r);
其中,P为安全概率,P参为参考安全概率,r为当前变化增长率。
当当前变化增长率为正值时,适当降低安全概率,当当前变化增长率为负值时,适当增加安全概率,提高对于待识别节点的安全性的识别精度。
可例如,在一个具体的应用场景中,与待识别节点A近3天产生数据交互的节点有a、b、c、d.节点a历史上曾出现信息泄露或者安全风险的事件,且三天内未解决(低风险);节点b为新终端设备,还未记录相关数据(低风险);节点c历史没有出现过信息泄露或者安全风险的事件(低风险);节点d历史曾出现信息泄露或者安全风险的事件,且一天内未解决(低风险)。近30天,待识别节点A产生交易的节点有20个,其中4个高风险(曾逾期30天以上)。
在一个实施例中,还可对待识别节点每个周期内的关联节点特征进行统计,生成邻域管理度统计表格。
更具体的,可确定计算周期为3天和30天,则待识别节点A近3/30天的邻域管理度特征组如下
交易节点数 | 高风险数量 | 低风险数量 | 相关性特征 | |
近3天 | 4 | 0 | 4 | 4/4=1 |
近30天 | 20 | 4 | 16 | 16/20=0.8 |
在一个实施例中,分别根据多个关联节点的安全等级计算生成多组参考安全概率,包括:根据关联节点和所述待识别节点的关联关系确定权重;分别根据多个关联节点对应的权重和安全等级计算生成所述多组参考安全概率。
根据不同周期内的关联节点的安全等级生成不同周期的参考安全概率。可例如,为第一关联节点设置较高的权重,可为0.3,还可为第二关联节点设置较低的权重,可为0.7。通过权重和不同关联节点对应的风险等级综合计算生成多个周期对应的参考安全概率。
在S408中,根据多组安全概率确定所述待识别节点的安全概率。可为不同组的安全概率设置不同的权重,可将距离现在较近的时间周期(3天)对应的时间权重确定为0.3,还可将距离现在较近的时间周期(30天)对应的时间权重确定为0.7,综合以上时间权重和不同组别的安全概率确定最终的待识别节点安全概率。
在一个实施例中,可长时间的对节点信息进行监测,以不断的补充邻域特征组中的周期信息,可例如,通过6个月的监测,可将邻域特征组中的周期信息扩展为3天,30天,45天,60天,90天,180天等等多个组别,可以持续性的观测待识别节点A是否被信息泄露触达。或随着时间的推移,关联节点中的高风险节点数量攀升,可能也会导致待识别节点A的安全概率降低,可能出现信息泄露或者数据泄露的风险也会不断上升,通过持续性的监测,能对待识别节点的信息泄露势头进行分析,还可进行提前预警。
本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由CPU执行的计算机程序。在该计算机程序被CPU执行时,执行本申请提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中,该存储介质可以是只读存储器,磁盘或光盘等。
此外,需要注意的是,上述附图仅是根据本申请示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
下述为本申请装置实施例,可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节,请参照本申请方法实施例。
图5是根据一示例性实施例示出的一种基于关联节点安全状态的安全预警装置的框图。如图5所示,基于关联节点安全状态的安全预警装置50包括:信息模块502,关联模块504,等级模块506,概率模块508,预警模块510。
信息模块502用于获取待识别节点的节点信息和对应的预警目标;
关联模块504用于基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;关联模块504还用于根据所述预警目标确定目标周期和目标行为;根据所述目标周期和所述节点信息构建节点关系网;在所述节点关系网中根据所述目标行为提取多个关联节点。
等级模块506用于确定多个关联节点的安全等级;等级模块506还用于提取多个关联节点的节点信息;根据多个关联节点的节点信息中的行为信息确定多个关联节点的安全等级。
概率模块508用于根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;概率模块508还用于依据时间信息将多个关联节点依次排列;根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率;根据多组安全概率确定所述待识别节点的安全概率。
预警模块510用于在所述安全概率满足安全趋势策略时,生成安全预警信息以进行预警。
根据本申请的基于关联节点安全状态的安全预警装置,通过获取待识别节点的节点信息和对应的预警目标;基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;确定多个关联节点的安全等级;根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;在所述安全概率满足安全趋势策略时,生成安全预警信息的方式,能够快速准确的对待识别节点的信息安全进行监督评价,及时生成预警信息,从而保证节点信息安全、数据传输安全、系统安全。
如图6所示,本发明实施例提供了一种电子设备,包括处理器1110、通信接口1120、存储器1130和通信总线1140,其中,处理器1110,通信接口1120,存储器1130通过通信总线1140完成相互间的通信;
存储器1130,用于存放计算机程序;
处理器1110,用于执行存储器1130上所存放的程序时,实现上述任一实施例的基于关联节点安全状态的安全预警方法。
本发明实施例提供的电子设备,处理器1110通过执行存储器1130上所存放的程序获取待识别节点的节点信息和对应的预警目标;基于所述节点信息和所述预警目标,筛选与所述待识别节点存在关联关系的多个关联节点;确定多个关联节点的安全等级;根据多个关联节点的安全等级和所述关联节点中预警节点随时间变化的数量变化趋势,确定所述待识别节点的安全概率;在所述安全概率满足安全趋势策略时,生成安全预警信息。
上述电子设备提到的通信总线1140可以是外设部件互连标准(PeripheralComponentInterconnect,简称PCI)总线或扩展工业标准结构(ExtendedIndustryStandardArchitecture,简称EISA)总线等。该通信总线1140可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口1120用于上述电子设备与其他设备之间的通信。
存储器1130可以包括随机存取存储器1130(RandomAccessMemory,简称RAM),也可以包括非易失性存储器1130(non-volatilememory),例如至少一个磁盘存储器1130。可选的,存储器1130还可以是至少一个位于远离前述处理器1110的存储装置。
上述的处理器1110可以是通用处理器1110,包括中央处理器1110(CentralProcessingUnit,简称CPU)、网络处理器1110(NetworkProcessor,简称NP)等;还可以是数字信号处理器1110(DigitalSignalProcessing,简称DSP)、专用集成电路(ApplicationSpecificIntegratedCircuit,简称ASIC)、现场可编程门阵列(Field-ProgrammableGateArray,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
本发明实施例提供了一种计算机可读存储介质,计算机可读存储介质存储有一个或者多个程序,一个或者多个程序可被一个或者多个处理器1110执行,以实现上述任一实施例的基于关联节点安全状态的安全预警方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本发明实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘SolidStateDisk(SSD))等。
以上具体地示出和描述了本申请的示例性实施例。应可理解的是,本申请不限于这里描述的详细结构、设置方式或实现方法;相反,本申请意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。
Claims (10)
1.一种基于关联节点安全状态的安全预警方法,其特征在于,包括:
获取待识别节点的节点信息和对应的预警目标;
根据所述预警目标确定目标周期和目标行为;
根据所述目标周期和所述节点信息提取和待识别节点具有直接关联关系和/或间接关联关系的其他节点以构建节点关系网;
在所述节点关系网中根据所述目标行为提取多个关联节点;
确定多个关联节点的安全等级;
依据时间信息将多个关联节点依次排列,通过所述关联节点的安全等级确定所述关联节点中的预警节点;
将所述时间信息划分为多组时间区间,基于所述时间区间中所述预警节点的数量,得到所述预警节点随时间变化的数量变化趋势;
根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率;
根据多组安全概率确定所述待识别节点的安全概率;
在所述安全概率满足安全趋势策略时,生成安全预警信息以进行预警。
2.如权利要求1所述的方法,其特征在于,根据所述目标周期和所述节点信息构建节点关系网,包括:
根据所述节点信息提取目标周期内和所述待识别节点有直接关联关系和/或间接关联关系的其他节点;
通过所述待识别节点、其他节点、直接关联关系和/或间接关联关系构建所述节点关系网。
3.如权利要求1所述的方法,其特征在于,确定多个关联节点的安全等级,包括:
提取多个关联节点的节点信息;
根据多个关联节点的节点信息中的行为信息确定多个关联节点的安全等级。
4.如权利要求3所述的方法,其特征在于,根据多个关联节点的节点信息中的行为信息确定多个关联节点的安全等级,包括:
根据行为信息确定关联节点的行为类别和行为时间;
根据所述行为类别和所述行为时间确定所述关联节点的安全概率;
根据所述安全概率确定所述关联节点的安全等级。
5.如权利要求1所述的方法,其特征在于,依据时间信息将多个关联节点依次排列,包括:
获取多个关联节点的目标行为的发生时间;
根据目标行为的发生时间将多个关联节点按照时序排列。
6.如权利要求1所述的方法,其特征在于,根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率,包括:
确定多个计算周期;
在多个计算周期内,分别根据多个关联节点的安全等级计算生成多组参考安全概率;
通过所述数量变化趋势对多组所述参考安全概率进行修正,得到多组安全概率。
7.如权利要求1所述的方法,其特征在于,分别根据多个关联节点的安全等级计算生成多组参考安全概率,包括:
根据关联节点和所述待识别节点的关联关系确定权重;
分别根据多个关联节点对应的权重和安全等级计算生成所述多组参考安全概率。
8.一种基于关联节点安全状态的安全预警装置,其特征在于,包括:
信息模块,用于获取待识别节点的节点信息和对应的预警目标;
关联模块,用于根据所述预警目标确定目标周期和目标行为;根据所述目标周期和所述节点信息提取和待识别节点具有直接关联关系和/或间接关联关系的其他节点以构建节点关系网;在所述节点关系网中根据所述目标行为提取多个关联节点;
等级模块,用于确定多个关联节点的安全等级;
概率模块,用于依据时间信息将多个关联节点依次排列,通过所述关联节点的安全等级确定所述关联节点中的预警节点;将所述时间信息划分为多组时间区间,基于所述时间区间中所述预警节点的数量,得到所述预警节点随时间变化的数量变化趋势;根据多个关联节点的安全等级和所述数量变化趋势计算多组安全概率;根据多组安全概率确定所述待识别节点的安全概率;
预警模块,用于在所述安全概率满足安全趋势策略时,生成安全预警信息以进行预警。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210728471.9A CN115296840B (zh) | 2022-06-24 | 2022-06-24 | 基于关联节点安全状态的安全预警方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210728471.9A CN115296840B (zh) | 2022-06-24 | 2022-06-24 | 基于关联节点安全状态的安全预警方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115296840A CN115296840A (zh) | 2022-11-04 |
CN115296840B true CN115296840B (zh) | 2024-02-27 |
Family
ID=83820295
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210728471.9A Active CN115296840B (zh) | 2022-06-24 | 2022-06-24 | 基于关联节点安全状态的安全预警方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115296840B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102340485A (zh) * | 2010-07-19 | 2012-02-01 | 中国科学院计算技术研究所 | 基于信息关联的网络安全态势感知系统及其方法 |
CN104580233A (zh) * | 2015-01-16 | 2015-04-29 | 重庆邮电大学 | 一种物联网智能家居安全网关系统 |
CN108449313A (zh) * | 2018-02-01 | 2018-08-24 | 平安科技(深圳)有限公司 | 电子装置、互联网服务系统风险预警方法及存储介质 |
CN108712283A (zh) * | 2018-05-10 | 2018-10-26 | 国网江西省电力有限公司信息通信分公司 | 信息系统中基于资源关联关系的故障预警方法和装置 |
CN111131338A (zh) * | 2020-04-01 | 2020-05-08 | 深圳市云盾科技有限公司 | 感知态势处物联网安全检测方法、系统及存储介质 |
CN112351441A (zh) * | 2019-08-06 | 2021-02-09 | 中国移动通信集团广东有限公司 | 一种数据处理方法、装置及电子设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9692789B2 (en) * | 2013-12-13 | 2017-06-27 | Oracle International Corporation | Techniques for cloud security monitoring and threat intelligence |
-
2022
- 2022-06-24 CN CN202210728471.9A patent/CN115296840B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102340485A (zh) * | 2010-07-19 | 2012-02-01 | 中国科学院计算技术研究所 | 基于信息关联的网络安全态势感知系统及其方法 |
CN104580233A (zh) * | 2015-01-16 | 2015-04-29 | 重庆邮电大学 | 一种物联网智能家居安全网关系统 |
CN108449313A (zh) * | 2018-02-01 | 2018-08-24 | 平安科技(深圳)有限公司 | 电子装置、互联网服务系统风险预警方法及存储介质 |
CN108712283A (zh) * | 2018-05-10 | 2018-10-26 | 国网江西省电力有限公司信息通信分公司 | 信息系统中基于资源关联关系的故障预警方法和装置 |
CN112351441A (zh) * | 2019-08-06 | 2021-02-09 | 中国移动通信集团广东有限公司 | 一种数据处理方法、装置及电子设备 |
CN111131338A (zh) * | 2020-04-01 | 2020-05-08 | 深圳市云盾科技有限公司 | 感知态势处物联网安全检测方法、系统及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115296840A (zh) | 2022-11-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108780479B (zh) | 用于对异常进行检测和评分的系统和方法 | |
US20200389495A1 (en) | Secure policy-controlled processing and auditing on regulated data sets | |
US11212299B2 (en) | System and method for monitoring security attack chains | |
CN110417721B (zh) | 安全风险评估方法、装置、设备及计算机可读存储介质 | |
US10178116B2 (en) | Automated computer behavioral analysis system and methods | |
US10635817B2 (en) | Targeted security alerts | |
US20230362200A1 (en) | Dynamic cybersecurity scoring and operational risk reduction assessment | |
US20160226901A1 (en) | Anomaly Detection Using Adaptive Behavioral Profiles | |
US20210092160A1 (en) | Data set creation with crowd-based reinforcement | |
US20210136120A1 (en) | Universal computing asset registry | |
US20140201048A1 (en) | Method and apparatus of identifying a website user | |
US11074652B2 (en) | System and method for model-based prediction using a distributed computational graph workflow | |
CN110135978B (zh) | 用户金融风险评估方法、装置、电子设备和可读介质 | |
US20240231909A1 (en) | System and method for universal computer asset normalization and configuration management | |
US20230027733A1 (en) | Systems, devices, and methods for observing and/or performing data access compliance to a computer network | |
CN111612085B (zh) | 一种对等组中异常点的检测方法及装置 | |
Sarabi et al. | Prioritizing Security Spending: A Quantitative Analysis of Risk Distributions for Different Business Profiles. | |
CN115296840B (zh) | 基于关联节点安全状态的安全预警方法、装置及电子设备 | |
US11829425B1 (en) | Social warning system | |
CN116192473A (zh) | 一种计算机网络安全入侵检测系统 | |
US11621966B1 (en) | Detection of malicious user accounts of an online service using feature analysis | |
Xu et al. | [Retracted] Method of Cumulative Anomaly Identification for Security Database Based on Discrete Markov chain | |
US12130928B2 (en) | Method and system for anamoly detection in the banking system with graph neural networks (GNNs) | |
US20220374524A1 (en) | Method and system for anamoly detection in the banking system with graph neural networks (gnns) | |
WO2020255512A1 (ja) | 監視システム、および、監視方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |