CN116095145B - 一种vpc集群的数据控制方法和系统 - Google Patents

一种vpc集群的数据控制方法和系统 Download PDF

Info

Publication number
CN116095145B
CN116095145B CN202310015154.7A CN202310015154A CN116095145B CN 116095145 B CN116095145 B CN 116095145B CN 202310015154 A CN202310015154 A CN 202310015154A CN 116095145 B CN116095145 B CN 116095145B
Authority
CN
China
Prior art keywords
vpc
host
cluster
controller
vpcagent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310015154.7A
Other languages
English (en)
Other versions
CN116095145A (zh
Inventor
李美云
徐文豪
张凯
王弘毅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Zhiling Haina Technology Co ltd
Original Assignee
SmartX Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SmartX Inc filed Critical SmartX Inc
Priority to CN202310015154.7A priority Critical patent/CN116095145B/zh
Publication of CN116095145A publication Critical patent/CN116095145A/zh
Application granted granted Critical
Publication of CN116095145B publication Critical patent/CN116095145B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/2866Architectures; Arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00Arrangements for detecting or preventing errors in the information received
    • H04L1/22Arrangements for detecting or preventing errors in the information received using redundant apparatus to increase reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0803Configuration setting
    • H04L41/0813Configuration setting characterised by the conditions triggering a change of settings
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开一种VPC集群的数据控制方法和系统,其中,VPC集群的数据控制系统包括:VPC控制器,与VPC控制器电连接的多组VPC集群;每组VPC集群包括一台主宿主机以及与主宿主机电连接的多台从宿主机;其中,主宿主机与VPC控制器电连接;主宿主机包括与VPC控制器电连接的VPCagent,用于监听VPC控制器的逻辑数据,并向从宿主机下发网络配置。本发明的技术方案能解决现有技术中VPC架构存在的抢占虚拟机资源、规则翻译重复和VPCagent没有高可用性的问题。

Description

一种VPC集群的数据控制方法和系统
技术领域
本发明涉及云网络技术领域,尤其涉及一种VPC集群的数据控制方法和系统。
背景技术
VPC(Virtual Private Cloud,虚拟私有云)是云环境上自定义的逻辑隔离网络空间,是一块能够由用户自定义的虚拟网络空间,与数据中心运行的传统网络相似。
VPC作为虚拟网络的实现,主要包括数据面和控制面两部分。其中,数据面主要是对网络报文的操作,比如报文的解析、转发、地址转换、匹配路由规则、安全规则和丢弃等;控制面主要是为网络管理员提供数据面报文操作规则的管理能力,比如路由规则和安全规则等的配置,并且为管理员提供统一的管理入口,屏蔽具体数据面实现的复杂性,将数据流抽象为逻辑流,语义更易于管理员理解。具体参见图1,图1为现有的VPC虚拟网络的架构图。现有的VPC虚拟网络包括数据面和控制面;其中,数据面是指在宿主机host上使用虚拟交换机OVS8实现虚机VM7的数据流的操作。控制面分为VPC controller1和VPC agent5两部分;VPC controller1为网络管理员提供网络操作的接口,比如:创建vpc、为虚机的网卡在vpc内分配一个IP等,并将数据持久化到数据库中;部署在VPC集群的三个节点上。VPC agent5用于监听VPC controller 1中的数据变化,并将VPC controller 1中的逻辑数据,翻译成OVS 8的规则并下发到OVS 8中,从而实现数据流的配置;其中,如图1所示,每个宿主机上都要部署VPC agent 5。
然而,当前的VPC架构存在以下缺点:
(1)抢占虚机资源:因为每个host上都需要运行VPC agent,所以每个host都需要为VPCagent预留cpu和内存等资源,尤其对于cpu/内存容量较小的host,在为控制面预留资源后,真正可用于虚机的资源会明显变少。
(2)规则翻译重复:对于VPC controller上操作的同一网络策略,不同host上VPCagent都需要进行翻译,翻译成OVS的规则,然后下发给OVS;不同host上的agent操作大同小异,但每个host都需要做一次。
(3)VPCagent没有高可用性,当一个host上的vpcagent异常时,则该host上的网络规则不能及时更新。
发明内容
本发明提供一种VPC集群的数据控制方案,旨在解决现有技术提供的VPC架构存在抢占虚机资源、规则翻译重复且VPCagent没有高可用性的问题。
为实现上述目的,根据本发明的第一方面,本发明提出了一种VPC集群的数据控制系统,包括:
VPC控制器;
与VPC控制器电连接的多组VPC集群;
每组VPC集群包括一台主宿主机以及与主宿主机电连接的多台从宿主机;其中,
主宿主机与VPC控制器电连接;
主宿主机包括与VPC控制器电连接的VPCagent,用于监听VPC控制器的逻辑数据,并向从宿主机下发网络配置。
优选的,上述数据控制系统中,每组VPC集群还包括:
与VPC控制器电连接的备用宿主机,其中,备用宿主机包括与VPC控制器电连接的VPCagent,用于监听VPC控制器的逻辑数据;
备用宿主机与主宿主机为主备模式。
优选的,上述数据控制系统中,主宿主机包括虚拟机、虚拟交换机和VPCagent;其中,
虚拟机与虚拟交换机通过数据线路连接;
VPCagent与虚拟交换机通过控制线路连接,用于监听VPC控制器的逻辑数据,并向虚拟交换机下发网络配置;
VPCagent还与多台从宿主机内的虚拟交换机分别通过控制线路连接,用于监听VPC控制器的逻辑数据,并向从宿主机的虚拟交换机下发网络配置。
优选的,上述数据控制系统中,每台从宿主机包括:
虚拟机和虚拟交换机;其中,
虚拟机和虚拟交换机通过数据线路连接;
虚拟交换机还与主宿主机中的虚拟交换机通过数据线路连接;
虚拟交换机还与主宿主机中的VPCagent通过控制线路连接,用于接收VPCagent下发的网络配置。
根据本发明的第二方面,本发明还提供了一种VPC集群的数据控制方法,用于上述任一项技术方案提供的VPC集群的数据控制系统;VPC集群的数据控制方法包括:
选择VPC节点部署并启动VPC控制器;
控制VPC节点连接的所有宿主机,向VPC控制器发送宿主机特征信息;
控制VPC控制器根据宿主机特征信息对宿主机进行分组,生成VPC集群信息;
根据VPC集群信息,从每组VPC集群中选择一台宿主机作为主宿主机,在主宿主机上部署并启动VPCagent;
控制主宿主机使用VPCagent,从VPC控制器请求VPC集群信息;
控制VPCagent,根据VPC集群信息进行抢主操作;
当VPCagent抢主成功时,VPCagent监听VPC控制器的网络变更事件,并将网络变更事件翻译并下发至本VPC集群内的对应宿主机。
优选的,上述数据控制方法,在根据VPC集群信息,从每组VPC集群中选择一台宿主机作为主宿主机的步骤之前还包括:
控制VPC集群内的所有宿主机创建并初始化VPC网桥;
控制宿主机为VPC网桥进行控制器监听程序配置。
优选的,上述数据控制方法中,VPCagent监听VPC控制器的网络变更事件的步骤包括:
VPCagent连接VPC集群内的所有宿主机;
VPCagent根据openflow协议与VPC集群内每台宿主机的VPC网桥进行通信;
VPCagent获取VPC网桥的VPC信息并上传至VPC控制器;
VPCagent监听VPC控制器,将VPC控制器的网络变更事件翻译下发至对应宿主机的VPC网桥。
优选的,上述数据控制方法,将网络变更事件翻译并下发至本VPC集群内的对应宿主机的步骤之后还包括:
当VPC控制器向VPC集群增加宿主机时,VPC控制器遍历所有VPC集群;
VPC控制器判断每组VPC集群中部署有VPCagent的宿主机数量是否满足预设主机数量条件;
若宿主机数量满足预设主机数量条件,则选择宿主机数量最少的VPC集群;
判断VPC集群的数量是否小于最大节点数量;
若VPC集群的数量小于最大节点数量,则将增加的宿主机添加至宿主机数量最少的VPC集群中;
若VPC集群的数量大于或等于最大节点数量,则将部署有VPCAGENT的宿主机最多的VPC集群进行分组。
优选的,上述数据控制方法,将网络变更事件翻译并下发至本VPC集群内的对应宿主机的步骤之后还包括:
当VPC控制器删除宿主机时,VPC控制器遍历所有VPC集群;
VPC控制器判断每组VPC集群中部署有VPCagent的宿主机数量是否满足预设主机数量条件;
若宿主机数量满足预设主机数量条件,则VPC控制器判断删除宿主机后,VPC集群的数量是否大于预设集群数量阈值;
若VPC集群的数量大于预设集群数量阈值,则将宿主机添加至宿主机数量最少的分组;
若VPC集群的数量小于或等于预设集群数量阈值,则删除宿主机。
优选的,上述数据控制方法,将网络变更事件翻译并下发至本VPC集群内对应宿主机的步骤之后还包括:
VPCagent判断网络变更事件是否为变换VPCagent所在的宿主机;
若网络变更事件为变换VPCagent所在的宿主机,则VPCagent获取VPC集群信息,根据VPC集群信息进行抢主操作;
当VPCagent抢主成功时,VPCagent根据网络变更事件中的宿主机信息建立或释放与宿主机的连接;
VPCagent根据VPC控制器中的数据面配置信息,更新新建连接的宿主机的数据面配置信息。
优选的,上述数据控制方法,将网络变更事件翻译并下发至本VPC集群内对应宿主机的步骤之后还包括:
主宿主机周期性更新主状态;
若主状态超时未更新,则主宿主机的主状态失效;
备用宿主机进行周期性抢主操作,当主宿主机的主状态失效时,备用宿主机抢主成功。
综上,本发明上述技术方案提供的VPC集群的数据控制方案,通过设置一台VPC控制器连接多组VPC集群,每组VPC集群包含一台主宿主机和与该主宿主机连接的多台从宿主机,而主宿主机内置有VPCagent与上述VPC控制器电连接,用以监听VPC控制器的逻辑数据并向从宿主机下发网络配置,而其他从宿主机不需要设置VPCagent,只需要使用主宿主机内的VPCagent监听VPC控制器的逻辑数据并向从宿主机下发网络配置就能够配置每组VPC集群内各台宿主机的网络。综上,本发明的技术方案与背景技术相比,其资源占用变少,容灾能力变强且集群规模更加增大。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图示出的结构获得其他的附图。
图1是现有技术提供的一种VPC架构的结构示意图;
图2是本发明实施例提供的一种VPC集群的数据控制系统的结构示意图;
图3是本发明实施例提供的第一种VPC集群的数据控制方法的流程示意图;
图4是本发明实施例提供的第二种VPC集群的数据控制方法的流程示意图;
图5是图3所示实施例提供的一种网络变更事件的监听翻译方法的流程示意图;
图6是本发明所示实施例提供的第三种VPC集群的数据控制方法的流程示意图;
图7是本发明所示实施例提供的第四种VPC集群的数据控制方法的流程示意图;
图8是本发明所示实施例提供的第五种VPC集群的数据控制方法的流程示意图;
图9是本发明所示实施例提供的第六种VPC集群的数据控制方法的流程示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
1-VPC控制器orVPCcontroller、2-VPC集群、3-主宿主机、4-从宿主机、5-VPCagent、6-备用宿主机、7-虚拟机orVM、8-虚拟交换机orOVS。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明实施例的主要解决的技术问题是:
现有的VPC虚拟网络的架构中,每个宿主机上都要部署VPCagent。而当前VPC架构存在抢占虚拟机资源、规则翻译重复且VPCagent没有高可用性的问题。
为了解决上述问题,本发明下述实施例提供了VPC集群的数据控制方案,通过将整个VPC脚骨划分为多个VPC集群,所有VPC集群都与VPC控制器电连接,然后每个VPC集群中只有一个主宿主机设置VPCagent,其他宿主机作为从宿主机不再设置VPCagent。其中,上述主宿主机的VPC agent用于监听VPC控制器的逻辑数据,从而根据该逻辑数据向本地的主宿主机和从宿主机下发网络配置。因为只有主宿主机内置VPCagent负责抢主操作和规则翻译和下发等操作,因此解决了VPC架构多台宿主机抢占虚拟机资源,规则翻译重复且VPCagent没有高可用性的问题。
为实现上述目的,参见图2,图2为本发明实施例提供的一种VPC集群的数据控制系统的结构示意图。如图2所示,该VPC集群的数据控制系统包括:
VPC控制器1;
与VPC控制器1电连接的多组VPC集群2;
每组VPC集群2包括一台主宿主机3以及与主宿主机3电连接的多台从宿主机4;其中,
主宿主机3与VPC控制器1电连接;
主宿主机3包括与VPC控制器1电连接的VPCagent5,用于监听VPC控制器1的逻辑数据,并向从宿主机4下发网络配置。
如图2所示,VPC的数据面仍通过虚拟交换机OVS8实现,虚拟机VM7之间通过OVS8实现网络通信。不同的是,控制面VPCagent5不需要部署在每个宿主机Host上,而是将大量的宿主机划分为多个VPC集群host group,每个集群group中至少有2个运行VPCagent5的宿主机host,集群group中的VPCagent5是主备模式,同时监听VPCcontroller1(即VPC控制器1)中的逻辑数据变化。其中,同一时刻,每个VPC集群2只有一个VPC agent5是主agent,只有主agent会通过openflow协议为集群group中的从宿主机4下发网络配置。
通过上述方式可知,每组VPC集群2只有主宿主机3内置有VPC agent5与VPC控制器1通信,用于监听VPC控制器1的逻辑数据变化并向各从宿主机4下发网络配置,因为各VPC集群2只有一个VPCagent5,因此将减少VPCagent5的抢主操作,减少虚拟资源占用,并且该VPCagent5负责监听VPC控制器1的逻辑数据并向宿主机下发网络配置,其容灾能量变强且导致集群规模变大。
其中,作为一种优选的实施例,如图2所示,上述数据控制系统中每组VPC集群2还包括:
与VPC控制器1电连接的备用宿主机6,其中,备用宿主机6包括与VPC控制器1电连接的VPCagent5,用于监听VPC控制器1的逻辑数据;
备用宿主机6与主宿主机3为主备模式。
本申请实施例提供的技术方案中,主宿主机3与备用宿主机6均设置有VPCagent5,该VPCagent5与VPC控制器1电连接,用于监听VPC控制器1的逻辑数据,这样主宿主机3与上述备用宿主机6就是主备模式,能够同时监听VPC控制器1中逻辑数据的变化,但同一时刻只有一个VPCagent5是主agent,只有主agent会通过openflow协议为集群中的host下发网络配置。这样极大提高了VPC集群2的容灾能力,并且能够保持各VPC集群2持续工作,持续监听VPC控制器1的数据变化。
其中,作为一种优选的实施例,如图2所示,上述数据控制系统中主宿主机3包括虚拟机VM7、虚拟交换机OVS8和VPCagent5;其中,
虚拟机7与虚拟交换机8通过数据线路连接;
VPCagent5与虚拟交换机8通过控制线路连接,用于监听VPC控制器1的逻辑数据,并向虚拟交换机8下发网络配置;
VPCagent5还与多台从宿主机4内的虚拟交换机8分别通过控制线路连接,用于监听VPC控制器1的逻辑数据,并向从宿主机4的虚拟交换机8下发网络配置。
本申请实施例提供的技术方案中,主宿主机3包括虚拟机7、虚拟交换机8和VPCagent5,该VPCagent5负责整个VPC集群2中所有宿主机的网络配置的交换,代表整个VPC集群2连接VPC控制器1,用于监听VPC控制器1的逻辑数据,这样就能够减少各VPC集群2对虚拟机7资源的占用,提高集群的容灾能力。另外,主宿主机3包括虚拟机7和虚拟交换机8,这样主宿主机3中虚拟机7VM7能够通过虚拟交换机OVS8向其他宿主机的VM7发送数据,从而实现整个VPC集群2内数据的交互。
另外,作为一种优选的实施例,如图2所示,上述数据控制系统中每台从宿主机4包括:
虚拟机7和虚拟交换机8;其中,
虚拟机7和虚拟交换机8通过数据线路连接;
虚拟交换机8还与主宿主机3中的虚拟交换机8通过数据线路连接;
虚拟交换机8还与主宿主机3中的VPCagent5通过控制线路连接,用于接收VPCagent5下发的网络配置。
从宿主机4包括虚拟机7VM7和虚拟交换机OVS8,这样虚拟机7和虚拟交换机8通过数据线路连接,而虚拟交换机8与主宿主机3中的VPC agent5通过控制线路连接,这样主宿主机3的VPCagent5就能够接收VPC控制器1发送的网络配置并下发至每个从宿主机4的虚拟交换机8,各从宿主机4的虚拟交换机8就能够将各VPCagent5下发的网络配置发送至从宿主机4内的虚拟机7VM7,经由虚拟机7VM7进行配置。另外在同一VPC集群2中,宿主机的虚拟机7通过虚拟交换机8分别与其他宿主机的虚拟机7相连,这种连接方式是通过数据线路连接的,这样能够通过虚拟交换机8向各宿主机中的虚拟机7传递数据,保持VPC集群2内各宿主机的相互通信。
综上,本发明上述实施例提供VPC集群2的数据控制系统,VPCagent5的内存使用主要包含两部分内容,监听的VPC控制器的网络配置,翻译要下发到各OVS8的配置数据。相比现有技术,其主要存在以下优势:
占用资源变少:VPCagent5的内存占用量与VPCagent5部署的数量成正比,因此,本发明的技术方案不需要每台宿主机host上都部署VPCagent5,所以VPC集群2总的内存占用变少。VPCagent5的cpu主要用于翻译监听到的vpc控制器的网络配置到OVS8的数据面配置的过程,同一个VPC会分布在不同的host上,当VPC的策略变更时,所有与该VPC相关的宿主机host上的VPCagent5都要进行相应的翻译操作,因此本发明的技术方案不是每个VPC相关的宿主机host上都部署了VPCagent5,因此翻译操作变少,总的cpu占用变少。
容灾能力变强:因为同一个VPC集群hostgroup下的VPCagent5能够为集群group中的所有host服务,因此只有集群group中所有的VPCagent5都异常时才会影响集群group的控制规则下发。而现有的技术中每一个VPC agent5只负责其所在宿主机host上的OVS8的规则配置,所有只要有一个VPCagent5异常,其所在的宿主机host上的控制规则下发就会受影响。
集群规模增大:现有技术的VPC架构,其集群规模与VPC控制器1所能承载的VPCagent5的连接数相关,因为当VPC控制器1中数据变化时,需要通过连接通知VPCagent5,新的技术方案中没有部署VPCagent5的宿主机host并不会占用VPC控制器1的连接,因此,集群规模为现有技术可以支持的集群规模加上不需要部署VPCagent5的host数量。
为了实现上述VPC集群的数据控制系统的功能,本发明下述实施例提供了VPC集群的数据控制方法,具体介绍VPC集群的操作流程。对上述VPC集群的数据控制方法主要包括以下流程:1、集群初始化;2、集群节点变更;3、网络规则配置;4、VPCagent的主备容灾。
关于VPC集群的集群初始化过程具体参见图3,VPC集群开始初始化之前,需要做以下准备:
设置VPC集群中宿主机Host的总数,标识为T,T≥3。
设置VPC集群Hostgroup中可以包含的最大Host数量,标识为M,M≥2。
选择可以部署VPCagent的宿主机Host,部署VPCagent的Host的数量,标识为:
从Host中选择3个节点用于部署VPCcontroller服务。
其中,选择部署VPCcontroller/VPCagent的Host,优先选择资源和性能较高的宿主机。
图3为本发明实施例提供的一种VPC集群的数据控制方法的流程示意图。如图3所示,该VPC集群的数据控制方法,用于上述任一项实施例提供的VPC集群的数据控制系统;VPC集群的数据控制方法包括:
S110:选择VPC节点,部署并启动VPC控制器。在选中的需要部署VPCcontroller的节点上,部署并启动VPCcontroller服务。
S120:控制VPC节点连接的所有宿主机,向VPC控制器发送宿主机特征信息。调用VPCcontroller服务提供的管理接口(或者通过UI操作),将集群的Host信息导入到VPC控制器中,Host信息中需要包含HostIP以及是否部署vpcagent等宿主机特征。
S130:控制VPC控制器根据宿主机特征信息对宿主机进行分组,生成VPC集群信息。VPC控制器将宿主机Host进行分组,生成Hostgroup信息,其分组的数量为[T/M],每个Host属于一个VPC集群Hostgroup,每个Host group中至少包含2个可以不是VPCagent的宿主机Host。
S140:根据VPC集群信息,从每组VPC集群中选择一台宿主机作为主宿主机,在主宿主机上部署并启动VPCagent。在所有需要启动的VPCagent的宿主机中,部署和启动VPCagent。
S150:控制主宿主机根据VPCagent,从VPC控制器请求VPC集群信息。VPCagent启动后,请求VPCcontroller,获取自己所属的VPC集群Hostgroup信息,该VPC集群信息包含group中所有hostIP。
S160:控制VPCagent,根据VPC集群信息进行抢主操作。VPCagent进行抢主操作,抢主操作通过k8s、redis或zk等程序实现。
若VPCagent抢主成功,则需要监听VPC控制器的网络数据变化,并翻译下发到VPC集群中所有OVS的VPCswitch中。
S170:当VPCagent抢主成功时,VPCagent监听VPC控制器的网络变更事件,并将网络变更事件翻译并下发至本VPC集群内的对应宿主机。
另外,若VPCagent抢主失败,只需要监听VPC控制器的网络数据变化,并周期性地进行抢主操作即可。
具体地,连接VPC集群group中所有的Host:IP,并与OVS中的VPC switch通过openflow协议进行通信。
然后,获取VPCswitch上vpc相关的信息,上报到VPCcontroller。
最后监听VPCcontroller,将网络变更事件翻译下发到vpcswitch。
本发明实施例提供的VPC集群的数据控制方法,通过在一VPC节点上部署和启动VPC控制器,然后使用该VPC节点上的VPC控制器连接所有宿主机,以通过VPC控制器向所有宿主机节点发送宿主机特征信息,再根据该宿主机特征信息对各宿主机进行分组,划分为多个VPC集群,每个VPC集群旋转一台宿主机作为主宿主机,在该主宿主机上部署并启动VPCagent,控制主宿主机根据VPCagent从VPC控制器中请求VPC集群信息,从而实现VPC集群的划分,以及VPC集群内各宿主机的部署,完成VPC集群的初始化。
另外,作为一种优选的实施例,如图4所示,本发明实施例提供的数据控制方法,在上述步骤S140:根据VPC集群信息,从每组VPC集群中选择一台宿主机作为主宿主机之前,还包括:
S210:控制VPC集群内的所有宿主机创建并初始化VPC网桥;
S220:控制宿主机为VPC网桥进行控制器监听程序配置。
本发明实施例提供的技术方案中,所有需要加入集群的宿主机Host,启动OVS,创建并初始化VPC网桥,并为vpc网桥配置openflowcontroller监听,这些操作都是通过标准脚本执行,整个集群的vpcswitch监听的端口是相同的,因此VPCagent可以通过HostIP:port为ovsswitch下发配置。
其中,作为一种优选的实施例,如图5所示,上述数据控制方法中,步骤S170:VPCagent监听VPC控制器的网络变更事件的步骤包括:
S171:VPCagent连接VPC集群内的所有宿主机;
S172:VPCagent根据openflow协议与VPC集群内每台宿主机的VPC网桥进行通信;
S173:VPCagent获取VPC网桥的VPC信息并上传至VPC控制器;
S174:VPCagent监听VPC控制器,将VPC控制器的网络变更事件翻译下发至对应宿主机的VPC网桥。
本发明实施例提供的技术方案,VPCagent实时监听VPC控制器的网络数据变化,然后翻译并下发到VPC集群中所有OVS的VPCswitch中。具体地,VPC连接集群中所有宿主机的Host:IP,并与VPCswitch通过openflow协议进行通信;然后获取VPCswitch上VPC信息,上报到VPC控制器。VPCagent再实时监听VPC控制器,翻译下发到VPC网桥。通过上述方式就能够通过一台主宿主机的VPCagent实现整个VPC集群中各宿主机的网络事件变更。
本发明实施例提供的技术方案,在VPC集群初始化完成后,当集群需要扩容或缩容时需要对VPC集群的节点进行动态增删。
关于VPC集群增加节点的操作具体参见图6,作为一种优选的实施例,如图6所示,本发明实施例提供的数据控制方法,在上述步骤S174:将网络变更事件翻译并下发至本VPC集群内的对应宿主机之后还包括:
S310:当VPC控制器向VPC集群增加宿主机时,VPC控制器遍历所有VPC集群。VPC控制器遍历当前所有分组,获取当前的宿主机总数T,VPC集群的最大宿主机数量M,以及部署有VPCagent的宿主机数量C。
S320:VPC控制器判断每组VPC集群中部署有VPCagent的宿主机数量是否满足预设主机数量条件;具体判断当前的宿主机总数T,VPC集群的最大宿主机数量M,以及部署有VPCagent的宿主机数量C是否满足以下条件:
C≥[T/M]
若上述条件不满足,则返回错误,提示管理员需要扩容部署VPCagent的主宿主机。
若上述条件满足,则执行以下步骤S330。
S330:若宿主机数量满足预设主机数量条件,则选择宿主机数量最少的VPC集群。
S340:判断VPC集群的数量是否小于最大节点数量。
S350:若VPC集群的数量小于最大节点数量,则选择宿主机数量最少的VPC集群,将新增加的宿主机添加至该VPC集群中。
S360:若VPC集群的数量大于或等于最大节点数量,则将部署有VPC agent的宿主机最多的VPC集群进行分组。
选择Host数量最少的分组,如果分组数量T小于预设的分组最大的节点数M,则将宿主机Host添加到分组中。若分组数量不小于设置的分组最大的节点数M,则选择部署有VPCagent的主宿主机Host数量最多的VPC集群分组,将该VPC集群分组分裂为2个分组,分裂方式如下:
均分部署有VPCagent的宿主机Host,未部署VPCagent的宿主机host仍保留在原来的分组中。
然后通知vpcagent分组变更信息。
本发明实施例提供的技术方案,通过在宿主机数量满足预设主机数量条件的情况下,判断VPC集群的数量是否小于最大节点数量,然后在该VPC集群的数量小于最大节点数量时将增加的宿主机添加至宿主机数量最少的VPC集群中,在VPC集群的数量大于或等于最大节点数量时,将主宿主机最多的VPC集群进行分组,从而降低VPC集群的资源占用,在保证VPC集群的节点性能的前提下增加宿主机。
另外,当VPC集群需要缩容时,需要对集群内节点进行删减。具体地,作为一种优选的实施例,如图7所示,本发明实施例提供的数据控制方法,在上述步骤S174:将网络变更事件翻译并下发至本VPC集群内的对应宿主机之后,还包括:
S410:当VPC控制器删除宿主机时,VPC控制器遍历所有VPC集群。
S420:VPC控制器判断每组VPC集群中部署有VPCagent的宿主机数量是否满足预设主机数量条件。
S430:若宿主机数量满足预设主机数量条件,则VPC控制器判断删除宿主机后,VPC集群的数量是否大于预设集群数量阈值。
S440:若VPC集群的数量大于预设集群数量阈值,则将宿主机添加至宿主机数量最少的分组。
S450:若VPC集群的数量小于或等于预设集群数量阈值,则删除宿主机。
本发明实施例提供的技术方案,通过调用VPC控制器删除宿主机Host。VPC控制器判断当前需要删除的Host上VPCagent是否已经停止。若否,则返回错误,提示管理员需要先停止vpcagent,再删除节点。若是,则VPC控制器遍历当前所有分组,判断当前的Host总数T,VPC集群Hostgroup的最大宿主机host数量M,以及部署有VPCagent的Host数量C是否满足以下条件:
若不满足上述条件,则提示管理员需要扩容部署VPCagent的Host。若满足,则VPCcontroller判断删除宿主机host后,分组的数量是否大于[T/M]。若是,则遍历所有分组,选择Host数量最小的分组,将其Host迁移到其他分组中,迁移规则如下:
(1)按照分组中Host数量降序排列。
(2)分组数量最小的分组的Host,依次迁移到排序的分组中,使每个分组中的Host数量为M,直到迁移完成。
若否,则通知vpcagent分组信息变更。
另外,关于网络规则的配置主要通过VPCagent进行翻译和下发,VPC agent保证网络配置的最终一致以及控制面的异常不影响存量的数据面稳定性。主要包含VPCagent启动/重启,VPCgroup信息的变更以及网络策略变更等场景。
具体地,作为一种优选的实施例,如图8所示,本发明实施例提供的数据控制方法,将网络变更事件翻译并下发至本VPC集群内对应宿主机的步骤之后还包括:
S510:VPCagent判断网络变更事件是否为变换VPCagent所在的宿主机;
S520:若网络变更事件为变换VPCagent所在的宿主机,则VPCagent获取VPC集群信息,根据VPC集群信息进行抢主操作;
S530:当VPCagent抢主成功时,VPCagent根据网络变更事件中的宿主机信息建立或释放与宿主机的连接;
S540:VPCagent根据VPC控制器中的数据面配置信息,更新新建连接的宿主机的数据面配置信息。
本发明实施例提供的技术方案,关于VPCGroup中信息变更。VPC agent监听到VPCgroup的变更信息。判断变更的group信息是否变化VPC agent所在的host。若是,则获取group信息,进行抢主操作,判断当前agent是否是主;若是,则对比本地连接的host是否与group中的host相同,根据对比结果,分别建立/释放连接;然后检查新建连接的host的数据面配置是否与VPCcontroller中的一致,若不一致则更新数据面配置。若否,则只需要继续监听controller信息。
另外,关于网络策略的变更。需要通过VPCcontroller接口,进行网络策略的变更。VPCagent监听到网络配置变更事件,翻译网络配置成数据面规则;然后通过openflow协议将翻译的数据面规则,下发到Host的OVS上。
另外,关于VPCagent的主备容灾过程,
优选的,上述数据控制方法,将网络变更事件翻译并下发至本VPC集群内对应宿主机的步骤之后还包括:
S610:主宿主机周期性更新主状态;
S620:若主状态超时未更新,则主宿主机的主状态失效;
S630:备用宿主机进行周期性抢主操作,当主宿主机的主状态失效时,备用宿主机抢主成功。
同一个VPC集群Hostgroup中的VPCagent之间主备容灾,VPCagent之间满足以下关系:同一时刻最多只有一个VPCagent可以成为主agent;主agent会周期更新主状态,超时未更新,则状态失效;备用agent会周期进行抢主操作,当主agent状态失效时,会抢主成功;状态更新周期与抢主操作周期可配置,抢主周期<=状态更新周期;抢主通过redis,zookeeper或者k8s都可以实现。因此当主agent异常时,最多在一个更新周期内,备用agent可以接管。
综上,相比现有技术,本发明上述实施例提供的VPC集群的数据控制方案,主要存在以下优势:
占用资源变少:VPCagent的内存占用量与VPCagent部署的数量成正比,因此,本发明的技术方案不需要每台宿主机host上都部署VPCagent,所以VPC集群总的内存占用变少。VPCagent的cpu主要用于翻译监听到的vpc控制器的网络配置到OVS的数据面配置的过程,同一个VPC会分布在不同的host上,当VPC的策略变更时,所有与该VPC相关的宿主机host上的VPCagent都要进行相应的翻译操作,因此本发明的技术方案不是每个VPC相关的宿主机host上都部署了VPCagent,因此翻译操作变少,总的cpu占用变少。
容灾能力变强:因为同一个VPC集群hostgroup下的VPCagent能够为集群group中的所有host服务,因此只有集群group中所有的VPCagent都异常时才会影响集群group的控制规则下发。而现有的技术中每一个VPC agent只负责其所在宿主机host上的OVS的规则配置,所有只要有一个VPC agent异常,其所在的宿主机host上的控制规则下发就会受影响。
集群规模增大:现有技术的VPC架构,其集群规模与vpc控制器所能承载的VPCagent的连接数相关,因为当VPC控制器中数据变化时,需要通过连接通知VPCagent,新的技术方案中没有部署VPCagent的宿主机host并不会占用VPC控制器的连接,因此,集群规模为现有技术可以支持的集群规模加上不需要部署VPCagent的host数量。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
应当注意的是,在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的部件或步骤。位于部件之前的单词“一”或“一个”不排除存在多个这样的部件。本发明可以借助于包括有若干不同部件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (10)

1.一种VPC集群的数据控制系统,其特征在于,包括:
VPC控制器,与所述VPC控制器电连接的多组VPC集群;
每组VPC集群包括一台主宿主机以及与所述主宿主机电连接的多台从宿主机;其中,
所述主宿主机与所述VPC控制器电连接;
所述主宿主机包括与所述VPC控制器电连接的VPCagent,用于监听所述VPC控制器的逻辑数据,并向所述从宿主机下发网络配置;
其中,所述主宿主机,包括虚拟机、虚拟交换机和所述VPCagent;其中,
所述虚拟机与所述虚拟交换机通过数据线路连接;
所述VPCagent与所述虚拟交换机通过控制线路连接,用于监听所述VPC控制器的逻辑数据,并向所述虚拟交换机下发网络配置;
所述VPCagent还与所述多台从宿主机内的虚拟交换机分别通过控制线路连接,用于监听所述VPC控制器的逻辑数据,并根据所述逻辑数据向所述从宿主机的虚拟交换机下发网络配置;
每台所述从宿主机包括:虚拟机和虚拟交换机;其中,所述虚拟交换机还与所述主宿主机中的虚拟交换机通过数据线路连接。
2.根据权利要求1所述的数据控制系统,其特征在于,每组VPC集群还包括:
与所述VPC控制器电连接的备用宿主机,其中,所述备用宿主机包括与所述VPC控制器电连接的VPCagent,用于监听所述VPC控制器的逻辑数据;
所述备用宿主机与所述主宿主机为主备模式。
3.根据权利要求2所述的数据控制系统,其特征在于,每台所述从宿主机包括:所述虚拟机和所述虚拟交换机通过数据线路连接;
所述虚拟交换机还与所述主宿主机中的VPCagent通过控制线路连接,用于接收所述VPCagent下发的网络配置。
4.一种VPC集群的数据控制方法,其特征在于,用于权利要求1至3中任一项所述的VPC集群的数据控制系统;所述VPC集群的数据控制方法包括:
选择VPC节点,部署并启动VPC控制器;
控制所述VPC节点连接的所有宿主机,向所述VPC控制器发送宿主机特征信息;
控制所述VPC控制器根据所述宿主机特征信息对所述宿主机进行分组,生成VPC集群信息;
根据所述宿主机集群信息,从每组VPC集群中选择一台宿主机作为主宿主机,在所述主宿主机上部署并启动VPCagent;
控制所述主宿主机根据所述VPCagent,从所述VPC控制器请求所述VPC集群信息;
控制所述VPCagent,根据所述VPC集群信息进行抢主操作;
当所述VPCagent抢主成功时,所述VPCagent监听所述VPC控制器的网络变更事件,并将所述网络变更事件翻译并下发至本VPC集群内的对应宿主机。
5.根据权利要求4所述的数据控制方法,其特征在于,在根据所述宿主机集群信息,从每组VPC集群中选择一台宿主机作为主宿主机的步骤之前,所述方法还包括:
控制所述VPC集群内的所有宿主机创建并初始化VPC网桥;
控制所述宿主机为所述VPC网桥进行控制器监听程序配置。
6.根据权利要求5所述的数据控制方法,其特征在于,所述VPCagent监听所述VPC控制器的网络变更事件的步骤,包括:
所述VPCagent连接所述VPC集群内的所有宿主机;
所述VPCagent根据openflow协议与所述VPC集群内每台宿主机的VPC网桥进行通信;
所述VPCagent获取所述VPC网桥的VPC信息并上传至所述VPC控制器;
所述VPCagent监听所述VPC控制器,将所述VPC控制器的网络变更事件翻译下发至对应宿主机的VPC网桥。
7.根据权利要求4所述的数据控制方法,其特征在于,所述将所述网络变更事件翻译并下发至本VPC集群内的对应宿主机的步骤之后,所述方法还包括:
当VPC控制器向VPC集群增加宿主机时,所述VPC控制器遍历所有VPC集群;
所述VPC控制器判断每组VPC集群中部署有VPCagent的宿主机数量是否满足预设主机数量条件;
若所述宿主机数量满足预设主机数量条件,则选择宿主机数量最少的VPC集群;
判断所述VPC集群的数量是否小于最大节点数量;
若所述VPC集群的数量小于所述最大节点数量,则将增加的宿主机添加至所述宿主机数量最少的VPC集群中;
若所述VPC集群的数量大于或等于所述最大节点数量,则将部署有VPC AGENT的宿主机最多的VPC集群进行分组。
8.根据权利要求7所述的数据控制方法,其特征在于,所述将所述网络变更事件翻译并下发至本VPC集群内的对应宿主机的步骤之后,所述方法还包括:
当所述VPC控制器删除宿主机时,所述VPC控制器遍历所有VPC集群;
所述VPC控制器判断每组VPC集群中部署有VPCagent的宿主机数量是否满足预设主机数量条件;
若所述宿主机数量满足所述预设主机数量条件,则所述VPC控制器判断删除所述宿主机后,所述VPC集群的数量是否大于预设集群数量阈值;
若所述VPC集群的数量大于预设集群数量阈值,则将所述宿主机添加至宿主机数量最少的分组;
若所述VPC集群的数量小于或等于预设集群数量阈值,则删除所述宿主机。
9.根据权利要求4所述的数据控制方法,其特征在于,所述将所述网络变更事件翻译并下发至本VPC集群内对应宿主机的步骤之后,所述方法还包括:
VPCagent判断所述网络变更事件是否变换所述VPCagent所在的宿主机;
若所述网络变更事件变换所述VPCagent所在的宿主机,则所述VPC agent获取VPC集群信息,根据所述VPC集群信息进行抢主操作;
当所述VPCagent抢主成功时,所述VPCagent根据所述网络变更事件中的宿主机信息建立或释放与所述宿主机的连接;
所述VPCagent根据所述VPC控制器中的数据面配置信息,更新新建连接的宿主机的数据面配置信息。
10.根据权利要求4所述的数据控制方法,其特征在于,所述将所述网络变更事件翻译并下发至本VPC集群内对应宿主机的步骤之后,所述方法还包括:
主宿主机周期性更新主状态;
若所述主状态超时未更新,则所述主宿主机的主状态失效;
备用宿主机进行周期性抢主操作,当所述主宿主机的主状态失效时,所述备用宿主机抢主成功。
CN202310015154.7A 2023-01-04 2023-01-04 一种vpc集群的数据控制方法和系统 Active CN116095145B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310015154.7A CN116095145B (zh) 2023-01-04 2023-01-04 一种vpc集群的数据控制方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310015154.7A CN116095145B (zh) 2023-01-04 2023-01-04 一种vpc集群的数据控制方法和系统

Publications (2)

Publication Number Publication Date
CN116095145A CN116095145A (zh) 2023-05-09
CN116095145B true CN116095145B (zh) 2023-08-04

Family

ID=86187825

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310015154.7A Active CN116095145B (zh) 2023-01-04 2023-01-04 一种vpc集群的数据控制方法和系统

Country Status (1)

Country Link
CN (1) CN116095145B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116582501B (zh) * 2023-05-10 2024-02-09 北京志凌海纳科技有限公司 一种基于动态优先级解决Vpc-agent网络配置生效慢的方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103150203A (zh) * 2013-03-29 2013-06-12 北京奇虎科技有限公司 一种虚拟机控制系统、虚拟机控制器及控制方法
CN106209563A (zh) * 2016-08-07 2016-12-07 付宏伟 一种云计算平台网络虚拟化实现方法及相应插件和代理
WO2018044341A1 (en) * 2016-08-27 2018-03-08 Nicira, Inc. Extension of network control system into public cloud
CN112398688A (zh) * 2020-11-13 2021-02-23 广东省华南技术转移中心有限公司 容器网络配置方法、容器网络系统以及存储介质
CN115333994A (zh) * 2022-08-01 2022-11-11 北京金山云网络技术有限公司 实现vpn路由快速收敛的方法、装置以及电子设备

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10333959B2 (en) * 2016-08-31 2019-06-25 Nicira, Inc. Use of public cloud inventory tags to configure data compute node for logical network
US11968080B2 (en) * 2020-12-30 2024-04-23 Oracle Corporation Synchronizing communication channel state information for high flow availability

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103150203A (zh) * 2013-03-29 2013-06-12 北京奇虎科技有限公司 一种虚拟机控制系统、虚拟机控制器及控制方法
CN106209563A (zh) * 2016-08-07 2016-12-07 付宏伟 一种云计算平台网络虚拟化实现方法及相应插件和代理
WO2018044341A1 (en) * 2016-08-27 2018-03-08 Nicira, Inc. Extension of network control system into public cloud
CN112398688A (zh) * 2020-11-13 2021-02-23 广东省华南技术转移中心有限公司 容器网络配置方法、容器网络系统以及存储介质
CN115333994A (zh) * 2022-08-01 2022-11-11 北京金山云网络技术有限公司 实现vpn路由快速收敛的方法、装置以及电子设备

Also Published As

Publication number Publication date
CN116095145A (zh) 2023-05-09

Similar Documents

Publication Publication Date Title
US11704144B2 (en) Creating virtual machine groups based on request
US9999030B2 (en) Resource provisioning method
CN107924383B (zh) 用于网络功能虚拟化资源管理的系统和方法
US10644952B2 (en) VNF failover method and apparatus
JP6026705B2 (ja) 更新管理システムおよび更新管理方法
US10541862B2 (en) VNF processing policy determining method, apparatus, and system
JP6432955B2 (ja) 仮想ネットワーク機能インスタンスをマイグレーションさせるための方法、装置およびシステム
CN110661641B (zh) 一种虚拟网络功能vnf部署方法及装置
CN105429938A (zh) 一种资源配置方法及装置
CN116095145B (zh) 一种vpc集群的数据控制方法和系统
CN113709220A (zh) 虚拟负载均衡器的高可用实现方法、系统及电子设备
CN106464541A (zh) 基于网络功能虚拟化的故障处理方法及设备
CN115391058B (zh) 一种基于sdn的资源事件处理方法、资源创建方法及系统
CN110851186A (zh) 网络设备重启的方法、装置、电子设备及可读存储介质
CN114124803B (zh) 设备管理方法、装置、电子设备及存储介质
CN114615268A (zh) 基于Kubernetes集群的服务网络、监控节点、容器节点及设备
CN110995502B (zh) 网络配置管理方法、装置、交换设备及可读存储介质
CN112003731B (zh) 配置方法及装置
Kaliszan et al. Routing and control plane in the Parallel Internet IPv6 QoS
CN114422280B (zh) 网络部署方法、装置、节点及存储介质
WO2023066224A1 (zh) 一种部署容器服务的方法及装置
CN208299812U (zh) 一种基于ZooKeeper集群的主备切换系统
Hu et al. D-ZENIC: a scalable distributed SDN controller architecture
CN116708535A (zh) 网络设备控制器、方法、电子设备、存储介质及系统
CN112379845A (zh) 一种集群扩容方法、装置、计算设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address

Address after: 8b, building 1, No. 48, Zhichun Road, Haidian District, Beijing 100086

Patentee after: Beijing Zhiling Haina Technology Co.,Ltd.

Country or region after: China

Address before: 8b, building 1, No. 48, Zhichun Road, Haidian District, Beijing 100086

Patentee before: Beijing zhilinghaina Technology Co.,Ltd.

Country or region before: China

CP03 Change of name, title or address