CN111858117A - Kubernetes集群中故障Pod诊断方法及装置 - Google Patents

Kubernetes集群中故障Pod诊断方法及装置 Download PDF

Info

Publication number
CN111858117A
CN111858117A CN202010612305.3A CN202010612305A CN111858117A CN 111858117 A CN111858117 A CN 111858117A CN 202010612305 A CN202010612305 A CN 202010612305A CN 111858117 A CN111858117 A CN 111858117A
Authority
CN
China
Prior art keywords
pod
web terminal
information
rescue request
processing module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010612305.3A
Other languages
English (en)
Other versions
CN111858117B (zh
Inventor
贾永鹏
马超
揭震
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sina Technology China Co Ltd
Original Assignee
Sina Technology China Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sina Technology China Co Ltd filed Critical Sina Technology China Co Ltd
Priority to CN202010612305.3A priority Critical patent/CN111858117B/zh
Publication of CN111858117A publication Critical patent/CN111858117A/zh
Application granted granted Critical
Publication of CN111858117B publication Critical patent/CN111858117B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0709Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a distributed system consisting of a plurality of standalone computer nodes, e.g. clusters, client-server systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0712Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a virtual computing platform, e.g. logically partitioned systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/079Root cause analysis, i.e. error or fault diagnosis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/45591Monitoring or debugging support
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/45595Network integration; Enabling network access in virtual machine instances
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/815Virtual

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明实施例提供了一种Kubernetes集群中故障Pod诊断方法及装置,该方法包括:接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。

Description

Kubernetes集群中故障Pod诊断方法及装置
技术领域
本发明涉及移动通信技术领域,尤其涉及一种Kubernetes集群中故障Pod诊断方法及装置。
背景技术
在Kubernetes集群中Kubernetes提供了基础设置和构造,帮助我们的团队构建适用于开发和部署的可用平台。用户可以通过图形化的用户界面以及命令式和声明式命令行接口管理Kubernetes集群,Kubernetes旨在管理容器化应用程序和服务的整个生命周期。Pod是Kubernetes中最基本的对象。Pod是容器的集合,它们共享存储和网络,并且具备如何运行它们的规范。每个Pod会分配自己的IP地址。Pod中的容器会共享这个IP地址、端口空间,并且能够使用localhost实现彼此查找。
当Pod出现故障时,例如,Pod无法正常启动,需要在非Kubernetes环境下排查问题,并且仅能针对少数故障类型,无法对Pod的故障进行全面有效的排查。
发明内容
本发明实施例的目的是提供一种Kubernetes集群中故障Pod诊断方法及装置,以解决当Pod出现故障时,需要在非Kubernetes环境下排查问题,并且仅能针对少数故障类型,无法对Pod的故障进行全面有效的排查的问题。
为了解决上述技术问题,本发明实施例是这样实现的:
第一方面,本发明实施例提供了一种Kubernetes集群中故障Pod诊断方法,包括:
接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;
根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。
第二方面,本发明实施例还提供了一种Kubernetes集群中故障Pod诊断方法,包括:
web终端向网络侧预设的逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
在所述逻辑处理模块建立web终端与所述第二Pod的连接后,所述web终端对所述第二Pod执行诊断操作。
第三方面,本发明实施例提供了一种网络侧的逻辑处理模块,包括:
请求接收单元,用于接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;
信息复制单元,用于根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
连接建立单元,用于建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。
第四方面,本发明实施例提供了一种web终端,包括:
请求发送单元,用于向网络侧预设的逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
诊断操作单元,用于在所述逻辑处理模块建立web终端与所述第二Pod的连接后,对所述第二Pod执行诊断操作。
第五方面,本发明实施例提供了一种电子设备,包括处理器、通信接口、存储器和通信总线;其中,所述处理器、所述通信接口以及所述存储器通过总线完成相互间的通信;所述存储器,用于存放计算机程序;所述处理器,用于执行所述存储器上所存放的程序,实现如第一方面所述的Kubernetes集群中故障Pod诊断方法步骤。
由以上本发明实施例提供的技术方案可见,本发明实施例通过接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的Kubernetes集群中故障Pod诊断方法的第一种流程示意图;
图2为本发明实施例提供的Kubernetes集群中故障Pod诊断方法的第二种流程示意图;
图3为本发明实施例提供的Kubernetes集群中故障Pod诊断方法的第三种流程示意图;
图4为本发明实施例提供的Kubernetes集群中故障Pod诊断方法的第四种流程示意图;
图5为本发明实施例提供的网络侧的逻辑处理模块的模块组成示意图;
图6为本发明实施例提供的web终端的模块组成示意图;
图7为本发明实施例提供的电子设备的结构示意图。
具体实施方式
本发明实施例提供了一种Kubernetes集群中故障Pod诊断方法及装置。
为了使本技术领域的人员更好地理解本发明中的技术方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
如图1所示,本发明实施例提供一种Kubernetes集群中故障Pod诊断方法,该方法的执行主体为网络侧预先编译设置的逻辑处理模块,所述逻辑处理模块可以部署于Kubernetes集群上,也可以部署于网络侧的其它服务器。该方法具体可以包括以下步骤:
步骤S01,接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项。
当用户发觉在Kubernetes集群中的第一Pod出现故障时,将向所述逻辑处理模块发送救援请求,所述救援请求至少包括第一Pod的标识以及复制选项。所述第一Pod的标识可以为所第一Pod在所述Kubernetes集群中的Pod ID。
步骤S02,根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令。
所述逻辑处理模块根据接收到的救援请求中的第一Pod的标识从所述Kubernetes集群中获取到所述第一Pod的信息。
所述逻辑处理模块根据接收到的救援请求中的复制选项对所述第一Pod的信息进行过滤,用于生成第二Pod的信息。
进一步地,所述复制选项包括以下选项的任意组合:
是否挂载已有卷;
是否加载环境变量;
是否加载初始化容器;
是否进行Istio注入;
是否开启亲和性;
是否开启容忍性;
是否开启特权模式;
是否挂载节点目录。
由于第一Pod出现故障的原因有很多,可以源于所述第一Pod的挂载的已有卷、环境变量和初始化容器产生的故障,也可以是由于第一Pod开启或未开启亲和性、容忍性或特权模式等而导致的故障。为此,逻辑处理模块在将第一Pod信息复制到第二Pod的信息时,需要先将第一Pod的信息经过复制选项进行过滤。
所述复制选项中的内容可以根据用户对于所述第一Pod出现故障的原因的预判或者预设的筛选顺序,从上述的选项中选择任意的组合记录到所述复制选项中。以下对各选项进行举例说明:
若所述复制选项中包含不挂载已有卷,则在第二Pod的信息中过滤掉第一Pod的挂载的已有卷的描述信息,从而使第二Pod不挂载第一Pod挂载的已有卷,包括ConfigMap、Secrets或者主机目录等类型的卷。避免由于挂载了已有卷导致第二Pod出现故障。
若所述复制选项中包含不加载环境变量,则在第二Pod的信息中过滤掉第一Pod的环境变量的描述信息,从而使第二Pod不加载第一Pod的环境变量。避免由于环境变量导致第二Pod出现故障。
若所述复制选项中包含不加载初始化容器,则在第二Pod的信息中过滤掉第一Pod的InitContainer和初始化程序,从而使第二Pod不加载第一Pod的初始化容器,避免是因为初始容器导致第二Pod出现故障。
若所述复制选项中包含不进行Istio注入,则在第二Pod的信息中过滤掉第一Pod的isitoContainer、isito-proxy和isito-init的描述信息,从而使第二Pod不进行Istio注入,避免由于Istio的注入导致网络环境的变化,进而影响第二Pod的网络环境从而出现故障。
若所述复制选项中包含不开启Pod亲和性,则在第二Pod的信息中过滤掉第一Pod的亲和性的描述信息,从而使第二Pod不开启亲和性。所述亲和性指的是,Pod与其它Pod之前存在的依赖关系,且存在依赖关系的两个或者多个Pod必须部署到同一台节点Node上或者同一批节点Node上,以保证业务的正常运行。而不开启亲和性的第二Pod的调度在上述节点Node上将不受限制。
若所述复制选项中包含不开启Pod容忍性,则在第二Pod的信息中过滤掉第一Pod的容忍性的描述信息,从而使第二Pod不开启容忍性。所述容忍性指的是,Pod可以部署在有污点的节点Node上面。而不开启容忍性的第二Pod将不能部署在有污点的节点Node上面。
若所述复制选项中包含开启特权模式,则在第二Pod的信息中增加特权模式的描述信息,即增加privileged:true的描述信息,从而使第二Pod中的容器拥有特权,可以对节点Node上的操作系统进行更多的系统调用,增加可操作性。
另外,为了能够访问第二Pod预设节点Node的目录中的文件或程序,在所述复制选项中还可以将预设节点Node记录到节点目录中增加到复制选项中,从而使第二Pod能够挂载所述节点目录,进而能够从预设节点中获取特定文件或者程序。
为了防止第二Pod在执行预设程序的过程出现错误而导致的第二Pod无法开启,因此,需要使第二Pod长时间保持在线。为此,在所述第一Pod的信息经过复制选项的过滤后得到的第二Pod的信息中,所述逻辑处理模块还需要将容器的开启命令替换为预设的长驻命令,例如,sleep 24h等。从而使所述第二Pod能够长时间在线。
所述逻辑处理模块根据经过复制选项过滤,以及开启命令替换后得到第二Pod的信息,在所述Kubernetes集群中创建第二Pod。
步骤S03,建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。
所述逻辑处理模块建立所述web终端与所述第二Pod之间的连接,从而使web终端可以对所述第二Pod执行诊断操作。
在实施中,为了能够更加准确得到故障原因,还可以通过预设脚本,设置复制选项列表,依次从所述复制选项列表中选取复制选项,用于生成与各复制选项对应的第二Pod,并依次执行诊断操作,从而能够更加精确得对故障原因进行定位。
由以上本发明实施例提供的技术方案可见,本发明实施例通过接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。
进一步的,如图2所示,上述步骤S02的具体处理方式可以多种多样,以下再提供一种可选的处理方式,具体可以参见下述步骤S021-S023的处理。
步骤S021、根据所述第一Pod的标识,通过Kubernetes API从所述Kubernetes集群中获取所述第一Pod的信息;
步骤S022、将所述第一Pod的信息经过所述复制选项的过滤,并将过滤结果中容器的启动命令替换为长驻命令,得到第二Pod的信息;
步骤S021、根据所述第二Pod的信息在所述Kubernetes集群中创建所述第二Pod。
所述逻辑处理模块可以部署于Kubernetes集群中,也可以部署在其它服务器上。
当所述逻辑处理模块接收到由web终端发送的救缓请求后,将根据所述第一Pod的标识,通过Kubernetes集群提取的Kubernetes API向Kubernetes集群发送第一Pod查询请求。Kubernetes集群根据第一Pod查询请求中的第一Pod的标识提取第一Pod的信息并回复给逻辑处理模块。
所述逻辑处理模块在将获取到的第一Pod的信息通过所述复制选项过滤,并将启动命令替换为长驻命令后,得到第二Pod的信息。
所述逻辑处理模块根据所述第二Pod的信息向所述Kubernetes集群发送第二Pod创建请求,从而使Kubernetes集群创建第二Pod。
进一步地,所述方法还包括:
在所述第二Pod的信息中增加与第一Pod的关联信息。
在所述逻辑处理模块在得到的第二Pod的信息中还需要增加与第一Pod的关联信息。从而当所述Kubernetes集群将所述第一Pod删除时,可以同时删除所述第二Pod。以防止所述Kubernetes集群中的信息过量,节省存储空间。
在实施中,所述第二Pod的删除过程,也可以由Web终端发起,由逻辑处理模块在接收到web终端发送的第二Pod删除请求后,调用Kubernetes API对第二Pod进行删除。
进一步地,如图3所示,上述步骤S03的具体处理方式可以多种多样,以下再提供一种可选的处理方式,具体可以参见下述步骤S031-S032的处理。
步骤S031、接收由所述web终端发送的Web Socket连接请求;
步骤S032、通过所述Kubernetes API与所述第二Pod建立TTY连接,以使所述web终端对所述第二Pod执行诊断操作。
在所述逻辑处理模块建立web终端与第二Pod的连接时,可以先由web终端主动向所述逻辑处理模块发送Web Socket连接请求。
然后,逻辑处理模块通过Kubernetes API与所述第二Pod建立TTY连接。在建立连接后,用户就可以通过Web终端对第二Pod进行各种操作。
由以上本发明实施例提供的技术方案可见,本发明实施例通过接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。
如图4所示,本发明实施例提供一种Kubernetes集群中故障Pod诊断方法,该方法的执行主体为Web终端。该方法具体可以包括以下步骤:
步骤S11、web终端向网络侧预设的逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
步骤S12、在所述逻辑处理模块建立web终端与所述第二Pod的连接后,所述web终端对所述第二Pod执行诊断操作。
当用户发觉在Kubernetes集群中的第一Pod出现故障时,将向所述逻辑处理模块发送救援请求,所述救援请求至少包括第一Pod的标识以及复制选项。
所述逻辑处理模块根据接收到的救援请求中的第一Pod的标识从所述Kubernetes集群中获取到所述第一Pod的信息。
所述逻辑处理模块根据接收到的救援请求中的复制选项对所述第一Pod的信息进行过滤,用于生成第二Pod的信息。
进一步地,所述复制选项包括以下选项的任意组合:
是否挂载已有卷;
是否加载环境变量;
是否加载初始化容器;
是否进行Istio注入;
是否开启亲和性;
是否开启容忍性;
是否开启特权模式;
是否挂载节点目录。
由于第一Pod出现故障的原因有很多,可以源于所述第一Pod的挂载的已有卷、环境变量和初始化容器产生的故障,也可以是由于第一Pod开启或未开启亲和性、容忍性或特权模式等而导致的故障。为此,逻辑处理模块在将第一Pod信息复制到第二Pod的信息时,需要先将第一Pod的信息经过复制选项进行过滤。
所述复制选项中的内容可以根据用户对于所述第一Pod出现故障的原因的预判或者预设的筛选顺序,从上述的选项中选择任意的组合记录到所述复制选项中。
为了防止第二Pod在执行预设程序的过程出现错误而导致的第二Pod无法开启,因此,需要使第二Pod长时间保持在线。为此,在所述第一Pod的信息经过复制选项的过滤后得到的第二Pod的信息中,所述逻辑处理模块还需要将容器的开启命令替换为预设的长驻命令。从而使所述第二Pod能够长时间在线。
所述逻辑处理模块根据经过复制选项过滤,以及开启命令替换后得到第二Pod的信息,在所述Kubernetes集群中创建第二Pod。
所述逻辑处理模块建立所述web终端与所述第二Pod之间的连接,从而使web终端可以对所述第二Pod执行诊断操作。
进一步地,所述步骤S12包括:
步骤S121、所述web终端向所述逻辑处理模块发送Web Socket连接请求,以使所述逻辑处理模块通过所述Kubernetes API与所述第二Pod建立TTY连接;
步骤S122、对所述第二Pod执行诊断操作。
由以上本发明实施例提供的技术方案可见,本发明实施例通过向逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;在所述逻辑处理模块建立web终端与所述第二Pod的连接后,对所述第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。
本发明实施例提供的在web终端的Kubernetes集群中故障Pod诊断方法能够实现上述在逻辑处理模块侧的Kubernetes集群中故障Pod诊断方法对应的实施例中的各个过程,为避免重复,这里不再赘述。
对应上述实施例提供的Kubernetes集群中故障Pod诊断方法,基于相同的技术构思,本发明实施例还提供了一种逻辑处理模块,图5为本发明实施例提供的逻辑处理模块的模块组成示意图,该逻辑处理模块用于执行图1至图3描述的Kubernetes集群中故障Pod诊断方法,如图5所示,该逻辑处理模块包括:请求接收单元501、信息复制单元502和连接建立单元503。
所述请求接收单元501用于接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;信息复制单元502用于根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;连接建立单元503用于建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。
由以上本发明实施例提供的技术方案可见,本发明实施例通过接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。
进一步地,所述复制选项包括以下选项的任意组合:
是否挂载已有卷;
是否加载环境变量;
是否加载初始化容器;
是否进行Istio注入;
是否开启亲和性;
是否开启容忍性;
是否开启特权模式;
是否挂载节点目录。
进一步地,所述信息复制单元包括:信息获取单元、信息过滤单元和Pod创建单元。
所述信息获取单元用于根据所述第一Pod的标识,通过Kubernetes API从所述Kubernetes集群中获取所述第一Pod的信息;所述信息过滤单元用于将所述第一Pod的信息经过所述复制选项的过滤,并将过滤结果中容器的启动命令替换为长驻命令,得到第二Pod的信息;所述Pod创建单元用于根据所述第二Pod的信息在所述Kubernetes集群中创建所述第二Pod。
进一步地,所述信息复制单元还用于,在所述第二Pod的信息中增加与第一Pod的关联信息。
进一步地,所述连接建立单元包括:连接接收单元和连接发送单元。
连接请求单元用于接收由所述web终端发送的Web Socket连接请求;连接发送单元用于通过所述Kubernetes API与所述第二Pod建立TTY连接,以使所述web终端对所述第二Pod执行诊断操作。
由以上本发明实施例提供的技术方案可见,本发明实施例通过接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。
本发明实施例提供的逻辑处理模块能够实现上述Kubernetes集群中故障Pod诊断方法对应的实施例中的各个过程,为避免重复,这里不再赘述。
对应上述实施例提供的Kubernetes集群中故障Pod诊断方法,基于相同的技术构思,本发明实施例还提供了一种web终端,图6为本发明实施例提供的web终端的模块组成示意图,该web终端用于执行图4描述的Kubernetes集群中故障Pod诊断方法,如图6所示,该web终端包括:请求发送单元601和诊断操作单元602。
所述请求发送单元601用于向网络侧预设的逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;所述诊断操作单元602用于在所述逻辑处理模块建立web终端与所述第二Pod的连接后,对所述第二Pod执行诊断操作。
由以上本发明实施例提供的技术方案可见,本发明实施例通过向逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;在所述逻辑处理模块建立web终端与所述第二Pod的连接后,对所述第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。
进一步地,所述诊断操作单元包括:第一操作单元和第二操作单元。
第一操作单元向所述逻辑处理模块发送Web Socket连接请求,以使所述逻辑处理模块通过所述Kubernetes API与所述第二Pod建立TTY连接;第二操作单元对所述第二Pod执行诊断操作。
由以上本发明实施例提供的技术方案可见,本发明实施例通过向逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;在所述逻辑处理模块建立web终端与所述第二Pod的连接后,对所述第二Pod执行诊断操作。通过本发明实施例,实现了在Kubernetes集群中对出现故障的Pod的诊断和准确的故障定位。
本发明实施例提供的web终端能够实现上述Kubernetes集群中故障Pod诊断方法对应的实施例中的各个过程,为避免重复,这里不再赘述。
需要说明的是,本发明实施例提供的web终端与本发明实施例提供的Kubernetes集群中故障Pod诊断方法基于同一发明构思,因此该实施例的具体实施可以参见前述Kubernetes集群中故障Pod诊断方法的实施,重复之处不再赘述。
对应上述实施例提供的Kubernetes集群中故障Pod诊断方法,基于相同的技术构思,本发明实施例还提供了一种电子设备,该电子设备用于执行上述的Kubernetes集群中故障Pod诊断方法,图7为实现本发明各个实施例的一种电子设备的结构示意图,如图7所示。电子设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器701和存储器702,存储器702中可以存储有一个或一个以上存储应用程序或数据。其中,存储器702可以是短暂存储或持久存储。存储在存储器702的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括对电子设备中的一系列计算机可执行指令。更进一步地,处理器701可以设置为与存储器702通信,在电子设备上执行存储器702中的一系列计算机可执行指令。电子设备还可以包括一个或一个以上电源703,一个或一个以上有线或无线网络接口704,一个或一个以上输入输出接口705,一个或一个以上键盘706。
具体在本实施例中,电子设备包括有处理器、通信接口、存储器和通信总线;其中,所述处理器、所述通信接口以及所述存储器通过总线完成相互间的通信;所述存储器,用于存放计算机程序;所述处理器,用于执行所述存储器上所存放的程序,实现以下方法步骤:
接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;
根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。
本申请实施例还提供一种计算机可读存储介质,所述存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现以下方法步骤:
接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;
根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。
本领域内的技术人员应明白,本发明的实施例可提供为方法、装置、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,电子设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、装置或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种Kubernetes集群中故障Pod诊断方法,其特征在于,所述方法包括:
接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;
根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。
2.根据权利要求1所述的Kubernetes集群中故障Pod诊断方法,其特征在于,所述复制选项包括以下选项的任意组合:
是否挂载已有卷;
是否加载环境变量;
是否加载初始化容器;
是否进行Istio注入;
是否开启亲和性;
是否开启容忍性;
是否开启特权模式;
是否挂载节点目录。
3.根据权利要求1所述的Kubernetes集群中故障Pod诊断方法,其特征在于,所述根据Kubernetes集群中保存的第一Pod的信息以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令,包括:
根据所述第一Pod的标识,通过Kubernetes API从所述Kubernetes集群中获取所述第一Pod的信息;
将所述第一Pod的信息经过所述复制选项的过滤,并将过滤结果中容器的启动命令替换为长驻命令,得到第二Pod的信息;
根据所述第二Pod的信息在所述Kubernetes集群中创建所述第二Pod。
4.根据权利要求3所述的Kubernetes集群中故障Pod诊断方法,其特征在于,在得到第二Pod的信息时,所述方法还包括:
在所述第二Pod的信息中增加与第一Pod的关联信息。
5.根据权利要求4所述的Kubernetes集群中故障Pod诊断方法,其特征在于,所述建立web终端与第二Pod的连接,以使web终端对第二Pod执行诊断操作,包括:
接收由所述web终端发送的Web Socket连接请求;
通过所述Kubernetes API与所述第二Pod建立TTY连接,以使所述web终端对所述第二Pod执行诊断操作。
6.一种Kubernetes集群中故障Pod诊断方法,其特征在于,所述方法包括:
web终端向网络侧预设的逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
在所述逻辑处理模块建立web终端与所述第二Pod的连接后,所述web终端对所述第二Pod执行诊断操作。
7.根据权利要求6所述的Kubernetes集群中故障Pod诊断方法,其特征在于,所述在所述逻辑处理模块建立web终端与所述第二Pod的连接后,所述web终端对所述第二Pod执行诊断操作,包括:
所述web终端向所述逻辑处理模块发送Web Socket连接请求,以使所述逻辑处理模块通过所述Kubernetes API与所述第二Pod建立TTY连接;
对所述第二Pod执行诊断操作。
8.一种网络侧的逻辑处理模块,其特征在于,包括:
请求接收单元,用于接收由web终端发送的救援请求,所述救援请求包括第一Pod的标识以及复制选项;
信息复制单元,用于根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
连接建立单元,用于建立web终端与所述第二Pod的连接,以使web终端对第二Pod执行诊断操作。
9.一种web终端,其特征在于,包括:
请求发送单元,用于向网络侧预设的逻辑处理模块发送救援请求,所述救援请求包括第一Pod的标识以及复制选项,以使所述逻辑处理模块根据Kubernetes集群中保存的第一Pod的信息,以及所述救援请求中的第一Pod的标识和复制选项,在所述Kubernetes集群中创建第二Pod,并将所述第二Pod中容器的启动命令替换为长驻命令;
诊断操作单元,用于在所述逻辑处理模块建立web终端与所述第二Pod的连接后,对所述第二Pod执行诊断操作。
10.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线;其中,所述处理器、所述通信接口以及所述存储器通过总线完成相互间的通信;所述存储器,用于存放计算机程序;所述处理器,用于执行所述存储器上所存放的程序,实现如权利要求1-7任一项所述的Kubernetes集群中故障Pod诊断方法步骤。
CN202010612305.3A 2020-06-30 2020-06-30 Kubernetes集群中故障Pod诊断方法及装置 Active CN111858117B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010612305.3A CN111858117B (zh) 2020-06-30 2020-06-30 Kubernetes集群中故障Pod诊断方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010612305.3A CN111858117B (zh) 2020-06-30 2020-06-30 Kubernetes集群中故障Pod诊断方法及装置

Publications (2)

Publication Number Publication Date
CN111858117A true CN111858117A (zh) 2020-10-30
CN111858117B CN111858117B (zh) 2024-05-14

Family

ID=72988816

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010612305.3A Active CN111858117B (zh) 2020-06-30 2020-06-30 Kubernetes集群中故障Pod诊断方法及装置

Country Status (1)

Country Link
CN (1) CN111858117B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113268313A (zh) * 2021-06-08 2021-08-17 北京汇钧科技有限公司 基于云容器的任务执行方法和装置
CN113722050A (zh) * 2021-11-02 2021-11-30 阿里云计算有限公司 应用诊断辅助方法、计算设备及机器可读存储介质
US11973842B2 (en) 2022-02-11 2024-04-30 International Business Machines Corporation Service status prediction based transaction failure avoidance
US12072758B2 (en) 2022-12-15 2024-08-27 Red Hat, Inc. Dynamic network debug service in a containerized computing cluster

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102204187A (zh) * 2011-04-28 2011-09-28 华为技术有限公司 一种虚拟网络迁移方法、相关装置以及系统
US20150052382A1 (en) * 2013-08-14 2015-02-19 Netapp, Inc. Failover methods and systems for a virtual machine environment
US20160266951A1 (en) * 2015-03-10 2016-09-15 Unisys Corporation Diagnostic collector for hadoop
CN109218042A (zh) * 2017-06-29 2019-01-15 中兴通讯股份有限公司 基于web服务器的故障诊断方法、装置及计算机可存储介质
CN110187992A (zh) * 2019-04-11 2019-08-30 阿里巴巴集团控股有限公司 故障分析方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102204187A (zh) * 2011-04-28 2011-09-28 华为技术有限公司 一种虚拟网络迁移方法、相关装置以及系统
US20150052382A1 (en) * 2013-08-14 2015-02-19 Netapp, Inc. Failover methods and systems for a virtual machine environment
US20160266951A1 (en) * 2015-03-10 2016-09-15 Unisys Corporation Diagnostic collector for hadoop
CN109218042A (zh) * 2017-06-29 2019-01-15 中兴通讯股份有限公司 基于web服务器的故障诊断方法、装置及计算机可存储介质
CN110187992A (zh) * 2019-04-11 2019-08-30 阿里巴巴集团控股有限公司 故障分析方法及装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113268313A (zh) * 2021-06-08 2021-08-17 北京汇钧科技有限公司 基于云容器的任务执行方法和装置
CN113722050A (zh) * 2021-11-02 2021-11-30 阿里云计算有限公司 应用诊断辅助方法、计算设备及机器可读存储介质
US11973842B2 (en) 2022-02-11 2024-04-30 International Business Machines Corporation Service status prediction based transaction failure avoidance
US12072758B2 (en) 2022-12-15 2024-08-27 Red Hat, Inc. Dynamic network debug service in a containerized computing cluster

Also Published As

Publication number Publication date
CN111858117B (zh) 2024-05-14

Similar Documents

Publication Publication Date Title
CN111858117B (zh) Kubernetes集群中故障Pod诊断方法及装置
US10305962B1 (en) Unit testing clients of web services
CN109189342B (zh) 一种磁盘挂载方法、装置、设备及存储介质
CN113238835B (zh) 虚拟机配置方法、装置、服务器及系统
CN107920101B (zh) 一种文件访问方法、装置、系统及电子设备
CN111240892A (zh) 数据备份方法及装置
CN114710549B (zh) 一种容器平台中网卡的动态管理方法、系统及业务节点
CN109117243B (zh) 业务部署方法、装置、客户端设备及计算机可读存储介质
CN113992657B (zh) 一种基于云平台的共享存储的搭建方法、设备及介质
CN111417109B (zh) 一种eSIM卡及其运营商文件管理方法和管理系统
CN113391759B (zh) 一种通信方法和设备
CN114637553A (zh) 一种小区综合治理平台配置方法、系统、设备及存储介质
CN110704249A (zh) 一种保证应用一致性的方法、装置及系统
CN113157392A (zh) 镜像仓库高可用方法及设备
CN111026452A (zh) 一种远程32位进程注入64位进程的方法及系统
CN111124428A (zh) 一种基于中创中间件的应用自动化发布方法和相关装置
CN114172804B (zh) 一种联盟链分离部署方法、系统、介质和电子设备
CN113347051B (zh) 一种升级方法、装置、设备、系统和存储介质
CN117389713B (zh) 存储系统应用业务数据迁移方法、装置、设备及介质
CN113704191B (zh) 一种集群文件系统访问方法、装置、设备及可读存储介质
CN117478299B (zh) 区块链共识算法切换方法、装置和计算机设备
CN112748981B (zh) 虚拟网络功能的软件镜像的处理方法和装置
CN116244109A (zh) 数据的备份方法、装置、服务器及可读存储介质
CN111092744A (zh) 一种恢复vnf实例的方法、装置和设备
CN118524141A (zh) 智能加速引擎、方法、装置和计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20230316

Address after: Room 501-502, 5/F, Sina Headquarters Scientific Research Building, Block N-1 and N-2, Zhongguancun Software Park, Dongbei Wangxi Road, Haidian District, Beijing, 100193

Applicant after: Sina Technology (China) Co.,Ltd.

Address before: 100193 7th floor, scientific research building, Sina headquarters, plot n-1, n-2, Zhongguancun Software Park, Dongbei Wangxi Road, Haidian District, Beijing, 100193

Applicant before: Sina.com Technology (China) Co.,Ltd.

GR01 Patent grant
GR01 Patent grant