CN117527880A - 消息管理方法、装置、电子设备及计算机可读取存储介质 - Google Patents

消息管理方法、装置、电子设备及计算机可读取存储介质 Download PDF

Info

Publication number
CN117527880A
CN117527880A CN202410015537.9A CN202410015537A CN117527880A CN 117527880 A CN117527880 A CN 117527880A CN 202410015537 A CN202410015537 A CN 202410015537A CN 117527880 A CN117527880 A CN 117527880A
Authority
CN
China
Prior art keywords
lane
information
main
consumer
message
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202410015537.9A
Other languages
English (en)
Other versions
CN117527880B (zh
Inventor
陈灏
陆家靖
徐豪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Shouqianba Internet Technology Co ltd
Nanjing Yanli Technology Co ltd
Original Assignee
Shanghai Shouqianba Internet Technology Co ltd
Nanjing Yanli Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Shouqianba Internet Technology Co ltd, Nanjing Yanli Technology Co ltd filed Critical Shanghai Shouqianba Internet Technology Co ltd
Priority to CN202410015537.9A priority Critical patent/CN117527880B/zh
Publication of CN117527880A publication Critical patent/CN117527880A/zh
Application granted granted Critical
Publication of CN117527880B publication Critical patent/CN117527880B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/566Grouping or aggregating service requests, e.g. for unified processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/02Network architectures or network communication protocols for network security for separating internal from external traffic, e.g. firewalls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/30Network architectures or network communication protocols for network security for supporting lawful interception, monitoring or retaining of communications or communication related information
    • H04L63/306Network architectures or network communication protocols for network security for supporting lawful interception, monitoring or retaining of communications or communication related information intercepting packet switched data communications, e.g. Web, Internet or IMS communications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/14Session management
    • H04L67/141Setup of application sessions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/561Adding application-functional data or data for application control, e.g. adding metadata
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/40Network security protocols

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Technology Law (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请提供一种消息管理方法、装置、电子设备及计算机可读取存储介质,涉及网络计算技术领域。该方法应用于多泳道的Kafka集群中,多泳道包括主泳道和至少一个分支泳道;主泳道中部署有主生产方和主消费方,分支泳道部署有更新生产方,或,分支泳道部署有更新生产方和更新消费方,或,分支泳道部署有更新消费方;方法包括:基于每个泳道中的代理程序进行字节码增强,以确定每个泳道的标签信息;通过与Kafka集群连接的控制面程序,确定主消费方对应的主代理程序订阅的主题信息;通过主生产方和/或更新生产方,根据相应的标签信息输出生产消息;通过主代理程序,根据主题信息对生产消息进行管理。

Description

消息管理方法、装置、电子设备及计算机可读取存储介质
技术领域
本申请涉及网络计算技术领域,具体而言,涉及一种消息管理方法、装置、电子设备及计算机可读取存储介质。
背景技术
在微服务的使用场景中,通常使用Istio等开源服务网格平台为微服务应用无缝地添加如流量管理、服务发现、负载均衡、故障恢复等功能。目前进行处理时通常使用多泳道部署策略进行处理,多泳道部署策略借鉴了游泳比赛的概念,即所有运动员在一个泳池内,划分了比赛赛道。微服务场景下,一套完整的服务链路就是一个泳道,而请求数据就是运动员,在自身的泳道中任意流转,不会干扰其他泳道的数据。还可以分离出主泳道和分支泳道概念,把通用的、完整的一套微服务集群部署在主泳道,分支泳道则只部署变动服务,并且依赖主泳道的通用服务,内部通过物理或者逻辑隔离请求数据,多泳道可以对不同的用户、请求或数据流进行区分管理。
现有的服务网格平台通常基于RPC(Remote Procedure Call,远程过程调用)框架实现流量、路由管理等功能,在流量较大时,多泳道之间生产消息和消费消息的流量差异性较大,管理的效率较低。为了提高管理效率,可以在服务网格平台上使用Apache Kafka等开源消息系统项目进行处理,但是,服务网格平台无法为Apache Kafka中的消费端提供过滤和路由服务,导致Apache Kafka中实现泳道隔离的难度和成本较大,无法满足目前微服务的业务需求。
发明内容
有鉴于此,本申请实施例的目的在于提供一种消息管理方法、装置、电子设备及计算机可读取存储介质,以改善现有技术中存在Kafka中实现泳道隔离的难度和成本较大的问题。
为了解决上述问题,第一方面,本申请实施例提供了一种消息管理方法,所述方法应用于多泳道的Kafka集群中,所述多泳道包括主泳道和至少一个分支泳道;所述主泳道中部署有主生产方和主消费方,所述分支泳道部署有更新生产方,或,所述分支泳道部署有更新生产方和更新消费方,或,所述分支泳道部署有更新消费方;所述方法包括:
基于每个所述泳道中的代理程序进行字节码增强,以确定每个所述泳道的标签信息;
通过与所述Kafka集群连接的控制面程序,确定所述主消费方对应的主代理程序订阅的主题信息;其中,所述主题信息包括队列主题与对应的所述消费方所处的所述泳道的所述标签信息之间的映射关系;
通过所述主生产方和/或所述更新生产方,根据相应的所述标签信息输出生产消息;
通过所述主代理程序,根据所述主题信息对所述生产消息进行管理。
在上述实现过程中,能够基于每个泳道中设置的代理程序的字节码增强技术,确定每个泳道唯一性的标签信息,并由泳道中对应的生产方基于标签信息输出相应的生产消息,以将生产消息与泳道中的消费方进行关联。并且,为了对多个泳道进行管理,可以在Kafka集群的消费方中设置相应的控制面程序,以获取队列主题与相应消费方所处的泳道的标签信息之间的映射关系,主泳道中的主消费方对应的主代理程序能够与控制面程序进行数据传输,以确定主泳道所需的映射关系作为订阅的主题信息,从而能够针对队列主题进行针对性地管理,在对生产消息进行管理时,能够由主代理程序基于主题信息和生产消息进行相应地处理。能够根据泳道唯一的标签信息有效地独立多个分支泳道,无需对集群进行改造和高成本地隔离处理就能够实现多泳道隔离,具备广泛的适用性,适用于多种不同的集群场景。
可选地,所述基于每个所述泳道中的代理程序进行字节码增强,以确定每个所述泳道的标签信息,包括:
确定每个所述泳道的泳道名称;
通过每个所述代理程序在服务启动时进行字节码增强的拦截处理,以根据每个所述泳道名称确定每个所述泳道的标签信息。
在上述实现过程中,多泳道的每个泳道具有不同的泳道名称,可以确定每个泳道的泳道名称,在服务启动时加载每个泳道中设置的代理程序,以根据代理程序进行事件拦截,对组件进行字节码增强处理,以根据每个泳道的泳道名称确定每个泳道唯一性的标签信息。能够根据各组件的交互以及字节码增强技术确定每个泳道的标签信息,保证了标签信息的唯一性,从而提高了基于标签信息进行消息管理的有效性。
可选地,所述通过与所述Kafka集群连接的控制面程序,确定所述主消费方对应的主代理程序订阅的主题信息,包括:
基于所述控制面程序在所述Kafka集群中进行的并行消费,确定每个所述消费方的身份信息与所述队列主题之间的关联关系;
通过所述控制面程序对所述关联关系进行反转和持久化处理,得到所述队列主题与对应的所述身份信息之间的对应关系;
确定每个所述消费方所处的所述泳道的所述标签信息与所述消费方的所述身份信息之间的转换关系,以基于所述对应关系和所述转换关系确定所述队列主题与所述消费方所处的所述泳道的所述标签信息之间的映射关系;
基于所述主消费方对应的所述主代理程序进行字节码的增强处理,拦截业务方的主题订阅需求;
通过所述主代理程序,基于传输协议向所述控制面程序发送对应的主题订阅请求;
通过所述控制面程序,根据所述主题订阅需求在多个所述映射关系中进行筛选,以确定订阅映射关系作为所述主题信息;
通过所述控制面程序向所述主代理程序发送所述主题信息。
在上述实现过程中,控制面程序能够根据并行消费确定消费方的身份信息与用于存储和转发的队列主题之间的关联关系,并对关联关系进行反转和数据持久化处理,以确定队列主题与消费方身份信息之间的对应关系。并且,由于消费方的身份信息与其所处泳道的泳道标签具有相应的转换关系,因此,可以根据对应关系和转换关系,确定队列主题与消费方对应的泳道标签之间的映射关系。为了使主泳道的主消费方能够为不具有消费方的分支泳道的消息进行管理,可以由主泳道中设置的主代理程序进行字节码增强处理,以拦截业务方的主题订阅事件并从中提取业务方的主题订阅需求,从而基于相应的传输协议向控制面程序发送主题订阅需求,由控制面程序根据接收的主题订阅需求在多个映射关系中进行筛选,得到符合订阅需求的订阅映射关系作为相应的主题信息,并将主题信息发送至主代理程序中以待处理。能够根据业务的实际需求订阅相应的队列主题与泳道中消费方之间的映射关系作为主题信息,以根据主题信息确定多个分支泳道中的实际情况,实现泳道隔离和消息管理。
可选地,若判定所述订阅映射关系发生变化,则通过所述控制面程序确定更新主题信息,并向所述主代理程序发送所述更新主题信息。
在上述实现过程中,在订阅的订阅映射关系产生变化时,可以由控制面程序获取并确定更新主题信息,以将更新主题信息发送给主代理程序,以对主代理程序中的主题信息进行更新。能够实时地对主题信息进行维护和更新处理,以提高主代理程序中当前主题信息的实时性和有效性,从而提高基于主题信息进行消息管理的有效性。
可选地,所述通过所述主生产方和/或所述更新生产方,根据相应的所述标签信息输出生产消息,包括:
通过所述主生产方和/或所述更新生产方,对生成或接收的初始消息进行检测;
若检测到所述初始消息中具有任意所述泳道的所述标签信息,则以所述初始消息为所述生产消息;
若检测到所述初始消息中不具有任意所述泳道的标签信息,则通过所述主生产方和/或所述更新生产方,基于字节码增强将所处的所述泳道的所述标签信息添加到所述初始消息中,得到所述生产消息;
通过所述主生产方和/或所述更新生产方,向对应的所述队列主题输出所述生产消息。
在上述实现过程中,服务中的生产方能够生成相应的初始消息,主生产方还可以获取外部调用或其他方式产生的初始消息以进行处理。进行处理时,生产方可以先对初始消息中是否包含相应的标签信息进行检测,若初始消息中已具有任意泳道的标签信息,则表明消息为外部调用或其他方式产生的消息,主生产方可以直接以初始消息作为生产消息,以将其输出至对应的队列主题中,以转发至对应的分支泳道中供其中的更新消费方进行处理;若初始消息中不具有任意泳道的标签信息,则表明该消息为生产方自身产出的消息,生产方可以基于字节码增强将其所处的泳道的标签信息添加到初始消息中,得到对应的生产消息,并将生产消息输出至对应的队列主题中以待处理。能够基于字节码增强技术和标签信息对消息进行染色处理,以通过标签识别的方式判断生产消息对应的泳道。
可选地,所述方法还包括:
通过每个所述代理程序,对所述生产消息进行标签识别,得到所述泳道标签信息;
若判定所述泳道标签信息与当前泳道相符,则通过所述当前泳道的所述消费方对所述生产消息进行消费;
若判定所述泳道标签信息与所述当前泳道不符,且所述当前泳道为所述分支泳道,则通过所述分支泳道的更新消费方丢弃所述生产消息。
在上述实现过程中,在进行消息管理时,可以先根据生产消息的染色的情况进行处理。通过每个泳道内设置的代理程序对生产消息进行标签识别,获取其中包含的泳道标签信息。由代理程序对识别的泳道标签信息和当前泳道对应的自身标签信息进行对比,以确定泳道标签信息与当前泳道是否相符。若泳道标签信息与当前泳道的自身标签信息一致,则标签相符,表征该生产消息是由当前泳道的生产方产生的,可以由当前泳道中的消费方进行消费;若泳道标签信息与当前泳道的自身标签信息不一致,则标签不符,在当前泳道为分支泳道的情况下,表征该生产消息是由其他分支泳道的生产方或外部调用产生的,由于各分支泳道的独立性,该生产消息应由对应的分支泳道的消费方进行处理,为了对多个分支泳道进行隔离处理,应由当前分支泳道的更新消费方对该生产消息进行丢弃,从而避免不同分支泳道之间的消息处理。
可选地,所述通过所述主代理程序,根据所述主题信息对所述生产消息进行管理,包括:
若判定所述生产消息的所述泳道标签信息与所述当前泳道不符,且所述当前泳道为所述主泳道,则通过所述主代理程序,基于所述泳道标签信息在所述主题信息中进行查询;
若查询到所述泳道标签信息在所述主题信息中具有对应的关联映射关系,则通过所述主消费方丢弃所述生产消息,通过所述泳道标签信息对应的所述分支泳道中的所述更新消费方对所述生产消息进行消费;
若未查询到所述泳道标签信息在所述主题信息中具有所述关联映射关系,则通过所述主消费方对所述生产消息进行消费。
在上述实现过程中,若生产消息的泳道标签信息与当前泳道不符,且当前泳道为主泳道,则可以通过主代理程序根据泳道标签信息在主题信息中进行查询,以判断生成消息对应的分支泳道中是否存在相应的更新消费方。在查询到泳道标签信息在主题信息中具有对应的关联映射关系的情况下,则表征该生产消息对应的分支泳道中具有对应的更新消费方,主消费方可以丢弃该生产消息,应由更新消费方对生产消息进行消费;在未查询到泳道标签信息在主题信息中具有对应的关联映射关系的情况下,则表征该生产消息对应的分支泳道中不存在更新消费方,为了正常运行,可以由主泳道中的主消费方对该生产消息进行消费。能够在实现泳道隔离的情况下,允许主泳道消费来自分支泳道的消息,以保证消息的正常处理。
第二方面,本申请实施例提供了一种消息管理装置,所述装置应用于多泳道的Kafka集群中,所述多泳道包括主泳道和至少一个分支泳道;所述主泳道中部署有主生产方和主消费方,所述分支泳道部署有更新生产方,或,所述分支泳道部署有更新生产方和更新消费方,或,所述分支泳道部署有更新消费方;所述装置包括标签模块、订阅模块、输出模块和管理模块;
所述标签模块用于基于每个所述泳道中的代理程序进行字节码增强,以确定每个所述泳道的标签信息;
所述订阅模块用于通过与所述Kafka集群连接的控制面程序,确定所述主消费方对应的主代理程序订阅的主题信息;其中,所述主题信息包括队列主题与对应的所述消费方所处的所述泳道的所述标签信息之间的映射关系;
所述输出模块用于通过所述主生产方和/或所述更新生产方,根据相应的所述标签信息输出生产消息;
所述管理模块用于通过所述主代理程序,根据所述主题信息对所述生产消息进行管理。
在上述实现过程中,在标签模块中基于每个泳道中设置的代理程序的字节码增强技术,确定每个泳道唯一性的标签信息,在订阅模块中获取队列主题与相应消费方所处泳道的标签信息之间的映射关系,以确定主泳道所需的映射关系作为订阅的主题信息,在输出模块中由生产方基于标签信息输出相应的生产消息,以将生产消息与泳道进行关联,在管理模块中基于主题信息和生产消息进行相应的消息管理。
第三方面,本申请实施例还提供了一种电子设备,所述电子设备包括存储器和处理器,所述存储器中存储有程序指令,所述处理器读取并运行所述程序指令时,执行上述消息管理方法中任一实现方式中的步骤。
第四方面,本申请实施例还提供了一种计算机可读取存储介质,所述可读取存储介质中存储有计算机程序指令,所述计算机程序指令被一处理器读取并运行时,执行上述消息管理方法中任一实现方式中的步骤。
综上所述,本申请实施例提供了一种消息管理方法、装置、电子设备及计算机可读取存储介质,能够根据泳道唯一的标签信息有效地独立多个分支泳道,无需对集群进行改造和高成本地隔离处理就能够实现多泳道隔离,具备广泛的适用性,适用于多种不同的集群场景。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种电子设备的方框示意图;
图2为本申请实施例提供的一种消息管理方法的流程示意图;
图3为本申请实施例提供的一种步骤S200的详细流程示意图;
图4为本申请实施例提供的一种步骤S300的详细流程示意图;
图5为本申请实施例提供的一种步骤S400的详细流程示意图;
图6为本申请实施例提供的一种步骤S500的详细流程示意图;
图7为本申请实施例提供的一种消息管理装置的结构示意图。
图标:100-电子设备;111-存储器;112-存储控制器;113-处理器;114-外设接口;115-输入输出单元;116-显示单元;600-消息管理装置;610-标签模块;620-订阅模块;630-输出模块;640-管理模块。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例仅仅是本申请实施例的一部分实施例,而不是全部的实施例。基于本申请实施例的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请实施例保护的范围。
为了解决目前Apache Kafka中实现泳道隔离的难度和成本较大,无法满足目前微服务的业务需求的问题,本申请实施例提供了一种消息管理方法,应用于电子设备,电子设备可以为服务器、个人电脑(Personal Computer,PC)、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)等具有逻辑计算功能的电子设备,电子设备上可以设置有多泳道的Kafka集群,多泳道包括主泳道和至少一个分支泳道;主泳道中部署有主生产方和主消费方,分支泳道部署有更新生产方,或,分支泳道部署有更新生产方和更新消费方,以在Kafka集群上低成本地实现泳道隔离,满足微服务的业务需求。
可选地,请参阅图1,图1为本申请实施例提供的一种电子设备的方框示意图。电子设备100可以包括存储器111、存储控制器112、处理器113、外设接口114、输入输出单元115、显示单元116。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对电子设备100的结构造成限定。例如,电子设备100还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
上述的存储器111、存储控制器112、处理器113、外设接口114、输入输出单元115及显示单元116各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。上述的处理器113用于执行存储器中存储的可执行模块。
其中,存储器111可以是,但不限于,随机存取存储器(Random Access Memory,简称RAM),只读存储器(Read Only Memory,简称ROM),可编程只读存储器(ProgrammableRead-Only Memory,简称PROM),可擦除只读存储器(Erasable Programmable Read-OnlyMemory,简称EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-OnlyMemory,简称EEPROM)等。其中,存储器111用于存储程序,处理器113在接收到执行指令后,执行程序,本申请实施例任一实施例揭示的过程定义的电子设备100所执行的方法可以应用于处理器113中,或者由处理器113实现。
上述的处理器113可能是一种集成电路芯片,具有信号的处理能力。上述的处理器113可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(digital signalprocessor,简称DSP)、专用集成电路(Application Specific Integrated Circuit,简称ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器,也可以是任何常规的处理器等。
上述的外设接口114将各种输入/输出装置耦合至处理器113以及存储器111。在一些实施例中,外设接口114,处理器113以及存储控制器112可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
上述的输入输出单元115用于提供给用户输入数据。输入输出单元115可以是,但不限于,鼠标和键盘等。
上述的显示单元116在电子设备100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中,显示单元可以是液晶显示器或触控显示器。若为触控显示器,其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作,并将该感应到的触控操作交由处理器进行计算和处理。在本申请实施例中,显示单元116可以显示的Kafka集群中各个泳道的实际状态等相关信息。
本实施例中的电子设备可以用于执行本申请实施例提供的各个消息管理方法中的各个步骤。下面通过几个实施例详细描述消息管理方法的实现过程。
请参阅图2,图2为本申请实施例提供的一种消息管理方法的流程示意图,该方法可以包括步骤S200-S500。
步骤S200,基于每个泳道中的代理程序进行字节码增强,以确定每个泳道的标签信息。
其中,为了对Kafka集群进行有效地管理和数据传输,每个泳道中可以设置相应的代理程序,代理程序可以为Java Agent等客户端,还可以在Kafka集群中设置相应的控制面程序,以分别与Kafka集群中的各个组件进行连接,实现相应的数据传输。生产方为服务中产生消息的一方,消费方为服务中消费消息的一方,某一服务中可以同时具有多个生产方和消费方。更新生产方为基于主生产方产生功能变化的生产方,以实现相应的功能更新和分担。相应的,更新消费方为主消费方产生功能变化的消费方,例如,某一服务的1.0版本为生产方或消费方,1.01版本为对应的更新生产方或更新消费方。但是,由于分支泳道中生产方与消费方之间的不对应性,分支泳道中可能只存在消费方,也可能只存在生产方,因此,为了确定分支泳道中是否具有消费方,每个泳道中的代理程序都可以对Kafka集群中组件进行字节码增强,从而确定每个泳道具有唯一性的标签信息,以对分支泳道进行区分。
可选地,Kafka集群可以为Apache Kafka,能够兼容多种不同的版本。Kafka集群内部设置有consumer_offsets(消费方偏移量),能够保存消费方提交的位移数据。
可选地,字节码增强可以为Java字节码增强技术,能够广泛应用于可观测性、安全、单元测试等领域,允许开发者在运行时动态地修改或增强类的行为,而无需更改原始源代码或重新编译。利用字节码增强技术可以无缝适配各种SDK(Software DevelopmentKit,软件开发工具包)版本和对接方式,而无需对应用进行逐个修改,有效地降低人力成本。
需要说明的是,为了保证消息能够正常产生和消费,主生产方和更新生产方可以设置为对应的生产方组,主消费方或更新消费方可以设置为对应的消费方组,生产方组和消费方组中可以包括相同方式配置的多个生产方和消费方,从而在某一生产方或消费方产生异常时,由其他并列设置的生产方或消费方进行处理。
步骤S300,通过与Kafka集群连接的控制面程序,确定主消费方对应的主代理程序订阅的主题信息。
其中,可以在Kafka集群的消费方,例如在Kubernetes集群,即K8s中设置相应的控制面程序,控制面程序与Kafka集群连接,以实现相应的数据传输和控制功能。Kafka集群中可以设置多个队列主题,由队列主题对生产方和消费方之间的消息信息进行存储和转移,每个生产方和消费方在使用前都已配置好使用的队列主题。因此,可以由设置的控制面程序根据历史消费情况确定主泳道中设置的与主消费方对应的主代理程序所需的主题信息,主题信息可以包括主消费方订阅的队列主题与对应的消费方所处的泳道的标签信息之间的映射关系。
可选地,分支泳道的代理程序不需要与控制面程序连接,以保证分支泳道无法接收来自其他泳道的消息,以保证多泳道的隔离性。
步骤S400,通过主生产方和/或更新生产方,根据相应的标签信息输出生产消息。
其中,主生产方和更新生产方在输出消息时,可以结合相应的标签信息进行处理,以输出能够识别泳道的生产消息。
步骤S500,通过主代理程序,根据主题信息对生产消息进行管理。
其中,主代理程序可以根据主题信息对订阅的生产消息进行相应地管理,以实现泳道隔离。
在图2所示的实施例中,能够根据泳道唯一的标签信息有效地独立多个分支泳道,无需对集群进行改造和高成本地隔离处理就能够实现多泳道隔离,具备广泛的适用性,适用于多种不同的集群场景。
可选地,请参阅图3,图3为本申请实施例提供的一种步骤S200的详细流程示意图,该方法可以包括步骤S210-S220。
步骤S210,确定每个泳道的泳道名称。
其中,多泳道的每个泳道具有不同的泳道名称,可以确定每个泳道的泳道名称,例如,分支泳道A、分支泳道B等。
步骤S220,通过每个代理程序在服务启动时进行字节码增强的拦截处理,以根据每个泳道名称确定每个泳道的标签信息。
其中,可以在服务启动时加载每个泳道中设置的代理程序,在服务调用Kafka集群的SDK的时候,根据代理程序进行事件拦截,对生产方和消费方进行增强,以根据每个泳道的泳道名称确定每个泳道唯一性的标签信息。
示例地,主泳道的标签信息与初始消费方的身份信息具有转换关系,在此基础上,在分支泳道的泳道名称为A时,可以基于字节码增强技术,自动确定分支泳道的标签信息为env-a,可以根据身份信息和标签信息组成整体的标识信息,即Consumer group id。
在图3所示的实施例中,能够根据各组件的交互以及字节码增强技术确定每个泳道的标签信息,保证了标签信息的唯一性,从而提高了基于标签信息进行消息管理的有效性。
可选地,请参阅图4,图4为本申请实施例提供的一种步骤S300的详细流程示意图,该方法可以包括步骤S310-S370。
步骤S310,基于控制面程序在Kafka集群中进行的并行消费,确定每个消费方的身份信息与队列主题之间的关联关系。
其中,控制面程序在进行处理时,能够自动在Kafka集群的consumer_offset中存储的消费位移数据进行实时并发消费,以确定多个泳道中部署有消费方的消费泳道,并获取每个消费方的身份信息,身份信息可以包括服务的名称或id等信息,以确定每个消费方的身份信息与相应的用于存储和转发的队列主题(即Topic)之间的关联关系。
步骤S320,通过控制面程序对关联关系进行反转和持久化处理,得到队列主题与对应的身份信息之间的对应关系。
其中,为了便于每个代理程序进行处理,控制面程序可以对关联关系进行反转和数据持久化处理,以确定队列主题与消费方身份信息之间的映射关系,一个队列主题可以映射一个或多个不同的消费方。
可选地,进行持久化处理时,考虑到内存数据存储重启会丢失,不利于状态的维持。可以使用基于RocksDB的存储,将一条消息用两种形式存储,分别为:1、t:[topic_name]#[group_id];2、g:[group_id],用于后续以topic主题名称进行前缀扫描,得到某个主题的所有消费方,还可以快速判断一个消费方是否活跃或者已经离线(离线用Tombstone,即墓碑消息进行存储),同时可以避免在重复消费的时候旧值覆盖新值(通过对比timestamp判断消息的新旧)。
步骤S330,确定每个消费方所处的泳道的标签信息与消费方的身份信息之间的转换关系,以基于对应关系和转换关系确定队列主题与消费方所处的泳道的标签信息之间的映射关系。
其中,每个泳道中的消费方与其所处的泳道的标签信息具有相应的关联性,因此,可以获取消费方的身份信息与其所处泳道的泳道标签之间相应的转换关系,转换关系可以为相应的转换函数,从而能够基于转换关系和对应关系,确定队列主题与消费方对应的泳道标签之间的映射关系。
步骤S340,基于主消费方对应的主代理程序进行字节码的增强处理,拦截业务方的主题订阅需求。
其中,为了使主泳道的主消费方能够为不具有消费方的分支泳道的消息进行管理,可以由主泳道中设置的主代理程序进行字节码增强处理,以拦截业务方的主题订阅事件并从中提取业务方的主题订阅需求。
可选地,业务方的主题订阅事件为业务方基于自身需求产生的与队列主题相关的事件。
步骤S350,通过主代理程序,基于传输协议向控制面程序发送对应的主题订阅请求。
其中,为了实现多个组件中的数据传输,主代理程序可以基于相应的传输协议,例如gRPC协议向控制面程序发送对应的主题订阅请求。
步骤S360,通过控制面程序,根据主题订阅需求在多个映射关系中进行筛选,以确定订阅映射关系作为主题信息。
步骤S370,通过控制面程序向主代理程序发送主题信息。
其中,由控制面程序根据接收的主题订阅需求在多个映射关系中进行筛选,得到符合订阅需求的订阅映射关系作为相应的主题信息,并将主题信息发送至主代理程序中以待处理。
需要说明的是,为了提高控制面程序向主代理程序发送主题信息的效率,可以使用xDS协议进行数据传输,xDS协议作为在服务网格领域成熟的协议,复用该协议可以降低技术风险,并且复用已有的xDS客户端,降低开发成本。同时,利用业界通用的协议可以有效降低学习成本。在控制面程序中,数据的获取是通过消费Kafka集群的内部队列得到的,实时性较高,而在主代理程序采用的是基于gRPC的流式协议,可以达到较高的实时性。
示例地,xDS协议的设计,通讯协议部分可以用gRPC定义,定义代码可以为:
service KafkaTopicDiscoveryService {
option (envoy.annotations.resource).type = "hera.xds.v1.KafkaTopic";
rpc StreamKafkaTopics(stream envoy.service.discovery.v3.DiscoveryRequest)
returns (stream envoy.service.discovery.v3.DiscoveryResponse) {
}
rpc DeltaKafkaTopics(stream envoy.service.discovery.v3.DeltaDiscoveryRequest) returns (stream envoy.service.discovery.v3.DeltaDiscoveryResponse){
}
rpc FetchKafkaTopics(envoy.service.discovery.v3.DiscoveryRequest)returns (envoy.service.discovery.v3.DiscoveryResponse) {
}
}
其中,资源Kafka的Topic的协议体定义可以用Protobuf,具体可以为:
message KafkaTopic {
string name = 1;
repeated ConsumerGroup groups = 2;
repeated string broker = 3;
}
message ConsumerGroup {
string group_id = 1;
int32 generation_id = 2;
}
可选地,在上述协议的基础上,还可以支持多Kafka集群的消息管理。订阅的时候传递资源名不仅需要包含主题Topic名称,同时还需要传递Kafka集群的IP或者域名列表,例如:topic@hash(sorted([192.168.1.2:9092,192.168.2.3:9092,192.168.2.5:9092])),即对broker列表进行字母序排序并计算hash散列值。保持代理程序端的算法和控制面程序的散列算法一致,可以先对Kafka集群进行识别,在对Kafka集群内部的消息进行管理。
需要说明的是,若判定订阅映射关系发生变化,则通过控制面程序确定更新主题信息,并向主代理程序发送更新主题信息。在订阅的订阅映射关系产生变化时,例如,消费方下线、消费方删除、新增消费方或改变队列主题等多种情况下,可以由控制面程序获取并确定更新的队列主题与消费方之间的映射关系作为更新主题信息,以将更新主题信息发送给主代理程序,以对主代理程序中的主题信息进行更新。能够实时地对主题信息进行维护和更新处理,以提高主代理程序中当前主题信息的实时性和有效性,从而提高基于主题信息进行消息管理的有效性。
可选地,为了进一步地提高主题信息的有效性,控制面程序可以定期(比如可以取500ms作为推送间隔达到准实时)将存储的最新的更新主题信息推送给主代理程序。
可选地,为了减小主题信息的大小以提高数据的传输效率,可以只对产生变化的部分主题信息进行更新。
在图4所示的实施例中,能够根据业务的实际需求订阅相应的队列主题与泳道标签之间的映射关系作为主题信息,以根据主题信息确定多个分支泳道中的实际情况,实现泳道隔离和消息管理。
可选地,请参阅图5,图5为本申请实施例提供的一种步骤S400的详细流程示意图,该方法可以包括步骤S410-S440。
步骤S410,通过主生产方和/或更新生产方,对生成或接收的初始消息进行检测。
其中,服务中的生产方能够生成相应的初始消息,主生产方还可以获取外部调用或其他方式产生的初始消息以进行处理。因此,为了对不同类型的初始消息进行管理,进行处理时,生产方可以先对初始消息进行检测,例如,可以对初始消息的请求头中是否包含相应的标签信息进行检测。
示例地,在某一个只具有更新消费方的分支泳道中,该分支泳道中的服务可以通过RPC调用的方式,得到相应的初始消息,这一类初始消息中具有该分支泳道的标签信息,且由于该分支泳道中不存在生产方,这一类初始消息需要主生产方进行透传以转发至相应的更新消费方进行处理。
步骤S420,若检测到初始消息中具有任意泳道的标签信息,则以初始消息为生产消息。
步骤S430,若检测到初始消息中不具有任意泳道的标签信息,则通过主生产方和/或更新生产方,基于字节码增强将所处的泳道的标签信息添加到初始消息中,得到生产消息。
步骤S440,通过主生产方和/或更新生产方,向对应的队列主题输出生产消息。
其中,若初始消息中已具有任意泳道的标签信息,则表明消息为外部调用或其他方式产生的消息,主生产方可以直接以初始消息作为生产消息,以将其输出至对应的队列主题中,以转发至对应的分支泳道中供其中的更新消费方进行处理。
其中,若初始消息中不具有任意泳道的标签信息,则表明该消息为生产方自身产出的消息,生产方可以基于字节码增强技术将其所处的泳道的标签信息添加到初始消息中,得到对应的生产消息,并将生产消息输出至对应的队列主题中以待处理。
需要说明的是,在分支泳道或主泳道对消息进行处理时,可以先对泳道标签进行识别,以根据染色的情况判断生产消息来自哪个泳道。可以先通过每个代理程序,对生产消息进行标签识别,得到泳道标签信息;若判定泳道标签信息与当前泳道相符,则通过当前泳道的消费方对生产消息进行消费;若判定泳道标签信息与当前泳道不符,且当前泳道为分支泳道,则通过分支泳道的更新消费方丢弃生产消息。由代理程序对识别的泳道标签信息和当前泳道对应的自身标签信息进行对比,以确定泳道标签信息与当前泳道是否相符。若泳道标签信息与当前泳道的自身标签信息一致,则标签相符,表征该生产消息是由当前泳道的生产方产生的,可以由当前泳道中的消费方进行消费;若泳道标签信息与当前泳道的自身标签信息不一致,则标签不符,在当前泳道为分支泳道的情况下,表征该生产消息是由其他分支泳道的生产方产生的,由于各分支泳道的独立性,该生产消息应由对应的分支泳道的消费方进行处理,为了对多个分支泳道进行隔离处理,应由当前分支泳道的更新消费方对该生产消息进行丢弃,从而避免不同分支泳道之间的消息处理。
在图5所示的实施例中,能够基于字节码增强技术和标签信息对消息进行染色处理,以通过标签识别的方式判断生产消息对应的泳道。
可选地,请参阅图6,图6为本申请实施例提供的一种步骤S500的详细流程示意图,该方法可以包括步骤S510-S530。
步骤S510,若判定生产消息的泳道标签信息与当前泳道不符,且当前泳道为主泳道,则通过主代理程序,基于泳道标签信息在主题信息中进行查询。
其中,若生产消息的泳道标签信息与当前泳道不符,且当前泳道为主泳道,则可以通过主代理程序根据泳道标签信息在主题信息中进行查询,以判断生成消息对应的分支泳道中是否存在相应的更新消费方。
步骤S520,若查询到泳道标签信息在主题信息中具有对应的关联映射关系,则通过主消费方丢弃生产消息,通过泳道标签信息对应的分支泳道中的更新消费方对生产消息进行消费。
其中,关联映射关系中的泳道的标签信息与泳道标签信息一致,在查询到泳道标签信息在主题信息中具有对应的关联映射关系的情况下,则表征该生产消息对应的分支泳道中具有对应的更新消费方,主消费方可以丢弃该生产消息,应由更新消费方对生产消息进行消费。
步骤S530,若未查询到泳道标签信息在主题信息中具有关联映射关系,则通过主消费方对生产消息进行消费。
其中,在泳道标签信息与主题信息中所有映射关系中的标签信息都不一致时,则未查询到泳道标签信息在主题信息中具有对应的关联映射关系,表征该生产消息对应的分支泳道中不存在更新消费方,为了正常运行,可以由主泳道中的主消费方对该生产消息进行消费。
需要说明的时,主消费方接收的消息还可以包括消息的生产方来自Kafka集群外部的外部消息,或其他服务产生的其他消息,或来自Kafka集群内部,但并未添加标签信息的无标签消息。外部消息、其他消息和无标签信息中都没有表征泳道身份的标签信息,在未识别到相应的泳道标签信息时,主消费方也可以直接对这类消息进行消费。
可选地,主消费方订阅的主题信息还可以包括队列主题与消费方的身份信息之间的映射关系,在进行管理时,可以先识别生产消息中包含的泳道标签信息,再根据泳道标签信息与消费方的身份信息的转换关系,确定泳道标签信息对应的目标身份信息,在主题信息中的多个映射关系中查询是否具有与目标身份信息的身份相同的关联映射关系,在具有与目标身份信息对应的关联映射关系时,则表征该生产消息对应的分支泳道中具有对应的更新消费方,主消费方可以丢弃该生产消息,应由更新消费方对生产消息进行消费;在不具有与目标身份信息对应的关联映射关系时,表征该生产消息对应的分支泳道中不存在更新消费方,为了正常运行,可以由主泳道中的主消费方对该生产消息进行消费。
在图6所示的实施例中,能够在实现泳道隔离的情况下,允许主泳道消费来自分支泳道的消息,以保证消息的正常处理。
请参阅图7,图7为本申请实施例提供的一种消息管理装置的结构示意图,消息管理装置600应用于多泳道的Kafka集群中,装置应用于多泳道的Kafka集群中,多泳道包括主泳道和至少一个分支泳道;主泳道中部署有主生产方和主消费方,分支泳道部署有更新生产方,或,分支泳道部署有更新生产方和更新消费方,或,分支泳道部署有更新消费方;装置包括标签模块610、订阅模块620、输出模块630和管理模块640;
标签模块610用于基于每个泳道中的代理程序进行字节码增强,以确定每个泳道的标签信息;
订阅模块620用于通过与Kafka集群连接的控制面程序,确定主消费方对应的主代理程序订阅的主题信息;其中,主题信息包括队列主题与对应的消费方所处的泳道的标签信息之间的映射关系;
输出模块630用于通过主生产方和/或更新生产方,根据相应的标签信息输出生产消息;
管理模块640用于通过主代理程序,根据主题信息对生产消息进行管理。
在一可选的实施方式中,标签模块610具体用于:确定每个泳道的泳道名称;通过每个代理程序在服务启动时进行字节码增强的拦截处理,以根据每个泳道名称确定每个泳道的标签信息。
在一可选的实施方式中,订阅模块620具体用于:基于控制面程序在Kafka集群中进行的并行消费,确定每个消费方的身份信息与队列主题之间的关联关系;通过控制面程序对关联关系进行反转和持久化处理,得到队列主题与对应的身份信息之间的对应关系;确定每个消费方所处的泳道的标签信息与消费方的身份信息之间的转换关系,以基于对应关系和转换关系确定队列主题与消费方所处的泳道的标签信息之间的映射关系;基于主消费方对应的主代理程序进行字节码的增强处理,拦截业务方的主题订阅需求;通过主代理程序,基于传输协议向控制面程序发送对应的主题订阅请求;通过控制面程序,根据主题订阅需求在多个映射关系中进行筛选,以确定订阅映射关系作为主题信息;通过控制面程序向主代理程序发送主题信息。
在一可选的实施方式中,订阅模块620还用于:若判定订阅映射关系发生变化,则通过控制面程序确定更新主题信息,并向主代理程序发送更新主题信息。
在一可选的实施方式中,输出模块630具体用于:通过主生产方和/或更新生产方,对生成或接收的初始消息进行检测;若检测到初始消息中具有任意泳道的标签信息,则以初始消息为生产消息;若检测到初始消息中不具有任意泳道的标签信息,则通过主生产方和/或更新生产方,基于字节码增强将所处的泳道的标签信息添加到初始消息中,得到生产消息;通过主生产方和/或更新生产方,向对应的队列主题输出生产消息。
在一可选的实施方式中,消息管理装置600还可以包括标签识别模块,用于通过每个代理程序,对生产消息进行标签识别,得到泳道标签信息;若判定泳道标签信息与当前泳道相符,则通过当前泳道的消费方对生产消息进行消费;若判定泳道标签信息与当前泳道不符,且当前泳道为分支泳道,则通过分支泳道的更新消费方丢弃生产消息。
在一可选的实施方式中,管理模块640具体用于:若判定生产消息的泳道标签信息与当前泳道不符,且当前泳道为主泳道,则通过主代理程序,基于泳道标签信息在主题信息中进行查询;若查询到泳道标签信息在主题信息中具有对应的关联映射关系,则通过主消费方丢弃生产消息,通过泳道标签信息对应的分支泳道中的更新消费方对生产消息进行消费;若未查询到泳道标签信息在主题信息中具有关联映射关系,则通过主消费方对生产消息进行消费。
由于本申请实施例中的消息管理装置600解决问题的原理与前述的消息管理方法的实施例相似,因此本实施例中的消息管理装置600的实施可以参见上述消息管理方法的实施例中的描述,重复之处不再赘述。
本申请实施例还提供了一种计算机可读取存储介质,可读取存储介质中存储有计算机程序指令,计算机程序指令被一处理器读取并运行时,执行本实施例提供的消息管理方法中任一项方法中的步骤。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的框图显示了根据本申请的多个实施例的设备的可能实现的体系架构、功能和操作。在这点上,框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图中的每个方框、以及框图的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本申请的实施例而已,并不用于限制本申请的保护范围,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims (10)

1.一种消息管理方法,其特征在于,所述方法应用于多泳道的Kafka集群中,所述多泳道包括主泳道和至少一个分支泳道;所述主泳道中部署有主生产方和主消费方,所述分支泳道部署有更新生产方,或,所述分支泳道部署有更新生产方和更新消费方,或,所述分支泳道部署有更新消费方;所述方法包括:
基于每个所述泳道中的代理程序进行字节码增强,以确定每个所述泳道的标签信息;
通过与所述Kafka集群连接的控制面程序,确定所述主消费方对应的主代理程序订阅的主题信息;其中,所述主题信息包括队列主题与对应的所述消费方所处的所述泳道的所述标签信息之间的映射关系;
通过所述主生产方和/或所述更新生产方,根据相应的所述标签信息输出生产消息;
通过所述主代理程序,根据所述主题信息对所述生产消息进行管理。
2.根据权利要求1所述的方法,其特征在于,所述基于每个所述泳道中的代理程序进行字节码增强,以确定每个所述泳道的标签信息,包括:
确定每个所述泳道的泳道名称;
通过每个所述代理程序在服务启动时进行字节码增强的拦截处理,以根据每个所述泳道名称确定每个所述泳道的标签信息。
3.根据权利要求1所述的方法,其特征在于,所述通过与所述Kafka集群连接的控制面程序,确定所述主消费方对应的主代理程序订阅的主题信息,包括:
基于所述控制面程序在所述Kafka集群中进行的并行消费,确定每个所述消费方的身份信息与所述队列主题之间的关联关系;
通过所述控制面程序对所述关联关系进行反转和持久化处理,得到所述队列主题与对应的所述身份信息之间的对应关系;
确定每个所述消费方所处的所述泳道的所述标签信息与所述消费方的所述身份信息之间的转换关系,以基于所述对应关系和所述转换关系确定所述队列主题与所述消费方所处的所述泳道的所述标签信息之间的映射关系;
基于所述主消费方对应的所述主代理程序进行字节码的增强处理,拦截业务方的主题订阅需求;
通过所述主代理程序,基于传输协议向所述控制面程序发送对应的主题订阅请求;
通过所述控制面程序,根据所述主题订阅需求在多个所述映射关系中进行筛选,以确定订阅映射关系作为所述主题信息;
通过所述控制面程序向所述主代理程序发送所述主题信息。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
若判定所述订阅映射关系发生变化,则通过所述控制面程序确定更新主题信息,并向所述主代理程序发送所述更新主题信息。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述通过所述主生产方和/或所述更新生产方,根据相应的所述标签信息输出生产消息,包括:
通过所述主生产方和/或所述更新生产方,对生成或接收的初始消息进行检测;
若检测到所述初始消息中具有任意所述泳道的所述标签信息,则以所述初始消息为所述生产消息;
若检测到所述初始消息中不具有任意所述泳道的标签信息,则通过所述主生产方和/或所述更新生产方,基于字节码增强将所处的所述泳道的所述标签信息添加到所述初始消息中,得到所述生产消息;
通过所述主生产方和/或所述更新生产方,向对应的所述队列主题输出所述生产消息。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
通过每个所述代理程序,对所述生产消息进行标签识别,得到泳道标签信息;
若判定所述泳道标签信息与当前泳道相符,则通过所述当前泳道的所述消费方对所述生产消息进行消费;
若判定所述泳道标签信息与所述当前泳道不符,且所述当前泳道为所述分支泳道,则通过所述分支泳道的更新消费方丢弃所述生产消息。
7.根据权利要求6所述的方法,其特征在于,所述通过所述主代理程序,根据所述主题信息对所述生产消息进行管理,包括:
若判定所述生产消息的所述泳道标签信息与所述当前泳道不符,且所述当前泳道为所述主泳道,则通过所述主代理程序,基于所述泳道标签信息在所述主题信息中进行查询;
若查询到所述泳道标签信息在所述主题信息中具有对应的关联映射关系,则通过所述主消费方丢弃所述生产消息,通过所述泳道标签信息对应的所述分支泳道中的所述更新消费方对所述生产消息进行消费;
若未查询到所述泳道标签信息在所述主题信息中具有所述关联映射关系,则通过所述主消费方对所述生产消息进行消费。
8.一种消息管理装置,其特征在于,所述装置应用于多泳道的Kafka集群中,所述多泳道包括主泳道和至少一个分支泳道;所述主泳道中部署有主生产方和主消费方,所述分支泳道部署有更新生产方,或,所述分支泳道部署有更新生产方和更新消费方,或,所述分支泳道部署有更新消费方;所述装置包括标签模块、订阅模块、输出模块和管理模块;
所述标签模块用于基于每个所述泳道中的代理程序进行字节码增强,以确定每个所述泳道的标签信息;
所述订阅模块用于通过与所述Kafka集群连接的控制面程序,确定所述主消费方对应的主代理程序订阅的主题信息;其中,所述主题信息包括队列主题与对应的所述消费方所处的所述泳道的所述标签信息之间的映射关系;
所述输出模块用于通过所述主生产方和/或所述更新生产方,根据相应的所述标签信息输出生产消息;
所述管理模块用于通过所述主代理程序,根据所述主题信息对所述生产消息进行管理。
9.一种电子设备,其特征在于,所述电子设备包括存储器和处理器,所述存储器中存储有程序指令,所述处理器运行所述程序指令时,执行权利要求1-7中任一项所述方法中的步骤。
10.一种计算机可读取存储介质,其特征在于,所述可读取存储介质中存储有计算机程序指令,所述计算机程序指令被一处理器运行时,执行权利要求1-7任一项所述方法中的步骤。
CN202410015537.9A 2024-01-05 2024-01-05 消息管理方法、装置、电子设备及计算机可读取存储介质 Active CN117527880B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410015537.9A CN117527880B (zh) 2024-01-05 2024-01-05 消息管理方法、装置、电子设备及计算机可读取存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202410015537.9A CN117527880B (zh) 2024-01-05 2024-01-05 消息管理方法、装置、电子设备及计算机可读取存储介质

Publications (2)

Publication Number Publication Date
CN117527880A true CN117527880A (zh) 2024-02-06
CN117527880B CN117527880B (zh) 2024-04-09

Family

ID=89755342

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202410015537.9A Active CN117527880B (zh) 2024-01-05 2024-01-05 消息管理方法、装置、电子设备及计算机可读取存储介质

Country Status (1)

Country Link
CN (1) CN117527880B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150294253A1 (en) * 2014-04-15 2015-10-15 Raveeshkumar Bhat Point of entry on user interface
CN108965355A (zh) * 2017-05-18 2018-12-07 北京京东尚科信息技术有限公司 用于数据传输的方法、装置及计算机可读存储介质
CN110942387A (zh) * 2018-09-25 2020-03-31 上海宝信软件股份有限公司 基于微服务的电票业务功能构建方法和系统
CN111770172A (zh) * 2020-06-29 2020-10-13 深圳前海微众银行股份有限公司 消息中间件消费代理方法、装置、代理服务器及存储介质
CN112000909A (zh) * 2020-10-29 2020-11-27 南京研利科技有限公司 用于浏览器信息处理算的方法、计算设备和存储介质
CN113360301A (zh) * 2021-07-02 2021-09-07 北京奇艺世纪科技有限公司 一种消息传输系统及方法
CN114363407A (zh) * 2021-12-24 2022-04-15 上海软素科技有限公司 消息服务方法及装置、可读存储介质及电子设备
CN115878341A (zh) * 2021-09-28 2023-03-31 青岛海尔科技有限公司 消息的订阅方法和装置、存储介质及电子装置
CN116455832A (zh) * 2023-04-11 2023-07-18 甄蓓蓓 一种基于泳道方式的消息队列消费顺序的方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150294253A1 (en) * 2014-04-15 2015-10-15 Raveeshkumar Bhat Point of entry on user interface
CN108965355A (zh) * 2017-05-18 2018-12-07 北京京东尚科信息技术有限公司 用于数据传输的方法、装置及计算机可读存储介质
CN110942387A (zh) * 2018-09-25 2020-03-31 上海宝信软件股份有限公司 基于微服务的电票业务功能构建方法和系统
CN111770172A (zh) * 2020-06-29 2020-10-13 深圳前海微众银行股份有限公司 消息中间件消费代理方法、装置、代理服务器及存储介质
CN112000909A (zh) * 2020-10-29 2020-11-27 南京研利科技有限公司 用于浏览器信息处理算的方法、计算设备和存储介质
CN113360301A (zh) * 2021-07-02 2021-09-07 北京奇艺世纪科技有限公司 一种消息传输系统及方法
CN115878341A (zh) * 2021-09-28 2023-03-31 青岛海尔科技有限公司 消息的订阅方法和装置、存储介质及电子装置
CN114363407A (zh) * 2021-12-24 2022-04-15 上海软素科技有限公司 消息服务方法及装置、可读存储介质及电子设备
CN116455832A (zh) * 2023-04-11 2023-07-18 甄蓓蓓 一种基于泳道方式的消息队列消费顺序的方法

Also Published As

Publication number Publication date
CN117527880B (zh) 2024-04-09

Similar Documents

Publication Publication Date Title
CN110311983B (zh) 服务请求的处理方法、装置、系统、电子设备及存储介质
US8856800B2 (en) Service-level enterprise service bus load balancing
JP5270697B2 (ja) publish/subscribeメッセージ・ブローカ
US8489733B2 (en) Automatic enterprise service bus deployment at the level of individual services
CN106663033B (zh) 在事务中间件机器环境支持绕域和代理模型并更新服务信息以跨域消息传送的系统和方法
CN109716729A (zh) 动态的基于负载的自动缩放网络安全微服务架构
US20020194287A1 (en) System and method for transmitting data content in a computer network
CN112988423A (zh) 消息消费、消息分发方法、装置、服务器及存储介质
CN101296176B (zh) 一种基于群集的数据处理方法和装置
CN114172966B (zh) 单元化架构下的服务调用方法、服务处理方法及装置
CN109783151B (zh) 规则变更的方法和装置
JP2012146226A (ja) アプリケーションサーバ管理システム、アプリケーションサーバ管理方法、管理装置、アプリケーションサーバ、および、コンピュータ・プログラム
US7966394B1 (en) Information model registry and brokering in virtualized environments
CN113342472A (zh) 微服务集群创建方法、装置、电子设备及可读存储介质
CN110851248A (zh) 异步任务数据处理方法、装置及计算机可读存储介质
CN114124968A (zh) 基于行情数据的负载均衡方法、装置、设备及介质
US8589427B2 (en) Sensing and responding to service discoveries
US20070143302A1 (en) Inter-node communication in a distributed system
CN112200680B (zh) 区块链节点管理方法、装置、计算机以及可读存储介质
US20110138452A1 (en) Cross security-domain identity context projection within a computing environment
CN117527880B (zh) 消息管理方法、装置、电子设备及计算机可读取存储介质
CN115834668B (zh) 集群节点控制方法、装置、设备、存储介质和程序产品
CN111183622B (zh) 区块链系统、信息共享方法及相关设备
Schulz et al. Cohesion—a microkernel based desktop grid platform for irregular task-parallel applications
KR20110048651A (ko) 휴대용 단말기에서 상황 정보 추론을 이용한 지능형 서비스 제공 방법 및 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant