CN115174423A - Kafka的查询方法、装置、存储介质及设备 - Google Patents
Kafka的查询方法、装置、存储介质及设备 Download PDFInfo
- Publication number
- CN115174423A CN115174423A CN202210814063.5A CN202210814063A CN115174423A CN 115174423 A CN115174423 A CN 115174423A CN 202210814063 A CN202210814063 A CN 202210814063A CN 115174423 A CN115174423 A CN 115174423A
- Authority
- CN
- China
- Prior art keywords
- user
- topic
- cluster
- name
- query
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000012545 processing Methods 0.000 claims abstract description 22
- 238000009825 accumulation Methods 0.000 claims description 12
- 238000005192 partition Methods 0.000 claims description 7
- 238000004458 analytical method Methods 0.000 claims description 3
- 235000014510 cooky Nutrition 0.000 description 6
- 238000013523 data management Methods 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000013480 data collection Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/22—Parsing or analysis of headers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
- H04L47/76—Admission control; Resource allocation using dynamic resource allocation, e.g. in-call renegotiation requested by the user or requested by the network in response to changing network conditions
Abstract
本申请公开了一种Kafka的查询方法、装置、存储介质及设备,对查询请求进行解析得到各个信息项;当标签数据库中包含前端本地预存的身份标签时,从预设的集群地址数据库中获取集群地址;访问集群地址所属的集群,得到集群的多个topic名称、与每个topic名称对应的用户名单;与用户预先输入的topic名称对应的用户名单中包含身份标签所示的用户名,读取集群中的目标topic数据得到作业流;依据处理顺序依次向前端发送各个消息,与现有技术相比,发送给前端的各个消息均来自目标topic数据,而不是集群中的全部topic数据,避免了集群下除目标topic数据之外的其他topic数据的泄露。
Description
技术领域
本申请涉及数据查询技术领域,尤其涉及Kafka的查询方法、装置、存储介质及设备。
背景技术
随着kafka集群(本申请简称为集群)的广泛运用,通常集群中会存在很多主题(topic)数据,用户在使用topic数据时,需要通过访问集群获取。
在现有的方式中,用户向集群发送查询的请求,集群获取所有的topic数据,并以图表的形式向用户展示topic数据,用户可根据需求选择topic数据进行使用。
由于用户在查询topic数据时,得到的是所有的topic数据,除了用户查询的topic数据,用户还能获取其他的topic数据,因此,其他的topic数据存在泄露的风险。
发明内容
本申请提供了一种Kafka的查询方法、装置、存储介质及设备,目的在于避免集群下除目标topic数据之外的其他topic数据的泄露。
为了实现上述目的,本申请提供了以下技术方案:
一种Kafka的查询方法,包括:
在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项;所述各个信息项至少包括前端本地预存的身份标签,以及用户预先输入的项目ID、topic名称、数据源名称、操作环境;
当标签数据库中包含所述前端本地预存的所述身份标签时,从预设的集群地址数据库中,获取与所述项目ID对应、且与所述topic名称对应、且与所述数据源名称对应、且与所述操作环境对应的集群地址;
访问所述集群地址所属的集群,得到所述集群的多个topic名称、与每个所述topic名称对应的用户名单;
当与所述用户预先输入的所述topic名称对应的用户名单中,包含所述身份标签所示的用户名时,读取所述集群中的目标topic数据,得到作业流;所述目标topic数据包括所述topic名称与用户预先输入的所述topic名称相同的topic数据;所述作业流包括多个消息,以及各个所述消息的处理顺序;
依据各个所述消息的处理顺序,依次向所述前端发送各个所述消息。
可选的,所述在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项之后,还包括:
当所述标签数据库中未包含所述前端本地预存的所述身份标签时,向所述前端发送查询失败的提示,以使所述前端通过预设界面向所述用户展示查询失败的提示。
可选的,所述访问所述集群地址所属的集群,得到所述集群的多个topic名称、与每个所述topic名称对应的用户名单之后,还包括:
当与所述用户预先输入的所述topic名称对应的用户名单中,未包含所述身份标签所示的所述用户名时,向所述前端发送无权限查询的提示,以使所述前端通过所述预设界面向所述用户展示无权限查询的提示。
可选的,所述依据各个所述消息的处理顺序,依次向所述前端发送各个所述消息之后,还包括:
在向所述前端发送各个所述消息的过程中,统计所述作业流中还未被发送的消息的数量,得到所述目标topic数据的消费堆积量;
对于所述作业流中的每个所述消息,从所述集群中获取所述消息的属性信息;其中,所述属性信息包括但不限于为:组标识、所处分区、发布时间、数据源;
将所述消费堆积量,以及各个所述消息的所述属性信息发送给所述前端,以使所述前端通过所述预设界面向所述用户展示所述消费堆积量,以及各个所述消息的所述属性信息。
一种Kafka的查询装置,包括:
解析单元,用于在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项;所述各个信息项至少包括前端本地预存的身份标签,以及用户预先输入的项目ID、topic名称、数据源名称、操作环境;
获取单元,用于当标签数据库中包含所述前端本地预存的所述身份标签时,从预设的集群地址数据库中,获取与所述项目ID对应、且与所述topic名称对应、且与所述数据源名称对应、且与所述操作环境对应的集群地址;
访问单元,用于访问所述集群地址所属的集群,得到所述集群的多个topic名称、与每个所述topic名称对应的用户名单;
读取单元,用于当与所述用户预先输入的所述topic名称对应的用户名单中,包含所述身份标签所示的用户名时,读取所述集群中的目标topic数据,得到作业流;所述目标topic数据包括所述topic名称与用户预先输入的所述topic名称相同的topic数据;所述作业流包括多个消息,以及各个所述消息的处理顺序;
发送单元,用于依据各个所述消息的处理顺序,依次向所述前端发送各个所述消息。
可选的,还包括:
当所述标签数据库中未包含所述前端本地预存的所述身份标签时,向所述前端发送查询失败的提示,以使所述前端通过预设界面向所述用户展示查询失败的提示。
可选的,还包括:
当与所述用户预先输入的所述topic名称对应的用户名单中,未包含所述身份标签所示的所述用户名时,向所述前端发送无权限查询的提示,以使所述前端通过所述预设界面向所述用户展示无权限查询的提示。
可选的,还包括:
在向所述前端发送各个所述消息的过程中,统计所述作业流中还未被发送的消息的数量,得到所述目标topic数据的消费堆积量;
对于所述作业流中的每个所述消息,从所述集群中获取所述消息的属性信息;其中,所述属性信息包括但不限于为:组标识、所处分区、发布时间、数据源;
将所述消费堆积量,以及各个所述消息的所述属性信息发送给所述前端,以使所述前端通过所述预设界面向所述用户展示所述消费堆积量,以及各个所述消息的所述属性信息。
一种计算机可读存储介质,所述计算机可读存储介质包括存储的程序,其中,所述程序执行所述的Kafka的查询方法。
一种Kafka的查询设备,包括:处理器、存储器和总线;所述处理器与所述存储器通过所述总线连接;
所述存储器用于存储程序,所述处理器用于运行程序,其中,所述程序运行时执行所述的Kafka的查询方法。
本申请提供的技术方案,在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项;当标签数据库中包含前端本地预存的身份标签时,从预设的集群地址数据库中,获取与项目ID对应、且与topic名称对应、且与数据源名称对应、且与操作环境对应的集群地址;访问集群地址所属的集群,得到集群的多个topic名称、与每个topic名称对应的用户名单;当与用户预先输入的topic名称对应的用户名单中,包含身份标签所示的用户名时,读取集群中的目标topic数据,得到作业流;依据各个消息的处理顺序,依次向前端发送各个消息,与现有技术相比,发送给前端的各个消息均来自目标topic数据,而不是集群中的全部topic数据,避免了集群下除目标topic数据之外的其他topic数据的泄露。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种Kafka的查询方法的流程图;
图2为本申请实施例提供的另一种Kafka的查询方法的流程图;
图3为本申请实施例提供的一种Kafka的查询装置的架构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
如图1所示,为本申请实施例提供的一种Kafka的查询方法的流程图,应用于服务器,包括:
S101:在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项。
其中,各个信息项至少包括前端本地预存的身份标签,以及用户预先输入的项目ID、topic名称、数据源名称、操作环境。身份标签包括cookie信息和令牌(token)信息中的任意一项。在本申请实施例中,身份标签基于用户(即前端的使用者)的用户名,以及与用户名对应的密码预先生成得到。
可选的,用户在预设前端界面上选择统计类型(例如topic消费堆积)、组件(例如数据采集、数据集成、流计算作业等)、项目ID和topic名称、数据源名称、环境等后,前端通过负载均衡(Load Balance,LB)的分流后,将查询请求发送至服务器。
需要说明的是,对查询请求进行解析的具体实现方式,为本领域人员公知的常识,这里不再赘述。
S102:判断标签数据库中是否包含前端本地预存的身份标签。
若标签数据库中包含前端本地预存的身份标签,则执行S103,否则执行S104。
可选的,若身份标签为cookie信息,则判断标签数据库中是否包含前端预存的cookie信息。
若身份标签为令牌信息,则判断标签数据库中是否包含前端预存的令牌信息。
需要说明的是,当前端首次携带用户名和密码访问服务器时,服务器会基于用户名和密码生成身份标签,并将身份标签存储在标签数据库后,将身份标签发送给前端,当前端再次访问服务器时(也就是说向服务器发送请求时)会自动携带身份标签。
需要强调的是,通过判断标签数据库中是否包含前端本地预存的身份标签,目的是检验用户是否有查询权限,若标签数据库中包含前端本地预存的身份标签,则代表校验通过具有查询权限,若标签数据库中未包含前端本地预存的身份标签,则代表检验未通过不具有查询权限。
可选的,当身份标签为cookie信息时,为了减少服务器的负载压力,可将cookie信息发送的认证系统进行认证,认证系统由auth-server(服务器)和auth-client(客户端)组成,auth-client包括拦截器,当接收到前端发送的查询请求时,拦截器调用auth-client中的SDK,SDK将cookie信息传入认证系统进行认证。
可选的,当身份标签为令牌信息时,为了减少服务器的负载压力,可在认证系统中完成对令牌信息的校验,首先Kafka-query服务申请AK(身份的标识)、SK(密钥),将AK、SK发送至auth-server,得到auth-server返回的目标令牌信息后,将目标令牌信息和AK发送至数据管理接口,以使数据管理接口比较目标令牌信息和令牌信息是否一致(即对令牌信息进行校验)。
S103:从预设的集群地址数据库中,获取与用户预先输入的项目ID对应、且与用户预先输入的topic名称对应、且与用户预先输入的数据源名称对应、且用户预先输入的操作环境对应的集群地址。
执行S103之后,继续执行S105。
其中,集群地址数据库中包括多个集群地址,与每个集群地址对应的项目ID、topic名称、数据源名称、操作环境。
可选的,为了减少服务器的负载压力,可利用数据管理接口查询符合预设条件的集群地址。
S104:向前端发送查询失败的提示,以使前端通过预设界面向用户展示查询失败的提示。
其中,在标签数据库中未包含前端本地预存的身份标签的情况下,表示不具有查询权限,则向前端发送查询失败的提示,以使前端通过预设界面向用户展示查询失败的提示。
S105:访问集群地址所属的集群,得到集群的消费者权限信息。
其中,消费者权限信息包括多个topic名称,与每个topic名称对应的用户名单。
S106:判断与用户预先输入的topic名称对应的用户名单中,是否包含身份标签所示的用户名。
若与用户预先输入的topic名称对应的用户名单中,包含身份标签所示的用户名,则执行S107,否则执行S108。
具体的,假设与topic名称对应的名单为:张三、李四、王五,身份标签所示的用户名为张三,判断与用户预先输入的topic名称对应的名单中,是否包含身份标签所示的用户名,显然,用户预先输入的topic名称对应的名单中,包含身份标签所示的用户名,为此,继续执行S107。
具体的,假设与topic名称对应的名单为:张三、李四、王五,身份标签所示的用户名为张四,判断与用户预先输入的topic名称对应的名单中,是否包含身份标签所示的用户名,显然,用户预先输入的topic名称对应的名单中,未包含身份标签所示的用户名,为此,继续执行S108。
S107:读取集群中的目标topic数据,得到作业流。
其中,目标topic数据包括topic名称与用户预先输入的topic名称相同的topic数据。此外,所谓的作业流包括多个消息,以及各个消息的处理顺序。
S108:向前端发送无权限查询的提示,以使前端通过预设界面向用户展示无权限查询的提示。
需要说明的是,当用户预先输入的topic名称对应的用户名单中,未包含身份标签所示的用户名,则向前端发送无权限查询的提示,以使前端通过预设界面向用户展示无权限查询的提示。
S109:依据各个消息的处理顺序,依次向前端发送各个消息。
具体的,假设有三个消息,分别为第一消息、第二消息、第三消息,按照第一消息、第二消息、第三消息的处理顺序,向前端发送第一消息;向前端发送第二消息;向前端发送第三消息。
S110:在向前端发送各个消息的过程中,统计作业流中还未被发送的消息的数量,得到目标topic数据的消费堆积量。
S111:对于作业流中的每个消息,从集群中获取消息的属性信息。
其中,属性信息包括但不限于为:组标识(group id)、所处分区(即保存消息的物理内存地址)、发布时间(可以理解为生成时间)、数据源(即消息的生产者)。
S112:将消费堆积量,以及各个消息的属性信息发送给前端,以使前端通过预设界面向用户展示消费堆积量,以及各个消息的属性信息。
其中,为了减少服务器负载压力,可利用预设的流计算接口,执行上述提及的S107-S112流程。
综上所述,若与用户预先输入的topic名称对应的用户名单中,包含身份标签所示的用户名,则用户具有查询目标topic数据的权限,读取集群中的目标topic数据,与现有技术相比,发送给前端的各个消息均来自目标topic数据,而不是集群中的全部topic数据,因此,避免了集群下除目标topic数据之外的其他topic数据的泄露。
如图2所示,为本申请实施例提供的另一种Kafka的查询方法的流程图,包括:
S201:在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项。
其中,各个信息项至少包括前端本地预存的身份标签,以及用户预先输入的项目ID、topic名称、数据源名称、操作环境。
S202:当标签数据库中包含前端本地预存的身份标签时,从预设的集群地址数据库中,获取与项目ID对应、且与topic名称对应、且与数据源名称对应、且与操作环境对应的集群地址。
S203:访问集群地址所属的集群,得到集群的多个topic名称、与每个topic名称对应的用户名单。
S204:当与用户预先输入的topic名称对应的用户名单中,包含身份标签所示的用户名时,读取集群中的目标topic数据,得到作业流。
其中,目标topic数据包括topic名称与用户预先输入的topic名称相同的topic数据;作业流包括多个消息,以及各个消息的处理顺序。
S205:依据各个消息的处理顺序,依次向前端发送各个消息。
综上所述,若与用户预先输入的topic名称对应的用户名单中,包含身份标签所示的用户名,则用户具有查询目标topic数据的权限,读取集群中的目标topic数据,与现有技术相比,发送给前端的各个消息均来自目标topic数据,而不是集群中的全部topic数据,因此,避免了集群下除目标topic数据之外的其他topic数据的泄露。
如图3所示,为本申请实施例提供的一种Kafka的查询装置的架构示意图,包括:
解析单元100,用于在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项;各个信息项至少包括前端本地预存的身份标签,以及用户预先输入的项目ID、topic名称、数据源名称、操作环境。
解析单元100,还用于当标签数据库中未包含前端本地预存的身份标签时,向前端发送查询失败的提示,以使前端通过预设界面向用户展示查询失败的提示。
获取单元200,用于当标签数据库中包含前端本地预存的身份标签时,从预设的集群地址数据库中,获取与项目ID对应、且与topic名称对应、且与数据源名称对应、且与操作环境对应的集群地址。
访问单元300,用于访问集群地址所属的集群,得到集群的多个topic名称、与每个topic名称对应的用户名单。
访问单元300,还用于当与用户预先输入的topic名称对应的用户名单中,未包含身份标签所示的用户名时,向前端发送无权限查询的提示,以使前端通过预设界面向用户展示无权限查询的提示。
读取单元400,用于当与用户预先输入的topic名称对应的用户名单中,包含身份标签所示的用户名时,读取集群中的目标topic数据,得到作业流;目标topic数据包括topic名称与用户预先输入的topic名称相同的topic数据;作业流包括多个消息,以及各个消息的处理顺序。
发送单元500,用于依据各个消息的处理顺序,依次向前端发送各个消息。
发送单元500,还用于在向前端发送各个消息的过程中,统计作业流中还未被发送的消息的数量,得到目标topic数据的消费堆积量;对于作业流中的每个消息,从集群中获取消息的属性信息;其中,属性信息包括但不限于为:组标识、所处分区、发布时间、数据源;将消费堆积量,以及各个消息的属性信息发送给前端,以使前端通过预设界面向用户展示消费堆积量,以及各个消息的属性信息。
综上所述,若与用户预先输入的topic名称对应的用户名单中,包含身份标签所示的用户名,则用户具有查询目标topic数据的权限,读取集群中的目标topic数据,与现有技术相比,发送给前端的各个消息均来自目标topic数据,而不是集群中的全部topic数据,因此,避免了集群下除目标topic数据之外的其他topic数据的泄露。
本申请还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的程序,其中,程序执行上述本申请提供的Kafka的查询方法。
本申请还提供了一种Kafka的查询设备,包括:处理器、存储器和总线。处理器与存储器通过总线连接,存储器用于存储程序,处理器用于运行程序,其中,程序运行时执行上述本申请提供的Kafka的查询方法,包括如下步骤:
在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项;所述各个信息项至少包括前端本地预存的身份标签,以及用户预先输入的项目ID、topic名称、数据源名称、操作环境;
当标签数据库中包含所述前端本地预存的所述身份标签时,从预设的集群地址数据库中,获取与所述项目ID对应、且与所述topic名称对应、且与所述数据源名称对应、且与所述操作环境对应的集群地址;
访问所述集群地址所属的集群,得到所述集群的多个topic名称、与每个所述topic名称对应的用户名单;
当与所述用户预先输入的所述topic名称对应的用户名单中,包含所述身份标签所示的用户名时,读取所述集群中的目标topic数据,得到作业流;所述目标topic数据包括所述topic名称与用户预先输入的所述topic名称相同的topic数据;所述作业流包括多个消息,以及各个所述消息的处理顺序;
依据各个所述消息的处理顺序,依次向所述前端发送各个所述消息。
可选的,所述在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项之后,还包括:
当所述标签数据库中未包含所述前端本地预存的所述身份标签时,向所述前端发送查询失败的提示,以使所述前端通过预设界面向所述用户展示查询失败的提示。
可选的,所述访问所述集群地址所属的集群,得到所述集群的多个topic名称、与每个所述topic名称对应的用户名单之后,还包括:
当与所述用户预先输入的所述topic名称对应的用户名单中,未包含所述身份标签所示的所述用户名时,向所述前端发送无权限查询的提示,以使所述前端通过所述预设界面向所述用户展示无权限查询的提示。
可选的,所述依据各个所述消息的处理顺序,依次向所述前端发送各个所述消息之后,还包括:
在向所述前端发送各个所述消息的过程中,统计所述作业流中还未被发送的消息的数量,得到所述目标topic数据的消费堆积量;
对于所述作业流中的每个所述消息,从所述集群中获取所述消息的属性信息;其中,所述属性信息包括但不限于为:组标识、所处分区、发布时间、数据源;
将所述消费堆积量,以及各个所述消息的所述属性信息发送给所述前端,以使所述前端通过所述预设界面向所述用户展示所述消费堆积量,以及各个所述消息的所述属性信息。
本申请实施例方法所述的功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算设备可读取存储介质中。基于这样的理解,本申请实施例对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一台计算设备(可以是个人计算机,服务器,移动计算设备或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器、随机存取存储器、磁碟或者光盘等各种可以存储程序代码的介质。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种Kafka的查询方法,其特征在于,包括:
在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项;所述各个信息项至少包括前端本地预存的身份标签,以及用户预先输入的项目ID、topic名称、数据源名称、操作环境;
当标签数据库中包含所述前端本地预存的所述身份标签时,从预设的集群地址数据库中,获取与所述项目ID对应、且与所述topic名称对应、且与所述数据源名称对应、且与所述操作环境对应的集群地址;
访问所述集群地址所属的集群,得到所述集群的多个topic名称、与每个所述topic名称对应的用户名单;
当与所述用户预先输入的所述topic名称对应的用户名单中,包含所述身份标签所示的用户名时,读取所述集群中的目标topic数据,得到作业流;所述目标topic数据包括所述topic名称与用户预先输入的所述topic名称相同的topic数据;所述作业流包括多个消息,以及各个所述消息的处理顺序;
依据各个所述消息的处理顺序,依次向所述前端发送各个所述消息。
2.根据权利要求1所述的方法,其特征在于,所述在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项之后,还包括:
当所述标签数据库中未包含所述前端本地预存的所述身份标签时,向所述前端发送查询失败的提示,以使所述前端通过预设界面向所述用户展示查询失败的提示。
3.根据权利要求1所述的方法,其特征在于,所述访问所述集群地址所属的集群,得到所述集群的多个topic名称、与每个所述topic名称对应的用户名单之后,还包括:
当与所述用户预先输入的所述topic名称对应的用户名单中,未包含所述身份标签所示的所述用户名时,向所述前端发送无权限查询的提示,以使所述前端通过所述预设界面向所述用户展示无权限查询的提示。
4.根据权利要求1所述的方法,其特征在于,所述依据各个所述消息的处理顺序,依次向所述前端发送各个所述消息之后,还包括:
在向所述前端发送各个所述消息的过程中,统计所述作业流中还未被发送的消息的数量,得到所述目标topic数据的消费堆积量;
对于所述作业流中的每个所述消息,从所述集群中获取所述消息的属性信息;其中,所述属性信息包括但不限于为:组标识、所处分区、发布时间、数据源;
将所述消费堆积量,以及各个所述消息的所述属性信息发送给所述前端,以使所述前端通过所述预设界面向所述用户展示所述消费堆积量,以及各个所述消息的所述属性信息。
5.一种Kafka的查询装置,其特征在于,包括:
解析单元,用于在接收到前端发送的查询请求时,对查询请求进行解析,得到各个信息项;所述各个信息项至少包括前端本地预存的身份标签,以及用户预先输入的项目ID、topic名称、数据源名称、操作环境;
获取单元,用于当标签数据库中包含所述前端本地预存的所述身份标签时,从预设的集群地址数据库中,获取与所述项目ID对应、且与所述topic名称对应、且与所述数据源名称对应、且与所述操作环境对应的集群地址;
访问单元,用于访问所述集群地址所属的集群,得到所述集群的多个topic名称、与每个所述topic名称对应的用户名单;
读取单元,用于当与所述用户预先输入的所述topic名称对应的用户名单中,包含所述身份标签所示的用户名时,读取所述集群中的目标topic数据,得到作业流;所述目标topic数据包括所述topic名称与用户预先输入的所述topic名称相同的topic数据;所述作业流包括多个消息,以及各个所述消息的处理顺序;
发送单元,用于依据各个所述消息的处理顺序,依次向所述前端发送各个所述消息。
6.根据权利要求5所述的装置,其特征在于,还包括:
当所述标签数据库中未包含所述前端本地预存的所述身份标签时,向所述前端发送查询失败的提示,以使所述前端通过预设界面向所述用户展示查询失败的提示。
7.根据权利要求5所述的装置,其特征在于,还包括:
当与所述用户预先输入的所述topic名称对应的用户名单中,未包含所述身份标签所示的所述用户名时,向所述前端发送无权限查询的提示,以使所述前端通过所述预设界面向所述用户展示无权限查询的提示。
8.根据权利要求5所述的装置,其特征在于,还包括:
在向所述前端发送各个所述消息的过程中,统计所述作业流中还未被发送的消息的数量,得到所述目标topic数据的消费堆积量;
对于所述作业流中的每个所述消息,从所述集群中获取所述消息的属性信息;其中,所述属性信息包括但不限于为:组标识、所处分区、发布时间、数据源;
将所述消费堆积量,以及各个所述消息的所述属性信息发送给所述前端,以使所述前端通过所述预设界面向所述用户展示所述消费堆积量,以及各个所述消息的所述属性信息。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的程序,其中,所述程序执行权利要求1-4任一所述的Kafka的查询方法。
10.一种Kafka的查询设备,其特征在于,包括:处理器、存储器和总线;所述处理器与所述存储器通过所述总线连接;
所述存储器用于存储程序,所述处理器用于运行程序,其中,所述程序运行时执行权利要求1-4任一所述的Kafka的查询方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210814063.5A CN115174423A (zh) | 2022-07-12 | 2022-07-12 | Kafka的查询方法、装置、存储介质及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210814063.5A CN115174423A (zh) | 2022-07-12 | 2022-07-12 | Kafka的查询方法、装置、存储介质及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115174423A true CN115174423A (zh) | 2022-10-11 |
Family
ID=83493567
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210814063.5A Pending CN115174423A (zh) | 2022-07-12 | 2022-07-12 | Kafka的查询方法、装置、存储介质及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115174423A (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109325200A (zh) * | 2018-07-25 | 2019-02-12 | 北京京东尚科信息技术有限公司 | 获取数据的方法、装置及计算机可读存储介质 |
CN109861878A (zh) * | 2019-01-17 | 2019-06-07 | 平安科技(深圳)有限公司 | kafka集群的topic数据的监控方法及相关设备 |
CN110839215A (zh) * | 2018-08-16 | 2020-02-25 | 海能达通信股份有限公司 | 一种集群通信的方法、服务器、终端设备以及存储介质 |
CN111666559A (zh) * | 2020-06-19 | 2020-09-15 | 中信银行股份有限公司 | 一种支持权限管理的数据总线管理方法、装置、电子设备及存储介质 |
CN111756752A (zh) * | 2020-06-24 | 2020-10-09 | 北京金山云网络技术有限公司 | 对数据库的访问权限的控制方法、装置及电子设备 |
CN112202862A (zh) * | 2020-09-23 | 2021-01-08 | 北京明朝万达科技股份有限公司 | 一种基于kafka的集群数据以及文件的同步方法及装置 |
WO2021082073A1 (zh) * | 2019-10-30 | 2021-05-06 | 平安科技(深圳)有限公司 | 存储分区动态选择方法、系统、计算机设备及存储介质 |
-
2022
- 2022-07-12 CN CN202210814063.5A patent/CN115174423A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109325200A (zh) * | 2018-07-25 | 2019-02-12 | 北京京东尚科信息技术有限公司 | 获取数据的方法、装置及计算机可读存储介质 |
CN110839215A (zh) * | 2018-08-16 | 2020-02-25 | 海能达通信股份有限公司 | 一种集群通信的方法、服务器、终端设备以及存储介质 |
CN109861878A (zh) * | 2019-01-17 | 2019-06-07 | 平安科技(深圳)有限公司 | kafka集群的topic数据的监控方法及相关设备 |
WO2021082073A1 (zh) * | 2019-10-30 | 2021-05-06 | 平安科技(深圳)有限公司 | 存储分区动态选择方法、系统、计算机设备及存储介质 |
CN111666559A (zh) * | 2020-06-19 | 2020-09-15 | 中信银行股份有限公司 | 一种支持权限管理的数据总线管理方法、装置、电子设备及存储介质 |
CN111756752A (zh) * | 2020-06-24 | 2020-10-09 | 北京金山云网络技术有限公司 | 对数据库的访问权限的控制方法、装置及电子设备 |
CN112202862A (zh) * | 2020-09-23 | 2021-01-08 | 北京明朝万达科技股份有限公司 | 一种基于kafka的集群数据以及文件的同步方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112367246B (zh) | 消息推送方法、装置、电子设备及存储介质 | |
CN109474578B (zh) | 报文消息校验方法、装置、计算机设备和存储介质 | |
US9792374B2 (en) | Method and system for facilitating terminal identifiers | |
CN111290916B (zh) | 大数据监控方法、装置、设备及计算机可读存储介质 | |
CN110162976B (zh) | 风险评估方法、装置及终端 | |
CN107679718B (zh) | 名单分配方法、设备以及计算机可读存储介质 | |
CN109495467B (zh) | 拦截规则的更新方法、设备及计算机可读存储介质 | |
CN114741396B (zh) | 一种数据服务的处理方法、装置、电子设备及存储介质 | |
CN113204599A (zh) | 基于物联网的设备监测方法及装置、监测设备和存储介质 | |
CN114153688A (zh) | 基于云平台的分布式监控方法及装置 | |
CN113377817A (zh) | 数据处理方法、系统、设备及存储介质 | |
CN112491625A (zh) | 基于即时通讯平台的运维告警方法、装置及设备 | |
CN115689656B (zh) | 基于物联网的广告投放方法、装置、设备及存储介质 | |
CN115174423A (zh) | Kafka的查询方法、装置、存储介质及设备 | |
CN114302351B (zh) | 短信业务处理方法、装置、计算机设备和存储介质 | |
CN110677494B (zh) | 访问响应方法和装置 | |
CN114327693A (zh) | Ab实验方法和系统、终端设备及存储介质 | |
CN114253746A (zh) | 一种基于SaaS的产品应用服务管理方法、装置、设备和介质 | |
CN110580312B (zh) | 数据查询方法、装置及计算机可读存储介质 | |
CN112328450A (zh) | 数据监控方法、装置、计算机设备及存储介质 | |
CN111523849A (zh) | 资源交易的审核方法、装置及服务器 | |
CN113672281A (zh) | 代码差异查询方法、装置、设备及存储介质 | |
CN111260418A (zh) | 一种概率选择标的物的方法、装置、服务器和存储介质 | |
CN107517177B (zh) | 接口授权的方法和装置 | |
CN110933068A (zh) | 黑白名单实时优化方法、装置、服务器及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |