CN111857979A

CN111857979A - 一种分布式系统的信息管理方法、系统、存储介质及设备

Info

Publication number: CN111857979A
Application number: CN202010598727.XA
Authority: CN
Inventors: 苟宏杰
Original assignee: Ultimate Attainment Interactive Network Technical Concern Co ltd In Xiamen
Current assignee: Ultimate Attainment Interactive Network Technical Concern Co ltd In Xiamen
Priority date: 2020-06-28
Filing date: 2020-06-28
Publication date: 2020-10-30
Anticipated expiration: 2040-06-28
Also published as: CN111857979B

Abstract

本发明提出了一种分布式系统的信息管理方法、系统、存储介质及设备，所述方法包括：预先设置用户系统和缓存系统，所述用户系统通过贯穿于分布式系统中所有节点进行信息同步，所述缓存系统用于为分布式系统中所有节点提供数据缓存服务；用户连接网关节点获得认证后，接收用户标识信息，并将所述用户标识信息作为用户系统的ID标识；所述用户系统根据ID标识进行哈希计算和直接取余计算，得到用户节点的位置；根据所述用户节点运行的用户系统提供的负荷值，来决策是否将信息路由至业务节点；信息路由至所述业务节点，进行业务和数据之间的逻辑关系处理，完成一致性事务处理，实现了分布式系统中信息路由数据跨进程访问更方便。

Description

一种分布式系统的信息管理方法、系统、存储介质及设备

技术领域

本发明涉及数据处理技术领域，尤其涉及一种分布式系统的信息管理方法、系统、存储介质及设备。

背景技术

互联网的飞速发展，带来了大数据时代，从而出现了各种各样的云计算服务，其中主要的方案就是分布式系统，如何将数据分散投递至系统中的各节点，是其核心问题之一。目前的各种主流解决方案都是基于不同的哈希算法，在各数据与各节点之间形成映射，然后将数据直接投递至数据库进行存储，然后将数据传送至业务节点进行逻辑处理，而对于整个系统而言，数据跨进程访问较为冗杂，无法实现各节点的数据在分布式系统中同步，从而造成很大的系统负担，且会因为扩容导致节点分布不均匀。

分布式系统对数据的一致性和可用性有很高的要求，如果在扩容过程中，数据不可访问，或者数据不一致，则会影响业务系统的正常运行。因此，数据扩容过程中缓存服务的数据一致性、数据平衡以及持续可用性必须得到保障。

发明内容

鉴于上述状况，实有必要提供一种分布式系统的信息管理方法、系统及存储介质，以解决上述问题。

本发明提供了一种分布式系统的信息管理方法，所述方法包括：

预先设置用户系统和缓存系统，所述用户系统通过贯穿于所述分布式系统中所有节点进行信息同步，所述缓存系统用于为所述分布式系统中所有节点提供数据缓存服务；

用户连接网关节点获得认证后，接收用户标识信息，并将所述用户标识信息作为所述用户系统的ID标识；

所述用户系统根据所述ID标识进行哈希计算和直接取余计算，得到用户节点的位置；

根据所述用户节点运行的所述用户系统提供的负荷值，来决策是否将信息路由至业务节点；

信息路由至所述业务节点，进行业务和数据之间的逻辑关系处理，完成一致性事务处理。

进一步地，所述用户系统通过贯穿于所述分布式系统中所有节点进行信息同步具体包括：

所述用户系统包括一个用户全局进程和一个监控进程，在所述分布式系统中每个节点运行所述用户全局进程和所述监控进程，所述用户全局进程在初始化时为自身创建一个唯一的ID作为所述用户系统在当前节点的身份标识；

所述用户系统通过TCP使相同ID的不同进程信息得到同步，在所述分布式系统中的任一节点都可以向指定ID的用户系统发送信息，其他节点相同ID的所述用户系统将收到信息。

进一步地，所述缓存系统用于为所述分布式系统中所有节点提供数据缓存服务具体包括：

所述缓存系统提供一组对应不同数据分类的常驻进程，后续数据寻址优先访问所属数据分类对应的所述常驻进程；

所述常驻进程通过memcached分布式算法对所述分布式系统中所有节点提供数据缓存服务。

进一步地，后续数据寻址优先访问所属数据分类对应的所述常驻进程后还包括：

当后续数据寻址未找到所属数据分类对应的所述常驻进程时，穿透至预设的存储系统进程数据存储；

所述存储系统包括多个存储节点，所述存储节点通过配置的数据表，生成多个数据管理进程，所述数据管理进程伴随一个文件存储进程；

所述数据管理进程负责消息队列管理，所述文件存储进程负责数据落地。

进一步地，所述信息路由至所述业务节点后还包括：

确认所述业务节点，在所述业务节点的所述用户系统收到信息后，再根据配置选择同步处理还是异步处理。

进一步地，所述进行业务和数据之间的逻辑关系处理，完成一致性事务处理具体包括：

所述业务节点的事物函数进行业务和数据之间的逻辑关系处理，将所述事物函数的程序指令拆分为数据指令和逻辑指令；

当所述事物函数开始时，将在所述事物函数所在的执行进程的进程字典中打上事物唯一性标记。

进一步地，所述数据指令包括增、删、改、查，进程字典标记指令为r、w、d、s；

所述逻辑指令包括时间、进程之间交互通信，进程字典标记指令为e、n。

进一步地，本发明还提供了一种分布式系统中的信息管理系统，所述系统包括：

网关模块，用于用户通过网关节点连接所述分布式系统，用户连接网关节点获得认证成功后，接收用户标识信息，并将所述用户标识信息作为所述用户系统的ID标识；

用户系统模块，用于贯穿所述分布式系统中所有节点进行信息同步，所述用户系统模块根据所述ID标识进行哈希计算和直接取余计算，得到用户节点的位置，根据所述用户节点运行的所述用户系统模块提供的负荷值来决策是否将信息路由至业务节点；

缓存系统模块，用于为所述分布式系统中所有节点提供数据缓存服务；

事物系统模块，用于将信息路由至所述业务节点，进行业务和数据之间的逻辑关系处理，完成一致性事务处理；

存储层模块，所述存储层模块包括多个存储节点，用于生成多个数据管理进程，所述数据管理进程伴随一个文件存储进程；数据管理进程负责消息队列管理，文件进程负责数据落地。

进一步地，本发明还提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如一种分布式系统的信息管理方法中的步骤。

进一步地，本发明还提供了一种设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行时实现如一种分布式系统的信息管理方法中的步骤。

本发明提供的一种分布式系统的信息管理方法、系统、存储介质及设备，通过将用户系统贯穿于所述分布式系统中所有节点进行信息同步，所述用户系统根据所述用户节点运行的所述用户系统提供的负荷值，来决策是否将信息路由至业务节点，所述业务节点进行业务和数据之间的逻辑关系处理，完成一致性事务处理；预设所述缓存系统依附于对应的所述业务节点，所述缓存系统提供一组对应不同数据分类的常驻进程，后续数据寻址优先访问所属数据分类对应的所述常驻进程进数据缓存，当后续数据寻址未找到所属数据分类对应的所述常驻进程时，穿透至预设的存储系统进程数据存储；本发明形成了一套信息从网关节点路由至业务节点，在通过一致性事务处理，数据最终传送到存储节点进行存储的完整分布式系统中信息管理解决方案，同时实现了分布式系统中信息路由数据跨进程访问更方便，加强了数据的提取和写入。

附图说明

图1是本发明的一个实施例中的一种分布式系统的信息管理方法的流程图。

图2是本发明的一个实施例中的一种分布式系统的信息管理方法中步骤S10中缓存系统提供数据缓存服务的流程图。

图3是本发明的一个实施例中的一种分布式系统的信息管理方法中步骤S11中存储系统进行数据存储的流程图。

图4是本发明的一个实施例中的一种分布式系统的信息管理方法中步骤S50中一致性事务处理的流程图。

图5是本发明的一个实施例中的一种分布式系统的信息管理系统的模块示意图。

主要元件符号说明

100 系统

110 网关层模块

120 用户系统模块

130 缓存系统模块

140 事物系统模块

150 存储层模块

如下具体实施方式将结合上述附图进一步说明本发明。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。

除非另有定义，本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本发明。

请参阅图1，本发明提供了一种分布式系统的信息管理方法，所述方法包括：

步骤S10、预先设置用户系统和缓存系统，所述用户系统通过贯穿于所述分布式系统中所有节点进行信息同步，所述缓存系统用于为所述分布式系统中所有节点提供数据缓存服务。

在本实施例中，所述用户系统通过贯穿于所述分布式系统中所有节点进行信息同步具体包括：

所述用户系统在整个集群中通过主从竞争得到一个用户全局进程用于维护状态。所述用户系统包括一个用户全局进程和一个监控进程，在所述分布式系统中每个节点运行所述用户全局进程和所述监控进程，所述用户全局进程在初始化时为自身创建一个唯一的ID作为所述用户系统在当前节点的身份标识。

进一步地，所述用户系统通过TCP使相同ID的不同进程信息得到同步，在所述分布式系统中的任一节点都可以向指定ID的用户系统发送信息，其他节点相同ID的所述用户系统将收到信息。

在本实施例中，如图2所示，所述缓存系统用于为所述分布式系统中所有节点提供数据缓存服务具体包括：

步骤S11、所述缓存系统提供一组对应不同数据分类的常驻进程，后续数据寻址优先访问所属数据分类对应的所述常驻进程。例如，若所述数据分类包括10种类别，则所述缓存系统会生成相对应的10个常驻进程。

步骤S12、所述常驻进程通过memcached分布式算法对所述分布式系统中所有节点提供数据缓存服务。

在本实施例中，所述缓存系统支持对象型和散列型数据格式的数据缓存，也可以理解为支持关系型和非关系型数据格式的数据缓存，数据格式可通过提供的配置进行关系映射。所述缓存系统可以通过运行脚本的决策管理生效时间、落地时间、缓存大小等常规缓存系统的检测常规机制，完成自身维护数据生命周期，也可以通过数据归属ID绑定所述用户系统实现同步生命周期。

进一步地，所述运行脚本通过设计脚本闭区间为一组大括号“{}”，括号第一字段为节点类型，表示在所述分布式系统中的哪一类节点运行；第二字段为执行方式，表示在什么情况下执行；第三字段为代码模块名称，第四字段为函数名称，第五字段为传入参数。所述运行脚本在节点启动的时候解析和运行，如一个tcp服务的启动脚本{[db],init,tcp_server,start,[4040]}表示在类型为db的节点在init初始化的时候，执行tcp_server模块的start函数，参数为4040；类似脚本还支持定义全局字段和本地字段比如{local,filed,value},{global,filed,value}。所述运行脚本主要用于所述分布式系统中的各个服务程序的启动流程控制、动态调用和代码解耦。

进一步地，如图3所示，后续数据寻址优先访问所属数据分类对应的所述常驻进程后还包括：

步骤S13、当后续数据寻址未找到所属数据分类对应的所述常驻进程时，穿透至预设的存储系统进程数据存储。

步骤S14、所述存储系统包括多个存储节点，所述存储节点通过配置的数据表，生成多个数据管理进程，所述数据管理进程伴随一个文件存储进程。

步骤S15、所述数据管理进程负责消息队列管理，所述文件存储进程负责数据落地。

在本实施例中，所述文件存储进程采用了伙伴系统算法(Buddysystem)，把所有的空闲页框分组为11个块链表，每个块链表分别包含大小为1、2、4、8、16、32、64、128、256、512和1024个连续页框的页框块。最大可以申请1024个连续页框，对应4MB大小的连续内存。每个页框块的第一个页框的物理地址是该块大小的整数倍。假设要申请一个256个页框的块，先从256个页框的链表中查找空闲块，如果没有，就去512个页框的链表中找，找到了则将页框块分为2个256个页框的块，一个分配给应用，另外一个移到256个页框的链表中。如果512个页框的链表中仍没有空闲块，继续向1024个页框的链表查找，如果仍然没有，则返回错误。页框块在释放时，会主动将两个连续的页框块合并为一个较大的页框块。

步骤S20、用户连接网关节点获得认证后，接收用户标识信息，并将所述用户标识信息作为所述用户系统的ID标识。所述网关节点的信息可以根据用户系统延展至集群的各个位置。

在本实施例中，所述网关节点还运行一个会话进程，所述分布式系统为所述会话进程增加一个代理机制，即在其进程字典中创建一个位置存储另一个进程的ID，当所述会话进程发现其进程字典中存在所述ID，则将信号转发给对应所述ID的进程。

步骤S30、所述用户系统根据所述ID标识进行哈希计算和直接取余计算，得到用户节点的位置。

在本实施例中，所述用户系统根据所述ID标识进行哈希计算和直接取余计算具体包括：

所述用户系统根据所述ID标识，首先进行哈希计算，然后再通过Dynamo算法进行直接取余计算，最终得出用户节点的位置。例如，节点编号为0，将负责存放编号0-100的数据；节点编号为1，将负责存放编号101-200的数据；节点编号为2，将负责存放编号201-300的数据。所述节点编号对应存放的数据编号的范围值由哈希因子决定。

进一步地，所述用户系统的路由策略不仅只支持单一均衡算法，还支持ID分类、矩阵和组合排列；所述用户系统的ID标识可以是一个对象，其对象特性可以根据对象本身的类别和定义关系决定，在创建生成所述ID标识时，所述用户系统支持配置由指定模块函数提供构建方法。

步骤S40、根据所述用户节点运行的所述用户系统提供的负荷值，来决策是否将信息路由至业务节点。

在本实施例中，所述信息路由至所述业务节点还包括：

确认所述业务节点，在所述业务节点的所述用户系统收到信息后，在根据配置选择同步处理还是异步处理。

进一步地，若选择异步处理，则会分裂一个进程将信息投递至运行配置指定的运行模块及函数。

步骤S50、信息路由至所述业务节点，进行业务和数据之间的逻辑关系处理，完成一致性事务处理。

在本实施例中，如图4所示，所述进行业务和数据之间的逻辑关系处理，完成一致性事务处理具体包括：

步骤S51、所述业务节点的事物函数进行业务和数据之间的逻辑关系处理，将所述事物函数的程序指令拆分为数据指令和逻辑指令。

在本实施例中，所述数据指令包括增、删、改、查，进程字典标记指令为r、w、d、s；所述逻辑指令包括时间、进程之间交互通信，进程字典标记指令为e、n。所述业务节点还运行一全局进程，保持各个节点信息传递畅通，用于维护事务锁。

步骤S52、当所述事物函数开始时，将在所述事物函数所在的执行进程的进程字典中打上事物唯一性标记。所述事物唯一性标记包括引用、一个时间戳和一个随机数。

本发明提供的一种分布式系统的信息管理方法，通过将用户系统贯穿于所述分布式系统中所有节点进行信息同步，所述用户系统根据所述用户节点运行的所述用户系统提供的负荷值，来决策是否将信息路由至业务节点，所述业务节点进行业务和数据之间的逻辑关系处理，完成一致性事务处理；预设所述缓存系统依附于对应的所述业务节点，所述缓存系统提供一组对应不同数据分类的常驻进程，后续数据寻址优先访问所属数据分类对应的所述常驻进程进数据缓存，当后续数据寻址未找到所属数据分类对应的所述常驻进程时，穿透至预设的存储系统进程数据存储；本发明形成了一套信息从网关节点路由至业务节点，在通过一致性事务处理，数据最终传送到存储节点进行存储的完整分布式系统中信息管理解决方案，同时实现了分布式系统中信息路由数据跨进程访问更方便，加强了数据的提取和写入。

请参阅图5，作为对上述各图示所示的方法的实现，本发明提供一种分布式系统中的信息管理系统100，所述系统100包括网关层模块110、用户系统模块120、缓存系统模块130、事物系统模块140和存储层模块150。图5仅示出了所述系统100的部分模块，但是应理解的是，并不要求实施所有示出的模块，可以替代的实施更多或者更少的模块。

所述网关模块110，用于用户通过网关节点连接所述分布式系统，用户连接网关节点获得认证成功后，接收用户标识信息，并将所述用户标识信息作为所述用户系统的ID标识。

在本实施例中，所述网关层模块110包括多个网关节点，当用户连接网关节点获得认证后，接收用户标识信息，并将所述用户标识信息作为所述用户系统的ID标识。所述网关节点的信息可以根据用户系统延展至集群的各个位置。

所述用户系统模块120，用于贯穿所述分布式系统中所有节点进行信息同步，所述用户系统模块120根据所述ID标识进行哈希计算和直接取余计算，得到用户节点的位置，根据所述用户节点运行的所述用户系统模块120提供的负荷值来决策是否将信息路由至业务节点。

在本实施例中，所述用户系统模块120通过TCP使相同ID的不同进程信息得到同步，在所述分布式系统中的任一节点都可以向指定ID的用户系统发送信息，其他节点相同ID的所述用户系统将收到信息。

所述缓存系统模块130，用于为所述分布式系统中所有节点提供数据缓存服务。

在本实施例中，所述缓存系统模块130提供一组对应不同数据分类的常驻进程，后续数据寻址优先访问所属数据分类对应的所述常驻进程。例如，若所述数据分类包括10种类别，则所述缓存系统会生成相对应的10个常驻进程。所述常驻进程通过memcached分布式算法对所述分布式系统中所有节点提供数据缓存服务。

所述事物系统模块140，用于将信息路由至所述业务节点，进行业务和数据之间的逻辑关系处理，完成一致性事务处理。

在本实施例中，所述事物系统模块140包括多个业务节点，所述业务节点进行业务和数据之间的逻辑关系处理，所述业务节点的事物函数进行业务和数据之间的逻辑关系处理，将所述事物函数的程序指令拆分为数据指令和逻辑指令。当所述事物函数开始时，所述事物系统模块140将在所述事物函数所在的执行进程的进程字典中打上事物唯一性标记。

所述存储层模块150包括多个存储节点，用于生成多个数据管理进程，所述数据管理进程伴随一个文件存储进程；数据管理进程负责消息队列管理，文件进程负责数据落地。

在本实施例中，当后续数据寻址未找到所属数据分类对应的所述常驻进程时，穿透至预设的所述存储层模块150进程数据存储。所述存储层模块150包括多个存储节点，所述存储节点通过配置的数据表，生成多个数据管理进程，所述数据管理进程伴随一个文件存储进程。所述数据管理进程负责消息队列管理，所述文件存储进程负责数据落地。

本发明提供的一种分布式系统的信息管理系统，通过将用户系统贯穿于所述分布式系统中所有节点进行信息同步，所述用户系统根据所述用户节点运行的所述用户系统提供的负荷值，来决策是否将信息路由至业务节点，所述业务节点进行业务和数据之间的逻辑关系处理，完成一致性事务处理；预设所述缓存系统依附于对应的所述业务节点，所述缓存系统提供一组对应不同数据分类的常驻进程，后续数据寻址优先访问所属数据分类对应的所述常驻进程进数据缓存，当后续数据寻址未找到所属数据分类对应的所述常驻进程时，穿透至预设的存储系统进程数据存储；本发明形成了一套信息从网关节点路由至业务节点，在通过一致性事务处理，数据最终传送到存储节点进行存储的完整分布式系统中信息管理解决方案，同时实现了分布式系统中信息路由数据跨进程访问更方便，加强了数据的提取和写入。

本发明还提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如本申请上述任一实施例中所述方法的步骤。

本发明还提供了一种设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行时实现如本申请上述任一实施例中所述方法的步骤。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、计算机程序产品或设备。因此，本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。

最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神。

Claims

1.一种分布式系统的信息管理方法，其特征在于，所述方法包括：

2.如权利要求1所述的一种分布式系统的信息管理方法，其特征在于，所述用户系统通过贯穿于所述分布式系统中所有节点进行信息同步具体包括：

3.如权利要求1所述的一种分布式系统的信息管理方法，其特征在于，所述缓存系统用于为所述分布式系统中所有节点提供数据缓存服务具体包括：

4.如权利要求3所述的一种分布式系统的信息管理方法，其特征在于，后续数据寻址优先访问所属数据分类对应的所述常驻进程后还包括：

5.如权利要求1所述的一种分布式系统的信息管理方法，其特征在于，所述信息路由至所述业务节点后还包括：

6.如权利要求1所述的一种分布式系统的信息管理方法，其特征在于，所述进行业务和数据之间的逻辑关系处理，完成一致性事务处理具体包括：

7.如权利要求6所述的一种分布式系统的信息管理方法，其特征在于，所述数据指令包括增、删、改、查，进程字典标记指令为r、w、d、s；

8.一种分布式系统中的信息管理系统，其特征在于，所述系统包括：

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-7中任一项所述方法的步骤。

10.一种设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行时实现如权利要求1-7中任一项所述方法的步骤。