CN114443908A - 图数据库构建方法、系统、终端及存储介质 - Google Patents
图数据库构建方法、系统、终端及存储介质 Download PDFInfo
- Publication number
- CN114443908A CN114443908A CN202210018574.6A CN202210018574A CN114443908A CN 114443908 A CN114443908 A CN 114443908A CN 202210018574 A CN202210018574 A CN 202210018574A CN 114443908 A CN114443908 A CN 114443908A
- Authority
- CN
- China
- Prior art keywords
- information
- metadata service
- service process
- main
- map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000010276 construction Methods 0.000 title claims abstract description 32
- 238000000034 method Methods 0.000 claims abstract description 177
- 230000008569 process Effects 0.000 claims abstract description 155
- 239000012634 fragment Substances 0.000 claims abstract description 72
- 238000000926 separation method Methods 0.000 claims abstract description 11
- 230000002159 abnormal effect Effects 0.000 claims description 11
- 238000003780 insertion Methods 0.000 claims description 8
- 230000037431 insertion Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 7
- 238000013523 data management Methods 0.000 claims description 6
- 238000012795 verification Methods 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 3
- 238000013524 data verification Methods 0.000 claims description 3
- 238000013467 fragmentation Methods 0.000 claims description 3
- 238000006062 fragmentation reaction Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000006467 substitution reaction Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000008186 active pharmaceutical agent Substances 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9024—Graphs; Linked lists
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/907—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Library & Information Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及图数据库技术领域,具体提供一种图数据库构建方法、系统、终端及存储介质,包括:创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片和图空间结构信息;利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱;汇总所有数据分片的图谱,生成最新的图谱空间结构信息并将最新的图谱空间结构信息反馈至元数据服务进程。本发明通过创建元数据服务进程和分层服务进程,分别实现了对数据库的有效管理和对数据库中数据分片的图谱进行构建和更新,保证图数据的准确。
Description
技术领域
本发明涉及图数据库技术领域,具体涉及一种图数据库构建方法、系统、终端及存储介质。
背景技术
近年来随着各类企业的迅速发展和市场日新月异的变化,提取数据信息变得越来越重要。数据的关联可以产生重要的商业价值,无论我们是想了解在线社交网络中用户之间的关系,还是电子商务中南用户和商品之间的关系,还是金融网络中信贷关系,理解和分析大量高度关联数据的能力将成为企业的核心竞争力,图处理技术在这其中扮演着重要的角色。
图处理技术解决了当今宏观业务的一个大趋势:利用高度连接的数据中复杂、动态的关系来产生洞察力和竞争优势。相比关系数据库,图数据库是表示和查询连接数据的最佳方式。随着近几年的快速发展,基于图数据库的应用在金融、电信、医疗等行业快速落地,形成了比较好应用效果。对于行业来说,知识图谱是面向多行业的新一代知识库技术,对图数据库而言,知识图谱是图数据库关联最紧密、应用最广泛的场景。
然而随着数据库的存储量的增加,构建海量数据关系的图数据难度越来越大,现有图数据构建技术已不能快速完成海量数据关系的图数据构建。
发明内容
针对现有图数据库构建方法无法快速构建海量数据关系的图数据,且无法对已经构建的图数据进行修改更新等操作,导致图数据混乱的问题,本发明提供一种图数据库构建方法、系统、终端及存储介质,以解决上述技术问题。
第一方面,本发明提供一种图数据库构建方法,包括:
创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片和图空间结构信息;
利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱;
汇总所有数据分片的图谱,生成最新的图谱空间结构信息并将最新的图谱空间结构信息反馈至元数据服务进程。
进一步的,创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片信息和图空间结构信息,包括:
创建多个元数据服务进程,并将多个元数据服务进程构建为基于一致性协议的集群,并从所述集群中选举中主元数据服务进程;
所述主元数据服务进程根据用户请求对用户信息和用户权限进行校验,并在校验通过后处理所述用户请求;
所述主元数据服务进程根据用户请求查询目标数据或目标图空间结构信息;
所述主元数据服务进程管理数据分片的位置信息,对数据分片进行负载均衡;
将所述主元数据服务进程的操作信息同步至其他元数据服务进程,并在主元数据服务进程异常后重新从集群中选举中主元数据服务进程。
进一步的,利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱,包括:
利用分层服务构建接口层、中间层和用于存储基础分层文件的最底层;
在所述接口层构建多个图谱操作的接口,所述接口包括访问接口和插入接口;
在中间层利用多个操作进程构建基于一致性协议的操作集群,并从所述操作集群中选举出主操作进程;
所述主操作进程根据插入接口接收的操作请求,生成目标数据分片的点信息、边信息、点属性信息和边属性信息,并将点信息和边信息作为键,将点属性信息和边属性信息作为值,利用键值对分离写操作存储目标数据分片的点信息、边信息、点属性信息和边属性信息,得到目标数据分片的图谱;
所述主操作进程根据访问接口接收的访问请求,根据访问请求中的点信息或边信息查询相应的点属性信息或边属性信息;
将所述主操作进程的操作信息同步至操作集群中的其他操作进程,并在主操作进程异常后重新从操作集群中选举中主操作进程。
第二方面,本发明提供一种图数据库构建系统,包括:
数据管理单元,用于创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片和图空间结构信息;
图谱构建单元,用于利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱;
结构反馈单元,用于汇总所有数据分片的图谱,生成最新的图谱空间结构信息并将最新的图谱空间结构信息反馈至元数据服务进程。
进一步的,所述数据管理单元包括:
服务创建模块,用于创建多个元数据服务进程,并将多个元数据服务进程构建为基于一致性协议的集群,并从所述集群中选举中主元数据服务进程;
数据校验模块,用于所述主元数据服务进程根据用户请求对用户信息和用户权限进行校验,并在校验通过后处理所述用户请求;
数据查询模块,用于所述主元数据服务进程根据用户请求查询目标数据或目标图空间结构信息;
负载均衡模块,用于所述主元数据服务进程管理数据分片的位置信息,对数据分片进行负载均衡;
服务同步模块,用于将所述主元数据服务进程的操作信息同步至其他元数据服务进程,并在主元数据服务进程异常后重新从集群中选举中主元数据服务进程。
进一步的,所述图谱构建单元包括:
分层构建模块,用于利用分层服务构建接口层、中间层和用于存储基础分层文件的最底层;
接口构建模块,用于在所述接口层构建多个图谱操作的接口,所述接口包括访问接口和插入接口;
操作同步模块,用于在中间层利用多个操作进程构建基于一致性协议的操作集群,并从所述操作集群中选举出主操作进程;
分离存储模块,用于所述主操作进程根据插入接口接收的操作请求,生成目标数据分片的点信息、边信息、点属性信息和边属性信息,并将点信息和边信息作为键,将点属性信息和边属性信息作为值,利用键值对分离写操作存储目标数据分片的点信息、边信息、点属性信息和边属性信息,得到目标数据分片的图谱;
属性查询模块,用于所述主操作进程根据访问接口接收的访问请求,根据访问请求中的点信息或边信息查询相应的点属性信息或边属性信息;
操作冗余模块,用于将所述主操作进程的操作信息同步至操作集群中的其他操作进程,并在主操作进程异常后重新从操作集群中选举中主操作进程。
第三方面,提供一种终端,包括:
处理器、存储器,其中,
该存储器用于存储计算机程序,
该处理器用于从存储器中调用并运行该计算机程序,使得终端执行上述的终端的方法。
第四方面,提供了一种计算机存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述各方面所述的方法。
本发明的有益效果在于,本发明提供的图数据库构建方法、系统、终端及存储介质,通过创建元数据服务进程和分层服务进程,分别实现了对数据库的有效管理和对数据库中数据分片的图谱进行构建和更新,保证图数据的准确。
此外,本发明设计原理可靠,结构简单,具有非常广泛的应用前景。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一个实施例的方法的示意性流程图。
图2是本发明一个实施例的方法的图数据库示例性结构图。
图3是本发明一个实施例的系统的示意性框图。
图4为本发明实施例提供的一种终端的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明中的技术方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
下面对本发明中出现的关键术语进行解释。
图谱不是图片/图像,可以理解为一个图谱或一种拓扑关系,graph是用图结构进行定义的数据集合。
图1是本发明一个实施例的方法的示意性流程图。其中,图1执行主体可以为一种图数据库构建系统。
如图1所示,该方法包括:
步骤110,创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片和图空间结构信息;
步骤120,利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱;
步骤130,汇总所有数据分片的图谱,生成最新的图谱空间结构信息并将最新的图谱空间结构信息反馈至元数据服务进程。
为了便于对本发明的理解,下面以本发明图数据库构建方法的原理,结合实施例中对图数据库进行构建的过程,对本发明提供的图数据库构建方法做进一步的描述。
具体的,请参考图2,所述图数据库构建方法包括:
S1、创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片和图空间结构信息。
Mete服务可以理解为元数据服务,主要记录数据的一些基本信息,比如存储了用户的权限信息,当用户发送请求给meta服务时候,meta服务会检查账号信息及请求权限等。
Mete服务是由meta进程提供,用户可以根据场景配置不同的meta进程数量,可以部署在1台机器上,也可以部署在不同机器上。Meta进程构成基于raft协议的集群,其中一个进程是leader主要是用于响应客户端、提供服务,负责协调等,其他进程是follower(可以理解为是leader的备份,在leader不能提供服务时候如故障时候,follower可以被选举成leader)。Meta服务提供如下功能:
(1)Meta服务中存储了用户的账号和权限信息,客户端请求通过账号发送给meta服务时,meta服务会检查账号信息及对应的权限。
(2)meta服务负责存储和管理分片的位置信息,并且保证分片的负载均衡(这里的分片指的是数据,可以理解为数据块,在分布式领域,数据分片是常见的),负载均衡保证每个存储节点的存储量较为均衡。
(3)meta服务管理图空间和schema信息等。Schema类似结构信息,描述图结构的关系,比如图里面数据字段类型等。
S2、利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱。
Storage服务是一个独立的进程,具有高性能、易扩展和一致性等特点。可以根据具体使用情况的不同,配置不同的进程数量。
storage服务的最上层是Interface接口层,接口层定义了一系列图相关操作的API,用户通过API访问图数据库,同时用户的请求在这一层会转化成针对一组分片的KV操作。例如:get操作可以查询一批点的出边和入边,可以返回对应的属性,并支持一些过滤操作。insert操作可以插入一条数据,比如插入一个点或一条边,根据插入数据对目标数据分片构建图谱,将点和边的信息存储为key,同时将点和边的属性信息存储在value中。Key类型信息格式例如:Type:key类型,点类型;partnum:数据分片编号,在负载均衡时方便的根据前缀扫描整个分片的数据。VertexId:点ID。TagId:点关联的标签Id;Timestamp:预留字段。Type:key类型,边类型;partnum:数据分片编号。VertexId:点ID,第一个VertexId在出边表示起始点ID,在入边表示目的点ID,后一个VertexId出边里表示目的点Id,在入边里表示起始点Id;EdgeType:边的类型,分为出边和入边。Rank:用来处理两点之间有多个同类型边的情况。Placeholder:预留字段。
consensus层是中间层,需要实现raft协议,保证强一致性和高可用性。在中间层利用多个操作进程构建基于一致性协议的操作集群,并从操作集群中选举出主操作进程。主操作进程执行接口层接收的指令,例如执行get操作和insert操作。主操作进程根据访问接口接收的访问请求,根据访问请求中的点信息或边信息查询相应的点属性信息或边属性信息。主操作进程的操作信息同步至操作集群中的其他操作进程,并在主操作进程异常后重新从操作集群中选举中主操作进程。
store engine层,是存储服务的最底层,相关接口存储在特定文件中,可提供对本地数据的get、put、scan等操作,用户可以根据业务需求定制开发本地存储插件。
S3、汇总所有数据分片的图谱,生成最新的图谱空间结构信息并将最新的图谱空间结构信息反馈至元数据服务进程。
主元数据服务进程对数据分片进行负载均衡后,主操作进程同步更新数据分片对应的图谱中的数据存储地址。
主操作进程在更新图谱之后,将更新后的图谱空间结构信息反馈至主元数据服务进程,以便客户查询。
如图3所示,该系统300包括:
数据管理单元310,用于创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片和图空间结构信息;
图谱构建单元320,用于利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱;
结构反馈单元330,用于汇总所有数据分片的图谱,生成最新的图谱空间结构信息并将最新的图谱空间结构信息反馈至元数据服务进程。
可选地,作为本发明一个实施例,所述数据管理单元包括:
服务创建模块,用于创建多个元数据服务进程,并将多个元数据服务进程构建为基于一致性协议的集群,并从所述集群中选举中主元数据服务进程;
数据校验模块,用于所述主元数据服务进程根据用户请求对用户信息和用户权限进行校验,并在校验通过后处理所述用户请求;
数据查询模块,用于所述主元数据服务进程根据用户请求查询目标数据或目标图空间结构信息;
负载均衡模块,用于所述主元数据服务进程管理数据分片的位置信息,对数据分片进行负载均衡;
服务同步模块,用于将所述主元数据服务进程的操作信息同步至其他元数据服务进程,并在主元数据服务进程异常后重新从集群中选举中主元数据服务进程。
可选地,作为本发明一个实施例,所述图谱构建单元包括:
分层构建模块,用于利用分层服务构建接口层、中间层和用于存储基础分层文件的最底层;
接口构建模块,用于在所述接口层构建多个图谱操作的接口,所述接口包括访问接口和插入接口;
操作同步模块,用于在中间层利用多个操作进程构建基于一致性协议的操作集群,并从所述操作集群中选举出主操作进程;
分离存储模块,用于所述主操作进程根据插入接口接收的操作请求,生成目标数据分片的点信息、边信息、点属性信息和边属性信息,并将点信息和边信息作为键,将点属性信息和边属性信息作为值,利用键值对分离写操作存储目标数据分片的点信息、边信息、点属性信息和边属性信息,得到目标数据分片的图谱;
属性查询模块,用于所述主操作进程根据访问接口接收的访问请求,根据访问请求中的点信息或边信息查询相应的点属性信息或边属性信息;
操作冗余模块,用于将所述主操作进程的操作信息同步至操作集群中的其他操作进程,并在主操作进程异常后重新从操作集群中选举中主操作进程。
图4为本发明实施例提供的一种终端400的结构示意图,该终端400可以用于执行本发明实施例提供的图数据库构建方法。
其中,该终端400可以包括:处理器410、存储器420及通信单元430。这些组件通过一条或多条总线进行通信,本领域技术人员可以理解,图中示出的服务器的结构并不构成对本发明的限定,它既可以是总线形结构,也可以是星型结构,还可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
其中,该存储器420可以用于存储处理器410的执行指令,存储器420可以由任何类型的易失性或非易失性存储终端或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。当存储器420中的执行指令由处理器410执行时,使得终端400能够执行以下上述方法实施例中的部分或全部步骤。
处理器410为存储终端的控制中心,利用各种接口和线路连接整个电子终端的各个部分,通过运行或执行存储在存储器420内的软件程序和/或模块,以及调用存储在存储器内的数据,以执行电子终端的各种功能和/或处理数据。所述处理器可以由集成电路(Integrated Circuit,简称IC)组成,例如可以由单颗封装的IC所组成,也可以由连接多颗相同功能或不同功能的封装IC而组成。举例来说,处理器410可以仅包括中央处理器(Central Processing Unit,简称CPU)。在本发明实施方式中,CPU可以是单运算核心,也可以包括多运算核心。
通信单元430,用于建立通信信道,从而使所述存储终端可以与其它终端进行通信。接收其他终端发送的用户数据或者向其他终端发送用户数据。
本发明还提供一种计算机存储介质,其中,该计算机存储介质可存储有程序,该程序执行时可包括本发明提供的各实施例中的部分或全部步骤。所述的存储介质可为磁碟、光盘、只读存储记忆体(英文:read-only memory,简称:ROM)或随机存储记忆体(英文:random access memory,简称:RAM)等。
因此,本发明通过创建元数据服务进程和分层服务进程,分别实现了对数据库的有效管理和对数据库中数据分片的图谱进行构建和更新,保证图数据的准确,本实施例所能达到的技术效果可以参见上文中的描述,此处不再赘述。
本领域的技术人员可以清楚地了解到本发明实施例中的技术可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本发明实施例中的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中如U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质,包括若干指令用以使得一台计算机终端(可以是个人计算机,服务器,或者第二终端、网络终端等)执行本发明各个实施例所述方法的全部或部分步骤。
本说明书中各个实施例之间相同相似的部分互相参见即可。尤其,对于终端实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例中的说明即可。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统和方法,可以通过其它的方式实现。例如,以上所描述的系统实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,系统或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
尽管通过参考附图并结合优选实施例的方式对本发明进行了详细描述,但本发明并不限于此。在不脱离本发明的精神和实质的前提下,本领域普通技术人员可以对本发明的实施例进行各种等效的修改或替换,而这些修改或替换都应在本发明的涵盖范围内/任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。
Claims (8)
1.一种图数据库构建方法,其特征在于,包括:
创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片和图空间结构信息;
利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱;
汇总所有数据分片的图谱,生成最新的图谱空间结构信息并将最新的图谱空间结构信息反馈至元数据服务进程。
2.根据权利要求1所述的方法,其特征在于,创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片信息和图空间结构信息,包括:
创建多个元数据服务进程,并将多个元数据服务进程构建为基于一致性协议的集群,并从所述集群中选举中主元数据服务进程;
所述主元数据服务进程根据用户请求对用户信息和用户权限进行校验,并在校验通过后处理所述用户请求;
所述主元数据服务进程根据用户请求查询目标数据或目标图空间结构信息;
所述主元数据服务进程管理数据分片的位置信息,对数据分片进行负载均衡;
将所述主元数据服务进程的操作信息同步至其他元数据服务进程,并在主元数据服务进程异常后重新从集群中选举中主元数据服务进程。
3.根据权利要求1所述的方法,其特征在于,利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱,包括:
利用分层服务构建接口层、中间层和用于存储基础分层文件的最底层;
在所述接口层构建多个图谱操作的接口,所述接口包括访问接口和插入接口;
在中间层利用多个操作进程构建基于一致性协议的操作集群,并从所述操作集群中选举出主操作进程;
所述主操作进程根据插入接口接收的操作请求,生成目标数据分片的点信息、边信息、点属性信息和边属性信息,并将点信息和边信息作为键,将点属性信息和边属性信息作为值,利用键值对分离写操作存储目标数据分片的点信息、边信息、点属性信息和边属性信息,得到目标数据分片的图谱;
所述主操作进程根据访问接口接收的访问请求,根据访问请求中的点信息或边信息查询相应的点属性信息或边属性信息;
将所述主操作进程的操作信息同步至操作集群中的其他操作进程,并在主操作进程异常后重新从操作集群中选举中主操作进程。
4.一种图数据库构建系统,其特征在于,包括:
数据管理单元,用于创建元数据服务进程,所述元数据服务进程管理用户信息、数据分片和图空间结构信息;
图谱构建单元,用于利用分层服务进程根据操作接口接收的用户请求,对数据分片进行图谱属性信息与图谱信息键值对分离写操作,构建数据分片的图谱;
结构反馈单元,用于汇总所有数据分片的图谱,生成最新的图谱空间结构信息并将最新的图谱空间结构信息反馈至元数据服务进程。
5.根据权利要求4所述的系统,其特征在于,所述数据管理单元包括:
服务创建模块,用于创建多个元数据服务进程,并将多个元数据服务进程构建为基于一致性协议的集群,并从所述集群中选举中主元数据服务进程;
数据校验模块,用于所述主元数据服务进程根据用户请求对用户信息和用户权限进行校验,并在校验通过后处理所述用户请求;
数据查询模块,用于所述主元数据服务进程根据用户请求查询目标数据或目标图空间结构信息;
负载均衡模块,用于所述主元数据服务进程管理数据分片的位置信息,对数据分片进行负载均衡;
服务同步模块,用于将所述主元数据服务进程的操作信息同步至其他元数据服务进程,并在主元数据服务进程异常后重新从集群中选举中主元数据服务进程。
6.根据权利要求4所述的系统,其特征在于,所述图谱构建单元包括:
分层构建模块,用于利用分层服务构建接口层、中间层和用于存储基础分层文件的最底层;
接口构建模块,用于在所述接口层构建多个图谱操作的接口,所述接口包括访问接口和插入接口;
操作同步模块,用于在中间层利用多个操作进程构建基于一致性协议的操作集群,并从所述操作集群中选举出主操作进程;
分离存储模块,用于所述主操作进程根据插入接口接收的操作请求,生成目标数据分片的点信息、边信息、点属性信息和边属性信息,并将点信息和边信息作为键,将点属性信息和边属性信息作为值,利用键值对分离写操作存储目标数据分片的点信息、边信息、点属性信息和边属性信息,得到目标数据分片的图谱;
属性查询模块,用于所述主操作进程根据访问接口接收的访问请求,根据访问请求中的点信息或边信息查询相应的点属性信息或边属性信息;
操作冗余模块,用于将所述主操作进程的操作信息同步至操作集群中的其他操作进程,并在主操作进程异常后重新从操作集群中选举中主操作进程。
7.一种终端,其特征在于,包括:
处理器;
用于存储处理器的执行指令的存储器;
其中,所述处理器被配置为执行权利要求1-3任一项所述的方法。
8.一种存储有计算机程序的计算机可读存储介质,其特征在于,该程序被处理器执行时实现如权利要求1-3中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210018574.6A CN114443908A (zh) | 2022-01-07 | 2022-01-07 | 图数据库构建方法、系统、终端及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210018574.6A CN114443908A (zh) | 2022-01-07 | 2022-01-07 | 图数据库构建方法、系统、终端及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114443908A true CN114443908A (zh) | 2022-05-06 |
Family
ID=81367929
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210018574.6A Withdrawn CN114443908A (zh) | 2022-01-07 | 2022-01-07 | 图数据库构建方法、系统、终端及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114443908A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115033722A (zh) * | 2022-08-10 | 2022-09-09 | 杭州悦数科技有限公司 | 一种加速图数据库数据查询的方法、系统、装置和介质 |
CN115168505A (zh) * | 2022-06-21 | 2022-10-11 | 中国人民解放军国防科技大学 | 一种用于海洋时空数据的管理系统以及方法 |
CN117852005A (zh) * | 2024-03-08 | 2024-04-09 | 杭州悦数科技有限公司 | 一种图数据库与客户端之间的安全校验方法及系统 |
CN118400436A (zh) * | 2024-06-21 | 2024-07-26 | 杭州悦数科技有限公司 | 一种基于http2进行图数据库请求路由的负载均衡方法及装置 |
-
2022
- 2022-01-07 CN CN202210018574.6A patent/CN114443908A/zh not_active Withdrawn
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115168505A (zh) * | 2022-06-21 | 2022-10-11 | 中国人民解放军国防科技大学 | 一种用于海洋时空数据的管理系统以及方法 |
CN115033722A (zh) * | 2022-08-10 | 2022-09-09 | 杭州悦数科技有限公司 | 一种加速图数据库数据查询的方法、系统、装置和介质 |
CN117852005A (zh) * | 2024-03-08 | 2024-04-09 | 杭州悦数科技有限公司 | 一种图数据库与客户端之间的安全校验方法及系统 |
CN117852005B (zh) * | 2024-03-08 | 2024-05-14 | 杭州悦数科技有限公司 | 一种图数据库与客户端之间的安全校验方法及系统 |
CN118400436A (zh) * | 2024-06-21 | 2024-07-26 | 杭州悦数科技有限公司 | 一种基于http2进行图数据库请求路由的负载均衡方法及装置 |
CN118400436B (zh) * | 2024-06-21 | 2024-09-17 | 杭州悦数科技有限公司 | 一种基于http2进行图数据库请求路由的负载均衡方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114443908A (zh) | 图数据库构建方法、系统、终端及存储介质 | |
CN109034809B (zh) | 区块链的生成方法、装置、区块链节点及存储介质 | |
WO2020063820A1 (zh) | 资产交易方法、存储介质及计算机设备 | |
CN107464151B (zh) | 高并发业务的订单数据处理方法及装置 | |
CN106997557B (zh) | 订单信息采集方法及装置 | |
CN103180842A (zh) | 云计算系统和用于该云计算系统的数据同步方法 | |
CN110784498B (zh) | 一种个性化数据容灾方法及装置 | |
CN111723148A (zh) | 数据存储方法及装置、存储介质、电子装置 | |
CN115033722B (zh) | 一种加速图数据库数据查询的方法、系统、装置和介质 | |
CN110888858A (zh) | 数据库的操作方法和装置、存储介质、电子装置 | |
EP4379556A1 (en) | Blockchain-based data processing method, and device and computer-readable storage medium | |
US20200127959A1 (en) | Architecture for large data management in communication applications through multiple mailboxes | |
CN113687964A (zh) | 数据处理方法、装置、电子设备、存储介质及程序产品 | |
CN113254424B (zh) | 数据服务迁移方法、装置及设备 | |
CN114610740B (zh) | 医疗数据平台的数据版本管理方法及装置 | |
CN113590643B (zh) | 基于双轨数据库的数据同步方法、装置、设备和存储介质 | |
CN116303789A (zh) | 多分片多副本数据库并行同步方法、装置及可读介质 | |
CN113590033B (zh) | 一种超融合系统的信息同步方法及装置 | |
CN115809146A (zh) | 定时任务的执行方法及其装置、电子设备 | |
CN113806309B (zh) | 基于分布式锁的元数据删除方法、系统、终端及存储介质 | |
US20220108404A1 (en) | Systems and methods for distributed ledger-based auditing | |
CN113318452B (zh) | 资源更新方法、装置、计算机可读介质及电子设备 | |
CN112817980B (zh) | 一种数据索引处理方法、装置、设备及存储介质 | |
CN115563073A (zh) | 分布式元数据的数据处理的方法、装置及电子设备 | |
CN115878587A (zh) | 实例创建方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20220506 |
|
WW01 | Invention patent application withdrawn after publication |