CN113961753A - 一种基于集合的图数据存储模型及其图数据库 - Google Patents

一种基于集合的图数据存储模型及其图数据库 Download PDF

Info

Publication number
CN113961753A
CN113961753A CN202111049100.XA CN202111049100A CN113961753A CN 113961753 A CN113961753 A CN 113961753A CN 202111049100 A CN202111049100 A CN 202111049100A CN 113961753 A CN113961753 A CN 113961753A
Authority
CN
China
Prior art keywords
node
edge
graph
data storage
storage model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111049100.XA
Other languages
English (en)
Other versions
CN113961753B (zh
Inventor
刘昊
罗威
张磊
刘友良
谭玉珊
张涛
陈志凌
王朋
王秋烨
郁晨熹
陈巍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanhu Laboratory
Original Assignee
Nanhu Laboratory
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanhu Laboratory filed Critical Nanhu Laboratory
Priority to CN202111049100.XA priority Critical patent/CN113961753B/zh
Publication of CN113961753A publication Critical patent/CN113961753A/zh
Application granted granted Critical
Publication of CN113961753B publication Critical patent/CN113961753B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/901Indexing; Data structures therefor; Storage structures
    • G06F16/9024Graphs; Linked lists
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供了一种基于集合的图数据存储模型及其图数据库,在本图数据存储模型中,图被划分为独立的节点集和独立的边集,且节点集和边集之间没有交集,节点集中的每个节点均具有唯一的节点地址和唯一的节点ID,边集中的每个边均具有唯一的边地址和唯一的边ID。该模型能够严格反映图数据的数学定义,有效地保存数据之间的关系,与现有的最新图数据存储模型相比具有更好的时空效率。

Description

一种基于集合的图数据存储模型及其图数据库
技术领域
本发明属于图数据库技术领域,尤其是涉及一种基于集合的图数据存储模型及其图数据库。
背景技术
图数据库是指以图这种数据结构存储和查询数据的数据库。其可以有效地反映数据与数据之间的关联,而通过发掘数据之间的内在关联可以发现内在的规律或模式,从而产生或发现有价值的信息。与其他数据库不同,关系在图数据库中占首要地位。这意味着应用程序不必使用外键来推断数据连接。图数据的特性决定了其具备其他较为简单数据结构所不具备的优势,如与关系数据库或其他NoSQL数据库相比,图数据库有着更高的性能、灵活性、敏捷性以及更好的可扩展性等特点。因此,近年来图计算与图存储逐渐成为了大数据处理的新的手段和发展热点。
数学上图的概念,可以定义为一个二元组:G=(N,E),其中N为顶点的集合,E为边的集合,边有方向的图称为有向图,边没有方向的图称为无向图。节点表示事物的实体,如一个人,一个网络拓扑节点或者一个城市。边表示事物实体之间的关系和联系,如社交网络中,两个人可以用图中的两个节点表示,两个人相互认识则在两个节点之间有一条边;城市交通网络中,两座城市可以是图中的两个节点,两个城市之间的距离可以用一条带权重的边表示等等。当使用图数据结构对以上的场景进行建模时,就可以利用图数据结构的性质和相关算法对图结构进行分析,从而得到图中各个节点之间的相互关系及其联系的规律。
图数据存储模型是图数据库系统的基础,如图1-图3所示,目前的图数据存储模型主要有两种结构:邻接链表和邻接矩阵,邻接链表将节点存储为记录或对象,每个节点都存储与其相邻的节点列表。这种结构具有很好的空间复杂度,在图中添加节点方便,但时间复杂度较高。查询图中的节点时,需要遍历邻接列表才能找到目标节点,这会对非目标节点造成额外的遍历。另一种数据结构是邻接矩阵,它是一个大小为N×N的二维数组,其中N是图中的顶点数,这种表示方法易于实现和查询,但在在顶点添加时会消耗大量的空间和时间复杂度。目前的图数据库系统主要采用这两种数据结构来存储图数据,例如,Neo4J采用邻接链表,GraphRedi s采用邻接矩阵作为基本的图存储数据结构。由上述可知,两种结构对于图数据的存储要么存在空间无效性问题,要么存在时间无效性问题,无法兼顾空间效率和时间效率。
另外,这两种结构表达图的思路上,均是用较为简单的线性数据结构通过组合来表达更为复杂的图数据结构。这种表示与存储图数据的方式,没能反映出图数据在数学上的严格定义,在一定程度上割裂了图数据之间的相互关联性,因此基于这两种存储模型构建的图数据存储系统,也必然会受到这两种存储模型本身的局限性带来的制约,影响了系统的性能和相关查询算法的实现。
发明内容
本方案针对现有图数据存储模型存在的割裂了图数据之间的关联,查询效率和空间效率不高的问题提出了一种基于集合的图数据存储模型及基于该图数据存储模型的图数据库。
为达到上述目的,本发明采用了下列技术方案:
一种基于集合的图数据存储模型,在本图数据存储模型中,图被划分为独立的节点集和独立的边集,且节点集和边集之间没有交集,节点集中的每个节点均具有唯一的节点地址和唯一的节点ID,边集中的每个边均具有唯一的边地址和唯一的边ID。
在上述的基于集合的图数据存储模型中,节点集和边集中的条目随机分布,通过唯一的内存偏移量对其进行定位与寻址。
在上述的基于集合的图数据存储模型中,通过分别向节点集和/或边集添加节点项和/或边项的方式向图中添加节点和/或边。
在上述的基于集合的图数据存储模型中,一对节点通过一条或多条边连接。
在上述的基于集合的图数据存储模型中,本图数据存储模型具有如下定义一:
S=(N,E,ΨS,λS,T),其中:
S表示图数据存储模型的有向弱连接标记图;
N表示节点集;
E表示边集;
ΨS表示从E到N∪N的关联函数;
T=TN∪TE是一组标签,TN表示节点的标签,TE表示边的标签;
λS是从TN∪TE到T的标签函数;
不同的节点具有不同的标签;
在同一方向上连接同一个节点的两个边具有不同的标签。
一种基于上述图数据存储模型的图数据库,包括上述图数据存储模型。
在上述的图数据库中,本图数据库为具有所述定义一所描述模式的有向标记的图。
在上述的图数据库中,所述的图数据库具有如下定义二:
G=(N,E,Ψ,λ,V),其中:
G表示图数据库的标记图;
N表示节点集,E表示边集;
Ψ是从E到N×N的关联函数;
V是一个标签集合;
λ是一个从N∪E映射到V的标签函数;
τ为对于一个在G中的节点n,和在S中的节点n′,n的标签存在于n′的标签域之中;λ(n)∈dom(λs(τ(n′))),τ(n′)表示节点n′的标签;
τ为对于每一条在图G中的,从节点n到节点n′的边e,以及在图S中的每一条从τ(n)到τ(n′)的边e来说,在G中的边e的标签存在于在S的边e的标签域中:
Ψs(τ(e))=(τ(n),τ(n′))andλ(e)∈dom((λs(τ(e)));
τ(n)、τ(n′)、τ(e)分别表示节点n的标签,节点n′的标签和边e的标签。
本发明的优点在于:
1、该模型能够严格反映图数据的数学定义,有效地保存数据之间的关系,与现有的最新图数据存储模型相比具有更好的时空效率;
2、在深刻理解图数是节点集到边集的二元映射的基础之上,提出了基于集合的图数据存储模型,该模型与传统的基于邻接矩阵和邻接链表的图数据存储模型有着本质的不同和全新的视角,并且与持久内存介质存在着天然的良好的匹配性;
3、基于该存储模型,可以方便地实现节点集和边集的分治存储,为在持久内存上设计与实现图数据库系统提供了良好的存储模型。
附图说明
图1为原生图;
图2为邻接矩阵结构的模型图;
图3为邻接链表结构的模型图;
图4为本发明基于持久内存的图数据库系统中基于集合的图数据存储模型图;
图5为本发明基于持久内存的图数据库系统图数据的逻辑状态示意图;
图6为本发明基于持久内存的图数据库系统图数据的物理状态示意图。
具体实施方式
下面结合附图和具体实施方式对本发明做进一步详细的说明。
如图4所示,本实施例公开的一种基于集合的图数据存储模型重新思考了图G=(N,E)的数学定义,将图数据抽象为一个独立的节点集和一个独立的边集,且节点集和边集之间没有交集,具体定义如下:
S=(N,E,ΨS,λS,T),其中:
S表示图数据存储模型的弱连接标记图;
N表示节点集;
E表示边集;
ΨS表示从ES到NS∪NS的关联函数;
T=TN∪TE是一组标签,TN表示节点的标签,TE表示边的标签;
λS是从TN∪TE到T的标签函数;
不同的节点具有不同的标签;
在同一方向上连接同一个节点的两个边具有不同的标签,即Ψe=Ψ′e∩e≠e′→λs(e)≠λs(e′)。
节点集中的每个节点均具有一个唯一的节点地址和节点ID,边集中的每个边均具有唯一的边地址和边ID,即给定一个集合和一个元素,一对节点通过一条或多条边连接,当向图中添加节点或边时,分别向节点集和/或边集添加节点项和/或边项的方式向图中添加节点和/或边即可。该元素是否属于集合是确定的,同时集合中的任何两个元素都被认为是不同的,能够保证集合中不同元素分布在内存中不同地址,因此可以通过唯一的64位地址确定与分配一个元素。
另外,节点集和边集中的条目随机分布,通过唯一的内存偏移量对其进行定位与寻址,即,在一个集合中,每个元素都具有相等的状态,并且元素可以无序分布。
以上提出了一种能够严格反映图数据数学定义的存储模型,本实施例基于以上模型构建图数据库,图数据库具有定义一所描述模式的有向标记的图,且具有如下定义二:
G=(N,E,Ψ,λ,V),其中:
G表示图数据库的标记图;
N表示节点的集合,即节点集,E表示边的集合,即边集;
Ψ是从E到N×N的关联函数;
V是一个标签集合;
λ是一个从N∪E映射到V的标签函数;这样就存在一个从一个节点到一条边的映射函数:
τ为对于一个在G中的节点n,和在S中的节点n′,n的标签存在于n′的标签域之中;λ(n)∈dom(λs(τ(n′))),τ(n′)表示节点n′的标签;
τ为对于每一条在图G中的,从节点n到节点n′的边e,以及在图S中的每一条从τ(n)到τ(n′)的边e来说,在G中的边e的标签存在于在S的边e的标签域中:
Ψs(τ(e))=(τ(n),τ(n′))andλ(e)∈dom((λs(τ(e)));
τ(n)、τ(n′)、τ(e)分别表示节点n的标签,节点n′的标签和边e的标签。
从前述可知,本方案基于集合的存储模型具有确定性、互异性和无序性,因此具有与持久内存非常自然且良好的匹配特性。
投入使用时,基于上述模型,可以在持久内存中设置如下的的布局架构:
Super Block Node Set Edge Set Property Zone
Super Block(超级块)包含了Node Set(节点集),Edge Set(边集)、PropertyZone(属性集)的起始地址、结束地址和分配给持久内存空间的魔数和总大小。优选配备活跃超级块和备份超级块两个超级块的副本。
节点集中节点项数据结构如下:
Node ID Next Edge Node Label Property List
节点集包括图数据库的所有节点实体,节点集中的每个节点条目均在图数据库中显示一个节点。Node ID是节点ID,每个节点具有唯一的ID;Next Edge存储指向连接到当前节点的第一条边的引用指引;Node Label表示节点的标签,在创建节点时初始化,它存储一个32字节的字符串格式,以显示用于从某个域筛选节点的节点类型;Property Li st表示相应节点的相关属性。本实施例中每个节点条目的固定大小为128字节,其中Node ID占8个字节,Next Edge占8个字节,Node Label占32个字节,Property Li st占80个字节。
边集中边集项的数据结构如下:
Figure BDA0003252203020000071
边集包括图数据库的所有边实体,每个边条目均在图数据库中表示一条边。每条边的数据结构包括九个字段,其中:
Edge ID是边ID,每条边具有一个唯一的ID;
FirstNode是指向此边的头节点的指针;
SecondNode是指向此边的尾节点的指针;如果没有与此边关联的节点,则这两个字段仅指示创建此边时首先显示的节点。
First PreviousEdge和First NextEdge分别是指向连接到此FirstNode的上一条边和下一条边的指针;
Second PreviousEdge和Second NextEdge分别是指向连接到此SecondNode的上一条边和下一条边的指针;边的指针链接允许直接访问下一个边的实体。
Edge Label表示边的标签,使用方式与节点相同;
Property Li st表示相应边的相关属性。
本实施例每个边条目固定大小为192个字节,EdgeID、FirstNode、Second Node、FirstNextEdge、FirstPreviousEdge、SecondNextEdge、SecondPreviousEdge分别占8个字节,Node Label占32个字节,PropertyLi st占104个字节。
进一步地,节点与边的属性项采用键值对结构如下表所示,键的大小在这里固定为8字节,值的大小最大支持255字节:
Property Key Property Value
Property Key表示键,Property Value表示值。
如图5和图6所示分别为一个示例的图数据的逻辑状态图和物理状态图,这里只给出了节点集和边集的状态,不考虑属性区域的状态。从前述的逻辑状态图和物理状态图能够看出本方案将数据与数据之间的关联关系完整、真实地保存了下来,解决了目前图数据存储模型存在的割裂了图数据之间的关联导致查询效率和空间效率不高的问题。另外,可以看到数据在逻辑上是按顺序分布的,而在物理上是不按顺序分布的,本方案采用只能通过唯一的存储地址或偏移量来随机存取的NVM恰好迎合了前述特征,能够实现存储介质与图数据库之间的良好匹配。
本方案提供的基于集合的图数据存储模型能够严格地反应图数据的数学定义,有效地保存图数据之间的关系,与现有图数据存储模型相比,具有更好地时间和空间效率。并能够实现与持久内存介质特性良好的匹配性,为在持久内存上设计与实现图数据库打下基础。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。
尽管本文较多地使用了图数据存储模型、图数据库、节点集、边集等术语,但并不排除使用其它术语的可能性。使用这些术语仅仅是为了更方便地描述和解释本发明的本质;把它们解释成任何一种附加的限制都是与本发明精神相违背的。

Claims (8)

1.一种基于集合的图数据存储模型,其特征在于,在本图数据存储模型中,图被划分为独立的节点集和独立的边集,且节点集和边集之间没有交集,节点集中的每个节点均具有唯一的节点地址和唯一的节点ID,边集中的每个边均具有唯一的边地址和唯一的边ID。
2.根据权利要求1所述的基于集合的图数据存储模型,其特征在于,节点集和边集中的条目随机分布,通过唯一的内存偏移量对其进行定位与寻址。
3.根据权利要求1所述的基于集合的图数据存储模型,其特征在于,通过分别向节点集和/或边集添加节点项和/或边项的方式向图中添加节点和/或边。
4.根据权利要求1所述的基于集合的图数据存储模型,其特征在于,一对节点通过一条或多条边连接。
5.根据权利要求1-4任意一项所述的基于集合的图数据存储模型,其特征在于,本图数据存储模型具有如下定义一:
S=(N,E,ΨS,λS,T),其中:
S表示图数据存储模型的有向弱连接标记图;
N表示节点集;
E表示边集;
ΨS表示从E到N∪N的关联函数;
T=TN∪TE是一组标签,TN表示节点的标签,TE表示边的标签;
λS是从TN∪TE到T的标签函数;
不同的节点具有不同的标签;
在同一方向上连接同一个节点的两个边具有不同的标签。
6.一种基于权利要求1-5任意一项所述的图数据存储模型的图数据库,其特征在于,包括权利要求1-5任意一项所述的图数据存储模型。
7.根据权利要求6所述的图数据库,其特征在于,本图数据库为具有所述定义一所描述模式的有向标记的图。
8.根据权利要求7所述的图数据库,其特征在于,所述的图数据库具有如下定义二:
G=(N,E,Ψ,λ,V),其中:
G表示图数据库的标记图;
N表示节点集,E表示边集;
Ψ是从E到N×N的关联函数;
V是一个标签集合;
λ是一个从N∪E映射到V的标签函数;
τ为对于一个在G中的节点n,和在S中的节点n′,n的标签存在于n′的标签域之中;λ(n)∈dom(λs(τ(n′))),τ(n′)表示节点n′的标签;
τ为对于每一条在图G中的,从节点n到节点n′的边e,以及在图S中的每一条从τ(n)到τ(n′)的边e来说,在G中的边e的标签存在于在S的边e的标签域中:
Ψs(τ(e))=(τ(n),τ(n′))andλ(e)∈dom((λs(τ(e)));
τ(n)、τ(n′)、τ(e)分别表示节点n的标签,节点n′的标签和边e的标签。
CN202111049100.XA 2021-09-08 2021-09-08 一种基于集合的图数据存储模型及其图数据库 Active CN113961753B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111049100.XA CN113961753B (zh) 2021-09-08 2021-09-08 一种基于集合的图数据存储模型及其图数据库

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111049100.XA CN113961753B (zh) 2021-09-08 2021-09-08 一种基于集合的图数据存储模型及其图数据库

Publications (2)

Publication Number Publication Date
CN113961753A true CN113961753A (zh) 2022-01-21
CN113961753B CN113961753B (zh) 2023-04-21

Family

ID=79460909

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111049100.XA Active CN113961753B (zh) 2021-09-08 2021-09-08 一种基于集合的图数据存储模型及其图数据库

Country Status (1)

Country Link
CN (1) CN113961753B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114579776A (zh) * 2022-03-14 2022-06-03 武汉工程大学 一种光场数据存储方法、装置、电子设备及计算机介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120173541A1 (en) * 2010-12-30 2012-07-05 Venkateshwaran Venkataramani Distributed Cache for Graph Data
US20140019490A1 (en) * 2012-07-13 2014-01-16 Indrajit Roy Event processing for graph-structured data
CN109213820A (zh) * 2018-08-30 2019-01-15 成都索贝数码科技股份有限公司 一种实现多种类型的数据库融合使用的方法
US20190258401A1 (en) * 2018-02-21 2019-08-22 Wisconsin Alumni Research Foundation Computer Architecture for High-Speed, Graph-Traversal
US10949465B1 (en) * 2018-01-04 2021-03-16 Amazon Technologies, Inc. Efficient graph tree based address autocomplete and autocorrection
CN113253926A (zh) * 2021-05-06 2021-08-13 天津大学深圳研究院 提升新型存储器的查询和存储性能的存储内索引构建方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120173541A1 (en) * 2010-12-30 2012-07-05 Venkateshwaran Venkataramani Distributed Cache for Graph Data
US20140019490A1 (en) * 2012-07-13 2014-01-16 Indrajit Roy Event processing for graph-structured data
US10949465B1 (en) * 2018-01-04 2021-03-16 Amazon Technologies, Inc. Efficient graph tree based address autocomplete and autocorrection
US20190258401A1 (en) * 2018-02-21 2019-08-22 Wisconsin Alumni Research Foundation Computer Architecture for High-Speed, Graph-Traversal
CN109213820A (zh) * 2018-08-30 2019-01-15 成都索贝数码科技股份有限公司 一种实现多种类型的数据库融合使用的方法
CN113253926A (zh) * 2021-05-06 2021-08-13 天津大学深圳研究院 提升新型存储器的查询和存储性能的存储内索引构建方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114579776A (zh) * 2022-03-14 2022-06-03 武汉工程大学 一种光场数据存储方法、装置、电子设备及计算机介质

Also Published As

Publication number Publication date
CN113961753B (zh) 2023-04-21

Similar Documents

Publication Publication Date Title
Shekhar et al. Spatial databases-accomplishments and research needs
CN107533553B (zh) 认知存储器图形索引、存储和检索
Mucke Shapes and implementations in three-dimensional geometry
Xiao et al. Efficient monochromatic and bichromatic probabilistic reverse top-k query processing for uncertain big data
You et al. Community detection in complex networks using density-based clustering algorithm and manifold learning
Cheng et al. Dimension-adjacent trees and parallel construction of independent spanning trees on crossed cubes
CN113961754B (zh) 一种基于持久内存的图数据库系统
CN106055652A (zh) 一种基于模式和实例的数据库匹配方法及系统
CN113961753B (zh) 一种基于集合的图数据存储模型及其图数据库
Bhavsar et al. Graph partitioning and visualization in graph mining: a survey
CN106126681B (zh) 一种增量式流式数据聚类方法及系统
CN113961755B (zh) 一种基于持久内存的图数据存储架构
Cruz et al. Drawing graphs by example efficiently: Trees and planar acyclic digraphs
Birch et al. The maximum number of 3-and 4-cliques within a planar maximally filtered graph
Guru et al. Archival and retrieval of symbolic images: An invariant scheme based on triangular spatial relationship
Ingels et al. Isomorphic unordered labeled trees up to substitution ciphering
Cho Efficient Shared Execution Processing of k‐Nearest Neighbor Joins in Road Networks
Bai et al. Determining topological relations of uncertain spatiotemporal data based on counter-clock-wisely directed triangle
Zhou et al. A topology-preserving polygon rasterization algorithm
Dai et al. Efficiently mining dynamic zonal co-location patterns based on maximal co-locations
Aghamolaei et al. Approximating the p-mean curve of large data-sets
Lin Efficient and compact indexing structure for processing of spatial queries in line-based databases
Weibel et al. On-the-fly Generalization
Fuentes-Sepúlveda et al. Compact representations of spatial hierarchical structures with support for topological queries
Kapoor et al. Visual Techniques for Clustering Tendency Assessment of Networks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant