CN110825743B - 一种图数据库的数据导入方法、装置、电子设备和介质 - Google Patents
一种图数据库的数据导入方法、装置、电子设备和介质 Download PDFInfo
- Publication number
- CN110825743B CN110825743B CN201911051062.4A CN201911051062A CN110825743B CN 110825743 B CN110825743 B CN 110825743B CN 201911051062 A CN201911051062 A CN 201911051062A CN 110825743 B CN110825743 B CN 110825743B
- Authority
- CN
- China
- Prior art keywords
- data
- edge
- endpoint
- element group
- unique
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 239000012634 fragment Substances 0.000 claims abstract description 115
- 238000013507 mapping Methods 0.000 claims abstract description 80
- 230000008676 import Effects 0.000 claims abstract description 18
- 230000015654 memory Effects 0.000 claims description 37
- 238000012163 sequencing technique Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 description 16
- 230000008901 benefit Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000000750 progressive effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013479 data entry Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000013467 fragmentation Methods 0.000 description 1
- 238000006062 fragmentation reaction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/288—Entity relationship models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/1824—Distributed file systems implemented using Network-attached Storage [NAS] architecture
- G06F16/183—Provision of network file services by network file servers, e.g. by using NFS, CIFS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/184—Distributed file systems implemented as replicated file system
- G06F16/1844—Management specifically adapted to replicated file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2246—Trees, e.g. B+trees
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/258—Data format conversion from or to a database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9024—Graphs; Linked lists
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例公开了一种图数据库的数据导入方法、装置、电子设备和介质,涉及大数据技术领域。具体实现方案为:确定图数据中边的第一多元组数据;依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中;依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定组合数据;将所述组合数据写入图数据库中的数据文件。通过本申请实施例的技术方案,能够提高数据导入速度。
Description
技术领域
本申请涉及数据处理技术,具体涉及大数据技术,尤其涉及一种图数据库的数据导入方法、装置、电子设备和介质。
背景技术
在图数据库中,数据导入性能是一个重要的评价指标。当数据量达到一定量级时,由于内存等资源限制,批量数据的导入性能急剧下降。因此找出一种能适应大数据量的数据导入方法对图数据库来说迫在眉睫。
然而,目前批量数据导入流程中需要频繁从外部存储介质如KV数据库中查询数据,进而严重影响数据导入速度。
发明内容
本申请实施例提供一种图数据库的数据导入方法、装置、电子设备和介质,以提高数据导入速度,进而提升处理性能。
第一方面,本申请实施例公开了一种图数据库的数据导入方法,该方法包括:
确定图数据中边的第一多元组数据;
依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中;
依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定组合数据;
将所述组合数据写入图数据库中的数据文件。
上述申请中的一个实施例具有如下优点或有益效果:通过根据图数据中端点的原始id,能够将具有相同端点的原始id的映射关系和第一多元组数据写入同一分片文件中;之后根据至少两个分片文件中的映射关系以及边的第一多元组数据,确定组合数据并将组合数据写入图数据库中的数据文件。减少了从外部存储介质中查询数据的次数,进而提高了数据导入速度,为图数据导入图数据库提供了一种新思路。
可选的,依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中,包括:
确定所述端点的原始id的散列值;
依据所述散列值,将所述端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中。
上述可选方式具有如下优点或有益效果:在数据量较大的场景下,通过散列值,能够控制写入分片文件的数据量大小,进而可以保证每个分片文件中的数据能够加载到内存中单独进行处理,避免出现需要对大量数据一并进行处理的情况,进一步提升了数据处理性能;同时采用基于散列值确定分片文件的手段,也可保证原始id的散列值相同的映射关系和第一多元组数据可写入同一分片文件中,为后续快速进行数据处理奠定了基础。
可选的,所述第一多元组数据至少包括边关联的端点的原始id、边标签、端点类型以及边的唯一id;
相应地,依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定组合数据,包括:
依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定边的第二多元组数据;其中所述边的第二多元组数据至少包括边的唯一id、端点的唯一id、边标签以及端点类型;
根据边的第二多元组数据,得到第三多元组数据对;其中第三多元组数据至少包括第一端点的唯一id、边标签、第一端点类型、第二端点的唯一id、以及边的唯一id,所述第一端点和第二端点为边关联的两个端点;
对第三多元组数据进行合并,确定组合数据。
上述可选方式具有如下优点或有益效果:能够快速确定组合数据,为组合数据的确定提供了一种新思路。
依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定边的第二多元组数据,包括:
在分片文件中,依据端点的原始id,对所述第一多元组数据和映射关系进行排序;
依据映射关系,采用端点的唯一id替换边的第一多元组数据中端点的原始id,得到边的第二多元组数据。
上述可选方式具有如下优点或有益效果:通过根据端点的原始id,能够将原始id相同的映射关系和第一多元组数据可写入同一分片文件中;进而在分片文件中,可直接依据映射关系将第一多元组数据中的端点的原始id替换为端点的唯一id,无需进行数据查询操作,进而提升了数据导入速度。
第二方面,本申请实施例还公开了一种图数据库的数据导入装置,该装置包括:
第一组数据确定模块,用于确定图数据中边的第一多元组数据;
数据写入模块,用于依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中;
组合数据确定模块,用于依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定组合数据;
所述数据写入模块,还用于将所述组合数据写入图数据库中的数据文件。
第三方面,本申请实施例还公开了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如本申请任一实施例所述的图数据库的数据导入方法。
第四方面,本申请实施例还公开了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如本申请任一实施例所述的图数据库的数据导入方法。
上述申请中的一个实施例具有如下优点或有益效果:在数据量较大的场景下,通过根据图数据中端点的原始id,将端点的原始id与端点的映射关系和确定的边的第一多元组数据写入至少两个分片文件中;之后根据至少两个分片文件中的映射关系以及边的第一多元组数据,确定组合数据并将组合数据写入图数据库中的数据文件。因为采用基于端点的原始id确定分片文件的技术手段,可保证原始id的散列值相同的映射关系和第一多元组数据可写入同一分片文件中,为后续快速确定组合数据奠定了基础;同时无需频繁从外部存储介质中查询数据,提高了数据导入速度,为图数据导入图数据库提供了一种新思路。此外,引入分片文件,可避免出现需要对大量数据一并进行处理的情况,进一步提升了数据处理性能。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请第一实施例提供的一种图数据库的数据导入方法的流程图;
图2A是根据本申请第二实施例提供的一种图数据库的数据导入方法的流程图;
图2B是根据本申请第二实施例提供的一种第一多元组数据排序过程示意图;
图3A是根据本申请第三实施例提供的一种图数据库的数据导入方法的流程图;
图3B和3C是根据本申请第三实施例提供的一种确定第三多元组数据对的过程示意图;
图4A是根据本申请第四实施例提供的一种图数据库的数据导入方法的流程图;
图4B是根据本申请第四实施例提供的一种确定组合数据的过程示意图;
图5是根据本申请第五实施例提供的一种图数据库的数据导入方法的流程图;
图6是根据本申请第六实施例提供的一种图数据库的数据导入装置的结构示意图;
图7是用来实现本申请实施例的图数据库的数据导入方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
第一实施例
图1是根据本申请第一实施例提供的一种图数据库的数据导入方法的流程图,本实施例以MapReudce逻辑为基础,用于解决如何快速将数据导入图数据库的问题。该方法可以由图数据库的数据导入装置来执行,该装置可以采用软件和/或硬件的方式实现,并可集成于承载数据导入功能的电子设备中。如图1所示,本实施例提供的图数据库的数据导入方法可以包括:
S110、确定图数据中边的第一多元组数据。
可以理解的是,图即图谱,由端点和边构成;其中,端点表示实体如人、事、物体以及地点等,边则表示两个端点之间的关系。本实施例中,图数据为待导入图数据库中的数据,可以包括边数据和端点数据两类。其中,端点数据可以包括端点的原始id、端点属性以及为端点所分配的唯一id;边数据可以包括边所关联的两个端点的唯一id、边标签、边属性以及为边所分配的唯一id。其中,端点的原始id即为图数据中用于唯一表示端点所代表实体的标识,例如人的身份证号。由于每个端点所代表实体不同,进而端点的原始id的长度不一,为了便于后续查询,本实施例依据设定的id分配规则,为每一端点和边分配定长的唯一id。例如,可以按自然数依次为每一端点和边分配定长的唯一id。边标签用于表示端点之间的关系,且不同端点之间可具有不同的关系。例如端点1是人,端点2是车辆,进而边标签可以是隶属关系。又如,端点1是人,端点3是人,进而边标签可以是朋友关系。
示例性的,在获得需要导入图数据库的图数据之后,首先可以为需要导入图数据库的图数据中的端点分配唯一id,并将端点数据写入图数据库的数据文件中;同时为图数据中的边分配唯一id,并将边数据写入图数据库的数据文件中。进一步的,数据文件中端点数据和边数据可以以KV键值对形式存储。例如,对于端点数据而言,可以将端点的唯一id存储于键域,将端点的原始id以及端点属性存储于值域。对于边数据而言,可以将边的唯一id存储于键域,将边关联的两个端点的原始id、边标签以及边属性存储于值域。
之后可以根据边以及端点等,确定图数据中边的第一多元组数据;进一步的,可以根据边数据以及端点数据等,确定图数据中边的第一多元组数据。其中,第一多元组数据至少可以包括边关联的端点的原始id、边标签、端点类型以及边的唯一id,还可以包括边数据和/端点数据中的其他数据等。可选的,本实施例中第一多元组数据优选可以为包括边关联的端点的原始id、边标签、端点类型以及边的唯一id的四元组数据。端点类型可以是出或入,即out/in。对于一个边关联的两个端点,边的箭头所指方向的端点可称为入端点,对应的出端点的端点类型为入;另一端点为出端点,出端点的端点类型为出。
可以理解的是,由于一个边关联两个端点,进而图数据中每一边可对应两个第一多元组数据。例如,一个边关联两个端点1和2,对应的两个第一多元组数据中一个第一多元组数据中至少包括端点1的原始id、边标签、出以及边的唯一id:另一第一多元组数据中至少包括端点2的原始id、边标签、入以及边的唯一id。
S120、依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中。
为了避免出现需要对大量数据(即大于内存容量的数据)一并进行处理的情况,本实施例引入分片文件,以提高数据处理性能。可选的,可以根据需要导入图数据库的数据量大小以及可用内存容量等,确定分片文件的数量以及每一分片文件的大小。进一步的,分片文件可位于磁盘中,且每一分片文件的大小小于内存容量,进而每一分片文件中的数据均可被全部读入内存中进行处理。
可选的,本实施例在为端点分配唯一id之后,可以建立端点的原始id与端点的唯一id之间的映射关系。进而,在确定第一多元组数据之后,可以将具有相同的端点的原始id的映射关系以及第一多元组数据视为一个数据对;而后可以按照图顺序以及每一分片文件大小,将所有数据对写入多个分片文件中。可选的,一个数据对可写入一个分片文件中。
还可以采用哈希分片方式,将映射关系和第一多元组数据写入多个分片文件中。示例性的,依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及边的第一多元组数据写入至少两个分片文件中还可以是:确定端点的原始id的散列值;依据散列值,将端点的原始id与端点的唯一id之间的映射关系,以及边的第一多元组数据写入至少两个分片文件中。
本实施例中,可预先设定每一分片文件对应的散列值,例如,分片文件1用于存储散列值为0-5的数据等。具体的,本实施例可在建立端点的原始id与端点的唯一id之后,可以对端点的原始id进行散列即哈希处理,进而得到端点的原始id的散列值,之后可根据端点的原始id的散列值将映射关系写入至对应的分片文件中。同时在确定第一多元组数据之后,可以根据第一多元组数据中端点的原始id的散列值,将第一多元组数据写入对应的分片文件中。
需要说明的是,在数据量较大的场景下,通过散列值,能够控制写入分片文件的数据量大小,进而可以保证每个分片文件中的数据能够加载到内存中单独进行处理,避免出现需要对大量数据一并进行处理的情况,进一步提升了数据处理性能;同时采用基于散列值确定分片文件的手段,也可保证原始id的散列值相同的映射关系和第一多元组数据可写入同一分片文件中,为后续快速确定组合数据奠定了基础。
S130、依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定组合数据。
需要说明的是,实际场景中经常具有查询需求。例如,端点1为人,边标签为朋友关系,进而在需要查找端点1的所有朋友时,由于每个边数据是独立存储的,因此查询较慢。进而,为了提高检索性能,在将端点数据和边数据写入图数据库中的数据文件之外,还需要将组合数据也写入数据文件中。
可选的,组合数据可以由两个或两个以上的组合字段组成。例如,组合数据中的第一组合字段可以由第一端点的唯一id、边标签以及第一端点类型组成,第二组合字段可以由第二端点的唯一id以及边的唯一id组成。进一步的,第一组合字段又可以称为索引字段,对应的,第二组合字段又可称为值字段,第二字段中至少包括一个值。其中,第一端点和第二端点为边关联的两个端点,若第一端点为出端点,则第一端点类型为出,第二端点为入端点;若第一端点为入端点,则第一端点类型为入,第二端点为出端点。
具体的,可以根据多个分片文件中的映射关系,对第一多元组数据的端点的原始id进行替换;之后可以对替换后的第一多元组数据进行处理如排序、拆分以及组合等,即可得到组合数据。
S140、将组合数据写入图数据库中的数据文件。
本实施例中,在确定组合数据之后,可以将组合数据写入图数据库中的数据文件。
本申请实施例提供的技术方案,通过根据图数据中端点的原始id,能够将具有相同端点的原始id的映射关系和第一多元组数据写入同一分片文件中;之后根据至少两个分片文件中的映射关系以及边的第一多元组数据,确定组合数据并将组合数据写入图数据库中的数据文件。减少了从外部存储介质中查询数据的次数,进而提高了数据导入速度,为图数据导入图数据库提供了一种新思路。
第二实施例
图2A是根据本申请第二实施例提供的一种图数据库的数据导入方法的流程图,本实施例在上述实施例的基础上,进一步对依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定组合数据进行解释说明。如图2A所示,本实施例提供的图数据库的数据导入方法可以包括:
S210、确定图数据中边的第一多元组数据。
S220、依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及边的第一多元组数据写入至少两个分片文件中。
S230、依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定边的第二多元组数据。
本实施例中,第二多元组数据至少可以包括边的唯一id、端点的唯一id、边标签以及端点类型,还可以包括边数据和/端点数据中的其他数据等。可选的,本实施例中的第二多元组数据优选可以为包括边的唯一id、端点的唯一id、边标签以及端点类型的四元组数据。可选的,每个第一多元组数据唯一对应一个第二多元组数据。
具体的,在进行S220之后,具有相同的端点的原始id的映射关系和第一多元组数据被写入同一分片文件中;进而,对于每一分片文件,可将该分片文件从磁盘读到内存中,之后在内存中,可以根据该分片文件中的映射关系,对该分片文件中的第一多元组数据中的端点的原始id进行替换,即可得到第二多元组数据。
为了加快替换速度,进一步的,依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定边的第二多元组数据可以是:在分片文件中,依据端点的原始id,对第一多元组数据和映射关系进行排序;依据映射关系,采用端点的唯一id替换边的第一多元组数据中端点的原始id,得到边的第二多元组数据。
具体的,对于每一分片文件,在将该分片文件从磁盘读到内存之后,可以依据端点的原始id,对该分片文件中的数据即第一多元组数据和映射关系进行排序,进而端点的原始id相同的映射关系和第一多元组数据将被排序到一起。例如,分片文件中设置有端点的原始id(@id)、边标签(@label)、端点类型(@dir)以及唯一id(inter-id)四个字段,经S220过程之后,分片文件1中写入的数据如图2B中的A所示;之后依据端点的原始id,对该分片文件1中的第一多元组数据和映射关系进行排序后的结果如图2B中的B所示。之后遍历该分片文件中的数据,即可快速将边的第一多元组数据中端点的原始id替换为端点的唯一id,同时根据替换后的第一多元组数据可构造出第二多元组数据。
需要说明的是,通过根据端点的原始id,能够将原始id相同的映射关系和第一多元组数据可写入同一分片文件中;进而在分片文件中,可直接依据映射关系将第一多元组数据中的端点的原始id替换为端点的唯一id,无需进行数据查询操作,进而提升了数据导入速度。此外,每个分片能够加载到内存中进行排序,避免了全体数据条目的排序,且无需利用磁盘进行归并,进一步提升了性能。
S240、根据边的第二多元组数据,得到第三多元组数据对。
本实施例中,第三多元组数据对可以包括两个第三多元组数据,其中,第三多元组数据至少可以包括第一端点的唯一id、边标签、第一端点类型、第二端点的唯一id、以及边的唯一id,第一端点和第二端点为边关联的两个端点。此外,还可以包括边数据和/端点数据中的其他数据等。可选的,本实施例中,第三多元组数据优选可以为包括第一端点的唯一id、边标签、第一端点类型、第二端点的唯一id、以及边的唯一id的五元组数据。
可选的,一个边可对应两个第一多元组数据,每一第一多元组数据唯一对应一个第二多元组数据;边的唯一id相同的两个第二多元组数据唯一对应一个第三多元组数据对,即一个边唯一对应一个第三多元组数据对。
具体的,在得到第二多元组数据之后,可以对边的唯一id相同的两个第二多元组数据进行重构,即可得到第三多元组数据对。
S250、对第三多元组数据进行合并,确定组合数据。
可选的,组合数据可以由两个或两个以上的组合字段组成。例如,组合数据中的第一组合字段可以由第一端点的唯一id、边标签以及第一端点类型组成,第二组合字段可以由第二端点的唯一id以及边的唯一id组成。进一步的,第一组合字段又可以称为索引字段,对应的,第二组合字段又可称为值字段,第二字段中至少包括一个值。
具体的,可以将第一端点的唯一id、边标签以及第一端点类型相同的第三多元组数据进行合并,即可得到组合数据。
S260、将组合数据写入图数据库中的数据文件。
本申请实施例提供的技术方案,在数据量较大的场景下,通过根据图数据中端点的原始id,将端点的原始id与端点的映射关系和确定的边的第一多元组数据写入至少两个分片文件中;之后,根据至少两个分片文件中的映射关系以及边的第一多元组数据可快速确定第二多元组数据,进而确定第三多元组数据;并对第三多元组数据进行合并即可得到组合数据,将组合数据写入图数据库中的数据文件。提供了一种层级递进确定组合数据的方式,减少了从外部存储介质中查询数据的次数,能够快速确定组合数据,为组合数据的确定提供了一种新思路。
第三实施例
图3A是根据本申请第三实施例提供的一种图数据库的数据导入方法的流程图,本实施例在上述实施例的基础上,又进一步对依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定组合数据进行解释说明。如图3A所示,本实施例提供的图数据库的数据导入方法可以包括:
S310、确定图数据中边的第一多元组数据。
S320、依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及边的第一多元组数据写入至少两个分片文件中。
S330、依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定边的第二多元组数据。
S340、依据边的唯一id,将边的第二多元组数据写入至少两个新分片文件中。
本实施例中,新分片文件也可存储于磁盘中,且每一新分片文件的大小小于内存容量。
具体的,在每一分片文件中,采用S330确定第二多元组数据之后,可以对第二多元组数据中边的唯一id进行散列处理,进而可得到边的唯一id的散列值;之后可根据边的唯一id的散列值将第二多元组数据写入对应的新分片文件中。
S350、依据新分片文件中边的唯一id相同的第二多元组数据,得到第三多元组数据对。
具体的,在进行S340之后,边的唯一id相同的第二多元组数据被写入同一新分片文件中;进而,对于每一新分片文件,可将该新分片文件从磁盘读到内存中;之后在内存中,对该新分片文件中每一边的唯一id相同的两个第二多元组数据进行重构,即可得到一个第三多元组数据对。
为了便于快速得到第三多元组数据对,进一步的,依据新分片文件中边的唯一id相同的第二多元组数据,得到第三多元组数据对可以是:在新分片文件中,依据边的唯一id,对第二多元组数据进行排;依据边的唯一id相同的第二多元组数据,得到第三多元组数据对。
具体的,对于每一新分片文件,在将该新分片文件从磁盘读到内存之后,可以依据边的唯一id,对该新分片文件中的数据即第二多元组数据进行排序,进而边的唯一id相同的第二多元组数据将被排序到一起。例如,新分片文件中设置有边的唯一id(@eid)、端点的唯一id(@sid)、边标签(@label)以及端点类型(@dir)四个字段,经S340过程之后,新分片文件1中写入的数据如图3B中的A所示;之后依据边的唯一id,对该新分片文件1中的第二多元组数据进行排序后的结果如图3B中的B所示。之后遍历该新分片文件中的数据,将相邻的边的唯一id相同的两个第二多元组数据进行重构,即可得到第三多元组数据对。例如,图3B中B所示的边的唯一id为4的两个第二多元组数据进行重构,可以得到图3B中C所示的第三多元组数据对。
同理,图3C中所示出的新分片文件2中的第二多元组数据到第三多元组数据对的过程与新分片文件1相同。
需要说明的是,每个新分片能够加载到内存中进行排序,避免了全体数据条目的排序,且无需利用磁盘进行归并,进一步提升了性能。
S360、对第三多元组数据进行合并,确定组合数据。
S370、将组合数据写入图数据库中的数据文件。
本申请实施例提供的技术方案,在基于层级递进确定组合数据的方式下,提供了一种由第二多元组数据快速确定第三多元组数据的方法,进一步提升了数据处理性能。
第四实施例
图4A是根据本申请第四实施例提供的一种图数据库的数据导入方法的流程图,本实施例在上述实施例的基础上,又进一步对依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定组合数据进行解释说明。如图4A所示,本实施例提供的图数据库的数据导入方法可以包括:
S410、确定图数据中边的第一多元组数据。
S420、依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及边的第一多元组数据写入至少两个分片文件中。
S430、依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定边的第二多元组数据。
S440、根据边的第二多元组数据,得到第三多元组数据对。
S450、依据第三多元组数据中第一端点的唯一id,将第三多元组数据写入至少两个待组合分片文件中。
本实施例中,待组合分片文件也可存储于磁盘中,且每一待组合分片文件的大小小于内存容量。
具体的,采用S440(如采用如图3B所示)确定第三多元组数据对之后,可以对第三多元组数据中第一端点的唯一id进行散列处理,进而可得到第一端点的唯一id的散列值;之后可根据第一端点的唯一id的散列值将第三多元组数据写入对应的新分片文件中。
S460、对待组合分片文件中的第三多元组数据进行排序。
具体的,在进行S450之后,第一端点的唯一id相同的第三多元组数据被写入同一待组合分片文件中;为了便于后续合并,对于每一待组合分片文件,在将该组合分片文件从磁盘读到内存之后,可依据第一端点的唯一id、边标签以及第一端点类型进行排序,进而第一端点的唯一id、边标签以及第一端点类型相同的第三多元组数据将被排序到一起。
例如,待组合分片文件中可设置有第一端点的唯一id(@sid)、边标签(@label)、第一端点类型(@dir)、第二端点的唯一id(@sid)以及边的唯一id(@eid)五个字段,经S450过程之后,待组合分片文件1中写入的数据如图4B中的A所示;之后依据第一端点的唯一id、边标签以及第一端点类型,对该待组合分片文件1中的第三多元组数据进行排序后的结果如图4B中的B所示。
S470、对排序后的第三多元组数据进行合并,得到组合数据。
具体的,对图4B中B所示排序后的第三多元组数据进行合并,可得到图4B中C所示的组合数据。
S480、将组合数据写入图数据库中的数据文件。
本申请实施例提供的技术方案,在基于层级递进确定组合数据的方式下,提供了一种由第三多元组数据快速确定组合数据的方法,进一步提升了数据处理性能。
第五实施例
图5是根据本申请第五实施例提供的一种图数据库的数据导入方法的流程图,本实施例在上述实施例的基础上,提供了一种优选实例。如图5所示,本实施例提供的图数据库的数据导入方法可以包括:
S501、确定图数据中边的第一多元组数据。
S502、依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及边的第一多元组数据写入至少两个分片文件中。
S503、在分片文件中,依据端点的原始id,对第一多元组数据和映射关系进行排序。
S504、依据映射关系,采用端点的唯一id替换边的第一多元组数据中端点的原始id,得到边的第二多元组数据。
S505、依据边的唯一id,将边的第二多元组数据写入至少两个新分片文件中。
S506、依据新分片文件中边的唯一id相同的第二多元组数据,得到第三多元组数据对。
S507、依据第三多元组数据中第一端点的唯一id,将第三多元组数据写入至少两个待组合分片文件中。
S508、对待组合分片文件中的第三多元组数据进行排序。
S509、对排序后的第三多元组数据进行合并,得到组合数据。
S510、将组合数据写入图数据库中的数据文件。
本申请实施例提供的技术方案,在数据量较大的场景下,通过根据图数据中端点的原始id,将端点的原始id与端点的映射关系和确定的边的第一多元组数据写入至少两个分片文件中;之后采用层级递进方式确定组合数据并将组合数据写入图数据库中的数据文件。因为采用基于端点的原始id确定分片文件的技术手段,可保证原始id的散列值相同的映射关系和第一多元组数据可写入同一分片文件中,为后续快速确定组合数据奠定了基础;同时无需频繁从外部存储介质中查询数据,提高了数据导入速度,为图数据导入图数据库提供了一种新思路。此外,引入分片文件,可避免出现需要对大量数据一并进行处理的情况,进一步提升了数据处理性能。
第六实施例
图6是根据本申请第六实施例提供的一种图数据库的数据导入装置的结构示意图,该装置可执行本申请任意实施例所提供的图数据库的数据导入方法,具备执行方法相应的功能模块和有益效果。可选的,该装置可以采用软件和/或硬件的方式实现,并可集成在承载数据导入功能的电子设备中。如图6所示,该装置可以包括:
第一组数据确定模块610,用于确定图数据中边的第一多元组数据;
数据写入模块620,用于依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及边的第一多元组数据写入至少两个分片文件中;
组合数据确定模块630,用于依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定组合数据;
数据写入模块620,还用于将组合数据写入图数据库中的数据文件。
本申请实施例提供的技术方案,通过根据图数据中端点的原始id,能够将具有相同端点的原始id的映射关系和第一多元组数据写入同一分片文件中;之后根据至少两个分片文件中的映射关系以及边的第一多元组数据,确定组合数据并将组合数据写入图数据库中的数据文件。减少了从外部存储介质中查询数据的次数,进而提高了数据导入速度,为图数据导入图数据库提供了一种新思路。
示例性的,数据写入模块620具体可以用于:
确定端点的原始id的散列值;
依据散列值,将端点的原始id与端点的唯一id之间的映射关系,以及边的第一多元组数据写入至少两个分片文件中。
示例性的,边的第一多元组数据至少包括边关联的端点的原始id、边标签、端点类型以及边的唯一id;
相应地,组合数据确定模块630可以包括:
第二组数据确定单元,用于依据至少两个分片文件中的映射关系,以及边的第一多元组数据,确定边的第二多元组数据;其中边的第二多元组数据至少包括边的唯一id、端点的唯一id、边标签以及端点类型;
第三组数据确定单元,用于根据边的第二多元组数据,得到第三多元组数据对;其中第三多元组数据至少包括第一端点的唯一id、边标签、第一端点类型、第二端点的唯一id、以及边的唯一id,第一端点和第二端点为边关联的两个端点;
组合数据确定单元,用于对第三多元组数据进行合并,确定组合数据。
示例性的,第二组数据确定单元具体可以用于:
在分片文件中,依据端点的原始id,对所述第一多元组数据和映射关系进行排序;
依据映射关系,采用端点的唯一id替换边的第一多元组数据中端点的原始id,得到边的第二多元组数据。
示例性的,第三组数据确定单元可以包括:
第二组数据写入子单元,用于依据边的唯一id,将边的第二多元组数据写入至少两个新分片文件中;
第三组数据确定子单元,用于依据新分片文件中边的唯一id相同的第二多元组数据,得到第三多元组数据对。
示例性的,第三组数据确定子单元具体可以用于:
在新分片文件中,依据边的唯一id,对第二多元组数据进行排;
依据边的唯一id相同的第二多元组数据,得到第三多元组数据对。
示例性的,组合数据确定单元具体可以用于:
依据第三多元组数据中第一端点的唯一id,将第三多元组数据写入至少两个待组合分片文件中;
对待组合分片文件中的第三多元组数据进行排序;
对排序后的第三多元组数据进行合并,得到组合数据。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图7所示,是根据本申请实施例的图数据库的数据导入方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,该电子设备包括:一个或多个处理器701、存储器702,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI(Graphical User Interface,GUI)的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作,例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统。图7中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的图数据库的数据导入方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的图数据库的数据导入方法。
存储器702作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的图数据库的数据导入方法对应的程序指令/模块,例如,附图6所示的第一组数据确定模块610、数据写入模块620和组合数据确定模块630。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的图数据库的数据导入方法。
存储器702可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据用来实现图数据库的数据导入方法的电子设备的使用所创建的数据等。此外,存储器702可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器702可选包括相对于处理器401远程设置的存储器,这些远程存储器可以通过网络连接至用来实现图数据库的数据导入方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
用来实现图数据库的数据导入方法的电子设备还可以包括:输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接,图7中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息,以及产生与用来实现图数据库的数据导入方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置和触觉反馈装置等,其中,辅助照明装置例如发光二极管(Light Emitting Diode,LED),触觉反馈装置例如振动电机等。该显示设备可以包括但不限于,液晶显示器(Liquid Crystal Display,LCD)、LED显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用专用集成电路(Application Specific Integrated Circuit,ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序也称作程序、软件、软件应用、或者代码,包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置,例如,磁盘、光盘、存储器、可编程逻辑装置(Programmable Logic Device,PLD),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置,例如,阴极射线管(Cathode Ray Tube,CRT)或者LCD监视器;以及键盘和指向装置,例如,鼠标或者轨迹球,用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈例如,视觉反馈、听觉反馈、或者触觉反馈;并且可以用任何形式,包括声输入、语音输入或者、触觉输入,来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统例如,作为数据服务器;或者实施在包括中间件部件的计算系统例如,应用服务器;或者实施在包括前端部件的计算系统例如具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互,或者实施在包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信,例如,通信网络,来将系统的部件相互连接。通信网络的示例包括:局域网(Local Area Network,LAN)、广域网(Wide Area Network,WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,在数据量较大的场景下,通过根据图数据中端点的原始id,将端点的原始id与端点的映射关系和确定的边的第一多元组数据写入至少两个分片文件中;之后采用层级递进方式确定组合数据并将组合数据写入图数据库中的数据文件。因为采用基于端点的原始id确定分片文件的技术手段,可保证原始id的散列值相同的映射关系和第一多元组数据可写入同一分片文件中,为后续快速确定组合数据奠定了基础;同时无需频繁从外部存储介质中查询数据,提高了数据导入速度,为图数据导入图数据库提供了一种新思路。此外,引入分片文件,可避免出现需要对大量数据一并进行处理的情况,进一步提升了数据处理性能。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (10)
1.一种图数据库的数据导入方法,其特征在于,包括:
确定图数据中边的第一多元组数据;
依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中;
依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定组合数据;
将所述组合数据写入图数据库中的数据文件。
2.根据权利要求1所述的方法,其特征在于,依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中,包括:
确定所述端点的原始id的散列值;
依据所述散列值,将所述端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中。
3.根据权利要求1所述的方法,其特征在于,所述边的第一多元组数据至少包括边关联的端点的原始id、边标签、端点类型以及边的唯一id;
相应地,依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定组合数据,包括:
依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定边的第二多元组数据;其中所述边的第二多元组数据至少包括边的唯一id、端点的唯一id、边标签以及端点类型;
根据边的第二多元组数据,得到第三多元组数据对;其中第三多元组数据至少包括第一端点的唯一id、边标签、第一端点类型、第二端点的唯一id、以及边的唯一id,所述第一端点和第二端点为边关联的两个端点;
对第三多元组数据进行合并,确定组合数据。
4.根据权利要求3所述的方法,其特征在于,依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定边的第二多元组数据,包括:
在分片文件中,依据端点的原始id,对所述第一多元组数据和映射关系进行排序;
依据映射关系,采用端点的唯一id替换边的第一多元组数据中端点的原始id,得到边的第二多元组数据。
5.根据权利要求3所述的方法,其特征在于,根据边的第二多元组数据,得到第三多元组数据对,包括:
依据边的唯一id,将边的第二多元组数据写入至少两个新分片文件中;
依据新分片文件中边的唯一id相同的第二多元组数据,得到第三多元组数据对。
6.根据权利要求5所述的方法,其特征在于,依据新分片文件中边的唯一id相同的第二多元组数据,得到第三多元组数据对,包括:
在新分片文件中,依据边的唯一id,对第二多元组数据进行排;
依据边的唯一id相同的第二多元组数据,得到第三多元组数据对。
7.根据权利要求3所述的方法,其特征在于,对第三多元组数据进行合并,确定组合数据,包括:
依据第三多元组数据中第一端点的唯一id,将第三多元组数据写入至少两个待组合分片文件中;
对待组合分片文件中的第三多元组数据进行排序;
对排序后的第三多元组数据进行合并,得到组合数据。
8.一种图数据库的数据导入装置,其特征 在于,包括:
第一组数据确定模块,用于确定图数据中边的第一多元组数据;
数据写入模块,用于依据图数据中端点的原始id,将端点的原始id与端点的唯一id之间的映射关系,以及所述边的第一多元组数据写入至少两个分片文件中;
组合数据确定模块,用于依据所述至少两个分片文件中的映射关系,以及所述边的第一多元组数据,确定组合数据;
所述数据写入模块,还用于将所述组合数据写入图数据库中的数据文件。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的图数据库的数据导入方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的图数据库的数据导入方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911051062.4A CN110825743B (zh) | 2019-10-31 | 2019-10-31 | 一种图数据库的数据导入方法、装置、电子设备和介质 |
EP20176889.2A EP3816817B1 (en) | 2019-10-31 | 2020-05-27 | Method and apparatus for importing data into graph database, electronic device and medium |
US16/890,386 US20210133217A1 (en) | 2019-10-31 | 2020-06-02 | Method and apparatus for importing data into graph database, electronic device and medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911051062.4A CN110825743B (zh) | 2019-10-31 | 2019-10-31 | 一种图数据库的数据导入方法、装置、电子设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110825743A CN110825743A (zh) | 2020-02-21 |
CN110825743B true CN110825743B (zh) | 2022-03-01 |
Family
ID=69551677
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911051062.4A Active CN110825743B (zh) | 2019-10-31 | 2019-10-31 | 一种图数据库的数据导入方法、装置、电子设备和介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20210133217A1 (zh) |
EP (1) | EP3816817B1 (zh) |
CN (1) | CN110825743B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111523000B (zh) * | 2020-04-23 | 2023-06-23 | 北京百度网讯科技有限公司 | 用于导入数据的方法、装置、设备以及存储介质 |
CN112559631B (zh) * | 2020-12-15 | 2023-09-26 | 北京百度网讯科技有限公司 | 分布式图数据库的数据处理方法、装置以及电子设备 |
US11822573B2 (en) * | 2021-06-15 | 2023-11-21 | Baker Hughes Holdings Llc | Creation and maintenance of hierarchical industrial asset datasets |
CN113393524B (zh) * | 2021-06-18 | 2023-09-26 | 常州大学 | 一种结合深度学习和轮廓点云重建的目标位姿估计方法 |
CN113343042B (zh) * | 2021-06-29 | 2024-08-23 | 维沃移动通信有限公司 | 数据分片存储方法、装置、电子设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106547809A (zh) * | 2015-09-18 | 2017-03-29 | 邻客音公司 | 将复合关系表示在图数据库中 |
CN108600321A (zh) * | 2018-03-26 | 2018-09-28 | 中国科学院计算技术研究所 | 一种基于分布式内存云的图数据存储方法和系统 |
CN109344268A (zh) * | 2018-08-14 | 2019-02-15 | 北京奇虎科技有限公司 | 图形数据库写入的方法、电子设备及计算机可读存储介质 |
CN109344269A (zh) * | 2018-08-14 | 2019-02-15 | 北京奇虎科技有限公司 | 图形数据库写入的方法、电子设备及计算机可读存储介质 |
CN109635037A (zh) * | 2018-11-19 | 2019-04-16 | 中山大学 | 一种关系型分布式数据库的分片存储方法及装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8438364B2 (en) * | 2010-12-30 | 2013-05-07 | Facebook Inc. | Distributed cache for graph data |
WO2014170762A2 (en) * | 2013-03-15 | 2014-10-23 | James Webber | Graph database devices and methods for partitioning graphs |
US9916187B2 (en) * | 2014-10-27 | 2018-03-13 | Oracle International Corporation | Graph database system that dynamically compiles and executes custom graph analytic programs written in high-level, imperative programming language |
US11256746B2 (en) * | 2016-04-25 | 2022-02-22 | Oracle International Corporation | Hash-based efficient secondary indexing for graph data stored in non-relational data stores |
US10380188B2 (en) * | 2016-08-05 | 2019-08-13 | International Business Machines Corporation | Distributed graph databases that facilitate streaming data insertion and queries by reducing number of messages required to add a new edge by employing asynchronous communication |
US10394891B2 (en) * | 2016-08-05 | 2019-08-27 | International Business Machines Corporation | Distributed graph databases that facilitate streaming data insertion and queries by efficient throughput edge addition |
KR101764674B1 (ko) * | 2017-01-06 | 2017-08-03 | 한국인터넷진흥원 | 침해 자원에 대한 그래프 데이터베이스 생성 방법 및 그 장치 |
US10671671B2 (en) * | 2017-06-09 | 2020-06-02 | Microsoft Technology Licensing, Llc | Supporting tuples in log-based representations of graph databases |
US10628492B2 (en) * | 2017-07-20 | 2020-04-21 | Microsoft Technology Licensing, Llc | Distributed graph database writes |
CN111512303B (zh) * | 2017-12-29 | 2023-10-27 | 电子技术公司 | 分层图形数据结构 |
US11157514B2 (en) * | 2019-10-15 | 2021-10-26 | Dropbox, Inc. | Topology-based monitoring and alerting |
-
2019
- 2019-10-31 CN CN201911051062.4A patent/CN110825743B/zh active Active
-
2020
- 2020-05-27 EP EP20176889.2A patent/EP3816817B1/en active Active
- 2020-06-02 US US16/890,386 patent/US20210133217A1/en not_active Abandoned
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106547809A (zh) * | 2015-09-18 | 2017-03-29 | 邻客音公司 | 将复合关系表示在图数据库中 |
CN108600321A (zh) * | 2018-03-26 | 2018-09-28 | 中国科学院计算技术研究所 | 一种基于分布式内存云的图数据存储方法和系统 |
CN109344268A (zh) * | 2018-08-14 | 2019-02-15 | 北京奇虎科技有限公司 | 图形数据库写入的方法、电子设备及计算机可读存储介质 |
CN109344269A (zh) * | 2018-08-14 | 2019-02-15 | 北京奇虎科技有限公司 | 图形数据库写入的方法、电子设备及计算机可读存储介质 |
CN109635037A (zh) * | 2018-11-19 | 2019-04-16 | 中山大学 | 一种关系型分布式数据库的分片存储方法及装置 |
Non-Patent Citations (1)
Title |
---|
支持多模态医学数据融合的并行加载算法;翟霄等;《数据采集与处理》;20180715(第04期);第188-198页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110825743A (zh) | 2020-02-21 |
US20210133217A1 (en) | 2021-05-06 |
EP3816817B1 (en) | 2024-05-01 |
EP3816817A1 (en) | 2021-05-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110825743B (zh) | 一种图数据库的数据导入方法、装置、电子设备和介质 | |
CN112015775B (zh) | 标签数据处理方法、装置、设备和存储介质 | |
CN111523001B (zh) | 用于存储数据的方法、装置、设备以及存储介质 | |
EP3832493A1 (en) | Method, apparatus, electronic device and readable storage medium for data query | |
CN111259107B (zh) | 行列式文本的存储方法、装置以及电子设备 | |
CN112269789A (zh) | 存储数据的方法和装置、以及读取数据的方法和装置 | |
CN110619002A (zh) | 数据处理方法、装置及存储介质 | |
CN113051446A (zh) | 拓扑关系查询方法、装置、电子设备和介质 | |
CN111460292A (zh) | 模型评估方法、装置、设备和介质 | |
CN111581049B (zh) | 分布式系统运行状态监测方法、装置、设备及存储介质 | |
CN112328658A (zh) | 用户档案数据处理方法、装置、设备及存储介质 | |
CN110619008A (zh) | 数据库查询方法、装置、电子设备及存储介质 | |
CN111177479B (zh) | 获取关系网络图中节点的特征向量的方法以及装置 | |
CN111176838B (zh) | 为二分图中的节点分配嵌入向量的方法以及装置 | |
CN112069137A (zh) | 生成信息的方法、装置、电子设备及计算机可读存储介质 | |
CN111782633A (zh) | 数据处理方法、装置及电子设备 | |
CN110517079B (zh) | 数据处理方法、装置、电子设备和存储介质 | |
CN110515964A (zh) | 一种文件更新方法、装置、电子设备和介质 | |
CN111506737B (zh) | 图数据处理方法、检索方法、装置及电子设备 | |
CN112446728A (zh) | 广告召回方法、装置、设备及存储介质 | |
CN111523000A (zh) | 用于导入数据的方法、装置、设备以及存储介质 | |
CN110889020A (zh) | 站点资源挖掘方法、装置以及电子设备 | |
CN112507100B (zh) | 一种问答系统的更新处理方法和装置 | |
CN113032402B (zh) | 存储数据和获取数据的方法、装置、设备和存储介质 | |
CN111405051B (zh) | 应用程序编程接口api信息的处理方法、装置和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |