CN113190718A - 图数据库的数据处理方法、装置、电子设备及存储介质 - Google Patents
图数据库的数据处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113190718A CN113190718A CN202110469049.1A CN202110469049A CN113190718A CN 113190718 A CN113190718 A CN 113190718A CN 202110469049 A CN202110469049 A CN 202110469049A CN 113190718 A CN113190718 A CN 113190718A
- Authority
- CN
- China
- Prior art keywords
- data
- processed
- data table
- storage position
- identifier
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9024—Graphs; Linked lists
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/9038—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提出了图数据库的数据处理方法、装置、电子设备及存储介质,涉及计算机技术领域,尤其涉及知识图谱、智能推荐等人工智能技术领域,具体实现方案:确定待处理数据;根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同;对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理,实现采用视图数据表来维护基础的数据表之间的隶属关联关系,能够有效提升图数据库的处理性能,有效提升图数据库的数据处理效果。
Description
技术领域
本公开涉及计算机技术领域,特别涉及知识图谱、智能推荐等人工智能技术领域,尤其涉及图数据库的数据处理方法、装置、电子设备及存储介质。
背景技术
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
在当今互联网信息检索和推荐场景中,图片、视频等多媒体内容的占比越来越大,为了让这些多媒体内容能更好地被检索和推荐,需要充分挖掘图片内容、图片在互联网出现的各种图片链接、以及这些图片链接所在网页的一系列相关属性以及他们之间的关系。
发明内容
提供了一种图数据库的数据处理方法、装置、电子设备、存储介质及计算机程序产品。
根据第一方面,提供了一种图数据库的数据处理方法,包括:确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中;根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表,是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同;以及对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理
根据第二方面,提供了一种图数据库的数据处理装置,包括:第一确定模块,用于确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中;第二确定模块,用于根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表,是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同;以及处理模块,用于对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理。
根据第三方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开实施例提出的图数据库的数据处理方法。
根据第四方面,提出了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本公开实施例提出的图数据库的数据处理方法。
根据第五方面,提出了一种计算机程序产品,包括计算机程序,当所述计算机程序由处理器执行时实现本公开实施例提出的图数据库的数据处理方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的示意图;
图2a是本公开实施例中待处理数据表的结构示意图;
图2b是本公开实施例中视图数据表的结构示意图;
图3是根据本公开第二实施例的示意图;
图4是本公开实施例中待处理标识和关联标识的隶属关联关系示意图;
图5是根据本公开第三实施例的示意图;
图6a是本公开实施例中时间戳的产生方式示意图;
图6b是本公开实施例中待处理数据与时间戳的对应关系示意图;
图7a是本公开实施例中数据维护的流程示意图;
图7b是本公开实施例中F表的时间戳关系示意图;
图7c是本公开实施例中视图数据表的结构示意图;
图8是本公开实施例中图数据库的架构设计示意图;
图9是根据本公开第四实施例的示意图;
图10是根据本公开第五实施例的示意图;
图11是用来实现本公开实施例的图数据库的数据处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本公开第一实施例的示意图。
其中,需要说明的是,本实施例的图数据库的数据处理方法的执行主体为图数据库的数据处理装置,该装置可以由软件和/或硬件的方式实现,该装置可以配置在电子设备中,电子设备可以包括但不限于终端、服务器端等。
本公开涉及计算机技术领域,特别涉及知识图谱、智能推荐等人工智能技术领域。
其中,人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
知识图谱,是通过将应用数学、图形学、信息可视化技术、信息科学等学科的理论与方法与计量学引文分析、共现分析等方法结合,并采用可视化的图谱形象地展示学科的核心结构、发展历史、前沿领域以及整体知识架构达到多学科融合目的的现代理论。
智能推荐,即通过对用户行为及业务特征的深入挖掘,针对不同场景提供实时、精准的推荐服务,快速提升用户活跃度及点击转化率。
如图1所示,该图数据库的数据处理方法包括:
S101:确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中。
本公开实施例可以具体应用在对基础的数据表之中的数据进行相应处理的应用场景中,在本公开实施例中,预先基于一张视图数据表来维护基础的数据表之间的隶属关联关系,从而基于该视图数据表所能够辅助维护的隶属关联关系来辅助对基础的数据表之中存储的待处理数据进行增、删、改、查。
其中,当前需要对其进行处理(处理,例如增、删、改、查)的数据,可以被称为待处理数据,该待处理数据例如但不限于是图片、视频、图片链接、视频链接,或者其它任意可能的数据,并且待处理数据可以是一条数据或者多条数据,此处不作具体限定。
本公开实施例中的图数据库也称图形数据库(Graph database),图形数据库是一种非关系型数据库,它应用图形理论存储实体之间的关系信息。图数据库通常以数据结构中的图论(Graph)为理论基础,构成图的核心要素有两个:节点(vertex或node,也称为点)以及节点上的属性、边(edge或者relationship,也称为关系)以及边上的属性。
图数据库可以例如但不限于是GraphDB图数据库、Neo4j图数据库等,在图数据库中,例如可以存储有一个或者多个数据表,其中,各个数据表可以被用于存储上述的图片数据、视频数据,而存储待处理数据的数据表,可以被称为待处理数据表。
待处理数据,可以具体例如图数据库之中的图片,该图片可以存储在待处理数据表之中,相应的,该待处理数据表具有表类别,该表类别可以由其所存储的内容确定,假设其所存储的内容是图片,则表类别可以是图片内容类别,对此不做限制。
待处理数据也可能是图片链接,或者图片所属网页的网页链接等,对此不做限制。
如果待处理数据是图片,则待处理数据的具体呈现形式,可以是图片内容签名(以下简称“c”),可以被理解为内容相同的图片拥有同一个签名,也即是说,拥有不同签名的图片的内容一定不同。
如果待处理数据是图片链接,则待处理数据可以用“o”表示,图片链接表示图片在网络中对应的链接地址,例如图片链接的形式为www.baidu.com/1.jpg,不同的图片链接可能对应的图片内容是相同的,即多个图片链接可以对应同一个图片。
如果待处理数据是网页链接,则待处理数据可以用“f”表示,表示图片所属网页的链接,相同网页可能包括多个图片链接,且,一个图片链接可能属于在多个不同的网页。
而上述的图片、图片链接、网页链接均可以被称为待处理数据,相应的,图片、图片链接、网页链接均可以被存储至对应的数据表之中,本公开实施例中,可以将存储上述图片、图片链接、网页链接的数据表,称为基础的数据表,而后支持基于若干个基础的数据表来维护视图数据表。
一些实施例中,不同的数据表可以对应不同的表类别,表类别例如,图片内容类别、图片链接类别,以及网页链接类别,则存储图片的数据表的表类别可以为图片内容类别,存储图片链接的数据表的表类别可以为图片链接类别,存储网页链接的数据表的表类别可以为网页链接类别。通过将数据表的类别分为图片内容类别、图片链接类别,以及网页链接类别,可以准确、高效表达出互联网图片、图片链接、图片链接所在网页这3个维度之间的关系以及每个维度自身的属性。在互联网推荐中,能够辅助图片内容更全面地被检索和推荐。
在一个具体实例中,例如待处理数据为图片链接,图数据库中存储图片链接的数据表为待处理数据表(待处理数据表的表类别,例如,图片链接类别)。
为了对本公开进行清楚地描述,该待处理数据表例如可以用“O表”表示,相应的,存储图片的数据表可以用“C表”表示,存储网页链接的数据表可以用“F表”表示。
一些实施例中,如图2所示,图2a是本公开实施例中待处理数据表的结构示意图,其中,o1、o1c4f4等,可以用于表示待处理数据表中存储的待处理数据的待处理标识,每个待处理标识可以对应有主键rowkey以及相应的数据内容和特征。
S102:根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表,是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同。
上述确定待处理数据后,本公开实施例可以根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置。
其中,由图数据库中全部或者部分数据表聚合而成的表可以被称为视图数据表(View Table),以辅助实现基于该视图数据表所能够辅助维护的隶属关联关系来辅助对基础的数据表之中存储的待处理数据进行增、删、改、查。
一些实施例中,视图数据表是根据待处理数据表和关联数据表维护得到的。
例如,将上述的O表、C表以及F表中包括的至少部分内容进行聚合,以得到视图数据表。
一些实施例中,视图数据表面向的可以是业务层面,也即是说,该视图数据表可以理解为业务方进行增、删、改、查的表。
在实际应用中,该视图数据表中每一行数据可以相应地整合业务层面需要的内容(例如,图片、图片链接、网页链接之间的隶属关联关系,或者,图片、图片链接、网页链接分别在相对应的基础的数据表之中的存储位置,以及图片、图片链接、网页链接分别对应的标识等,对此不做限制),从而可以辅助业务层面基于该视图数据表对多个基础的数据表进行增、删、改、查。
另一些实施例中,该视图数据表还可以是根据触发机制而形成的。
例如,对O表、C表或者F表进行查询(例如scan)操作,可以触发形成视图数据表,从而业务层可以较低的成本实现视图数据表的构建。
其中,与待处理数据具有隶属关联关系的数据可以被称为关联数据,该关联数据可以是一条或者多条数据。
例如,结合上述的待处理数据为图片链接,该关联数据例如为图片或者网页链接,或者关联数据既包括图片又包括网页链接,与待处理数据具有隶属关联关系的关联数据,指示:图片链接指示的即是前述图片,该图片链接所属的网页链接即是前述网页链接,此处不作具体限定。
隶属关联关系,可以是描述待处理数据和关联数据之间的隶属关系或者关联关系等。
举例而言,比如待处理数据为图片链接,关联数据为网页链接,图片链接可以位于网页链接中,则表示图片链接隶属于网页链接,在这种情况下,待处理数据与关联数据之间可以是一种隶属关联关系。
又比如,待处理数据为图片链接,关联数据为图片,图片与图片链接之间存在关联,在这种情况下,待处理数据与关联数据之间可以是另一种隶属关联关系。
此外,隶属关联关系还可以描述待处理数据和关联数据之间的其它任意可能的关系,此处不做具体限定。
相应的,图数据库中存储关联数据的数据表可以被称为关联数据表,并且待处理数据表的表类别和关联数据表的表类别不相同,例如关联数据表为C表和/或F表,则关联数据表的表类别可以为图片内容类别和/或网页链接类别,与待处理数据表(图片链接类别)不同。
关联数据在关联数据表之中的存储位置,可以被称为关联存储位置,相应地,待处理数据在待处理数据表之中的存储位置,可以被称为待处理数据存储位置,而存储位置例如可以是数据在对应的数据表中占据的行和列的位置。
可选地,一些实施例中,视图数据表包括:待处理数据的待处理标识、待处理存储位置,关联数据的关联标识,以及关联存储位置,待处理存储位置是待处理数据在待处理数据表之中的存储位置。
其中,视图数据表中展示的数据有对应的标识,也即是说,数据表中的数据在视图数据表中可以以标识进行存储位置的索引,而用于索引待处理数据的标识可以被称为待处理标识,用于索引关联数据的标识可以被称为关联标识,基础的数据表之中还可以存储待处理数据和关联数据对应的具体的数据内容。
举例而言,待处理数据的待处理标识可以是o1、o2、o3等,关联数据的关联标识可以是c1、c2、c3、f1、f2、f3等。由于视图数据表是对基础的数据表之中的至少部分数据进行聚合,由此,待处理标识和关联标识还可以是c1o1、c1o1f1等,此处不作具体限定,当待处理标识或者关联标识以组合的形式呈现时,表明对应的待处理数据和关联数据具有一定的隶属关联关系。
此外,视图数据表还可以记录待处理数据的待处理存储位置和关联数据的关联存储位置,其中待处理存储位置是待处理数据在待处理数据表之中的存储位置,待处理存储位置的描述同理于上述关联存储位置的描述,此处不在赘述。
在一个具体实例中,图2b是本公开实施例中视图数据表的结构示意图,如图2b所示,阴影部分表示存储位置,c1、c1o1等表示标识,每行数据还对应有主键rowkey以及特征feature。
从而,采用标识表示待处理数据和关联数据,可以简化视图数据表的结构,并且有助于业务层面快速地获知数据之间的隶属关联关系,基于存储位置还可以快速、准确的辅助对相应的数据进行定位,能够有效提升数据的增删改查效率。
从而,本公开实施例可以根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置。
S103:对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理。
上述确定关联存储位置后,本公开实施例可以对待处理数据表之中的待处理数据进行处理,例如可以对待处理数据表中的待处理数据进行增加、删除、更新等处理,此处不作具体限定。
在本公开的实施例中,由于待处理数据和关联数据具有隶属关联关系,在对待处理数据表之中的待处理数据进行处理后,本公开实施例还可以根据关联存储位置对关联数据表之中的关联数据进行处理,例如,根据对待处理数据的处理,相应的对关联数据表中的关联数据进行增加、删除、更新等处理,从而保证待处理数据和关联数据的数据一致性,实现对图数据库之中的数据表进行便捷、高效地的一致性维护。
可选地,一些实施例中,可以对待处理数据表之中的待处理数据进行处理,同时根据关联存储位置对关联数据表之中的关联数据进行处理,也即是说,对待处理数据和关联数据进行同步的处理,从而可以有效地保证数据的一致性,保证了数据库本身的可用性和稳定性,进而可以满足业务方对数据同步性的需求。
可以理解的是,上述实例只是对处理待处理数据和关联数据进行示例性说明,在实际应用中,还可以采用其它任意的方式进行处理,此处不作具体限定。
本实施例中,通过确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中;根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表,是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同;以及对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理,实现采用视图数据表来维护基础的数据表之间的隶属关联关系,能够有效提升图数据库的处理性能,有效提升图数据库的数据处理效果。
图3是根据本公开第二实施例的示意图。
如图3所示,该图数据库的数据处理方法包括:
S301:确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中。
S301的描述说明可以具体参见上述实施例,在此不再赘述。
S302:根据待处理标识,结合图数据库的索引表确定关联标识,索引表存储有待处理数据和关联数据的隶属关联关系。
一些实施例中,待处理数据和关联数据之间的隶属关联关系可以存储在索引表之中,也即是说,该索引表能够用于维护待处理数据和关联数据之间的隶属关联关系,从而实现在基于该视图数据表所能够辅助维护的隶属关联关系来辅助对基础的数据表之中存储的待处理数据进行增、删、改、查的同时,便于基于索引表快速准确地确定出与待处理数据具有隶属关联关系的关联数据,能够有效地提升数据库一致性的维护效率,保障隶属关联关系的维护准确性。
其中,索引表存储的隶属关联关系,可以例如是待处理数据和关联数据的标识之间的隶属关联关系,也即是说,索引表可以存储待处理标识和关联标识之间的隶属关联关系。
如图4所示,图4是本公开实施例中待处理标识和关联标识的隶属关联关系示意图,c1和o1之间存在隶属关联关系,o1和f1之间存在隶属关联关系等,图4中的隶属关联关系可以采用该索引表进行存储。
因此,在根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置的操作中,本公开实施例首先可以根据待处理标识,结合图数据库的索引表确定关联标识,即:在索引表中查找与待处理标识存在隶属关联关系的关联标识,而后触发后续步骤。
S303:根据关联标识,结合视图数据表确定关联数据在关联数据表之中的关联存储位置。
进一步地,根据关联标识,结合视图数据表确定关联数据在关联数据表之中的关联存储位置。由于索引表存储待处理数据和关联数据的隶属关联关系,因此,基于索引表可以快速准确地确定出与待处理数据具有隶属关联关系的关联数据,能够有效地提升数据库一致性的维护效率,保障隶属关联关系的维护准确性,进而在较大程度上提升了图数据库处理数据的效率。
可以理解的是,上述实例对如何确定关联存储位置进行示例性说明,在实际应用中还可以采用其它任意可能的方式确定,此处不作具体限定。
S304:获取待处理目标数据,并确定与待处理目标数据对应的待处理目标标识和/或待处理目标存储位置,其中,待处理目标数据被用于处理待处理数据。
其中,待处理目标数据被用于处理待处理数据,也即是说,用于对待处理数据进行处理的数据可以被称为待处理目标数据,例如,采用待处理目标数据更新待处理数据。
一些实施例中,例如对图数据库的数据表进行更新,可以采用待处理目标数据替换待处理数据,实现对待处理数据的更新操作。
其中,与待处理目标数据对应的标识可以被称为待处理目标标识,待处理目标数据在待处理数据表中的存储位置,可以被称为待处理目标存储位置。
为了实现上述目的,本公开实施例中,可以获取待处理目标数据,并确定与待处理目标数据对应的待处理目标标识和/或待处理目标存储位置。
S305:根据待处理目标数据,获取关联目标数据。
在实际应用中,在获取待处理目标数据之后,对应的,可能产生关联目标数据。例如,产生新的图片链接(待处理目标数据)的同时,可能产生新的图片(关联目标数据),该新的图片,是该新的图片链接所指示的图片。
也即是说,本公开实施例支持直接根据待处理目标数据来确定相应的关联目标数据,由于该关联目标数据是与待处理目标数据存在隶属关联关系的数据,从而在采用待处理目标数据更新待处理数据的同时,还能够及时地对关联数据进行相应的更新。
S306:确定与关联目标数据对应的关联目标标识和/或关联目标存储位置,关联目标数据被用于处理关联数据。
进一步地,确定与关联目标数据对应的关联目标标识和/或关联目标存储位置,关联目标数据被用于处理关联数据。
其中,与关联目标数据对应的标识可以被称为关联目标标识,关联目标数据在关联数据表中的存储位置,可以被称为关联目标存储位置。
S307:根据待处理目标标识更新待处理数据表之中待处理数据的待处理标识,根据待处理目标存储位置更新待处理数据表之中待处理数据的待处理存储位置。
进一步地,采用待处理目标标识对待处理数据表之中待处理数据的待处理标识进行更新,并采用待处理目标存储位置对待处理数据表之中待处理数据的待处理存储位置进行更新,从而可以实现对待处理数据表中的数据进行更新的效果。
可选地,一些实施例中,还可以根据待处理目标标识更新视图数据表之中的待处理标识;根据待处理目标存储位置更新视图数据表之中的待处理存储位置。
也即是说,本公开实施实例在对待处理数据表中的待处理数据更新后,还可以对视图数据表中的待处理标识和待处理存储位置进行更新,从而可以保证待处理数据表和视图数据表中的数据同步,因此,能够有效地保障业务层面的视图数据表与数据表之间的一致性,保障视图数据表的维护准确性,提升视图数据表的维护整合效果。
S308:根据关联目标标识更新关联数据表之中关联数据的关联标识,根据关联目标存储位置更新关联数据表之中关联数据的关联存储位置。
本公开实施例中,还可以采用关联目标标识对关联数据表之中关联数据的关联标识进行更新,并采用关联目标存储位置对关联数据表之中关联数据的关联存储位置进行更新,从而可以实现对关联数据表中的数据进行更新的效果。
可选地,一些实施例中,还可以根据关联目标标识更新视图数据表之中的关联标识;根据关联目标存储位置更新视图数据表之中的关联存储位置。
也即是说,本公开实施实例在对关联数据表中的关联数据更新后,还可以对视图数据表中的关联标识和关联存储位置进行更新,从而可以保证关联数据表和视图数据表中的数据同步,能够有效地保障业务层面的视图数据表与数据表之间的一致性,保障视图数据表的维护准确性,有助于业务方查看数据更新的结果。
本实施例中,通过确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中;根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表,是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同;以及对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理,实现采用视图数据表来维护基础的数据表之间的隶属关联关系,能够有效提升图数据库的处理性能,有效提升图数据库的数据处理效果。此外,还可以采用待处理目标数据和关联目标数据对待处理数据表和关联数据表进行更新,并且在更新的同时还可以对视图数据表进行更新,因此保证了数据表与视图数据表之间的同步性,便于业务方查看数据更新的结果。
图5是根据本公开第三实施例的示意图。
如图5所示,如果待处理数据表的表类别是图片链接类别,或者网页链接类别,则该图数据库的数据处理方法包括:
S501:确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中。
S502:根据待处理标识,结合图数据库的索引表确定关联标识,索引表存储有待处理数据和关联数据的隶属关联关系。
S503:根据关联标识,结合视图数据表确定关联数据在关联数据表之中的关联存储位置。
S501~S503的描述说明可以具体参见上述实施例,在此不再赘述。
S504获取与待处理数据对应的待处理时间戳,其中,待处理时间戳,是待处理数据被爬取时的时间戳。
一些实施例中,待处理数据例如可以是从互联网中爬取的数据,在爬取的过程中会产生对应的时间戳。
其中,待处理数据被爬取时的时间戳可以被称为待处理时间戳,本公开实施例中首先获取该待处理时间戳。
S505:获取与关联数据对应的关联时间戳,其中,关联时间戳,是待处理数据被爬取,且关联数据被解析时的时间戳。
其中,待处理数据被爬取,且对与待处理数据存在隶属关联关系的数据进行解析,以得到关联数据,而在解析得到关联数据时的时间戳,可以被称为关联时间戳。
举例而言,例如待处理数据为网页链接f,待处理数据从互联网中被爬取时的时间戳,可以被称为待处理时间戳,而后,在爬取网页链接后,可以从该网页中解析图片链接o(即,关联数据),关联数据被解析时的时间戳可以被称为关联时间戳。
如图6a所示,图6a是本公开实施例中时间戳的产生方式示意图,如图6a所示,例如,f表示待处理数据,o表示关联数据,fts表示待处理数据f被抓取的时间戳,fots表示待处理数据f被抓取,且解析出关联数据o的时间戳。通过引入o顶点、oc边、of边、f顶点在数据生产时的时间戳作为辅助数据(auxiliary data),使得视图数据库的维护逻辑更直接、生效更简单,还能够有效地减少数据维护的软硬件成本。
此外,图6b是本公开实施例中待处理数据与时间戳的对应关系示意图,如图6b所示,例如f1的时间戳为ts2,f1o1的时间戳为ts1等。
S506:根据待处理时间戳和关联时间戳对视图数据表和索引表进行动态更新。
上述获取待处理时间戳和关联时间戳后,本公开实施例可以根据待处理时间戳和关联时间戳对视图数据表和索引表进行动态更新。从而,可以根据时间戳对视图数据表和索引表进行更新,保证了视图数据表中数据的时效性,进而满足业务方对数据时效性的需求。
一些实施例中,如果待处理时间戳大于关联时间戳,则对视图数据表之中的关联标识、关联存储位置进行删除处理,并对索引表之中的隶属关联关系进行删除处理。
举例而言,结合图6b所示,例如f1(待处理数据)的fts时间戳ts2(待处理时间戳)大于f1o1、f1o2、f1o3(关联数据)的fots时间戳ts1(关联时间戳),则f1o1、f1o2、f1o3属于过期数据,从而可以对视图数据表之中的关联标识、关联存储位置进行删除处理,即:将f1o1、f1o2、f1o3在视图数据表中对应的关联标识、关联存储位置进行删除处理,并且对索引表之中的隶属关联关系进行删除处理。
如果待处理时间戳等于关联时间戳,则重新执行获取与待处理数据对应的待处理时间戳的步骤。
举例而言,结合图6b所示,当f1的fts时间戳ts2等于f1o4、f1o5、f1o6(关联数据)的fots时间戳ts2(关联时间戳),则f1o4、f1o5、f1o6部分数据是最新的数据,在这种情况下,可以重新执行获取与待处理数据对应的待处理时间戳的步骤。从而,通过比对时间戳,以确定数据产生的先后顺序,从而可以辅助快速确定无效数据并进行清除,有效地减少了视图数据表和索引表的数据存储量,从而辅助提升数据库的处理效率。
本实施例中,通过确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中;根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表,是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同;以及对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理,实现采用视图数据表来维护基础的数据表之间的隶属关联关系,能够有效提升图数据库的处理性能,有效提升图数据库的数据处理效果。此外,可以根据时间戳对视图数据表和索引表进行更新,保证了视图数据表中数据的时效性,进而满足业务方对数据时效性的需求。并且,通过比对时间戳,以确定数据产生的先后顺序,从而可以辅助快速确定无效数据并进行清除,有效地减少了视图数据表和索引表的数据存储量,从而辅助提升数据库的处理效率。
针对本公开实施例的应用可以举例说明如下,如图7a所示,图7a是本公开实施例中数据维护的流程示意图,对数据进行维护包括以下步骤:
1.采用触发机制查询数据表,例如查询(Scan)F表。
2.F表数据分环的方式采取前缀哈希值Hash,保证同一个网页(f1)的数据在同一个分片,并且f1的所有数据都在一起,可以方便,获取所有f1的数据。
如图7b所示,图7b是本公开实施例中F表的时间戳关系示意图,时间戳ts2>ts1,表明F表5-7行是最新的数据;2-4行是待更新(删除)的数据。
3.更新视图数据表。
如图7c所示,图7c是本公开实施例中视图数据表的结构示意图,视图数据表是以f聚合的(也可以c聚合)。采用索引表可以快速定位到要删除数据在视图数据表中的位置,f1o1c1、f1o2c2、f1o3c3需要在视图数据表中同步删除。
4.更新索引表。
5.更新F表。在上面流程完成后,将F数据表中的数据更新,删除f表中的2-4行。
一些实施例中,视图数据表的更新模式(ConsistencyModel)可以有两种模式:同步模式和异步模式。其中,同步模式即视图数据表和基础数据表(O表、C表、F表都可以称为基础数据表)同步完成更新;异步模式则是通过后台异步的完成数据更新。
一些实施例中,还可以采取同步写Write+异步例行查询Scan的方式,从而有效保证数据库本身的可用性和稳定性。
当一条变更操作执行完后,通过视图数据表的维护最终保证了整个数据库的一致性。若有多条更新操作同时产生,则通过数据的时间戳来确保写入的顺序,保证最新的数据(有最新的时间戳)生效。
如图8所示,图8是本公开实施例中图数据库的架构设计示意图,架构包括:
8.1数据存储层:所有数据的真实物理数据存储层,例如但不限于采用列存储数据库作为底层的数据存储。
8.2DBAPI:底层数据库对外提供的应用程序接口(Application ProgrammingInterface,API)、软件开发工具包SDK工具层。本公开的图数据库通过上述API来对数据存储层的数据做相关操作。
8.3内容引擎层:提供了业务数据的抽象以及图数据库操作的实现;对外,业务方可以查看业务维度的信息以及进行图操作,实现了业务数据到底层介质存储的封装,引擎层通过视图(view)等功能实现了图操作的支持。
8.4触发机制:提供了一个分布式处理数据的方式。可以依托分布式基础架构系统HadoopMR(Hadoop Map/Reduce)方式,采用查询Scan的方式遍历数据,判断出哪些数据记录需要触发后续逻辑,例如可以采取查询Scan触发的逻辑是受业务本身特性所决定。
触发机制在整个系统中实现以下功能:
1)可以根据系统的整体负载自动去控制触发的吞吐;
2)确保任何一条记录在一个触发轮次下一定会被处理且只把被触发一次,各个分片的触发执行彼此独立,可不存在依赖关系,通过分环的规则保证数据分环的可预期性,整个数据的生命周期中同一条数据只会出现在一个分环中。
8.5特征服务FeatureService:内容关系数据实时访问服务,满足用户对数据库的实时CRUD功能。用以支持实时数据流对内容关系库的读写访问需求。对外提供了图数据库访问接口。
图9是根据本公开第四实施例的示意图。
如图9所示,该图数据库的数据处理装置90,包括:
第一确定模块901,用于确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中;
第二确定模块902,用于根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表,是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同;以及
处理模块903,用于对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理。
可选地,在本公开的一些实施例中,视图数据表包括:待处理数据的待处理标识、待处理存储位置,关联数据的关联标识,以及关联存储位置,待处理存储位置是待处理数据在待处理数据表之中的存储位置。
可选地,在本公开的一些实施例中,如图10所示,图10是根据本公开第五实施例的示意图,该图数据库的数据处理装置100,包括:第一确定模块1001、第二确定模块1002以及处理模块1003,其中,该第二确定模块1002,包括:
第一确定子模块1002a,用于根据待处理标识,结合图数据库的索引表确定关联标识,索引表存储有待处理数据和关联数据的隶属关联关系;
第二确定子模块1002b,用于根据关联标识,结合视图数据表确定关联数据在关联数据表之中的关联存储位置。
可选地,在本公开的一些实施例中,如图10所示,该图数据库的数据处理装置100,还包括:
第一获取模块1004,用于获取待处理目标数据,并确定与待处理目标数据对应的待处理目标标识和/或待处理目标存储位置,其中,待处理目标数据被用于处理待处理数据;
第二获取模块1005,用于根据待处理目标数据,获取关联目标数据;
第三确定模块1006,用于确定与关联目标数据对应的关联目标标识和/或关联目标存储位置,关联目标数据被用于处理关联数据;
其中,处理模块1003,包括:
第一更新子模块1003a,用于根据待处理目标标识更新待处理数据表之中待处理数据的待处理标识,根据待处理目标存储位置更新待处理数据表之中待处理数据的待处理存储位置;
第二更新子模块1003b,用于根据关联目标标识更新关联数据表之中关联数据的关联标识,根据关联目标存储位置更新关联数据表之中关联数据的关联存储位置。
可选地,在本公开的一些实施例中,如图10所示,处理模块1003,还包括:
第三更新子模块1003c,用于根据待处理目标标识更新视图数据表之中的待处理标识;
第四更新子模块1003d,用于根据待处理目标存储位置更新视图数据表之中的待处理存储位置。
可选地,在本公开的一些实施例中,如图10所示,处理模块1003,还包括:
第五更新子模块1003e,用于根据关联目标标识更新视图数据表之中的关联标识;
第六更新子模块1003f,用于根据关联目标存储位置更新视图数据表之中的关联存储位置。
可选地,在本公开的一些实施例中,处理模块1003,具体用于:对待处理数据表之中的待处理数据进行处理,同时根据关联存储位置对关联数据表之中的关联数据进行处理。
可选地,在本公开的一些实施例中,待处理数据表和关联数据表的表类别分别是以下类别之中的任一种类别:图片内容类别、图片链接类别,以及网页链接类别。
可选地,在本公开的一些实施例中,如图10所示,装置100还包括:
第三获取模块1007,用于获取与待处理数据对应的待处理时间戳,其中,待处理时间戳,是待处理数据被爬取时的时间戳;
第四获取模块1008,用于获取与关联数据对应的关联时间戳,其中,关联时间戳,是待处理数据被爬取,且关联数据被解析时的时间戳;
更新模块1009,用于根据待处理时间戳和关联时间戳对视图数据表和索引表进行动态更新。
可选地,在本公开的一些实施例中,更新模块1009,具体用于:
如果待处理时间戳大于关联时间戳,则对视图数据表之中的关联标识、关联存储位置进行删除处理,并对索引表之中的隶属关联关系进行删除处理;
如果待处理时间戳等于关联时间戳,则重新执行获取与待处理数据对应的待处理时间戳的步骤。
可以理解的是,本实施例附图10中的图数据库的数据处理装置100与上述实施例中的图数据库的数据处理装置90,第一确定模块1001与上述实施例中的第一确定模块901,第二确定模块1002与上述实施例中的第二确定模块902,处理模块1003与上述实施例中的处理模块903,可以具有相同的功能和结构。
需要说明的是,前述对图数据库的数据处理方法的解释说明也适用于本实施例的图数据库的数据处理装置,此处不再赘述。
本实施例中,通过确定待处理数据,其中,待处理数据存储在图数据库的待处理数据表之中;根据待处理数据,结合图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,视图数据表,是根据待处理数据表和关联数据表维护得到的,待处理数据和关联数据具有隶属关联关系,待处理数据表的表类别和关联数据表的表类别不相同;以及对待处理数据表之中的待处理数据进行处理,并根据关联存储位置对关联数据表之中的关联数据进行处理,实现采用视图数据表来维护基础的数据表之间的隶属关联关系,能够有效提升图数据库的处理性能,有效提升图数据库的数据处理效果。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图11是用来实现本公开实施例的图数据库的数据处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图11所示,设备1100包括计算单元1101,其可以根据存储在只读存储器(ROM)1102中的计算机程序或者从存储单元1108加载到随机访问存储器(RAM)1103中的计算机程序,来执行各种适当的动作和处理。在RAM 1103中,还可存储设备1100操作所需的各种程序和数据。计算单元1101、ROM 1102以及RAM1103通过总线1104彼此相连。输入/输出(I/O)接口1105也连接至总线1104。
设备1100中的多个部件连接至I/O接口1105,包括:输入单元1106,例如键盘、鼠标等;输出单元1107,例如各种类型的显示器、扬声器等;存储单元1108,例如磁盘、光盘等;以及通信单元1109,例如网卡、调制解调器、无线通信收发机等。通信单元1109允许设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1101的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1101执行上文所描述的各个方法和处理,例如,图数据库的数据处理方法。
例如,在一些实施例中,图数据库的数据处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1108。在一些实施例中,计算机程序的部分或者全部可以经由ROM1102和/或通信单元1109而被载入和/或安装到设备1100上。当计算机程序加载到RAM 1103并由计算单元1101执行时,可以执行上文描述的图数据库的数据处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元1101可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图数据库的数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的图数据库的数据处理方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程图数据库的数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网及区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (23)
1.一种图数据库的数据处理方法,包括:
确定待处理数据,其中,所述待处理数据存储在图数据库的待处理数据表之中;
根据所述待处理数据,结合所述图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,所述视图数据表,是根据所述待处理数据表和所述关联数据表维护得到的,所述待处理数据和所述关联数据具有隶属关联关系,所述待处理数据表的表类别和所述关联数据表的表类别不相同;以及
对所述待处理数据表之中的待处理数据进行处理,并根据所述关联存储位置对所述关联数据表之中的关联数据进行处理。
2.根据权利要求1所述的方法,其中,所述视图数据表包括:所述待处理数据的待处理标识、待处理存储位置,所述关联数据的关联标识,以及所述关联存储位置,所述待处理存储位置是所述待处理数据在所述待处理数据表之中的存储位置。
3.根据权利要求2所述的方法,其中,所述根据所述待处理数据,结合所述图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,包括:
根据所述待处理标识,结合所述图数据库的索引表确定所述关联标识,所述索引表存储有所述待处理数据和所述关联数据的隶属关联关系;
根据所述关联标识,结合所述视图数据表确定关联数据在关联数据表之中的关联存储位置。
4.根据权利要求2所述的方法,所述方法还包括:
获取待处理目标数据,并确定与待处理目标数据对应的待处理目标标识和/或待处理目标存储位置,其中,所述待处理目标数据被用于处理所述待处理数据;
根据所述待处理目标数据,获取关联目标数据;
确定与所述关联目标数据对应的关联目标标识和/或关联目标存储位置,所述关联目标数据被用于处理所述关联数据;
其中,所述对所述待处理数据表之中的待处理数据进行处理,并根据所述关联存储位置对所述关联数据表之中的关联数据进行处理,包括:
根据所述待处理目标标识更新所述待处理数据表之中所述待处理数据的待处理标识,根据所述待处理目标存储位置更新所述待处理数据表之中所述待处理数据的待处理存储位置;
根据所述关联目标标识更新所述关联数据表之中所述关联数据的关联标识,根据所述关联目标存储位置更新所述关联数据表之中所述关联数据的关联存储位置。
5.根据权利要求4所述的方法,在所述对所述待处理数据表之中的待处理数据进行处理后,还包括:
根据所述待处理目标标识更新所述视图数据表之中的所述待处理标识;
根据所述待处理目标存储位置更新所述视图数据表之中的所述待处理存储位置。
6.根据权利要求4所述的方法,在所述根据所述关联存储位置对所述关联数据表之中的关联数据进行处理后,还包括:
根据所述关联目标标识更新所述视图数据表之中的所述关联标识;
根据所述关联目标存储位置更新所述视图数据表之中的所述关联存储位置。
7.根据权利要求1所述的方法,其中,所述对所述待处理数据表之中的待处理数据进行处理,并根据所述关联存储位置对所述关联数据表之中的关联数据进行处理,包括:
对所述待处理数据表之中的待处理数据进行处理,同时根据所述关联存储位置对所述关联数据表之中的关联数据进行处理。
8.根据权利要求3所述的方法,其中,所述待处理数据表和所述关联数据表的表类别分别是以下类别之中的任一种类别:
图片内容类别、图片链接类别,以及网页链接类别。
9.根据权利要求8所述的方法,如果所述待处理数据表的表类别是图片链接类别,或者网页链接类别,则所述方法还包括:
获取与所述待处理数据对应的待处理时间戳,其中,所述待处理时间戳,是所述待处理数据被爬取时的时间戳;
获取与所述关联数据对应的关联时间戳,其中,所述关联时间戳,是所述待处理数据被爬取,且所述关联数据被解析时的时间戳;
根据所述待处理时间戳和所述关联时间戳对所述视图数据表和所述索引表进行动态更新。
10.根据权利要求9所述的方法,其中,所述根据所述待处理时间戳和所述关联时间戳对所述视图数据表和所述索引表进行动态更新,包括:
如果所述待处理时间戳大于所述关联时间戳,则对所述视图数据表之中的所述关联标识、所述关联存储位置进行删除处理,并对所述索引表之中的所述隶属关联关系进行删除处理;
如果所述待处理时间戳等于所述关联时间戳,则重新执行所述获取与所述待处理数据对应的待处理时间戳的步骤。
11.一种图数据库的数据处理装置,包括:
第一确定模块,用于确定待处理数据,其中,所述待处理数据存储在图数据库的待处理数据表之中;
第二确定模块,用于根据所述待处理数据,结合所述图数据库的视图数据表确定关联数据在关联数据表之中的关联存储位置,其中,所述视图数据表,是根据所述待处理数据表和所述关联数据表维护得到的,所述待处理数据和所述关联数据具有隶属关联关系,所述待处理数据表的表类别和所述关联数据表的表类别不相同;以及
处理模块,用于对所述待处理数据表之中的待处理数据进行处理,并根据所述关联存储位置对所述关联数据表之中的关联数据进行处理。
12.根据权利要求11所述的装置,其中,所述视图数据表包括:所述待处理数据的待处理标识、待处理存储位置,所述关联数据的关联标识,以及所述关联存储位置,所述待处理存储位置是所述待处理数据在所述待处理数据表之中的存储位置。
13.根据权利要求12所述的装置,其中,所述第二确定模块,包括:
第一确定子模块,用于根据所述待处理标识,结合所述图数据库的索引表确定所述关联标识,所述索引表存储有所述待处理数据和所述关联数据的隶属关联关系;
第二确定子模块,用于根据所述关联标识,结合所述视图数据表确定关联数据在关联数据表之中的关联存储位置。
14.根据权利要求12所述的装置,所述装置还包括:
第一获取模块,用于获取待处理目标数据,并确定与待处理目标数据对应的待处理目标标识和/或待处理目标存储位置,其中,所述待处理目标数据被用于处理所述待处理数据;
第二获取模块,用于根据所述待处理目标数据,获取关联目标数据;
第三确定模块,用于确定与所述关联目标数据对应的关联目标标识和/或关联目标存储位置,所述关联目标数据被用于处理所述关联数据;
其中,所述处理模块,包括:
第一更新子模块,用于根据所述待处理目标标识更新所述待处理数据表之中所述待处理数据的待处理标识,根据所述待处理目标存储位置更新所述待处理数据表之中所述待处理数据的待处理存储位置;
第二更新子模块,用于根据所述关联目标标识更新所述关联数据表之中所述关联数据的关联标识,根据所述关联目标存储位置更新所述关联数据表之中所述关联数据的关联存储位置。
15.根据权利要求14所述的装置,所述处理模块,还包括:
第三更新子模块,用于根据所述待处理目标标识更新所述视图数据表之中的所述待处理标识;
第四更新子模块,用于根据所述待处理目标存储位置更新所述视图数据表之中的所述待处理存储位置。
16.根据权利要求14所述的装置,所述处理模块,还包括:
第五更新子模块,用于根据所述关联目标标识更新所述视图数据表之中的所述关联标识;
第六更新子模块,用于根据所述关联目标存储位置更新所述视图数据表之中的所述关联存储位置。
17.根据权利要求11所述的装置,其中,所述处理模块,具体用于:
对所述待处理数据表之中的待处理数据进行处理,同时根据所述关联存储位置对所述关联数据表之中的关联数据进行处理。
18.根据权利要求13所述的装置,其中,所述待处理数据表和所述关联数据表的表类别分别是以下类别之中的任一种类别:
图片内容类别、图片链接类别,以及网页链接类别。
19.根据权利要求18所述的装置,其中,所述装置还包括:
第三获取模块,用于获取与所述待处理数据对应的待处理时间戳,其中,所述待处理时间戳,是所述待处理数据被爬取时的时间戳;
第四获取模块,用于获取与所述关联数据对应的关联时间戳,其中,所述关联时间戳,是所述待处理数据被爬取,且所述关联数据被解析时的时间戳;
更新模块,用于根据所述待处理时间戳和所述关联时间戳对所述视图数据表和所述索引表进行动态更新。
20.根据权利要求19所述的装置,其中,所述更新模块,具体用于:
如果所述待处理时间戳大于所述关联时间戳,则对所述视图数据表之中的所述关联标识、所述关联存储位置进行删除处理,并对所述索引表之中的所述隶属关联关系进行删除处理;
如果所述待处理时间戳等于所述关联时间戳,则重新执行所述获取与所述待处理数据对应的待处理时间戳的步骤。
21.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-10中任一项所述的方法。
22.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-10中任一项所述的方法。
23.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-10中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110469049.1A CN113190718A (zh) | 2021-04-28 | 2021-04-28 | 图数据库的数据处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110469049.1A CN113190718A (zh) | 2021-04-28 | 2021-04-28 | 图数据库的数据处理方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113190718A true CN113190718A (zh) | 2021-07-30 |
Family
ID=76980539
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110469049.1A Pending CN113190718A (zh) | 2021-04-28 | 2021-04-28 | 图数据库的数据处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113190718A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023083237A1 (zh) * | 2021-11-11 | 2023-05-19 | 支付宝(杭州)信息技术有限公司 | 图数据的管理 |
-
2021
- 2021-04-28 CN CN202110469049.1A patent/CN113190718A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023083237A1 (zh) * | 2021-11-11 | 2023-05-19 | 支付宝(杭州)信息技术有限公司 | 图数据的管理 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10180992B2 (en) | Atomic updating of graph database index structures | |
US11334544B2 (en) | Method, apparatus, device and medium for storing and querying data | |
CN110647579A (zh) | 数据同步方法及装置、计算机设备与可读介质 | |
US20170255708A1 (en) | Index structures for graph databases | |
CN110275962B (zh) | 用于输出信息的方法和装置 | |
US20210191921A1 (en) | Method, apparatus, device and storage medium for data aggregation | |
CN112966469A (zh) | 文档中的图表处理方法、装置、设备及存储介质 | |
CN112528067A (zh) | 图数据库的存储方法、读取方法、装置及设备 | |
CN113836314A (zh) | 知识图谱构建方法、装置、设备以及存储介质 | |
CN111259090A (zh) | 关系数据的图生成方法、装置、电子设备和存储介质 | |
CN113609100B (zh) | 数据存储方法、数据查询方法、装置及电子设备 | |
CN113190718A (zh) | 图数据库的数据处理方法、装置、电子设备及存储介质 | |
CN113868273A (zh) | 元数据的快照方法及其装置 | |
CN103809915B (zh) | 一种磁盘文件的读写方法和装置 | |
CN111026916A (zh) | 文本描述的转换方法、装置、电子设备及存储介质 | |
CN116185389A (zh) | 一种代码生成方法、装置、电子设备及介质 | |
CN115408546A (zh) | 一种时序数据管理方法、装置、设备及存储介质 | |
CN115454971A (zh) | 数据迁移方法、装置、电子设备及存储介质 | |
CN115329150A (zh) | 生成搜索条件树的方法、装置、电子设备及存储介质 | |
JP2018109898A (ja) | データマイグレーションシステム | |
CN113127496A (zh) | 数据库中变更数据的确定方法及装置、介质和设备 | |
US20140074869A1 (en) | Autoclassifying compound documents for enhanced metadata search | |
CN113515504B (zh) | 数据管理方法、装置、电子设备以及存储介质 | |
CN114880242B (zh) | 测试用例的提取方法、装置、设备和介质 | |
CN115454977A (zh) | 一种数据迁移方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |