图数据处理方法及装置、存储介质、电子设备
技术领域
本发明实施例涉及数据处理技术领域,具体而言,涉及一种图数据处理方法、图数据处理装置、计算机可读存储介质以及电子设备。
背景技术
当前,基于数据之间联系的图数据正在发挥越来越大的作用,从有关联的数据集中抽取有用的信息,可以用于挖掘数据的网络特征。因此,关联性计算成为了大数据的核心。进一步的,通过获得数据的关联性,可以从噪音很多的海量数据中抽取有用的信息。比如,通过获得数据的关联性,可以从噪音较多的社交网络、电商网络、网页链接中抽取有用的信息。
由于随着数据的增长,大图模型中的节点和边的数量往往能够达到亿级别或者数十亿级别;因此,单机的图计算平台经常不能满足图计算对可扩展性的要求,且单纯采用现有的分布式图计算框架也无法提供良好的性能,运算速度较慢。
因此,需要提供一种新的图数据处理方法及装置。
需要说明的是,在上述背景技术部分发明的信息仅用于加强对本发明的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明的目的在于提供一种图数据处理方法、图数据处理装置、计算机可读存储介质以及电子设备,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的运算速度较慢的问题。
根据本公开的一个方面,提供一种图数据处理方法,包括:
接收包括待计算全量图的图计算请求,响应所述图计算请求调用与所述待计算全量图对应的图划分算法;
利用所述图划分算法对所述待计算全量图进行划分,得到划分结果;
调用与所述划分结果对应的图计算算法对所述划分结果进行计算,得到图计算结果。
在本公开的一种示例性实施例中,调用与所述待计算全量图对应的图划分算法包括:
根据所述待计算全量图的应用配置,从图划分算法包中调用与所述待计算全量图对应的图划分算法。
在本公开的一种示例性实施例中,利用所述图划分算法对所述待计算全量图进行划分,得到划分结果包括:
利用所述图划分算法对所述待计算全量图进行划分,得到多个子图。
在本公开的一种示例性实施例中,在得到划分结果之后,所述图数据处理方法还包括:
将所述划分结果存储至hive数据库中。
在本公开的一种示例性实施例中,调用与所述划分结果对应的图计算算法对所述划分结果进行计算,得到图计算结果包括:
从图计算算法包中调用与所述划分结果对应的图计算算法;
利用所述图计算算法对所述划分结果进行计算,得到所述图计算结果。
在本公开的一种示例性实施例中,在得到图计算结果之后,所述图数据处理方法还包括:
从图预测算法包中调用与所述如计算结果对应的图预测算法;
利用所述图预测算法验证所述图计算结果是否正确。
在本公开的一种示例性实施例中,将所述划分结果存储至hive数据库中包括:
将所述划分结果存储至所述hive数据库中,并将所述划分结果对应的名称存储至所述hive数据库对应的表中。
根据本公开的一个方面,提供一种图数据处理装置,包括:
调用模块,用于接收包括待计算全量图的图计算请求,响应所述图计算请求调用与所述待计算全量图对应的图划分算法;
划分模块,用于利用所述图划分算法对所述待计算全量图进行划分,得到划分结果;
计算模块,用于调用与所述划分结果对应的图计算算法对所述划分结果进行计算,得到图计算结果。
根据本公开的一个方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任意一项所述的图数据处理方法。
根据本公开的一个方面,提供一种电子设备,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的图数据处理方法。
本发明实施例一种图数据处理方法及装置,通过调用与待计算全量图对应的图划分算法,再利用图划分算法对待计算全量图进行划分,得到划分结果;最后调用与划分结果对应的图计算算法对划分结果进行计算,得到图计算结果;一方面,通过先调用图划分算法对待计算全量图进行划分,再调用与划分结果对应的图计算算法对划分结果进行计算,解决了现有技术中由于采用分布式图划分和图计算框架而导致的运算速度较慢的问题,提高了图划分以及图计算的速度;另一方面,通过调用与划分结果对应的图计算算法对划分结果进行计算,提高了图计算算法调用的准确性,同时也提高了图计算结果的准确性。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示意性示出一种图数据示例图。
图2示意性示出一种图数据处理方法的流程图。
图3示意性示出一种图数据处理方法的应用场景示例图。
图4示意性示出另一种图数据处理方法的流程图。
图5示意性示出一种图数据处理装置的框图。
图6示意性示出一种用于实现上述图数据处理方法的电子设备示例框图。
图7示意性示出一种用于实现上述图数据处理方法的计算机可读存储介质。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本发明的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本发明的各方面变得模糊。
此外,附图仅为本发明的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
首先,为了便于解释以及说明,此处先对图数据库进行解释以及说明。参考图1所示,图数据库(hive数据库)是基于数学中图论的算法而实现的高效处理复杂关系网络的新型数据库系统。图数据库是使用点、边和属性信息表示和存储数据,并利用图结构响应查询的数据库。图数据库的点表示实体,例如人、银行账户或任何可以追踪的项目。边,也叫关系,是连接点和点之间的联系。边是图数据库里的关键概念,是其他数据库系统里无法直接实现的一种抽象。属性是跟节点有密切关系的信息。例如,账户节点的属性有事件时间戳,所属连通分支ID等。图数据库的节点间关系是直接存储在边类型的表里。如果一个节点和另一个节点有关系,二者之间就有一个指针直接指向对方,无需通过查找一个节点的主键全表扫描才能找到匹配的节点。
本示例实施方式中首先提供了一种图数据处理方法,该方法可以运行于服务器、服务器集群或云服务器等;当然,本领域技术人员也可以根据需求在其他平台运行本发明的方法,本示例性实施例中对此不做特殊限定。参考图2所示,该图数据处理方法可以包括步骤S210-步骤S230。其中:
在步骤S210中,接收包括待计算全量图的图计算请求,响应所述图计算请求调用与所述待计算全量图对应的图划分算法。
在本示例实施方式中,参考图3所示,首先,服务器中的图计算框架301接收来自终端中的图应用302发送的包括待计算全量图的图计算请求;其次,当服务器的图计算框架301接收到该图计算请求后,响应该图计算请求从图划分引擎3011中调用与该待计算全量图对应的图划分算法。其中,调用与所述待计算全量图对应的图划分算法可以包括:根据所述待计算全量图的应用配置,从图划分算法包中调用与所述待计算全量图对应的图划分算法。详细而言:
此处以应用场景为电商反欺诈的图数据作为待计算全量图进行解释说明。例如,当服务器中的图计算框架301接收到上述图计算请求后,首先根据应用场景为电商反欺诈的待计算全量图的应用配置,从图划分算法包中调用与应用场景为电商反欺诈的待计算全量图对应的图划分算法。此外,上述的应用场景还可以包括保险发欺诈、不良资产催收、反洗钱等等,本示例对此不做特殊限制。
进一步的,上述图划分算法包中可以包括全局图划分算法,也可以包括分布式图划分算法;其中,全局图划分算法可以包括拉普拉斯图特征值谱二分法以及多层图划分算法等等;分布式图划分算法,可以包括静态图划分算法和动态图划分算法,静态图划分算法可以包括散列划分、BHP(balanced Hash partition,负载均衡哈希数据划分)算法、静态Mizan算法和BLP算法等;动态图划分算法可以包括Mizan算法和xDGP算法。此处需要补充说明的是,由于上文是以应用场景为电商反欺诈的图数据作为待计算全量图进行划分的,因此可以选取分布式图划分算法进行划分。
在步骤S220中,利用所述图划分算法对所述待计算全量图进行划分,得到划分结果。
在本示例实施方式中,继续参考图3所示,当图计算引擎3012调用到与上述待计算全量图对应的图划分算法后,利用该图划分算法对该待计算全量图进行划分。其中,对待计算全量图进行划分可以包括:利用所述图划分算法对所述待计算全量图进行划分,得到多个子图。详细而言:
利用图划分算法(例如可以是上述的分布式图划分算法)对上述应用场景为电商反欺诈的待计算全量图进行划分,得到多个子图。此处需要补充说明的是,可以利用上述图划分算法将该待计算全量图划分为多个尽可能均匀大小的子图。通过该方式,避免了由于子图大小不同因此在后面的计算过程中所需的时间不同进而影响整体计算速度的问题,进一步的提升了计算速度。
进一步的,为了便于后面对各子图进行计算,可以在得到多个子图后,将划分完的子图存储到hive数据库中,具体的可以包括:将所述划分结果存储至所述hive数据库3014中,并将所述划分结果对应的名称存储至所述hive数据库对应的表中。其中,hive数据库是建立在Hadoop上的数据仓库基础构架;它提供了一系列的工具,可以用来进行数据提取、转化以及加载(ETL),是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。由于hive数据库对数据存储的格式没有要求,因此便于对上述各子图的存储,提升了存储效率。进一步的,通过上述存储方式,可以按照名称依次对各子图进行计算,并对计算完成的子图对应的名称进行标记,避免了有的子图没有计算而有的子图已经计算过多次导致的计算结果不正确的问题,进一步的提升了计算结果的准确率。
在步骤S230中,调用与所述划分结果对应的图计算算法对所述划分结果进行计算,得到图计算结果。
在本示例实施方式中,当得到多个划分完的子图后,还需要调用与划分结果对应的图计算算法对划分结果进行计算,得到图计算结果。其中,调用与所述划分结果对应的图计算算法对所述划分结果进行计算,得到图计算结果可以包括:从图计算算法包中调用与所述划分结果对应的图计算算法;利用所述图计算算法对所述划分结果进行计算,得到所述图计算结果。详细而言:
首先,从图计算算法包中调用与上述图划分结果对应的图计算算法;当调用到与图划分结果对应的图计算算法后,利用该图计算算法对该图划分结果进行计算,然后得到与各子图对应的计算结果。其中,其中,该图算法可以包括:各种遍历算法(这些遍历类似于树的遍历)、寻找最短路径的算法、寻找网络中最低代价路径的算法等等,也可以包括回答一些简单相关问题(例如,图是否是连通的,图中两个顶点间的最短路径是什么,等等)的算法。图算法可应用到多种场合,例如:优化管道、路由表、快递服务、通信网站等。
进一步的,为了便于后面对计算结果进行验证,可以在得到计算结果后,将计算结果存储到hive数据库中,具体的可以包括:将所述计算结果存储至所述hive数据库中,并将所述计算结果对应的名称存储至所述hive数据库对应的表中。进一步的,通过上述存储方式,可以按照名称依次对各计算结果依次进行验证,并对验证完成的计算结果对应的名称进行标记,避免了有的计算结果已经被验证而有的计算结果还未被验证过,进一步的提升了计算结果验证的准确性;进而提升了计算结果的准确性。
更进一步的,当得到上述计算结果后,为了确保计算结果的准确性,还可以对计算结果进行验证。参考图4所示,该图数据处理方法还可以包括步骤S410以及步骤S420。其中:
在步骤S410中,从图预测算法包中调用与所述如计算结果对应的图预测算法。
在步骤S420中,利用所述图预测算法验证所述图计算结果是否正确。
下面,对步骤S410以及步骤S420进行解释以及说明。首先,从图预测引擎3013中配置好的图预测算法包中,根据应用配置调用对应的预测算法;然后利用该预测算法对上述待计算全量图进行预测,并得到预测结果;最后再比对该预测结果是否与上述图计算结果一致来判断上述图计算结果的正确性;如果一致,则说明上述图计算结果正确;如果不一致,可以对上述待计算全量图进行重新划分并重新计算。
更进一步的,本公开提供的图数据处理方法,可以对接电商中任意业务系统的源数据,常见业务类型为:订单数据,登录数据,注册数据。源数据存储在hive表里,本系统暂不支持实时性业务,只为离线数据的图计算,但每日从流式处理框架storm里抽取当天的数据,进行加工,保存到hive表。
上述图数据处理方法,一方面,通过先调用图划分算法对待计算全量图进行划分,再调用与划分结果对应的图计算算法对划分结果进行计算,解决了现有技术中由于采用分布式图划分和图计算框架而导致的运算速度较慢的问题,提高了图划分以及图计算的速度;另一方面,通过调用与划分结果对应的图计算算法对划分结果进行计算,提高了图计算算法调用的准确性,同时也提高了图计算结果的准确性。进一步的,传统的图划分和图计算往往是分离的系统,即使能够在图计算前事先进行图划分以降低图计算的数据量,但同一个的图计算算法往往需要尝试多种划分方式,图计算应用方可能尝试多种图计算算法,本框架通过配置中心,解耦了算法应用方和算法开发包之间的耦合性,降低了开发成本,使算法工程师专注于算法开发。
本公开还提供了一种图数据处理装置。参考图5所示,该图数据处理装置可以包括调用模块510、划分模块530以及计算模块。其中:
调用模块510可以用于接收包括待计算全量图的图计算请求,响应所述图计算请求调用与所述待计算全量图对应的图划分算法。
划分模块520可以用于利用所述图划分算法对所述待计算全量图进行划分,得到划分结果。
计算模块530可以用于调用与所述划分结果对应的图计算算法对所述划分结果进行计算,得到图计算结果。
在本公开的一种示例实施方式中,上述调用模块510还可以被配置为:根据所述待计算全量图的应用配置,从图划分算法包中调用与所述待计算全量图对应的图划分算法。
在本公开的一种示例实施方式中,上述划分模块还可以被配置为:利用所述图划分算法对所述待计算全量图进行划分,得到多个子图。
在本公开的一种示例实施方式中,所述图数据处理装置还可以包括:存储模块,可以用于将所述划分结果存储至hive数据库中。
在本公开的一种示例实施方式中,上述计算模块还可以被配置为:从图计算算法包中调用与所述划分结果对应的图计算算法;利用所述图计算算法对所述划分结果进行计算,得到所述图计算结果。
在本公开的一种示例实施方式中,上述图数据处理装置还可以包括:
预测算法调用模块,可以用于从图预测算法包中调用与所述如计算结果对应的图预测算法。
验证模块,用于利用所述图预测算法验证所述图计算结果是否正确。
在本公开的一种示例实施方式中,上述存储模块还可以被配置为:将所述划分结果存储至所述hive数据库中,并将所述划分结果对应的名称存储至所述hive数据库对应的表中。
上述图数据处理装置中各模块的具体细节已经在对应的图数据处理方法中进行了详细想描述,因此此处不再赘述。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本发明中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本发明实施方式的方法。
在本发明的示例性实施例中,还提供了一种能够实现上述方法的电子设备。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图6来描述根据本发明的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:上述至少一个处理单元610、上述至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元610执行,使得所述处理单元610执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元610可以执行如图2中所示的步骤S210:接收包括待计算全量图的图计算请求,响应所述图计算请求调用与所述待计算全量图对应的图划分算法;步骤S220:利用所述图划分算法对所述待计算全量图进行划分,得到划分结果;步骤S230:调用与所述划分结果对应的图计算算法对所述划分结果进行计算,得到图计算结果。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器660通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本发明实施方式的方法。
在本发明的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。
参考图7所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品710,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里发明的发明后,将容易想到本发明的其他实施例。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未发明的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由权利要求指出。