CN109597919B - 一种融合图数据库和人工智能算法的数据管理方法及系统 - Google Patents

Abstract

本发明公开了一种融合图数据库和人工智能算法的数据管理方法及系统。本方法为：1)查询请求处理模块接收用户发出的指令；所述指令包括Blob对象信息和处理该Blob对象的算法名称；2)查询请求处理模块根据该指令从图数据库中获取该Blob对象，并将该Blob对象和算法名称发送给人工智能模块；3)人工智能模块根据该算法名称调用相关算法对该Blob对象进行处理并将得到的处理结果返回给用户。本发明实现了数据管理工具自身的智能化、功能的丰富化，填补了在非结构化数据管理及相关领域的空白。

Description

一种融合图数据库和人工智能算法的数据管理方法及系统

技术领域

本发明涉及大数据、数据库、人工智能技术领域，提出一个融合了图数据库和人工智能算法，同时支持结构化非结构化数据存储与查询的数据管理方法及系统。

背景技术

当前，结构化数据的存储和查询相关的技术比较成熟，结构化数据的存储与管理的相关解决方案已经很完善。但是随着技术的进步和时代的发展，数据的来源越来越广，数量越来越多，形式越来越复杂。在许多应用场景之中，工程人员需要面对的不仅仅是格式规范的结构化数据，还有带自描述结构的半结构化数据甚至是没有固定结构的非结构化数据。显然，因为结构上的灵活性，这种数据有丰富的扩展性和极高的信息表达自由度。但是由于其格式上的自由性，这种非结构化数据的存储和管理也是一个困扰业界多年的问题。

非关系型数据库，尤其是图数据库(Graph Database)等技术的出现，为高效解决非结构化数据的管理和处理问题提供了新的思路。如果将图数据库与Blob(二进制大对象)存储相结合，既可以解决非结构化数据存储的问题，实现Blob数据与其他类型数据的统一管理和查询，又可以利用图数据库的性能优势，快速解决复杂的关系问题。

同时，非结构化数据往往体积较大，内容繁多，比如录音、图片、视频、动画，用户需要的往往是这些非结构化数据中所包含的信息，而非数据本身。在大数据量的场景下，非结构化数据的展示，检索，处理，以及数据中信息的获取都是当前技术没有很好解决的问题。

传统的人工智能领域在图像处理、语音识别等诸多领域都取得很好的成果，现有技术在准确率和速度上，相比于从前都有很大提高。但是当前人工智能领域与数据管理领域缺乏融合，导致数据的存储和处理相割裂，二者的研究成果没有达到相互利用，相互促进的程度。因此，面对当前缺乏非结构化数据管理工具的困境，设计一款整合图数据库和人工智能算法的非结构化数据管理工具显得非常重要。

发明内容

本发明的目的在于提供一种融合图数据库和人工智能算法的结构化、非结构化数据管理方法及系统(其中结构化、非结构化数据的存储管理基于申请号：201811202708X，名称“一种支持非结构化数据存储与查询的图数据库管理系统”的专利申请，传统的图数据库不支持非结构存储)。

本发明的技术方案为：

一种融合图数据库和人工智能算法的数据管理方法，其步骤包括：

1)查询请求处理模块接收用户发出的指令；所述指令包括Blob对象信息和处理该Blob对象的算法名称；

2)查询请求处理模块根据该指令从图数据库中获取该Blob对象，并将该Blob对象和算法名称发送给人工智能模块；

3)人工智能模块根据该算法名称调用相关算法对该Blob对象进行处理并将得到的处理结果返回给用户。

进一步的，所述人工智能模块首先对该Blob对象属性进行识别，若该Blob对象是一个图片，且所述处理结果是图片中所包含物体的类别，则所述人工智能模块调用图片分类算法对该图片进行处理，得到该图片中所包含物体的类别信息返回给用户。

进一步的，所述人工智能模块首先对该Blob对象属性进行识别，若该Blob对象是一段录音，且所述处理结果是该录音中所包含的文字信息，则所述人工智能模块调用语音识别算法对该录音进行处理，将处理得到文字信息返回给用户。

进一步的，所述指令为Cypher语言描述的指令。

进一步的，所述查询请求处理模块将所述处理结果存储到该用户对应的缓存空间；所述查询请求处理模块接收到用户发出的指令时，首先查询该用户的缓存空间是否有对应的处理结果，如果有，则请直接将其返回给该用户。

一种融合图数据库和人工智能算法的数据管理系统，其特征在于，包括工智能模型、图数据库和查询请求处理模块；其中，

所述查询请求处理模块，用于接收用户发出的指令，根据该指令从所述图数据库中获取该Blob对象，并将该Blob对象和算法名称发送给人工智能模块；所述指令包括Blob对象信息和处理该Blob对象的算法名称；

所述人工智能模块，用于根据该算法名称调用相关算法对该Blob对象进行处理并将得到的处理结果返回给用户；

所述图数据库，用于存储结构化、非结构化数据。

进一步的，还包括一缓存模块，所述缓存模块为每一用户设置一缓存空间，用于存储用户查询的Blob对象经由人工智能模块处理得到的结果信息。

进一步的，所述人工智能模块首先对该Blob对象属性进行识别，若该Blob对象是一个图片，且所述处理结果是图片中所包含物体的类别，则所述人工智能模块调用图片分类算法，将图片输入到卷积神经网络中，经过卷积神经网络运算得到该图片中所包含物体的类别信息返回给用户。

进一步的，所述人工智能模块首先对该Blob对象属性进行识别，若该Blob对象是一段录音，且所述处理结果是该录音中所包含的文字信息，则所述人工智能模块调用语音识别算法，将该录音输入到RNN中，经过RNN的处理得到文字信息返回给用户。

进一步的，所述指令为Cypher语言描述的指令。

该系统具体描述如下：

(1)整合了人工智能模型与图数据库。用户可以通过UDF函数(用户自定义函数)方便地调用系统预置或用户自定义的人工智能模型，从而针对图数据库中的非结构化数据进行处理，实现了数据库与人工智能的结合。这种将人工智能模型与图数据库和Blob对象融合在一起使用的方法是本发明最大的创新点所在。本系统使用了Neo4j原生支持的Cypher语言，用户通过Cypher语言发出指令，查询某个Blob对象的名称在特定算法下处理得到的结果，系统的UDF函数会根据用户的指令去数据库中检索Blob对象，将Blob对象送入人工智能模块，人工智能模块调用合适的算法对此Blob对象进行处理并得到处理结果，系统将此处理结果作为用户查询结果返回给用户。此处理结果亦可作为一个普通属性，和其他属性一样作为筛选条件使用。

(2)设计了可扩展的AI算法集成机制，算法包括图片分类(参考Krizhevsky A,Sutskever I,Hinton G E.ImageNet classification with deep convolutional neuralnetworks[C]//International Conference on Neural Information ProcessingSystems.Curran Associates Inc.2012:1097-1105.)，语音识别(参考Graves A,MohamedA R,Hinton G.Speech recognition with deep recurrent neural networks[C]//IEEEInternational Conference on Acoustics,Speech and Signal Processing.IEEE,2013:6645-6649.)等。对于人工智能模型来说，输入的是各种Blob对象，它们实际上可能是图片、录音、视频等文件，输出的是经过合适的算法处理后所得到的结果，比如图片执行分类后得到的结果是图片中所含物体的类别，录音执行语音识别后得到的结果是录音中的文字内容。本系统对人工智能模块做了封装和抽象，用户无需深入了解其工作原理和详细构造，通过简单的UDF函数即可查询人工智能模块对对应类型数据的处理结果。当用户通过Cypher发起针对某个Blob对象的相关属性查询时，系统将此Blob对象发送至人工智能模块。若此Blob对象是一个图片，且用户查询的是图片中所包含物体的类别，则人工智能模块调用图片分类算法，将图片输入到卷积神经网络(图片分类算法有很多种，本系统使用卷积神经网络)中，经过卷积神经网络的运算得到类别信息，送回系统，由系统返回给用户。若此Blob对象是一段录音，且用户查询的是此录音中所包含的文字信息，则人工智能模块调用语音识别算法，将录音输入到RNN(语音识别算法有许多种，本系统使用RNN)中，经过RNN的处理得到文字信息，送回系统，由系统返回给用户。

(3)针对AI计算的延迟问题，提供了预处理(缓存)机制。基于深度学习方法的模型体量往往较大，模型也较为复杂，因此加载和处理数据的时间开销比较大。如果每次数据查询都启动一次模型去处理这一条数据，不仅处理时间长，而且反复地加载模型将会增大I/O读写压力，降低数据管理系统的运行效率。因此本系统设计并实现了一个缓存机制，在存储过程中对数据进行预处理并将处理得到的结果存储在与用户存储相独立的缓存之中。用户在查询相关内容时，优先从缓存中查找，如果没有对应记录，则调用人工智能模型处理数据，将结果返回并存入缓存。这样既减少了用户查询时系统的运算和I/O压力，提高了响应速度，也不会污染用户的原始数据

(4)使用Java/Scala实现。考虑到数据管理系统应该具有的通用性，本系统主要通过Java/Scala实现，并在接口设计，路径设置等细节处精心设计，使系统便于跨平台移植。

本发明的有益效果在于：

提供了一个融合了图数据库和人工智能模型的可扩展非结构化数据管理系统。本系统不仅仅将图数据库和二进制对象结合，使得非结构化数据可以享受图数据库在关系方面的优越性能，更重要的是结合了人工智能算法，使得用户可以在系统内对其内存储的非结构化数据进行简单的处理和分析，并将处理得到的结果作为实体属性存储下来，便于后期的检索和查询。并针对系统扩展性做了特殊设计，将系统中与集成人工智能模型相关的功能做了封装，用户在集成自定义的人工智能模型时，只需要将自定义的人工智能模型放在指定路径，在系统中注册人工智能模型和多个UDF函数，定义函数名、操作数据格式和返回数据，即可开始使用自定义的人工智能模型。这种设计使得用户可以方便地扩展、集成自定义的人工智能模块；系统中UDF函数有多个，比如获取图片类别的函数getCategoyr()，获取录音文字信息的函数getContent()，人工智能模型只有一个，其中包含多种算法，比如图像分类算法和语音识别算法。具体注册方法可见实施例1。

本发明在一个系统内很好地融合了图数据库与人工智能算法，使用户在一个系统内就完成数据存储、管理与简单的处理分析，这一定程度上弥补了大数据管理工具在这一块上的空白，缓解了人工智能与图数据库两大领域相割裂的现象。

本发明以开源图数据库Neo4j为基础，结合后端存储系统和人工智能算法，实现了对于非结构化数据的存储、管理以及简单处理的功能。

当前数据管理领域所面临的一个问题是大数据量场景下，非结构化数据难以管理、展示、检索和处理，而且数据的存储和处理相割裂。传统的管理工具只做了对非结构化数据的存储工作，而没有提供或只提供了很有限的预处理功能。用户在使用数据管理工具管理非结构化数据时，往往要根据非结构化数据中的信息，而非数据本身进行查询和使用。本发明将人工智能领域的研究成果引入到数据管理工具中来，使得用户可以使用人工智能模型获取非结构化数据中的信息，并以文本形式显示出来，便于查看和管理。

本发明提出的系统最大的创新在于将图数据库系统和人工智能相关算法相结合，并深度实现了Cypher与人工智能算法的相结合，使得用户可以方便地通过Cypher语言调用系统中集成的AI模型处理数据，或者根据AI模型对数据的处理结果进行筛选和查询。用户可以在一个系统内完成数据的存储、管理、简单处理和分析，极大地降低了数据管理的成本。

这很好地结合了数据管理系统和人工智能领域成果的结合，实现了数据管理工具自身的智能化、功能的丰富化，填补了在非结构化数据管理及相关领域的空白。

附图说明

图1是本发明的系统处理流程示意图。

具体实施方式

下面通过具体实施例，并配合附图，对本发明做进一步的说明。

本发明的流程如图1所示，其步骤为：

(1)用户将已经预置了常用人工智能模型的系统部署在自定义的环境中，在系统中存入数据，即可开始使用系统。系统在调用Neo4j的存储过程时，会自动对数据执行合适的AI算法进行预处理，并将处理得到的结果存在一个独立于用户数据之外的缓存之中。当用户使用Cypher语言进行查询和检索数据时，这些AI处理得到的结果将与其他普通的属性一样，可以作为限制条件，也可以作为返回结果。如果用户检索时，该条数据尚未执行过对应的算法，在缓存之中没有找到对应记录，则在用户查询时对其应用AI方法，得到用户检索的信息，并将这些信息存入缓存之中，以备后用。

(2)用户可根据场景的不同选择合适的AI模型，或者自己添加、修改AI模型。

实施例1、UDF函数的实现与使用(以获取图片类型为例)

本例以获取数据库中图片中所含物体类型的操作为例，说明UDF函数的具体实现方法和后台技术流程。

在系统中注册了用于获取图片中所含物体类别的函数，用户在Cypher语言中通过cn.pidb.Blob.category(n.photo)的方法即可返回节点n下photo属性的照片中的图片信息。

当用户需要获取节点n下的photo对象中所包含的物体所属类别时，需要输入如下命令：

cn.pidb.Blob.category(n.photo)。

系统会自动在数据库中搜索n.photo这个Blob对象，通过跨进程调用Python的方法，将这个对象传入到人工智能模型中。在人工智能处理模块中，Blob对象被转码为图片类型的数据，并被送入神经网络中执行分类算法，得到处理结果。处理结果被传回到图数据库系统中，作为查询结果返回给用户。

实施例2、扩展AI算法的集成

用户将自定义的符合接口要求的AI模型放在对应路径下，并在系统内注册对应的UDF函数，即可开始使用新添加的AI模型，下边以添加获取图片信息的AI模型为例说明系统内注册UDF函数的具体做法。

实施例3、预处理缓存机制的实现

在系统运算资源闲置，或用户查询之前，用户通过调用一个存储过程来调用预处理缓存机制，如下例：

CALL cn.pidb.process(‘image/*’，’getCategory’)；此命令的含义为，针对数据库中所有的image(图片)数据，执行getCategory方法。系统自动检索数据库中所有的image类型的数据，并将这些数据送入到人工智能模块，人工智能模块在这些数据上运行图像分类算法，得到处理结果，将这些处理结果以与数据一一对应的形式返回到系统中。系统会将处理结果存入缓存之中。

预处理语音数据，获取其中文字信息的指令为:

CALL cn.pidb.process(‘audio/*’，’getContent’)；

系统接收此指令后，在数据库中检索全部未经getContent方法处理过的audio数据，将这些数据送入到人工智能模块中，人工智能模块在这些数据上运行语音识别算法，得到处理结果，将这些处理结果以与数据一一对应的形式返回到系统中。系统将处理结果存入缓存之中。

对某一部分的数据执行预处理缓存指令时，系统会判断缓存中是否有该运算对应的结果，并只执行那些缓存中还没有对应结果的运算。

系统缓存机制的存储部分使用Redis将计算结果持久化存储下来。缓存中的数据采用<key,value>键值对方式存储。其中key是(BlobId,model),BlobId是在存入系统时由系统分配的可唯一定位Blob对象的标识，value是模型对Blob对象处理的结果。

用户在使用UDF函数查询人工智能模块相关的信息时，系统会优先去缓存中搜索对应的数据，如果命中，直接返回缓存中的数据。若未命中，则调用AI算法，对用户查询的Blob处理，将处理得到的结果返回并存入缓存，以备后续使用。

实施例4、用户使用流程

本发明中，用户主要通过两种方式使用系统中的人工智能模块，一是通过过程调用预处理缓存机制，二是直接查询某个Blob对象的相关属性。现对这两种使用方法的内部流程分别介绍如下。

通过过程调用预处理缓存机制：

1.系统为每一个用户分配一个缓存空间，此缓存空间用于存储Blob对象经由人工智能模块处理得到的结果信息，是固化存储，不同于内存中的非固化缓存。

2.用户想要对系统中的某一部分数据data，应用人工智能模块中的某算法method进行预处理，于是用户发出请求：CALL cn.pidb.process(‘data/*’，’method’)；指令只需要指定两个重要参数：对哪些数据(data)，使用什么方法(method)。

3.系统接收到用户发出的指令，在数据库中取出用户需要处理且对应属性尚不在缓存中的数据data，把data和用户指定的参数method送入到人工智能模块中。

4.人工智能模块调用method对应的算法，并用此算法处理data，得到处理结果。

5.人工智能模块将处理得到的结果以与data中的数据项一一对应的形式送回系统，系统将这些处理结果固化存储在系统为该用户分配的固化存储之中。

直接查询某个Blob对象的相关属性(以获取语音内容为例，图像分类同理)：

1.用户想要查询name属性值为’Bob’的节点下的audio属性(其实是一个录音的Blob对象)中的文字信息。于是用户发起查询：match(n)where n.name＝’Bob’，returncn.pidb.content(n.audio).命令中需要指明两个参数：一个是要查询哪个节点下的哪个对象，另一个是要查询该对象的什么数据。

2.系统接收用户请求，从中提取出用户指定查询的对象n.audio和属性content。

3.系统在为该用户分配的缓存空间中搜索有无对应记录，若有，则将对应结果返回给用户，查询结束。若在缓存空间中没有该记录，则进入步骤4。

4.系统在数据库中检索出用户需要查询的Blob对象n.audio，并将此对象和用户查询的属性参数content送入到人工智能模块中。

5.人工智能模块根据用户查询的属性，选择合适的算法，对此对象应用该算法，得到处理结果，将处理结果送回系统。

6.系统将此处理结果固化存储在用户的缓存空间中，并将此处理结果作为查询结果，返回给用户，查询结束。

以上实施仅用以说明本发明的技术方案而非对其进行限制，本领域的普通技术人员可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明的精神和范围，本发明的保护范围应以权利要求书所述为准。

Claims (4)

1.一种融合图数据库和人工智能算法的数据管理方法，其步骤包括：

1）查询请求处理模块接收用户发出的指令；所述指令包括Blob对象信息和处理该Blob对象的算法名称；所述指令为用户通过UDF函数发送的Cypher语言描述的指令；

2）查询请求处理模块根据该指令从图数据库中获取该Blob对象，并将该Blob对象和算法名称发送给人工智能模块；

3）人工智能模块根据该算法名称调用相关算法对该Blob对象进行处理并将得到的处理结果返回给用户；其中所述人工智能模块首先对该Blob对象属性进行识别，若该Blob对象是一个图片，且该指令中处理该Blob对象的算法名称为获取图片类别的算法名称，则所述人工智能模块调用图片分类算法对该图片进行处理，得到该图片中所包含物体的类别信息返回给用户；若该Blob对象是一段录音，且该指令中处理该Blob对象的算法名称为获取录音文字信息的算法名称，则所述人工智能模块调用语音识别算法对该录音进行处理，将处理得到文字信息返回给用户。

2.如权利要求1所述的方法，其特征在于，所述查询请求处理模块将所述处理结果存储到该用户对应的缓存空间；所述查询请求处理模块接收到用户发出的指令时，首先查询该用户的缓存空间是否有对应的处理结果，如果有，则请直接将其返回给该用户。

3.一种融合图数据库和人工智能算法的数据管理系统，其特征在于，包括工智能模型、图数据库和查询请求处理模块；其中，

所述查询请求处理模块，用于接收用户发出的指令，根据该指令从所述图数据库中获取该Blob对象，并将该Blob对象和算法名称发送给人工智能模块；所述指令包括Blob对象信息和处理该Blob对象的算法名称；所述指令为用户通过UDF函数发送的Cypher语言描述的指令；

所述人工智能模块，用于根据该算法名称调用相关算法对该Blob对象进行处理并将得到的处理结果返回给用户；其中所述人工智能模块首先对该Blob对象属性进行识别，若该Blob对象是一个图片，且该指令中处理该Blob对象的算法名称为获取图片类别的算法名称，则所述人工智能模块调用图片分类算法对该图片进行处理，得到该图片中所包含物体的类别信息返回给用户；若该Blob对象是一段录音，且该指令中处理该Blob对象的算法名称为获取录音文字信息的算法名称，则所述人工智能模块调用语音识别算法对该录音进行处理，将处理得到文字信息返回给用户；

所述图数据库，用于存储结构化、非结构化数据。

4.如权利要求3所述的系统，其特征在于，还包括一缓存模块，所述缓存模块为每一用户设置一缓存空间，用于存储用户查询的Blob对象经由人工智能模块处理得到的结果信息。

Images