CN113609257A - 一种金融知识图谱弹性框架构建方法 - Google Patents
一种金融知识图谱弹性框架构建方法 Download PDFInfo
- Publication number
- CN113609257A CN113609257A CN202110908232.7A CN202110908232A CN113609257A CN 113609257 A CN113609257 A CN 113609257A CN 202110908232 A CN202110908232 A CN 202110908232A CN 113609257 A CN113609257 A CN 113609257A
- Authority
- CN
- China
- Prior art keywords
- entity
- data
- page
- knowledge
- graph
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000010276 construction Methods 0.000 title claims abstract description 27
- 238000013461 design Methods 0.000 claims abstract description 43
- 238000000034 method Methods 0.000 claims abstract description 35
- 230000000694 effects Effects 0.000 claims abstract description 8
- 238000012423 maintenance Methods 0.000 claims description 21
- 230000008569 process Effects 0.000 claims description 17
- 238000005516 engineering process Methods 0.000 claims description 11
- 238000013527 convolutional neural network Methods 0.000 claims description 6
- 230000008676 import Effects 0.000 claims description 6
- 238000013500 data storage Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 claims description 5
- 238000004458 analytical method Methods 0.000 claims description 3
- 230000015572 biosynthetic process Effects 0.000 claims description 3
- 238000009877 rendering Methods 0.000 claims description 3
- 238000012549 training Methods 0.000 claims description 3
- 238000013480 data collection Methods 0.000 claims description 2
- 238000000605 extraction Methods 0.000 abstract description 5
- 230000004927 fusion Effects 0.000 abstract description 4
- 239000000047 product Substances 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000003068 static effect Effects 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 238000009795 derivation Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013479 data entry Methods 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 239000012782 phase change material Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供的一种金融知识图谱弹性框架构建方法,具体包括:健全知识图谱的本体架构,采用自顶向下的构建方式为所述知识图谱构建本体层框架,获得知识图谱的整体设计框架;根据知识图谱的整体设计框架,维护与抽取图谱数据;对所述图谱数据进行分仓设计与存储。提供了一套灵活设计,实时生效的本体层的构建方案,用户可以在页面端直接维护本体层模板,能够实现快速的知识抽取、知识融合以及知识存储。弹性构建知识图谱节点与关系详情的展示页面,对于数据业务端的需求,能够快速响应。
Description
技术领域
本发明涉及金融领域,尤其涉及一种金融知识图谱弹性框架构建方法。
背景技术
知识图谱的资源信息往往需要引导客户参照本体层框架进行构建,但是目前市面上的实现知识图谱的构建技术的应用产品或者主流的技术都没有实现本体层的灵活设计、灵活维护与灵活查询展示,无法快速适应知识来源的变化与场景端的敏捷需求,甚至每一次的本体迭代可能都要重新进行页面端的开发,生产效率极低。
在知识存储层面上,传统意义上的图谱存储适合做多关联的实体存储,能够很好地去描述事务的最终状态。而对于事务的中间态描述有所缺失,比如事务的历史版本。目前的主流技术很难有效地在一个整体的知识图谱体系内对某一具体的领域进行细分子图管理维护,更缺乏对细分领域子图的版本控制、权限控制以及外部关联控制,导致无法保证对知识图谱适中的维护粒度,进而导致在业务场景端中很难保证知识图谱数据迭代的有效性、可靠性以及可溯源性。
目前现有技术方案中,隐含关系发现普遍是通过在获取知识内容时进行文本描述匹配的方式实现的,普遍缺乏隐含关系推断的回溯补充,这种先期一次性地推断方式极其容易造成隐含关系的遗漏,并且限制了可发现隐含关系的深度。
发明内容
鉴于上述问题,提出了本发明以便提供克服上述问题或者至少部分地解决上述问题的一种金融知识图谱弹性框架构建方法。
根据本发明的一个方面,提供了一种金融知识图谱弹性框架构建方法,所述构建方法包括:
健全知识图谱的本体架构,采用自顶向下的构建方式为所述知识图谱构建本体层框架,获得知识图谱的整体设计框架;
根据知识图谱的整体设计框架,维护与抽取图谱数据;
对所述图谱数据进行分仓设计与存储。
可选的,所述健全知识图谱的本体架构,采用自顶向下的构建方式为所述知识图谱构建本体层框架,获得知识图谱的整体设计框架具体包括:
获取实体属性,每个所述实体具有多个特性;
获取不同所述实体间存在的不同的关系,关系的内容包括关系名称、方向、条件、关系属性;
根据实体间存在的关系建立知识图谱的整体设计框架图。
可选的,所述根据知识图谱的整体设计框架,维护与抽取图谱数据具体包括:
页面端动态加载本体层;
根据所述本体层进行大规模数据导入。
可选的,所述页面端动态加载本体层具体包括:
根据页面入口请求标识查询本体层数据库,获取根实体分仓内全部本体实体类型与属性;
根据页面入口请求标识查询本体层数据库,获取根实体分仓内全部关系类型与属性,返回本体查询结果;
根据本体层的查询结果获得实体属性构建页面,实体属性中包含了该属性在页面中展现的页面控件、页面触发事件、默认赋值方式、输入检查以及实体列表展示时的展示效果;
根据实体属性拼接页面组件生成页面文件,基于本体层的关系查询结果,进行页面层级的编排,每个实体都拥有独立页面,关联实体之间通过列表展示上的关联实体之间通过列表展示上的CRUD操作进行串联,上级实体会有下级实体的列表展示页面,通过下级实体的列表上的新增、查询、编辑等按钮进入下级实体自身的展示维护页面,当然这个过程需要进行权限的检查,如果是创建一个新的图谱数据,则页面渲染完成;
根据页面请求的图数据实体I D查询图谱实体数据,填充对应实体的页面数据项;
对于部分关系上存在属性的情况,也会根据页面请求的图数据实体ID查询图谱关系数据,填充对应关系的页面数据项;
完成页面的加载。
可选的,所述根据所述本体层进行大规模数据导入具体包括:
在获取到大规模数据之后先进行数据抽取,获取到对应实体要素,识别实体类型,获取根实体分仓内全部本体实体类型与属性;
根据前一步识别到的根实体类型,获取根实体分仓内全部关系类型与属性;返回本体查询结果;
进行本体层匹配,将本体层模板与抽取的数据进行匹配,通过依赖NLP技术包括,采用word2Voc进行语义相似度判断、CNN卷积神经网络识别语义模式以及其他句法构成分析算法等实现模型维度训练匹配,基于指定标记模板的方式进行本体层匹配;
基于匹配结果调用分仓的操作服务,实现分仓图谱数据的批量操作。
可选的,所述对所述图谱数据进行分仓设计与存储具体包括:
关系型数据存储包括存储字典数据、关联性元数据、配置类基础数据、本体信息和约束;
图数据,存储全部图谱下的所有实体节点信息和关系信息,实体节点与关系的全部属性信息以键值对的形式保存在图数据中;
分仓与全图的设计,从页面中进行数据采集后,基于本体层进行分仓的构建,每个分仓都是基于实际业务数据进行根实体实例化,同时构建根实体周边的关联关系和实体节点。
本发明提供的一种金融知识图谱弹性框架构建方法,具体包括:健全知识图谱的本体架构,采用自顶向下的构建方式为所述知识图谱构建本体层框架,获得知识图谱的整体设计框架;根据知识图谱的整体设计框架,维护与抽取图谱数据;对所述图谱数据进行分仓设计与存储。提供了一套灵活设计,实时生效的本体层的构建方案,用户可以在页面端直接维护本体层模板,能够实现快速的知识抽取、知识融合以及知识存储。弹性构建知识图谱节点与关系详情的展示页面,对于数据业务端的需求,能够快速响应。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本发明实施例提供的E-R-E关系模型图;
图2为本发明实施例提供的本体层框架的示意图;
图3为本发明实施例提供的MVC层次介绍示意图;
图4为本发明实施例提供的WEB页面采用的动态加载方案流程示意图;
图5为本发明实施例提供的对于大规模数据导入场景的流程图;
图6为本发明实施例提供的。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
本发明的说明书实施例和权利要求书及附图中的术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元。
下面结合附图和实施例,对本发明的技术方案做进一步的详细描述。
本体层框架设计如图1所示,本体是对概念进行建模的规范,是描述客观世界的抽象模型,以形式化方式对概念及其之间的联系给出明确定义.本体是同一领域内的不同主体之间进行交流的语义基础。本体是树状结构,这种单纯的关系有助于知识推理,但却不利于表达概念的多样性。在知识图谱中,本体位于模式层,用于描述概念层次体系是知识库中知识的概念模板。在知识图谱构建之初,应优先健全知识图谱的本体架构,采用自顶向下的构建方式为图谱搭建骨架,在前期的工作中需要对一些基础的本体类的核心实体进行识别和关系的确定,该过程是一个重要的框架设计,是后期知识图谱建设范围和方向的指导,所以需要专家组对核心实体进行人工识别和定义。而本体层具体产物就是实体关系三元组(E-R-E)关系图谱。
实体属性和关系属性则描述了每个实体和关系的个性特征,使整个模型成为现实世界中金融行业的映射。
实体指的是具有可区别性且独立存在的某种事物。如某一个人、某一个城市、某一种植物、某一种商品。实体是知识图谱中的最基本元素,不同的实体间存在不同的关系。进一步通过一系列的属性描述这个实体,用以描述实体间的差别。
实体属性指用来描述实体特征的指向,每一个实体都具有多个特性,每一个特性称为属性。一个实体的实例是由属性指向它的属性值而形成,例如“客户姓名”是“客户”的一个属性,而这个属性指向”张三“这个明确的属性值,其数据类型可以是整数型、日期型、字符串型。
数据对象彼此之间相互连接的方式称为关系,也称为联系。实体关系是为展现孤立的实体节点之间复杂而多样的拓扑结构而构建的网络。
实体识别完成后,则可以进一步建立实体间关系,关系的内容包括:关系名称、方向、条件、关系属性等。通过对不同实体的识别和划分,从而明确实体间的关系类型,建立对应的实体间关系。各类实体间关系定义见附录1,其中“派生”关系是参考面向对象设计理论中“继承”机制而设计,即新的子实体从已有的父实体中“派生”而来,进一步明确了实体的范围,展现的是实体间纯粹的层次关系。而其他实体类之间的关系则是在表现现实世界中实体间建立的网络联系,如“客户”“持有”“凭证”办理业务,其中“客户”和“凭证”则是这条关系中两端的节点,而“持有”则是这条关系的类型。
关系属性指用来描述实体间关系的特征。不同的关系之间存在一定程度上共性特征和个性特征,然而对于建立在不同实体之间相同的关系也存在着个性特征。如果说当实体拥有了明确存在着的实例时,实体属性才存在明确的值;那么对于关系而言,实体间关系一旦建立就是建立了这个关系的一个实例,那么相应的,这个关系实例的属性也有了明确的值。
所以本体层作为知识图谱构建的核心框架,会预先设计好每一个事实要素的逻辑实体模板和关联关系模板,形成基础的E-R-E关系模型,如:
(应用系统)-【调用】→(接口)
表示:在一个架构体系中,一个“应用系统”可以“调用”某一个“接口”,“调用”就是应用系统与接口之间的关联关系:
同时,可以通过描述逻辑实体的具体属性在设计时突出每个本体对象实例的特征,如
(应用系统{name:名称;ID:标识;})
表示,“应用系统”应该具备“名称”、“标识”等属性,类似的关系内部也可以存储属性,用来表示关系的特异性,如
【调用{unique:唯一性;connect:方式;}】,
表示“调用”关系可能会存在“是否唯一”和“通讯方式”等属性
最终,通过本体层设计中将会包含全部领域知识的事实以逻辑实体的形式进行管理,而它们通过关联关系进行串联,通过相关属性进行细节描述。所以图谱构建的实施之初必须进行本体层构建工作,产物为本体层实体清单和关系清单,相关内容存储在关系型数据库中,涉及表:实体表、实体属性表、关系表、关系属性表。
实体表的主要内容包括:
实体分层,用于描述实体间的层次关系,也是后续存储子图分仓的边界;
实体类型名称,用于定义实体的标准名称,需要具有唯一性;
实体说明,以进行实体的匹配和对齐;
唯一根节点则用来表示该实体是否为一个子图分仓的根节点;
此外还包括方便实体存储的实体ID生成方式等字段标志以及用来进行展示控制的实体icon图标、展示位置等信息。
表1实体表
实体属性表主要是用来描述某一实体具体的属性信息,包括每一个实体定义的具体的属性名、属性类型等,具体内容包括:
属性名,一个属性的唯一命名;
值备注,属性的值来源与值描述,不同类型的属性的属性值表述会有所不同,如:枚举值型属性,可以直接定义枚举值选项如下表中的属性“接口性质”的枚举值【金融;非金融;查询】,或从数据库表中获取枚举值选项,如下表中的属性“业务能力标签”的枚举值选项来源自静态表“业务能力列表”;表单型属性的属性值则是表单的表头,如下表中属性“接口入参n”的表头为【属性名|中文名称|数据类型|数据格式|节点类型|节点位置|是否必输|备注】,当然同时该表还会同时关联静态表单{关联静态表:元数据字典}。
属性类型,表示属性的输入或展示方式;
属性分组,是属性的归属分类;
唯一性类型,表述该属性是否唯一;
表单输入限制,表示该属性在表单中如何进行控制,包括输入,是否必输,是否可编辑以及大小驼峰、数字等输入检查;
关联表单查询赋值,表示该属性需要触发的默认赋值查询事件,以及该属性需要查询的表单以及赋值方向;
列表单性质,表示该属性在实体列表查询展示时的展示效果,包括是否在列表显示,是否可以作为检索条件等
表2实体属性表
关系表示实体间的关联关系,具体内容包括:
出发左实体,表示关系的出发实体类型;
关系名称,关系的命名,但是关系的命名并不是唯一的制定两个实体间才能包含唯一的关系类型;
关系右实体,表示关系的结束节点,也就是关系指向的节点;
关系说明,对关系的描述,用于关系的文本匹配;
正关关系比例,表示从左到右的实体数量比例,是1:1,1:n,n:n,或n:1;
正向关系必要性,在左节点存在时是否必须要存在相关关系;
反向关系比例,表示从右到左的实体数量比例,是1:1,1:n,n:n,或n:1;
反向关系必要性,在右节点存在时是否必须要存在相关关系;
内涵关系推导,表示该关系是一个隐含关系,需要从其他关联关系中进行推导计算得到,如下表中的(应用1)-【依赖】->(应用2),由(应用1)-【提供】->(接口)和(应用2)-【调用】->(接口)两条关系推导出来的;内涵关系可能还是多层推导关系推导得出的;
表3关系表
关系属性表表示对关系的描述,包括每一个关系定义的具体的属性名、属性类型等,具体内容和表示方法与实体属性表相同,介绍从略;
表4关系属性表
最终通过本体层的设计,形成知识图谱的整体设计框架,设计框架如图2所示,是后续知识抽取、融合和存储的核心方案。
为了灵活、快捷、高效地维护知识图谱,本技术提供了一个可以通过维护本体层设计实现图谱数据的快速维护与抽取,快速应对数据源的变化和场景端的需求。实现方法如下:
如图3所示,在架构层面上,为了便于理解,本例以常见的MVC层次进行介绍:
存储层包括一部分在图数据库中保存的图数据,包括分仓子图与架构全图数据,另一部分是在关系型数据库中保存的本体层数据。
服务层中图谱服务(GraphServcie)封装了对图谱全部操作,包括对分仓节点的操作、分仓关系的操作、分仓查询、分仓子图提交以及分仓全图查询等,而架构服务(ArchService)则封装了对本体层的操作和控制,具体包括实体节点类型和属性查询,关系的类型与属性查询以及本体层维护。在本例中两个服务基于SpringCloud框架独立部署,彼此之间通过RPC方法调用,但是该方案不是本技术必须依赖的实现方案。
在展现层上,无论是通过人工图谱数据录入还是批量的数据源导入,过程都优先查询本体层设计模板,基于本体层设计模板生成维护展示页面或数据抽取识别规则,然后基于本体层模板生成图谱的三元组,并生成对应的图数据存储语句进行后端图数据的存储落地。另外,本技术对于本体层本身也会开放维护页面以供用户对本体层进行管理和设计,该页面通过请求架构服务进行本体层维护并且实时生效。
如图4所示,页面端动态加载本体层,在用户场景端进行图谱的维护,WEB页面采用的动态加载方案流程如下:
基于页面入口请求标识(根实体类型)查询本体层数据库,获取根实体分仓内全部本体实体类型与属性;
基于页面入口请求标识(根实体类型)查询本体层数据库,获取根实体分仓内全部关系类型与属性;返回本体查询结果;
基于本体层的查询得到实体属性构建页面,实体属性中包含了该属性在页面中展现的页面控件、页面触发事件、默认赋值方式、输入检查以及实体列表展示时的展示效果,基于上述信息拼接页面组件生成页面文件;
基于本体层的关系查询结果,进行页面层级的编排,一般来说每个实体都拥有独立页面,关联实体之间通过列表展示上的CRUD操作进行串联,即上级实体会有下级实体的列表展示页面,通过下级实体的列表上的新增、查询、编辑等按钮进入下级实体自身的展示维护页面,当然这个过程需要进行权限的检查,如果是创建一个新的图谱数据,则页面渲染完成;
根据页面请求的图数据实体ID查询图谱实体数据,填充对应实体的页面数据项;
对于部分关系上存在属性的情况,也会根据页面请求的图数据实体ID查询图谱关系数据,填充对应关系的页面数据项;最终完成页面的加载;
相应的当用户在页面端完成实体创建、关系创建、实体维护、关系维护等图数据操作之后调用图谱服务中相关分仓操作,而分仓的相关操作也会基于页面提交数据进行本体层匹配,进而生成相应图数据库操作语句,将对应的三元组数据存入图数据库中。
如图5所示,对于基于大规模数据导入场景,具体流程如下:
在获取到大规模数据之后先进行数据抽取,获取到对应实体要素,识别实体类型,获取根实体分仓内全部本体实体类型与属性;
根据前一步识别到的根实体类型,获取根实体分仓内全部关系类型与属性;返回本体查询结果;
进行本体层匹配,即将本体层模板与抽取的数据进行匹配,可通过依赖NLP技术包括,采用word2Voc进行语义相似度判断、CNN卷积神经网络识别语义模式以及其他句法构成分析算法等实现模型维度训练匹配,同时,也可以基于指定标记模板的方式进行本体层匹配;
基于匹配结果调用分仓的操作服务,实现分仓图谱数据的批量操作。
存储设计上,整体存储主要包含两个部分,一部分是关系型数据存储,主要存储字典数据、关联性元数据(例如:接口的具体输入参数描述等信息)、以及配置类基础数据(例如:技术产品清单)、本体信息及约束,本例采用Mysql作为落地方案,其他关系型数据库也可以实现相关能力;另一部分就是图数据,存储全部图谱下的所有实体节点信息和关系信息,同时实体节点与关系的全部属性信息以键值对的形式保存在图数据中,本例采用Neo4j作为落地实现的图数据库选型,其他图数据库也可以实现相关能力。
分仓与全图设计,第一,分仓与全图的关系,分仓是由本体设计产生的,本体层设计中实体分层就是每一个分仓的对象。在从页面或导入的数据中进行数据采集之后就会基于本体层进行分仓的构建,每个分仓都基于实际业务数据进行根实体实例化,同时构建这个根实体周边的关联关系和实体节点,而这个构建过程也是通过获取本体层模型进行的;另外分仓之间也会存在关联关系,这就需要分仓获取全图中的节点信息进行拷贝,复制到分仓本地,并在本地建立外部关联。
当每个分仓构建完成之后就会将分仓信息汇总到总图上,总图则会基于这些分仓进行跨分层的实体与关系整合;当每个分仓发生数据变更的时候,分仓会进行版本复刻保留一个历史版本的分仓,同时将新版本的分仓提交全图;而当需要对图数据进行部分回退时,也会将全图数据按照分仓进行全图数据分割,并进行回退。
在此过程中产生了:分仓子图、架构全图、分仓历史、分仓拷贝这四种图谱的数据状态。
分仓子图状态:用于存储当前用户正在编辑或外部来源正在控制的版本;
分仓拷贝状态:用来存储跨分仓关联时从架构全图拷贝的实体节点状态;
分仓历史状态:每个分仓进行提交时都会产生一个分仓的历史版本;
架构全图状态:图谱的最终状态,也就是最终图谱整合的产物。
分仓维护与提交全图过程中,分仓处于三种状态中转移,分别是未提交、待提交和已提交。
在每次提交之前都会进行分仓锁定,以保证数据一致性和可靠性所以分仓的维护与提交流程如下:
(1)分仓状态探测
用户在页面端或数据源端导入或维护数据之后提交数据,图数据加载器会优先进入分成拦截切面判断当前分仓的锁定状态,如果当前分仓已锁定,则禁止分仓提交;如果当前分仓未锁定,则进入分仓操作,同时在拦截切面锁定分仓状态。
(2)分仓提交状态检查与正式提交
在分仓维护完成之后,如果用户希望将分仓数据发布全图,进入分仓提交流程,首先会进入分仓拦截切面,判断分仓是否为待提交状态,如果不是待提交状态则会返回页面进行拒绝操作,如果处于待提交状态,则会进入异步分仓请求,优先锁定分仓。然后进入分仓数据维护阶段:
先获取待提交分仓数据以及待提交分仓在架构全图的架构全图的数据;
然后进行分仓全量比对,判断哪些实体节点或关系需要新增、删除以及更新;
然后创建新的分仓历史版本;
进行隐含关系推断,提交合并架构全图;
在完成分仓数据维护之后解锁分仓。
图谱的隐含关系推断采用规则配置+递归检查的方式。在本体层的关系表中配置关系的推断规则,以及触发条件,项目启动时加载到内存,生成推断上下文。在上文提到分仓维护提交过程中过滤提交架构全图的关系,根据已经加载的推断规则反射生成推断结果;并递归此过程。累计收集推断结果,并把推断结果添加到提交结果中去。如图6所示:
其中一个应用所包含服务组件对外发布一个接口,则这个应用在提交分仓时,触发推断规则,推断出隐含关系(应用)-【提供方】->(接口)。而另一个应用所包含服务组件恰好远程调用这个接口,则这个应用在提交分仓时,触发推断规则,推断出隐含关系(应用)-【消费方】->(接口),而由于这个关系创建,在递归的推断关系检查中又触发新的推断规则,从而构建这个应用依赖前一个应用的关系(应用)-【依赖】->(应用),通过这种中不断递归的过程不断发掘层次更深的隐含关系,直到没有新的关系被创建出来为止。
有益效果:
本技术提供了一套灵活设计、实时生效的本体层构建方案,用户可以在页面端直接维护本体层模板,对于新领域的知识,实现快速的知识抽取、知识融合以及知识存储。弹性构建知识图谱节点与关系详情的展示页面,对于数据业务端的需求,快速响应,零代码开发。
传统意义上的图数据存储适合做多关联的实体存储,能够很好的去描述事务的最终状态,从而产生结果。而对于事务的中间态描述有所缺失,比如事务的历史版本。基于此考虑,在本技术中提出对知识图谱的存储参考本体层进行逻辑划分。把维护态和最终态分别开来,实现子图分仓分割管理,并且提供历史可追溯,同时很好地实现了子图数据回退,保证了图数据的可靠性。
本技术提供图谱隐含关系推断采用规则配置+递归检查的方式。在本体层的关系表中配置关系的推断规则,以及触发条件。在分仓维护提交过程中过滤提交架构全图的关系,根据已经加载的推断规则反射生成推断结果;并递归此过程。累计收集推断结果,通过这种不断递归的过程不断发掘层次更深的隐含关系,使得关系推断发现更加全面。
以上的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (6)
1.一种金融知识图谱弹性框架构建方法,其特征在于,所述构建方法包括:
健全知识图谱的本体架构,采用自顶向下的构建方式为所述知识图谱构建本体层框架,获得知识图谱的整体设计框架;
根据知识图谱的整体设计框架,维护与抽取图谱数据;
对所述图谱数据进行分仓设计与存储。
2.根据权利要求1所述的一种金融知识图谱弹性框架构建方法,其特征在于,所述健全知识图谱的本体架构,采用自顶向下的构建方式为所述知识图谱构建本体层框架,获得知识图谱的整体设计框架具体包括:
获取实体属性,每个所述实体具有多个特性;
获取不同所述实体间存在的不同的关系,关系的内容包括关系名称、方向、条件、关系属性;
根据实体间存在的关系建立知识图谱的整体设计框架图。
3.根据权利要求1所述的一种金融知识图谱弹性框架构建方法,其特征在于,所述根据知识图谱的整体设计框架,维护与抽取图谱数据具体包括:
页面端动态加载本体层;
根据所述本体层进行大规模数据导入。
4.根据权利要求3所述一种金融知识图谱弹性框架构建方法,其特征在于,所述页面端动态加载本体层具体包括:
根据页面入口请求标识查询本体层数据库,获取根实体分仓内全部本体实体类型与属性;
根据页面入口请求标识查询本体层数据库,获取根实体分仓内全部关系类型与属性,返回本体查询结果;
根据本体层的查询结果获得实体属性构建页面,实体属性中包含了该属性在页面中展现的页面控件、页面触发事件、默认赋值方式、输入检查以及实体列表展示时的展示效果;
根据实体属性拼接页面组件生成页面文件,基于本体层的关系查询结果,进行页面层级的编排,每个实体都拥有独立页面,关联实体之间通过列表展示上的关联实体之间通过列表展示上的CRUD操作进行串联,上级实体会有下级实体的列表展示页面,通过下级实体的列表上的新增、查询、编辑等按钮进入下级实体自身的展示维护页面,当然这个过程需要进行权限的检查,如果是创建一个新的图谱数据,则页面渲染完成;
根据页面请求的图数据实体ID查询图谱实体数据,填充对应实体的页面数据项;
对于部分关系上存在属性的情况,也会根据页面请求的图数据实体ID查询图谱关系数据,填充对应关系的页面数据项;
完成页面的加载。
5.根据权利要求3所述一种金融知识图谱弹性框架构建方法,其特征在于,所述根据所述本体层进行大规模数据导入具体包括:
在获取到大规模数据之后先进行数据抽取,获取到对应实体要素,识别实体类型,获取根实体分仓内全部本体实体类型与属性;
根据前一步识别到的根实体类型,获取根实体分仓内全部关系类型与属性;返回本体查询结果;
进行本体层匹配,将本体层模板与抽取的数据进行匹配,通过依赖NLP技术包括,采用word2Voc进行语义相似度判断、CNN卷积神经网络识别语义模式以及其他句法构成分析算法等实现模型维度训练匹配,基于指定标记模板的方式进行本体层匹配;
基于匹配结果调用分仓的操作服务,实现分仓图谱数据的批量操作。
6.根据权利要求1所述的一种金融知识图谱弹性框架构建方法,其特征在于,所述对所述图谱数据进行分仓设计与存储具体包括:
关系型数据存储包括存储字典数据、关联性元数据、配置类基础数据、本体信息和约束;
图数据,存储全部图谱下的所有实体节点信息和关系信息,实体节点与关系的全部属性信息以键值对的形式保存在图数据中;
分仓与全图的设计,从页面中进行数据采集后,基于本体层进行分仓的构建,每个分仓都是基于实际业务数据进行根实体实例化,同时构建根实体周边的关联关系和实体节点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110908232.7A CN113609257B (zh) | 2021-08-09 | 2021-08-09 | 一种金融知识图谱弹性框架构建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110908232.7A CN113609257B (zh) | 2021-08-09 | 2021-08-09 | 一种金融知识图谱弹性框架构建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113609257A true CN113609257A (zh) | 2021-11-05 |
CN113609257B CN113609257B (zh) | 2024-03-22 |
Family
ID=78339983
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110908232.7A Active CN113609257B (zh) | 2021-08-09 | 2021-08-09 | 一种金融知识图谱弹性框架构建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113609257B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113806302A (zh) * | 2021-11-11 | 2021-12-17 | 支付宝(杭州)信息技术有限公司 | 图状态数据管理方法及装置 |
CN115098698A (zh) * | 2022-06-22 | 2022-09-23 | 中电金信软件有限公司 | 一种构建知识图谱中Schema模型的方法及装置 |
CN115146075A (zh) * | 2022-07-11 | 2022-10-04 | 中科雨辰科技有限公司 | 一种获取知识图谱的数据处理系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180082183A1 (en) * | 2011-02-22 | 2018-03-22 | Thomson Reuters Global Resources | Machine learning-based relationship association and related discovery and search engines |
CN108595449A (zh) * | 2017-11-23 | 2018-09-28 | 北京科东电力控制系统有限责任公司 | 调度自动化系统知识图谱的构建与应用方法 |
CN110569369A (zh) * | 2019-09-16 | 2019-12-13 | 神州数码融信软件有限公司 | 银行金融系统知识图谱的生成方法及装置、应用方法及装置 |
CN110888808A (zh) * | 2019-11-16 | 2020-03-17 | 云南湾谷科技有限公司 | 一种基于知识图谱的Web智能化测试的方法 |
CN111198852A (zh) * | 2019-12-30 | 2020-05-26 | 浪潮通用软件有限公司 | 微服务架构下知识图谱驱动的元数据关系推理方法 |
CN113010688A (zh) * | 2021-03-05 | 2021-06-22 | 北京信息科技大学 | 知识图谱构建方法、装置、设备及计算机可读存储介质 |
-
2021
- 2021-08-09 CN CN202110908232.7A patent/CN113609257B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180082183A1 (en) * | 2011-02-22 | 2018-03-22 | Thomson Reuters Global Resources | Machine learning-based relationship association and related discovery and search engines |
CN108595449A (zh) * | 2017-11-23 | 2018-09-28 | 北京科东电力控制系统有限责任公司 | 调度自动化系统知识图谱的构建与应用方法 |
CN110569369A (zh) * | 2019-09-16 | 2019-12-13 | 神州数码融信软件有限公司 | 银行金融系统知识图谱的生成方法及装置、应用方法及装置 |
CN110888808A (zh) * | 2019-11-16 | 2020-03-17 | 云南湾谷科技有限公司 | 一种基于知识图谱的Web智能化测试的方法 |
CN111198852A (zh) * | 2019-12-30 | 2020-05-26 | 浪潮通用软件有限公司 | 微服务架构下知识图谱驱动的元数据关系推理方法 |
CN113010688A (zh) * | 2021-03-05 | 2021-06-22 | 北京信息科技大学 | 知识图谱构建方法、装置、设备及计算机可读存储介质 |
Non-Patent Citations (1)
Title |
---|
李新鹏;徐建航;郭子明;李军良;宁文元;王震学;: "调度自动化系统知识图谱的构建与应用", 中国电力, no. 02, pages 75 - 82 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113806302A (zh) * | 2021-11-11 | 2021-12-17 | 支付宝(杭州)信息技术有限公司 | 图状态数据管理方法及装置 |
CN113806302B (zh) * | 2021-11-11 | 2022-02-22 | 支付宝(杭州)信息技术有限公司 | 图状态数据管理方法及装置 |
CN115098698A (zh) * | 2022-06-22 | 2022-09-23 | 中电金信软件有限公司 | 一种构建知识图谱中Schema模型的方法及装置 |
CN115098698B (zh) * | 2022-06-22 | 2023-04-28 | 中电金信软件有限公司 | 一种构建知识图谱中Schema模型的方法及装置 |
CN115146075A (zh) * | 2022-07-11 | 2022-10-04 | 中科雨辰科技有限公司 | 一种获取知识图谱的数据处理系统 |
CN115146075B (zh) * | 2022-07-11 | 2023-03-10 | 中科雨辰科技有限公司 | 一种获取知识图谱的数据处理系统 |
Also Published As
Publication number | Publication date |
---|---|
CN113609257B (zh) | 2024-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7002459B2 (ja) | 統計プロファイリングおよびリファレンススキーママッチングによるオントロジー帰納のためのシステムおよび方法 | |
CN113609257A (zh) | 一种金融知识图谱弹性框架构建方法 | |
Candel et al. | A unified metamodel for NoSQL and relational databases | |
US5438511A (en) | Disjunctive unification | |
US20080091690A1 (en) | Deriving a Data Model From a Hierarchy Of Related Terms, And Deriving a Hierarchy Of Related Terms From a Data Model | |
Levy et al. | Semantic query optimization in datalog programs | |
US8782597B2 (en) | Ontology updating apparatus, method and system | |
US20100131565A1 (en) | Method for creating a self-configuring database system using a reusable custom-defined nestable compound data type | |
CN109002432A (zh) | 同义词的挖掘方法及装置、计算机可读介质、电子设备 | |
KR101288208B1 (ko) | Rdf 데이터에 대한 sparql 질의 결과의 개체 관계 변형 시스템 및 그 방법 | |
Yang et al. | Transforming XML to RDF (S) with temporal information | |
CN114880483A (zh) | 一种元数据知识图谱构建方法、存储介质及系统 | |
Chen et al. | Research on industrial software testing knowledge database based on ontology | |
Amira et al. | An extension of protégé for an automatic fuzzy-ontology building using clustering and FCA | |
Yan et al. | A probabilistic object-oriented database model with fuzzy probability measures and its algebraic operations | |
Gorman et al. | An overview of the object-oriented entity-relationship model (OOERM) | |
Bello et al. | Inference algorithm with falsifying patterns for belief revision | |
Li et al. | Reverse engineering of Fuzzy OWL 2 ontologies to object-oriented database models | |
Liu et al. | Transactional and Incremental Type Inference from Data Updates | |
Thenmozhi et al. | A framework to derive multidimensional schema for data warehouse using ontology | |
Thenmozhi et al. | OntoMD: ontology based multidimensional schema design approach | |
CN114461815A (zh) | 家谱知识图谱的噪音检测方法及其装置、电子设备 | |
Fu et al. | A SysML-based product configuration method | |
Hachaichi et al. | Data Mart Schema Construction from Object Oriented Databases | |
CN117014207A (zh) | 网络安全本体的构建方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |