CN108228868A - 基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法 - Google Patents

基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法 Download PDF

Info

Publication number
CN108228868A
CN108228868A CN201810037199.3A CN201810037199A CN108228868A CN 108228868 A CN108228868 A CN 108228868A CN 201810037199 A CN201810037199 A CN 201810037199A CN 108228868 A CN108228868 A CN 108228868A
Authority
CN
China
Prior art keywords
image
information
illustrative plates
data collection
knowledge mapping
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810037199.3A
Other languages
English (en)
Other versions
CN108228868B (zh
Inventor
段玉聪
何诗情
宋正阳
靖蓉琦
姜懿芮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hainan University
Original Assignee
Hainan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hainan University filed Critical Hainan University
Priority to CN201810037199.3A priority Critical patent/CN108228868B/zh
Publication of CN108228868A publication Critical patent/CN108228868A/zh
Application granted granted Critical
Publication of CN108228868B publication Critical patent/CN108228868B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367Ontology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/02Knowledge representation; Symbolic representation
    • G06N5/022Knowledge engineering; Knowledge acquisition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Databases & Information Systems (AREA)
  • Instructional Devices (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明是一种基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法,属于分布式计算和软件工程学技术交叉领域。该方法的目的是使机器自动智能的进行图像识别,找到图像中无法直接观察到的信息。本发明建立了数据图谱、信息图谱、知识图谱架构,首先将识别图像中可以观察到的图像与数据图谱结合,实现图像分类,然后将图像中显示的交互关系与信息图谱结合,找到并列关系,最后在知识图谱中的路径上经过知识推理找到隐藏信息,实现信息识别。

Description

基于数据图谱、信息图谱和知识图谱的图像信息目标识别增 强方法
技术领域
本发明是一种基基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法。主要用于机器自动智能的识别出图片中无法直接观察到的信息。属于分布式计算和软件工程学技术交叉领域。
背景技术
知识图谱已经成为用标记的有向图形式表示知识的强大工具,并给出文本信息的语义。知识图谱是通过将每个项目、实体或用户做结点表示,并且通过边缘将彼此相互作用的那些结点链接起来构造的图形。结点之间的边可以表示任意关系。与UML类相比,知识图谱具有更丰富的自然语义,表达机制更接近与自然语言,蕴含更多更完整的语义信息。现在很少使用UML来建模自动化应用程序,其中一个原因是UML缺乏正式的需要对应用程序的关键部分进行建模的语义,借助本发明提出的基于数据图谱、信息图谱和知识图谱的三层结构关系框架,进行图像信息识别。本发明主要是通过借助数据图谱、信息图谱、知识图谱的架构去正确的识别出尽可能多的未被标识过的对象。
发明内容
技术问题:本发明的目的主要是引入数据图谱、信息图谱、知识图谱架构使机器自动智能的进行图像信息识别,从分析图像中的已知信息出发,与构建好的三层图谱相结合,最后找到图像中无法直接观察到的信息。
技术方案:本发明是一种策略性方法,可以应用于图片或者摄像机的图像信息目标识别。该方法的目的是使机器自动智能的进行图像识别,找到图像中无法直接观察到的信息。本发明建立了数据图谱、信息图谱、知识图谱架构,首先将识别图像中可以观察到的图像与数据图谱结合,实现图像分类,然后将图像中显示的交互关系与信息图谱结合,找到并列关系,最后在知识图谱中的路径上经过知识推理找到隐藏信息,实现信息识别。
体系结构:本专利建立了一种基于数据图谱、信息图谱、知识图谱的架构。本发明建立了数据图谱、信息图谱、知识图谱架构,首先将识别图像中可以观察到的图像与数据图谱结合,实现图像分类,然后将图像中显示的交互关系与信息图谱结合,找到并列关系,最后在知识图谱中的路径上经过知识推理找到隐藏信息,实现信息识别。
下面给出构建数据图谱、信息图谱、知识图谱的具体说明:
数据图谱:数据图谱能记录图像实体中的基本属性,包括颜色形态等,但是在没有上下文语境的情况下,它们本身没有意义。数据图谱可以用数组、链表、队列、树、栈、图等数据结构来表达。数据图谱也可以记录图像实体中所包含结构出现的频度,包括结构、时间和空间三个层次的频度。数据图谱能描述不同图像实体关联的紧密程度,我们称之为密度,可以反映出哪些实体联系紧密,哪些实体联系稀疏。但是数据图谱只能进行静态分析,无法表达实体之间的交互关系。同时数据图谱上也未对数据的准确性进行分析,可能出现不同的实体但表示同一含义,例如番茄和西红柿,这两种图像实体所具有的属性频度都是相同的,这就产生了数据冗余。
信息图谱:信息是通过数据和数据组合之后的上下文来传达的,经过概念映射和相关关系组合之后的适合分析和解释的信息。信息图谱可以根据关系数据库来表达。信息图谱上进行数据清洗,消除冗余数据。信息图谱可以记录实体之间的直接交互关系。
有益效果:本发明是一种基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法,具有如下一些显著优点:
(1)通过分析图像已有信息,经过知识推理,可以得到图像中无法直接观察到的信息;
(2)借助数据图谱、信息图谱、知识图谱架构,分层分析,是信息识别结果更加精确和完整;
(3)基于三层架构与图像信息进行比较,实现高效信息识别。
附图说明
图1是对数据图谱,信息图谱和知识图谱的形式化定义。
图2是基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强程的具体流程图。
具体实施方式
一种基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法的具体流程如下:
步骤1)根据已有图像资源,建立基于数据图谱、信息图谱、知识图谱的框架;
步骤2)输入待识别图像;
步骤3)进行图像分割,提取出图像中一些具有指定特征的部分,作为图像分割模块的输入。遍历数据图谱,对其进行图像分类,分为A、B、C;
步骤4)基于步骤3中获得的图像分割模块对图像进行关系提取;
步骤7)将步骤4中提取到的图像关系与步骤5中获得的实体之间的关系进行匹配,并找到图像关系在信息图谱中对应的所有并列关系;
步骤8)在步骤6得到的关系路径上找到一条可以一直成立的并列关系,且这个并列关系与步骤4中获得的图像关系不同,则称这条并列关系为隐藏信息;
步骤9)输出隐藏信息,即信息识别结果。

Claims (1)

1.本发明建立了数据图谱、信息图谱、知识图谱架构,首先将识别图像中可以观察到的图像与数据图谱结合,实现图像分类,然后将图像中显示的交互关系与信息图谱结合,找到并列关系,最后在知识图谱中的路径上经过知识推理找到隐藏信息,实现信息识别,一种基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法的具体流程如下:
步骤1)根据已有图像资源,建立基于数据图谱、信息图谱、知识图谱的框架;
步骤2)输入待识别图像;
步骤3)进行图像分割,提取出图像中一些具有指定特征的部分,作为图像分割模块的输入;
遍历数据图谱,对其进行图像分类,分为A、B、C;
步骤4)基于步骤3中获得的图像分割模块对图像进行关系提取;
步骤5)基于步骤3中获得的图像分类结果,遍历信息图谱,找到两两实体之间的直接交 互关系,如果实体A和实体B之间的两个交互关系()可以同时出现,且同时 出现的频率大于一个阈值,则称这两个交互关系为并列关系;
步骤6)基于步骤3中获得的图像分类结果,遍历知识图谱,找到图像中所有实体之间的 关系路径,比如();
步骤7)将步骤4中提取到的图像关系与步骤5中获得的实体之间的关系进行匹配,并找到图像关系在信息图谱中对应的所有并列关系;
步骤8)在步骤6得到的关系路径上找到一条可以一直成立的并列关系,且这个并列关系与步骤4中获得的图像关系不同,则称这条并列关系为隐藏信息;
步骤9)输出隐藏信息,即信息识别结果。
CN201810037199.3A 2018-01-15 2018-01-15 基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法 Active CN108228868B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810037199.3A CN108228868B (zh) 2018-01-15 2018-01-15 基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810037199.3A CN108228868B (zh) 2018-01-15 2018-01-15 基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法

Publications (2)

Publication Number Publication Date
CN108228868A true CN108228868A (zh) 2018-06-29
CN108228868B CN108228868B (zh) 2019-07-23

Family

ID=62641337

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810037199.3A Active CN108228868B (zh) 2018-01-15 2018-01-15 基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法

Country Status (1)

Country Link
CN (1) CN108228868B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112528993A (zh) * 2020-12-17 2021-03-19 济南浪潮高新科技投资发展有限公司 一种基于知识图谱的图像识别准确率提升方法
CN112966924A (zh) * 2021-03-02 2021-06-15 杭州全视软件有限公司 一种基于风险图谱的数据治理系统及方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101923653A (zh) * 2010-08-17 2010-12-22 北京大学 一种基于多层次内容描述的图像分类方法
CN103632166A (zh) * 2013-12-04 2014-03-12 西安电子科技大学 基于融合显著信息的潜在主题极光图像分类方法
US20150206169A1 (en) * 2014-01-17 2015-07-23 Google Inc. Systems and methods for extracting and generating images for display content
CN107038262A (zh) * 2017-05-30 2017-08-11 海南大学 一种关联频度计算的基于数据图谱、信息图谱和知识图谱框架的语义建模及抽象增强方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101923653A (zh) * 2010-08-17 2010-12-22 北京大学 一种基于多层次内容描述的图像分类方法
CN103632166A (zh) * 2013-12-04 2014-03-12 西安电子科技大学 基于融合显著信息的潜在主题极光图像分类方法
US20150206169A1 (en) * 2014-01-17 2015-07-23 Google Inc. Systems and methods for extracting and generating images for display content
CN107038262A (zh) * 2017-05-30 2017-08-11 海南大学 一种关联频度计算的基于数据图谱、信息图谱和知识图谱框架的语义建模及抽象增强方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112528993A (zh) * 2020-12-17 2021-03-19 济南浪潮高新科技投资发展有限公司 一种基于知识图谱的图像识别准确率提升方法
CN112966924A (zh) * 2021-03-02 2021-06-15 杭州全视软件有限公司 一种基于风险图谱的数据治理系统及方法

Also Published As

Publication number Publication date
CN108228868B (zh) 2019-07-23

Similar Documents

Publication Publication Date Title
Li et al. Semantic relationships guided representation learning for facial action unit recognition
Wang et al. Temporal segment networks: Towards good practices for deep action recognition
CN111967615B (zh) 基于特征抽取的多模型训练方法及设备、电子设备和介质
Yang et al. Collaborative learning of gesture recognition and 3D hand pose estimation with multi-order feature analysis
CN103988232A (zh) 使用运动流形来改进图像匹配
Varghese et al. A deep learning approach to predict crowd behavior based on emotion
CN110309360B (zh) 短视频标签标注方法及系统
US20160307044A1 (en) Process for generating a video tag cloud representing objects appearing in a video content
CN108228868A (zh) 基于数据图谱、信息图谱和知识图谱的图像信息目标识别增强方法
Yang et al. Out-of-distribution detection with semantic mismatch under masking
CN113239184B (zh) 知识库获取方法、装置、计算机设备及存储介质
CN108268651A (zh) 基于数据、信息和知识三层图谱架构的图像信息目标识别方法
Mazzia et al. A survey on knowledge editing of neural networks
CN114661951A (zh) 一种视频处理方法、装置、计算机设备以及存储介质
Chatbri et al. Automatic MOOC video classification using transcript features and convolutional neural networks
Zhou et al. A deep learning algorithm for fast motion video sequences based on improved codebook model
Sowmya et al. Convolutional Neural Network (CNN) Fundamental Operational Survey
Deng et al. Addressing multiple salient object detection via dual-space long-range dependencies
Dat et al. Leaf recognition based on joint learning multiloss of multimodel convolutional neural networks: a testing for Vietnamese herb
Siadari et al. Three‐stream network with context convolution module for human–object interaction detection
Yu et al. An interactive network based on transformer for multimodal crowd counting
Xu et al. Panel-page-aware comic genre understanding
Xu et al. Deep Neural Network‐Based Sports Marketing Video Detection Research
Divya et al. An Empirical Study on Fake News Detection System using Deep and Machine Learning Ensemble Techniques
Yang et al. Multi-scale Deep Feature Transfer for Automatic Video Object Segmentation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant