CN111143332B - 一种数据交换系统 - Google Patents

一种数据交换系统 Download PDF

Info

Publication number
CN111143332B
CN111143332B CN201911406833.7A CN201911406833A CN111143332B CN 111143332 B CN111143332 B CN 111143332B CN 201911406833 A CN201911406833 A CN 201911406833A CN 111143332 B CN111143332 B CN 111143332B
Authority
CN
China
Prior art keywords
data
provider
directory tree
kafka
existing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911406833.7A
Other languages
English (en)
Other versions
CN111143332A (zh
Inventor
官玖伟
陈�峰
徐博
李�一
杨飞
柏银
曾俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cetc Kehuayun Information Technology Co ltd
Original Assignee
Cetc Kehuayun Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cetc Kehuayun Information Technology Co ltd filed Critical Cetc Kehuayun Information Technology Co ltd
Priority to CN201911406833.7A priority Critical patent/CN111143332B/zh
Publication of CN111143332A publication Critical patent/CN111143332A/zh
Application granted granted Critical
Publication of CN111143332B publication Critical patent/CN111143332B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2228Indexing structures
    • G06F16/2246Trees, e.g. B+trees
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

一种数据交换系统,包括已有数据展示模块,由数据管理员创建已有数据的目录树,并根据数据实际分类情况,在数据目录树中按照分类信息创建不同的树枝干,数据提供者将已有数据的元数据信息,根据不同的分类挂载至数据目录树不同的节点,将数据以数据目录树的形式展现出来;数据申请模块,当数据使用者通过目录树寻找到自己需要的数据时,发起数据申请流程,该申请流程将推送至数据提供者侧,由数据提供者决定是否将该数据提供给数据申请者;数据交换模块,使用kafka作为数据交换通道,当数据提供方同时数据使用者的申请,数据提供方便将数据保存至kafka指定的topic中。

Description

一种数据交换系统
技术领域
本发明属于大数据技术领域,特别涉及一种基于流式的数据交换系统。
背景技术
大数据时代,让数据代替人去各个部门奔跑,将使得办公变得更加高效。不同的数据保存在隔离的数据库中,怎么让使用者能便捷的申请到所需数据,并保证数据的安全,高效。是人们迫切需要解决的问题。
kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。该发明将使用kafka作为数据交换通道。
发明内容
本发明实施例提供一种数据交换系统,针对于现有数据交换的迫切需求,主要解决的技术问题为包括数据展示、数据申请、数据交换。
本发明实施例之一,一种数据交换系统,包括,
已有数据展示模块,由数据管理员创建已有数据的目录树,并根据数据实际分类情况,在数据目录树中按照分类信息创建不同的树枝干,数据提供者将已有数据的元数据信息,根据不同的分类挂载至数据目录树不同的节点,将数据以数据目录树的形式展现出来;
数据申请模块,当数据使用者通过目录树寻找到自己需要的数据时,发起数据申请流程,该申请流程将推送至数据提供者侧,由数据提供者决定是否将该数据提供给数据申请者;
数据交换模块,使用kafka作为数据交换通道,当数据提供方同时数据使用者的申请,数据提供方便将数据保存至kafka指定的topic中,同时,将保存数据的topic信息告知与数据申请者,数据申请者在指的topic中获取数据。
本发明实施例解决了对于数据形象的展示,高效、安全的交换。包括有益效果:
1)兼容结构化和非结构化数据交换;
2)能形象展示已有数据类别,数据的元数据信息;
3)保障数据安全性。
附图说明
通过参考附图阅读下文的详细描述,本发明示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本发明的若干实施方式,其中:
图1根据本发明实施例之一的数据展示流程图。
图2根据本发明实施例之一的数据申请流程图。
图3根据本发明实施例之一的数据交换流程图。
图4根据本发明实施例之一的系统架构图。
图5根据本发明实施例之一的业务逻辑图。
具体实施方式
根据一个或者多个实施例,一种基于流式的数据交换系统,主要包括三部分:已有数据展示模块、数据申请模块和数据交换模块。
如图1所示,已有数据展示模块的执行步骤包括,
数据管理员创建已有数据目录树,并根据数据实际分类情况,在数据目录树中按照分类信息创建不同的树枝干,数据提供者将已有数据的元数据信息,根据不同的分类挂载至数据目录树不同的节点。完成后,以后数据将以一颗数据目录树的形式展现出来。
如图2所示数据申请流程图,数据申请模块的主要目的在于保证数据的安全性,不同使用者只能获取到自己权限范围内的数据信息,当数据使用者通过目录树寻找到自己需要的数据时,发起数据申请流程,该申请流程将推送至数据提供者侧,由数据提供者决定是否将该数据提供给数据申请者。
如图3所示数据交换流程图,数据交换模块执行步骤包括:
数据交换底层使用kafka作为数据交换通道,当数据提供方同时数据使用者的申请,数据提供方便将数据保存至kafka指定的topic中,同时,将保存数据的topic信息告知与数据申请者,数据申请者在指的topic中获取数据。
根据一个或者多个实施例,如图4所示基于流式的数据交换系统架构包括,UI模块、数据编目模块、审批模块、基于kafka集群的数据交互模块、消息分发组件和业务数据库。
根据一个或者多个实施例,如图5所示数据交换系统业务逻辑流程图,数据交换系统业务逻辑包括步骤:
步骤1、管理员将已有数据生成数据资源编目,按照数据类别,组织编目结构;
步骤2、数据提供者将已有的数据生成编目资源,将资源挂在至指定的编目树节点下;
步骤3、数据申请者在编目中寻找资源,对资源发起申请流程;
步骤4、数据提供者数据提供者接收审批流程,并将数据写入kafka指定topic;
步骤5、数据申请者接收到数据的信息,到kafka指定的topic获取数据。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (2)

1.一种数据交换系统,其特征在于,包括,
已有数据展示模块,由数据管理员创建已有数据的目录树,并根据数据实际分类情况,在数据目录树中按照分类信息创建不同的树枝干,数据提供者将已有数据的元数据信息,根据不同的分类挂载至数据目录树不同的节点,将数据以数据目录树的形式展现出来;
数据申请模块,当数据使用者通过目录树寻找到自己需要的数据时,发起数据申请流程,该申请流程将推送至数据提供者侧,由数据提供者决定是否将该数据提供给数据申请者;
数据交换模块,使用kafka作为数据交换通道,当数据提供方同时数据使用者的申请,数据提供方便将数据保存至kafka指定的topic中,同时,将保存数据的topic信息告知与数据申请者,数据申请者在指的topic中获取数据,
所述数据交换系统,还包括UI模块、数据编目模块、审批模块,还包括消息分发组件和业务数据库,
所述系统的数据交换过程包括:
步骤1、管理员将已有数据生成数据资源编目,按照数据类别,组织编目结构;
步骤2、数据提供者将已有的数据生成编目资源,将资源挂在至指定的编目树节点下;
步骤3、数据申请者在编目中寻找资源,对资源发起申请流程;
步骤4、数据提供者数据提供者接收审批流程,并将数据写入kafka指定topic;
步骤5、数据申请者接收到数据的信息,到kafka指定的topic获取数据。
2.一种数据交换平台,其特征在于,所述平台包括服务器,服务器具有存储器,包括如权利要求1所述的数据交换系统,以及
耦合到所述存储器的处理器,该处理器被配置为执行存储在所述存储器中的指令,所述处理器执行以下操作:
步骤1、管理员将已有数据生成数据资源编目,按照数据类别,组织编目结构;
步骤2、数据提供者将已有的数据生成编目资源,将资源挂在至指定的编目树节点下;
步骤3、数据申请者在编目中寻找资源,对资源发起申请流程;
步骤4、数据提供者数据提供者接收审批流程,并将数据写入kafka指定topic;
步骤5、数据申请者接收到数据的信息,到kafka指定的topic获取数据。
CN201911406833.7A 2019-12-31 2019-12-31 一种数据交换系统 Active CN111143332B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911406833.7A CN111143332B (zh) 2019-12-31 2019-12-31 一种数据交换系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911406833.7A CN111143332B (zh) 2019-12-31 2019-12-31 一种数据交换系统

Publications (2)

Publication Number Publication Date
CN111143332A CN111143332A (zh) 2020-05-12
CN111143332B true CN111143332B (zh) 2024-02-23

Family

ID=70522428

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911406833.7A Active CN111143332B (zh) 2019-12-31 2019-12-31 一种数据交换系统

Country Status (1)

Country Link
CN (1) CN111143332B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009149625A1 (zh) * 2008-06-10 2009-12-17 南京财经大学 基于xml的异源数据交换中间件的数据展示方法
CN103281368A (zh) * 2013-05-22 2013-09-04 河海大学 一种基于云计算的数据共享交换模型及方法
CN106815338A (zh) * 2016-12-25 2017-06-09 北京中海投资管理有限公司 一种大数据的实时存储、处理和查询系统
CN106951538A (zh) * 2017-03-23 2017-07-14 泰华智慧产业集团股份有限公司 信息资源的自动抽取方法及系统
WO2017173978A1 (zh) * 2016-04-05 2017-10-12 中兴通讯股份有限公司 一种大数据交换方法及装置、系统
CN108763562A (zh) * 2018-06-04 2018-11-06 广东京信软件科技有限公司 一种基于大数据技术提升数据交换效率的构建方法
CN109729168A (zh) * 2018-12-31 2019-05-07 浙江成功软件开发有限公司 一种基于区块链的数据共享交换系统及方法
CN109767106A (zh) * 2018-12-29 2019-05-17 中国联合网络通信集团有限公司 跨组织流程处理方法及装置
CN110019240A (zh) * 2017-12-29 2019-07-16 中国移动通信集团北京有限公司 一种业务数据交互方法、装置及系统
WO2019218510A1 (zh) * 2018-05-17 2019-11-21 平安科技(深圳)有限公司 多业务系统交互方法及装置、存储介质、电子设备

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009149625A1 (zh) * 2008-06-10 2009-12-17 南京财经大学 基于xml的异源数据交换中间件的数据展示方法
CN103281368A (zh) * 2013-05-22 2013-09-04 河海大学 一种基于云计算的数据共享交换模型及方法
WO2017173978A1 (zh) * 2016-04-05 2017-10-12 中兴通讯股份有限公司 一种大数据交换方法及装置、系统
CN106815338A (zh) * 2016-12-25 2017-06-09 北京中海投资管理有限公司 一种大数据的实时存储、处理和查询系统
CN106951538A (zh) * 2017-03-23 2017-07-14 泰华智慧产业集团股份有限公司 信息资源的自动抽取方法及系统
CN110019240A (zh) * 2017-12-29 2019-07-16 中国移动通信集团北京有限公司 一种业务数据交互方法、装置及系统
WO2019218510A1 (zh) * 2018-05-17 2019-11-21 平安科技(深圳)有限公司 多业务系统交互方法及装置、存储介质、电子设备
CN108763562A (zh) * 2018-06-04 2018-11-06 广东京信软件科技有限公司 一种基于大数据技术提升数据交换效率的构建方法
CN109767106A (zh) * 2018-12-29 2019-05-17 中国联合网络通信集团有限公司 跨组织流程处理方法及装置
CN109729168A (zh) * 2018-12-31 2019-05-07 浙江成功软件开发有限公司 一种基于区块链的数据共享交换系统及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
谢晶 ; 崔景娜 ; .基于数据交换的校外人员一卡通申请实现方案.华中师范大学学报(自然科学版).2017,(S1),全文. *
陈民 ; .基于多层次数据交换的区域智慧城市公共信息平台.计算机应用与软件.2016,(12),全文. *

Also Published As

Publication number Publication date
CN111143332A (zh) 2020-05-12

Similar Documents

Publication Publication Date Title
US20200159952A1 (en) Processing event messages for data objects in a message queue to determine data to redact
US9690775B2 (en) Real-time sentiment analysis for synchronous communication
US7761429B2 (en) Archiving messages from messaging accounts
US11562096B2 (en) Automated discovery and management of personal data
JP2010521749A5 (zh)
US20130318047A1 (en) Policy based population of genealogical archive data
US10887261B2 (en) Dynamic attachment delivery in emails for advanced malicious content filtering
CN109522751B (zh) 访问权限控制方法、装置、电子设备及计算机可读介质
US9922033B1 (en) Systems and methods for efficiently extracting contents of container files
US20130304455A1 (en) Management of language usage to facilitate effective communication
TW201638779A (zh) 一種對虛擬主機的資源管理的方法、裝置、系統及電子設備
US10116668B2 (en) System and method for enhanced display-screen security and privacy
US10223535B2 (en) Ranking security scans based on vulnerability information from third party resources
US9245132B1 (en) Systems and methods for data loss prevention
CN106250501B (zh) 报表处理方法及报表系统
CN111143332B (zh) 一种数据交换系统
US11093292B2 (en) Identifying recurring actions in a hybrid integration platform to control resource usage
US10360234B2 (en) Recursive extractor framework for forensics and electronic discovery
US10970341B2 (en) Predictive modeling in event processing systems for big data processing in cloud
US10749825B2 (en) Email cost analytics
US11200289B2 (en) Centralized data sharing program
US20200092245A1 (en) Provoking and maintaining user attention for urgent messages by actively monitoring user activity and biometrics
US20200036657A1 (en) Propagating online conversations
US9619476B2 (en) Parallel container and record organization
US11659051B1 (en) Systems and methods for consistently applying rules to messages

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant