CN111143332B - 一种数据交换系统 - Google Patents
一种数据交换系统 Download PDFInfo
- Publication number
- CN111143332B CN111143332B CN201911406833.7A CN201911406833A CN111143332B CN 111143332 B CN111143332 B CN 111143332B CN 201911406833 A CN201911406833 A CN 201911406833A CN 111143332 B CN111143332 B CN 111143332B
- Authority
- CN
- China
- Prior art keywords
- data
- provider
- directory tree
- kafka
- existing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- ZLIBICFPKPWGIZ-UHFFFAOYSA-N pyrimethanil Chemical compound CC1=CC(C)=NC(NC=2C=CC=CC=2)=N1 ZLIBICFPKPWGIZ-UHFFFAOYSA-N 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2246—Trees, e.g. B+trees
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
一种数据交换系统,包括已有数据展示模块,由数据管理员创建已有数据的目录树,并根据数据实际分类情况,在数据目录树中按照分类信息创建不同的树枝干,数据提供者将已有数据的元数据信息,根据不同的分类挂载至数据目录树不同的节点,将数据以数据目录树的形式展现出来;数据申请模块,当数据使用者通过目录树寻找到自己需要的数据时,发起数据申请流程,该申请流程将推送至数据提供者侧,由数据提供者决定是否将该数据提供给数据申请者;数据交换模块,使用kafka作为数据交换通道,当数据提供方同时数据使用者的申请,数据提供方便将数据保存至kafka指定的topic中。
Description
技术领域
本发明属于大数据技术领域,特别涉及一种基于流式的数据交换系统。
背景技术
大数据时代,让数据代替人去各个部门奔跑,将使得办公变得更加高效。不同的数据保存在隔离的数据库中,怎么让使用者能便捷的申请到所需数据,并保证数据的安全,高效。是人们迫切需要解决的问题。
kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。该发明将使用kafka作为数据交换通道。
发明内容
本发明实施例提供一种数据交换系统,针对于现有数据交换的迫切需求,主要解决的技术问题为包括数据展示、数据申请、数据交换。
本发明实施例之一,一种数据交换系统,包括,
已有数据展示模块,由数据管理员创建已有数据的目录树,并根据数据实际分类情况,在数据目录树中按照分类信息创建不同的树枝干,数据提供者将已有数据的元数据信息,根据不同的分类挂载至数据目录树不同的节点,将数据以数据目录树的形式展现出来;
数据申请模块,当数据使用者通过目录树寻找到自己需要的数据时,发起数据申请流程,该申请流程将推送至数据提供者侧,由数据提供者决定是否将该数据提供给数据申请者;
数据交换模块,使用kafka作为数据交换通道,当数据提供方同时数据使用者的申请,数据提供方便将数据保存至kafka指定的topic中,同时,将保存数据的topic信息告知与数据申请者,数据申请者在指的topic中获取数据。
本发明实施例解决了对于数据形象的展示,高效、安全的交换。包括有益效果:
1)兼容结构化和非结构化数据交换;
2)能形象展示已有数据类别,数据的元数据信息;
3)保障数据安全性。
附图说明
通过参考附图阅读下文的详细描述,本发明示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本发明的若干实施方式,其中:
图1根据本发明实施例之一的数据展示流程图。
图2根据本发明实施例之一的数据申请流程图。
图3根据本发明实施例之一的数据交换流程图。
图4根据本发明实施例之一的系统架构图。
图5根据本发明实施例之一的业务逻辑图。
具体实施方式
根据一个或者多个实施例,一种基于流式的数据交换系统,主要包括三部分:已有数据展示模块、数据申请模块和数据交换模块。
如图1所示,已有数据展示模块的执行步骤包括,
数据管理员创建已有数据目录树,并根据数据实际分类情况,在数据目录树中按照分类信息创建不同的树枝干,数据提供者将已有数据的元数据信息,根据不同的分类挂载至数据目录树不同的节点。完成后,以后数据将以一颗数据目录树的形式展现出来。
如图2所示数据申请流程图,数据申请模块的主要目的在于保证数据的安全性,不同使用者只能获取到自己权限范围内的数据信息,当数据使用者通过目录树寻找到自己需要的数据时,发起数据申请流程,该申请流程将推送至数据提供者侧,由数据提供者决定是否将该数据提供给数据申请者。
如图3所示数据交换流程图,数据交换模块执行步骤包括:
数据交换底层使用kafka作为数据交换通道,当数据提供方同时数据使用者的申请,数据提供方便将数据保存至kafka指定的topic中,同时,将保存数据的topic信息告知与数据申请者,数据申请者在指的topic中获取数据。
根据一个或者多个实施例,如图4所示基于流式的数据交换系统架构包括,UI模块、数据编目模块、审批模块、基于kafka集群的数据交互模块、消息分发组件和业务数据库。
根据一个或者多个实施例,如图5所示数据交换系统业务逻辑流程图,数据交换系统业务逻辑包括步骤:
步骤1、管理员将已有数据生成数据资源编目,按照数据类别,组织编目结构;
步骤2、数据提供者将已有的数据生成编目资源,将资源挂在至指定的编目树节点下;
步骤3、数据申请者在编目中寻找资源,对资源发起申请流程;
步骤4、数据提供者数据提供者接收审批流程,并将数据写入kafka指定topic;
步骤5、数据申请者接收到数据的信息,到kafka指定的topic获取数据。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (2)
1.一种数据交换系统,其特征在于,包括,
已有数据展示模块,由数据管理员创建已有数据的目录树,并根据数据实际分类情况,在数据目录树中按照分类信息创建不同的树枝干,数据提供者将已有数据的元数据信息,根据不同的分类挂载至数据目录树不同的节点,将数据以数据目录树的形式展现出来;
数据申请模块,当数据使用者通过目录树寻找到自己需要的数据时,发起数据申请流程,该申请流程将推送至数据提供者侧,由数据提供者决定是否将该数据提供给数据申请者;
数据交换模块,使用kafka作为数据交换通道,当数据提供方同时数据使用者的申请,数据提供方便将数据保存至kafka指定的topic中,同时,将保存数据的topic信息告知与数据申请者,数据申请者在指的topic中获取数据,
所述数据交换系统,还包括UI模块、数据编目模块、审批模块,还包括消息分发组件和业务数据库,
所述系统的数据交换过程包括:
步骤1、管理员将已有数据生成数据资源编目,按照数据类别,组织编目结构;
步骤2、数据提供者将已有的数据生成编目资源,将资源挂在至指定的编目树节点下;
步骤3、数据申请者在编目中寻找资源,对资源发起申请流程;
步骤4、数据提供者数据提供者接收审批流程,并将数据写入kafka指定topic;
步骤5、数据申请者接收到数据的信息,到kafka指定的topic获取数据。
2.一种数据交换平台,其特征在于,所述平台包括服务器,服务器具有存储器,包括如权利要求1所述的数据交换系统,以及
耦合到所述存储器的处理器,该处理器被配置为执行存储在所述存储器中的指令,所述处理器执行以下操作:
步骤1、管理员将已有数据生成数据资源编目,按照数据类别,组织编目结构;
步骤2、数据提供者将已有的数据生成编目资源,将资源挂在至指定的编目树节点下;
步骤3、数据申请者在编目中寻找资源,对资源发起申请流程;
步骤4、数据提供者数据提供者接收审批流程,并将数据写入kafka指定topic;
步骤5、数据申请者接收到数据的信息,到kafka指定的topic获取数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911406833.7A CN111143332B (zh) | 2019-12-31 | 2019-12-31 | 一种数据交换系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911406833.7A CN111143332B (zh) | 2019-12-31 | 2019-12-31 | 一种数据交换系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111143332A CN111143332A (zh) | 2020-05-12 |
CN111143332B true CN111143332B (zh) | 2024-02-23 |
Family
ID=70522428
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911406833.7A Active CN111143332B (zh) | 2019-12-31 | 2019-12-31 | 一种数据交换系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111143332B (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009149625A1 (zh) * | 2008-06-10 | 2009-12-17 | 南京财经大学 | 基于xml的异源数据交换中间件的数据展示方法 |
CN103281368A (zh) * | 2013-05-22 | 2013-09-04 | 河海大学 | 一种基于云计算的数据共享交换模型及方法 |
CN106815338A (zh) * | 2016-12-25 | 2017-06-09 | 北京中海投资管理有限公司 | 一种大数据的实时存储、处理和查询系统 |
CN106951538A (zh) * | 2017-03-23 | 2017-07-14 | 泰华智慧产业集团股份有限公司 | 信息资源的自动抽取方法及系统 |
WO2017173978A1 (zh) * | 2016-04-05 | 2017-10-12 | 中兴通讯股份有限公司 | 一种大数据交换方法及装置、系统 |
CN108763562A (zh) * | 2018-06-04 | 2018-11-06 | 广东京信软件科技有限公司 | 一种基于大数据技术提升数据交换效率的构建方法 |
CN109729168A (zh) * | 2018-12-31 | 2019-05-07 | 浙江成功软件开发有限公司 | 一种基于区块链的数据共享交换系统及方法 |
CN109767106A (zh) * | 2018-12-29 | 2019-05-17 | 中国联合网络通信集团有限公司 | 跨组织流程处理方法及装置 |
CN110019240A (zh) * | 2017-12-29 | 2019-07-16 | 中国移动通信集团北京有限公司 | 一种业务数据交互方法、装置及系统 |
WO2019218510A1 (zh) * | 2018-05-17 | 2019-11-21 | 平安科技(深圳)有限公司 | 多业务系统交互方法及装置、存储介质、电子设备 |
-
2019
- 2019-12-31 CN CN201911406833.7A patent/CN111143332B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009149625A1 (zh) * | 2008-06-10 | 2009-12-17 | 南京财经大学 | 基于xml的异源数据交换中间件的数据展示方法 |
CN103281368A (zh) * | 2013-05-22 | 2013-09-04 | 河海大学 | 一种基于云计算的数据共享交换模型及方法 |
WO2017173978A1 (zh) * | 2016-04-05 | 2017-10-12 | 中兴通讯股份有限公司 | 一种大数据交换方法及装置、系统 |
CN106815338A (zh) * | 2016-12-25 | 2017-06-09 | 北京中海投资管理有限公司 | 一种大数据的实时存储、处理和查询系统 |
CN106951538A (zh) * | 2017-03-23 | 2017-07-14 | 泰华智慧产业集团股份有限公司 | 信息资源的自动抽取方法及系统 |
CN110019240A (zh) * | 2017-12-29 | 2019-07-16 | 中国移动通信集团北京有限公司 | 一种业务数据交互方法、装置及系统 |
WO2019218510A1 (zh) * | 2018-05-17 | 2019-11-21 | 平安科技(深圳)有限公司 | 多业务系统交互方法及装置、存储介质、电子设备 |
CN108763562A (zh) * | 2018-06-04 | 2018-11-06 | 广东京信软件科技有限公司 | 一种基于大数据技术提升数据交换效率的构建方法 |
CN109767106A (zh) * | 2018-12-29 | 2019-05-17 | 中国联合网络通信集团有限公司 | 跨组织流程处理方法及装置 |
CN109729168A (zh) * | 2018-12-31 | 2019-05-07 | 浙江成功软件开发有限公司 | 一种基于区块链的数据共享交换系统及方法 |
Non-Patent Citations (2)
Title |
---|
谢晶 ; 崔景娜 ; .基于数据交换的校外人员一卡通申请实现方案.华中师范大学学报(自然科学版).2017,(S1),全文. * |
陈民 ; .基于多层次数据交换的区域智慧城市公共信息平台.计算机应用与软件.2016,(12),全文. * |
Also Published As
Publication number | Publication date |
---|---|
CN111143332A (zh) | 2020-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20200159952A1 (en) | Processing event messages for data objects in a message queue to determine data to redact | |
US9690775B2 (en) | Real-time sentiment analysis for synchronous communication | |
US7761429B2 (en) | Archiving messages from messaging accounts | |
US11562096B2 (en) | Automated discovery and management of personal data | |
JP2010521749A5 (zh) | ||
US20130318047A1 (en) | Policy based population of genealogical archive data | |
US10887261B2 (en) | Dynamic attachment delivery in emails for advanced malicious content filtering | |
CN109522751B (zh) | 访问权限控制方法、装置、电子设备及计算机可读介质 | |
US9922033B1 (en) | Systems and methods for efficiently extracting contents of container files | |
US20130304455A1 (en) | Management of language usage to facilitate effective communication | |
TW201638779A (zh) | 一種對虛擬主機的資源管理的方法、裝置、系統及電子設備 | |
US10116668B2 (en) | System and method for enhanced display-screen security and privacy | |
US10223535B2 (en) | Ranking security scans based on vulnerability information from third party resources | |
US9245132B1 (en) | Systems and methods for data loss prevention | |
CN106250501B (zh) | 报表处理方法及报表系统 | |
CN111143332B (zh) | 一种数据交换系统 | |
US11093292B2 (en) | Identifying recurring actions in a hybrid integration platform to control resource usage | |
US10360234B2 (en) | Recursive extractor framework for forensics and electronic discovery | |
US10970341B2 (en) | Predictive modeling in event processing systems for big data processing in cloud | |
US10749825B2 (en) | Email cost analytics | |
US11200289B2 (en) | Centralized data sharing program | |
US20200092245A1 (en) | Provoking and maintaining user attention for urgent messages by actively monitoring user activity and biometrics | |
US20200036657A1 (en) | Propagating online conversations | |
US9619476B2 (en) | Parallel container and record organization | |
US11659051B1 (en) | Systems and methods for consistently applying rules to messages |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |