CN111767335A - 数据可视化分析方法 - Google Patents
数据可视化分析方法 Download PDFInfo
- Publication number
- CN111767335A CN111767335A CN202010651406.1A CN202010651406A CN111767335A CN 111767335 A CN111767335 A CN 111767335A CN 202010651406 A CN202010651406 A CN 202010651406A CN 111767335 A CN111767335 A CN 111767335A
- Authority
- CN
- China
- Prior art keywords
- data
- analysis
- user
- report
- source
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/254—Extract, transform and load [ETL] procedures, e.g. ETL data flows in data warehouses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/248—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/283—Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computational Linguistics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及一种数据可视化分析方法,通过数据集成组件,用于各种异构数据源抽取规则设定,将数据汇聚至数据仓库,实现异构数据源抽取;通过数据源管理模块,对各种异构数据源进行管理,实现数据集成;通过数据模型模块,对用户基于数据源构建成待分析的数据模型,实现数据模型构建;通过报表和看板组件,生成开发与设计分析的报表,实现数据分析界面构建;通过行业组件,令用户利进行数据分析,实现数据分析呈现;通过行业应用模块,实现行业套件的使用。由此,能够实现可视化的设定工作内容,完成数据交换与集成,可实现高速数据抽取和写入,完成异构系统之间海量数据的集成。将本发明应用到软件后,实时显示业务用户的分析结果。
Description
技术领域
本发明涉及一种数据分析方法,尤其涉及一种数据可视化分析方法。
背景技术
商业智能数据分析出现在20世纪后期,并且在20世纪90年代有了突飞猛进的发展,尤其是众多跨国集团和大型企业对商业智能需求极大地促进了其发展。当前数据分析正经历着从传统向智能变革:
传统分析阶段--企业数字化的基础,实现企业内部数据整合,为内部管理使用,一般为内部开发团队专门定制化开发,灵活度不高;
数据分析产品化阶段--独立软件厂商发行通用的数据分析软件,包含表格,图表等组件,开发人员通过二次代码开发的方式实现分析,灵活度较高,但对于使用者需要较强的开发技能,主要依赖内部IT团队或供应商对历史数据进行分析;
智能化敏捷阶段--行业细分愈发明显,在多变的市场环境中,业务团队需要能够快速,自定义进行数据分析,逐渐减低对传统IT或研发部门的依赖,并且依托机器学习,人工智能算法对未来的趋势做一定的预测,
结合目前实现数据可视化一般方式来看,其往往有两种:
1、通过定制化代码的方式进行渲染,数据的获取,清洗,模型的制定都需要手工编写代码;
2、采购相关软件,依托平台做二次加工或定制开发,数据来源与加工,仍然需要手工处理。
当前的技术有如下缺点:
1.数据分析依赖的底层数据,需要手工处理,包含数据交换与集成,按规则清洗等等,缺乏一站式,可视化的平台统一处理,处理速度慢,无法满足实时数据分析的需求。
2.数据分析时,采用的普通的表格,对于报表的样式调整,数据分析规则,需要手动更新且无法及时呈现,时效性太差。
数据分析的功能缺乏行业相关性,无法满足行业用户的快速实现的需求,实施上线的成本过高。
有鉴于上述的缺陷,本设计人,积极加以研究创新,以期创设一种数据可视化分析方法,使其更具有产业上的利用价值。
发明内容
为解决上述技术问题,本发明的目的是提供一种数据可视化分析方法。
本发明的数据可视化分析方法,其中:通过数据集成组件,用于各种异构数据源抽取规则设定,将数据汇聚至数据仓库,实现异构数据源抽取;通过数据源管理模块,对各种异构数据源进行管理,实现数据集成;通过数据模型模块,对用户基于数据源构建成待分析的数据模型,实现数据模型构建;通过报表和看板组件,生成开发与设计分析的报表,实现数据分析界面构建;通过行业组件,令用户利进行数据分析,实现数据分析呈现;通过行业应用模块,实现行业套件的使用。
进一步地,上述的数据可视化分析方法,其中,所述异构数据源抽取规则为,按照源数据的增量对字段进行表示,通过自增键或时间戳进行匹配,完成数据的增量抽取写入或是全量覆盖更新,异构数据源的数据通过标准的数据交换协议写入到数据仓库,所述数据交换协议包括JDBC、FTP、HTTP、API中的一种或是多种。
更进一步地,上述的数据可视化分析方法,其中,用户通过自定义数据源,通过报表和看板组件,生成开发与设计分析的报表。
更进一步地,上述的数据可视化分析方法,其中,所述行业套件包括智能制造数据分析、经营数据分析。
更进一步地,上述的数据可视化分析方法,其中,所述异构数据源的管理为,步骤一,通过数据集成组件,连接源端数据库与目的端数据仓库,通过可视化界面,字段的映射关系进行配置。步骤二,在配置映射关系时,设定转换规则,在字段级别自定义字段的函数转换,完成数据转换。步骤三,异构数据被集成进入数据仓库,用户对其分析。步骤四,用户构建数据分析界面,生成图形化数据分析报告。步骤五,对图形化数据分析报告进行发布。
更进一步地,上述的数据可视化分析方法,其中,所述步骤二中,通过在字段级别设定各个源数据库的函数或是平台支持的脚本函数,对字段数据进行转换、合并,构成抽取过滤条件;在配置映射关系时,动态配置多个抽取过滤条件,将不符合要求的记录排除在数据抽取的任务之外,实现无效数据的清洗。
更进一步地,上述的数据可视化分析方法,其中,所述步骤三中,用户利用数据分析组件,通过自定义数据模型,实现数据可视化分析。
更进一步地,上述的数据可视化分析方法,其中,所述步骤四中,用户利用可视化组件,构建数据分析的界面,所述界面包括行业套件、看板、可视化报表、行业组件中的一种或是多种。
再进一步地,上述的数据可视化分析方法,其中,所述步骤五中,用户通过内置机制进行发布,不同的权限的人员通过数据平台的接入,能实时查看数据,所述数据平台包括智能手机、平板设备,电脑、显示屏中的一种或是多种。
借由上述方案,本发明至少具有以下优点:
1、能够实现可视化的设定工作内容,完成数据交换与集成,可实现高速数据抽取和写入,完成异构系统之间海量数据的集成。
2、将本发明应用到软件后,可以实现可视化拖拽式组件,支持工业组件模型、三维仿真、个性化突变等组件,用户完全自定义界面风格、数据源、数据的转换规则,实时显示业务用户的分析结果,无需完成耗时的“需求-变更-上线”的流程。
3、可以构建一站式数据分析平台,减少投资浪费,且具有开箱即用的功能特性,大幅度减少部署上线的周期。
4、可以有效利用丰富的行业模版套件,提升工作效率。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,并可依照说明书的内容予以实施,以下以本发明的较佳实施例并配合附图详细说明如后。
附图说明
图1是数据可视化分析方法所设计到的组件分布示意图。
图2是数据可视化分析方法的流程示意图。
具体实施方式
下面结合附图和实施例,对本发明的具体实施方式作进一步详细描述。以下实施例用于说明本发明,但不用来限制本发明的范围。
如图1至2的数据可视化分析方法,其与众不同之处在于:通过数据集成组件,用于各种异构数据源抽取规则设定,将数据汇聚至数据仓库,异构数据源抽取。同时,通过数据源管理模块,对各种异构数据源进行管理,实现数据集成。在实际实施期间,可通过数据模型模块,对用户基于数据源构建成待分析的数据模型,实现数据模型构建,其可以满足自定义数据模型的需要。并且,可通过报表和看板组件,生成开发与设计分析的报表。为了拥有较佳的可视化分析效果,便于用户进行对应的数据分析,本发明可通过行业组件,令用户利进行数据分析,实现数据分析呈现,实现数据分析界面构建。实际实施时,采用的行业组件可包括钻取,透视图等,也可以利用行业组件如3D仿真模型,智能产线模型。最终,可通过行业应用模块,实现行业套件的使用。
结合本发明一较佳的实施方式来看,采用的异构数据源抽取规则为,按照源数据的增量对字段(如主键)进行表示。在实际实施期间,通过自增键或时间戳进行匹配,完成数据的增量抽取写入或是全量覆盖更新。并且,异构数据源的数据通过标准的数据交换协议写入到数据仓库。考虑到涉及数据的多样性,为了提高可执行的范围,数据交换协议包括JDBC、FTP、HTTP、API中的一种或是多种。同时,在实施期间,可以实现适当的集成化配置,能够对可能涉及到的时间间隔进行定义。具体来说,系统自动定时根据增量或全量的规则创建执行任务,在任务中完成数据抽取,写入。
进一步来看,为了便于用户的衔接使用,用户可利用自定义数据源,通过报表和看板组件,生成开发与设计分析的报表。这样,便于用户更好的探索数据规律,发现数据隐藏的关联关系,为业务决策起到辅助作用。结合实际实施来看,本发明采用的行业套件包括智能制造数据分析、经营数据分析。同时,还可以包括其他业内常用的分析模块,便于提升效率。
为了更好的实施本方法,所采用的异构数据源的管理可包括如下步骤:
步骤一,通过数据集成组件,连接源端数据库与目的端数据仓库,通过可视化界面,字段的映射关系进行配置。
步骤二,在配置映射关系时,设定转换规则,在字段级别自定义字段的函数转换,完成数据转换。具体来说,通过在字段级别设定各个源数据库的函数或是平台支持的脚本函数,对字段数据进行转换、合并,构成抽取过滤条件。之后,在配置映射关系时,可动态配置多个抽取过滤条件,将不符合要求的记录排除在数据抽取的任务之外,实现无效数据的清洗。这样,可以提高数据转换效率。
步骤三,异构数据被集成进入数据仓库,用户对其分析。在此期间,用户可以利用本方法中自带或是自己熟悉的数据分析组件,通过自定义数据模型,实现数据可视化分析。
步骤四,用户构建数据分析界面,生成图形化数据分析报告。具体来说,用户利用可视化组件,构建数据分析的界面,界面包括行业套件、看板、可视化报表、行业组件中的一种或是多种。
步骤五,对图形化数据分析报告进行发布。结合实际实施来看,用户通过内置机制进行发布,不同的权限的人员通过数据平台的接入,能实时查看数据,数据平台包括智能手机、平板设备,电脑、显示屏中的一种或是多种。
本发明的工作原理如下,以实际操作来看:
用户通过本方法选择待分析的数据源,其可选直连或抽取,若需要抽取至数据仓库,则开启数据集成组件,可视化的配置数据集成任务。之后,用户选择待分析的数据源,建立数据分析模型。然后,用户选择行业模版,或自行创建看板的方式构建数据分析界面。接着,用户选择数据模型,选择对应的分析组件(包括通用的图表组件)、行业相关组件等进行自由组合。随后,用户选择相关处理算法,针对性的分析当前数据,保存当前的数据分析。完成上述步骤后,用户通过看板或大屏看板发布分析报告。由此,不同权限的人员可以察看分析报告,并进行反馈。
通过上述的文字表述并结合附图可以看出,采用本发明后,拥有如下优点:
1、能够实现可视化的设定工作内容,完成数据交换与集成,可实现高速数据抽取和写入,完成异构系统之间海量数据的集成。
2、将本发明应用到软件后,可以实现可视化拖拽式组件,支持工业组件模型、三维仿真、个性化突变等组件,用户完全自定义界面风格、数据源、数据的转换规则,实时显示业务用户的分析结果,无需完成耗时的“需求-变更-上线”的流程。
3、可以构建一站式数据分析平台,减少投资浪费,且具有开箱即用的功能特性,大幅度减少部署上线的周期。
4、可以有效利用丰富的行业模版套件,提升工作效率。
以上所述仅是本发明的优选实施方式,并不用于限制本发明,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变型,这些改进和变型也应视为本发明的保护范围。
Claims (9)
1.数据可视化分析方法,其特征在于:
通过数据集成组件,用于各种异构数据源抽取规则设定,将数据汇聚至数据仓库,实现异构数据源抽取;
通过数据源管理模块,对各种异构数据源进行管理,实现数据集成;
通过数据模型模块,对用户基于数据源构建成待分析的数据模型,实现数据模型构建;
通过报表和看板组件,生成开发与设计分析的报表,实现数据分析界面构建;
通过行业组件,令用户利进行数据分析,实现数据分析呈现;
通过行业应用模块,实现行业套件的使用。
2.根据权利要求1所述的数据可视化分析方法,其特征在于:所述异构数据源抽取规则为,按照源数据的增量对字段进行表示,通过自增键或时间戳进行匹配,完成数据的增量抽取写入或是全量覆盖更新,异构数据源的数据通过标准的数据交换协议写入到数据仓库,所述数据交换协议包括JDBC、FTP、HTTP、API中的一种或是多种。
3.根据权利要求1所述的数据可视化分析方法,其特征在于:用户通过自定义数据源,通过报表和看板组件,生成开发与设计分析的报表。
4.根据权利要求1所述的数据可视化分析方法,其特征在于:所述行业套件包括智能制造数据分析、经营数据分析。
5.根据权利要求1所述的数据可视化分析方法,其特征在于:所述异构数据源的管理为,
步骤一,通过数据集成组件,连接源端数据库与目的端数据仓库,通过可视化界面,字段的映射关系进行配置;
步骤二,在配置映射关系时,设定转换规则,在字段级别自定义字段的函数转换,完成数据转换;
步骤三,异构数据被集成进入数据仓库,用户对其分析;
步骤四,用户构建数据分析界面,生成图形化数据分析报告;
步骤五,对图形化数据分析报告进行发布。
6.根据权利要求5所述的数据可视化分析方法,其特征在于:所述步骤二中,通过在字段级别设定各个源数据库的函数或是平台支持的脚本函数,对字段数据进行转换、合并,构成抽取过滤条件;在配置映射关系时,动态配置多个抽取过滤条件,将不符合要求的记录排除在数据抽取的任务之外,实现无效数据的清洗。
7.根据权利要求5所述的数据可视化分析方法,其特征在于:所述步骤三中,用户利用数据分析组件,通过自定义数据模型,实现数据可视化分析。
8.根据权利要求5所述的数据可视化分析方法,其特征在于:所述步骤四中,用户利用可视化组件,构建数据分析的界面,所述界面包括行业套件、看板、可视化报表、行业组件中的一种或是多种。
9.根据权利要求5所述的数据可视化分析方法,其特征在于:所述步骤五中,用户通过内置机制进行发布,不同的权限的人员通过数据平台的接入,能实时查看数据,所述数据平台包括智能手机、平板设备,电脑、显示屏中的一种或是多种。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010651406.1A CN111767335A (zh) | 2020-07-08 | 2020-07-08 | 数据可视化分析方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010651406.1A CN111767335A (zh) | 2020-07-08 | 2020-07-08 | 数据可视化分析方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111767335A true CN111767335A (zh) | 2020-10-13 |
Family
ID=72725925
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010651406.1A Pending CN111767335A (zh) | 2020-07-08 | 2020-07-08 | 数据可视化分析方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111767335A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112231388A (zh) * | 2020-10-14 | 2021-01-15 | 宁夏回族自治区教育信息化管理中心 | 一种多元化指标分析的动态图表构建方法 |
CN112364045A (zh) * | 2020-10-23 | 2021-02-12 | 济南慧天云海信息技术有限公司 | 一种异构数据聚合方法 |
CN113971176A (zh) * | 2021-10-28 | 2022-01-25 | 重庆允成互联网科技有限公司 | 根据工业用户个性化需求生成可视看板的方法和存储介质 |
CN114817393A (zh) * | 2022-06-24 | 2022-07-29 | 深圳市信联征信有限公司 | 数据抽取和清洗方法、装置及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109739922A (zh) * | 2019-01-10 | 2019-05-10 | 江苏徐工信息技术股份有限公司 | 一种工业数据智能分析系统 |
CN110377648A (zh) * | 2018-04-11 | 2019-10-25 | 西安邮电大学 | 一种面向智能制造的多源异构数据分析平台 |
CN110618983A (zh) * | 2019-08-15 | 2019-12-27 | 复旦大学 | 基于json文档结构的工业大数据多维分析与可视化方法 |
-
2020
- 2020-07-08 CN CN202010651406.1A patent/CN111767335A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110377648A (zh) * | 2018-04-11 | 2019-10-25 | 西安邮电大学 | 一种面向智能制造的多源异构数据分析平台 |
CN109739922A (zh) * | 2019-01-10 | 2019-05-10 | 江苏徐工信息技术股份有限公司 | 一种工业数据智能分析系统 |
CN110618983A (zh) * | 2019-08-15 | 2019-12-27 | 复旦大学 | 基于json文档结构的工业大数据多维分析与可视化方法 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112231388A (zh) * | 2020-10-14 | 2021-01-15 | 宁夏回族自治区教育信息化管理中心 | 一种多元化指标分析的动态图表构建方法 |
CN112364045A (zh) * | 2020-10-23 | 2021-02-12 | 济南慧天云海信息技术有限公司 | 一种异构数据聚合方法 |
CN113971176A (zh) * | 2021-10-28 | 2022-01-25 | 重庆允成互联网科技有限公司 | 根据工业用户个性化需求生成可视看板的方法和存储介质 |
CN114817393A (zh) * | 2022-06-24 | 2022-07-29 | 深圳市信联征信有限公司 | 数据抽取和清洗方法、装置及存储介质 |
CN114817393B (zh) * | 2022-06-24 | 2022-09-16 | 深圳市信联征信有限公司 | 数据抽取和清洗方法、装置及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111767335A (zh) | 数据可视化分析方法 | |
Cordeil et al. | IATK: An immersive analytics toolkit | |
CN103020393B (zh) | 一种基于Web的飞机装配数据可视化方法 | |
KR100633478B1 (ko) | 비즈니스용 전문 운영체제에 기반하는 소프트웨어개발시스템 및 그 개발방법 | |
JP5570608B2 (ja) | エクセル基盤の分析レポート作成システム及び方法 | |
US8108233B2 (en) | Method, system, and program product for generating an integrated business organizational view | |
CN109976735B (zh) | 一种基于web可视化的知识图谱算法应用平台 | |
KR20080005500A (ko) | 비즈니스 모델 변환 | |
CN108446381A (zh) | 一种基于Web的数据可视化系统与方法 | |
CN103778201A (zh) | 基于流程模型配置的大屏可视化展示系统及方法 | |
CN102819982A (zh) | Mes系统的电子地图及其使用方法 | |
CN102339327A (zh) | 一种显示三维轻量化数据格式的装置 | |
Bouchlaghem et al. | Integrating product and process information in the construction sector | |
CN106843871B (zh) | 一种领域模型框架的设计系统及设计方法 | |
CN105512380A (zh) | 液压系统cad协同设计系统及其构建方法 | |
CN107943863B (zh) | 基于商业智能的敏捷建模方法和系统 | |
CN103530134B (zh) | 一种可配置软件平台结构 | |
CN112527250A (zh) | 一种基于可视化的软件开发平台 | |
CN109766373A (zh) | 电网数据展示方法及计算机可读存储介质 | |
CN114756789A (zh) | 一种可视化大屏生成系统 | |
CN117454278A (zh) | 一种标准企业数字化规则引擎的实现方法和系统 | |
CN107729305B (zh) | 基于数据库及前端显示技术的会议材料自动生成方法 | |
Bhombe et al. | Comparative analysis of two bi tools: Micro strategy and tableau | |
CN112051996B (zh) | 一种基于开发平台元素统一命名字典的建模方法及装置 | |
CN115691772A (zh) | 运营可视化系统及相应计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |