CN109582837A - 一种基于云的可视化数据处理方法及系统 - Google Patents

一种基于云的可视化数据处理方法及系统 Download PDF

Info

Publication number
CN109582837A
CN109582837A CN201811453016.2A CN201811453016A CN109582837A CN 109582837 A CN109582837 A CN 109582837A CN 201811453016 A CN201811453016 A CN 201811453016A CN 109582837 A CN109582837 A CN 109582837A
Authority
CN
China
Prior art keywords
data
visualized graphs
instruction
visualized
graphs element
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811453016.2A
Other languages
English (en)
Inventor
孙向学
张上亚
王翠娟
翟胜强
马静静
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Great Wall Computer Software & Systems Inc
Original Assignee
Great Wall Computer Software & Systems Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Great Wall Computer Software & Systems Inc filed Critical Great Wall Computer Software & Systems Inc
Priority to CN201811453016.2A priority Critical patent/CN109582837A/zh
Publication of CN109582837A publication Critical patent/CN109582837A/zh
Pending legal-status Critical Current

Links

Abstract

本发明涉及一种基于云的可视化数据处理方法及系统,其中的方法包括:根据用户输入的模型创建指令,在云端创建分析模型;当接收到用户触发用于提取数据的可视化图形元件的指令时,从数据库中提取并保存数据,以可视化图形元件的形式进行显示;当接收到用户触发用于处理数据的可视化图形元件的指令时,对第一数据块中的数据进行处理后,保存处理结果并以可视化图形元件的形式进行显示。本发明充分利用了云存储的优势,首先,它将海量数据统一存储在云端,进行集中安全管理。其次,提供统一的可视化界面,用户不需要知道数据存储在哪里、以什么方式存储的,只需要在界面上进行简单的操作就可以进行数据处理工作,大大提高了工作效率。

Description

一种基于云的可视化数据处理方法及系统
技术领域
本发明涉及数据分析领域,具体涉及一种基于云的可视化数据处理方法及系统。
背景技术
大数据分析在企业和社会发展中,越来越受到重视。随着数据量级的爆发式增长,对数据存储的扩展性及分析实时性要求越来越严苛,基于传统IT架构的分析工具已经不能满足业务需求。
传统的分析工具大致包括以下两类:
1、基于本地PC机进行数据分析。将数据导入内存,在内存中进行计算。这种方式的主要缺点是,数据只是临时存储在内存中,下次分析时需要重新导入;受限于PC机性能,数据量较大时,响应时间较长。
2、基本本地服务器进行数据分析。将数据存储在本地专门的存储中,可以进行统一的数据管理,分析时性能有较大提高。这种方式的主要缺点是:数据量爆发增长时,存储扩展性较差;没有提供友好的可视化界面,让用户对所有的分析结果一目了然。
发明内容
针对上述技术问题,本发明提供一种基于云的可视化数据处理方法及系统。
本发明解决上述技术问题的技术方案如下:一种基于云的可视化数据处理方法,包括:
根据用户输入的模型创建指令,在云端创建分析模型;
当接收到用户触发用于提取数据的可视化图形元件的指令时,从数据库中提取数据并保存在所述分析模型的第一数据块中,并以可视化图形元件的形式进行显示;
当接收到用户触发用于处理数据的可视化图形元件的指令时,对所述第一数据块中的数据进行处理后,将处理结果保存在所述分析模型的第二数据块中,并以可视化图形元件的形式进行显示。
为实现上述发明目的,本发明还提供一种基于云的可视化数据处理系统,包括:
模型创建模块,用于根据用户输入的模型创建指令,在云端创建分析模型;
数据提取模块,用于当接收到用户触发用于提取数据的可视化图形元件的指令时,从数据库中提取数据并保存在所述分析模型的第一数据块中,并以可视化图形元件的形式进行显示;
数据处理模块,用于当接收到用户触发用于处理数据的可视化图形元件的指令时,对所述第一数据块中的数据进行处理后,将处理结果保存在所述分析模型的第二数据块中,并以可视化图形元件的形式进行显示。
本发明的有益效果是:充分利用了云存储的优势,首先,它将海量数据统一存储在云端,进行集中安全管理。其次,提供统一的可视化界面,用户不需要知道数据存储在哪里、以什么方式存储的,只需要在界面上进行简单的操作就可以进行数据处理工作,大大提高了工作效率。
附图说明
图1为本发明实施例提供的一种基于云的可视化数据处理方法的流程图;
图2为本发明实施例提供的构建分析模型的软件操作界面;
图3为本发明实施例提供的数据提取的软件操作界面;
图4为本发明实施例提供的多个数据块的软件操作界面;
图5为本发明实施例提供的数据处理操作的软件操作界面;
图6为本发明实施例提供的数据分析操作和输出操作的软件操作界面。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
图1为本发明实施例提供的一种基于云的可视化数据处理方法的流程图,如图1所示,该方法包括:
S1、根据用户输入的模型创建指令,在云端创建分析模型;
具体的,用户在系统界面创建模型时只需要输入模型名称,系统会将模型保存在云端。接下来的所有操作步骤都是在这个模型中进行的,所有操作的结果也都保存在模型中,它们共同构成了一个分析模型。如图2所示。
S2、当接收到用户触发用于提取数据的可视化图形元件的指令时,从数据库中提取数据并保存在所述分析模型的第一数据块中,并以可视化图形元件的形式进行显示;
具体的,如果要在模型中进行探索分析,首先需要得到要分析的数据。模型中提供了“数据提取”的功能。数据提取功能支持从多种存储介质提取数据,可以是用户本地文件、云端存储,或是常见数据库。数据提取可以根据用户指定的筛选条件,对存储在云端的数据进行筛选过滤,并将筛选结果展现在页面上。如图3所示。
当用户找到合适的数据后,点击可视化图形元件“数据提取”触发数据提取操作,可以将这些数据以数据块的形式保存在模型中,以便后续步骤使用。如果进行多次的“数据提取”操作,那么提取的数据会保存在不同的数据块中,界面上也会显示多个数据块。保存后如图4所示。
对于多个数据块,还可通过点击可视化图形元件“合并”、“相减”、“列拼接”、“行拼接”,触发对多个数据块的操作。如图3所示。
S3、当接收到用户触发用于处理数据的可视化图形元件的指令时,对所述第一数据块中的数据进行处理后,将处理结果保存在所述分析模型的第二数据块中,并以可视化图形元件的形式进行显示。
具体的,如图5所示,提取数据后,用户可以根据系统提供的如下功能对数据进行进一步的过滤和清洗。功能包括:筛选、汇总、新增列、去重、截取、同环比、排名、升降维、合并、行列拼接等等。每一项功能都只需要简单的界面操作,系统会在后台进行自动计算,并把计算结果返回界面。
如果此时得到的结果与用户设想不一致,那么用户可重新进行步骤S2、S3中的操作。如果和用户的预期值一致,那么可以将该结果数据保存,系统会将这些数据生成新的数据块,保存在模型中。此时的模型如图6所示,图6中的“汇总结果”即为处理结果生成的数据块。
可选地,在该实施例中,该方法还包括:
S4、当接收到用户触发用于分析数据的可视化图形元件的指令时,对所述第二数据块中的处理结果进行分析后,将分析结果保存在所述分析模型中并进行显示。
具体的,在上述步骤形成的数据块的基础上,可以进行绘图、OLAP、挖掘等操作,形成图、表等更直观的分析成果。其中,绘图功能可内置丰富的图形选项,还可根据具体场景进行新图形的个性化定制,让数据以更鲜活的方式展现。挖掘功能支持所有常见挖掘算法,满足更专业的分析人员使用需求。如图6中的“高级汇总”即为分析结果,点击即可打开生成的图表。
可选地,在该实施例中,该方法还包括:
S5、当接收到用户触发用于输出报告的可视化图形元件的指令时,根据所述分析结果输出分析报告。
具体的,可以将分析成果以图片、Word、PPT等方式,形成分析报告等可视化产品。
本发明实施例还提供一种基于云的可视化数据处理系统,本系统中的各个模块的功能原理已在前述内容中进行了介绍,以下不再赘述。
该系统包括:
模型创建模块,用于根据用户输入的模型创建指令,在云端创建分析模型;
数据提取模块,用于当接收到用户触发用于提取数据的可视化图形元件的指令时,从数据库中提取数据并保存在所述分析模型的第一数据块中,并以可视化图形元件的形式进行显示;
数据处理模块,用于当接收到用户触发用于处理数据的可视化图形元件的指令时,对所述第一数据块中的数据进行处理后,将处理结果保存在所述分析模型的第二数据块中,并以可视化图形元件的形式进行显示。
可选地,在该实施例中,所述数据提取模块,还用于当进行多次数据提取操作时,将每次提取的数据保存在不同的数据块中,并分别以可视化图形元件的形式进行显示。
可选地,在该实施例中,所述用于处理数据的可视化图形元件的指令包括筛选、汇总、新增列、去重、截取、同环比、排名、升降维、合并和行列拼接中的一种或多种。
可选地,在该实施例中,还包括:数据分析模块,用于当接收到用户触发用于分析数据的可视化图形元件的指令时,对所述第二数据块中的处理结果进行分析后,将分析结果保存在所述分析模型中并进行显示。
可选地,在该实施例中,还包括:报告输出模块,用于当接收到用户触发用于输出报告的可视化图形元件的指令时,根据所述分析结果输出分析报告。
本发明将数据存储在云端,不仅实现了数据的集中管理,也不用再为频繁的硬件扩容而担忧。对于云存储来说,数据容量是没有限制的,可以按需使用,随时扩展。即能够在数据量较小时,保证低成本运行;又可以在数据量爆发增长时,提供良好的扩展性及存取速度。
本发明充分利用了云存储的优势。首先,它将海量数据统一存储在云端,进行集中安全管理。其次,工具提供统一的可视化分析界面。用户不需要知道数据存储在哪里,以什么方式存储的,只需要在界面上进行简单的操作就可以进行数据分析工作。同时,工具提供了HTTP接口,可为已授权的其他软件系统提供统一的数据服务。让数据资源在安全的前提下,实现共享。
要在庞大数据的基础上进行分析,势必需要强大的计算能力的支撑。传统的分布式计算架构,对硬件的要求极高,随着海量数据的到来,企业的硬件成本也呈几何式的增涨。
本发明通过云的分布式计算能力,能够实现超大数据的秒级计算。经过测试,基于本发明的技术,可实现亿计数据的秒级计算。云计算可伸缩能力极强,可根据实际需要,匹配最优的计算资源,实现资源利用率最大化。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于云的可视化数据处理方法,其特征在于,包括:
根据用户输入的模型创建指令,在云端创建分析模型;
当接收到用户触发用于提取数据的可视化图形元件的指令时,从数据库中提取数据并保存在所述分析模型的第一数据块中,并以可视化图形元件的形式进行显示;
当接收到用户触发用于处理数据的可视化图形元件的指令时,对所述第一数据块中的数据进行处理后,将处理结果保存在所述分析模型的第二数据块中,并以可视化图形元件的形式进行显示。
2.根据权利要求1所述的方法,其特征在于,还包括:当进行多次数据提取操作时,将每次提取的数据保存在不同的数据块中,并分别以可视化图形元件的形式进行显示。
3.根据权利要求1所述的方法,其特征在于,所述用于处理数据的可视化图形元件的指令包括筛选、汇总、新增列、去重、截取、同环比、排名、升降维、合并和行列拼接中的一种或多种。
4.根据权利要求1-3任一项所述的方法,其特征在于,还包括:当接收到用户触发用于分析数据的可视化图形元件的指令时,对所述第二数据块中的处理结果进行分析后,将分析结果保存在所述分析模型中并进行显示。
5.根据权利要求4所述的方法,其特征在于,还包括:当接收到用户触发用于输出报告的可视化图形元件的指令时,根据所述分析结果输出分析报告。
6.一种基于云的可视化数据处理系统,其特征在于,包括:
模型创建模块,用于根据用户输入的模型创建指令,在云端创建分析模型;
数据提取模块,用于当接收到用户触发用于提取数据的可视化图形元件的指令时,从数据库中提取数据并保存在所述分析模型的第一数据块中,并以可视化图形元件的形式进行显示;
数据处理模块,用于当接收到用户触发用于处理数据的可视化图形元件的指令时,对所述第一数据块中的数据进行处理后,将处理结果保存在所述分析模型的第二数据块中,并以可视化图形元件的形式进行显示。
7.根据权利要求6所述的系统,其特征在于,所述数据提取模块,还用于当进行多次数据提取操作时,将每次提取的数据保存在不同的数据块中,并分别以可视化图形元件的形式进行显示。
8.根据权利要求6所述的系统,其特征在于,所述用于处理数据的可视化图形元件的指令包括筛选、汇总、新增列、去重、截取、同环比、排名、升降维、合并和行列拼接中的一种或多种。
9.根据权利要求6-8任一项所述的系统,其特征在于,还包括:数据分析模块,用于当接收到用户触发用于分析数据的可视化图形元件的指令时,对所述第二数据块中的处理结果进行分析后,将分析结果保存在所述分析模型中并进行显示。
10.根据权利要求9所述的系统,其特征在于,还包括:报告输出模块,用于当接收到用户触发用于输出报告的可视化图形元件的指令时,根据所述分析结果输出分析报告。
CN201811453016.2A 2018-11-30 2018-11-30 一种基于云的可视化数据处理方法及系统 Pending CN109582837A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811453016.2A CN109582837A (zh) 2018-11-30 2018-11-30 一种基于云的可视化数据处理方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811453016.2A CN109582837A (zh) 2018-11-30 2018-11-30 一种基于云的可视化数据处理方法及系统

Publications (1)

Publication Number Publication Date
CN109582837A true CN109582837A (zh) 2019-04-05

Family

ID=65923788

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811453016.2A Pending CN109582837A (zh) 2018-11-30 2018-11-30 一种基于云的可视化数据处理方法及系统

Country Status (1)

Country Link
CN (1) CN109582837A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111158666A (zh) * 2019-12-27 2020-05-15 北京百度网讯科技有限公司 实体归一化处理方法、装置、设备及存储介质
CN112449008A (zh) * 2020-11-16 2021-03-05 国网辽宁省电力有限公司辽阳供电公司 一种基于云计算的数据分析及可视化报告生成系统及方法
CN112669217A (zh) * 2021-01-15 2021-04-16 张立旭 一种跨存储器存储的数据拼接方法及系统
CN113326849A (zh) * 2021-07-20 2021-08-31 广东魅视科技股份有限公司 一种可视化数据采集方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105488177A (zh) * 2015-12-01 2016-04-13 精硕世纪科技(北京)有限公司 数据可视化展示方法及系统
CN107807954A (zh) * 2017-09-28 2018-03-16 广东亿迅科技有限公司 可视化建模多维分析系统及其方法
CN107967359A (zh) * 2017-12-21 2018-04-27 百度在线网络技术(北京)有限公司 数据可视分析方法、系统、终端和计算机可读存储介质
CN108121773A (zh) * 2017-12-05 2018-06-05 广东京信软件科技有限公司 一种基于可视化拖拽式的大数据分析任务构建方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105488177A (zh) * 2015-12-01 2016-04-13 精硕世纪科技(北京)有限公司 数据可视化展示方法及系统
CN107807954A (zh) * 2017-09-28 2018-03-16 广东亿迅科技有限公司 可视化建模多维分析系统及其方法
CN108121773A (zh) * 2017-12-05 2018-06-05 广东京信软件科技有限公司 一种基于可视化拖拽式的大数据分析任务构建方法
CN107967359A (zh) * 2017-12-21 2018-04-27 百度在线网络技术(北京)有限公司 数据可视分析方法、系统、终端和计算机可读存储介质

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111158666A (zh) * 2019-12-27 2020-05-15 北京百度网讯科技有限公司 实体归一化处理方法、装置、设备及存储介质
CN111158666B (zh) * 2019-12-27 2023-07-04 北京百度网讯科技有限公司 实体归一化处理方法、装置、设备及存储介质
CN112449008A (zh) * 2020-11-16 2021-03-05 国网辽宁省电力有限公司辽阳供电公司 一种基于云计算的数据分析及可视化报告生成系统及方法
CN112669217A (zh) * 2021-01-15 2021-04-16 张立旭 一种跨存储器存储的数据拼接方法及系统
CN113326849A (zh) * 2021-07-20 2021-08-31 广东魅视科技股份有限公司 一种可视化数据采集方法及系统

Similar Documents

Publication Publication Date Title
US11733829B2 (en) Monitoring tree with performance states
CN107145586B (zh) 一种基于电力营销数据的标签产出方法和装置
CN109582837A (zh) 一种基于云的可视化数据处理方法及系统
US10205643B2 (en) Systems and methods for monitoring and analyzing performance in a computer system with severity-state sorting
US10469344B2 (en) Systems and methods for monitoring and analyzing performance in a computer system with state distribution ring
US9142049B2 (en) Proactive monitoring tree providing distribution stream chart with branch overlay
CN104331435B (zh) 一种基于Hadoop大数据平台的低影响高效率的海量数据抽取方法
CN104915793A (zh) 基于大数据分析挖掘的公共信息智能分析平台
US9992269B1 (en) Distributed complex event processing
CN109241159B (zh) 一种数据立方体的分区查询方法、系统及终端设备
CN106874482A (zh) 一种基于大数据技术的图形化的数据预处理的装置及方法
CN105956016A (zh) 关联信息可视化处理系统
CN112182077B (zh) 一种基于数据中台技术的智能运维系统
CN109101575A (zh) 计算方法及装置
CN113741883A (zh) 一种rpa轻量级数据中台系统
CN103412942B (zh) 一种基于云计算技术的电压暂降数据分析方法
CN110968596A (zh) 一种基于标签系统的数据处理方法
CN108874818A (zh) 一种数据智能可视化系统及方法
CN116523328A (zh) 一种航空装备协同制造产业链协作智能决策方法
CN113282568B (zh) 一种iot大数据实时时序流分析应用技术方法
CN115422898A (zh) 一种基于容器云的可视化自定义报表分析系统
CN109033196A (zh) 一种分布式数据调度系统及方法
CN111813555B (zh) 基于互联网技术的超融合基础架构分层资源管理系统
Ando Multi-GPU Accelerated Processing of Time-Series Data of Huge Academic Backbone Network in ELK Stack
Xu et al. Research on performance optimization and visualization tool of Hadoop

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20190405