CN115269713A - 一种数据的可视化方法、系统、计算机设备及介质 - Google Patents
一种数据的可视化方法、系统、计算机设备及介质 Download PDFInfo
- Publication number
- CN115269713A CN115269713A CN202210849169.9A CN202210849169A CN115269713A CN 115269713 A CN115269713 A CN 115269713A CN 202210849169 A CN202210849169 A CN 202210849169A CN 115269713 A CN115269713 A CN 115269713A
- Authority
- CN
- China
- Prior art keywords
- data
- database
- visual
- visualization
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/26—Visual data mining; Browsing structured data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种数据的可视化方法、系统、计算机设备及介质,方法包括:在BI数据库数据库中逐一获取每个标记的可视化数据对应的目标数据索引;根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;其中,BI数据库与可视化数据库的表结构相同;根据可视化数据库构建可视化图表,并将可视化图表进行展示。由于本申请通过构建表结构相同的BI数据库和可视化数据库,并基于数据索引将BI数据库中可视化数据更新或插入到可视化数据库中,仅根据可视化数据库执行数据的更新或插入操作,有效防止了在依靠BI数据库进行数据可视化展示时出现的删除操作,从而保障可视化界面上的数据不会出现短暂消失,进而提升了系统平台的稳定性。
Description
技术领域
本发明涉及大数据技术领域,特别涉及一种数据的可视化方法、系统、计算机设备及介质。
背景技术
数据的可视化是将复杂、抽象的数据,通过可视的方式展示出来,例如通过合理的页面布局、效果设计,将可视化数据更直观、更形象的展现出来,以呈现业务运营相关的数据和图表,方便实时掌握业务情况,并能够支撑业务决策。常见的可视化图表分别是柱状图、折线图、饼图。
在现有的可视化方式中,首先采用大数据BI工具从业务数据库中抽取基础业务数据,然后通过大数据工具hive创建的任务结合可视化图表中字段逻辑将基础业务数据进行统计汇总,生成结果数据,其次将结果数据保存到对应的BI数据库结果表中,最后根据BI数据库的结果进行可视化展示。由于数据展示需要依赖hive创建的任务,如果hive创建的任务运行错误,会导致下游任务被重复调用,从而造成BI数据库中的数据重复删除再生成,由于BI数据库中的数据被短暂删除,因此这个过程中会造成可视化界面上的数据出现短暂的展示消失,从而降低了系统的稳定性。
发明内容
基于此,有必要针对BI数据库中的数据被短暂删除的问题,提供一种数据的可视化方法、系统、计算机设备及介质。
一种数据的可视化方法,方法包括:在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;其中,BI数据库与可视化数据库的表结构相同;根据可视化数据库构建可视化图表,并将可视化图表进行展示。
在其中一个实施例中,在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引之前,还包括:在当前时刻与上一时刻的时间间隔等于预设周期时,确定当前时刻的同步任务类型;在BI数据库中逐一标记当前时刻的同步任务类型对应的可视化数据。
在其中一个实施例中,根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中,包括:查询可视化数据库中是否存在与目标数据索引相同的数据索引;若存在,则根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中;或者,若不存在,则根据预设数据同步模板将每个标记的可视化数据插入到可视化数据库中。
在其中一个实施例中,根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中,包括:获取目标数据索引对应的目标字段;将目标字段和预设更新参数与预设数据同步模板中的数据更新命令脚本进行拼接,得到动态数据更新脚本;执行动态数据更新脚本以将每个标记的可视化数据更新到可视化数据库中。
在其中一个实施例中,方法还包括:采用BI工具在业务数据库中实时抽取基础业务数据;获取待展示图表中的字段参数;根据待展示图表中的字段参数,并结合hive工具对基础业务数据进行统计汇总,得到汇总数据;将汇总数据保存到BI数据库中。
在其中一个实施例中,根据可视化数据库构建可视化图表,包括:获取待展示图表中每个图表的多个业务数据标识;计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数;基于每个业务数据标识的目标系数在可视化数据库中动态加载可视化数据,得到可视化图表。
在其中一个实施例中,计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数,包括:提取每个业务数据标识的标识特征向量;在可视化数据库中提取每个业务数据标识对应的数据集;提取数据集中每个数据的数据特征向量;计算标识特征向量与数据集中每个数据的数据特征向量之间的相似距离,并将相似距离确定为每个业务数据标识的目标系数;
相似距离计算公式为:
其中,m为每个业务数据标识的标识特征向量,ni为数据集中第i个数据的数据特征向量,p为数据集中数据个数。
一种数据的可视化系统,系统包括:数据索引获取模块,用于在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;数据处理模块,用于根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;其中,BI数据库与可视化数据库的表结构相同;数据可视化模块,用于根据可视化数据库构建可视化图表,并将可视化图表进行展示。
一种计算机设备,包括存储器和处理器,存储器中存储有计算机可读指令,计算机可读指令被处理器执行时,使得处理器执行上述数据的可视化方法的步骤。
一种存储有计算机可读指令的介质,计算机可读指令被一个或多个处理器执行时,使得一个或多个处理器执行上述数据的可视化方法的步骤。
上述数据的可视化方法、系统、设备和介质,数据的可视化系统首先在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引,然后根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中,其中,BI数据库与可视化数据库的表结构相同,最后根据可视化数据库构建可视化图表,并将可视化图表进行展示。由于本申请通过构建表结构相同的BI数据库和可视化数据库,并基于数据索引将BI数据库中可视化数据更新或插入到可视化数据库中,仅根据可视化数据库执行数据的更新或插入操作,有效防止了在依靠BI数据库进行数据可视化展示时出现的删除操作,从而保障可视化界面上的数据不会出现短暂消失,进而提升了系统平台的稳定性。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1为本申请一个实施例中提供的数据的可视化方法的实施环境图;
图2为本申请一个实施例中计算机设备的内部结构示意图;
图3为本申请一个实施例中提供的数据的可视化方法的方法示意图;
图4是本申请另一个实施例中提供的数据的可视化方法的方法示意图;
图5是本申请实施例提供的一种数据的可视化系统的系统结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。
图1为一个实施例中提供的数据的可视化方法的实施环境图,如图1所示,在该实施环境中,包括服务端110以及客户端120。
服务端110可以为服务器,该服务器具体可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器,例如为运行BI数据库或者可视化数据库的服务器设备。客户端120连接服务端110运行的BI数据库,客户端120在服务端110运行的BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引,客户端120根据目标数据索引将每个标记的可视化数据更新或插入到服务端110运行的可视化数据库中;其中,服务端110运行的BI数据库与可视化数据库的表结构相同,客户端120根据服务端110上运行的可视化数据库构建可视化图表,并将可视化图表进行展示在屏幕上。
需要说明的是,客户端120可为智能手机、平板电脑、笔记本电脑、台式计算机等,但并不局限于此。服务端110以及客户端120可以通过蓝牙、USB(Universal Serial Bus,通用串行总线)或者其他通讯连接方式进行连接,本发明在此不做限制。
图2为一个实施例中计算机设备的内部结构示意图。如图2所示,该计算机设备包括通过系统总线连接的处理器、介质、存储器和网络接口。其中,该计算机设备的介质存储有操作系统、数据库和计算机可读指令,数据库中可存储有控件信息序列,该计算机可读指令被处理器执行时,可使得处理器实现一种数据的可视化方法。该计算机设备的处理器用于提供计算和控制能力,支撑整个设备的运行。该计算机设备的存储器中可存储有计算机可读指令,该计算机可读指令被处理器执行时,可使得处理器执行一种数据的可视化方法。该计算机设备的网络接口用于与终端连接通信。本领域技术人员可以理解,图2中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。其中,介质为一种可读的存储介质。
下面将结合附图3-4,对本申请实施例提供的数据的可视化方法进行详细介绍。该方法可依赖于计算机程序实现,可运行于基于冯诺依曼体系的数据的可视化系统上。该计算机程序可集成在应用中,也可作为独立的工具类应用运行。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据的可视化技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
请参见图3,为本申请实施例提供了一种数据的可视化方法的流程示意图。
如图3所示,本申请实施例的方法可以包括以下步骤:
S101,在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;
其中,商业智能(Business Intelligence,BI)是将企业的数据进行有效整合的大数据工具。BI在数据架构中处于前端分析的位置,其核心作用是对获取数据的多维度分析、数据的切片、数据的上钻和下钻等,并通过数据抽取、转化形成一个完整的数据仓库,该仓库为BI数据库。可视化数据是存在BI数据库中的有效数据。目标数据索引是BI数据库中每个数据的唯一标识,通过该标识可查询到与其对应的唯一数据。
在本申请实施例中,在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引之前,需要对同步的可视化数据进行标记。首先在当前时刻与上一时刻的时间间隔等于预设周期时,确定当前时刻的同步任务类型,然后在BI数据库中逐一标记当前时刻的同步任务类型对应的可视化数据。本实施例通过灵活设置的预设周期可实时对BI数据库中的新数据进行及时处理,提升数据处理的灵活性与实用性。例如在平台要求数据更新及时的情况下可通过设置较短的周期进行处理,例如在平台要求节省内存运行消耗的情况下,可以设置较长的周期进行处理。同时本实施例通过不同的同步任务类型可提升可视化数据的多样性展示,例如在同步任务类型是日表时,可标记出前一天的所有数据,例如在同步任务是月表时,可标记出当月的所有数据。
具体的,预设周期是用户根据平台的应用场景预先设置的数据同步周期,在应用场景需要每5分钟更新一次平台展示的数据时,预设周期为5分钟,在应用场景需要每10分钟更新一次平台展示的数据时,预设周期为10分钟,具体可根据实际场景进行设置,此处不再限定。
具体的,同步任务类型是根据用户的业务需求所制定的,同步任务类型可分为日表类型、月表类型和全量类型。日表类型具体是采用BI工具每天标记前一天的数据,月表类型具体是采用BI工具每天标记当月的数据,全量类型是采用BI工具每天会对全量数据进行标记。
进一步地,本申请实施例还需要采用BI工具构建BI数据库,首先采用BI工具在业务数据库中实时抽取基础业务数据,然后获取待展示图表中的字段参数,再根据待展示图表中的字段参数,并结合hive工具对基础业务数据进行统计汇总,得到汇总数据,最后将汇总数据保存到BI数据库中。本申请通过BI工具与hive工具在基础业务数据库中收集海量数据,并利用算法将这些来自不同渠道,格式的数据进行分析,从而可以寻找到数据之间的关系,最后经过数据之间的关系进行数据结构化保存,从而生成BI数据库。
在一种可能的实现方式中,首先通过构建表结构相同的BI数据库和可视化数据库,然后通过BI工具结合hive工具可以使得BI数据库中存在大量结构化数据,其次根据预设周期定时的逐一标记当前时刻的同步任务类型对应的可视化数据,最后标记完成后可获取每个标记的可视化数据对应的目标数据索引。本申请通过预先在BI数据库中进行一次性统一标记的方式,可一次性识别出需要处理的可视化数据,从而可提升系统的运行效率。
具体的,hive工具是基于Hadoop的一个数据仓库工具,用来进行数据提取、转化、加载,这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。
S102,根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;
其中,BI数据库与可视化数据库的表结构相同。可视化数据是存储在BI数据库中的结构化数据。
通常,更新或插入是基于更新操作或插入操作实现的,更新操作或插入操作是采用结构化查询语言(Structured Query Language,SQL)构建的数据库操作命令脚本。
在本申请实施例中,首先查询可视化数据库中是否存在与目标数据索引相同的数据索引;若存在,则根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中;或者,若不存在,则根据预设数据同步模板将每个标记的可视化数据插入到可视化数据库中。基于数据索引将BI数据库中可视化数据更新或插入到可视化数据库中,仅根据可视化数据库执行数据的更新或插入操作,有效防止了在依靠BI数据库进行数据可视化展示时出现的删除操作,从而保障可视化界面上的数据不会出现短暂消失,进而提升了系统平台的稳定性。
需要说明的是,本申请通过mysql数据库中的动态SQL拼接技术进行操作,该过程中所有脚本命令都是由动态SQL拼接完成,由于动态SQL拼接技术仅仅通过固定的SQL命令模板配合变动的字段变量就可以实现不同数据操作脚本命令,可以大量减少开发工程师针对多个相同的数据操作而编写多个数据操作脚本命令的过程,从而减少了重复的开发工作。在动态SQL技术中,SQL的内容是变化的,可以根据不同操作条件获取到不同的SQL语句对数据库进行操作。
具体的,在查询可视化数据库中是否存在与目标数据索引相同的数据索引时,首先获取目标数据索引对应的目标字段,然后将目标字段和预设更新参数与预设数据同步模板中的数据查询命令脚本进行拼接,得到动态数据查询脚本,最后执行动态数据查询脚本以查询目标数据索引是否存在于可视化数据库中。
需要说明的是,由于同步数据的逻辑大致相同,可以将公共代码进行抽取,做一个数据同步模板,数据同步模板可以灵活的对数据进行同步,最大程度降低了重复开发量,极大的减少了迭代开发成本,能够匹配公司业务快速发展,为公司节省人力物力资源。往数据同步模板类中传入业务逻辑代码中的实体类,每个实体类中的字段对应数据库表中的字段,就可以从实体类中获取数据库字段,用来拼接成查询操作脚本命令、插入操作脚本命令以及更新操作脚本命令中的字段。
具体的,在根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中时,首先获取目标数据索引对应的目标字段,然后将目标字段和预设更新参数与预设数据同步模板中的数据更新命令脚本进行拼接,得到动态数据更新脚本,最后执行动态数据更新脚本以将每个标记的可视化数据更新到可视化数据库中。
在一种可能的实现方式中,采用动态SQL拼接技术在生成查询命令脚本时,首先往数据同步模板中传入查询条件,将查询条件动态拼接到该模板中的查询SQL语句中,然后从最小数据索引开始查询,每次查询符合查询条件的100条数据,防止一次查询过多数据对服务造成压力。在查询到一批数据后,可对该批次数据进行批量同步,每条数据根据唯一索引与目标表数据比较,如果目标表存在该条数据则进行数据更新,如果不存在则进行数据插入。
S103,根据可视化数据库构建可视化图表,并将可视化图表进行展示。
其中,可视化图表包括柱状图、折线图以及饼图,可以呈现系统业务运营相关的数据和信息,方便相关人员实时掌握业务情况,并能够支撑业务决策。
通常,可视化图表是结合可视化手段将可视化数据库中的数据以图表形式进行展示的结果。可视化图表进行展示时可以结合人工智能进行数据的智能化展示。例如在可视化图表大于预设数量时,可以将重要程度高的可视化图表进行优先展示,并隐藏重要程度低的可视化图表。例如在可视化图表小于等于预设数量时,可以将全部的可视化图表进行统一展示。
在本申请实施例中,在根据可视化数据库构建可视化图表时,首先获取待展示图表中每个图表的多个业务数据标识,然后计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数,最后基于每个业务数据标识的目标系数在可视化数据库中动态加载可视化数据,得到可视化图表。
具体的,在计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数时,首先提取每个业务数据标识的标识特征向量,然后在可视化数据库中提取每个业务数据标识对应的数据集,其次提取数据集中每个数据的数据特征向量,最后计算标识特征向量与数据集中每个数据的数据特征向量之间的相似距离,并将相似距离确定为每个业务数据标识的目标系数。
相似距离计算公式为:
其中,m为每个业务数据标识的标识特征向量,ni为数据集中第i个数据的数据特征向量,p为数据集中数据个数。
进一步地,在得到可视化图表后,在接受到用户针对图表的操作指令时,解析该操作指令后从解析数据中获取操作指令的请求参数以及函数方法,以该请求参数和函数方法组合动态的脚本操作命令,并执行该脚本操作命令以对可视化数据库中的数据进行直接操作,并将数据通过返回函数返回到前端页面中,前端页面对数据进行数据渲染以对数据进行可视化。本申请通过直接平台页面操作的方式提升平台可视化图表的可操作性,降低了数据从BI数据库中获取带来的延迟,提升了数据处理效率。
进一步地,在将可视化图表进行展示时,首先确定每个可视化图表的优先级高低顺序,然后根据优先级高低顺序将每个可视化图表进行展示。本申请通过对可视化图表设置优先级后的展示方式,可以提升系统平台的友好性,以使得平台可以将重要程度高的图表展示给用户。在确定每个可视化图表的优先级时,首先分析每个可视化图表中数据的重要等级,然后基于该重要等级可对每个可视化图表设置其优先级。在分析每个可视化图表的重要等级时,首先统计每个可视化图表对应的可视化数据,基于该可视化数据结合智能决策模型分析对应的业务类型,根据该业务类型和预设业务类型的权重确定出每个可视化图表的重要等级。
在本申请实施例中,数据的可视化系统首先在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引,然后根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中,其中,BI数据库与可视化数据库的表结构相同,最后根据可视化数据库构建可视化图表,并将可视化图表进行展示。由于本申请通过构建表结构相同的BI数据库和可视化数据库,并基于数据索引将BI数据库中可视化数据更新或插入到可视化数据库中,仅根据可视化数据库执行数据的更新或插入操作,有效防止了在依靠BI数据库进行数据可视化展示时出现的删除操作,从而保障可视化界面上的数据不会出现短暂消失,进而提升了系统平台的稳定性。
请参见图4,为本申请实施例提供了一种数据的可视化方法的流程示意图。
如图4所示,本申请实施例的方法可以包括以下步骤:
S201,在当前时刻与上一时刻的时间间隔等于预设周期时,确定当前时刻的同步任务类型;
S202,在BI数据库中逐一标记当前时刻的同步任务类型对应的可视化数据;
S203,在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;
S204,查询可视化数据库中是否存在与目标数据索引相同的数据索引;
S205,若存在,则根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中;
S206,若不存在,则根据预设数据同步模板将每个标记的可视化数据插入到可视化数据库中;
S207,根据可视化数据库构建可视化图表,并将可视化图表进行展示。
在本申请实施例中,数据的可视化系统首先在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引,然后根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中,其中,BI数据库与可视化数据库的表结构相同,最后根据可视化数据库构建可视化图表,并将可视化图表进行展示。由于本申请通过构建表结构相同的BI数据库和可视化数据库,并基于数据索引将BI数据库中可视化数据更新或插入到可视化数据库中,仅根据可视化数据库执行数据的更新或插入操作,有效防止了在依靠BI数据库进行数据可视化展示时出现的删除操作,从而保障可视化界面上的数据不会出现短暂消失,进而提升了系统平台的稳定性。
下述为本发明系统实施例,可以用于执行本发明方法实施例。对于本发明系统实施例中未披露的细节,请参照本发明方法实施例。
请参见图5,其示出了本发明一个示例性实施例提供的数据的可视化系统的结构示意图。该数据的可视化系统可以通过软件、硬件或者两者的结合实现成为设备的全部或一部分。该系统1包括数据索引获取模块10、数据处理模块20、数据可视化模块30。
数据索引获取模块10,用于在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;
数据处理模块20,用于根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;其中,BI数据库与可视化数据库的表结构相同;
数据可视化模块30,用于根据可视化数据库构建可视化图表,并将可视化图表进行展示。
需要说明的是,上述实施例提供的数据的可视化系统在执行数据的可视化方法时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的数据的可视化系统与数据的可视化方法实施例属于同一构思,其体现实现过程详见方法实施例,这里不再赘述。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
在本申请实施例中,数据的可视化系统首先在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引,然后根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中,其中,BI数据库与可视化数据库的表结构相同,最后根据可视化数据库构建可视化图表,并将可视化图表进行展示。由于本申请通过构建表结构相同的BI数据库和可视化数据库,并基于数据索引将BI数据库中可视化数据更新或插入到可视化数据库中,仅根据可视化数据库执行数据的更新或插入操作,有效防止了在依靠BI数据库进行数据可视化展示时出现的删除操作,从而保障可视化界面上的数据不会出现短暂消失,进而提升了系统平台的稳定性。
在一个实施例中,提出了一种计算机设备,设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现以下步骤:在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;其中,BI数据库与可视化数据库的表结构相同;根据可视化数据库构建可视化图表,并将可视化图表进行展示。
在一个实施例中,处理器执行在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引之前时,还执行以下操作:
在当前时刻与上一时刻的时间间隔等于预设周期时,确定当前时刻的同步任务类型;在BI数据库中逐一标记当前时刻的同步任务类型对应的可视化数据。
在一个实施例中,处理器执行根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中时,具体执行以下操作:
查询可视化数据库中是否存在与目标数据索引相同的数据索引;若存在,则根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中;或者,若不存在,则根据预设数据同步模板将每个标记的可视化数据插入到可视化数据库中。
在一个实施例中,处理器执行根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中时,具体执行以下操作:
获取目标数据索引对应的目标字段;将目标字段和预设更新参数与预设数据同步模板中的数据更新命令脚本进行拼接,得到动态数据更新脚本;执行动态数据更新脚本以将每个标记的可视化数据更新到可视化数据库中。
在一个实施例中,处理器还执行以下操作:
采用BI工具在业务数据库中实时抽取基础业务数据;获取待展示图表中的字段参数;根据待展示图表中的字段参数,并结合hive工具对基础业务数据进行统计汇总,得到汇总数据;将汇总数据保存到BI数据库中。
在一个实施例中,处理器执行根据可视化数据库构建可视化图表时,具体执行以下操作:
获取待展示图表中每个图表的多个业务数据标识;计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数;基于每个业务数据标识的目标系数在可视化数据库中动态加载可视化数据,得到可视化图表。
在一个实施例中,处理器执行计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数时,具体执行以下操作:
提取每个业务数据标识的标识特征向量;
在可视化数据库中提取每个业务数据标识对应的数据集;
提取数据集中每个数据的数据特征向量;
计算标识特征向量与数据集中每个数据的数据特征向量之间的相似距离,并将相似距离确定为每个业务数据标识的目标系数;
相似距离计算公式为:
其中,m为每个业务数据标识的标识特征向量,ni为数据集中第i个数据的数据特征向量,p为数据集中数据个数。
在本申请实施例中,数据的可视化系统首先在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引,然后根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中,其中,BI数据库与可视化数据库的表结构相同,最后根据可视化数据库构建可视化图表,并将可视化图表进行展示。由于本申请通过构建表结构相同的BI数据库和可视化数据库,并基于数据索引将BI数据库中可视化数据更新或插入到可视化数据库中,仅根据可视化数据库执行数据的更新或插入操作,有效防止了在依靠BI数据库进行数据可视化展示时出现的删除操作,从而保障可视化界面上的数据不会出现短暂消失,进而提升了系统平台的稳定性。
在一个实施例中,提出了一种存储有计算机可读指令的介质,该计算机可读指令被一个或多个处理器执行时,使得一个或多个处理器执行以下步骤:在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;其中,BI数据库与可视化数据库的表结构相同;根据可视化数据库构建可视化图表,并将可视化图表进行展示。
在一个实施例中,处理器执行在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引之前时,还执行以下操作:
在当前时刻与上一时刻的时间间隔等于预设周期时,确定当前时刻的同步任务类型;在BI数据库中逐一标记当前时刻的同步任务类型对应的可视化数据。
在一个实施例中,处理器执行根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中时,具体执行以下操作:
查询可视化数据库中是否存在与目标数据索引相同的数据索引;若存在,则根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中;或者,若不存在,则根据预设数据同步模板将每个标记的可视化数据插入到可视化数据库中。
在一个实施例中,处理器执行根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中时,具体执行以下操作:
获取目标数据索引对应的目标字段;将目标字段和预设更新参数与预设数据同步模板中的数据更新命令脚本进行拼接,得到动态数据更新脚本;执行动态数据更新脚本以将每个标记的可视化数据更新到可视化数据库中。
在一个实施例中,处理器还执行以下操作:
采用BI工具在业务数据库中实时抽取基础业务数据;获取待展示图表中的字段参数;根据待展示图表中的字段参数,并结合hive工具对基础业务数据进行统计汇总,得到汇总数据;将汇总数据保存到BI数据库中。
在一个实施例中,处理器执行根据可视化数据库构建可视化图表时,具体执行以下操作:
获取待展示图表中每个图表的多个业务数据标识;计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数;基于每个业务数据标识的目标系数在可视化数据库中动态加载可视化数据,得到可视化图表。
在一个实施例中,处理器执行计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数时,具体执行以下操作:
提取每个业务数据标识的标识特征向量;
在可视化数据库中提取每个业务数据标识对应的数据集;
提取数据集中每个数据的数据特征向量;
计算标识特征向量与数据集中每个数据的数据特征向量之间的相似距离,并将相似距离确定为每个业务数据标识的目标系数;
相似距离计算公式为:
其中,m为每个业务数据标识的标识特征向量,ni为数据集中第i个数据的数据特征向量,p为数据集中数据个数。
在本申请实施例中,数据的可视化系统首先在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引,然后根据目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中,其中,BI数据库与可视化数据库的表结构相同,最后根据可视化数据库构建可视化图表,并将可视化图表进行展示。由于本申请通过构建表结构相同的BI数据库和可视化数据库,并基于数据索引将BI数据库中可视化数据更新或插入到可视化数据库中,仅根据可视化数据库执行数据的更新或插入操作,有效防止了在依靠BI数据库进行数据可视化展示时出现的删除操作,从而保障可视化界面上的数据不会出现短暂消失,进而提升了系统平台的稳定性。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一计算机可读取介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等非易失性介质,或随机存储记忆体(RandomAccess Memory,RAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种数据的可视化方法,其特征在于,所述方法包括:
在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;
根据所述目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;其中,所述BI数据库与所述可视化数据库的表结构相同;
根据所述可视化数据库构建可视化图表,并将所述可视化图表进行展示。
2.根据权利要求1所述的方法,其特征在于,所述在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引之前,还包括:
在当前时刻与上一时刻的时间间隔等于预设周期时,确定当前时刻的同步任务类型;
在BI数据库中逐一标记当前时刻的同步任务类型对应的可视化数据。
3.根据权利要求1所述的方法,其特征在于,所述根据所述目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中,包括:
查询所述可视化数据库中是否存在与所述目标数据索引相同的数据索引;
若存在,则根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中;
或者,
若不存在,则根据预设数据同步模板将每个标记的可视化数据插入到可视化数据库中。
4.根据权利要求3所述的方法,其特征在于,所述根据预设数据同步模板将每个标记的可视化数据更新到可视化数据库中,包括:
获取目标数据索引对应的目标字段;
将所述目标字段和预设更新参数与预设数据同步模板中的数据更新命令脚本进行拼接,得到动态数据更新脚本;
执行动态数据更新脚本以将每个标记的可视化数据更新到可视化数据库中。
5.根据权利要求2所述的方法,其特征在于,所述方法还包括:
采用BI工具在业务数据库中实时抽取基础业务数据;
获取待展示图表中的字段参数;
根据所述待展示图表中的字段参数,并结合hive工具对所述基础业务数据进行统计汇总,得到汇总数据;
将所述汇总数据保存到BI数据库中。
6.根据权利要求1所述的方法,其特征在于,所述根据所述可视化数据库构建可视化图表,包括:
获取待展示图表中每个图表的多个业务数据标识;
计算每个业务数据标识与可视化数据库中可视化数据之间的目标系数,得到每个业务数据标识的目标系数;
基于所述每个业务数据标识的目标系数在可视化数据库中动态加载可视化数据,得到可视化图表。
8.一种数据的可视化系统,其特征在于,所述系统包括:
数据索引获取模块,用于在BI数据库中逐一获取每个标记的可视化数据对应的目标数据索引;
数据处理模块,用于根据所述目标数据索引将每个标记的可视化数据更新或插入到可视化数据库中;其中,所述BI数据库与所述可视化数据库的表结构相同;
数据可视化模块,用于根据所述可视化数据库构建可视化图表,并将所述可视化图表进行展示。
9.一种计算机设备,其特征在于,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述计算机可读指令被所述处理器执行时,使得所述处理器执行如权利要求1至7中任一项权利要求所述数据的可视化方法的步骤。
10.一种存储有计算机可读指令的介质,其特征在于,所述计算机可读指令被一个或多个处理器执行时,使得一个或多个处理器执行如权利要求1至7中任一项权利要求所述数据的可视化的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210849169.9A CN115269713A (zh) | 2022-07-19 | 2022-07-19 | 一种数据的可视化方法、系统、计算机设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210849169.9A CN115269713A (zh) | 2022-07-19 | 2022-07-19 | 一种数据的可视化方法、系统、计算机设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115269713A true CN115269713A (zh) | 2022-11-01 |
Family
ID=83767861
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210849169.9A Pending CN115269713A (zh) | 2022-07-19 | 2022-07-19 | 一种数据的可视化方法、系统、计算机设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115269713A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115794842A (zh) * | 2022-11-02 | 2023-03-14 | 北京明朝万达科技股份有限公司 | 数据处理方法、装置、电子设备及介质 |
-
2022
- 2022-07-19 CN CN202210849169.9A patent/CN115269713A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115794842A (zh) * | 2022-11-02 | 2023-03-14 | 北京明朝万达科技股份有限公司 | 数据处理方法、装置、电子设备及介质 |
CN115794842B (zh) * | 2022-11-02 | 2024-04-05 | 北京明朝万达科技股份有限公司 | 数据处理方法、装置、电子设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019134340A1 (zh) | 薪资计算方法、应用服务器及计算机可读存储介质 | |
CN111797594A (zh) | 基于人工智能的字符串处理方法及相关设备 | |
CN109376153A (zh) | 一种基于NiFi的数据写入图数据库的系统及方法 | |
CN110109981B (zh) | 工作队列的信息展示方法、装置、计算机设备和存储介质 | |
CN114021156A (zh) | 漏洞自动化聚合的整理方法、装置、设备以及存储介质 | |
CN115269713A (zh) | 一种数据的可视化方法、系统、计算机设备及介质 | |
CN116401407A (zh) | 思维导图的节点属性配置方法、装置、设备和存储介质 | |
CN113687825B (zh) | 一种软件模块的构建方法、装置、设备及存储介质 | |
CN111090803A (zh) | 一种数据处理方法、装置、电子设备和存储介质 | |
CN112507098B (zh) | 问题处理方法、装置、电子设备、存储介质及程序产品 | |
CN108694172B (zh) | 信息输出方法和装置 | |
CN113312539A (zh) | 一种检索服务的提供方法、装置、设备和介质 | |
CN116955856A (zh) | 信息展示方法、装置、电子设备以及存储介质 | |
CN112433753A (zh) | 基于参数信息的接口文档生成方法、装置、设备和介质 | |
CN115858463A (zh) | 一种数据管理方法、装置、设备及存储介质 | |
CN106547843B (zh) | 多级分类查询方法和装置 | |
CN115543428A (zh) | 一种基于策略模板的模拟数据生成方法和装置 | |
US8839114B1 (en) | System, method, and computer program for generating a graphical representation of at least a portion of a synchronized network model | |
CN115422270A (zh) | 信息处理方法及装置 | |
CN115471582A (zh) | 地图生成方法、装置、计算机设备及存储介质 | |
CN112162731B (zh) | 数据扩展方法、装置、存储介质及电子装置 | |
CN112286879B (zh) | 基于元数据的数据资产构建方法及装置 | |
CN115328736A (zh) | 一种探针部署方法、装置、设备和存储介质 | |
CN114610955A (zh) | 一种智能检索方法、装置、电子设备及存储介质 | |
CN114238335A (zh) | 一种埋点数据生成方法及其相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |