CN110825729B - 数据查询方法及装置、存储介质、电子装置 - Google Patents
数据查询方法及装置、存储介质、电子装置 Download PDFInfo
- Publication number
- CN110825729B CN110825729B CN201810923681.7A CN201810923681A CN110825729B CN 110825729 B CN110825729 B CN 110825729B CN 201810923681 A CN201810923681 A CN 201810923681A CN 110825729 B CN110825729 B CN 110825729B
- Authority
- CN
- China
- Prior art keywords
- data
- database
- source
- list
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000004590 computer program Methods 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 5
- 238000013500 data storage Methods 0.000 claims description 4
- 238000004458 analytical method Methods 0.000 abstract description 7
- 238000007405 data analysis Methods 0.000 abstract description 4
- 238000005516 engineering process Methods 0.000 abstract description 4
- 230000000694 effects Effects 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种数据查询方法及装置、存储介质、电子装置,该方法,包括:根据定义的数据范围将数据范围中的源数据存储在第一数据库中;根据业务需求对源数据进行分类,得到数据元素列表;将数据元素列表存储在第二数据库中;从第二数据库查询中数据元素列表中的数据。因此,可以解决相关技术中数据库不适用于分析系统适用,影响数据分析的问题,达到准确分析数据的效果。
Description
技术领域
本发明涉及通信领域,具体而言,涉及一种数据查询方法及装置、存储介质、电子装置。
背景技术
传统的关系数据库存储业务系统的数据。由于面向业务,表结构为事务处理性能做了优化,且事务处理的优先级比分析系统高,如果分析系统和事务处理运行在同一硬件之上,分析系统的性能往往很差。现有技术中的数据库并不适用于分析系统适用。
针对上述技术问题,相关技术中尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种数据查询方法及装置、存储介质、电子装置,以至少解决相关技术中数据库不适用于分析系统适用,影响数据分析的问题。
根据本发明的一个实施例,提供了一种数据查询方法,包括:根据定义的数据范围将所述数据范围中的源数据存储在第一数据库中;根据业务需求对所述源数据进行分类,得到数据元素列表;将所述数据元素列表存储在第二数据库中;从所述第二数据库查询中所述数据元素列表中的数据。
可选地,根据定义的数据范围将所述数据范围中的源数据存储在所述第一数据库中包括:从多个源系统中获取所述源数据;对所述源数据进行去噪;合并去噪之后的源数据中相同的数据;将处理之后的源数据存储在所述第一数据库中。
可选地,根据业务需求对所述源数据进行分类,得到数据元素列表包括:将处理之后的源数据转换为数据目录;对所述数据目录进行装载,得到所述数据元素列表。
可选地,利用所述第二数据库查询所述数据元素列表中的数据包括:接收用户的查询请求,其中,所述查询请求中包括数据库结构和对象名;将所述数据库结构和所述对象名转换为业务术语;在所述第二数据库中查询有所述业务术语对应的数据。
根据本发明的另一个实施例,还提供一种数据存储系统,包括:第一数据库,用于存储定义的数据范围的源数据;第二数据库,用于存储数据元素列表,其中,所述数据元素列表是根据业务需求对所述源数据进行分类得到的;查询引擎,用于在所述第二数据库查询所述数据元素列表中的数据。
根据本发明的另一个实施例,还提供一种数据查询装置,包括:第一存储模块,用于根据定义的数据范围将所述数据范围中的源数据存储在第一数据库中;确定模块,用于根据业务需求对所述源数据进行分类,得到数据元素列表;第二存储模块,用于将所述数据元素列表存储在第二数据库中;查询模块,用于从所述第二数据库查询中所述数据元素列表中的数据。
根据本发明的又一个实施例,还提供了一种存储介质,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。
根据本发明的又一个实施例,还提供了一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。
通过本发明,由于根据定义的数据范围将数据范围中的源数据存储在第一数据库中;根据业务需求对源数据进行分类,得到数据元素列表;将数据元素列表存储在第二数据库中;从第二数据库查询中数据元素列表中的数据。因此,可以解决相关技术中数据库不适用于分析系统适用,影响数据分析的问题,达到准确分析数据的效果。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是本发明实施例的一种数据查询方法的移动终端的硬件结构框图;
图2是根据本发明实施例的数据查询方法的流程图;
图3是本实施例中的数据查询的结构示意图;
图4是根据本发明实施例的数据查询装置的结构框图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例,图1是本发明实施例的一种数据查询方法的移动终端的硬件结构框图。如图1所示,移动终端10可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104,可选地,上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述移动终端的结构造成限定。例如,移动终端10还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
存储器104可用于存储计算机程序,例如,应用软件的软件程序以及模块,如本发明实施例中的数据查询方法对应的计算机程序,处理器102通过运行存储在存储器104内的计算机程序,从而执行各种功能应用以及数据处理,即实现上述的方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至移动终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端10的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
在本实施例中提供了一种数据查询方法,图2是根据本发明实施例的数据查询方法的流程图,如图2所示,该流程包括如下步骤:
步骤S202,根据定义的数据范围将数据范围中的源数据存储在第一数据库中;
步骤S204,根据业务需求对源数据进行分类,得到数据元素列表;
步骤S206,将数据元素列表存储在第二数据库中;
步骤S208,从第二数据库查询中数据元素列表中的数据。
通过上述步骤,由于根据定义的数据范围将数据范围中的源数据存储在第一数据库中;根据业务需求对源数据进行分类,得到数据元素列表;将数据元素列表存储在第二数据库中;从第二数据库查询中数据元素列表中的数据。因此,可以解决相关技术中数据库不适用于分析系统适用,影响数据分析的问题,达到准确分析数据的效果。
可选地,上述步骤的执行主体可以为终端,但不限于此。
图3是本实施例中的数据查询的结构示意图,如图3所示,第一数据库可以是原始数据存储(RAW DATA STORES,简称为RDS),第二数据可以是转换后的数据存储(TRANSFORMED DATA STORES,简称为TDS)。定义的数据范围可以是一个组织、地区、应用、业务功能的联合表示。定义数据范围时通常需要权衡考虑资源(人员、系统、预算等)、进度(项目的时间和里程碑要求)、功能(数据仓库承诺达到的能力)三方面的因素。源数据可以是业务数据库、外部数据或者是文档数据中的数据。业务需求可以是用户需要查询的数据需求。确定业务需求需要清楚业务用户是如何做决策的,在决策过程中提出了那些问题,以及哪些数据是回答这些问题所需要的;要知道如何清理操作型数据,如何移除垃圾数据,如何将来自多个源系统的相同数据整合在一起。
可选地,通过以下方式根据定义的数据范围将数据范围中的源数据存储在第一数据库中:从多个源系统中获取源数据;对源数据进行去噪(即抽取过程);合并去噪之后的源数据中相同的数据;将处理之后的源数据存储在第一数据库中(其中包括数据目录)。
可选地,通过以下方式根据业务需求对源数据进行分类,得到数据元素列表:将处理之后的源数据转换为数据目录;对数据目录进行装载,得到数据元素列表。得到的数据元素列表可以通过细化业务用户的需求以形成数据元素列表;从最大最复杂的数据源开始,在必要时再查找其他源系统;制作实体关系图,实体对应关系数据库中的表,属性对应关系数据库中的列。
可选地利用第二数据库查询数据元素列表中的数据包括:接收用户的查询请求,其中,查询请求中包括数据库结构和对象名;将数据库结构和对象名转换为业务术语;在第二数据库中查询有业务术语对应的数据。
可选地,本实施例需要将逻辑设计的对象集合,转换为一个物理数据库(对应于第一数据库),包括所有的表、索引、约束、视图等。物理数据库结构需要优化以获得最佳的性能。
源和目标结构之间的建立映射关系;从源系统抽取数据;对数据进行清洗和转换;将数据装载进数据仓库;创建并存储源数据。
为前端工具把数据库结构和对象名转化成业务术语;管理和维护这个业务接口;建立和管理数据仓库里的中间表和汇总表。
确保对数据的安全访问、管理数据增长、优化系统以获得更好的性能、保证系统的可用性和可恢复性等。
本实施例还提供一种数据存储系统,具体如何3所示,包括第一数据库(对应于图3中的RDS),用于存储定义的数据范围的源数据;第二数据库(对应于图3中的TDS),用于存储数据元素列表,其中,数据元素列表是根据业务需求对源数据进行分类得到的;查询引擎,用于在第二数据库查询数据元素列表中的数据。
图4是根据本发明实施例的数据查询装置的结构框图,如图4所示,该装置包括:第一存储模块42、确定模块44、第二存储模块46以及查询模块48,下面对该装置进行详细说明:
第一存储模块42,用于根据定义的数据范围将数据范围中的源数据存储在第一数据库中;
确定模块44,用于根据业务需求对源数据进行分类,得到数据元素列表;
第二存储模块46,用于将数据元素列表存储在第二数据库中;
查询模块48,用于从第二数据库查询中数据元素列表中的数据。
在一个可选的实施例中,上述装置在确定目标对象的方位信息之前,还用于:确定发出语音信息的目标对象的权限。
在一个可选的实施例中,第一存储模块42通过以下方式根据定义的数据范围将数据范围中的源数据存储在第一数据库中:从多个源系统中获取源数据;对源数据进行去噪;合并去噪之后的源数据中相同的数据;将处理之后的源数据存储在第一数据库中。
在一个可选的实施例中,确定模块44通过以下方式根据业务需求对源数据进行分类,得到数据元素列表:将处理之后的源数据转换为数据目录;对数据目录进行装载,得到数据元素列表。
在一个可选的实施例中,上述装置通过以下方式利用第二数据库查询数据元素列表中的数据:接收用户的查询请求,其中,查询请求中包括数据库结构和对象名;将数据库结构和对象名转换为业务术语;在第二数据库中查询有业务术语对应的数据。
需要说明的是,上述各个模块是可以通过软件或硬件来实现的,对于后者,可以通过以下方式实现,但不限于此:上述模块均位于同一处理器中;或者,上述各个模块以任意组合的形式分别位于不同的处理器中。
可选地,在本实施例中,上述存储介质可以被设置为存储用于执行以上各步骤的计算机程序。
可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。
本发明的实施例还提供了一种电子装置,包括存储器和处理器,该存储器中存储有计算机程序,该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
可选地,上述电子装置还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。
可选地,本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例,本实施例在此不再赘述。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (6)
1.一种数据查询方法,其特征在于,包括:
根据定义的数据范围将所述数据范围中的源数据存储在第一数据库中;
根据业务需求对所述源数据进行分类,得到数据元素列表,其中,所述业务需求为用户需要查询的数据需求,且所述业务需求与用户做决策的逻辑、用户在决策过程中出现的问题、回答该问题所需要的数据相关;
将所述数据元素列表存储在第二数据库中;
从所述第二数据库查询中所述数据元素列表中的数据;
其中,根据业务需求对所述源数据进行分类,得到数据元素列表包括:将处理之后的源数据转换为数据目录;对所述数据目录进行装载,得到所述数据元素列表;
其中,利用所述第二数据库查询所述数据元素列表中的数据包括:接收用户的查询请求,其中,所述查询请求中包括数据库结构和对象名;将所述数据库结构和所述对象名转换为业务术语;在所述第二数据库中查询有所述业务术语对应的数据。
2.根据权利要求1所述的方法,其特征在于,根据定义的数据范围将所述数据范围中的源数据存储在所述第一数据库中包括:
从多个源系统中获取所述源数据;
对所述源数据进行去噪;
合并去噪之后的源数据中相同的数据;
将处理之后的源数据存储在所述第一数据库中。
3.一种数据存储系统,其特征在于,包括:
第一数据库,用于存储定义的数据范围的源数据;
第二数据库,用于存储数据元素列表,其中,所述数据元素列表是根据业务需求对所述源数据进行分类得到的,其中,所述业务需求为用户需要查询的数据需求,且所述业务需求与用户做决策的逻辑、用户在决策过程中出现的问题、回答该问题所需要的数据相关;
查询引擎,用于在所述第二数据库查询所述数据元素列表中的数据;
其中,所述数据存储系统通过以下方式根据业务需求对源数据进行分类,得到数据元素列表:将处理之后的源数据转换为数据目录;对数据目录进行装载,得到数据元素列表;
其中,利用第二数据库查询数据元素列表中的数据包括:接收用户的查询请求,其中,查询请求中包括数据库结构和对象名;将数据库结构和对象名转换为业务术语;在第二数据库中查询有业务术语对应的数据。
4.一种数据查询装置,其特征在于,包括:
第一存储模块,用于根据定义的数据范围将所述数据范围中的源数据存储在第一数据库中;
确定模块,用于根据业务需求对所述源数据进行分类,得到数据元素列表,其中,所述业务需求为用户需要查询的数据需求,且所述业务需求与用户做决策的逻辑、用户在决策过程中出现的问题、回答该问题所需要的数据相关;
第二存储模块,用于将所述数据元素列表存储在第二数据库中;
查询模块,用于从所述第二数据库查询中所述数据元素列表中的数据;
其中,所述确定模块通过以下方式根据业务需求对源数据进行分类,得到数据元素列表:将处理之后的源数据转换为数据目录;对数据目录进行装载,得到数据元素列表
其中,所述装置通过以下方式利用第二数据库查询数据元素列表中的数据:接收用户的查询请求,其中,查询请求中包括数据库结构和对象名;将数据库结构和对象名转换为业务术语;在第二数据库中查询有业务术语对应的数据。
5.一种存储介质,其特征在于,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行权利要求1或2所述的方法。
6.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行权利要求1或2所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810923681.7A CN110825729B (zh) | 2018-08-14 | 2018-08-14 | 数据查询方法及装置、存储介质、电子装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810923681.7A CN110825729B (zh) | 2018-08-14 | 2018-08-14 | 数据查询方法及装置、存储介质、电子装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110825729A CN110825729A (zh) | 2020-02-21 |
CN110825729B true CN110825729B (zh) | 2021-06-04 |
Family
ID=69547248
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810923681.7A Active CN110825729B (zh) | 2018-08-14 | 2018-08-14 | 数据查询方法及装置、存储介质、电子装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110825729B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112182031B (zh) * | 2020-10-12 | 2023-06-13 | 浙江大华技术股份有限公司 | 数据查询方法及装置、存储介质、电子装置 |
CN117492664B (zh) * | 2023-12-29 | 2024-04-16 | 柏科数据技术(深圳)股份有限公司 | 一种源数据双控双活存储控制方法、系统、终端及介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103399924A (zh) * | 2013-08-05 | 2013-11-20 | 河海大学 | 一种水文水资源数据目录生成系统及方法 |
CN105183735B (zh) * | 2014-06-18 | 2019-02-19 | 阿里巴巴集团控股有限公司 | 数据的查询方法及查询装置 |
US10127393B2 (en) * | 2015-07-20 | 2018-11-13 | The United States Of America, As Represented By The Secretary Of Commerce | Next generation access control system and process for controlling database access |
CN108108439A (zh) * | 2017-12-21 | 2018-06-01 | 北京奇艺世纪科技有限公司 | 一种数据查询方法、装置及电子设备 |
-
2018
- 2018-08-14 CN CN201810923681.7A patent/CN110825729B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN110825729A (zh) | 2020-02-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107704527B (zh) | 数据存储方法、装置及存储介质 | |
CN108932313B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN114691786A (zh) | 数据血缘关系的确定方法及装置、存储介质、电子装置 | |
CN106982150B (zh) | 一种基于Hadoop的移动互联网用户行为分析方法 | |
CN107688645B (zh) | 一种保单数据处理方法及终端设备 | |
CN103620601A (zh) | 在映射缩减过程中汇合表 | |
US11036699B2 (en) | Method for computing distinct values in analytical databases | |
KR101630752B1 (ko) | 유통용 비식별 빅데이터 처리 방법 | |
CN110825729B (zh) | 数据查询方法及装置、存储介质、电子装置 | |
CN106407442B (zh) | 一种海量文本数据处理方法及装置 | |
CN113849499A (zh) | 数据的查询方法、装置、存储介质及电子装置 | |
CN111367870A (zh) | 一种绘本共享方法、装置和系统 | |
CN106202254A (zh) | 一种查询方法及数据查询系统 | |
CN112419044A (zh) | 信用审核的方法、设备、电子装置和存储介质 | |
CN111309946B (zh) | 一种已建立档案优化方法及装置 | |
CN111008220A (zh) | 数据源的动态识别方法及装置、存储介质和电子装置 | |
CN112286916B (zh) | 一种数据处理方法、装置、设备及存储介质 | |
CN113094444B (zh) | 数据处理方法、数据处理装置、计算机设备和介质 | |
CN111814020A (zh) | 一种数据的获取方法和装置 | |
US20180196814A1 (en) | Qualitative and quantitative analysis of data artifacts using a cognitive approach | |
CN112699183A (zh) | 数据处理方法、系统、可读存储介质及计算机设备 | |
CN111563107A (zh) | 信息推荐的方法、装置、电子设备和存储介质 | |
CN115718879A (zh) | 数据治理方法、装置以及存储介质 | |
CN110716938A (zh) | 数据的汇聚方法及装置、存储介质和电子装置 | |
US20230297596A1 (en) | Mutual Exclusion Data Class Analysis in Data Governance |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |