CN110807016B - 一种应用于金融业务的数据仓库构建方法、装置和电子设备 - Google Patents

一种应用于金融业务的数据仓库构建方法、装置和电子设备 Download PDF

Info

Publication number
CN110807016B
CN110807016B CN201910930873.5A CN201910930873A CN110807016B CN 110807016 B CN110807016 B CN 110807016B CN 201910930873 A CN201910930873 A CN 201910930873A CN 110807016 B CN110807016 B CN 110807016B
Authority
CN
China
Prior art keywords
data
business
tables
merging
data table
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910930873.5A
Other languages
English (en)
Other versions
CN110807016A (zh
Inventor
金晶
王安滨
常富洋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qiyu Information Technology Co Ltd
Original Assignee
Beijing Qiyu Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qiyu Information Technology Co Ltd filed Critical Beijing Qiyu Information Technology Co Ltd
Priority to CN201910930873.5A priority Critical patent/CN110807016B/zh
Publication of CN110807016A publication Critical patent/CN110807016A/zh
Application granted granted Critical
Publication of CN110807016B publication Critical patent/CN110807016B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2228Indexing structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2282Tablespace storage structures; Management thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/04Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供了应用于金融业务的数据仓库构建方法、装置和电子设备。本发明的数据仓库的构建方法包括:获取来自数据库服务器或数据库服务器集群中的多个源数据表,其中,所述数据库服务器或数据库服务器集群为多个金融业务应用提供数据服务;根据所述多个金融业务应用涉及的业务主题对所述多个源数据表进行归并,生成以业务主题区分的多个归并数据表;为所述各归并数据表提供索引,构建数据仓库。本发明的数据仓库能够快速准确地提供报表,或者可快速访问数据库表中的特定信息,整合分类后的归并数据表使得支持大型表和索引更容易,同时也提高了数据管理和查询性能。

Description

一种应用于金融业务的数据仓库构建方法、装置和电子设备
技术领域
本发明涉及计算机信息处理领域,具体而言,涉及一种应用于金融业务的数据仓库构建方法、装置和电子设备。
背景技术
随着电子商务的发展,互联网公司在日常运营中生成、累积的大量用户、商品、生产相关的数据呈现爆发式增长,数据结构也开始多元化,数据中含有的信息越来越多,公司对数据化运营也越来越关注。数据仓库用于对数据进行分处理工作,发挥着巨大的作用。然而,大数据时代的降临,数据仓库慢慢转成分布式架构,以满足爆发式增长的计算以及存储的要求。
数据仓库(Data Warehouse,简写为DW或DWH)是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它是单个数据存储,出于分析性报告和决策支持目的而创建。为需要业务智能的企业,提供指导业务流程改进、监视时间、成本、质量以及控制。数据仓库的基本架构主要包含的是数据流入流出的过程,可以分为源数据、数据仓库、数据应用。具体地,数据仓库中存储有各种各样的业务数据,不同的业务数据存储在不同的业务表中。
在相关技术中,通常根据业务系统做成ER图,现有的BI(商务智能)分析人员在做业务分析时,需要使用ER表,很不方便。另外,BI分析人员是直接使用数据源(大量数据表)支持数据挖掘或数据分析等的业务应用,数据粒度粗,由于对源数据没有进行整合分类,所以需要每个BI分析人员理解整个系统,理解不同业务之间的关系,而业务数据量很大,造成数据仓库管理人员的工作量大。因此,学习成本高。此外,计算大量数据比较浪费。
综上,在提高数据管理和查询性能方面仍存在很大改进空间。
发明内容
为了解决上述问题,本发明提供了一种应用于金融业务的数据仓库的构建方法,所述构建方法包括:获取来自数据库服务器或数据库服务器集群中的多个源数据表,其中,所述数据库服务器或数据库服务器集群为多个金融业务应用提供数据服务;根据所述多个金融业务应用涉及的业务主题对所述多个源数据表进行归并,生成以业务主题区分的多个归并数据表;为所述各归并数据表提供索引,构建数据仓库。
优选地,所述业务主题包括事件、风控、交易、产品运营和推荐。
优选地,所述归并包括通过以用户点击ID、事件ID、交易ID或活动ID作为索引关联相应的数据,以形成与业务主题相对应的多个归并数据表。
优选地,所述多个归并数据表为不同维度的归并数据表。
优选地,所述多个归并数据表通过转换规则相互转换。
优选地,所述归并数据表包括与业务主题相对应的指标数据。
优选地,所述构建方法还包括:对所述多个源数据表进行批处理和流处理。
另外,本发明还提供了一种数据仓库构建装置,所述数据仓库构建装置包括:数据获取模块,获取来自数据库服务器或数据库服务器集群中的多个源数据表,其中,所述数据库服务器或数据库服务器集群为多个金融业务应用提供数据服务;数据处理模块,根据所述多个金融业务应用涉及的业务主题对所述多个源数据表进行归并,生成以业务主题区分的多个归并数据表;以及数据构建模块,其用于为所述各归并数据表提供索引,构建数据仓库。
优选地,所述业务主题包括事件、风控、交易、产品运营和推荐。
优选地,所述归并包括通过以用户点击ID、事件ID、交易ID或活动ID作为索引关联相应的数据,以形成与业务主题相对应的多个归并数据表。
优选地,所述多个归并数据表为不同维度的归并数据表。
优选地,所述多个归并数据表通过转换规则相互转换。
优选地,所述归并数据表包括与业务主题相对应的指标数据。
优选地,所述数据处理模块包括:对所述多个源数据表进行批处理和流处理。
另外,本发明还提供了一种电子设备,其中,该电子设备包括:处理器;以及存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行根据本发明所述的应用于金融业务的数据仓库的构建方法。
另外,本发明还提供了一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现本发明所述的应用于金融业务的数据仓库的构建方法。
有益效果
与现有技术相比,本发明的数据仓库根据多个金融业务应用涉及的业务主题将企业中现有的数据表进行有效的整合分类,能够快速准确的提供报表,或者可快速访问数据库表中的特定信息;整合分类后的归并数据表使得支持大型表和索引更容易,同时也提高了数据管理和查询性能;使用对应业务主题的归并数据表,而无需使用ER表,减少了分析人员的工作量,降低了学习成本。
附图说明
为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚,下面将参照附图详细描述本发明的具体实施例。但需声明的是,下面描述的附图仅仅是本发明本发明示例性实施例的附图,对于本领域的技术人员来讲,在不付出创造性劳动的前提下,可以根据这些附图获得其他实施例的附图。
图1是本发明的应用于金融业务的数据仓库的构建方法的一示例的流程图。
图2是本发明的数据仓库的一示例的示意性结构框图。
图3是本发明的实施例1的数据仓库的另一示例的示意性结构框图。
图4是本发明的实施例1的应用于金融业务的数据仓库的构建方法的另一示例的流程图。
图5是本发明的实施例2的的一示例的示意图。
图6是本发明的实施例2的的另一示例的示意图。
图7是根据本发明的一种电子设备的示例性实施例的结构框图。
图8是根据本发明的计算机可读介质的示例性实施例的结构框图。
具体实施方式
现在将参考附图更全面地描述本发明的示例性实施例。然而,示例性实施例能够以多种形式实施,且不应被理解为本发明仅限于在此阐述的实施例。相反,提供这些示例性实施例能够使得本发明更加全面和完整,更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分,因而将省略对它们的重复描述。
在符合本发明的技术构思的前提下,在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
在对于具体实施例的描述中,本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是,并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
应理解,虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分,但这不应受这些定语限制。这些定语乃是用以区分一者与另一者。例如,第一器件亦可称为第二器件而不偏离本发明实质的技术方案。
术语“和/或”或者“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。
实施例1
下面,将参照图1至图4描述本发明的数据仓库的构建方法和构建装置。
图1为本发明的应用于金融业务的数据仓库的构建方法的流程的示意图。如图1所示,本发明的数据仓库的构建方法包括:
步骤S101,获取来自数据库服务器或数据库服务器集群中的多个数据表,其中,所述数据库服务器或数据库服务器集群为多个金融业务应用提供数据服务;
步骤S102,根据所述多个金融业务应用涉及的业务主题对所述多个源数据表进行归并,生成以业务主题区分的多个归并数据表;
步骤S103,为所述各归并数据表提供索引,构建数据仓库。
接下来,将以借贷类业务系统为示例对本发明的数据仓库的构建方法进行描述。
在步骤S101中,获取来自数据库服务器或数据库服务器集群中的多个数据表,数据库服务器或数据库服务器集群为多个金融业务应用提供数据服务。如图1所示,例如借贷产品、借贷导航、保险产品、理财产品等业务产品在数据库服务器或数据库服务器集群中会产生大量数据表,在本实施例中,大致为1000张数据表,这1000张数据表为数据分析、数据挖掘等的金融业务应用提供数据支持。
需要说明的是,在本发明中,将上述1000张数据表作为源数据表,源数据表包括未经数据加工的原始数据和/或经过数据加工的数据。另外,这些数据表存储在一个或更多个数据库中。
具体地,源数据表所包含的数据包括业务数据和用户行为数据。
其中,业务数据是在业务流程中产生的交易、状态流转、用户等相关的数据,通常存储在DB中,rdbms、nosql等,这部分数据是与业务相关的,具体哪些数据需要保留一般由业务侧设计,不需要过度关注,按实际需要采集即可。
此外,用户行为数据是用户在使用产品过程中,与产品交互过程中产生的数据,例如页面浏览、点击、停留等。
在本实施例中,对源数据表进行统一处理,使源数据表中的数据标准化,形成用于分类归并的多个数据表。优选地,通过批处理或流处理等数据加工,使源数据表中的数据标准化。
接下来,将描述步骤S102。在步骤S102中,根据多个金融业务应用涉及的业务主题对多个源数据表进行归并,生成以业务主题区分的多个归并数据表。因此,使用对应业务主题的归并数据表,而无需使用ER表,减少了分析人员的工作量,降低了学习成本。
优选地,基于业务流程或用户生命周期,将各个业务产品划分成多个业务主题。具体地,在该实施例中,业务主题包括事件、风控、交易、产品运营和推荐,具体参见图2和图3。例如,事件包括额度迭代、页面点击等;风控包括对资金项的风险控制等;交易包括还款、动支等;推荐包括短信销售、电话销售等。
但需注意的是,本发明不限于具体的业务主题的划分方式。在不同的实施方式中,本发明可以根据企业业务的分工方式及业务中使用数据的关联性来进行具体的业务主题的划分。划分的目的在于业务人员能够从对业务本身的理解为切入点,对数据表进行直观的访问,而不需要过多的非业务性因素的干扰。
接下来,将描述步骤S103。在步骤S103中,为各归并数据表提供索引,构建数据仓库。
如图2所示,在该实施例中,所述归并是通过以用户点击ID、事件ID、交易ID或活动ID作为索引关联相应的数据(即,与不同业务主题相对应的数据),以形成多个归并数据表。在本发明的其他实施方式中,只要可以串联同一业务主题的数据均可作为索引,本发明不限于具体的索引数据的选择。
在本实施例中,归并数据表为30张,归并数据表一般为宽表。需要说明的是,在关系数据库中,索引是一种单独的、物理的对数据库表中一列或多列的值进行排序的一种存储结构,索引的作用相当于图书的目录,使用索引可快速访问数据库表中的特定信息。
下面,以业务主题中交易为示例对归并数据表进行说明。
在本实施例中,多个归并数据表为不同维度的归并数据表。更具体地,例如通过对源数据表中的数据进行升维处理或者降维处理,或者未进行处理,而获得不同维度的归并数据表。
此外,与各业务主题相关的多个归并数据表中的数据能够通过转换规则相互转换。例如通过降维处理或升维处理等的方式进行数据转换。
在本实施例中,多个归并数据表的类别包括第一数据表、用于维度建模的第二数据表、与业务报表相关的第三数据表及应用于金融业务的数据指标的第四数据表中的至少一种数据表。
具体地,例如,第一数据表(Dwb)为包括大量指标数据的数据表第一数据表。第二数据表(Dw)为包括维度值(诸如年龄、性别等)和属性值(诸如交易次数、交易金额等)的数据表。第三数据表(Ads)为以业务主线划分的数据库中数据表,例如为包括贷款余额等的数据表。第四数据表(St)为包括白名单、VIP名单等的数据表。
更进一步地,归并数据表包括与业务主题相对应的指标数据,指标数据与目标查询信息相关联。
将多个归并数据表存储在对应业务主题的数据库中。
由此,构建了本发明的数据仓库。
在其他实施例中,还可以将S103拆成两个步骤(S103和S104),并增加指标数据的记录处理,具体包括记录指标数据从所述源数据表到所述归并数据表的数据对应关系,由此构建数据仓库,具体参见图4。
需要说明的是,上述构建方法的过程仅用于对本发明的说明,其中,步骤的顺序没有特别的限制。
与现有技术相比,由于本发明的数据仓库将企业中现有的数据进行了有效的整合分类,所以能够快速准确地提供报表,或者可快速访问数据库表中的特定信息,整合分类后的归并数据表使得支持大型表和索引更容易,同时也提高了数据管理和查询性能;使用对应业务主题的归并数据表,而无需使用ER表,减少了分析人员的工作量,降低了学习成本。
需要说明的是,上述仅为优选的实施例,不能理解成对本发明的限制。在其他实施例中,还可以使用用户风险控制模型计算用户的风险等级,或者作为其他风险预测模型中的预测模块等。
本领域技术人员可以理解,实现上述实施例的全部或部分步骤被实现为由计算机数据处理设备执行的程序(计算机程序)。在该计算机程序被执行时,可以实现本发明提供的上述方法。而且,所述的计算机程序可以存储于计算机可读存储介质中,该存储介质可以是磁盘、光盘、ROM、RAM等可读存储介质,也可以是多个存储介质组成的存储阵列,例如磁盘或磁带存储阵列。所述的存储介质不限于集中式存储,其也可以是分布式存储,例如基于云计算的云存储。
下面描述本发明的数据仓库构建装置的实施例,该装置可以用于执行本发明的方法实施例。对于本发明装置实施例中描述的细节,应视为对于上述方法实施例的补充;对于在本发明装置实施例中未披露的细节,可以参照上述方法实施例来实现。
实施例2
参照图5,本发明还提供了一种数据仓库构建装置500,该数据仓库构建装置500包括数据获取模块501、数据处理模块以及数据构建模块503。
在本实施例中,数据获取模块501用于获取来自数据库服务器或数据库服务器集群中的多个源数据表,其中,所述数据库服务器或数据库服务器集群为多个金融业务应用提供数据服务。
具体地,数据处理模块502根据所述多个金融业务应用涉及的业务主题对所述多个源数据表进行归并,生成以业务主题区分的多个归并数据表。数据处理模块包括一个或更多个处理模块。在本实施例中,为一个数据处理模块502,在其他实施例中,可以为两个或更多个数据处理模块,例如第一处理模块和第二处理模块,可根据实际需要来确定。
进一步地,数据构建模块503用于为所述各归并数据表提供索引,构建数据仓库。
优选地,所述业务主题包括事件、风控、交易、产品运营和推荐。
优选地,所述归并包括通过以用户点击ID、事件ID、交易ID或活动ID作为索引关联相应的数据,以形成与业务主题相对应的多个归并数据表。
优选地,所述多个归并数据表为不同维度的归并数据表。
优选地,所述多个归并数据表通过转换规则相互转换。
优选地,所述归并数据表包括与业务主题相对应的指标数据。
优选地,所述数据处理模块包括:对所述多个源数据表进行批处理和流处理。
需要说明的是,在实施例2中,省略了与实施例1相同的部分的说明。
在其他实施例中,如图6所示,数据仓库构建装置500还包括数据查询模块504,该数据查询模块504用于查询数据仓库中的所需的归并数据表。
本领域技术人员可以理解,上述装置实施例中的各模块可以按照描述分布于装置中,也可以进行相应变化,分布于不同于上述实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
实施例3
下面描述本发明的电子设备实施例,该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节,应视为对于上述方法或装置实施例的补充;对于在本发明电子设备实施例中未披露的细节,可以参照上述方法或装置实施例来实现。
图7是根据本发明的一种电子设备的示例性实施例的结构框图。下面参照图7来描述根据本发明该实施例的的电子设备200。图7显示的电子设备200仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图7所示,电子设备200以通用计算设备的形式表现。电子设备200的组件可以包括但不限于:至少一个处理单元210、至少一个存储单元220、连接不同系统组件(包括存储单元220和处理单元210)的总线230、显示单元240等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元210执行,使得所述处理单元210执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元210可以执行如图1所示的步骤。
所述存储单元220可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)2201和/或高速缓存存储单元2202,还可以进一步包括只读存储单元(ROM)2203。
所述存储单元220还可以包括具有一组(至少一个)程序模块2205的程序/实用工具2204,这样的程序模块2205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线230可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备200也可以与一个或多个外部设备300(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备200交互的设备通信,和/或与使得该电子设备200能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口250进行。并且,电子设备200还可以通过网络适配器260与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器260可以通过总线230与电子设备200的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备200使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,本发明描述的示例性实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个计算机可读的存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时,使得该计算机可读介质能够实现本发明的上述方法,即:使用历史用户的APP下载序列向量数据和逾期信息作为训练数据,对所创建的用户风险控制模型进行训练,使用所创建的用户风险控制模型计算目标用户的金融风险预测值。
如图8所示,所述计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上所述,本发明可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详细说明,应理解的是,本发明不与任何特定计算机、虚拟装置或者电子设备固有相关,各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种数据仓库的构建方法,其特征在于,包括:
获取来自数据库服务器或数据库服务器集群中的多个源数据表,其中,所述数据库服务器或数据库服务器集群为多个应用提供数据服务产生大量的为数据分析和挖掘提供数据支持的源数据表;每个源数据表包含业务数据和用户行为数据;
对多个所述源数据表进行批处理和流处理的数据加工而使得所述源数据表中的数据标准化;
基于业务流程、或用户生命周期、或企业业务分工方式和业务中使用数据的关联性,将各个业务产品划分成多个业务主题以从业务本身为切入点对数据表直观访问,并且,根据所述多个应用涉及的业务主题对数据标准化的多个所述源数据表进行归并,生成以业务主题区分的多个归并数据表而无需ER表;
为各个所述归并数据表提供索引,将多个归并数据表存储在对应业务主题的数据库中并记录指标数据从所述源数据表到所述归并数据表的数据对应关系而构建数据仓库,所述归并包括通过以用户点击ID、事件ID、交易ID或活动ID作为索引关联相应的数据,确定与不同业务主题相对应的数据,将同一业务主题的数据进行串联,形成与业务主题相对应的多个归并数据表;其中,所述多个归并数据表为通过对源数据表中的数据进行升维处理或者降维处理获得的不同维度的归并数据表;整合分类后的归并数据表的类别包括:具有大量指标数据的第一数据表、用于维度建模的具有纬度值和属性值的第二数据表、与业务报表相关的以业务主线划分的第三数据表及应用于业务的数据指标的第四数据表中的至少一种数据表;以及,记录指标数据并记录指标数据从源数据表到归并数据表的对应关系。
2.根据权利要求1中所述的方法,其特征在于,所述业务主题包括事件、风控、交易、产品运营和推荐。
3.根据权利要求1所述的方法,其特征在于,还包括:所述归并数据表通过降维处理或升维处理的转换规则相互转换。
4.根据权利要求1所述的方法,其特征在于,所述归并数据表包括与业务主题相对应的指标数据,指标数据与目标查询信息相关联。
5.一种数据仓库的构建装置,其特征在于,包括:
数据获取模块,获取来自数据库服务器或数据库服务器集群中的多个源数据表,其中,所述数据库服务器或数据库服务器集群为多个应用提供数据服务产生大量的为数据分析和挖掘提供数据支持的源数据表;每个源数据表包含业务数据和用户行为数据;
数据处理模块,对多个所述源数据表进行批处理和流处理的数据加工而使得所述源数据表中的数据标准化;基于业务流程、或用户生命周期、或企业业务分工方式和业务中使用数据的关联性,将各个业务产品划分成多个业务主题以从业务本身为切入点对数据表直观访问,并且,根据所述多个应用涉及的业务主题对数据标准化的多个所述源数据表进行归并,生成以业务主题区分的多个归并数据表而无需ER表;以及
数据构建模块,为各个所述归并数据表提供索引,将多个归并数据表存储在对应业务主题的数据库中并记录指标数据从所述源数据表到所述归并数据表的数据对应关系而构建数据仓库,所述归并包括通过以用户点击ID、事件ID、交易ID或活动ID作为索引关联相应的数据,确定与不同业务主题相对应的数据,将同一业务主题的数据进行串联,形成与业务主题相对应的多个归并数据表;其中,所述多个归并数据表为通过对源数据表中的数据进行升维处理或者降维处理获得的不同维度的归并数据表;整合分类后的归并数据表的类别包括:具有大量指标数据的第一数据表、用于维度建模的具有纬度值和属性值的第二数据表、与业务报表相关的以业务主线划分的第三数据表及应用于业务的数据指标的第四数据表中的至少一种数据表;以及,记录指标数据并记录指标数据从源数据表到归并数据表的对应关系。
6.根据权利要求5中所述的装置,其特征在于,所述业务主题包括事件、风控、交易、产品运营和推荐。
7.根据权利要求5所述的装置,其特征在于,还包括:所述多个归并数据表通过降维处理或升维处理的转换规则相互转换。
8.根据权利要求7所述的装置,其特征在于,所述归并数据表包括与业务主题相对应的指标数据,指标数据与目标查询信息相关联。
9.一种电子设备,其中,该电子设备包括:
处理器;以及,
存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行根据权利要求1-4中任一项所述的方法。
10.一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现权利要求1-4中任一项所述的方法。
CN201910930873.5A 2019-09-29 2019-09-29 一种应用于金融业务的数据仓库构建方法、装置和电子设备 Active CN110807016B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910930873.5A CN110807016B (zh) 2019-09-29 2019-09-29 一种应用于金融业务的数据仓库构建方法、装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910930873.5A CN110807016B (zh) 2019-09-29 2019-09-29 一种应用于金融业务的数据仓库构建方法、装置和电子设备

Publications (2)

Publication Number Publication Date
CN110807016A CN110807016A (zh) 2020-02-18
CN110807016B true CN110807016B (zh) 2024-08-27

Family

ID=69487923

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910930873.5A Active CN110807016B (zh) 2019-09-29 2019-09-29 一种应用于金融业务的数据仓库构建方法、装置和电子设备

Country Status (1)

Country Link
CN (1) CN110807016B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111242520B (zh) * 2020-04-24 2021-03-02 北京淇瑀信息科技有限公司 特征合成模型的生成方法、装置及电子设备
CN111221881B (zh) * 2020-04-24 2020-08-28 北京淇瑀信息科技有限公司 用户特征数据合成方法、装置及电子设备
CN112015469B (zh) * 2020-07-14 2023-11-14 北京淇瑀信息科技有限公司 一种系统重构方法、装置和电子设备
CN112818048A (zh) * 2021-01-28 2021-05-18 北京软通智慧城市科技有限公司 数据仓库的分层构建方法、装置、电子设备及存储介质
CN113011984A (zh) * 2021-05-07 2021-06-22 中国工商银行股份有限公司 金融产品的业务数据处理方法及装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108268565A (zh) * 2017-01-04 2018-07-10 北京京东尚科信息技术有限公司 基于数据仓库处理用户浏览行为数据的方法及系统

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101253335B1 (ko) * 2011-06-07 2013-04-10 백승호 데이터 웨어하우스를 이용한 데이터베이스 구축 방법 및 그 시스템
CN107918600B (zh) * 2017-11-15 2021-11-23 泰康保险集团股份有限公司 报表开发系统及方法、存储介质和电子设备
CN108959564B (zh) * 2018-07-04 2020-11-27 玖富金科控股集团有限责任公司 数据仓库元数据管理方法、可读存储介质和计算机设备
CN109726174A (zh) * 2018-12-28 2019-05-07 江苏满运软件科技有限公司 数据归档方法、系统、设备以及存储介质

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108268565A (zh) * 2017-01-04 2018-07-10 北京京东尚科信息技术有限公司 基于数据仓库处理用户浏览行为数据的方法及系统

Also Published As

Publication number Publication date
CN110807016A (zh) 2020-02-18

Similar Documents

Publication Publication Date Title
CN110795509B (zh) 一种数据仓库的指标血缘关系图的构建方法、装置和电子设备
CN110807016B (zh) 一种应用于金融业务的数据仓库构建方法、装置和电子设备
CN107918600B (zh) 报表开发系统及方法、存储介质和电子设备
CN110795478A (zh) 一种应用于金融业务的数据仓库更新方法、装置和电子设备
US5446885A (en) Event driven management information system with rule-based applications structure stored in a relational database
US12019995B2 (en) Ontology-driven conversational interface for data analysis
US20060010058A1 (en) Multidimensional database currency conversion systems and methods
CN111177231A (zh) 报表生成方法和报表生成装置
US20140100923A1 (en) Natural language metric condition alerts orchestration
US11615076B2 (en) Monolith database to distributed database transformation
WO2011092203A1 (en) System and method for building a cloud aware massive data analytics solution background
CA3059738A1 (en) Behaviour data processing method, device, electronic device and computer readable medium
CN110674117A (zh) 数据建模方法、装置、计算机可读介质及电子设备
US20210125272A1 (en) Using Inferred Attributes as an Insight into Banking Customer Behavior
CN112949269A (zh) 可视化数据分析报表的生成方法、系统、设备及存储介质
CN110363662A (zh) 一种个人信用评分系统
CN110544118B (zh) 销量预测方法、装置、介质和计算设备
CN112463916A (zh) 计算机化竞争力分析
CN112686705B (zh) 一种预测销售效果数据的方法、装置和电子设备
CN111861004B (zh) 日收入产量的自动佣金预测方法、系统、设备及存储介质
CN113792039A (zh) 数据处理方法及装置、电子设备、存储介质
CN112241392A (zh) 调查数据的智能审核方法、系统、存储介质及电子设备
CN112015912A (zh) 一种基于知识图谱的指标智能可视化方法及装置
US11627193B2 (en) Method and system for tracking application activity data from remote devices and generating a corrective action data structure for the remote devices
CN114004542B (zh) 一种企业任务管理方法、系统、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant