CN116795818A - 数据仓库提炼优化方法、装置、设备及其存储介质 - Google Patents
数据仓库提炼优化方法、装置、设备及其存储介质 Download PDFInfo
- Publication number
- CN116795818A CN116795818A CN202310674660.7A CN202310674660A CN116795818A CN 116795818 A CN116795818 A CN 116795818A CN 202310674660 A CN202310674660 A CN 202310674660A CN 116795818 A CN116795818 A CN 116795818A
- Authority
- CN
- China
- Prior art keywords
- data
- layer
- preset
- reference threshold
- ods
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000007670 refining Methods 0.000 title claims abstract description 37
- 238000012545 processing Methods 0.000 claims abstract description 148
- 238000005457 optimization Methods 0.000 claims abstract description 33
- 238000013461 design Methods 0.000 claims abstract description 24
- 238000004458 analytical method Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000005516 engineering process Methods 0.000 abstract description 11
- 238000013500 data storage Methods 0.000 abstract description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/217—Database tuning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2462—Approximate or statistical queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/283—Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请实施例属于数据仓库优化技术领域，涉及一种数据仓库提炼优化方法、装置、设备及其存储介质，应用于金融科技技术领域，包括分析并获取所有被物理深加工的ODS层表中数据；统计并获取满足预设的跨层引用阈值的层表中数据，统计并获取ODS层被引用次数超过预设的表单引用阈值的表单中数据；将上述三类数据作为待重新整理开发的数据；并进行数据指标口径统一化处理；根据统一化处理结果，将目标数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。从而保证数据仓库分层和各层中表单设计的科学性和合理性，提高数据仓库中数据的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
Description
技术领域
本申请涉及金融科技技术领域，主要应用于对金融行业数据仓库进行优化过程中，尤其涉及一种数据仓库提炼优化方法、装置、设备及其存储介质。
背景技术
数据仓库中，往往由多个汇总报表。而根据业务的需求与加工逻辑，会形成各自独立的加工过程。这样造成的结果就是：不同的业务逻辑或产品加工需求，形成了不同的加工链路，例如，金融行业的保险业务、银行业务或者交易业务，各个业务平台频繁从数据仓库内获取原始数据进行清洗、加工、计算指标，结果就是开发投入时间长，相同的字段、指标无法复用，重复度高，资源消耗大。
以往金融行业对数据集市加工处理的过程，采用的是独立的加工模式，根据报表的指标、维度需求。从底层数仓或ODS开始取数加工，尤其像保险业务、银行业务或者交易业务等这类涉及较多业务数据，且任务逻辑复杂的加工过程，每层有多个加工链路，最后汇总到应用层，根据实际需求，部分还需要在可视化展示平台的报表加工层，使得底层及中间表的链路长，业务逻辑加工、产品涵盖范围都偏单一，可复用率小。同时，存在相同的业务逻辑，重复加工的可能性大，整体资源消耗增加，成本居高不下，用户满意度也受到影响。
发明内容
本申请实施例的目的在于提出一种数据仓库提炼优化方法、装置、设备及其存储介质，以提高数据仓库中数据的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
为了解决上述技术问题，本申请实施例提供一种数据仓库提炼优化方法，采用了如下所述的技术方案：
一种数据仓库提炼优化方法，包括下述步骤：
根据预设的判断条件，判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；
若存在超过预设表单量的ODS层表被物理深加工，则分析所有ODS层表对应的业务场景和表单设计逻辑，根据分析结果，获取所有被物理深加工的ODS层表中数据；
根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据，并统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单，获取所述被引用次数超过预设的表单引用阈值的表单中数据；
将所述所有被物理深加工的ODS层表中数据、所述满足预设的跨层引用阈值的层表中数据和所述被引用次数超过预设的表单引用阈值的表单中数据作为待重新整理开发的数据；
对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；
根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。
进一步的，所述预设的判断条件包括第一判断条件和第二判断条件，所述根据预设的判断条件，判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工的步骤，具体包括：
统计读取ODS层表中数据的业务链路任务数量在总业务链路任务中的任务量占比值；
根据所述第一判断条件，识别所述任务量占比值是否满足预设的任务比例阈值，其中，所述第一判断条件具体为比较所述任务量占比值与所述任务比例阈值间的大小关系；
若所述任务量占比值大于所述任务比例阈值，则所述任务量占比值满足所述任务比例阈值；
统计所述ODS层表中数据被读取后，在所述目标数据仓库中被构建为DWD层表中数据的数据量占比值；
根据所述第二判断条件，识别所述数据量占比值是否满足预设的数据量比例阈值，其中，所述第二判断条件具体为比较所述数据量占比值与所述数据量比例阈值间的大小关系；
若所述数据量占比值大于所述数据量比例阈值，则所述数据量占比值满足所述数据量比例阈值；
若所述任务量占比值满足所述任务比例阈值且所述数据量占比值满足所述数据量比例阈值，则所述目标数据仓库内存在超过预设表单量的ODS层表被物理深加工。
进一步的，所述根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据的步骤，具体包括：
获取所有业务链路任务所对应的执行处理日志，其中，所述执行处理日志中包括在所述业务链路任务执行过程中所述目标数据仓库内数据间流转信息；
基于所述数据间流转信息，统计所述目标数据仓库内被跨层引用的数据量与所述目标数据仓库内所有被引用的数据量间的比例关系，所述跨层引用指在所述目标数据仓库的ODS层、DWD层、DWS层、ADS层、DIM层和TMP层之间跨层引用；
判断所述比例关系是否满足预设的跨层引用阈值；
若所述比例关系满足所述跨层引用阈值，则获取满足所述跨层引用阈值的层表中数据。
进一步的，所述判断所述比例关系是否满足预设的跨层引用阈值的步骤，具体包括：
通过比较方式，识别所述比例关系与所述跨层引用阈值间的大小关系；
若所述比例关系小于所述跨层引用阈值，则所述比例关系满足预设的跨层引用阈值，否则，所述比例关系不满足预设的跨层引用阈值。
进一步的，所述执行处理日志中还包括在所述业务链路任务执行过程中所述目标数据仓库内表单调用信息，所述并统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单的步骤，具体包括：
基于所述表单调用信息，统计所述ODS层中各变单被调用的次数；
通过比较方式，识别所述ODS层中各变单被调用的次数分别与所述表单引用阈值间的大小关系；
若当前表单被调用的次数大于所述表单引用阈值，则所述当前表单为目标表单，否则，所述当前表单非为目标表单；
获取所有目标表单，作为所述ODS层中被引用次数超过预设的表单引用阈值的表单。
进一步的，所述获取所述被引用次数超过预设的表单引用阈值的表单中数据的步骤，具体包括：
根据目标表单的表单名称信息，对所有目标表单分别进行表单数据全覆盖查询；
获取所有目标表单对应的数据全覆盖查询结果，作为所述被引用次数超过预设的表单引用阈值的表单中数据。
进一步的，所述对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果的步骤，具体包括：
按照统一的命名方式对所述待重新整理开发的数据进行数据指标命名；
构建统一的数据指标计算方法；
构建统一的数据指标统计维度；
构建统一的数据指标展示格式，其中，所述构建统一的数据指标展示格式包括若所述待重新整理开发的数据涉及到小数类数值展示，则设置统一的小数展示位数；
设置用于数据提炼优化的更新时间。
为了解决上述技术问题，本申请实施例还提供一种数据仓库提炼优化装置，采用了如下所述的技术方案：
一种数据仓库提炼优化装置，包括：
深加工判断模块，用于根据预设的判断条件，判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；
第一获取模块，用于若存在超过预设表单量的ODS层表被物理深加工，则分析所有ODS层表对应的业务场景和表单设计逻辑，根据分析结果，获取所有被物理深加工的ODS层表中数据；
第二获取模块，用于根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据，并统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单，获取所述被引用次数超过预设的表单引用阈值的表单中数据；
目标数据确定模块，用于将所述所有被物理深加工的ODS层表中数据、所述满足预设的跨层引用阈值的层表中数据和所述被引用次数超过预设的表单引用阈值的表单中数据作为待重新整理开发的数据；
数据指标口径统一化模块，用于对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；
提炼优化模块，用于根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。
为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：
一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现上述所述的数据仓库提炼优化方法的步骤。
为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：
一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上述所述的数据仓库提炼优化方法的步骤。
与现有技术相比，本申请实施例主要有以下有益效果：
本申请实施例所述数据仓库提炼优化方法，通过判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；分析并获取所有被物理深加工的ODS层表中数据；统计并获取满足预设的跨层引用阈值的层表中数据，统计并获取ODS层被引用次数超过预设的表单引用阈值的表单中数据；将上述三类数据作为待重新整理开发的数据；对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。从而保证数据仓库分层和各层中表单设计的科学性和合理性，提高数据仓库中数据的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
附图说明
为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图；
图2根据本申请的数据仓库提炼优化方法的一个实施例的流程图；
图3是图2所示步骤201的一个具体实施例的流程图；
图4是图2所示步骤203的一个具体实施例的流程图；
图5是图4所示步骤401的一个具体实施例的流程图；
图6是图4所示步骤402的一个具体实施例的流程图；
图7根据本申请的数据仓库提炼优化装置的一个实施例的结构示意图；
图8是图7所示模块701的一种具体实施例的结构示意图；
图9是图7所示模块703的一种具体实施例的结构示意图；
图10根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving PictureExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(MovingPictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是，本申请实施例所提供的数据仓库提炼优化方法一般由服务器/终端设备执行，相应地，数据仓库提炼优化装置一般设置于服务器/终端设备中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，示出了根据本申请的数据仓库提炼优化方法的一个实施例的流程图。所述的数据仓库提炼优化方法，包括以下步骤：
步骤201，根据预设的判断条件，判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工。
本实施例中，所述目标数据仓库，可以为金融行业的数据仓库，所述ODS层表内存储的数据，以金融行业订单数据为例，可能为商品的基本信息数据、购买客户的基本信息数据、订单支付数据等。
本实施例中，所述预设的判断条件包括第一判断条件和第二判断条件。
继续参考图3，图3是图2所示步骤201的一个具体实施例的流程图，包括：
步骤301，统计读取ODS层表中数据的业务链路任务数量在总业务链路任务中的任务量占比值；
步骤302，根据所述第一判断条件，识别所述任务量占比值是否满足预设的任务比例阈值，其中，所述第一判断条件具体为比较所述任务量占比值与所述任务比例阈值间的大小关系；
步骤303，若所述任务量占比值大于所述任务比例阈值，则所述任务量占比值满足所述任务比例阈值；
步骤304，统计所述ODS层表中数据被读取后，在所述目标数据仓库中被构建为DWD层表中数据的数据量占比值；
步骤305，根据所述第二判断条件，识别所述数据量占比值是否满足预设的数据量比例阈值，其中，所述第二判断条件具体为比较所述数据量占比值与所述数据量比例阈值间的大小关系；
步骤306，若所述数据量占比值大于所述数据量比例阈值，则所述数据量占比值满足所述数据量比例阈值；
步骤307，若所述任务量占比值满足所述任务比例阈值且所述数据量占比值满足所述数据量比例阈值，则所述目标数据仓库内存在超过预设表单量的ODS层表被物理深加工。
例如，对于金融行业订单业务主题中任一数据(例如：支付数据)加工链路，直接读取ODS层表中支付数据的业务链路任务数量，通过读取结果，获知所述ODS层表中支付数据的业务链路任务数量占总任务数量超过20％，且ODS层被读取的下游产出为明细层表(如DMD)的数据量占ODS层中总数据量的比例超过30％，说明超过预设表单量的ODS层表被物理深加工，则需分析所述订单业务场景和表单设计逻辑。
本实施例中，所述ODS层表中数据的业务链路任务可以为ODS层的数据加工任务，所述ODS层的数据加工任务可以为对订单业务中支付数据进行加工的任务。
本实施例中，所述ODS层被读取的下游产出为明细层表(如DMD)的数据量，指所述ODS层表中数据被读取后，在所述目标数据仓库中被构建为DWD层表中数据的数据量。
通过第一判断条件和第二判断条件，综合筛选出目标数据仓库内被物理深加工的ODS层表，从而进一步对被物理深加工的ODS层表进行提炼优化，提高ODS层表的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
步骤202，若存在超过预设表单量的ODS层表被物理深加工，则分析所有ODS层表对应的业务场景和表单设计逻辑，根据分析结果，获取所有被物理深加工的ODS层表中数据。
本实施例中，预先设置物理深加工判断规则，通过所述物理深加工判断规则和所述分析结果，区别出所述ODS层中所有被物理深加工的ODS层表中数据和所有未被物理深加工的ODS层中数据。
本实施例中，所述预先设置物理深加工判断规则，具体为，预先对不同业务场景对应的业务链路任务，设置链路复杂度和表单设计逻辑复杂度；若目标ODS层表对应的链路复杂度和表单设计逻辑复杂度都满足相应的复杂度阈值，则所述目标ODS层表为被物理深加工的ODS层表；若目标ODS层表对应的链路复杂度和表单设计逻辑复杂度中任一不满足相应的复杂度阈值，则所述目标ODS层表为未被物理深加工的ODS层表。
通过预先设置物理深加工判断规则，筛选出目标数据仓库内被物理深加工的ODS层表，从而明确被物理深加工的ODS层表，进行提炼优化，特别是金融行业数据仓库，往往涉及到海量基础数据，提高ODS层表的科学化加工，能够有效减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
步骤203，根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据，并统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单，获取所述被引用次数超过预设的表单引用阈值的表单中数据。
继续参考图4，图4是图2所示步骤203的一个具体实施例的流程图，包括：
步骤401，根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据；
通过所述业务场景中所有业务链路任务，识别出在所述目标数据仓库的ODS层、DWD层、DWS层、ADS层、DIM层和TMP层之间跨层引用的数据量，即原本应该是DWD层引用ODS层中数据，所述跨层引用指ADS层直接引用ODS层中数据，不再通过DWD层，例如，跨层引用率为20％，而预设的跨层引用阈值为30％，则所述数据仓库中各层的表单设计不够完善，各层间的引用粘性不强，可以对数据仓库中各层表单进一步的提炼优化，以使得所述数据仓库中各层间的跨层引用率大于所述跨层引用阈值，从而保证数据仓库分层和各层中表单设计的科学性和合理性。
步骤402，根据所述业务场景中所有业务链路任务，统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单；
通过所述业务场景中所有业务链路任务，识别出在所述目标数据仓库的ODS层中被引用次数超过预设的表单引用阈值的表单，例如，在整个业务场景的所有业务链路任务中，ODS层中某个表单的被引用次数为60次，而预设的表单引用阈值为20次，则说明该表单的设计存在不合理性，需及时进行提炼优化，通过提炼优化对该表单中数据进行重新整理，从而保证整理之后的各表单的被引用次数不大于20次，保证数据仓库分层和各层中表单设计的科学性和合理性。
步骤403，获取所述被引用次数超过预设的表单引用阈值的表单中数据。
继续参考图5，图5是图4所示步骤401的一个具体实施例的流程图，包括：
步骤501，获取所有业务链路任务所对应的执行处理日志，其中，所述执行处理日志中包括在所述业务链路任务执行过程中所述目标数据仓库内数据间流转信息；
步骤502，基于所述数据间流转信息，统计所述目标数据仓库内被跨层引用的数据量与所述目标数据仓库内所有被引用的数据量间的比例关系，所述跨层引用指在所述目标数据仓库的ODS层、DWD层、DWS层、ADS层、DIM层和TMP层之间跨层引用；
步骤503，判断所述比例关系是否满足预设的跨层引用阈值；
步骤504，若所述比例关系满足所述跨层引用阈值，则获取满足所述跨层引用阈值的层表中数据。
本实施例中，所述判断所述比例关系是否满足预设的跨层引用阈值的步骤，具体包括：通过比较方式，识别所述比例关系与所述跨层引用阈值间的大小关系；若所述比例关系小于所述跨层引用阈值，则所述比例关系满足预设的跨层引用阈值，否则，所述比例关系不满足预设的跨层引用阈值。
通过所述业务场景中所有业务链路任务所对应的执行处理日志和预设的比较方式，识别出在所述目标数据仓库的ODS层、DWD层、DWS层、ADS层、DIM层和TMP层之间跨层引用的数据和数据量，从而明确数据仓库中引用粘性不强的数据，对数据仓库中各层表单进一步的提炼优化，以使得所述数据仓库中各层间的跨层引用率大于所述跨层引用阈值，从而保证数据仓库分层和各层中表单设计的科学性和合理性，提高各层间表单中数据的引用粘性。
本实施例中，所述执行处理日志中还包括在所述业务链路任务执行过程中所述目标数据仓库内表单调用信息。
继续参考图6，图6是图4所示步骤402的一个具体实施例的流程图，包括：
步骤601，基于所述表单调用信息，统计所述ODS层中各变单被调用的次数；
步骤602，通过比较方式，识别所述ODS层中各变单被调用的次数分别与所述表单引用阈值间的大小关系；
步骤603，若当前表单被调用的次数大于所述表单引用阈值，则所述当前表单为目标表单，否则，所述当前表单非为目标表单；
步骤604，获取所有目标表单，作为所述ODS层中被引用次数超过预设的表单引用阈值的表单。
通过在所述业务链路任务执行过程中所述目标数据仓库内表单调用信息，识别出在所述目标数据仓库的ODS层中被引用次数超过预设的表单引用阈值的表单，及时进行提炼优化，通过提炼优化对该表单中数据进行重新整理，从而保证整理之后的各表单的被引用次数不大于预设引用阈值，保证数据仓库分层和各层中表单设计的科学性和合理性。
本实施例中，所述获取所述被引用次数超过预设的表单引用阈值的表单中数据的步骤，具体包括：根据目标表单的表单名称信息，对所有目标表单分别进行表单数据全覆盖查询；获取所有目标表单对应的数据全覆盖查询结果，作为所述被引用次数超过预设的表单引用阈值的表单中数据。
步骤204，将所述所有被物理深加工的ODS层表中数据、所述满足预设的跨层引用阈值的层表中数据和所述被引用次数超过预设的表单引用阈值的表单中数据作为待重新整理开发的数据。
步骤205，对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果。
本实施例中，所述对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果的步骤，具体包括：按照统一的命名方式对所述待重新整理开发的数据进行数据指标命名；构建统一的数据指标计算方法；构建统一的数据指标统计维度；构建统一的数据指标展示格式，其中，所述构建统一的数据指标展示格式包括若所述待重新整理开发的数据涉及到小数类数值展示，则设置统一的小数展示位数；设置用于数据提炼优化的更新时间。
通过在提炼优化之前，对所述待重新整理开发的数据进行统一化处理，从而保证了在进行提炼优化时，待重新整理开发的数据都具备统一的数据指标格式，避免了因数据指标类型、格式的不统一，导致提炼优化处理杂乱困难的情况发生，使得提炼优化过程尽量科学化和规范化，减少提炼优化时出现错误。
本实施例中，通过设置用于数据提炼优化的更新时间，使得此后在对数据仓库中数据进行提炼优化时，可以根据该更新时间，持续多次的执行所述数据仓库提炼优化方法，从而实现定时多次提炼优化，保证了对数据仓库的后期维护。
步骤206，根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。
通过将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，使得数据仓库中设计不科学或者不合理的维度表中数据，保存到公共维表中，以公共维表的形式缓存此类数据，减少数据仓库的ODS层、DWD层、DWS层、ADS层的缓存压力，减少存储资源和调用资源消耗。
本申请通过判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；分析并获取所有被物理深加工的ODS层表中数据；统计并获取满足预设的跨层引用阈值的层表中数据，统计并获取ODS层被引用次数超过预设的表单引用阈值的表单中数据；将上述三类数据作为待重新整理开发的数据；对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。从而保证数据仓库分层和各层中表单设计的科学性和合理性，提高数据仓库中数据的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例中，通过对金融行业数据仓库中筛选出的目标数据(例如，支付数据)进行提炼优化，从而保证数据仓库分层和各层中表单设计的科学性和合理性，提高数据仓库中数据的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对支付数据处理的满意度。
进一步参考图7，作为对上述图2所示方法的实现，本申请提供了一种数据仓库提炼优化装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图7所示，本实施例所述的数据仓库提炼优化装置700包括：深加工判断模块701、第一获取模块702、第二获取模块703、目标数据确定模块704、数据指标口径统一化模块705和提炼优化模块706。其中：
深加工判断模块701，用于根据预设的判断条件，判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；
第一获取模块702，用于若存在超过预设表单量的ODS层表被物理深加工，则分析所有ODS层表对应的业务场景和表单设计逻辑，根据分析结果，获取所有被物理深加工的ODS层表中数据；
第二获取模块703，用于根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据，并统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单，获取所述被引用次数超过预设的表单引用阈值的表单中数据；
目标数据确定模块704，用于将所述所有被物理深加工的ODS层表中数据、所述满足预设的跨层引用阈值的层表中数据和所述被引用次数超过预设的表单引用阈值的表单中数据作为待重新整理开发的数据；
数据指标口径统一化模块705，用于对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；
提炼优化模块706，用于根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。
继续参考图8，图8是图7所示模块701的一种具体实施例的结构示意图，其中，所述深加工判断模块701包括第一判断子模块、第二判断子模块，其中，
所述第一判断子模块包括第一统计单元801、第一识别单元802、第一比较单元803，其中：
第一统计单元801，用于统计读取ODS层表中数据的业务链路任务数量在总业务链路任务中的任务量占比值；
第一识别单元802，用于根据所述第一判断条件，识别所述任务量占比值是否满足预设的任务比例阈值，其中，所述第一判断条件具体为比较所述任务量占比值与所述任务比例阈值间的大小关系；
第一比较单元803，用于若所述任务量占比值大于所述任务比例阈值，则所述任务量占比值满足所述任务比例阈值；
所述第二判断子模块包括第二统计单元804、第二识别单元805、第二比较单元806，其中：
第二统计单元804，用于统计所述ODS层表中数据被读取后，在所述目标数据仓库中被构建为DWD层表中数据的数据量占比值；
第二识别单元805，用于根据所述第二判断条件，识别所述数据量占比值是否满足预设的数据量比例阈值，其中，所述第二判断条件具体为比较所述数据量占比值与所述数据量比例阈值间的大小关系；
第二比较单元806，用于若所述数据量占比值大于所述数据量比例阈值，则所述数据量占比值满足所述数据量比例阈值；
所述深加工判断模块701还包括综合判断单元807，所述综合判断单元807，用于若所述任务量占比值满足所述任务比例阈值且所述数据量占比值满足所述数据量比例阈值，则所述目标数据仓库内存在超过预设表单量的ODS层表被物理深加工。
继续参考图9，图9是图7所示模块703的一种具体实施例的结构示意图，其中，所述第二获取模块703包括跨层引用分析子模块、ODS层引用分析子模块和ODS层引用数据获取子模块，其中，
所述跨层引用分析子模块包括日志获取单元901、第三统计单元902、第三判断单元903和数据获取第一单元904，其中：
日志获取单元901，用于获取所有业务链路任务所对应的执行处理日志，其中，所述执行处理日志中包括在所述业务链路任务执行过程中所述目标数据仓库内数据间流转信息；
第三统计单元902，用于基于所述数据间流转信息，统计所述目标数据仓库内被跨层引用的数据量与所述目标数据仓库内所有被引用的数据量间的比例关系，所述跨层引用指在所述目标数据仓库的ODS层、DWD层、DWS层、ADS层、DIM层和TMP层之间跨层引用；
第三判断单元903，用于判断所述比例关系是否满足预设的跨层引用阈值；
数据获取第一单元904，用于若所述比例关系满足所述跨层引用阈值，则获取满足所述跨层引用阈值的层表中数据；
所述ODS层引用分析子模块包括第四统计单元905、第三识别单元906、第三比较单元907和目标表单获取单元908，其中：
第四统计单元905，用于基于所述表单调用信息，统计所述ODS层中各变单被调用的次数；
第三识别单元906，用于通过比较方式，识别所述ODS层中各变单被调用的次数分别与所述表单引用阈值间的大小关系；
第三比较单元907，用于若当前表单被调用的次数大于所述表单引用阈值，则所述当前表单为目标表单，否则，所述当前表单非为目标表单；
目标表单获取单元908，用于获取所有目标表单，作为所述ODS层中被引用次数超过预设的表单引用阈值的表单；
所述ODS层引用数据获取子模块包括数据查询单元909和数据获取第二单元910，其中：
数据查询单元909，用于根据目标表单的表单名称信息，对所有目标表单分别进行表单数据全覆盖查询；
数据获取第二单元910，用于获取所有目标表单对应的数据全覆盖查询结果，作为所述被引用次数超过预设的表单引用阈值的表单中数据。
本申请通过判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；分析并获取所有被物理深加工的ODS层表中数据；统计并获取满足预设的跨层引用阈值的层表中数据，统计并获取ODS层被引用次数超过预设的表单引用阈值的表单中数据；将上述三类数据作为待重新整理开发的数据；对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。从而保证数据仓库分层和各层中表单设计的科学性和合理性，提高数据仓库中数据的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。
应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图10，图10为本实施例计算机设备基本结构框图。
所述计算机设备10包括通过系统总线相互通信连接存储器10a、处理器10b、网络接口10c。需要指出的是，图中仅示出了具有组件10a-10c的计算机设备10，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器10a至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器10a可以是所述计算机设备10的内部存储单元，例如该计算机设备10的硬盘或内存。在另一些实施例中，所述存储器10a也可以是所述计算机设备10的外部存储设备，例如该计算机设备10上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，所述存储器10a还可以既包括所述计算机设备10的内部存储单元也包括其外部存储设备。本实施例中，所述存储器10a通常用于存储安装于所述计算机设备10的操作系统和各类应用软件，例如数据仓库提炼优化方法的计算机可读指令等。此外，所述存储器10a还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器10b在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器10b通常用于控制所述计算机设备10的总体操作。本实施例中，所述处理器10b用于运行所述存储器10a中存储的计算机可读指令或者处理数据，例如运行所述数据仓库提炼优化方法的计算机可读指令。
所述网络接口10c可包括无线网络接口或有线网络接口，该网络接口10c通常用于在所述计算机设备10与其他电子设备之间建立通信连接。
本实施例提出的计算机设备，属于金融行业数据仓库优化技术领域。本申请通过判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；分析并获取所有被物理深加工的ODS层表中数据；统计并获取满足预设的跨层引用阈值的层表中数据，统计并获取ODS层被引用次数超过预设的表单引用阈值的表单中数据；将上述三类数据作为待重新整理开发的数据；对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。从而保证数据仓库分层和各层中表单设计的科学性和合理性，提高数据仓库中数据的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被处理器执行，以使所述处理器执行如上述的数据仓库提炼优化方法的步骤。
本实施例提出的计算机可读存储介质，属于金融行业数据仓库优化技术领域。本申请通过判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；分析并获取所有被物理深加工的ODS层表中数据；统计并获取满足预设的跨层引用阈值的层表中数据，统计并获取ODS层被引用次数超过预设的表单引用阈值的表单中数据；将上述三类数据作为待重新整理开发的数据；对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。从而保证数据仓库分层和各层中表单设计的科学性和合理性，提高数据仓库中数据的科学化加工，减少存储资源消耗，降低数据存储成本，提高用户对数据处理的满意度。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。
显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。
Claims (10)
1.一种数据仓库提炼优化方法，其特征在于，包括下述步骤：
根据预设的判断条件，判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；
若存在超过预设表单量的ODS层表被物理深加工，则分析所有ODS层表对应的业务场景和表单设计逻辑，根据分析结果，获取所有被物理深加工的ODS层表中数据；
根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据，并统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单，获取所述被引用次数超过预设的表单引用阈值的表单中数据；
将所述所有被物理深加工的ODS层表中数据、所述满足预设的跨层引用阈值的层表中数据和所述被引用次数超过预设的表单引用阈值的表单中数据作为待重新整理开发的数据；
对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；
根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。
2.根据权利要求1所述的数据仓库提炼优化方法，其特征在于，所述预设的判断条件包括第一判断条件和第二判断条件，所述根据预设的判断条件，判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工的步骤，具体包括：
统计读取ODS层表中数据的业务链路任务数量在总业务链路任务中的任务量占比值；
根据所述第一判断条件，识别所述任务量占比值是否满足预设的任务比例阈值，其中，所述第一判断条件具体为比较所述任务量占比值与所述任务比例阈值间的大小关系；
若所述任务量占比值大于所述任务比例阈值，则所述任务量占比值满足所述任务比例阈值；
统计所述ODS层表中数据被读取后，在所述目标数据仓库中被构建为DWD层表中数据的数据量占比值；
根据所述第二判断条件，识别所述数据量占比值是否满足预设的数据量比例阈值，其中，所述第二判断条件具体为比较所述数据量占比值与所述数据量比例阈值间的大小关系；
若所述数据量占比值大于所述数据量比例阈值，则所述数据量占比值满足所述数据量比例阈值；
若所述任务量占比值满足所述任务比例阈值且所述数据量占比值满足所述数据量比例阈值，则所述目标数据仓库内存在超过预设表单量的ODS层表被物理深加工。
3.根据权利要求1所述的数据仓库提炼优化方法，其特征在于，所述根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据的步骤，具体包括：
获取所有业务链路任务所对应的执行处理日志，其中，所述执行处理日志中包括在所述业务链路任务执行过程中所述目标数据仓库内数据间流转信息；
基于所述数据间流转信息，统计所述目标数据仓库内被跨层引用的数据量与所述目标数据仓库内所有被引用的数据量间的比例关系，所述跨层引用指在所述目标数据仓库的ODS层、DWD层、DWS层、ADS层、DIM层和TMP层之间跨层引用；
判断所述比例关系是否满足预设的跨层引用阈值；
若所述比例关系满足所述跨层引用阈值，则获取满足所述跨层引用阈值的层表中数据。
4.根据权利要求3所述的数据仓库提炼优化方法，其特征在于，所述判断所述比例关系是否满足预设的跨层引用阈值的步骤，具体包括：
通过比较方式，识别所述比例关系与所述跨层引用阈值间的大小关系；
若所述比例关系小于所述跨层引用阈值，则所述比例关系满足预设的跨层引用阈值，否则，所述比例关系不满足预设的跨层引用阈值。
5.根据权利要求3所述的数据仓库提炼优化方法，其特征在于，所述执行处理日志中还包括在所述业务链路任务执行过程中所述目标数据仓库内表单调用信息，所述并统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单的步骤，具体包括：
基于所述表单调用信息，统计所述ODS层中各变单被调用的次数；
通过比较方式，识别所述ODS层中各变单被调用的次数分别与所述表单引用阈值间的大小关系；
若当前表单被调用的次数大于所述表单引用阈值，则所述当前表单为目标表单，否则，所述当前表单非为目标表单；
获取所有目标表单，作为所述ODS层中被引用次数超过预设的表单引用阈值的表单。
6.根据权利要求5所述的数据仓库提炼优化方法，其特征在于，所述获取所述被引用次数超过预设的表单引用阈值的表单中数据的步骤，具体包括：
根据目标表单的表单名称信息，对所有目标表单分别进行表单数据全覆盖查询；
获取所有目标表单对应的数据全覆盖查询结果，作为所述被引用次数超过预设的表单引用阈值的表单中数据。
7.根据权利要求1至6任一项所述的数据仓库提炼优化方法，其特征在于，所述对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果的步骤，具体包括：
按照统一的命名方式对所述待重新整理开发的数据进行数据指标命名；
构建统一的数据指标计算方法；
构建统一的数据指标统计维度；
构建统一的数据指标展示格式，其中，所述构建统一的数据指标展示格式包括若所述待重新整理开发的数据涉及到小数类数值展示，则设置统一的小数展示位数；
设置用于数据提炼优化的更新时间。
8.一种数据仓库提炼优化装置，其特征在于，包括：
深加工判断模块，用于根据预设的判断条件，判断目标数据仓库内是否存在超过预设表单量的ODS层表被物理深加工；
第一获取模块，用于若存在超过预设表单量的ODS层表被物理深加工，则分析所有ODS层表对应的业务场景和表单设计逻辑，根据分析结果，获取所有被物理深加工的ODS层表中数据；
第二获取模块，用于根据所述业务场景中所有业务链路任务，统计并获取满足预设的跨层引用阈值的层表中数据，并统计出所述ODS层中被引用次数超过预设的表单引用阈值的表单，获取所述被引用次数超过预设的表单引用阈值的表单中数据；
目标数据确定模块，用于将所述所有被物理深加工的ODS层表中数据、所述满足预设的跨层引用阈值的层表中数据和所述被引用次数超过预设的表单引用阈值的表单中数据作为待重新整理开发的数据；
数据指标口径统一化模块，用于对所述待重新整理开发的数据进行数据指标口径统一化处理，获取统一化处理结果；
提炼优化模块，用于根据所述统一化处理结果，将所述待重新整理开发的数据迁移至DIM层预构建的公共维度表内，完成对所述目标数据仓库的提炼优化。
9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的数据仓库提炼优化方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的数据仓库提炼优化方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310674660.7A CN116795818A (zh) | 2023-06-07 | 2023-06-07 | 数据仓库提炼优化方法、装置、设备及其存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310674660.7A CN116795818A (zh) | 2023-06-07 | 2023-06-07 | 数据仓库提炼优化方法、装置、设备及其存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116795818A true CN116795818A (zh) | 2023-09-22 |
Family
ID=88040818
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310674660.7A Pending CN116795818A (zh) | 2023-06-07 | 2023-06-07 | 数据仓库提炼优化方法、装置、设备及其存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116795818A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117763061A (zh) * | 2024-01-18 | 2024-03-26 | 腾讯科技（深圳）有限公司 | 数据仓库模型评估方法、装置及计算机设备 |
-
2023
- 2023-06-07 CN CN202310674660.7A patent/CN116795818A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117763061A (zh) * | 2024-01-18 | 2024-03-26 | 腾讯科技（深圳）有限公司 | 数据仓库模型评估方法、装置及计算机设备 |
| CN117763061B (zh) * | 2024-01-18 | 2024-04-30 | 腾讯科技（深圳）有限公司 | 数据仓库模型评估方法、装置及计算机设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN116795818A (zh) | 数据仓库提炼优化方法、装置、设备及其存储介质 | |
| CN117094729A (zh) | 请求处理方法、装置、计算机设备及存储介质 | |
| CN112966756A (zh) | 一种可视化的准入规则的生成方法、装置、机器可读介质及设备 | |
| CN116934283A (zh) | 一种员工权限配置方法、装置、设备及其存储介质 | |
| CN116450723A (zh) | 数据提取方法、装置、计算机设备及存储介质 | |
| CN117290452A (zh) | 一种数据仓库治理方法、装置、设备及其存储介质 | |
| CN114090407B (zh) | 基于线性回归模型的接口性能预警方法及其相关设备 | |
| CN117112383A (zh) | 基于人工智能的性能分析方法、装置、设备及存储介质 | |
| CN115757373A (zh) | 数据仓库清理方法、装置、计算机设备及存储介质 | |
| CN116662418A (zh) | 基于配置化的报表实现方法、装置、设备及其存储介质 | |
| CN116842011A (zh) | 血缘关系分析方法、装置、计算机设备及存储介质 | |
| CN116402644A (zh) | 基于大数据多源数据融合分析的法律监督方法和系统 | |
| CN116401061A (zh) | 资源数据的处理方法、装置、计算机设备及存储介质 | |
| CN116993218A (zh) | 基于人工智能的指标分析方法、装置、设备及存储介质 | |
| CN117332012A (zh) | 一种数据关联方法、装置、设备及其存储介质 | |
| CN116841479A (zh) | 一种文本打印方法、装置、设备及其存储介质 | |
| CN116739419A (zh) | 企业业务标签自动化调整展示方法及其相关设备 | |
| CN117391782A (zh) | 一种广告投放方法、装置、设备及其存储介质 | |
| CN117421207A (zh) | 智能评估影响点测试方法、装置、计算机设备及存储介质 | |
| CN117194032A (zh) | 一种任务执行方法、装置、设备及其存储介质 | |
| CN117370558A (zh) | 一种数据整合方法、装置、设备及其存储介质 | |
| CN117851055A (zh) | 一种任务调度方法、装置、设备及其存储介质 | |
| CN116542779A (zh) | 基于人工智能的产品推荐方法、装置、设备及存储介质 | |
| CN112613976A (zh) | 逻辑条件判定方法、装置、介质及电子设备 | |
| CN117395310A (zh) | 任务处理方法、装置、计算机设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |