CN117194587A - 数据仓库的标签管理方法与装置 - Google Patents
数据仓库的标签管理方法与装置 Download PDFInfo
- Publication number
- CN117194587A CN117194587A CN202311153265.0A CN202311153265A CN117194587A CN 117194587 A CN117194587 A CN 117194587A CN 202311153265 A CN202311153265 A CN 202311153265A CN 117194587 A CN117194587 A CN 117194587A
- Authority
- CN
- China
- Prior art keywords
- label
- dimension table
- tag
- target field
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007726 management method Methods 0.000 title abstract description 27
- 238000007405 data analysis Methods 0.000 claims abstract description 52
- 230000008859 change Effects 0.000 claims abstract description 36
- 238000000034 method Methods 0.000 claims abstract description 32
- 238000004458 analytical method Methods 0.000 claims description 23
- 238000012217 deletion Methods 0.000 claims description 10
- 230000037430 deletion Effects 0.000 claims description 10
- 238000012216 screening Methods 0.000 claims description 5
- 238000004140 cleaning Methods 0.000 claims description 4
- 238000013075 data extraction Methods 0.000 claims description 3
- 230000003993 interaction Effects 0.000 claims description 3
- 239000003550 marker Substances 0.000 claims 3
- 230000005611 electricity Effects 0.000 description 11
- 238000012545 processing Methods 0.000 description 8
- 238000013507 mapping Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Abstract
本申请提供了一种数据仓库的标签管理方法与装置,该方法包括:获取数据仓库的数据分析结果,根据预设标准在数据分析结果中确定目标字段,根据目标字段,确定目标字段所在的维度表,根据维度表,获取标签与维度表中目标字段之间的标记关系,对标记关系进行变更操作,对标记关系的变更操作生成操作记录,将操作记录发送至所述数据仓库,数据仓库根据操作记录,对维度表中的目标字段进行标签变更。本申请解决了在现存数据仓库维度表中无法轻易进行标签变更的问题。
Description
技术领域
本申请涉及数据处理领域,具体涉及数据仓库的标签管理方法与装置。
背景技术
随着当今社会的数据分析挖掘需求日益增加,数据仓库的发展已经十分迅猛。数据仓库通过事实表关联维度表进行数据分析,其中,维度表中的字段类型在生成后固定不变。当根据维度表进行数据分析时,只能对维度表的整体字段,或现存标签所标记的字段进行分析,在维度表中更改字段的标签是不太方便的,进而很难对维度表中更改了标签的字段单独进行汇总分析。
若需要在维度表中添加标签,则需重新构建数据仓库中的维度表,甚至需要重新构建所有的事实表和维度表。这使得数据仓库在维度表中进行标签变更的效率极低。
因此,如何在现存数据仓库维度表中进行标签变更是当前所亟待需要解决的困境。
发明内容
本申请的旨在解决如何在现存数据仓库维度表中进行标签变更的技术问题。
根据本申请实施例的一方面,本申请提供了一种数据仓库的标签管理方法,所述方法包括:
获取数据仓库的数据分析结果,所述数据分析结果中含有若干字段;
根据预设标准在所述数据分析结果中确定目标字段,所述目标字段是所述数据分析结果中符合预设标准的字段;
根据所述目标字段,确定所述目标字段所在的维度表;
根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作;
对所述标记关系的变更操作生成操作记录,将所述操作记录发送至所述数据仓库;
所述数据仓库根据所述操作记录,对所述维度表中的目标字段进行标签变更。
根据本申请实施例的一方面,所述获取数据仓库的数据分析结果之前,所述方法还包括:
对所述数据仓库入仓的数据进行清洗和规范化,得到规范数据;
根据预设的分析维度对所述规范数据进行数据提取,以一分析维度为主键生成维度表;
以所述维度表主键为外键生成事实表,所述事实表的一外键与所述维度表主键相同;
对所述事实表和/或维度表中的字段进行筛选,得到数据分析结果。
根据本申请实施例的一方面,所述根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作之前,包括:
获取所述数据仓库中各维度表中各字段与标签的标记关系,进行对所述标记关系的记录存储。
根据本申请实施例的一方面,所述变更操作包括标记关系添加操作,所述根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作,包括:
根据所述目标字段获取目标标签;
对所述标记关系执行标记关系添加操作,添加所述目标标签与维度表中目标字段之间的标记关系。
根据本申请实施例的一方面,所述数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更,包括:
根据所述操作记录中标记关系的添加记录,所述数据仓库在所述维度表中新建标签列,通过新建的标签列对所述维度表中的所述目标字段添加目标标签。
根据本申请实施例的一方面,所述变更操作包括标记关系删除操作,所述根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作,包括:
根据所述维度表,获取所述标签与维度表中目标字段已经建立的标记关系;
对所述标记关系执行标记关系的删除操作,删除所述标签与所述目标字段之间的标记关系。
根据本申请实施例的一方面,所述数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更,包括:
根据所述操作记录中标记关系的删除记录,对所述维度表中目标字段对应的标签列执行删除。
根据本申请实施例的一方面,所述数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更之后,所述方法还包括:
根据数据需求,选择多个标签为对象标签;
根据所述对象标签,获取所述对象标签所标记字段的内容。
根据本申请实施例的一方面,所述根据所述对象标签,获取所述对象标签所标记字段的内容,包括:
根据所述对象标签,获取所述对象标签对应字段所在的维度表;
将具有所述对象标签的字段进行汇总,获取所述字段的内容。
根据本申请实施例的一方面,本申请提供了一种数据仓库的标签管理装置,所述装置包括:
获取模块,用于获取数据仓库的数据分析结果,所述数据分析结果中含有若干字段;
确定模块,用于根据预设标准在所述数据分析结果中确定目标字段,所述目标字段是所述数据分析结果中符合预设标准的字段;
维度表确认模块,用于根据所述预设标准和目标字段,确定所述目标字段所在的维度表;
标签管理模块,用于根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作;
消息交互模块,用于对所述标记关系的变更操作生成操作记录,将所述操作记录发送至所述数据仓库;
数据仓库标签操作模块,用于所述数据仓库根据所述操作记录,对所述维度表中的目标字段进行标签变更。
在本申请中先获取维度表中目标字段与标签之间的标记关系,然后对标记关系执行变更操作,记录变更操作生成操作记录,数据仓库根据操作记录就能够得知对其所包括的某个维度表中目标字段的标签发生了变化,然后数据仓库根据操作记录,来对维度表中目标字段进行标签变更。这解决了现有技术无法在现存数据仓库维度表中进行标签变更的情况。
本申请的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本申请的实践而习得。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本申请。
附图说明
通过参照附图详细描述其示例实施例,本申请的上述和其它目标、特征及优点将变得更加显而易见。
图1示出了根据本申请一个实施例的一种数据仓库的标签管理方法的流程图。
图2示出了根据本申请一个实施例的获取数据分析结果的流程图。
图3示出了根据本申请一个实施例的根据事实表的外键关联具有一个主键多个外键的维度表的流程图。
图4示出了根据本申请一个实施例的根据维度表,获取标签与维度表中目标字段之间的标记关系,对标记关系进行变更操作的流程图。
图5示出了根据本申请一个实施例的根据维度表,获取标签与维度表中目标字段之间的标记关系,对标记关系进行变更操作的流程图。
图6示出了根据本申请一个实施例的在数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更之后,根据标签在数据仓库获取字段内容的流程图。
图7示出了根据本申请一个实施例的根据对象标签,获取对象标签所标记字段的内容的流程图。
图8示出了根据本申请一实施例的一种数据仓库的标签管理装置的示意图。
图9示出了根据本申请一个实施例的实施数据仓库的标签管理方法的硬件结构图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些示例实施方式使得本申请的描述将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。附图仅为本申请的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多示例实施方式中。在下面的描述中,提供许多具体细节从而给出对本申请的示例实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本申请的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、步骤等。在其它情况下,不详细示出或描述公知结构、方法、实现或者操作以避免喧宾夺主而使得本申请的各方面变得模糊。
附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
请参阅图1,图1示出了根据本申请一个实施例的一种数据仓库的标签管理方法的流程图。本申请实施例提供了一种数据仓库的标签管理方法的步骤,包括:
步骤S110,获取数据仓库的数据分析结果,数据分析结果中含有若干字段;
步骤S120,根据预设标准在数据分析结果中确定目标字段,目标字段是数据分析结果中符合预设标准的字段;
步骤S130,根据目标字段,确定目标字段所在的维度表;
步骤S140,根据维度表,获取标签与维度表中目标字段之间的标记关系,对标记关系进行变更操作;
步骤S150,对标记关系的变更操作生成操作记录,将操作记录发送至数据仓库;
步骤S160,数据仓库根据操作记录,对维度表中的目标字段进行标签变更。
下面对上述6个步骤进行详细描述。
需要明确的是,本申请提供了一种数据仓库的标签管理方法,其是根据数据仓库的数据分析结果来明确需要进行标签管理的字段,因此在应用本申请所提供的方法之前,需要先获取数据仓库的数据分析结果。数据分析结果是指数据仓库根据其所存储的数据,进行分析运行所得到的输出结果。
在步骤S110中,数据仓库在对数据分析得到数据分析结果之后,存储至用以存放数据分析结果的数据表中,并向用户显示,在上述数据表中获取用户选择的数据分析结果,以进行标签管理。数据表中包括度量,数据仓库中事实表的外键、维度表的主键、维度表中的其他字段。其中,度量是指度量一字段的具体数值。如,用电量、销售金额、订单数量
请参阅图2,图2示出了根据本申请一个实施例的获取数据分析结果的流程图。本申请实施例提供了获取数据分析结果的步骤,包括:
步骤S210,对数据仓库入仓的数据进行清洗和规范化,得到规范数据;
步骤S220,根据预设的分析维度对规范数据进行数据提取,以一分析维度为主键生成维度表;
步骤S230,以维度表主键为外键生成事实表,事实表的一外键与所述维度表主键相同;
步骤S240,对所述事实表和/或维度表中的字段进行筛选,得到数据分析结果。
下面对上述4个步骤进行详细描述,
在步骤S210中,数据仓库对数据源输入的数据,依次进行清洗和规范化,对数据的清洗是指将数据中重复的数据、信息不完整的数据删除;对数据的规范化是指将所有数据转化为相同的数据格式。示例性的,数据中的各类日期数据分别表现为“2015、01、01”、“2015/01/01”、“2015年1月1日”,对日期数据进行规范化,使它们都表示为“2015/01/01”这种格式,便于后期对数据进行处理。
需要明确的是数据源包括但不仅仅包括业务数据、网页数据、终端应用产生的数据,适配于不同的应用场景,数据仓库的数据源有不同部署。
需要明确的是,对于数据仓库中的数据,可以称之为事实,也即需要进行数据分析的对象。事实也称之为事实性数据,通常是测量或记录的数据,如用电量、销售金额、订单数量等。事实中包括度量,度量是指事实数据所欲分析中的数值,如销售金额中的具体数值、订单数量中的具体数值、用电量中的具体数值等。
在步骤S220中,将数据进行清洗和规范化后得到规范数据,然后根据预设的分析维度对规范数据进行数据提取,以一分析维度为主键生成维度表。分析维度是指分析数据的角度,如时间、地区、产品等。维度是数据分析中使用的过滤和分类方法。
根据分析维度,对规范数据进行筛选得到与分析维度相关的数据,然后再根据分析维度对相关的数据进行分类,最后在分类后的数据中整合对应同一分析维度的数据,得到各分析维度所对应的维度数据。
将各分析维度所对应的维度数据,以分析维度为主键,以分析维度所对应的维度数据为内容,生成维度表。维度表中包括了其中各字段名称所对应的键值,以及各字段的属性,标记各字段的标签也可以成为字段的属性。
在步骤S230中,以维度表主键为外键生成事实表,事实表的与所述维度表主键相同,将各维度表中的数据进行汇中,且使用各字段所对应的键值,来代表各维度表中的各字段,得到事实表。在事实表的外键与维度表的主键之间建立映射关系,使得事实表与维度表之间的相互关联,根据事实表外键所关联的维度表,可以明确各键值所对应的具体字段。
事实表中包括外键,所有外键组成事实表主键,每个外键都是主键的一部分,每个外键下的字段都具有对应的键值,并在外键所对应的维度表中进行记录。需要名确是,事实表中含有度量属性,以度量事实表中每一行数据。
需要明确的是,在本申请中,事实表与维度表的数量可以根据数据分析需要做任意数量的增加与删减。当数据仓库以不同分析维度为事实表主键生成多个事实表时,此时存在多个事实表具有相同的外键,那么多个事实表可以同时与同一维度表具有关联关系。
请参阅图3,图3示出了根据本申请一个实施例的根据事实表的外键关联具有一个主键多个外键的维度表的流程图。本申请实施例提供了外键关联具有一个主键多个外键的维度表的步骤,包括:
步骤S231,根据事实表的外键,关联具有一个主键多个外键的一级维度表,一级维度表的主键与事实表的一外键相同;
步骤S232,根据第一维度表的外键,关联具有一个主键的二级维度表,二级维度表的主键与所述第一维度表一外键相同。
下面对上述两个步骤进行详细描述。
需要明确的是,为避免事实表其中有过多外键,进而过多的外键关联太多维度表造成事实表冗余,因此将维度表分为一级维度表和二级维度表,一级维度表直接与事实表相互关联,二级维度表与一级维度表相互关联。
在步骤S231中,在事实表的外键与一级维度表主键之间建立映射关系,以使得事实表与一级维度表相互关联,其中,建立映射关系的事实表外键与一级维度表主键为同一分析维度。在一级维度表中可以显示其主键所对应分析维度的各字段内容。此外一级维度表中还含有其他分析维度形成的外键,
在步骤S232中,一级维度表中每一外键所对应的维度数据分别形成二级维度表,二级维度表的主键就是一级维度表的外键,在一级维度表的外键与二级维度表主键之间建立映射关系,使得一级维度表与二级维度表之间的相互关联。
在步骤S240中,根据用户指令,当需要获取数据仓库规范数据中某些字段内容作为数据分析结果时,根据所需字段确定其所在的维度表和/或事实表,然后在维度表和/或事实表中的各字段中搜索所需字段得到所需字段的内容,最后将所需字段的内容进行汇总得到数据分析结果。
在步骤S120中,根据预设标准在数据分析结果中确认目标字段,需要明确的是,预设标准是指对数据分析结果根据度量值进行字段筛选,确认何字段为目标字段的标准。
示例性的,在分析结果中,以用电量作为度量,以度量值大于1000度为预设标准,也既对用户字段进行筛选,预设标准是“用电量大于1000度”,进而确定数据分析结果中“用电量大于1000度”的“用户”字段为目标字段。
请参阅表1,表1示出了根据本申请一实施例的目标字段属性信息表,其记录了目标字段的属性信息。
表1
需要明确的是数据分析结果、维度表、事实表中的各字段都有对应的属性信息表,在字段创建的时候,获取其上述属性,当对字段进行使上述属性改变的操作时,使该字段的属性随之更改,当需要查看字段的属性信息时,属性信息以表1的形式展现。
因此在步骤S130中,根据目标字段,获取目标字段的属性信息表,根据目标字段属性信息表中的目标字段所在维度表的表名,以确认目标字段所在的维度表。
在步骤S140中,在得知目标字段所在维度表的表名之后,以该表名为搜索项,搜索获取标签与该维度表中目标字段之间的标记关系。
需要明确的是,维度表中具有标签列,每个标签具有单独的标签列,以通过标签列显示维度表中现存标签的标记情况,标记关系记录了现存标签在何维度表中,标记了哪一字段。标记关系可以表示字段被标记有标签,也可以表示字段没有被标记标签,既标记关系为空值。
在获取维度表中目标字段与标签之间的标记关系后,对维度表中目标字段与标签之间的标记关系执行变更。需要明确的是,变更包括对上述标记关系的添加、删除、以及改变。
在本申请一实施例中,根据维度表获取标签与维度表中目标字段的标记关系之前,查询数据仓库各维度表中的所有标签列,获取每个标签与当前维度表的字段的映射关系,也即标记关系。最后将这些标记关系储存到指定数据表,指定数据表是指预设用于存储标记关系的数据表。
标记关系中记录了标签在哪一维度表,标签标记了维度表哪一具体字段。
在步骤S150中,当对标签与维度表中目标字段之间的标记关系进行变更时,记录变更时的操作记录,操作记录标示了维度表中目标字段与标签之间标记关系的变化,并将操作记录发送到数据仓库中,需要明确的是,当数据仓库的数量大于1个时,将操作记录同时发送到各数据仓库。在本申请一实施例中,数据仓库在接收操作记录之后,会查询数据仓库中是否有操作记录中所记录的维度表,在维度表存在的情况下,在标记关系变更操作为添加操作时,直接建立标签列以对目标字段进行标记;在标记关系变更操作为删除操作或者编辑操作时,查看是否有需要删除或编辑的标签列,有就进行删除或者编辑。
对于操作记录具体记录的内容,请参阅表2,表2示出了根据本申请一实施例的操作记录信息表。
表2
正如表2所示出的,操作记录信息表记录了目标标签与维度表中目标字段之间标记关系的变化内容。操作记录信息表都会存储每一操作记录。操作记录信息表指出了对何维度表中的何种标签列进行何种变更。
在步骤S160中,数据仓库根据操作记录中记载的目标字段,根据维度表的表名在数据仓库中进行搜索得到维度表,在维度表中搜索的目标所在标签列,最后根据操作记录中的操作类型以及目标标签,对目标字段对应的标签列执行变更。
在数据仓库中寻找对应的维度表,然后在维度表中找到目标字段,最后根据操作记录对标记目标字段的标签进行变更。
请参阅图4,图4示出了根据本申请一个实施例的根据维度表,获取标签与维度表中目标字段之间的标记关系,对标记关系进行变更操作的流程图。变更操作包括标记关系添加操作,本申请实施例提供了获取标签与维度表中目标字段之间的标记关系,对标记关系进行变更操作的步骤S140,包括:
步骤S141a,根据目标字段获取目标标签;
步骤S142a,对标记关系执行标记关系添加操作,添加标签与维度表中目标字段之间的标记关系;
下面对上述两个步骤进行详细描述。
在步骤S141a中,在确定了目标字段之后,根据目标字段来获取用以描述目标字段特点的目标标签。需要明确的是,对于目标标签的获取,第一、使用户对在显示界面显示的标签进行选择,在显示界面显示的标签包括预设的标签、以及用户自定义的标签;第二、根据预设的标签与目标字段之间的对应关系,获取与目标字段对应的目标标签;第三,使用户直接创建新的标签,作为目标字段的目标标签,并将该标签收录于设定文件中,以供标签查询或者下次使用。
在步骤S142a中,在获取了目标字段的目标标签之后,建立目标字段与目标标签之间的标记关系。因为目标字段与标签之间的标记关系包括目标字段与各个标签之间的标记关系,所以建立一条目标字段与目标标签之间的标记关系,也就使目标字段与标签之间的标记关系被添加了一条。
需要明确的是,本申请一实施例中,在目标字段与目标标签之间建立标记关系之前,目标字段与各种标签之间可以不存在标记关系,也即目标字段与标签之间的标记关系为空值,也可以执行标记关系添加。示例性的,在目标字段与标签之间的标记关系为空值时,通过步骤S141a和步骤S142a添加一条目标字段与目标标签之间的标记关系,此时目标字段与标签之间的标记关系包括新添加的目标字段与目标标签之间的标记关系。
在本申请另一实施例中,对于标记关系的添加包括两种方式,其一、是将目标字段进行显示,使用户对目标字段进行虚拟添加标签,用户添加的标签为即为目标标签,建立目标字段与目标标签之间的标记关系。其二、通过API(Application ProgrammingInterface,应用程序编程接口)的调用进行标记关系的添加。具体的,根据标签关系变更的操作记录,生成表示目标字段与目标标签之间标记关系的程序代码,将该程序代码输入至API,以调用API运行该程序代码,由此即可新建目标字段与目标标签之间的标记关系,使目标字段与标签之间的标记关系被添加了一条。
在添加目标字段与目标标签的标记关系时,会生成操作记录为添加记录,以记录标记关系的添加。在添加记录生成后自动向数据仓库进行发送,数据仓库数据接收端接收添加记录,根据添加记录确认哪一维度表中的哪一字段将会被目标标签标记,然后对目标字段所在维度表新建目标标签所对应的标签列,以使目标标签标记目标字段。
请参阅图5,图5示出了根据本申请一个实施例的根据维度表,获取标签与维度表中目标字段之间的标记关系,对标记关系进行变更操作的流程图。变更操作包括标签删除操作,本申请实施例提供了获取标签与维度表中目标字段之间的标记关系,对标记关系进行变更操作的步骤S140,包括:
步骤S141b,根据维度表,获取标签与维度表中目标字段已经建立的标记关系;
步骤S142b,对标记关系执行标记关系的删除操作,删除所述标签与目标字段之间的标记关系;
下面,对上述两个步骤进行详细描述。
在步骤S141b中,在明确了目标字段在何种维度表后,首先根据维度表查询获取维度表中目标字段与各标签的标记关系。
在步骤S142b中,在目标字段与各标签的标记关系中选定一条标记关系进行删除,生成操作记录为删除记录,以记录删除标记关系的操作。在删除记录生成后向数据仓库进行发送。被删除的标记关系中标记目标字段的标签为目标标签。
数据仓库接收删除记录,根据删除记录的具体内容,得知是何维度表中哪一字段的何种标签被删除,然后对目标字段所在维度表删除目标标签所在标签列。
在本申请一实施例中,标签变更还包括标签编辑,被编辑的标签为目标标签。具体的,根据维度表获取目标标签与维度表中目标字段已经建立的标记关系,选中其中一条标记关系,对标记关系执行标记关系的编辑操作,以编辑目标标签与目标字段之间的标记关系,生成操作记录为编辑记录,以记录对标记关系的编辑操作,将编辑记录发送至数据仓库,数据仓库根据编辑记录,查找到目标字段所在的维度表,对维度表中的目标标签所在标签列进行编辑。例如,在用户用电情况维度表中,原来对月用电量大于1000度的用户使用标签——“用电异常用户”进行标记。经过标签改变之后,对月用电量大于2000度的用户才使用标签——“用电异常用户”进行标记。
请参阅表3,表3示出了根据本申请一实施例的目标字段与目标标签之间标记关系的信息表。
表3
正如表3所示的,表3示出了目标字段与目标标签之间的标记关系信息,每一标记关系都有对应的标记关系信息表,该表示出了何种标签与维度表中的何字段之间具有标记关系,且该标记关系还可以存活多久,何时失效。
在本申请一实施例中,当需要查看某一标记关系中记录的标记情况时,搜索该标记关系id(id、IDentity身份标示号码),就可以得到该标记关系的信息表,若进一步的想得知标记关系所记录的标签所在的维度表,则根据标记关系信息表中获取标签id,然后根据字段id获取字段信息表,根据字段信息表得到该字段所在的维度表表名,也即该标签所在的维度表。
请参阅表4,表4示出了根据本申请实施例的一目标标签信息表。
表4
字段 | 含义 |
id | 目标标签id |
target_name | 目标标签名称 |
target_name_encrypt | 目标标签标记的字段 |
target_type | 目标标签类型 |
target_level | 目标标签等级 |
target_value | 目标标签值 |
target_comment | 目标标签注释 |
create_time | 创建时间 |
is_delete | 是否删除 |
表4示出了目标标签的详细信息,在本申请中每一标签都有对应的标签信息表,可以根据标签的id查询获取对应的标签信息表,以得到标签的相关信息。
在本申请一实施例中,操作记录信息表(请参照表2)根据其中含有的目标字段id和目标标签id,可以调用目标字段相关信息表(请参照表1)和目标标签信息表(请参照表4)中的内容,获取相关信息,使得用户可以便捷的根据操作记录信息表,查询目标字段与目标标签的相关信息。
标记关系表(请参照表3)根据其中含有的目标字段id和目标标签id,也可以调用目标字段相关信息表(请参照表1)和目标标签信息表(请参照表4)中的内容,以确认目标字段所在维度表。也使得用户可以便捷的根据标记关系表查询的目标字段和目标标签的相关内容。
需要明确是,在本申请一实施例中,对于具有时效性的标签,每间隔设定时间,都会查询这些标签的时效性,若发现一标签已经过期,则根据该标签,查找记录该标签标记情况的标记关系,对该标记关系进行删除。生成删除标记关系的操作记录,并向数据仓库进行发送,数据仓库根据该操作记录,找到存在过期标签所标记字段的维度表,将维度表中对应过期标签的标签列执行删除。
在本申请另一实施例中,数据仓库在根据操作记录对维度表进行标签列变更时,产生执行记录,为使得数据仓库不会遗漏或者重复根据操作记录对维度表进行标签列的变更,数据仓库每间隔设定时间段,就将该设定时间段内的执行记录与接收到的操作记录进行比对,以检查是否出现遗漏或者重复执行的情况。示例性的。数据仓库每间隔5分钟,就将最近5分钟内的执行记录与接收到的操作记录进行比对,以检查是否出现遗漏或者重复执行的情况。
在本申请另一实施例中,数据仓库定期查询所有标记关系,以确认标记关系是否发生变更,若发现标记关系出现变更且生成操作记录,但未向数据仓库进行发送,数据仓库获取该操作记录,并根据该操作记录,对维度表进行标签列的变更,例如,增添标签列、删除标签列、改变标签列。
请参阅图6,图6示出了根据本申请一个实施例的在数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更之后,根据标签在数据仓库获取字段内容的流程图。本申请实施例提供了在数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更之后,根据标签在数据仓库获取字段信息的步骤,包括:
步骤S310,根据数据需求,选择多个标签为对象标签;
步骤S320,根据对象标签,获取对象标签所标记字段的内容。
下面对上述两个步骤进行详细描述。
在步骤S310中,数据仓库根据操作记录,对维度表中的标签列执行变更之后,用户根据数据需求,需要调用标签所标记的字段,此时将标记所需字段的标签,称之为对象标签。
在步骤S320中,根据对象标签查找获取记录对象标签的标记关系,然后根据该标记关系确定对象标签所对应的字段,获取该字段的内容,即可满足用户的数据需求。需要明确的是,在本申请一实施例中,标记关系中记录了,标签以及标签所标记的字段的具体内容。如该字段属性信息、字段名称、所对应的键值、所在的维度表、创建时间等等。
请参阅图7,图7示出了根据本申请一个实施例的根据对象标签,获取对象标签所标记字段的内容的流程图。本申请实施例提供了根据对象标签,获取对象标签所标记字段的内容的步骤,包括:
步骤S321,根据对象标签,获取对象标签对应字段所在的维度表;
步骤S322,将具有对象标签的字段进行汇总,获取字段的内容。
下面对上述两个步骤进行详细描述。
在步骤S321中,根据对象标签,查找记录对象标签标记情况的标记关系,然后根据标记关系,明确对象标签所在的维度表。
在步骤S322中,在数据仓库中获取对象标签所在的维度表,然后将维度表中具有对象标签的字段进向汇总,得到具有对象标签的字段的内容。
在本申请一实施例中,当对象标签为多个时,根据对象标签确认其所在的维度表,然后根据维度表的表名,在数据仓库中搜索获取对象标签所在的多个维度表,将各维度表中同时具有对象标签的字段进行汇总,得到同时具有多个标签的字段。
在本申请另一实施例中,当对象标签为多个时,在数据仓库中获取对象标签所在的多个维度表,根据维度表的标签列,查找具有上述任意一对象标签的字段,然后进行汇总,得到至少含有一个对象标签的字段。
请参阅图8,图8示出了根据本申请一实施例的一种数据仓库的标签管理装置的示意图。本申请实施例的一种数据仓库的标签管理装置主要包括以下模块:
获取模块810,用于获取数据仓库的数据分析结果,所述数据分析结果中含有若干字段;
确定模块820,用于根据预设标准在所述数据分析结果中确定目标字段,所述目标字段是所述数据分析结果中符合预设标准的字段;
维度表确认模块830,用于根据所述预设标准和目标字段,确定所述目标字段所在的维度表;
标签管理模块840,用于根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作;
消息交互模块850,用于对所述标记关系的变更操作生成操作记录,将所述操作记录发送至所述数据仓库;
数据仓库标签操作模块860,用于所述数据仓库根据所述操作记录,对所述维度表中的目标字段进行标签变更。
根据本申请实施例的一种数据仓库的标签管理方法可以由图9的标签管理设备来实现。下面参照图9来描述根据本申请实施例的标签管理设备。图9显示的标签管理设备仅仅是一个示例,不应对本申请实施例的功能和适用范围带来任何限制。
如图9所示,标签管理设备或以通用计算设备的形式表现。标签管理设备的组件可以包括但不限于:上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元810执行,使得所述处理单元810执行本说明书上述示例性方法的描述部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元810可以执行如图3中所示的各个步骤。
存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202,还可以进一步包括只读存储单元(ROM)8203。
存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204,这样的程序模块8205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
标签管理设备也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该标签管理设备交互的设备通信,和/或与使得该标签管理设备能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且,标签管理设备还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器860通过总线830与点云相机12的其它模块通信。应当明白,尽管图中未示出,可以结合标签管理设备使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本申请实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本申请实施方式的方法。
在本申请的示例性实施例中,还提供了一种计算机程序介质,其上存储有计算机可读指令,当所述计算机可读指令被计算机的处理器执行时,使计算机执行上述方法实施例部分描述的方法。
根据本申请的一个实施例,还提供了一种用于实现上述方法实施例中的方法的程序产品,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本申请的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本申请中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本申请实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本申请实施方式的方法。
本领域技术人员在考虑说明书及实践这里申请的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由所附的权利要求指出。
Claims (10)
1.一种数据仓库的标签管理方法,其特征在于,所述方法包括:
获取数据仓库的数据分析结果,所述数据分析结果中含有若干字段;
根据预设标准在所述数据分析结果中确定目标字段,所述目标字段是所述数据分析结果中符合预设标准的字段;
根据所述目标字段,确定所述目标字段所在的维度表;
根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作;
对所述标记关系的变更操作生成操作记录,将所述操作记录发送至所述数据仓库;
所述数据仓库根据所述操作记录,对所述维度表中的目标字段进行标签变更。
2.根据权利要求1所述的方法,其特征在于,所述获取数据仓库的数据分析结果之前,所述方法还包括:
对所述数据仓库入仓的数据进行清洗和规范化,得到规范数据;
根据预设的分析维度对所述规范数据进行数据提取,以一分析维度为主键生成维度表;
以所述维度表主键为外键生成事实表,所述事实表的一外键与所述维度表主键相同;
对所述事实表和/或维度表中的字段进行筛选,得到数据分析结果。
3.根据权利要求1所述的方法,其特征在于,所述根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作之前,包括:
获取所述数据仓库中各维度表中各字段与标签的标记关系,进行对所述标记关系的记录存储。
4.根据权利要求1所述的方法,其特征在于,所述变更操作包括标记关系添加操作,所述根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作,包括:
根据所述目标字段获取目标标签;
对所述标记关系执行标记关系添加操作,添加所述目标标签与维度表中目标字段之间的标记关系。
5.根据权利要求4所述的方法,其特征在于,所述数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更,包括:
根据所述操作记录中标记关系的添加记录,所述数据仓库在所述维度表中新建标签列,通过新建的标签列对所述维度表中的所述目标字段添加目标标签。
6.根据权利要求1所述的方法,其特征在于,所述变更操作包括标记关系删除操作,所述根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作,包括:
根据所述维度表,获取所述标签与维度表中目标字段已经建立的标记关系;
对所述标记关系执行标记关系的删除操作,删除所述标签与所述目标字段之间的标记关系。
7.根据权利要求6所述的方法,其特征在于,所述数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更,包括:
根据所述操作记录中标记关系的删除记录,对所述维度表中目标字段对应的标签列执行删除。
8.根据权利要求1所述的方法,其特征在于,所述数据仓库根据所述操作记录,对所述维度表中目标字段进行标签变更之后,所述方法还包括:
根据数据需求,选择多个标签为对象标签;
根据所述对象标签,获取所述对象标签所标记字段的内容。
9.根据权利要求8所述的方法,其特征在于,所述根据所述对象标签,获取所述对象标签所标记字段的内容,包括:
根据所述对象标签,获取所述对象标签对应字段所在的维度表;
将具有所述对象标签的字段进行汇总,获取所述字段的内容。
10.一种数据仓库的标签管理装置,其特征在于,所述装置包括:
获取模块,用于获取数据仓库的数据分析结果,所述数据分析结果中含有若干字段;
确定模块,用于根据预设标准在所述数据分析结果中确定目标字段,所述目标字段是所述数据分析结果中符合预设标准的字段;
维度表确认模块,用于根据所述目标字段,确定所述目标字段所在的维度表;
标签管理模块,用于根据所述维度表,获取标签与所述维度表中目标字段之间的标记关系,对所述标记关系进行变更操作;
消息交互模块,用于对所述标记关系的变更操作生成操作记录,将所述操作记录发送至所述数据仓库;
数据仓库标签操作模块,用于所述数据仓库根据所述操作记录,对所述维度表中的目标字段进行标签变更。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311153265.0A CN117194587A (zh) | 2023-09-07 | 2023-09-07 | 数据仓库的标签管理方法与装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311153265.0A CN117194587A (zh) | 2023-09-07 | 2023-09-07 | 数据仓库的标签管理方法与装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117194587A true CN117194587A (zh) | 2023-12-08 |
Family
ID=88990040
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311153265.0A Pending CN117194587A (zh) | 2023-09-07 | 2023-09-07 | 数据仓库的标签管理方法与装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117194587A (zh) |
-
2023
- 2023-09-07 CN CN202311153265.0A patent/CN117194587A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8924373B2 (en) | Query plans with parameter markers in place of object identifiers | |
CN113326247B (zh) | 云端数据的迁移方法、装置及电子设备 | |
US20100228794A1 (en) | Semantic document analysis | |
CN112667720A (zh) | 接口数据模型的转化方法、装置、设备及存储介质 | |
CN113760891B (zh) | 一种数据表的生成方法、装置、设备和存储介质 | |
CN110879808B (zh) | 一种信息处理方法和装置 | |
CN113655968B (zh) | 非结构化数据存储方法 | |
US20140358867A1 (en) | De-duplication deployment planning | |
CN112925757A (zh) | 一种追踪智能设备操作日志的方法、设备、存储介质 | |
CN112463991A (zh) | 历史行为数据的处理方法、装置、计算机设备及存储介质 | |
CN112084448B (zh) | 相似信息处理方法以及装置 | |
CN110990445A (zh) | 一种数据处理方法、装置、设备和介质 | |
CN116383193A (zh) | 一种数据管理方法、装置、电子设备和存储介质 | |
CN113157731A (zh) | 符号解析方法、装置、设备及存储介质 | |
CN110704432A (zh) | 数据索引的建立方法和装置、可读存储介质、电子设备 | |
CN110716804A (zh) | 无用资源的自动删除方法、装置、存储介质及电子设备 | |
CN113934733A (zh) | 问题定位方法、装置、系统、存储介质及电子设备 | |
CN112783482A (zh) | 一种可视化表单生成方法、装置、设备及存储介质 | |
CN112579673A (zh) | 一种多源数据处理方法及装置 | |
CN116881512A (zh) | 一种跨系统元数据血缘自动解析方法 | |
CN109947739B (zh) | 数据源管理方法及装置 | |
CN110716911B (zh) | 数据处理方法及装置、电子设备、存储介质 | |
CN112256566B (zh) | 一种测试案例的保鲜方法和装置 | |
CN117194587A (zh) | 数据仓库的标签管理方法与装置 | |
CN112598226B (zh) | 一种设备清查方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |