CN115879057A - 一种多维数据融合处理方法、平台、设备及存储介质 - Google Patents

一种多维数据融合处理方法、平台、设备及存储介质 Download PDF

Info

Publication number
CN115879057A
CN115879057A CN202211540541.4A CN202211540541A CN115879057A CN 115879057 A CN115879057 A CN 115879057A CN 202211540541 A CN202211540541 A CN 202211540541A CN 115879057 A CN115879057 A CN 115879057A
Authority
CN
China
Prior art keywords
data
fusion
attribute
candidate
fused
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211540541.4A
Other languages
English (en)
Inventor
南建军
宋伟强
万月亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Ruian Technology Co Ltd
Original Assignee
Beijing Ruian Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Ruian Technology Co Ltd filed Critical Beijing Ruian Technology Co Ltd
Priority to CN202211540541.4A priority Critical patent/CN115879057A/zh
Publication of CN115879057A publication Critical patent/CN115879057A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种多维数据融合处理方法、平台、设备及存储介质,包括:获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;从多源数据集合中,查找所述待融合维度下与所述数据属性信息满足选定融合要求的候选数据序列;对所述候选数据序列进行二次筛选,获得所述目标数据在待融合数据维度下关联的有效数据项。上述技术方案,实现多维度的不同来源数据的有效融合计算,解决了数据利用不充分的问题。

Description

一种多维数据融合处理方法、平台、设备及存储介质
技术领域
本发明涉及终端软件领域,尤其涉及一种多维数据融合处理方法、平台、设备及存储介质。
背景技术
随着互联网技术的不断发展,大数据以势不可挡的姿态进入人们的思想意识,并在社会的各个领域不断探索与落地实践。业界纷纷用大数据这个词来描述和定义信息爆炸时代产生的海量数据,数据相关的技术发展与创新成为大数据产业从业人员最为关心的话题。
但在大数据的应用层面,仍存在一些问题。大数据时代,数据已成为战略资产,但数据本身不会自动产生价值。海量信息本身价值低,各感知数据缺乏关联碰撞,使得海量“数据”价值挖掘不足,数据价值未得到充分利用,缺乏对多维度数据的整合。
发明内容
本发明提供了一种多维数据融合处理方法、平台、设备及存储介质,解决了数据利用不充分的问题,实现了数据的有效融合。
第一方面,本公开实施例提供了一种多维数据融合处理方法,包括:
获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;
从多源数据集合中,查找待融合维度下与数据属性信息满足选定融合要求的候选数据序列;
对候选数据序列进行二次筛选,获得目标数据在待融合数据维度下关联的有效数据项。
第二方面,本公开实施例提供了一种多维数据融合处理平台,包括:
属性信息获取模块,用于获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;
数据序列查找模块,用于从多源数据集合中,查找待融合维度下与数据属性信息满足选定融合要求的候选数据序列;
数据序列筛选模块,用于对候选数据序列进行二次筛选,获得目标数据在待融合数据维度下关联的有效数据项。
第三方面,本公开实施例提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行上述第一方面实施例提供的一种多维数据融合处理方法。
第四方面,本公开实施例提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现上述第一方面实施例提供的一种多维数据融合处理方法。
本发明实施例的一种多维数据融合处理方法、平台、设备及存储介质,通过获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;从多源数据集合中,查找待融合维度下与数据属性信息满足选定融合要求的候选数据序列;对候选数据序列进行二次筛选,获得目标数据在待融合数据维度下关联的有效数据项。通过采用上述技术方案,将选定维度下的目标数据与其他维度下的满足融合要求的数据进行融合处理,确定与目标数据相关联的有效数据项,实现了不同维度之间的数据融合计算处理,有效解决了数据单独利用导致的大量数据价值使用不充分的问题。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种多维数据融合处理方法的流程图;
图2是本发明实施例二提供的一种多维数据融合处理方法的流程图;
图3是本发明实施例二提供的一种多维数据融合处理方法中涉及融合计算的逻辑展示图;
图4是本发明实施例三提供的一种多维数据融合处理平台的结构示意图;
图5是本发明实施例四提供的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”和“目标”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是本发明实施例一提供的一种多维数据融合处理方法的流程图,本实施例可适用于在大数据服务平台中,将多个维度的数据进行融合处理并应用的情形,该方法可以由一种多维数据融合处理平台来执行,该平台可以采用硬件和/或软件的形式实现。
如图1所示,该方法包括:
S101、获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度。
在本实施例中,数据属性信息可以理解为目标数据的采集参数信息。例如可以包括数据的采集时间与采集地点等。待融合数据维度可以理解为即将与选定维度下目标数据进行数据融合的数据的维度,是除选定维度以外的其他维度。其中,待融合数据维度可以是一个维度,也可以是多个维度,本发明实施例对此不设限定。
具体的,在大数据服务平台中,存在大量的不同维度数据信息,获取选定维度下的数据作为目标数据,并获取目标数据的数据属性信息。在除选定维度的所有数据维度中,选定一个或几个数据维度,作为待融合数据维度。
示例性的,针对实体对象,在大数据服务平台中可以存在姓名、性别、身份信息、居住地址、联系方式、社保账户、银行卡号、工作单位以及车牌照号等大量维度下关于实体对象的信息。但上述信息在大数据服务平台中分散存在,无法通过其中一个信息直接关联到其他信息。
示例性的,获取大数据服务平台中的任一维度对应的数据作为目标数据,例如可以选定车牌照号维度作为目标数据的维度,相应的,车牌车牌照号的具体数据信息作为本实施例的目标数据。每个目标数据都存在被采集时的数据属性信息,可以理解为每个车牌照号被采集的时间与地点都记录于目标数据的属性信息中。当前大数据服务平台中,选定除车牌照号维度数据以外的其他部分数据作为待融合数据,相应的,待融合数据对应的数据维度可以确定为待融合数据维度。例如可以选定联系方式以及身份信息作为待融合数据维度。
可选的,选定维度可以是固定的维度,也可以根据不同的需求自由选定的维度,本发明实施例对此不设限定。
S102、从多源数据集合中,查找待融合维度下与数据属性信息满足选定融合要求的候选数据序列。
在本实施例中,多源数据集合可以理解为多个不同来源的数据集合。选定融合要求可以理解为参与多维数据融合的数据需要满足的条件要求。候选数据序列可以理解为多源数据集合中满足选定融合要求的数据的集合序列。
具体的,多源数据集合中,存在大量的不同来源、不同维度的数据,并非全部数据都可以作为参与多源数据融合的数据存在。多源数据集合中存在多个候选数据序列。每一个候选数据序列都是筛选后的不同维度的数据集合序列,是通过将选定待融合维度的数据同目标数据进行对比后确定的满足选定融合条件的数据的集合。
S103、对候选数据序列进行二次筛选,获得目标数据在待融合数据维度下关联的有效数据项。
在本实施例中,有效数据项可以理解为在候选数据序列中的融合相对更有效的数据项。
具体的,每一待融合数据维度下都存在对应的候选数据序列。候选数据系列中仍存在多个数据项,根据选定的待融合维度下对应的候选数据序列中存在的多个数据项的数据属性信息,确定与目标数据的关联程度,根据关联程度由高至低的顺序对上述多个数据项进行排序,将关联度较低的数据项排除,只留下关联度较高的数据项,完成对候选数据序列的二次筛选,并获得筛选后保留的与目标数据在待融合数据维度下关联的有效数据项。
示例性的,二次筛选的条件可以是基于设定的关联度阈值,例如仅保留候选数据序列中关联度为80%以上的数据项,可以基于设定的关联度排名,例如仅保留候选数据序列中关联度排名为前五名的数据项。本发明实施例对此筛选条件不设限定。
在本实施例中,通过获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;从多源数据集合中,查找待融合维度下与数据属性信息满足选定融合要求的候选数据序列;对候选数据序列进行二次筛选,获得目标数据在待融合数据维度下关联的有效数据项。通过采用上述技术方案,将选定维度下的目标数据与其他维度下的满足融合要求的数据进行融合处理,确定与目标数据相关联的有效数据项,实现了不同维度之间的数据融合计算处理,有效解决了数据单独利用导致的大量数据价值使用不充分的问题。
作为实施例的第一可选实施例,在上述实施例基础上,本第一可选实施例还优化增加了:
获取至少一个源数据系统提供的源数据信息,并将进行数据清洗后的源数据信息存放至与源数据系统的数据源类型相匹配的数据集合中。
在本实施例中,源数据系统可以理解为提供源数据信息的系统,例如可以是提供车牌照号数据的车辆管理系统。数据集合可以理解为同源数据的集合,例如可以是清洗后的车牌照号数据的集合。
具体的,存在多个不同纬度的源数据系统可以通过接口对接、实时采集、离线获取等方式获取并提供源数据信息。源数据系统可采集并输入输出各种数据,包括但不限于车辆、人脸、电动车等等。
在本实施例中,获取至少一个根据源数据系统实时采集所提供的源数据信息,并将根据源数据信息的属性信息确定其是否存在采集时间与采集地点的信息,将不包含采集时间与采集地点信息的源数据信息清洗掉,将存在采集时间与采集地点信息的源数据信息存放至与该源数据信息相应的数据集合中。多个不同来源的数据集合,即多个不同维度下的源数据集合,构成多源数据集合。
进一步的,各所述源数据系统通过接入时钟服务器的形式控制各源数据信息以相同时钟基准进行时间信息记录。
在本实施例中,为保证计算数据融合的准确性,首先要保证多源数据采集时间的同一性,因此要保证所有的源数据系统、接收服务器和数据存储服务器进行时间同步设置。
具体的,配置一台专业的时钟服务器,将时钟服务器接入源数据系统的局域网内,同时给局域网内的服务器和客户端授时。时钟服务器接收卫星导航系统的时间或者CDMA(Code Division Multiple Access,码分多址)信号,满足服务器对时间的要求。进一步的,使各个源数据信息以相同的时钟基准进行时间信息记录。
进一步的,各所述源数据系统控制各源数据信息以相同空间坐标系进行空间位置信息记录。
在本实施例中,为保证计算数据融合的准确性,首先要保证多源数据采集空间坐标的同一性,因此要保证所有的源数据系统、接收服务器和数据存储服务器进行空间同步设置。
具体的,数据的点位信息在具体的结构化数据中都是以经纬度值来体现的,目前常用的经纬度坐标系有WGS84国际坐标系、GCJ-02国家测局坐标系、BD-09坐标系等,控制源数据系统以同一空间坐标系为基准对各源数据信息进行空间位置信息记录。
可选的,也可以通过不同空间坐标系采集的数据进行坐标转换实现空间坐标同一。由于数据可能通过不同数据源、不同网络、不同厂商、不同设备汇集而来,也可能存在经纬度坐标系不统一的问题,所以数据在入库前要对数据经纬度进行统一转换。
示例性的,采用BD-09坐标系作为基准坐标系,将根据其他坐标系采集而来的源数据信息的空间位置,对经纬度进行统一转换,例如将WGS84国际坐标系采集而来的数据经纬度信息转换为BD-09坐标系下的数据经纬度信息。将转换完成后同一空间坐标系的源数据信息进行空间位置记录。
进一步的,各所述源数据信息对应的数据集合存储在预先搭建的数据服务层上。
在本实施例中,各源数据信息对应的数据集合需要根据不同的数据类型进行分布式分类存储。
具体的,将清洗后的数据根据不同的维度源数据信息的数据集合分协议存储到预先搭建的数据服务层上。具体存储协议根据不同的数据源类型确定,本发明实施例对此不设限定。
示例性的,预先搭建的数据服务层可以是DASS层数据服务平台。能够基于Hadoop大数据架构技术,支持PB(Petabyte,千万亿字节)级数据处理能力和秒级响应。以Hadoop、Spark、HDFS(Hadoop Distributed File System,分布式文件系统)等多种业界主流数据套件构建大数据平台,支撑PB级异构数据集成、高效存储、多场景计算和分析挖掘,满足多种数据类型(结构化、半结构化、非结构化数据)和多种计算场景(离线、交互、实时)的不同需求。
在本实施例中,将各多维度的不同源数据信息对应的数据集合分协议存储在预先搭建的数据服务层上,使用统一的平台对多维数据进行融合计算处理。与现有技术相比,无需在不同的来源系统中独立运行计算,最终整合到大数据平台中。上述技术方案,有效减轻了系统运行压力,节约了经济成本。
作为实施例的第二可选实施例,在上述实施例基础上,本第二可选实施例还优化增加了:
a1)按照设定的展示条件对所述目标数据及相应的有效数据项进行可视化展示。
在本实施例中,设定的展示条件可以理解是根据不同的数据融合可视化需求对多维数据融合计算结果进行展示的条件。
具体的,待融合维度下存在多个与目标数据关联度较高的有效数据项,多个有效数据项可以基于与目标数据的关联度以柱状图的形式进行展示,也可以采用扇形图或折线图等其他可以直观展示数据融合结果的形式,本实施例对此不设限定。
具体的,可视化展示界面还可以存在选定融合要求框,用以根据不同的融合要求对多维数据融合计算的结果进行展示。
具体的,可视化展示界面还可以存在选定融合维度框,用以根据不同的融合数据维度对多维数据融合计算的结果进行展示。
示例性的,融合要求为时间选项时,融合维度为第一维度与第二维度时,可视化界面分别展示第一维度与第二维度的与目标数据在时间上满足融合要求的筛选范围且关联度较高的有效数据项。
b1)将所述目标数据及相应的有效数据项形成设定文件格式的数据融合文件并按照设定存储条件进行文件存储。
在本实施例中,在可视化展示界面中能够被显示的有效数据项以及目标数据都能够根据不同的融合要求或不同的融合维度形成相应的设定文件格式的数据融合文件并按设定存储条件进行文件存储。具体的文件格式可以根据需求设定,具体的存储条件也可以根据需求进行设定,本实施例对此不设限定。
实施例二
图2是本发明实施例一提供的一种多维数据融合处理方法的流程图,本实施例是对上述任一实施例的进一步优化,可适用于在大数据服务平台中,将多个维度的数据进行融合处理并应用的情形,该方法可以由一种多维数据融合处理平台来执行,该平台可以采用硬件和/或软件的形式实现。
如图2所示,该方法包括:
S201、获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度。
S202、确定待融合维度的数据源类型,从多源数据集合中查找数据源类型对应的数据集合。
在本实施例中,数据源类型可以理解为待融合维度数据的数据类型。数据集合可以理解为待融合维度的数据源类型下对应的多个同源数据组成的数据集合。
具体的,多源数据集合中存在多种不同来源的数据,每一类相同来源的数据都可以构成一个数据源类型下的数据集合。基于选定的待融合维度,确定待融合维度对应的数据源类型,并在多源数据集合中根据该数据源类型查找对应的数据集合。数据源类型对应的数据集合可以理解为多源数据集合的子集。
示例性的,多源数据集合内可以存在数据源类型为身份管理机构提供的身份信息的数据集合,以及数据源类型为通信管理机构提供的联系方式的数据集合等多个不同数据来源的数据集合。选定身份信息与联系方式两个维度作为待融合维度,由此可以确定待融合维度的数据源类型为身份管理机构提供的身份信息以及通信管理机构提供的联系方式。在多源数据集合中,查找数据源类型对应的数据集合,即查找两个待融合维度相应的数据源类型下,所对应的身份信息数据的集合以及联系方式数据的集合。
S203、接收从融合要求菜单中选定的融合属性项作为选定融合要求。
在本实施例中,融合要求菜单可以理解为融合属性项的集合菜单,可以在融合要求菜单中选取对应的融合属性项。可选的,融合要求菜单也可以可视化地展开于大数据服务平台中。融合属性项可以理解为进行数据融合的可选属性信息项。
具体的,数据平台可以存在一个可视化界面,界面中显示有融合要求菜单,融合要求菜单中可以包括多个融合属性项,接收已经选定的其中一个融合属性项,以及融合属性项对应的选定融合要求。
示例性的,融合属性项可以包括时间、空间以及时间与空间。相应的,选定融合要求也为融合属性项中的任意一项,具体可以根据数据融合处理需求确定。
示例性的,选定融合要求为融合属性项中的时间与空间选项,由此,接收融合要求菜单中选定的时间与空间融合要求。
S204、根据融合属性项及数据属性信息,从数据集合中确定候选数据序列。
在本实施例中,候选数据序列可以理解为多个候选数据项的集合序列。候选数据项可以理解为数据集合中满足选定融合要求的数据项。可以理解的是,数据集合中可以存在多个满足选定融合要求的数据作为候选数据项,将这些满足选定融合要求的候选数据项集合,基于不同的待融合维度,构建不同的候选数据序列。
具体的,融合属性项可以包括时间、空间以及时间与空间,数据属性信息可以包括目标数据的采集时间与地点,即目标数据采集时对应的时间与空间信息。在待融合维度对应的数据集合中,确定满足选定融合要求的数据,作为候选数据项。具体的,候选数据项可以是数据集合中,相对于目标数据的数据属性信息,满足对应的时间范围和/或空间范围条件的数据。
进一步的,S204可以包括:
a2)从所述数据属性信息中提取所述融合属性项对应的属性信息,并基于所述属性信息确定数据筛选范围。
在本实施例中,属性信息可以理解为目标数据的时间信息、空间信息或时间与空间信息。数据筛选范围可以理解为基于时间与空间条件的筛选数据的范围。
具体的,融合属性项待融合维度的数据对应的属性项。当融合属性项为时间时,对应的属性信息为目标数据的采集时间信息;融合属性项为空间时,对应的属性信息为目标数据的采集空间信息;融合属性项为时间与空间时,对应的属性信息为目标数据的采集时间信息与采集空间信息。基于选定的融合属性项选项,在数据属性信息中提取目标数据对应的采集信息,并确定对待融合维度的数据的筛选范围。
示例性的,选定的待融合维度融合属性项为时间与空间时,需要筛选的待融合数据为同时满足时间范围条件与空间范围条件的多维度数据。确定第一时间范围为时间筛选范围,筛选范围例如可以是与目标数据采集时间的同一天范围内。确定第一空间范围为空间筛选范围,例如可以是与目标数据采集地点的同城市范围内。本发明实施例中,对时间与空间的详细筛选范围不设限定。
b2)从所述数据集合中查找所述融合属性项关联的属性数据列及有效数据列,获取所述属性数据列中各属性数据项。
在本实施例中,属性数据列可以理解为数据属性项相对应的数据集合而构建的数据序列。有效数据列可以理解为数据集合中与目标数据关联度较高的有效数据组合的数据序列。
具体的,同一维度对应的数据集合中,可以存在多个融合数据属性相对应的属性数据列与多个数据项组成的有效数据列。在数据集合中,每个属性都能够对应一个属性数据列,获取当前属性数据列中的数据项,即属性数据项。
c2)通过设定的融合计算参数,筛选处于所述数据筛选范围的属性数据项,获得候选属性数据项。
在本实施例中,融合计算参数可以理解为对多维度数据进行融合计算的参数。候选属性数据项可以理解为属性数据列中满足融合计算参数对应的数据筛选范围条件的部分属性数据项。
具体的,基于时间属性对应的融合计算参数可以是以秒为单位的时间间隔。在进行数据融合计算时会根据目标数据的采集时间属性信息,根据当前时间的上下间隔时间范围,来判断上下间隔时间范围内在属性数据列中是否有同其他数据同时出现,若存在,可以确定该属性数据项为候选属性数据项。
具体的,基于空间属性对应的融合计算参数可以是以米或千米为单位的半径参数。多维数据在进行数据融合计算时根据目标数据的空间坐标信息,确定属性数据系列中是否存在属性数据项的空间属性信息满足基于半径参数计算的半径范围内,若存在,可以确定该属性数据项为候选属性数据项。
具体的,计算两点之间距离的方法可以如下所示:
Figure BDA0003977377980000131
其中,latitude表示为纬度,longitude表示为经度;a=latitude1–latitude2,表示为两点纬度之差;b=longitude1-longitude2,表示为两点经度之差;6378.137(km)为地球半径,计算出来结果是两个点位的距离,计算结果的单位为千米(km)。
d2)基于各候选属性数据项,从所述有效数据列中获得元素数据项,构成候选数据序列。
在本实施例中,候选数据系列可以理解为候选属性数据项与元素数据项结合后确定的数据项的集合序列。
示例性的,属性数据列中存在n个候选属性数据项,有效数据列中存在m个元素数据项,在两个数据序列中取n个候选属性数据项和m个元素数据项的交集,确定既可以表示为候选属性数据项又可以表示为元素数据项的t个数据,根据这些数据构建候选数据序列。其中,t<=m且t<=n。
示例性的,图3是本发明实施例二提供的一种多维数据融合处理方法中涉及融合计算的逻辑展示图。如图3所示,在同时基于时间与空间的数据筛选范围进行数据融合计算场景下,存在目标数据A,首先根据时间筛选范围查出“A”出现的位置信息及出现的时间信息,例如查询出10条目标数据A的数据记录。进而,根据每条“A”的数据(比如A1),根据预先设定的融合计算参数对空间半径范围和时间范围进行设置,计算出新的时空条件来查询出其他维度的数据,如B1、C1、D1、E1等,依次计算出与第一条目标数据A(A1)相匹配的10条记录。同理,目标数据A查询出的其他数据,如A2、A3等,也根据上述方法以此计算出相匹配的10条其他维度的数据记录。根据计算出来的10条数据,数据之间进行交集计算,计算出匹配率最高的数据值如(B1、C1),就可以认为该数据就是与A数据为同一对象的其他维度的数据,因此将B1与C1确定为候选数据序列。
S205、按照设定的权重计算策略,确定候选数据序列中各候选数据项的融合权重值。
在本实施例中,权重计算策略可以理解为计算数据有效度的策略。融合权重值可以理解为数据在融合计算中,与目标数据关联度的值,也可以理解为待融合数据的有效度的值。
具体的,与目标数据进行关联度计算,在候选数据序列中存在多个候选数据项,每个候选数据项都是与目标数据基于时空属性存在关联度的数据项。设定的权重计算策略例如可以根据候选数据项出现的次数确定候选数据项的权重。
示例性的,目标数据为A,存在采集到的与目标数据A相匹配的10条数据,其中候选数据项B在十条数据中出现8次,可以确定候选数据项B的融合权重值为80%。
S206、基于各融合权重值筛选候选数据项,获得目标数据在待融合数据维度下关联的有效数据项。
在本实施例中,可以根据融合权重值由高至低的顺序对不用维度的候选数据项进行排序,取排名靠前的n个候选数据项,确定为有效数据项。
示例性的,同一待融合数据维度下,当各个候选数据项的融合权重值分别为90%、70%、60%以及55%时,取融合权重值排名较高的前三名,将融合权重值为90%、70%与60%对应的候选数据项确定为待融合维度下的有效数据项。可以理解的是,在每个待融合数据维度下,也可以仅存在一名融合权重值最高的候选数据项作为有效数据项。
在本实施例中,通过获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;确定待融合维度的数据源类型,从多源数据集合中查找数据源类型对应的数据集合;接收从融合要求菜单中选定的融合属性项作为选定融合要求;根据融合属性项及数据属性信息,从数据集合中确定候选数据序列;按照设定的权重计算策略,确定候选数据序列中各候选数据项的融合权重值;基于各融合权重值筛选候选数据项,获得目标数据在待融合数据维度下关联的有效数据项。通过采用上述技术方案,确定融合要求并根据融合要求对数据进行融合计算,根据候选数据项权重确定有效数据项,提高了融合计算确定有效数据项结果的准确性,根据不同的要求获取不同维度数据结果,实现数据融合的多样性。
实施例三
图4是本发明实施例三提供的一种多维数据融合处理平台的结构示意图。如图4所示,该平台包括:
属性信息获取模块31,用于获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;
数据序列查找模块32,用于从多源数据集合中,查找所述待融合维度下与所述数据属性信息满足选定融合要求的候选数据序列;
数据序列筛选模块33,用于对所述候选数据序列进行二次筛选,获得所述目标数据在待融合数据维度下关联的有效数据项。
本技术方案采用的一种多维数据融合处理平台,通过将选定维度下的目标数据与其他维度下的满足融合要求的数据进行融合处理,确定与目标数据相关联的有效数据项,实现了不同维度之间的数据融合计算处理,有效解决了数据单独利用导致的大量数据价值使用不充分的问题。与现有技术相比,无需采用多个系统进行数据集中应用,有效减轻了运行压力,节约经济成本。
可选地,所述数据序列查找模块32包括:
数据集查找单元,用于确定所述待融合维度的数据源类型,从所述多源数据集合中查找所述数据源类型对应的数据集合;
融合要求确定单元,用于接收从融合要求菜单中选定的融合属性项作为选定融合要求;
数据序列确定单元,用于根据所述融合属性项及所述数据属性信息,从所述数据集合中确定候选数据序列。
可选地,数据序列确定单元具体应用于:
从所述数据属性信息中提取所述融合属性项对应的属性信息,并基于所述属性信息确定数据筛选范围;
从所述数据集合中查找所述融合属性项关联的属性数据列及有效数据列,获取所述属性数据列中各属性数据项;
通过设定的融合计算参数,筛选处于所述数据筛选范围的属性数据项,获得候选属性数据项;
基于各候选属性数据项,从所述有效数据列中获得元素数据项,构成候选数据序列。
可选地,数据序列筛选模块33,具体应用于:
按照设定的权重计算策略,确定所述候选数据序列中各候选数据项的融合权重值;
基于各所述融合权重值筛选候选数据项,获得所述目标数据在所述待融合数据维度下关联的有效数据项。
可选地,所述平台还包括:数据信息保存模块,用于获取至少一个源数据系统提供的源数据信息,并将进行数据清洗后的源数据信息存放至与源数据系统的数据源类型相匹配的数据集合中。
可选地,各所述源数据系统通过接入时钟服务器的形式控制各源数据信息以相同时钟基准进行时间信息记录;
各所述源数据系统控制各源数据信息以相同空间坐标系进行空间位置信息记录。
可选地,数据信息保存模块具体应用于各所述源数据信息对应的数据集合存储在预先搭建的数据服务层上。
可选地,所述平台还包括:
可视化展示模块,用于按照设定的展示条件对所述目标数据及相应的有效数据项进行可视化展示;和/或,
文件存储模块,用于将所述目标数据及相应的有效数据项形成设定文件格式的数据融合文件并按照设定存储条件进行文件存储。
本发明实施例所提供的一种多维数据融合处理平台可执行本发明任意实施例所提供的一种多维数据融合处理方法,具备执行方法相应的功能模块和有益效果。
实施例四
图5示出了可以用来实施本发明的实施例的电子设备40的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图5所示,电子设备40包括至少一个处理器41,以及与至少一个处理器41通信连接的存储器,如只读存储器(ROM)42、随机访问存储器(RAM)43等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器41可以根据存储在只读存储器(ROM)42中的计算机程序或者从存储单元48加载到随机访问存储器(RAM)43中的计算机程序,来执行各种适当的动作和处理。在RAM 43中,还可存储电子设备40操作所需的各种程序和数据。处理器41、ROM 42以及RAM 43通过总线44彼此相连。输入/输出(I/O)接口45也连接至总线44。
电子设备40中的多个部件连接至I/O接口45,包括:输入单元46,例如键盘、鼠标等;输出单元47,例如各种类型的显示器、扬声器等;存储单元48,例如磁盘、光盘等;以及通信单元49,例如网卡、调制解调器、无线通信收发机等。通信单元49允许电子设备40通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器41可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器41的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器41执行上文所描述的各个方法和处理,例如一种多维数据融合处理方法。
在一些实施例中,一种多维数据融合处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元48。在一些实施例中,计算机程序的部分或者全部可以经由ROM 42和/或通信单元49而被载入和/或安装到电子设备40上。当计算机程序加载到RAM 43并由处理器41执行时,可以执行上文描述的一种多维数据融合处理方法的一个或多个步骤。备选地,在其他实施例中,处理器41可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行一种多维数据融合处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (11)

1.一种多维数据融合处理方法,其特征在于,包括:
获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;
从多源数据集合中,查找所述待融合维度下与所述数据属性信息满足选定融合要求的候选数据序列;
对所述候选数据序列进行二次筛选,获得所述目标数据在待融合数据维度下关联的有效数据项。
2.根据权利要求1所述的方法,其特征在于,所述从多源数据集合中,查找所述待融合维度下与所述数据属性信息满足选定融合要求的候选数据序列,包括:
确定所述待融合维度的数据源类型,从所述多源数据集合中查找所述数据源类型对应的数据集合;
接收从融合要求菜单中选定的融合属性项作为选定融合要求;
根据所述融合属性项及所述数据属性信息,从所述数据集合中确定候选数据序列。
3.根据权利要求2所述的方法,其特征在于,所述根据所述融合属性项及所述数据属性信息,从所述数据集合中确定候选数据序列,包括:
从所述数据属性信息中提取所述融合属性项对应的属性信息,并基于所述属性信息确定数据筛选范围;
从所述数据集合中查找所述融合属性项关联的属性数据列及有效数据列,获取所述属性数据列中各属性数据项;
通过设定的融合计算参数,筛选处于所述数据筛选范围的属性数据项,获得候选属性数据项;
基于各候选属性数据项,从所述有效数据列中获得元素数据项,构成候选数据序列。
4.根据权利要求1所述的方法,其特征在于,所述对所述候选数据序列进行二次筛选,获得所述目标数据在待融合数据维度下关联的有效数据项,包括:
按照设定的权重计算策略,确定所述候选数据序列中各候选数据项的融合权重值;
基于各所述融合权重值筛选候选数据项,获得所述目标数据在所述待融合数据维度下关联的有效数据项。
5.根据权利要求1所述的方法,其特征在于,还包括:
获取至少一个源数据系统提供的源数据信息,并将进行数据清洗后的源数据信息存放至与源数据系统的数据源类型相匹配的数据集合中。
6.根据权利要求5所述的方法,其特征在于,各所述源数据系统通过接入时钟服务器的形式控制各源数据信息以相同时钟基准进行时间信息记录;
各所述源数据系统控制各源数据信息以相同空间坐标系进行空间位置信息记录。
7.根据权利要求5所述的方法,其特征在于,各所述源数据信息对应的数据集合存储在预先搭建的数据服务层上。
8.根据权利要求1-7任一项所述的方法,其特征在于,还包括:
按照设定的展示条件对所述目标数据及相应的有效数据项进行可视化展示;和/或,
将所述目标数据及相应的有效数据项形成设定文件格式的数据融合文件并按照设定存储条件进行文件存储。
9.一种多维数据融合处理平台,包括:
属性信息获取模块,用于获取选定维度下目标数据的数据属性信息,并获得选定的待融合数据维度;
数据序列查找模块,用于从多源数据集合中,查找所述待融合维度下与所述数据属性信息满足选定融合要求的候选数据序列;
数据序列筛选模块,用于对所述候选数据序列进行二次筛选,获得所述目标数据在待融合数据维度下关联的有效数据项。
10.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的一种多维数据融合处理方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-8中任一项所述的一种多维数据融合处理方法。
CN202211540541.4A 2022-12-02 2022-12-02 一种多维数据融合处理方法、平台、设备及存储介质 Pending CN115879057A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211540541.4A CN115879057A (zh) 2022-12-02 2022-12-02 一种多维数据融合处理方法、平台、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211540541.4A CN115879057A (zh) 2022-12-02 2022-12-02 一种多维数据融合处理方法、平台、设备及存储介质

Publications (1)

Publication Number Publication Date
CN115879057A true CN115879057A (zh) 2023-03-31

Family

ID=85765655

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211540541.4A Pending CN115879057A (zh) 2022-12-02 2022-12-02 一种多维数据融合处理方法、平台、设备及存储介质

Country Status (1)

Country Link
CN (1) CN115879057A (zh)

Similar Documents

Publication Publication Date Title
JP6293642B2 (ja) 推薦エンジンに基づく汎用グラフ、ルール及び空間構造
EP3471374B1 (en) Method and device for identifying type of geographic location at where user is located
Praveen et al. Big data environment for geospatial data analysis
CN110880136A (zh) 配套产品的推荐方法、系统、设备和存储介质
CN114265981A (zh) 推荐词确定方法、装置、设备及存储介质
CN109145225B (zh) 一种数据处理方法及装置
CN114978877B (zh) 一种异常处理方法、装置、电子设备及计算机可读介质
CN103488525A (zh) 确定与情景相关的用户偏好
CN112818230A (zh) 内容推荐方法、装置、电子设备和存储介质
CN115640300A (zh) 一种大数据管理方法、系统、电子设备和存储介质
CN115525841B (zh) 兴趣点信息的获取方法、电子设备及存储介质
CN116385081A (zh) 一种推荐物品的方法、装置、设备及存储介质
CN115879057A (zh) 一种多维数据融合处理方法、平台、设备及存储介质
CN111723273A (zh) 一种智慧云检索系统及方法
CN115423555A (zh) 一种商品推荐方法、装置、电子设备及存储介质
CN115619245A (zh) 一种基于数据降维方法的画像构建和分类方法及系统
Corso Toward predictive crime analysis via social media, big data, and gis spatial correlation
CN107391723B (zh) 一种信息自动搜索归类再发布方法及系统
CN111143328A (zh) 一种敏捷商业智能数据构建方法、系统、设备、存储介质
EP4007959A1 (en) Real-time geo-intelligent aggregation engine
US20230267467A1 (en) Efficient integration of data into environments
KR102470731B1 (ko) 온톨로지를 이용한 데이터셋 제공 방법 및 장치
CN117634894B (zh) 生态环境风险评估方法、装置、电子设备及存储介质
US11494952B1 (en) Efficient integration of data into augmented and virtual reality environments
CN115409576A (zh) 产品推荐方法、装置、计算机设备及其存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination