CN115062701A - 数据处理方法、装置及电子设备 - Google Patents
数据处理方法、装置及电子设备 Download PDFInfo
- Publication number
- CN115062701A CN115062701A CN202210676675.2A CN202210676675A CN115062701A CN 115062701 A CN115062701 A CN 115062701A CN 202210676675 A CN202210676675 A CN 202210676675A CN 115062701 A CN115062701 A CN 115062701A
- Authority
- CN
- China
- Prior art keywords
- data
- data processing
- processing model
- difference
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Remote Sensing (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种数据处理方法、装置及电子设备,涉及数据处理技术领域,具体涉及地图技术领域。具体实现方案为:获取与第一数据处理模型的特征相关的第一数据集合,所述第一数据处理模型为第二数据处理模型升级后得到的数据处理模型;分别基于第一数据处理模型和第二数据处理模型,对第一数据集合进行数据处理,得到第一数据处理模型输出的第二数据集合和第二数据处理模型输出的第三数据集合;将第二数据集合和第三数据集合进行对比,得到第一差异数据;基于第一差异数据的表现形式,对第一差异数据进行分类,得到第一差异数据在表现形式上的目标聚类簇。
Description
技术领域
本公开涉及数据处理技术领域,尤其涉及地图技术领域,具体涉及一种数据处理方法、装置及电子设备。
背景技术
信息点即兴趣点(Point of Interest,POI)系统是将多种不同渠道的POI信息,经过数据处理模型的计算,选择并得出某一个字段的最优值,比如某一旅游景点的名称经过POI系统中的数据处理模型计算后,可以得到该旅游景点的真实名称展示给用户。
由于数据处理模型的不断升级,数据处理模型产出的POI数据会发生变化,与升级前的数据处理模型相比,发生变化的数据值是否符合现实世界的实际情况,需要对此数据进行核实分析。
目前,通常是通过手动修改数据处理模型升级的服务,在服务中添加日志,将数据处理模型计算后,且发生变化的差异数据存入文件,并从文件中随机抽取数据进行人工分析。
发明内容
本公开提供了一种数据处理方法、装置及电子设备。
根据本公开的第一方面,提供了一种数据处理方法,包括:
获取与第一数据处理模型的特征相关的第一数据集合,所述第一数据处理模型为第二数据处理模型升级后得到的数据处理模型,所述第一数据处理模型用于进行信息点POI的基础数据的处理,以得到地图服务显示的POI数据;
分别基于所述第一数据处理模型和所述第二数据处理模型,对所述第一数据集合进行数据处理,得到所述第一数据处理模型输出的第二数据集合和所述第二数据处理模型输出的第三数据集合;
将所述第二数据集合和所述第三数据集合进行对比,得到第一差异数据;
基于所述第一差异数据的表现形式,对所述第一差异数据进行分类,得到所述第一差异数据在所述表现形式上的目标聚类簇,所述目标聚类簇用于进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
根据本公开的第二方面,提供了一种数据处理装置,包括:
第一获取模块,用于获取与第一数据处理模型的特征相关的第一数据集合,所述第一数据处理模型为第二数据处理模型升级后得到的数据处理模型,所述第一数据处理模型用于进行信息点POI的基础数据的处理,以得到地图服务显示的POI数据;
第一数据处理模块,用于分别基于所述第一数据处理模型和所述第二数据处理模型,对所述第一数据集合进行数据处理,得到所述第一数据处理模型输出的第二数据集合和所述第二数据处理模型输出的第三数据集合;
第一对比模块,用于将所述第二数据集合和所述第三数据集合进行对比,得到第一差异数据;
分类模块,用于基于所述第一差异数据的表现形式,对所述第一差异数据进行分类,得到所述第一差异数据在所述表现形式上的目标聚类簇,所述目标聚类簇用于进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
根据本公开的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器能够执行第一方面中的任一项方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行第一方面中的任一项方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现第一方面中的任一项方法。
根据本公开的技术解决了数据效果分析的准确性比较低的问题,提高了数据效果分析的准确性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的数据处理方法的流程示意图;
图2是根据本公开第二实施例的数据处理装置的结构示意图;
图3是用来实施本公开的实施例的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
第一实施例
如图1所示,本公开提供一种数据处理方法,包括如下步骤:
步骤S101:获取与第一数据处理模型的特征相关的第一数据集合,所述第一数据处理模型为第二数据处理模型升级后得到的数据处理模型,所述第一数据处理模型用于进行信息点POI的基础数据的处理,以得到地图服务显示的POI数据。
本实施例中,数据处理方法涉及数据处理技术领域,尤其涉及地图技术领域,其可以广泛应用于基于位置的服务(Location Based Services,LBS)的POI数据测量场景下。本公开实施例的数据处理方法,可以由本公开实施例的数据处理装置执行。本公开实施例的数据处理装置可以配置在任意电子设备中,以执行本公开实施例的数据处理方法。该电子设备可以为服务器,也可以为终端设备,这里不进行具体限定。
第一数据处理模型可以为算法模型,第一数据处理模型可以为LBS地图的POI基础数据模型,且第一数据处理模型可以为第二数据处理模型升级后得到的数据处理模型。其中,第二数据处理模型升级指的是针对第二数据处理模型涉及的应用策略进行变更,即在第二数据处理模型涉及的应用策略变更后可以得到第一数据处理模型,第一数据处理模型用于使用变更后的应用策略进行POI的基础数据的处理,以得到地图服务即LBS显示的POI数据。
针对POI系统,该POI系统可以包括用于处理POI基础数据的数据处理模型,该数据处理模型可以使用应用策略进行POI基础数据的处理,即该数据处理模型是将多种不同渠道的POI信息(该POI信息即为POI基础数据),使用应用策略进行计算,并选出得出某一字段的最优值,即选出一个最优的POI数据进行展示。
其中,应用策略的不同,数据处理模型针对相同的POI基础数据,计算得到的POI数据可能不同,且由于现实世界上的POI数据不断变化,为使数据处理模型所计算得到的POI数据符合现实世界,需要对数据处理模型所使用的应用策略不断更新,以匹配POI数据的变化。而第一数据处理模型即是针对数据处理模型涉及的应用策略变更后的数据处理模型,而第二数据处理模型是针对应用策略变更前的数据处理模型。
针对应用策略的变更,在第一数据处理模型上线之前,需要对其应用策略变更后的数据效果进行分析,以使数据处理模型输出的POI数据可以更加符合现实世界的变化。即本实施例的目的即是对数据处理模型输出的POI数据进行处理,以更好地进行第一数据处理模型输出的数据效果分析,提高数据效果分析的准确性。
第一数据集合可以为与第一数据处理模型的特征相关的数据集合,第一数据集合中可以包括多个POI基础数据。其中,与第一数据处理模型的特征相关可以指的是符合第一数据处理模型的特征,如地域特征、行业特征等,相应的,与第一数据处理模型的特征相关的第一数据集合可以包括符合第一数据处理模型的特征的POI基础数据。在一可选实施方式中,由于数据处理模型涉及的应用策略变更,可能会导致模型特征变更,第一数据集合可以为由于模型特征变更而受影响的POI数据。
第一数据集合的获取方式可以包括多种,比如,可以获取预先存储的与第一数据处理模型的特征相关的第一数据集合,也可以获取专业人员如负责数据处理模型升级的开发人员提交的符合第一数据处理模型的特征的第一数据集合。
需要说明的是,POI系统处理数据依赖各种渠道的原始POI信息,由于数据处理模型升级的功能不同,每次应用策略变更影响的数据不同,为模拟现实世界的真实情况,第一数据集合和其他数据可以使用线上存储的方式,确保基础数据的真实性。
步骤S102:分别基于所述第一数据处理模型和所述第二数据处理模型,对所述第一数据集合进行数据处理,得到所述第一数据处理模型输出的第二数据集合和所述第二数据处理模型输出的第三数据集合。
该步骤中,可以基于第一数据处理模型对第一数据集合进行数据处理,得到第二数据集合,以及基于第二数据处理模型对第一数据集合进行数据处理,得到第三数据集合。其中,对第一数据集合进行数据处理可以指的是将多种不同渠道的POI信息,经过数据处理模型的计算,选择得出最优的POI数据,POI数据可以包括多个数据字段的数据,如名称、位置坐标、品牌、电话等字段的数据。
在一可选实施方式中,可以获取第一数据处理模型和第二数据处理模型,分别将第一数据集合输入至第一数据处理模型和第二数据处理模型进行数据处理,输出第二数据集合和第三数据集合。
在另一可选实施方式中,可以构建两套环境,分别为测试环境的第一数据服务系统和基准环境的第二数据服务系统,第一数据服务系统是基于第一数据处理模型构建的,即测试环境是数据处理模型升级后的服务环境,第二数据服务系统是基于第二数据处理模型构建的,即基准环境是数据处理模型升级前的服务环境。相应的,可以基于第一数据集合构建数据请求,将数据请求分别发送至第一数据服务系统和第二数据服务系统,得到第二数据集合和第三数据集合。
步骤S103:将所述第二数据集合和所述第三数据集合进行对比,得到第一差异数据。
该步骤中,第二数据集合和第三数据集合均是针对相同的基础数据计算得出的POI数据,第一数据处理模型和第二数据处理模型所使用的应用策略不同,计算得到的POI数据可能不同,因此,第二数据集合和第三数据集合可能存在差异,可以将第二数据集合中的数据和第三数据集合中的数据进行一一对比,得到第一差异数据。
其中,在对比时,可以针对POI数据中的每个数据字段进行一一对比,比如,针对名称,可以将第二数据集合中POI的名称与第三数据集合中与之对应的POI的名称进行对比,得到差异数据。
步骤S104:基于所述第一差异数据的表现形式,对所述第一差异数据进行分类,得到所述第一差异数据在所述表现形式上的目标聚类簇,所述目标聚类簇用于进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
该步骤中,第一差异数据可以由很多原因导致,第一差异数据中某一类或者某几类原因产生的差异数据的占据比例可能比较低,通过随机抽取数据的方式,会导致占据比例比较低的差异数据无法抽取到,从而导致数据效果分析的准确性比较低,即无法准确评判第一数据处理模型升级后对数据影响的好坏。
第一差异数据的表现形式可以指的是数据差异的现象,针对不同POI,其差异数据的表现形式不同,且针对同一POI,数据字段不同,表现形式也不相同。
比如,针对不同POI,针对数据字段“电话”,某一POI差异数据的表现形式可以从一个电话变化至两个电话,而另一POI差异数据的表现形式从两个电话变化至一个电话等。又比如,针对同一POI,针对数据字段“电话”和“名称”,其差异数据的表现形式不相同。
由于不同原因会导致第一差异数据的表现形式不同,基于第一差异数据的表现形式,对第一差异数据进行分类,可以将导致第一差异数据的不同原因分类,得到第一差异数据在不同表现形式上的目标聚类簇,即将由于同一原因导致的差异数据聚合在一起。
该目标聚类簇用于进行第一数据处理模型相对于第二数据处理模型的数据效果分析。其中,数据效果分析可以指的是分析数据处理模型升级后,相对于升级前,对数据影响的好坏。在数据效果分析得出第一数据处理模型输出的POI数据符合现实世界的变化、或者多次评估数据效果影响好时,则可以安排第一数据处理模型上线。
通过基于第一差异数据的表现形式,对第一差异数据进行分类,可以得到第一差异数据在不同原因下产生的差异数据,这样可以在数据效果分析时,可以分析每个聚类下的差异数据,实现同样分析相同数量的差异数据的情况下,基于表现形式分类得到的差异产生原因多于随机抽样的方式,如此可以提高差异数据产生原因的覆盖度,进而可以提高数据效果分析的准确性。其中,可以分别抽取每个目标聚类簇中的评估样本,并通过打电话,查看现实世界中的街景图片,以及其他实采工具核实数据准确性,以基于评估样本分析数据处理模型升级后带来的数据效果影响。
相关技术中,数据效果分析时,每产出一步数据,均需要查看所产出的数据是否准确,如产出数据处理模型输出的数据集合时,需要人工查看数据是否准确,又如产出差异数据时,也需要人工查看数据是否准确。而本实施例中,在数据处理的具体过程中,可以采用自动化流程全自动化地产出目标聚类簇,以自动化地产出数据效果分析的评估样本。
具体的,数据处理过程可以应用如下模块:流水线统一调度模块、评估环境构建模块、差异数据产出模块、聚类模块等。其中,流水线统一调度模块可以看做一个总控服务,此服务承载着评估样本产出的各个子流程之间的调度和任务管理,是暴露给用户的总入口,用户通过此调度服务启动和管理任务。评估环境构建模块可以自动构建评估环境,如可以构建第一数据服务系统和第二数据服务系统,以分别基于所述第一数据处理模型和所述第二数据处理模型,对所述第一数据集合进行数据处理。差异数据产出模块可以基于评估环境构建模块所构建的评估环境自动产出差异数据,以供聚类模块基于表现形式对第一差异数据进行分类,得到目标聚类簇,最终从目标聚类簇中产出评估样本。如此可以使得数据效果分析的自动化实现,从而可以提升评估执行效率,提升数据效果的分析效率。
可选的,所述第一差异数据对应至少两个数据字段,所述步骤S104具体包括:
确定规则集合,所述规则集合包括所述第一差异数据在每个所述数据字段的表现形式;
基于所述规则集合,确定所述表现形式至所述至少两个数据字段的映射关系;
基于所述表现形式,对所述第一差异数据按照所述映射关系对应的数据字段进行分类,得到每个所述数据字段在所述表现形式上的目标聚类簇。
本实施方式中,规则集合可以指的是聚类规划集合,该聚类规则集合可以包括每个数据字段的聚类规则,该聚类规则可以为数据字段的表现形式,如针对数据字段“电话”,表现形式为从一个电话变化至两个电话,聚类规则可以是将从一个电话变化至两个电话的差异数据聚合在一起。
由于针对一个数据字段的差异数据,其表现形式可以多个,因此,每个数据字段的聚类规则也可以包括多个。比如,一个数据字段的聚类规则可以使用一维数组[A1,A2,A3,A4]表示,则全部数据字段与其聚类规则的关系引入字典描述,该字典即为规则集合,如字典C={A:[A1,A2,A3],B:[A1,B1,A2,B3],……,F:[A1,B1,F1,F2,A2]}。其中,字典C表示全部的数据字段与聚类规则的集合,A、B、F表示字段,中括号内的字符A1、B1等表示聚类规则。
可以遍历规则集合,对每个数据字段的聚类规则进行遍历,得到聚类规则与数据字段的映射。以聚类规则A1为例,可以得到映射关系A1=[A,B,C,…,F],该映射关系可以为聚类规则A1与所有数据字段的全映射,这样保证规则覆盖度的同时,可以避免冗余。
相应的,可以得到全部聚类规则与数据字段的全映射集合E,即E={A1:[A,B,C,…,F],B1:[B,…,F],A2:[A,F],A3:[A],B3:[B],F1:[F]},此时全映射集合E在保证覆盖率的同时,可以避免冗余。其中,以字典C为例,聚类规则A1是对所有数据字段有效,可以称之为通用聚类规则,聚类规则B1对数据字段B和F有效,则可以称之为特性聚类规则。
之后,可以针对每个表现形式即每个聚类规则,对第一差异数据按照所述映射关系对应的数据字段进行分类,得到每个数据字段在表现形式上的目标聚类簇。比如,针对聚类规则A1,可以对第一差异数据按照数据字段A,B,C,…,F进行分类,可以得到数据字段A,B,C,…,F分别在聚类规则A1下的目标聚类簇,每个目标聚类簇中可以包括同一数据字段在同一表现形式上的差异数据。
本实施方式中,通过确定规则集合,所述规则集合包括所述第一差异数据在每个所述数据字段的表现形式;基于所述规则集合,确定所述表现形式至所述至少两个数据字段的映射关系;基于所述表现形式,对所述第一差异数据按照所述映射关系对应的数据字段进行分类,得到每个所述数据字段在所述表现形式上的目标聚类簇。如此,可以得到每个数据字段在不同原因下产生的差异数据,以数据字段为单位进行数据效果分析,可以进一步提高数据效果分析的准确性。
并且,通过确定聚类规则与数据字段的全映射,在保证规则覆盖率的同时,可以避免规则冗余,且可以降低数据处理的计算量,进一步提高评估执行效率。
可选的,所述步骤S104具体包括:
将所述第一差异数据进行拆解,得到N个第二差异数据,N为大于1的整数;
针对每个所述第二差异数据,基于所述第一差异数据的表现形式,对所述第二差异数据进行分类,得到所述第二差异数据在所述表现形式上的第一聚类簇,所述目标聚类簇包括所述第一聚类簇。
本实施方式中,为了尽可能地实现全量数据分析,第一差异数据的数据量通常比较大,对于聚类任务的执行时间长,在任务执行期间无法查看差异数据,造成时间浪费。
因此,可以将第一差异数据进行拆解,得到N个第二差异数据,每个第二差异数据可以对应一个子任务,从而可以将聚类任务拆分为多个子任务,每个子任务结束后均可以基于第一差异数据的表现形式对第二差异数据进行聚类,每个子任务的聚类方式可以采用如上述实施方式描述的聚类方式类似,这样可以保证快速获得子任务的聚类结果,同时可以保证聚类任务的稳定性。
在具体实现过程中,可以采用流水线统一调度模块来调度聚类模型实现任务的拆分以及各个子任务的聚类执行。
可选的,所述步骤S102具体包括:
基于所述第一数据集合构造数据请求,所述数据请求用于请求所述第一数据集合的服务数据;
将所述数据请求分别发送至预先构建的第一数据服务系统和第二数据服务系统进行数据处理,得到所述第一数据服务系统返回的所述第二数据集合以及所述第二数据服务系统返回的所述第三数据集合;
其中,所述第一数据服务系统是基于所述第一数据处理模型构建的,所述第二数据服务系统是基于所述第二数据处理模型构建的。
本实施方式中,可以通过评估环境构建模块来构建两套环境,分别为测试环境的第一数据服务系统和基准环境的第二数据服务系统,第一数据服务系统是基于第一数据处理模型构建的,即测试环境是数据处理模型升级后的服务环境,第二数据服务系统是基于第二数据处理模型构建的,即基准环境是数据处理模型升级前的服务环境。
可以使用环境部署工具,根据业务特性,添加参数控制实现业务配置修改,实现POI系统处理后的数据不存储入数据库,进而满足数据库的原始数据可以重复利用。且搭建的测试环境可以为子系统环境,保证得到的评估数据与地图服务上线后即地图线上服务的环境相同,从而保证第一数据处理模型在测试环境产出的POI数据与第一数据处理模型上线后的POI数据相同。
相应的,可以基于第一数据集合构建数据请求,将数据请求分别发送至第一数据服务系统和第二数据服务系统,得到第一数据服务系统返回的第二数据集合和第二数据服务系统返回的第三数据集合。
可以使用差异数据产出模块,基于第一数据集合自动构造数据请求,并将数据请求分别发送至第一数据服务系统和第二数据服务系统,得到第二数据集合和第三数据集合,之后对第二数据集合和第三数据集合进行对比,得到第一差异数据。
本实施方式中,通过基于第一数据处理模型和第二数据处理模型构建两套环境,并基于这两套环境基于第一数据集合对应的数据请求产出第二数据集合和第三数据集合,比对第二数据集合和第三数据集合得到第一差异数据。如此,可以实现差异数据的自动化产出,且所产出的差异数据可以更加符合第一数据处理模型上线后的实际环境,从而可以进一步提高数据效果分析的准确性。
可选的,所述方法还包括:
获取第四数据集合,所述第四数据集合包括基础数据集合的数据标签;
基于所述第一数据处理模型,对所述基础数据集合进行数据处理,得到所述第一数据处理模型输出的第五数据集合;
将所述第五数据集合与所述第四数据集合进行对比,得到第二差异数据,所述第二差异数据用于结合所述目标聚类簇进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
本实施方式中,第四数据集合可以为符合现实世界的真实POI数据,其可以是由专业人员如项目管理人员标记出的符合现实世界的POI的数据标签。
可以引入白盒评估方式,白盒评估是指使用白盒样本对第一数据处理模型的数据效果进行分析,具体为白盒样本是项目管理人员标记出的现实世界中的一些真实POI数据集合即第四数据集合。
基于第一数据处理模型,对基础数据集合进行数据处理的方式可以为:通过第四数据集合对应的基础数据集合构造数据请求发送到测试环境的第一数据服务系统,获得第一数据处理模型计算出的POI数据,得到第五数据集合。
之后,将第五数据集合与第四数据集合进行对比,其对比方式与第二数据集合和第三数据集合对比的方式类似,得到第二差异数据,第二差异数据可以为得到模型处理结果与真实世界的差距。
由于白盒样本是符合现实世界的真实数据,通过白盒评估方式可以避免人工核实差异数据是否合理,可以直接评估出数据处理模型升级后的数据效果影响。而由于白盒评估的样本集合是一个固定集合,数据处理模型应用策略每次变更影响的数据可能不同,因此白盒样本可能无法满足对数据处理模型变更影响数据的覆盖度,相应的,第二差异数据结合目标聚类簇进行第一数据处理模型相对于第二数据处理模型的数据效果分析,可以满足对数据处理模型变更影响数据的覆盖度,且通过双重评估可以进一步提高数据效果分析的准确性。并且,由于白盒评估使用了真值数据,因此可以减少人力投入且可以提升评估执行效率。
第二实施例
如图2所示,本公开提供一种数据处理装置200,包括:
第一获取模块201,用于获取与第一数据处理模型的特征相关的第一数据集合,所述第一数据处理模型为第二数据处理模型升级后得到的数据处理模型,所述第一数据处理模型用于进行信息点POI的基础数据的处理,以得到地图服务显示的POI数据;
第一数据处理模块202,用于分别基于所述第一数据处理模型和所述第二数据处理模型,对所述第一数据集合进行数据处理,得到所述第一数据处理模型输出的第二数据集合和所述第二数据处理模型输出的第三数据集合;
第一对比模块203,用于将所述第二数据集合和所述第三数据集合进行对比,得到第一差异数据;
分类模块204,用于基于所述第一差异数据的表现形式,对所述第一差异数据进行分类,得到所述第一差异数据在所述表现形式上的目标聚类簇,所述目标聚类簇用于进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
可选的,所述第一差异数据对应至少两个数据字段,所述分类模块204包括:
第一确定单元,用于确定规则集合,所述规则集合包括所述第一差异数据在每个所述数据字段的表现形式;
第二确定单元,用于基于所述规则集合,确定所述表现形式至所述至少两个数据字段的映射关系;
第一分类单元,用于基于所述表现形式,对所述第一差异数据按照所述映射关系对应的数据字段进行分类,得到每个所述数据字段在所述表现形式上的目标聚类簇。
可选的,所述分类模块204包括:
拆解单元,用于将所述第一差异数据进行拆解,得到N个第二差异数据,N为大于1的整数;
第二分类单元,用于针对每个所述第二差异数据,基于所述第一差异数据的表现形式,对所述第二差异数据进行分类,得到所述第二差异数据在所述表现形式上的第一聚类簇,所述目标聚类簇包括所述第一聚类簇。
可选的,所述第一数据处理模块202,具体用于:
基于所述第一数据集合构造数据请求,所述数据请求用于请求所述第一数据集合的服务数据;
将所述数据请求分别发送至预先构建的第一数据服务系统和第二数据服务系统进行数据处理,得到所述第一数据服务系统返回的所述第二数据集合以及所述第二数据服务系统返回的所述第三数据集合;
其中,所述第一数据服务系统是基于所述第一数据处理模型构建的,所述第二数据服务系统是基于所述第二数据处理模型构建的。
可选的,还包括:
第二获取模块,用于获取第四数据集合,所述第四数据集合包括基础数据集合的数据标签;
第二数据处理模块,用于基于所述第一数据处理模型,对所述基础数据集合进行数据处理,得到所述第一数据处理模型输出的第五数据集合;
第二对比模块,用于将所述第五数据集合与所述第四数据集合进行对比,得到第二差异数据,所述第二差异数据用于结合所述目标聚类簇进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
本公开提供的数据处理装置200能够实现数据处理方法实施例实现的各个过程,且能够达到相同的有益效果,为避免重复,这里不再赘述。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图3示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图3所示,设备300包括计算单元301,其可以根据存储在只读存储器(ROM)302中的计算机程序或者从存储单元308加载到随机访问存储器(RAM)303中的计算机程序,来执行各种适当的动作和处理。在RAM 303中,还可存储设备300操作所需的各种程序和数据。计算单元301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
设备300中的多个部件连接至I/O接口305,包括:输入单元306,例如键盘、鼠标等;输出单元307,例如各种类型的显示器、扬声器等;存储单元308,例如磁盘、光盘等;以及通信单元309,例如网卡、调制解调器、无线通信收发机等。通信单元309允许设备300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元301的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元301执行上文所描述的各个方法和处理,例如数据处理方法。例如,在一些实施例中,数据处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元308。在一些实施例中,计算机程序的部分或者全部可以经由ROM 302和/或通信单元309而被载入和/或安装到设备300上。当计算机程序加载到RAM 303并由计算单元301执行时,可以执行上文描述的数据处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元301可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (13)
1.一种数据处理方法,包括:
获取与第一数据处理模型的特征相关的第一数据集合,所述第一数据处理模型为第二数据处理模型升级后得到的数据处理模型,所述第一数据处理模型用于进行信息点POI的基础数据的处理,以得到地图服务显示的POI数据;
分别基于所述第一数据处理模型和所述第二数据处理模型,对所述第一数据集合进行数据处理,得到所述第一数据处理模型输出的第二数据集合和所述第二数据处理模型输出的第三数据集合;
将所述第二数据集合和所述第三数据集合进行对比,得到第一差异数据;
基于所述第一差异数据的表现形式,对所述第一差异数据进行分类,得到所述第一差异数据在所述表现形式上的目标聚类簇,所述目标聚类簇用于进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
2.根据权利要求1所述的方法,其中,所述第一差异数据对应至少两个数据字段,所述基于所述第一差异数据的表现形式,对所述第一差异数据进行分类,得到所述第一差异数据在所述表现形式上的目标聚类簇,包括:
确定规则集合,所述规则集合包括所述第一差异数据在每个所述数据字段的表现形式;
基于所述规则集合,确定所述表现形式至所述至少两个数据字段的映射关系;
基于所述表现形式,对所述第一差异数据按照所述映射关系对应的数据字段进行分类,得到每个所述数据字段在所述表现形式上的目标聚类簇。
3.根据权利要求1所述的方法,其中,所述基于所述第一差异数据的表现形式,对所述第一差异数据进行分类,得到所述第一差异数据在所述表现形式上的目标聚类簇,包括:
将所述第一差异数据进行拆解,得到N个第二差异数据,N为大于1的整数;
针对每个所述第二差异数据,基于所述第一差异数据的表现形式,对所述第二差异数据进行分类,得到所述第二差异数据在所述表现形式上的第一聚类簇,所述目标聚类簇包括所述第一聚类簇。
4.根据权利要求1所述的方法,其中,所述分别基于所述第一数据处理模型和所述第二数据处理模型,对所述第一数据集合进行数据处理,得到所述第一数据处理模型输出的第二数据集合和所述第二数据处理模型输出的第三数据集合,包括:
基于所述第一数据集合构造数据请求,所述数据请求用于请求所述第一数据集合的服务数据;
将所述数据请求分别发送至预先构建的第一数据服务系统和第二数据服务系统进行数据处理,得到所述第一数据服务系统返回的所述第二数据集合以及所述第二数据服务系统返回的所述第三数据集合;
其中,所述第一数据服务系统是基于所述第一数据处理模型构建的,所述第二数据服务系统是基于所述第二数据处理模型构建的。
5.根据权利要求1所述的方法,还包括:
获取第四数据集合,所述第四数据集合包括基础数据集合的数据标签;
基于所述第一数据处理模型,对所述基础数据集合进行数据处理,得到所述第一数据处理模型输出的第五数据集合;
将所述第五数据集合与所述第四数据集合进行对比,得到第二差异数据,所述第二差异数据用于结合所述目标聚类簇进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
6.一种数据处理装置,包括:
第一获取模块,用于获取与第一数据处理模型的特征相关的第一数据集合,所述第一数据处理模型为第二数据处理模型升级后得到的数据处理模型,所述第一数据处理模型用于进行信息点POI的基础数据的处理,以得到地图服务显示的POI数据;
第一数据处理模块,用于分别基于所述第一数据处理模型和所述第二数据处理模型,对所述第一数据集合进行数据处理,得到所述第一数据处理模型输出的第二数据集合和所述第二数据处理模型输出的第三数据集合;
第一对比模块,用于将所述第二数据集合和所述第三数据集合进行对比,得到第一差异数据;
分类模块,用于基于所述第一差异数据的表现形式,对所述第一差异数据进行分类,得到所述第一差异数据在所述表现形式上的目标聚类簇,所述目标聚类簇用于进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
7.根据权利要求6所述的装置,其中,所述第一差异数据对应至少两个数据字段,所述分类模块包括:
第一确定单元,用于确定规则集合,所述规则集合包括所述第一差异数据在每个所述数据字段的表现形式;
第二确定单元,用于基于所述规则集合,确定所述表现形式至所述至少两个数据字段的映射关系;
第一分类单元,用于基于所述表现形式,对所述第一差异数据按照所述映射关系对应的数据字段进行分类,得到每个所述数据字段在所述表现形式上的目标聚类簇。
8.根据权利要求6所述的装置,其中,所述分类模块包括:
拆解单元,用于将所述第一差异数据进行拆解,得到N个第二差异数据,N为大于1的整数;
第二分类单元,用于针对每个所述第二差异数据,基于所述第一差异数据的表现形式,对所述第二差异数据进行分类,得到所述第二差异数据在所述表现形式上的第一聚类簇,所述目标聚类簇包括所述第一聚类簇。
9.根据权利要求6所述的装置,其中,所述第一数据处理模块,具体用于:
基于所述第一数据集合构造数据请求,所述数据请求用于请求所述第一数据集合的服务数据;
将所述数据请求分别发送至预先构建的第一数据服务系统和第二数据服务系统进行数据处理,得到所述第一数据服务系统返回的所述第二数据集合以及所述第二数据服务系统返回的所述第三数据集合;
其中,所述第一数据服务系统是基于所述第一数据处理模型构建的,所述第二数据服务系统是基于所述第二数据处理模型构建的。
10.根据权利要求6所述的装置,还包括:
第二获取模块,用于获取第四数据集合,所述第四数据集合包括基础数据集合的数据标签;
第二数据处理模块,用于基于所述第一数据处理模型,对所述基础数据集合进行数据处理,得到所述第一数据处理模型输出的第五数据集合;
第二对比模块,用于将所述第五数据集合与所述第四数据集合进行对比,得到第二差异数据,所述第二差异数据用于结合所述目标聚类簇进行所述第一数据处理模型相对于所述第二数据处理模型的数据效果分析。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210676675.2A CN115062701A (zh) | 2022-06-15 | 2022-06-15 | 数据处理方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210676675.2A CN115062701A (zh) | 2022-06-15 | 2022-06-15 | 数据处理方法、装置及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115062701A true CN115062701A (zh) | 2022-09-16 |
Family
ID=83200806
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210676675.2A Pending CN115062701A (zh) | 2022-06-15 | 2022-06-15 | 数据处理方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115062701A (zh) |
-
2022
- 2022-06-15 CN CN202210676675.2A patent/CN115062701A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113837596B (zh) | 一种故障确定方法、装置、电子设备及存储介质 | |
CN114564374A (zh) | 算子性能评估方法、装置、电子设备及存储介质 | |
CN114254950A (zh) | 电信资源数据处理方法、装置、电子设备及存储介质 | |
CN113159934A (zh) | 一种网点客流量的预测方法、系统、电子设备及存储介质 | |
CN113742069A (zh) | 基于人工智能的容量预测方法、装置及存储介质 | |
CN117593115A (zh) | 信贷风险评估模型的特征值确定方法、装置、设备和介质 | |
CN113032258A (zh) | 一种电子地图的测试方法、装置、电子设备及存储介质 | |
CN112860672A (zh) | 标签权重的确定方法和装置 | |
CN112966971B (zh) | 一种项目工作量评估方法和装置 | |
CN115453661A (zh) | 气象预报方法、装置、设备以及存储介质 | |
CN116414814A (zh) | 数据检核方法、装置、设备、存储介质和程序产品 | |
CN115344495A (zh) | 批量任务测试的数据分析方法、装置、计算机设备及介质 | |
US20220164723A1 (en) | Method for determining boarding information, electronic device, and storage medium | |
CN112817713B (zh) | 作业调度方法、装置和电子设备 | |
CN115062701A (zh) | 数据处理方法、装置及电子设备 | |
CN114970741B (zh) | 数据处理方法、装置及电子设备 | |
CN114417822A (zh) | 用于生成模型解释信息的方法、装置、设备、介质和产品 | |
CN113592305A (zh) | 测试方法、装置、电子设备以及存储介质 | |
CN114218313A (zh) | 数据管理方法、装置、电子设备、存储介质及产品 | |
CN113807391A (zh) | 任务模型的训练方法、装置、电子设备及存储介质 | |
CN114970741A (zh) | 数据处理方法、装置及电子设备 | |
CN113051479A (zh) | 文件处理、推荐信息生成方法、装置、设备及存储介质 | |
CN113255769A (zh) | 化合物属性预测模型训练方法和化合物属性预测方法 | |
CN112906723A (zh) | 一种特征选择的方法和装置 | |
CN113434432B (zh) | 一种推荐平台的性能测试方法、装置、设备、及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |