CN115687513A - 数据处理方法及装置、电子设备和计算机可读存储介质 - Google Patents
数据处理方法及装置、电子设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN115687513A CN115687513A CN202211043697.1A CN202211043697A CN115687513A CN 115687513 A CN115687513 A CN 115687513A CN 202211043697 A CN202211043697 A CN 202211043697A CN 115687513 A CN115687513 A CN 115687513A
- Authority
- CN
- China
- Prior art keywords
- local
- object data
- data
- target
- processed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种数据处理方法及装置、电子设备和计算机可读存储介质,可以应用于大数据技术领域和金融领域。该数据处理方法包括:响应于检测到针对数据湖的数据查询指令,执行数据查询指令,得到参考对象数据,其中,参考对象数据用于表征与目标对象的关注操作相关的第一对象数据,关注操作是目标对象在利用程序产品的过程中产生的操作;根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据;根据应用侧对象数据、待处理本地对象数据和数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,其中,目标存量对象数据包括目标本地对象数据,目标本地对象数据和目标存量对象数据均与应用侧对象数据保持一致。
Description
技术领域
本公开涉及大数据技术领域和金融领域,更具体地,涉及一种数据处理方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
随着数据处理技术的发展,各种结构化数据、半结构化数据、非结构化数据和二进制数据呈现指数级增长,而传统数据库难以存储和分析这些数据的内容,因而通常使用数据湖等大数据技术对这些数据进行处理。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:在出现网络抖动的情况下,难以保证本地数据库和数据湖中的对象数据的准确性。
发明内容
有鉴于此,本公开提供了一种数据处理方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
根据本公开的一个方面,提供了一种数据处理方法,包括:
响应于检测到针对数据湖的数据查询指令,执行上述数据查询指令,得到参考对象数据,其中,上述参考对象数据用于表征与目标对象的关注操作相关的第一对象数据,上述关注操作是上述目标对象在利用程序产品的过程中产生的操作;
根据上述参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据,其中,上述本地对象数据集用于表征与上述目标对象的关注操作相关的第二对象数据;以及
根据应用侧对象数据、上述待处理本地对象数据和上述数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,其中,上述目标存量对象数据包括上述目标本地对象数据,上述目标本地对象数据和上述目标存量对象数据均与上述应用侧对象数据保持一致。
根据本公开的实施例,上述参考对象数据包括参考平台对象标识和参考私域对象标识。
其中,上述本地对象数据集包括第一本地对象数据集和第二本地对象数据集;
其中,上述第一本地对象数据集包括第一本地私域对象标识和第一本地平台对象标识;
根据本公开的实施例,上述根据上述参考对象数据和本地对象数据集,确定待处理本地对象数据,包括:
在确定目标第一本地平台对象标识与上述参考平台对象标识不匹配的情况下,根据上述参考对象数据和上述第二本地对象数据集,得到上述待处理本地对象数据,其中,上述目标第一本地平台对象标识是与目标第一本地私域对象标识关联的第一本地平台对象标识,上述目标第一本地私域对象标识是上述第一本地对象数据集中与上述参考私域对象标识相匹配的第一本地私域对象标识。
根据本公开的实施例,上述本地对象数据集还包括第三本地对象数据集;
上述方法还包括:
在确定上述目标第一本地平台对象标识与上述参考平台对象标识相匹配的情况下,根据上述参考对象数据、上述第二本地对象数据集和上述第三本地对象数据集,得到上述待处理本地对象数据。
根据本公开的实施例,上述第二本地对象数据集包括第二本地私域对象标识。
根据本公开的实施例,上述根据上述参考对象数据和上述第二本地对象数据集,得到上述待处理本地对象数据,包括:
根据与目标第二本地私域对象标识对应的第二本地对象数据,得到上述待处理本地对象数据,其中,上述目标第二本地私域对象标识是上述第二本地对象数据集中与上述参考私域对象标识相匹配的第二本地私域对象标识。
根据本公开的实施例,上述第二本地对象数据还包括关注状态标识,上述关注状态标识用于表征与上述关注操作对应的关注状态。
根据本公开的实施例,上述根据与目标第二本地私域对象标识对应的第二本地对象数据,得到上述待处理本地对象数据,包括:
将与上述目标第二本地私域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到上述待处理本地对象数据。
根据本公开的实施例,上述第一本地对象数据还包括第一本地公域对象标识。
其中,上述第二本地对象数据包括第二本地公域对象标识;
其中,上述第三本地对象数据集包括至少一个第三本地对象数据,上述第三本地对象数据包括第三本地私域对象标识和第三本地公域对象标识。
根据本公开的实施例,上述根据上述参考对象数据、上述第二本地对象数据集和上述第三本地对象数据集,得到上述待处理本地对象数据,包括:
在确定目标第三本地私域对象标识与上述参考私域对象标识不匹配的情况下,将与目标第二本地公域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到上述待处理本地对象数据,其中,上述目标第三本地私域对象标识是与目标第三本地公域对象标识关联的第三本地私域对象标识,上述目标第三本地公域对象标识是上述第三本地对象数据集中与上述参考公域对象标识相匹配的第三本地公域对象标识,上述目标第二本地公域对象标识是上述第二本地对象数据集中与上述参考公域对象标识相匹配的第二本地公域对象标识。
根据本公开的实施例,上述方法还可以包括:
在确定上述目标第三本地私域对象标识与上述参考私域对象标识相匹配的情况下,将与上述目标第二本地公域对象标识对应的第二本地数据中的关注状态标识设置为已关注状态标识,得到上述待处理本地对象数据。
根据本公开的实施例,上述在确定目标第三本地私域对象标识与上述参考私域对象标识不匹配的情况下,还包括:
将上述目标第三本地私域对象标识修改为上述参考私域对象标识。
根据本公开的实施例,上述待处理本地对象数据包括第一待处理本地对象数据和第二待处理本地对象数据。
根据本公开的实施例,上述根据应用侧对象数据、上述待处理本地对象数据和上述数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,包括:
根据上述应用侧对象数据和上述第一待处理本地对象数据,得到第三待处理本地对象数据;以及
根据上述第二待处理本地对象数据、上述第三待处理本地对象数据和上述数据湖中的存量对象数据,得到上述目标本地对象数据和上述目标存量对象数据。
根据本公开的实施例,上述第一待处理本地对象数据是关注状态标识为已关注状态标识的待处理本地对象数据。
根据本公开的实施例,上述根据上述应用侧对象数据和上述第一待处理本地对象数据,得到第三待处理本地对象数据,包括:
在确定上述第一待处理本地对象数据中的关注状态标识与上述应用侧对象数据中的关注状态标识相匹配的情况下,将上述第一待处理本地对象数据确定为上述第三待处理本地对象数据;以及
在确定上述第一待处理本地对象数据中的关注状态标识与上述应用侧对象数据中的关注状态标识不匹配的情况下,将上述第一待处理本地对象数据中的关注状态标识设置为未关注状态标识,得到上述第三待处理本地对象数据。
根据本公开的实施例,上述根据上述第二待处理本地对象数据、上述第三待处理本地对象数据和上述数据湖中的存量对象数据,得到上述目标本地对象数据和上述目标存量对象数据,包括:
根据上述第二待处理本地对象数据、上述第三待处理本地对象数据和上述数据湖中的存量对象数据,得到待更新对象数据和固定对象数据,其中,上述待更新对象数据包括待增加对象数据、待修改对象数据和待删除对象数据中的至少之一;
对上述待更新对象数据进行更新操作,得到更新后的对象数据;
根据上述更新后的对象数据和上述固定对象数据,得到上述目标存量对象数据;
对上述第二待处理本地对象数据中的关注状态标识为异常关注状态标识的待处理本地对象数据进行删除操作,得到第四待处理本地对象数据;以及
根据上述第三待处理本地对象数据和上述第四待处理本地对象数据,得到上述目标本地对象数据。
根据本公开的实施例,上述第一本地私域对象标识是根据上述第一本地公域对象标识确定的。
根据本公开的另一个方面,提供了一种数据处理装置,包括:
第一获得模块,用于响应于检测到针对数据湖的数据查询指令,执行上述数据查询指令,得到参考对象数据,其中,上述参考对象数据用于表征与目标对象的关注操作相关的第一对象数据,上述关注操作是上述目标对象在利用程序产品的过程中产生的操作;
第一确定模块,用于根据上述参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据,其中,上述本地对象数据集用于表征与上述目标对象的关注操作相关的第二对象数据;以及
第二获得模块,用于根据应用侧对象数据、上述待处理本地对象数据和上述数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,其中,上述目标存量对象数据包括上述目标本地对象数据,上述目标本地对象数据和上述目标存量对象数据均与上述应用侧对象数据保持一致。
根据本公开的另一个方面,提供了一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当上述一个或多个指令被上述一个或多个处理器执行时,使得上述一个或多个处理器实现如本公开所述的方法。
根据本公开的另一个方面,提供了一种计算机可读存储介质,其上存储有可执行指令,上述可执行指令被处理器执行时使处理器实现如本公开所述的方法。
根据本公开的另一个方面,提供了一种计算机程序产品,上述计算机程序产品包括计算机可执行指令,上述计算机可执行指令在被执行时用于实现如本公开所述的方法。
根据本公开的实施例,通过根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据,再根据应用侧对象数据、待处理本地对象数据和数据湖中的存量对象数据,得到与应用侧对象数据保持一致的本地数据库的目标本地对象数据和数据湖的目标存量对象数据,至少部分地克服了相关技术中难以保证本地数据库和数据湖中的对象数据的准确性的技术问题,实现了保证本地数据库和数据湖中的对象数据与应用侧的对象数据的一致性,提高了本地数据库和数据湖中的对象数据的准确性。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用数据处理方法的系统架构;
图2示意性示出了根据本公开实施例的数据处理方法的流程图;
图3示意性示出了根据本公开一实施例的得到待处理本地对象数据的方法流程图;
图4示意性示出了根据本公开另一实施例的得到待处理本地对象数据的方法流程图;
图5示意性示出了根据本公开一实施例的得到目标本地对象数据和目标存量对象数据的方法流程图;
图6示意性示出了根据本公开另一实施例的得到目标本地对象数据和目标存量对象数据的方法流程图;
图7示意性示出了根据本公开的实施例的数据处理装置的框图;以及
图8示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
数据湖可以指用于存储数据原始格式的系统,从本质上,数据湖属于一种企业数据架构方法,从物理实现上,数据湖是一个数据存储平台,可以用来集中化存储企业内海量的、多来源、多种类型的数据,并支持对数据进行快速加工和分析。数据湖可以是对象块或者文件。
数据湖通常是企业中全量数据的单一存储,全量数据包括原始系统所产生的原始数据拷贝以及为了各类任务而产生的转换数据,各类任务可以包括报表、可视化、高级分析和机器学习等。数据湖可以构建在企业本地数据中心,也可以构建在云上。
数据湖中可以用于存储来结构化数据,例如,行和列;半结构化数据,例如,CSV(Comma-Separated Values,字符分隔值)、日志、XML(Extensible Markup Language,可扩展标记语言)和JSON(JavaScript Object Notation,JS对象简谱);非结构化数据,例如,Email(Electronic Mail,电子邮件)、文档和PDF(Portable Document Format,可携带文档格式);二进制数据,例如,图像、音频和视频。
但是,在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:在出现网络抖动的情况下,会使得本地数据库中的数据、数据湖存储的数据与应用侧不一致的场景,因而难以保证本地数据库和数据湖中的对象数据的准确性。
为了至少部分地解决相关技术中存在的技术问题,本公开提供了一种数据处理方法及装置、电子设备、计算机可读存储介质和计算机程序产品,可以应用于大数据技术领域和金融领域。该数据处理方法包括:响应于检测到针对数据湖的数据查询指令,执行数据查询指令,得到参考对象数据,其中,参考对象数据用于表征与目标对象的关注操作相关的第一对象数据,关注操作是目标对象在利用程序产品的过程中产生的操作;根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据,其中,本地对象数据集用于表征与目标对象的关注操作相关的第二对象数据;根据应用侧对象数据、待处理本地对象数据和数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,其中,目标存量对象数据包括目标本地对象数据,目标本地对象数据和目标存量对象数据均与应用侧对象数据保持一致。
需要说明的是,本公开实施例提供的数据处理方法和装置可用于大数据技术领域和金融领域,例如应用于本地数据库和数据湖之间的数据同步。本公开实施例提供的数据处理方法和装置也可用于除大数据技术领域和金融领域之外的任意领域,例如应用于信息安全领域。本公开实施例提供的数据处理方法和装置的应用领域不做限定。
图1示意性示出了根据本公开实施例的可以应用数据处理方法的系统架构。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,服务器104和云平台105。终端设备101、102、103和服务器104之间,服务器104和云平台105之间可以通过网络进行通信,网络可以包括各种连接类型,例如有线和/或无线通信链路等。
用户可以使用终端设备101、102、103通过网络与服务器104交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器104可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。服务器104上可以设置有本地数据库。
数据湖可以包括本地数据湖和云数据湖。本地数据湖可以设置在服务器104上,响应于检测到针对本地数据湖的数据查询指令,可以通过服务器104调用设置于服务器104的本地数据湖,执行针对本地数据湖的数据查询指令,得到参考对象数据。
备选地,云数据湖可以设置在云平台105上,响应于检测到针对云数据湖的数据查询指令,可以通过服务器104调用设置于云平台105的云数据湖,执行针对云数据湖的数据查询指令,得到参考对象数据。
需要说明的是,本公开实施例所提供的数据处理方法一般可以由服务器104执行。相应地,本公开实施例所提供的数据处理装置一般可以设置于服务器104中。本公开实施例所提供的数据处理方法也可以由不同于服务器104且能够与终端设备101、102、103和/或服务器104通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据处理装置也可以设置于不同于服务器104且能够与终端设备101、102、103和/或服务器104通信的服务器或服务器集群中。
备选地,本公开实施例所提供的数据处理方法一般也可以由终端设备101、102、或103执行。相应地,本公开实施例所提供的数据处理装置也可以设置于终端设备101、102、或103中。
例如,本地对象数据集可以原本存储在终端设备101、102、或103中的任意一个(例如,终端设备101,但不限于此)之中,或者存储在外部存储设备上并可以导入到终端设备101中。然后,终端设备101可以在本地执行本公开实施例所提供的数据处理方法,或者将本地对象数据集发送到其他终端设备、服务器、或服务器集群,并由接收该本地对象数据集的其他终端设备、服务器、或服务器集群来执行本公开实施例所提供的数据处理方法。
应该理解,图1中的终端设备、服务器和云平台的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、服务器和云平台。
应注意,以下方法中各个操作的序号仅作为该操作的表示以便描述,而不应被看作表示该各个操作的执行顺序。除非明确指出,否则该方法不需要完全按照所示顺序来执行。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该数据处理方法200可以包括操作S210~S230。
在操作S210,响应于检测到针对数据湖的数据查询指令,执行数据查询指令,得到参考对象数据。参考对象数据用于表征与目标对象的关注操作相关的第一对象数据,关注操作是目标对象在利用程序产品的过程中产生的操作。
在操作S220,根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据。本地对象数据集用于表征与目标对象的关注操作相关的第二对象数据。
在操作S230,根据应用侧对象数据、待处理本地对象数据和数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据。目标存量对象数据包括目标本地对象数据,目标本地对象数据和目标存量对象数据均与应用侧对象数据保持一致。
根据本公开的实施例,可以将数据湖理解为存储数据的分布式数据库,数据湖具有较好的查询性能并且具备数据的实时获取能力。数据湖可以用于存储实时接收到的数据,由于历史数据和实时接收到的数据的格式可能不同,因而可以将历史数据转换成与实时接收到的数据相同格式的数据之后,再存储到数据湖中。
根据本公开的实施例,可以将生成数据查询指令的代码预先写入脚本中,在需要进行数据查询的情况下,用户可以通过终端设备运行该脚本,以生成数据查询指令,并可以将数据查询指令发送至服务器,以便于服务器执行该数据查询指令,得到参考对象数据。
根据本公开的实施例,目标对象可以包括用户。程序产品可以包括公众号、小程序、PC(Personal Computer,个人计算机)端网站和H5(HTML(Hyper Text MarkupLanguage,互联网超文本标记语言)5)网站等。参考对象数据可以用于表征与用户在利用程序产品的过程中产生的关注操作相关的第一对象数据。
根据本公开的实施例,参考对象数据的文本格式可以属于以下之中任一项:TXT(文本文档)、RTF(Rich Text Format,多文本格式)、DOC(Document,文档)或XLS(MicrosoftExcel,电子表格)等。参考对象数据可以包括参考平台对象标识和参考私域对象标识。
根据本公开的实施例,本地数据库可以用于存储历史数据。本地数据库的本地对象数据集可以包括第一本地对象数据集、第二本地对象数据集和第三本地对象数据集。本地对象数据集可以用于表征与用户在利用程序产品的过程中产生的关注操作相关的第二对象数据。
根据本公开的实施例,可以根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据。待处理本地对象数据可以包括第一待处理本地对象数据和第二待处理本地对象数据。第一待处理本地对象数据可以包括关注状态标识为已关注状态标识的待处理本地对象数据。第二待处理本地对象数据可以包括关注状态标识为未关注状态标识或异常关注状态标识的待处理本地对象数据。
根据本公开的实施例,应用侧对象数据可以包括与目标对象相关的应用侧对象数据。存量对象数据可以包括数据湖在某一时间节点前所存储的与目标对象相关的数据。可以根据应用侧对象数据、待处理本地对象数据和数据湖中的存量对象数据,得到与应用侧对象数据保持一致的目标本地对象数据和包括目标本地对象数据的目标存量对象数据。
根据本公开的实施例,通过根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据,再根据应用侧对象数据、待处理本地对象数据和数据湖中的存量对象数据,得到与应用侧对象数据保持一致的本地数据库的目标本地对象数据和数据湖的目标存量对象数据,至少部分地克服了相关技术中难以保证本地数据库和数据湖中的对象数据的准确性的技术问题,实现了保证本地数据库和数据湖中的对象数据与应用侧的对象数据的一致性,提高了本地数据库和数据湖中的对象数据的准确性。
下面参考图3~图6,对根据本发明实施例的数据处理方法200做进一步说明。
图3示意性示出了根据本公开一实施例的得到待处理本地对象数据的方法流程图。
如图3所示,操作S220可以包括操作S321~S322。
在操作S321,在确定目标第一本地平台对象标识与参考平台对象标识不匹配的情况下,根据参考对象数据和第二本地对象数据集,得到待处理本地对象数据。目标第一本地平台对象标识是与目标第一本地私域对象标识关联的第一本地平台对象标识,目标第一本地私域对象标识是第一本地对象数据集中与参考私域对象标识相匹配的第一本地私域对象标识。
在操作S322,在确定目标第一本地平台对象标识与参考平台对象标识相匹配的情况下,根据参考对象数据、第二本地对象数据集和第三本地对象数据集,得到待处理本地对象数据。
根据本公开的实施例,操作S220可以仅包括操作S321或仅包括操作S322。
根据本公开的实施例,第二本地对象数据集包括第二本地私域对象标识。
根据本公开的实施例,操作S321可以包括如下操作。
根据与目标第二本地私域对象标识对应的第二本地对象数据,得到待处理本地对象数据。目标第二本地私域对象标识是第二本地对象数据集中与参考私域对象标识相匹配的第二本地私域对象标识。
根据本公开的实施例,第二本地对象数据还包括关注状态标识,关注状态标识用于表征与关注操作对应的关注状态。
根据本公开的实施例,根据与目标第二本地私域对象标识对应的第二本地对象数据,得到待处理本地对象数据可以包括如下操作。
将与目标第二本地私域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到待处理本地对象数据。
根据本公开的实施例,参考对象数据可以包括参考平台对象标识和参考私域对象标识。参考平台对象标识可以用于表征应用侧同一开放平台下,针对同一用户的唯一标识。参考公域对象标识可以用于表征同一开放平台下,针对不同的公众号或小程序的唯一标识,同一参考平台对象标识可以对应多个参考公域对象标识。参考私域对象标识可以用于表征应用侧可以根据预设算法,对每一用户的关注操作生成的公域对象标识进行计算,生成的该用户唯一的哈希值标志。
根据本公开的实施例,第一本地对象数据还包括第一本地公域对象标识。第二本地对象数据包括第二本地公域对象标识。第三本地对象数据集包括至少一个第三本地对象数据,第三本地对象数据包括第三本地私域对象标识和第三本地公域对象标识。
根据本公开的实施例,操作S322可以包括如下操作。
在确定目标第三本地私域对象标识与参考私域对象标识不匹配的情况下,将与目标第二本地公域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到待处理本地对象数据。目标第三本地私域对象标识是与目标第三本地公域对象标识关联的第三本地私域对象标识,目标第三本地公域对象标识是第三本地对象数据集中与参考公域对象标识相匹配的第三本地公域对象标识,目标第二本地公域对象标识是第二本地对象数据集中与参考公域对象标识相匹配的第二本地公域对象标识。
根据本公开的实施例,操作S322还可以包括如下操作。
在确定目标第三本地私域对象标识与参考私域对象标识相匹配的情况下,将与目标第二本地公域对象标识对应的第二本地数据中的关注状态标识设置为已关注状态标识,得到待处理本地对象数据。
根据本公开的实施例,在确定目标第三本地私域对象标识与参考私域对象标识不匹配的情况下,还可以包括如下操作。
将目标第三本地私域对象标识修改为参考私域对象标识。
根据本公开的实施例,第一本地私域对象标识是根据第一本地公域对象标识确定的。
根据本公开的实施例,业务分类可以包括各个程序产品根据目标对象划分的不同类别,例如,个人类、商户类和企业类等。可以在开放平台申请以不同目标对象为主体的公众号来对应不同业务。如下表1所示,可以将业务分类、APPID和APPsecret的对应关系记录在本地数据库的数据库表1(table_1)中。表1中的NULL表示空字段。
例如,可以申请以个人为主体的对应A类业务的公众号a,并可以在本地数据库的数据库表1中记录对应关系:A类业务、APPID_a和APPsecret_a;可以申请以企业为主体的对应B类业务的公众号b,并可以在本地数据库的数据库表1中记录对应关系:B类业务、APPID_b和APPsecret_b。
根据本公开的实施例,还可以基于任意一个公众号注册并认证小程序。例如,在公众号a下派生小程序c,小程序c与C类业务对应,并可以在本地数据库中1记录对应关系:C类业务、APPID_c和APPsecret_c。如下表1所示,可以将业务分类、APPID和APPsecret的对应关系记录在本地数据库的数据库表1中。
根据本公开的实施例,可以将各个公众号和小程序绑定到同一开放平台,在绑定完成之后,在用户对公众号或小程序进行关注的情况下,在本地数据库中可以进行相应的记录。关注同一开放平台下的任一公众号或者小程序的用户,应用侧可以生成唯一的平台对象标识,即UnionId。根据关注的公众号或小程序的不同,同一用户可以生成不同的公域对象标识,即OpenId。
根据本公开的实施例,由于不同用户在不同公众号或小程序进行的关注操作不同,因而数据库表中记录的数据存在差异。如果直接使用公域对象标识来进行用户身份识别容易引发数据越权,存在安全风险,因此应用侧可以根据预设算法,对每一用户的关注操作生成的公域对象标识进行计算,以生成该用户唯一的哈希值标志作为私域对象标识,即PrivateId。预设算法可以根据实际需求进行设置,例如预设算法可以包括独立哈希、重复哈希或组合哈希等,在此不作限定。
根据本公开的实施例,如下表1所示,可以在数据库表2(table_2)中新增该用户的私域对象标识、公众号或小程序的APPID、公域对象标识和关注状态标识对应关系的记录。关注状态标识可以包括以下之中任一项:已关注状态标识、未关注状态标识和异常关注状态标识。可以将数据库表2进行入湖操作,首次入湖作业为存量入湖,后续入湖作业为增量入湖,即可以将每日数据库表2中新增的数据进行入湖操作。
根据本公开的实施例,如下表1所示,在用户进行关注操作之后,可以在数据库表3(table_3)中新增该用户的平台对象标识和私域对象标识对应关系的记录。由于针对同一用户在同一平台下的平台对象标识是不变的,即不会因为用户关注或取消关注而产生变化,而公域对象标识会因为用户关注或取消关注而产生变化,因而数据库表3中的数据可以保持准确,作为后续用户进行联机交易的源数据。
根据本公开的实施例,如下表1所示,可以在数据库表4(table_4)中新增公众号或小程序的APPID、公域对象标识和私域对象标识对应关系的记录。
例如,在用户发起关注公众号流程的情况下,可以生成该用户的关注状态标识并保存到数据库表2中,将生成的Unionid保存至数据库表3中,将生成的Openid保存至数据库表4中。
表名 | 字段1 | 字段2 | 字段3 | 字段4 | 字段5 | 主键 |
数据库表1 | 自增ID | 业务分类 | APPID | APPsecret | NULL | 字段2 |
数据库表2 | 自增ID | PrivateId | APPID | OpenId | 关注状态标识 | 字段2、3 |
数据库表3 | 自增ID | UnionId | PrivateId | NULL | NULL | 字段1、2 |
数据库表4 | 自增ID | OpenId | APPID | PrivateId | NULL | 字段1、2 |
数据湖表 | 自增ID | OpenId | APPID | PrivateId | U、I、D标识 | 字段2、3、4 |
表1
根据本公开的实施例,本地对象数据集可以包括第一本地对象数据集、第二本地对象数据集和第三本地对象数据集。
根据本公开的实施例,第一本地对象数据集可以包括如上表1中所示的数据库表3。第一本地对象数据集可以包括第一本地平台对象标识(即数据库表3中字段2的UnionId)和第一本地私域对象标识(即数据库表3中字段3的PrivateId)。第一本地私域对象标识是根据第一本地公域对象标识确定的。
根据本公开的实施例,根据本公开的实施例,第二本地对象数据集可以包括如上表1中所示的数据库表2。第二本地对象数据集可以包括第二本地公域对象标识(即数据库表2中字段4的OpenId)和第二本地私域对象标识(即数据库表2中字段2的PrivateId)。
根据本公开的实施例,根据本公开的实施例,第三本地对象数据集可以包括如上表1中所示的数据库表4。第三本地对象数据集可以包括第三本地公域对象标识(即数据库表4中字段2的OpenId)和第三本地私域对象标识(即数据库表4中字段4的PrivateId)。
根据本公开的实施例,可以执行数据查询指令,以便于在如上表1所示的数据湖表中筛选出与目标对象的关注操作相关的公众号或小程序的APPID、公域对象标识和私域对象标识对应的第一对象数据。
例如,可以根据筛选条件:入湖时间、APPID和Openid等查询条件,对数据湖表中的数据进行筛选,并可以将结果导出到参考对象数据文件X.txt中。
根据本公开的实施例,在筛选得到第一对象数据之后,可以根据第一对象数据得到文本格式的参考对象数据。参考对象数据可以包括参考平台对象标识和参考私域对象标识。
根据本公开的实施例,在得到参考对象数据之后,可以根据参考私域对象标识,将第一本地对象数据集中与参考私域对象标识相匹配的第一本地私域对象标识确定为目标第一本地私域对象标识。可以根据目标第一本地私域对象标识,将与目标第一本地私域对象标识关联的第一本地平台对象标识确定为目标第一本地平台对象标识。可以确定目标第一本地平台对象标识与参考平台对象标识是否匹配。
例如,可以以参考对象数据文件X.txt中的PrivateId作为查询条件,通过查询语句:select UnionId from table_3where PrivateId in X.txt,在本地数据库查询数据库表3(table_3)中查询是否存在对应的UnionId。
根据本公开的实施例,在确定目标第一本地平台对象标识与参考平台对象标识不匹配的情况下,可以根据参考私域对象标识,在如上表1所示的数据库表3中查询是否有与该参考私域对象标识对应的第一本地私域对象标识。
根据本公开的实施例,在确定数据库表3中不存在与该参考私域对象标识对应的第一本地私域对象标识的情况下,可以将第二本地对象数据集中与参考私域对象标识相匹配的第二本地私域对象标识确定为目标第二本地私域对象标识。在确定目标第二本地私域对象标识之后,可以将与目标第二本地私域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,以得到待处理本地对象数据。
根据本公开的实施例,在确定目标第一本地平台对象标识与参考平台对象标识相匹配的情况下,可以根据参考私域对象标识,在如上表1所示的数据库表3中查询是否有与该参考私域对象标识对应的第一本地私域对象标识。
根据本公开的实施例,在确定数据库表3中存在与该参考私域对象标识对应的第一本地私域对象标识的情况下,可以将第三本地对象数据集中与参考公域对象标识相匹配的第三本地公域对象标识确定为目标第三本地公域对象标识,并将与目标第三本地公域对象标识关联的第三本地私域对象标识确定为目标第三本地私域对象标识。在确定目标第三本地私域对象标识之后,可以确定目标第三本地私域对象标识与参考私域对象标识是否匹配。
例如,在数据库表3中查询到存在对应的UnionId的情况下,可以以参考对象数据文件X.txt中的PrivateId作为查询条件,通过查询语句:select PrivateId from table_4where OpenId in X.txt,在本地数据库查询数据库表4(table_4)中查询是否存在对应的OpenId。
根据本公开的实施例,在确定目标第三本地私域对象标识与参考私域对象标识不匹配的情况下,可以将第二本地对象数据集中与参考公域对象标识相匹配的第二本地公域对象标识确定为目标第二本地公域对象标识,并将与目标第二本地公域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,以得到待处理本地对象数据。
例如,在数据库表3中未查询到存在对应的UnionId的情况下,说明该数据可能由于网络抖动等原因,在应用侧并未生成数据记录,因此可以将数据库表2中该PrivateId的数据的关注状态标识设置为“异常关注状态标识”,异常关注状态标识可以用于表示需要进行清理的数据。
根据本公开的实施例,在确定目标第三本地私域对象标识与参考私域对象标识相匹配的情况下,可以将第二本地对象数据集中与参考公域对象标识相匹配的第二本地公域对象标识确定为目标第二本地公域对象标识,并将与目标第二本地公域对象标识对应的第二本地对象数据中的关注状态标识设置为已关注状态标识,以得到待处理本地对象数据。
例如,在确定数据库表4中查询到与PrivateId对应的UnionId的情况下,说明该条数据数据湖与本地数据库记录一致,因此可以将数据库表2中该PrivateId的数据的关注状态标识设置为“已关注状态标识”。已关注状态标识可以用于表示已被关注的数据。
根据本公开的实施例,在确定目标第三本地私域对象标识与参考私域对象标识不匹配的情况下,可以将目标第三本地私域对象标识修改为参考私域对象标识。例如,可以将数据库表4中的PrivateId更新为数据库表3中该条数据对应的PrivateId。
根据本公开的实施例,通过根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据。由于待处理本地对象数据是通过确定目标第一本地平台对象标识与参考平台对象标识是否匹配,以及确定目标第三本地私域对象标识与参考私域对象标识是否匹配得到的,因而能够保证本地数据库和数据湖中的对象数据的准确性。
图4示意性示出了根据本公开另一实施例的得到待处理本地对象数据的方法流程图。
如图4所示,该得到待处理本地对象数据的方法400可以包括S410~S460。
在操作S410,响应于检测到针对数据湖的数据查询指令,执行数据查询指令,得到参考对象数据。
在操作S420,可以确定目标第一本地平台对象标识与参考平台对象标识是否匹配。
在确定目标第一本地平台对象标识与参考平台对象标识不匹配的情况下,可以执行操作S430。在操作S430,可以将与目标第二本地私域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到待处理本地对象数据。
在确定目标第一本地平台对象标识与参考平台对象标识相匹配的情况下,可以执行操作S440。在操作S440,可以确定目标第三本地私域对象标识与参考私域对象标识是否匹配。
在确定目标第三本地私域对象标识与参考私域对象标识不匹配的情况下,可以执行操作S450。在操作S450,可以将与目标第二本地公域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到待处理本地对象数据。
在确定目标第三本地私域对象标识与参考私域对象标识相匹配的情况下,可以执行操作S460。在操作S460,可以将与目标第二本地公域对象标识对应的第二本地数据中的关注状态标识设置为已关注状态标识,得到待处理本地对象数据。
图5示意性示出了根据本公开一实施例的得到目标本地对象数据和目标存量对象数据的方法流程图。
如图5所示,操作S230可以包括操作S531~S532。
在操作S531,根据应用侧对象数据和第一待处理本地对象数据,得到第三待处理本地对象数据。
在操作S532,根据第二待处理本地对象数据、第三待处理本地对象数据和数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据。
根据本公开的实施例,操作S531可以包括如下操作。
在确定第一待处理本地对象数据中的关注状态标识与应用侧对象数据中的关注状态标识相匹配的情况下,将第一待处理本地对象数据确定为第三待处理本地对象数据。在确定第一待处理本地对象数据中的关注状态标识与应用侧对象数据中的关注状态标识不匹配的情况下,将第一待处理本地对象数据中的关注状态标识设置为未关注状态标识,得到第三待处理本地对象数据。
根据本公开的实施例,操作S532可以包括如下操作。
根据第二待处理本地对象数据、第三待处理本地对象数据和数据湖中的存量对象数据,得到待更新对象数据和固定对象数据。待更新对象数据包括待增加对象数据、待修改对象数据和待删除对象数据中的至少之一。对待更新对象数据进行更新操作,得到更新后的对象数据。根据更新后的对象数据和固定对象数据,得到目标存量对象数据。对第二待处理本地对象数据中的关注状态标识为异常关注状态标识的待处理本地对象数据进行删除操作,得到第四待处理本地对象数据。根据第三待处理本地对象数据和第四待处理本地对象数据,得到目标本地对象数据。
根据本公开的实施例,待处理本地对象数据可以包括第一待处理本地对象数据和第二待处理本地对象数据。第一待处理本地对象数据可以包括关注状态标识为已关注状态标识的待处理本地对象数据。第二待处理本地对象数据可以包括关注状态标识为未关注状态标识或异常关注状态标识的待处理本地对象数据。
根据本公开的实施例,可以确定第一待处理本地对象数据中的关注状态标识与应用侧对象数据中的关注状态标识是否匹配。例如,可以根据数据库表2中的数据,调用应用侧接口,逐条对关注状态标识为已关注状态标识的数据进行检查,若两者相匹配,则该条数据的关注状态标识无需调整;若两者不匹配,则可以将该条数据的关注状态标识更新为未关注状态标识。
根据本公开的实施例,可以通过将第二待处理本地对象数据、第三待处理本地对象数据和数据湖中的存量对象数据进行对比,得到待更新对象数据和固定对象数据。待更新对象数据可以包括待增加对象数据、待修改对象数据和待删除对象数据中的至少之一。
根据本公开的实施例,如表1所示,数据湖表中字段5的U标识(Update)可以用于标识待修改对象数据。I标识(Insert)可以用于标识待增加对象数据。D标识(Delete)可以用于标识待删除对象数据。
根据本公开的实施例,由于能够保证数据湖中的对象数据的准确性,因而可以根据实际业务需求对数据湖中的对象数据进行挖掘来准确分析用户行为等。
根据本公开的实施例,由于可以对第二待处理本地对象数据中的关注状态标识为异常关注状态标识的待处理本地对象数据进行删除操作,因而能够实现本地数据库和数据湖中异常数据的清洗。此外,通过根据应用侧对象数据和第一待处理本地对象数据,得到第三待处理本地对象数据,再根据第二待处理本地对象数据、第三待处理本地对象数据和数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,由此保证了本地数据库和数据湖中的对象数据与应用侧对象数据的一致性,提高了数据的准确性。
图6示意性示出了根据本公开另一实施例的得到目标本地对象数据和目标存量对象数据的方法流程图。
如图6所示,该得到目标本地对象数据和目标存量对象数据的方法600可以包括S610~S650。
在操作S610,根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据。
在操作S620,确定第一待处理本地对象数据中的关注状态标识与应用侧对象数据中的关注状态标识是否匹配。
在确定第一待处理本地对象数据中的关注状态标识与应用侧对象数据中的关注状态标识相匹配的情况下,可以执行操作S630。在操作S630,将第一待处理本地对象数据确定为第三待处理本地对象数据。
在确定第一待处理本地对象数据中的关注状态标识与应用侧对象数据中的关注状态标识不匹配的情况下,可以执行操作S640。在操作S640,将第一待处理本地对象数据中的关注状态标识设置为未关注状态标识,得到第三待处理本地对象数据。
在得到第三待处理本地对象数据之后,可以执行操作S650。在操作S650,根据第二待处理本地对象数据、第三待处理本地对象数据和数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据。
以上仅是示例性实施例,但不限于此,还可以包括本领域已知的其他数据处理方法,只要能够处理数据即可。
图7示意性示出了根据本公开的实施例的数据处理装置的框图。
如图7所示,数据处理装置700可以包括第一获得模块701、第一确定模块702和第二获得模块703。
第一获得模块701,用于响应于检测到针对数据湖的数据查询指令,执行数据查询指令,得到参考对象数据。参考对象数据用于表征与目标对象的关注操作相关的第一对象数据,关注操作是目标对象在利用程序产品的过程中产生的操作。
第一确定模块702,用于根据参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据。本地对象数据集用于表征与目标对象的关注操作相关的第二对象数据。
第二获得模块703,用于根据应用侧对象数据、待处理本地对象数据和数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据。目标存量对象数据包括目标本地对象数据,目标本地对象数据和目标存量对象数据均与应用侧对象数据保持一致。
根据本公开的实施例,参考对象数据包括参考平台对象标识和参考私域对象标识。
根据本公开的实施例,本地对象数据集包括第一本地对象数据集和第二本地对象数据集。
根据本公开的实施例,第一本地对象数据集包括第一本地私域对象标识和第一本地平台对象标识。
根据本公开的实施例,第一确定模块702可以包括第一获得子模块。
第一获得子模块,用于在确定目标第一本地平台对象标识与参考平台对象标识不匹配的情况下,根据参考对象数据和第二本地对象数据集,得到待处理本地对象数据。目标第一本地平台对象标识是与目标第一本地私域对象标识关联的第一本地平台对象标识,目标第一本地私域对象标识是第一本地对象数据集中与参考私域对象标识相匹配的第一本地私域对象标识。
根据本公开的实施例,本地对象数据集还包括第三本地对象数据集。第一确定模块702还可以包括第二获得子模块。
第二获得子模块,用于在确定目标第一本地平台对象标识与参考平台对象标识相匹配的情况下,根据参考对象数据、第二本地对象数据集和第三本地对象数据集,得到待处理本地对象数据。
根据本公开的实施例,第二本地对象数据集包括第二本地私域对象标识。
根据本公开的实施例,第一获得子模块可以包括第一获得单元。
第一获得单元,用于根据与目标第二本地私域对象标识对应的第二本地对象数据,得到待处理本地对象数据。目标第二本地私域对象标识是第二本地对象数据集中与参考私域对象标识相匹配的第二本地私域对象标识。
根据本公开的实施例,第二本地对象数据还包括关注状态标识,关注状态标识用于表征与关注操作对应的关注状态。
根据本公开的实施例,第一获得单元可以包括第一获得子单元。
第一获得子单元,用于将与目标第二本地私域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到待处理本地对象数据。
根据本公开的实施例,第一本地对象数据还包括第一本地公域对象标识。
根据本公开的实施例,第二本地对象数据包括第二本地公域对象标识。
根据本公开的实施例,第三本地对象数据集包括至少一个第三本地对象数据,第三本地对象数据包括第三本地私域对象标识和第三本地公域对象标识。
根据本公开的实施例,第二获得子模块可以包括第一设置单元。
第一设置单元,用于在确定目标第三本地私域对象标识与参考私域对象标识不匹配的情况下,将与目标第二本地公域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到待处理本地对象数据。目标第三本地私域对象标识是与目标第三本地公域对象标识关联的第三本地私域对象标识,目标第三本地公域对象标识是第三本地对象数据集中与参考公域对象标识相匹配的第三本地公域对象标识,目标第二本地公域对象标识是第二本地对象数据集中与参考公域对象标识相匹配的第二本地公域对象标识。
根据本公开的实施例,第二获得子模块还可以包括第二设置单元。
第二设置单元,用于在确定目标第三本地私域对象标识与参考私域对象标识相匹配的情况下,将与目标第二本地公域对象标识对应的第二本地数据中的关注状态标识设置为已关注状态标识,得到待处理本地对象数据。
根据本公开的实施例,在确定目标第三本地私域对象标识与参考私域对象标识不匹配的情况下,第二获得子模块还可以包括修改单元。
修改单元,用于将目标第三本地私域对象标识修改为参考私域对象标识。
根据本公开的实施例,待处理本地对象数据包括第一待处理本地对象数据和第二待处理本地对象数据。
根据本公开的实施例,第二获得模块703可以包括第三获得子模块和第四获得子模块。
第三获得子模块,用于根据应用侧对象数据和第一待处理本地对象数据,得到第三待处理本地对象数据。
第四获得子模块,用于根据第二待处理本地对象数据、第三待处理本地对象数据和数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据。
根据本公开的实施例,第一待处理本地对象数据是关注状态标识为已关注状态标识的待处理本地对象数据。
根据本公开的实施例,第三获得子模块可以包括确定单元和第三设置单元。
确定单元,用于在确定第一待处理本地对象数据中的关注状态标识与应用侧对象数据中的关注状态标识相匹配的情况下,将第一待处理本地对象数据确定为第三待处理本地对象数据;以及
第三设置单元,用于在确定第一待处理本地对象数据中的关注状态标识与应用侧对象数据中的关注状态标识不匹配的情况下,将第一待处理本地对象数据中的关注状态标识设置为未关注状态标识,得到第三待处理本地对象数据。
根据本公开的实施例,第四获得子模块可以包括第二获得单元、更新单元、第三获得单元、删除单元和第四获得单元。
第二获得单元,用于根据第二待处理本地对象数据、第三待处理本地对象数据和数据湖中的存量对象数据,得到待更新对象数据和固定对象数据。待更新对象数据包括待增加对象数据、待修改对象数据和待删除对象数据中的至少之一。
更新单元,用于对待更新对象数据进行更新操作,得到更新后的对象数据。
第三获得单元,用于根据更新后的对象数据和固定对象数据,得到目标存量对象数据。
删除单元,用于对第二待处理本地对象数据中的关注状态标识为异常关注状态标识的待处理本地对象数据进行删除操作,得到第四待处理本地对象数据。
第四获得单元,用于根据第三待处理本地对象数据和第四待处理本地对象数据,得到目标本地对象数据。
根据本公开的实施例,第一本地私域对象标识是根据第一本地公域对象标识确定的。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,第一获得模块701、第一确定模块702和第二获得模块703中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本公开的实施例,第一获得模块701、第一确定模块702和第二获得模块703中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一获得模块701、第一确定模块702和第二获得模块703中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中数据处理装置部分与本公开的实施例中数据处理方法部分是相对应的,数据处理装置部分的描述具体参考数据处理方法部分,在此不再赘述。
图8示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。图8示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,根据本公开实施例的计算机电子设备800包括处理器801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分809加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。处理器801例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器801还可以包括用于缓存用途的板载存储器。处理器801可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 803中,存储有电子设备800操作所需的各种程序和数据。处理器801、ROM802以及RAM 803通过总线804彼此相连。处理器801通过执行ROM 802和/或RAM 803中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 802和RAM 803以外的一个或多个存储器中。处理器801也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备800还可以包括输入/输出(I/O)接口805,输入/输出(I/O)接口805也连接至总线804。电子设备800还可以包括连接至I/O接口805的以下部件中的一项或多项:包括键盘、鼠标等的输入部分806;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807;包括硬盘等的存储部分808;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口805。可拆卸介质811,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器810上,以便于从其上读出的计算机程序根据需要被安装入存储部分808。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分809从网络上被下载和安装,和/或从可拆卸介质811被安装。在该计算机程序被处理器801执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 802和/或RAM 803和/或ROM 802和RAM 803以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行本公开实施例所提供的方法的程序代码,当计算机程序产品在电子设备上运行时,该程序代码用于使电子设备实现本公开实施例所提供的数据处理方法。
在该计算机程序被处理器801执行时,执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分809被下载和安装,和/或从可拆卸介质811被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (16)
1.一种数据处理方法,包括:
响应于检测到针对数据湖的数据查询指令,执行所述数据查询指令,得到参考对象数据,其中,所述参考对象数据用于表征与目标对象的关注操作相关的第一对象数据,所述关注操作是所述目标对象在利用程序产品的过程中产生的操作;
根据所述参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据,其中,所述本地对象数据集用于表征与所述目标对象的关注操作相关的第二对象数据;以及
根据应用侧对象数据、所述待处理本地对象数据和所述数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,其中,所述目标存量对象数据包括所述目标本地对象数据,所述目标本地对象数据和所述目标存量对象数据均与所述应用侧对象数据保持一致。
2.根据权利要求1所述的方法,其中,所述参考对象数据包括参考平台对象标识和参考私域对象标识;
其中,所述本地对象数据集包括第一本地对象数据集和第二本地对象数据集;
其中,所述第一本地对象数据集包括第一本地私域对象标识和第一本地平台对象标识;
其中,所述根据所述参考对象数据和本地对象数据集,确定待处理本地对象数据,包括:
在确定目标第一本地平台对象标识与所述参考平台对象标识不匹配的情况下,根据所述参考对象数据和所述第二本地对象数据集,得到所述待处理本地对象数据,其中,所述目标第一本地平台对象标识是与目标第一本地私域对象标识关联的第一本地平台对象标识,所述目标第一本地私域对象标识是所述第一本地对象数据集中与所述参考私域对象标识相匹配的第一本地私域对象标识。
3.根据权利要求2所述的方法,其中,所述本地对象数据集还包括第三本地对象数据集;
所述方法还包括:
在确定所述目标第一本地平台对象标识与所述参考平台对象标识相匹配的情况下,根据所述参考对象数据、所述第二本地对象数据集和所述第三本地对象数据集,得到所述待处理本地对象数据。
4.根据权利要求2所述的方法,其中,所述第二本地对象数据集包括第二本地私域对象标识;
其中,所述根据所述参考对象数据和所述第二本地对象数据集,得到所述待处理本地对象数据,包括:
根据与目标第二本地私域对象标识对应的第二本地对象数据,得到所述待处理本地对象数据,其中,所述目标第二本地私域对象标识是所述第二本地对象数据集中与所述参考私域对象标识相匹配的第二本地私域对象标识。
5.根据权利要求4所述的方法,其中,所述第二本地对象数据还包括关注状态标识,所述关注状态标识用于表征与所述关注操作对应的关注状态;
其中,所述根据与目标第二本地私域对象标识对应的第二本地对象数据,得到所述待处理本地对象数据,包括:
将与所述目标第二本地私域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到所述待处理本地对象数据。
6.根据权利要求3~5中任一项所述的方法,其中,所述第一本地对象数据还包括第一本地公域对象标识;
其中,所述第二本地对象数据包括第二本地公域对象标识;
其中,所述第三本地对象数据集包括至少一个第三本地对象数据,所述第三本地对象数据包括第三本地私域对象标识和第三本地公域对象标识;
其中,所述根据所述参考对象数据、所述第二本地对象数据集和所述第三本地对象数据集,得到所述待处理本地对象数据,包括:
在确定目标第三本地私域对象标识与所述参考私域对象标识不匹配的情况下,将与目标第二本地公域对象标识对应的第二本地对象数据中的关注状态标识设置为异常关注状态标识,得到所述待处理本地对象数据,其中,所述目标第三本地私域对象标识是与目标第三本地公域对象标识关联的第三本地私域对象标识,所述目标第三本地公域对象标识是所述第三本地对象数据集中与所述参考公域对象标识相匹配的第三本地公域对象标识,所述目标第二本地公域对象标识是所述第二本地对象数据集中与所述参考公域对象标识相匹配的第二本地公域对象标识。
7.根据权利要求6所述的方法,还包括:
在确定所述目标第三本地私域对象标识与所述参考私域对象标识相匹配的情况下,将与所述目标第二本地公域对象标识对应的第二本地数据中的关注状态标识设置为已关注状态标识,得到所述待处理本地对象数据。
8.根据权利要求6所述的方法,其中,所述在确定目标第三本地私域对象标识与所述参考私域对象标识不匹配的情况下,还包括:
将所述目标第三本地私域对象标识修改为所述参考私域对象标识。
9.根据权利要求1~5中任一项所述的方法,其中,所述待处理本地对象数据包括第一待处理本地对象数据和第二待处理本地对象数据;
其中,所述根据应用侧对象数据、所述待处理本地对象数据和所述数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,包括:
根据所述应用侧对象数据和所述第一待处理本地对象数据,得到第三待处理本地对象数据;以及
根据所述第二待处理本地对象数据、所述第三待处理本地对象数据和所述数据湖中的存量对象数据,得到所述目标本地对象数据和所述目标存量对象数据。
10.根据权利要求9所述的方法,其中,所述第一待处理本地对象数据是关注状态标识为已关注状态标识的待处理本地对象数据;
其中,所述根据所述应用侧对象数据和所述第一待处理本地对象数据,得到第三待处理本地对象数据,包括:
在确定所述第一待处理本地对象数据中的关注状态标识与所述应用侧对象数据中的关注状态标识相匹配的情况下,将所述第一待处理本地对象数据确定为所述第三待处理本地对象数据;以及
在确定所述第一待处理本地对象数据中的关注状态标识与所述应用侧对象数据中的关注状态标识不匹配的情况下,将所述第一待处理本地对象数据中的关注状态标识设置为未关注状态标识,得到所述第三待处理本地对象数据。
11.根据权利要求9所述的方法,其中,所述根据所述第二待处理本地对象数据、所述第三待处理本地对象数据和所述数据湖中的存量对象数据,得到所述目标本地对象数据和所述目标存量对象数据,包括:
根据所述第二待处理本地对象数据、所述第三待处理本地对象数据和所述数据湖中的存量对象数据,得到待更新对象数据和固定对象数据,其中,所述待更新对象数据包括待增加对象数据、待修改对象数据和待删除对象数据中的至少之一;
对所述待更新对象数据进行更新操作,得到更新后的对象数据;
根据所述更新后的对象数据和所述固定对象数据,得到所述目标存量对象数据;
对所述第二待处理本地对象数据中的关注状态标识为异常关注状态标识的待处理本地对象数据进行删除操作,得到第四待处理本地对象数据;以及
根据所述第三待处理本地对象数据和所述第四待处理本地对象数据,得到所述目标本地对象数据。
12.根据权利要求6所述的方法,其中,所述第一本地私域对象标识是根据所述第一本地公域对象标识确定的。
13.一种数据处理装置,包括:
第一获得模块,用于响应于检测到针对数据湖的数据查询指令,执行所述数据查询指令,得到参考对象数据,其中,所述参考对象数据用于表征与目标对象的关注操作相关的第一对象数据,所述关注操作是所述目标对象在利用程序产品的过程中产生的操作;
第一确定模块,用于根据所述参考对象数据和本地数据库的本地对象数据集,确定待处理本地对象数据,其中,所述本地对象数据集用于表征与所述目标对象的关注操作相关的第二对象数据;以及
第二获得模块,用于根据应用侧对象数据、所述待处理本地对象数据和所述数据湖中的存量对象数据,得到目标本地对象数据和目标存量对象数据,其中,所述目标存量对象数据包括所述目标本地对象数据,所述目标本地对象数据和所述目标存量对象数据均与所述应用侧对象数据保持一致。
14.一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当所述一个或多个指令被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1~12中任一项所述的方法。
15.一种计算机可读存储介质,其上存储有可执行指令,所述可执行指令被处理器执行时使处理器实现权利要求1~12中任一项所述的方法。
16.一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,所述计算机可执行指令在被执行时用于实现权利要求1~12中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211043697.1A CN115687513A (zh) | 2022-08-29 | 2022-08-29 | 数据处理方法及装置、电子设备和计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211043697.1A CN115687513A (zh) | 2022-08-29 | 2022-08-29 | 数据处理方法及装置、电子设备和计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115687513A true CN115687513A (zh) | 2023-02-03 |
Family
ID=85061461
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211043697.1A Pending CN115687513A (zh) | 2022-08-29 | 2022-08-29 | 数据处理方法及装置、电子设备和计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115687513A (zh) |
-
2022
- 2022-08-29 CN CN202211043697.1A patent/CN115687513A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20160269423A1 (en) | Methods and systems for malware analysis | |
US20180232433A1 (en) | System and Method for Dynamically Refactoring Business Data Objects | |
US20190121669A1 (en) | Executing tasks using modular and intelligent code and data containers | |
AU2014400621B2 (en) | System and method for providing contextual analytics data | |
US10489380B2 (en) | Systems and methods for processing data service requests | |
CN116594683A (zh) | 一种代码注释信息生成方法、装置、设备及存储介质 | |
CN113535577B (zh) | 基于知识图谱的应用测试方法、装置、电子设备和介质 | |
CN116702752A (zh) | 文件数据处理方法、装置、设备及存储介质 | |
CN115760013A (zh) | 运维模型的构建方法、装置、电子设备及存储介质 | |
CN115391655A (zh) | 信息查询方法及装置、电子设备和计算机可读存储介质 | |
US20220309084A1 (en) | Record matching in a database system | |
CN115687513A (zh) | 数据处理方法及装置、电子设备和计算机可读存储介质 | |
CN114218254A (zh) | 报表生成方法、装置、设备及存储介质 | |
CN113362097A (zh) | 一种用户确定方法和装置 | |
CN116401319B (zh) | 数据同步方法及装置、电子设备和计算机可读存储介质 | |
CN113590425B (zh) | 数据处理方法、装置、设备、介质和程序产品 | |
CN115438632A (zh) | 文本数据处理方法及装置、电子设备和可读存储介质 | |
CN118445209A (zh) | 软件检测方法、装置、设备、介质及程序产品 | |
CN114661794A (zh) | 业务数据处理方法、装置、设备及介质 | |
CN115293273A (zh) | 用户画像的生成方法、用户画像模型的训练方法及装置 | |
CN114266547A (zh) | 业务处理策略的识别方法、装置、设备、介质及程序产品 | |
CN114817007A (zh) | 信息处理方法及装置、电子设备和计算机可读存储介质 | |
CN115687284A (zh) | 信息处理方法、装置、设备及存储介质 | |
CN117592105A (zh) | 对象集合映射的创建方法、对象权限验证方法及装置 | |
CN116243961A (zh) | 版本文件的处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |