CN114049065A - 一种数据处理方法、装置及系统 - Google Patents
一种数据处理方法、装置及系统 Download PDFInfo
- Publication number
- CN114049065A CN114049065A CN202111335627.9A CN202111335627A CN114049065A CN 114049065 A CN114049065 A CN 114049065A CN 202111335627 A CN202111335627 A CN 202111335627A CN 114049065 A CN114049065 A CN 114049065A
- Authority
- CN
- China
- Prior art keywords
- processing
- data
- abnormal
- data processing
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
- G06Q10/083—Shipping
- G06Q10/0832—Special goods or special handling procedures, e.g. handling of hazardous or fragile goods
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Economics (AREA)
- Quality & Reliability (AREA)
- Entrepreneurship & Innovation (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Development Economics (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种数据处理方法、装置及系统,涉及计算机技术领域。该方法的一具体实施方式包括:配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统。该实施方式能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景的技术效果。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据处理方法、装置及系统。
背景技术
针对物流过程中产生的异常数据的处理及监控,通常根据业务单元构建不同的业务处理系统,如报备异常的质控系统,进行责任判定的判责系统,或者进行报损的回损系统来执行相应的数据操作处理。现有方法中,上游系统处理完相关操作流程后,再将数据传输至下游系统进行处理,不同业务处理系统针对异常数据的分派、处理时效分别进行独立配置。
现有技术中至少存在如下问题:
现有方法中各业务处理单元的独立性较高,增加了数据处理难度,导致数据处理效率较低,增加了数据处理成本,适用场景较窄。
发明内容
有鉴于此,本发明实施例提供一种数据处理方法、装置及系统,能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景。
为实现上述目的,根据本发明实施例的第一方面,提供了一种数据处理方法,包括:
配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;
根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;
将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;
当数据处理状态为处理完成时,将数据处理结果发送至业务系统。
进一步地,根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点,还包括:
对上报信息进行异常识别处理,以确定异常数据对应的异常类型;
根据异常类型和处理节点映射表确定目标处理节点。
进一步地,目标处理节点的节点数量为至少一个,在节点数量为多个的情况下,还包括:
根据异常类型对应的异常数据的处理流程,确定多个目标处理节点对应的处理顺序。
进一步地,将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态的步骤,还包括:
根据处理顺序,将异常数据依次发送至多个目标处理节点,并在当前目标处理节点对应的数据处理状态为处理完成的情况下,将异常数据发送至下一目标处理节点。
进一步地,在上报信息为多个的情况下,还包括:
为每个上报信息中的异常数据生成数据编号;
根据不同数据编号的异常数据所对应的异常类型确定处理优先级;
根据处理优先级,将多个上报信息对应的异常数据发送至相应的目标处理节点。
进一步地,在接收业务系统上报的包括异常数据的上报信息的步骤之后,还包括:
根据异常数据的判定条件对上报信息进行数据清洗。
进一步地,还包括:
汇总多个异常数据及其对应的数据处理结果,根据汇总结果制定预警机制,并将预警机制发送至业务系统。
根据本发明实施例的第二方面,提供了一种数据处理装置,包括:
接收模块,用于配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;
处理节点确定模块,用于根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;
处理模块,用于将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;
发送模块,用于当数据处理状态为处理完成时,将数据处理结果发送至业务系统。
根据本发明实施例的第三方面,提供了一种数据处理系统,包括上述数据处理装置以及多个业务系统,其中:
业务系统,用于接收数据处理装置发送的信息上报接口的接口信息,并通过信息上报接口上报包括异常数据的上报信息;
数据处理装置,用于接收上报信息,并根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统。
根据本发明实施例的第四方面,提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上述任一种数据处理方法。
根据本发明实施例的第五方面,提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上述任一种数据处理方法。
上述发明中的一个实施例具有如下优点或有益效果:因为采用配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统的技术手段,所以克服了现有方法中各业务处理单元的独立性较高,增加了数据处理难度,导致数据处理效率较低,增加了数据处理成本,适用场景较窄的技术问题,进而达到能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景的技术效果。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明第一实施例提供的数据处理方法的主要流程的示意图;
图2是根据本发明第二实施例提供的数据处理方法的主要流程的示意图;
图3是根据本发明实施例提供的数据处理装置的主要模块的示意图;
图4是根据本发明实施例提供的数据处理系统的主要模块的示意图;
图5是本发明实施例可以应用于其中的示例性系统架构图;
图6是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明第一实施例提供的数据处理方法的主要流程的示意图;如图1所示,本发明实施例提供的数据处理方法主要包括:
步骤S101,配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息。
具体地,通过提供统一的信息上报接口,使得不同业务单元(业务系统)均可以通过上述接口进行异常提报,保障了底层数据的统一化和标准化。
进一步地,根据本发明实施例,在接收业务系统上报的包括异常数据的上报信息的步骤之后,上述方法还包括:
根据异常数据的判定条件对上报信息进行数据清洗。
上报的异常数据既包括人工识别方式进行上报的数据,还包括异常数据抓取模块自动抓取的数据,为了提高物流服务的准确率,提升用户体验,通常对于疑似异常的数据也会进行上报。通过上述设置,根据判定条件对上报信息进行数据清洗,一方面有助于提升了数据处理效率,另一方面还能根据所清洗的异常数据,对判定条件进行更新,从而更精确的确定异常数据。
步骤S102,根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系。
具体地,根据本发明实施例,上述根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点,还包括:
对上报信息进行异常识别处理,以确定异常数据对应的异常类型;
根据异常类型和处理节点映射表确定目标处理节点。
依次确定出上报信息对应的异常类型,以及该异常类型对应的目标处理节点,可以快速确定出该上报信息对应的处理流程,以及执行该处理流程的具体模块,通过上述设置,提升了数据处理的自动化程度,进一步提高了数据处理效率。
进一步地,根据本发明实施例,目标处理节点的节点数量为至少一个,在节点数量为多个的情况下,上述方法还包括:
根据异常类型对应的异常数据的处理流程,确定多个目标处理节点对应的处理顺序。
以物流过程中的物流丢失为例,当异常类型为物品丢失时,需要执行再次配送、丢失物品找回、责任判定等处理流程,每个处理流程均有不同的处理节点执行。根据异常类型对应的异常数据的处理流程,确定多个目标处理节点对应的处理顺序,有效地保障了数据处理的准确率。
步骤S103,将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态。
具体地,根据本发明实施例,将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态的步骤,还包括:
根据处理顺序,将异常数据依次发送至多个目标处理节点,并在当前目标处理节点对应的数据处理状态为处理完成的情况下,将异常数据发送至下一目标处理节点。
根据本发明实施例,针对处理流程的不同,对于可同时进行的处理步骤,可由多个目标处理节点同时执行相应的处理操作,然后在该多个同时执行的目标处理节点反馈的状态均是处理完成时,将异常数据发送至下一目标处理节点。通过上述设置,进一步提高了数据处理效率。
示例性地,根据本发明实施例,在上报信息为多个的情况下,上述方法还包括:
为每个上报信息中的异常数据生成数据编号;
根据不同数据编号的异常数据所对应的异常类型确定处理优先级;
根据处理优先级,将多个上报信息对应的异常数据发送至相应的目标处理节点。
针对物流领域,物流时效是影响用户体验的重要因素,同时对于异常数据的处理时效,也对所造成的损失密切相关。通过上述设置,根据异常类型确定不同异常数据(包含在上报信息中)的处理优先级,进而根据不同的处理优先级进行相应的数据处理,有助于提升用户体验,降低数据处理成本,提高数据处理效率,拓展适用场景。
步骤S104,当数据处理状态为处理完成时,将数据处理结果发送至业务系统。
进一步地,根据本发明实施例,上述方法还包括:
汇总多个异常数据及其对应的数据处理结果,根据汇总结果制定预警机制,并将预警机制发送至业务系统。
通过对沉淀数据(即所汇总的异常数据及数据处理结果)的整体处理分析,形成结构化报告,可以从不同视角监控异常(对异常数据的判定条件进行更新);并制定预警机制和智能化处理方案(对处理流程进行更新),最终减少在异常数据处理中的人工参与度,提升数据处理的自动化程度,提高数据处理效率。
根据本发明实施例的技术方案,因为采用配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统的技术手段,所以克服了现有方法中各业务处理单元的独立性较高,增加了数据处理难度,导致数据处理效率较低,增加了数据处理成本,适用场景较窄的技术问题,进而达到能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景的技术效果。
图2是根据本发明第二实施例提供的数据处理方法的主要流程的示意图;如图2所示,本发明实施例提供的数据处理方法主要包括:
步骤S201,接收业务系统上报的包括异常数据的上报信息。
具体地,由数据处理装置配置信息上报接口,继而将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息。具体地,通过提供统一的信息上报接口,使得不同业务单元业务系统均可以通过上述接口进行异常提报。
步骤S202,根据异常数据的判定条件对上报信息进行数据清洗。
通过上述设置,根据判定条件对上报信息进行数据清洗,有助于提升了数据处理效率,还能根据所清洗的异常数据,对判定条件进行更新,从而更精确的确定异常数据。
步骤S203,对上报信息进行异常识别处理,以确定异常数据对应的异常类型。
通过上述设置,对上报信息进行异常识别处理,确定异常类型,有助于后续确定相应的处理流程以及目标处理节点。
步骤S204,根据异常类型和处理节点映射表确定目标处理节点。
依次确定出上报信息对应的异常类型,以及该异常类型对应的目标处理节点,可以快速确定出该上报信息对应的处理流程,以及执行该处理流程的具体模块,通过上述设置,提升了数据处理的自动化程度,进一步提高了数据处理效率。
步骤S205,根据异常类型对应的异常数据的处理流程,确定多个目标处理节点对应的处理顺序。
以物流过程中的物流丢失为例,当异常类型为物品丢失时,需要执行再次配送、丢失物品找回、责任判定等处理流程,每个处理流程均有不同的处理节点执行。根据异常类型对应的异常数据的处理流程,确定多个目标处理节点对应的处理顺序,有效地保障了数据处理的准确率。
步骤S206,根据处理顺序,将异常数据依次发送至多个目标处理节点,并在当前目标处理节点对应的数据处理状态为处理完成的情况下,将异常数据发送至下一目标处理节点。
根据本发明实施例,针对处理流程的不同,对于可同时进行的处理步骤,可由多个目标处理节点同时执行相应的处理操作,然后在该多个同时执行的目标处理节点反馈的状态均是处理完成时,将异常数据发送至下一目标处理节点。通过上述设置,进一步提高了数据处理效率。
步骤S207,当数据处理状态为处理完成时,将数据处理结果发送至业务系统。
步骤S208,汇总多个异常数据及其对应的数据处理结果,根据汇总结果制定预警机制,并将预警机制发送至业务系统。
通过对所汇总的异常数据及数据处理结果的处理分析,形成结构化报告,可以从不同视角监控异常(对异常数据的判定条件进行更新);并制定预警机制和智能化处理方案(对处理流程进行更新),最终减少在异常数据处理中的人工参与度,提升数据处理的自动化程度,提高数据处理效率。
根据本发明实施例的技术方案,因为采用配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统的技术手段,所以克服了现有方法中各业务处理单元的独立性较高,增加了数据处理难度,导致数据处理效率较低,增加了数据处理成本,适用场景较窄的技术问题,进而达到能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景的技术效果。
图3是根据本发明实施例提供的数据处理装置的主要模块的示意图;如图3所示,本发明实施例提供的数据处理装置300主要包括:
接收模块301,用于配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息。
具体地,通过提供统一的信息上报接口,使得不同业务单元均可以通过上述接口进行异常提报,保障了底层数据的统一化和标准化。
进一步地,根据本发明实施例,上述数据处理装置300还包括数据清洗模块,在接收业务系统上报的包括异常数据的上报信息的步骤之后,用于:
根据异常数据的判定条件对上报信息进行数据清洗。
上报的异常数据既包括人工识别方式进行上报的数据,还包括异常数据抓取模块自动抓取的数据,为了提高物流服务的准确率,提升用户体验,通常对于疑似异常的数据也会进行上报。通过上述设置,根据判定条件对上报信息进行数据清洗,一方面有助于提升了数据处理效率,另一方面还能根据所清洗的异常数据,对判定条件进行更新,从而更精确的确定异常数据。
处理节点确定模块302,用于根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系。
具体地,根据本发明实施例,上述处理节点确定模块302,还用于:
对上报信息进行异常识别处理,以确定异常数据对应的异常类型;
根据异常类型和处理节点映射表确定目标处理节点。
依次确定出上报信息对应的异常类型,以及该异常类型对应的目标处理节点,可以快速确定出该上报信息对应的处理流程,以及执行该处理流程的具体模块,通过上述设置,提升了数据处理的自动化程度,进一步提高了数据处理效率。
进一步地,根据本发明实施例,上述数据处理装置300还包括处理顺序确定模块,目标处理节点的节点数量为至少一个,在节点数量为多个的情况下,上述处理顺序确定模块用于:
根据异常类型对应的异常数据的处理流程,确定多个目标处理节点对应的处理顺序。
以物流过程中的物流丢失为例,当异常类型为物品丢失时,需要执行再次配送、丢失物品找回、责任判定等处理流程,每个处理流程均有不同的处理节点执行。根据异常类型对应的异常数据的处理流程,确定多个目标处理节点对应的处理顺序,有效地保障了数据处理的准确率。
处理模块303,用于将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态。
具体地,根据本发明实施例,处理模块303还用于:
根据处理顺序,将异常数据依次发送至多个目标处理节点,并在当前目标处理节点对应的数据处理状态为处理完成的情况下,将异常数据发送至下一目标处理节点。
根据本发明实施例,针对处理流程的不同,对于可同时进行的处理步骤,可由多个目标处理节点同时执行相应的处理操作,然后在该多个同时执行的目标处理节点反馈的状态均是处理完成时,将异常数据发送至下一目标处理节点。通过上述设置,进一步提高了数据处理效率。
示例性地,根据本发明实施例,在上报信息为多个的情况下,处理模块303还用于:
为每个上报信息中的异常数据生成数据编号;
根据不同数据编号的异常数据所对应的异常类型确定处理优先级;
根据处理优先级,将多个上报信息对应的异常数据发送至相应的目标处理节点。
针对物流领域,物流时效是影响用户体验的重要因素,同时对于异常数据的处理时效,也对所造成的损失密切相关。通过上述设置,根据异常类型确定不同异常数据(包含在上报信息中)的处理优先级,进而根据不同的处理优先级进行相应的数据处理,有助于提升用户体验,降低数据处理成本,提高数据处理效率,拓展适用场景。
发送模块304,用于当数据处理状态为处理完成时,将数据处理结果发送至业务系统。
进一步地,根据本发明实施例,上述数据处理装置300还包括预警机制制定模块,用于:
汇总多个异常数据及其对应的数据处理结果,根据汇总结果制定预警机制,并将预警机制发送至业务系统。
通过对沉淀数据(即所汇总的异常数据及数据处理结果)的整体处理分析,形成结构化报告,可以从不同视角监控异常(对异常数据的判定条件进行更新);并制定预警机制和智能化处理方案(对处理流程进行更新),最终减少在异常数据处理中的人工参与度,提升数据处理的自动化程度,提高数据处理效率。
根据本发明实施例的技术方案,因为采用配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统的技术手段,所以克服了现有方法中各业务处理单元的独立性较高,增加了数据处理难度,导致数据处理效率较低,增加了数据处理成本,适用场景较窄的技术问题,进而达到能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景的技术效果。
图4是根据本发明实施例提供的数据处理系统的主要模块的示意图;如图4所示,本发明实施例提供的数据处理系统400主要包括数据处理装置401以及多个业务系统402。其中,
业务系统402,用于接收数据处理装置发送的信息上报接口的接口信息,并通过信息上报接口上报包括异常数据的上报信息。
具体地,通过提供统一的信息上报接口,使得不同业务单元(业务系统)均可以通过上述接口进行异常提报,保障了底层数据的统一化和标准化。
数据处理装置401,用于接收上报信息,并根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统。
通过上述设置,克服了现有方法中各业务处理单元的独立性较高,增加了数据处理难度,导致数据处理效率较低,增加了数据处理成本,适用场景较窄的技术问题,进而达到能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景的技术效果。
进一步地,根据本发明实施例,数据处理装置401还用于:
汇总多个异常数据及其对应的数据处理结果,根据汇总结果制定预警机制,并将预警机制发送至业务系统。
通过对沉淀数据(即所汇总的异常数据及数据处理结果)的整体处理分析,形成结构化报告,可以从不同视角监控异常(对异常数据的判定条件进行更新);并制定预警机制和智能化处理方案(对处理流程进行更新),最终减少在异常数据处理中的人工参与度,提升数据处理的自动化程度,提高数据处理效率。
根据本发明实施例的技术方案,因为采用配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统的技术手段,所以克服了现有方法中各业务处理单元的独立性较高,增加了数据处理难度,导致数据处理效率较低,增加了数据处理成本,适用场景较窄的技术问题,进而达到能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景的技术效果。
图5示出了可以应用本发明实施例的数据处理方法或数据处理装置的示例性系统架构500。
如图5所示,系统架构500可以包括终端设备501、502、503,网络504和服务器505(此架构仅仅是示例,具体架构中包含的组件可以根据申请具体情况调整)。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互,以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、数据处理类应用、社交平台软件等(仅为示例)。
终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器,例如对用户利用终端设备501、502、503所(进行数据处理)的服务器(仅为示例)。该服务器可以对接收到的上报信息等数据进行分析等处理,并将处理结果(例如目标处理节点、数据处理结果--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的数据处理方法一般由服务器505执行,相应地,数据处理装置一般设置于服务器505中。
应该理解,图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图6,其示出了适于用来实现本发明实施例的终端设备或服务器的计算机系统600的结构示意图。图6示出的终端设备或服务器仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本发明的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括接收模块、处理节点确定模块、处理模块和发送模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,接收模块还可以被描述为“用于配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统。
根据本发明实施例的技术方案,因为采用配置信息上报接口,将信息上报接口的接口信息发送至多个业务系统,以接收业务系统上报的包括异常数据的上报信息;根据处理节点映射表和上报信息,确定异常数据对应的异常类型以及目标处理节点;其中处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将异常数据发送至目标处理节点,以使得目标处理节点对异常数据进行相应的数据处理,并记录数据处理状态;当数据处理状态为处理完成时,将数据处理结果发送至业务系统的技术手段,所以克服了现有方法中各业务处理单元的独立性较高,增加了数据处理难度,导致数据处理效率较低,增加了数据处理成本,适用场景较窄的技术问题,进而达到能够降低数据处理难度,降低数据处理成本,提高数据处理效率,拓展适用场景的技术效果。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (11)
1.一种数据处理方法,其特征在于,包括:
配置信息上报接口,将所述信息上报接口的接口信息发送至多个业务系统,以接收所述业务系统上报的包括异常数据的上报信息;
根据处理节点映射表和所述上报信息,确定所述异常数据对应的异常类型以及目标处理节点;其中所述处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;
将所述异常数据发送至所述目标处理节点,以使得所述目标处理节点对所述异常数据进行相应的数据处理,并记录数据处理状态;
当所述数据处理状态为处理完成时,将数据处理结果发送至所述业务系统。
2.根据权利要求1所述的数据处理方法,其特征在于,所述根据处理节点映射表和所述上报信息,确定所述异常数据对应的异常类型以及目标处理节点,还包括:
对所述上报信息进行异常识别处理,以确定所述异常数据对应的异常类型;
根据所述异常类型和所述处理节点映射表确定目标处理节点。
3.根据权利要求2所述的数据处理方法,其特征在于,所述目标处理节点的节点数量为至少一个,在所述节点数量为多个的情况下,还包括:
根据所述异常类型对应的异常数据的处理流程,确定所述多个目标处理节点对应的处理顺序。
4.根据权利要求3所述的数据处理方法,其特征在于,所述将所述异常数据发送至所述目标处理节点,以使得所述目标处理节点对所述异常数据进行相应的数据处理,并记录数据处理状态的步骤,还包括:
根据所述处理顺序,将所述异常数据依次发送至所述多个目标处理节点,并在当前目标处理节点对应的数据处理状态为处理完成的情况下,将所述异常数据发送至下一目标处理节点。
5.根据权利要求1所述的数据处理方法,其特征在于,在所述上报信息为多个的情况下,还包括:
为每个上报信息中的异常数据生成数据编号;
根据不同数据编号的异常数据所对应的异常类型确定处理优先级;
根据所述处理优先级,将所述多个上报信息对应的异常数据发送至相应的目标处理节点。
6.根据权利要求1所述的数据处理方法,其特征在于,在所述接收所述业务系统上报的包括异常数据的上报信息的步骤之后,还包括:
根据异常数据的判定条件对所述上报信息进行数据清洗。
7.根据权利要求1所述的数据处理方法,其特征在于,还包括:
汇总多个异常数据及其对应的数据处理结果,根据汇总结果制定预警机制,并将所述预警机制发送至所述业务系统。
8.一种数据处理装置,其特征在于,包括:
接收模块,用于配置信息上报接口,将所述信息上报接口的接口信息发送至多个业务系统,以接收所述业务系统上报的包括异常数据的上报信息;
处理节点确定模块,用于根据处理节点映射表和所述上报信息,确定所述异常数据对应的异常类型以及目标处理节点;其中所述处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;
处理模块,用于将所述异常数据发送至所述目标处理节点,以使得所述目标处理节点对所述异常数据进行相应的数据处理,并记录数据处理状态;
发送模块,用于当所述数据处理状态为处理完成时,将数据处理结果发送至所述业务系统。
9.一种数据处理系统,其特征在于,包括权利要求8所述的数据处理装置以及多个业务系统,其中:
所述业务系统,用于接收所述数据处理装置发送的信息上报接口的接口信息,并通过所述信息上报接口上报包括异常数据的上报信息;
所述数据处理装置,用于接收所述上报信息,并根据处理节点映射表和所述上报信息,确定所述异常数据对应的异常类型以及目标处理节点;其中所述处理节点映射表指示了不同异常类型的异常数据与处理节点之间的映射关系;将所述异常数据发送至所述目标处理节点,以使得所述目标处理节点对所述异常数据进行相应的数据处理,并记录数据处理状态;当所述数据处理状态为处理完成时,将数据处理结果发送至所述业务系统。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111335627.9A CN114049065A (zh) | 2021-11-11 | 2021-11-11 | 一种数据处理方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111335627.9A CN114049065A (zh) | 2021-11-11 | 2021-11-11 | 一种数据处理方法、装置及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114049065A true CN114049065A (zh) | 2022-02-15 |
Family
ID=80208495
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111335627.9A Pending CN114049065A (zh) | 2021-11-11 | 2021-11-11 | 一种数据处理方法、装置及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114049065A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114567536A (zh) * | 2022-02-24 | 2022-05-31 | 北京百度网讯科技有限公司 | 异常数据处理方法、装置、电子设备和存储介质 |
-
2021
- 2021-11-11 CN CN202111335627.9A patent/CN114049065A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114567536A (zh) * | 2022-02-24 | 2022-05-31 | 北京百度网讯科技有限公司 | 异常数据处理方法、装置、电子设备和存储介质 |
CN114567536B (zh) * | 2022-02-24 | 2024-02-23 | 北京百度网讯科技有限公司 | 异常数据处理方法、装置、电子设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107809331B (zh) | 识别异常流量的方法和装置 | |
CN109257200B (zh) | 大数据平台监控的方法和装置 | |
CN111190888A (zh) | 一种管理图数据库集群的方法和装置 | |
US9929930B2 (en) | Reducing an amount of captured network traffic data to analyze | |
CN111782502A (zh) | 一种自动化测试的方法及装置 | |
CN114049065A (zh) | 一种数据处理方法、装置及系统 | |
CN114091704A (zh) | 一种告警压制方法和装置 | |
CN113312553A (zh) | 一种用户标签的确定方法和装置 | |
CN110795328A (zh) | 一种接口测试方法和装置 | |
WO2024066374A1 (zh) | 业务降级方法、装置、设备、计算机可读介质和程序产品 | |
CN113760982A (zh) | 一种数据处理方法和装置 | |
CN113760522A (zh) | 一种任务处理方法和装置 | |
CN114070889B (zh) | 配置方法、流量转发方法、设备、存储介质及程序产品 | |
CN111290873B (zh) | 故障处理方法和装置 | |
CN114064803A (zh) | 一种数据同步方法和装置 | |
CN111950232B (zh) | 一种自动切换号段的方法和装置 | |
CN113535020A (zh) | 用于生成应用图标的方法、装置、设备、介质和产品 | |
CN112799797A (zh) | 一种任务管理的方法和装置 | |
CN112749204A (zh) | 一种读取数据的方法和装置 | |
CN112306791A (zh) | 一种性能监控的方法和装置 | |
CN113468053B (zh) | 一种应用系统的测试方法和装置 | |
CN113778657B (zh) | 一种数据处理方法和装置 | |
CN112953810B (zh) | 一种网络请求的处理方法和装置 | |
CN113760635A (zh) | 连接异常的确定方法、装置、电子设备和存储介质 | |
CN113778845A (zh) | 一种系统测试方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |