CN113704243A - 数据分析方法、装置、计算机装置及存储介质 - Google Patents
数据分析方法、装置、计算机装置及存储介质 Download PDFInfo
- Publication number
- CN113704243A CN113704243A CN202010432182.5A CN202010432182A CN113704243A CN 113704243 A CN113704243 A CN 113704243A CN 202010432182 A CN202010432182 A CN 202010432182A CN 113704243 A CN113704243 A CN 113704243A
- Authority
- CN
- China
- Prior art keywords
- data
- abnormal
- analyzed
- abnormal data
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/258—Data format conversion from or to a database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2291—User-Defined Types; Storage management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24564—Applying rules; Deductive queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2457—Query processing with adaptation to user needs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Quality & Reliability (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明提供一种数据分析方法、数据分析装置、计算机装置和计算机存储介质,所述方法包括:获取待分析数据;根据第一预设规则判断所述待分析数据中是否存在异常数据;若不存在所述异常数据,则按照第二预设规则将所述待分析数据存储于第一数据库中;若存在所述异常数据,则在第二数据库中查询并执行所述异常数据对应的操作指令,并输出所述操作指令的执行结果,其中所述第二数据库中存储了异常数据与操作指令之间的对应关系,所述操作指令用于查找所述异常数据的异常原因。通过所述方法可以使数据分析以更加智能、高效的方式进行。
Description
技术领域
本发明涉及数据分析技术领域,具体涉及一种数据分析方法、数据分析装置、计算机装置及计算机存储介质。
背景技术
对于数据分析系统而言,需要对不同格式和不同来源的数据进行分析处理,以确定所述数据的内容和格式符合预定规则,现有的数据分析方法效率低,不够智能。
发明内容
鉴于以上内容,有必要提出一种数据分析方法、数据分析装置、计算机装置和计算机存储介质,使得数据分析以更加智能高效的方式进行。
本申请的第一方面提供一种数据分析方法,所述方法包括:
获取待分析数据;
根据第一预设规则判断所述待分析数据中是否存在异常数据;
若不存在所述异常数据,则按照第二预设规则将所述待分析数据存储于第一数据库中;
若存在所述异常数据,则在第二数据库中查询并执行所述异常数据对应的操作指令,并输出所述操作指令的执行结果,其中所述第二数据库中存储了异常数据与操作指令之间的对应关系,所述操作指令用于查找所述异常数据的异常原因。
优选地,所述方法还包括:
根据所述执行结果确定所述异常数据的异常原因,并判断所述异常原因是否为人为因素造成;
若确定为人为因素造成,则发送提示消息并接收改善方案,及根据所述改善方案对所述异常数据进行处理并按照所述第二预设规则将所述处理后的异常数据存储于所述第一数据库中;
若确定为非人为因素造成,则生成一备注消息,将所述备注消息添加至所述异常数据并按照所述第二预设规则将所述备注后的异常数据存储于所述第一数据库中。
优选地,所述方法还包括:
将获取到的待分析数据存储于第三数据库中,其中所述第三数据库采用分散式存储的方式存储所述待分析数据。
优选地,所述待分析数据包括文字、数字中的一种或多种。
优选地,所述方法还包括:
对所述待分析数据进行数据清理处理,其中所述数据清理的方式包括:调整数据格式、删除无效数据中的一项或多项。
优选地,所述方法还包括:
确定所述待分析数据的类型,并在所述第二数据库中查找与所述待分析数据的类型相对应的第一预设规则。
本申请的第二方面提供一种数据分析装置,所述装置包括:
获取模块,用于获取待分析数据;
判断模块,用于根据第一预设规则判断所述待分析数据中是否存在异常数据;
第一执行模块,用于当不存在异常数据时,按照第二预设规则将所述待分析数据存储于第一数据库中;
第二执行模块,用于当存在异常数据时,在第二数据库中查询并执行所述异常数据对应的操作指令,并输出所述操作指令的执行结果,其中所述第二数据库中存储了异常数据与操作指令之间的对应关系,所述操作指令用于查找所述异常数据的异常原因。
优选地,所述装置还包括分析模块,所述分析模块用于:
根据所述执行结果确定所述异常数据的异常原因,并判断所述异常原因是否为人为因素造成;
若确定为人为因素造成,则发送提示消息并接收改善方案,及根据所述改善方案对所述异常数据进行处理并按照所述第二预设规则将所述处理后的异常数据存储于所述第一数据库中;
若确定为非人为因素造成,则生成一条备注消息,将所述备注消息添加至所述异常数据并按照所述第二预设规则将所述备注后的异常数据存储于所述第一数据库中。
本申请的第三方面提供一种计算机装置,所述计算机装置包括处理器,所述处理器用于执行存储器中存储的计算机程序时实现如前所述数据分析方法。
本申请的第四方面提供一种计算机存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如前所述数据分析方法。
本发明数据分析方法、数据分析装置、计算机装置和计算机存储介质通过第一预设规则判断待分析数据中是否存在异常数据;当不存在异常数据时,将所述待分析数据按照第二预设规则存储于第一数据库中,当存在所述异常数据时,在第二数据库中查询并执行所述异常数据对应的操作指令,并输出所述操作指令的执行结果,根据所述执行结果确定异常数据的异常原因,针对不同的异常原因,对所述异常数据进行处理后存储于第一数据库中。通过所述方法可以快速准确的对待分析数据进行异常分析后进行归类存储。
附图说明
图1是本发明实施例一提供的数据分析方法的应用环境架构示意图。
图2是本发明实施例二提供的数据分析方法流程图。
图3是本发明实施例三提供的数据分析装置的结构示意图。
图4是本发明实施例四提供的计算机装置示意图。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施例对本发明进行详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本发明。
实施例一
参阅图1所示,为本发明实施例一提供的数据分析方法的应用环境架构示意图。
本发明中的数据分析方法应用在计算机装置1中,所述计算机装置1和至少一个用户终端2通过网络建立通信连接。所述网络可以是有线网络,也可以是无线网络,例如无线电、无线保真(Wireless Fidelity,WIFI)、蜂窝、卫星、广播等。所述用户终端2用于发送待分析数据。所述计算机装置2用于接收待分析数据,并对所述待分析数据按照第一预设规则进行判断处理后存储于第一数据库中。
所述计算机装置1可以为安装有数据分析软件的电子设备,例如个人电脑、服务器等,其中,所述服务器可以是单一的服务器、服务器集群或云服务器等。
所述用户终端2是具有数据采集功能的电子设备,包括但不限于智能手机、平板电脑、膝上型便捷计算机、台式计算机等。
实施例二
请参阅图2所示,是本发明第二实施例提供的数据分析方法的流程图。根据不同的需求,所述流程图中步骤的顺序可以改变,某些步骤可以省略。
步骤S1、获取待分析数据。
所述待分析数据可以是文字、数字,也可以是文字和数字的组合。在本发明一实施方式中,所述计算机装置1获取待分析数据的方法可以是通过接收用户终端2发送的待分析数据。在另一实施方式中,所述计算机装置1获取待分析数据的方法还可以通过调取存储于服务器或云服务器中的其他数据库中的数据。例如从云服务器中的ERP系统数据库中调取待处理数据、从财务数据库中调取待处理数据、从人事管理数据库中调取待处理数据。
在本发明另一实施方式中,所述步骤S1还可以包括根据数据采集条件、数据采集周期或者数据采集优先级从服务器或者用户终端2中自动获取待分析数据。计算机装置1在获取数据时,还需要对获取到的数据的完整性进行判断,根据预设条件判断所述数据是否存在关联数据。例如,计算机装置1接收用户终端2发送的数据表A,查找数据表A中的数据,判断所述数据中是否有关联其他数据表中的数据,若存在关联数据,则需要获取关联数据表中的对应数据。
在本发明另一实施方式中,所述步骤S1还可以包括:将获取到的待分析数据存储于第三数据库中,所述第三数据库采用分散式存储的方式存储所述待分析数据,所述第三数据库用于备份待分析数据以保障数据的完整性。
步骤S2、根据第一预设规则判断所述待分析数据中是否存在异常数据。
所述步骤S2还可以包括:在对所述待分析按照第一预设规则进行判断之前,对所述待分析数据进行数据清理处理,所述数据清理的方式可以包括:调整数据格式、删除无效数据中的一项或多项。所述调整数据格式包括但不限于将不同进制的数字调整成同一进制、调整待处理文字的字体、调整待处理文字的语序。所述删除无效数据包括但不限于删除无效的空格、删除无效的符号。在另一实施方式中,若计算机装置1多次从同一用户终端2中获取的待处理数据都包含预设个数的数据的不符合数据格式的要求,或包含大于预设个数的无效字符,则向所述用户终端2发出提示消息。
在本发明又一实施方式中,所述步骤S2还可以包括:确定所述待分析数据的类型,在第二数据库中查找与所述数据类型相对应的第一预设规则。所述待分析数据的类型包括但不限于:按照数据中的内容分成多个类型,例如财务数据、人事数据、收付款数据;按照数据的来源分成多个类型,例如根据不同的供应商分析产品的来料数据,根据不同数据库中数据的来源;按照数据的格式分为多种类型,例如文字为一种类型、数字为一种类型。所述第二数据库中存储了多个第一预设规则,每一第一预设规则与一待分析数据的类型相对应。所述第一预设规则与待分析数据的类型存在对应关系。例如当所述数据库中的数据按照数据的内容分为三类数据分别为财务数据、人事数据、收付款数据,则与所述三类数据对应的第一预设规则有三种分别为针对财务数据制定的第一预设规则,所述规则可以是将财务数据与第一预设规则中的查找表中的财务数据进行比对,判断所述财务数据是否符合规范;针对人事数据制定的第一预设规则,所述规则可以是将人事数据与第一预设规则中的查找表中的人事数据进行比对,判断所述人事数据是否符合规范;针对收付款数据制定的第一预设规则,所述规则可以是将收付款数据与第一预设规则中的查找表中的收付款数据进行比对,判断所述收付款数据是否符合规范。
步骤S3、若不存在所述异常数据,则按照第二预设规则将所述待分析数据存储于第一数据库中。
所述第一数据库中的数据可以采用结构化存储的方式存储数据。按照待分析数据的类型在第一数据库中查找所述类型对应的地址,将所述待分析数据存储于所述地址对应的区域。所述第二预设规则可以是待分析数据的存储地址、待处理数据的存储格式、待处理数据的存储时间。
步骤S4、若存在所述异常数据,则在第二数据库中查询并执行所述异常数据对应的操作指令,并输出所述操作指令的执行结果,其中所述第二数据库中存储了异常数据与操作指令之间的对应关系,所述操作指令用于查找所述异常数据的异常原因。
在本发明一实施方式中,所述操作指令可以是通过网络连接查询对应网络地址的信息、也可以是查找查询具体点检表中的信息。
例如,所述待处理数据为待生产产品的来料价格,将所述来料价格和第一预设规则中的查找表中的信息经过比对之后,得出所述来料价格异常,则调取与分析价格异常对应的操作指令,所述操作指令包括查找当前来料厂商的出货价格、汇率变化、关税等因素,确定所述价格异常的原因。
又例如,所述待处理数据为某公司的人事资料,将所述人事资料和第一预设规则中的查找表中的信息经过比对之后,得出某位员工的执业执照已经过期,则调取与执照过期相对应的操作指令,所述操作指令包括是否通知相应人员执照有效期情况、是否存在所述人员关于执业执照的相关说明、是否存在所述岗位的替补人员信息。
在本发明又一实施方式中,所述步骤S4还包括:
根据所述执行结果确定所述异常数据的异常原因,并判断所述异常原因是否为人为因素造成;
若确定为人为因素造成,则发送提示消息并接收改善方案,及根据所述改善方案对所述异常数据进行处理并按照所述第二预设规则将所述处理后的异常数据存储于所述第一数据库中;
若确定为非人为因素造成,则生成一条备注消息,将所述备注消息添加至所述异常数据并按照所述第二预设规则将所述备注后的异常数据存储于所述第一数据库中。
例如,异常的来料价格和第一预设规则中查找表的信息经过比对之后,发现来料价格异常的原因是记录的来料价格与供应商的发货价格不一致,则确定所述原因为人为因素造成,则需要向相对应的工作人员发送提示消息,工作人员对所述异常数据进行判断处理后,将改善方案发送至计算机装置1,计算机装置1接收用户终端2发送的改善方案,并将按照所述改善方案对所述数据进行处理后,按照第二预设规则对所述异常数据进行存储。
例如,将异常的来料价格和第一预设规则中查找表的信息经过比对之后,发现来料价格异常的原因是汇率差,则确定所述有原因为非人为因素造成,则生成一条备注消息,将所述备注消息添加至所述异常数据并按照第二预设规则将所述备注后的异常数据存储于第一数据库中。
上述图2详细介绍了本发明的数据分析方法,下面结合第3-4图,对实现所述数据分析方法的软件装置的功能模块以及实现所述数据分析方法的硬件装置架构进行介绍。
应所述了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
实施例三
图3为本发明数据分析装置较佳实施例的结构图。
在一些实施例中,数据分析装置10运行于计算机装置中。所述计算机装置通过网络连接了多个用户终端。所述数据分析装置10可以包括多个由程序代码段所组成的功能模块。所述数据分析装置10中的各个程序段的程序代码可以存储于计算机装置的存储器中,并由所述至少一个处理器所执行,以实现数据分析功能。
本实施例中,所述数据分析装置10根据其所执行的功能,可以被划分为多个功能模块。参阅图3所示,所述功能模块可以包括:获取模块101、判断模块102、第一执行模块103、第二执行模块104。本发明所称的模块是指一种能够被至少一个处理器所执行并且能够完成固定功能的一系列计算机程序段,其存储在存储器中。在本实施例中,关于各模块的功能将在后续的实施例中详述。
所述获取模块101,用于获取待分析数据。
所述待分析数据可以是文字、数字,也可以是文字和数字的组合。在本发明一实施方式中,所述获取模块101获取待分析数据的具体方式可以是通过接收用户终端2发送的待分析数据。在另一实施方式中,所述获取模块101获取待分析数据的具体方式还可以通过调取存储于服务器或云服务器中的其他数据库中的数据。例如从云服务器中的ERP系统数据库中调取待处理数据、从财务数据库中调取待处理数据、从人事管理数据库中调取待处理数据。
在本发明另一实施方式中,所述获取模块101的功能还可以包括根据数据采集条件、数据采集周期或者数据采集优先级从服务器或者用户终端2中自动获取待分析数据。所述获取模块101在获取数据时,还需要对获取到的数据的完整性进行判断,根据预设条件判断所述数据是否存在关联数据。例如,所述获取模块101接收用户终端2发送的数据表A,查找数据表A中的数据,判断所述数据中是否有关联其他数据表中的数据,若存在关联数据,则需要获取关联数据表中的对应数据。
在本发明另一实施方式中,所述获取模块101的功能还可以包括:将获取到的待分析数据存储于第三数据库中,所述第三数据库采用分散式存储的方式存储所述待分析数据,所述第三数据库用于备份待分析数据以保障数据的完整性。
所述判断模块102,用于根据第一预设规则判断所述待分析数据中是否存在异常数据。
所述判断模块102的功能还可以包括:在对所述待分析按照第一预设规则进行判断之前,对所述待分析数据进行数据清理处理,所述数据清理的方式可以包括:调整数据格式、删除无效数据中的一项或多项。所述调整数据格式包括但不限于将不同进制的数字调整成同一进制、调整待处理文字的字体、调整待处理文字的语序。所述删除无效数据包括但不限于删除无效的空格、删除无效的符号。在另一实施方式中,若所述判断模块102多次从同一用户终端2中获取的待处理数据都包含预设个数的数据的不符合数据格式的要求,或包含大于预设个数的无效字符,则向所述用户终端2发出提示消息。
在本发明又一实施方式中,所述判断模块102的功能还可以包括:确定所述待分析数据的类型,在第二数据库中查找与所述数据类型相对应的第一预设规则。所述待分析数据的类型包括但不限于:按照数据中的内容分成多个类型,例如财务数据、人事数据、收付款数据;按照数据的来源分成多个类型,例如根据不同的供应商分析产品的来料数据,根据不同数据库中数据的来源;按照数据的格式分为多种类型,例如文字为一种类型、数字为一种类型。所述第二数据库中存储了多个第一预设规则,每一第一预设规则与一待分析数据的类型相对应。所述第一预设规则与待分析数据的类型存在对应关系。例如当所述数据库中的数据按照数据的内容分为三类数据分别为财务数据、人事数据、收付款数据,则与所述三类数据对应的第一预设规则有三种分别为针对财务数据制定的第一预设规则,所述规则可以是将财务数据与第一预设规则中的查找表中的财务数据进行比对,判断所述财务数据是否符合规范;针对人事数据制定的第一预设规则,所述规则可以是将人事数据与第一预设规则中的查找表中的人事数据进行比对,判断所述人事数据是否符合规范;针对收付款数据制定的第一预设规则,所述规则可以是将收付款数据与第一预设规则中的查找表中的收付款数据进行比对,判断所述收付款数据是否符合规范。
所述第一执行模块103,用于当不存在异常数据时,按照第二预设规则将所述待分析数据存储于第一数据库中。
所述第一数据库中的数据可以采用结构化存储的方式存储数据。按照待分析数据的类型在第一数据库中查找所述类型对应的地址,将所述待分析数据存储于所述地址对应的区域。所述第二预设规则可以是待分析数据的存储地址、待处理数据的存储格式、待处理数据的存储时间。
所述第二执行模块104,用于当存在异常数据时,在第二数据库中查询并执行所述异常数据对应的操作指令,并输出所述操作指令的执行结果,其中所述第二数据库中存储了异常数据与操作指令之间的对应关系,所述操作指令用于查找所述异常数据的异常原因。
在本发明一实施方式中,所述操作指令可以是通过网络连接查询对应网络地址的信息、也可以是查找查询具体点检表中的信息。
例如,所述待处理数据为待生产产品的来料价格,将所述来料价格和第一预设规则中的查找表中的信息经过比对之后,得出所述来料价格异常,则调取与分析价格异常对应的操作指令,所述操作指令包括查找当前来料厂商的出货价格、汇率变化、关税等因素,确定所述价格异常的原因。
又例如,所述待处理数据为某公司的人事资料,将所述人事资料和第一预设规则中的查找表中的信息经过比对之后,得出某位员工的执业执照已经过期,则调取与执照过期相对应的操作指令,所述操作指令包括是否通知相应人员执照有效期情况、是否存在所述人员关于执业执照的相关说明、是否存在所述岗位的替补人员信息。
在本发明又一实施方式中,所述第二执行模块104的功能还包括:
根据所述执行结果确定所述异常数据的异常原因,并判断所述异常原因是否为人为因素造成;
若确定为人为因素造成,则发送提示消息并接收改善方案,及根据所述改善方案对所述异常数据进行处理并按照所述第二预设规则将所述处理后的异常数据存储于所述第一数据库中;
若确定为非人为因素造成,则生成一条备注消息,将所述备注消息添加至所述异常数据并按照所述第二预设规则将所述备注后的异常数据存储于所述第一数据库中。
例如,异常的来料价格和第一预设规则中查找表的信息经过比对之后,发现来料价格异常的原因是记录的来料价格与供应商的发货价格不一致,则确定所述原因为人为因素造成,则需要向相对应的工作人员发送提示消息,工作人员对所述异常数据进行判断处理后,将改善方案发送至所述第二执行模块104,所述第二执行模块104接收用户终端2发送的改善方案,并将按照所述改善方案对所述数据进行处理后,按照第二预设规则对所述异常数据进行存储。
例如,将异常的来料价格和第一预设规则中查找表的信息经过比对之后,发现来料价格异常的原因是汇率差,则确定所述有原因为非人为因素造成,则生成一条备注消息,将所述备注消息添加至所述异常数据并按照第二预设规则将所述备注后的异常数据存储于第一数据库中。
实施例四
图4为本发明计算机装置较佳实施例的示意图。
所述计算机装置1包括存储器20、处理器30以及存储在所述存储器20中并可在所述处理器30上运行的计算机程序40,例如数据分析程序。所述处理器30执行所述计算机程序40时实现上述数据分析方法实施例中的步骤,例如图2所示的步骤S1~S4。或者,所述处理器30执行所述计算机程序40时实现上述数据分析装置实施例中各模块/单元的功能,例如图3中的单元101-104。
示例性的,所述计算机程序40可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器20中,并由所述处理器30执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,所述指令段用于描述所述计算机程序40在所述计算机装置1中的执行过程。例如,所述计算机程序40可以被分割成图3中的获取模块101、判断模块102、第一执行模块103、第二执行模块104。
所述计算机装置1可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。本领域技术人员可以理解,所述示意图仅仅是计算机装置1的示例,并不构成对计算机装置1的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述计算机装置1还可以包括输入输出设备、网络接入设备、总线等。
所称处理器30可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者所述处理器30也可以是任何常规的处理器等,所述处理器30是所述计算机装置1的控制中心,利用各种接口和线路连接整个计算机装置1的各个部分。
所述存储器20可用于存储所述计算机程序40和/或模块/单元,所述处理器30通过运行或执行存储在所述存储器20内的计算机程序和/或模块/单元,以及调用存储在存储器20内的数据,实现所述计算机装置1的各种功能。所述存储器20可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据计算机装置1的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器20可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
所述计算机装置1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,所述计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
在本发明所提供的几个实施例中,应所述理解到,所揭露的计算机装置和方法,可以通过其它的方式实现。例如,以上所描述的计算机装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
另外,在本发明各个实施例中的各功能单元可以集成在相同处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在相同单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。计算机装置权利要求中陈述的多个单元或计算机装置也可以由同一个单元或计算机装置通过软件或者硬件来实现。第一,第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种数据分析方法,其特征在于,所述方法包括:
获取待分析数据;
根据第一预设规则判断所述待分析数据中是否存在异常数据;
若不存在所述异常数据,则按照第二预设规则将所述待分析数据存储于第一数据库中;
若存在所述异常数据,则在第二数据库中查询并执行所述异常数据对应的操作指令,并输出所述操作指令的执行结果,其中所述第二数据库中存储了异常数据与操作指令之间的对应关系,所述操作指令用于查找所述异常数据的异常原因。
2.如权利要求1所述的数据分析方法,其特征在于,所述方法还包括:
根据所述执行结果确定所述异常数据的异常原因,并判断所述异常原因是否为人为因素造成;
若确定为人为因素造成,则发送提示消息并接收改善方案,及根据所述改善方案对所述异常数据进行处理并按照所述第二预设规则将所述处理后的异常数据存储于所述第一数据库中;
若确定为非人为因素造成,则生成一备注消息,将所述备注消息添加至所述异常数据并按照所述第二预设规则将所述备注后的异常数据存储于所述第一数据库中。
3.如权利要求1所述的数据分析方法,其特征在于,所述方法还包括:
将获取到的待分析数据存储于第三数据库中,其中所述第三数据库采用分散式存储的方式存储所述待分析数据。
4.如权利要求1所述的数据分析方法,其特征在于,所述待分析数据包括文字、数字中的一种或多种。
5.如权利要求1所述的数据分析方法,其特征在于,所述方法还包括:
对所述待分析数据进行数据清理处理,其中所述数据清理的方式包括:调整数据格式、删除无效数据中的一项或多项。
6.如权利要求1所述的数据分析方法,其特征在于,所述方法还包括:
确定所述待分析数据的类型,并在所述第二数据库中查找与所述待分析数据的类型相对应的第一预设规则。
7.一种数据分析装置,其特征在于,所述装置包括:
获取模块,用于获取待分析数据;
判断模块,用于根据第一预设规则判断所述待分析数据中是否存在异常数据;
第一执行模块,用于当不存在所述异常数据时,按照第二预设规则将所述待分析数据存储于第一数据库中;
第二执行模块,用于当存在所述异常数据时,在第二数据库中查询并执行所述异常数据对应的操作指令,并输出所述操作指令的执行结果,其中所述第二数据库中存储了异常数据与操作指令之间的对应关系,所述操作指令用于查找所述异常数据的异常原因。
8.如权利要求7所述的数据分析装置,其特征在于,所述装置还包括分析模块,所述分析模块用于:
根据所述执行结果确定所述异常数据的异常原因,并判断所述异常原因是否为人为因素造成;
若确定为人为因素造成,则发送提示消息并接收改善方案,及根据所述改善方案对所述异常数据进行处理并按照所述第二预设规则将所述处理后的异常数据存储于所述第一数据库中;
若确定为非人为因素造成,则生成一条备注消息,将所述备注消息添加至所述异常数据并按照所述第二预设规则将所述备注后的异常数据存储于所述第一数据库中。
9.一种计算机装置,其特征在于:所述计算机装置包括处理器,所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1-6中任一项所述的数据分析方法。
10.一种计算机存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1-6中任一项所述的数据分析方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010432182.5A CN113704243A (zh) | 2020-05-20 | 2020-05-20 | 数据分析方法、装置、计算机装置及存储介质 |
US17/021,179 US20210365421A1 (en) | 2020-05-20 | 2020-09-15 | Data analysis method, computer device and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010432182.5A CN113704243A (zh) | 2020-05-20 | 2020-05-20 | 数据分析方法、装置、计算机装置及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113704243A true CN113704243A (zh) | 2021-11-26 |
Family
ID=78609023
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010432182.5A Pending CN113704243A (zh) | 2020-05-20 | 2020-05-20 | 数据分析方法、装置、计算机装置及存储介质 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20210365421A1 (zh) |
CN (1) | CN113704243A (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114817860B (zh) * | 2022-05-20 | 2023-04-07 | 深圳市金胜电子科技有限公司 | 一种数据统计方法、装置、固态硬盘及介质 |
CN115065508A (zh) * | 2022-05-27 | 2022-09-16 | 青岛海尔科技有限公司 | 设备孪生数据的处理方法和装置、存储介质及电子装置 |
CN114706794B (zh) * | 2022-06-06 | 2022-08-30 | 航天亮丽电气有限责任公司 | 生产管理软件的数据处理系统 |
CN114996360B (zh) * | 2022-07-20 | 2022-11-18 | 江西现代职业技术学院 | 数据分析方法、系统、可读存储介质及计算机设备 |
CN115906810A (zh) * | 2022-12-13 | 2023-04-04 | 中科世通亨奇(北京)科技有限公司 | 基于时间序列和观点挖掘的异常言论分析方法及设备 |
CN115858308B (zh) * | 2022-12-30 | 2023-06-30 | 珠海市众知科技有限公司 | 基于大数据的自动化加工信息智能监测系统及方法 |
CN116049157B (zh) * | 2023-01-04 | 2024-05-07 | 北京京航计算通讯研究所 | 一种质量数据分析方法及系统 |
CN117434227B (zh) * | 2023-12-20 | 2024-04-30 | 河北金隅鼎鑫水泥有限公司 | 一种水泥制造厂的废气成分监控方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160034502A1 (en) * | 2014-08-04 | 2016-02-04 | Ron Dupey | Automatic Detection of Potential Data Quality Problems |
CN108182258A (zh) * | 2018-01-02 | 2018-06-19 | 福建中金在线信息科技有限公司 | 分布式的数据分析系统及方法 |
CN109032824A (zh) * | 2018-05-31 | 2018-12-18 | 康键信息技术(深圳)有限公司 | 数据库校验方法、装置、计算机设备和存储介质 |
CN110097037A (zh) * | 2019-05-22 | 2019-08-06 | 天津联图科技有限公司 | 智能监测方法、装置、存储介质及电子设备 |
CN110187993A (zh) * | 2019-05-14 | 2019-08-30 | 广州欧科信息技术股份有限公司 | 一种异常运行的处理方法、系统、电子设备及存储介质 |
CN110471832A (zh) * | 2019-06-25 | 2019-11-19 | 平安科技(深圳)有限公司 | 程序运行的处理方法、装置及计算机可读存储介质 |
-
2020
- 2020-05-20 CN CN202010432182.5A patent/CN113704243A/zh active Pending
- 2020-09-15 US US17/021,179 patent/US20210365421A1/en not_active Abandoned
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160034502A1 (en) * | 2014-08-04 | 2016-02-04 | Ron Dupey | Automatic Detection of Potential Data Quality Problems |
CN108182258A (zh) * | 2018-01-02 | 2018-06-19 | 福建中金在线信息科技有限公司 | 分布式的数据分析系统及方法 |
CN109032824A (zh) * | 2018-05-31 | 2018-12-18 | 康键信息技术(深圳)有限公司 | 数据库校验方法、装置、计算机设备和存储介质 |
CN110187993A (zh) * | 2019-05-14 | 2019-08-30 | 广州欧科信息技术股份有限公司 | 一种异常运行的处理方法、系统、电子设备及存储介质 |
CN110097037A (zh) * | 2019-05-22 | 2019-08-06 | 天津联图科技有限公司 | 智能监测方法、装置、存储介质及电子设备 |
CN110471832A (zh) * | 2019-06-25 | 2019-11-19 | 平安科技(深圳)有限公司 | 程序运行的处理方法、装置及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US20210365421A1 (en) | 2021-11-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113704243A (zh) | 数据分析方法、装置、计算机装置及存储介质 | |
CN111914520A (zh) | 文档协同编辑方法、装置、计算机装置及存储介质 | |
CN111104426B (zh) | 一种数据查询方法及系统 | |
CN111611249A (zh) | 数据管理方法、装置、设备及存储介质 | |
CN113704307A (zh) | 数据查询方法、装置、服务器及计算机可读存储介质 | |
CN110716965A (zh) | 一种块链式账本中的查询方法、装置及设备 | |
CN112434238A (zh) | 网页质量检测方法、装置、电子设备及存储介质 | |
CN115033577A (zh) | 设备订单数据的存储方法、查询方法及装置 | |
CN111414395A (zh) | 数据处理方法、系统和计算机设备 | |
CN109558403B (zh) | 数据聚合方法及装置、计算机装置及计算机可读存储介质 | |
CN112819267A (zh) | 来料质量管控方法、装置、计算机装置及存储介质 | |
CN116263770A (zh) | 基于数据库的业务数据存储方法、装置、终端设备及介质 | |
CN113626516A (zh) | 数据增量同步方法和系统 | |
CN111131393B (zh) | 用户活跃度数据统计方法、电子装置及存储介质 | |
TWI738350B (zh) | 資料分析方法、裝置、電腦裝置及存儲介質 | |
CN111611056A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
CN112162951A (zh) | 一种信息检索方法、服务器及存储介质 | |
CN112612817A (zh) | 数据处理方法、装置、终端设备及计算机可读存储介质 | |
CN112667631A (zh) | 业务字段自动编辑方法、装置、设备及存储介质 | |
CN117112846B (zh) | 一种多信息源证照信息管理方法、系统及介质 | |
CN112148782B (zh) | 市场数据接入方法及装置 | |
CN107729013B (zh) | 管理网页上操作按钮的方法和计算机可读存储介质 | |
CN113919696A (zh) | 基于住建大数据的项目全生命周期预警方法及装置 | |
CN115982334A (zh) | 搜索方法、装置、电子设备及存储介质 | |
CN112416924A (zh) | 数据同步查询方法、装置、计算机装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |