CN111061795B - 一种数据处理方法、装置、智能终端及存储介质 - Google Patents
一种数据处理方法、装置、智能终端及存储介质 Download PDFInfo
- Publication number
- CN111061795B CN111061795B CN201911319560.2A CN201911319560A CN111061795B CN 111061795 B CN111061795 B CN 111061795B CN 201911319560 A CN201911319560 A CN 201911319560A CN 111061795 B CN111061795 B CN 111061795B
- Authority
- CN
- China
- Prior art keywords
- data
- processed
- rule
- data object
- preprocessing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 26
- 238000012545 processing Methods 0.000 claims abstract description 148
- 238000007781 pre-processing Methods 0.000 claims abstract description 137
- 238000004806 packaging method and process Methods 0.000 claims abstract description 15
- 238000000034 method Methods 0.000 claims description 49
- 230000008569 process Effects 0.000 claims description 26
- 238000004364 calculation method Methods 0.000 claims description 22
- 238000004519 manufacturing process Methods 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 7
- 238000007405 data analysis Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/252—Integrating or interfacing systems involving database management systems between a Database Management System and a front-end application
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/548—Queue
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本发明实施例提供了一种数据处理方法、装置、智能终端及存储介质。其中，所述数据处理方法包括：从消息队列中获取待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象；将所述待处理数据对象与预设的预处理规则进行匹配；若所述待处理数据对象与所述预处理规则匹配命中，则根据所述预处理规则对所述待处理数据对象进行数据处理。通过本发明能够对集群中的消息队列的数据进行同一预处理，保障了入库数据标准的统一。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种数据处理方法、装置、智能终端及存储介质。
背景技术
在能源生产过程中，通常需要一些辅助装置将采集到的设备运行数据发送到处理设备，以便处理设备进行数据分析。然而现有的用于发送设备运行数据的装置种类多样，功能参差不齐，为企业的设备智慧运维、数据质量管理及数据挖掘分析等业务发展带来很大困扰。
例如有的装置因自身内存或网络流量限制，只能发送几个字节的数据，不能正确描述能源设备的实际运行数据；再例如，同一种装置因为版本不同，上传的数据单位不同，导致入库的数据相差较大；甚至有些旧的能源设备装不上特定的数据采集装置，导致部分运行数据无法采集。
发明内容
本发明实施例提供了一种数据处理方法、装置、智能终端及存储介质，本发明能够对获取到的运行数据进行预处理。该数据处理方法针对不同类型的数据执行不同的处理逻辑，能够处理不同类型辅助装置所采集到的待处理数据。
一方面，本发明实施例提供了一种数据处理方法，所述方法包括：从消息队列中获取待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象；将所述待处理数据对象与预设的预处理规则进行匹配；若所述待处理数据对象与所述预处理规则匹配命中，则根据所述预处理规则对所述待处理数据对象进行数据处理。
在一个实施例中，所述根据所述预处理规则对所述待处理数据对象进行数据处理，具体包括：根据所述预处理规则，将所述待处理数据对象乘以第一预设系数，得到目标处理数据。
在一个实施例中，所述根据所述预处理规则对所述待处理数据对象进行数据处理，具体包括：将所述待处理数据作为原始数据输入，按照预设计算规则计算得到目标处理数据。
在一个实施例中，所述根据所述预处理规则对所述待处理数据对象进行数据处理，具体包括：对所述待处理数据对象进行位运算，得到中间数据；对所述中间数据乘以第二预设系数，得到目标处理数据。
在一个实施例中，所述待处理数据对象中携带有数据类型标识；所述将所述待处理数据对象与预设的预处理规则进行匹配具体包括：根据所述待处理数据对象携带的数据类型标识，判断所述待处理数据是否为所述预设处理规则处理的数据对象类型；若是，则所述待处理数据对象与所述预处理规则匹配命中；若否，则所述待处理数据对象与所述预处理规则未匹配命中。
在一个实施例中，所述方法还包括：根据所述目标处理数据携带的数据类型标识，对所述目标处理数据进行归类，并存储到数据库中。
在一个实施例中，所述方法还包括：接收对预处理逻辑的配置操作，得到预设的所述预处理规则。
另一方面，本申请还提供了一种数据处理装置，所述装置包括：获取模块，用于从消息队列中获取待处理数据；封装模块，用于将所述待处理数据封装成具有数据结构的待处理数据对象；匹配模块，用于将所述待处理数据对象与预设的预处理规则进行匹配；其中，所述预处理规则对应处理具有所述数据结构的数据对象；处理模块，用于若所述待处理数据对象与所述预处理规则匹配命中，则根据所述预处理规则对所述待处理数据对象进行数据处理。
在一个实施例中，所述处理模块具体用于根据所述预处理规则，将所述待处理数据对象乘以第一预设系数，得到目标处理数据。
在一个实施例中，所述处理模块具体用于将所述待处理数据作为原始数据输入，按照预设计算规则计算得到目标处理数据。
在一个实施例中，所述处理模块具体用于对所述待处理数据对象进行位运算，得到中间数据；对所述中间数据乘以第二预设系数，得到目标处理数据。
在一个实施例中，所述待处理数据对象中携带有数据类型标识；
所述匹配模块，具体用于根据所述待处理数据对象携带的数据类型标识，判断所述待处理数据是否为所述预设处理规则处理的数据对象类型；若是，则所述待处理数据对象与所述预处理规则匹配命中；若否，则所述待处理数据对象与所述预处理规则未匹配命中。
在一个实施例中，所述装置还包括存储模块，用于根据所述目标处理数据携带的数据类型标识，对所述目标处理数据进行归类，并存储到数据库中。
所述装置还包括设置模块，用于接收对预处理逻辑的配置操作，得到预设的所述预处理规则。
再一方面，本发明实施例提供了一种智能终端，包括：处理器和存储器，所述存储器存储有可执行程序代码，所述处理器用于调用所述可执行程序代码，执行上述方法。
相应地，本发明实施例还提供了一种存储介质，所述存储介质中存储有指令，当其在计算机上运行时，使得计算机执行上述方法。
通过本发明提供的一种数据处理方法、装置、智能终端及存储介质，可将多地部署的辅助装置采集到的待处理数据进行汇总，针对集群中的消息队列里的数据统一处理，针对上传的数据做统一的预处理，保证了入库数据标准的统一，方便了后续对数据的分析处理。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种数据处理方法的流程示意图；
图2是本发明实施例提供的另一种数据处理方法的流程示意图；
图3是本发明实施例提供的再一种数据处理方法的流程示意图；
图4是本发明实施例提供的又一种数据处理方法的流程示意图；
图5是本发明实施例提供的一种数据处理装置的结构示意图；
图6是本发明实施例提供的一种智能终端的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚地描述，显然，所描述的实施例是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
本发明说明书、权利要求书和附图中出现的术语“第一”、“第二”和“第三”等是用于区别不同的对象，而并非用于描述特定的顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
请参阅图1，图1为本发明实施例提供的一种数据处理方法的流程示意图。该方法可由数据处理装置来实现，适用于能源数据处理，也可以由具有数据处理能力的计算机来实现。本发明实施例中所描述的方法包括：
S101从消息队列中获取待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象；
可选的，在步骤S101之前，还可包括：接收采集装置上传的待处理数据，并将所述待处理数据存放到消息队列中。
具体的，在工业生产过程中，通常需要一些辅助装置来采集生产设备运行是的运行数据，并将这些运行数据发送到服务器或者处理设备，以便对运行数据进行数据分析。本申请中，可将所有辅助装置采集到的待处理数据发送到数据处理装置，数据处理装置接收采集装置上传的待处理数据后，将待处理数据存放到消息队列中。然后数据处理装置将从队列中获取到待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象。
S102将所述待处理数据对象与预设的预处理规则进行匹配；
具体的，待处理数据对象具有相应的数据类型标识，预设的预处理规则可处理与之对应类型的待处理数据对象。例如所述预设处理规则可处理第I类的待处理数据对象，若数据A属于第I类数据，则待处理数据对象与预设的预处理规则匹配命中。
其中，数据处理装置中的数据库中可存储若干个预处理规则，预处理规则可根据用户需要预先进行逻辑配置，使并将预处理规则进行封装成对象，使之能够处理某种数据类型的数据对象。可选的，用户在使用时，可针对某种类型的辅助装置所采集到的数据来配置相应的预处理规则，这样当该辅助装置采集到待处理数据并发送到数据处理装置之后，数据处理装置则可将该待处理数据对象匹配出相应的预设的预处理规则，并根据预处理规则对该待处理数据对象进行预处理。由于数据处理装置中的数据库中存储有若干种类的预处理规则，可处理对应种类的待处理数据，因此，可将所有辅助装置采集到的数据都放入消息队列中，通过数据处理装置集中对消息队列中的待处理数据进行处理。
S103若所述待处理数据对象与所述预处理规则匹配命中，则根据所述预处理规则对所述待处理数据对象进行数据处理。
具体的，若所述待处理数据对象与所述预处理规则匹配命中，则可根据所述预处理规则对所述待处理数据对象进行数据处理。
例如，可根据所述预处理规则，将所述待处理数据对象乘以第一预设系数，得到目标处理数据。对于某个数据对象，根据预处理规则，需要将其乘以相应的第一预设系数，得到目标处理数据。例如辅助设备采集到的待处理数据为电流数据，其采集到的电流数据为50mA，但是在后续数据分析的过程中，都是使用安培为默认单位，因此则需乘以第一预设系数0.001，将采集到的电流数据进行预处理，将采集到的电流数据处理为0.05A。
再例如，将所述待处理数据作为原始数据输入，按照预设计算规则计算得到目标处理数据；对于某些未获取到或者不能获取到的数据，则可以通过数据之间的物理关系，根据已获取到的待处理数据，按照预设计算规则计算得到目标处理数据。例如若要获取某运行设备的功率，通过辅助装置无法获取，则可以获取到装置的电流或者电压数据，再根据电流、电压、电阻以及功率之间的物理关系，按照预设计算规则计算得到该运行设备的功率。
又例如，对所述待处理数据对象进行位运算，得到中间数据；对所述中间数据乘以第二预设系数，得到目标处理数据。如可对数据进行移位运算，向右移四位，然后乘以相应的第二预设系数，得到目标处理数据。
可选的，若所述待处理数据对象与所述预处理规则未匹配命中，则将所述待处理数据与其他的预处理规则进行匹配。
在得到目标处理数据之后，可根据目标处理数据对应的数据类型标识将之归类到对应的主题。例如对于对于第I类数据则可归类到A主题kafka中，然后再将目标处理数据存储到数据库中。而对于其他类型数据，由其他的预处理规则进行预处理之后，也会将之归类到对应的kafka主题中，然后将之存储到数据库中。
通过本实施例提供的数据处理方法，首先从消息队列中获取待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象；然后将所述待处理数据对象与预设的预处理规则进行匹配；若所述待处理数据对象与所述预处理规则匹配命中，则根据所述预处理规则对所述待处理数据对象进行数据处理。可将多地部署的辅助装置采集到的待处理数据进行汇总，由于数据库中存储了处理不同类型的预处理规则，因此本方法可针对集群中的消息队列里的数据进行统一的预处理，保证了入库数据标准的统一，方便了后续对数据的分析处理。
请参阅图2，图2为本发明实施例提供的一种数据处理方法的流程示意图。该方法可由数据处理装置来实现，也可以由具有数据处理能力的计算机来实现。本发明实施例中所描述的方法包括：
S201接收对预处理逻辑的配置更新操作，得到预设的所述预处理规则。
具体的，用户可根据生产需要，对预处理逻辑的配置进行设置或者更改，得到预设的所述预处理规则，将预处理规则进行封装成对象，使之能够处理某种数据类型的数据对象，然后将预处理规则存储至数据库中。
可选的，用户在使用时，可针对某种类型的辅助装置所采集到的数据来配置相应的预处理规则，这样当该辅助装置采集到待处理数据并发送到数据处理装置之后，数据处理装置则可将该待处理数据对象匹配出相应的预设的预处理规则，并根据预处理规则对该待处理数据对象进行预处理。
S202接收到采集装置上传的待处理数据，并将所述待处理数据存放到消息队列中。
具体的，所有采集装置采集到的待处理数据都可存放到消息队列中，所述消息队列可以是kafka消息队列。
S203从消息队列中获取待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象；
具体的，待处理数据对象具有相应的数据类型标识，预设的预处理规则可处理与之对应类型的待处理数据对象。例如所述预设处理规则可处理第I类的待处理数据对象，若待处理数据对象A属于第I类数据，则待处理数据对象A与预设的预处理规则匹配命中，若待处理数据对象B不属于第I类数据，则待处理数据对象B与预设的预处理规则匹配命中。
S204根据所述待处理数据对象携带的数据类型标识，判断所述待处理数据是否为所述预设处理规则处理的数据对象类型；
具体的，由于待处理数据对象携带有数据类型标识，而预设处理规则是针对某种类型的辅助装置所采集到的数据来配置相应的预处理规则，那么这一类辅助装置采集到的待处理数据经过封装得到的待处理数据对象则能够与所述预设处理规则进行匹配，即根据所述待处理数据对象携带的数据类型标识能够判断出该待处理数据对象是由所述数据处理规则所对应的辅助装置采集得到的。
S205若是，则所述待处理数据对象与所述预处理规则匹配命中，根据所述预处理规则，将所述待处理数据对象乘以第一预设系数，得到目标处理数据。
通过本实施例提供的数据处理方法，可将多地部署的辅助装置采集到的待处理数据进行汇总，由于数据库中存储了处理不同类型的预处理规则，因此本方法可针对集群中的消息队列里的数据进行统一的预处理，保证了入库数据标准的统一，方便了后续对数据的分析处理。
请参阅图3，图3为本发明实施例提供的一种数据处理方法的流程示意图。该方法可由数据处理装置来实现，也可以由具有数据处理能力的计算机来实现。本发明实施例中所描述的方法包括：
S301接收对预处理逻辑的配置更新操作，得到预设的所述预处理规则。
具体的，用户可根据生产需要，对预处理逻辑的配置进行设置或者更改，得到预设的所述预处理规则，将预处理规则进行封装成对象，使之能够处理某种数据类型的数据对象，然后将预处理规则存储至数据库中。
可选的，用户在使用时，可针对某种类型的辅助装置所采集到的数据来配置相应的预处理规则，这样当该辅助装置采集到待处理数据并发送到数据处理装置之后，数据处理装置则可将该待处理数据对象匹配出相应的预设的预处理规则，并根据预处理规则对该待处理数据对象进行预处理。
S302接收到采集装置上传的待处理数据，并将所述待处理数据存放到消息队列中。
具体的，所有采集装置采集到的待处理数据都可存放到消息队列中，所述消息队列可以是kafka消息队列。
S303从消息队列中获取待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象；
具体的，待处理数据对象具有相应的数据类型标识，预设的预处理规则可处理与之对应类型的待处理数据对象。例如所述预设处理规则可处理第I类的待处理数据对象，若待处理数据对象A属于第I类数据，则待处理数据对象A与预设的预处理规则匹配命中，若待处理数据对象B不属于第I类数据，则待处理数据对象B与预设的预处理规则匹配命中。
S304根据所述待处理数据对象携带的数据类型标识，判断所述待处理数据是否为所述预设处理规则处理的数据对象类型；
具体的，由于待处理数据对象携带有数据类型标识，而预设处理规则是针对某种类型的辅助装置所采集到的数据来配置相应的预处理规则，那么这一类辅助装置采集到的待处理数据经过封装得到的待处理数据对象则能够与所述预设处理规则进行匹配，即根据所述待处理数据对象携带的数据类型标识能够判断出该待处理数据对象是由所述数据处理规则所对应的辅助装置采集得到的。
S305若是，所述待处理数据对象与所述预处理规则匹配命中，将所述待处理数据作为原始数据输入，按照预设计算规则计算得到目标处理数据；
具体的，对于某些未获取到或者不能获取到的数据，则可以通过数据之间的物理关系，根据已获取到的待处理数据，按照预设计算规则计算得到目标处理数据。例如，将所述待处理数据作为原始数据输入，按照预设计算规则计算得到目标处理数据；对于某些未获取到或者不能获取到的数据，则可以通过数据之间的物理关系，根据已获取到的待处理数据，按照预设计算规则计算得到目标处理数据。例如若要获取某运行设备的功率，通过辅助装置无法获取，则可以获取到装置的电流或者电压数据，再根据电流、电压、电阻以及功率之间的物理关系，按照预设计算规则计算得到该运行设备的功率。
通过本实施例提供的数据处理方法，可将多地部署的辅助装置采集到的待处理数据进行汇总，针对集群中的消息队列里的数据统一处理，针对上传的数据做统一的预处理，保证了入库数据标准的统一，方便了后续对数据的分析处理。
请参阅图4，图4为本发明实施例提供的一种数据处理方法的流程示意图。该方法可由数据处理装置来实现，也可以由具有数据处理能力的计算机来实现。本发明实施例中所描述的方法包括：
S401接收对预处理逻辑的配置更新操作，得到预设的所述预处理规则。
具体的，用户可根据生产需要，对预处理逻辑的配置进行设置或者更改，得到预设的所述预处理规则，将预处理规则进行封装成对象，使之能够处理某种数据类型的数据对象，然后将预处理规则存储至数据库中。
可选的，用户在使用时，可针对某种类型的辅助装置所采集到的数据来配置相应的预处理规则，这样当该辅助装置采集到待处理数据并发送到数据处理装置之后，数据处理装置则可将该待处理数据对象匹配出相应的预设的预处理规则，并根据预处理规则对该待处理数据对象进行预处理。
S402接收到采集装置上传的待处理数据，并将所述待处理数据存放到消息队列中。
具体的，所有采集装置采集到的待处理数据都可存放到消息队列中，所述消息队列可以是kafka消息队列。
S403从消息队列中获取待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象；
具体的，待处理数据对象具有相应的数据类型标识，预设的预处理规则可处理与之对应类型的待处理数据对象。例如所述预设处理规则可处理第I类的待处理数据对象，若数据A属于第I类数据，则待处理数据对象与预设的预处理规则匹配命中。
S404根据所述待处理数据对象携带的数据类型标识，判断所述待处理数据是否为所述预设处理规则处理的数据对象类型；
S405若是，所述待处理数据对象与所述预处理规则匹配命中，对所述待处理数据对象进行位运算，得到中间数据；对所述中间数据乘以第二预设系数，得到目标处理数据；
具体的，可对数据进行移位运算，向右移四位，然后乘以相应的第二预设系数，得到目标处理数据。
通过本实施例提供的数据处理方法，可将多地部署的辅助装置采集到的待处理数据进行汇总，针对集群中的消息队列里的数据统一处理，针对上传的数据做统一的预处理，保证了入库数据标准的统一，方便了后续对数据的分析处理。
本发明还提供了一种数据处理装置的实施例，如图5所示，本发明实施例中所描述的装置包括：
获取模块501，用于从消息队列中获取待处理数据；
可选的，所述装置还包括接收模块，用于接收采集装置上传的待处理数据，存储模块，用于将所述待处理数据存放到消息队列中。
封装模块502，用于将所述待处理数据封装成具有数据结构的待处理数据对象；
具体的，在工业生产过程中，通常需要一些辅助装置来采集生产设备运行是的运行数据，并将这些运行数据发送到服务器或者处理设备，以便对运行数据进行数据分析。本申请中，可将所有辅助装置采集到的待处理数据发送到数据处理装置，数据处理装置接收采集装置上传的待处理数据后，将待处理数据存放到消息队列中。然后数据处理装置将从队列中获取到待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象。
匹配模块503，用于将所述待处理数据对象与预设的预处理规则进行匹配；其中，所述预处理规则对应处理具有所述数据结构的数据对象；
具体的，待处理数据对象具有相应的数据类型标识，预设的预处理规则可处理与之对应类型的待处理数据对象。例如所述预设处理规则可处理第I类的待处理数据对象，若数据A属于第I类数据，则待处理数据对象与预设的预处理规则匹配命中。
其中，数据处理装置中的数据库中可存储若干个预处理规则，预处理规则可根据用户需要预先进行逻辑配置，使并将预处理规则进行封装成对象，使之能够处理某种数据类型的数据对象。可选的，用户在使用时，可针对某种类型的辅助装置所采集到的数据来配置相应的预处理规则，这样当该辅助装置采集到待处理数据并发送到数据处理装置之后，数据处理装置则可将该待处理数据对象匹配出相应的预设的预处理规则，并根据预处理规则对该待处理数据对象进行预处理。由于数据处理装置中的数据库中存储有若干种类的预处理规则，可处理对应种类的待处理数据，因此，可将所有辅助装置采集到的数据都放入消息队列中，通过数据处理装置集中对消息队列中的待处理数据进行处理。
处理模块504，用于若所述待处理数据对象与所述预处理规则匹配命中，则根据所述预处理规则对所述待处理数据对象进行数据处理。
具体的，若所述待处理数据对象与所述预处理规则匹配命中，则可根据所述预处理规则对所述待处理数据对象进行数据处理。
例如，可根据所述预处理规则，将所述待处理数据对象乘以第一预设系数，得到目标处理数据。对于某个数据对象，根据预处理规则，需要将其乘以相应的第一预设系数，得到目标处理数据。例如辅助设备采集到的待处理数据为电流数据，其采集到的电流数据为50mA，但是在后续数据分析的过程中，都是使用安培为默认单位，因此则需乘以第一预设系数0.001，将采集到的电流数据进行预处理，将采集到的电流数据处理为0.05A。
再例如，将所述待处理数据作为原始数据输入，按照预设计算规则计算得到目标处理数据；对于某些未获取到或者不能获取到的数据，则可以通过数据之间的物理关系，根据已获取到的待处理数据，按照预设计算规则计算得到目标处理数据。例如若要获取某运行设备的功率，通过辅助装置无法获取，则可以获取到装置的电流或者电压数据，再根据电流、电压、电阻以及功率之间的物理关系，按照预设计算规则计算得到该运行设备的功率。
又例如，对所述待处理数据对象进行位运算，得到中间数据；对所述中间数据乘以第二预设系数，得到目标处理数据。如可对数据进行移位运算，向右移四位，然后乘以相应的第二预设系数，得到目标处理数据。
可选的，若所述待处理数据对象与所述预处理规则未匹配命中，则将所述待处理数据与其他的预处理规则进行匹配。
在得到目标处理数据之后，可根据目标处理数据对应的数据类型标识将之归类到对应的主题。例如对于对于第I类数据则可归类到A主题kafka中，然后再将目标处理数据存储到数据库中。而对于其他类型数据，由其他的预处理规则进行预处理之后，也会将之归类到对应的kafka主题中，然后将之存储到数据库中。
通过本实施例提供的数据处理装置，可将多地部署的辅助装置采集到的待处理数据进行汇总，由于数据库中存储了处理不同类型的预处理规则，因此本方法可针对集群中的消息队列里的数据进行统一的预处理，保证了入库数据标准的统一，方便了后续对数据的分析处理。
请参阅图6，图6为本发明实施例提供的一种智能终端的结构示意图。本发明实施例中所描述的智能终端包括：处理器601、用户接口602、通信接口603及存储器604。其中，处理器601、用户接口602、通信接口603及存储器604可通过总线或其他方式连接，本发明实施例以通过总线连接为例。
其中，处理器601(或称CPU(Central Processing Unit，中央处理器))是终端的计算核心以及控制核心，其可以解析终端内的各类指令以及处理终端的各类数据，例如：CPU可以用于解析用户向终端所发送的开关机指令，并控制终端进行开关机操作；再如：CPU可以在终端内部结构之间传输各类交互数据，等等。用户接口602是实现用户与终端进行交互和信息交换的媒介，其具体体现可以包括用于输出的显示屏(Display)以及用于输入的键盘(Keyboard)等等，需要说明的是，此处的键盘既可以为实体键盘，也可以为触屏虚拟键盘，还可以为实体与触屏虚拟相结合的键盘。通信接口603可选的可以包括标准的有线接口、无线接口(如Wi-Fi、移动通信接口等)，受处理器601的控制用于收发数据。存储器604(Memory)是终端中的记忆设备，用于存放程序和数据。可以理解的是，此处的存储器604既可以包括终端的内置存储器，当然也可以包括终端所支持的扩展存储器。存储器604提供存储空间，该存储空间存储了终端的操作系统，可包括但不限于：Android系统、iOS系统、Windows Phone系统等等，本发明对此并不作限定。
具体实现中，本发明实施例中所描述的处理器601、用户接口602、通信接口603及存储器604可执行本发明实施例提供的一种数据处理方法中所描述的智能终端的实现方式，也可执行本发明实施例提供的一种数据处理装置中所描述的实现方式，在此不再赘述。
本发明实施例还提供了一种存储介质，存储介质中存储有指令，当其在计算机上运行时，使得计算机执行如本发明实施例所述的一种数据处理方法。
本发明实施例还提供一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行如本发明实施例所述的一种数据处理方法。
需要说明的是，对于前述的各个方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，因为依据本发明，某一些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本发明所必须的。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：闪存盘、只读存储器(Read-Only Memory，ROM)、随机存取器(Random AccessMemory，RAM)、磁盘或光盘等。
以上所揭露的仅为本发明部分实施例而已，当然不能以此来限定本发明之权利范围，因此依本发明权利要求所作的等同变化，仍属本发明所涵盖的范围。
Claims (5)
1.一种数据处理方法，其特征在于，所述方法包括：
从消息队列中获取待处理数据，将所述待处理数据封装成具有数据结构的待处理数据对象；
接收用户对预处理逻辑的配置进行设置或更改的配置操作，得到预设的预处理规则，将预处理规则进行封装成对象，使之能够处理某种数据类型的数据对象；
将所述待处理数据对象与预设的预处理规则进行匹配；
若所述待处理数据对象与所述预处理规则匹配命中，则根据所述预处理规则，将所述待处理数据对象乘以第一预设系数，得到目标处理数据；或者，将所述待处理数据作为原始数据输入，按照预设计算规则计算得到目标处理数据；或者，对所述待处理数据对象进行位运算，得到中间数据；对所述中间数据乘以第二预设系数，得到目标处理数据；
根据所述目标处理数据携带的数据类型标识，对所述目标处理数据进行归类，并存储到数据库中；
其中，所述待处理数据对象携带有数据类型标识，所述预处理规则是针对辅助装置所采集到的数据来配置相应的预处理规则，根据所述数据类型标识能够判断出所述待处理数据对象是由所述预处理规则所对应的辅助装置采集得到的。
2.根据权利要求1所述的方法，其特征在于，所述待处理数据对象中携带有数据类型标识；
所述将所述待处理数据对象与预设的预处理规则进行匹配具体包括：
根据所述待处理数据对象携带的数据类型标识，判断所述待处理数据对象是否为预设处理规则处理的数据对象类型；
若是，则所述待处理数据对象与所述预处理规则匹配命中；若否，则所述待处理数据对象与所述预处理规则未匹配命中。
3.一种数据处理装置，其特征在于，所述装置包括：
获取模块，用于从消息队列中获取待处理数据；
封装模块，用于将所述待处理数据封装成具有数据结构的待处理数据对象；
接收模块，用于接收用户对预处理逻辑的配置进行设置或更改的配置操作，得到预设的预处理规则，将预处理规则进行封装成对象，使之能够处理某种数据类型的数据对象；
匹配模块，用于将所述待处理数据对象与预设的预处理规则进行匹配；其中，所述预处理规则对应处理具有所述数据结构的数据对象；
处理模块，用于若所述待处理数据对象与所述预处理规则匹配命中，则根据所述预处理规则，将所述待处理数据对象乘以第一预设系数，得到目标处理数据；或者，将所述待处理数据作为原始数据输入，按照预设计算规则计算得到目标处理数据；或者，对所述待处理数据对象进行位运算，得到中间数据；对所述中间数据乘以第二预设系数，得到目标处理数据；
根据所述目标处理数据携带的数据类型标识，对所述目标处理数据进行归类，并存储到数据库中；
其中，所述待处理数据对象携带有数据类型标识，所述预处理规则是针对辅助装置所采集到的数据来配置相应的预处理规则，根据所述数据类型标识能够判断出所述待处理数据对象是由所述预处理规则所对应的辅助装置采集得到的。
4.一种智能终端，其特征在于，包括：处理器和存储器，所述存储器存储有可执行程序代码，所述处理器用于调用所述可执行程序代码，执行如权利要求1至2中任一项所述的数据处理方法。
5.一种存储介质，其特征在于，所述存储介质中存储有指令，当其在计算机上运行时，使得计算机执行如权利要求1至2中任一项所述的数据处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911319560.2A CN111061795B (zh) | 2019-12-19 | 2019-12-19 | 一种数据处理方法、装置、智能终端及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911319560.2A CN111061795B (zh) | 2019-12-19 | 2019-12-19 | 一种数据处理方法、装置、智能终端及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111061795A CN111061795A (zh) | 2020-04-24 |
| CN111061795B true CN111061795B (zh) | 2024-03-08 |
Family
ID=70302490
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911319560.2A Active CN111061795B (zh) | 2019-12-19 | 2019-12-19 | 一种数据处理方法、装置、智能终端及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111061795B (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2016197852A1 (zh) * | 2015-06-09 | 2016-12-15 | 阿里巴巴集团控股有限公司 | 一种数据处理方法和设备 |
| CN107862068A (zh) * | 2017-11-17 | 2018-03-30 | 深圳广联赛讯有限公司 | 数据处理方法、装置及计算机可读存储介质 |
| CN108446362A (zh) * | 2018-03-13 | 2018-08-24 | 平安普惠企业管理有限公司 | 数据清洗处理方法、装置、计算机设备和存储介质 |
| WO2019010686A1 (zh) * | 2017-07-14 | 2019-01-17 | 深圳市元征科技股份有限公司 | 一种数据处理方法及数据处理设备 |
| CN110472102A (zh) * | 2019-08-22 | 2019-11-19 | 北京锐安科技有限公司 | 一种数据处理方法、装置、设备和存储介质 |
| CN110502546A (zh) * | 2019-08-22 | 2019-11-26 | 郑州阿帕斯科技有限公司 | 一种数据处理方法及装置 |
| CN110572435A (zh) * | 2019-08-05 | 2019-12-13 | 慧镕电子系统工程股份有限公司 | 一种云计算系统的数据处理方法 |
-
2019
- 2019-12-19 CN CN201911319560.2A patent/CN111061795B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2016197852A1 (zh) * | 2015-06-09 | 2016-12-15 | 阿里巴巴集团控股有限公司 | 一种数据处理方法和设备 |
| WO2019010686A1 (zh) * | 2017-07-14 | 2019-01-17 | 深圳市元征科技股份有限公司 | 一种数据处理方法及数据处理设备 |
| CN107862068A (zh) * | 2017-11-17 | 2018-03-30 | 深圳广联赛讯有限公司 | 数据处理方法、装置及计算机可读存储介质 |
| CN108446362A (zh) * | 2018-03-13 | 2018-08-24 | 平安普惠企业管理有限公司 | 数据清洗处理方法、装置、计算机设备和存储介质 |
| CN110572435A (zh) * | 2019-08-05 | 2019-12-13 | 慧镕电子系统工程股份有限公司 | 一种云计算系统的数据处理方法 |
| CN110472102A (zh) * | 2019-08-22 | 2019-11-19 | 北京锐安科技有限公司 | 一种数据处理方法、装置、设备和存储介质 |
| CN110502546A (zh) * | 2019-08-22 | 2019-11-26 | 郑州阿帕斯科技有限公司 | 一种数据处理方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111061795A (zh) | 2020-04-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107102941B (zh) | 一种测试用例的生成方法及装置 | |
| CN107957940B (zh) | 一种测试日志处理方法、系统及终端 | |
| CN101206569A (zh) | 用于动态识别促使服务劣化的组件的方法和系统 | |
| CN107797923A (zh) | 代码覆盖率分析方法及应用服务器 | |
| JP5893513B2 (ja) | 監視装置、監視方法及び監視プログラム | |
| EP2933726B1 (en) | Apparatus, system and method for application log data processing | |
| CN110347694B (zh) | 一种基于物联网的设备监控方法、装置及系统 | |
| CN106991095B (zh) | 机器异常的处理方法、学习速率的调整方法及装置 | |
| CN111683066A (zh) | 异构系统集成方法、装置、计算机设备和存储介质 | |
| CN111061678A (zh) | 业务数据处理方法、装置、计算机设备和存储介质 | |
| CN112817814A (zh) | 异常监控方法、系统、存储介质及电子装置 | |
| CN110932918A (zh) | 日志数据采集方法、装置及存储介质 | |
| CN115170344A (zh) | 调控系统运行事件智能处理方法及装置、介质及设备 | |
| CN113672475B (zh) | 告警处理方法、装置、计算机设备和存储介质 | |
| CN111147306A (zh) | 一种物联网设备的故障分析方法、装置以及物联网平台 | |
| CN111061795B (zh) | 一种数据处理方法、装置、智能终端及存储介质 | |
| CN110807104B (zh) | 异常信息的确定方法及装置、存储介质、电子装置 | |
| CN112685115A (zh) | 国际提示语生成方法、系统、计算机设备及存储介质 | |
| CN111315026B (zh) | 信道的选择方法、装置、网关及计算机可读存储介质 | |
| CN116074215B (zh) | 网络质量检测方法、装置、设备及存储介质 | |
| CN110336889B (zh) | 一种数值天气预报模式运行智能监控平台和监控方法 | |
| CN111949246A (zh) | 新能源电力行业应用的创建方法及装置 | |
| CN111427698A (zh) | 基于Azakban的数据同步方法、装置和计算机设备 | |
| CN113485886B (zh) | 告警日志的处理方法和装置、存储介质及电子装置 | |
| TWI785723B (zh) | 工業互聯網的資料管理方法、電子裝置及存儲介質 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |