CN115883603B - 数据代理装置、方法、电子设备、系统及存储介质 - Google Patents
数据代理装置、方法、电子设备、系统及存储介质 Download PDFInfo
- Publication number
- CN115883603B CN115883603B CN202211490099.9A CN202211490099A CN115883603B CN 115883603 B CN115883603 B CN 115883603B CN 202211490099 A CN202211490099 A CN 202211490099A CN 115883603 B CN115883603 B CN 115883603B
- Authority
- CN
- China
- Prior art keywords
- message
- internet
- things
- data
- cache
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Computer And Data Communications (AREA)
Abstract
本申请提供一种数据代理装置、方法、电子设备、系统及存储介质。其中装置包括:报文接收单元,用于接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作;报文识别单元,用于根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文;报文解析单元,用于根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据,其中,不同类型的终端设备配置有不同的报文解析模板;数据融合单元,用于将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合;数据上报单元,用于将融合后的数据发送至物联网平台进行处理,可以减轻物联网平台处理数据的压力,提升处理效率。
Description
技术领域
本申请涉及物联网通信领域,尤其涉及一种数据代理装置、方法、电子设备、系统及存储介质。
背景技术
随着物联网技术的不断发展,终端设备的数量、接口的种类、采集数据的类型都在不断地增加。
一些技术中,多个终端设备采集的数据可以统一发送数据代理装置,由数据代理装置转发给物联网平台进行集中式的处理,网络开销较大,物联网平台同时处理大量的数据不仅效率低下,还会给物联网平台带来巨大的压力,同时也容易发生数据丢失的现象。
发明内容
本申请实施例的主要目的在于提供一种数据代理装置、方法、电子设备、系统及存储介质,以减少网络开销,提升数据处理的效率。
第一方面,本申请实施例提供一种数据代理装置,所述装置包括:
报文接收单元,用于接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作;
报文识别单元,用于根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文;
报文解析单元,用于根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据,其中,不同类型的终端设备配置有不同的报文解析模板;
数据融合单元,用于将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合;
数据上报单元,用于将融合后的数据发送至物联网平台进行处理。
可选的,所述报文接收单元,具体用于:
接收各终端设备发送的物联网报文;
将当前接收到的物联网报文添加至第一缓存中;
计算所述第一缓存中的当前物联网报文对应的哈希值,并与预设时间内添加到第二缓存中的至少一个物联网报文对应的哈希值进行比对;其中,所述第二缓存用于存储去重后的物联网报文;
若当前物联网报文对应的哈希值与所述至少一个物联网报文对应的哈希值均不相同,则将所述当前物联网报文添加到第二缓存中,并从第一缓存中删除;
若当前物联网报文对应的哈希值与所述至少一个物联网报文中的任一物联网报文对应的哈希值相同,则确定所述当前物联网报文为重复性报文;
对第一缓存中的重复性报文进行整合,并将整合后的报文发送至服务端,以使服务端根据整合后的报文确定对应的终端设备是否存在故障。
可选的,不同类型的终端设备对应的预设时间不同;所述装置还包括用户配置单元,用于:
获取用户输入的去重间隔配置信息以及对应的终端设备的类型,所述去重间隔配置信息用于配置所述预设时间;
根据所述去重间隔配置信息,为相应类型的终端设备配置对应的预设时间。
可选的,报文识别单元具体用于:
读取去重后的物联网报文,
判断所述物联网报文是否满足预设的验证规则和业务规则;
获取用户针对所述物联网报文对应的终端设备配置的业务规则,其中,所述业务规则用于指示报文的特定字段对应的业务数据;
判断所述物联网报文是否满足所述业务规则;
若所述物联网报文满足验证规则和业务规则,则确定所述物联网报文为非噪音报文;
若所述物联网报文不满足验证规则或业务规则,则确定所述物联网报文为噪音报文,将确定的噪音报文发送给服务端,以使服务端根据噪音报文确定对应的终端设备是否存在故障。
可选的,所述报文解析单元具体用于:
确定用户针对所述非噪音报文对应的终端设备动态配置的报文解析模板;其中,所述报文解析模板包括:大小端,字段位信息,字段长度信息;
根据所述报文解析模板,对所述非噪音报文进行解析,得到解析后的数据。
可选的,所述物联网平台用于根据融合后的数据进行机器学习模型的训练;所述数据融合单元,具体用于:
根据所述机器学习模型所需的训练数据,确定融合后的数据的类型;
根据所述数据的类型,对不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行相应的运算处理,得到融合后的数据;
若解析后的数据或融合后的数据超出对应的阈值范围,则输出报警信息。
第二方面,本申请实施例提供一种数据代理方法,包括:
接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作;
根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文;
根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据,其中,不同类型的终端设备配置有不同的报文解析模板;
将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合;
将融合后的数据发送至物联网平台进行处理。
第三方面,本申请实施例提供一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述电子设备执行权利要求7所述的方法。
第四方面,本申请实施例提供一种数据融合系统,包括:物联网平台、数据代理装置和多个终端设备;
所述终端设备,用于采集物联网数据,并对所述物联网数据进行封装,得到物联网报文发送给数据代理装置;
所述数据代理装置,部署在所述终端设备与物联网平台之间,用于执行权利要求7所述的方法;
所述物联网平台,用于对所述数据代理装置得到的融合后的数据进行处理。
第五方面,本申请实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如权利要求7所述的方法。
本申请提供的数据代理装置、方法、电子设备、系统及存储介质,包括:报文接收单元,用于接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作;报文识别单元,用于根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文;报文解析单元,用于根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据,其中,不同类型的终端设备配置有不同的报文解析模板;数据融合单元,用于将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合;数据上报单元,用于将融合后的数据发送至物联网平台进行处理,从而可以将有效数据从海量的、杂乱的、有各种类型错误的物联网报文中抽取出来,并将这些有效数据进行数据融合得到综合分析后的结果,最终物联网平台只需要处理这个综合分析后的结果即可,减少了数据代理装置和物联网平台之间传输的数据量,节约了网络带宽,减少物联网平台同时集中处理数据信息发生的数据丢失的现象,大大减轻了物联网平台处理数据的压力,提升了物联网平台的业务处理速度。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1为本申请实施例提供的一种系统架构图;
图2为本申请实施例提供的一种应用场景示意图;
图3为本申请实施例提供的一种数据代理装置的结构示意图;
图4为本申请实施例提供的一种数据代理方法的示意图;
图5为本申请实施例提供的一种电子设备的结构示意图。
通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。本申请的技术方案中,所涉及的用户数据等信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
在物联网报文数据传输过程中,各终端设备采集上来的原始数据往往是海量的、杂乱的、难以理解的。在一些技术中,直接将各个终端设备采集上来的物联网报文数据进行解析,但是收集上来的报文数据有很多是重复的、错误的,将这些报文数据进行解析后得到的有效数据就是重复的或者错误的,甚至无法解析出有效数据,而且解析之后的数据量也是非常庞大的,直接发送给物联网平台进行处理的话,物联网平台的处理数据压力会非常大,而且也会拖慢物联网平台的业务响应速度。
有鉴于此,本申请实施例提供一种装置,可以将各个终端设备采集上来的物联网报文数据进行处理,实现去重、降噪、解析、融合等功能,提高了业务相应速度、减少了后续平台的处理压力,节约了网络带宽,帮助使用者实现海量报文数据的筛选、识别、解析和综合分析过程,增加了高价值报文数据正确传输的数量,使数据的有效性得以提高。
图1为本申请实施例提供的一种系统架构图。如图1所示,系统中有N个中终端设备,分别为终端设备1、终端设备2、终端设备3……终端设备N,N个终端设备采集上来的报文数据都发送给数据代理装置,在数据代理装置中可以对报文数据进行去重、降噪、解析和融合,之后数据代理装置将融合后的数据发送给物联网平台进行处理,将重复性报文与噪音报文发送给服务端以确定对应的终端设备是否存在故障。
图2为本申请实施例提供的一种应用场景图。如图2所示,在报文接收单元接收各终端发送的物联网报文,并去除重复的报文,在报文识别单元识别报文的类型并根据预设的验证规则和业务规则找出噪音报文并删除,在报文解析单元根据报文解析模板将物联网报文中的有效数据解析出来,在数据融合单元对解析后的、来自不同报文的数据进行融合运算,得出综合分析后的结论,之后在数据上报单元,将融合完成的数据依据MQTT协议(Message Queu ing Te lemetry Transport,消息队列遥测传输协议)的配置信息,携带accessToken(访问令牌)发送至物联网平台进行应用处理,之后将物联网平台处理后的信息依据HTTP协议(Hyper Text Transfer Protoco l,超文本传输协议)配置后反馈给用户终端或者直接存储到时序数据库中。
本申请实施例中,不仅可以识别终端发送上来的重复报文,还可以识别出其他各种类型的错误,将重复的、错误的报文数据去除之后再将正确的报文数据进行解析,这样可以得到真实有效的数据,之后将解析出来的数据进行数据融合,得到综合分析后的结果,再将最终结果上传至物联网平台进行处理,避免物联网平台因处理大量数据造成的数据丢失、负荷过重、响应速度变慢的问题,同时节省网络带宽,提升用户体验。
下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
图3为本申请实施例提供的一种数据代理装置的示意图。如3所示,本申请实施例提供的数据代理装置,可以包括:
报文接收单元301,用于接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作。
其中,终端设备可以为物联网终端,尤其可以为油气领域的终端设备,例如流量采集器、温度传感器等,报文接收单元接收多个终端设备发送的物联网报文,然后将其中重复的物联网报文去掉。
可选的,所述报文接收单元301,具体用于:
接收各终端设备发送的物联网报文;
将当前接收到的物联网报文添加至第一缓存中;
计算所述第一缓存中的当前物联网报文对应的哈希值,并与预设时间内添加到第二缓存中的至少一个物联网报文对应的哈希值进行比对;其中,所述第二缓存用于存储去重后的物联网报文;
若当前物联网报文对应的哈希值与所述至少一个物联网报文对应的哈希值均不相同,则将所述当前物联网报文添加到第二缓存中,并从第一缓存中删除;
若当前物联网报文对应的哈希值与所述至少一个物联网报文中的任一物联网报文对应的哈希值相同,则确定所述当前物联网报文为重复性报文;
对第一缓存中的重复性报文进行整合,并将整合后的报文发送至服务端,以使服务端根据整合后的报文确定对应的终端设备是否存在故障。
具体的,先将接收到的当前物联网报文添加到第一缓存中,然后计算处于第一缓存中的当前物联网报文的哈希值,与第二缓存中的待比较报文的哈希值进行比较,其中,待比较报文为在当前时刻之前的预设时间内添加到第二缓存中的至少一个物联网报文。
若在过去预设时间内,第二缓存中没有被添加报文,则无需比较,直接把此时处于第一缓存中的当前物联网报文放到第二缓存中;若在过去预设时间内,被添加到第二缓存中的报文个数大于或者等于1,则计算这些报文中每一报文对应的哈希值。若处于第一缓存中的当前物联网报文的哈希值与处于第二缓存中的任何一个物联网报文的哈希值均不相等,则将处于第一缓存中的物联网报文放入第二缓存中,并从第一缓存中删除;若处于第一缓存中的物联网报文的哈希值与处于第二缓存中的任何一个物联网报文的哈希值相等,则确定处于第一缓存中的物联网报文为重复性报文。
可选的,可以将某一时间段内的重复性报文进行整合并打包,之后一起发送给服务端,其中,整合可以包括:将重复性报文按照终端设备的标识进行分类,从而可以把同一终端设备对应的重复性报文进行打包。如果某个终端在整个物联网中处于特别重要的地位,对其安全性要求很高的情况下,也可以将发现的每一个重复性报文都直接发送给服务端。服务端根据整合后的报文确定对应的终端设备是否存在故障,可以包括:若一定时间内,同一终端设备发送了超过预设数量的重复性报文,则认为所述终端设备存在故障。
这样,通过比较处于第一缓存与处于第二缓存中报文的哈希值是否相同,就能确定出处于第一缓存中的报文是不是重复报文,并将重复的报文去掉,减少平台因处理重复的物联网报文而造成资源的浪费,减少了平台的处理压力,节约了网络带宽。还能将筛选出的重复报文发送给服务端,以便服务端根据重复报文监测此终端设备是否存在故障。
可选的,不同类型的终端设备对应的预设时间不同;所述装置还包括用户配置单元,用于:
获取用户输入的去重间隔配置信息以及对应的终端设备的类型,所述去重间隔配置信息用于配置所述预设时间;
根据所述去重间隔配置信息,为相应类型的终端设备配置对应的预设时间。
其中,所述类型可以包括:温度采集装置、流量采集装置等等。
具体的,用户可以根据终端设备的类型配置不同的预设时间,比方说终端1采集数据的间隔时间很短,那么为终端1配置的预设时间也可以相应的短一些。如果终端2采集数据的间隔时间很长,那么为终端2配置的预设时间可以相应的长一些,否则可能会影响去重功能。
在实际应用中,不同类型的终端设备对应的预设时间可以由用户灵活配置。在配置好后,用户也可以灵活地调整各个终端设备对应的预设时间,满足不同场景下的使用需求,提高去重的效果。
报文识别单元302,用于根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文。
其中,验证规则是为校验报文是否存在问题而设置出来的规则,噪音报文即为存在问题的报文。
可选的,报文识别单元302具体用于:
读取去重后的物联网报文,判断所述物联网报文是否满足预设的验证规则和业务规则;
获取用户针对所述物联网报文对应的终端设备配置的业务规则,其中,所述业务规则用于指示报文的特定字段对应的业务数据;
判断所述物联网报文是否满足所述业务规则;
若所述物联网报文满足验证规则和业务规则,则确定所述物联网报文为非噪音报文;
若所述物联网报文不满足验证规则或业务规则,则确定所述物联网报文为噪音报文,将确定的噪音报文发送给服务端,以使服务端根据噪音报文确定对应的终端设备是否存在故障。
具体的,在报文接收单元将重复的物联网报文去掉之后,报文识别单元先对物联网报文进行读取,读取的方式有两种,分别是ASCI I(美国信息交换标准代码)和hex(十六进制),具体用哪种方式读取,取决于服务端对终端设备的配置。
读取完成后,如果是遵从标准协议的报文,读取报文头即可识别报文的类型,之后可以根据类型判断物联网报文是否满足预设的验证规则,所述验证规则可以包括:CRC(循环冗余校验码)校验、长度校验等。不同的类型可以对应不同的验证规则。
其中,CRC校验是发送设备对报文数据进行多项式计算,并将得到的结果附在后面,接收设备也执行相同的算法,如果算出的结果与附在后面的结果相同,说明数据传输无误,否则,说明数据传输错误。
此外,标准协议通常会规定报文长度不大于某一确定的值,若接收到的物联网报文超过这一确定值,则说明数据传输有误,这就是长度校验。
可选的,业务规则可以是用户根据实际业务需求设置的规则,具体可以为功能码校验,例如,用户可以设定物联网报文的第5位和第6位是功能码的位置,并且规定了功能码位置的数据分别是01、02、03、04时所代表的意义,若接收到的物联网报文中功能码位置的数据并非用户设置的数据,而是其它数据,例如是07,则说明数据传输有误。
可选的,用户还可以根据终端设备的类型和特点设定报文数据的格式、报文识别方法以及校验的规则,比如某一终端设备发出的物联网报文的起始位可以都是FEFE,或者以某一特殊字符开头或者结尾。
可选的,不同的终端设备对应的业务规则可以不同;用户配置单元,还用于:获取用户输入的业务规则。所述业务规则可以是动态调整的。
若所述物联网报文满足预设的所有验证规则和业务规则,则说明所述物联网报文为非噪音报文;
若所述物联网报文不满足预设的验证规则或业务规则之一,则说明所述物联网报文为噪音报文,则需要将此噪音报文发送给服务端,并在当前单元中丢弃。
这样,用户可以在原来标准协议的基础上,作为补充针对某一终端设备的特点为其定制专属的报文数据的格式和校验规则,使校验的类型更加多样,操作更加简洁,进一步提升校验的效率和准确度,提升用户体验。
综上可知,报文接收单元可以对报文进行简单的去重操作,报文识别单元可以根据预设的验证规则校验出与之对应的不同类型的噪音报文,减少平台因处理错误物联网报文而造成资源的浪费,进一步提升了平台的工作效率,节约了网络带宽。
报文解析单元303,用于根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据,其中,不同类型的终端设备配置有不同的报文解析模板。
其中报文解析模板可以将遵从某一传输协议的物联网报文中的实际传送的数据解析出来。
可选的,所述报文解析单元303具体用于:
确定用户针对所述非噪音报文对应的终端设备动态配置的报文解析模板;其中,所述报文解析模板可以包括:大小端,字段位信息,字段长度信息;
根据所述报文解析模板,对所述非噪音报文进行解析,得到解析后的数据。
具体的,报文解析模板可以包括大小端、字段位信息、字段长度信息,其中大小端用于指示非单字节的存取规则,大端存储是将数据的高位存储在低地址处,小端存储是将数据的低位存储在低地址处;报文中包含不同的字段,每个字段用于实现不同的功能,可以提前指定每个字段所占的位数,这就是字段的位信息;字段的长度信息是指规定字段的长度是某一确定的值,或者长度不能大于或小于某一确定的值。根据报文解析模板就可以对非噪音报文进行解析,得到报文传输的实际数据。
数据融合单元304,用于将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合。
其中数据融合是将报文解析单元中解析出来的实际数据,在一定规则下加以分析、运算,以便辅助物联网平台对环境、态势进行判定和诊断。
一示例中,可以将不同终端设备对应的解析后的数据进行数据融合,例如,某一区域的油气开采现场可以设置有多个流量计,每个流量计上报的报文可以包括油气流量信息,数据融合单元304可以根据报文中记录的流量信息,将该地区的各个流量计采集的流量信息进行求和,并将求和结果封装起来发送给物联网平台,就可以使物联网平台直接得到该地区的总的流量信息。
另一示例中,可以将同一终端设备在不同时段对应的解析后的数据进行融合,例如,某个油气开采现场有多个温度采集装置,每一时段上报的报文可以包括该时段的温度信息,可以按照一定的周期,根据该周期内解析到的各个时段的报文数据,计算各个时段的温度信息的平均值,或者将各个时段的温度信息封装到一起,上报给物联网平台。
又一示例中,可以将不同终端设备对应的解析后的数据和同一终端设备在不同时段对应的解析后的数据进行融合。例如,可以对多个终端设备在多个时段上报的报文分别进行解析,并将解析到的数据封装到一起上报给物联网平台,或者,经过一定的运算后上报给物联网平台。
可选的,若解析后的数据或融合后的数据超出对应的阈值范围,则可以输出报警信息。例如,可以针对实际业务场景,设置报文中的数据对应的阈值范围,若数据超出对应的阈值范围,则可以向用户终端或服务端输出对应的报警信息。
可选的,所述物联网平台用于根据融合后的数据进行机器学习模型的训练;所述数据融合单元304,具体用于:
根据所述机器学习模型所需的训练数据,确定融合后的数据的类型;
根据所述数据的类型,对不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行相应的运算处理,得到融合后的数据。
示例性地,在某些应用场景下,物联网平台可以用于分析温度变化对天然气使用情况的影响,所述机器学习模型所需的训练数据,可以包括:各个区域的温度信息,各个区域的天然气使用量等,从而物联网平台可以根据训练数据训练机器学习模型,使得机器学习模型能够根据温度信息来预测天然气使用量。在数据代理装置中,可以从某一区域的多个温度采集装置和天然气使用量采集装置分别获取报文,解析得到温度信息和天然气使用量,将温度信息求平均,将天然气使用量相加,得到融合后的数据,发送给物联网平台,使得物联网平台可以根据接收到的数据进行模型训练。
数据上报单元305,用于将融合后的数据发送至物联网平台进行处理。
将融合完成的数据依据MQTT协议的配置信息,携带accessToken发送至物联网平台进行应用处理。
MQTT协议的传输消耗和协议数据交换量都很小,可以很大程度上减少网络流量。
综上,本实施例提供的数据代理装置中,报文接收单元可以接收多个终端设备发送的物联网报文,并对接收到的物联网报文进行去重操作。报文识别单元可以根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文。报文解析单元可以根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据。数据融合单元,可以将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合。数据上报单元,可以将融合后的数据发送至物联网平台进行处理。可以将有效数据从海量的、杂乱的、有各种类型错误的物联网报文中抽取出来,并将这些有效数据进行数据融合得到综合分析后的结果,最终物联网平台只需要处理这个综合分析后的结果即可,减少了数据代理装置和物联网平台之间传输的数据量,节约了网络带宽,减少物联网平台同时集中处理数据信息发生的数据丢失的现象,大大减轻了物联网平台处理数据的压力,提升了物联网平台的业务处理速度。
对应上述数据代理装置,本申请实施例还提供一种数据代理方法。图4为本申请实施例提供的一种数据代理方法的示意图。如图4所示,所述方法包括:
步骤401、接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作。
可选的,步骤401可以包括:接收各终端设备发送的物联网报文;将当前接收到的物联网报文添加至第一缓存中;计算所述第一缓存中的当前物联网报文对应的哈希值,并与预设时间内添加到第二缓存中的至少一个物联网报文对应的哈希值进行比对;其中,所述第二缓存用于存储去重后的物联网报文;若当前物联网报文对应的哈希值与所述至少一个物联网报文对应的哈希值均不相同,则将所述当前物联网报文添加到第二缓存中,并从第一缓存中删除。
可选的,不同类型的终端设备对应的预设时间不同;所述方法还包括:获取用户输入的去重间隔配置信息以及对应的终端设备的类型,所述去重间隔配置信息用于配置所述预设时间;根据所述去重间隔配置信息,为相应类型的终端设备配置对应的预设时间。
可选的,所述方法还可以包括:若当前物联网报文对应的哈希值与所述至少一个物联网报文中的任一物联网报文对应的哈希值相同,则确定所述当前物联网报文为重复性报文;对第一缓存中的重复性报文进行整合,并将整合后的报文发送至服务端,以使服务端根据整合后的报文确定对应的终端设备是否存在故障。
步骤402、根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文。
可选的,步骤402可以包括:读取去重后的物联网报文,判断所述物联网报文是否满足预设的验证规则和业务规则;获取用户针对所述物联网报文对应的终端设备配置的业务规则,其中,所述业务规则用于指示报文的特定字段对应的业务数据;判断所述物联网报文是否满足所述业务规则;若所述物联网报文满足验证规则和业务规则,则确定所述物联网报文为非噪音报文;若所述物联网报文不满足验证规则或业务规则,则确定所述物联网报文为噪音报文。
步骤403、根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据,其中,不同类型的终端设备配置有不同的报文解析模板。
可选的,步骤403可以包括:确定用户针对所述非噪音报文对应的终端设备动态配置的报文解析模板;其中,所述报文解析模板包括:大小端,字段位信息,字段长度信息;根据所述报文解析模板,对所述非噪音报文进行解析,得到解析后的数据。
步骤404、将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合。
可选的,所述物联网平台用于根据融合后的数据进行机器学习模型的训练;步骤404可以包括:根据所述机器学习模型所需的训练数据,确定融合后的数据的类型;根据所述数据的类型,对不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行相应的运算处理,得到融合后的数据。
可选的,所述方法还包括:若解析后的数据或融合后的数据超出对应的阈值范围,则输出报警信息。步骤405、将融合后的数据发送至物联网平台进行处理。
本申请实施例提供的数据代理方法的具体实现原理和效果可以参见上述图1到图3所示实施例的技术方案,此处不再赘述。
图5为本申请实施例提供的一种电子设备的结构示意图。如图5所示,本实施例的电子设备可以包括:
至少一个处理器501;以及
与所述至少一个处理器通信连接的存储器502;
其中,所述存储器502存储有可被所述至少一个处理器501执行的指令,所述指令被所述至少一个处理器501执行,以使所述电子设备执行如上述任一实施例所述的方法。
可选地,存储器502既可以是独立的,也可以跟处理器501集成在一起。
本实施例提供的电子设备的实现原理和技术效果可以参见前述各实施例,此处不再赘述。
本申请实施例一种数据融合系统,包括:物联网平台、数据代理装置和多个终端设备;所述终端设备,用于采集物联网数据,并对所述物联网数据进行封装,得到物联网报文发送给数据代理装置;所述数据代理装置,部署在所述终端设备与物联网平台之间,用于执行前述任一实施例所述的方法;所述物联网平台,用于对所述数据代理装置得到的融合后的数据进行处理。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现前述任一实施例所述的方法。
本申请实施例还提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现前述任一实施例所述的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。
上述以软件功能模块的形式实现的集成的模块,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务端,或者网络设备等)或处理器执行本申请各个实施例所述方法的部分步骤。
应理解,上述处理器可以是中央处理单元(Centra l Process ing Un it,简称CPU),还可以是其它通用处理器、数字信号处理器(Digita l Signa l Processor,简称DSP)、专用集成电路(App l icat ion Specific I ntegrated Ci rcu it,简称ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合申请所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。存储器可能包含高速RAM存储器,也可能还包括非易失性存储NVM,例如至少一个磁盘存储器,还可以为U盘、移动硬盘、只读存储器、磁盘或光盘等。
上述存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。存储介质可以是通用或专用计算机能够存取的任何可用介质。
一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以位于专用集成电路(App l icat ion Specific I ntegrated Ci rcu its,简称ASIC)中。当然,处理器和存储介质也可以作为分立组件存在于电子设备或主控设备中。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务端,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
以上仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (9)
1.一种数据代理装置,其特征在于,包括:
报文接收单元,用于接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作;
报文识别单元,用于根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文;
报文解析单元,用于根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据,其中,不同类型的终端设备配置有不同的报文解析模板;
数据融合单元,用于将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合;
数据上报单元,用于将融合后的数据发送至物联网平台进行处理;
其中,所述报文接收单元,具体用于:
接收各终端设备发送的物联网报文;
将当前接收到的物联网报文添加至第一缓存中;
计算所述第一缓存中的当前物联网报文对应的哈希值,并与预设时间内添加到第二缓存中的至少一个物联网报文对应的哈希值进行比对;其中,所述第二缓存用于存储去重后的物联网报文;
若当前物联网报文对应的哈希值与所述至少一个物联网报文对应的哈希值均不相同,则将所述当前物联网报文添加到第二缓存中,并从第一缓存中删除;
若当前物联网报文对应的哈希值与所述至少一个物联网报文中的任一物联网报文对应的哈希值相同,则确定所述当前物联网报文为重复性报文;
对第一缓存中的重复性报文进行整合,并将整合后的报文发送至服务端,以使服务端根据整合后的报文确定对应的终端设备是否存在故障。
2.根据权利要求1所述的装置,其特征在于,不同类型的终端设备对应的预设时间不同;所述装置还包括用户配置单元,用于:
获取用户输入的去重间隔配置信息以及对应的终端设备的类型,所述去重间隔配置信息用于配置所述预设时间;
根据所述去重间隔配置信息,为相应类型的终端设备配置对应的预设时间。
3.根据权利要求1所述的装置,其特征在于,报文识别单元具体用于:
读取去重后的物联网报文,判断所述物联网报文是否满足预设的验证规则;
获取用户针对所述物联网报文对应的终端设备配置的业务规则,其中,所述业务规则用于指示报文的特定字段对应的业务数据;
判断所述物联网报文是否满足所述业务规则;
若所述物联网报文满足验证规则和业务规则,则确定所述物联网报文为非噪音报文;
若所述物联网报文不满足验证规则或业务规则,则确定所述物联网报文为噪音报文,将确定的噪音报文发送给服务端,以使服务端根据噪音报文确定对应的终端设备是否存在故障。
4.根据权利要求1所述的装置,其特征在于,所述报文解析单元具体用于:
确定用户针对所述非噪音报文对应的终端设备动态配置的报文解析模板;其中,所述报文解析模板包括:大小端,字段位信息,字段长度信息;
根据所述报文解析模板,对所述非噪音报文进行解析,得到解析后的数据。
5.根据权利要求1所述的装置,其特征在于,所述物联网平台用于根据融合后的数据进行机器学习模型的训练;所述数据融合单元,具体用于:
根据所述机器学习模型所需的训练数据,确定融合后的数据的类型;
根据所述数据的类型,对不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行相应的运算处理,得到融合后的数据。
6.一种数据代理方法,其特征在于,包括:
接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作;
根据预设的验证规则和业务规则,验证去重后的物联网报文是否为噪音报文;
根据报文解析模板,对验证后的非噪音报文进行解析,得到解析后的数据,其中,不同类型的终端设备配置有不同的报文解析模板;
将不同终端设备对应的解析后的数据,和/或,同一终端设备在不同时段对应的解析后的数据进行融合;
将融合后的数据发送至物联网平台进行处理;
其中,接收多个终端设备发送的物联网报文,对接收到的物联网报文进行去重操作,包括:
接收各终端设备发送的物联网报文;
将当前接收到的物联网报文添加至第一缓存中;
计算所述第一缓存中的当前物联网报文对应的哈希值,并与预设时间内添加到第二缓存中的至少一个物联网报文对应的哈希值进行比对;其中,所述第二缓存用于存储去重后的物联网报文;
若当前物联网报文对应的哈希值与所述至少一个物联网报文对应的哈希值均不相同,则将所述当前物联网报文添加到第二缓存中,并从第一缓存中删除;
若当前物联网报文对应的哈希值与所述至少一个物联网报文中的任一物联网报文对应的哈希值相同,则确定所述当前物联网报文为重复性报文;
对第一缓存中的重复性报文进行整合,并将整合后的报文发送至服务端,以使服务端根据整合后的报文确定对应的终端设备是否存在故障。
7.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述电子设备执行权利要求6所述的方法。
8.一种数据融合系统,其特征在于,包括:物联网平台、数据代理装置和多个终端设备;
所述终端设备,用于采集物联网数据,并对所述物联网数据进行封装,得到物联网报文发送给数据代理装置;
所述数据代理装置,部署在所述终端设备与物联网平台之间,用于执行权利要求6所述的方法;
所述物联网平台,用于对所述数据代理装置得到的融合后的数据进行处理。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如权利要求6所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211490099.9A CN115883603B (zh) | 2022-11-25 | 2022-11-25 | 数据代理装置、方法、电子设备、系统及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211490099.9A CN115883603B (zh) | 2022-11-25 | 2022-11-25 | 数据代理装置、方法、电子设备、系统及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115883603A CN115883603A (zh) | 2023-03-31 |
CN115883603B true CN115883603B (zh) | 2023-08-22 |
Family
ID=85763984
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211490099.9A Active CN115883603B (zh) | 2022-11-25 | 2022-11-25 | 数据代理装置、方法、电子设备、系统及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115883603B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111787066A (zh) * | 2020-06-06 | 2020-10-16 | 王科特 | 一种基于大数据、ai的物联网数据平台 |
CN111901381A (zh) * | 2020-06-29 | 2020-11-06 | 北京智芯微电子科技有限公司 | 基于边缘计算的物联代理装置及数据决策方法 |
CN114205350A (zh) * | 2021-11-01 | 2022-03-18 | 国网浙江省电力有限公司信息通信分公司 | 一种边缘侧协议转换系统及转换方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11374779B2 (en) * | 2019-06-30 | 2022-06-28 | Charter Communications Operating, Llc | Wireless enabled distributed data apparatus and methods |
-
2022
- 2022-11-25 CN CN202211490099.9A patent/CN115883603B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111787066A (zh) * | 2020-06-06 | 2020-10-16 | 王科特 | 一种基于大数据、ai的物联网数据平台 |
CN111901381A (zh) * | 2020-06-29 | 2020-11-06 | 北京智芯微电子科技有限公司 | 基于边缘计算的物联代理装置及数据决策方法 |
CN114205350A (zh) * | 2021-11-01 | 2022-03-18 | 国网浙江省电力有限公司信息通信分公司 | 一种边缘侧协议转换系统及转换方法 |
Also Published As
Publication number | Publication date |
---|---|
CN115883603A (zh) | 2023-03-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111970353B (zh) | 云计算平台物联网中异构设备的数据处理方法及装置 | |
CN108923972B (zh) | 一种去重流量提示方法、装置、服务器及存储介质 | |
CN111679979B (zh) | 破坏性测试方法及装置 | |
CN109743312B (zh) | 一种配置文件的数据动态解析方法、系统、终端及介质 | |
CN107911254B (zh) | 日志传输方法、装置、计算设备及存储介质 | |
CN107015948A (zh) | 一种日志信息格式化方法及系统 | |
CN112104670B (zh) | 一种基于链路映射解析轨道交通数据的方法及装置 | |
CN110688596A (zh) | 静态网页更新方法、装置、计算机设备和存储介质 | |
CN111277569B (zh) | 一种网络报文解码方法、装置及电子设备 | |
CN116634042A (zh) | 大数据报文解析方法、装置及存储介质 | |
CN115883603B (zh) | 数据代理装置、方法、电子设备、系统及存储介质 | |
CN108923967B (zh) | 一种去重流量记录方法、装置、服务器及存储介质 | |
CN108287874B (zh) | 一种db2数据库管理方法及装置 | |
JP2004173284A (ja) | 遠隔通信網を介したマルチメディアメッセージの追跡方法と追跡装置 | |
CN111767161A (zh) | 远程调用深度识别方法、装置、计算机设备及可读存储介质 | |
CN116828346A (zh) | 电表数据代理读取方法、装置、电子设备及存储介质 | |
CN111881153A (zh) | 数据处理方法、装置、电子设备和机器可读存储介质 | |
CN115633044B (zh) | 报文的处理方法、装置、电子设备及存储介质 | |
CN114979307B (zh) | 通信协议的解析方法、智能终端及存储介质 | |
CN113904787B (zh) | 一种流量审计方法、装置、设备和计算机可读存储介质 | |
CN113965408B (zh) | 一种http报文的提取方法、装置、介质及设备 | |
CN115811516A (zh) | 多分帧文件并发上报的方法、装置、设备和介质 | |
CN115562761A (zh) | 函数调用方法、装置和电子设备 | |
CN108667805A (zh) | 数据的解析方法及其装置和计算机可读存储介质 | |
CN116932370A (zh) | 模糊测试方法、装置、电子设备、程序产品以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |