CN110987083B - 一种基于车联网对车辆排放数据监测的方法和设备 - Google Patents

一种基于车联网对车辆排放数据监测的方法和设备 Download PDF

Info

Publication number
CN110987083B
CN110987083B CN201911334130.8A CN201911334130A CN110987083B CN 110987083 B CN110987083 B CN 110987083B CN 201911334130 A CN201911334130 A CN 201911334130A CN 110987083 B CN110987083 B CN 110987083B
Authority
CN
China
Prior art keywords
data
preset
determining
real
day
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911334130.8A
Other languages
English (en)
Other versions
CN110987083A (zh
Inventor
卢浩雷
张鹏
孟德超
王让
顾伟伟
张雷
武震宇
金鑫
于清源
张敏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Fengyun Kechuang Information Technology Co ltd
Original Assignee
Beijing Fengyun Kechuang Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Fengyun Kechuang Information Technology Co ltd filed Critical Beijing Fengyun Kechuang Information Technology Co ltd
Priority to CN201911334130.8A priority Critical patent/CN110987083B/zh
Publication of CN110987083A publication Critical patent/CN110987083A/zh
Application granted granted Critical
Publication of CN110987083B publication Critical patent/CN110987083B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01DMEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D21/00Measuring or testing not otherwise provided for
    • G01D21/02Measuring two or more variables by means not covered by a single other subclass
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10File systems; File servers
    • G06F16/18File system types
    • G06F16/182Distributed file systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Vehicle Cleaning, Maintenance, Repair, Refitting, And Outriggers (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于车联网对车辆排放数据监测的方法和设备,该方法包括:从消息队列中获取车辆终端发送的实时监测数据,所述消息队列为根据时序将所述实时监测数据进行队列化后生成的;当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,所述主题协议是根据所述消息队列的协议类型确定的;基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据;根据所述在线计算数据和所述离线计算数据确定所述车辆排放数据监测的结果,从而实现基于车联网实现对车辆排放数据的实时高效处理,进而获得更加准确的数据监测结果。

Description

一种基于车联网对车辆排放数据监测的方法和设备
技术领域
本申请涉及车联网技术领域,更具体地,涉及一种基于车联网对车辆排放数据监测的方法和设备。
背景技术
车联网主要指:车辆上的车载终端通过无线通信技术,对信息网络平台中的所有车辆动态信息进行有效利用,在车辆运行中提供不同的功能服务。车联网能够为车与车之间的间距提供保障,降低车辆发生碰撞事故的几率;车联网可以帮助车主实时导航,并通过与其它车辆和网络系统的通信,提高交通运行的效率。
随着车辆的日益增多,现有的车联网系统已经不能满足越来越大的数据量需求。车辆排放数据主要由数据类型、数据值和数据产生时间构成,在数据特征上属于流式数据,和传统的关系型数据之间有很大的差异,当流式数据量大时,传统的关系型数据库难以对这些流式数据快速的进行处理,因此,现有的大多依托关系型数据库进行设计的车联网平台,已不能满足对车辆排放数据进行实时高效处理的需求。
因此,如何基于车联网实现对车辆排放数据的实时高效处理,进而获得更加准确的数据监测结果,是目前有待解决的技术问题。
发明内容
本发明提供一种基于车联网对车辆排放数据监测的方法,用以解决现有技术中车辆网平台对车辆排放数据的处理速度慢,处理效率低的技术问题,该方法包括:
从消息队列中获取车辆终端发送的实时监测数据,所述消息队列为根据时序将所述实时监测数据进行队列化后生成的;
当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,所述主题协议是根据所述消息队列的协议类型确定的;
基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,所述预设数据存储位置具体包括Redis数据库、和或HBase数据库、和或分布式文件系统HDFS;
根据所述在线计算数据和所述离线计算数据确定所述车辆排放数据监测的结果。
优选的,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,具体为:
解析获取所述实时监测数据的数据类型,所述数据类型具体为车载诊断系统OBD数据,或登出数据、或登入数据、或发动机数据、或补发数据;
根据预设数据清洗规则对所述实时监测数据进行数据清洗,所述预设数据清洗规则具体为里程清洗和或经纬度清洗;
基于所述数据清洗的结果和所述预设在线计算逻辑按所述数据类型确定所述在线计算数据。
优选的,基于所述数据清洗的结果和所述预设在线计算逻辑按所述数据类型确定所述在线计算数据,具体为:
当所述数据类型为OBD数据时,为:
根据所述预设在线计算逻辑确定所述OBD数据的OBD故障信息,所述OBD故障信息具体为故障指示灯MIL故障信息,和或OBD信息匹配故障信息,和或诊断支持状态故障信息,和或诊断就绪状态故障信息;
将所述OBD故障信息存储在所述HBase数据库;
将不超过预设存储时长的OBD数据存储到所述Redis数据库。
当所述数据类型为发动机数据时,为:
根据所述预设在线计算逻辑确定所述发动机数据的发动机故障信息,所述发动机故障信息具体为颗粒捕捉器DPF压差故障信息、和或NOx浓度故障信息、和或尿素故障信息;
将所述发动机故障信息存储在所述HBase数据库;
当所述数据类型为补发数据时,为:
将所述补发数据插入到对应的采集时间的行程内;
将所述行程存储所述HBase数据库;
当所述数据类型为所述登入数据时,为:
将所述登入数据存储所述HBase数据库;
将不超过所述预设存储时长的所述登入数据存储到所述Redis数据库;
当所述数据类型为所述登出数据时,为:
将所述登出数据存储所述HBase数据库;
将不超过所述预设存储时长的所述登出数据存储到所述Redis数据库。
优选的,根据预设数据清洗规则对所述原始在线计算数据进行数据清洗,具体为:
当所述预设数据清洗规则为所述里程清洗时,为:
在所述实时监测数据对应的当前数据包中的第一里程数据为0或小于上一个有效数据包的第二里程数据时,则将所述第一里程数据置为所述第二里程数据;
当所述预设数据清洗规则为所述经纬度清洗时,为:
当所述当前数据包中的第一经纬度数据与所述实时监测数据对应的上一个相邻有效数据包的第二经纬度数据的差值的绝对值大于预设阈值时,确定所述当前数据包为无效数据包;
在所述当前数据包的之后的数据包中确定首个有效数据包,所述首个有效数据包为所述相邻有效数据包之后的第N个数据包,所述首个有效数据包中的经纬度数据与所述第二经纬度数据的差值的绝对值小于所述预设阈值的N倍;
对所述相邻有效数据包与所述首个有效数据包之间的无效数据包进行经纬度平均赋值。
优选的,所述离线计算数据具体包括小时数据、日度数据、月度数据以及数据增长量,基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,具体为:
基于统计小时指标确定所述小时数据,并将所述小时数据存储到所述HBase数据库,所述小时指标是从所述Redis数据库和所述HDFS内获取的,具体包括小时油耗、小时尿素消耗、小时里程和小时NOx排放量;
基于统计日度指标确定所述日度数据,并将所述日度数据存储到所述HBase数据库,所述日度指标具体包括日度油耗、日度尿素消耗、日度里程、日度NOx排放量、日度百公里油耗和日度尿素油耗比,其中,所述日度指标是根据所述小时数据得出的,或在所述小时数据不准确时,从所述HBase数据库或所述HDFS获取所述日度指标;
基于统计月度指标确定所述月度数据,并将所述月度数据存储到所述HBase数据库,所述月度指标具体包括月度总油耗、月度总尿素消耗、月度总里程、月度总NOx排放量、月度百公里油耗、月度尿素油耗比、月度行驶天数和月度单日最高里程,其中,所述月度指标是根据所述日度数据得出的,或在所述日度数据不准确时,从所述HBase数据库获取所述月度指标;
基于当天接入数据总量和前一天数据接入总量确定所述数据增长量,并将所述数据增长量存储到所述HBase数据库,所述当天接入数据总量和所述前一天数据接入总量是从所述HBase数据库或所述HDFS获取的。
优选的,在基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据之前,还包括:
基于验证所述历史监测数据确定有效数据和无效数据;
保留所述有效数据并丢弃所述无效数据。
优选的,在从消息队列中获取车辆终端发送的实时监测数据之后,还包括:
根据所述实时监测数据确定所述车辆的车辆识别码;
判断所述车辆识别码是否存在于所述Redis数据库中;
若是,确定主题协议为合法协议;
若否,将所述车辆识别码存储在所述Redis数据库中。
相应地,本发明还提出了一种基于车联网对车辆排放数据监测的设备,所述设备包括:
获取模块,用于从消息队列中获取车辆终端发送的实时监测数据,所述消息队列为根据时序将所述实时监测数据进行队列化后生成的;
第一确定模块,用于当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,所述主题协议是根据所述消息队列的协议类型确定的;
第二确定模块,用于基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,所述预设数据存储位置具体包括Redis数据库、和或HBase数据库、和或分布式文件系统HDFS;
第三确定模块,用于根据所述在线计算数据和所述离线计算数据确定所述车辆排放数据监测的结果。
相应地,本发明还提出了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备执行如上所述的基于车联网对车辆排放数据监测的方法。
相应地,本申请还提出了一种计算机程序产品,所述计算机程序产品在终端设备上运行时,使得所述终端设备执行上所述的基于车联网对车辆排放数据监测的方法。
与现有技术对比,本发明具有以下有益效果:
本发明公开了一种基于车联网对车辆排放数据监测的方法和设备,该方法包括:从消息队列中获取车辆终端发送的实时监测数据,所述消息队列为根据时序将所述实时监测数据进行队列化后生成的;当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,所述主题协议是根据所述消息队列的协议类型确定的;基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,所述预设数据存储位置具体包括Redis数据库、和或HBase数据库、和或分布式文件系统HDFS;根据所述在线计算数据和所述离线计算数据确定所述数据监测的结果,从而实现基于车联网实现对车辆排放数据的实时高效处理,进而获得更加准确的数据监测结果。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提出的一种基于车联网对车辆排放数据监测的方法的流程示意图;
图2为本发明另一实施例提出的一种基于车联网对车辆排放数据监测的方法的流程示意图;
图3为为本发明实施例提出的一种基于车联网对车辆排放数据监测的设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
如图1所示本发明实施例提出的一种基于车联网对车辆排放数据监测的方法的流程示意图,该方法包括以下步骤:
步骤S101,从消息队列中获取车辆终端发送的实时监测数据,所述消息队列为根据时序将所述实时监测数据进行队列化后生成的。
具体的,在接收到所述实时监测数据后,首先根据时间顺序对所述实时监测数据进行队列化处理,当需要处理所述实时监测数据时,只需要从消息队列中获取车辆终端发送的实时监测数据,对所述实时监测数据进行队列化处理,有利于后续处理过程按照车辆排放数据的时序稳定进行,需要说明的是,本领域技术人员可以灵活运用不同形式的车辆终端,所述车辆终端的不同并不影响本申请的保护范围。
为了准确获取所述实时监测数据,在本申请的优选实施例中,在从消息队列中获取车辆终端发送的实时监测数据之后,还包括:
根据所述实时监测数据确定所述车辆的车辆识别码;
判断所述车辆识别码是否存在于所述Redis数据库中;
若是,确定主题协议为合法协议;
若否,将所述车辆识别码存储在所述Redis数据库中。
具体的,在从所述消息队列中获取到车辆终端发送的实时监测数据后,根据获取的所述实时监测数据确定所述车辆的车辆识别码,然后判断所述车辆识别码是否在所述Redis数据库中,若在数据库中,则确定主题协议为合法协议,若不在,将所述车辆识别码存储到所述的Redis数据库中。
步骤S102,当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,所述主题协议是根据所述消息队列的协议类型确定的。
如上所述,当判断所述实时监测数据的主题协议为合法协议时,根据预设的在线计算逻辑和所述实时监测数据确定在线计算数据,需要说明的是,所述主题协议的确定是基于所述消息队列的协议类型。
为了准确的确定所述在线计算数据,在本申请的优选实施例中,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,具体为:
解析获取所述实时监测数据的数据类型,所述数据类型具体为车载诊断系统OBD数据,或登出数据、或登入数据、或发动机数据、或补发数据;
根据预设数据清洗规则对所述实时监测数据进行数据清洗,所述预设数据清洗规则具体为里程清洗和或经纬度清洗;
基于所述数据清洗的结果和所述预设在线计算逻辑按所述数据类型确定所述在线计算数据。
如上所述,所述实时监测数据的数据类型具体可以是OBD(On BoardDiagnostics,车载诊断系统)数据,或登出数据、或登入数据、或发动机数据、或补发数据,需要说明的是,本申请方案包括并不限于上述数据类型,本领域技术人员可以根据实际需要获取不同的数据类型,所述数据类型的不同并不影响本申请的保护范围。
除了获取所述实时监测数据的数据类型外,需要根据预设的里程清洗和或经纬度清洗的数据清洗规则对所述实时监测数据进行数据清洗,并根据所述清洗结果和预设的在线计算逻辑按照数据上述数据类型确定在线计算数据。
为了准确的确定所述在线计算数据,在本申请的优选实施例中,基于所述数据清洗的结果和所述预设在线计算逻辑按所述数据类型确定所述在线计算数据,具体为:
当所述数据类型为OBD数据时,为:
根据所述预设在线计算逻辑确定所述OBD数据的OBD故障信息,所述OBD故障信息具体为故障指示灯MIL故障信息,和或OBD信息匹配故障信息,和或诊断支持状态故障信息,和或诊断就绪状态故障信息;
将所述OBD故障信息存储在所述HBase数据库;
将不超过预设存储时长的OBD数据存储到所述Redis数据库。
当所述数据类型为发动机数据时,为:
根据所述预设在线计算逻辑确定所述发动机数据的发动机故障信息,所述发动机故障信息具体为颗粒捕捉器DPF压差故障信息、和或NOx浓度故障信息、和或尿素故障信息;
将所述发动机故障信息存储在所述HBase数据库;
当所述数据类型为补发数据时,为:
将所述补发数据插入到对应的采集时间的行程内;
将所述行程存储所述HBase数据库;
当所述数据类型为所述登入数据时,为:
将所述登入数据存储所述HBase数据库;
将不超过所述预设存储时长的所述登入数据存储到所述Redis数据库;
当所述数据类型为所述登出数据时,为:
将所述登出数据存储所述HBase数据库;
将不超过所述预设存储时长的所述登出数据存储到所述Redis数据库。
另外,为了实现对所述实时监测数据进行数据清洗,在本申请的优选实施例中,根据预设数据清洗规则对所述实时监测数据进行数据清洗,具体为:
当所述预设数据清洗规则为所述里程清洗时,为:
在所述实时监测数据对应的当前数据包中的第一里程数据为0或小于上一个有效数据包的第二里程数据时,则将所述第一里程数据置为所述第二里程数据;
当所述预设数据清洗规则为所述经纬度清洗时,为:
当所述当前数据包中的第一经纬度数据与所述实时监测数据对应的上一个相邻有效数据包的第二经纬度数据的差值的绝对值大于预设阈值时,确定所述当前数据包为无效数据包;
在所述当前数据包的之后的数据包中确定首个有效数据包,所述首个有效数据包为所述相邻有效数据包之后的第N个数据包,所述首个有效数据包中的经纬度数据与所述第二经纬度数据的差值的绝对值小于所述预设阈值的N倍;
对所述相邻有效数据包与所述首个有效数据包之间的无效数据包进行经纬度平均赋值。
步骤S103,基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,所述预设数据存储位置具体包括Redis数据库、和或HBase数据库、和或分布式文件系统HDFS。
如上所述,在Redis数据库、和或HBase数据库、和或HDFS(HadoopDistributedFileSystem,分布式文件系统)等数据存储位置存储有历史监测数据,基于所述历史监测数据与预设的离线计算逻辑确定所述离线计算数据,具体的,所述离线计算数据包括小时数据、日度数据、月度数据以及数据增长量。
为了准确的确定所述离线计算数据,在本申请的优选实施例中,基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,具体为:
基于统计小时指标确定所述小时数据,并将所述小时数据存储到所述HBase数据库,所述小时指标是从所述Redis数据库和所述HDFS内获取的,具体包括小时油耗、小时尿素消耗、小时里程和小时NOx排放量;
基于统计日度指标确定所述日度数据,并将所述日度数据存储到所述HBase数据库,所述日度指标具体包括日度油耗、日度尿素消耗、日度里程、日度NOx排放量、日度百公里油耗和日度尿素油耗比,其中,所述日度指标是根据所述小时数据得出的,或在所述小时数据不准确时,从所述HBase数据库或所述HDFS获取所述日度指标;
基于统计月度指标确定所述月度数据,并将所述月度数据存储到所述HBase数据库,所述月度指标具体包括月度总油耗、月度总尿素消耗、月度总里程、月度总NOx排放量、月度百公里油耗、月度尿素油耗比、月度行驶天数和月度单日最高里程,其中,所述月度指标是根据所述日度数据得出的,或在所述日度数据不准确时,从所述HBase数据库获取所述月度指标;
基于当天接入数据总量和前一天数据接入总量确定所述数据增长量,并将所述数据增长量存储到所述HBase数据库,所述当天接入数据总量和所述前一天数据接入总量是从所述HBase数据库或所述HDFS获取的。
为了获取所需的离线计算数据,在本申请的优选实施例中,在基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据之前,还包括:
基于验证所述历史监测数据确定有效数据和无效数据;
保留所述有效数据并丢弃所述无效数据。
如上所述,验证所述历史监测数据的有效性,将无效数据剔除掉,无效数据可以是数据格式错误,数据内容不符合要求的,本领域技术人员可以根据实际需求设置不同的有效性标准。
步骤S104,根据所述在线计算数据和所述离线计算数据确定所述车辆排放数据监测的结果。
本发明提出了一种基于车联网对车辆排放数据监测的方法,通过从消息队列中获取车辆终端发送的实时监测数据,当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,根据所述在线计算数据和所述离线计算数据确定所述数据监测的结果,从而实现基于车联网实现对车辆排放数据的实时高效处理,进而获得更加准确的数据监测结果。
为了进一步阐述本发明的技术思想,现结合具体的应用场景,对本发明的技术方案进行说明。
如图2所示为上述基于车联网对车辆排放数据监测的方法的流程示意图,具体步骤如下:
S201,获取实时监测数据
车联网监控平台接收从安装在车辆上的终端发送的实时监测数据,平台和终端之间可采用GSM(GlobalSystemforMobileCommunications,全球移动通信系统),3G、4G、WiFi等通信方式传输所述实时监测数据。
所述车联网接收到实时监测数据后,对所述实时监测数据进行队列化处理,生成消息队列,队列化处理便于后续的处理步骤按照接收到的所述实时监测数据的时间顺序进行执行。
S202,判断车辆识别码是否存在于Redis数据库中,若是,则执行步骤S204,若否,则执行步骤S203。
所述实时监测数据中存储有车辆识别码,每一辆车都对应有自己的一个车辆识别码,通过判断车辆识别码是否存储于Redis数据库中,可以知道该车辆信息是否在Redis数据库中,其中Redis数据来自于系统管理服务,Redis数据库是一个高性能的键值key-value数据库,主要用来存储近期的计算结果数据,具有较高的实时性。
S203,将车辆识别码存于Redis数据库中。
当在Redis数据库中无法查到所述车辆识别码时,车联网平台自动将该车辆的车辆识别码存入Redis数据库中,有利于对该车的数据进行监测。
S204,解析实时监测数据的数据类型。
解析所述实时监测数据的数据类型,具体的数据类型为车载诊断系统OBD数据,或登出数据、或登入数据、或发动机数据、或补发数据,解析所述实时监测数据的数据类型,便于后续对不同类型的数据进行对应的处理。
S205,进行数据清洗。
根据预设的清洗规则对所述实时监测数据进行数据清洗当所述预设数据清洗规则为所述里程清洗时,在所述实时监测数据对应的当前数据包中的第一里程数据为0或小于上一个有效数据包的第二里程数据时,则将所述第一里程数据置为所述第二里程数据;即当前数据包的里程数据为0或小于上一个有效包的里程数据,则将当前数据包的数据置为上一个有效数据包的里程数据。
当所述预设数据清洗规则为所述经纬度清洗时,当所述当前数据包中的第一经纬度数据与所述实时监测数据对应的上一个相邻有效数据包的第二经纬度数据的差值的绝对值大于预设阈值时,确定所述当前数据包为无效数据包;在所述当前数据包的之后的数据包中确定首个有效数据包,所述首个有效数据包为所述相邻有效数据包之后的第N个数据包,所述首个有效数据包中的经纬度数据与所述第二经纬度数据的差值的绝对值小于所述预设阈值的N倍;对所述相邻有效数据包与所述首个有效数据包之间的无效数据包进行经纬度平均赋值,例如,当前数据包的经纬度数据与上一个相邻的有效数据包经纬度数据的差值大于0.0005或小于-0.0005时,则判断这个数据包的经纬度数据跳点,继续判断下一个数据包的经纬度数据与上一个有效数据包经纬度数据的差值大于0.001或小于-0.001,以此类推,直到找到下一个有效经纬度数据时,将中间无效数据包经纬度数据进行平均赋值。
基于上述操作对里程数据和经纬度数据进行补全,转换成符合要求的数据。
S206,确定在线计算数据。
根据上述清洗过的数据,按照上述解析的数据类型对不同类型的数据确定对应的在线计算数据,具体处理规则如下:
当所述数据类型为OBD数据时,根据所述预设在线计算逻辑确定所述OBD数据的OBD故障信息,所述OBD故障信息具体为MIL(Malfunction IndicatorLamp,故障指示灯)故障信息,和或OBD信息匹配故障信息,和或诊断支持状态故障信息,和或诊断就绪状态故障信息;将所述OBD故障信息存储在所述HBase数据库;将不超过预设存储时长的OBD数据存储到所述Redis数据库。
例如,在确定故障指示灯MIL故障信息时,首先判断OBD数据中的MIL灯状态字段,“0”为MIL灯未点亮,“1”为MIL灯点亮,当MIL灯状态字段为“1”时,表示MIL灯点亮,则继续判断该车辆MIL灯点亮之后行驶的里程,超过200km则判断为MIL灯报警故障,MIL灯故障信息存到Hbase数据库。
在判断OBD信息匹配故障信息时,首先检验所述OBD数据中包含的验证码数据长度和格式是否与标准协议一致,不一致则判断为OBD信息不匹配,故障信息存到Hbase数据库中。
在判断诊断支持状态故障信息时,首先判断诊断支持状态字段,此字段大小为2字节,包含16个bit,每个bit代表一个监控状态,协议中定义“0”代表不支持,“1”代表支持;车联网平台代码定义“0”为无故障,“1”为故障开始,“2”为故障持续,“3”为故障结束,如第一位监控状态为“0”时,则代表该监控状态得故障开始,下一个数据包解析出第一位监控状态仍为“0”,代表该监控状态故障持续,直到有数据包解析出第一位监控状态为“1”,则代表该监控状态故障结束,故障信息保存在Hbase数据库里。
在判断诊断就绪状态故障信息时,首先判断诊断就绪状态字段,此字段大小为2字节,包含16个bit,每个bit代表一个监控状态,协议中定义“0”代表不支持,“1”代表支持;车联网平台代码定义“0”为无故障,“1”为故障开始,“2”为故障持续,“3”为故障结束,如第一位监控状态为“0”时,则代表该监控状态得故障开始,下一个数据包解析出第一位监控状态仍为“0”,代表该监控状态故障持续,直到有数据包解析出第一位监控状态为“1”,则代表该监控状态故障结束,故障信息保存在Hbase数据库里。
当所述数据类型为发动机数据时,根据所述预设在线计算逻辑确定所述发动机数据的发动机故障信息,所述发动机故障信息具体为DPF(Diesel ParticulateFilter,颗粒捕捉器)压差故障信息、和或NOx浓度故障信息、和或尿素故障信息;将所述发动机故障信息存储在所述HBase数据库;
例如,当所述发动机故障信息为颗粒捕捉器DPF压差故障信息时,计算最近30s的DPF压差平均值,若平均值<0.2则为DPF故障,故障信息存到Hbase数据库里。
当所述发动机故障信息为NOx浓度故障信息时,计算最近30s的NOx浓度平均值,若大于车辆信息录入的最大NOx浓度值,则判断为NOx浓度异常,故障信息存到Hbase数据库里。
当所述发动机故障信息为尿素故障信息时,根据公式:本次尿素消耗=(上次尿素余量百分比-本次尿素余量百分比)*尿素箱总容积,计算出每次尿素消耗,将每次尿素消耗累加计算出尿素累积量,尿素累积量/燃油累积量的比例小于2%,判断为尿素消耗异常,当尿素累积量/燃油累积量的百分比=0,判断百分比=0之后该车行驶里程,超过200km,则为尿素空箱异常,故障信息存到Hbase数据库里。
当所述数据类型为补发数据时,将所述补发数据插入到对应的采集时间的行程内;将所述行程存储所述HBase数据库;
当所述数据类型为所述登入数据时,将所述登入数据存储所述HBase数据库;将不超过所述预设存储时长的所述登入数据存储到所述Redis数据库;
当所述数据类型为所述登出数据时,为:将所述登出数据存储所述HBase数据库;将不超过所述预设存储时长的所述登出数据存储到所述Redis数据库。
S207,获取历史监测数据。
从Redis数据库、和或HBase数据库、和或分布式文件系统HDFS中获取历史监测数据,其中,HBase是一个分布式的、面向列的开源数据库,HBase不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库,而HDFS是一种分布式文件系统,能提供高吞吐量的数据访问,非常适合大规模数据集上的应用
S208,判断历史监测数据是否有效,若否,则执行步骤S209,若是,则执行步骤S210。
对所述获取的历史监测数据进行检验,判断是否为有效数据,具体可以检测所述历史监测数据的数据格式是否正确,数据内容是否正确,数据存储时间是否超过预设存储时间等,具体检测内容可以根据事实情况作出相应调整。
S209,无效数据丢弃。
将上述检测中的无效数据丢弃。
S210,确定离线计算数据。
所述的离线计算数据具体包括小时数据、日度数据、月度数据、预计数据增长量,具体的离线计算数据确定方法如下:
基于统计小时指标确定所述小时数据,并将所述小时数据存储到所述HBase数据库,所述小时指标是从所述Redis数据库和所述HDFS内获取的,具体包括小时油耗、小时尿素消耗、小时里程和小时NOx排放量;
基于统计日度指标确定所述日度数据,并将所述日度数据存储到所述HBase数据库,所述日度指标具体包括日度油耗、日度尿素消耗、日度里程、日度NOx排放量、日度百公里油耗和日度尿素油耗比,其中,所述日度指标是根据所述小时数据得出的,或在所述小时数据不准确时,从所述HBase数据库或所述HDFS获取所述日度指标;
基于统计月度指标确定所述月度数据,并将所述月度数据存储到所述HBase数据库,所述月度指标具体包括月度总油耗、月度总尿素消耗、月度总里程、月度总NOx排放量、月度百公里油耗、月度尿素油耗比、月度行驶天数和月度单日最高里程,其中,所述月度指标是根据所述日度数据得出的,或在所述日度数据不准确时,从所述HBase数据库获取所述月度指标;
基于当天接入数据总量和前一天数据接入总量确定所述数据增长量,并将所述数据增长量存储到所述HBase数据库,所述当天接入数据总量和所述前一天数据接入总量是从所述HBase数据库或所述HDFS获取的。
S211,确定车辆排放数据监测结果。
基于上述确定的在线计算数据与离线计算数据获取车辆排放数据监测结果,便于通过所述车辆排放数据监测结果获取车联网上的车辆的状态信息。
通过应用以上技术方案,从消息队列中获取车辆终端发送的实时监测数据,当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,根据所述在线计算数据和所述离线计算数据确定所述车辆排放数据监测的结果,从而实现基于车联网实现对车辆排放数据的实时高效处理,进而获得更加准确的数据监测结果。
为了达到以上技术目的,本申请实施例还提出了一种基于车辆网对车辆排放数据监测的设备,如图3所示,所述设备包括:
获取模块301,用于从消息队列中获取车辆终端发送的实时监测数据,所述消息队列为根据时序将所述实时监测数据进行队列化后生成的;
第一确定模块302,用于当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,所述主题协议是根据所述消息队列的协议类型确定的;
第二确定模块303,用于基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,所述预设数据存储位置具体包括Redis数据库、和或HBase数据库、和或分布式文件系统HDFS;
第三确定模块304,用于根据所述在线计算数据和所述离线计算数据确定所述车辆排放数据监测的结果。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不驱使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (9)

1.一种基于车联网对车辆排放数据监测的方法,其特征在于,所述方法包括:
从消息队列中获取车辆终端发送的实时监测数据,所述消息队列为根据时序将所述实时监测数据进行队列化后生成的;
当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,所述主题协议是根据所述消息队列的协议类型确定的;
基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,所述预设数据存储位置具体包括Redis数据库、和或HBase数据库、和或分布式文件系统HDFS;
根据所述在线计算数据和所述离线计算数据确定所述车辆排放数据监测的结果;
其中,所述离线计算数据具体包括小时数据、日度数据、月度数据以及数据增长量,基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,具体为:
基于统计小时指标确定所述小时数据,并将所述小时数据存储到所述HBase数据库,所述小时指标是从所述Redis数据库和所述HDFS内获取的,具体包括小时油耗、小时尿素消耗、小时里程和小时NOx排放量;
基于统计日度指标确定所述日度数据,并将所述日度数据存储到所述HBase数据库,所述日度指标具体包括日度油耗、日度尿素消耗、日度里程、日度NOx排放量、日度百公里油耗和日度尿素油耗比,其中,所述日度指标是根据所述小时数据得出的,或在所述小时数据不准确时,从所述HBase数据库或所述HDFS获取所述日度指标;
基于统计月度指标确定所述月度数据,并将所述月度数据存储到所述HBase数据库,所述月度指标具体包括月度总油耗、月度总尿素消耗、月度总里程、月度总NOx排放量、月度百公里油耗、月度尿素油耗比、月度行驶天数和月度单日最高里程,其中,所述月度指标是根据所述日度数据得出的,或在所述日度数据不准确时,从所述HBase数据库获取所述月度指标;
基于当天接入数据总量和前一天数据接入总量确定所述数据增长量,并将所述数据增长量存储到所述HBase数据库,所述当天接入数据总量和所述前一天数据接入总量是从所述HBase数据库或所述HDFS获取的。
2.如权利要求1所述的方法,其特征在于,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,具体为:
解析获取所述实时监测数据的数据类型,所述数据类型具体为车载诊断系统OBD数据,或登出数据、或登入数据、或发动机数据、或补发数据;
根据预设数据清洗规则对所述实时监测数据进行数据清洗,所述预设数据清洗规则具体为里程清洗和或经纬度清洗;
基于所述数据清洗的结果和所述预设在线计算逻辑按所述数据类型确定所述在线计算数据。
3.如权利要求2所述的方法,其特征在于,基于所述数据清洗的结果和所述预设在线计算逻辑按所述数据类型确定所述在线计算数据,具体为:
当所述数据类型为OBD数据时,为:
根据所述预设在线计算逻辑确定所述OBD数据的OBD故障信息,所述OBD故障信息具体为故障指示灯MIL故障信息,和或OBD信息匹配故障信息,和或诊断支持状态故障信息,和或诊断就绪状态故障信息;
将所述OBD故障信息存储在所述HBase数据库;
将不超过预设存储时长的OBD数据存储到所述Redis数据库;
当所述数据类型为发动机数据时,为:
根据所述预设在线计算逻辑确定所述发动机数据的发动机故障信息,所述发动机故障信息具体为颗粒捕捉器DPF压差故障信息、和或NOx浓度故障信息、和或尿素故障信息;
将所述发动机故障信息存储在所述HBase数据库;
当所述数据类型为补发数据时,为:
将所述补发数据插入到对应的采集时间的行程内;
将所述行程存储所述HBase数据库;
当所述数据类型为所述登入数据时,为:
将所述登入数据存储所述HBase数据库;
将不超过所述预设存储时长的所述登入数据存储到所述Redis数据库;
当所述数据类型为所述登出数据时,为:
将所述登出数据存储所述HBase数据库;
将不超过所述预设存储时长的所述登出数据存储到所述Redis数据库。
4.如权利要求2所述的方法,其特征在于,根据预设数据清洗规则对所述实时监测数据进行数据清洗,具体为:
当所述预设数据清洗规则为所述里程清洗时,为:
在所述实时监测数据对应的当前数据包中的第一里程数据为0或小于上一个有效数据包的第二里程数据时,则将所述第一里程数据置为所述第二里程数据;
当所述预设数据清洗规则为所述经纬度清洗时,为:
当所述当前数据包中的第一经纬度数据与所述实时监测数据对应的上一个相邻有效数据包的第二经纬度数据的差值的绝对值大于预设阈值时,确定所述当前数据包为无效数据包;
在所述当前数据包的之后的数据包中确定首个有效数据包,所述首个有效数据包为所述相邻有效数据包之后的第N个数据包,所述首个有效数据包中的经纬度数据与所述第二经纬度数据的差值的绝对值小于所述预设阈值的N倍;
对所述相邻有效数据包与所述首个有效数据包之间的无效数据包进行经纬度平均赋值。
5.如权利要求1所述的方法,其特征在于,在基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据之前,还包括:
基于验证所述历史监测数据确定有效数据和无效数据;
保留所述有效数据并丢弃所述无效数据。
6.如权利要求1所述的方法,其特征在于,在从消息队列中获取车辆终端发送的实时监测数据之后,还包括:
根据所述实时监测数据确定所述车辆的车辆识别码;
判断所述车辆识别码是否存在于所述Redis数据库中;
若是,确定主题协议为合法协议;
若否,将所述车辆识别码存储在所述Redis数据库中。
7.一种基于车联网对车辆排放数据监测的设备,其特征在于,所述设备包括:
获取模块,用于从消息队列中获取车辆终端发送的实时监测数据,所述消息队列为根据时序将所述实时监测数据进行队列化后生成的;
第一确定模块,用于当所述实时监测数据的主题协议为合法协议时,基于预设在线计算逻辑和所述实时监测数据确定在线计算数据,所述主题协议是根据所述消息队列的协议类型确定的;
第二确定模块,用于基于预设离线计算逻辑和从预设数据存储位置获取的历史监测数据确定离线计算数据,所述预设数据存储位置具体包括Redis数据库、和或HBase数据库、和或分布式文件系统HDFS;
第三确定模块,用于根据所述在线计算数据和所述离线计算数据确定所述车辆排放数据监测的结果。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令,当所述指令在终端设备上运行时,使得所述终端设备执行如权利要求1-6任一项所述的基于车联网对车辆排放数据监测的方法。
9.一种计算机程序介质,其特征在于,所述计算机程序介质在终端设备上运行时,使得所述终端设备执行如权利要求1-6任一项所述的基于车联网对车辆排放数据监测的方法。
CN201911334130.8A 2019-12-23 2019-12-23 一种基于车联网对车辆排放数据监测的方法和设备 Active CN110987083B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911334130.8A CN110987083B (zh) 2019-12-23 2019-12-23 一种基于车联网对车辆排放数据监测的方法和设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911334130.8A CN110987083B (zh) 2019-12-23 2019-12-23 一种基于车联网对车辆排放数据监测的方法和设备

Publications (2)

Publication Number Publication Date
CN110987083A CN110987083A (zh) 2020-04-10
CN110987083B true CN110987083B (zh) 2021-08-17

Family

ID=70074147

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911334130.8A Active CN110987083B (zh) 2019-12-23 2019-12-23 一种基于车联网对车辆排放数据监测的方法和设备

Country Status (1)

Country Link
CN (1) CN110987083B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111740952B (zh) * 2020-05-13 2023-06-06 南斗六星系统集成有限公司 一种车辆监管平台数据管理方法及系统
CN113762665B (zh) * 2020-06-29 2024-04-16 北京京东振世信息技术有限公司 一种实时指标的相关实时数据回溯方法及系统
CN114461701A (zh) * 2022-03-14 2022-05-10 深圳市赛格导航科技股份有限公司 一种重型车辆排放超标警情分析方法及系统
CN114637786B (zh) * 2022-03-14 2023-06-06 徐工汉云技术股份有限公司 一种车辆工时离线计算方法及存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102009036770B4 (de) * 2009-08-08 2011-12-01 Küster Holding GmbH Vorrichtung zum Ansteuern eines elektromechanischen Aktuators, Verfahren zum Ansteuern einer solchen Vorrichtung, elektromechanischer Aktuator sowie Abgasklappensystem für ein Kraftfahrzeug
AT11708U3 (de) * 2010-10-21 2012-03-15 Avl List Gmbh Verfahren zur bestimmung des massenflusses von gasen, insbesondere des abgases von brennkraftmaschinen
CN107256431A (zh) * 2017-06-12 2017-10-17 江苏帮您车网络科技有限公司 基于物联网通过维修企业实现对车辆尾气监测的方法
CN207198655U (zh) * 2017-09-21 2018-04-06 中国汽车技术研究中心 一种基于obd的在用车排放数据采集在线传输终端设备
CN109766369A (zh) * 2018-12-07 2019-05-17 黑匣子(杭州)车联网科技有限公司 一种车联网大数据分析系统
CN110022226B (zh) * 2019-01-04 2023-04-04 国网浙江省电力有限公司 一种基于面向对象的数据采集系统及采集方法

Also Published As

Publication number Publication date
CN110987083A (zh) 2020-04-10

Similar Documents

Publication Publication Date Title
CN110987083B (zh) 一种基于车联网对车辆排放数据监测的方法和设备
CN111860561B (zh) 网约车的异常停留行为识别方法、装置、设备及存储介质
CN111131231A (zh) 一种将车载终端数据接入车联网监控平台的方法和设备
EP3349126B1 (en) Method, device, storage medium, and apparatus for automatically discovering fuel station poi
CN110969861B (zh) 一种车辆识别方法、装置、设备及计算机存储介质
CN103000025A (zh) 一种为用户提供乘车参考信息的方法和装置
CN111585837A (zh) 物联网数据链路监控方法、装置、计算机设备和存储介质
CN115791212B (zh) 通用车辆尾气排放检测方法与装置
CN113538915B (zh) 交通拥堵事件的处理方法、设备、存储介质及程序产品
CN111241120A (zh) 车辆能源加注点的分析方法、装置、车载设备和存储介质
CN111740952A (zh) 一种车辆监管平台数据管理方法及系统
CN111929079A (zh) 车辆的年检预审方法及车辆
CN113938295B (zh) 一种网联汽车通信数据异常传输行为检测方法、系统、电子设备及可读介质
CN113071433B (zh) 一种高硫柴油加注地点定位方法及装置
CN114861010A (zh) 蹭etc记录的处理方法、装置、设备及存储介质
CN112416471A (zh) 尾气监控方法、装置、计算机可读存储介质及电子设备
CN114900331A (zh) 基于can报文特征的车载can总线入侵检测方法
CN112832889B (zh) 一种发动机使用高硫柴油的诊断方法及相关装置
CN110553657B (zh) 一种基于聊天机器人的导航方法及系统
CN114199274A (zh) 一种车辆行程确定方法、装置、设备及可读存储介质
WO2024119094A1 (en) Systems and methods for logging data using model- based systems engineering for fault analysis
CN117514431A (zh) Dpf故障诊断方法、装置、终端设备以及存储介质
CN114517727A (zh) 数据采集装置、分析装置、分析方法及计算机程序产品
CN114355412A (zh) 一种异常轨迹的识别方法、装置、电子设备及存储介质
CN112967416A (zh) 车辆监控方法、装置及系统、车辆监控设备、终端设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant