CN108153837A - 一种用于动车组调试的实时数据采集与存储方法及其系统 - Google Patents
一种用于动车组调试的实时数据采集与存储方法及其系统 Download PDFInfo
- Publication number
- CN108153837A CN108153837A CN201711345843.5A CN201711345843A CN108153837A CN 108153837 A CN108153837 A CN 108153837A CN 201711345843 A CN201711345843 A CN 201711345843A CN 108153837 A CN108153837 A CN 108153837A
- Authority
- CN
- China
- Prior art keywords
- data
- group
- class
- data acquisition
- acquisition results
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/80—Information retrieval; Database structures therefor; File system structures therefor of semi-structured data, e.g. markup language structured data such as SGML, XML or HTML
- G06F16/83—Querying
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明提供一种用于动车组调试的实时数据采集与存储方法,包括:通过对调试阶段的全过程数据分类,包括:工艺数据、过程数据和结果数据,并将其作为设备层的对象数据源,建立基于调试任务模式的任务索引;将设备层中的各种对象数据源,按照数据大小、数据采集时长、数据类型、未来数据用处和数据存储方式五类数据标准进行数据采集预处理,待完成数据采集预处理后,将第一次数据分类的结果上传并传输至上层的信息层,再与上层的信息层进行交互,在交互过程中,根据数据用途和数据大小,将第一次数据分类的结果进行第二次数据分类,再将第二次数据分类的结果按照采集频率、采集触发条件、存储时间以及展现形态进行分类智能存储。
Description
技术领域
本发明涉及铁路机车车辆的技术领域,特别涉及一种用于动车组调试的实时数据采集与存储方法及其系统。
背景技术
目前,国内的动车组总装厂都进行过信息化改造与部分设备的自动化研发,但是没有建立统一的数据采集体系,工厂有大量的生产设备,测试设备、现场数据,通信方法多样。但是,现有的动车组调试过程的数据采集与存储方法存在实时数据采集量大,并且产品在生产、调试、装配、质检等工艺流程过程中,也会产生大量的实时过程数据,造成现场生产全过程的数据采集变得十分繁琐,造成了很多有关联的数据独立存在的问题。并且数据采集又是进行物料跟踪、生产计划、产品历史记录维护及其他生产管理的基础,因而数据的准确性、实时性成为目前动车组调试最重要的数据问题。
发明内容
本发明的目的在于,为解决现有的数据采集和存储方法存在上述的缺陷,本发明提供了一种用于动车组调试的实时数据采集与存储方法;该方法包括步骤:通过对调试阶段的全过程数据分类,包括:工艺数据、过程数据和结果数据,并将其作为设备层的对象数据源,建立基于调试任务模式的任务索引;面向设备层与信息层进行数据采集,将设备层中的各种对象数据源,按照数据大小、数据采集时长、数据类型、未来数据用处和数据存储方式五类数据标准进行数据采集预处理,完成第一次分类数据处理;待完成数据采集预处理后,将第一次数据分类的结果上传并传输至上层的信息层,再与上层的信息层进行交互,在交互过程中,根据数据用途和数据大小,将第一次数据分类的结果进行第二次数据分类,再将第二次数据分类的结果按照采集频率、采集触发条件、存储时间以及展现形态进行分类智能存储。
其中,设备层指的是现场采集信息,具体包括:设备自动采集信息、人员执行信息和调试过程数据。信息层指的是对第一次数据分类采集上来的数据进行集中的大数据分析、第二次数据分类存储与处理。
该方法具体包括:
步骤1)建立任务索引;针对需要采集的调试阶段的全过程数据,采用粗粒度索引,按照设备层的对象数据源,将调试任务分为五类,获得五类数据,所述五类数据包括:现场调试数据、测试设备数据、企业总线数据、动车采集数据和人工调试数据;根据调试任务的信息和每一类数据,分别附加对应的搜索和采集标识,针对每类数据的任务索引,记录该类数据的最大值和最小值,并赋予标识,用于快速数据采集与查询数据;所述每类数据的任务索引会根据各自的任务,通过配置信息的形式和任务信息写进一个XML文件中,并把任务信息和索引信息在一起的文件,放到指定的服务器位置,供现场调试设备在执行任务的过程中进行任务文件的获取;其中,所述任务文件显示需要执行的任务信息;
步骤2)第一次数据分类;根据步骤1)获取的任务文件,根据五类数据标准,对上述每一类数据进行初步的分析和拆解,获得每一类数据对应的五组数据采集结果;所述五类数据标准包括:数据大小、数据采集时长、数据类型、未来数据用途和数据存储方式;其中,在调试现场,所有的设备、操作人员都会按照获取的调试任务进行调试操作,在整个调试过程中,采集的调试工艺数据、调试过程数据和调试结果数据都会按照五类数据标准进行分类;
步骤3)数据传输处理,将步骤2)获得的每一类数据对应的五组数据采集结果进行数据上传,并通过工业网关或无线局域网传输至上层的信息层;
步骤4)第二次数据分类;在上层的信息层中,根据数据用途和数据大小,对步骤2)获得的每一类数据对应的五组数据采集结果再进行数据分类和拆解,作为第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤5)数据存储,针对步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率、采集触发条件、存储时间、展现形态进行分类智能存储,保证数据可以被最有效的利用,以等待进一步调用。
所述步骤2)具体包括:
步骤2-1)根据五类数据标准,将现场调试数据进行初步的分析和拆解,作为第一次数据分类,获得第一组数据大小类数据采集结果、第一组数据采集时长类采集结果、第一组数据类型类数据采集结果、第一组未来数据用途类数据采集结果和第一组数据存储方式类数据采集结果;
步骤2-2)根据五类数据标准,将测试设备数据进行初步的分析和拆解,作为第一次数据分类,获得第二组数据大小类数据采集结果、第二组数据采集时长类采集结果、第二组数据类型类数据采集结果、第二组未来数据用途类数据采集结果和第二组数据存储方式类数据采集结果;
步骤2-3)根据五类数据标准,将企业总线数据进行初步的分析和拆解,作为第一次数据分类,获得第三组数据大小类数据采集结果、第三组数据采集时长类采集结果、第三组数据类型类数据采集结果、第三组未来数据用途类数据采集结果和第三组数据存储方式类数据采集结果;
步骤2-4)根据五类数据标准,将动车采集数据进行初步的分析和拆解,作为第一次数据分类,获得第四组数据大小类数据采集结果、第四组数据采集时长类采集结果、第四组数据类型类数据采集结果、第四组未来数据用途类数据采集结果和第四组数据存储方式类数据采集结果;
步骤2-5)根据五类数据标准,将人工调试数据进行初步的分析和拆解,作为第一次数据分类,获得第五组数据大小类数据采集结果、第五组数据采集时长类采集结果、第五组数据类型类数据采集结果、第五组未来数据用途类数据采集结果和第五组数据存储方式类数据采集结果。
所述步骤4)具体包括:
步骤4-1)在上层的信息层中,根据数据用途和数据大小,对步骤2-1)获得的五组数据采集结果进行第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤4-2)在上层的信息层中,根据数据用途和数据大小,对步骤2-2)获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤4-3)在上层的信息层中,根据数据用途和数据大小,对步骤2-3)获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤4-4)在上层的信息层中,根据数据用途和数据大小,对步骤2-4)获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤4-5)在上层的信息层中,根据数据用途和数据大小,对步骤2-5)获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途和数据大小类数据采集结果。
所述步骤5)具体包括:
步骤5-1)根据步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间长、在前台界面展示,进行数据库与xml文件存储;
步骤5-2)根据步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间短、在前台界面展示,进行数据库存储;
步骤5-3)根据步骤4)获得的每一组数据采集结果对应的基于数据用途的数据采集结果和基于数据大小的数据采集结果,按照采集频率小、采集触发条件多、存储时间长、不在前台界面展示,进行xml文件存储。
基于上述的用于动车组调试的实时数据采集与存储方法;本发明提供了一种用于动车组调试的实时数据采集与存储系统,该系统包括:
任务索引模块;针对需要采集的调试阶段的全过程数据,采用粗粒度索引,将调试任务分为五类数据,所述五类数据包括:现场调试数据、测试设备数据、企业总线数据、动车采集数据和人工调试数据;根据调试任务的信息和每一类数据,分别附加对应的搜索和采集标识,针对每类数据的任务索引,记录该类数据的最大值和最小值,并赋予标识,用于快速数据采集与查询数据;所述每类数据的任务索引会根据各自的任务,通过配置信息的形式和任务信息写进一个XML文件中,并把任务信息和索引信息在一起的文件,放到指定的服务器位置,供现场调试设备在执行任务的时候进行任务文件获取;其中,所述任务文件显示需要执行的任务信息;
第一次数据分类模块;根据任务索引模块获取的任务文件,根据五类数据标准,对上述每一类数据进行初步的分析和拆解,作为第一次数据分类,获得每一类数据对应的五组数据采集结果;所述五类数据标准包括:数据大小、数据采集时长、数据类型、未来数据用途和数据存储方式;
数据传输处理模块,将每一类数据对应的五组数据采集结果进行数据上传,并通过工业网关或无线局域网传输至上层的信息层;
第二次数据分类模块;在上层的信息层中,根据数据用途和数据大小,对所述每一组数据采集结果对应的数据采集结果再进行数据分类和拆解,作为第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
数据存储模块,将所述每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果按照据采集频率、采集触发条件、存储时间、展现形态进行分类智能存储,保证数据可以被最有效的利用,等待进一步调用。
所述第一分类模块进一步包括:
第一子模块,根据五类数据标准,将现场调试数据进行第一次数据分类,获得第一组数据大小类数据采集结果、第一组数据采集时长类采集结果、第一组数据类型类数据采集结果、第一组未来数据用途类数据采集结果和第一组数据存储方式类数据采集结果;
第二子模块,根据五类数据标准,将测试设备数据进行第一次数据分类,获得第二组数据大小类数据采集结果、第二组数据采集时长类采集结果、第二组数据类型类数据采集结果、第二组未来数据用途类数据采集结果和第二组数据存储方式类数据采集结果;
第三子模块,根据五类数据标准,将企业总线数据进行第一次数据分类,获得第三组数据大小类数据采集结果、第三组数据采集时长类采集结果、第三组数据类型类数据采集结果、第三组未来数据用途类数据采集结果和第三组数据存储方式类数据采集结果;
第四子模块,根据五类数据标准,将动车采集数据进行第一次数据分类,获得第四组数据大小类数据采集结果、第四组数据采集时长类采集结果、第四组数据类型类数据采集结果、第四组未来数据用途类数据采集结果和第四组数据存储方式类数据采集结果;
第五子模块,根据五类数据标准,将人工调试数据进行第一次数据分类,获得第五组数据大小类数据采集结果、第五组数据采集时长类采集结果、第五组数据类型类数据采集结果、第五组未来数据用途类数据采集结果和第五组数据存储方式类数据采集结果。
所述第二分类模块进一步包括:
第六子模块,根据数据用途和数据大小,对通过第一子模块获得的五组数据采集结果进行第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
第七子模块,根据数据用途和数据大小,对通过第二子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果;
第八子模块,根据数据用途和数据大小,对通过第三子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据采和数据大小的数据采集结果;
第九子模块,根据数据用途和数据大小,对通过第四子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果;
第十子模块,根据数据用途和数据大小,对通过第五子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果。
所述数据存储模块进一步包括:
第一数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间长、在前台界面展示,进行数据库与xml文件存储;
第二数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间短、在前台界面展示,进行数据库存储;
第三数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率小、采集触发条件多、存储时间长、不在前台界面展示,进行xml文件存储。
所述数据存储模块主要是存储介质,用于数据的存储,保证数据可以被最有效的利用,所述存储介质具体为数据库、xml文件、内存。
本发明的优点在于:
本发明参考大数据存储技术中的针对全数据类型和多样计算需求,以海量规模存储、快速查询读取为特征,存储来自外部数据源的各类数据,支撑数据处理层的高级应用,但是又基于数据库与文件存储的方式进行具体的业务分析与通用分解。在动车调试中,首次提出基于任务模式的粗粒度索引,这种分类索引方式可以提升调试数据的读取速度,优化资源配置。按照数据标准进行第一次分类采集与第二次分类存储,让数据在传输和存储过程中合理的分配资源,提升采集速度,把数据按照用途分别存储到实体数据库、内存、和文件中,提升数据采集的速度与数据分析的效率。
附图说明
图1是本发明的一种用于动车组调试的实时数据采集与存储方法的流程示意图。
具体实施方式
以下结合附图对本发明作进一步的详细说明。
本发明的方法,就借鉴并采用数据采集与分类存储的方式,针对动车组总装厂,基于调试生产任务,先建立任务引导的索引,然后按照数据标准进行第一次分类采集与第二次分类存储,让数据在传输和存储过程中合理的分配资源,提升采集速度,这样可以把数据按照用途分别存储到实体数据库、内存、和文件中,从而可以提升数据采集的速度与数据分析的效率。
在动车调试中,首次提出基于任务模式的粗粒度索引,把调试任务按照实际数据源分为不同类别的数据,然后每类数据的索引记录该类数据的最大值和最小值,并赋予标识,这样查询时,根据条件,就可以判断符合条件的数据是否命中该类数据,而且,如果未来进行泛化或者聚合操作,可以直接从每类数据的索引中读取数据而不用读取块内数据。这种分类索引方式可以提升调试数据的读取速度,优化资源配置。
如图1所示,本发明提供了一种用于动车组调试的实时数据采集与存储方法;该方法包括步骤:通过对调试阶段的全过程数据分类,包括:工艺数据、过程数据和结果数据,并将其作为设备层的对象数据源,建立基于调试任务模式的任务索引;面向设备层与信息层进行数据采集,将设备层中的各种对象数据源,按照数据大小、数据采集时长、数据类型、未来数据用处和数据存储方式五类数据标准进行数据采集预处理,完成第一次分类数据处理;待完成数据采集预处理后,将第一次数据分类的结果上传并传输至上层的信息层,再与上层的信息层进行交互,在交互过程中,根据数据用途和数据大小,将第一次数据分类的结果进行第二次数据分类,再将第二次数据分类的结果按照采集频率、采集触发条件、存储时间以及展现形态进行分类智能存储。
其中,设备层指的是现场采集信息,具体包括:设备自动采集信息、人员执行信息和调试过程数据。信息层指的是对第一次数据分类采集上来的数据进行集中的大数据分析、第二次数据分类存储与处理。
该方法具体包括:
步骤1)建立任务索引;针对需要采集的调试阶段的全过程数据,采用粗粒度索引,按照设备层的对象数据源,将调试任务分为五类,获得五类数据,所述五类数据包括:现场调试数据、测试设备数据、企业总线数据、动车采集数据和人工调试数据;根据调试任务的信息和每一类数据,分别附加对应的搜索和采集标识,针对每类数据的任务索引,记录该类数据的最大值和最小值,并赋予标识,用于快速数据采集与查询数据;所述每类数据的任务索引会根据各自的任务,通过配置信息的形式和任务信息写进一个XML文件中,并把任务信息和索引信息在一起的文件,放到指定的服务器位置,供现场调试设备在执行任务的时候进行任务文件获取;其中,所述任务文件显示需要执行的任务信息;
步骤2)第一次数据分类;根据步骤1)获取的任务文件,根据五类数据标准,对上述每一类数据进行初步的分析和拆解,获得每一类数据对应的五组数据采集结果;所述五类数据标准包括:数据大小、数据采集时长、数据类型、未来数据用途和数据存储方式;
步骤3)数据传输处理,将步骤2)获得的每一类数据对应的五组数据采集结果进行数据上传,并通过工业网关或无线局域网传输至上层的信息层;
步骤4)第二次数据分类;在上层的信息层中,根据数据用途和数据大小,对步骤2)获得的每一类数据对应的五组数据采集结果再进行数据分类和拆解,作为第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤5)数据存储,针对步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率、采集触发条件、存储时间、展现形态进行分类智能存储,保证数据可以被最有效的利用,以等待进一步调用。
所述步骤2)具体包括:
步骤2-1)根据五类数据标准,将现场调试数据进行初步的分析和拆解,作为第一次数据分类,获得第一组数据大小类数据采集结果、第一组数据采集时长类采集结果、第一组数据类型类数据采集结果、第一组未来数据用途类数据采集结果和第一组数据存储方式类数据采集结果;
步骤2-2)根据五类数据标准,将测试设备数据进行初步的分析和拆解,作为第一次数据分类,获得第二组数据大小类数据采集结果、第二组数据采集时长类采集结果、第二组数据类型类数据采集结果、第二组未来数据用途类数据采集结果和第二组数据存储方式类数据采集结果;
步骤2-3)根据五类数据标准,将企业总线数据进行初步的分析和拆解,作为第一次数据分类,获得第三组数据大小类数据采集结果、第三组数据采集时长类采集结果、第三组数据类型类数据采集结果、第三组未来数据用途类数据采集结果和第三组数据存储方式类数据采集结果;
步骤2-4)根据五类数据标准,将动车采集数据进行初步的分析和拆解,作为第一次数据分类,获得第四组数据大小类数据采集结果、第四组数据采集时长类采集结果、第四组数据类型类数据采集结果、第四组未来数据用途类数据采集结果和第四组数据存储方式类数据采集结果;
步骤2-5)根据五类数据标准,将人工调试数据进行初步的分析和拆解,作为第一次数据分类,获得第五组数据大小类数据采集结果、第五组数据采集时长类采集结果、第五组数据类型类数据采集结果、第五组未来数据用途类数据采集结果和第五组数据存储方式类数据采集结果。
所述步骤4)具体包括:
步骤4-1)在上层的信息层中,根据数据用途和数据大小,对步骤2-1)获得的五组数据采集结果进行第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤4-2)在上层的信息层中,根据数据用途和数据大小,对步骤2-2)获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤4-3)在上层的信息层中,根据数据用途和数据大小,对步骤2-3)获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤4-4)在上层的信息层中,根据数据用途和数据大小,对步骤2-4)获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤4-5)在上层的信息层中,根据数据用途和数据大小,对步骤2-5)获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途和数据大小类数据采集结果。
所述步骤5)具体包括:
步骤5-1)根据步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间长、在前台界面展示,进行数据库与xml文件存储;
步骤5-2)根据步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间短、在前台界面展示,进行数据库存储;
步骤5-3)根据步骤4)获得的每一组数据采集结果对应的基于数据用途的数据采集结果和基于数据大小的数据采集结果,按照采集频率小、采集触发条件多、存储时间长、不在前台界面展示,进行xml文件存储。
基于上述的用于动车组调试的实时数据采集与存储方法;本发明提供了一种用于动车组调试的实时数据采集与存储系统,该系统包括:
任务索引模块;针对需要采集的调试阶段的全过程数据,采用粗粒度索引,将调试任务分为五类数据,所述五类数据包括:现场调试数据、测试设备数据、企业总线数据、动车采集数据和人工调试数据;根据调试任务的信息和每一类数据,分别附加对应的搜索和采集标识,针对每类数据的任务索引,记录该类数据的最大值和最小值,并赋予标识,用于快速数据采集与查询数据;所述每类数据的任务索引会根据各自的任务,通过配置信息的形式和任务信息写进一个XML文件中,并把任务信息和索引信息在一起的文件,放到指定的服务器位置,供现场调试设备在执行任务的时候进行任务文件获取;其中,所述任务文件显示需要执行的任务信息;
第一次数据分类模块;根据任务索引模块获取的任务文件,根据五类数据标准,对上述每一类数据进行初步的分析和拆解,作为第一次数据分类,获得每一类数据对应的五组数据采集结果;所述五类数据标准包括:数据大小、数据采集时长、数据类型、未来数据用途和数据存储方式;
数据传输处理模块,将每一类数据对应的五组数据采集结果进行数据上传,并通过工业网关或无线局域网传输至上层的信息层;
第二次数据分类模块;在上层的信息层中,根据数据用途和数据大小,对所述每一组数据采集结果对应的数据采集结果再进行数据分类和拆解,作为第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
数据存储模块,将所述每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果按照据采集频率、采集触发条件、存储时间、展现形态进行分类智能存储,保证数据可以被最有效的利用,等待进一步调用。
所述第一分类模块进一步包括:
第一子模块,根据五类数据标准,将现场调试数据进行第一次数据分类,获得第一组数据大小类数据采集结果、第一组数据采集时长类采集结果、第一组数据类型类数据采集结果、第一组未来数据用途类数据采集结果和第一组数据存储方式类数据采集结果;
第二子模块,根据五类数据标准,将测试设备数据进行第一次数据分类,获得第二组数据大小类数据采集结果、第二组数据采集时长类采集结果、第二组数据类型类数据采集结果、第二组未来数据用途类数据采集结果和第二组数据存储方式类数据采集结果;
第三子模块,根据五类数据标准,将企业总线数据进行第一次数据分类,获得第三组数据大小类数据采集结果、第三组数据采集时长类采集结果、第三组数据类型类数据采集结果、第三组未来数据用途类数据采集结果和第三组数据存储方式类数据采集结果;
第四子模块,根据五类数据标准,将动车采集数据进行第一次数据分类,获得第四组数据大小类数据采集结果、第四组数据采集时长类采集结果、第四组数据类型类数据采集结果、第四组未来数据用途类数据采集结果和第四组数据存储方式类数据采集结果;
第五子模块,根据五类数据标准,将人工调试数据进行第一次数据分类,获得第五组数据大小类数据采集结果、第五组数据采集时长类采集结果、第五组数据类型类数据采集结果、第五组未来数据用途类数据采集结果和第五组数据存储方式类数据采集结果。
所述第二分类模块进一步包括:
第六子模块,根据数据用途和数据大小,对通过第一子模块获得的五组数据采集结果进行第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
第七子模块,根据数据用途和数据大小,对通过第二子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果;
第八子模块,根据数据用途和数据大小,对通过第三子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据采和数据大小的数据采集结果;
第九子模块,根据数据用途和数据大小,对通过第四子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果;
第十子模块,根据数据用途和数据大小,对通过第五子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果。
所述数据存储模块进一步包括:
第一数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间长、在前台界面展示,进行数据库与xml文件存储;
第二数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间短、在前台界面展示,进行数据库存储;
第三数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率小、采集触发条件多、存储时间长、不在前台界面展示,进行xml文件存储。
所述数据存储模块主要是存储介质,用于数据的存储,保证数据可以被最有效的利用,所述存储介质具体为数据库、xml文件、内存。
如图1所示,现场调试数据:在动车出厂前,会对相关车辆进行全部的调试检查,而在调试检查过程中,会有相关的调试过程数据与结果数据,这些数据合成现场调试数据。
企业总线数据:在调试车辆的时候,会有很多与车辆相关的设计数据、工艺数据、故障历史数据,这些数据都会存储在企业总线数据中。调试需要的时候,可以从里边进行实时采集。
人工调试数据:操作人员在现场进行采集的仪表数据、天气数据、操作数据等人工采集的数据。
测试设备数据:在调试过程中,有一部分的测试设备是可以针对特定的试验项目,自动采集测试数据上传。
动车采集数据:是动车组自身在调试过程中产生的运行数据,它也可以通过无线网络进行上传。
最后所应说明的是,以上实施例仅用以说明本发明的技术方案而非限制。尽管参照实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,对本发明的技术方案进行修改或者等同替换,都不脱离本发明技术方案的精神和范围,其均应涵盖在本发明的权利要求范围当中。
Claims (8)
1.一种用于动车组调试的实时数据采集与存储方法,其特征在于,该方法包括步骤:通过对调试阶段的全过程数据分类,包括:工艺数据、过程数据和结果数据,并将其作为设备层的对象数据源,建立基于调试任务模式的任务索引;面向设备层与信息层进行数据采集,将设备层中的各种对象数据源,按照数据大小、数据采集时长、数据类型、未来数据用处和数据存储方式五类数据标准进行数据采集预处理,完成第一次分类数据处理;待完成数据采集预处理后,将第一次数据分类的结果上传并传输至上层的信息层,再与上层的信息层进行交互,在交互过程中,根据数据用途和数据大小,将第一次数据分类的结果进行第二次数据分类,再将第二次数据分类的结果按照采集频率、采集触发条件、存储时间以及展现形态进行分类智能存储。
2.根据权利要求1所述的方法,其特征在于,该方法具体包括:
步骤1)建立任务索引;针对需要采集的调试阶段的全过程数据,采用粗粒度索引,按照设备层的对象数据源,将调试任务分为五类,获得五类数据,所述五类数据包括:现场调试数据、测试设备数据、企业总线数据、动车采集数据和人工调试数据;根据调试任务的信息和每一类数据,分别附加对应的搜索和采集标识,针对每类数据的任务索引,记录该类数据的最大值和最小值,并赋予标识,用于快速数据采集与查询数据;所述每类数据的任务索引会根据各自的任务,获取现场调试设备在执行任务的过程中的任务文件;
步骤2)第一次数据分类;根据步骤1)获取的任务文件,根据五类数据标准,对上述每一类数据进行初步的分析和拆解,获得每一类数据对应的五组数据采集结果;所述五类数据标准包括:数据大小、数据采集时长、数据类型、未来数据用途和数据存储方式;
步骤3)数据传输处理,将步骤2)获得的每一类数据对应的五组数据采集结果进行数据上传,并通过工业网关或无线局域网传输至上层的信息层;
步骤4)第二次数据分类;在上层的信息层中,根据数据用途和数据大小,对步骤2)获得的每一类数据对应的五组数据采集结果再进行数据分类和拆解,作为第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
步骤5)数据存储,针对步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率、采集触发条件、存储时间、展现形态进行分类智能存储,以等待进一步调用。
3.根据权利要求1所述的方法,其特征在于,所述步骤2)具体包括:
步骤2-1)根据五类数据标准,将现场调试数据进行初步的分析和拆解,作为第一次数据分类,获得第一组数据大小类数据采集结果、第一组数据采集时长类采集结果、第一组数据类型类数据采集结果、第一组未来数据用途类数据采集结果和第一组数据存储方式类数据采集结果;
步骤2-2)根据五类数据标准,将测试设备数据进行初步的分析和拆解,作为第一次数据分类,获得第二组数据大小类数据采集结果、第二组数据采集时长类采集结果、第二组数据类型类数据采集结果、第二组未来数据用途类数据采集结果和第二组数据存储方式类数据采集结果;
步骤2-3)根据五类数据标准,将企业总线数据进行初步的分析和拆解,作为第一次数据分类,获得第三组数据大小类数据采集结果、第三组数据采集时长类采集结果、第三组数据类型类数据采集结果、第三组未来数据用途类数据采集结果和第三组数据存储方式类数据采集结果;
步骤2-4)根据五类数据标准,将动车采集数据进行初步的分析和拆解,作为第一次数据分类,获得第四组数据大小类数据采集结果、第四组数据采集时长类采集结果、第四组数据类型类数据采集结果、第四组未来数据用途类数据采集结果和第四组数据存储方式类数据采集结果;
步骤2-5)根据五类数据标准,将人工调试数据进行初步的分析和拆解,作为第一次数据分类,获得第五组数据大小类数据采集结果、第五组数据采集时长类采集结果、第五组数据类型类数据采集结果、第五组未来数据用途类数据采集结果和第五组数据存储方式类数据采集结果。
4.根据权利要求1所述的方法,其特征在于,所述步骤5)具体包括:
步骤5-1)根据步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间长、在前台界面展示,进行数据库与xml文件存储;
步骤5-2)根据步骤4)获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间短、在前台界面展示,进行数据库存储;
步骤5-3)根据步骤4)获得的每一组数据采集结果对应的基于数据用途的数据采集结果和基于数据大小的数据采集结果,按照采集频率小、采集触发条件多、存储时间长、不在前台界面展示,进行xml文件存储。
5.一种用于动车组调试的实时数据采集与存储系统,其特征在于,该系统包括:
任务索引模块;针对需要采集的调试阶段的全过程数据,采用粗粒度索引,将调试任务分为五类数据,所述五类数据包括:现场调试数据、测试设备数据、企业总线数据、动车采集数据和人工调试数据;根据调试任务的信息和每一类数据,分别附加对应的搜索和采集标识,针对每类数据的任务索引,记录该类数据的最大值和最小值,并赋予标识,用于快速数据采集与查询数据;所述每类数据的任务索引会根据各自的任务,获取现场调试设备在执行任务的过程中的任务文件;
第一次数据分类模块;根据获取的任务文件和五类数据标准,对上述每一类数据进行初步的分析和拆解,作为第一次数据分类,获得每一类数据对应的五组数据采集结果;所述五类数据标准包括:数据大小、数据采集时长、数据类型、未来数据用途和数据存储方式;
数据传输处理模块,将每一类数据对应的五组数据采集结果进行数据上传,并通过工业网关或无线局域网传输至上层的信息层;
第二次数据分类模块;在上层的信息层中,根据数据用途和数据大小,对所述每一组数据采集结果对应的数据采集结果再进行数据分类和拆解,作为第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
数据存储模块,将所述每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果按照据采集频率、采集触发条件、存储时间、展现形态进行分类智能存储,等待进一步调用。
6.根据权利要求5所述的系统,其特征在于,所述第一次数据分类模块进一步包括:
第一子模块,根据五类数据标准,将现场调试数据进行第一次数据分类,获得第一组数据大小类数据采集结果、第一组数据采集时长类采集结果、第一组数据类型类数据采集结果、第一组未来数据用途类数据采集结果和第一组数据存储方式类数据采集结果;
第二子模块,根据五类数据标准,将测试设备数据进行第一次数据分类,获得第二组数据大小类数据采集结果、第二组数据采集时长类采集结果、第二组数据类型类数据采集结果、第二组未来数据用途类数据采集结果和第二组数据存储方式类数据采集结果;
第三子模块,根据五类数据标准,将企业总线数据进行第一次数据分类,获得第三组数据大小类数据采集结果、第三组数据采集时长类采集结果、第三组数据类型类数据采集结果、第三组未来数据用途类数据采集结果和第三组数据存储方式类数据采集结果;
第四子模块,根据五类数据标准,将动车采集数据进行第一次数据分类,获得第四组数据大小类数据采集结果、第四组数据采集时长类采集结果、第四组数据类型类数据采集结果、第四组未来数据用途类数据采集结果和第四组数据存储方式类数据采集结果;
第五子模块,根据五类数据标准,将人工调试数据进行第一次数据分类,获得第五组数据大小类数据采集结果、第五组数据采集时长类采集结果、第五组数据类型类数据采集结果、第五组未来数据用途类数据采集结果和第五组数据存储方式类数据采集结果。
7.根据权利要求5所述的系统,其特征在于,所述第二次数据分类模块进一步包括:
第六子模块,根据数据用途和数据大小,对通过第一子模块获得的五组数据采集结果进行第二次数据分类,获得每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果;
第七子模块,根据数据用途和数据大小,对通过第二子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果;
第八子模块,根据数据用途和数据大小,对通过第三子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据采和数据大小的数据采集结果;
第九子模块,根据数据用途和数据大小,对通过第四子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果;
第十子模块,根据数据用途和数据大小,对通过第五子模块获得的五组数据采集结果进行第二次数据分类,获得基于每一组数据采集结果对应的基于数据用途数据和数据大小的数据采集结果。
8.根据权利要求5所述的系统,其特征在于,所述数据存储模块进一步包括:
第一数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间长、在前台界面展示,进行数据库与xml文件存储;
第二数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率大、采集触发条件频繁、存储时间短、在前台界面展示,进行数据库存储;
第三数据存储子模块,根据第二次数据分类模块获得的每一组数据采集结果对应的基于数据用途和数据大小的数据采集结果,按照采集频率小、采集触发条件多、存储时间长、不在前台界面展示,进行xml文件存储。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711345843.5A CN108153837A (zh) | 2017-12-15 | 2017-12-15 | 一种用于动车组调试的实时数据采集与存储方法及其系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711345843.5A CN108153837A (zh) | 2017-12-15 | 2017-12-15 | 一种用于动车组调试的实时数据采集与存储方法及其系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108153837A true CN108153837A (zh) | 2018-06-12 |
Family
ID=62467291
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711345843.5A Pending CN108153837A (zh) | 2017-12-15 | 2017-12-15 | 一种用于动车组调试的实时数据采集与存储方法及其系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108153837A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108989408A (zh) * | 2018-07-03 | 2018-12-11 | 安徽江淮汽车集团股份有限公司 | 一种车辆数据传输方法及系统 |
CN111208789A (zh) * | 2020-01-02 | 2020-05-29 | 北京航天测控技术有限公司 | 一种数据管理方法、装置、系统及存储介质 |
CN111796979A (zh) * | 2019-04-09 | 2020-10-20 | Oppo广东移动通信有限公司 | 数据采集策略的确定方法、装置、存储介质及电子设备 |
CN114108517A (zh) * | 2021-11-22 | 2022-03-01 | 贵州车联邦网络科技有限公司 | 停车场应急管理系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1407438A (zh) * | 2001-09-07 | 2003-04-02 | 深圳市中兴通讯股份有限公司上海第二研究所 | 海量数据处理方法和系统 |
CN101136857A (zh) * | 2006-06-16 | 2008-03-05 | 辉达公司 | 使用多种类型数据连接进行数据通信的系统与方法 |
CN103325074A (zh) * | 2013-06-26 | 2013-09-25 | 广东电网公司佛山供电局 | 电力系统实时数据处理方法 |
CN205354327U (zh) * | 2016-02-22 | 2016-06-29 | 福建榕基软件股份有限公司 | 一种高效传输环境数据的监控系统 |
US20160344751A1 (en) * | 2015-05-19 | 2016-11-24 | Fastly, Inc. | Customized record handling in a content delivery network |
CN106326908A (zh) * | 2015-06-30 | 2017-01-11 | 中兴通讯股份有限公司 | 一种图片的管理方法、装置及终端设备 |
-
2017
- 2017-12-15 CN CN201711345843.5A patent/CN108153837A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1407438A (zh) * | 2001-09-07 | 2003-04-02 | 深圳市中兴通讯股份有限公司上海第二研究所 | 海量数据处理方法和系统 |
CN101136857A (zh) * | 2006-06-16 | 2008-03-05 | 辉达公司 | 使用多种类型数据连接进行数据通信的系统与方法 |
CN103325074A (zh) * | 2013-06-26 | 2013-09-25 | 广东电网公司佛山供电局 | 电力系统实时数据处理方法 |
US20160344751A1 (en) * | 2015-05-19 | 2016-11-24 | Fastly, Inc. | Customized record handling in a content delivery network |
CN106326908A (zh) * | 2015-06-30 | 2017-01-11 | 中兴通讯股份有限公司 | 一种图片的管理方法、装置及终端设备 |
CN205354327U (zh) * | 2016-02-22 | 2016-06-29 | 福建榕基软件股份有限公司 | 一种高效传输环境数据的监控系统 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108989408A (zh) * | 2018-07-03 | 2018-12-11 | 安徽江淮汽车集团股份有限公司 | 一种车辆数据传输方法及系统 |
CN108989408B (zh) * | 2018-07-03 | 2020-12-29 | 安徽江淮汽车集团股份有限公司 | 一种车辆数据传输方法及系统 |
CN111796979A (zh) * | 2019-04-09 | 2020-10-20 | Oppo广东移动通信有限公司 | 数据采集策略的确定方法、装置、存储介质及电子设备 |
CN111796979B (zh) * | 2019-04-09 | 2022-08-02 | Oppo广东移动通信有限公司 | 数据采集策略的确定方法、装置、存储介质及电子设备 |
CN111208789A (zh) * | 2020-01-02 | 2020-05-29 | 北京航天测控技术有限公司 | 一种数据管理方法、装置、系统及存储介质 |
CN114108517A (zh) * | 2021-11-22 | 2022-03-01 | 贵州车联邦网络科技有限公司 | 停车场应急管理系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6659820B2 (ja) | データ処理方法、装置及びシステム、プログラムならびに記録媒体 | |
CN108153837A (zh) | 一种用于动车组调试的实时数据采集与存储方法及其系统 | |
CN110659173A (zh) | 一种运维系统及方法 | |
CN105718371B (zh) | 一种回归测试方法、装置及系统 | |
CN109204389B (zh) | 一种地铁设备故障诊断和自愈方法、系统 | |
Cemernek et al. | Big data as a promoter of industry 4.0: Lessons of the semiconductor industry | |
CN109784758B (zh) | 基于bim模型的工程质量监管预警系统和方法 | |
CN108681667A (zh) | 一种设备型号识别方法、装置及处理设备 | |
CN106961362A (zh) | 自动化测试方法及移动云测试系统 | |
CN105760296B (zh) | 自动化测试控制方法、装置及终端 | |
CN107479540B (zh) | 故障诊断方法以及系统 | |
CN105302115B (zh) | 列车网络应用层控制软件自动化测试方法 | |
US12019059B2 (en) | Detecting equipment defects using lubricant analysis | |
CN109840111A (zh) | 一种图形化的业务处理系统和方法 | |
CN112187589B (zh) | 基于流量回放的系统测试方法 | |
CN111400288A (zh) | 数据质量检查方法及系统 | |
CN109978495A (zh) | 一种核电站调试试验报告编制方法和系统 | |
CN110188036A (zh) | 一种软件测试方法及装置 | |
CN105405221A (zh) | 一种自动化测试的方法及装置 | |
CN112687022A (zh) | 一种基于视频的智能楼宇巡检方法及系统 | |
CN115756642A (zh) | 一种业务流程配置方法、装置、设备及存储介质 | |
CN107203464A (zh) | 业务问题的定位方法以及装置 | |
CN107741909A (zh) | 一种用于分布式块存储的自动化测试方法及系统 | |
CN111168195A (zh) | 基于IPv6的电焊机集群监控控制方法 | |
CN108416151B (zh) | 一种基于模型的卫星测控信息流智能化设计系统及故障信息快速定位方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20180612 |