CN110019157A - 基于物联网的安全生产业务数据分析方法 - Google Patents
基于物联网的安全生产业务数据分析方法 Download PDFInfo
- Publication number
- CN110019157A CN110019157A CN201711076328.1A CN201711076328A CN110019157A CN 110019157 A CN110019157 A CN 110019157A CN 201711076328 A CN201711076328 A CN 201711076328A CN 110019157 A CN110019157 A CN 110019157A
- Authority
- CN
- China
- Prior art keywords
- data
- safety
- production
- warehouse
- things
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2462—Approximate or statistical queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/248—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/258—Data format conversion from or to a database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/283—Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Probability & Statistics with Applications (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
一种基于物联网的安全生产业务数据分析方法,利用物联网技术通过传感器接口将传感器采集到的实时数据信息进行存储、汇聚;通过数据清洗,数据集成,数据变换,数据归约对安全生产数据预处理;通过建立大数据的数据资源体系,将数据采集、存储起来,并以指标体系为基础对数据进行资源化,用元数据方式描述将数据本身之间的关联关系和内部联系;通过在多个数据终端设备之间建立数据通信临时互连通路;建立数学模型分析各类数据之间的变化规律,并建立短信平台、邮件系统等,通过短信、邮件的形式将数据信息发送给相关管理人员。
Description
技术领域
本发明属于大数据挖掘与应用领域,具体涉及一种基于物联网的安全生产业务数据分析方法。
背景技术
目前,大数据遍布安全生产的方方面面,在大数据的支撑下安全生产管理走向“智慧化”,通过整合各类数据信息对安全生产各领域的运行状况进行监测,实现安全生产管理工作的改进和优化。基于大数据的安全生产数据分析,具备高效率的捕捉、发现和分析能力,能够经济地从类型繁杂、数量庞大的数据中挖掘出有价值的信息,实现对数据信息的实时采集、数据存储、数据分析和综合查询等功能,为安全生产运行综合管理、综合调度、综合协调、综合指挥提供数据支撑。
发明内容
本发明目的在于针对目前大数据应用需求,提供一种基于物联网的安全生产业务数据分析方法,通过物联化、互联化和智能化等技术手段,来整合安全生产相关的各类信息资源,实现各类资源的结合、互通、共享,统计、分析、评估、预警等,并对安全生产的整体运行提供决策性的支持。
本发明的技术方案如下:
一种基于物联网的安全生产业务数据分析方法,其特征在于包括以下步骤:
(1)数据接收与汇聚:将感知设备、信息系统和与其它系统数据接口的数据进行数据汇聚,同时为了保证数据的可追溯性,将原始接收的数据进行统一存储;
(2)数据预处理:通过数据清洗,数据集成,数据变换,数据归约,对安全生产数据预处理,大大提高了数据挖掘模式的质量,降低实际挖掘所需要的时间;
(3)数据统一存储:安全生产原始数据通过数据预处理的一系列加工、整理和汇总的过程完成后,形成一个面向主题的、集成的、随时间变化的、信息本身相对稳定的数据仓库;
(4)数据的分类抽取:根据安全生产数据运用方向,对于专业评估机构和安全生产信息汇总的应用数据类型不一致,将数据仓库分成基本类数据仓库和专业性数据仓库,以方便数据的专业应用及服务,
(5)数据交互:当形成应用不同的数据仓库后,多个数据终端设备之间,建立数据通信临时互连通路,将各类数据仓库中的数据转向不同的数据应用和服务机构;
(6)数据应用:数据应用主要是对安全生产数据仓库的数据完成数据的汇总、统计、分析和展示,通过数据之间的变化规律形成数据之间的曲线变化,通过手机、电脑、电视的传播手段将图形化、表格化的安全生产数据展示给各类人员。
本发明产生的有益效果主要包括两个方面:
1、基于信息本身的统计规律,对各方面的数据进行综合分析,建立数据之间的关联关系,得出预测与态势的预判,是着眼于综合性的和关键共性的各类本质问题的解决之道;
2、利用物联化、互联化和智能化等相关技术手段对其他各专业领域系统协调联动进行监视和管理,对日常运行指标的监测,从而实现对安全生产活动进行系统性和全局性的宏观状态监测。
具体实施方式
本发明通过六部分来实现数据信息的实时采集、数据存储、数据分析和综合查询等功能,数据接收与汇聚利用物联网技术通过传感器接口将传感器等前端采集设备采集到的实时数据信息进行存储、汇聚;通过数据清洗,数据集成,数据变换,数据归约等手段对安全生产数据预处理,对数据信息进行有效挖掘;通过建立大数据的数据资源体系,将数据采集、存储起来,并以指标体系为基础对数据进行资源化,用元数据方式描述将数据本身之间的关联关系和内部联系,以元数据方式描述,以便数据信息的查询和分析;通过在多个数据终端设备(DTE)之间建立数据通信临时互连通路,实现将各类数据仓库中的数据转向不同的数据应用和服务机构的功能;建立数学模型分析各类数据之间的变化规律,并建立短信平台、邮件系统等,通过短信、邮件的形式将数据信息发送给相关管理人员。
本发明包括数据接收与汇聚、数据预处理、数据统一存储、数据的分类抽取、数据交互、数据应用六部分,各部分具体实现方式如下:
(1)数据接收与汇聚:
安全生产数据中心的实现第一步必须完成安全生产数据的汇聚,这是建立数据中心的前提。数据的汇聚技术完成将感知设备、信息系统和与其它系统数据接口的数据进行数据汇聚。同时为了保证数据的可追溯性,将原始接收的数据进行统一存储。
(2)数据预处理:
原始的安全生产数据都存在的不完整、不一致和零散等问题,无法直接形成统一的安全生产数据仓库。为了提高数据挖掘的质量产生了数据预处理工作,数据预处理主要通过数据清洗,数据集成,数据变换,数据归约等。通过对安全生产数据预处理,大大提高了数据挖掘模式的质量,降低实际挖掘所需要的时间。
1)数据清洗
数据清洗通过填写缺失的值、光滑噪声数据、识别或删除离群点并解决不一致性来“清洗”数据。主要是达到如下目标:格式标准化,异常数据清除,错误纠正,重复数据的清除。
2)数据集成
数据集成例程将多个数据源中的数据结合起来并统一存储,建立数据仓库的过程实际上就是数据集成。
3)数据变换
通过平滑聚集,数据概化,规范化等方式将数据转换成适用于数据挖掘的形式。
4)数据归约
数据挖掘时往往数据量非常大,在少量数据上进行挖掘分析需要很长的时间,数据归约技术可以用来得到数据集的归约表示,它小得多,但仍然接近于保持原数据的完整性,并结果与归约前结果相同或几乎相同。
(3)数据统一存储:
安全生产原始数据通过数据预处理的一系列加工、整理和汇总的过程完成后,形成一个面向主题的、集成的、随时间变化的、信息本身相对稳定的数据集合。
数据仓库是按安全生产信息主题进行组织的、集成了各类安全生产的全局信息、记录了安全生产各个方面的信息,用于对管理决策过程的支持。
(4)数据的分类抽取:
根据安全生产数据运用方向,对于专业评估机构和安全生产信息汇总的应用数据类型不一致,将数据仓库分成基本类数据仓库和专业性数据仓库,以方便数据的专业应用及服务,数据分类抽取的过程大致如下:
1)确认数据源的数据及其含义。
2)确定访问源数据仓库中的哪些文件或表,需要提取其中哪些字段。
3)抽取频率。需要定期更新数据仓库的数据,因此对于不同的数据源,需要确定数据抽取的频率,例如每天、每星期、每月或每季度等。
(5)数据交互:
当形成应用不同的数据仓库后,多个数据终端设备(DTE)之间,建立数据通信临时互连通路。将各类数据仓库中的数据转向不同的数据应用和服务机构。
(6)数据应用:
数据应用主要是对安全生产数据仓库的数据完成数据的汇总、统计、分析和展示。通过数据之间的变化规律形成数据之间的曲线变化,通过手机、电脑、电视的传播手段将图形化、表格化的安全生产数据展示给各类人员。
Claims (3)
1.一种基于物联网的安全生产业务数据分析方法,其特征在于包括以下步骤:
(1)数据接收与汇聚:将感知设备、信息系统和与其它系统数据接口的数据进行数据汇聚,同时为了保证数据的可追溯性,将原始接收的数据进行统一存储;
(2)数据预处理:通过数据清洗,数据集成,数据变换,数据归约,对安全生产数据预处理,大大提高了数据挖掘模式的质量,降低实际挖掘所需要的时间;
(3)数据统一存储:安全生产原始数据通过数据预处理的一系列加工、整理和汇总的过程完成后,形成一个面向主题的、集成的、随时间变化的、信息本身相对稳定的数据仓库;
(4)数据的分类抽取:根据安全生产数据运用方向,对于专业评估机构和安全生产信息汇总的应用数据类型不一致,将数据仓库分成基本类数据仓库和专业性数据仓库,以方便数据的专业应用及服务,
(5)数据交互:当形成应用不同的数据仓库后,多个数据终端设备之间,建立数据通信临时互连通路,将各类数据仓库中的数据转向不同的数据应用和服务机构;
(6)数据应用:数据应用主要是对安全生产数据仓库的数据完成数据的汇总、统计、分析和展示,通过数据之间的变化规律形成数据之间的曲线变化,通过手机、电脑、电视的传播手段将图形化、表格化的安全生产数据展示给各类人员。
2.根据权利要求1所述的基于物联网的安全生产业务数据分析方法,其特征在于:步骤(2)中所述的数据清洗,数据集成,数据变换,数据归约,实现方式分别如下:
(21)数据清洗:数据清洗通过填写缺失的值、光滑噪声数据、识别或删除离群点并解决不一致性来“清洗”数据。主要是达到如下目标:格式标准化,异常数据清除,错误纠正,重复数据的清除;
(22)数据集成:数据集成是将多个数据源中的数据结合起来并统一存储,建立数据仓库的过程实际上就是数据集成;
(23)数据变换:通过平滑聚集,数据概化,规范化等方式将数据转换成适用于数据挖掘的形式;
(24)数据归约:数据挖掘时往往数据量非常大,在少量数据上进行挖掘分析需要很长的时间,通过数据归约得到数据集的归约表示,它小得多,但仍然接近于保持原数据的完整性,并结果与归约前结果相同或几乎相同。
3.根据权利要求1所述的基于物联网的安全生产业务数据分析方法,其特征在于:步骤(4)中所述数据分类抽取的过程如下:
(41)确认数据源的数据及其含义;
(42)确定访问源数据仓库中的哪些文件或表,需要提取其中哪些字段;
(43)需要确定数据抽取的频率;需要定期更新数据仓库的数据,因此对于不同的数据源,需要确定数据抽取的频率,频率按每天、每星期、每月或每季度设置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711076328.1A CN110019157A (zh) | 2017-11-06 | 2017-11-06 | 基于物联网的安全生产业务数据分析方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711076328.1A CN110019157A (zh) | 2017-11-06 | 2017-11-06 | 基于物联网的安全生产业务数据分析方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110019157A true CN110019157A (zh) | 2019-07-16 |
Family
ID=67186772
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711076328.1A Pending CN110019157A (zh) | 2017-11-06 | 2017-11-06 | 基于物联网的安全生产业务数据分析方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110019157A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110689284A (zh) * | 2019-10-15 | 2020-01-14 | 中国电力企业联合会电力建设技术经济咨询中心 | 一种项目安全风险管控方法及系统 |
CN111897853A (zh) * | 2020-07-08 | 2020-11-06 | 东莞理工学院城市学院 | 一种基于大数据的计算机数据挖掘探索方法及系统 |
CN112035450A (zh) * | 2020-07-30 | 2020-12-04 | 深圳市中盛瑞达科技有限公司 | 一种基于kettle的数据仓库实时构建方法 |
CN112084180A (zh) * | 2020-09-02 | 2020-12-15 | 中国第一汽车股份有限公司 | 一种监控车载应用质量的方法、装置、设备及介质 |
CN112685398A (zh) * | 2020-12-31 | 2021-04-20 | 新奥数能科技有限公司 | 物联网数据可视化显示方法和装置 |
-
2017
- 2017-11-06 CN CN201711076328.1A patent/CN110019157A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110689284A (zh) * | 2019-10-15 | 2020-01-14 | 中国电力企业联合会电力建设技术经济咨询中心 | 一种项目安全风险管控方法及系统 |
CN111897853A (zh) * | 2020-07-08 | 2020-11-06 | 东莞理工学院城市学院 | 一种基于大数据的计算机数据挖掘探索方法及系统 |
CN112035450A (zh) * | 2020-07-30 | 2020-12-04 | 深圳市中盛瑞达科技有限公司 | 一种基于kettle的数据仓库实时构建方法 |
CN112035450B (zh) * | 2020-07-30 | 2021-10-29 | 深圳市中盛瑞达科技有限公司 | 一种基于kettle的数据仓库实时构建方法 |
CN112084180A (zh) * | 2020-09-02 | 2020-12-15 | 中国第一汽车股份有限公司 | 一种监控车载应用质量的方法、装置、设备及介质 |
CN112685398A (zh) * | 2020-12-31 | 2021-04-20 | 新奥数能科技有限公司 | 物联网数据可视化显示方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110019157A (zh) | 基于物联网的安全生产业务数据分析方法 | |
CN103559217B (zh) | 一种面向异构数据库的海量组播数据入库实现方法 | |
CN102902752B (zh) | 一种日志监控方法及系统 | |
CN102932195B (zh) | 一种基于网络协议分析的业务分析监控方法及系统 | |
CN106453482A (zh) | 一种物联网中间件系统及物联网系统 | |
CN107730394A (zh) | 基于大数据的全景电网多元异构数据融合方法 | |
CN110417757B (zh) | 一种基于边缘计算网关的工业数据存储系统 | |
CN105069025A (zh) | 一种大数据的智能聚合可视化与管控系统 | |
CN107871187A (zh) | 一种企业安全生产数据管理方法 | |
CN109189846A (zh) | 一种基于大数据技术的公安交管可视化建模系统及方法 | |
CN104616092A (zh) | 一种基于分布式日志分析的行为模式处理方法 | |
CN107230032B (zh) | 一种电子器件管理大数据分析系统 | |
CN114153920A (zh) | 大数据边平台与方法 | |
CN105893375A (zh) | 基于大数据的安全生产循数管理方法 | |
CN106788892A (zh) | 多源异构试飞数据处理方法及多源异构试飞数据处理系统 | |
CN103106629B (zh) | 站区客流密度采集系统 | |
CN104731852A (zh) | 一种大数据系统 | |
CN111882368B (zh) | 一种在线广告dpi加密埋点及透传跟踪的方法 | |
CN117171244A (zh) | 基于数据中台构建的企业数据管理系统及其数据分析方法 | |
CN103150319A (zh) | 一种基于cs架构的特征检索后置视频摘要检索系统 | |
CN112448911B (zh) | 一种基于K-Means的正常Server IP白名单的挖掘方法 | |
CN208874596U (zh) | 一种物联网大数据源挖掘工具 | |
CN103646440A (zh) | 移动安监执法系统 | |
CN111209329A (zh) | 基于全业务量价费异动路径动态分析方法、装置及系统 | |
CN109147962A (zh) | 一种基于物联网的地质勘查远程会诊及监管系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190716 |