CN113435839A - 铝/铜板带生产全流程大数据平台架构 - Google Patents
铝/铜板带生产全流程大数据平台架构 Download PDFInfo
- Publication number
- CN113435839A CN113435839A CN202110697568.3A CN202110697568A CN113435839A CN 113435839 A CN113435839 A CN 113435839A CN 202110697568 A CN202110697568 A CN 202110697568A CN 113435839 A CN113435839 A CN 113435839A
- Authority
- CN
- China
- Prior art keywords
- data
- module
- platform
- data platform
- aluminum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004519 manufacturing process Methods 0.000 title claims abstract description 92
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 title claims abstract description 42
- 229910052782 aluminium Inorganic materials 0.000 title claims abstract description 42
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 title claims abstract description 42
- 229910052802 copper Inorganic materials 0.000 title claims abstract description 42
- 239000010949 copper Substances 0.000 title claims abstract description 42
- 238000013500 data storage Methods 0.000 claims abstract description 38
- 238000000034 method Methods 0.000 claims abstract description 32
- 238000007405 data analysis Methods 0.000 claims abstract description 31
- 238000004458 analytical method Methods 0.000 claims abstract description 29
- 230000008569 process Effects 0.000 claims abstract description 26
- 238000003860 storage Methods 0.000 claims abstract description 24
- 238000013079 data visualisation Methods 0.000 claims abstract description 14
- 238000013480 data collection Methods 0.000 claims abstract description 4
- 230000005540 biological transmission Effects 0.000 claims description 21
- 238000001514 detection method Methods 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 12
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 238000007726 management method Methods 0.000 claims description 12
- 238000013144 data compression Methods 0.000 claims description 11
- 238000013461 design Methods 0.000 claims description 9
- 238000012800 visualization Methods 0.000 claims description 9
- 238000004891 communication Methods 0.000 claims description 8
- 238000004140 cleaning Methods 0.000 claims description 6
- 238000013468 resource allocation Methods 0.000 claims description 6
- 239000000463 material Substances 0.000 claims description 4
- 238000005265 energy consumption Methods 0.000 claims description 3
- 230000036541 health Effects 0.000 claims description 3
- 239000002994 raw material Substances 0.000 claims description 3
- 230000006870 function Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000005098 hot rolling Methods 0.000 description 6
- 238000010438 heat treatment Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 238000009776 industrial production Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000005266 casting Methods 0.000 description 2
- 238000005097 cold rolling Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 238000011958 production data acquisition Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 239000004411 aluminium Substances 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013501 data transformation Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
- G06Q10/103—Workflow collaboration or project management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/04—Manufacturing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04Q—SELECTING
- H04Q9/00—Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04Q—SELECTING
- H04Q2209/00—Arrangements in telecontrol or telemetry systems
- H04Q2209/20—Arrangements in telecontrol or telemetry systems using a distributed architecture
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Computer Networks & Wireless Communication (AREA)
- Tourism & Hospitality (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Signal Processing (AREA)
- Economics (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Manufacturing & Machinery (AREA)
- Primary Health Care (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供一种铝/铜板带生产全流程大数据平台架构。本发明包括以分布式软件系统和分布式硬件设备系统,分布式硬件设备系统包括采集站、服务器和连接二者的多种网络设备,分布式软件系统包括大数据平台数据采集模块、大数据平台数据存储模块、大数据平台数据分析模块和大数据平台数据可视化模块。本发明实现以分布式计算和分布式存储为基础,结合生产流程特性并针对用户目标需求的铝/铜板带材生产全流程大数据平台结构。模块化使得大数据平台架构更为灵活,易于集成和修改,分布式系统也使得整个大数据平台具有优良的稳定性。本发明数据分析模块利用分布式计算框架,集成了多种分析方式,在一定程度上解决了现有系统功能单一的问题。
Description
技术领域
本发明涉及工业生产的平台建设领域,尤其涉及一种铝/铜板带生产全流程大数据平台架构。
背景技术
随着我国有色金属工业的迅猛发展,铝/铜板带材生产线工艺装备已经达到了国际先进水平。然而,一流的工艺装备并没有带来一流的制造水平和一流的生产效益。工业数据利用水平低是导致该问题的主要原因之一。
应用工业大数据技术提升我国铝/铜板带材产品的制造水平,既符合国家的战略需求,又是行业的迫切需要。现有数据存储系统往往使用大量的人力,如人为判断、人为检测、人为调度等,主观性判断不一致造成各类问题的发生,常常会由于判断失误导致数据错误,数据丢失等问题。根据工艺流程和现场调研,现总结出铝/铜板带生产数据平台的主要问题如下:
1.现有的数据平台大多基于单一环节或单一服务,数据勾连性差。
2.现有的数据平台大多偏向于数据查询与展示,对于数据分析涉猎较少。
3.现有的数据平台大多采用单一集成化数据平台,可拓展性差。
4.现有的数据平台大多偏向于数据库系统,不能有效利用多源异构数据。
目前工业生产数据大多采用基于单一流程或单一服务的软件,如MES,ERP等,另一方面现有生产信息系统不能进行多源异构数据的整合与数据分析,近年来,工业大数据平台逐渐进入人们视野,常见的大数据平台包括Big Table,Hadoop等。
发明内容
根据上述提出的技术问题,而提供一种铝/铜板带生产全流程大数据平台架构。本发明采用的技术手段如下:
一种铝/铜板带生产全流程大数据平台架构,包括以分布式计算与分布式存储为基础的分布式软件系统和分布式硬件设备系统,所述分布式硬件设备系统包括作为采集终端节点的采集站、用于负责处理各项任务的服务器和连接二者的多种网络设备,所述分布式软件系统包括大数据平台数据采集模块、大数据平台数据存储模块、大数据平台数据分析模块和大数据平台数据可视化模块,所述大数据平台数据采集模块用于实时采集铝/铜板带材生产全流程数据,并将其传输至所述大数据平台数据存储模块;所述大数据平台数据分析模块能够调取所述大数据平台数据存储模块存储的数据,其用于对采集铝/铜板带材生产过程数据全面计算与分析,所述大数据平台数据可视化模块用于对分析后的采集铝/铜板带材生产过程数据据进行汇总展示。
进一步地,所述分布式硬件设备系统具体包括:用于进行数据采集与传输的现场采集站、用于进行数据转换的数据转换硬件设备、用于建立大数据平台网络,方便设备之间通信的网络硬件设备、用于部署大数据平台软件系统的硬件设备和服务器。
进一步地,所述大数据平台数据采集模块还包括用于对采集到的数据进行压缩、对齐的生产数据压缩模块。
进一步地,所述生产数据压缩模块与大数据平台数据存储模块之间设有用于对压缩和处理后的数据进行本地备份和传输的数据传输模块。
进一步地,所述大数据平台数据采集模块采集的数据包括工艺过程数据、设备运行数据、质量检测数据、自然环境数据和管理信息数据,所述工艺过程数据包括原材料的配料数据、材料的基本性能数据以及各个加工设备的参数设定值;所述设备运行数据包括设备健康状态数据、设备能耗数据、设备的各部件运行参数的实时反馈数据;所述质量检测数据包括各个工艺环节的阶段性质检数据和最终质检数据;所述自然环境数据包括天气数据、温度数据、气压数据、相对湿度数据;所述管理信息数据主要包括排产计划数据、生产调度数据、设备和人员的排班数据。
进一步地,所述大数据平台数据存储模块具体包括:用于存储非结构化数据和基本文件的数据存储模块、用于存储结构化和半结构化数据的数据库服务模块和用于存储面向不同的数据源和数据结构的数据库表结构的数据库表结构设计方案存储单元。
进一步地,所述大数据平台数据分析模块包括用于对采集的铝/铜板带材生产过程数据进行增、删、改、查和数据清洗的数据基本服务模块和用于面向任务调度与资源分配的数据计算模块以及用于对生产过程问题进行分析的大数据平台算法工具库单元。
进一步地,所述大数据平台算法工具库单元包括用于对采集的铝/铜板带材生产过程数据进行数据分析的诊断型分析和预测型分析工具以及用于对分析后的数据进行处置型分析的智能决策工具。
进一步地,所述大数据平台数据可视化模块包括大数据平台基本服务可视化框架以及用于展示结构化数据的二维表结构展示模块、用于展示时间序列数据的数据绘图模块、用于展示数据分析结果的分析结果展示模块。
本发明的铝/铜板带材生产全流程大数据平台架构由各个模块构成,模块化使得大数据平台架构更为灵活,易于集成和修改,分布式系统也使得整个大数据平台具有优良的稳定性。分布在各个生产环节的数据采集站采集了生产全流程各个环节的设备数据,并集中存储的平台上,解决了信息孤岛和勾连性差的问题。数据分析利用分布式计算框架,集成了多种分析方式,在一定程度上解决了现有系统功能单一的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图做以简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明构建的大数据平台基本架构图。
图2为本发明构建的硬件设备架构图。
图3为本发明构建的大数据平台组网方案。
图4为本发明铝/铜板带材生产流程示意图。
图5为本发明构建的大数据平台软件架构图。
图6为本发明构建的大数据平台数据采集模块架构图。
图7为本发明构建的大数据平台数据存储模块结构图。
图8为本发明构建的大数据平台数据处理模块结构图。
图9为本发明构建的大数据平台数据可视化模块结构图。
图10为本发明构建的大数据平台软件系统示例结构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明实施例公开了一种铝/铜板带生产全流程大数据平台架构,包括以分布式计算与分布式存储为基础的分布式软件系统和分布式硬件设备系统,所述分布式硬件设备系统包括作为采集终端节点的采集站、用于负责处理各项任务的服务器和连接二者的多种网络设备,数据采集站将数据从生产设备采集数据,在完成格式统一和数据压缩后发往服务器。服务器负责处理各项任务,包括基本架构的部署、软件平台的部署和面向企业定制的工业化应用的部署、数据存储以及计算。网络设备需要根据各个设备之间的连接特性和成本化考虑,选择合适的网络设备,将硬件设备连接为一体。
所述分布式软件系统包括大数据平台数据采集模块、大数据平台数据存储模块、大数据平台数据分析模块和大数据平台数据可视化模块,所述大数据平台数据采集模块用于实时采集铝/铜板带材生产全流程数据,并将其传输至所述大数据平台数据存储模块;所述大数据平台数据分析模块能够调取所述大数据平台数据存储模块存储的数据,其用于对采集铝/铜板带材生产过程数据全面计算与分析,所述大数据平台数据可视化模块用于对分析后的采集铝/铜板带材生产过程数据进行汇总展示。四大模块既可单独完成各自工作,相互之间还可以进行数据传递,共同工作,形成“采集-存储-分析-展示”的铝/铜板带材生产全流程大数据处理流程。
所述分布式硬件设备系统具体包括:用于进行数据采集与传输的现场采集站、用于进行数据转换的数据转换硬件设备、用于建立大数据平台网络,方便设备之间通信的网络硬件设备、用于部署大数据平台软件系统的硬件设备和服务器。
本实施例中,对于所述的数据采集模块,针对铝/铜板带材生产流程四大部分(包括熔铸、热轧、冷轧和热处理)包含的各类设备,进行各类数据的采集。以热轧过程为例,应采集的主要设备以推进式加热炉和热轧机两大设备为主,具体包括工艺过程数据、设备运行数据、质量检测数据、自然环境数据和管理信息数据。各个数据作为设备生产过程的描述或基本组成形式,需要进行全面和细致的采集。具体采集设备为现场采集站,采集方案使用大数据平台的分布式软件平台中数据采集模块进行部署,以分布式形式部署于生产的各个环节进行数据采集。
本实施例中,对于所述现场采集站,其作为生产数据采集上传的第一站,现场采集站往往采用“一对多”模式,即一台采集站往往要采集多个生产设备的数据。采集站负责数据压缩和数据备份功能,因此需要较大存储容量和较高计算能力。考虑到压缩后的数据状态,网络传输可选择适中网络带宽以兼顾速度和成本。对于所述数据转换硬件设备,大数据平台的软件系统为了针对传统工业生产设备产生的数据格式,为降低网络开销和采集站性能负担,利用单独服务器作为数据存储辅助设备。用于数据转换的硬件设备与用于部署大数据平台软件的应用服务器配置类似。对于所述网络硬件设备,大数据平台数据子网的网络设备根据各级数据采集要求进行分布,集群内与集群间采用高速网络,集群到采集站次之,采集站到设备最低。设备的组网方案需要考虑IP地址分配以符合网络管理需求,服务器配置网络管理子网和端口方便对服务器进行管理。对于所述硬件设备,大数据平台的软件系统采用了应用即服务架构,对于各类应用需要一台应用服务器进行应用部署。应用服务器的配置基本硬件配置需要满足大数据平台软件,需要配置高速网络以满足分布式数据传输和服务调度需求。对于所述服务器,服务器集群尽量位于一处(同一机柜或同一机房),每台服务器的性能为双路中高性能处理器。为满足分布式计算,配备了高速网络和大内存。由于服务器集群的分布式特性,数据存储磁盘直接挂载到每台服务器,加速计算时数据吞吐。
作为优选的实施方式,除了所述数据采集模块外,所述大数据平台数据采集模块还包括用于对采集到的数据进行压缩、对齐的生产数据压缩模块。所述数据采集模块主体部分部署在硬件系统的数据采集站内,生产数据采集模块利用常见生产设备通信协议,可以根据需要从生产设备的存储器内直接读取数据,同时对于二级系统的上位机软件同样可以进行采集;为降低对数据存储和网络带宽的开销,需要将采集到的数据进行对格式对齐并使用开源算法进行文件压缩,经过所述生产数据压缩模块处理后的文件,进行压缩后体积大幅下降,并能够根据时间和设备等基本信息对文件进行命名,所述生产数据压缩模块与大数据平台数据存储模块之间设有用于对压缩和处理后的数据进行本地备份和传输的数据传输模块。具体地,数据传输模块负责对压缩后的文件进行管理,在采集站进行备份,同时将文件利用局域网向服务器集群传输。数据传输模块有一部分存在于服务器端,负责文件接收,同时支持断点续传功能。
所述大数据平台数据存储模块具体包括:用于存储非结构化数据和基本文件的数据存储模块、用于存储结构化和半结构化数据的数据库服务模块和用于存储面向不同的数据源和数据结构的数据库表结构的数据库表结构设计方案存储单元。其中,文件存储模块是数据存储的基石,文件存储模块利用开源大数据服务实现分布式存储。非结构化数据的存储路径经过系统设计,文件路径存储在数据库内,方便检索和提取。数据库服务模块同样基于开源大数据技术,面向铝/铜板带生产全流程工艺进行分表。列族根据数据采集频率进行判别。利用关系型数据库作为基本索引,对非关系型数据库进行查询。数据库表结构设计方案存储单元中存储了对生产设备数据进行分类的表结构设计方案,根据不同特性制定不同的表结构,并与数据库进行结合,将数据妥善存储。
所述大数据平台数据分析模块包括用于对采集的铝/铜板带材生产过程数据进行增、删、改、查和数据清洗的数据基本服务模块和用于面向任务调度与资源分配的数据计算模块以及用于对生产过程问题进行分析的大数据平台算法工具库单元。其中,数据基本服务模块可以根据工艺人员需求进行数据检索和改正,同时集成数据清洗服务用于支持数据分析。任务调度和计算模块利用现有开源大数据软件进行管理,根据需要进行任务开销配置。
作为优选的实施方式,所述大数据平台算法工具库单元集成常见机器学习和优化算法,同时根据工艺人员和企业需求可集成各类工业应用,进一步提升集成度和模块化特性。具体地包括用于对采集的铝/铜板带材生产过程数据进行数据分析的诊断型分析和预测型分析工具以及用于对分析后的数据进行处置型分析的智能决策工具。
所述大数据平台数据可视化模块包括大数据平台基本服务可视化框架以及用于展示结构化数据的二维表结构展示模块、用于展示时间序列数据的数据绘图模块、用于展示数据分析结果的分析结果展示模块。本实施例中,基本可视化框架采用常见开源框架,实现大数据平台各个功能的索引和基本操作。二维表结构展示模块用于展示结构化数据,根据类型不同自动进行版式调节。对于半结构化数据(时间序列数据),数据绘图模块能够向用户提供各类数据展示图,使用户直观观察数据特性,方便数据分析。针对优化方法工具池优化的数据,数据分析的分析结果以图表文字进行展示,结果展示模块向用户展示数据分析的模型,评价指标,准确度等相关信息。并将结果进行特化绘图进行展示。
本发明的大数据平台数据存储模块,利用分布式存储方法,实现良好冗余性和数据存储性能。利用表结构设计方案和文件存储架构结合,实现对于铝/铜板带材生产全流程设备产生的多源异构数据的良好存储,以便查询。大数据平台数据分析模块,利用分布式计算与机器学习方法,结合生产工艺特性,制定了一系列生产过程分析方法并集成在算法库内。实现了“诊断型分析-预测型分析-处置型分析”的数据分析流程,支持工业应用并提升产品质量,改进工艺参数。同时,为方便用户观察数据特征和数据分析结果,通过大数据平台数据可视化模块对数据进行可视化处理后,可视化展示,方便直观地显示多源异构数据的各种状态。
实施例1
本实施例中铝/铜板带生产全流程大数据整体架构包括以下两部分:
P1:分布式硬件系统在实际选择时,以中型企业为例,核心服务器集群为7台,应用部署服务器1台,数据转换服务器1台,现场采集站26台,网络设备等将在后文详细描述。铝/铜板带材生产全流程大数据平台硬件系统各级设备应经过现场设备统计与计算后,进行设备选型。并确保硬件设备系统在能满足企业大数据软件系统的需求同时,在合理范围内选择物美价廉的具体型号。
P2:分布式软件系统在实际采用时,利用开源的Hadoop平台,并以Web为基本结构(B/S结构),基本编程语言为Java,各个功能以包和包内的类与结构实现,具体结构见下文。
具体地,图2所示的硬件设备架构在具体选型方面作如下示例:
P11:分布式计算与分布式存储的硬件核心集群为7台服务器,配置为1主6从模式,每台服务器配置采用2路CPU,总核心数为16核32线程。每台服务器配置128G内存以满足内存计算需求。服务器使用双口光纤网卡,速率为10Gb/s,网络配置为bond0,叠加带宽以提升性能。存储方面配置4块4T机械硬盘,7200rpm,可根据需求配置Raid,默认不需要配置。系统盘采用128G固态硬盘以提升响应速度,需配置Raid0做备份。
P12:用于部署大数据平台软件系统的硬件设备,应用服务器的基本配置与服务器集群配置相同,使用者可按需调整。需要注意的是,应用服务器的网络同样为10Gb/s级,并进行bond0叠加,提升传输性能。
P13:用于进行数据转换的数据转换硬件设备,数据转换服务器的基本配置与服务器集群配置相同,使用者可按需调整。需要注意的是,应用服务器的网络同样为10Gb/s级,并进行bond0叠加,提升传输性能。
P14:用于进行数据采集与传输的现场采集站,为提升计算速度和数据存储容量,每台数据采集站采用Intel i7 CPU,16G内存以满足数据压缩计算需求,系统盘配置为256G固态硬盘提升速度,辅以1TB机械硬盘提升存储空间。需要注意的是,现场采集站需配备3个1.0Gb/s的网络接口,以满足设备连接需要。
如图3所示,首先利用硬件防火墙(兼路由)对网络进行管理,将整个网络分为两个网段,即数据子网和管理子网。管理子网仅连接服务器,用于对设备进行远程维护。数据子网又分为3层,分别是万兆级(10Gb/s),千兆级(1.0Gb/s)和百兆级(100Mb/s)。其中百兆级网络主要针对各类生产设备控制器(PLC),他们很多设备在配备上只有百兆级网口,因此搭配百兆级网络和对应的交换机以降低成本。千兆级主要针对现场采集站数据上传部分,一个现场采集站往往采集多个生产设备的数据,因此配备更高一级的千兆网络,及提升了速度,又节省成本,同时降低布线难度,属于折中方案,搭配千兆级交换机节省成本。最高速的万兆级网络主要面向服务器之间通信,由于大数据平台硬件系统属于分布式硬件系统,设备之间的数据交换至关重要。因此采用最高级别的网络配置,搭配万兆级别交换机,提升平台的整体性能。
如图4所示的铝/铜板带材生产流程进行如下梳理:
整个板带生产线以熔铸,热轧,冷轧和热处理四大部分为主体工艺流程。根据企业的具体需求可进行更改。以热轧为例,主要生产设备为推进式加热炉和热轧机。在生产过程中,有5大类数据参与了生产过程。分别是:工艺过程数据、设备运行数据、质量检测数据、自然环境数据和管理信息数据。这几类数据职能各不相同,使用场景也不同。
工艺过程数据主要包括原材料的配料数据、材料的基本性能数据以及各个加工设备的参数设定值等。这些数据随生产设备变化对于同一材料会有不同的体现,整体为数据项繁杂,但采集频率不高。
设备运行数据主要包括设备健康状态数据、设备能耗数据、设备的各部件运行参数的实时反馈数据等。这类数据数据项众多且数据采样要求很高,能用来描述生产过程中设备的运行状态。同时描述设备运行的数据也包括图片、音频、视频等,整体体现出多源异构的状态。
质量检测数据主要包括各个工艺环节的阶段性质检数据和最终质检数据等,形式多样。对于质量的描述包括图片、视频、音频和结构化数据等,体现出多源异构的状态。
自然环境数据主要包括天气数据、温度数据、气压数据、相对湿度数据等。自然环境的状态可游离于生产设备之外,以所在车间位置的传感器为标准,同时结合当地的气象数据,能更好地描述生产环境。
管理信息数据主要包括排产计划数据、生产调度数据、设备和人员的排班数据等。管理信息数据主要描述生产人员具体信息和排产,可以详细描述计划和操作人员,易于排查人员操作问题。
以上5大类数据相互结合,共同进行描述,构成数字化生产流程。数据往往分布在各处,且形式不同。因此采用分布式现场数据采集站,结合数据采集软件进行数据采集。
如图5所示的软件系统包括以下四部分:
P21:主要应用于现场数据采集的大数据平台数据采集模块,数据采集模块相对于其他软件模块,主体部分部署在现场采集站,根据需求实施对数据的采集-压缩-备份/发送,将数据传输到大数据平台。
P22:主要应用于存储各类数据的大数据平台数据存储模块,数据存储模块接受来自于现场采集站和其他系统的数据,并进行存储。数据存储模块基于开源的Hadoop中的HDFS系统,利用开源HBase数据库进行数据存储,具体的数据库表结构设计根据企业进行定制化设计。
P23:主要用于进行计算与分析的大数据平台数据分析模块,数据分析模块从数据存储模块取得数据并根据工艺需求进行计算,最终将数据分析结果展现。具体细节见下文。
P24:主要用于展示数据和计算结果的大数据平台数据可视化模块,利用开源的前后端框架,根据系统特性和工艺具体需求定制化数据可视化,与数据分析和数据存储进行对应。用户的一切操作都基于可视化组件完成。
如图6所示,数据采集模块具体包括:
P211:面向生产设备的生产数据采集模块,为方便连接生产设备PLC,数据采集模块主题部分使用C#语言实现,利用生产设备配备的通用通信协议利用工业以太网进行数据采集,根据设备需求不同,最高可进行毫秒级的精确大批量采集。同样对于已有数据采集器的部分设备和工艺,可以利用Socket通信接受数据。
P212:对采集到的数据进行压缩、对齐的生产数据压缩模块,数据压缩模块采用开源的deflate算法,大幅压缩数据,利用现场采集站的计算能力,大幅降低数据存储和传输的开销。
P213:对压缩和处理后的数据进行本地备份和传输的数据传输模块,数据传输模块分为两部分,一部分部署在现场采集站,另一部分部署在大数据应用服务器。现场采集站部分负责数据文件的本地备份和数据发送,利用Socket通信进行数据传输,支持本地保存和断点续传功能。
如图7所示,数据存储模块具体包括:
P221:面向非结构化数据和基本文件存储的数据存储模块,数据存储模块依托于开源的Hadoop平台中的HDFS系统,对文件数据进行存储。一部分直接存储多源异构数据,另一部分支持数据库服务文件存储。
P222:面向结构化和半结构化数据存储的数据库服务模块,数据库服务模块依托于Hadoop配套的HBase数据库,将接收到的来自数据采集模块的半结构化数据进行高效存储。
P223:面向不同的数据源和数据结构的数据库表结构设计方案,表结构方案根据企业工艺流程特点和生产设备数据特点进行设计,表结构方案应该具有统一性,高效性和高兼容性,用于指导数据库服务模块完成数据存储。
如图8所示,数据处理模块具体包括:
P231:面向数据基本功能,即增、删、改、查和数据清洗的数据基本服务模块,数据基本服务模块控制数据的导入导出,数据的查询,以及数据的编辑和删除。作为数据分析的前提条件,在一定程度上根据数据特性和生产工艺特性还集成了数据清洗功能,实现对数据的基本操作和预处理。
P232:面向任务调度与资源分配的数据计算模块,计算模块依托于开源大数据软件Hadoop中的yarn组件和配套的Spark软件,负责资源分配和任务调度。用于支持整个数据处理模块。
P233:面向生产过程问题的大数据平台算法工具库,大数据平台算法库作为数据处理的重要组成部分,主要集成了常见的机器学习方法和优化算法,同时内部集成了定制化工业应用,将来自数据基本服务模块的预处理后的数据进行数据分析,并将结果呈现给用户,辅助决策。
如图9所示,数据可视化模块具体包括:
P241:大数据平台基本服务可视化框架,大数据平台基本服务可视化框架作为可视化模块基础,支持着各类可视化应用。基本服务,操作和初始界面都在可视化框架上完成。
P242:面向结构化数据展示的二维表结构展示模块,二维表结构展示针对结构化数据和部分半结构化数据,将数据查询得到的结果展示给用户。支持自动排版和字段翻译,方便用户对数据进行观察和管理。
P243:面向时间序列数据展示的数据绘图模块,数据绘图模块集成了各种数据绘图功能,面向时间序列数据对用户进行展示,支持查询和时间轴对正。对于统计数据和统计结果,采用饼形图、折线图、条形图和箱型图等多种绘图工具进行图像绘制。方便用户直观查看数据。
P244:面向数据分析的分析结果展示模块,对于各类数据分析方法,其展示结果不同,分析结果展示模块集成了大数据平台算法库内数据分析方法的计算结果展示,包括模型展示,评价指标展示和结果绘图功能。
图10展示了大数据平台分布式软件系统的整体架构,其中包括了各部分之间关系。其中不难看出,整体数据流从数据采集模块流向数据存储模块,并提供给数据处理模块。数据经过数据基本服务模块进行简单处理后,根据用户需求调用算法工具库。算法工具库包括诊断型分析,预测型分析和处置型分析,诊断型分析利用MLlib和SK-Learn中的各类机器学习方法诊断问题产生的原因。预测型分析利用各类优化方法,对可能发生的结果进行预测。最后利用企业工艺应用进行处置型分析,将参考决策呈现给用户。各类方法既可以独立调用,又可以将模型和分析结果提交给上一级分析,进一步优化各类参数。在这个过程中,数据计算模块负责任务调度与资源分配,数据可视化用来进行展示。各个模块相互配合,共同组成大数据平台分布式软件系统。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (9)
1.一种铝/铜板带生产全流程大数据平台架构,其特征在于,包括以分布式计算与分布式存储为基础的分布式软件系统和分布式硬件设备系统,所述分布式硬件设备系统包括作为采集终端节点的采集站、用于负责处理各项任务的服务器和连接二者的多种网络设备,所述分布式软件系统包括大数据平台数据采集模块、大数据平台数据存储模块、大数据平台数据分析模块和大数据平台数据可视化模块,所述大数据平台数据采集模块用于实时采集铝/铜板带材生产全流程数据,并将其传输至所述大数据平台数据存储模块;所述大数据平台数据分析模块能够调取所述大数据平台数据存储模块存储的数据,其用于对采集铝/铜板带材生产过程数据全面计算与分析,所述大数据平台数据可视化模块用于对分析后的采集铝/铜板带材生产过程数据据进行汇总展示。
2.根据权利要求1所述的铝/铜板带生产全流程大数据平台架构,其特征在于,所述分布式硬件设备系统具体包括:用于进行数据采集与传输的现场采集站、用于进行数据转换的数据转换硬件设备、用于建立大数据平台网络,方便设备之间通信的网络硬件设备、用于部署大数据平台软件系统的硬件设备和服务器。
3.根据权利要求1所述的铝/铜板带生产全流程大数据平台架构,其特征在于,所述大数据平台数据采集模块还包括用于对采集到的数据进行压缩、对齐的生产数据压缩模块。
4.根据权利要求3所述的铝/铜板带生产全流程大数据平台架构,其特征在于,所述生产数据压缩模块与大数据平台数据存储模块之间设有用于对压缩和处理后的数据进行本地备份和传输的数据传输模块。
5.根据权利要求1~4任一项所述的铝/铜板带生产全流程大数据平台架构,其特征在于,所述大数据平台数据采集模块采集的数据包括工艺过程数据、设备运行数据、质量检测数据、自然环境数据和管理信息数据,所述工艺过程数据包括原材料的配料数据、材料的基本性能数据以及各个加工设备的参数设定值;所述设备运行数据包括设备健康状态数据、设备能耗数据、设备的各部件运行参数的实时反馈数据;所述质量检测数据包括各个工艺环节的阶段性质检数据和最终质检数据;所述自然环境数据包括天气数据、温度数据、气压数据、相对湿度数据;所述管理信息数据主要包括排产计划数据、生产调度数据、设备和人员的排班数据。
6.根据权利要求1所述的铝/铜板带生产全流程大数据平台架构,其特征在于,所述大数据平台数据存储模块具体包括:用于存储非结构化数据和基本文件的数据存储模块、用于存储结构化和半结构化数据的数据库服务模块和用于存储面向不同的数据源和数据结构的数据库表结构的数据库表结构设计方案存储单元。
7.根据权利要求1所述的铝/铜板带生产全流程大数据平台架构,其特征在于,所述大数据平台数据分析模块包括用于对采集的铝/铜板带材生产过程数据进行增、删、改、查和数据清洗的数据基本服务模块和用于面向任务调度与资源分配的数据计算模块以及用于对生产过程问题进行分析的大数据平台算法工具库单元。
8.根据权利要求7所述的铝/铜板带生产全流程大数据平台架构,其特征在于,所述大数据平台算法工具库单元包括用于对采集的铝/铜板带材生产过程数据进行数据分析的诊断型分析和预测型分析工具以及用于对分析后的数据进行处置型分析的智能决策工具。
9.根据权利要求1所述的铝/铜板带生产全流程大数据平台架构,其特征在于,所述大数据平台数据可视化模块包括大数据平台基本服务可视化框架以及用于展示结构化数据的二维表结构展示模块、用于展示时间序列数据的数据绘图模块、用于展示数据分析结果的分析结果展示模块。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110697568.3A CN113435839A (zh) | 2021-06-23 | 2021-06-23 | 铝/铜板带生产全流程大数据平台架构 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110697568.3A CN113435839A (zh) | 2021-06-23 | 2021-06-23 | 铝/铜板带生产全流程大数据平台架构 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113435839A true CN113435839A (zh) | 2021-09-24 |
Family
ID=77753555
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110697568.3A Pending CN113435839A (zh) | 2021-06-23 | 2021-06-23 | 铝/铜板带生产全流程大数据平台架构 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113435839A (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105469181A (zh) * | 2015-02-05 | 2016-04-06 | 贵阳铝镁设计研究院有限公司 | 一种基于大数据分析的铝电解过程能效管理系统 |
US20190145238A1 (en) * | 2016-07-29 | 2019-05-16 | Halliburton Energy Services, Inc. | Time-dependent spatial distribution of proppant effects in a discrete fracture network |
CN110161999A (zh) * | 2019-06-14 | 2019-08-23 | 湖南千盟智能信息技术有限公司 | 基于大数据的焦化智能制造系统 |
US20190306175A1 (en) * | 2018-03-31 | 2019-10-03 | Yoshinaga Kato | Communication terminal, communication system, communication control method, and recording medium |
CN112102111A (zh) * | 2020-09-27 | 2020-12-18 | 华电福新广州能源有限公司 | 一种发电厂数据智能处理系统 |
-
2021
- 2021-06-23 CN CN202110697568.3A patent/CN113435839A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105469181A (zh) * | 2015-02-05 | 2016-04-06 | 贵阳铝镁设计研究院有限公司 | 一种基于大数据分析的铝电解过程能效管理系统 |
US20190145238A1 (en) * | 2016-07-29 | 2019-05-16 | Halliburton Energy Services, Inc. | Time-dependent spatial distribution of proppant effects in a discrete fracture network |
US20190306175A1 (en) * | 2018-03-31 | 2019-10-03 | Yoshinaga Kato | Communication terminal, communication system, communication control method, and recording medium |
CN110161999A (zh) * | 2019-06-14 | 2019-08-23 | 湖南千盟智能信息技术有限公司 | 基于大数据的焦化智能制造系统 |
CN112102111A (zh) * | 2020-09-27 | 2020-12-18 | 华电福新广州能源有限公司 | 一种发电厂数据智能处理系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110022226B (zh) | 一种基于面向对象的数据采集系统及采集方法 | |
WO2021244263A1 (zh) | 一种自动化生产控制的架构的构建方法 | |
CN107942966A (zh) | 生产信息化管理系统、数控机床及生产管理系统 | |
DE102014103353A1 (de) | Sammeln und Bereitstellen von Daten an eine Big-Data-Maschine in einem Prozesssteuerungssystem | |
CN110597057A (zh) | 在工业应用场景下的数据处理系统 | |
CN106603958A (zh) | 分布式存储的变电站巡检机器人远程集中监控系统及方法 | |
CN114004584A (zh) | 一种基于数据中台构建用户画像的电力信息管理方法 | |
CN117097727A (zh) | 一种基于工业物联网平台的边缘计算系统 | |
CN115047841A (zh) | 一种基于云平台的风电机组远程故障诊断系统 | |
CN109709839A (zh) | 一种生物质电厂多级实时监控方法 | |
CN106094775A (zh) | 一种剪切生产线远程监控系统 | |
CN115511656A (zh) | 一种基于挖掘电网数据价值的需求规划辅助决策系统 | |
CN118468692A (zh) | 一种基于大语言模型的通信机房布局优化系统 | |
CN205563673U (zh) | 一种智能企业过程管理系统 | |
CN114648223A (zh) | 一种基于物联网的智慧城市能耗数据挖掘系统及方法 | |
CN114706994A (zh) | 一种基于知识库的运维管理系统和方法 | |
CN113435839A (zh) | 铝/铜板带生产全流程大数据平台架构 | |
CN111431954A (zh) | 一种生产设备的远程故障解决系统和方法 | |
CN117493452A (zh) | 制造现场全流程数据管理系统 | |
CN110544985A (zh) | 一种网源协调数据通信系统 | |
CN111404742A (zh) | 一种面向智慧供应链的工业互联架构 | |
CN109933568A (zh) | 一种工业大数据平台系统及其查询方法 | |
CN109308563A (zh) | 一种模块化工业服务平台、工作方法及配置方法 | |
CN109165753A (zh) | 一种基于移动平台的变电站缺陷管理方法 | |
CN115081679A (zh) | 基于cdc的工业数据动态变化自动感知处理系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20210924 |