CN104881293A - 一种Linux系统规则数据处理系统及方法 - Google Patents
一种Linux系统规则数据处理系统及方法 Download PDFInfo
- Publication number
- CN104881293A CN104881293A CN201510314700.2A CN201510314700A CN104881293A CN 104881293 A CN104881293 A CN 104881293A CN 201510314700 A CN201510314700 A CN 201510314700A CN 104881293 A CN104881293 A CN 104881293A
- Authority
- CN
- China
- Prior art keywords
- data
- linux system
- module
- linux
- carries out
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种Linux系统规则数据处理系统及方法,其中的一种Linux系统规则数据处理系统,包括:数据文件规范化命名模块、单一数据处理模块、综合处理模块及数据结果可视化模块。本发明与现有的方法相比,在智能化、自动化以及处理效率方面,具有明显的优势。
Description
技术领域
本发明涉及计算机软件及操作系统技术领域,具体涉及一种Linux系统规则数据处理系统及方法。
背景技术
基础软件领域,Windows XP的停止服务引发了广泛的关注,给用户带来了潜在的安全威胁。国产操作系统是国家信息化发展的基石,是保障国家信息安全的关键力量。目前我国的国产操作系统如中标麒麟系统的内核是以linux为基础的,而我国大部分用户的计算机使用的是Windows,并不熟悉Linux环境。然而,在自主可控的核心软件需求成为必然趋势的前提下,科研人员使用中标麒麟等以linux系统为核心的国产操作系统已经成为必然选择,未来大数据环境,使得用户面临对海量规则数据的处理。所谓规则数据,本发明中指数据的列有明确的定义和数据类型,每一行记录一条信息,并且有固定的格式。现有的处理方式存在的问题是:对于海量规则数据的采用命令行式的操作或采用单纯Shell脚本或是手工的方式,导致处理效率低下,难以满足现实需求。
基于上述客观现实,设计实现linux系统下的海量规则数据处理方法,优化数据处理流程,增加数据处理过程中的智能性,减少人工操作环节,提高linux系统平台下的数据处理效率,将具有一定的现实意义。
发明内容
本发明要解决的问题是linux系统环境下,数据处理步骤繁琐、效率低下的问题。
根据本发明的一个方面,提供了一种Linux系统规则数据处理系统,包括:数据文件规范化命名模块、单一数据处理模块、综合处理模块及数据结果可视化模块。
根据本发明的又一个方面,提供了一种Linux系统规则数据处理方法,包括以下步骤:
S1,对规则数据文件进行规范化命名;
S2,进入单一数据文件处理模块,依次对数据文件进行处理;
S3,对数据结果进行综合处理;
S4,对数据进行可视化处理。
进一步地,所述步骤S1具体为:数据文件规范化命名模块采用shell脚本或mv命令对规则数据文件进行规范化命名。
更进一步地,所述步骤S2具体为:单一数据处理模块采用shell脚本、awk语言、perl语言以及Linux环境下的统计命令,从数据的第一行开始,访问到数据的最后一行,然后对数据进行统计,并将结果保存到规范化命名的文档。。
更进一步地,所述步骤S3具体为:综合处理模块主要用shell脚本、awk语言、perl语言以及Linux环境下的合并,进行排序、加权、取平均值以及用户需要的操作处理。
更进一步地,所述步骤S4具体为:数据结果可视化模块对步骤S3得到的结果文件进行可视化处理,运用gnuplot对结果进行二维、三维可视化操作。
本发明具有如下优点:
本发明与现有的方法相比,在智能化、自动化以及处理效率方面,具有明显的优势。
除了上面所描述的目的、特征和优点之外,本发明还有其它的目的、特征和优点。下面将参照图,对本发明作进一步详细的说明。
附图说明
构成本申请的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。
图1是本发明的一种Linux系统规则数据处理系统框图;
图2是本发明的一种Linux系统规则数据处理方法流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
实施例1
图1示出了本发明的一种Linux系统规则数据处理系统框图。
参照图1,如图1所示的一种Linux系统规则数据处理系统,包括:数据文件规范化命名模块、单一数据处理模块、综合处理模块及数据结果可视化模块。
实施例2
图2示出了本发明的一种Linux系统规则数据处理方法流程图。
参照图2,如图2所示的一种Linux系统规则数据处理方法,包括以下步骤:
S1,对规则数据文件进行规范化命名;
S2,进入单一数据文件处理模块,依次对数据文件进行处理;
S3,对数据结果进行综合处理;
S4,对数据进行可视化处理。
所述步骤S1具体为:数据文件规范化命名模块采用shell脚本或mv命令对规则数据文件进行规范化命名。
所述步骤S2具体为:单一数据处理模块采用shell脚本、awk语言、perl语言以及Linux环境下的统计命令,从数据的第一行开始,访问到数据的最后一行,然后对数据进行统计,并将结果保存到规范化命名的文档。。
所述步骤S3具体为:综合处理模块主要用shell脚本、awk语言、perl语言以及Linux环境下的合并,进行排序、加权、取平均值以及用户需要的操作处理。
所述步骤S4具体为:数据结果可视化模块对步骤S3得到的结果文件进行可视化处理,运用gnuplot对结果进行二维、三维可视化操作。
本发明采用循环的方式,依次对每一个规则数据进行处理。每一个数据进行处理的流程是:通过编程从第一行行开始一直处理到最后一行,然后根据需求进行统计,给出统计结果。在上面的过程中,采用shell语言、awk语言和gnuplot语言相结合,实现本方法中的数据规范化命名模块、单一数据处理模块、综合处理模块和可视化处理模块,最终实现本方法。
本发明与现有的方法相比,在智能化、自动化以及处理效率方面,具有明显的优势。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (6)
1.一种Linux系统规则数据处理系统,其特征在于,包括:数据文件
规范化命名模块、单一数据处理模块、综合处理模块及数据结果可视化模块。
2.一种Linux系统规则数据处理方法,其特征在于,包括以下步
骤:
S1,对规则数据文件进行规范化命名;
S2,进入单一数据文件处理模块,依次对数据文件进行处理;
S3,对数据结果进行综合处理;
S4,对数据进行可视化处理。
3.根据权利要求2所述的Linux系统规则数据处理方法,其特征在于,
所述步骤S1具体为:数据文件规范化命名模块采用shell脚本或mv命令对规则数据文件进行规范化命名。
4.根据权利要求2所述的Linux系统规则数据处理方法,其特征在于,
所述步骤S2具体为:单一数据处理模块采用shell脚本、awk语言、perl语言以及Linux环境下的统计命令,从数据的第一行开始,访问到数据的最后一行,然后对数据进行统计,并将结果保存到规范化命名的文档。
5.根据权利要求2所述的Linux系统规则数据处理方法,其特征在于,
所述步骤S3具体为:综合处理模块主要用shell脚本、awk语言、perl语言以及Linux环境下的合并,进行排序、加权、取平均值以及用户需要的操作处理。
6.根据权利要求2所述的Linux系统规则数据处理方法,其特征在于,
所述步骤S4具体为:数据结果可视化模块对步骤S3得到的结果文件进行可视化处理,运用gnuplot对结果进行二维、三维可视化操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510314700.2A CN104881293A (zh) | 2015-06-10 | 2015-06-10 | 一种Linux系统规则数据处理系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510314700.2A CN104881293A (zh) | 2015-06-10 | 2015-06-10 | 一种Linux系统规则数据处理系统及方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN104881293A true CN104881293A (zh) | 2015-09-02 |
Family
ID=53948800
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510314700.2A Pending CN104881293A (zh) | 2015-06-10 | 2015-06-10 | 一种Linux系统规则数据处理系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104881293A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108804292A (zh) * | 2018-06-20 | 2018-11-13 | 郑州云海信息技术有限公司 | 一种用于Linux的CPU压力测试监控方法 |
CN112835750A (zh) * | 2019-11-22 | 2021-05-25 | 上海欧菲智能车联科技有限公司 | 数据处理方法及数据处理系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7353514B1 (en) * | 2000-10-27 | 2008-04-01 | Sprint Communications Company L.P. | Computer software method for administering batch jobs |
CN101620634A (zh) * | 2009-07-29 | 2010-01-06 | 中兴通讯股份有限公司 | 一种数据统计装置及方法 |
-
2015
- 2015-06-10 CN CN201510314700.2A patent/CN104881293A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7353514B1 (en) * | 2000-10-27 | 2008-04-01 | Sprint Communications Company L.P. | Computer software method for administering batch jobs |
CN101620634A (zh) * | 2009-07-29 | 2010-01-06 | 中兴通讯股份有限公司 | 一种数据统计装置及方法 |
Non-Patent Citations (2)
Title |
---|
CHINAUNIX: "用Perl统计重复行次数并排序(千万级行数)的代码", 《HTTP://BBS.CHINAUNIX.NET/THREAD-4062971-1-1.HTML》 * |
MCSHELL: "利用perl计算考勤表并且输出excel表格", 《HTTP://MCSHELL.BLOG.51CTO.COM/803455/1143173》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108804292A (zh) * | 2018-06-20 | 2018-11-13 | 郑州云海信息技术有限公司 | 一种用于Linux的CPU压力测试监控方法 |
CN112835750A (zh) * | 2019-11-22 | 2021-05-25 | 上海欧菲智能车联科技有限公司 | 数据处理方法及数据处理系统 |
CN112835750B (zh) * | 2019-11-22 | 2023-01-17 | 上海欧菲智能车联科技有限公司 | 数据处理方法及数据处理系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103092788B (zh) | 多核处理器及数据访问方法 | |
CN111309825A (zh) | 数据聚类的存储方法、装置及计算机可读存储介质 | |
CN102915344B (zh) | 一种sql语句处理方法及装置 | |
CN103279846A (zh) | 一种基于bim模型的工程验收方法和系统 | |
CN101877021A (zh) | 动力学分析、三维造型和有限元分析软件间数据自动转换的方法 | |
CN103647850A (zh) | 一种分布式版本控制系统的数据处理方法、设备及系统 | |
CN110780879B (zh) | 一种基于智能编译技术的决策执行方法、装置、设备及介质 | |
CN103235811A (zh) | 一种数据存储方法及装置 | |
CN104881298A (zh) | 用于在线显示文档的方法和装置 | |
CN103440279A (zh) | 一种数据采集过程中的数据适配器及其数据适配方法 | |
CN107977504A (zh) | 一种非对称堆芯燃料管理计算方法、装置及终端设备 | |
CN104881293A (zh) | 一种Linux系统规则数据处理系统及方法 | |
CN110222478A (zh) | 一种保护文档的方法及移动终端 | |
CN104299170B (zh) | 间歇性能源海量数据处理方法 | |
CN101770461A (zh) | 数据处理方法及处理系统 | |
CN101639930A (zh) | 一连串绘图处理器处理绘图数据的方法及系统 | |
CN109597611A (zh) | 前端数据流控制组件开发系统、方法、设备及存储介质 | |
CN107391872B (zh) | Pdms三维模型在软件中使用的方法及装置 | |
CN204440251U (zh) | 基于云计算的信息检索系统 | |
CN102637200A (zh) | 一种使多级关联数据分配到集群相同节点的方法 | |
CN102541903A (zh) | Csv to xls格式转换方式 | |
CN203911987U (zh) | 一种基于云计算的数据处理系统 | |
CN104462005A (zh) | 多处理器系统及构建多处理器系统的方法 | |
CN103440325A (zh) | 高效、多并发、自适用的数据库及其运行方法 | |
CN205427694U (zh) | 一种无风扇嵌入式工业主板 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20150902 |