CN104881293A - 一种Linux系统规则数据处理系统及方法 - Google Patents

一种Linux系统规则数据处理系统及方法 Download PDF

Info

Publication number
CN104881293A
CN104881293A CN201510314700.2A CN201510314700A CN104881293A CN 104881293 A CN104881293 A CN 104881293A CN 201510314700 A CN201510314700 A CN 201510314700A CN 104881293 A CN104881293 A CN 104881293A
Authority
CN
China
Prior art keywords
data
linux system
module
linux
carries out
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510314700.2A
Other languages
English (en)
Inventor
王庆文
李智
刘刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN201510314700.2A priority Critical patent/CN104881293A/zh
Publication of CN104881293A publication Critical patent/CN104881293A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种Linux系统规则数据处理系统及方法,其中的一种Linux系统规则数据处理系统,包括:数据文件规范化命名模块、单一数据处理模块、综合处理模块及数据结果可视化模块。本发明与现有的方法相比,在智能化、自动化以及处理效率方面,具有明显的优势。

Description

一种Linux系统规则数据处理系统及方法
技术领域
本发明涉及计算机软件及操作系统技术领域,具体涉及一种Linux系统规则数据处理系统及方法。
背景技术
基础软件领域,Windows XP的停止服务引发了广泛的关注,给用户带来了潜在的安全威胁。国产操作系统是国家信息化发展的基石,是保障国家信息安全的关键力量。目前我国的国产操作系统如中标麒麟系统的内核是以linux为基础的,而我国大部分用户的计算机使用的是Windows,并不熟悉Linux环境。然而,在自主可控的核心软件需求成为必然趋势的前提下,科研人员使用中标麒麟等以linux系统为核心的国产操作系统已经成为必然选择,未来大数据环境,使得用户面临对海量规则数据的处理。所谓规则数据,本发明中指数据的列有明确的定义和数据类型,每一行记录一条信息,并且有固定的格式。现有的处理方式存在的问题是:对于海量规则数据的采用命令行式的操作或采用单纯Shell脚本或是手工的方式,导致处理效率低下,难以满足现实需求。
基于上述客观现实,设计实现linux系统下的海量规则数据处理方法,优化数据处理流程,增加数据处理过程中的智能性,减少人工操作环节,提高linux系统平台下的数据处理效率,将具有一定的现实意义。
发明内容
本发明要解决的问题是linux系统环境下,数据处理步骤繁琐、效率低下的问题。
根据本发明的一个方面,提供了一种Linux系统规则数据处理系统,包括:数据文件规范化命名模块、单一数据处理模块、综合处理模块及数据结果可视化模块。
根据本发明的又一个方面,提供了一种Linux系统规则数据处理方法,包括以下步骤:
    S1,对规则数据文件进行规范化命名;
    S2,进入单一数据文件处理模块,依次对数据文件进行处理;
    S3,对数据结果进行综合处理;
    S4,对数据进行可视化处理。
    进一步地,所述步骤S1具体为:数据文件规范化命名模块采用shell脚本或mv命令对规则数据文件进行规范化命名。
    更进一步地,所述步骤S2具体为:单一数据处理模块采用shell脚本、awk语言、perl语言以及Linux环境下的统计命令,从数据的第一行开始,访问到数据的最后一行,然后对数据进行统计,并将结果保存到规范化命名的文档。。
    更进一步地,所述步骤S3具体为:综合处理模块主要用shell脚本、awk语言、perl语言以及Linux环境下的合并,进行排序、加权、取平均值以及用户需要的操作处理。
更进一步地,所述步骤S4具体为:数据结果可视化模块对步骤S3得到的结果文件进行可视化处理,运用gnuplot对结果进行二维、三维可视化操作。
本发明具有如下优点:
本发明与现有的方法相比,在智能化、自动化以及处理效率方面,具有明显的优势。
除了上面所描述的目的、特征和优点之外,本发明还有其它的目的、特征和优点。下面将参照图,对本发明作进一步详细的说明。
附图说明
 构成本申请的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。
图1是本发明的一种Linux系统规则数据处理系统框图;
图2是本发明的一种Linux系统规则数据处理方法流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
实施例1
图1示出了本发明的一种Linux系统规则数据处理系统框图。
参照图1,如图1所示的一种Linux系统规则数据处理系统,包括:数据文件规范化命名模块、单一数据处理模块、综合处理模块及数据结果可视化模块。
实施例2
图2示出了本发明的一种Linux系统规则数据处理方法流程图。
参照图2,如图2所示的一种Linux系统规则数据处理方法,包括以下步骤:
    S1,对规则数据文件进行规范化命名;
    S2,进入单一数据文件处理模块,依次对数据文件进行处理;
    S3,对数据结果进行综合处理;
    S4,对数据进行可视化处理。
    所述步骤S1具体为:数据文件规范化命名模块采用shell脚本或mv命令对规则数据文件进行规范化命名。
    所述步骤S2具体为:单一数据处理模块采用shell脚本、awk语言、perl语言以及Linux环境下的统计命令,从数据的第一行开始,访问到数据的最后一行,然后对数据进行统计,并将结果保存到规范化命名的文档。。
    所述步骤S3具体为:综合处理模块主要用shell脚本、awk语言、perl语言以及Linux环境下的合并,进行排序、加权、取平均值以及用户需要的操作处理。
所述步骤S4具体为:数据结果可视化模块对步骤S3得到的结果文件进行可视化处理,运用gnuplot对结果进行二维、三维可视化操作。
本发明采用循环的方式,依次对每一个规则数据进行处理。每一个数据进行处理的流程是:通过编程从第一行行开始一直处理到最后一行,然后根据需求进行统计,给出统计结果。在上面的过程中,采用shell语言、awk语言和gnuplot语言相结合,实现本方法中的数据规范化命名模块、单一数据处理模块、综合处理模块和可视化处理模块,最终实现本方法。
本发明与现有的方法相比,在智能化、自动化以及处理效率方面,具有明显的优势。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (6)

1.一种Linux系统规则数据处理系统,其特征在于,包括:数据文件
规范化命名模块、单一数据处理模块、综合处理模块及数据结果可视化模块。
2.一种Linux系统规则数据处理方法,其特征在于,包括以下步
骤:
   S1,对规则数据文件进行规范化命名;
   S2,进入单一数据文件处理模块,依次对数据文件进行处理;
   S3,对数据结果进行综合处理;
   S4,对数据进行可视化处理。
3.根据权利要求2所述的Linux系统规则数据处理方法,其特征在于,
所述步骤S1具体为:数据文件规范化命名模块采用shell脚本或mv命令对规则数据文件进行规范化命名。
4.根据权利要求2所述的Linux系统规则数据处理方法,其特征在于,
所述步骤S2具体为:单一数据处理模块采用shell脚本、awk语言、perl语言以及Linux环境下的统计命令,从数据的第一行开始,访问到数据的最后一行,然后对数据进行统计,并将结果保存到规范化命名的文档。
5.根据权利要求2所述的Linux系统规则数据处理方法,其特征在于,
所述步骤S3具体为:综合处理模块主要用shell脚本、awk语言、perl语言以及Linux环境下的合并,进行排序、加权、取平均值以及用户需要的操作处理。
6.根据权利要求2所述的Linux系统规则数据处理方法,其特征在于,
所述步骤S4具体为:数据结果可视化模块对步骤S3得到的结果文件进行可视化处理,运用gnuplot对结果进行二维、三维可视化操作。
CN201510314700.2A 2015-06-10 2015-06-10 一种Linux系统规则数据处理系统及方法 Pending CN104881293A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510314700.2A CN104881293A (zh) 2015-06-10 2015-06-10 一种Linux系统规则数据处理系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510314700.2A CN104881293A (zh) 2015-06-10 2015-06-10 一种Linux系统规则数据处理系统及方法

Publications (1)

Publication Number Publication Date
CN104881293A true CN104881293A (zh) 2015-09-02

Family

ID=53948800

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510314700.2A Pending CN104881293A (zh) 2015-06-10 2015-06-10 一种Linux系统规则数据处理系统及方法

Country Status (1)

Country Link
CN (1) CN104881293A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108804292A (zh) * 2018-06-20 2018-11-13 郑州云海信息技术有限公司 一种用于Linux的CPU压力测试监控方法
CN112835750A (zh) * 2019-11-22 2021-05-25 上海欧菲智能车联科技有限公司 数据处理方法及数据处理系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7353514B1 (en) * 2000-10-27 2008-04-01 Sprint Communications Company L.P. Computer software method for administering batch jobs
CN101620634A (zh) * 2009-07-29 2010-01-06 中兴通讯股份有限公司 一种数据统计装置及方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7353514B1 (en) * 2000-10-27 2008-04-01 Sprint Communications Company L.P. Computer software method for administering batch jobs
CN101620634A (zh) * 2009-07-29 2010-01-06 中兴通讯股份有限公司 一种数据统计装置及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CHINAUNIX: "用Perl统计重复行次数并排序(千万级行数)的代码", 《HTTP://BBS.CHINAUNIX.NET/THREAD-4062971-1-1.HTML》 *
MCSHELL: "利用perl计算考勤表并且输出excel表格", 《HTTP://MCSHELL.BLOG.51CTO.COM/803455/1143173》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108804292A (zh) * 2018-06-20 2018-11-13 郑州云海信息技术有限公司 一种用于Linux的CPU压力测试监控方法
CN112835750A (zh) * 2019-11-22 2021-05-25 上海欧菲智能车联科技有限公司 数据处理方法及数据处理系统
CN112835750B (zh) * 2019-11-22 2023-01-17 上海欧菲智能车联科技有限公司 数据处理方法及数据处理系统

Similar Documents

Publication Publication Date Title
CN103092788B (zh) 多核处理器及数据访问方法
CN111309825A (zh) 数据聚类的存储方法、装置及计算机可读存储介质
CN102915344B (zh) 一种sql语句处理方法及装置
CN103279846A (zh) 一种基于bim模型的工程验收方法和系统
CN101877021A (zh) 动力学分析、三维造型和有限元分析软件间数据自动转换的方法
CN103647850A (zh) 一种分布式版本控制系统的数据处理方法、设备及系统
CN110780879B (zh) 一种基于智能编译技术的决策执行方法、装置、设备及介质
CN103235811A (zh) 一种数据存储方法及装置
CN104881298A (zh) 用于在线显示文档的方法和装置
CN103440279A (zh) 一种数据采集过程中的数据适配器及其数据适配方法
CN107977504A (zh) 一种非对称堆芯燃料管理计算方法、装置及终端设备
CN104881293A (zh) 一种Linux系统规则数据处理系统及方法
CN110222478A (zh) 一种保护文档的方法及移动终端
CN104299170B (zh) 间歇性能源海量数据处理方法
CN101770461A (zh) 数据处理方法及处理系统
CN101639930A (zh) 一连串绘图处理器处理绘图数据的方法及系统
CN109597611A (zh) 前端数据流控制组件开发系统、方法、设备及存储介质
CN107391872B (zh) Pdms三维模型在软件中使用的方法及装置
CN204440251U (zh) 基于云计算的信息检索系统
CN102637200A (zh) 一种使多级关联数据分配到集群相同节点的方法
CN102541903A (zh) Csv to xls格式转换方式
CN203911987U (zh) 一种基于云计算的数据处理系统
CN104462005A (zh) 多处理器系统及构建多处理器系统的方法
CN103440325A (zh) 高效、多并发、自适用的数据库及其运行方法
CN205427694U (zh) 一种无风扇嵌入式工业主板

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20150902