CN103970605A - 一种基于低性能终端的数据分析方法及装置 - Google Patents
一种基于低性能终端的数据分析方法及装置 Download PDFInfo
- Publication number
- CN103970605A CN103970605A CN201310048770.9A CN201310048770A CN103970605A CN 103970605 A CN103970605 A CN 103970605A CN 201310048770 A CN201310048770 A CN 201310048770A CN 103970605 A CN103970605 A CN 103970605A
- Authority
- CN
- China
- Prior art keywords
- subdata
- data
- terminal
- performance terminal
- low
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
本发明公开了一种用于低性能终端的数据分析方法及装置,该方法包括以下步骤:S1,对原始数据进行预处理,根据数据中的关键节点,将所述原始数据切分成M个子数据;S2,建立所述子数据的一级索引和时间的对应关系,以所述关键节点作为每个子数据的描述信息;S3,根据所述子数据的描述信息,选择需要进行数据分析的单个或多个子数据;S4,终端对选择的子数据进行解析,建立采样点二级索引,执行子数据回放分析过程。本发明有效的降低了分析操作对于终端CPU和内存资源的占用,降低了分析操作对终端配置的要求,适用的终端范围更加广泛;本发明规避了低性能终端在分析数据时响应慢,处理速度慢等用户体验风险,有效提升了用户体验。
Description
技术领域
本发明涉及移动通信网络质量测试和优化领域,尤其涉及一种用于低性能终端的数据分析方法及装置。
背景技术
在现有手机通信网络中,大部分用户使用的均为中低端配置的低性能终端。运营商为了全面掌握这部分用户的实际网络服务质量,需要对低性能终端的网络服务器质量进行测试和数据分析,从而进行针对性的网络优化和服务改善。低性能终端受限于硬件性能,难以执行高效率、高性能的数据处理方法,不能满足日常测试和数据分析的需求。
传统终端数据分析方式为:首先测试数据在终端上一次性解析完毕,其次将所有解析后的数据保存在终端内存,最后对其进行分析。
上述分析方式存在以下缺陷:
测试数据量较大时,解析后的数据会占用较大内存,但低性能终端的内存普遍较小,无法处理大数据量文件;
测试数据全部保存在内存中,对终端的CPU和内存等资源占用度较高,间接影响其他测试功能的正常使用;
测试数据在内存中的采样点索引占用大量空间,检索采样点时,低性能终端的CPU难以达到快速处理要求,数据分析响应慢,影响用户体验。
发明内容
本发明的目的在于提供一种可以应用于低性能终端的高效率、高性能数据处理分析方法,从而解决现有技术中存在的前述问题。
为了实现上述目的,本发明采用的技术方案如下:
一种基于低性能终端的数据分析方法,包括以下步骤:
S1,对原始数据进行预处理,根据数据中的关键节点,将所述原始数据切分成M个子数据;
S2,建立所述子数据的一级索引和时间的对应关系,以所述关键节点作为每个所述子数据的描述信息;
S3,根据所述子数据的描述信息,选择需要进行数据分析的单个或多个子数据;
S4,终端对选择的所述子数据进行解析,建立采样点二级索引,执行选择的所述子数据,回放分析过程。
优选的,还包括以下步骤:
如需要选择多个或全部所述子数据进行顺序处理或倒序处理或跳进处理时,则根据已建立的一级索引和/或二级索引与时间对应关系,选择性处理所述子数据;CPU处理完一个子数据后,立即自动释放该子数据所占内存资源,再处理下一个子数据,并以此循环,直到处理完毕所有子数据。
优选的,同一时间节点,在所述终端的内存中仅占用一个子数据的解析数据和索引的空间。
一种基于低性能终端的数据分析装置,包括:
预处理模块,用于对原始数据进行预处理,根据原始数据中的关键节点,将所述原始数据切分成M个子数据;
对应关系建立模块,用于建立子数据的一级索引与时间的对应关系,并以所述关键节点作为每个所述子数据的描述信息;
子数据选择模块,用于根据所述子数据的描述信息,选择需要进行数据分析的单个或多个所述子数据;
终端设备,用于对选择的所述子数据进行解析,建立采样点二级索引,执行选择的所述子数据,回放分析过程。
优选的,还包括:
循环处理模块,用于选择多个或全部所述子数据进行顺序处理或倒序处理或跳进处理时,则自动按照所述子数据的时间属性,选择性处理所述子数据;CPU处理完一个子数据后,立即自动释放该子数据所占内存资源,再处理下一个子数据,并以此循环,直到处理完毕所有子数据。
优选的,同一时间节点,在所述终端的内存中仅占用一个子数据的解析数据和索引的空间。
本发明的有益效果是:
相比较“传统终端数据分析方法”,本发明弥补了低性能终端的无法进行大数据量数据分析的缺陷;
本发明有效的降低了分析操作对于终端CPU和内存资源的占用,降低了分析操作对终端配置的要求,适用的终端范围更加广泛;
本发明规避了低性能终端在分析数据时响应慢,处理速度慢等用户体验风险,有效提升了用户体验。
附图说明
图1是本发明的基于低性能终端的数据分析方法的步骤流程示意图;
图2是本发明的基于低性能终端的数据分析方法的应用过程示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,下文结合附图,对本发明进行进一步详细说明。此处所描述的具体实施方式仅仅用以解释本发明,并不用于限定本发明。
传统终端数据分析方式为:测试数据在终端上解析完毕后,所有数据均保存在终端内存中,建立数据采样点索引和时间对应关系,在进行数据分析时,按照索引和时间点读取相应的测试采样点信息,满足测试采样点顺序读取,倒序读取,采样点跳进,读取速度调节等数据回放分析要求。该方法实现算法简单,可满足数据分析功能性要求。
本发明是一种可以应用于低性能终端的高效率、高性能数据处理分析方法,能够满足大数据量测试需要,具体内容:
如图1所示,本发明公开了一种基于低性能终端的数据分析方法,包括以下步骤:
S1,对原始数据进行预处理,按照数据中的关键节点,将原始数据切分成M个子数据;即,原始数据中有多少个关键节点就把原始数据切分成多少个子数据;
S2,建立所述M个子数据的索引(一级索引)和时间的对应关系,并以关键节点作为每个子数据的描述信息;
S3,根据所述子数据的描述信息,选择需要进行数据分析的单个或多个所述子数据;
S4,终端对选择的所述子数据进行解析,建立采样点索引(二级索引),执行所述子数据回放分析过程。
如需要选择多个或全部所述子数据进行顺序处理或倒序处理或跳进处理时,则依照所述子数据的时间属性,选择性处理所述子数据;每处理完毕一个子数据,系统自动释放该子数据所占用的内存资源,并以此循环。同一时间节点,在所述终端的内存中仅占用一个子数据的解析数据和索引的空间以保证占用内存资源最小化,降低CPU数据处理负荷。
另外,本发明还公开了一种基于低性能终端的数据分析装置,包括以下步骤:
预处理模块,用于对原始数据进行预处理,根据原始数据中的关键节点,将所述原始数据切分成M个子数据;
对应关系建立模块,用于建立子数据的索引(一级索引)与时间的对应关系,并以所述关键节点作为每个子数据的描述信息;
子数据选择模块,用于根据所述子数据的描述信息,选择需要进行数据分析的单个或多个所述子数据;
终端设备,用于对选择的所述子数据进行解析,建立采样点索引(二级索引),执行所述子数据回放分析过程。
循环处理模块,用于在选择多个或全部子数据进行顺序处理或倒序处理抑或跳进处理时,则自动按照所述子数据的时间属性,选择性处理所述子数据;当处理完一个所述子数据后,自动释放掉该子数据所占用的内存资源,以此循环。同一时间节点,在所述终端的内存中仅占用一个子数据的解析数据和索引的空间,以保证占用内存资源最小化,降低CPU数据处理负荷。
通过采用本发明公开的上述技术方案,得到了如下有益的效果:
相比较“传统终端数据分析方法”,本发明弥补了低性能终端无法进行大数据量数据分析的缺陷;
本发明有效的降低了分析操作对于终端CPU和内存资源的占用,降低了分析操作对于终端配置的要求,适用的终端范围更加广泛;
本发明规避了低性能终端在分析数据时响应慢,处理速度慢等用户体验风险,有效的提升了用户体验。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应属于本发明的保护范围。
Claims (6)
1.一种基于低性能终端的数据分析方法,其特征在于,包括以下步骤:
S1,对原始数据进行预处理,根据数据中的关键节点,将所述原始数据切分成M个子数据;
S2,建立所述子数据的一级索引和时间的对应关系,以所述关键节点作为每个所述子数据的描述信息;
S3,根据所述子数据的描述信息,选择需要进行数据分析的单个或多个子数据;
S4,终端对选择的所述子数据进行解析,建立采样点二级索引,执行选择的所述子数据,回放分析过程。
2.根据权利要求1所述的基于低性能终端的数据分析方法,其特征在于,还包括以下步骤:
如需要选择多个或全部所述子数据进行顺序处理或倒序处理或跳进处理时,则根据已建立的一级索引和/或二级索引与时间对应关系,选择性处理所述子数据;CPU处理完一个子数据后,立即自动释放该子数据所占内存资源,再处理下一个子数据,并以此循环,直到处理完毕所有子数据。
3.根据权利要求1或2任一所述的基于低性能终端的数据分析方法,其特征在于,同一时间节点,在所述终端的内存中仅占用一个子数据的解析数据和索引的空间。
4.一种基于低性能终端的数据分析装置,其特征在于,包括:
预处理模块,用于对原始数据进行预处理,根据原始数据中的关键节点,将所述原始数据切分成M个子数据;
对应关系建立模块,用于建立子数据的一级索引与时间的对应关系,并以所述关键节点作为每个所述子数据的描述信息;
子数据选择模块,用于根据所述子数据的描述信息,选择需要进行数据分析的单个或多个所述子数据;
终端设备,用于对选择的所述子数据进行解析,建立采样点二级索引,执行选择的所述子数据,回放分析过程。
5.根据权利要求4所述的基于低性能终端的数据分析装置,其特征在于,还包括:
循环处理模块,用于选择多个或全部所述子数据进行顺序处理或倒序处理或跳进处理时,则自动按照所述子数据的时间属性,选择性处理所述子数据;CPU处理完一个子数据后,立即自动释放该子数据所占内存资源,再处理下一个子数据,并以此循环,直到处理完毕所有子数据。
6.根据权利要求4或5任一所述的基于低性能终端的数据分析装置,其特征在于,同一时间节点,在所述终端的内存中仅占用一个子数据的解析数据和索引的空间。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310048770.9A CN103970605A (zh) | 2013-02-06 | 2013-02-06 | 一种基于低性能终端的数据分析方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310048770.9A CN103970605A (zh) | 2013-02-06 | 2013-02-06 | 一种基于低性能终端的数据分析方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103970605A true CN103970605A (zh) | 2014-08-06 |
Family
ID=51240139
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310048770.9A Pending CN103970605A (zh) | 2013-02-06 | 2013-02-06 | 一种基于低性能终端的数据分析方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103970605A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105404664A (zh) * | 2015-11-10 | 2016-03-16 | 上海尚毅测控技术有限公司 | 一种针对海量数据可配置的多重索引及回放方法及其系统 |
CN105760291A (zh) * | 2014-12-17 | 2016-07-13 | 阿里巴巴集团控股有限公司 | 一种回归测试方法和系统 |
CN108021444A (zh) * | 2017-11-06 | 2018-05-11 | 珠海格力智能装备有限公司 | 数据处理方法和装置 |
CN105404664B (zh) * | 2015-11-10 | 2018-08-31 | 上海尚毅测控技术有限公司 | 一种针对海量数据可配置的多重索引及回放方法及其系统 |
CN109064543A (zh) * | 2018-08-30 | 2018-12-21 | 十维度(厦门)网络科技有限公司 | 一种图形纹理加载渲染方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1776688A (zh) * | 2005-12-15 | 2006-05-24 | 北京金山软件有限公司 | 一种字符数据的检索方法 |
CN101286225A (zh) * | 2007-04-11 | 2008-10-15 | 中国科学院自动化研究所 | 一种基于三维纹理硬件加速的海量数据体绘制方法 |
WO2009045010A2 (en) * | 2007-10-02 | 2009-04-09 | Huone Inc. | Flash memory mapping management method |
CN101763312A (zh) * | 2009-09-15 | 2010-06-30 | 苏州超锐微电子有限公司 | 一种基于二级索引改善Flash数据存取的方法 |
CN102193917A (zh) * | 2010-03-01 | 2011-09-21 | 中国移动通信集团公司 | 一种数据处理和查询方法和装置 |
-
2013
- 2013-02-06 CN CN201310048770.9A patent/CN103970605A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1776688A (zh) * | 2005-12-15 | 2006-05-24 | 北京金山软件有限公司 | 一种字符数据的检索方法 |
CN101286225A (zh) * | 2007-04-11 | 2008-10-15 | 中国科学院自动化研究所 | 一种基于三维纹理硬件加速的海量数据体绘制方法 |
WO2009045010A2 (en) * | 2007-10-02 | 2009-04-09 | Huone Inc. | Flash memory mapping management method |
CN101763312A (zh) * | 2009-09-15 | 2010-06-30 | 苏州超锐微电子有限公司 | 一种基于二级索引改善Flash数据存取的方法 |
CN102193917A (zh) * | 2010-03-01 | 2011-09-21 | 中国移动通信集团公司 | 一种数据处理和查询方法和装置 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105760291A (zh) * | 2014-12-17 | 2016-07-13 | 阿里巴巴集团控股有限公司 | 一种回归测试方法和系统 |
CN105760291B (zh) * | 2014-12-17 | 2019-08-09 | 阿里巴巴集团控股有限公司 | 一种回归测试方法和系统 |
CN105404664A (zh) * | 2015-11-10 | 2016-03-16 | 上海尚毅测控技术有限公司 | 一种针对海量数据可配置的多重索引及回放方法及其系统 |
CN105404664B (zh) * | 2015-11-10 | 2018-08-31 | 上海尚毅测控技术有限公司 | 一种针对海量数据可配置的多重索引及回放方法及其系统 |
CN108021444A (zh) * | 2017-11-06 | 2018-05-11 | 珠海格力智能装备有限公司 | 数据处理方法和装置 |
CN108021444B (zh) * | 2017-11-06 | 2022-04-05 | 珠海格力智能装备有限公司 | 数据处理方法和装置 |
CN109064543A (zh) * | 2018-08-30 | 2018-12-21 | 十维度(厦门)网络科技有限公司 | 一种图形纹理加载渲染方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10652265B2 (en) | Method and apparatus for network forensics compression and storage | |
US10831562B2 (en) | Method and system for operating a data center by reducing an amount of data to be processed | |
CN101777068B (zh) | 一种用于移动通讯设备终端的网页页面预读及整合浏览系统及其应用方法 | |
CN104346354A (zh) | 一种提供推荐词的方法及装置 | |
CN107885873B (zh) | 用于输出信息的方法和装置 | |
CN109829287A (zh) | Api接口权限访问方法、设备、存储介质及装置 | |
US20160277544A1 (en) | Protocol data unit interface | |
US11188443B2 (en) | Method, apparatus and system for processing log data | |
CN110119307B (zh) | 数据处理请求的处理方法、装置、存储介质及电子装置 | |
CN114417408A (zh) | 数据处理方法、装置、设备以及存储介质 | |
CN103970605A (zh) | 一种基于低性能终端的数据分析方法及装置 | |
CN109542867A (zh) | 分布式数据采集方法及装置 | |
CN105872731A (zh) | 数据处理的方法和装置 | |
CN117271014A (zh) | 基于web worker的数据处理方法和客户端 | |
CN111723063A (zh) | 一种离线日志数据处理的方法和装置 | |
CN107870921B (zh) | 一种日志数据处理方法及装置 | |
CN204926084U (zh) | 整合多数据资源的电力供需分析系统 | |
CN111125161B (zh) | 数据的实时处理方法、装置、设备及存储介质 | |
CN102377582A (zh) | 数据上传方法和设备 | |
CN107037262A (zh) | 一种大数据频谱分析系统及其方法 | |
US10185729B2 (en) | Index creation method and system | |
CN110266526A (zh) | 一种设备树的加载方法及设备 | |
CN106776794B (zh) | 一种海量数据处理方法及系统 | |
CN106547788B (zh) | 数据处理方法和装置 | |
CN111858579A (zh) | 数据存储方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 519085 No. five, No. 8, science and technology, Zhuhai Harbour Road, Guangdong, Zhuhai Applicant after: DINGLI CORP., LTD. Address before: 519085 No. five, No. 8, science and technology, Zhuhai Harbour Road, Guangdong, Zhuhai Applicant before: Dingli Communications Corp., Ltd. |
|
COR | Change of bibliographic data | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20140806 |
|
RJ01 | Rejection of invention patent application after publication |