CN103218396A - 根据访问频次特征生成静态网页的调度运行可视化分析方法 - Google Patents
根据访问频次特征生成静态网页的调度运行可视化分析方法 Download PDFInfo
- Publication number
- CN103218396A CN103218396A CN2013100726786A CN201310072678A CN103218396A CN 103218396 A CN103218396 A CN 103218396A CN 2013100726786 A CN2013100726786 A CN 2013100726786A CN 201310072678 A CN201310072678 A CN 201310072678A CN 103218396 A CN103218396 A CN 103218396A
- Authority
- CN
- China
- Prior art keywords
- static
- web page
- index
- command
- analysis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
一种根据访问频次特征生成静态网页的调度运行可视化分析方法,其特征是它包括以下步骤:首先,在系统服务进程内存下构建一个综合索引库,该综合索引库包含需进行调度分析的模块号及其对应数据内容中所有可供查询的命令;其次,在用户请求查找数据内容时,根据模块号与命令,通过索引判断,如果存在则直接返回查找匹配的静态结果网页;如果不存在该页面,则进行一次后台分析,并将静态页面结果展现,将其静态可视化页面保存,提供下次直接访问处理;最后,建立链表后通过动态命令自动收集以及关联数据变化定期更新方式,实现二维索引表格的维护管理。本发明有利于解决调度运行工作中大量数据系统数据库处理开销大、等待时间长的问题,它具有系统运算开销小、实用性强的优点。
Description
技术领域
本发明涉及一种基于用户访问命令与关联数据更新频次信息,通过在已访问分析命令下生成静态网页,在分析相同命令时,直接形成静态网页调用的快速展示方法,从而避免大量数据实时查询分析,可运用于大量调度运行数据进行快速可视化分析工作。
背景技术
目前,数据分析统计与报表生成系统化工作已经进入了各行各业,电力系统调度运行分析工作已使用数据库管理软件或电子表格,但在实际使用中常常遇到大数据量统计分析工作,通常需要通过电子表格或数据库管理数据,打开提取数据与利用其统计分析功能进行,每次进行分析,都需要经历打开提取、计算统计、图形或结果展现等过程。由于数据量大,分析方式繁杂,与小数据分析工作相比,暴露出很多不足之处,主要存在如下问题。(1)数据查询获取由于数据量大,造成数据库的严重开销,网络负载骤增及网页显示内存溢出等,时常造成用户无法等待下,反复点击命令进一步造成系统负担与网络阻塞现象。(2)进行分析工作往往处于对某个课题的兴趣或需求,造成同一结果基于时间、空间及条件组合反复查询,造成大量重复或相似命令被用户反复使用与请求,形成后台计算处理数据的重复开销,形成系统资源的严重浪费。
以上问题直接影响系统稳定性与运行效率,也影响着用户对数据分析工作的开展进度。
在大量数据或复杂逻辑分析是,上面的传统方法处理的几个明显的缺点:
1)系统相应慢,等待结果时间长,影响使用
2)查询结果复用性差,每次查询都要产生数据库数据返回与处理开销
3)面向大量数据统计,系统资源开销大,易造成进程忙状态,不利于硬件系统性能的均衡利用。
发明内容
本发明的目的是针对进行大量数据处理分析时,由于调度运行数据量大、查找命令多变且频次较高,经常出现相同一命令反复查询,从而消耗大量时间开销等问题,发明一种根据访问频次特征生成静态网页的调度运行可视化实现方法。
本发明的技术方案是:
一种根据访问频次特征生成静态网页的调度运行可视化分析方法,其特征是它包括以下步骤:
首先,在系统服务进程内存下构建一个综合索引库,该综合索引库包含需进行调度分析的模块号及其对应数据内容中所有可供查询的命令;
其次,在用户请求查找数据内容时,根据模块号与命令,通过索引判断,如果存在则直接返回查找匹配的静态结果网页;如果不存在该页面,则进行一次后台分析,并将静态页面结果展现,将其静态可视化页面保存,提供下次直接访问处理;
最后,建立链表后通过动态命令自动收集以及关联数据变化定期更新方式,实现二维索引表格的维护管理。
所述的用户请求查找数据内容时通过发送命令模块号进行一级索引检索,再根据命令内容进行二级索引找到服务进程中缓存的命令记录并更新索引频次数值,当命令匹配时返回命令特定标识符命名的分析结果静态网页,绕过后台数据库繁琐分析,通过此种方法,完成大数据用户频繁分析结果的快速响应。
用户在后台进行分析时根据配置的参数与组合查询条件,建立排列组合的多维度结果处理表格及命令索引,并为每个命令索引生成了对应分析结果的静态网页文件,提供快速访问所需。
本发明的有益效果:
利用本发明的方法能够解决大量数据分析时由于数据量大分析缓慢,影响用户系统使用等问题,这种技术的创新点在于利用系统对用户操作命令与访问频次信息,建立并动态更新结构化快速索引表,从而链接到可供访问的快速静态结果网页上,使用这种技术后,由于用户对大量数据的访问都在日常工作时段且关注点存在重复集中特性,故有利于提高分析结果相应速度,从而提高运行分析工作效率。
附图说明
图1是本发明的初始化流程图。
图2是本发明的数据分析处理流程图。
具体实施方式
下面结合附图和实施例对本发明作进一步的说明。
如图1、2所示。
一种根据访问频次特征生成静态网页的调度运行可视化分析方法,它包括以下步骤:
首先,在系统服务进程内存下构建一个综合的索引库,该综合索引库包含需进行调度分析的模块号及其对应数据内容中所有可供查询的命令,并缓存到系统服务进程中。当设计新分析模块时,提供新建分析模块固定命令一次生成,将针对数据表的多个维护检索结果在设计之初由用户建立一个快速的二维表格。
其次, 当用户访问分析模块并发送分析命令时,实现已有静态命令对应网页的访问及未发现命令缓存生成与静态网页生成。每个索引记录都对应GUID全球唯一标识符编码,对应静态结果网页。
GUID:即Globally Unique Identifier(全球唯一标识符),是一个通过特定算法产生的二进制长度为128位的数字标识符,用于指示产品的唯一性。GUID 的格式为“xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx”,其中每个 x 是 0-9 或 a-f 范围内的一个32位十六进制数。例如:6F9619FF-8B86-D011-B42D-00C04FC964FF 即为有效的 GUID 值。其主要特点为1、GUID在空间上和时间上具有唯一性,保证同一时间不同地方产生的数字不同。 2、世界上的任何两台计算机都不会生成重复的 GUID 值。 3、需要GUID的时候,可以完全由算法自动生成,不需要一个权威机构来管理。
4、GUID的长度固定,并且相对而言较短小,非常适合于排序、标识和存储。
最后,在系统维护管理上,用户设计模块命令排列组合后,生成所有命令对应索引结构,并添加到系统服务进程已有缓存索引库中。当用户访问时,通过索引判断,如果存在则直接访问其对应静态网页。
详述如下:
本发明的根据访问频次特征生成静态网页的调度运行可视化分析方法为:
首先,在利用数据库构建一个快速索引库,索引库主要包含该模块号及对应数据内容中所有可供查询的命令,快速提供其结果二维表格,初始化工作主要将其结果装载进入系统服务缓存中,具体步骤如图1所示:
A1、打开并读取服务器本地上次系统使用结束时保存的索引库配置文件。
A2、判断是否还有模块未读取,“是”进入A3,“否”进入步骤A8。
A2 读入一个模块记录。
A3、读取每个模块下一条索引命令,将其作为二级索引,缓存存储在系统服务进程中,每个索引命令都具备模块号、命令内容、使用频次,根据使用频次由高到低进行排列。
A4、判断是否该模块下是否还有命令记录需要读取,是则进入步骤A5,否则进入步骤A2。
A5、读取该模块下一条分析命令记录。
A6、判断其上次使用频次是否为0,为0则进入步骤A5,否则进入步骤A7。
A7、缓存命令到系统服务进程索引对应模块一级链表下二级链表中。
A8、初始化结束。
其次,执行查找或查询函数模块,根据配置项标识查找数据内容,返回查找匹配的静态结果网页,当用户访问时,通过索引判断,如果存在则直接访问其对应静态网页。
执行查询时主要步骤如图2所示:
步骤 1:系统接受用户请求。
步骤2:判断该请求是否为分析命令请求,不是则结束转入其他处理模块,是则进入步骤3。
步骤3:提取命令中模块号。
步骤4:判断该命令是否存在索引库中模块匹配,存在进入步骤5,否则进入步骤7。
步骤5:读取该命令中详细分析命令指令内容。
步骤6:判断该指令内容是否存在缓存二级索引库中,存在则直接进入步骤9,不存在则直接进入步骤7。
步骤7:将分析命令提交后台数据库处理,将分析结果转化为静态网页展现,并保存至服务器目录中。
步骤8:将该分析命令连同模块号一起追加到系统服务进程索引库缓存中。
步骤9:根据命令指令对应缓存记录中GUID命名网页,访问该模块命令对应静态分析结果网页。
步骤10:增加读取索引命令在服务器进程缓存记录中的索引频次。
步骤11:本次分析结束。
最后,在系统维护管理上,用户设计模块命令排列组合后,生成所有命令对应索引结构,并添加到系统服务进程已有缓存索引库中,其维护步骤较为简单,主要为:
步骤1,由用户建立模块并设计并勾选配置查询条件,通过软件自动生成查询条件排列组合命令与二维表格形式的多维结果表格,其主要涉及2个重要概念:事实和维度。事实即分析的目标数据,如数量、金额等作为统计结果的值直接存入表格中,维度主要为事实信息的属性如对应的时间、设备类型、产权单位等,即根据用户查询条件组合生成,通常任意两个维度都能对应一个数据查询结果值。
步骤2,生产查询组合命令的同时,批量生成查询结果静态页面并将静态页面命名为查询命令GUID标识符号对应的服务器文件。
步骤3,将模块作为一级索引,组合条件对应命令作为二级索引追加到服务其进程缓存索引链表中。
在系统退出或服务终止时,将服务进程中的缓存索引库保存到服务器本地配置文件中,作为下次服务启动的读入文件使用。
本发明的关键是根据用户操作命令与访问频次数据,建立结构化快速索引表,从而链接到可供访问的快速静态结果网页上,由于用户对大量数据的访问都在日常工作时段且关注点存在重复集中,使用这种技术后,有利于解决调度运行工作中大量数据系统数据库处理开销大、等待时间长等问题。该方法的主要优点为分析智能、系统运算开销小、实用性强。
本发明未涉及部分均与现有技术相同或可采用现有技术加以实现。
Claims (3)
1.一种根据访问频次特征生成静态网页的调度运行可视化分析方法,其特征是它包括以下步骤:
首先,在系统服务进程内存下构建一个综合索引库,该综合索引库包含需进行调度分析的模块号及其对应数据内容中所有可供查询的命令;
其次,在用户请求查找数据内容时,根据模块号与命令,通过索引判断,如果存在则直接返回查找匹配的静态结果网页;如果不存在该页面,则进行一次后台分析,并将静态页面结果展现,将其静态可视化页面保存,提供下次直接访问处理;
最后,建立链表后通过动态命令自动收集以及关联数据变化定期更新方式,实现二维索引表格的维护管理。
2.根据权利要求1所述的的方法,其特征是所述的用户请求查找数据内容时通过发送命令模块号进行一级索引检索,再根据命令内容进行二级索引找到服务进程中缓存的命令记录并更新索引频次数值,当命令匹配时返回命令特定标识符命名的分析结果静态网页,绕过后台数据库繁琐分析,通过此种方法,完成大数据用户频繁分析结果的快速响应。
3.根据权利要求1所述的方法,其特征是用户在后台进行分析时根据配置的参数与组合查询条件,建立排列组合的多维度结果处理表格及命令索引,并为每个命令索引生成了对应分析结果的静态网页文件,提供快速访问所需。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310072678.6A CN103218396B (zh) | 2013-03-07 | 2013-03-07 | 根据访问频次特征生成静态网页的调度运行可视化分析方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310072678.6A CN103218396B (zh) | 2013-03-07 | 2013-03-07 | 根据访问频次特征生成静态网页的调度运行可视化分析方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103218396A true CN103218396A (zh) | 2013-07-24 |
CN103218396B CN103218396B (zh) | 2016-12-28 |
Family
ID=48816183
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310072678.6A Active CN103218396B (zh) | 2013-03-07 | 2013-03-07 | 根据访问频次特征生成静态网页的调度运行可视化分析方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103218396B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106202322A (zh) * | 2016-06-30 | 2016-12-07 | 乐视控股(北京)有限公司 | 一种页面生成方法和装置 |
CN110110184A (zh) * | 2017-12-21 | 2019-08-09 | 北京京东尚科信息技术有限公司 | 信息查询方法、系统、计算机系统及存储介质 |
CN110912794A (zh) * | 2019-11-15 | 2020-03-24 | 国网安徽省电力有限公司安庆供电公司 | 基于令牌集的近似匹配策略 |
CN113127700A (zh) * | 2021-05-12 | 2021-07-16 | 中国建设银行股份有限公司 | 访问数据源的方法、装置、设备和计算机可读介质 |
CN114548062A (zh) * | 2022-04-27 | 2022-05-27 | 成都瑞华康源科技有限公司 | 一种报表编排方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7398271B1 (en) * | 2001-04-16 | 2008-07-08 | Yahoo! Inc. | Using network traffic logs for search enhancement |
US20090119329A1 (en) * | 2007-11-02 | 2009-05-07 | Kwon Thomas C | System and method for providing visibility for dynamic webpages |
CN101520797A (zh) * | 2009-02-11 | 2009-09-02 | 国电南瑞科技股份有限公司 | 电力系统跨平台大数据文件高速并发存取方法 |
CN102750174A (zh) * | 2012-06-29 | 2012-10-24 | Tcl集团股份有限公司 | 文件加载方法及装置 |
-
2013
- 2013-03-07 CN CN201310072678.6A patent/CN103218396B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7398271B1 (en) * | 2001-04-16 | 2008-07-08 | Yahoo! Inc. | Using network traffic logs for search enhancement |
US20090119329A1 (en) * | 2007-11-02 | 2009-05-07 | Kwon Thomas C | System and method for providing visibility for dynamic webpages |
CN101520797A (zh) * | 2009-02-11 | 2009-09-02 | 国电南瑞科技股份有限公司 | 电力系统跨平台大数据文件高速并发存取方法 |
CN102750174A (zh) * | 2012-06-29 | 2012-10-24 | Tcl集团股份有限公司 | 文件加载方法及装置 |
Non-Patent Citations (2)
Title |
---|
李红文: "缓存技术在用电信息采集系统中的应用", 《农村电气化》, no. 03, 31 March 2011 (2011-03-31), pages 42 - 45 * |
赵玉伟: "WWW中缓存机制的应用研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》, no. 08, 15 August 2006 (2006-08-15) * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106202322A (zh) * | 2016-06-30 | 2016-12-07 | 乐视控股(北京)有限公司 | 一种页面生成方法和装置 |
CN110110184A (zh) * | 2017-12-21 | 2019-08-09 | 北京京东尚科信息技术有限公司 | 信息查询方法、系统、计算机系统及存储介质 |
CN110912794A (zh) * | 2019-11-15 | 2020-03-24 | 国网安徽省电力有限公司安庆供电公司 | 基于令牌集的近似匹配策略 |
CN110912794B (zh) * | 2019-11-15 | 2021-07-16 | 国网安徽省电力有限公司安庆供电公司 | 基于令牌集的近似匹配策略 |
CN113127700A (zh) * | 2021-05-12 | 2021-07-16 | 中国建设银行股份有限公司 | 访问数据源的方法、装置、设备和计算机可读介质 |
CN114548062A (zh) * | 2022-04-27 | 2022-05-27 | 成都瑞华康源科技有限公司 | 一种报表编排方法 |
Also Published As
Publication number | Publication date |
---|---|
CN103218396B (zh) | 2016-12-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105183912B (zh) | 异常日志确定方法和装置 | |
JP5721818B2 (ja) | 検索におけるモデル情報群の使用 | |
US20150244670A1 (en) | Browser and method for domain name resolution by the same | |
CN103218396A (zh) | 根据访问频次特征生成静态网页的调度运行可视化分析方法 | |
CN101216840A (zh) | 一种数据查询方法和一种数据查询系统 | |
CN103984745A (zh) | 分布式视频垂直搜索方法及系统 | |
CN101789006A (zh) | 基于智能搜索的电网企业信息集成系统的快速检索方法 | |
CN106294695A (zh) | 一种面向实时大数据搜索引擎的实现方法 | |
CN105912609A (zh) | 一种数据文件处理方法和装置 | |
CN109710767B (zh) | 多语种大数据服务平台 | |
CN101963965A (zh) | 基于搜索引擎的文档索引方法、数据查询方法及服务器 | |
CN103617205A (zh) | 一种识别ip地址的区域归属地信息的方法和装置 | |
CN106897467A (zh) | 一种大数据分析引擎的数据库适配方法 | |
CN113407785B (zh) | 一种基于分布式储存系统的数据处理方法和系统 | |
CN111552704A (zh) | 一种数据报表生成方法、装置、计算机设备及存储介质 | |
CN104021125A (zh) | 一种搜索引擎排序的方法、系统以及一种搜索引擎 | |
CN104714974A (zh) | 一种查询语句解析与再处理的方法和装置 | |
CN104317877A (zh) | 一种基于分布式计算的网络用户行为数据实时处理方法 | |
US20220358178A1 (en) | Data query method, electronic device, and storage medium | |
CN114547095A (zh) | 一种数据快速查询方法、装置、电子设备和存储介质 | |
CN104699788A (zh) | 数据库查询方法和装置 | |
CN105302909B (zh) | 基于分区偏移计算的网络安全日志系统大数据检索方法 | |
Wu et al. | Storage and retrieval of massive heterogeneous iot data based on hybrid storage | |
CN106202408B (zh) | 基于olap的数据查询服务器、系统和方法 | |
EP2990960A1 (en) | Data retrieval via a telecommunication network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |