CN107241394A - 一种日志传输方法、装置及计算机可读存储介质 - Google Patents
一种日志传输方法、装置及计算机可读存储介质 Download PDFInfo
- Publication number
- CN107241394A CN107241394A CN201710371863.3A CN201710371863A CN107241394A CN 107241394 A CN107241394 A CN 107241394A CN 201710371863 A CN201710371863 A CN 201710371863A CN 107241394 A CN107241394 A CN 107241394A
- Authority
- CN
- China
- Prior art keywords
- dictionary
- dictionary code
- code
- information
- log
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Telephonic Communication Services (AREA)
Abstract
本发明公开了一种日志传输方法、装置及计算机可读存储介质,涉及移动通信技术领域,所述日志传输方法包括:判断日志信息中是否包含已有字典码;当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;将所有同类日志中的不变信息采用新的字典码进行存储并传输;其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。本发明将日志信息中的冗长的不变信息采用简短的字典码代替进行存储和传输,能有效减小日志传输过程中占用存储空间、提高日志传输效率。
Description
技术领域
本发明涉及移动通信技术领域,尤其涉及一种日志传输方法、装置及计算机可读存储介质。
背景技术
手机的应用与服务器对接时,需要传输必要的日志信息。这些信息在传输的过程中,有些采用整体明文传输,有些采用压缩传输。服务器对这些日志信息进行保存与分析。
现有技术在日志传输方面一般都是开源解决方案,如Scribe(Scribe是Facebook开源的日志收集系统,在Facebook内部已经得到大量的应用)、Flume(Flume最早是Cloudera提供的日志收集系统,目前是Apache下的一个孵化项目,Flume支持在日志系统中定制各类数据发送方,用于收集数据)或者通过编写脚本将本地文件定期传输到处理节点上。
上述方法存在的问题是:
1、整体明文传输占用手机内存较大,且耗时较久。
2、压缩传输消耗CPU性能,会增加手机的耗电。
3、服务器存储日志信息需要非常巨大的存储空间。
发明内容
本发明的主要目的在于提出一种日志传输方法、装置及计算机可读存储介质,旨在解决现有技术中,移动终端在传输日志过程中占用存储空间大、传输效率低影响手机性能的问题。
为实现上述目的,本发明一方面提供一种日志传输方法,所述日志传输方法包括:
判断日志信息中是否包含已有字典码;
当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
将所有同类日志中的不变信息采用新的字典码进行存储并传输;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
进一步地,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;
所述将所有同类日志中的不变信息采用新的字典码进行存储并传输包括:
以新的字典码代替所有同类日志中的所述不变信息;
将所述新的字典码及所有同类日志中的可变信息按顺序存储并传输。
进一步地,所述将所有同类日志中的不变信息采用新的字典码进行存储并传输之后还包括:
更新所述字典表,并将更新后的字典表发送给服务器;
或者,
更新所述字典表;
获取服务器的当前字典表,提取所述当前字典表中排序最后的字典码;
将更新后字典表中排序在所述最后字典码的数据信息发送给服务器。
本发明另一方面还提供一种日志传输方法,所述日志传输方法包括:
接收包含字典码的日志信息;
根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
进一步地,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;
所述根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息包括:
在所述字典表中查找与所述字典码对应的日志不变信息和关键词;
根据所述关键词将所述日志不变信息和所述日志信息中的可变信息进行匹配,得到解析后的日志信息。
本发明另一方面还提供一种日志传输装置,所述日志传输装置包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的日志传输程序,所述日志传输程序被所述处理器执行时实现以下步骤:
判断日志信息中是否包含已有字典码;
当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
将所有同类日志中的不变信息采用新的字典码进行存储并传输;
其中,所述字典表是由所述字典码与所述字典码对应的日志不变信息组成。
进一步地,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;所述将所有同类日志中的不变信息采用新的字典码进行存储并传输步骤中,所述处理器还用于执行所述日志传输程序,以实现以下步骤:
以新的字典码代替所有同类日志中的所述不变信息;
将所述新的字典码及所有同类日志中的可变信息按顺序存储并传输。
本发明另一方面还提供一种日志传输装置,所述日志传输装置包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的日志传输程序,所述日志传输程序被所述处理器执行时实现以下步骤:
接收包含字典码的日志信息;
根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
本发明另一方面还提供一种计算机可读存储介质,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现以下步骤:
确定日志信息中是否包含已有字典码;
当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
将所有同类日志中的不变信息采用新的字典码进行存储并传输;
其中,所述字典表是由所述字典码与所述字典码对应的日志不变信息组成。
本发明另一方面还提供一种计算机可读存储介质,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现以下步骤:
接收包含字典码的日志信息;
根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
本发明提供的日志传输方法、装置及计算机可读存储介质,将日志信息中的冗长的不变信息采用简短的字典码代替进行存储和传输,能有效减小日志传输过程中占用存储空间、提高日志传输效率。
附图说明
图1为实现本发明各个实施例的移动终端的硬件结构示意图;
图2为如图1所示的移动终端的无线通信系统示意图;
图3为本发明实施例提供的一种日志传输方法的流程图;
图4为本发明实施例提供的另一种日志传输方法的流程图;
图5为本发明实施例提供的一种日志传输装置的结构示意图;
图6为本发明实施例提供的另一种日志传输装置的结构示意图;
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant,PDA)、便捷式媒体播放器(Portable Media Player,PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1,其为实现本发明各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:RF(Radio Frequency,射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍:
射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于GSM(Global System of Mobile communication,全球移动通讯系统)、GPRS(General Packet Radio Service,通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000,码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access,时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution,频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution,分时双工长期演进)等。
WiFi属于短距离无线传输技术,移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。
进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。
为了便于理解本发明实施例,下面对本发明的移动终端所基于的通信网络系统进行描述。
请参阅图2,图2为本发明实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的LTE系统,该LTE系统包括依次通讯连接的UE(User Equipment,用户设备)201,E-UTRAN(Evolved UMTS Terrestrial Radio Access Network,演进式UMTS陆地无线接入网)202,EPC(Evolved Packet Core,演进式分组核心网)203和运营商的IP业务204。
具体地,UE201可以是上述终端100,此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中,eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接,eNodeB2021连接到EPC203,eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity,移动性管理实体)2031,HSS(Home Subscriber Server,归属用户服务器)2032,其它MME2033,SGW(Serving Gate Way,服务网关)2034,PGW(PDN Gate Way,分组数据网络网关)2035和PCRF(Policy andCharging Rules Function,政策和资费功能实体)2036等。其中,MME2031是处理UE201和EPC203之间信令的控制节点,提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送,PGW2035可以提供UE201的IP地址分配以及其它功能,PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem,IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍,但本领域技术人员应当知晓,本发明不仅仅适用于LTE系统,也可以适用于其他无线通信系统,例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等,此处不做限定。
基于上述移动终端硬件结构以及通信网络系统,提出本发明方法各个实施例。
图3为本发明第一种实施例提供的一种日志传输方法,如图3所示,该方法包括:
S301、判断日志信息中是否包含已有字典码;
其中,字典码可以预先存储在字典表中,每个字典码对应一个日志不变信息,以方便在存储和传输过程中将日志不变信息通过字典码来代替。优选的,字典码可以有默认排列顺序的数字、字母或字符串来代替;例如,用递进的数字,或者按顺序排列的英文字母来代替。这样,后续对字典表更新时,只需对排序在当前字典码以后的字典码进行更新即可,减小重复更新的工作量。
S302、当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
预设时间段可以根据需要具体设置,例如,可将预设时间段设置为收到当前日志信息之前一个小时及收到当前日志信息之后一个小时。
相同类型的日志信息指执行功能相同的日志信息,例如:记录用户下载某个应用耗时的日志信息为相同类型的日志信息,记录用户上传某个文件、视频耗时的日志信息也为相同类型的日志信息。
示例性的,当应用中心记录用户下载某个应用的耗时,其日志信息是:Userdownload the app QQ spend time 500 seconds at time 2017.3.23 11:10:00.将该日志信息与预设时间段内相同类型的所有同类日志进行比较,可以提取出该日志信息的日志不变信息是User download the app $ spend time $ seconds at time $。其中,$符号表示该日志信息中的可变信息。
S303、将所有同类日志中的不变信息采用新的字典码进行存储并传输;
示例性的,通过步骤S302,得到日志不变信息,不变信息是User download theapp $ spend time $ seconds at time $。则在存储和传输过程中,为不变信息是Userdownload the app $ spend time $ seconds at time $按照字典码顺序分配唯一的字典码,将所有同类日志中的不变信息是User download the app $ spend time $ secondsat time $采用新分配的字典码代替,日志信息中的可变信息按顺序存储即可。
S304、更新所述字典表,并将更新后的字典表发送给服务器;
由于在步骤S302和S303中增加了新的字典码,则本步骤中要对字典码进行更新,具体更新时,可以一检测到有新的字典码就及时更新,也可以在预设时间段,如10个小时内更新一次,或者检测到预设数目个新的字典码,如检测到5个新的字典码时更新一次。
在更新方式上,可以采取以下两种方式:
方式一:可以对字典表进行整体更新,将更新后的字典表发送给服务器。
方式二:更新所述字典表;获取服务器的当前字典表,提取所述当前字典表中排序最后的字典码;将更新后字典表中排序在所述最后字典码的数据信息发送给服务器。
本发明提供的日志传输方法,将日志信息中的冗长的不变信息采用简短的字典码代替进行存储和传输,能有效减小日志传输过程中占用存储空间、提高日志传输效率。
图4所示为本发明另一实施例提供的日志传输方法,该日志传输方法包括:
S401、判断日志信息中是否包含已有字典码;
其中,字典码可以预先存储在字典表中。
在一种具体的实施方式中,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成。例如表1为“记录用户下载的应用、下载时长及下载时间”和“记录用户卸载的应用及卸载时间”两种类型的日志信息对应的字典表。
表1字典表
其中,字典码按照阿拉伯数字顺序1和2进行排列,存储ID代表该字典码的具体存储位置,产品名称代表产生该日志信息的装置,日志不变信息指与给日志信息类型相同的所有同类日志中内容不变的信息,关键词是对该日志信息功能的描述。
例如在本步骤中,接收到日志信息为User upload the file简历spend time300seconds at time2017.4.2011:10:00。则确定该日志中不包含表1中已有字典码1和2。则执行步骤S402。
S402、当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
示例性的,本步骤中,将日志信息User upload the file简历spend time300seconds at time2017.4.2011:10:00与接收到该日志信息前后一个小时内的所有同类日志信息相比较,提取所有这些同类日志信息中的不变信息。例如,对于上述日志信息提取到的不变信息为User upload the file $ spend time $ seconds at time $。这里用$符号来表示可变信息。
S403、将所有同类日志中的不变信息采用新的字典码进行存储并传输;
具体的,本步骤包括:
S4031、以新的字典码代替所有同类日志中的所述不变信息;
例如,在步骤S402中提取到的不变信息为User upload the file $ spend time$ seconds at time $。则为该不变信息根据表1中已有的字典码建立新的字典码。即将不变信息为User upload the file $ spend time $ seconds at time $与字典码3一一对应起来,进一步,可根据不变信息的具体情况完善表1中字典码3对应的对应的存储ID,产品名称和关键词等信息。
S4032、将所述新的字典码及所有同类日志中的可变信息按顺序存储并传输给服务器。
例如在本步骤S401中,接收到日志信息为User upload the file简历spend time300seconds at time2017.4.2011:10:00,通过新的字典码3代替不变信息User uploadthe file $ spend time $ seconds at time $,并将可变信息按照原有的顺序排列,则存储日志变为:3简历300 2017.4.20 11:10:00.这样,可以极大的减少日志的存储和传输量,提高日志的传输效率。
S404、更新所述字典表,并将更新后的字典表发送给服务器;
若在步骤S402和S403中增加了新的字典码,则本步骤中要对字典码进行更新,具体更新时,可以一检测到有新的字典码就及时更新,也可以在预设时间段,如10个小时内更新一次,或者检测到预设数目个新的字典码,如检测到5个新的字典码时更新一次。
在更新方式上,可以采取以下两种方式:
方式一:可以对字典表进行整体更新,将更新后的字典表发送给服务器。
方式二:更新所述字典表;获取服务器的当前字典表,提取所述当前字典表中排序最后的字典码;将更新后字典表中排序在所述最后字典码的数据信息发送给服务器。
方式一相较于方式二,只需对排序在最后字典码以后的字典码进行更新即可,减小重复更新的工作量。
S405、服务器接收包含字典码的日志信息及更新的字典码;
本步骤中,若客户端发送了更新的字典码,则接收更新的字典码,若客户端未发送更新的字典码,则沿用最近一次更新的字典码。
其中,该日志信息包括字典码和可变信息。字典码可以预先存储在字典表中。
在一种具体的实施方式中,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成。服务器接收到包含字典码的日志信息“3简历300 2017.4.20 11:10:00”以及更新的字典码3。
S406、根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,字典表为包含更新字典码3的更新字典表。
具体的,本步骤包括:
S4061、在所述字典表中查找与所述字典码对应的日志不变信息和关键词;
示例性的,在更新字典表中查找与字典码3对应的日志不变信息得到:Userupload the file $ spend time $ seconds at time $,对应的关键词:上传的文件、上传时间。
S4062、根据所述关键词将所述日志不变信息和所述日志信息中的可变信息进行匹配,得到解析后的日志信息。
对于日志信息“3简历300 2017.4.20 11:10:00”,对应不变信息User upload thefile $ spend time $ seconds at time $,对应的关键词:上传的文件、上传时间。其中,可变信息为“简历300 2017.4.20 11:10:00”,根据关键词,不变信息及可变信息的排列顺序得到解析后的日志信息为:User upload the file简历spend time 300seconds attime2017.4.20 11:10:00。
至此,完成了包含新字典码的日志信息的存储、传输和解析。对于包含已有字典码的日志信息,在步骤S401之后可执行如下步骤:
S407、当所述日志信息中包含已有字典码时,将所述日志信息分为与所述已有字典码对应的日志不变信息和可变信息,以所述已有字典码和所述可变信息按顺序存储并传输所述日志信息。
此外,本发明中,为了保证该接口的性能,可以将字典表保存一份在Redis缓存服务器中,这样可以快速的将字典表提供给百万千万甚至十亿数量级的手机应用。其中,Redis缓存服务器中的字典信息保存结构是哈希表,key是产品ID,值是字典表中对应信息。通过这个数据结构,可以保证接口获取数据时的最大性能。
基于上述各方法实施例,本发明还提供一种日志传输装置5,具体可以是包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant,PDA)、便捷式媒体播放器(Portable Media Player,PMP)、导航装置、可穿戴设备、智能手环、计步器等的移动终端,以及诸如数字TV、台式计算机等固定终端。
如图5所示,该日志传输装置5包括:存储器51、处理器52及存储在所述存储器上并可在所述处理器上运行的日志传输程序,所述日志传输程序被所述处理器执行时实现以下步骤:
判断日志信息中是否包含已有字典码;
当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
将所有同类日志中的不变信息采用新的字典码进行存储并传输;
其中,所述字典表是由所述字典码与所述字典码对应的日志不变信息组成。
进一步的,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;所述将所有同类日志中的不变信息采用新的字典码进行存储并传输步骤中,所述处理器还用于执行所述日志传输程序,以实现以下步骤:
以新的字典码代替所有同类日志中的所述不变信息;
将所述新的字典码及所有同类日志中的可变信息按顺序存储并传输。
进一步的,所述将所有同类日志中的不变信息采用新的字典码进行存储并传输步骤之后,所述处理器还用于执行所述日志传输程序,以实现以下步骤:
更新所述字典表,并将更新后的字典表发送给服务器;
或者,
更新所述字典表;
获取服务器的当前字典表,提取所述当前字典表中排序最后的字典码;
将更新后字典表中排序在所述最后字典码的数据信息发送给服务器。
本发明另一实施例还提供一种日志传输装置,该日志传输装置具体可以是服务器,如图6所示,所述日志传输装置6包括:存储器61、处理器62及存储在所述存储器上并可在所述处理器上运行的日志传输程序,所述日志传输程序被所述处理器执行时实现以下步骤:
接收包含字典码的日志信息;
根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
进一步的,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;
所述根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息步骤中,所述日志传输程序被所述处理器执行时实现以下步骤:
在所述字典表中查找与所述字典码对应的日志不变信息和关键词;
根据所述关键词将所述日志不变信息和所述日志信息中的可变信息进行匹配,得到解析后的日志信息。
本发明另一方面还提供一种计算机可读存储介质,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现以下步骤:
判断日志信息中是否包含已有字典码;
当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
将所有同类日志中的不变信息采用新的字典码进行存储并传输;
其中,所述字典表是由所述字典码与所述字典码对应的日志不变信息组成。
进一步的,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;所述将所有同类日志中的不变信息采用新的字典码进行存储并传输步骤中,所述一个或者多个程序还可被所述一个或者多个处理器执行,以实现以下步骤:
以新的字典码代替所有同类日志中的所述不变信息;
将所述新的字典码及所有同类日志中的可变信息按顺序存储并传输。
进一步的,所述将所有同类日志中的不变信息采用新的字典码进行存储并传输步骤之后,所述一个或者多个程序还可被所述一个或者多个处理器执行,以实现以下步骤:
更新所述字典表,并将更新后的字典表发送给服务器;
或者,
更新所述字典表;
获取服务器的当前字典表,提取所述当前字典表中排序最后的字典码;
将更新后字典表中排序在所述最后字典码的数据信息发送给服务器。
本发明另一方面还提供一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现以下步骤:
接收包含字典码的日志信息;
根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
进一步的,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;
所述根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息步骤中,所述一个或者多个程序还可被所述一个或者多个处理器执行,以实现以下步骤:
在所述字典表中查找与所述字典码对应的日志不变信息和关键词;
根据所述关键词将所述日志不变信息和所述日志信息中的可变信息进行匹配,得到解析后的日志信息。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。
Claims (10)
1.一种日志传输方法,其特征在于,所述日志传输方法包括:
判断日志信息中是否包含已有字典码;
当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
将所有同类日志中的不变信息采用新的字典码进行存储并传输;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
2.根据权利要求1所述的日志传输方法,其特征在于,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;
所述将所有同类日志中的不变信息采用新的字典码进行存储并传输包括:
以新的字典码代替所有同类日志中的所述不变信息;
将所述新的字典码及所有同类日志中的可变信息按顺序存储并传输。
3.根据权利要求1或2所述的日志传输方法,其特征在于,所述将所有同类日志中的不变信息采用新的字典码进行存储并传输之后还包括:
更新所述字典表,并将更新后的字典表发送给服务器;
或者,
更新所述字典表;
获取服务器的当前字典表,提取所述当前字典表中排序最后的字典码;
将更新后字典表中排序在所述最后字典码的数据信息发送给服务器。
4.一种日志传输方法,其特征在于,所述日志传输方法包括:
接收包含字典码的日志信息;
根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
5.根据权利要求4所述的日志传输方法,其特征在于,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;
所述根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息包括:
在所述字典表中查找与所述字典码对应的日志不变信息和关键词;
根据所述关键词将所述日志不变信息和所述日志信息中的可变信息进行匹配,得到解析后的日志信息。
6.一种日志传输装置,其特征在于,所述日志传输装置包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的日志传输程序,所述日志传输程序被所述处理器执行时实现以下步骤:
判断日志信息中是否包含已有字典码;
当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
将所有同类日志中的不变信息采用新的字典码进行存储并传输;
其中,所述字典表是由所述字典码与所述字典码对应的日志不变信息组成。
7.根据权利要求6所述的日志传输装置,其特征在于,所述字典表由字典码,以及与所述字典码对应的存储ID,产品名称,日志不变信息和关键词组成;所述将所有同类日志中的不变信息采用新的字典码进行存储并传输步骤中,所述处理器还用于执行所述日志传输程序,以实现以下步骤:
以新的字典码代替所有同类日志中的所述不变信息;
将所述新的字典码及所有同类日志中的可变信息按顺序存储并传输。
8.一种日志传输装置,其特征在于,所述日志传输装置包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的日志传输程序,所述日志传输程序被所述处理器执行时实现以下步骤:
接收包含字典码的日志信息;
根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现以下步骤:
判断日志信息中是否包含已有字典码;
当所述日志信息中未包含已有字典码时,将预设时间段内与所述日志信息相同类型的所有同类日志进行比较,提取所有同类日志中的不变信息;
将所有同类日志中的不变信息采用新的字典码进行存储并传输;
其中,所述字典表是由所述字典码与所述字典码对应的日志不变信息组成。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现以下步骤:
接收包含字典码的日志信息;
根据所述字典码、所述字典码在字典表中的对应信息解析所述日志信息;
其中,所述字典表由所述字典码与所述字典码对应的日志不变信息组成。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710371863.3A CN107241394A (zh) | 2017-05-24 | 2017-05-24 | 一种日志传输方法、装置及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710371863.3A CN107241394A (zh) | 2017-05-24 | 2017-05-24 | 一种日志传输方法、装置及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107241394A true CN107241394A (zh) | 2017-10-10 |
Family
ID=59985203
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710371863.3A Withdrawn CN107241394A (zh) | 2017-05-24 | 2017-05-24 | 一种日志传输方法、装置及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107241394A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110399360A (zh) * | 2019-07-26 | 2019-11-01 | 北京明略软件系统有限公司 | 字典表的设置方法及装置、存储介质、电子装置 |
CN111045902A (zh) * | 2018-10-10 | 2020-04-21 | 中国移动通信集团浙江有限公司 | 服务器的压力测试方法及装置 |
CN113139081A (zh) * | 2021-04-27 | 2021-07-20 | 中山亿联智能科技有限公司 | 高效率低延迟上报读取用户在线播放信息的方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110085194A1 (en) * | 2009-10-08 | 2011-04-14 | Kabushiki Kaisha Toshiba | Log information process device, image formation apparatis, and log information processing method |
CN103379136A (zh) * | 2012-04-17 | 2013-10-30 | 中国移动通信集团公司 | 一种日志采集数据压缩方法、解压缩方法及装置 |
CN104283723A (zh) * | 2014-10-31 | 2015-01-14 | 北京蓝汛通信技术有限责任公司 | 网络访问日志处理方法及装置 |
CN104378234A (zh) * | 2014-11-19 | 2015-02-25 | 北京数迅科技有限公司 | 跨数据中心的数据传输处理方法及系统 |
CN104408100A (zh) * | 2014-11-19 | 2015-03-11 | 北京融海恒信咨询有限公司 | 结构化网站日志的压缩方法 |
-
2017
- 2017-05-24 CN CN201710371863.3A patent/CN107241394A/zh not_active Withdrawn
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110085194A1 (en) * | 2009-10-08 | 2011-04-14 | Kabushiki Kaisha Toshiba | Log information process device, image formation apparatis, and log information processing method |
CN103379136A (zh) * | 2012-04-17 | 2013-10-30 | 中国移动通信集团公司 | 一种日志采集数据压缩方法、解压缩方法及装置 |
CN104283723A (zh) * | 2014-10-31 | 2015-01-14 | 北京蓝汛通信技术有限责任公司 | 网络访问日志处理方法及装置 |
CN104378234A (zh) * | 2014-11-19 | 2015-02-25 | 北京数迅科技有限公司 | 跨数据中心的数据传输处理方法及系统 |
CN104408100A (zh) * | 2014-11-19 | 2015-03-11 | 北京融海恒信咨询有限公司 | 结构化网站日志的压缩方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111045902A (zh) * | 2018-10-10 | 2020-04-21 | 中国移动通信集团浙江有限公司 | 服务器的压力测试方法及装置 |
CN110399360A (zh) * | 2019-07-26 | 2019-11-01 | 北京明略软件系统有限公司 | 字典表的设置方法及装置、存储介质、电子装置 |
CN113139081A (zh) * | 2021-04-27 | 2021-07-20 | 中山亿联智能科技有限公司 | 高效率低延迟上报读取用户在线播放信息的方法 |
CN113139081B (zh) * | 2021-04-27 | 2023-10-27 | 中山亿联智能科技有限公司 | 高效率低延迟上报读取用户在线播放信息的方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107508892A (zh) | 一种页面访问方法、服务器及计算机可读存储介质 | |
CN107688607A (zh) | 一种数据库访问的方法及移动终端、计算机可读存储介质 | |
CN107222532A (zh) | 一种无线固件升级方法、装置及计算机可读存储介质 | |
CN107463481A (zh) | 数据交互方法、移动终端和存储介质 | |
CN107436779A (zh) | 一种应用程序管理方法、设备及计算机可读存储介质 | |
CN107193889A (zh) | 广告拦截方法、终端及计算机可读存储介质 | |
CN107707450A (zh) | 一种传输文件的方法、装置和计算机可读存储介质 | |
CN107145385A (zh) | 一种多任务界面显示方法、移动终端和计算机存储介质 | |
CN107133302A (zh) | 实现数据一致性的方法、系统、终端及计算机可读存储介质 | |
CN106953684A (zh) | 一种搜星的方法、移动终端以及计算机可读存储介质 | |
CN107239522A (zh) | 图片存储方法、设备和计算机存储介质 | |
CN107220050A (zh) | 自适应显示方法、终端及计算机可读存储介质 | |
CN107181865A (zh) | 未读短信的处理方法、终端及计算机可读存储介质 | |
CN107133151A (zh) | 一种日志数据处理方法、设备以及计算机可读存储介质 | |
CN107589887A (zh) | 一种应用启动方法及终端 | |
CN107135086A (zh) | 一种广播推送方法及设备、计算机可读存储介质 | |
CN107621915A (zh) | 一种消息提醒方法、设备及计算机存储介质 | |
CN107241394A (zh) | 一种日志传输方法、装置及计算机可读存储介质 | |
CN107659726A (zh) | 一种恢复终端信息的方法、设备及计算机可读存储介质 | |
CN107368241A (zh) | 一种信息处理方法、设备及计算机可读存储介质 | |
CN107105058A (zh) | 文件夹传输方法及移动终端 | |
CN108121762A (zh) | 一种图片处理方法、移动终端以及计算机存储介质 | |
CN107465829A (zh) | 一种文件发送方法、移动终端及计算机可读存储介质 | |
CN107809527A (zh) | 一种呈现快捷操作的方法和装置 | |
CN107103082A (zh) | 数据处理方法、客户端及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20171010 |