CN107463602A - 一种日志处理方法及服务器、客户端 - Google Patents

一种日志处理方法及服务器、客户端 Download PDF

Info

Publication number
CN107463602A
CN107463602A CN201710452797.2A CN201710452797A CN107463602A CN 107463602 A CN107463602 A CN 107463602A CN 201710452797 A CN201710452797 A CN 201710452797A CN 107463602 A CN107463602 A CN 107463602A
Authority
CN
China
Prior art keywords
log
server
log information
agent module
query
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710452797.2A
Other languages
English (en)
Inventor
王军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nubia Technology Co Ltd
Original Assignee
Nubia Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nubia Technology Co Ltd filed Critical Nubia Technology Co Ltd
Priority to CN201710452797.2A priority Critical patent/CN107463602A/zh
Publication of CN107463602A publication Critical patent/CN107463602A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/10—File systems; File servers
    • G06F16/18—File system types
    • G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
    • G06F16/1815—Journaling file systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23—Updating
    • G06F16/2358—Change logging, detection, and notification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06—Management of faults, events, alarms or notifications
    • H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services

Abstract

本发明提供了一种日志处理方法及服务器、客户端，包括：各远程代理模块收集自身所属服务器的日志信息并过滤；中心代理模块将来自各远程代理模块的日志信息送至提供有查询接口的搜索引擎；所述搜索引擎将所述日志信息存储，并通过所述查询接口向客户端提供所请求的日志；其中，所述各远程代理模块分别部署在各服务器上。本申请解决了相关技术中因服务器数量太多而无法查找其日志以至于无法及时解除服务器上BUG的技术问题。

Description

一种日志处理方法及服务器、客户端
技术领域
本发明涉及日志处理技术，尤指一种日志处理方法及服务器、客户端。
背景技术
随着一个系统的不断壮大，用户的访问量增加，支撑该系统运行的服务器也随之增加，一旦线上的服务器出现了BUG，按照正常的流程，程序员需要对照日志，才能查清出现这个BUG的原因，而当服务器只有一台的情况下，程序员可以很好的通过运维人员直接查找该台服务器下的日志找出原因。但一旦服务器超过一台，大的系统一般都是成百上千台服务器，采用上述方式无法定位哪台服务器出了问题，也不可能人工一台台服务器查日志找原因。
因此，需要一种日志统一收集的方案，将所有服务器下的必要日志统一收集到一处，方便工作人员查询和管理。
发明内容
针对上述技术问题，本发明提供了一种日志处理方法及服务器、客户端，能够将所有服务器下的必要日志统一收集起来供工作人员查询。
本申请提供了：
一种日志处理方法，包括：
各远程代理模块收集自身所属服务器的日志信息并过滤；
中心代理模块将来自各远程代理模块的日志信息送至提供有查询接口的搜索引擎；
所述搜索引擎将所述日志信息存储，并通过所述查询接口向客户端提供所请求的日志；
其中，所述各远程代理模块分别部署在各服务器上。
其中，所述各远程代理模块收集自身所属服务器的日志信息并过滤，包括：各远程代理模块基于预设的第一配置文件收集自身所属服务器的日志信息，并基于所述第一配置文件中的正则匹配条件将所述日志信息过滤。
其中，所述中心代理模块将来自各远程代理模块的日志送至搜索引擎之前，还包括：各远程代理模块将过滤后的日志信息送至指定缓存区；
所述中心代理模块将来自各远程代理模块的日志信息送至搜索引擎，包括：所述中心代理模块基于预设的第二配置文件从所述指定缓存区收集日志信息并送至搜索引擎。
其中，通过所述查询接口向客户端提供所请求的日志信息，包括：通过所述查询接口接收来自所述客户端的日志查询请求，所述日志查询请求携带日志查询条件；查询与所述日志查询条件相匹配的日志信息并通过所述查询接口将所查询到的日志信息返回给所述客户端。
一种服务器，包括：
存储有日志处理程序的存储器；
处理器，配置为执行所述日志处理程序以执行下述操作：通过各远程代理模块收集自身所属服务器的日志并过滤；通过中心代理模块将各远程代理模块的日志送至提供有查询接口的搜索引擎；通过所述搜索引擎将所述日志存储，并通过所述查询接口向客户端提供所请求的日志；其中，所述各远程代理模块分别部署在各服务器上。
一种计算机可读存储介质，所述计算机可读存储介质上存储有日志处理程序，所述日志处理程序被处理器执行时实现上述日志处理方法的步骤。
一种日志处理方法，包括：
接收用户输入的日志查询条件；
向服务器端请求与所述日志查询条件相匹配的日志信息；
展示所述向服务器端提供的日志信息。
其中，所述向服务器端请求与所述日志查询条件相匹配的日志信息，包括：通过服务器端提供的查询接口向服务器端发送日志查询请求，所述日志查询请求携带所述日志查询条件；
通过所述查询接口接收所述服务器端返回的日志信息。
一种客户端，包括：
显示器，配置为向用户展示日志信息；
存储有日志处理程序的存储器；
处理器，配置为执行所述日志处理程序以执行下述操作：接收用户输入的日志查询条件；向服务器端请求与所述日志查询条件相匹配的日志信息；控制所述显示器展示所述向服务器端提供的日志信息。
一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有日志处理程序，所述日志处理程序被处理器执行时实现上述日志处理方法的步骤。
本申请的技术效果包括如下：
本申请至少一个实施例中，通过部署在各服务器上的各远程代理模块、收集所有服务器日志信息的中心代理模块、以及具有查询接口的搜索引擎，将所有服务器下的必要日志统一收集到一处并通过查询接口向客户端提供日志信息，解决了相关技术中因服务器数量太多而无法查找其日志以至于无法及时解除服务器上BUG的技术问题。
本申请至少一个实施例中，工作人员只需要在客户端输入日志查询条件即可从服务器查找到指定服务器下的日志，日志查询效率高、成本低、准确率高，且易于操作。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1为实现本发明各个实施例的移动终端的硬件结构示意；
图2为支持本发明移动终端之间进行通信的通信系统的示意图；
图3为实施例一日志处理方法的流程示意图；
图4为实施例一logstash+elasticsearch+redis结构的示例图；
图5为实施例二服务器一示例的结构示意图；
图6为实施例四日志处理方法的流程示意图；
图7为实施例四中日志信息展示界面的示例图。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1，其为实现本发明各个实施例的一种移动终端的硬件结构示意图，该移动终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍：
射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobile communication，全球移动通讯系统)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access，时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution，分时双工长期演进)等。
WiFi属于短距离无线传输技术，移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。
进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。
为了便于理解本发明实施例，下面对本发明的移动终端所基于的通信网络系统进行描述。
请参阅图2，图2为本发明实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。
具体地，UE201可以是上述终端100，此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组数据网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE系统，也可以适用于其他无线通信系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。
基于上述移动终端硬件结构以及通信网络系统，提出本发明方法各个实施例。
实施例一
一种日志处理方法，如图3所示，可包括：
步骤301，各远程代理模块收集自身所属服务器的日志信息并过滤；
步骤302，中心代理模块将来自各远程代理模块的日志信息送至提供有查询接口的搜索引擎；
步骤303，所述搜索引擎将所述日志信息存储，并通过所述查询接口向客户端提供所请求的日志；
其中，所述各远程代理模块分别部署在各服务器上。
本实施例中，通过部署在各服务器上的各远程代理模块、收集所有服务器日志信息的中心代理模块、以及具有查询接口的搜索引擎，将所有服务器下的必要日志统一收集到一处并通过查询接口向客户端提供日志信息，解决了相关技术中因服务器数量太多而无法查找其日志以至于无法及时解除服务器上BUG的技术问题，工作人员只需要在客户端输入日志查询条件即可从服务器查找到需要查看的日志信息，日志查询效率高、成本低、准确率高，且易于操作。
本申请中，日志信息可以包括：日志文件路径、日志文件对应的服务器地址、日志文件的收集时间、日志文件的内容等。
实际应用中，本申请中各远程代理模块、中心代理模块均可以通过Logstatsh实现，Logstatsh可用来监控日志文件，在监控到日志文件有更新时会自动收集日志文件新追加的内容。实际应用中，可以将各远程代理模块部署在需要收集日志的各个服务器上。远程代理模块与服务器的对应关系可以有多种。例如，远程代理模块通过Logstatsh实现时，可以是一一对应关系，也就是说，一台服务器对应一个Logstatsh，一个Logstatsh对应一个第一配置文件，需要收集多少台服务器的日志就部署几个logstash，logstash只是监控服务器的日志文件，跟服务器并无关系。
一种实现方式中，所述各远程代理模块收集自身所属服务器的日志信息并过滤，可以包括：各远程代理模块基于预设的第一配置文件收集自身所属服务器的日志信息，并基于所述第一配置文件中的正则匹配条件将所述日志信息过滤。这里，第一配置文件中可以包含所监控的日志文件信息(例如，日志文件的路径和格式等)、日志信息的过滤条件(如，正则匹配条件)、日志信息的输出地址(例如，将日志信息输出到redis时，redis的地址等)。
例如，第一配置文件中可以配置：日志收集规则，所述日志收集规则表示要收集的指定日志文件信息(例如，指定日志文件的路径、格式等)。如此，远程代理模块可以根据第一配置文件中的日志收集规则收集一台服务器上软件的日志信息。
再例如，第一配置文件中可以配置：正则匹配条件，所述正则匹配条件用于将所收集的日志信息中没有意义的日志过滤掉。例如，正则匹配条件可以设定日志的错误等级，在日志的错误等级不满足所述正则匹配条件的要求时则将相应的日志信息删除。
例如，第一配置文件可以配置为如下：
其中，input指明监控的文件路径和格式，Ouput指明将文件的内容输出到redis去，Filter指定过滤文件的内容，可以根据正则表达式grok进行配置，如判断日志错误等级等。
一种实现方式中，还可以部署用于日志缓冲收集的指定缓存区。所述中心代理模块将来自各远程代理模块的日志送至搜索引擎之前，各远程代理模块可以将过滤后的日志信息送至指定缓存区；所述中心代理模块可以基于预设的第二配置文件从所述指定缓存区收集日志信息并送至搜索引擎。本申请中，指定缓存区可以通过Redis实现。Redis是一个缓存数据的工具，本申请中主要起缓存作用，防止多个远程代理模块上的日志信息一下子全流入到中心代理模块。此外，使用Redis作为中心代理模块与各远程代理模块之间的缓冲区，一方面可以提高系统的性能，另一方面可以提高系统的可靠性，当中心代理模块提取数据失败时，数据可以缓存在redis中不至于丢失。
这里，第二配置文件与第一配置文件的内容相似，不同的是第二配置文件中不包含过滤条件。也就是说，第二配置文件可以包括：所监控的日志文件信息(例如，日志文件的路径和格式等)、日志信息的输出地址(例如，将日志信息输出到elasticsearchredis时，elasticsearchredis的地址等)。
一种实现方式中，通过所述查询接口向客户端提供所请求的日志信息，可以包括：通过所述查询接口接收来自所述客户端的日志查询请求，所述日志查询请求携带日志查询条件；查询与所述日志查询条件相匹配的日志信息并通过所述查询接口将所查询到的日志信息返回给所述客户端。
本申请中，具有查询接口的搜索引擎可以通过Elasticsearch实现。实际应用中，Elasticsearch是一个中文搜索引擎，logstatsh将文件内容导入到elasticsearch后，elasticsearch提供一系列应用程序编程接口(API，Application ProgrammingInterface)供第三方(如客户端)调用获取日志内容。Elasticsearch用来存储最终的日志，并提供丰富的接口给客户端进行日志的查询，需要特别注意的是elasticsearch默认端口是对外开放的，实际应用中还可以在设置访问权限，通过访问权限验证可以防止日志外泄，提高日志查询的安全性。
例如，elasticsearch提供的API可以是：Get/website/blog/123，表示获取索引为website、类型为blog、id为123的日志数据,返回内容如下，在source字段里
再例如，elasticsearch提供的API可以是：GET/website/blog/123？_source＝title,text；通过该API查询时返回内容如下：
再例如，只需要得到_source字段，而不需要其他数据时，可以这样请求，API可以是：GET/website/blog/123/_source，此时返回内容如下:
本申请的上述方法可以通过在服务器实现。例如，可以通过在服务器上搭建一个基于logstash+elasticsearch+redis的结构来实现本申请的上述方法。
例如，需要收集三个服务器(服务器1、服务器2、服务器3)上的日志信息时，可以通过如图4所示的logstash+elasticsearch+redis结构来实现日志处理。具体的，可以分别在这三个服务器上部署远程logstash：logstash1、logstash2、logstash3，logstash1、logstash2、logstash3上分别配置有第一配置文件，logstash1、logstash2、logstash3分别基于自身的第一配置文件收集服务器1、服务器2、服务器3的日志信息、过滤之后送至redis，redis将logstash1、logstash2、logstash3收集并过滤后的日志信息缓存，中心logstash根据预设的第二配置文件定时从redis获取日志信息并送至elasticsearch，elasticsearch将所述日志信息存储并提供用于查询日志信息的一系列应用程序编程接口(API，Application Programming Interface)供第三方(如客户端)调用以查询日志信息。其中，logstash与redis可以通过http或socket交互。
实施例二
一种服务器，可以包括：
存储有日志处理程序的存储器；
处理器，配置为执行所述日志处理程序以执行下述操作：通过各远程代理模块收集自身所属服务器的日志并过滤；通过中心代理模块将各远程代理模块的日志送至提供有查询接口的搜索引擎；通过所述搜索引擎将所述日志存储，并通过所述查询接口向客户端提供所请求的日志；其中，所述各远程代理模块分别部署在各服务器上。
其中，处理器可配置为执行所述日志处理程序以执行下述操作：通过各远程代理模块基于预设的第一配置文件收集自身所属服务器的日志信息，并基于所述第一配置文件中的正则匹配条件将所述日志信息过滤。
其中，处理器可配置为执行所述日志处理程序以执行下述操作：通过所述中心代理模块将来自各远程代理模块的日志送至搜索引擎之前，通过各远程代理模块将过滤后的日志信息送至指定缓存区；通过所述中心代理模块基于预设的第二配置文件从所述指定缓存区收集日志信息并送至搜索引擎。
其中，处理器可配置为执行所述日志处理程序以执行下述操作：通过所述查询接口接收来自所述客户端的日志查询请求，所述日志查询请求携带日志查询条件；查询与所述日志查询条件相匹配的日志信息并通过所述查询接口将所查询到的日志信息返回给所述客户端。
本实施例的服务器可实现实施例一所述方法的所有细节，可参照实施例一的相关记载。
一种实现方式中，所述服务器可采用如图5所示的应用服务器。具体的，所述应用服务器包括：输入输出(IO)总线、处理器40、存储器41、内存42和通信装置43。其中，输入输出(IO)总线分别与自身所属的服务器的其它部件(处理器40、存储器41、内存42和通信装置43)连接，并且为其它部件提供传送线路。处理器40通常控制自身所属的服务器的总体操作。例如，处理器40执行计算和确认等操作。其中，处理器40可以是中央处理器(CPU)。通信装置43，通常包括一个或多个组件，其允许自身所属的服务器与无线通信系统或网络之间的无线电通信。存储器41存储处理器40可读、处理器可执行的软件代码，其包含用于控制处理器40执行本文描述的功能的指令(即软件执行功能)。其中，上述日志处理程序可存储在存储器41中，并由处理器40执行或编译后执行。
实施例三
一种计算机可读存储介质，所述计算机可读存储介质上存储有日志处理程序，所述日志处理程序被处理器执行时实现上述实施例一所述日志处理方法的步骤。
其中，所述日志处理程序被处理器执行时可实现下述操作：通过各远程代理模块基于预设的第一配置文件收集自身所属服务器的日志信息，并基于所述第一配置文件中的正则匹配条件将所述日志信息过滤。
其中，所述日志处理程序被处理器执行时可实现下述操作：通过所述中心代理模块将来自各远程代理模块的日志送至搜索引擎之前，通过各远程代理模块将过滤后的日志信息送至指定缓存区；通过所述中心代理模块基于预设的第二配置文件从所述指定缓存区收集日志信息并送至搜索引擎。
其中，所述日志处理程序被处理器执行时可实现下述操作：通过所述查询接口接收来自所述客户端的日志查询请求，所述日志查询请求携带日志查询条件；查询与所述日志查询条件相匹配的日志信息并通过所述查询接口将所查询到的日志信息返回给所述客户端。
可选地，在本实施例中，上述存储介质可以包括但不限于：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
可选地，在本实施例中，处理器根据存储介质中已存储的程序代码执行上述实施例一的方法步骤。
可选地，本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例，本实施例在此不再赘述。
实施例四
一种日志处理方法，如图6所示，可包括：
步骤601，接收用户输入的日志查询条件；
步骤602，向服务器端请求与所述日志查询条件相匹配的日志信息；
步骤603，展示所述向服务器端提供的日志信息。
本实施例中，客户端可根据用户提供的日志查询条件向服务器端请求相应的日志信息并将相应的日志信息展示出来，如此，工作人员只需要在客户端输入日志查询条件即可从服务器端查找到需要查看的日志信息，日志查询效率高、成本低、准确率高，且易于操作。
本实施例中，所述日志信息可以包括：日志文件路径、日志文件对应的服务器地址、日志文件的收集时间、日志文件的内容等。
具体的，所述向服务器端请求与所述日志查询条件相匹配的日志信息，可以包括：通过服务器端提供的查询接口向服务器端发送日志查询请求，所述日志查询请求携带所述日志查询条件；通过所述查询接口接收所述服务器端返回的日志信息。
如果服务器端采用了elasticsearch，那么客户端可以将用户输入的日志查询条件转换成符合elasticsearch规则的调用请求，该调用请求即为上述的日志查询请求，以从elasticsearch获得相应的日志信息。
具体的，在服务器端通过elasticsearch提供API供客户端查询日志信息时，客户端可按照elasticsearch的文档要求进行http方式调用相应的API，按照预定的规则发送日志查询请求至服务器端的elasticsearch，该预定的规则可以按照Elasticsearch的文档要求需要上传的参数进行封装。例如，Elasticsearch采用实施例一所示的API例子时，客户端客户端可参照API例子的格式将日志查询请求封装成相应的URL形式，从而调用相应的API，即可获得返回值(即要找的日志信息)。客户端将服务器端elasticsearch返回的日志信息渲染在用户需要查看的界面上进行展示。例如，可以通过web页展示日志信息。如图7所示为日志信息的展示界面示例图。其中，展示有日志文件路径、日志文件对应的服务器地址、日志文件的收集时间、日志文件的内容等。
实际应用中，客户端可以提供输入界面供用户输入日志查询条件，该输入界面可以是网页，也可以是其他形式。当然，客户端还可以提供其他的输入方式供用户输入日志查询条件，例如，语音输入等。
实际应用中，本实施例的客户端可以是如图1所示的移动终端，也可以是其他类似的电子设备(如PC、平板电脑等)，对此，本文不作限制。
实施例五
一种客户端，包括：
显示器，配置为向用户展示日志信息；
存储有日志处理程序的存储器；
处理器，配置为执行所述日志处理程序以执行下述操作：接收用户输入的日志查询条件；向服务器端请求与所述日志查询条件相匹配的日志信息；控制所述显示器展示所述向服务器端提供的日志信息。
具体的，所述处理器还配置为执行所述日志处理程序以执行下述操作：通过服务器端提供的查询接口向服务器端发送日志查询请求，所述日志查询请求携带所述日志查询条件；通过所述查询接口接收所述服务器端返回的日志信息。
本实施例中，客户端可以作为一个日志查询平台。例如，客户端可以通过网站页面实现，可以提供搜索条件供开发人员输入、搜索，通过调用Elasticsearch的API来查询日志信息并渲染到网页前端进行展示。
本实施例的客户端可实现实施例四所述方法的所有细节，可参照实施例一的相关记载。
实施例六
一种计算机可读存储介质，所述计算机可读存储介质上存储有日志处理程序，所述日志处理程序被处理器执行时实现上述实施例四所述日志处理方法的步骤。
其中，所述日志处理程序被处理器执行时可实现下述操作：通过服务器端提供的查询接口向服务器端发送日志查询请求，所述日志查询请求携带所述日志查询条件；通过所述查询接口接收所述服务器端返回的日志信息。
可选地，在本实施例中，上述存储介质可以包括但不限于：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
可选地，在本实施例中，处理器根据存储介质中已存储的程序代码执行上述实施例四的方法步骤。
可选地，本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例，本实施例在此不再赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。

Claims (10)

1.一种日志处理方法，其特征在于，包括：
各远程代理模块收集自身所属服务器的日志信息并过滤；
中心代理模块将来自各远程代理模块的日志信息送至提供有查询接口的搜索引擎；
所述搜索引擎将所述日志信息存储，并通过所述查询接口向客户端提供所请求的日志；
其中，所述各远程代理模块分别部署在各服务器上。
2.根据权利要求1所述的日志处理方法，其特征在于，所述各远程代理模块收集自身所属服务器的日志信息并过滤，包括：
各远程代理模块基于预设的第一配置文件收集自身所属服务器的日志信息，并基于所述第一配置文件中的正则匹配条件将所述日志信息过滤。
3.根据权利要求1所述的日志处理方法，其特征在于，
所述中心代理模块将来自各远程代理模块的日志送至搜索引擎之前，还包括：各远程代理模块将过滤后的日志信息送至指定缓存区；
所述中心代理模块将来自各远程代理模块的日志信息送至搜索引擎，包括：所述中心代理模块基于预设的第二配置文件从所述指定缓存区收集日志信息并送至搜索引擎。
4.根据权利要求1所述的日志处理方法，其特征在于，通过所述查询接口向客户端提供所请求的日志信息，包括：
通过所述查询接口接收来自所述客户端的日志查询请求，所述日志查询请求携带日志查询条件；
查询与所述日志查询条件相匹配的日志信息并通过所述查询接口将所查询到的日志信息返回给所述客户端。
5.一种服务器，其特征在于，包括：
存储有日志处理程序的存储器；
处理器，配置为执行所述日志处理程序以执行下述操作：通过各远程代理模块收集自身所属服务器的日志并过滤；通过中心代理模块将各远程代理模块的日志送至提供有查询接口的搜索引擎；通过所述搜索引擎将所述日志存储，并通过所述查询接口向客户端提供所请求的日志；其中，所述各远程代理模块分别部署在各服务器上。
6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有日志处理程序，所述日志处理程序被处理器执行时实现如权利要求1至4中任一项所述日志处理方法的步骤。
7.一种日志处理方法，其特征在于，包括：
接收用户输入的日志查询条件；
向服务器端请求与所述日志查询条件相匹配的日志信息；
展示所述向服务器端提供的日志信息。
8.根据权利要求7所述的日志处理方法，其特征在于，所述向服务器端请求与所述日志查询条件相匹配的日志信息，包括：
通过服务器端提供的查询接口向服务器端发送日志查询请求，所述日志查询请求携带所述日志查询条件；
通过所述查询接口接收所述服务器端返回的日志信息。
9.一种客户端，其特征在于，包括：
显示器，配置为向用户展示日志信息；
存储有日志处理程序的存储器；
处理器，配置为执行所述日志处理程序以执行下述操作：接收用户输入的日志查询条件；向服务器端请求与所述日志查询条件相匹配的日志信息；控制所述显示器展示所述向服务器端提供的日志信息。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有日志处理程序，所述日志处理程序被处理器执行时实现如权利要求7至8中任一项所述日志处理方法的步骤。
CN201710452797.2A 2017-06-15 2017-06-15 一种日志处理方法及服务器、客户端 Pending CN107463602A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710452797.2A CN107463602A (zh) 2017-06-15 2017-06-15 一种日志处理方法及服务器、客户端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710452797.2A CN107463602A (zh) 2017-06-15 2017-06-15 一种日志处理方法及服务器、客户端

Publications (1)

Publication Number Publication Date
CN107463602A true CN107463602A (zh) 2017-12-12

Family

ID=60543811

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710452797.2A Pending CN107463602A (zh) 2017-06-15 2017-06-15 一种日志处理方法及服务器、客户端

Country Status (1)

Country Link
CN (1) CN107463602A (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108520052A (zh) * 2018-04-04 2018-09-11 武汉斗鱼网络科技有限公司 慢查询信息检索方法、装置、服务器及可读存储介质
CN108920349A (zh) * 2018-06-25 2018-11-30 郑州云海信息技术有限公司 日志数据的管理方法和装置
CN109783754A (zh) * 2018-12-17 2019-05-21 杭州玳数科技有限公司 一种基于web技术实现的日志展示方法及系统
CN110213312A (zh) * 2018-04-03 2019-09-06 腾讯科技（深圳）有限公司 一种用户现场展示的方法、相关装置及系统
CN110297745A (zh) * 2019-07-04 2019-10-01 中山大学 一种储存监控系统的故障定位方法及系统
CN110336863A (zh) * 2019-06-19 2019-10-15 腾讯科技（深圳）有限公司 一种数据上报方法和系统
WO2020088326A1 (zh) * 2018-10-31 2020-05-07 京东方科技集团股份有限公司 接口运维的方法及装置
CN111176951A (zh) * 2019-12-31 2020-05-19 上海擎感智能科技有限公司 日志输出的配置/日志处理方法/系统、介质及服务器
CN111240953A (zh) * 2020-03-05 2020-06-05 北京云族佳科技有限公司 一种日志处理的方法及装置、可读存储介质
CN111258970A (zh) * 2020-01-09 2020-06-09 上海米哈游天命科技有限公司 一种在客户端显示日志的方法、装置、设备及存储介质
CN111522922A (zh) * 2020-03-26 2020-08-11 浙江口碑网络技术有限公司 日志信息查询方法、装置、存储介质及计算机设备
CN111698109A (zh) * 2019-03-14 2020-09-22 北京京东尚科信息技术有限公司 监控日志的方法和装置
CN112835856A (zh) * 2021-02-01 2021-05-25 长沙市到家悠享网络科技有限公司 一种日志数据查询方法及装置、设备、介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102594598A (zh) * 2012-02-16 2012-07-18 浪潮(北京)电子信息产业有限公司 一种日志管理系统及其实现方法
CN102648465A (zh) * 2009-08-26 2012-08-22 杰维斯股份公司 远程数据收集系统和方法
CN103177116A (zh) * 2013-04-08 2013-06-26 国电南瑞科技股份有限公司 一种基于两级索引的分布式日志处理和查询方法
CN104778189A (zh) * 2014-02-24 2015-07-15 贵州电网公司信息通信分公司 一种基于xml标签语言的日志管理方法和系统
CN105205167A (zh) * 2015-10-10 2015-12-30 国网信息通信产业集团有限公司 一种日志数据系统
CN105589856A (zh) * 2014-10-21 2016-05-18 阿里巴巴集团控股有限公司 日志数据处理方法及系统
CN105824958A (zh) * 2016-03-31 2016-08-03 广州华多网络科技有限公司 一种查询日志的方法、装置和系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102648465A (zh) * 2009-08-26 2012-08-22 杰维斯股份公司 远程数据收集系统和方法
CN102594598A (zh) * 2012-02-16 2012-07-18 浪潮(北京)电子信息产业有限公司 一种日志管理系统及其实现方法
CN103177116A (zh) * 2013-04-08 2013-06-26 国电南瑞科技股份有限公司 一种基于两级索引的分布式日志处理和查询方法
CN104778189A (zh) * 2014-02-24 2015-07-15 贵州电网公司信息通信分公司 一种基于xml标签语言的日志管理方法和系统
CN105589856A (zh) * 2014-10-21 2016-05-18 阿里巴巴集团控股有限公司 日志数据处理方法及系统
CN105205167A (zh) * 2015-10-10 2015-12-30 国网信息通信产业集团有限公司 一种日志数据系统
CN105824958A (zh) * 2016-03-31 2016-08-03 广州华多网络科技有限公司 一种查询日志的方法、装置和系统

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110213312A (zh) * 2018-04-03 2019-09-06 腾讯科技（深圳）有限公司 一种用户现场展示的方法、相关装置及系统
CN108520052A (zh) * 2018-04-04 2018-09-11 武汉斗鱼网络科技有限公司 慢查询信息检索方法、装置、服务器及可读存储介质
CN108520052B (zh) * 2018-04-04 2021-02-02 武汉斗鱼网络科技有限公司 慢查询信息检索方法、装置、服务器及可读存储介质
CN108920349A (zh) * 2018-06-25 2018-11-30 郑州云海信息技术有限公司 日志数据的管理方法和装置
WO2020088326A1 (zh) * 2018-10-31 2020-05-07 京东方科技集团股份有限公司 接口运维的方法及装置
US11681697B2 (en) 2018-10-31 2023-06-20 Boe Technology Group Co., Ltd. Method and device for interface operation and maintenance
CN109783754A (zh) * 2018-12-17 2019-05-21 杭州玳数科技有限公司 一种基于web技术实现的日志展示方法及系统
CN111698109A (zh) * 2019-03-14 2020-09-22 北京京东尚科信息技术有限公司 监控日志的方法和装置
CN110336863A (zh) * 2019-06-19 2019-10-15 腾讯科技（深圳）有限公司 一种数据上报方法和系统
CN110336863B (zh) * 2019-06-19 2021-11-16 腾讯科技（深圳）有限公司 一种数据上报方法和系统
CN110297745A (zh) * 2019-07-04 2019-10-01 中山大学 一种储存监控系统的故障定位方法及系统
CN111176951A (zh) * 2019-12-31 2020-05-19 上海擎感智能科技有限公司 日志输出的配置/日志处理方法/系统、介质及服务器
CN111258970A (zh) * 2020-01-09 2020-06-09 上海米哈游天命科技有限公司 一种在客户端显示日志的方法、装置、设备及存储介质
CN111240953A (zh) * 2020-03-05 2020-06-05 北京云族佳科技有限公司 一种日志处理的方法及装置、可读存储介质
CN111522922A (zh) * 2020-03-26 2020-08-11 浙江口碑网络技术有限公司 日志信息查询方法、装置、存储介质及计算机设备
CN111522922B (zh) * 2020-03-26 2023-08-22 浙江口碑网络技术有限公司 日志信息查询方法、装置、存储介质及计算机设备
CN112835856A (zh) * 2021-02-01 2021-05-25 长沙市到家悠享网络科技有限公司 一种日志数据查询方法及装置、设备、介质

Similar Documents

Publication Publication Date Title
CN107463602A (zh) 一种日志处理方法及服务器、客户端
CN107180116A (zh) 一种数据同步处理方法、移动终端以及计算机可读存储介质
CN107688607A (zh) 一种数据库访问的方法及移动终端、计算机可读存储介质
CN107330035A (zh) 一种数据库中操作日志同步方法、移动终端以及计算机可读存储介质
CN107193889A (zh) 广告拦截方法、终端及计算机可读存储介质
CN107038245A (zh) 页面切换方法、移动终端及存储介质
CN107861688A (zh) 一种数据删除方法、终端及可读存储介质
CN107967322A (zh) 文件分类显示方法、移动终端及计算机可读存储介质
CN107135128A (zh) 调用链数据采集方法、移动终端及计算机可读存储介质
CN107145385A (zh) 一种多任务界面显示方法、移动终端和计算机存储介质
CN107239522A (zh) 图片存储方法、设备和计算机存储介质
CN107220132A (zh) 一种文件创建信息的监听方法、设备及存储介质
CN107135086A (zh) 一种广播推送方法及设备、计算机可读存储介质
CN107426304A (zh) 交互媒体资源的方法、系统及代理服务器
CN107704363A (zh) 冻屏监测方法、移动终端及计算机可读存储介质
CN107135156A (zh) 调用链数据采集方法、移动终端及计算机可读存储介质
CN107483556A (zh) 一种远程配置方法、设备及计算机可读存储介质
CN108076134A (zh) 记录信息获取方法、终端、服务器及计算机可读存储介质
CN107766202A (zh) 基于Log4j的日志写入方法、装置及计算机可读存储介质
CN107124466A (zh) 一种防止缓存穿透方法及装置、计算机可读存储介质
CN107276991A (zh) 加载Web页面的方法、设备及计算机可读存储介质
CN107133151A (zh) 一种日志数据处理方法、设备以及计算机可读存储介质
CN108897846A (zh) 信息搜索方法、设备及计算机可读存储介质
CN109299039A (zh) 一种文件管理方法、设备及计算机可读存储介质
CN108011937A (zh) 消息推送方法、服务器、智能终端及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20171212