CN107357526B - 用于处理网络数据的方法和装置、服务器和存储介质 - Google Patents

用于处理网络数据的方法和装置、服务器和存储介质 Download PDF

Info

Publication number
CN107357526B
CN107357526B CN201710535376.6A CN201710535376A CN107357526B CN 107357526 B CN107357526 B CN 107357526B CN 201710535376 A CN201710535376 A CN 201710535376A CN 107357526 B CN107357526 B CN 107357526B
Authority
CN
China
Prior art keywords
network data
buffer
disk
message queue
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710535376.6A
Other languages
English (en)
Other versions
CN107357526A (zh
Inventor
安海雄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Jingdong Shangke Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN201710535376.6A priority Critical patent/CN107357526B/zh
Publication of CN107357526A publication Critical patent/CN107357526A/zh
Application granted granted Critical
Publication of CN107357526B publication Critical patent/CN107357526B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0614—Improving the reliability of storage systems
    • G06F3/0619—Improving the reliability of storage systems in relation to data integrity, e.g. data losses, bit errors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655—Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0656—Data buffering arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/54—Interprogram communication
    • G06F9/546—Message passing systems or structures, e.g. queues

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种用于处理网络数据的方法，包括：将接收到的网络数据存储到第一缓冲区；从第一缓冲区解析网络数据；向消息队列系统发送解析后的网络数据；如果发送失败，则将解析后的网络数据存储到第二缓冲区。本公开通过设置两个缓冲区，提高了处理网络数据的可伸缩性、容错性和稳定性。

Description

用于处理网络数据的方法和装置、服务器和存储介质
技术领域
本公开涉及网络技术，具体涉及用于处理网络数据的方法和装置、服务器和存储介质
背景技术
大数据的第一个环节是网络数据采集。网络数据采集一般通过在用户端埋点，埋点后通过Http协议上报网络数据到服务器。这种上报数据特点是数据海量，并发度要求很高，因为每一次点击都会产生一个或多个上报。这就要求http服务器具有高并发和高吞吐量。
现有解决方案是采用高性能能web服务器Nginx+lua。Nginx是一种高性能的web服务器，可用于负责接收数据，lua一种轻量级的脚本语言，可用于负责做简单的计算。然后可以将网络数据发送到kafka，并记录离线文件。其中，kafka是一种基于磁盘的消息队列系统，可以将网络数据按类型形成队列，并消费。
在实现本发明的过程中，发明人发现现有技术至少存在如下技术问题：这种设计的瓶颈在lua语言中的接收逻辑与Nginx高度耦合，在高并发下会拖慢Nginx速度，降低了系统的可伸缩性，在电商大促时突增的网络流量数据，只能通过扩容来解决。
发明内容
根据本公开的第一方面，提供了一种用于处理网络数据的方法，所述方法通常可以在服务器中执行，包括：将接收到的网络数据存储到第一缓冲区；从所述第一缓冲区解析所述网络数据；向消息队列系统(例如kafka集群)发送解析后的网络数据；如果发送失败，则将所述解析后的网络数据存储到第二缓冲区。
在一个实施例中，所述网络数据以磁盘日志文件的形式存储在所述第一缓冲区中。
在一个实施例中，所述方法还可以包括定期在所述第一缓冲区中产生包括相应时间段内的网络数据的磁盘日志文件。
在一个实施例中，所述解析后的网络数据以磁盘队列的形式存储在所述第二缓冲区中。
在一个实施例中，所述方法还可以包括根据到所述消息队列系统的网络条件，调整从所述第一缓冲区解析所述网络数据的速度，以提供到所述消息队列系统的平稳流量。
在一个实施例，所述方法还可以包括从第二缓冲区中取出网络数据重新向消息队列系统发送。
根据本公开的第二方面，提供了一种用于处理网络数据的装置，包括：第一缓冲单元，被配置为将网络数据存储到第一缓冲区；解析单元，被配置为从所述第一缓冲区解析所述网络数据；发送单元，被配置为向消息队列系统发送解析后的网络数据；以及第二缓冲单元，被配置为如果发送失败，则将所述解析后的网络数据存储到第二缓冲区。
在一个实施例中，所述网络数据可以以磁盘日志文件的形式存储在所述第一缓冲区中。
在一个实施例中，所述第一缓冲单元还可以被配置为定期在所述第一缓冲区中产生包括相应时间段内的网络数据的磁盘日志文件。
在一个实施例中，所述解析后的网络数据以磁盘队列的形式存储在所述第二缓冲区中。
在一个实施例中，所述解析单元还可以被配置为根据到所述消息队列系统的网络条件，调整从所述第一缓冲区解析所述网络数据的速度，以提供到所述消息队列系统的平稳流量
在一个实施例中，所述发送单元还可以被配置为从第二缓冲区中取出网络数据重新向消息队列系统发送。
根据本公开的第三方面，提供了一种服务器，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如第一方面所述的方法。
根据本公开的第四方面，提供了一种存储介质，所述存储介质存储计算机指令，所述计算机指令当被计算机执行，使得所述计算机执行如第一方面所述的方法。
本公开通过在服务器中设置两个缓冲区，提高了处理网络数据的可伸缩性、容错性和稳定性。当流量突增的情况不用扩容机器，而是通过缓冲池技术来解决突增的流量问题。通过在发送网络数据的过程中增加文件缓存，防止发送失败导致的数据丢失。此外，本公开还可以调整从缓冲池中读取解析数据的速度，从而可以获得平稳数据流，减小下游压力。
附图说明
通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：
图1示出了根据本公开实施例的处理网络数据的方法的示意图；
图2示出了根据本公开实施例的用于处理网络数据的服务器以及相应操作的示意图；
图3示出了根据本公开实施例的用于处理网络数据的方法；
图4示出了根据本公开实施例的用于处理网络数据的装置；
图5示出了可以应用本公开的用于处理网络数据的方法和装置的示例性系统架构；以及
图6示出了适于用于实现本公开实施例的计算机系统的结构示意图。
具体实施方式
以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。这里使用的词语“一”、“一个(种)”和“该”等也应包括“多个”、“多种”的意思，除非上下文另外明确指出。此外，在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
附图中示出了一些方框图和/或流程图。应理解，方框图和/或流程图中的一些方框或其组合可以由计算机程序指令来实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，从而这些指令在由该处理器执行时可以创建用于实现这些方框图和/或流程图中所说明的功能/操作的装置。
图1示出了根据本公开实施例的处理网络数据的方法100的示意图。该方法100通常可以在服务器中执行，服务器可以是例如Nginx的高性能服务器，并且方法100可以与能够灵活地做简单逻辑处理的lua脚本相结合。在以下，以Nginx+lua的场景为例进行描述，但是本公开不限于此。
如图1所示，方法100包括在步骤101，上报网络数据的请求到达Nginx。Nginx具有高并发性，能够接收例如大促时的突增流量，并且lua可以对接收到的网络数据进行例如解密解压处理。然后，在步骤102，可以将接收到的网络数据写入librdkafka内存队列。其中，librdkafka是kafka的客户端程序包。接下来，在步骤103，网络数据入队后，向Nginx返回写kafka成功。在步骤104，将网络数据以日志文件的形式写入到磁盘中。在步骤105，在日志写入磁盘后，向Nginx返回写本地磁盘成功。在步骤106，向用户返回，表示数据已被成功上报。
需要注意的是，方法100还可以包括步骤107，将内存队列中的数据，例如datal至data4，写入到kafka集群。kafka集群是一种消息队列系统，其与执行方法100的服务器(例如Nginx服务器)通过网络连接。
在实现方法100的过程中，发明人注意到至少存在以下问题。首先，数据从接收、到处理、再到发往kafka集群，是一个线性的过程，在任何地方都可能发生阻塞。例如，电商大促的情况下，网络数据流量突增，这时只能通过扩容或加机器来解决流量突增的问题，系统可伸缩性较差。其次，Nginx服务器逻辑太多，解密解压，解析日志重新拼包发kafka都是在Nginx上实现的，导致Nginx压力过大，不利于提高其并发度。第三，由于要将易失性的内存队列中的数据实时写kafka集群，在kafka集群网络抖动或压力较大时，写失败的日志将全部丢失。
图2示出了根据本公开实施例的用于处理网络数据的服务器200以及相应操作的示意图。
如图2所示，服务器200可以包括两类进程，Nginx进程210和解析发送进程230，以及两个缓冲池221和222。其中，Nginx进程为一组单线程的进程，主要负责接收用户上报请求，也就是接收网络数据。解析发送进程230是一个多线程的进程，可以包括两个子模块，日志解析模块231和日志发送模块232。其中，日志解析模块231可以用于从数据缓冲池221中读取日志，并解析。日志发送模块232可以用于将解析后的日志发送到kafka集群。
服务器200还可以包括磁盘220，并且可以在磁盘220中设置两个缓冲区，数据缓冲池221和磁盘队列222。数据缓冲池221可以用作Nginx接收到的网络数据的缓冲池，并且日志解析模块231也可以从数据缓冲池221中读取网络数据的日志。磁盘队列222可以用于存储要被日志发送模块232发送到kafka集群的网络数据，具体地，其存储发送kafka集群失败的网络数据，以便可以再次将其发送给kafka集群。需要注意的是，相比于图1所示的内存队列，数据缓冲池221和磁盘队列222可以具有持久性存储的形式，例如，数据缓冲池221和磁盘队列222可以以磁盘文件的形式存储在磁盘220上，从而可以避免可能的数据丢失。
在一个示例性的过程中，在步骤201，Nginx接收用户上报请求，用户上报请求可以包括网络数据，例如在用户端采集的网络数据，比如点击数据。在步骤202，Nginx可以将接收到的网络数据以磁盘日志文件的形式存储在数据缓冲池221中，例如，Nginx可以定期产生日志的本地磁盘文件，比如，每个小时产生一个包括刚刚过去的一个小时内接收到的网络数据的日志文件。备选地，还可以根据已接收到的网络数据的大小产生相应的日志文件，从而每个日志文件大小基本相同。一旦网络数据被写入磁盘为日志文件，则可以在步骤203立即返回写磁盘成功，并在步骤204即刻向用户返回已上报数据。由此可以看出，通过提供数据缓冲池221，而不必等待写入kafka集群后再向用户返回完成上报数据，提高了接收网络数据的并发性和吞吐量。例如，当发生大的促销等时，流量突然飙升，这时Nginx可以快速响应，将日志写入缓冲区即可向用户返回完成上报数据。
然后，可以通过解析发送进程230从数据缓冲池中读取和解析日志文件。具体地，在步骤205，日志解析模块231可以从数据缓冲池221读取日志文件，并将日志文件解析成网络数据以传送给日志发送模块232。在步骤206，日志发送模块232可以尝试将网络数据写入kafka集群。在步骤207，如果发送失败，比如当网络发生抖动时，日志发送模块可以将发送失败的网络数据缓存到磁盘220的磁盘队列222中，形成磁盘文件。如果网络恢复，在可以在步骤208，从磁盘队列222中取出数据重新发送给kafka。由上可以看出，当发生大的促销等时，流量突然飙升，这时通过与Nginx进程组异步执行的解析发送进程230，控制其从数据缓冲池221读取日志文件的速度，可以保证为下游提供平稳的流量。并且，当出现网络故障，导致网络数据无法被发送到kafka集群时，通过磁盘队列222缓存发送失败的网络数据以便以后重新发送，可以防止数据丢失。
图3示出了根据本公开实施例的用于处理网络数据的方法300，所述方法通常可以在服务器(例如图2的Nginx)中执行。在步骤301，将接收到的网络数据存储到第一缓冲区。通常，存储在第一缓冲区中的网络数据可以形成磁盘日志文件。在步骤302，从所述第一缓冲区解析所述网络数据。例如，可以通过日志解析进程从所述第一缓冲区读取磁盘日志文件，并将其解析为网络数据。然后，在步骤303，向消息队列系统(例如kafka集群)发送解析后的网络数据，在步骤304，如果发送失败，则将所述解析后的网络数据存储到第二缓冲区。第二缓冲区可以是磁盘队列，与所述第一缓冲区都位于服务器的本地磁盘上。
在一个实施例中，所述网络数据以磁盘日志文件的形式存储在所述第一缓冲区中。
在一个实施例中，所述方法300还可以包括定期在所述第一缓冲区中产生包括相应时间段内的网络数据的磁盘日志文件。
在一个实施例中，所述解析后的网络数据以磁盘队列的形式存储在所述第二缓冲区中。
在一个实施例中，所述方法300还可以包括根据到所述消息队列系统的网络条件，调整从所述第一缓冲区解析所述网络数据的速度，以提供到所述消息队列系统的平稳流量。
在一个实施例，所述方法300还可以包括从第二缓冲区中取出网络数据重新向消息队列系统发送。
图4示出了根据本公开实施例的用于处理网络数据的装置400，包括：第一缓冲单元401，被配置为将网络数据存储到第一缓冲区；解析单元402，被配置为从所述第一缓冲区解析所述网络数据；发送单元403，被配置为向消息队列系统发送解析后的网络数据；以及第二缓冲单元404，被配置为如果发送失败，则将所述解析后的网络数据存储到第二缓冲单元。
在一个实施例中，所述网络数据可以以磁盘日志文件的形式存储在所述第一缓冲区中。
在一个实施例中，所述第一缓冲单元401还可以被配置为定期在所述第一缓冲区中产生包括相应时间段内的网络数据的磁盘日志文件。
在一个实施例中，所述解析后的网络数据以磁盘队列的形式存储在所述第二缓冲区中。
在一个实施例中，所述解析单元402还可以被配置为根据到所述消息队列系统的网络条件，调整从所述第一缓冲区解析所述网络数据的速度，以提供到所述消息队列系统的平稳流量
在一个实施例中，所述发送单元403还可以被配置为从第二缓冲区中取出网络数据重新向消息队列系统发送。
图5示出了可以应用本公开的用户数据分类方法或用户数据分类装置的示例性系统架构500。
如图5所示，系统架构500可以包括终端设备501、502、503，网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互，以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器，例如对用户利用终端设备501、502、503所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是，本申请实施例所提供的网络数据处理方法一般由服务器505执行，相应地，网络数据处理装置一般设置于服务器505中。
应该理解，图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
下面参考图6，其示出了适于用于实现本公开实施例的计算机系统600的结构示意图。图6示出的计算机系统仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本公开的系统中限定的上述功能。
需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

Claims (10)

1.一种用于处理网络数据的方法，包括：
将接收到的网络数据存储到第一缓冲区；
从所述第一缓冲区解析所述网络数据；
向消息队列系统发送解析后的网络数据；以及
如果发送失败，则将所述解析后的网络数据存储到第二缓冲区，
其中，所述方法还包括根据到所述消息队列系统的网络条件，调整从所述第一缓冲区解析所述网络数据的速度，以提供到所述消息队列系统的平稳流量，
其中所述网络数据以磁盘日志文件的形式存储在所述第一缓冲区中；并且
其中所述方法还包括：根据所述网络数据的大小来产生所述磁盘日志文件。
2.根据权利要求1所述的方法，还包括定期在所述第一缓冲区中产生包括相应时间段内的网络数据的磁盘日志文件。
3.根据权利要求1所述的方法，其中所述解析后的网络数据以磁盘队列的形式存储在所述第二缓冲区中。
4.根据权利要求1所述的方法，还包括从第二缓冲区中取出网络数据重新向消息队列系统发送。
5.一种用于处理网络数据的装置，包括：
第一缓冲单元，被配置为将网络数据存储到第一缓冲区；
解析单元，被配置为从所述第一缓冲区解析所述网络数据；
发送单元，被配置为向消息队列系统发送解析后的网络数据；以及
第二缓冲单元，被配置为如果发送失败，则将所述解析后的网络数据存储到第二缓冲区，
其中，所述解析单元还被配置为根据到所述消息队列系统的网络条件，调整从所述第一缓冲区解析所述网络数据的速度，以提供到所述消息队列系统的平稳流量，
其中所述网络数据以磁盘日志文件的形式存储在所述第一缓冲区中；并且
其中所述第一缓冲单元还被配置为根据所述网络数据的大小来产生所述磁盘日志文件。
6.根据权利要求5所述的装置，所述第一缓冲单元还被配置为定期在所述第一缓冲区中产生包括相应时间段内的网络数据的磁盘日志文件。
7.根据权利要求5所述的装置，其中所述解析后的网络数据以磁盘队列的形式存储在所述第二缓冲区中。
8.根据权利要求5所述的装置，其中所述发送单元还被配置为从第二缓冲区中取出网络数据重新向消息队列系统发送。
9.一种服务器，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
其中，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1至4中任一项所述的方法。
10.一种存储介质，所述存储介质存储计算机指令，所述计算机指令当被计算机执行，使得所述计算机执行如权利要求1至4中任一项所述的方法。
CN201710535376.6A 2017-07-03 2017-07-03 用于处理网络数据的方法和装置、服务器和存储介质 Active CN107357526B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710535376.6A CN107357526B (zh) 2017-07-03 2017-07-03 用于处理网络数据的方法和装置、服务器和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710535376.6A CN107357526B (zh) 2017-07-03 2017-07-03 用于处理网络数据的方法和装置、服务器和存储介质

Publications (2)

Publication Number Publication Date
CN107357526A CN107357526A (zh) 2017-11-17
CN107357526B true CN107357526B (zh) 2021-02-26

Family

ID=60292062

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710535376.6A Active CN107357526B (zh) 2017-07-03 2017-07-03 用于处理网络数据的方法和装置、服务器和存储介质

Country Status (1)

Country Link
CN (1) CN107357526B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111797158B (zh) * 2019-04-08 2024-04-05 北京沃东天骏信息技术有限公司 数据同步系统、方法和计算机可读存储介质
CN110460534B (zh) * 2019-07-26 2024-05-14 腾讯云计算（北京）有限责任公司 一种请求消息上报方法、装置、设备及存储介质
CN111182041B (zh) * 2019-12-19 2022-05-13 苏州浪潮智能科技有限公司 一种网络服务器共享缓存区的方法和设备
CN111988391A (zh) * 2020-08-14 2020-11-24 网联清算有限公司 一种消息发送方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104601491A (zh) * 2014-12-31 2015-05-06 微梦创科网络科技（中国）有限公司 分布式队列处理方法及系统
CN104866602A (zh) * 2015-06-01 2015-08-26 走遍世界（北京）信息技术有限公司 队列处理方法及装置
CN105468784A (zh) * 2015-12-24 2016-04-06 北京京东尚科信息技术有限公司 处理高并发流量的方法及其装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104601491A (zh) * 2014-12-31 2015-05-06 微梦创科网络科技（中国）有限公司 分布式队列处理方法及系统
CN104866602A (zh) * 2015-06-01 2015-08-26 走遍世界（北京）信息技术有限公司 队列处理方法及装置
CN105468784A (zh) * 2015-12-24 2016-04-06 北京京东尚科信息技术有限公司 处理高并发流量的方法及其装置

Also Published As

Publication number Publication date
CN107357526A (zh) 2017-11-17

Similar Documents

Publication Publication Date Title
CN107357526B (zh) 用于处理网络数据的方法和装置、服务器和存储介质
US8825749B2 (en) Method of tracking offline user interaction in a rendered document on a mobile device
CN111124819B (zh) 全链路监控的方法和装置
CN110661826B (zh) 代理服务器端处理网络请求的方法和代理服务器
US20110238924A1 (en) Webpage request handling
US20150271286A1 (en) Data Transmission
CN109918191B (zh) 一种业务请求防频的方法和装置
CN111756847B (zh) 网站支持https协议的方法和装置
CN110798495B (zh) 用于在集群架构模式下端到端的消息推送的方法和服务器
CN111427899A (zh) 存储文件的方法、装置、设备和计算机可读介质
US11463549B2 (en) Facilitating inter-proxy communication via an existing protocol
CN111800223B (zh) 生成发送报文、处理接收报文的方法、装置和系统
CN112149392A (zh) 一种富文本编辑方法和装置
CN116521639A (zh) 一种日志数据的处理方法、电子设备和计算机可读介质
WO2023083066A1 (zh) 数据同步方法和装置
US11388250B1 (en) Reduction of data transmissions based on end-user content
US10296580B1 (en) Delivering parsed content items
CN112688982B (zh) 一种用户请求处理方法和装置
US9705833B2 (en) Event driven dynamic multi-purpose internet mail extensions (MIME) parser
CN113761433A (zh) 业务处理方法和装置
CN110019671B (zh) 一种处理实时消息的方法和系统
CN112152915A (zh) 消息转发网关系统和消息转发方法
CN110019445B (zh) 数据同步方法和装置、计算设备和存储介质
JP2022549076A (ja) シングル・ページ・アプリケーションのキャッシャビリティの改善方法、システム、プログラム
CN113347052A (zh) 通过访问日志统计用户访问数据的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant