CN110309121B - 日志处理方法及装置、计算机可读介质和电子设备 - Google Patents
日志处理方法及装置、计算机可读介质和电子设备 Download PDFInfo
- Publication number
- CN110309121B CN110309121B CN201810239902.9A CN201810239902A CN110309121B CN 110309121 B CN110309121 B CN 110309121B CN 201810239902 A CN201810239902 A CN 201810239902A CN 110309121 B CN110309121 B CN 110309121B
- Authority
- CN
- China
- Prior art keywords
- log
- exposure
- request
- value database
- key value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/217—Database tuning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种日志处理方法及装置、计算机可读介质和电子设备,涉及计算机技术领域。该日志处理方法包括:获取请求日志,如果键值数据库中写入有与该请求日志对应的曝光日志,则将该曝光日志与请求日志关联并输出;和/或获取曝光日志,如果键值数据库中未写入有与该曝光日志对应的请求日志,则将曝光日志写入键值数据库;如果该请求日志被写入键值数据库,则将曝光日志与该请求日志关联并输出。本公开可以确保曝光日志实时关联输出。
Description
技术领域
本公开涉及计算机技术领域,具体而言,涉及一种日志处理方法、日志处理装置、计算机可读介质和电子设备。
背景技术
由于数据传输过程中的各种限制因素,上游输出的数据可能出现信息不全的问题,此时需要补全数据信息,以便下游业务能够正常使用。例如,在广告请求及曝光场景中,由于曝光的数据通常携带在曝光URL(Uniform Resource Locator,统一资源定位符)串里,而过长的URL串可能会导致整个URL串失效,因此曝光日志中记录的字段信息有限,此时,需要将曝光日志与对应请求日志关联,以补全字段信息。
通常,可以将先生成的请求日志写入数据库,后到的曝光日志会在数据库中查找对应的请求日志并进行关联。然而,当数据乱序时,曝光日志先于请求日志到达数据库,此时需要对曝光日志进行缓存,并通过重试任务,不断去数据库中查找对应的请求日志,如果请求日志到达,才能进行日志处理。
可以看出,在数据乱序时,在请求日志已经到达而重试任务未执行的情况下,无法保证曝光日志实时输出。另外,由于需要不断调用重试任务,会给数据库带来较大的访问压力。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种日志处理方法、日志处理装置、计算机可读介质和电子设备,进而至少在一定程度上克服相关技术中存在的无法保证曝光日志实时输出、数据库访问压力大的问题。
根据本公开的一个方面,提供一种日志处理方法,包括:获取请求日志,如果键值数据库中写入有与该请求日志对应的曝光日志,则将该曝光日志与请求日志关联并输出;和/或获取曝光日志,如果键值数据库中未写入有与该曝光日志对应的请求日志,则将曝光日志写入键值数据库;如果该请求日志被写入键值数据库,则将曝光日志与该请求日志关联并输出。
根据本公开的一个方面,提供一种日志处理装置,包括:第一关联输出模块,用于获取请求日志,如果键值数据库中写入有与该请求日志对应的曝光日志,将该曝光日志与请求日志关联并输出;和/或曝光日志写入模块,用于获取曝光日志,如果键值数据库中未写入有与该曝光日志对应的请求日志,则将曝光日志写入键值数据库;第二关联输出模块,用于如果该请求日志被写入键值数据库,则将曝光日志与该请求日志关联并输出。
可选地,曝光日志包含对应请求日志的标识信息。
可选地,曝光日志写入模块包括请求日志判断单元,用于在获取曝光日志后,判断键值数据库中是否写入有与该曝光日志对应的请求日志;其中,曝光日志写入模块执行的操作为原子操作。
可选地,第二关联输出模块包括:第一关联输出单元,用于如果该请求日志被写入键值数据库,则由请求日志对应的处理逻辑将曝光日志与该请求日志关联并输出。
可选地,日志处理装置还包括:第三关联输出模块,用于如果键值数据库中写入有该请求日志时,则将曝光日志与该请求日志关联并输出。
可选地,第三关联输出模块包括:数据写入单元,用于如果键值数据库中写入有该请求日志,则将曝光日志以及一关联标记写入键值数据库;第二关联输出单元,用于由曝光日志对应的处理逻辑将曝光日志与该请求日志关联并输出;其中,关联标记用于阻止请求日志对应的处理逻辑执行。
可选地,第二关联输出模块包括:字段信息获取单元,用于获取请求日志中与曝光日志相关的字段信息;字段信息写入单元,用于将所述字段信息写入所述曝光日志;曝光日志输出单元,用于将写入有所述字段信息的曝光日志输出。
可选地,日志处理装置还包括:日志加锁模块,用于对写入键值数据库的请求日志和/或曝光日志进行加锁。
根据本公开的一个方面,提供一种计算机可读介质,其上存储有计算机程序,程序被处理器执行时实现如上述任意一项的日志处理方法。
根据本公开的一个方面,提供一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器实现如上述任意一项的日志处理方法。
在本公开的一些实施例所提供的技术方案中,通过获取请求日志,并在判断出键值数据库中写入有与请求日志对应的曝光日志时,将曝光日志与请求日志关联输出;和/或,通过获取曝光日志,并在判断出键值数据库中未写入有与曝光日志对应的请求日志时,将曝光日志写入键值数据库,当对应的请求日志被写入键值数据库时,将曝光日志与请求日志关联输出,一方面,通过触发的方式,可以保证曝光日志实时输出;另一方面,避免了数据乱序时,需要不断调用重试任务的情况,减少了数据库的访问压力。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了可以应用本发明实施例的日志处理方法或日志处理装置的示例性系统架构的示意图;
图2示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图;
图3示出了本公开实施例的人机交互界面的示意图;
图4示意性示出了根据本公开的示例性实施方式的日志处理方法的流程图;
图5示意性示出了根据本公开的另一示例性实施方式的日志处理方法的流程图;
图6示意性示出了根据本公开的再一示例性实施方式的日志处理方法的流程图;
图7示出了根据本公开的示例性实施方式的请求日志处理逻辑的示意图;
图8示出了根据本公开的示例性实施方式的曝光日志处理逻辑的示意图;
图9示意性示出了根据本公开的示例性实施方式的日志处理装置的方框图;
图10示意性示出了根据本公开的另一示例性实施方式的日志处理装置的方框图;
图11示意性示出了根据本公开的再一示例性实施方式的日志处理装置的方框图;
图12示意性示出了根据本公开的曝光日志写入模块的方框图;
图13示意性示出了根据本公开的示例性实施方式的第二关联输出模块的方框图;
图14示意性示出了根据本公开的又一示例性实施方式的日志处理装置的方框图;
图15示意性示出了根据本公开的示例性实施方式的第三关联输出模块的方框图;
图16示意性示出了根据本公开的示例性实施方式的第二关联输出模块的另一方框图;以及
图17示意性示出了根据本公开的又另一示例性实施方式的日志处理装置的方框图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的步骤。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
图1示出了可以应用本发明实施例的日志处理方法或日志处理装置的示例性系统架构100的示意图。
如图1所示,系统架构100可以包括终端设备101、102、103中的一种或多种,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、便携式计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器。例如,服务器105可以获取请求日志,判断键值数据库中是否写入有与该请求日志对应的曝光日志,如果键值数据库中写入有曝光日志,将曝光日志与请求日志关联并输出。
又如服务器105可以获取曝光日志,判断键值数据库中是否写入有与该曝光日志对应的请求日志,如果键值数据库中未写入有该请求日志,将曝光日志写入键值数据库,以等待该请求日志到来,并且如果请求日志被写入键值数据库,将曝光日志与请求日志关联并输出。
需要说明的是,本发明实施例所提供的日志处理方法一般由服务器105执行,相应地,日志处理装置一般设置于服务器105中。
图2示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。
需要说明的是,图2示出的电子设备的计算机系统200仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图2所示,计算机系统200包括中央处理单元(CPU)201,其可以根据存储在只读存储器(ROM)202中的程序或者从存储部分208加载到随机访问存储器(RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中,还存储有系统操作所需的各种程序和数据。CPU201、ROM 202以及RAM 203通过总线204彼此相连。输入/输出(I/O)接口205也连接至总线204。
以下部件连接至I/O接口205:包括键盘、鼠标等的输入部分206;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分207;包括硬盘等的存储部分208;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器210上,以便于从其上读出的计算机程序根据需要被安装入存储部分208。
特别地,根据本发明的实施例,下文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分209从网络上被下载和安装,和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时,执行本申请的系统中限定的各种功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如下述实施例中所述的方法。
以下对本公开实施例的技术方案进行详细阐述;
请求日志可以指对用户端请求拉取广告的操作进行记录的日志。相对的,曝光日志可以指对用户端实际展示广告的过程进行记录的日志。容易理解的是,请求日志和/或曝光日志通常可以在服务器生成,例如,请求日志可以在对应的请求服务器中生成,曝光日志可以在对应的曝光服务器中生成。
图3示出了根据本公开的人机交互界面的示意图。参考图3,以用户端是手机为例,针对请求广告的场景,例如,首先,用户可以通过浏览器打开一网页;接下来,服务器可以响应用户打开网页的操作并根据用户端的信息确定待展示的广告,即,实现请求广告的过程。服务器可以记录请求广告的过程以生成请求日志,其中,请求日志中可以包含用户端的信息以及与待展示广告相关的信息,例如,用户端的id,广告的id,广告待展示的时长等。
针对曝光广告的场景,手机可以获取广告并在网页的指定位置展示该广告,即,实现广告曝光的过程。另外,虽然图示中广告展示区域在网页页面的上方,但不限于此,广告展示区域可以在网页中的任何位置。同时,服务器可以记录广告曝光过程以生成曝光日志。其中,曝光日志也可以包含用户端的信息以及与曝光的广告相关的信息。
可以看出,针对同一广告而言,请求日志生成的时间一般先于曝光日志生成的时间。通常情况下,请求日志先于曝光日志到达数据库。
当数据乱序时,曝光日志可能先于请求日志到达数据库,在这种情况下,一方面,可以将曝光日志进行缓存,通过定时调度重试任务,判断数据库中是否存在对应的请求日志。然而,在请求日志被写入数据库而重试任务未开始执行时,无法保证曝光日志的实时输出;另一方面,为了尽量保证实时输出曝光日志,需要提高重试任务的调度频率,这样就会导致频繁地扫描数据库,给数据库带来较大的访问压力,并且对于一曝光日志,可能较长时间查询不到对应的请求日志,由此造成系统资源的浪费。另外,当数据乱序较严重,数据库中缓存大量的曝光日志时,重试任务的调用会造成数据库巨大的访问压力。
基于上述问题,本公开的示例性实施方式提供了一种日志处理方法,以对上述问题进行优化处理。本公开的示例性实施方式的日志处理方法可以包括:获取请求日志,如果键值数据库中写入有与该请求日志对应的曝光日志,则将曝光日志与请求日志关联并输出。具体的,日志处理方法可以包括如图4所示的步骤S42和步骤S44。
S42.获取请求日志,判断键值数据库中是否写入有与请求日志对应的曝光日志。
键值数据库是一种轻量级的非关系型数据库,其数据按照键值对的形式进行组织、索引和存储。可以有效减少读写磁盘的次数,相比于关系型数据库,键值数据库拥有更好的读写性能。本公开所使用的键值数据库可以包括现有的键值数据库,例如,LevelDB、HyperDex、Redis等。
首先,服务器可以获取请求日志,并将该请求日志写入键值数据库中;接下来,服务器可以判断键值数据库中是否写入有与请求日志对应的曝光日志,具体的,对应的曝光日志中可以包含请求日志的标识信息(例如,id),也就是说,服务器可以通过在键值数据库中寻找请求日志的标识信息来判断键值数据库中是否写入有与该请求日志对应的曝光日志。
S44.如果键值数据库中写入有所述曝光日志,则将所述曝光日志与请求日志关联并输出。
在判断出键值数据库中写入有与请求日志对应的曝光日志时,表明曝光日志先于请求日志到达键值数据库,也就是说,对于该请求日志和曝光日志而言,存在数据乱序的问题。
在这种情况下,可以将曝光日志与请求日志关联并输出。具体的,首先,服务器可以获取请求日志中与对应曝光日志相关的字段信息;随后,服务器可以将这些字段信息写入曝光日志;接下来,服务器可以将曝光日志输出,以供下游业务使用。例如,与请求日志关联后的曝光日志包含的信息可以包括但不限于广告名称、广告展示位置、用户的id、曝光时间等,下游业务可以利用该曝光日志对广告进行竞价、分析广告适用的人群、统计各广告对应商品的点击率、生成用户画像,判断是否涉及虚假界面,等等。
本公开的另一实施方式的日志处理方法可以包括:获取曝光日志,如果键值数据库中未写入有与该曝光日志对应的请求日志,则将曝光日志写入键值数据库;如果该请求日志被写入键值数据库,则将曝光日志与该请求日志关联并输出。具体的,本实施方式的日志处理方法可以包括如图5所示的步骤S52至步骤S56。
S52.获取曝光日志,判断键值数据库中是否写入有与曝光日志对应的请求日志。
首先,服务器可以获取曝光日志;接下来,服务器可以判断键值数据库中是否写入有与该曝光日志对应的请求日志,具体的,曝光日志中可以包含对应请求日志的标识信息,也就是说,服务器可以通过曝光日志中包含的该标识信息判断键值数据库中是否写入有对应的请求日志。
S54.如果键值数据库中未写入有所述请求日志,则将曝光日志写入键值数据库。
在本公开的示例性实施方式中,步骤S52中判断键值数据库中是否写入有与曝光日志对应的请求日志与步骤S54的过程为原子操作过程。具体的,该原子操作可以被描述为“checkandput”,其中,“check”可以意指判断键值数据库中是否写入有与曝光日志对应的请求日志,在判断出键值数据库中未写入有请求日志时,执行“put”操作,即,将曝光日志写入键值数据库。本公开所述的原子操作可以意指在“check”与“put”之间,服务器不执行其他的任何操作。
S56.如果所述请求日志被写入键值数据库,则将曝光日志与所述请求日志关联并输出。
在将曝光日志写入键值数据库之后,服务器可以执行其他操作,等待对应的请求日志到来。当请求日志到来并写入键值数据库时,服务器可以将曝光日志与对应的请求日志关联并输出。此处关联并输出的过程与步骤S44中关联并输出的过程类似,在此不再赘述。
根据本公开的一些实施例,在曝光日志写入键值数据库后,当与曝光日志对应的请求日志被写入键值数据库时,可以根据请求日志对应的处理逻辑将曝光日志与请求日志关联并输出。
根据另外一些实施例,在步骤S52之后,如果键值数据库中写入有对应的请求日志,可以将曝光日志与该请求日志关联并输出。
具体的,如果键值数据库中写入有对应的请求日志,首先,服务器可以将该曝光日志与一关联标记写入键值数据库;接下来,服务器可以根据曝光日志对应的处理逻辑将曝光日志与请求日志关联并输出。其中,关联标记可以用于阻止请求日志对应的处理逻辑执行,以避免曝光日志与请求日志关联输出两次,进而保证了并发情况下数据的正确性。
参考图6,本公开的再一示例性实施方式的日志处理方法可以包括上述步骤S42、步骤S44以及步骤S52至步骤S56,具体内容不再赘述。
下面将分别参考图7和图8对本公开的请求日志对应的处理逻辑和曝光日志对应的处理逻辑进行示例性说明。
参考图7,针对请求日志对应的处理逻辑,在步骤S701中,服务器可以将请求日志写入键值数据库;在步骤S703中,服务器可以查询键值数据库中是否存在与请求日志对应的曝光日志和关联标记;在步骤S705中,服务器的查询结果为空,也就是说,键值数据库中既没有与该请求日志对应的曝光日志,又不存在关联标记;在步骤S707中,服务器在键值数据库中查询到存在对应的曝光日志而不存在关联标记,步骤跳转至步骤S711;在步骤S711中,服务器将请求日志与对应的曝光日志进行关联并输出;在步骤S709中,服务器在键值数据库中查询到存在曝光日志和关联标记,步骤跳转至步骤S713;在步骤S713中,请求日志对应的处理逻辑结束。
参考图8,针对曝光日志对应的处理逻辑,在步骤S801中,服务器在确定出曝光日志到来时,执行“checkandput”原子操作,“check”意指判断键值数据库中是否写入有与曝光日志对应的请求日志,此处可以将原子操作执行成功定义为判断出键值数据库中未写入有对应的请求日志,可以将原子操作执行失败定义为键值数据库中已存在对应的请求日志;在步骤S803中,原子操作执行成功,也就是说,曝光日志先于请求日志到达键值数据库,数据乱序。此时,原子操作可以将曝光日志写入键值数据库;在步骤S805中,原子操作执行失败,步骤跳转至步骤S807;在步骤S807中,服务器可以将曝光日志和一关联标记写入键值数据库;在步骤S809中,服务器可以将曝光日志与对应的请求日志关联并输出;在步骤S811中,曝光日志对应的处理逻辑结束。
通过如图7所示的请求日志对应的处理逻辑以及如图8所示的曝光日志对应的处理逻辑的结合,本公开能够以触发的方式实现曝光日志与对应请求日志的关联输出。
另外,本公开实施例采用原子操作的目的在于确保曝光日志与请求日志关联并输出的操作仅执行一次,进而保证并发情况下数据的正确性。具体的,可以通过关联标记来避免请求日志对应的处理逻辑和曝光日志对应的处理逻辑同时执行关联输出,也就是说,在请求日志对应的处理逻辑中,如果查询到键值数据库中存在关联标记,则处理逻辑结束而不执行关联输出的相关操作。
在本公开示例性实施方式的日志处理方法中,一方面,通过触发的方式,避免了调度重试任务可能造成曝光日志无法实时输出的问题;另一方面,避免了重试任务给数据库造成的访问压力;再一方面,通过引入原子操作,使得在以触发方式实现本公开的日志处理过程中,仅执行一次曝光日志与请求日志的关联输出。
此外,本公开还可以包括对待写入键值数据库中的数据加行锁的方案,也就是说,服务器可以对写入键值数据库的请求日志和/或曝光日志进行加锁操作,确保请求日志和曝光日志被串行处理,由此,曝光日志不会被重复关联输出。
应当注意,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
进一步的,本示例实施方式中还提供了一种日志处理装置。
图9示意性示出了本公开的示例性实施方式的日志处理装置的方框图。参考图9,根据本公开的示例性实施方式的日志处理装置9可以包括第一关联输出模块91。
具体的,第一关联输出模块91可以用于获取请求日志,如果键值数据库中写入有与该请求日志对应的曝光日志,将该曝光日志与请求日志关联并输出。
图10示意性示出了根据本公开的另一示例性实施方式的日志处理装置的方框图。参考图10,日志处理装置10可以包括曝光日志写入模块101和第二关联输出模块103。
具体的,曝光日志写入模块101可以用于获取曝光日志,如果键值数据库中未写入有与该曝光日志对应的请求日志,则将曝光日志写入键值数据库;第二关联输出模块103可以用于如果该请求日志被写入键值数据库,则将曝光日志与该请求日志关联并输出。
图11示意性示出了根据本公开的再一示例性实施方式的日志处理装置的方框图。参考图11,日志处理装置11可以包括第一关联输出模块91、曝光日志写入模块101和第二关联输出模块103。
此外,可以理解的是,第一关联输出模块91和第二关联输出模块103可以包含相同的处理单元,也就是说,第一关联输出模块91和第二关联输出模块103均可以执行:请求日志对应的处理逻辑中,当查询到有对应的曝光日志时,将请求日志与该曝光日志关联输出的操作。
根据本公开的示例性实施例,曝光日志包含对应请求日志的标识信息。
根据本公开的示例性实施例,参考图12,曝光日志写入模块101可以包括请求日志判断单元121,用于在获取曝光日志后,判断键值数据库中是否写入有与该曝光日志对应的请求日志。在这种情况下,曝光日志写入模块101执行的操作为原子操作。
根据本公开的示例性实施例,参考图13,第二关联输出模块103可以包括第一关联输出单元131。具体的,第一关联输出单元131可以用于如果该请求日志被写入键值数据库,则由请求日志对应的处理逻辑将曝光日志与该请求日志关联并输出。
根据本公开的示例性实施例,参考图14,日志处理装置14相比于日志处理装置10,除包括曝光日志写入模块101和第二关联输出模块103外,还可以包括第三关联输出模块141。
具体的,第三关联输出模块141可以用于如果键值数据库中写入有该请求日志,将曝光日志与该请求日志关联并输出。
根据本公开的示例性实施例,参考图15,第三关联输出模块141可以包括数据写入单元1501和第二关联输出单元1503。
具体的,数据写入单元1501可以用于在判断出键值数据库中写入有该请求日志时,则将曝光日志以及一关联标记写入键值数据库;第二关联输出单元1503可以用于由曝光日志对应的处理逻辑将曝光日志与该请求日志关联并输出;其中,关联标记用于阻止请求日志对应的处理逻辑执行。
根据本公开的示例性实施例,参考图16,第二关联输出模块161可以包括字段信息获取单元1601、字段信息写入单元1603和曝光日志输出单元1605。
具体的,字段信息获取单元1601可以用于获取请求日志中与曝光日志相关的字段信息;字段信息写入单元1603可以用于将所述字段信息写入所述曝光日志;曝光日志输出单元1605可以用于将写入有所述字段信息的曝光日志输出。
根据本公开的示例性实施例,日志处理装置17相比于日志处理装置11,除可以包括第一关联输出模块91和/或曝光日志写入模块101、第二关联输出模块103外,还可以包括日志加锁模块171。
具体的,日志加锁模块171可以用于对写入键值数据库的请求日志和/或曝光日志进行加锁。
由于本发明实施方式的程序运行性能分析装置的各个功能模块与上述方法发明实施方式中相同,因此在此不再赘述。
在本公开示例性实施方式的日志处理装置中,一方面,通过触发的方式,避免了调度重试任务可能造成曝光日志无法实时输出的问题;另一方面,避免了重试任务给数据库造成的访问压力;再一方面,通过引入原子操作,使得在以触发方式实现本公开的日志处理过程中,仅执行一次曝光日志与请求日志的关联输出。
此外,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。
Claims (9)
1.一种日志处理方法,其特征在于,包括:
当请求日志到来时,将所述请求日志写入键值数据库,并查询所述键值数据库中是否存在与所述请求日志对应的曝光日志和关联标记;如果在所述键值数据库中查询到存在对应的曝光日志而不存在关联标记,则将所述请求日志与对应的曝光日志关联并输出;如果在所述键值数据库中查询到存在与所述请求日志对应的曝光日志和关联标记,或者查询结果为空,则结束所述请求日志的处理逻辑;
当曝光日志到来时,查询所述键值数据库中是否存在与所述曝光日志对应的请求日志;如果在所述键值数据库中查询到存在对应的请求日志,则将所述曝光日志和一关联标记写入所述键值数据库,并将所述曝光日志与对应的请求日志关联并输出;如果查询结果为空,则将所述曝光日志写入所述键值数据库,并结束所述曝光日志的处理逻辑。
2.根据权利要求1所述的日志处理方法,其特征在于,所述曝光日志包含对应请求日志的标识信息。
3.根据权利要求1所述的日志处理方法,其特征在于,查询所述键值数据库中是否存在与所述曝光日志对应的请求日志,以及如果查询结果为空,则将所述曝光日志写入所述键值数据库的过程为原子操作过程。
4.根据权利要求1所述的日志处理方法,其特征在于,所述关联标记用于阻止所述请求日志对应的处理逻辑执行。
5.根据权利要求1所述的日志处理方法,其特征在于,将所述曝光日志与所述请求日志关联并输出包括:
获取所述请求日志中与所述曝光日志相关的字段信息;
将所述字段信息写入所述曝光日志;
将写入有所述字段信息的曝光日志输出。
6.根据权利要求1所述的日志处理方法,其特征在于,所述日志处理方法还包括:
对写入所述键值数据库的请求日志和/或曝光日志进行加锁。
7.一种日志处理装置,其特征在于,包括:
第一关联输出模块,用于当请求日志到来时,将所述请求日志写入键值数据库,并查询所述键值数据库中是否存在与所述请求日志对应的曝光日志和关联标记;如果在所述键值数据库中查询到存在对应的曝光日志而不存在关联标记,则将所述请求日志与对应的曝光日志关联并输出;如果在所述键值数据库中查询到存在与所述请求日志对应的曝光日志和关联标记,或者查询结果为空,则结束所述请求日志的处理逻辑;
第二关联输出模块,用于当曝光日志到来时,查询所述键值数据库中是否存在与所述曝光日志对应的请求日志;如果在所述键值数据库中查询到存在对应的请求日志,则将所述曝光日志和一关联标记写入所述键值数据库,并将所述曝光日志与对应的请求日志关联并输出;如果查询结果为空,则将所述曝光日志写入所述键值数据库,并结束所述曝光日志的处理逻辑。
8.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至6中任一项所述的日志处理方法。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至6中任一项所述的日志处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810239902.9A CN110309121B (zh) | 2018-03-22 | 2018-03-22 | 日志处理方法及装置、计算机可读介质和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810239902.9A CN110309121B (zh) | 2018-03-22 | 2018-03-22 | 日志处理方法及装置、计算机可读介质和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110309121A CN110309121A (zh) | 2019-10-08 |
CN110309121B true CN110309121B (zh) | 2023-05-26 |
Family
ID=68073565
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810239902.9A Active CN110309121B (zh) | 2018-03-22 | 2018-03-22 | 日志处理方法及装置、计算机可读介质和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110309121B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111582954B (zh) * | 2020-06-01 | 2023-04-28 | 湖南快乐阳光互动娱乐传媒有限公司 | 一种虚假数据识别方法及装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102419755A (zh) * | 2010-09-28 | 2012-04-18 | 阿里巴巴集团控股有限公司 | 一种搜索结果的排序方法和装置 |
CN105760782A (zh) * | 2010-09-22 | 2016-07-13 | 尼尔森(美国)有限公司 | 监视媒体曝光的方法和服务器 |
-
2018
- 2018-03-22 CN CN201810239902.9A patent/CN110309121B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105760782A (zh) * | 2010-09-22 | 2016-07-13 | 尼尔森(美国)有限公司 | 监视媒体曝光的方法和服务器 |
CN102419755A (zh) * | 2010-09-28 | 2012-04-18 | 阿里巴巴集团控股有限公司 | 一种搜索结果的排序方法和装置 |
Non-Patent Citations (1)
Title |
---|
hbase上搭建广告实时数据处理平台;李锐;《百度文库》;20141222;PPT第1-24页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110309121A (zh) | 2019-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110262807B (zh) | 集群创建进度日志采集系统、方法和装置 | |
CN109359194B (zh) | 用于预测信息类别的方法和装置 | |
CN107302597B (zh) | 消息文案推送方法和装置 | |
CN110020329B (zh) | 用于生成网页的方法、装置和系统 | |
CN109873863B (zh) | 服务的异步调用方法和装置 | |
CN110019263B (zh) | 信息存储方法和装置 | |
CN111125107A (zh) | 数据处理方法、装置、电子设备和介质 | |
CN109284450B (zh) | 订单成单路径的确定方法及装置、存储介质、电子设备 | |
CN111061860A (zh) | 摘要生成方法和装置 | |
CN112035092A (zh) | 一种表单的处理方法、装置、设备和可读介质 | |
CN112445866A (zh) | 数据处理方法、装置、计算机可读介质及电子设备 | |
CN110737655B (zh) | 用于上报数据的方法和装置 | |
CN115357761A (zh) | 链路追踪方法、装置、电子设备及存储介质 | |
CN109902726B (zh) | 简历信息处理方法及装置 | |
CN111427899A (zh) | 存储文件的方法、装置、设备和计算机可读介质 | |
CN107291923B (zh) | 信息处理方法和装置 | |
CN110309121B (zh) | 日志处理方法及装置、计算机可读介质和电子设备 | |
CN111488386B (zh) | 数据查询方法和装置 | |
CN110795331A (zh) | 软件测试的方法和装置 | |
CN112559024A (zh) | 一种生成交易码变更列表的方法和装置 | |
CN108628909B (zh) | 信息推送方法和装置 | |
CN110866031A (zh) | 数据库访问路径的优化方法、装置、计算设备以及介质 | |
CN113722007B (zh) | Vpn分支设备的配置方法、装置及系统 | |
CN113704222A (zh) | 一种处理业务请求的方法和装置 | |
CN112784195A (zh) | 一种页面数据发布方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |