CN114003395A - 一种审核数据获取方法、装置、设备及存储介质 - Google Patents

一种审核数据获取方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN114003395A
CN114003395A CN202111093427.7A CN202111093427A CN114003395A CN 114003395 A CN114003395 A CN 114003395A CN 202111093427 A CN202111093427 A CN 202111093427A CN 114003395 A CN114003395 A CN 114003395A
Authority
CN
China
Prior art keywords
audited
video data
data
audit
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111093427.7A
Other languages
English (en)
Inventor
梁为涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Wangxing Information Technology Co ltd
Original Assignee
Guangzhou Wangxing Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Wangxing Information Technology Co ltd filed Critical Guangzhou Wangxing Information Technology Co ltd
Priority to CN202111093427.7A priority Critical patent/CN114003395A/zh
Publication of CN114003395A publication Critical patent/CN114003395A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/52Program synchronisation; Mutual exclusion, e.g. by means of semaphores
    • G06F9/526Mutual exclusion algorithms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/7867Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, title and artist information, manually generated time, location and usage information, user ratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/544Buffers; Shared memory; Pipes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/54Indexing scheme relating to G06F9/54
    • G06F2209/548Queue

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Library & Information Science (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例公开了一种审核数据获取方法、装置、设备及存储介质。本申请实施例提供的技术方案,包括获取数据库中的待审核视频数据,将待审核视频数据缓存至预设的缓存队列中;根据接收到的取单请求确定对应的缓存队列,并从缓存队列获取待审核视频数据;其中,在获取待审核视频数据时对缓存队列加锁,获取到待审核视频数据后对缓存队列解锁;将获取到的待审核视频数据传输至发送取单请求的发送端,以进行待审核视频数据审核流程。通过上述技术方案,以解决现有技术中数据库处理大量的并发加锁请求导致取单效率低的问题,降低系统对数据库的依赖性,降低数据库的负载压力,保证系统的稳定性。

Description

一种审核数据获取方法、装置、设备及存储介质
技术领域
本申请实施例涉及计算机技术领域,尤其涉及一种审核数据获取方法、装置、设备及存储介质。
背景技术
视频应用上传视频之前需要对视频内容进行机器审核、人工审核以及内容打标。机器审核环节通过的视频流入人工审核环节,由人工审核环节对视频内容进行更细致的审核,以筛选出机器审核环节漏判或误判的视频。
机器审核环节通过的视频持久化至数据库后,审核员触发取单请求,以从数据库中轮询获取待审核视频。由于每个视频数据只允许同一时刻被一个人处理,在取单时会对数据库中查询到的视频数据进行加锁以保证唯一分配。因此当多个审核员同时主动取单时,数据库需要处理大量的并发加锁请求,导致数据库的负载过高,不利于系统的稳定性。除此之外,数据库对当前查询到的视频数据全部进行加锁,大量的加锁操作导致其他的取单请求处于长时间的空轮询而取不到视频数据。人工审核环节的大部分审核时间都花费在取单上,严重降低人工审核效率,无法保证视频数据的时效性。
发明内容
本申请实施例提供一种审核数据获取方法、装置、设备及存储介质,以解决现有技术中数据库处理大量的并发加锁请求导致取单效率低的问题,降低系统对数据库的依赖性,降低数据库的负载压力,保证系统的稳定性。保证数据分配唯一性的同时提高取单效率。
第一方面,本申请实施例提供了一种审核数据获取方法,包括:
获取数据库中的待审核视频数据,将所述待审核视频数据缓存至预设的缓存队列中;
根据接收到的取单请求确定对应的缓存队列,并从所述缓存队列获取所述待审核视频数据;其中,在获取待审核视频数据时对所述缓存队列加锁,获取到待审核视频数据后对所述缓存队列解锁;
将获取到的待审核视频数据传输至发送所述取单请求的发送端,以进行待审核视频数据审核流程。
第二方面,本申请实施例提供了一种审核数据获取装置,包括
数据缓存模块,被配置为获取数据库中的待审核视频数据,将所述待审核视频数据缓存至预设的缓存队列中;
数据获取模块,被配置为根据接收到的取单请求确定对应的缓存队列,并从所述缓存队列获取所述待审核视频数据;其中,在获取待审核视频数据时对所述缓存队列加锁,获取到待审核视频数据后对所述缓存队列解锁;
数据传输模块,被配置为将获取到的待审核视频数据传输至发送所述取单请求的发送端,以进行待审核视频数据审核流程。
第三方面,本申请实施例提供了一种审核数据获取设备,包括:存储器以及一个或多个处理器;
所述存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如第一方面所述的审核数据获取方法。
在第四方面,本申请实施例提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如第一方面所述的审核数据获取方法。
本申请实施例通过缓存队列缓存数据库中读取的数据,接收到取单请求时从缓存队列中读取数据并传输至视频审核端。以便提前查询数据库中的数据,使查询数据库的并发度变得可控,降低系统对数据库的依赖性,降低数据库的负载压力,保证系统的稳定性。而且缓存队列的处理效率远大于数据库的处理效率,从缓存队列中查询数据并传输至视频审核端,提高取单效率。从缓存队列中读取数据时,将对应缓存队列进行加锁操作,读取结束后解锁,保证读取操作的原子性以及数据分配的唯一性。相比于数据库中的加锁操作,对内存中的缓存队列进行加锁操作更加简便,降低运行时间,提高取单效率。
附图说明
图1是本申请实施例提供的一种审核数据获取方法的流程图;
图2是本申请实施例提供的取单系统架构的第一示意图;
图3是本申请实施例提供的取单系统架构的第二示意图;
图4是本申请实施例提供的取单系统架构的第三示意图;
图5是本申请实施例提供的另一种审核数据获取方法的流程图;
图6是本申请实施例提供的取单系统架构的第四示意图;
图7是本申请实施例提供的取单系统架构的第五示意图;
图8是本申请实施例提供的一种审核数据获取装置的结构示意图;
图9是本申请实施例提供的一种审核数据获取设备的结构示意图。
具体实施方式
为了使本申请的目的、技术方案和优点更加清楚,下面结合附图对本申请具体实施例作进一步的详细描述。可以理解的是,此处所描述的具体实施例仅仅用于解释本申请,而非对本申请的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本申请相关的部分而非全部内容。在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。此外,各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
图1给出了本申请实施例提供的一种审核数据获取方法的流程图,本申请实施例提供的审核数据获取方法可以由审核数据获取装置来执行,该审核数据获取装置可以通过硬件和/或软件的方式实现,并集成在审核数据获取设备中。
下述以审核数据获取设备执行审核数据获取方法为例进行描述。参考图1,该审核数据获取方法包括:
S110、获取数据库中的待审核视频数据,将待审核视频数据缓存至预设的缓存队列中。
其中,待审核视频数据是需要视频审核端的审核人员进行人工审核的视频数据。示例性的,机器审核环节通过后持久化至数据库中,视频审核端的审核人员从数据库中查询待审核视频数据,并对该待审核视频数据进行审核。传统的待审核视频数据获取方式是,审核人员通过视频审核端触发取单请求后,由视频审核端轮询数据库中的待审核视频数据。由于每个视频数据只允许同一时刻被一个审核人员处理,在取单时会对数据库中查询到的待审核视频数据进行加锁以保证唯一分配。因此当多个审核员同时主动取单时,数据库需要处理大量的并发加锁请求,导致数据库的负载过高,不利于取单系统的稳定性。而且数据库中大量的加锁操作导致大部分的视频审核端处于长时间的空轮询状态,严重降低人工审核效率,无法保证视频数据的时效性。基于此,本实施例提供的审核数据获取方法,旨在引入缓存队列,通过缓存队列缓存从数据库中的待审核视频数据,通过缓存队列应对视频审核端的取单请求,避免数据库直接处理取单请求,降低数据库的负载压力。且缓存队列处理效率远大于数据库的处理效率,从缓存队列中获取待审核视频数据,有效提高取单效率。
需要说明的,当获取到数据库中的待审核视频数据后,根据该待审核视频数据的视频ID将数据库中对应的视频数据的待审核状态标记为审核中状态,以避免多次到同一视频数据,保证待审核视频数据的分配唯一性。
在该实施例中,图2是本申请实施例提供的取单系统架构的第一示意图。其中,取单系统是由数据库、审核数据获取设备和视频审核端构成的用于审核人员提取待审核视频数据的系统。如图2所示,在数据库和缓存队列之间设置管道服务,管道服务用于从数据库中提取待审核视频数据至缓存队列,提取方式为轮询。管道服务支持配置对数据库的轮询线程的数量以及每次轮询提取的数据数量,管道服务定期通过预先配置的轮询线程提取数据库中的待审核视频数据。可通过管道服务提前从数据库中提取待审核视频数据,以避免大量视频审核端同时取单时直接轮询数据库导致的不可控的指数增长查询量,使取单系统变得可控,保证取单系统的稳定性。除此之外,可根据实际需求调整管道服务的轮询线程数量、数据提取数量和轮询频率,以控制待审核视频数据写入缓存队列的数据量和速率,避免因待审核视频数据的数据量过大以及频率过高导致缓存队列负载过高。示例性的,通过管道服务提取数据库中的待审核视频数据并写入缓存队列的步骤具体包括S1101-S1102:
S1101、通过预先配置的多个轮询线程每间隔第一预设时间,提取数据库中的待审核视频数据,每个轮询线程每次提取至少一个待审核视频数据。
其中,第一预设时间用于表示管理服务轮询数据库的频率。示例性的,参考图2,管理服务预先配置了多个轮询线程12,每个轮询线程12每次提取多个待审核视频数据11。管理服务每间隔第一预设时间通过多个轮询线程从数据库中提取到多个待审核视频数据。其中,某一轮询进程提取数据库中的待审核视频数据时,对正在提取的待审核视频数据进行加锁操作,避免其他轮询进程提取到同一待审核视频数据,以保证缓存队列中待审核视频数据的唯一性。可理解,虽然多个轮询进程并发访问数据库,数据库需处理并发的加锁操作,但本实施例可以基于实际需求配置轮询进程数量和提取视频数据,管道服务轮询待审核视频数据的速率是可控的,相应的数据库处理并发的加锁操作时的负载也是可控的。因此相比于多个视频审核端轮询数据库导致数据库负载压力剧增,本实施例中数据库负载可控提高了取单系统的稳定性。
S1102、依次将每个轮询线程中的每个待审核视频数据随机缓存至一个缓存队列中。
示例性的,参考图2,取单系统预先配置了多个缓存队列13,管理服务从每一轮询线程中获取对应的待审核视频数据,并将每个待审核视频数据随机写入一个缓存队列中,即所有缓存队列中不存在相同的待审核视频数据,保证缓存队列的数据唯一性。
需要说明的,缓存队列是指预先从审核数据获取设备的内存中划分出一个用于缓存从数据库中取出的待审核视频数据的存储空间,管理服务是审核数据获取设备用于从数据库中提取待审核视频数据进行配置的。审核数据获取设备包括缓存队列和管理服务。
S120、根据接收到的取单请求确定对应的缓存队列,并从缓存队列获取待审核视频数据;其中,在获取待审核视频数据时对缓存队列加锁,获取到待审核视频数据后对缓存队列解锁。
示例性的,缓存队列可基于redis或kafka等分布式系统实现,本实施例基于redis实现缓存队列,redis缓存队列支持多个队列并行拉取数据,可有效处理高并发取单请求,提高取单效率。通过redis预先在内存中配置若干个redis缓存队列,以一定频率从数据库中获取至少一个待审核视频数据。将待审核视频数据随机存入预设的redis缓存队列中,一个待审核视频数据只存于一个redis缓存队列中。当接收到多个取单请求时,将多个取单请求随机分配至多个redis缓存队列,并行从多个redis缓存队列拉取各个取单请求的待审核视频数据。
在该实施例中,图3是本申请实施例提供的取单系统架构的第二示意图。如图3所示,审核数据获取设备设置有查询服务,查询服务用于接收视频审核端发送的取单请求,并从某一缓存队列中拉取一个取单请求对应的待审核视频数据。在拉取过程中对该缓存队列进行加锁操作,并在拉取成功后解锁,保证取单操作的原子性以及取单数据的唯一分配。缓存队列属于内存空间,在内存中加锁的成本远低于数据库中的加锁成本,降低加锁时间和解锁时间,降低空轮询引发取单竞争的可能性,提高取单效率。查询服务支持配置每一批次拉取的数据数量,查询服务可以一批次拉取多个待审核视频数据,由视频审核端将多个待审核视频数据进行本地缓存,以便审核员优先从本地缓存中获取待审核视频数据进行审核,避免因长期等待取单影响审核效率。示例性的,通过查询服务从缓存队列中提取待审核视频数据的步骤具体包括S1201-S1202:
S1201、当接收到的多个取单请求时,基于预设哈希规则确定每一取单请求对应的缓存队列。
示例性的,参考图3,审核员在视频审核端通过取单控件触发取单请求时,视频审核端将取单请求发送至查询服务中,查询服务根据预设哈希规则将该取单请求对应的取单操作精确定位到某一条缓存队列。其中,哈希规则的机制是将数据打散,若查询服务接收到高并发取单请求,则通过哈希规则将高并发取单请求打散,以将各个取单请求分配至各个缓存队列。
S1202、并行从对应的各个缓存队列中拉取至少一个待审核视频数据。
由上述内容可知,不同的redis缓存队列支持并行拉取对应队列中的数据,因此在通过哈希规则将高并发取单请求打散以定位至多个redis缓存队列后,并行从多个已定位redis缓存队列中提取对应取单请求的待审核视频数据,提取数量由查询服务进行配置。在该实施例中,redis缓存队列支持push/pop操作。管理服务将轮询进程从数据库中提取到的待审核视频数据push至redis缓存队列中,查询服务在接收到取单请求后,根据哈希规则定位该取单请求对应的redis缓存队列,并从该redis缓存队列中pop待审核视频数据。
本实施例通过redis缓存队列的并行提取机制和哈希规则的打散机制,将高并发取单请求打散至各个redis缓存队列,并行从各个redis缓存队列中提取数据,极大程度上避免了因高并发导致竞争,提高取单效率。
S130、将获取到的待审核视频数据传输至发送取单请求的发送端,以进行待审核视频数据审核流程。
其中,发送取单请求的发送端是指视频审核端,审核员通过视频审核端的取单控件触发取单请求后,视频审核端将取单请求发送至审核数据获取设备中的查询服务。由查询服务从缓存队列中拉取该取单请求的待审核视频数据,再由发送该取单请求的视频审核端从查询服务中拉取该待审核视频数据。视频审核端拉取到待审核视频数据后,由对应的审核员对待审核视频数据进行审核,以推进视频数据审核流程。示例性的,由于查询服务每一批次可以拉取多个待审核视频数据,视频审核端从查询服务拉取到多个待审核视频数据后,将待审核视频数据保存至本地缓存里。审核员进行视频审核是逐一审核的,因此审核员通过取单控件触发取单请求后,视频审核端优先判断本地是否缓存有待审核视频数据。如果有则获取本地缓存的待审核视频数据,如果没有则将取单请求发送至查询服务,以从查询服务中拉取对应的待审核视频数据。本实施例基于预加载的判断本地缓存数据,降低度缓存队列的访问频率,有效降低高并发带来竞争的可能性。
在该实施例中,将获取到的待审核视频数据缓存至第一预设缓存空间,以使得发送端从第一预设缓存空间拉取待审核视频数据。示例性的,图4是本申请实施例提供的取单系统架构的第三示意图。如图4所示,审核数据获取设备设置有第一预设缓存空间,第一预设缓存空间用于缓存查询服务从缓存队列中拉取到的待审核视频数据,以使得视频审核端优先从第一预设缓存空间中拉取对应的待审核视频数据。审核员通过视频审核端的取单控件触发取单请求后,视频审核端优先判断第一预设缓存空间是否缓存有待审核视频数据。如果有则从第一预设缓存空间拉取该待审核视频数据;如果没有则将取单请求发送至查询服务,查询服务从缓存队列拉取待审核视频数据并存入第一预设缓存空间,视频审核端再从第一预设缓存空间拉取该待审核视频数据。可理解,拉取第一预设缓存空间也是基于预加载思想,以降低度缓存队列的访问频率,有效降低高并发带来竞争的可能性。需要说明的,取单请求中包括对应视频审核端的第一标识信息,第一标识信息用于表征对应视频审核端身份,一般为审核员ID。查询服务拉取到该取单请求对应的待审核视频数据后,将该待审核视频数据与该取单请求中的第一标识信息关联存储至第一预设缓存空间中。当视频审核端拉取第一预设缓存空间的待审核视频数据时,根据自身的第一标识信息确定对应的待审核视频数据,以避免视频审核端拉取第一预设缓存空间中的同一数据时引发取单竞争。
在上述实施例的基础上,图5是本申请实施例提供的另一种审核数据获取方法的流程图。如图5所示,该方法包括:
S210、获取数据库中的待审核视频数据,将待审核视频数据缓存至预设的缓存队列中。
S220、根据接收到的取单请求确定对应的缓存队列,并从缓存队列获取待审核视频数据;其中,在获取待审核视频数据时对缓存队列加锁,获取到待审核视频数据后对缓存队列解锁。
S230、将获取到的待审核视频数据传输至发送取单请求的发送端,以进行待审核视频数据审核流程。
示例性的,步骤S210-S230可参考步骤S110-S130。
S240、确定取单请求对应的待审核视频数据的第二标识信息,根据取单请求确定审核待审核视频数据的发送端的第一标识信息。
其中,第二标识信息用于表征待审核视频数据的身份,一般为视频ID。示例性的,查询服务接收到取单请求A后,从取单请求A中获取发送取单请求A的视频审核端A的审核员ID。查询服务从缓存队列中拉取到取单请求A对应的待审核视频数据A后,确定待审核视频数据A的视频ID。根据取单请求A对应的审核员ID,将对应的视频审核端A确定为审核待审核视频数据A的视频审核端。
S250、将待审核视频数据与对应的第一标识信息、第二标识信息、存储时间阈值和所在缓存队列的第三标识信息关联缓存至第二预设缓存空间。
其中,第三标识信息用于表征该待审核视频数据先前存储的缓存队列的位置,通过第三标识信息可唯一确定该缓存队列所在的存储位置,其一般为队列编号。第二预设缓存空间用于存储待审核视频数据和对应的视频信息,视频信息包括视频ID、审核员ID、状态信息和队列编号。存储时间阈值是指待审核视频数据的审核期限节点,即如果在该审核期限节点审核员还未完成对该待审核视频数据的审核,则确定审核超时。示例性的,第二预设缓存空间基于redis实现。第二预设缓存空间预先配置时长阈值,时长阈值是指至多给审核员审核该待审核视频数据的时长,即如果审核员的审核时长超过该时长阈值,则审核超时。在待审核视频数据存入第二预设缓存空间后,第二预设缓存空间根据该时长阈值和该待审核视频数据存入的时间节点,确定该待审核视频数据的存储时间阈值。
需要说明的,第二预设缓存空间和缓存队列均由redis实现,即两者缓存的数据为同一种类型但数据结构不同。同一类型的缓存数据便于集中管理和后期维护,有效降低后期维护成本。
S260、每间隔第三预设时间查询第二预设缓存空间中每一待审核视频数据的存储时间阈值,以根据存储时间阈值确定对应的待审核视频数据是否审核超时。
其中,第三预设时间用于表征查询第二预设缓存空间的待审核视频数据是否超时的频率。示例性的,定期查询第二预设缓存空间的待审核视频数据的存储时间阈值,将该存储时间阈值与当前时间节点进行比较。若当前时间节点已超过该存储时间阈值,则表明待审核视频数据在审核期限节点之前还未完成审核,即确定待审核视频数据审核超时;当前时间节点未超过该存储时间阈值,则表明待审核视频数据还未到达审核期限,即确定待审核视频数据未超时。
S270、确定待审核视频数据审核超时时,根据待审核视频数据对应的第三标识信息将待审核视频数据缓存至对应的缓存队列中,并将第二预设缓存空间中的待审核视频数据和对应的视频信息删除。
在该实施例中,图6是本申请实施例提供的取单系统架构的第四示意图。如图6所示,审核数据获取设备设置有提交服务,提交服务用于定期检查第二预设缓存空间中每个待审核视频数据是否超时,并记录待审核视频数据的视频ID和对应的检查结果。如果查询到待审核视频数据未超时,则检查下一个待审核视频数据是否超时或等待下一轮的检查。如果待审核视频数据为超时状态,则从第二预设缓存空间中获取该待审核视频数据关联的第三标识信息,也即队列编号。根据该队列编号将该待审核视频数据存入对应的缓存队列中,以便其他视频审核端能够拉取并审核该审核视频数据,以避免审核员因忘记审核视频数据耽误该视频数据的上传时间,保证视频数据的时效性。
进一步的,由于待审核视频数据已经存入缓存队列中,那么第二预设缓存空间中的待审核视频数据已经失效,因此可将待审核视频数据和对应的视频信息删除,以节约内存空间。
S280、接收发送端发送的审核结果,根据审核结果中的第二标识信息确定对应的待审核视频数据是否审核超时。
示例性的,当审核员审核完一个视频数据后,通过视频审核端的提交控件选择审核结果,视频审核端将审核结果上传至审核数据获取设备。审核结果中包括对应视频数据的视频ID,接收到审核结果后,根据审核结果的视频ID从最近一轮检查的检查结果中确定对应视频是否审核超时。
S290、确定待审核视频数据审核超时时,向发送端发送审核超时信息。
示例性的,如果待审核视频数据审核超时,则向对应视频审核端发送审核超时信息,以提醒视频审核端的审核员该视频数据已审核超时。
S300、确定待审核视频数据未审核超时时,将第二预设缓存空间中待审核视频数据和对应的视频信息删除,并将数据库中对应的待审核视频数据标记为已审核状态。
示例性的,如果待审核视频数据没有审核超时,则根据审核结果的视频ID将数据库中对应的视频数据的审核中状态标记为已审核视频状态,以避免轮询进程查询到已审核的视频数据。除此之外,在待审核视频数据已经按时审核后,如果未清除第二预设缓存空间中对应的视频数据和信息,会使得提交服务在定期检查到该视频数据超时后将该待审核视频数据重新存入缓存队列,并由其他视频审核端提取并审核该视频数据,导致整个取单系统混乱。而且第二预设缓存空间中未超时且审核结束的视频数据和对应的信息已属于无效数据,将其删除可节约内存空间。
在该实施例中,图7是本申请实施例提供的取单系统架构的第五示意图。如图7所示,图7示出了整个取单系统的架构,其中管道服务、查询服务等具体功能可参考上述实施例,在此不再赘述。本实施例中,视频审核端将审核结果发送至提交服务,提交服务根据审核结果中视频ID查询最近一轮检查的检查结果中对应的视频数据是否超时。如果超时,则提交服务向视频审核端发送超时信息;如果不超时,则提交服务根据视频ID将数据库中对应的视频数据标记为已审核状态。本实施例通过提交服务处理视频审核端发送的审核结果以及实时检查待审核视频数据的超时状态,使得整个取单系统形成闭环,提高系统稳定性。
在一个实施例中,当提交服务定时检查到第二预设缓存空间中的某一待审核视频数据超时后,根据该待审核视频数据对应的第一标识信息,向第一标识信息对应的发送端发送审核超时信息。在示例性的,在确定待审核视频数据审核超时后,从第二预设缓存空间中获取该待审核视频数据关联的第一标识信息,也即审核员ID。根据审核员ID向对应的视频审核端发送审核超时信息,以提示分配到该待审核视频数据的审核员该视频数据已审核超时并分配至其他审核员。避免审核员继续审核该视频数据浪费审核时间,影响其他视频数据的审核效率。
综上,本申请实施例提供的审核数据获取方法,通过缓存队列缓存数据库中读取的数据,接收到取单请求时从缓存队列中读取数据并传输至视频审核端。以便提前查询数据库中的数据,使查询数据库的并发度变得可控,降低系统对数据库的依赖性,降低数据库的负载压力,保证系统的稳定性。而且缓存队列的处理效率远大于数据库的处理效率,从缓存队列中查询数据并传输至视频审核端,提高取单效率。从缓存队列中读取数据时,将对应缓存队列进行加锁操作,读取结束后解锁,保证读取操作的原子性以及数据分配的唯一性。相比于数据库中的加锁操作,对内存中的缓存队列进行加锁操作更加简便,降低运行时间,提高取单效率。除此之外,本实施例在取单系统中引入缓存队列、预设缓存空间、管道服务、查询服务和提交服务,通过细化系统架构的各个环节功能,提高取单系统的取单效率和稳定性,极大提高取单系统的性能,有助于提高审核团队的审核效率。
在上述实施例的基础上,图8是本申请实施例提供的一种审核数据获取装置的结构示意图。如图8所示,该审核数据获取装置包括数据缓存模块31、数据获取模块32和数据传输模块33。
其中,数据缓存模块,被配置为获取数据库中的待审核视频数据,将待审核视频数据缓存至预设的缓存队列中;
数据获取模块,被配置为根据接收到的取单请求确定对应的缓存队列,并从缓存队列获取待审核视频数据;其中,在获取待审核视频数据时对缓存队列加锁,获取到待审核视频数据后对缓存队列解锁;
数据传输模块,被配置为将获取到的待审核视频数据传输至发送取单请求的发送端,以进行待审核视频数据审核流程。
综上,本申请实施例提供的审核数据获取装置,通过缓存队列缓存数据库中读取的数据,接收到取单请求时从缓存队列中读取数据并传输至视频审核端。以便提前查询数据库中的数据,使查询数据库的并发度变得可控,降低系统对数据库的依赖性,降低数据库的负载压力,保证系统的稳定性。而且缓存队列的处理效率远大于数据库的处理效率,从缓存队列中查询数据并传输至视频审核端,提高取单效率。从缓存队列中读取数据时,将对应缓存队列进行加锁操作,读取结束后解锁,保证读取操作的原子性以及数据分配的唯一性。相比于数据库中的加锁操作,对内存中的缓存队列进行加锁操作更加简便,降低运行时间,提高取单效率。
本申请实施例还提供了一种审核数据获取设备,该审核数据获取设备可集成本申请实施例提供的审核数据获取装置。图9是本申请实施例提供的一种审核数据获取设备的结构示意图。参考图9,该审核数据获取设备包括:输入装置43、输出装置44、存储器42以及一个或多个处理器41;所述存储器42,用于存储一个或多个程序;当所述一个或多个程序被所述一个或多个处理器41执行,使得所述一个或多个处理器41实现如上述实施例提供的审核数据获取方法。上述提供的审核数据获取装置、设备和计算机可用于执行上述任意实施例提供的审核数据获取方法,具备相应的功能和有益效果。
本申请实施例还提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如上述实施例提供的审核数据获取方法。当然,本申请实施例所提供的一种包含计算机可执行指令的存储介质,其计算机可执行指令不限于如上所述的审核数据获取方法,还可以执行本申请任意实施例所提供的审核数据获取方法中的相关操作。上述实施例中提供的审核数据获取装置、设备及存储介质可执行本申请任意实施例所提供的审核数据获取方法,未在上述实施例中详尽描述的技术细节,可参见本申请任意实施例所提供的审核数据获取方法。
上述仅为本申请的较佳实施例及所运用的技术原理。本申请不限于这里所述的特定实施例,对本领域技术人员来说能够进行的各种明显变化、重新调整及替代均不会脱离本申请的保护范围。因此,虽然通过以上实施例对本申请进行了较为详细的说明,但是本申请不仅仅限于以上实施例,在不脱离本申请构思的情况下,还可以包括更多其他等效实施例,而本申请的范围由权利要求的范围决定。

Claims (11)

1.一种审核数据获取方法,其特征在于,包括:
获取数据库中的待审核视频数据,将所述待审核视频数据缓存至预设的缓存队列中;
根据接收到的取单请求确定对应的缓存队列,并从所述缓存队列获取所述待审核视频数据;其中,在获取待审核视频数据时对所述缓存队列加锁,获取到待审核视频数据后对所述缓存队列解锁;
将获取到的待审核视频数据传输至发送所述取单请求的发送端,以进行待审核视频数据审核流程。
2.根据权利要求1所述的审核数据获取方法,其特征在于,所述获取数据库中的待审核视频数据,将所述待审核视频数据缓存至预设的缓存队列中包括:
通过预先配置的多个轮询线程每间隔第一预设时间,提取所述数据库中的待审核视频数据,每个所述轮询线程每次提取至少一个待审核视频数据;
依次将每个所述轮询线程中的每个所述待审核视频数据随机缓存至一个所述缓存队列中。
3.根据权利要求1所述的审核数据获取方法,其特征在于,所述根据接收到的取单请求确定对应的缓存队列,并从所述缓存队列获取所述待审核视频数据包括:
当接收到的多个取单请求时,基于预设哈希规则确定每一所述取单请求对应的缓存队列;
并行从对应的各个缓存队列中拉取至少一个待审核视频数据。
4.根据权利要求1所述的审核数据获取方法,其特征在于,所述将获取到的待审核视频数据传输至发送所述取单请求的发送端包括:
将获取到的待审核视频数据缓存至第一预设缓存空间,以使得所述发送端从所述第一预设缓存空间拉取所述待审核视频数据。
5.根据权利要求1所述的审核数据获取方法,其特征在于,在所述从所述缓存队列获取所述待审核视频数据之后,还包括:
确定所述取单请求对应的待审核视频数据的第二标识信息,根据所述取单请求确定审核所述待审核视频数据的发送端的第一标识信息;
将所述待审核视频数据与对应的第一标识信息、第二标识信息、存储时间阈值和所在缓存队列的第三标识信息关联缓存至第二预设缓存空间。
6.根据权利要求5所述的审核数据获取方法,其特征在于,所述审核数据获取方法还包括:
每间隔第三预设时间查询所述第二预设缓存空间中每一待审核视频数据的存储时间阈值,以根据所述存储时间阈值确定对应的待审核视频数据是否审核超时;
确定所述待审核视频数据审核超时时,根据所述待审核视频数据对应的第三标识信息将所述待审核视频数据缓存至对应的缓存队列中,并将所述第二预设缓存空间中的所述待审核视频数据和对应的视频信息删除。
7.根据权利要求6所述的审核数据获取方法,其特征在于,所述审核数据获取方法还包括:
接收所述发送端发送的审核结果,根据所述审核结果中的第二标识信息确定对应的待审核视频数据是否审核超时;
确定所述待审核视频数据审核超时时,向所述发送端发送审核超时信息;
确定所述待审核视频数据未审核超时时,将所述第二预设缓存空间中所述待审核视频数据和对应的视频信息删除,并将所述数据库中对应的待审核视频数据标记为已审核状态。
8.根据权利要求6所述的审核数据获取方法,其特征在于,在所述确定所述待审核视频数据审核超时之后,还包括:
根据所述待审核视频数据对应的第一标识信息,向所述第一标识信息对应的发送端发送审核超时信息。
9.一种审核数据获取装置,其特征在于,包括:
数据缓存模块,被配置为获取数据库中的待审核视频数据,将所述待审核视频数据缓存至预设的缓存队列中;
数据获取模块,被配置为根据接收到的取单请求确定对应的缓存队列,并从所述缓存队列获取所述待审核视频数据;其中,在获取待审核视频数据时对所述缓存队列加锁,获取到待审核视频数据后对所述缓存队列解锁;
数据传输模块,被配置为将获取到的待审核视频数据传输至发送所述取单请求的发送端,以进行待审核视频数据审核流程。
10.一种审核数据获取设备,其特征在于,包括:存储器以及一个或多个处理器;
所述存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8任一项所述的审核数据获取方法。
11.一种包含计算机可执行指令的存储介质,其特征在于,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-8任一项所述的审核数据获取方法。
CN202111093427.7A 2021-09-17 2021-09-17 一种审核数据获取方法、装置、设备及存储介质 Pending CN114003395A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111093427.7A CN114003395A (zh) 2021-09-17 2021-09-17 一种审核数据获取方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111093427.7A CN114003395A (zh) 2021-09-17 2021-09-17 一种审核数据获取方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN114003395A true CN114003395A (zh) 2022-02-01

Family

ID=79921472

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111093427.7A Pending CN114003395A (zh) 2021-09-17 2021-09-17 一种审核数据获取方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN114003395A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114218599A (zh) * 2022-02-22 2022-03-22 飞狐信息技术(天津)有限公司 一种业务数据处理方法及装置、存储介质及电子设备
CN114255019A (zh) * 2022-03-01 2022-03-29 飞狐信息技术(天津)有限公司 一种数据推送方法及装置、存储介质及电子设备

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114218599A (zh) * 2022-02-22 2022-03-22 飞狐信息技术(天津)有限公司 一种业务数据处理方法及装置、存储介质及电子设备
CN114218599B (zh) * 2022-02-22 2022-05-27 飞狐信息技术(天津)有限公司 一种业务数据处理方法及装置、存储介质及电子设备
CN114255019A (zh) * 2022-03-01 2022-03-29 飞狐信息技术(天津)有限公司 一种数据推送方法及装置、存储介质及电子设备

Similar Documents

Publication Publication Date Title
CN114003395A (zh) 一种审核数据获取方法、装置、设备及存储介质
CN107577678B (zh) 处理数据库事务的方法、客户端和服务器
CN107451853B (zh) 一种红包实时派发的方法、装置、系统及存储介质
CN110008041B (zh) 一种消息处理方法及装置
CN111949568B (zh) 一种报文处理方法、装置及网络芯片
CN112035437B (zh) 病案数据的传输方法、装置、计算机设备及存储介质
CN111813573B (zh) 管理平台与机器人软件的通信方法及其相关设备
CN102780603B (zh) 网站流量控制方法及装置
CN111221469B (zh) 同步缓存数据的方法、装置和系统
CN112486913B (zh) 一种基于集群环境下的日志异步存储方法和设备
CN109842621A (zh) 一种减少token存储数量的方法及终端
CN113127564B (zh) 一种参数同步方法和装置
CN111200637A (zh) 一种缓存的处理方法及装置
US20230336368A1 (en) Block chain-based data processing method and related apparatus
CN111125168B (zh) 一种数据处理方法、装置、电子设备及存储介质
CN112286685A (zh) 一种资源分配的方法及装置
CN107203890B (zh) 凭证数据发放方法、装置及系统
CN112653736A (zh) 一种并行回源方法、装置及电子设备
CN116701191A (zh) 量化回测的优化方法、装置、设备、存储介质及程序产品
CN111597259A (zh) 数据存储系统、方法、装置、电子设备及存储介质
US20060093124A1 (en) Techniques for performing multi-media call center functionality in a database management system
CN114528049A (zh) 一种基于InfluxDB实现API调用信息统计的方法及系统
CN111078643B (zh) 一种批量删除文件的方法、装置及电子设备
CN113282619A (zh) 一种数据快速查询方法及系统
CN111010676B (zh) 一种短信缓存方法、装置及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination