CN113329233B - 直播数据的处理方法、装置、电子设备及存储介质 - Google Patents
直播数据的处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113329233B CN113329233B CN202110477733.4A CN202110477733A CN113329233B CN 113329233 B CN113329233 B CN 113329233B CN 202110477733 A CN202110477733 A CN 202110477733A CN 113329233 B CN113329233 B CN 113329233B
- Authority
- CN
- China
- Prior art keywords
- target vertical
- data
- target
- vertical class
- configuration information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/242—Synchronization processes, e.g. processing of PCR [Program Clock References]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/426—Internal components of the client ; Characteristics thereof
- H04N21/42607—Internal components of the client ; Characteristics thereof for processing the incoming bitstream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/443—OS processes, e.g. booting an STB, implementing a Java virtual machine in an STB or power management in an STB
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Information Transfer Between Computers (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本公开关于直播数据的处理方法、装置、电子设备及存储介质,涉及直播领域,该方法包括:确定垂类配置信息中各目标垂类的同步配置信息和计算配置信息;针对每个所述目标垂类,根据所述目标垂类的同步配置信息进行数据同步处理,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识;根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,从直播实时数据集合中确定所述目标垂类的直播实时数据,所述目标垂类的直播实时数据为所述目标垂类对应的主播标识中处于开播状态的主播标识的直播实时数据。利用本公开实施例提供的技术方案可减少开发维护的工作量,提升直播数据的处理效率。
Description
技术领域
本公开涉及直播技术领域,尤其涉及一种直播数据的处理方法、装置、电子设备及存储介质。
背景技术
随着互联网络技术的发展,直播的概念有了新的拓宽和发展,更多的人开始关注网络直播,特别是视频直播。网络直播吸取和延续了互联网的优势,可以实现主播与观众的双向实时交互,此外也可以将产品销售、在线培训等现场发布到互联网上。
越多的人作为主播开通自己的直播间,对于能提供直播观看功能的应用程序而言,需要将所有开播中的直播间按不同的垂直类目(也即垂类)在应用中的直播广场页面里实时有序地展示,以便于用户能够选择自己喜欢的一类直播进行观看。相关技术中,每增加一种垂直类目,则为该种垂直类目单独开发并执行上述的处理任务,而在垂直类目增速迅猛的时期,这样的开发与执行方案无疑加大了开发和运维的工作量,也影响处理直播实时内容的效率。
发明内容
本公开提供直播数据的处理方法、装置、电子设备及存储介质,以至少解决相关技术中处理直播实时数据时存在的开发维护工作量高、处理效率低的问题。本公开的技术方案如下:
根据本公开实施例的第一方面,提供一种直播数据的处理方法,包括:
获取垂类配置信息,确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息;
针对每个所述目标垂类,根据所述目标垂类的同步配置信息进行数据同步处理,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识;
根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,从直播实时数据集合中确定所述目标垂类的直播实时数据,所述目标垂类的直播实时数据为所述目标垂类对应的主播标识中处于开播状态的主播标识的直播实时数据。
可选的,所述确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息,包括:
获取所述垂类配置信息中各垂类对应的处理标识;
将指示需要数据同步处理和计算处理的所述处理标识所对应的垂类作为所述目标垂类,从所述垂类配置信息中获取所述目标垂类对应的同步配置信息和计算配置信息。
可选的,所述根据所述目标垂类的同步配置信息进行数据同步处理,得到所述目标垂类的数据同步结果信息,包括:
将所述目标垂类的同步配置信息发送至所述目标垂类对应的同步目标节点,由所述同步目标节点根据所述目标垂类的同步配置信息生成所述目标垂类的同步分片任务;
由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识。
可选的,所述由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,包括:
根据所述同步配置信息中的同步数据索引信息,确定所述目标垂类的主播数据表;
根据所述主播数据表,得到所述目标垂类对应的主播标识;
根据所述目标垂类和所述目标垂类对应的主播标识得到所述目标垂类的数据同步结果信息,并将所述数据同步结果信息存储在所述目标垂类对应的第一缓存节点。
可选的,所述根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,从直播实时数据集合中确定所述目标垂类的直播实时数据,包括:
将所述目标垂类的计算配置信息发送至所述目标垂类对应的计算目标节点,由所述计算目标节点根据所述目标垂类的计算配置信息生成所述目标垂类的计算分片任务;
由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据。
可选的,所述由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据,包括:
从所述目标垂类对应的第一缓存节点,确定所述目标垂类的主播标识;
从直播实时数据集合中确定所述目标垂类的主播标识中处于开播状态的主播标识对应的直播实时数据。
可选的,所述方法还包括:
根据所述目标垂类的计算配置信息中的直播数据指标,确定所述直播实时数据的直播数据指标值;
根据所述直播数据指标对应的指标权重和所述直播实时数据的直播数据指标值,对所述直播实时数据进行排序,得到所述目标垂类的目标直播实时数据。
可选的,所述方法还包括:
根据所述目标垂类的计算配置信息确定所述目标垂类的数据过滤条件;
基于所述目标垂类的数据过滤条件,对所述目标垂类的直播实时数据进行过滤,得到过滤后的直播实时数据。
可选的,所述方法还包括:
响应于终端发送的目标垂类数据获取请求,发送所述目标垂类的直播实时数据至终端,以使所述终端展示所述目标垂类的直播实时数据。
根据本公开实施例的第二方面,提供一种直播数据的处理装置,包括:
配置信息确定模块,被配置为执行获取垂类配置信息,确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息;
同步模块,被配置为执行针对每个所述目标垂类,根据所述目标垂类的同步配置信息进行数据同步处理,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识;
计算模块,被配置为执行根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,从直播实时数据集合中确定所述目标垂类的直播实时数据,所述目标垂类的直播实时数据为所述目标垂类对应的主播标识中处于开播状态的主播标识的直播实时数据。
可选的,所述配置信息确定模块包括:
处理标识获取单元,被配置为执行获取所述垂类配置信息中各垂类对应的处理标识;
目标垂类配置信息确定单元,被配置为执行将指示需要数据同步处理和计算处理的所述处理标识所对应的垂类作为所述目标垂类,从所述垂类配置信息中获取所述目标垂类对应的同步配置信息和计算配置信息。
可选的,所述同步模块包括:
同步配置信息分发单元,被配置为执行将所述目标垂类的同步配置信息发送至所述目标垂类对应的同步目标节点,由所述同步目标节点根据所述目标垂类的同步配置信息生成所述目标垂类的同步分片任务;
同步分片任务执行单元,被配置为执行由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识。
可选的,所述同步分片任务执行单元包括:
主播数据表确定子单元,被配置为执行根据所述同步配置信息中的同步数据索引信息,确定所述目标垂类的主播数据表;
主播标识获取子单元,被配置为执行根据所述主播数据表,得到所述目标垂类对应的主播标识;
第一存储子单元,被配置为执行根据所述目标垂类和所述目标垂类对应的主播标识得到所述目标垂类的数据同步结果信息,并将所述数据同步结果信息存储在所述目标垂类对应的第一缓存节点。
可选的,所述计算模块包括:
计算配置信息分发单元,被配置为执行将所述目标垂类的计算配置信息发送至所述目标垂类对应的计算目标节点,由所述计算目标节点根据所述目标垂类的计算配置信息生成所述目标垂类的计算分片任务;
计算分片任务执行单元,被配置为执行由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据。
可选的,所述计算分片任务执行单元包括:
主播标识确定子单元,被配置为执行从所述目标垂类对应的第一缓存节点,确定所述目标垂类的主播标识;
计算子单元,被配置为执行从直播实时数据集合中确定所述目标垂类的主播标识中处于开播状态的主播标识对应的直播实时数据。
可选的,所述装置还包括:
直播数据指标值模块,被配置为执行根据所述目标垂类的计算配置信息中的直播数据指标,确定所述直播实时数据的直播数据指标值;
排序模块,被配置为执行根据所述直播数据指标对应的指标权重和所述直播实时数据的直播数据指标值,对所述直播实时数据进行排序,得到所述目标垂类的目标直播实时数据。
可选的,所述装置还包括:
过滤条件确定模块,被配置为执行根据所述目标垂类的计算配置信息确定所述目标垂类的数据过滤条件;
直播数据过滤模块,被配置为执行基于所述目标垂类的数据过滤条件,对所述目标垂类的直播实时数据进行过滤,得到过滤后的直播实时数据。
可选的,所述装置还包括:
数据发送模块,被配置为执行响应于终端发送的目标垂类数据获取请求,发送所述目标垂类的直播实时数据至终端,以使所述终端展示所述目标垂类的直播实时数据。
根据本公开实施例的第三方面,提供一种电子设备,包括:处理器;用于存储所述处理器可执行指令的存储器;其中,所述处理器被配置为执行所述指令,以实现本公开实施例第一方面中任一项所述的直播数据的处理方法。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行如本公开实施例第一方面中任一项所述的直播数据的处理方法。
根据本公开实施例的第五方面,提供一种计算机程序产品,包括计算机指令,所述计算机指令被处理器执行时实现如本公开实施例第一方面中任一项所述的直播数据的处理方法。
本公开的实施例提供的技术方案至少带来以下有益效果:
在本公开实施例中,从一份垂类配置信息中确定各目标垂类的同步配置信息,根据同步配置信息得到目标垂类的数据同步结果信息,具体地,可以根据同步配置信息生成并执行同步配置信息中的目标垂类的同步分片任务,各目标垂类的同步分片任务构成一个完整的同步任务;以及从一份垂类配置信息中确定各目标垂类的计算配置信息,根据计算配置信息和目标垂类的数据同步结果信息得到目标垂类的直播实时数据,具体地,可以根据计算配置信息生成并执行各目标垂类的计算分片任务,各目标垂类的计算分片任务构成一个完整的计算任务。通过协同目标垂类的数据同步处理和数据计算处理,实现对直播数据的及时有效的处理。此外,通过任务分片的方式,只需对同步任务和计算任务分别进行一次开发,而无需为每个目标垂类单独开发同步任务和计算任务,减轻了开发工作量,提高开发效率,便于对各目标垂类进行统一地流程化地管理和维护,也使得各目标垂类的同步分片任务和计算分片任务可以并行执行,提升处理效率,实现同步任务与计算任务的紧密协作;还可以实现对垂类的动态增删。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理,并不构成对本公开的不当限定。
图1是根据一示例性实施例示出的一种应用环境的示意图;
图2是根据一示例性实施例示出的一种直播数据的处理方法的流程图;
图3是根据一示例性实施例示出的一种确定各目标垂类的同步配置信息和计算配置信息的流程图;
图4是根据一示例性实施例示出的一种数据同步处理的流程图;
图5是根据一示例性实施例示出的一种执行同步分片任务得到目标垂类的数据同步结果信息的流程图;
图6是根据一示例性实施例示出的一种数据计算处理的流程图;
图7是根据一示例性实施例示出的一种从直播实时数据集合中确定所述目标垂类的目标直播实时数据的流程图;
图8是根据一示例性实施例示出的另一种从直播实时数据集合中确定所述目标垂类的直播实时数据的流程图;
图9是根据一示例性实施例示出的一种对所述目标垂类的直播实时数据进行排序的流程图;
图10是根据一示例性实施例示出的一种根据有序展示目标垂类的直播实时数据的终端界面示意图;
图11是根据一示例性实施例示出的一种实施直播数据的处理方法的服务架构示意图;
图12是根据一示例性实施例提供的一种服务架构中同步分片任务的执行流程图;
图13是根据一示例性实施例提供的一种服务架构中计算分片任务的执行流程图;
图14是根据一示例性实施例示出的一种直播数据的处理装置的框图;
图15是根据一示例性实施例示出的一种用于直播数据的处理的电子设备的框图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案,下面将结合附图,对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
需要说明的是,本公开所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于展示的数据、分析的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
请参阅图1,图1是根据一示例性实施例示出的一种直播数据的处理方法的应用环境的示意图,如图1所示,该应用环境可以包括处理服务器集群100和终端200,其中处理服务器集群100可以分为缓存服务器集群110、同步服务器集群120和计算服务器集群130。
在实际应用中,一些直播平台或者能提供直播业务的应用程序会在直播广场页面(展示所有开通直播数据的页面)中按照垂类有序展示对应的直播数据,则需要实现对当前直播数据按照垂类划分以及排序,在该处理作业中,不同的处理步骤对应不同的后台服务。同步服务器集群120执行垂类数据的同步任务,具体地,基于任务分片机制,同步服务器集群120中的各同步服务器节点执行对应的垂类数据的同步分片任务,并将数据同步结果信息(垂类与主播标识的对应关系)存储在各垂类对应的缓存服务器集群110中的缓存节点,以供计算服务器集群130中的各计算服务器节点按垂类分别读取。计算服务器集群130执行直播数据的计算任务,具体地,基于任务分片机制,计算服务器集群130中的各计算服务器节点根据按垂类获取的上述数据同步结果,从所有直播实时数据(也可以理解为直播间数据)中获取到对应的垂类下处于开播状态的主播标识的直播实时数据,将对应垂类下的直播实时数据存储在该垂类对应的缓存服务器集群110中的缓存节点,以响应终端200的按垂类查看直播数据的业务请求。
在一个可选的实施例中,上述服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(Content DeliveryNetwork,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器。
在一个可选的实施例中,上述终端200可以包括但不限于智能手机、台式计算机、平板电脑、笔记本电脑、智能音箱、数字助理、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备、智能可穿戴设备等类型的电子设备。可选的,电子设备上运行的操作系统可以包括但不限于安卓系统、IOS系统、linux、windows等。
此外,需要说明的是,图1所示的仅仅是本公开提供的一种应用环境,在实际应用中,还可以包括其他应用环境,例如缓存服务器集群110分为第一缓存服务器集群和第二缓存服务器集群,分别用于存储数据同步结果信息和各目标垂类的直播实时数据。
本说明书实施例中,上述缓存服务器集群110、同步服务器集群120和计算服务器集群130和终端200间可以通过有线或无线通信方式进行直接或间接地连接,本公开在此不做限制。
图2是根据一示例性实施例示出的一种直播数据的处理方法的流程图,如图2所示,所述方法可以包括以下步骤:
在步骤S201中,获取垂类配置信息,确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息。
在本公开实施例中,所述垂类配置信息涵盖了直播数据处理作业涉及的所有垂类,以直播场景为例,直播垂类可以包括才艺、游戏、聊天室、教学等类目,垂类之下,还可以根据场景进行细分,如对才艺这一垂直类目,还可以细分为唱歌、舞蹈、乐器等多个场景细分类别。在新增某一直播垂类或者对已有直播垂类增加细分类别时,运营人员或数据人员会根据主播类型完善这一直播垂类下的主播数据表,相当于给主播数据表中的各个主播添加了这一垂类或这一垂类下的场景的标签,以用于对当前所有直播数据按垂类分别展示开播主播的直播间数据的处理作业中,为用户提供更好的直播选择和观看体验。
针对为每一种垂类开发上述处理作业造成的开发成本高、不便于统一管理以及处理效率低的问题,本公开实施例中根据一份配置文件中的配置信息执行直播数据处理作业,该处理作业可以由一个同步任务和一个计算任务组成,只需对同步任务和计算任务分别进行一次开发,而无需为每个垂类单独开发同步任务和计算任务,减轻了开发工作量,提高开发效率。
具体的,所述垂类配置信息按垂类划分为多个配置信息子集,其中配置信息可以以键值对的数据格式存储,各个配置信息子集中的配置项包括相同的键名,键值可以视对各个垂类的处理需求而定。示例性的,对于各垂类,同步配置信息可以包括但不限于以下配置项(以键名表征):是否需要同步、同步结果的前缀名称、数据分区名称、数据分区值、数据库名称、数据表名称、数据表参数、同步周期等;对于各垂类,计算配置信息可以包括但不限于以下配置项(以键名表征):是否需要计算、垂类场景、直播数据指标等,其中直播数据指标可以为点赞数、分享数、关注者数量、评论数等,其对应的键值为直播数据指标的指标权重,用于对直播数据进行排序计算。可以理解的是,各垂类的配置项可以是统一或完备的(配置项的键值可以不同),故可以从垂类配置信息中分别读取并独立存储所有的同步配置信息和所有的计算配置信息。
示例性的,除了同步配置信息和计算配置信息,还可以包括过滤配置信息,针对不同的垂类,根据对应的过滤配置信息过滤直播数据。
在一个具体的实施例中,如图3所示,所述确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息,可以包括以下步骤:
在步骤S2011中,获取所述垂类配置信息中各垂类对应的处理标识。
所述处理标识用于从垂类配置信息中的所有垂类中筛选得到目标垂类,所述处理标识可以包括同步处理标识或计算处理标识。示例性的,所述同步处理标识可以用于指示所有垂类中各垂类是否需要进行数据同步处理,所述计算处理标识可以用于指示所有垂类中各垂类是否需要进行数据计算处理。
在步骤S2013中,将指示需要数据同步处理和计算处理的所述处理标识所对应的垂类作为所述目标垂类,从所述垂类配置信息中获取所述目标垂类对应的同步配置信息和计算配置信息。
示例性的,将既需要进行数据同步处理也需要进行数据计算处理的垂类作为目标垂类。需要说明的是,在本公开实施提供的方案中,为了表现同步处理与计算处理的协同,以既需要进行数据同步处理也需要进行数据计算处理的垂类作为目标垂类以进行说明。在一些可行的实施方式中,会有一部分垂类只需要进行数据同步处理不需要进行数据计算处理或者只需要进行数据计算处理不需要进行数据同步处理,对于这两类垂类,同样可以采用本公开实施例提供的方案,如仅在同步任务的处理过程中生成并执行同步任务分片或者仅在计算任务的处理过程中生成并执行计算任务分片,本公开实施例对此不作赘述。具体的,所述垂类配置信息按垂类划分为多个配置信息子集,每个垂类的配置信息子集中包括同步配置信息和计算配置信息,将所有目标垂类的同步配置信息抽取合并为完整的同步任务的同步配置信息,将所有目标垂类的计算配置信息抽取合并为完整的计算任务的计算配置信息,其中还可以是以目标垂类划分的同步配置信息子集和计算配置信息子集。
上述实施例中,各目标垂类的配置信息的配置项统一或完备,进而可以分别读取到全部的同步配置信息和全部的计算配置信息,用于将各目标垂类的数据同步处理作为一个整体的同步任务去执行,以及用于将各目标垂类的数据计算处理作为一个整体的计算任务去执行,在这种情况下,开发人员仅需对整体的同步任务和整体的计算任务进行开发编码,而无需为每个目标垂类分别开发同步任务和计算任务,减少开发工作量。根据垂类的处理标识筛选出需要数据同步处理和数据计算处理的目标垂类,而不必为全部垂类均进行数据同步处理和数据计算处理,减小了处理的工作量,同时也是方便动态增删目标垂类的体现。
在步骤S203中,针对每个所述目标垂类,根据所述目标垂类的同步配置信息进行数据同步处理,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识。
可以理解的是,本公开实施例中根据配置信息执行直播数据处理作业,该处理作业可以由一个同步任务和一个计算任务组成,故从任务角度看,本公开实施例将各目标垂类的数据同步处理作为一个整体的同步任务去执行,并基于任务分片机制将整体的同步任务按目标垂类拆分为各目标垂类的同步分片任务,并可以由与目标垂类对应的同步服务器节点执行该目标垂类的同步分片任务(也即在应用环境中一个同步分片任务仅由一个同步服务器实例节点执行),完成对该目标垂类的数据同步处理,进而完成整体的同步任务;从程序开发的角度看,整体的同步任务相当于用于执行同步任务程序的同步任务类,而同步分片任务相当于同步任务类的继承类。当根据所有目标垂类的同步配置信息实例化整体的同步任务后,根据其中各目标垂类的同步配置信息得到各目标垂类的同步分片任务,当所有目标垂类的同步分片任务分别完成各自的数据同步处理后,也即完成了整体的同步任务。本质上,仍然是一个同步任务在处理,对于一个同步任务只需开发一个同步任务的软件模块即可并行执行多个目标垂类的数据同步处理。
在本公开实施例中,同步任务也可以理解为将预先存储的主播数据表从存储单元中读取并进行缓存,以供计算任务使用。
在一个具体的实施例中,如图4所示,所述根据所述目标垂类的同步配置信息进行数据同步处理,得到所述目标垂类的数据同步结果信息,可以包括以下步骤:
在步骤S2031中,将所述目标垂类的同步配置信息发送至所述目标垂类对应的同步目标节点,由所述同步目标节点根据所述目标垂类的同步配置信息生成所述目标垂类的同步分片任务。
示例性的,以分片任务处理框架为基础,由同步服务器集群中的调度节点或推举的主节点将各目标垂类的同步配置信息分发到为各目标垂类分配的同步服务器实例节点,实例化各目标垂类的同步分片任务。
在步骤S2033中,由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识。
具体的,目标垂类的同步分片任务包括:主播数据表的分片读取和数据同步结果信息的分片写入。
上述实施例中,以目标垂类为例说明本公开实施例中同步分片任务的生成与执行,无需单独开发目标垂类的同步任务的软件模块,减少开发工作量;当有多个目标垂类时,由多个同步服务器实例节点分别执行各自的同步分片任务,且同步服务器实例节点和同步分片任务均与目标垂类相对应,可以实现所有目标垂类的数据同步的并行处理,提高处理效率。此外,还可以实现动态地开启或关闭目标垂类的数据同步的处理需求,仅需要在垂类配置信息中修改对应的同步配置项即可。
在一个具体的实施例中,如图5所示,所述由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,可以包括以下步骤:
在步骤S20331中,根据所述同步配置信息中的同步数据索引信息,确定所述目标垂类的主播数据表。
示例性的,所述同步数据索引信息可以包括但不限于数据分区名称、数据分区值、数据库名称、数据表名称、数据表参数等,通过所述同步数据索引信息确定目标垂类的主播数据表的存储地址,以便准确读取。
在步骤S20333中,根据所述主播数据表,得到所述目标垂类对应的主播标识。
在步骤S20335中,根据所述目标垂类和所述目标垂类对应的主播标识得到所述目标垂类的数据同步结果信息,并将所述数据同步结果信息存储在所述目标垂类对应的第一缓存节点。
其中,所述第一缓存节点为第一缓存服务器集群中被指定为存储目标垂类的主播标识的缓存节点。示例性的,缓存节点为Redis(Remote Dictionary Server,一种键值对数据库),可为缓存节点设置rediskey(缓存锁),键值对应为目标垂类,从而可以实现同一个目标垂类下的主播标识的集中存储,便于后期读取或管理维护。示例性的,将所述目标垂类和所述主播标识组成目标键值对,也可以理解为对所述主播进行标注,可以使用目标垂类作为标签值,也可以使用配置信息中指定的可以表征垂类类目的标签值,此外还可以进一步地标注主播在目标垂类下的场景类别,如才艺这一垂类下的唱歌场景类别。
从主播维度看,一个主播标识可能出现在多个目标垂类的主播数据表中,上述实施例中按目标垂类分别存储在目标垂类对应的缓存节点中,便于计算时的分别读取,提高计算任务的执行效率。
在步骤S205中,根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,从直播实时数据集合中确定所述目标垂类的直播实时数据,所述目标垂类的直播实时数据为所述目标垂类对应的主播标识中处于开播状态的主播标识的直播实时数据。
可以理解的是,本公开实施例中根据配置信息执行直播数据处理作业,该处理作业可以由一个同步任务和一个计算任务组成,故从任务角度看,本公开实施例将各目标垂类的数据计算处理作为一个整体的计算任务去执行,并基于任务分片机制将整体的计算任务按目标垂类拆分为各目标垂类的计算分片任务,并可以由与目标垂类对应的计算服务器节点执行该目标垂类的计算分片任务(也即在应用环境中一个计算分片任务仅由一个计算服务器实例节点执行),完成对该目标垂类的数据计算处理,进而完成整体的计算任务;从程序开发的角度看,整体的计算任务相当于用于执行计算任务程序的计算任务类,而计算分片任务相当于计算任务类的继承类。当根据所有目标垂类的计算配置信息实例化整体的计算任务后,根据其中各目标垂类的计算配置信息得到各目标垂类的计算分片任务,当所有目标垂类的计算分片任务分别完成各自的数据计算处理后,也即完成了整体的计算任务。本质上,仍然是一个计算任务在处理,对于一个计算任务只需开发一个计算任务的软件模块即可并行执行多个目标垂类的数据计算处理。
在本公开实施例中,计算任务也可以理解为将所有已开播的直播间也即直播实时数据集合按照垂类筛选提供给其他的服务。进一步地,还可以根据垂类下的场景进行细分和排序。
在一个具体的实施例中,如图6所示,所述根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,从直播实时数据集合中确定所述目标垂类的直播实时数据,可以包括以下步骤:
在步骤S2051中,将所述目标垂类的计算配置信息发送至所述目标垂类对应的计算目标节点,由所述计算目标节点根据所述目标垂类的计算配置信息生成所述目标垂类的计算分片任务。
示例性的,以分片任务处理框架为基础,由计算服务器集群中的调度节点或推举的主节点将各目标垂类的计算配置信息分发到为各目标垂类分配的计算服务器实例节点,实例化各目标垂类的同步分片任务。
在步骤S2052中,由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据。
具体的,目标垂类的计算分片任务可以包括但不限于:目标垂类的主播标识的读取、筛选得到目标垂类的直播实时数据、对目标垂类的直播实时数据的排序以及将有序的目标垂类的直播实时数据写入目标垂类对应的缓存节点。进一步的,还可以对目标垂类的直播实时数据进行个性化的过滤。
上述实施例中,以目标垂类为例说明本公开实施例中计算分片任务的生成与执行,无需单独开发目标垂类的计算任务的软件模块,减少开发工作量;当有多个目标垂类时,由多个计算服务器实例节点分别执行多个计算分片任务,且计算服务器实例节点和计算分片任务均与目标垂类相对应,可以实现所有目标垂类的数据计算的并行处理,提高处理效率。此外,还可以实现动态地开启或关闭目标垂类的数据计算的处理需求,仅需要在垂类配置信息中修改对应的计算配置项即可。
在一种示例性的实施例中,如图7所示,所述所述由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据,可以包括以下步骤:
在步骤S20521中,从所述目标垂类对应的第一缓存节点,确定所述目标垂类的主播标识。
示例性的,所述目标垂类的数据同步结果信息存储在所述目标垂类对应的第一缓存节点,并为所述第一缓存节点设置的rediskey(缓存锁)的键值对应为该目标垂类,故可以根据该目标垂类确定对应的第一缓存节点,从第一缓存节点中读取的主播标识也即该目标垂类下的主播标识。
在步骤S20523中,从直播实时数据集合中确定所述目标垂类的主播标识中处于开播状态的主播标识对应的直播实时数据。
上述实施例中,从目标垂类对应的第一缓存节点中进行读取,可以提高目标垂类的数据同步结果信息的获取效率,也为同步分片任务的执行提供便捷,可以快速找到所述目标垂类的主播标识中处于开播状态的主播标识对应的直播实时数据。
在一种示例性的实施例中,如图8所示,所述方法还可以包括以下步骤:
在步骤S801中,根据所述目标垂类的计算配置信息中的直播数据指标,确定所述直播实时数据的直播数据指标值。
示例性的,所述直播数据指标可以包括但不限于点赞数、分享数、关注者数量、评论数等。
在步骤S803中,根据所述直播数据指标对应的指标权重和所述直播实时数据的直播数据指标值,对所述直播实时数据进行排序,得到所述目标垂类的目标直播实时数据。
示例性,根据直播数据指标值和对应的直播数据指标的指标权重,计算得到该目标垂类下每一个直播实时数据(如一个主播的直播间数据)的综合指标值,所述综合指标值可以用于表征每一个直播实时数据在该目标垂类的所有直播实时数据中的相关程度或热门程度或所需的推广力度等。
在另一种可行的实施方式中,还可以针对目标垂类的细分类别对直播实时数据进行进一步地类别划分和排序计算。可以理解的是,得到的目标直播实时数据是有序的直播实时数据集合,在另一种可行的实施方式中,可以单独生成目标垂类的直播实时数据次序信息,用于记录目标垂类的直播实时数据在用户终端的显示次序。
可选地,将所述目标垂类的直播实时数据或目标直播实时数据或是直播实时数据与直播实时数据次序信息的组合存储在所述目标垂类对应的第二缓存节点。其中,所述第二缓存节点为第二缓存服务器集群中被指定为存储目标垂类的直播实时数据缓存节点。示例性的,缓存节点为Redis(Remote Dictionary Server,一种键值对数据库),可为缓存节点设置rediskey,键值对应为目标垂类,从而可以实现目标垂类的直播实时数据的集中存储,便于响应终端的请求或是管理维护。
上述实施例中,对目标垂类的直播实时数据进行排序,将更相关、更热门、需要推广的直播实时数据的显示次序安排在前列,可以提升垂类下直播数据的类别一致性,或是可以提升对用户的吸引力,精准满足用户的观看需求,或者也可以满足运营推广的需求。
在一种示例性的实施例中,如图9所示,所述方法还可以包括以下步骤:
在步骤S901中,根据所述目标垂类的计算配置信息确定所述目标垂类的数据过滤条件。
示例性的,除了同步配置信息和计算配置信息,还可以包括过滤配置信息,根据目标垂类的过滤配置信息,确定针对目标垂类的数据过滤条件。所述数据过滤条件可以包括但不限于:过滤语音直播、过滤游戏直播、过滤电商直播、按关注者数量进行过滤等。
在步骤S903中,基于所述目标垂类的数据过滤条件,对所述目标垂类的直播实时数据进行过滤,得到过滤后的直播实时数据。
示例性的,可以采用过滤插件执行对不同目标垂类的个性化过滤。
上述实施例中,对目标垂类的直播实时数据进行过滤,可以保证目标垂类下的数据一致性,在垂类细分程度加深的趋势下,满足喜欢特定垂类的直播数据的用户需求,提升用户直播观看体验。此外,过滤机制也可以保证直播内容的绿色安全性,维护网络环境。
在一种具体的实施例中,所述方法还可以包括以下步骤:
响应于终端发送的目标垂类数据获取请求,发送所述目标垂类的直播实时数据至终端,以使所述终端展示所述目标垂类的直播实时数据。
如图10所示,在直播广场界面中,主播的垂类及细分类别有很多,比如才艺这一垂类下可以分为唱歌、乐器、舞蹈等,在不同垂类及垂类的细分场景下,所展示的直播实时数据可以是该垂类的主播数据表中处于开播状态的主播的直播间数据,且还可以是按照一定的排序规则有序展示,上述实施例中,针对用户终端的目标垂类数据获取请求,回传目标垂类的直播实时数据,满足用户按垂类选择正在直播的直播间的需求。
图11是根据一示例性实施例示出的一种实施直播数据的处理方法的服务架构示意图,如图11所示,服务架构可以包括执行同步任务的同步数据模块、执行计算任务的实时计算模块、第一Redis模块、第二Redis模块、Hive等。
其中,如图12所示,同步数据模块介绍首先读取上述的配置信息,遍历配置中所有需要进行数据同步的垂类的同步配置信息,然后将同步配置信息分发到同步数据模块的不同的节点进行分片的数据同步处理操作,各节点在收到本节点的对应垂类的同步配置信息之后,找到同步配置信息中对应的Hive数据表,从Hive中通过SQL(Structured QueryLanguage,结构化查询语言)语句获取所有主播id(identity,身份标识),然后将这些主播的标识存入Redis中,主播若存在于不同的垂类,则会使用不同redisKey来进行不同存储节点的区分,方便后续分开读取。
其中,如图13所示,实时计算模块首先读取上述的配置信息,遍历配置中所有需要进行数据计算的垂类的计算配置信息,然后将计算配置信息分发到实时计算模块的不同的节点进行分片的数据计算操作,节点在收到本节点对应垂类的计算配置信息之后,通过垂类名称从第一Redis模块读取到对应的主播id。实时计算模块还可以对现在正在直播的所有直播间进行插件化过滤,且在同步数据模块中,已经将主播进行打标签(如:属于科普型-天文领域)存入第一Redis模块了,此处判断直播中的各主播是否有被进行打标(如是否属于科普型-天文领域),通过筛选得到符合同垂类(科普垂类)的主播,过滤非科普垂类的主播。将过滤后的直播间数据,进入排序单元进行排序,将分值高的直播间排到前面,进行存储,后续通过接口提供的时候,可以优先展示。
由以上本说明书实施例提供的技术方案可见:
在本公开实施例中,从一份垂类配置信息中确定各目标垂类的同步配置信息,根据同步配置信息得到目标垂类的数据同步结果信息,具体地,可以根据同步配置信息生成并执行同步配置信息中的目标垂类的同步分片任务,各目标垂类的同步分片任务构成一个完整的同步任务;以及从一份垂类配置信息中确定各目标垂类的计算配置信息,根据计算配置信息和目标垂类的数据同步结果信息得到目标垂类的直播实时数据,具体地,可以根据计算配置信息生成并执行各目标垂类的计算分片任务,各目标垂类的计算分片任务构成一个完整的计算任务。通过协同目标垂类的数据同步处理和数据计算处理,实现对直播数据的及时有效的处理。此外,通过任务分片的方式,只需对同步任务和计算任务分别进行一次开发,而无需为每个目标垂类单独开发同步任务和计算任务,减轻了开发工作量,提高开发效率,便于对各目标垂类进行统一地流程化地管理和维护,也使得各目标垂类的同步分片任务和计算分片任务可以并行执行,提升处理效率,实现同步任务与计算任务的紧密协作;还可以实现对垂类的动态增删。
图14是根据一示例性实施例示出的一种直播数据的处理装置1400框图。参照图14,该装置1400可以包括:
配置信息确定模块1410,被配置为执行被配置为执行获取垂类配置信息,确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息;
同步模块1430,被配置为执行针对每个所述目标垂类,根据所述目标垂类的同步配置信息进行数据同步处理,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识;
计算模块1450,被配置为执行根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,从直播实时数据集合中确定所述目标垂类的直播实时数据,所述目标垂类的直播实时数据为所述目标垂类对应的主播标识中处于开播状态的主播标识的直播实时数据。
可选的,所述配置信息确定模块1410包括:
处理标识获取单元,被配置为执行获取所述垂类配置信息中各垂类对应的处理标识;
目标垂类配置信息确定单元,被配置为执行将指示需要数据同步处理和计算处理的所述处理标识所对应的垂类作为所述目标垂类,从所述垂类配置信息中获取所述目标垂类对应的同步配置信息和计算配置信息。
可选的,所述同步模块1430包括:
同步配置信息分发单元,被配置为执行将所述目标垂类的同步配置信息发送至所述目标垂类对应的同步目标节点,由所述同步目标节点根据所述目标垂类的同步配置信息生成所述目标垂类的同步分片任务;
同步分片任务执行单元,被配置为执行由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识。
可选的,所述同步分片任务执行单元包括:
主播数据表确定子单元,被配置为执行根据所述同步配置信息中的同步数据索引信息,确定所述目标垂类的主播数据表;
主播标识获取子单元,被配置为执行根据所述主播数据表,得到所述目标垂类对应的主播标识;
第一存储子单元,被配置为执行根据所述目标垂类和所述目标垂类对应的主播标识得到所述目标垂类的数据同步结果信息,并将所述数据同步结果信息存储在所述目标垂类对应的第一缓存节点。
可选的,所述计算模块1450包括:
计算配置信息分发单元,被配置为执行将所述目标垂类的计算配置信息发送至所述目标垂类对应的计算目标节点,由所述计算目标节点根据所述目标垂类的计算配置信息生成所述目标垂类的计算分片任务;
计算分片任务执行单元,被配置为执行由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据。
可选的,所述计算分片任务执行单元包括:
主播标识确定子单元,被配置为执行从所述目标垂类对应的第一缓存节点,确定所述目标垂类的主播标识;
计算子单元,被配置为执行从直播实时数据集合中确定所述目标垂类的主播标识中处于开播状态的主播标识对应的直播实时数据。
可选的,所述装置1400还包括:
直播数据指标值模块,被配置为执行根据所述目标垂类的计算配置信息中的直播数据指标,确定所述直播实时数据的直播数据指标值;
排序模块,被配置为执行根据所述直播数据指标对应的指标权重和所述直播实时数据的直播数据指标值,对所述直播实时数据进行排序,得到所述目标垂类的目标直播实时数据。
可选的,所述装置1400还包括:
过滤条件确定模块,被配置为执行根据所述目标垂类的计算配置信息确定所述目标垂类的数据过滤条件;
直播数据过滤模块,被配置为执行基于所述目标垂类的数据过滤条件,对所述目标垂类的直播实时数据进行过滤,得到过滤后的直播实时数据。
可选的,所述装置1400还包括:
数据发送模块,被配置为执行响应于终端发送的目标垂类数据获取请求,发送所述目标垂类的直播实时数据至终端,以使所述终端展示所述目标垂类的直播实时数据。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图15是根据一示例性实施例示出的一种用于直播数据的处理的电子设备的框图,该电子设备可以是服务器,其内部结构图可以如图15所示。该电子设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该电子设备的处理器用于提供计算和控制能力。该电子设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该电子设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种直播数据的处理方法。
本领域技术人员可以理解,图15中示出的结构,仅仅是与本公开方案相关的部分结构的框图,并不构成对本公开方案所应用于其上的电子设备的限定,具体的电子设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在示例性实施例中,还提供了一种电子设备,包括:处理器;用于存储该处理器可执行指令的存储器;其中,该处理器被配置为执行该指令,以实现如本公开实施例中的直播数据的处理方法。
在示例性实施例中,还提供了一种包括指令的计算机可读存储介质,当计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行本公开实施例中的直播数据的处理方法。
在示例性实施例中,还提供一种计算机程序产品,包括计算机指令,所述计算机指令被处理器执行时实现本公开实施例中的直播数据的处理方法。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (20)
1.一种直播数据的处理方法,其特征在于,所述方法包括:
获取垂类配置信息,确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息;
针对每个所述目标垂类,根据所述目标垂类的同步配置信息生成并执行对应的同步分片任务以进行数据同步处理,得到所述目标垂类的数据同步结果信息,并将所述数据同步结果信息存储在所述目标垂类对应的第一缓存节点,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识;
根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,生成并执行对应的计算分片任务以从直播实时数据集合中确定所述目标垂类的直播实时数据,所述目标垂类的直播实时数据为所述目标垂类对应的主播标识中处于开播状态的主播标识的直播实时数据。
2.根据权利要求1所述的直播数据的处理方法,其特征在于,所述根据所述目标垂类的同步配置信息生成并执行对应的同步分片任务以进行数据同步处理,得到所述目标垂类的数据同步结果信息,包括:
将所述目标垂类的同步配置信息发送至所述目标垂类对应的同步目标节点,由所述同步目标节点根据所述目标垂类的同步配置信息生成所述目标垂类的同步分片任务;
由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识。
3.根据权利要求2所述的直播数据的处理方法,其特征在于,所述由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,包括:
根据所述同步配置信息中的同步数据索引信息,确定所述目标垂类的主播数据表;
根据所述主播数据表,得到所述目标垂类对应的主播标识;
根据所述目标垂类和所述目标垂类对应的主播标识得到所述目标垂类的数据同步结果信息,并将所述数据同步结果信息存储在所述目标垂类对应的第一缓存节点。
4.根据权利要求1所述的直播数据的处理方法,其特征在于,所述根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,生成并执行对应的计算分片任务以从直播实时数据集合中确定所述目标垂类的直播实时数据,包括:
将所述目标垂类的计算配置信息发送至所述目标垂类对应的计算目标节点,由所述计算目标节点根据所述目标垂类的计算配置信息生成所述目标垂类的计算分片任务;
由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据。
5.根据权利要求4所述的直播数据的处理方法,其特征在于,所述由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据,包括:
从所述目标垂类对应的第一缓存节点,确定所述目标垂类的主播标识;
从直播实时数据集合中确定所述目标垂类的主播标识中处于开播状态的主播标识对应的直播实时数据。
6.根据权利要求1至5中任一项所述的直播数据的处理方法,其特征在于,所述方法还包括:
根据所述目标垂类的计算配置信息中的直播数据指标,确定所述直播实时数据的直播数据指标值;
根据所述直播数据指标对应的指标权重和所述直播实时数据的直播数据指标值,对所述直播实时数据进行排序,得到所述目标垂类的目标直播实时数据。
7.根据权利要求1至5中任一项所述的直播数据的处理方法,其特征在于,所述方法还包括:
根据所述目标垂类的计算配置信息确定所述目标垂类的数据过滤条件;
基于所述目标垂类的数据过滤条件,对所述目标垂类的直播实时数据进行过滤,得到过滤后的直播实时数据。
8.根据权利要求1至5中任一项所述的直播数据的处理方法,其特征在于,所述方法还包括:
响应于终端发送的目标垂类数据获取请求,发送所述目标垂类的直播实时数据至终端,以使所述终端展示所述目标垂类的直播实时数据。
9.根据权利要求1所述的直播数据的处理方法,其特征在于,所述确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息,包括:
获取所述垂类配置信息中各垂类对应的处理标识;
将指示需要数据同步处理和计算处理的所述处理标识所对应的垂类作为所述目标垂类,从所述垂类配置信息中获取所述目标垂类对应的同步配置信息和计算配置信息。
10.一种直播数据的处理装置,其特征在于,所述装置包括:
配置信息确定模块,被配置为执行获取垂类配置信息,确定所述垂类配置信息中各目标垂类的同步配置信息和计算配置信息;
同步模块,被配置为执行针对每个所述目标垂类,根据所述目标垂类的同步配置信息生成并执行对应的同步分片任务以进行数据同步处理,得到所述目标垂类的数据同步结果信息,并将所述数据同步结果信息存储在所述目标垂类对应的第一缓存节点,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识;
计算模块,被配置为执行根据所述目标垂类的计算配置信息和所述目标垂类的数据同步结果信息,生成并执行对应的计算分片任务以从直播实时数据集合中确定所述目标垂类的直播实时数据,所述目标垂类的直播实时数据为所述目标垂类对应的主播标识中处于开播状态的主播标识的直播实时数据。
11.根据权利要求10所述的直播数据的处理装置,其特征在于,所述配置信息确定模块包括:
处理标识获取单元,被配置为执行获取所述垂类配置信息中各垂类对应的处理标识;
目标垂类配置信息确定单元,被配置为执行将指示需要数据同步处理和计算处理的所述处理标识所对应的垂类作为所述目标垂类,从所述垂类配置信息中获取所述目标垂类对应的同步配置信息和计算配置信息。
12.根据权利要求10所述的直播数据的处理装置,其特征在于,所述同步模块包括:
同步配置信息分发单元,被配置为执行将所述目标垂类的同步配置信息发送至所述目标垂类对应的同步目标节点,由所述同步目标节点根据所述目标垂类的同步配置信息生成所述目标垂类的同步分片任务;
同步分片任务执行单元,被配置为执行由所述同步目标节点执行所述目标垂类的同步分片任务,得到所述目标垂类的数据同步结果信息,所述数据同步结果信息包括所述目标垂类和所述目标垂类对应的主播标识。
13.根据权利要求12所述的直播数据的处理装置,其特征在于,所述同步分片任务执行单元包括:
主播数据表确定子单元,被配置为执行根据所述同步配置信息中的同步数据索引信息,确定所述目标垂类的主播数据表;
主播标识获取子单元,被配置为执行根据所述主播数据表,得到所述目标垂类对应的主播标识;
第一存储子单元,被配置为执行根据所述目标垂类和所述目标垂类对应的主播标识得到所述目标垂类的数据同步结果信息,并将所述数据同步结果信息存储在所述目标垂类对应的第一缓存节点。
14.根据权利要求10所述的直播数据的处理装置,其特征在于,所述计算模块包括:
计算配置信息分发单元,被配置为执行将所述目标垂类的计算配置信息发送至所述目标垂类对应的计算目标节点,由所述计算目标节点根据所述目标垂类的计算配置信息生成所述目标垂类的计算分片任务;
计算分片任务执行单元,被配置为执行由所述计算目标节点执行所述目标垂类的计算分片任务,根据所述目标垂类的数据同步结果信息从直播实时数据集合中确定所述目标垂类的直播实时数据。
15.根据权利要求14所述的直播数据的处理装置,其特征在于,所述计算分片任务执行单元包括:
主播标识确定子单元,被配置为执行从所述目标垂类对应的第一缓存节点,确定所述目标垂类的主播标识;
计算子单元,被配置为执行从直播实时数据集合中确定所述目标垂类的主播标识中处于开播状态的主播标识对应的直播实时数据。
16.根据权利要求10至15中任一项所述的直播数据的处理装置,其特征在于,所述装置还包括:
直播数据指标值模块,被配置为执行根据所述目标垂类的计算配置信息中的直播数据指标,确定所述直播实时数据的直播数据指标值;
排序模块,被配置为执行根据所述直播数据指标对应的指标权重和所述直播实时数据的直播数据指标值,对所述直播实时数据进行排序,得到所述目标垂类的目标直播实时数据。
17.根据权利要求10至15中任一项所述的直播数据的处理装置,其特征在于,所述装置还包括:
过滤条件确定模块,被配置为执行根据所述目标垂类的计算配置信息确定所述目标垂类的数据过滤条件;
直播数据过滤模块,被配置为执行基于所述目标垂类的数据过滤条件,对所述目标垂类的直播实时数据进行过滤,得到过滤后的直播实时数据。
18.根据权利要求10至15中任一项所述的直播数据的处理装置,其特征在于,所述装置还包括:
数据发送模块,被配置为执行响应于终端发送的目标垂类数据获取请求,发送所述目标垂类的直播实时数据至终端,以使所述终端展示所述目标垂类的直播实时数据。
19.一种电子设备,其特征在于,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如权利要求1至9中任一项所述的直播数据的处理方法。
20.一种计算机可读存储介质,其特征在于,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行如权利要求1至9中任一项所述的直播数据的处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110477733.4A CN113329233B (zh) | 2021-04-30 | 2021-04-30 | 直播数据的处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110477733.4A CN113329233B (zh) | 2021-04-30 | 2021-04-30 | 直播数据的处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113329233A CN113329233A (zh) | 2021-08-31 |
CN113329233B true CN113329233B (zh) | 2022-09-09 |
Family
ID=77414110
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110477733.4A Active CN113329233B (zh) | 2021-04-30 | 2021-04-30 | 直播数据的处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113329233B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114727140A (zh) * | 2022-03-18 | 2022-07-08 | 广州方硅信息技术有限公司 | 直播联运数据同步的方法、服务器集群及存储介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3440838A1 (en) * | 2016-04-04 | 2019-02-13 | Twitter, Inc. | Live video classification and preview selection |
CN108600791A (zh) * | 2018-04-14 | 2018-09-28 | 李晓 | 直播内容推荐优先级选择系统 |
CN108712665B (zh) * | 2018-05-18 | 2021-04-23 | 武汉斗鱼网络科技有限公司 | 一种直播列表的生成方法、装置、服务器及存储介质 |
CN108810655B (zh) * | 2018-06-29 | 2020-09-18 | 北京比利信息技术有限公司 | 基于ip的直播实时推荐方案的实现方法 |
CN111104583B (zh) * | 2018-10-10 | 2024-01-05 | 河南星易网络科技有限公司 | 一种直播间推荐方法、存储介质、电子设备及系统 |
US20210044640A1 (en) * | 2019-08-09 | 2021-02-11 | Guru Network Limited | Livestreaming interactive content to a digital media platform |
CN112579801A (zh) * | 2020-12-28 | 2021-03-30 | 浙江口碑网络技术有限公司 | 直播间的分类方法、装置、存储介质及计算机设备 |
-
2021
- 2021-04-30 CN CN202110477733.4A patent/CN113329233B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN113329233A (zh) | 2021-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112330685B (zh) | 图像分割模型训练、图像分割方法、装置及电子设备 | |
CN111708948B (zh) | 内容项推荐方法、装置、服务器及计算机可读存储介质 | |
CN114461871B (zh) | 推荐模型训练方法、对象推荐方法、装置及存储介质 | |
CN112822504A (zh) | 直播间封面更新方法、装置、电子设备及存储介质 | |
CN106302471B (zh) | 一种推荐虚拟礼物的方法和装置 | |
WO2022252513A1 (zh) | 目标展示方法及装置 | |
CN107547922B (zh) | 信息处理方法、装置、系统及计算机可读存储介质 | |
CN112807697A (zh) | 榜单生成方法、装置、电子设备及存储介质 | |
CN113329233B (zh) | 直播数据的处理方法、装置、电子设备及存储介质 | |
CN113949890B (zh) | 对象投放处理方法、装置、电子设备及存储介质 | |
CN113722638B (zh) | 页面展示方法、装置、电子设备及存储介质 | |
CN114065051A (zh) | 私域平台视频推荐方法、装置、电子设备和介质 | |
CN111954017A (zh) | 直播间搜索方法、装置、服务器及存储介质 | |
CN113630612B (zh) | 数据处理和数据展示方法、装置、电子设备及介质 | |
CN112883256B (zh) | 多任务处理方法、装置、电子设备及存储介质 | |
CN114222146B (zh) | 数据投放方法、装置、电子设备及存储介质 | |
CN112734502B (zh) | 一种多媒体信息定向投放的测试方法、装置和电子设备 | |
CN114491093A (zh) | 多媒体资源推荐、对象表征网络的生成方法及装置 | |
CN115374141A (zh) | 虚拟形象的更新处理方法及装置 | |
CN114422814A (zh) | 直播音视频处理方法、装置、服务器及可读存储介质 | |
CN113901244A (zh) | 多媒体资源的标签构建方法、装置、电子设备和存储介质 | |
CN109992678B (zh) | 目标多媒体文件的确定方法及装置 | |
CN113688334A (zh) | 一种内容展示方法、装置和计算机可读存储介质 | |
CN116701759B (zh) | 一种虚拟展馆的推荐方法、装置及电子设备 | |
EP3349128A1 (en) | Information provision system, information provision server, information provision method, and program for information provision system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |