CN113923464A - 视频违规率确定方法、装置、设备、介质及程序产品 - Google Patents
视频违规率确定方法、装置、设备、介质及程序产品 Download PDFInfo
- Publication number
- CN113923464A CN113923464A CN202111127266.9A CN202111127266A CN113923464A CN 113923464 A CN113923464 A CN 113923464A CN 202111127266 A CN202111127266 A CN 202111127266A CN 113923464 A CN113923464 A CN 113923464A
- Authority
- CN
- China
- Prior art keywords
- video
- virtual space
- videos
- target
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 238000000605 extraction Methods 0.000 claims abstract description 73
- 238000003062 neural network model Methods 0.000 claims description 39
- 238000012549 training Methods 0.000 claims description 27
- 230000006399 behavior Effects 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/443—OS processes, e.g. booting an STB, implementing a Java virtual machine in an STB or power management in an STB
- H04N21/4437—Implementing a Virtual Machine [VM]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本公开关于一种视频违规率确定方法、装置、设备、介质及程序产品。该视频违规率确定方法包括：从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段；根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率。采用本公开的方案，能够提高确定视频违规率的效率，同时也能够减少人力、物力和财力等资源。
Description
技术领域
本公开涉及互联网技术领域，尤其涉及一种视频违规率确定方法、装置、设备、介质及程序产品。
背景技术
随着互联网技术的发展，网络直播越来越受到人们的青睐。
为了加强对网络直播的规范管理，网络监管部门和直播平台的审核人员会对多个虚拟空间视频进行抽样评估，以确定多个虚拟空间视频的违规率。
在进行抽样评估时，由于虚拟空间视频本身时长长达数几个小时，倘若让审核人员全程观看虚拟空间视频，来确定该虚拟空间视频是否存在违规，效率较低，进而确定多个虚拟空间视频的违规率的效率较低。
发明内容
本公开提供一种视频违规率确定方法、装置、设备、介质及程序产品，以至少解决相关技术中确定多个虚拟空间视频的违规率的效率低的问题。本公开的技术方案如下：
根据本公开实施例的第一方面，提供一种视频违规率确定方法，包括：
从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；
将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段，其中，第二数量个视频片段与第二数量个虚拟空间视频一一对应；
根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率。
作为第一方面的一些可实现方式，在根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率之前，本公开提供的视频违规率确定方法还包括：
将第四数量个违规虚拟空间视频分别输入目标视频片段抽取模型，得到第四数量个目标视频片段，其中，第四数量个目标视频片段与第四数量个违规虚拟空间视频一一对应；
根据第四数量个目标视频片段包括的违规视频片段的第五数量，确定目标视频片段抽取模型的准确度；
根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率，包括：
根据第三数量和准确度，确定违规率。
作为第一方面的一些可实现方式，根据第四数量个目标视频片段包括的违规视频片段的第五数量，确定目标视频片段抽取模型的准确度，包括：
将第五数量与第四数量的比值，作为准确度。
作为第一方面的一些可实现方式，根据第三数量和准确度，确定违规率，包括：
将第六数量与第二数量的比值，作为违规率，其中，第六数量为第三数量与准确度的比值。
作为第一方面的一些可实现方式，在将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段之前，本公开提供的视频违规率确定方法还包括：
将目标虚拟空间视频作为神经网络模型的训练样本，将目标虚拟空间视频中标记的视频片段作为神经网络模型的期望输出的视频片段，将目标虚拟空间视频输入到神经网络模型，得到神经网络模型实际输出的视频片段；根据实际输出的视频片段的特征信息和期望输出的视频片段的特征信息训练神经网络模型，直至满足预设训练条件，得到目标视频片段抽取模型；其中，特征信息包括以下所列项中的至少一项：
目标虚拟空间视频的播放参数信息、目标虚拟空间视频对应的主播的历史行为信息、目标虚拟空间视频对应的虚拟空间的类型信息、视频片段对应的统计信息、观众对视频片段样本的反馈信息。
根据本公开实施例的第二方面，提供一种视频违规率确定装置，包括：
提取模块，用于从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；
第一抽取模块，用于将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段，其中，第二数量个视频片段与第二数量个虚拟空间视频一一对应；
第一确定模块，用于根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率。
作为第二方面的一些可实现方式，本公开提供的视频违规率确定装置还包括：
第二抽取模块，用于将第四数量个违规虚拟空间视频分别输入目标视频片段抽取模型，得到第四数量个目标视频片段，其中，第四数量个目标视频片段与第四数量个违规虚拟空间视频一一对应；
第二确定模块，用于根据第四数量个目标视频片段包括的违规视频片段的第五数量，确定目标视频片段抽取模型的准确度；
第一确定模块具体用于：
根据第三数量和准确度，确定违规率。
作为第二方面的一些可实现方式，第二确定模块具体用于：
将第五数量与第四数量的比值，作为准确度。
作为第二方面的一些可实现方式，第一确定模块具体用于：
将第六数量与第二数量的比值，作为违规率，其中，第六数量为第三数量与准确度的比值。
作为第二方面的一些可实现方式，本公开提供的视频违规率确定装置还包括：
训练模块，用于将目标虚拟空间视频作为神经网络模型的训练样本，将目标虚拟空间视频中标记的视频片段作为神经网络模型的期望输出的视频片段，将目标虚拟空间视频输入到神经网络模型，得到神经网络模型实际输出的视频片段；根据实际输出的视频片段的特征信息和期望输出的视频片段的特征信息训练神经网络模型，直至满足预设训练条件，得到目标视频片段抽取模型；其中，特征信息包括以下所列项中的至少一项：
目标虚拟空间视频的播放参数信息、目标虚拟空间视频对应的主播的历史行为信息、目标虚拟空间视频对应的虚拟空间的类型信息、视频片段对应的统计信息、观众对视频片段样本的反馈信息。
根据本公开实施例的第三方面，提供一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，处理器被配置为执行指令，以实现如第一方面所述的视频违规率确定方法。
根据本公开实施例的第四方面，提供一种计算机可读存储介质，当计算机可读存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如第一方面所述的视频违规率确定方法。
根据本公开实施例的第五方面，提供一种计算机程序产品，包括计算机指令，计算机指令被处理器执行时实现如第一方面所述的视频违规率确定方法。
本公开的实施例提供的技术方案至少带来以下有益效果：
在本公开实施例中，通过从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段；根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率，审核人员观看该第二数量个用于评估虚拟空间视频是否违规的视频片段即可确定该视频片段对应的虚拟空间视频是否违规，无需观看完整的虚拟空间视频，因此，能够提高确定虚拟空间视频是否违规的效率，进而能够提高确定多个虚拟空间视频的违规率的效率，同时也能够减少人力、物力和财力等资源。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理，并不构成对本公开的不当限定；
图1是根据一示例性实施例示出的视频违规率确定方法的流程示意图；
图2是根据一示例性实施例示出的视频违规率确定装置的结构示意图；
图3是根据一示例性实施例示出的电子设备的框图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案，下面将结合附图，对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
下面结合附图，通过具体的实施例及其应用场景对本公开实施例提供的视频违规率确定方法、装置、设备、介质及程序产品进行详细地说明。
图1是根据一示例性实施例示出的视频违规率确定方法的流程示意图。视频违规率确定方法可以包括：
S101：从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；
S102：将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段，其中，第二数量个视频片段与第二数量个虚拟空间视频一一对应；
S103：根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率。
上述各步骤的具体实现方式将在下文中进行详细描述。
在本公开实施例中，通过从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段；根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率，审核人员观看该第二数量个用于评估虚拟空间视频是否违规的视频片段即可确定该视频片段对应的虚拟空间视频是否违规，无需观看完整的虚拟空间视频，因此，能够提高确定虚拟空间视频是否违规的效率，进而能够提高确定多个虚拟空间视频的违规率的效率，同时也能够减少人力、物力和财力等资源。
在本公开实施例的一些可能实现中，本公开实施例中的虚拟空间可以为直播间。
可以理解的是，本公开实施例中的目标视频片段抽取模型是用于从虚拟空间视频中抽取用于评估虚拟空间视频是否违规的视频片段的模型。
在本公开实施例的一些可能实现中，在S102之前，本公开提供的视频违规率确定方法还包括：将目标虚拟空间视频作为神经网络模型的训练样本，将目标虚拟空间视频中标记的视频片段作为神经网络模型的期望输出的视频片段，将目标虚拟空间视频输入到神经网络模型，得到神经网络模型实际输出的视频片段；根据实际输出的视频片段的特征信息和期望输出的视频片段的特征信息训练神经网络模型，直至满足预设训练条件，得到目标视频片段抽取模型；其中，特征信息包括以下所列项中的至少一项：
目标虚拟空间视频的播放参数信息、目标虚拟空间视频对应的主播的历史行为信息、目标虚拟空间视频对应的虚拟空间的类型信息、视频片段对应的统计信息、观众对视频片段样本的反馈信息。
在本公开实施例的一些可能实现中，在训练得到目标视频片段抽取模型时，可以获取多个虚拟空间视频；将多个虚拟空间视频作为神经网络模型的训练样本，然后对该虚拟空间视频中的违规视频片段进行标记，将该标记的视频片段作为神经网络模型期望输出的视频片段，将虚拟空间视频输入到神经网络模型，此时得到神经网络模型实际输出的视频片段，根据神经网络模型实际输出的视频片段的特征信息和期望输出的视频片段的特征信息训练神经网络模型。
在本公开实施例的一些可能实现中，可以预先设置单位时长。然后，按照该单位时长对每个虚拟空间视频进行分段，例如，单位时长为1分钟，则将虚拟空间视频的每1分钟视频划分为1个视频片段。
在本公开实施例的一些可能实现中，虚拟空间视频的播放参数信息可以包括：虚拟空间视频的开始直播时间和/或虚拟空间视频的直播时间段等。虚拟空间视频对应的主播的历史行为信息可以包括：虚拟空间视频对应的主播的历史违规情况，例如，历史违规次数，历史违规时间、历史违规类型等。虚拟空间视频对应的虚拟空间的类型信息例如带货直播、视频直播、授课直播等等。视频片段对应的统计信息可以包括：观看视频片段的观众数量和/或观看视频片段的观众数量在观看包括该视频片段的虚拟空间视频的每个视频片段的观众数量的排名等等。观众对视频片段的反馈信息可以包括：该视频片段观众的举报次数和/或举报类型等。
在本公开实施例的一些可能实现中，预设训练条件包括但不限于：训练迭代次数到达预设次数、神经网络模型的损失函数的损失值小于预设损失值、神经网络模型实际输出的视频片段的特征信息和神经网络模型期望输出的视频片段的特征信息的相似度大于预设相似度阈值等等。
本公开实施例并不对训练神经网络模型，得到目标视频片段抽取模型的具体过程进行限定，任何可用的训练过程均可以应用于本公开实施例中。
在本公开实施例的一些可能实现中，在训练得到目标视频片段抽取模型之后，可以将从第一数量个虚拟空间视频中提取到的第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段，其中，第二数量个视频片段与第二数量个虚拟空间视频一一对应。
示例性地，假设从500个虚拟空间视频中提取出100个虚拟空间视频，将提取出的100个虚拟空间视频分别输入目标视频片段抽取模型得到100个视频片段，其中，100个视频片段中包括20个违规视频片段，则确定500个虚拟空间视频对应的违规率为20/100＝50％。
在本公开实施例中，由于目标视频片段抽取模型是根据虚拟空间视频的播放参数信息、虚拟空间视频对应的主播的历史行为信息、虚拟空间视频对应的虚拟空间的类型信息、视频片段对应的统计信息和观众对视频片段样本的反馈信息等训练得到的，因此，能够提高对虚拟空间视频的视频片段抽取的准确度，进而能够提高确定多个虚拟空间视频的违规率的效率。
在本公开实施例的一些可能实现中，在S103之前，视频违规率确定方法还可以包括：
将第四数量个违规虚拟空间视频分别输入目标视频片段抽取模型，得到第四数量个目标视频片段，其中，第四数量个目标视频片段与第四数量个违规虚拟空间视频一一对应；根据第四数量个目标视频片段包括的违规视频片段的第五数量，确定目标视频片段抽取模型的准确度。相应地，S103可以包括：根据第三数量和准确度，确定违规率。
在本公开实施例中，能够基于多个违规虚拟空间视频确定出目标视频片段抽取模型的准确度，进而根据目标视频片段抽取模型的准确度确定出多个虚拟空间视频的违规率。由于多个虚拟空间视频的违规率是根据目标视频片段抽取模型的准确度确定出的，因此，根据目标视频片段抽取模型的准确度确定出多个虚拟空间视频的违规率准确度较高，能够提高确定多个虚拟空间视频的违规率的准确度。
在本公开实施例的一些可能实现中，根据第四数量个目标视频片段包括的违规视频片段的第五数量，确定目标视频片段抽取模型的准确度，包括：将第五数量与第四数量的比值，作为准确度。
示例性地，将50个违规虚拟空间视频输入目标视频片段抽取模型，得到50个视频片段，其中，50个视频片段存在违规的视频片段有30个，则确定目标视频片段抽取模型的准确度＝30/50＝60％。
在本公开实施例中，通过将与多个违规虚拟空间视频对应的多个目标视频片段包括的违规视频片段的数量与多个违规虚拟空间视频的数量的比值作为目标视频片段抽取模型的准确度，使得确定出的目标视频片段抽取模型的准确度较准确，进而能够提高确定多个虚拟空间视频的违规率的准确度。
在本公开实施例中，能够确定出目标视频片段抽取模型的准确度。一方面，在确定出目标视频片段抽取模型的准确度之后可以根据该准确度决定是否重新训练神经网络模型，进而使得目标视频片段抽取模型能够较准确的抽取视频片段。另一方面，能够提高确定多个虚拟空间视频的违规率的准确度。
在本公开实施例的一些可能实现中，在确定出目标视频片段抽取模型的准确度之后，可以根据该准确度，确定是否对上述神经网络模型重新进行训练。如果目标视频片段抽取模型的准确度大于设定准确度，则无需重新训练上述神经网络模型；如果目标视频片段抽取模型的准确度小于设定准确度，则重新训练上述神经网络模型，直至训练得到的目标视频片段抽取模型的准确度大于设定准确度。
在本公开实施例的一些可能实现中，根据第三数量和准确度，确定违规率，包括：将第六数量与第二数量的比值，作为违规率，其中，第六数量为第三数量与准确度的比值。
示例性地，将1000个虚拟空间视频中的50个虚拟空间视频输入目标视频片段抽取模型，得到50个视频片段，其中，50个视频片段存在违规的视频片段有9个，目标视频片段抽取模型的准确度为60％，则确定50个虚拟空间视频中实际存在违规的虚拟空间视频数量为9÷60％＝15个。进而1000个虚拟空间视频对应的违规率＝15/50＝30％。
在本公开实施例中，通过将与提取出的多个虚拟空间视频对应的多个目标视频片段包括的违规视频片段的数量与目标视频片段抽取模型的准确度的比值与提取出的多个虚拟空间视频的数量的比值作为多个虚拟空间视频的违规率，使得确定出的多个虚拟空间视频的违规率较准确，能够提高确定多个虚拟空间视频的违规率的准确度。
在本公开实施例的一些可能实现中，在根据第三数量和准确度，确定出违规率之后，视频违规率确定方法还可以包括：根据违规率，确定第一数量个虚拟空间视频中存在违规的虚拟空间视频数量。
示例性地，假设1000个虚拟空间视频对应的违规率为30％，则1000个虚拟空间视频中存在违规的虚拟空间视频数量＝1000*30％＝300。
在本公开实施例中，能够确定出多个虚拟空间视频的违规视频的数量。
需要说明的是，本公开实施例提供的视频违规率确定方法，执行主体可以为视频违规率确定装置，或者该视频违规率确定装置中的用于执行视频违规率确定方法的控制模块。本公开实施例中以视频违规率确定装置执行视频违规率确定方法为例，说明本公开实施例提供的视频违规率确定装置。
图2是根据一示例性实施例示出的视频违规率确定装置的结构示意图。该视频违规率确定装置200可以包括：
提取模块201，用于从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；
第一抽取模块202，用于将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段，其中，第二数量个视频片段与第二数量个虚拟空间视频一一对应；
第一确定模块203，用于根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率。
在本公开实施例中，通过从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；将第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段；根据第二数量个视频片段包括的违规视频片段的第三数量，确定第一数量个虚拟空间视频对应的违规率，审核人员观看该第二数量个用于评估虚拟空间视频是否违规的视频片段即可确定该视频片段对应的虚拟空间视频是否违规，无需观看完整的虚拟空间视频，因此，能够提高确定虚拟空间视频是否违规的效率，进而能够提高确定多个虚拟空间视频的违规率的效率，同时也能够减少人力、物力和财力等资源。
在本公开实施例的一些可能实现中，本公开提供的视频违规率确定装置200还包括：
第二抽取模块，用于将第四数量个违规虚拟空间视频分别输入目标视频片段抽取模型，得到第四数量个目标视频片段，其中，第四数量个目标视频片段与第四数量个违规虚拟空间视频一一对应；
第二确定模块，用于根据第四数量个目标视频片段包括的违规视频片段的第五数量，确定目标视频片段抽取模型的准确度；
第一确定模块203具体用于：
根据第三数量和准确度，确定违规率。
在本公开实施例中，能够基于多个违规虚拟空间视频确定出目标视频片段抽取模型的准确度，进而根据目标视频片段抽取模型的准确度确定出多个虚拟空间视频的违规率。由于多个虚拟空间视频的违规率是根据目标视频片段抽取模型的准确度确定出的，因此，根据目标视频片段抽取模型的准确度确定出多个虚拟空间视频的违规率准确度较高，能够提高确定多个虚拟空间视频的违规率的准确度。
在本公开实施例的一些可能实现中，第二确定模块具体用于：
将第五数量与第四数量的比值，作为准确度。
在本公开实施例中，通过将与多个违规虚拟空间视频对应的多个目标视频片段包括的违规视频片段的数量与多个违规虚拟空间视频的数量的比值作为目标视频片段抽取模型的准确度，使得确定出的目标视频片段抽取模型的准确度较准确，进而能够提高确定多个虚拟空间视频的违规率的准确度。
在本公开实施例的一些可能实现中，第一确定模块203具体用于：
将第六数量与第二数量的比值，作为违规率，其中，第六数量为第三数量与准确度的比值。
在本公开实施例中，通过将与提取出的多个虚拟空间视频对应的多个目标视频片段包括的违规视频片段的数量与目标视频片段抽取模型的准确度的比值与提取出的多个虚拟空间视频的数量的比值作为多个虚拟空间视频的违规率，使得确定出的多个虚拟空间视频的违规率较准确，能够提高确定多个虚拟空间视频的违规率的准确度。
在本公开实施例的一些可能实现中，本公开提供的视频违规率确定装置200还包括：
训练模块，用于将目标虚拟空间视频作为神经网络模型的训练样本，将目标虚拟空间视频中标记的视频片段作为神经网络模型的期望输出的视频片段，将目标虚拟空间视频输入到神经网络模型，得到神经网络模型实际输出的视频片段；根据实际输出的视频片段的特征信息和期望输出的视频片段的特征信息训练神经网络模型，直至满足预设训练条件，得到目标视频片段抽取模型；其中，特征信息包括以下所列项中的至少一项：
目标虚拟空间视频的播放参数信息、目标虚拟空间视频对应的主播的历史行为信息、目标虚拟空间视频对应的虚拟空间的类型信息、视频片段对应的统计信息、观众对视频片段样本的反馈信息。
在本公开实施例中，由于目标视频片段抽取模型是根据虚拟空间视频的播放参数信息、虚拟空间视频对应的主播的历史行为信息、虚拟空间视频对应的虚拟空间的类型信息、视频片段对应的统计信息和观众对视频片段样本的反馈信息等训练得到的，因此，能够提高对虚拟空间视频的视频片段抽取的准确度，进而能够提高确定多个虚拟空间视频的违规率的效率。
图3是根据一示例性实施例示出的电子设备的框图。参照图3，电子设备300包括处理组件301，其进一步包括一个或多个处理器，以及由存储器302所代表的存储器资源，用于存储可由处理组件301的执行的指令，例如应用程序。存储器302中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件301被配置为执行指令，以执行上述任一实施例所述的视频违规率确定方法。
该电子设备300还可以包括一个电源组件303被配置为执行电子设备300的电源管理，一个有线或无线网络接口304被配置为将电子设备300连接到网络，和一个输入输出(I/O)接口305。电子设备300可以操作基于存储在存储器302的操作系统，例如WindowsServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。
在本公开一些实施例中，还提供了一种计算机可读存储介质，当该计算机可读存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行上述任一实施例所述的视频违规率确定方法。
在本公开实施例的一些可选实施方式中，该计算机可读存储介质可以是非临时性计算机可读存储介质，示例性的，非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
在本公开一些实施例中，还提供了一种计算机程序产品，包括计算机指令，计算机指令被处理器执行时实现上述任一实施例所述的视频违规率确定方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (10)
1.一种视频违规率确定方法，其特征在于，所述方法包括：
从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；
将所述第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段，其中，第二数量个所述视频片段与所述第二数量个虚拟空间视频一一对应；
根据第二数量个所述视频片段包括的违规视频片段的第三数量，确定所述第一数量个虚拟空间视频对应的违规率。
2.根据权利要求1所述的方法，其特征在于，在所述根据第二数量个所述视频片段包括的违规视频片段的第三数量，确定所述第一数量个虚拟空间视频对应的违规率之前，所述方法还包括：
将第四数量个违规虚拟空间视频分别输入所述目标视频片段抽取模型，得到第四数量个目标视频片段，其中，所述第四数量个目标视频片段与所述第四数量个违规虚拟空间视频一一对应；
根据所述第四数量个目标视频片段包括的违规视频片段的第五数量，确定所述目标视频片段抽取模型的准确度；
所述根据第二数量个所述视频片段包括的违规视频片段的第三数量，确定所述第一数量个虚拟空间视频对应的违规率，包括：
根据所述第三数量和所述准确度，确定所述违规率。
3.根据权利要求2所述的方法，其特征在于，所述根据所述第四数量个目标视频片段包括的违规视频片段的第五数量，确定所述目标视频片段抽取模型的准确度，包括：
将所述第五数量与第四数量的比值，作为所述准确度。
4.根据权利要求3所述的方法，其特征在于，所述根据所述第三数量和所述准确度，确定所述违规率，包括：
将第六数量与所述第二数量的比值，作为所述违规率，其中，所述第六数量为所述第三数量与所述准确度的比值。
5.根据权利要求1所述的方法，其特征在于，在所述将所述第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段之前，所述方法还包括：
将目标虚拟空间视频作为神经网络模型的训练样本，将所述目标虚拟空间视频中标记的视频片段作为所述神经网络模型的期望输出的视频片段，将所述目标虚拟空间视频输入到所述神经网络模型，得到所述神经网络模型实际输出的视频片段；
根据所述实际输出的视频片段的特征信息和所述期望输出的视频片段的特征信息训练所述神经网络模型，直至满足预设训练条件，得到所述目标视频片段抽取模型；其中，所述特征信息包括以下所列项中的至少一项：
所述目标虚拟空间视频的播放参数信息、所述目标虚拟空间视频对应的主播的历史行为信息、所述目标虚拟空间视频对应的虚拟空间的类型信息、视频片段对应的统计信息、观众对视频片段样本的反馈信息。
6.一种视频违规率确定装置，其特征在于，所述装置包括：
提取模块，用于从第一数量个虚拟空间视频中提取第二数量个虚拟空间视频；
第一抽取模块，用于将所述第二数量个虚拟空间视频分别输入目标视频片段抽取模型，得到第二数量个用于评估虚拟空间视频是否违规的视频片段，其中，第二数量个所述视频片段与所述第二数量个虚拟空间视频一一对应；
第一确定模块，用于根据第二数量个所述视频片段包括的违规视频片段的第三数量，确定所述第一数量个虚拟空间视频对应的违规率。
7.根据权利要求6所述的装置，其特征在于，所述装置还包括：
第二抽取模块，用于将第四数量个违规虚拟空间视频分别输入所述目标视频片段抽取模型，得到第四数量个目标视频片段，其中，所述第四数量个目标视频片段与所述第四数量个违规虚拟空间视频一一对应；
第二确定模块，用于根据所述第四数量个目标视频片段包括的违规视频片段的第五数量，确定所述目标视频片段抽取模型的准确度；
所述第一确定模块具体用于：
根据所述第三数量和所述准确度，确定所述违规率。
8.一种电子设备，其特征在于，包括：
处理器；
用于存储所述处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述指令，以实现如权利要求1至5中任一项所述的视频违规率确定方法。
9.一种计算机可读存储介质，其特征在于，当所述计算机可读存储介质中的指令由电子设备的处理器执行时，使得所述电子设备能够执行如权利要求1至5中任一项所述的视频违规率确定方法。
10.一种计算机程序产品，其特征在于，包括计算机指令，所述计算机指令被处理器执行时实现权利要求1至5中任一项所述的视频违规率确定方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111127266.9A CN113923464A (zh) | 2021-09-26 | 2021-09-26 | 视频违规率确定方法、装置、设备、介质及程序产品 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111127266.9A CN113923464A (zh) | 2021-09-26 | 2021-09-26 | 视频违规率确定方法、装置、设备、介质及程序产品 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113923464A true CN113923464A (zh) | 2022-01-11 |
Family
ID=79236210
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111127266.9A Pending CN113923464A (zh) | 2021-09-26 | 2021-09-26 | 视频违规率确定方法、装置、设备、介质及程序产品 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113923464A (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019184124A1 (zh) * | 2018-03-30 | 2019-10-03 | 平安科技（深圳）有限公司 | 风控模型训练方法、风险识别方法、装置、设备及介质 |
| CN110472531A (zh) * | 2019-07-29 | 2019-11-19 | 腾讯科技（深圳）有限公司 | 视频处理方法、装置、电子设备及存储介质 |
| CN111143612A (zh) * | 2019-12-27 | 2020-05-12 | 广州市百果园信息技术有限公司 | 视频审核模型训练方法、视频审核方法及相关装置 |
| CN112149586A (zh) * | 2020-09-28 | 2020-12-29 | 上海翰声信息技术有限公司 | 一种基于神经网络的视频片段自动抽取系统及方法 |
| WO2021164326A1 (zh) * | 2020-02-17 | 2021-08-26 | 腾讯科技（深圳）有限公司 | 一种视频处理方法、装置、设备及计算机可读存储介质 |
| CN113408470A (zh) * | 2021-06-30 | 2021-09-17 | 北京达佳互联信息技术有限公司 | 数据处理方法、装置、电子设备、存储介质及程序产品 |
-
2021
- 2021-09-26 CN CN202111127266.9A patent/CN113923464A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019184124A1 (zh) * | 2018-03-30 | 2019-10-03 | 平安科技（深圳）有限公司 | 风控模型训练方法、风险识别方法、装置、设备及介质 |
| CN110472531A (zh) * | 2019-07-29 | 2019-11-19 | 腾讯科技（深圳）有限公司 | 视频处理方法、装置、电子设备及存储介质 |
| CN111143612A (zh) * | 2019-12-27 | 2020-05-12 | 广州市百果园信息技术有限公司 | 视频审核模型训练方法、视频审核方法及相关装置 |
| WO2021164326A1 (zh) * | 2020-02-17 | 2021-08-26 | 腾讯科技（深圳）有限公司 | 一种视频处理方法、装置、设备及计算机可读存储介质 |
| CN112149586A (zh) * | 2020-09-28 | 2020-12-29 | 上海翰声信息技术有限公司 | 一种基于神经网络的视频片段自动抽取系统及方法 |
| CN113408470A (zh) * | 2021-06-30 | 2021-09-17 | 北京达佳互联信息技术有限公司 | 数据处理方法、装置、电子设备、存储介质及程序产品 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107168854B (zh) | 互联网广告异常点击检测方法、装置、设备及可读存储介质 | |
| CN110909205B (zh) | 一种视频封面确定方法、装置、电子设备及可读存储介质 | |
| CN110012302A (zh) | 一种网络直播监测方法及装置、数据处理方法 | |
| CN109509010B (zh) | 一种多媒体信息处理方法、终端及存储介质 | |
| CN114302159B (zh) | 一种直播间异常的监控方法、装置、设备以及存储介质 | |
| CN104486649A (zh) | 视频内容评级方法及装置 | |
| CN108521582B (zh) | 一种基于区块链技术的版权视频全网收视纪录系统 | |
| CN111522724B (zh) | 异常账号的确定方法、装置、服务器及存储介质 | |
| CN112163614A (zh) | 一种主播分类方法、装置、电子设备及存储介质 | |
| KR20190063352A (ko) | 클립 간 유사도 분석에 의한 영상 콘텐츠의 클립 연결 장치 및 방법 | |
| CN115801980A (zh) | 视频生成方法和装置 | |
| CN108322819A (zh) | 预测用户行为的方法及装置 | |
| CN113011886B (zh) | 帐号类型的确定方法和装置及电子设备 | |
| CN111479168B (zh) | 用于标记多媒体内容热点的方法、装置、服务器以及介质 | |
| CN113746790B (zh) | 一种异常流量管理方法、电子设备及存储介质 | |
| CN112365269A (zh) | 风险检测方法、装置、设备以及存储介质 | |
| CN113923464A (zh) | 视频违规率确定方法、装置、设备、介质及程序产品 | |
| CN113377972A (zh) | 多媒体内容推荐方法、装置、计算设备和存储介质 | |
| CN111090585A (zh) | 一种基于众测过程的众测任务关闭时间自动预测方法 | |
| CN113408470B (zh) | 数据处理方法、装置、电子设备、存储介质及程序产品 | |
| CN113297417B (zh) | 视频推送方法、装置、电子设备和存储介质 | |
| CN112672202B (zh) | 弹幕处理方法、设备和存储介质 | |
| CN112070487B (zh) | 基于ai的rpa流程的生成方法、装置、设备及介质 | |
| CN114550300A (zh) | 视频数据分析方法、装置、电子设备及计算机存储介质 | |
| CN114356712A (zh) | 数据处理方法、装置、设备、可读存储介质及程序产品 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |