CN112788356A - 一种直播审核的方法、装置、服务器和存储介质 - Google Patents

一种直播审核的方法、装置、服务器和存储介质 Download PDF

Info

Publication number
CN112788356A
CN112788356A CN202011613190.6A CN202011613190A CN112788356A CN 112788356 A CN112788356 A CN 112788356A CN 202011613190 A CN202011613190 A CN 202011613190A CN 112788356 A CN112788356 A CN 112788356A
Authority
CN
China
Prior art keywords
live broadcast
violation
auditing
model
review
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011613190.6A
Other languages
English (en)
Other versions
CN112788356B (zh
Inventor
李益永
孙准
黄秋实
井雪
项伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bigo Technology Pte Ltd
Original Assignee
Bigo Technology Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bigo Technology Pte Ltd filed Critical Bigo Technology Pte Ltd
Priority to CN202011613190.6A priority Critical patent/CN112788356B/zh
Publication of CN112788356A publication Critical patent/CN112788356A/zh
Priority to US18/259,646 priority patent/US12010358B2/en
Priority to EP21914277.5A priority patent/EP4274236A4/en
Priority to JP2023540184A priority patent/JP2024504576A/ja
Priority to PCT/CN2021/141704 priority patent/WO2022143541A1/zh
Application granted granted Critical
Publication of CN112788356B publication Critical patent/CN112788356B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/2187—Live feed
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454—Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4542—Blocking scenes or portions of the received content, e.g. censoring scenes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Psychiatry (AREA)
  • Human Computer Interaction (AREA)
  • Social Psychology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Transfer Between Computers (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

本发明实施例公开了一种直播审核的方法、装置、服务器和存储介质。其中，该方法包括：通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核；如果当前直播帧通过初步违规审核，则将当前直播帧在高精确审核模型下的第一违规得分、在高召回审核模型下的第二违规得分以及在待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到当前直播帧的目标违规得分。本发明实施例提供的技术方案，实现待审核直播间内当前直播帧的全面违规审核，避免直播审核下存在误审核和漏审核的问题，在降低违规审核成本的基础上，提高直播审核的准确率和召回率。

Description

一种直播审核的方法、装置、服务器和存储介质
技术领域
本发明实施例涉及互联网资源中违规内容审核领域，尤其涉及一种直播审核的方法、装置、服务器和存储介质。
背景技术
随着互联网技术的快速发展，网络上的直播平台也越来越多，使得互联网资源的传播越来越广泛。与此同时，由于某些直播间的直播内容可能会涉及到恐怖、暴力、色情或政治敏感等话题，而使的大量违规的直播内容在互联网上被快速传播出来，因此针对此类直播间，需要实时检测是否存在违规的直播内容，以防止违规直播内容的传播。
目前，通常会利用单特征训练的神经网络模型对直播过程中的各个直播视频帧所体现的直播视觉特征和直播语音下的直播音频特征进行违规内容分析，判断各个直播视频帧中是否存在违规画面，或者判断直播语音中是否存在涉及恐怖、暴力、色情或政治敏感等话题的违规音频，从而审核出可疑的违规直播间，推送给人工审核平台进行人工审核；此时，在直播过程中提取直播视频帧和直播语音时，会存在由于直播网络不稳定而导致提取结果不准确的问题，因此在利用所提取的直播视频帧和直播语音来审核直播间内是否存在违规内容时，无法保证直播间违规审核的准确率和召回率，极易造成误判或漏判的问题。
发明内容
本发明实施例提供了一种直播审核的方法、装置、服务器和存储介质，避免直播审核下存在的误审核和漏审核，提高直播审核的准确率和召回率。
第一方面，本发明实施例提供了一种直播审核的方法，该方法包括：
通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核；
如果所述当前直播帧通过初步违规审核，则将所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到所述当前直播帧的目标违规得分。
第二方面，本发明实施例提供了一种直播审核的装置，该装置包括：
初步审核模块，用于通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核；
违规得分确定模块，用于如果所述当前直播帧通过初步违规审核，则将所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到所述当前直播帧的目标违规得分。
第三方面，本发明实施例提供了一种服务器，该服务器包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明任意实施例所述的直播审核的方法。
第四方面，本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明任意实施例所述的直播审核的方法。
本发明实施例提供的一种直播审核的方法、装置、服务器和存储介质，首先通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核，能够快速审核出容易区分和违规明显的违规直播帧，而对于通过初步违规审核的不易区分或者违规不明显的当前直播帧，会在该当前直播帧在高精确审核模型下的第一违规得分和在高召回审核模型下的第二违规得分的基础上，结合该当前直播帧在待审核直播间内的多维行为特征，通过行为审核模型再次对当前直播帧进行视觉画面特征和行为特征相结合的统一特征分析，从而得到该当前直播帧的目标违规得分，实现待审核直播间内当前直播帧的全面违规审核，避免直播审核下存在误审核和漏审核的问题，在降低违规审核成本的基础上，提高直播审核的准确率和召回率。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显：
图1A为本发明实施例一提供的一种直播审核的方法的流程图；
图1B为本发明实施例一提供的直播审核过程的原理示意图；
图2A为本发明实施例二提供的一种直播审核的方法的流程图；
图2B为本发明实施例二提供的直播审核过程的原理示意图；
图3A为本发明实施例三提供的一种直播审核的方法的流程图；
图3B为本发明实施例三提供的直播审核过程的原理示意图；
图4为本发明实施例四提供的一种直播审核的装置的结构示意图；
图5为本发明实施例五提供的一种服务器的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。此外，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
实施例一
图1A为本发明实施例一提供的一种直播审核的方法的流程图，本实施例可适用于对任一直播间内的直播画面进行违规审核的情况中。本实施例提供的一种直播审核的方法可以由本发明实施例提供的直播审核的装置来执行，该装置可以通过软件和/或硬件的方式来实现，并集成在执行本方法的服务器中，该服务器可以是承载有相应的视频审核能力的后台服务端。
具体的，参考图1A，该方法可以包括如下步骤：
S110，通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核。
具体的，由于直播间面向的观众类型较为广泛，如果某些直播间的直播内容涉及到恐怖、暴力、色情或政治敏感等话题，那么违规内容就会在互联网中被快速传播起来，因此为了防止违规内容对用户生活产生的不利影响，需要在直播过程中，实时检测是否存在违规的直播内容。
在本实施例中，为了保证直播违规审核的全面性，会将直播审核下的整个审核过程分成初步违规审核和再次违规审核两部分。此时，在初步违规审核过程中，能够快速审核出容易区分是否违规的较为明显的违规直播，而在再次违规审核过程中，采用相比初步违规审核来说更高的审核力度，来对初步违规审核无法准确判断是否存在违规内容的直播帧再次进行违规审核，以避免直播审核下存在误审核和漏审核的问题，从而保证待审核直播间内当前直播帧的全面违规审核。
具体的，本实施例在初步违规审核过程中，会预先构建出高精确审核模型和高召回审核模型两个网络模型；其中，高精确审核模型具备高准确性的违规审核能力，在通过高精确审核模型对待审核直播间内的当前直播帧进行违规审核时，能够保证所审核出的违规直播帧极大可能是真实违规的，避免出现违规误审核的问题；同时，高召回审核模型具备高召回性的违规审核能力，在通过高召回审核模型对待审核直播间内的当前直播帧进行违规审核时，能够尽可能保证即使当前直播帧存在极小的违规内容，也能够被审核出来，减少出现违规漏审核的情况。
需要说明的是，本实施例在对高精确审核模型和高召回审核模型进行训练时，会预先构建一个训练样本集，该训练样本集中会包括各类直播间内历史直播视频中的历史直播帧，同时按照各个历史直播帧是否真实违规，以及被准确审核出是否违规的难易程度，可以将训练样本集内的各个训练样本分为易正样本、易负样本、难正样本和难负样本四类，此时由于高精确审核模型对于违规审核的精确性具有较高要求，因此该高精确审核模型的训练样本可以由训练样本集中的易正样本和易负样本构成，通过审核易正样本和易负样本是否存在违规内容，不断优化该高精确审核模型的模型参数和网络结构等；而由于高召回审核模型对于违规审核的召回性具有较高要求，因此该高召回审核模型的训练样本可以由训练样本集中的难正样本和难负样本构成，通过采用难以被审核是否违规的训练样本进行审核训练，使得该高召回审核模型面对难以被审核出来的违规直播帧，也能够审核出来，从而保证高召回审核模型对于违规审核的高召回能力。
同时，由于高精确审核模型只针对违规审核精确性进行训练，存在较大的违规漏审核的情况，而高召回审核模型却具备高召回的违规审核能力，能够尽可能的减少违规漏审核的情况，因此为了保证初步违规审核的高准确性和高召回性，本实施例可以将高精确审核模型和高召回审核模型级联起来，如图1B所示，从而先利用高精确审核模型对待审核直播间内的每一当前直播帧进行初始的违规审核，而对高精确审核模型未审核出是否违规的当前直播帧，则由高召回审核模型继续进行违规审核，以采用级联的两层审核模型依次进行违规审核，完成本实施例中的初步违规审核过程，保证初步违规审核的高准确性和高召回性。
具体的，在待审核直播间的视频直播过程中，本实施例可以每隔预设时长(如每隔2s等)从待审核直播间内截取一张直播图片，作为本实施例中的当前直播帧，然后将该当前直播帧首先输入到两层级联网络中的高精确审核模型中，由该高精确审核模型判断该当前直播帧内是否存在违规内容，若该当前直播帧通过该高精确审核模型的违规审核，说明该高精确审核模型认为该当前直播帧内不存在违规内容，而则由于高精确审核模型存在违规漏审核的情况，因此需要再次将该当前直播帧输入到两层级联网络中的高召回审核模型中，由该高召回审核模型继续判断该当前直播帧内是否存在违规内容，从而完成对待审核直播间内当前直播帧的初步违规审核。
此时，高召回审核模型对于该当前直播帧的违规审核结果存在两种情况：1)未通过高召回审核模型的违规审核，说明该高召回审核模型能够确定该当前直播帧中存在违规内容，直接确认该当前直播帧所在的待审核直播间为违规直播间；2)通过高召回审核模型的违规审核，说明该高召回审核模型认为该当前直播帧内不存在违规内容，则后续需要利用预先构建的行为审核模型继续对该当前直播帧进行违规审核。
S120，如果当前直播帧通过初步违规审核，则将当前直播帧在高精确审核模型下的第一违规得分、在高召回审核模型下的第二违规得分以及在待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到当前直播帧的目标违规得分。
可选的，如果待审核直播间内的当前直播帧即通过高精确审核模型的违规审核，也通过高召回审核模型的违规审核，则说明当前直播帧通过初步违规审核，需要继续进行再次违规审核，以保证违规审核的准确性和全面性。
具体的，通过级联的高精确审核模型和高召回审核模型，对当前直播帧进行初步违规审核时，通常是对当前直播帧的直播视觉画面内的信息进行违规分析，此时高精确审核模型会输出当前直播帧的第一违规得分，而高召回审核模型会输出当前直播帧的第二违规得分，且该第一违规得分和第二违规得分均能够代表当前直播帧的视觉画面特征。
然而，由于直播间内的直播内容具有多变性，且直播间内的主播与观众之间也会针对直播内容进行互动，例如直播打赏、内容公屏评论和主播历史违规情况等，使得直播间内的互动行为也能够作为判断当前直播帧是否存在违规内容的参考依据，因此本实施例在确定当前直播帧通过初步违规审核后，在对当前直播帧进行再次违规审核时，除了可以参考当前直播帧在高精确审核模型下的第一违规得分和在高召回审核模型下的第二违规得分所代表的视觉画面特征外，还会通过分析当前直播帧在待审核直播间内所处的直播时刻下，主播与观众在该待审核直播间内的各项直播互动行为，确定当前直播帧在该待审核直播间内的多维行为特征，如图1B所示，并将当前直播帧的第一违规得分和第二违规得分所代表的视觉画面特征和由待审核直播间内的各项直播互动行为所确定的多维行为特征结合起来，共同输入到预先构建的行为审核模型中，该行为审核模型能够对第一违规得分和第二违规得分所代表的视觉画面特征和由待审核直播间内的各项直播互动行为所确定的多维行为特征进行融合分析，统一判断该当前直播帧内是否存在违规内容，从而输出当前直播帧的目标违规得分，此时该目标违规得分采用由视觉画面特征的多维行为特征相结合的多角度特征融合分析，来实现再次违规审核，无需采用额外的审核设备，降低了违规审核成本，保证直播间违规审核的准确性和召回性。
本实施例提供的技术方案，首先通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核，能够快速审核出容易区分和违规明显的违规直播帧，而对于通过初步违规审核的不易区分或者违规不明显的当前直播帧，会在该当前直播帧在高精确审核模型下的第一违规得分和在高召回审核模型下的第二违规得分的基础上，结合该当前直播帧在待审核直播间内的多维行为特征，通过行为审核模型再次对当前直播帧进行视觉画面特征和行为特征相结合的统一特征分析，从而得到该当前直播帧的目标违规得分，实现待审核直播间内当前直播帧的全面违规审核，避免直播审核下存在误审核和漏审核的问题，在降低违规审核成本的基础上，提高直播审核的准确率和召回率。
实施例二
图2A为本发明实施例二提供的一种直播审核的方法的流程图，图2B为本发明实施例二提供的直播审核过程的原理示意图。本实施例是在上述实施例的基础上进行优化。具体的，如图2A所示，本实施例中对于待审核直播间内当前直播帧的再次违规审核的具体审核过程和行为审核模型的具体建模过程进行详细的解释说明。
可选的，如图2A所示，本实施例中可以包括如下步骤：
S210，通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核。
S220，如果当前直播帧通过初步违规审核，则合并当前直播帧在高精确审核模型下的第一违规得分、在高召回审核模型下的第二违规得分以及在待审核直播间内的多维行为特征，得到当前直播帧的直播行为特征。
可选的，如果当前直播帧通过初步违规审核，说明高精确审核模型和高召回审核模型都认为当前直播帧内不存在违规内容，因此为了保证直播审核的准确性，避免出现违规漏审核的情况，还会利用当前直播帧的视觉画面特征和行为特征共同对该当前直播帧继续进行再次违规审核，此时首先会确定出当前直播帧在高精确审核模型下的第一违规得分和在高召回审核模型下的第二违规得分，将第一违规得分和第二违规得分作为对应的视觉画面特征，同时根据当前直播帧的直播时刻下，在待审核直播间内的各项直播互动行为，确定出当前直播帧在待审核直播间内的多维行为特征，然后将第一违规得分、第二违规得分和多维行为特征合并起来，得到当前直播帧的直播行为特征，作为再次违规审核下的多角度融合特征，后续采用该直播行为特征判断当前直播帧内是否存在违规内容，能够保证直播审核的全面性和准确性。
示例性的，本实施例中的直播行为特征可以为X＝(x1，x2，…，x11)，其中x1为当前直播帧在高精确审核模型下的第一违规得分，x2为当前直播帧在高召回审核模型下的第二违规得分，x3为多维行为特征中在待审核直播间内的直播实时观看数目，x4为多维行为特征中在待审核直播间内的用户发送公屏数量，x5为多维行为特征中在待审核直播间内的违规公屏数量，x6为多维行为特征中在待审核直播间内违规公屏在所有公屏中的占比，x7为多维行为特征中在待审核直播间内的直播打赏数量，x8为多维行为特征中在待审核直播间内的主播历史违规次数，x9为多维行为特征中在待审核直播间内的主播历史违规占比，x10为多维行为特征中在待审核直播间内的主播历史语音违规次数，x11为多维行为特征中在待审核直播间内的主播历史语音违规占比。
需要说明的是，为了保证直播违规审核的准确性，本实施例中的多维行为特征可以动态配置，对此不作限定。
S230，将直播行为特征输入到行为审核模型中，得到当前直播帧的目标违规得分。
可选的，在得到直播行为特征后，可以将该直播行为特征作为多角度下的违规融合特征，输入到预先构建的行为审核模型中，通过该行为审核模型对该直播行为特征在每一维度下的特征值进行融合分析，判断是否携带违规内容信息，进而输出当前直播帧的目标违规得分，通过该目标违规得分判断当前直播帧内是否存在违规内容，提高直播审核的准确性。
示例性的，本实施例可以采用如下步骤对行为审核模型进行建模：从历史直播视频集内的每一历史直播视频中分别提取对应的历史直播帧，并确定每一历史直播帧在所处直播间内的多维历史行为特征以及该历史直播帧的违规标签；针对每一历史直播帧，将该历史直播帧在高精确审核模型下的第一历史违规得分、在高召回审核模型下的第二历史违规得分以及在所处直播间内的多维历史行为特征，输入到预先构建的行为审核模型中，得到历史直播帧的历史违规得分；以最小化每一历史直播帧的历史违规得分和违规标签之间的差异为目标，不断优化行为审核模型。
具体的，首先通过查找各个直播间的历史直播视频，构建出用于建模的历史直播视频集，而由于对直播间进行违规审核时，主要是对直播过程中的直播帧进行违规审核，因此需要对历史直播视频集内的每一历史直播视频进行视频帧提取，例如从每一历史直播视频内每隔预设时长便截取一张历史直播图片，作为从该历史直播视频内所提取出的历史直播帧，此时所提取出的全部历史直播帧可以构成该行为审核模型的建模样本。
此时，为了保证行为审核模型的成功建模，首先需要设定建模过程中所需要参考的各个建模特征，以及该行为审核模型的建模优化目标，以按照该建模优化目标对各个建模特征下的实际建模情况进行不断优化，例如本实施例中的建模特征可以为X＝(x1，x2，…，x11)，其中x1为历史直播帧在高精确审核模型下的第一历史违规得分，x2为历史直播帧在高召回审核模型下的第二历史违规得分，x3为所设定的多维历史行为特征中历史直播帧在所在直播间内的直播实时观看数目，x4为多维历史行为特征中历史直播帧在所在直播间内的用户发送公屏数量，x5为多维历史行为特征中历史直播帧在所在直播间内的违规公屏数量，x6为多维历史行为特征中历史直播帧在所在直播间内违规公屏在所有公屏中的占比，x7为多维历史行为特征中历史直播帧在所在直播间内的直播打赏数量，x8为多维历史行为特征中历史直播帧在所在直播间内的主播历史违规次数，x9为多维历史行为特征中历史直播帧在所在直播间内的主播历史违规占比，x10为多维历史行为特征中历史直播帧在所在直播间内的主播历史语音违规次数，x11为多维历史行为特征中历史直播帧在所在直播间内的主播历史语音违规占比。
具体的，由于各个建模特征中得历史直播帧在所处直播间内的多维历史行为特征在历史直播过程中就可以确定，因此在从每一历史直播视频中分别提取出对应的历史直播帧后，通过判断历史直播帧在所处直播间内的历史直播互动行为，即可确定出每一历史直播帧在所处直播间内的多维历史行为特征，同时还能够确定每一历史直播帧的违规标签，如图2B所示，以便后续按照建模优化目标进行不断建模优化。然后，针对每一历史直播帧，可以将该历史直播帧分别输入到本实施例的高精度审核模型和高召回审核模型中，从而得到每一历史直播帧的第一历史违规得分和第二历史违规得分，以此即可将每一历史直播帧的第一历史违规得分、第二历史违规得分和在所处直播间内的多维历史行为特征，共同组成每一历史直播帧对应的建模特征，并将每一历史直播帧对应的建模特征不断输入到该行为审核模型中，得到每一历史直播帧的历史违规得分。
此时，本实施例中行为审核模型的建模优化目标可以为以最小化每一历史直播帧的历史违规得分和违规标签之间的差异为目标，因此在建模优化过程中不断分析每一历史直播帧的历史违规得分与其违规标签之间的差异，并通过优化行为审核模型中的数学参数来不断减小该差异，以达到历史直播帧的历史违规得分和违规标签之间的差异能够最小化的目标，从而得到最终优化后的行为审核模型，此时最终优化后的行为审核模型具备高准确性的违规审核能力。
示例性的，本实施例中行为审核模型的建模优化目标可以为：
Figure BDA0002875522430000121
其中，xi为第i个历史直播帧的建模特征，yi为第i个历史直播帧的违规标签，yi＝1表示存在违规内容，yi＝0表示不存在违规内容，
Figure BDA0002875522430000122
为通过行为审核模型对第i个历史直播帧确定的历史违规得分，V＝(x1,x2,L,xm)，表示历史直播帧组成的建模样本，m为样本数量。
本实施例提供的技术方案，以最小化每一历史直播帧的历史违规得分和违规标签之间的差异为建模优化目标，对行为审核模型进行建模，保证行为审核模型进行违规审核的准确性，后续通过合并待审核直播间内当前直播帧在高精确审核模型下的第一违规得分、在高召回审核模型下的第二违规得分以及在待审核直播间内的多维行为特征，得到当前直播帧的直播行为特征，并通过建模后的行为审核模型对该直播行为特征进行多角度下的违规特征分析，提高直播审核的准确率和召回率。
实施例三
图3A为本发明实施例三提供的一种直播审核的方法的流程图，图3B为本发明实施例三提供的直播审核过程的原理示意图。本实施例是在上述实施例的基础上进行优化。具体的，如图3A所示，本实施例中待审核直播间的整体违规审核过程进行详细的解释说明。
可选的，如图3A所示，本实施例中可以包括如下步骤：
S310，将待审核直播间内的当前直播帧输入到预先构建的高精确审核模型中，得到当前直播帧的第一违规得分。
可选的，在对待审核直播间进行违规审核时，会在直播过程中实时检测直播画面是否存在违规内容，因此需要实时对直播过程中的当前直播帧进行违规审核。具体的，首先将当前直播帧输入到预先构建的高精确审核模型中，通过该高精确审核模型对当前直播帧内的直播画面进行初始的违规审核，从而输出该当前直播帧的第一违规得分，后续通过判断该第一违规得分是否超出预设精确违规阈值，能够确定该当前直播帧内是否存在违规内容。
S320，判断第一违规得分是否超出预设精确违规阈值，若是，执行S380；若否，执行S330。
S330，将当前直播帧继续输入到预先构建的高召回审核模型中，得到当前直播帧的第二违规得分。
可选的，如果第一违规得分未超出预设精确违规阈值，说明高精确审核模型认为该当前直播帧内不存在违规内容，然而由于高精确审核模型存在违规漏审核的问题，因此需要将当前直播帧继续输入到预先构建的高召回审核模型中，如图3B所示，通过该高召回审核模型继续对当前直播帧内的直播画面进行相应的违规审核，从而输出该当前直播帧的第二违规得分，后续通过判断该第二违规得分是否超出预设召回违规阈值，能够再次确定该当前直播帧内是否存在违规内容。
S340，判断第二违规得分是否超出预设召回违规阈值，若是，执行S380；若否，执行S350。
具体的，如果第二违规得分未超出预设召回违规阈值，说明高召回审核模型也认为该当前直播帧内不存在违规内容，也就是当前直播帧同时通过高精确审核模型和高召回审核模型的违规审核，也就是通过初步违规审核，然后利用行为审核模型继续对当前直播帧进行再次违规审核。
S350，将当前直播帧在所述高精确审核模型下的第一违规得分、在高召回审核模型下的第二违规得分以及在待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到当前直播帧的目标违规得分。
S360，判断目标违规得分是否超出预设行为违规阈值，若是，执行S380；若否，执行S370。
可选的，在利用行为审核模型输出当前直播帧的目标违规得分后，通过判断目标违规得分是否超出预设行为违规阈值，可以最终审核出当前直播帧内是否存在违规内容，以便执行不同的直播处理流程。
S370，间隔预设直播时长后，从待审核直播间内采集新的当前直播帧，继续对新的当前直播帧进行违规审核。
可选的，如果目标违规得分未超出预设行为违规阈值，说明行为审核模型也认为当前直播帧内不存在违规内容，此时本实施例中的三个模型均认为当前直播帧内不存在违规内容，则可以确定当前直播帧为非违规帧，说明待审核直播间内当前不存在违规内容，此时为了保证直播间违规审核的实时性，会在间隔预设直播时长(如每隔2s)后，继续从待审核直播间内的当前直播时刻下截取一张新的直播图片，作为所采集的新的当前直播帧，然后按照本实施例S310-S380的步骤继续对该新的当前直播帧进行违规审核，从而对待审核直播间进行实时违规审核，直至直播结束或者审核出违规的直播帧。
S380，将待审核直播间的直播信息推送给人工审核平台。
可选的，在第一违规得分超出预设精确违规阈值，或者第二违规得分超出预设召回违规阈值，或者目标违规得分超出预设行为违规阈值时，都说明当前审核使用的模型认为该当前直播帧内存在违规内容，但是为了避免出现违规误审核的情况，如图3B所示，本实施例还会额外设置一个人工审核平台，以在审核出当前直播帧内存在违规内容时，将该当前直播帧所在的待审核直播间的直播信息推送给人工审核平台，以进一步对该待审核直播间的直播内容进行人工审核，从而保证直播审核的准确性。
需要说明的是，本实施例中待审核直播间的直播信息可以为待审核直播间的直播地址或正在直播的视频画面等，对此不作限定。
S390，实时监控待审核直播间内的直播互动项，如果直播互动项超出预设互动阈值，则将待审核直播间的直播信息推送给人工审核平台，并停止对待审核直播间内当前直播帧的违规审核。
可选的，为了避免出现违规审核的异常情况，而保证直播审核的高召回率，本实施例在通过构建模型来实现直播违规审核的基础上，还会通过实时监控待审核直播间内的直播互动项，来判断是否需要直接推送给人工审核平台进行人工审核，将其作为直播审核的审核异常保底方案。此时，该直播互动项可以包括待审核直播间内的直播观看数量和直播打赏数量等，以此分析待审核直播间的受众广泛程度，如果直播互动项超出预设互动阈值，说明待审核直播间的直播受众率很大，一旦出现违规内容，则会快速传播出去，因此需要直接将待审核直播间的直播信息推送给人工审核平台进行人工审核，以确保直播违规审核的高效性，同时停止利用所构建的各个模型对待审核直播间内当前直播帧的违规审核。
本实施例提供的技术方案，在确定当前直播帧内存在违规内容后，直接将待审核直播间的直播信息推送给人工审核平台进行人工审核，避免出现违规误审核的情况，提高直播违规审核的准确性；同时，利用待审核直播间内的直播互动项额外设置直播审核的异常保底方案，保证直播违规审核的全面性。
实施例四
图4为本发明实施例四提供的一种直播审核的装置的结构示意图，具体的，如图4所示，该装置可以包括：
初步审核模块410，用于通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核；
违规得分确定模块420，用于如果所述当前直播帧通过初步违规审核，则将所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到所述当前直播帧的目标违规得分。
本实施例提供的技术方案，首先通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核，能够快速审核出容易区分和违规明显的违规直播帧，而对于通过初步违规审核的不易区分或者违规不明显的当前直播帧，会在该当前直播帧在高精确审核模型下的第一违规得分和在高召回审核模型下的第二违规得分的基础上，结合该当前直播帧在待审核直播间内的多维行为特征，通过行为审核模型再次对当前直播帧进行视觉画面特征和行为特征相结合的统一特征分析，从而得到该当前直播帧的目标违规得分，实现待审核直播间内当前直播帧的全面违规审核，避免直播审核下存在误审核和漏审核的问题，在降低违规审核成本的基础上，提高直播审核的准确率和召回率。
本实施例提供的直播审核的装置可适用于上述任意实施例提供的直播审核的方法，具备相应的功能和有益效果。
实施例五
图5为本发明实施例五提供的一种服务器的结构示意图，如图5所示，该服务器包括处理器50、存储装置51和通信装置52；服务器中处理器50的数量可以是一个或多个，图5中以一个处理器50为例；服务器中的处理器50、存储装置51和通信装置52可以通过总线或其他方式连接，图5中以通过总线连接为例。
本实施例提供的一种服务器可用于执行上述任意实施例提供的直播审核的方法，具备相应的功能和有益效果。
实施例六
本发明实施例六还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时可实现上述任意实施例中的直播审核的方法。该方法具体可以包括：
通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核；
如果所述当前直播帧通过初步违规审核，则将所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到所述当前直播帧的目标违规得分。
当然,本发明实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的方法操作，还可以执行本发明任意实施例所提供的直播审核的方法中的相关操作。
通过以上关于实施方式的描述，所属领域的技术人员可以清楚地了解到，本发明可借助软件及必需的通用硬件来实现，当然也可以通过硬件实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
值得注意的是，上述直播审核的装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。
以上所述仅为本发明的优选实施例，并不用于限制本发明，对于本领域技术人员而言，本发明可以有各种改动和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (12)

1.一种直播审核的方法，其特征在于，包括：
通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核；
如果所述当前直播帧通过初步违规审核，则将所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到所述当前直播帧的目标违规得分。
2.根据权利要求1所述的方法，其特征在于，所述将所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到所述当前直播帧的目标违规得分，包括：
合并所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，得到所述当前直播帧的直播行为特征；
将所述直播行为特征输入到所述行为审核模型中，得到所述当前直播帧的目标违规得分。
3.根据权利要求1所述的方法，其特征在于，所述行为审核模型通过执行如下步骤建模：
从历史直播视频集内的每一历史直播视频中分别提取对应的历史直播帧，并确定每一历史直播帧在所处直播间内的多维历史行为特征以及该历史直播帧的违规标签；
针对每一历史直播帧，将该历史直播帧在所述高精确审核模型下的第一历史违规得分、在所述高召回审核模型下的第二历史违规得分以及在所处直播间内的多维历史行为特征，输入到预先构建的行为审核模型中，得到所述历史直播帧的历史违规得分；
以最小化每一历史直播帧的历史违规得分和违规标签之间的差异为目标，不断优化所述行为审核模型。
4.根据权利要求1所述的方法，其特征在于，在将所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到所述当前直播帧的目标违规得分之后，还包括：
如果所述目标违规得分超出预设行为违规阈值，则将所述待审核直播间的直播信息推送给人工审核平台；
如果所述目标违规得分未超出预设行为违规阈值，则间隔预设直播时长后，从所述待审核直播间内采集新的当前直播帧，继续对所述新的当前直播帧进行违规审核。
5.根据权利要求4所述的方法，其特征在于，还包括：
实时监控所述待审核直播间内的直播互动项，如果所述直播互动项超出预设互动阈值，则将所述待审核直播间的直播信息推送给人工审核平台，并停止对所述待审核直播间内当前直播帧的违规审核。
6.根据权利要求1所述的方法，其特征在于，所述通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核，包括：
将待审核直播间内的当前直播帧输入到预先构建的高精确审核模型中，得到所述当前直播帧的第一违规得分；
如果所述第一违规得分未超出预设精确违规阈值，则将所述当前直播帧继续输入到预先构建的高召回审核模型中，得到所述当前直播帧的第二违规得分。
7.根据权利要求6所述的方法，其特征在于，所述当前直播帧通过初步违规审核为所述当前直播帧的第一违规得分未超出预设精确违规阈值，且所述当前直播帧的第二违规得分未超出预设召回违规阈值。
8.根据权利要求6所述的方法，其特征在于，还包括：
如果所述第一违规得分超出预设精确违规阈值，或者所述第二违规得分超出预设召回违规阈值，则将所述待审核直播间的直播信息推送给人工审核平台。
9.根据权利要求1-8任一项所述的方法，其特征在于，所述高精确审核模型的训练样本由训练样本集中的易正样本和易负样本构成，所述高召回审核模型的训练样本由训练样本集中的难正样本和难负样本构成。
10.一种直播审核的装置，其特征在于，包括：
初步审核模块，用于通过级联的高精确审核模型和高召回审核模型，对待审核直播间内的当前直播帧进行初步违规审核；
违规得分确定模块，用于如果所述当前直播帧通过初步违规审核，则将所述当前直播帧在所述高精确审核模型下的第一违规得分、在所述高召回审核模型下的第二违规得分以及在所述待审核直播间内的多维行为特征，输入到预先构建的行为审核模型中，得到所述当前直播帧的目标违规得分。
11.一种服务器，其特征在于，所述服务器包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-9中任一所述的直播审核的方法。
12.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-9中任一所述的直播审核的方法。
CN202011613190.6A 2020-12-30 2020-12-30 一种直播审核的方法、装置、服务器和存储介质 Active CN112788356B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202011613190.6A CN112788356B (zh) 2020-12-30 2020-12-30 一种直播审核的方法、装置、服务器和存储介质
US18/259,646 US12010358B2 (en) 2020-12-30 2021-12-27 Live streaming moderating method and apparatus, server, and storage medium
EP21914277.5A EP4274236A4 (en) 2020-12-30 2021-12-27 METHOD AND APPARATUS FOR TESTING LIVE STREAMING, SERVER AND STORAGE MEDIUM
JP2023540184A JP2024504576A (ja) 2020-12-30 2021-12-27 ライブ配信審査の方法、ライブ配信審査の装置、サーバーおよび記憶媒体
PCT/CN2021/141704 WO2022143541A1 (zh) 2020-12-30 2021-12-27 直播审核的方法、装置、服务器和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011613190.6A CN112788356B (zh) 2020-12-30 2020-12-30 一种直播审核的方法、装置、服务器和存储介质

Publications (2)

Publication Number Publication Date
CN112788356A true CN112788356A (zh) 2021-05-11
CN112788356B CN112788356B (zh) 2023-04-28

Family

ID=75754059

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011613190.6A Active CN112788356B (zh) 2020-12-30 2020-12-30 一种直播审核的方法、装置、服务器和存储介质

Country Status (5)

Country Link
US (1) US12010358B2 (zh)
EP (1) EP4274236A4 (zh)
JP (1) JP2024504576A (zh)
CN (1) CN112788356B (zh)
WO (1) WO2022143541A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022143541A1 (zh) * 2020-12-30 2022-07-07 百果园技术(新加坡)有限公司 直播审核的方法、装置、服务器和存储介质

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106131595A (zh) * 2016-05-26 2016-11-16 武汉斗鱼网络科技有限公司 一种用于视频直播的标题敏感词控制方法及装置
US20170289624A1 (en) * 2016-04-01 2017-10-05 Samsung Electrônica da Amazônia Ltda. Multimodal and real-time method for filtering sensitive media
CN107959863A (zh) * 2016-10-14 2018-04-24 北京酷我科技有限公司 一种视频审核方法及系统
CN109831698A (zh) * 2018-12-28 2019-05-31 广州华多网络科技有限公司 信息审核方法、装置、电子设备及计算机可读取存储介质
CN109862394A (zh) * 2019-03-27 2019-06-07 北京周同科技有限公司 视频内容的审核方法、装置、设备和存储介质
CN111090776A (zh) * 2019-12-20 2020-05-01 广州市百果园信息技术有限公司 一种视频审核的方法、装置、审核服务器和存储介质
CN111147876A (zh) * 2019-12-26 2020-05-12 山东爱城市网信息技术有限公司 基于区块链的直播内容监测方法、设备、存储介质及平台
CN111225234A (zh) * 2019-12-23 2020-06-02 广州市百果园信息技术有限公司 视频审核方法、视频审核装置、设备和存储介质
CN111385602A (zh) * 2018-12-29 2020-07-07 广州市百果园信息技术有限公司 基于多层级多模型的视频审核方法、介质及计算机设备
CN111382605A (zh) * 2018-12-28 2020-07-07 广州市百果园信息技术有限公司 视频内容审核方法、装置、存储介质和计算机设备
CN111382623A (zh) * 2018-12-28 2020-07-07 广州市百果园信息技术有限公司 一种直播审核的方法、装置、服务器和存储介质
CN112116613A (zh) * 2020-09-25 2020-12-22 贝壳技术有限公司 模型训练方法、图像分割方法、图像矢量化方法及其系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8788442B1 (en) 2010-12-30 2014-07-22 Google Inc. Compliance model training to classify landing page content that violates content item distribution guidelines
US10349126B2 (en) * 2016-12-19 2019-07-09 Samsung Electronics Co., Ltd. Method and apparatus for filtering video
CN107197331B (zh) * 2017-05-03 2020-01-31 北京奇艺世纪科技有限公司 一种实时监测直播内容的方法及装置
US10791353B2 (en) * 2018-02-13 2020-09-29 Ernest Huang Systems and methods for content management of live or streaming broadcasts and video publishing systems
CN109766807A (zh) 2018-12-28 2019-05-17 广州华多网络科技有限公司 机器审核处理方法、装置、电子设备及存储介质
JP7042768B2 (ja) 2019-03-20 2022-03-28 ヤフー株式会社 付与装置、付与方法および付与プログラム
CN111079816A (zh) 2019-12-11 2020-04-28 北京金山云网络技术有限公司 图像的审核方法、装置和服务器
CN111506708A (zh) 2020-04-22 2020-08-07 上海极链网络科技有限公司 一种文本审核方法、装置、设备和介质
CN112788356B (zh) 2020-12-30 2023-04-28 百果园技术(新加坡)有限公司 一种直播审核的方法、装置、服务器和存储介质

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170289624A1 (en) * 2016-04-01 2017-10-05 Samsung Electrônica da Amazônia Ltda. Multimodal and real-time method for filtering sensitive media
CN106131595A (zh) * 2016-05-26 2016-11-16 武汉斗鱼网络科技有限公司 一种用于视频直播的标题敏感词控制方法及装置
CN107959863A (zh) * 2016-10-14 2018-04-24 北京酷我科技有限公司 一种视频审核方法及系统
CN109831698A (zh) * 2018-12-28 2019-05-31 广州华多网络科技有限公司 信息审核方法、装置、电子设备及计算机可读取存储介质
CN111382605A (zh) * 2018-12-28 2020-07-07 广州市百果园信息技术有限公司 视频内容审核方法、装置、存储介质和计算机设备
CN111382623A (zh) * 2018-12-28 2020-07-07 广州市百果园信息技术有限公司 一种直播审核的方法、装置、服务器和存储介质
CN111385602A (zh) * 2018-12-29 2020-07-07 广州市百果园信息技术有限公司 基于多层级多模型的视频审核方法、介质及计算机设备
CN109862394A (zh) * 2019-03-27 2019-06-07 北京周同科技有限公司 视频内容的审核方法、装置、设备和存储介质
CN111090776A (zh) * 2019-12-20 2020-05-01 广州市百果园信息技术有限公司 一种视频审核的方法、装置、审核服务器和存储介质
CN111225234A (zh) * 2019-12-23 2020-06-02 广州市百果园信息技术有限公司 视频审核方法、视频审核装置、设备和存储介质
CN111147876A (zh) * 2019-12-26 2020-05-12 山东爱城市网信息技术有限公司 基于区块链的直播内容监测方法、设备、存储介质及平台
CN112116613A (zh) * 2020-09-25 2020-12-22 贝壳技术有限公司 模型训练方法、图像分割方法、图像矢量化方法及其系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022143541A1 (zh) * 2020-12-30 2022-07-07 百果园技术(新加坡)有限公司 直播审核的方法、装置、服务器和存储介质
US12010358B2 (en) 2020-12-30 2024-06-11 Bigo Technology Pte. Ltd. Live streaming moderating method and apparatus, server, and storage medium

Also Published As

Publication number Publication date
EP4274236A1 (en) 2023-11-08
US12010358B2 (en) 2024-06-11
EP4274236A4 (en) 2024-05-08
JP2024504576A (ja) 2024-02-01
US20230396816A1 (en) 2023-12-07
CN112788356B (zh) 2023-04-28
WO2022143541A1 (zh) 2022-07-07

Similar Documents

Publication Publication Date Title
US11062026B2 (en) Counter-fraud operation management
CN110275958B (zh) 网站信息识别方法、装置和电子设备
CN110909165A (zh) 数据处理方法、装置、介质及电子设备
CN107085549B (zh) 故障信息生成的方法和装置
CN112492343A (zh) 一种视频直播监控方法及相关装置
US20170243234A1 (en) Methods and systems for tag expansion by handling website object variations and automatic tag suggestions in dynamic tag management
CN110347866B (zh) 信息处理方法、装置、存储介质及电子设备
US20110239141A1 (en) Method, apparatus and system for identifying gui element
US20170169062A1 (en) Method and electronic device for recommending video
CN111770353A (zh) 一种直播监控方法、装置、电子设备及存储介质
CN117725161A (zh) 文本中变种词的识别及提取敏感词的方法和系统
CN115098729A (zh) 视频处理方法、样本生成方法、模型训练方法及装置
CN115204889A (zh) 文本处理方法、装置、计算机设备及存储介质
CN112788356A (zh) 一种直播审核的方法、装置、服务器和存储介质
CN110602483B (zh) 视频故障确定方法、装置及计算机可读存储介质
CN112749313B (zh) 标签标注方法、装置、计算机设备和存储介质
CN112116460B (zh) 基于区块链的专利质押业务处理方法、系统及存储介质
CN110163043B (zh) 面部检测方法、装置、存储介质及电子装置
CN113052509A (zh) 模型评估方法、模型评估装置、电子设备和存储介质
CN112800355A (zh) 新闻内容标签自动抽取方法及系统
CN114501163A (zh) 视频处理方法、装置及存储介质
KR20200031020A (ko) 수사지원정보 제공 방법 및 장치
CN107819781B (zh) 一种视听网站库构建方法、视听网站巡检方法和系统
KR102155860B1 (ko) 반려 사유 기반의 검수자 모니터링 방법 및 장치
CN116932790A (zh) 资源分类模型训练方法、资源推荐方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant