CN112217841A - 直播间管理的方法、装置、计算机设备及存储介质 - Google Patents

直播间管理的方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
CN112217841A
CN112217841A CN202011426471.0A CN202011426471A CN112217841A CN 112217841 A CN112217841 A CN 112217841A CN 202011426471 A CN202011426471 A CN 202011426471A CN 112217841 A CN112217841 A CN 112217841A
Authority
CN
China
Prior art keywords
live broadcast
preset
live
rule
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011426471.0A
Other languages
English (en)
Inventor
崔辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An International Smart City Technology Co Ltd
Original Assignee
Ping An International Smart City Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An International Smart City Technology Co Ltd filed Critical Ping An International Smart City Technology Co Ltd
Priority to CN202011426471.0A priority Critical patent/CN112217841A/zh
Publication of CN112217841A publication Critical patent/CN112217841A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/30—Network architectures or network communication protocols for network security for supporting lawful interception, monitoring or retaining of communications or communication related information
    • H04L63/306—Network architectures or network communication protocols for network security for supporting lawful interception, monitoring or retaining of communications or communication related information intercepting packet switched data communications, e.g. Web, Internet or IMS communications
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31—User authentication
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/18—Legal services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/02—Network architectures or network communication protocols for network security for separating internal from external traffic, e.g. firewalls
    • H04L63/0227—Filtering policies
    • H04L63/0245—Filtering by information in the payload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454—Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4545—Input to filtering algorithms, e.g. filtering a region of the image
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/488—Data services, e.g. news ticker
    • H04N21/4884—Data services, e.g. news ticker for displaying subtitles
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2141—Access rights, e.g. capability lists, access control lists, access tables, access matrices

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • Technology Law (AREA)
  • General Physics & Mathematics (AREA)
  • Primary Health Care (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Human Resources & Organizations (AREA)
  • General Health & Medical Sciences (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明公开了一种直播间管理的方法、装置、计算机设备及存储介质，该方法包括获取直播间中观看终端与直播终端进行交互的直播信息；根据预设的监控规则对直播信息进行监控以得到直播信息的监控结果；若监控结果为直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则进行处罚；若监控结果为直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则进行处罚；若监控结果为直播信息中的直播弹幕不符合第二法规，拦截直播弹幕并根据预设的第三处罚规则进行处罚。本发明基于人工智能识别技术，不仅可对直播终端以及观看终端处的用户进行全方位的无人监控管理并落实到真实用户，而且降低了人工处理的成本。

Description

直播间管理的方法、装置、计算机设备及存储介质
技术领域
本发明属于网络监控技术领域，尤其涉及一种直播间管理的方法、装置、计算机设备及存储介质。
背景技术
目前，随着视频直播行业的快速发展，各种各样的直播平台层出不穷，为人们的日常办公以及社交娱乐等方面提供了诸多方便。但是现有的直播平台通常需要大量房管对直播间进行人工巡查，人力成本较大且存在漏洞，特别是同时直播中的数量较多时，根本无法全方位准确的追踪主播与观众在直播间的言行是否合法合规，而且直播间为了用户活跃量一般只会针对主播涉黄涉赌等重大问题处理，未对观众言行进行约束。
发明内容
本发明实施例提供了一种直播间管理的方法、装置、计算机设备及存储介质，旨在解决现有技术中无法全方位准确的追踪主播与观众在直播间的言行是否合法合规的问题。
第一方面，本发明实施例提供了一种直播间管理的方法，其包括：
获取预设直播间中观看终端与直播终端进行交互的直播信息；
根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；
若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；
若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；
若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
第二方面，本发明实施例提供了一种直播间管理的装置，其包括：
第一获取单元，用于获取预设直播间中观看终端与直播终端进行交互的直播信息；
监控单元，用于根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；
第一处罚单元，用于若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；
第二处罚单元，用于若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；
第三处罚单元，用于若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
第三方面，本发明实施例又提供了一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如上述第一方面所述的直播间管理的方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其中所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行上述第一方面所述的直播间管理的方法。
本发明实施例提供了一种直播间管理的方法、装置、计算机设备及存储介质，通过获取预设直播间中观看终端与直播终端进行交互的直播信息；根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。通过上述方法可对直播终端以及观看终端处的用户进行全方位的无人监控管理并落实到真实用户，同时降低了人工处理的成本。
附图说明
为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的直播间管理的方法的流程示意图；
图2为本发明实施例提供的直播间管理的方法的应用场景示意图；
图3为本发明实施例提供的直播间管理的方法的子流程示意图；
图4为本发明实施例提供的直播间管理的方法的另一子流程示意图；
图5为本发明实施例提供的直播间管理的方法的另一子流程示意图；
图6为本发明实施例提供的直播间管理的方法的另一子流程示意图；
图7为本发明实施例提供的直播间管理的装置的示意性框图；
图8为本发明实施例提供的直播间管理的装置的子单元示意性框图；
图9为本发明实施例提供的直播间管理的装置的另一子单元示意性框图；
图10为本发明实施例提供的计算机设备的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和 “包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/ 或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
请参阅图1和图2，图1为本发明实施例提供的直播间管理的方法的流程示意图；图2为本发明实施例提供的直播间管理的方法的应用场景示意图。所述的直播间管理的方法在所述服务器中运行，所述观看终端通过所述服务器与所述直播终端进行语音、视频图像以及弹幕的数据信息的传输和接收，所述观看终端可由多个观看终端组成，所述服务器接收所述观看终端、所述直播终端的数据信息并进行监控以对所述直播终端处的直播进行管理以使得所述直播终端处的直播合法合规，所述直播终端、所述观看终端可为智能手机、平板电脑、笔记本以及台式电脑等终端设备。需要说明的是，图2中仅仅示意出一台观看终端，在实际操作过程中，服务器可以对观看终端发送给直播终端的数据信息进行监控。
如图1所示，该方法包括步骤S110~S150。
S110、获取预设直播间中观看终端与直播终端进行交互的直播信息。
获取预设直播间中观看终端与直播终端进行交互的直播信息。具体的，所述直播信息为观看终端与直播终端之间通过服务器进行互动时的数据信息，所述直播信息包括直播图像、直播语音以及直播弹幕，所述直播图像包括直播终端处的视频图像和观看终端处的视频图像，所述直播语音包括直播终端处的语音信息和观看终端处的语音信息，所述直播弹幕包括直播终端处的文本信息和观看终端处的文本信息。服务器获取所述直播图像、所述直播语音以及所述直播弹幕并进行监控以使得所述直播终端处的直播合法合规。
在另一实施例中，如图3所示，步骤S110之前还包括步骤S1101、S1102和S1103。
S1101、接收所述直播间的直播终端发送的直播请求，其中，所述直播请求包括所述直播终端处用户的身份信息和直播类型。
接收所述直播间的直播终端发送的直播请求，其中，所述直播请求包括所述直播终端处用户的身份信息和直播类型。具体的，所述直播终端为用户进行直播的终端设备，所述直播请求中包括在所述直播终端处登陆的账号信息，通过该账号信息可从服务器中预设的第一数据库中获取与该账号信息相对应的身份信息，即所述直播终端的身份信息，该身份信息不仅包括注册该账号的身份信息，而且还包括注册该账号信息时使用的手机版本、型号、常用所在地的数据信息，其中，注册该账号用户的身份信息既可以为以企业名义注册的身份信息，又可以为以个人名义注册的身份信息。当该注册账号用户的身份信息为以企业名义注册的身份信息时，该身份信息包括企业的营业执照、营业地址、经营范围以及直播类型等信息；当该注册账号用户的身份信息为以个人名义注册的身份信息时，该身份信息包括个人的身份证号码信息、电话号码信息以及直播类型等信息。另外，所述直播终端的身份信息还包括注册该账号后的注册用户最近一次的直播记录，若检测到该注册用户最近一次的直播记录中具有违规记录，则将该违规记录发送至所述直播终端处以提醒用户最近一次的直播出现过违规以及违规的缘由，进而防止该注册用户此次直播过程出现相同的违规以使得直播间出现被强制性关闭进行整改等问题。
S1102、判断所述直播类型是否符合所述直播终端处用户的身份信息。
判断所述直播类型是否符合所述直播终端处用户的身份信息。具体的，所述直播类型为用户在所述直播终端处进行直播的内容的类型，通常所述直播类别包括娱乐类型、游戏类型、购物类型、专业领域类型、体育类型等。由于所述直播终端的身份信息中包含有直播类型的数据信息，因此通过所述直播终端处用户的身份信息便可获得所述直播类型，进而使得所述直播终端处用户具有所述直播类型的权限。在本发明实施例中，若所述直播请求中的直播类型与所述直播终端处用户的身份信息不相匹配，则可判定所述直播终端处用户不具备直播权限；若所述直播请求中的直播类型与所述直播终端处用户的身份信息相匹配，则可判定所述直播终端处用户具备直播权限。
S1103、若所述直播类型符合所述身份信息，发送与直播类型相应的直播规则至所述直播终端以提醒所述直播终端处用户根据所述直播规则进行直播。
若所述直播类型符合所述身份信息，发送与直播类型相应的直播规则至所述直播终端以提醒所述直播终端处用户根据所述直播规则进行直播。具体的，所述直播规则为规范所述直播终端处用户进行直播时所需遵守的规则信息。所述直播规则在国家互联网信息办公室于2016年11月4日发布的《互联网直播服务管理规定》的框架下由直播平台进行制定。其中，当所述直播终端处进行直播的账号信息为企业的身份信息时，可由该企业在国家互联网信息办公室于2016年11月4日发布的《互联网直播服务管理规定》的框架下自行进行制定并将制定的规则信息存储在服务器中以便于下次该企业的用户在请求直播时发送至所述直播终端以提醒所述直播终端处用户需在该直播规则下进行直播。
在另一实施例中，如图4所示，步骤S1103之后还包括步骤S1104和S1105。
S1104、若接收到观看终端发送进入所述直播间的进入请求，根据所述进入请求获取所述观看终端处用户的身份信息。
若接收到观看终端发送进入所述直播间的进入请求，根据所述进入请求获取所述观看终端处用户的身份信息。具体的，所述进入请求为所述观看终端处的用户请求访问所述直播间的请求信息，所述请求信息包括所述观看终端处的用户的账号信息，通过所述请求信息中用户的账号信息从预设的第二数据库中获取与所述观看终端处的用户的账号信息相对应的身份信息，该身份信息即为所述观看终端处用户的身份信息，服务器可从该身份信息中获取该用户的浏览记录、在所述直播间的相应权限以及是否接受过处罚等信息，以便于更好的对所述观看终端处用户进行合法合规的管理。
S1105、根据所述观看终端处用户的身份信息获取所述观看终端处用户在所述直播间的权限。
根据所述观看终端处用户的身份信息获取所述观看终端处用户在所述直播间的权限。具体的，所述权限为所述观看终端处用户在所述直播间享有一些相应的服务权限，所述权限包括进入所述直播间的权限、在所述直播间进行互动的权限。服务器根据所述观看终端处用户的身份信息获取所述观看终端处用户在所述直播间的权限以便于所述观看终端处用户能在所述直播间享受相应的权益。所述观看终端处用户的身份信息包括所述观看终端处用户注册时的身份信息。当所述身份信息为企业信息时，则所述身份信息包括企业的营业执照、营业地址、经营范围、联系电话、企业信誉等信息；当所述身份信息为个人信息时，所述身份信息包括个人的人脸识别信息、身份证号码信息以及电话号码信息。其中，当所述观看终端处用户每次进入不同直播间后，服务器将对所述用户的访问进行记录以获取所述观看终端处用户每次进入直播间的过程中是否出现过违规，并将该记录存储到第二数据库中，同时将其作为所述观看终端处用户的身份信息的一部分。因此，当观看终端处用户发送进入所述直播间的进入请求时，服务器根据所述进入请求获取所述观看终端处用户存储在第二数据库中的身份信息，然后识别所述观看终端处用户在进入所述直播间之前是否有过违规记录。若所述观看终端处用户在进入所述直播间之前有过违规记录，则根据该违规记录对所述观看终端处用户进行提示以防止所述观看终端处用户再次出现违规现象；若所述观看终端处用户在进入所述直播间之前未有过违规记录，则允许所述观看终端处用户进入所述直播间。
S120、根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果。
根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果。具体的，所述监控规则为用于对所述直播间中直播信息的直播图像、直播语音以及直播弹幕进行监控以防止所述直播间出现违规现象的规则信息。服务器在基于预先制定好的规则下对所述直播间中直播信息的直播图像、直播语音以及直播弹幕进行监控以得到所述直播间中直播信息的监控结果，即通过对所述直播间中直播信息的直播图像、直播语音以及直播弹幕的任一信息进行监控而得到监控结果即为所述直播间中直播信息的监控结果。例如，在对所述直播间中直播信息的直播图像进行监控的过程中，通过对所述直播图像进行图像分类识别以得到所述直播图像是否合法合规，进而得出所述直播间中直播信息的监控结果；在对所述直播间中直播信息的直播语音进行监控时，对所述直播语音进行识别以得出所述直播语音中是否存在违规语音的结果，进而得出所述直播间中直播信息的监控结果；同样的，对所述直播间中直播信息的直播弹幕进行监控时，由于所述直播弹幕是以文本形式在所述直播间进行滚动的，故当所述直播弹幕发送到服务器中时，服务器对所述直播弹幕进行自然语言处理以得到所述直播弹幕中是否出现违规，进而得出所述直播间中直播信息的监控结果。
在另一实施例中，如图5所示，步骤S120包括子步骤S121和S122。
S121、根据预置的图像监控模型对所述直播图像进行监控以得到所述直播图像的监控结果。
根据预置的图像监控模型对所述直播图像进行监控以得到所述直播图像的监控结果。其中，所述图像监控模型为对所述直播间中直播信息的直播图像进行分类识别并判断分类识别后的直播图像是否合法合规的模型。具体的，在获取所述直播图像的过程中，服务器获取所述直播图像的图像视频后，所述图像监控模型对该图像视频中每一帧的图像进行分类识别，然后判断识别后的图像是否合法合规，进而得出所述直播图像的监控结果。其中，所述直播图像为该图像视频中的任意的一帧图像，所述图像视频为所述直播间的直播视频。
在另一实施例中，如图6所示，步骤S121包括子步骤S1211和S1212。
S1211、根据预置的目标检测模型从所述直播图像中获取多个检测框。
根据预置的目标检测模型从所述直播图像中获取多个检测框。具体的，所述目标检测模型为用于从所述直播图像中进行特征提取的矩形边界框的模型，该矩形边界框即为所述多个检测框，所述直播图像输入至所述目标检测模型中后，所述目标检测模型将会输出多个包含所述直播图像的特征信息的多个检测框，通过将所述多个检测框中每一个检测框分别与存储在服务器中的样本库中的每一个检测框进行对比以得到所述直播图像中是否合法合规，其中所述样本库中每一个检测框均为不合法、不合规的检测框。在本发明实施例中，所述目标检测模型中包括预先训练好的特征金字塔网络和预先训练好的区域生成网络，所述视频图像先通过所述特征金字塔网络进行特征提取，然后通过所述区域生成网络便可得到多个包含所述直播图像的特征信息的多个检测框。
S1212、计算所述多个检测框中的每一个检测框与预置的样本库中的每一个检测框的相似度并判断所述相似度是否超过预设的阈值以得到所述直播图像的监控结果。
计算所述多个检测框中的每一个检测框与预置的样本库中的每一个检测框的相似度并判断所述相似度是否超过预设的阈值以得到所述直播图像的监控结果。具体的，所述目标检测框从所述直播图像中获取多个检测框后，所述多个检测款中每一个检测框均为一个特征图并由特征向量进行表示，所述样本库中的每一个检测框也均为一个特征图并由特征向量进行表示。在本发明实施例中将所述多个检测框中每一个检测框的特征向量分别与所述样本库中的每一个检测框的特征向量进行相似度计算以得到所述多个检测框中每一个检测框与所述样本库中的每一个检测框的相似度并判断该相似度是否超过预设的阈值，只要有一个相似度超过预设的阈值，则可判定所述直播图像违规。另外，所述预设的阈值还可以设定为多个等级的阈值以判定所述直播图像的违规等级，进而根据违规等级来对所述直播间进行整改。
S122、将所述直播语音转换成文本并根据预置的文本监控模型分别对所述文本、所述直播弹幕进行监控以得到所述直播语音的监控结果、所述直播弹幕的监控结果。
将所述直播语音转换成文本并根据预置的文本监控模型分别对所述文本、所述直播弹幕进行监控以得到所述直播语音的监控结果、所述直播弹幕的监控结果。具体的，所述将所述直播语音转换成文本可通过具备语音采集功能的直播终端或观看终端来进行语音采集并将所述直播语音转换成文本。所述文本监控模型为用于将所述直播语音转换成的文本、所述直播弹幕进行文本分类识别以得到所述直播语音的监控结果以及所述直播弹幕的监控结果的模型。所述文本监控模型在对所述直播语音转换成的文本、所述直播弹幕进行文本分类的过程中采用自然语言处理技术来进行文本分类。在本发明实施例中，所述文本监控模型为预先训练好的BERT模型，通过所述BERT模型可对所述直播语音转换成的文本以及所述直播弹幕进行精准分析以得到所述直播语音、所述直播弹幕中是否含有敏感词语，进而得出所述直播语音、所述直播弹幕是否合法合规的结果。
S130、若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户。
若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户。其中，所述第一法规为通过监控所述直播信息中的直播图像来对所述直播间的视频直播进行约束的规定，所述第一处罚规则为监控到所述直播信息中直播图像的违规等级来对所述直播间相应的用户进行处罚的规则信息。该用户既包括在所述直播间进行直播的主播，也包括在所述直播间观看直播的观众。
其中，所述根据预设的第一处罚规则处罚与所述图像信息相对应的用户过程为：获取所述直播图像的违规等级以及与所述直播图像相对应的用户的身份信息；若所述违规等级为第一违规等级，永久封禁与所述直播图像相对应的用户；若所述违规等级为第二违规等级，判断与所述直播图像相对应的用户是否为首次违规；若与所述直播图像相对应的用户为首次违规，将与所述直播图像相对应的用户请出所述直播间；若与所述直播图像相对应的用户不为首次违规，永久封禁与所述直播图像相对应的用户，其中，所述第一违规等级、所述第二违规等级既可以由所述直播平台制定，也可以由所述直播间的用户进行制定，当由所述直播间的用户制定时，所述用户为企业。
具体的，所述与所述直播图像相对应的用户的身份信息为该用户注册时的信息。通过该用户的身份信息以便于对该用户的账号进行处罚。而通过获取与所述直播图像相对应的用户的身份信息来判断与所述直播图像相对应的用户是否为首次违规，其中该用户即包括在所述直播间进行直播的主播，也包括在所述直播间露面的观众。当该用户为在所述直播间进行直播的主播时，获取该主播每次直播的记录，该记录为该直播间的账号所对应的身份信息的一部分，通过该对应的身份信息便可判断与所述直播图像相对应的用户是否为首次违规。同样，当该用户为在所述直播间露面的观众时，获取该观众每次露面的记录，该记录为该观众的账号所对应的身份信息的一部分，通过该对应的身份信息便可判断与所述直播图像相对应的用户是否为首次违规。
S140、若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户。
若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户。其中，所述第二法规为通过监控所述直播信息中的直播语音来对所述直播间的语音进行约束的规定，所述第二处罚规则为监控到所述直播信息中直播语音出现违规时对所述直播间相应的用户进行处罚的规则信息。该用户既包括在所述直播间进行直播的主播，也包括在所述直播间观看直播的观众。
其中，所述根据预设的第二处罚规则处罚与所述直播语音相对应的用户的过程为：获取与所述直播语音相对应的用户的身份信息；判断与所述直播语音相对应的用户是否为首次违规；若与所述直播语音相对应的用户为首次违规，将与所述直播语音相对应的用户在预设时间内进行闭麦；若与所述直播语音相对应的用户不为首次违规，永久对所述直播语音相对应的用户进行闭麦处理，其中，预设时间可由直播平台自行进行制定，在此不做限制。
具体的，所述与所述直播语音相对应的用户的身份信息为该用户注册时的数据信息，通过该用户的身份信息以便于对该用户的账号进行处罚。而通过获取与所述直播语音相对应的用户的身份信息来判断与所述直播语音相对应的用户是否为首次违规，其中该用户即包括在所述直播间进行直播的主播，也包括在所述直播间进行语音的观众。当该用户为在所述直播间进行直播的主播时，获取该主播每次直播的记录，该记录为该直播间的账号所对应的身份信息的一部分，通过该对应的身份信息便可判断与所述直播语音相对应的用户是否为首次违规。同样，当该用户为在所述直播间进行语音的观众时，获取该观众每次进行语音的记录，该记录为该观众的账号所对应的身份信息的一部分，通过该对应的身份信息便可判断与所述直播语音相对应的用户是否为首次违规。
S150、若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。其中，所述第三处罚规则为监控到所述直播信息中直播弹幕出现违规时对所述直播间相应的用户进行处罚的规则信息。该用户既包括在所述直播间进行直播的主播，也包括在所述直播间观看直播的观众。所述拦截所述直播弹幕的具体过程为：所述直播终端或所述观看终端在相应的终端处发送所述直播弹幕时，需先发送至服务器中并经过服务器进行分类识别以得到所述直播弹幕是否违规，若所述直播弹幕违规，则直接拦截所述直播弹幕，从而更好的净化直播间的直播环境。
所述根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户的过程为：获取与所述直播弹幕相对应的用户的身份信息；判断与所述直播弹幕相对应的用户是否为首次违规；若与所述直播弹幕相对应的用户为首次违规，在预设禁言时间内对与所述直播弹幕相对应的用户进行禁言处理；若与所述直播弹幕相对应的用户不为首次违规，对与所述直播弹幕相对应的用户进行永久禁言处理，其中预设禁言时间可由直播平台自行制定禁言时间，在此不做限制。
具体的，所述与所述直播弹幕相对应的用户的身份信息为该用户注册时的身份信息，通过该用户的身份信息以便于对该用户的账号进行处罚。而通过获取与所述直播弹幕相对应的用户的身份信息来判断与所述直播弹幕相对应的用户是否为首次违规，其中该用户即包括在所述直播间进行直播的主播，也包括在所述直播间进行弹幕输出的观众。当该用户为在所述直播间进行直播的主播时，获取该主播每次直播时输出弹幕是否出现过违规的记录，该记录为该直播间的账号所对应的身份信息的一部分，通过该对应的身份信息便可判断与所述直播弹幕相对应的用户是否为首次违规。同样，当该用户为在所述直播间进行弹幕输出的观众时，获取该观众每次发送弹幕是否出现过违规的记录，该记录为该观众的账号所对应的身份信息的一部分，通过该对应的身份信息便可判断与所述直播弹幕相对应的用户是否为首次违规。所述预设禁言时间为直播平台禁止与所述直播弹幕相对应的用户在规定时间内发送弹幕的时间，即禁言处理。所述预设禁言时间可以为5分钟，10分钟、15分钟、半小时或者永久禁言。
本申请中的技术方法可应用于智慧政务/智慧城管/智慧社区/智慧安防/智慧物流/智慧医疗/智慧教育/智慧环保/智慧交通等包含数据采集的应用场景中，从而推动智慧城市的建设。
在本发明实施例所提供的直播间管理的方法中，通过获取预设直播间中观看终端与直播终端进行交互的直播信息；根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。通过上述方法可对直播终端以及观看终端处的用户进行全方位的无人监控管理并落实到真实用户，同时降低了人工处理的成本。
本发明实施例还提供了一种直播间管理的装置100，该装置用于执行前述直播间管理的方法的任一实施例。具体地，请参阅图7，图7是本发明实施例提供的直播间管理的装置100的示意性框图。
如图7所示，所述的直播间管理的装置100，该装置包括第一获取单元110、监控单元120、第一处罚单元130、第二处罚单元140和第三处罚单元150。
第一获取单元110，用于获取预设直播间中观看终端与直播终端进行交互的直播信息。
在其他发明实施例中，所述的直播间管理的装置100还包括：第一接收单元1101、第一判断单元1102和发送单元1103。
第一接收单元1101，用于接收所述直播间的直播终端发送的直播请求，其中，所述直播请求包括所述直播终端处用户的身份信息和直播类型。
第一判断单元1102，用于判断所述直播类型是否符合所述直播终端处用户的身份信息。
发送单元1103，用于若所述直播类型符合所述身份信息，发送与直播类型相应的直播规则至所述直播终端以提醒所述直播终端处用户根据所述直播规则进行直播。
在其他发明实施例中，所述的直播间管理的装置100还包括：第二接收单元1104、第二获取单元1105。
第二接收单元1104，用于若接收到观看终端发送进入所述直播间的进入请求，根据所述进入请求获取所述观看终端处用户的身份信息。
第二获取单元1105，用于根据所述观看终端处用户的身份信息获取所述观看终端处用户在所述直播间的权限。
监控单元120，用于根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果。
在其他发明实施例中，如图8所示，所述监控单元120包括图像监控单元121和文本监控单元122。
图像监控单元121，用于根据预置的图像监控模型对所述直播图像进行监控以得到所述直播图像的监控结果。
文本监控单元122，用于将所述直播语音转换成文本并根据预置的文本监控模型分别对所述文本、所述直播弹幕进行监控以得到所述直播语音的监控结果、所述直播弹幕的监控结果。
在其他发明实施例中，如图9所示，所述图像监控单元121包括第三获取单元1211和第二判断单元1212。
第三获取单元1211，用于根据预置的目标检测模型从所述直播图像中获取多个检测框。
第二判断单元1212，用于计算所述多个检测框中的每一个检测框与预置的样本库中的每一个检测框的相似度并判断所述相似度是否超过预设的阈值以得到所述直播图像的监控结果。
第一处罚单元130，用于若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户。
第二处罚单元140，用于若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户。
第三处罚单元150，用于若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
本发明实施例所提供的直播间管理的装置100用于执行上述用于获取预设直播间中观看终端与直播终端进行交互的直播信息；根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
请参阅图10，图10是本发明实施例提供的计算机设备的示意性框图。
参阅图10，该设备500包括通过系统总线501连接的处理器502、存储器和网络接口505，其中，存储器可以包括非易失性存储介质503和内存储器504。
该非易失性存储介质503可存储操作系统5031和计算机程序5032。该计算机程序5032被执行时，可使得处理器502执行直播间管理的方法。
该处理器502用于提供计算和控制能力，支撑整个设备500的运行。
该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境，该计算机程序5032被处理器502执行时，可使得处理器502执行直播间管理的方法。
该网络接口505用于进行网络通信，如提供数据信息的传输等。本领域技术人员可以理解，图10中示出的结构，仅仅是与本发明方案相关的部分结构的框图，并不构成对本发明方案所应用于其上的设备500的限定，具体的设备500可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
其中，所述处理器502用于运行存储在存储器中的计算机程序5032，以实现如下功能：获取预设直播间中观看终端与直播终端进行交互的直播信息；根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
本领域技术人员可以理解，图10中示出的设备500的实施例并不构成对设备500具体构成的限定，在其他实施例中，设备500可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。例如，在一些实施例中，设备500可以仅包括存储器及处理器502，在这样的实施例中，存储器及处理器502的结构及功能与图10所示实施例一致，在此不再赘述。
应当理解，在本发明实施例中，处理器502可以是中央处理单元 (CentralProcessing Unit，CPU)，该处理器502还可以是其他通用处理器502、数字信号处理器502(Digital Signal Processor，DSP)、专用集成电路 (Application Specific IntegratedCircuit，ASIC)、现成可编程门阵列 (Field-Programmable Gate Array，FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器502可以是微处理器502或者该处理器502也可以是任何常规的处理器502等。
在本发明的另一实施例中提供计算机存储介质。该存储介质可以为非易失性的计算机可读存储介质。该存储介质存储有计算机程序5032，其中计算机程序5032被处理器502执行时实现以下步骤：获取预设直播间中观看终端与直播终端进行交互的直播信息；根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的设备、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为逻辑功能划分，实际实现时可以有另外的划分方式，也可以将具有相同功能的单元集合成一个单元，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台设备500 ( 可以是个人计算机，服务器，或者网络设备等 ) 执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U 盘、移动硬盘、只读存储器 (ROM，Read-Only Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种直播间管理的方法，其特征在于，包括以下步骤：
获取预设直播间中观看终端与直播终端进行交互的直播信息；
根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；
若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；
若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；
若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
2.根据权利要求1所述的直播间管理的方法，其特征在于，所述获取预设直播间正在直播的直播信息之前，还包括：
接收所述直播间的直播终端发送的直播请求，其中，所述直播请求包括所述直播终端处用户的身份信息和直播类型；
判断所述直播类型是否符合所述直播终端处用户的身份信息；
若所述直播类型符合所述身份信息，发送与直播类型相应的直播规则至所述直播终端以提醒所述直播终端处用户根据所述直播规则进行直播。
3.根据权利要求2所述的直播间管理的方法，其特征在于，所述发送与直播类型相应的直播规则至所述直播终端以提醒所述直播终端处用户根据所述直播规则进行直播之后，还包括：
若接收到观看终端发送进入所述直播间的进入请求，根据所述进入请求获取所述观看终端处用户的身份信息；
根据所述观看终端处用户的身份信息获取所述观看终端处用户在所述直播间的权限。
4.根据权利要求1所述的直播间管理的方法，其特征在于，所述根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果，包括：
根据预置的图像监控模型对所述直播图像进行监控以得到所述直播图像的监控结果；
将所述直播语音转换成文本并根据预置的文本监控模型分别对所述文本、所述直播弹幕进行监控以得到所述直播语音的监控结果、所述直播弹幕的监控结果。
5.根据权利要求4所述的直播间管理的方法，其特征在于，所述根据预置的图像监控模型对所述直播图像进行监控以得到所述直播图像的监控结果，包括：
根据预置的目标检测模型从所述直播图像中获取多个检测框；
计算所述多个检测框中的每一个检测框与预置的样本库中的每一个检测框的相似度并判断所述相似度是否超过预设的阈值以得到所述直播图像的监控结果。
6.一种直播间管理的装置，其特征在于，包括：
第一获取单元，用于获取预设直播间中观看终端与直播终端进行交互的直播信息；
监控单元，用于根据预设的监控规则对所述直播信息进行监控以得到所述直播信息的监控结果；
第一处罚单元，用于若所述监控结果为所述直播信息中的直播图像不符合预设的第一法规，根据预设的第一处罚规则处罚与所述直播图像相对应的用户；
第二处罚单元，用于若所述监控结果为所述直播信息中的直播语音不符合预设的第二法规，根据预设的第二处罚规则处罚与所述直播语音相对应的用户；
第三处罚单元，用于若所述监控结果为所述直播信息中的直播弹幕不符合所述第二法规，拦截所述直播弹幕并根据预设的第三处罚规则处罚与所述直播弹幕相对应的用户。
7.根据权利要求6所述的直播间管理的装置，其特征在于，还包括：
第一接收单元，用于接收所述直播间的直播终端发送的直播请求，其中，所述直播请求包括所述直播终端处用户的身份信息和直播类型；
第一判断单元，用于判断所述直播类型是否符合所述直播终端处用户的身份信息；
发送单元，用于若所述直播类型符合所述身份信息，发送与直播类型相应的直播规则至所述直播终端以提醒所述直播终端处用户根据所述直播规则进行直播。
8.根据权利要求6所述的直播间管理的装置，其特征在于，还包括：
第二接收单元，用于若接收到观看终端发送进入所述直播间的进入请求，根据所述进入请求获取所述观看终端处用户的身份信息；
第二获取单元，用于根据所述观看终端处用户的身份信息获取所述观看终端处用户在所述直播间的权限。
9.一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至5中任一项所述的直播间管理的方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行如权利要求1至5任一项所述的直播间管理的方法。
CN202011426471.0A 2020-12-09 2020-12-09 直播间管理的方法、装置、计算机设备及存储介质 Pending CN112217841A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011426471.0A CN112217841A (zh) 2020-12-09 2020-12-09 直播间管理的方法、装置、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011426471.0A CN112217841A (zh) 2020-12-09 2020-12-09 直播间管理的方法、装置、计算机设备及存储介质

Publications (1)

Publication Number Publication Date
CN112217841A true CN112217841A (zh) 2021-01-12

Family

ID=74068122

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011426471.0A Pending CN112217841A (zh) 2020-12-09 2020-12-09 直播间管理的方法、装置、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN112217841A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113115059A (zh) * 2021-03-29 2021-07-13 武汉斗鱼鱼乐网络科技有限公司 弹幕连接监控方法、装置、设备及存储介质
CN113329260A (zh) * 2021-06-15 2021-08-31 北京沃东天骏信息技术有限公司 一种直播处理方法、装置、存储介质及电子设备
CN113965774A (zh) * 2021-11-26 2022-01-21 小象(广州)商务有限公司 一种视频的直播方法和直播系统

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105847717A (zh) * 2016-05-30 2016-08-10 武汉斗鱼网络科技有限公司 一种弹幕举报的方法、客户端及服务器
CN106686395A (zh) * 2016-12-29 2017-05-17 北京奇艺世纪科技有限公司 一种直播非法视频的检测方法及系统
CN107682719A (zh) * 2017-09-05 2018-02-09 广州数沃信息科技有限公司 一种直播内容健康度的监测评估方法及装置
CN109104615A (zh) * 2018-07-10 2018-12-28 神盾网络安全信息化中心股份有限公司 一种基于网络信息安全的直播方法
CN110365996A (zh) * 2019-07-25 2019-10-22 深圳市元征科技股份有限公司 直播管理方法、直播管理平台、电子设备及存储介质
CN110493615A (zh) * 2018-05-15 2019-11-22 武汉斗鱼网络科技有限公司 一种直播视频监控方法及电子设备
CN110784727A (zh) * 2019-08-23 2020-02-11 腾讯科技（深圳）有限公司 一种用于直播的举报方法及装置
CN111191275A (zh) * 2019-11-28 2020-05-22 深圳云安宝科技有限公司 敏感数据识别方法、系统及其装置
CN111581956A (zh) * 2020-04-08 2020-08-25 国家计算机网络与信息安全管理中心 基于bert模型和k近邻的敏感信息识别方法及系统
CN111968625A (zh) * 2020-08-26 2020-11-20 上海依图网络科技有限公司 融合文本信息的敏感音频识别模型训练方法及识别方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105847717A (zh) * 2016-05-30 2016-08-10 武汉斗鱼网络科技有限公司 一种弹幕举报的方法、客户端及服务器
CN106686395A (zh) * 2016-12-29 2017-05-17 北京奇艺世纪科技有限公司 一种直播非法视频的检测方法及系统
CN107682719A (zh) * 2017-09-05 2018-02-09 广州数沃信息科技有限公司 一种直播内容健康度的监测评估方法及装置
CN110493615A (zh) * 2018-05-15 2019-11-22 武汉斗鱼网络科技有限公司 一种直播视频监控方法及电子设备
CN109104615A (zh) * 2018-07-10 2018-12-28 神盾网络安全信息化中心股份有限公司 一种基于网络信息安全的直播方法
CN110365996A (zh) * 2019-07-25 2019-10-22 深圳市元征科技股份有限公司 直播管理方法、直播管理平台、电子设备及存储介质
CN110784727A (zh) * 2019-08-23 2020-02-11 腾讯科技（深圳）有限公司 一种用于直播的举报方法及装置
CN111191275A (zh) * 2019-11-28 2020-05-22 深圳云安宝科技有限公司 敏感数据识别方法、系统及其装置
CN111581956A (zh) * 2020-04-08 2020-08-25 国家计算机网络与信息安全管理中心 基于bert模型和k近邻的敏感信息识别方法及系统
CN111968625A (zh) * 2020-08-26 2020-11-20 上海依图网络科技有限公司 融合文本信息的敏感音频识别模型训练方法及识别方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
徐代等: "基于改进的三向流Faster_R_CNN的篡改图像识别", 《计算机应用》 *
董镭刚: "特征金字塔网络在图像检测中的应用", 《科学技术创新》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113115059A (zh) * 2021-03-29 2021-07-13 武汉斗鱼鱼乐网络科技有限公司 弹幕连接监控方法、装置、设备及存储介质
CN113115059B (zh) * 2021-03-29 2022-07-05 武汉斗鱼鱼乐网络科技有限公司 弹幕连接监控方法、装置、设备及存储介质
CN113329260A (zh) * 2021-06-15 2021-08-31 北京沃东天骏信息技术有限公司 一种直播处理方法、装置、存储介质及电子设备
CN113329260B (zh) * 2021-06-15 2024-04-09 北京沃东天骏信息技术有限公司 一种直播处理方法、装置、存储介质及电子设备
CN113965774A (zh) * 2021-11-26 2022-01-21 小象(广州)商务有限公司 一种视频的直播方法和直播系统

Similar Documents

Publication Publication Date Title
CN110365996B (zh) 直播管理方法、直播管理平台、电子设备及存储介质
CN112217841A (zh) 直播间管理的方法、装置、计算机设备及存储介质
CN111754267B (zh) 基于区块链的数据处理方法及系统
KR101522311B1 (ko) 미리보기 기능을 갖춘 감시카메라 영상 반출 시스템
CN110109888B (zh) 一种文件处理方法及装置
US20210233371A1 (en) Automatic video privacy
Lago et al. Visual and textual analysis for image trustworthiness assessment within online news
CN110659604A (zh) 视频检测方法、装置、服务器及存储介质
Parsons Beyond privacy: Articulating the broader harms of pervasive mass surveillance
KR102099019B1 (ko) 생성모델 기반 워터마킹을 이용한 식별자 확인 방법 및 생성모델에 기반한 워터마킹 방법
CN116305033A (zh) 一种异常账户识别方法、装置及电子设备
CN115966061A (zh) 基于5g消息的灾情预警处理方法、系统和装置
Brantingham et al. Crowded: a crowd-sourced perspective of events as they happen
Van Daalen et al. Export control of cybersurveillance items in the new dual-use regulation: The challenges of applying human rights logic to export control
CN110866292A (zh) 界面显示方法、装置、终端设备及服务器
CN114663705A (zh) 视频审核模型训练方法、视频审核方法及相关装置
CN114513703A (zh) 一种基于区块链的可信打赏业务处理方法、装置及设备
Awajan et al. Machine learning techniques for automated policy violation reporting
CN111382626B (zh) 视频中违规图像的检测方法、装置、设备及存储介质
Kavoliūnaitė-Ragauskienė Right to Privacy and Data Protection Concerns Raised by the Development and Usage of Face Recognition Technologies in the European Union
Birnstill et al. Privacy-preserving surveillance: an interdisciplinary approach
CN112950438A (zh) 数据处理方法、装置、计算机设备及存储介质
Hickok et al. Facial Recognition Technology in India
Krivokapić et al. Comparative analysis of video surveillance regulation in data protection laws in the former Yugoslav states
EP4336390A1 (en) Method for tracking content in a user data signal

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20210112

RJ01 Rejection of invention patent application after publication