CN117763010A - 基于实时数据的直播内容风控处理系统及监管方法 - Google Patents
基于实时数据的直播内容风控处理系统及监管方法 Download PDFInfo
- Publication number
- CN117763010A CN117763010A CN202311780554.3A CN202311780554A CN117763010A CN 117763010 A CN117763010 A CN 117763010A CN 202311780554 A CN202311780554 A CN 202311780554A CN 117763010 A CN117763010 A CN 117763010A
- Authority
- CN
- China
- Prior art keywords
- data
- risk
- live broadcast
- live
- wind control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 238000012545 processing Methods 0.000 title claims abstract description 34
- 238000007405 data analysis Methods 0.000 claims abstract description 16
- 238000004458 analytical method Methods 0.000 claims abstract description 7
- 230000000903 blocking effect Effects 0.000 claims abstract description 5
- 238000009825 accumulation Methods 0.000 claims description 35
- 238000013500 data storage Methods 0.000 claims description 20
- 230000006870 function Effects 0.000 claims description 13
- 238000006243 chemical reaction Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 4
- 238000001514 detection method Methods 0.000 claims description 3
- 230000001960 triggered effect Effects 0.000 claims description 3
- 238000011161 development Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000012954 risk control Methods 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012502 risk assessment Methods 0.000 description 1
- 238000004148 unit process Methods 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了基于实时数据的直播内容风控处理系统及监管方法，所述直播软件内设置有直播内容风控处理系统，所述直播内容风控处理系统包括直播数据采集模块、直播数据分析模块、风控模块、学习模块和数据存储模块。本发明通过设置有直播数据采集模块、直播数据分析模块和风控模块，可以实现对直播过程中观众和主播产生的实时数据内容进行分析操作，利用风控模块完成对风险数据的阻拦和风险性的统计操作，有效的减少或避免风险数据在直播过程中的出现，实现绿色直播和安全直播。本发明能够实现对直播过程中产生的实时数据进行快速且有效的识别，实现对直播内容的风控处理。
Description
技术领域
本发明涉及电子信息领域，具体为基于实时数据的直播内容风控处理系统及监管方法。
背景技术
直播能够更全面地传递商品信息，商家也可以通过直播不断去提高商品信息的展现能力，得以去帮助用户做决策，从而达到提高商品销售转化率的作用；除此之外，直播还可以更好的实现信息的交流和互动，使得人们的体验更佳。因此，在目前社会直播行业得到了极大的发展。
但是，随着直播行业的发展和直播从而人数的增多，因为直播质量的良莠不齐和直播观看人员素质等原因，导致了在直播的过程中易出现一些低俗、违规，甚至于是违法的内容，极大的影响到直播行业的健康发展且不利于良好网络环境的建设。而传统的对于直播的风险控制大多采用的是人工审核以及观众举报的形式进行的。但随着直播行业的发展，人工审核难以匹配直播数据增加的速度，从而导致审核不到位的情况出现；且观众举报则带有一定的主观性和不确定性，难以实现对直播的及时且准确的风险控制。
本发明基于以上的原因，提出基于实时数据的直播内容风控处理系统及监管方法，通过设置有直播数据采集模块、直播数据分析模块、风控模块、学习模块和数据存储模块，能够实现对直播过程中产生的实时数据进行快速且有效的识别，实现对直播内容的风控处理。
发明内容
(一)解决的技术问题
针对现有技术的不足，本发明提供了基于实时数据的直播内容风控处理系统及监管方法，通过设置有直播数据采集模块、直播数据分析模块、风控模块、学习模块和数据存储模块，能够实现对直播过程中产生的实时数据进行快速且有效的识别，实现对直播内容的风控处理。
(二)技术方案
为实现上述目的，本发明提供如下技术方案：基于实时数据的直播内容风控处理系统，包括直播软件，所述直播软件内设置有直播内容风控处理系统，所述直播内容风控处理系统包括直播数据采集模块、直播数据分析模块、风控模块、学习模块和数据存储模块；
所述直播数据采集模块包括主播数据采集单元、观众数据采集单元、数据信息转换单元和提取单元组成；
所述直播数据分析模块包括数据对比单元和决策单元组成；
所述风控模块包括风险累计单元、风险提醒单元、实施单元和举报单元组成；
所述学习模块包括风险数据输入单元和分类单元组成；
所述数据存储模块包括硬盘设备和缓存设备组成。
优选的，所述直播数据采集模块实现对直播中产生的数据进行实时的采集操作，包括对主播的语音数据进行采集和转换、对观众发出的数据进行收集。
优选的，所述直播数据分析模块实现对实时采集到的直播数据进行合法性的分析操作，从而实现对直播内容的风控分析处理。
优选的，所述风控模块实现对直播中风险强度的累计功能、实现对直播过程中风险数据的提醒功能、实现对直播过程中产生的风险数据的阻断功能和实现主动的对风险数据来源账户的举报功能。
优选的，所述学习模块可以实现对指定风险数据内容的提前预设，避免相关风险数据在直播中的出现；可以实现对直播过程中出现的大量重复数据的自动屏蔽；可以实现对漏检风险数据的分类和学习操作。
优选的，所述数据存储模块可以实现对现有直播风险数据的存储、实现对直播过程中学习到的风险数据进行存储和直播实时数据的缓存。
基于实时数据的直播内容风控监管方法，包括以下步骤：
S1：在直播进行的过程中，通过直播数据采集模块对观众所发出的文字内容进行采集、对主播所说的话进行语音采集和对主播所发出的文字进行采集，并将采集到的直播实时数据缓存到数据存储模块内；
S2：通过直播数据分析模块内的数据对比单元将采集到的直播实时数据与数据存储模块内部存储的风险数据内容进行对比，并通过决策单元进行风险数据的判定；
S3：若决策单元判定的直播实时数据不存在风险性，则将该数据内容在直播过程中显示，且该数据内容不触发风控模块；
S4：若决策单元判定的直播实时数据存在风险性，则该数据被阻断显示，并触发风控模块，并且风控模块做出反应；
S5：在风控模块反应后，学习模块基于风控模块中采集到的内容进行风险数据的完善和优化，并将优化后的风险数据形式加存到数据存储模块内，实现对直播风险数据的不断学习。
优选的，所述步骤4中风控模块的反应，包括以下步骤：
S11：当决策单元判定为观众的风险数据，风控模块中的风险累计单元首先对发出该风险数据的来源账户进行风险累计操作，并对该账户进行风险提醒；
S12：若该账户继续进行风险数据的发送，并且风险累计单元对该账户的风险累计达到指定量，此时系统判定该账户为恶意账户，实施单元启动，对该账户做出相关处理操作，并风险提醒单元提醒到主播，主播可以通过举报单元对该账户进行举报操作；
S13：当决策单元判定为主播的风险数据，风控模块中的风险累计单元进行直播间的风险累计操作，并将记录的风险信息通过风险提醒单元对主播进行提醒；
S14：若主播不再被判定有风险数据，则随着直播时间的增长不断的降低直播间的风险累计量，若主播继续出现风险数据，并且风险累计单元对风险数据的累计达到指定量，此时风险提醒单元和实施单元均启动，实施单元将该直播间关闭和进行相应处罚，同时风险提醒单元将直播间风险性对主播展示。
优选的，所述观众的风险性数据包括违规内容、违法内容、低俗内容和大量重复内容的一种或多种。
(三)有益效果
与现有技术相比，本发明提供了基于实时数据的直播内容风控处理系统及监管方法，具备以下有益效果：本发明通过设置有直播数据采集模块、直播数据分析模块和风控模块，可以实现对直播过程中观众和主播产生的实时数据内容进行分析操作，利用风控模块完成对风险数据的阻拦和风险性的统计操作，有效的减少或避免风险数据在直播过程中的出现，实现绿色直播和安全直播；本发明通过设置有风控模块和学习模块，利用风控模块实现对风险数据的判断和决策，再将决策后的风险数据通过学习模块进行学习，可以在直播的过程中不断的对风险数据内容进行完善和增加，从而实现对直播过程中产生的风险数据进行精准且及时的阻拦，降低直播的风险性。
附图说明
图1为本发明处理系统结构示意图；
图2为本发明监测方法流程图；
图3为本发明监测方法中风控模块流程图。
具体实施方式
为了更好地了解本发明的目的、结构及功能，下面结合附图，对本发明基于实时数据的直播内容风控处理系统及监管方法做进一步详细的描述。
请参阅图1，发明：基于实时数据的直播内容风控处理系统，包括直播软件，所述直播软件内设置有直播内容风控处理系统，所述直播内容风控处理系统包括直播数据采集模块、直播数据分析模块、风控模块、学习模块和数据存储模块；
所述直播数据采集模块包括主播数据采集单元、观众数据采集单元、数据信息转换单元和提取单元组成；
所述直播数据分析模块包括数据对比单元和决策单元组成；
所述风控模块包括风险累计单元、风险提醒单元、实施单元和举报单元组成；
所述学习模块包括风险数据输入单元和分类单元组成；
所述数据存储模块包括硬盘设备和缓存设备组成。
具体的来说，所述直播数据采集模块实现对直播中产生的数据进行实时的采集操作，包括对主播的语音数据进行采集和转换、对观众发出的数据进行收集；
对于观众和主播在直播间发出的文字信息进行采集，并对主播所说的语音进行文字的转换，实现对主播语音的提取操作；
所述直播数据分析模块实现对实时采集到的直播数据进行合法性的分析操作，从而实现对直播内容的风控分析处理；
将采集到的实时数据信息与系统之中存储的风险数据进行对比操作，当对比后的相似度超过80％或者带有指定词语时，此时决策单元则判定该数据为风险数据。
所述风控模块实现对直播中风险强度的累计功能、实现对直播过程中风险数据的提醒功能、实现对直播过程中产生的风险数据的阻断功能和实现主动的对风险数据来源账户的举报功能；
一方面实现对观众的数据风险性强度进行不断的累计，当累计到一定程度后，此时实施单元对该风险数据来源账户进行处理操作；另一方面实现对主播直播过程中产生的实时风险数据进行不断的累计，当风险数据出现频率降低，则代表主播接受风险管控，会对直播间进行风险降级，若主播还是不断的产生风险数据，此时代表主播无视风险管控，当风险累计单元累计到一定程度后，实施单元会对直播间进行关闭；
进一步的，在上述的过程中，风险提醒模块会不断的对观众和主播进行风险提醒，还可以通过举报单元进行主动的风险评估和举报。
所述学习模块可以实现对指定风险数据内容的提前预设，避免相关风险数据在直播中的出现；可以实现对直播过程中出现的大量重复数据的自动屏蔽；可以实现对漏检风险数据的分类和学习操作；
通过不断的进行学习，不断的完善直播风险数据内容，从而提高对直播风险处理的精度和及时性。
所述数据存储模块可以实现对现有直播风险数据的存储、实现对直播过程中学习到的风险数据进行存储和直播实时数据的缓存。
请参阅图2和3，基于实时数据的直播内容风控监管方法，包括以下步骤：
S1：在直播进行的过程中，通过直播数据采集模块对观众所发出的文字内容进行采集、对主播所说的话进行语音采集和对主播所发出的文字进行采集，并将采集到的直播实时数据缓存到数据存储模块内；
S2：通过直播数据分析模块内的数据对比单元将采集到的直播实时数据与数据存储模块内部存储的风险数据内容进行对比，并通过决策单元进行风险数据的判定；
S3：若决策单元判定的直播实时数据不存在风险性，则将该数据内容在直播过程中显示，且该数据内容不触发风控模块；
S4：若决策单元判定的直播实时数据存在风险性，则该数据被阻断显示，并触发风控模块，并且风控模块做出反应；
S5：在风控模块反应后，学习模块基于风控模块中采集到的内容进行风险数据的完善和优化，并将优化后的风险数据形式加存到数据存储模块内，实现对直播风险数据的不断学习。
具体的来说，所述步骤4中风控模块的反应，包括以下步骤：
S11：当决策单元判定为观众的风险数据，风控模块中的风险累计单元首先对发出该风险数据的来源账户进行风险累计操作，并对该账户进行风险提醒；
S12：若该账户继续进行风险数据的发送，并且风险累计单元对该账户的风险累计达到指定量，此时系统判定该账户为恶意账户，实施单元启动，对该账户做出相关处理操作，并风险提醒单元提醒到主播，主播可以通过举报单元对该账户进行举报操作；
S13：当决策单元判定为主播的风险数据，风控模块中的风险累计单元进行直播间的风险累计操作，并将记录的风险信息通过风险提醒单元对主播进行提醒；
S14：若主播不再被判定有风险数据，则随着直播时间的增长不断的降低直播间的风险累计量，若主播继续出现风险数据，并且风险累计单元对风险数据的累计达到指定量，此时风险提醒单元和实施单元均启动，实施单元将该直播间关闭和进行相应处罚，同时风险提醒单元将直播间风险性对主播展示。
通过上述的步骤，可以实现对直播过程中基于实时数据完成对主播和观众的风险管控，降低直播间运行的风险性和优化直播网络环境。
进一步的，所述观众的风险性数据包括违规内容、违法内容、低俗内容和大量重复内容的一种或多种；
不仅可以实现对现有已存的风险数据的及时处理，还可以实现对恶意刷屏数据的处理，从而进一步的提高直播间的运行环境，实现对直播内容的风控操作。
可以理解，本发明是通过一些实施例进行描述的，本领域技术人员知悉的，在不脱离本发明的精神和范围的情况下，可以对这些特征和实施例进行各种改变或等效替换。另外，在发明的教导下，可以对这些特征和实施例进行修改以适应具体的情况及材料而不会脱离本发明的精神和范围。因此，本发明不受此处所公开的具体实施例的限制，所有落入本申请的权利要求范围内的实施例都属于本发明所保护的范围内。
Claims (9)
1.基于实时数据的直播内容风控处理系统，包括直播软件，所述直播软件内设置有直播内容风控处理系统，其特征在于，所述直播内容风控处理系统包括直播数据采集模块、直播数据分析模块、风控模块、学习模块和数据存储模块；
所述直播数据采集模块包括主播数据采集单元、观众数据采集单元、数据信息转换单元和提取单元组成；
所述直播数据分析模块包括数据对比单元和决策单元组成；
所述风控模块包括风险累计单元、风险提醒单元、实施单元和举报单元组成；
所述学习模块包括风险数据输入单元和分类单元组成；
所述数据存储模块包括硬盘设备和缓存设备组成。
2.根据权利要求1所述的基于实时数据的直播内容风控处理系统，其特征在于：所述直播数据采集模块实现对直播中产生的数据进行实时的采集操作，包括对主播的语音数据进行采集和转换、对观众发出的数据进行收集。
3.根据权利要求1所述的基于实时数据的直播内容风控处理系统，其特征在于：所述直播数据分析模块实现对实时采集到的直播数据进行合法性的分析操作，从而实现对直播内容的风控分析处理。
4.根据权利要求1所述的基于实时数据的直播内容风控处理系统，其特征在于：所述风控模块实现对直播中风险强度的累计功能、实现对直播过程中风险数据的提醒功能、实现对直播过程中产生的风险数据的阻断功能和实现主动的对风险数据来源账户的举报功能。
5.根据权利要求1所述的基于实时数据的直播内容风控处理系统，其特征在于：所述学习模块可以实现对指定风险数据内容的提前预设，避免相关风险数据在直播中的出现；可以实现对直播过程中出现的大量重复数据的自动屏蔽；可以实现对漏检风险数据的分类和学习操作。
6.根据权利要求1所述的基于实时数据的直播内容风控处理系统，其特征在于：所述数据存储模块可以实现对现有直播风险数据的存储、实现对直播过程中学习到的风险数据进行存储和直播实时数据的缓存。
7.基于实时数据的直播内容风控监管方法，包括以下步骤，其特征在于：
S1：在直播进行的过程中，通过直播数据采集模块对观众所发出的文字内容进行采集、对主播所说的话进行语音采集和对主播所发出的文字进行采集，并将采集到的直播实时数据缓存到数据存储模块内；
S2：通过直播数据分析模块内的数据对比单元将采集到的直播实时数据与数据存储模块内部存储的风险数据内容进行对比，并通过决策单元进行风险数据的判定；
S3：若决策单元判定的直播实时数据不存在风险性，则将该数据内容在直播过程中显示，且该数据内容不触发风控模块；
S4：若决策单元判定的直播实时数据存在风险性，则该数据被阻断显示，并触发风控模块，并且风控模块做出反应；
S5：在风控模块反应后，学习模块基于风控模块中采集到的内容进行风险数据的完善和优化，并将优化后的风险数据形式加存到数据存储模块内，实现对直播风险数据的不断学习。
8.根据权利要求7所述的基于实时数据的直播内容风控监管方法，其特征在于：所述步骤4中风控模块的反应，包括以下步骤：
S11：当决策单元判定为观众的风险数据，风控模块中的风险累计单元首先对发出该风险数据的来源账户进行风险累计操作，并对该账户进行风险提醒；
S12：若该账户继续进行风险数据的发送，并且风险累计单元对该账户的风险累计达到指定量，此时系统判定该账户为恶意账户，实施单元启动，对该账户做出相关处理操作，并风险提醒单元提醒到主播，主播可以通过举报单元对该账户进行举报操作；
S13：当决策单元判定为主播的风险数据，风控模块中的风险累计单元进行直播间的风险累计操作，并将记录的风险信息通过风险提醒单元对主播进行提醒；
S14：若主播不再被判定有风险数据，则随着直播时间的增长不断的降低直播间的风险累计量，若主播继续出现风险数据，并且风险累计单元对风险数据的累计达到指定量，此时风险提醒单元和实施单元均启动，实施单元将该直播间关闭和进行相应处罚，同时风险提醒单元将直播间风险性对主播展示。
9.根据权利要求8所述的基于实时数据的直播内容风控监管方法，其特征在于：所述观众的风险性数据包括违规内容、违法内容、低俗内容和大量重复内容的一种或多种。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311780554.3A CN117763010A (zh) | 2023-12-22 | 2023-12-22 | 基于实时数据的直播内容风控处理系统及监管方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311780554.3A CN117763010A (zh) | 2023-12-22 | 2023-12-22 | 基于实时数据的直播内容风控处理系统及监管方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN117763010A true CN117763010A (zh) | 2024-03-26 |
Family
ID=90321369
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311780554.3A Pending CN117763010A (zh) | 2023-12-22 | 2023-12-22 | 基于实时数据的直播内容风控处理系统及监管方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117763010A (zh) |
-
2023
- 2023-12-22 CN CN202311780554.3A patent/CN117763010A/zh active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112967081B (zh) | 广告投放效果监控方法 | |
| CN110837615A (zh) | 广告内容信息过滤人工智能审核系统 | |
| CN111491172B (zh) | 一种直播权限管理系统及直播权限管理方法 | |
| CN111797752A (zh) | 违规视频检测方法、装置、设备及存储介质 | |
| CN104137557A (zh) | 用于对媒体呈现装置进行归属的方法和设备 | |
| CN109905726B (zh) | 实时电视广告检测的系统和方法 | |
| US11653062B2 (en) | Methods and apparatus to determine audio source impact on an audience of media | |
| US20220159338A1 (en) | Methods and apparatus to detect boring media | |
| CN108460633B (zh) | 一种广告音频采集识别系统的建立方法及其用途 | |
| CN113422975A (zh) | 一种后台直播视频审核方法 | |
| CN110569910A (zh) | 直播周期的处理方法、装置、设备及存储介质 | |
| CN112913251B (zh) | 利用水印和签名的媒体识别 | |
| CN113766256A (zh) | 一种直播风控方法和装置 | |
| CN110276300B (zh) | 用于识别垃圾品质的方法和装置 | |
| Barozzi et al. | Filtering images extracted from social media in the response phase of emergency events | |
| CN117763010A (zh) | 基于实时数据的直播内容风控处理系统及监管方法 | |
| CN113052125B (zh) | 一种施工现场违章图像识别告警方法 | |
| CN113382232A (zh) | 监控音视频质量的方法和装置、系统、电子设备 | |
| CN112183406A (zh) | 一种视频卡顿检测方法及检测系统 | |
| KR101155465B1 (ko) | 방송의 광고를 모니터링하는 방송 광고 모니터링 시스템 및 방송 광고 모니터링 방법 | |
| CN114979727A (zh) | 一种广告违规聚集审核系统 | |
| CN113992984B (zh) | 一种电梯广告监播方法 | |
| CN102209236A (zh) | 考试监控系统中的信息处理系统及其实现方法 | |
| CN112380999B (zh) | 一种针对直播过程中诱导性不良行为的检测系统及方法 | |
| CN113515670A (zh) | 影视资源状态识别方法、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |