CN117793043A - 一种聊天内容审核处理方法及系统 - Google Patents
一种聊天内容审核处理方法及系统 Download PDFInfo
- Publication number
- CN117793043A CN117793043A CN202410019953.6A CN202410019953A CN117793043A CN 117793043 A CN117793043 A CN 117793043A CN 202410019953 A CN202410019953 A CN 202410019953A CN 117793043 A CN117793043 A CN 117793043A
- Authority
- CN
- China
- Prior art keywords
- chat
- user
- violation
- illegal
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 7
- 238000012545 processing Methods 0.000 claims abstract description 75
- 238000012550 audit Methods 0.000 claims abstract description 61
- 238000000605 extraction Methods 0.000 claims abstract description 14
- 238000000034 method Methods 0.000 claims abstract description 8
- 238000012549 training Methods 0.000 claims description 30
- 230000002222 downregulating effect Effects 0.000 claims description 21
- 238000003062 neural network model Methods 0.000 claims description 12
- 238000012163 sequencing technique Methods 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000012795 verification Methods 0.000 claims description 6
- 230000033228 biological regulation Effects 0.000 claims description 2
- 230000003828 downregulation Effects 0.000 description 4
- 230000003827 upregulation Effects 0.000 description 4
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
Landscapes
- Information Transfer Between Computers (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种聊天内容审核处理方法及系统，该方法公开了如下步骤：步骤一：采集用户的聊天记录，并将用户的聊天记录发送至服务器中存储；步骤二：对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例；步骤三：根据用户处理值对用户后续禁言处理的设定时长进行调整，通过设置审核禁言模块，可以实时根据用户聊天记录中的聊天内容对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例，进而保证系统对不同用户设定合适的审核抽取比例，优化对于不同用户的聊天内容审核标准，设置禁言调整模块，可以根据用户处理值对用户后续禁言处理的设定时长进行调整，保证对于不同用户在禁言时的不同禁言标准。
Description
技术领域
本发明涉及数据审核技术领域，更具体地说，它涉及一种聊天内容审核处理方法及系统。
背景技术
随着交互平台的使用与发展，越来越多用户会在直播间、短视频等内容下发送聊天内容，基于庞大用户的数量，导致交互平台的审核人员无法快速、高效的审核出违规的聊天内容。部分平台推出了审核系统对聊天内容进行审核，但是目前审核系统的审核方式较为单一，对于不同用户的审核标准都是相同的，都是通过统一的抽取比例对用户的聊天内容进行抽审，这样容易造成审核系统的审查负载过大的情况，同时并不能高效的筛选出违规内容及违规用户。
发明内容
针对现有技术存在的不足，本发明的目的在于提供一种聊天内容审核处理方法及系统。
为实现上述目的，本发明提供了如下技术方案：
一种聊天内容审核处理方法，包括如下步骤：
步骤一：采集用户的聊天记录，并将用户的聊天记录发送至服务器中存储；
步骤二：对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例；
步骤三：根据用户处理值对用户后续禁言处理的设定时长进行调整。
进一步的，一种聊天内容审核处理系统，包括内容采集模块、审核禁言模块、禁言调整模块；
所述记录采集模块用于采集用户的聊天记录，并将用户的聊天记录发送至服务器中存储；
所述审核禁言模块用于对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例，具体为：获取得到同一用户在系统当前时间之前的所有聊天记录，获取得到聊天记录的聊天内容，按设定比例抽取该用户聊天记录中的聊天内容，将抽取得到的聊天内容标记为审核内容，将审核内容作为内容审核模型的输入数据，获取得到内容审核模型的输出数据，将内容审核模型输出数据的训练标签标记为内容审核值，设置内容审核阈值为Dp，当内容审核值≥内容审核阈值Dp时，将对应的聊天记录标记为违规聊天记录，获取得到该用户的违规聊天值Bw，当内容审核值＜内容审核阈值Dp时，不做处理，获取得到该用户的违规聊天值Bw，设置违规聊天高值为Fz，设置违规聊天低值为Jk，当违规聊天值Bw≥违规聊天高值Fz时，将该用户后续聊天记录中聊天内容的抽取设定比例向上调整，并将该调整时刻标记为比例上调时刻，并对该用户按照设定时长进行禁言处理，当违规聊天低值Jk≤违规聊天值Bw＜违规聊天高值Fz时，不做处理，当违规聊天值Bw＜违规聊天高值Fz时，将该用户后续聊天记录中聊天内容的抽取设定比例向下调整，并将该调整时刻标记为比例下调时刻；
所述禁言调整模块用于根据用户处理值对用户后续禁言处理的设定时长进行调整，具体为：
获取得到用户的用户处理值Ns，设置用户处理阈值为Sy，当用户的用户处理值Ns≥用户处理阈值Sy时，将该用户后续禁言处理的设定时长进行延长处理，当用户的用户处理值Ns＜用户处理阈值Sy时，不做处理。
进一步的，内容审核模型通过下述步骤获取得到：获取得到多个审核内容，将审核内容标记为训练数据，对训练数据赋予训练标签，将训练数据按照设定比例划分成训练集和验证集，构建神经网络模型，通过训练集和验证集对神经网络模型进行迭代训练，当迭代训练次数大于迭代次数阈值时，则判定神经网络模型完成训练，将训练完成的神经网络模型标记为内容审核模型，内容审核模型输出数据的训练标签数值越大，表示审核内容中违规内容越多。
进一步的，聊天记录包括聊天开始时间、聊天结束时间、聊天内容。
进一步的，该用户的违规聊天值Bw通过下述步骤获取得到：获取得到该用户在系统当前时间之前所有的违规聊天记录，将每个违规聊天记录的聊天结束时间与聊天开始时间进行时间差值计算，获取得到违规聊天时长，将该用户的所有违规聊天时长进行求和处理并取均值，获取得到平均违聊时长，并标记为Sk，将该用户的所有违规聊天记录按照时间先后顺序进行排序，将排序后相邻且排序在前的违规聊天记录标记为前置违规记录，将排序后相邻且排序在后的违规聊天记录标记为后置违规记录，将后置违规记录的聊天开始时间与前置违规记录的聊天结束时间进行时间差值计算，获取得到违规聊天间隔，将所有违规聊天间隔进行求和处理并取均值，获取得到平均违聊间隔，并标记为Rw，设置每个违规聊天间隔对应一个标准违规间隔，将违规聊天间隔与标准违规间隔进行对比，当违规聊天间隔＜标准违规间隔时，将该违规聊天间隔标记为高密违规间隔，获取得到高密违规值Bh，当违规聊天间隔≥标准违规间隔时，将该违规聊天间隔标记为低密违规间隔，获取得到低密违规值Rt，利用公式获取得到该用户的违规聊天值Bw，其中，a1为平均违聊时长系数，a2为平均违聊间隔系数，a3为高密违规值系数，a4为低密违规值系数。
进一步的，高密违规值Bh通过下述步骤获取得到：将标准违规间隔与高密违规间隔进行差值计算，获取得到高密间隔差M i，设置高密间隔差系数为Kc，c＝1，2，3，…，m；K1＜K2＜K3＜…＜Kc，设定每个高密间隔差系数对应一个高密间隔差的范围，包括(0，M1]，(M1，M2]，…，(M i-1，M i]，当M i∈(0，M1]，则对应的高密间隔差系数取值为K1，利用公式获取得到高密违规值Bh，n为违规聊天间隔标记为高密违规间隔的次数。
进一步的，低密违规值Rt通过下述步骤获取得到：将低密违规间隔与标准违规间隔进行差值计算，获取得到低密间隔差Hj，设置低密间隔差系数为Aw，w＝1，2，3，…，w；A1＜A2＜A3＜…＜Aw，设定每个低密间隔差系数对应一个低密间隔差的范围，包括(0，H1]，(H1，H2]，…，(Hj-1，Hj]，当Hj∈(0，H1]，则对应的低密间隔差系数取值为A1，利用公式获取得到低密违规值Rt，m为违规聊天间隔标记为低密违规间隔的次数。
进一步的，用户处理值Ns通过下述步骤获取得到：获取得到系统当前时间之前该用户的所有比例上调时刻与比例下调时刻，将所有比例上调时刻按照时间先后顺序进行排序，将排序后相邻两个比例上调时刻进行时间差值计算，获取得到比例上调间隔，将所有比例上调间隔进行求和处理并取均值，获取得到平均上调间隔Jy，获取得到比例上调时刻的总数量，并标记为Ru，将所有比例下调时刻按照时间先后顺序进行排序，将排序后相邻两个比例下调时刻进行时间差值计算，获取得到比例下调间隔，将所有比例下调间隔进行求和处理并取均值，获取得到平均下调间隔Dq，获取得到比例下调时刻的总数量，并标记为Mg，利用公式获取得到用户处理值Ns，其中，b1为平均上调间隔，b2为比例上调次数系数，b3为平均下调间隔系数，b4为比例下调次数系数。
与现有技术相比，本发明具备以下有益效果：
1、设置审核禁言模块，可以实时根据用户聊天记录中的聊天内容对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例，进而保证系统对不同用户设定合适的审核抽取比例，优化对于不同用户的聊天内容审核标准；
2、设置禁言调整模块，可以根据用户处理值对用户后续禁言处理的设定时长进行调整，保证对于不同用户在禁言时的不同禁言标准。
附图说明
图1为一种聊天内容审核处理方法的流程框图。
具体实施方式
实施例1
参照图1，一种聊天内容审核处理方法，包括如下步骤：
步骤一：采集用户的聊天记录，并将用户的聊天记录发送至服务器中存储；
步骤二：对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例；
步骤三：根据用户处理值对用户后续禁言处理的设定时长进行调整。
聊天内容审核处理系统，包括内容采集模块、审核禁言模块、禁言调整模块。
所述记录采集模块用于采集用户的聊天记录，并将用户的聊天记录发送至服务器中存储。聊天记录包括聊天开始时间、聊天结束时间(聊天结束时间的判定标准可以根据实际需求进行调整，如聊天内容在1min中没有更新，则判定聊天结束)、聊天内容。如a用户的聊天记录1的聊天开始时间为2023年8月12日12：31：05，聊天结束时间为2023年8月12日12：55：02。
所述审核禁言模块用于对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例，具体为：获取得到同一用户在系统当前时间之前的所有聊天记录，获取得到聊天记录的聊天内容，按设定比例抽取该用户聊天记录中的聊天内容，将抽取得到的聊天内容标记为审核内容，将审核内容作为内容审核模型的输入数据，获取得到内容审核模型的输出数据，内容审核模型通过下述步骤获取得到：获取得到多个审核内容，将审核内容标记为训练数据，对训练数据赋予训练标签，将训练数据按照设定比例划分成训练集和验证集，构建神经网络模型，通过训练集和验证集对神经网络模型进行迭代训练，当迭代训练次数大于迭代次数阈值时，则判定神经网络模型完成训练，将训练完成的神经网络模型标记为内容审核模型，内容审核模型输出数据的训练标签数值越大，表示审核内容中违规内容越多。将内容审核模型输出数据的训练标签标记为内容审核值，设置内容审核阈值为Dp，当内容审核值≥内容审核阈值Dp时，将对应的聊天记录标记为违规聊天记录，获取得到该用户的违规聊天值Bw，当内容审核值＜内容审核阈值Dp时，不做处理，获取得到该用户的违规聊天值Bw，该用户的违规聊天值Bw通过下述步骤获取得到：获取得到该用户在系统当前时间之前所有的违规聊天记录，将每个违规聊天记录的聊天结束时间与聊天开始时间进行时间差值计算，获取得到违规聊天时长，将该用户的所有违规聊天时长进行求和处理并取均值，获取得到平均违聊时长，并标记为Sk，将该用户的所有违规聊天记录按照时间先后顺序进行排序，将排序后相邻且排序在前的违规聊天记录标记为前置违规记录，将排序后相邻且排序在后的违规聊天记录标记为后置违规记录，将后置违规记录的聊天开始时间与前置违规记录的聊天结束时间进行时间差值计算，获取得到违规聊天间隔，将所有违规聊天间隔进行求和处理并取均值，获取得到平均违聊间隔，并标记为Rw，设置每个违规聊天间隔对应一个标准违规间隔，将违规聊天间隔与标准违规间隔进行对比，当违规聊天间隔＜标准违规间隔时，将该违规聊天间隔标记为高密违规间隔，获取得到高密违规值Bh，高密违规值Bh通过下述步骤获取得到：将标准违规间隔与高密违规间隔进行差值计算，获取得到高密间隔差M i，设置高密间隔差系数为Kc，c＝1，2，3，…，m；K1＜K2＜K3＜…＜Kc，设定每个高密间隔差系数对应一个高密间隔差的范围，包括(0，M1]，(M1，M2]，…，(M i-1，M i]，当M i∈(0，M1]，则对应的高密间隔差系数取值为K1，利用公式获取得到高密违规值Bh，n为违规聊天间隔标记为高密违规间隔的次数。当违规聊天间隔≥标准违规间隔时，将该违规聊天间隔标记为低密违规间隔，获取得到低密违规值Rt，低密违规值Rt通过下述步骤获取得到：将低密违规间隔与标准违规间隔进行差值计算，获取得到低密间隔差Hj，设置低密间隔差系数为Aw，w＝1，2，3，…，w；A1＜A2＜A3＜…＜Aw，设定每个低密间隔差系数对应一个低密间隔差的范围，包括(0，H1]，(H1，H2]，…，(Hj-1，Hj]，当Hj∈(0，H1]，则对应的低密间隔差系数取值为A1，利用公式/>获取得到低密违规值Rt，m为违规聊天间隔标记为低密违规间隔的次数。利用公式/>获取得到该用户的违规聊天值Bw，其中，a1为平均违聊时长系数，a2为平均违聊间隔系数，a3为高密违规值系数，a4为低密违规值系数，a1的取值为0.79，a2的取值为0.56，a3的取值为0.32，a4的取值为0.31。设置违规聊天高值为Fz，设置违规聊天低值为Jk，当违规聊天值Bw≥违规聊天高值Fz时，将该用户后续聊天记录中聊天内容的抽取设定比例向上调整(如抽取设定原比例为30％，则调整至30％以上)，并将该调整时刻标记为比例上调时刻，并对该用户按照设定时长进行禁言处理，当违规聊天低值Jk≤违规聊天值Bw＜违规聊天高值Fz时，不做处理，当违规聊天值Bw＜违规聊天高值Fz时，将该用户后续聊天记录中聊天内容的抽取设定比例向下调整(如抽取设定原比例为30％，则调整至30％以下)，并将该调整时刻标记为比例下调时刻。设置审核禁言模块，可以实时根据用户聊天记录中的聊天内容对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例，进而保证系统对不同用户设定合适的审核抽取比例，优化对于不同用户的聊天内容审核标准。
所述禁言调整模块用于根据用户处理值对用户后续禁言处理的设定时长进行调整，具体为：
获取得到用户的用户处理值Ns，用户处理值Ns通过下述步骤获取得到：获取得到系统当前时间之前该用户的所有比例上调时刻与比例下调时刻，将所有比例上调时刻按照时间先后顺序进行排序，将排序后相邻两个比例上调时刻进行时间差值计算，获取得到比例上调间隔，将所有比例上调间隔进行求和处理并取均值，获取得到平均上调间隔Jy，获取得到比例上调时刻的总数量，并标记为Ru，将所有比例下调时刻按照时间先后顺序进行排序，将排序后相邻两个比例下调时刻进行时间差值计算，获取得到比例下调间隔，将所有比例下调间隔进行求和处理并取均值，获取得到平均下调间隔Dq，获取得到比例下调时刻的总数量，并标记为Mg，利用公式获取得到用户处理值Ns，其中，b1为平均上调间隔，b2为比例上调次数系数，b3为平均下调间隔系数，b4为比例下调次数系数，b1的取值为0.58，b2的取值为0.65，b3的取值为0.57，b4的取值为0.64。设置用户处理阈值为Sy，当用户的用户处理值Ns≥用户处理阈值Sy时，将该用户后续禁言处理的设定时长进行延长处理，当用户的用户处理值Ns＜用户处理阈值Sy时，不做处理。设置禁言调整模块，可以根据用户处理值对用户后续禁言处理的设定时长进行调整，保证对于不同用户在禁言时的不同禁言标准。
以上所述仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，这些改进和润饰也应视为本模板的保护范围。
以上对本发明的一个实施例进行了详细说明，但所述内容仅为本发明的较佳实施例，不能被认为用于限定本发明的实施范围。凡依本发明申请范围所作的均等变化与改进等，均应仍归属于本发明的专利涵盖范围之内。
Claims (8)
1.一种聊天内容审核处理方法，其特征在于，包括如下步骤：
步骤一：采集用户的聊天记录，并将用户的聊天记录发送至服务器中存储；
步骤二：对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例；
步骤三：根据用户处理值对用户后续禁言处理的设定时长进行调整。
2.一种聊天内容审核处理系统，根据权利要求1所述的一种聊天内容审核处理方法，其特征在于，包括内容采集模块、审核禁言模块、禁言调整模块；
所述记录采集模块用于采集用户的聊天记录，并将用户的聊天记录发送至服务器中存储；
所述审核禁言模块用于对用户进行禁言处理，并根据用户的聊天记录调整聊天内容的审核抽取比例，具体为：获取得到同一用户在系统当前时间之前的所有聊天记录，获取得到聊天记录的聊天内容，按设定比例抽取该用户聊天记录中的聊天内容，将抽取得到的聊天内容标记为审核内容，将审核内容作为内容审核模型的输入数据，获取得到内容审核模型的输出数据，将内容审核模型输出数据的训练标签标记为内容审核值，设置内容审核阈值为Dp，当内容审核值≥内容审核阈值Dp时，将对应的聊天记录标记为违规聊天记录，获取得到该用户的违规聊天值Bw，当内容审核值＜内容审核阈值Dp时，不做处理，获取得到该用户的违规聊天值Bw，设置违规聊天高值为Fz，设置违规聊天低值为Jk，当违规聊天值Bw≥违规聊天高值Fz时，将该用户后续聊天记录中聊天内容的抽取设定比例向上调整，并将该调整时刻标记为比例上调时刻，并对该用户按照设定时长进行禁言处理，当违规聊天低值Jk≤违规聊天值Bw＜违规聊天高值Fz时，不做处理，当违规聊天值Bw＜违规聊天高值Fz时，将该用户后续聊天记录中聊天内容的抽取设定比例向下调整，并将该调整时刻标记为比例下调时刻；
所述禁言调整模块用于根据用户处理值对用户后续禁言处理的设定时长进行调整，具体为：
获取得到用户的用户处理值Ns，设置用户处理阈值为Sy，当用户的用户处理值Ns≥用户处理阈值Sy时，将该用户后续禁言处理的设定时长进行延长处理，当用户的用户处理值Ns＜用户处理阈值Sy时，不做处理。
3.根据权利要求2所述的一种聊天内容审核处理系统，其特征在于，内容审核模型通过下述步骤获取得到：获取得到多个审核内容，将审核内容标记为训练数据，对训练数据赋予训练标签，将训练数据按照设定比例划分成训练集和验证集，构建神经网络模型，通过训练集和验证集对神经网络模型进行迭代训练，当迭代训练次数大于迭代次数阈值时，则判定神经网络模型完成训练，将训练完成的神经网络模型标记为内容审核模型，内容审核模型输出数据的训练标签数值越大，表示审核内容中违规内容越多。
4.根据权利要求3所述的一种聊天内容审核处理系统，其特征在于，聊天记录包括聊天开始时间、聊天结束时间、聊天内容。
5.根据权利要求4所述的一种聊天内容审核处理系统，其特征在于，该用户的违规聊天值Bw通过下述步骤获取得到：获取得到该用户在系统当前时间之前所有的违规聊天记录，将每个违规聊天记录的聊天结束时间与聊天开始时间进行时间差值计算，获取得到违规聊天时长，将该用户的所有违规聊天时长进行求和处理并取均值，获取得到平均违聊时长，并标记为Sk，将该用户的所有违规聊天记录按照时间先后顺序进行排序，将排序后相邻且排序在前的违规聊天记录标记为前置违规记录，将排序后相邻且排序在后的违规聊天记录标记为后置违规记录，将后置违规记录的聊天开始时间与前置违规记录的聊天结束时间进行时间差值计算，获取得到违规聊天间隔，将所有违规聊天间隔进行求和处理并取均值，获取得到平均违聊间隔，并标记为Rw，设置每个违规聊天间隔对应一个标准违规间隔，将违规聊天间隔与标准违规间隔进行对比，当违规聊天间隔＜标准违规间隔时，将该违规聊天间隔标记为高密违规间隔，获取得到高密违规值Bh，当违规聊天间隔≥标准违规间隔时，将该违规聊天间隔标记为低密违规间隔，获取得到低密违规值Rt，利用公式获取得到该用户的违规聊天值Bw，其中，a1为平均违聊时长系数，a2为平均违聊间隔系数，a3为高密违规值系数，a4为低密违规值系数。
6.根据权利要求5所述的一种聊天内容审核处理系统，其特征在于，高密违规值Bh通过下述步骤获取得到：将标准违规间隔与高密违规间隔进行差值计算，获取得到高密间隔差Mi，设置高密间隔差系数为Kc，利用公式获取得到高密违规值Bh，n为违规聊天间隔标记为高密违规间隔的次数。
7.根据权利要求6所述的一种聊天内容审核处理系统，其特征在于，低密违规值Rt通过下述步骤获取得到：将低密违规间隔与标准违规间隔进行差值计算，获取得到低密间隔差Hj，设置低密间隔差系数为Aw，利用公式获取得到低密违规值Rt，m为违规聊天间隔标记为低密违规间隔的次数。
8.根据权利要求7所述的一种聊天内容审核处理系统，其特征在于，用户处理值Ns通过下述步骤获取得到：获取得到系统当前时间之前该用户的所有比例上调时刻与比例下调时刻，将所有比例上调时刻按照时间先后顺序进行排序，将排序后相邻两个比例上调时刻进行时间差值计算，获取得到比例上调间隔，将所有比例上调间隔进行求和处理并取均值，获取得到平均上调间隔Jy，获取得到比例上调时刻的总数量，并标记为Ru，将所有比例下调时刻按照时间先后顺序进行排序，将排序后相邻两个比例下调时刻进行时间差值计算，获取得到比例下调间隔，将所有比例下调间隔进行求和处理并取均值，获取得到平均下调间隔Dq，获取得到比例下调时刻的总数量，并标记为Mg，利用公式获取得到用户处理值Ns，其中，b1为平均上调间隔，b2为比例上调次数系数，b3为平均下调间隔系数，b4为比例下调次数系数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410019953.6A CN117793043B (zh) | 2024-01-06 | 2024-01-06 | 一种聊天内容审核处理方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410019953.6A CN117793043B (zh) | 2024-01-06 | 2024-01-06 | 一种聊天内容审核处理方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117793043A true CN117793043A (zh) | 2024-03-29 |
| CN117793043B CN117793043B (zh) | 2024-06-21 |
Family
ID=90396178
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410019953.6A Active CN117793043B (zh) | 2024-01-06 | 2024-01-06 | 一种聊天内容审核处理方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117793043B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106028151A (zh) * | 2016-05-25 | 2016-10-12 | 武汉斗鱼网络科技有限公司 | 一种直播网站用户权限控制方法及装置 |
| CN107846343A (zh) * | 2016-09-18 | 2018-03-27 | 郭荆玮 | 一种灵活的聊天室实时净化方法及聊天系统 |
| CN113010708A (zh) * | 2021-03-11 | 2021-06-22 | 上海麦糖信息科技有限公司 | 针对违规朋友圈内容以及违规聊天内容的审核方法及系统 |
| CN116010551A (zh) * | 2022-12-12 | 2023-04-25 | 百果园技术(新加坡)有限公司 | 聊天文本检测方法及其装置、设备、介质 |
-
2024
- 2024-01-06 CN CN202410019953.6A patent/CN117793043B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106028151A (zh) * | 2016-05-25 | 2016-10-12 | 武汉斗鱼网络科技有限公司 | 一种直播网站用户权限控制方法及装置 |
| CN107846343A (zh) * | 2016-09-18 | 2018-03-27 | 郭荆玮 | 一种灵活的聊天室实时净化方法及聊天系统 |
| CN113010708A (zh) * | 2021-03-11 | 2021-06-22 | 上海麦糖信息科技有限公司 | 针对违规朋友圈内容以及违规聊天内容的审核方法及系统 |
| CN116010551A (zh) * | 2022-12-12 | 2023-04-25 | 百果园技术(新加坡)有限公司 | 聊天文本检测方法及其装置、设备、介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117793043B (zh) | 2024-06-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Ribbens et al. | Seedling recruitment in forests: calibrating models to predict patterns of tree seedling dispersion | |
| CN106601243B (zh) | 一种视频文件识别方法及装置 | |
| CN106203103B (zh) | 文件的病毒检测方法及装置 | |
| CN107992578A (zh) | 敏感视频源的数据库自动检测方法 | |
| CN108492132A (zh) | 一种利用音频特征识别的广告监播投放系统及方法 | |
| CN109155736A (zh) | 数据加水印和加指纹系统和方法 | |
| CN117793043B (zh) | 一种聊天内容审核处理方法及系统 | |
| CN114663705A (zh) | 视频审核模型训练方法、视频审核方法及相关装置 | |
| CN112269110A (zh) | 一种电弧故障判定方法 | |
| CN110139160B (zh) | 一种预测系统及方法 | |
| Noer et al. | Shotgun pellet loads and infliction rates in pink‐footed geese Anser brachyrhynchus | |
| CN113408470B (zh) | 数据处理方法、装置、电子设备、存储介质及程序产品 | |
| CN113724700B (zh) | 语种识别、语种识别模型训练方法及装置 | |
| CN116226804A (zh) | 一种基于水印嵌入的神经网络模型的版权验证方法 | |
| CN114996509A (zh) | 训练视频特征提取模型和视频推荐的方法和装置 | |
| CN112383785B (zh) | 热度值的处理方法、装置及电子设备 | |
| CN113946703A (zh) | 一种图片漏检处理方法及其相关装置 | |
| CN110942395B (zh) | 保险保全风险控制方法、装置、设备及存储介质 | |
| CN114861177A (zh) | 社交网络上可疑账号的检测方法及装置 | |
| US10284572B2 (en) | Management method, management device, and management program | |
| Dooren | Pollinator species richness: Are the declines slowing down? | |
| CN112115236A (zh) | 烟草科技文献数据去重模型的构建方法及装置 | |
| CN113010797A (zh) | 一种基于云平台的智慧城市数据分享方法及其系统 | |
| CN113157905A (zh) | 一种题目快速生产的方法、装置及电子设备 | |
| CN103399939A (zh) | 帐号和文件审计关联分析方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |