CN118113932A - 基于评论的人工智能治理网络内容方法和机器人 - Google Patents
基于评论的人工智能治理网络内容方法和机器人 Download PDFInfo
- Publication number
- CN118113932A CN118113932A CN202410026508.2A CN202410026508A CN118113932A CN 118113932 A CN118113932 A CN 118113932A CN 202410026508 A CN202410026508 A CN 202410026508A CN 118113932 A CN118113932 A CN 118113932A
- Authority
- CN
- China
- Prior art keywords
- content
- network
- bad
- comment
- identified
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007726 management method Methods 0.000 title abstract description 7
- 238000013473 artificial intelligence Methods 0.000 claims abstract description 23
- 238000000034 method Methods 0.000 claims description 30
- 238000004364 calculation method Methods 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 2
- 238000001514 detection method Methods 0.000 abstract description 3
- 238000012360 testing method Methods 0.000 description 15
- 238000012549 training Methods 0.000 description 15
- 238000013136 deep learning model Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 208000001613 Gambling Diseases 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005067 remediation Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Probability & Statistics with Applications (AREA)
- Information Transfer Between Computers (AREA)
Abstract
基于评论的人工智能治理网络内容方法和机器人，建立评论内容与网络内容之间的相关性，然后根据评论内容来快速预测网络内容的不良类型，从而可以多网络内容进行不良内容的大范围快速筛查，然后通过人工对嫌疑的网络内容进行复核，能够提高不良内容检测的速度和效率。
Description
技术领域
本发明涉及人工智能技术领域，特别是涉及一种基于评论的人工智能治理网络内容方法和机器人。
背景技术
网络内容往往有很多评论，这些评论与网络内容有着密切的关系。
在实现本发明过程中，发明人发现现有技术中至少存在如下问题：现有技术在检测不良内容时，只关注网络内容本身，而没有关注其评论内容。
因此，现有技术还有待于改进和发展。
发明内容
基于此，有必要针对现有技术的缺陷或不足，提供基于评论的人工智能治理网络内容方法和机器人，通过评论实现对网络内容中不良内容的快速检测。
第一方面，本发明实施例提供一种人工智能方法，所述方法包括：
网络不良内容第一识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容作为输入，通过网络不良内容第一识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
优选地，所述方法还包括：
网络不良内容第二识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息作为输入，通过网络不良内容第二识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
优选地，所述方法还包括：
网络不良内容第三识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息和所述每一评论时间距离现在的时长作为输入，通过网络不良内容第三识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
优选地，所述方法还包括：
不良内容治理步骤：若待识别网络内容为任一不良类型的概率不为0，则通知用户“待识别的网络内容含有不良内容，需要及时处理”。
第二方面，本发明实施例提供一种人工智能治理系统，所述系统包括：
网络不良内容第一识别模型使用模块：在使用阶段，获取待识别网络内容的每一评论内容作为输入，通过网络不良内容第一识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
优选地，所述系统还包括：
网络不良内容第二识别模型使用模块：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息作为输入，通过网络不良内容第二识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
优选地，所述系统还包括：
网络不良内容第三识别模型使用模块：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息和所述每一评论时间距离现在的时长作为输入，通过网络不良内容第三识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
优选地，所述系统还包括：
不良内容治理模块：若待识别网络内容为任一不良类型的概率不为0，则通知用户“待识别的网络内容含有不良内容，需要及时处理”。
第三方面，本发明实施例提供一种人工智能治理装置，所述装置包括第二方面实施例任意一项所述系统的模块。
第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现第一方面实施例任意一项所述方法的步骤。
第五方面，本发明实施例提供一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，所述处理器执行所述程序时实现第一方面实施例任意一项所述方法的步骤。
本实施例提供的基于评论的人工智能治理网络内容方法和机器人，建立评论内容与网络内容之间的相关性，然后根据评论内容来快速预测网络内容的不良类型，从而可以多网络内容进行不良内容的大范围快速筛查，然后通过人工对嫌疑的网络内容进行复核，能够提高不良内容检测的速度和效率。
附图说明
图1为本发明的一个实施例提供的人工智能治理方法的流程图；
图2为本发明的一个实施例提供的人工智能治理系统的框架图。
具体实施方式
下面结合本发明实施方式，对本发明实施例中的技术方案进行详细地描述。
本发明的基本实施例
第一方面，本发明实施例提供一种人工智能方法，所述方法包括网络不良内容第一识别模型使用步骤。在一个优选的实施例中，所述方法还包括网络不良内容第二识别模型使用步骤。在一个优选的实施例中，所述方法还包括网络不良内容第三识别模型使用步骤。在一个优选的实施例中，所述方法还包括不良内容治理步骤。
第二方面，本发明实施例提供一种人工智能治理系统，所述系统包括网络不良内容第一识别模型使用模块。在一个优选的实施例中，所述系统还包括网络不良内容第二识别模型使用模块。在一个优选的实施例中，所述系统还包括网络不良内容第三识别模型使用模块。在一个优选的实施例中，所述系统还包括不良内容治理模块。
本发明的优选实施例
1、不良类型获取步骤：获取网络内容的不良类型，不良类型包括黄色、暴力、赌博、造假、诈骗、等。网络内容包括文本、音频、图像、视频。
2、网络不良内容第一识别模型训练测试步骤：初始化深度学习模型作为网络不良内容第一识别模型；在训练测试阶段，获取待识别网络内容的每一评论内容作为输入，获取所述待识别网络内容为每一不良类型的概率作为预期输出，对网络不良内容第一识别模型进行训练和测试；
3、网络不良内容第一识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容作为输入，通过网络不良内容第一识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率；技术效果：网络内容的类型影响着评论内容，例如黄色内容的评论内容一般也有暧昧的词语，所以反过来通过评论也能反映网络内容，从而能够通过评论内容来预测网络内容的不良类型。
步骤3之后，
4、网络不良内容第二识别模型训练测试步骤：初始化深度学习模型作为网络不良内容第二识别模型；在训练测试阶段，获取待识别网络内容的每一评论内容及其评论人信息作为输入，获取所述待识别网络内容为每一不良类型的概率作为预期输出，对网络不良内容第二识别模型进行训练和测试；其中，评论人信息包括所述评论人的性别、年龄、职业、学历、信用度；
5、网络不良内容第二识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息作为输入，通过网络不良内容第二识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率；技术效果：评论时间距离现在的时长能够反映评论内容的时效性，从而考虑到评论时间距离现在的时长能够提高根据评论来预测网络不良内容的准确率。
步骤3之后，
6、网络不良内容第三识别模型训练测试步骤：初始化深度学习模型作为网络不良内容第三识别模型；在训练测试阶段，获取待识别网络内容的每一评论内容及其评论人信息和所述每一评论时间距离现在的时长作为输入，获取所述待识别网络内容为每一不良类型的概率作为预期输出，对网络不良内容第三识别模型进行训练和测试；
7、网络不良内容第三识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息和所述每一评论时间距离现在的时长作为输入，通过网络不良内容第三识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率；技术效果：评论时间距离现在的时长能够反映评论内容的时效性，从而考虑到评论时间距离现在的时长能够提高根据评论来预测网络不良内容的准确率。
步骤3之后，
8、网络不良内容第四识别模型训练测试步骤：初始化深度学习模型作为网络不良内容第四识别模型；在训练测试阶段，获取待识别网络内容、待识别网络内容的每一评论内容及其评论人信息和所述每一评论时间距离现在的时长作为输入，获取所述待识别网络内容中每一不良内容及其不良类型作为预期输出，对网络不良内容第四识别模型进行训练和测试；每一不良内容及其不良类型包括所述每一不良内容在所述网络内容中位置及其所属不良类型及其属于所属不良类型的概率；
9、网络不良内容第四识别模型使用步骤：在使用阶段，获取待识别网络内容、待识别网络内容的每一评论内容及其评论人信息和所述每一评论时间距离现在的时长作为输入，通过网络不良内容第四识别模型的计算得到的输出作为所述待识别网络内容中每一不良内容及其不良类型；技术效果：将网络内容联合评论内容进行不良内容的预测能够提高预测网络不良内容的准确率。
步骤3之后，
10、网络不良内容第五识别模型训练测试步骤：初始化深度学习模型作为网络不良内容第四识别模型；在训练测试阶段，获取待识别网络内容作为输入，获取所述待识别网络内容中每一不良内容及其不良类型作为预期输出，对网络不良内容第四识别模型进行训练和测试；
11、网络不良内容第五识别模型使用步骤：在使用阶段，获取待识别网络内容，通过网络不良内容第一识别模型或网络不良内容第二识别模型或网络不良内容第三识别模型进行检测，若输出中的所述待识别网络内容为任一不良类型的概率不为0，则将待识别网络内容作为输入，通过网络不良内容第五识别模型的计算得到的输出作为所述待识别网络内容中每一不良内容及其不良类型；技术效果：首先通过基于评论进行不良内容预测的模型对网络内容进行初步筛选，一旦发现网络内容中含有不良内容(待识别网络内容为任一不良类型的概率不为0)，再通过基于网络内容本身进行不良内容预测的模型对网络内容进一步预测其每一不良内容及其不良类型。
步骤3之后，
12、不良内容治理步骤：若待识别网络内容为任一不良类型的概率不为0，则通知用户“待识别的网络内容含有不良内容，需要及时处理”。
以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本发明专利范围的限制。应当指出的是，则对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种人工智能治理方法，其特征在于，所述方法包括：
网络不良内容第一识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容作为输入，通过网络不良内容第一识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
2.根据权利要求1所述的人工智能治理方法，其特征在于，所述方法还包括：
网络不良内容第二识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息作为输入，通过网络不良内容第二识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
3.根据权利要求1所述的人工智能治理方法，其特征在于，所述方法还包括：
网络不良内容第三识别模型使用步骤：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息和所述每一评论时间距离现在的时长作为输入，通过网络不良内容第三识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
4.根据权利要求1所述的人工智能治理方法，其特征在于，所述方法还包括：
不良内容治理步骤：若待识别网络内容为任一不良类型的概率不为0，则通知用户“待识别的网络内容含有不良内容，需要及时处理”。
5.一种人工智能治理系统，其特征在于，所述系统包括：
网络不良内容第一识别模型使用模块：在使用阶段，获取待识别网络内容的每一评论内容作为输入，通过网络不良内容第一识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
6.根据权利要求5所述的人工智能治理系统，其特征在于，所述系统还包括：
网络不良内容第二识别模型使用模块：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息作为输入，通过网络不良内容第二识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
7.根据权利要求5所述的人工智能治理系统，其特征在于，所述系统还包括：
网络不良内容第三识别模型使用模块：在使用阶段，获取待识别网络内容的每一评论内容及其评论人信息和所述每一评论时间距离现在的时长作为输入，通过网络不良内容第三识别模型的计算得到的输出作为所述待识别网络内容为每一不良类型的概率。
8.根据权利要求5所述的人工智能治理系统，其特征在于，所述系统还包括：
不良内容治理模块：若待识别网络内容为任一不良类型的概率不为0，则通知用户“待识别的网络内容含有不良内容，需要及时处理”。
9.一种机器人，包括存储器、处理器及存储在存储器上并可在处理器上运行的人工智能机器人程序，其特征在于，所述处理器执行所述程序时实现权利要求1-4任意一项所述方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1-4任意一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410026508.2A CN118113932A (zh) | 2024-01-08 | 2024-01-08 | 基于评论的人工智能治理网络内容方法和机器人 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410026508.2A CN118113932A (zh) | 2024-01-08 | 2024-01-08 | 基于评论的人工智能治理网络内容方法和机器人 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN118113932A true CN118113932A (zh) | 2024-05-31 |
Family
ID=91211411
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410026508.2A Pending CN118113932A (zh) | 2024-01-08 | 2024-01-08 | 基于评论的人工智能治理网络内容方法和机器人 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118113932A (zh) |
-
2024
- 2024-01-08 CN CN202410026508.2A patent/CN118113932A/zh active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110033018B (zh) | 图形相似度判断方法、装置及计算机可读存储介质 | |
| CN109978060B (zh) | 一种自然语言要素抽取模型的训练方法及装置 | |
| CN115861462B (zh) | 图像生成模型的训练方法、装置、电子设备及存储介质 | |
| CN115858002B (zh) | 基于图对比学习的二进制代码相似性检测方法及系统与存储介质 | |
| CN112100378A (zh) | 文本分类模型训练方法、装置、计算机设备及存储介质 | |
| CN116722992A (zh) | 一种基于多模态融合的诈骗网站识别方法及装置 | |
| CN111126422B (zh) | 行业模型的建立及行业的确定方法、装置、设备及介质 | |
| CN114417405A (zh) | 一种基于人工智能的隐私业务数据分析方法及服务器 | |
| CN116071609B (zh) | 基于目标特征动态自适应提取的小样本图像分类方法 | |
| CN116992880A (zh) | 建筑物名称的识别方法、装置、电子设备和存储介质 | |
| CN116774973A (zh) | 数据渲染方法、装置、计算机设备及存储介质 | |
| CN118113932A (zh) | 基于评论的人工智能治理网络内容方法和机器人 | |
| CN112579774B (zh) | 模型训练方法、模型训练装置及终端设备 | |
| CN110795941B (zh) | 一种基于外部知识的命名实体识别方法、系统及电子设备 | |
| CN113139561B (zh) | 一种垃圾分类方法、装置、终端设备及存储介质 | |
| CN114238968A (zh) | 应用程序检测方法及装置、存储介质及电子设备 | |
| CN116563898A (zh) | 基于GhostNet网络的掌静脉图像识别方法、装置、设备及介质 | |
| CN113610503A (zh) | 简历信息处理方法、装置、设备及介质 | |
| CN105824871A (zh) | 一种图片检测方法与设备 | |
| CN115587358A (zh) | 一种二进制代码相似性检测方法、装置及存储介质 | |
| CN111753548A (zh) | 信息获取方法及装置、计算机存储介质、电子设备 | |
| CN115731588B (zh) | 模型处理方法及装置 | |
| CN113836915B (zh) | 数据处理方法、装置、设备及可读存储介质 | |
| CN109214411B (zh) | 一种基于训练模型识别典型图片对新增实体的验证方法及系统 | |
| CN117422104A (zh) | 一种联邦图神经网络的隐私泄露侦测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |