CN102012926A - 一种可扩展的举报不良信息的方法与系统 - Google Patents
一种可扩展的举报不良信息的方法与系统 Download PDFInfo
- Publication number
- CN102012926A CN102012926A CN 201010568013 CN201010568013A CN102012926A CN 102012926 A CN102012926 A CN 102012926A CN 201010568013 CN201010568013 CN 201010568013 CN 201010568013 A CN201010568013 A CN 201010568013A CN 102012926 A CN102012926 A CN 102012926A
- Authority
- CN
- China
- Prior art keywords
- flame
- report
- information
- web server
- extendible
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Transfer Between Computers (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种可扩展的举报不良信息的方法与系统，所述方法包括：S1，用户通过举报入口举报不良信息；S2，web服务器接收并分析判断被举报信息是否符合预设的成为不良信息的条件；S3，web服务器对被举报的不良信息进行智能分级。本发明为社交网站中具有传播性的公共信息和交互内容增加举报入口，可扩展性强，用户通过举报入口向网站服务商即时举报不良信息，有效地防止了陌生人、广告商的不良信息骚扰，同时对被举报信息进行智能分级，提高了对不良信息处理的效率。
Description
技术领域
本发明涉及一种可扩展的举报不良信息的方法与系统，属于网络通信领域。
背景技术
随着社交网络的不断发展，网络上的传播信息越来越多样化，不良信息也趁虚而入。例如，各大媒体曝光的各种情色类的视频、图片、文学等“低俗内容”，赌博、造假、诈骗等各类违反法律和道德的内容，这些信息给广大社交网站用户造成了极大的不良影响。为了杜绝低俗信息，给广大社交网站用户创建一个绿色、健康、和谐的社交网站网络环境，许多网站服务商都开通了各种用户不良信息举报通道。例如，用户可以通过拨打社交网站网络监督电话，发送电子邮件或者进入特定的社交网站举报页面直接举报不良信息等途径进行举报。但是，这些举报途径的举报速度慢，处理效率低，很难有效、及时地维护良好的社交网络环境和杜绝低俗、违法的不良信息。
发明内容
本发明的目的在于，提供一种可扩展的举报不良信息的方法与系统，它为社交网站中具有传播性的公共信息和交互内容增加举报入口，可扩展性强，用户通过举报入口向网站服务商即时举报不良信息，有效地防止了陌生人、广告商的不良信息骚扰，同时对被举报信息进行智能分级，提高了对不良信息处理的效率。
为解决上述技术问题，本发明采用如下的技术方案：一种可扩展的举报不良信息的方法，包括以下步骤：
S1，用户通过举报入口举报不良信息；
S2，web服务器接收并分析判断被举报信息是否符合预设的成为不良信息的条件；
S3，web服务器对被举报的不良信息进行智能分级。
所述步骤S1中，客户端为具有传播性的公共信息和交互内容增加举报入口。其中，具有传播性的公共信息主要是指，用户发表的照片、日记、转帖等内容；交互内容主要是指，陌生人、广告商等向用户发送的未知内容。
前述的一种可扩展的举报不良信息的方法中，所述方法还包括：web服务器将网站服务商预设的成为不良信息的条件存储在数据库中。
前述的一种可扩展的举报不良信息的方法中，所述预设的成为不良信息的条件包括：被举报信息包含预设的不良关键词或者被举报次数达到预设的次数限制。
前述的一种可扩展的举报不良信息的方法中，所述步骤S3中对被举报的不良信息进行智能分级的方法包括：web服务器根据被举报信息中所包含的关键词性质，对不良信息进行智能分级。
所述关键词性质主要分为：违反法律（国家明令禁止的），违反道德（违背社会主义精神文明建设要求、违背中华民族优良文化传统与习惯以及其它违背社会公德的各类信息），破坏信息安全（含有病毒、木马、后门的高风险类信息）和其他（被举报次数达到预设的次数限制）四类。将不良信息分为4级：违反法律为1级，违反道德为2级，破坏信息安全为3级，其他为4级。
服务器对不良信息进行智能分级处理后，网站服务商采用人工手动进行核对，这样可以提高对不良信息审核的效率。人工审核后，若被举报信息被确认为不良信息，审核员则清理该举报信息，否则撤销对此信息的举报。处理完毕后，网站服务商还可以将不良信息的源地址信息通报给其他网站服务商，以进一步遏制不良信息的传播。
前述的一种可扩展的举报不良信息的方法中，所述方法还包括：web服务器根据当前信息的不良程度，对不良信息发布者进行处理。对不良信息发布者根据不良信息的智能分级情况，采取1级彻底删除，2级隐藏内容，3级禁止动态和4级记录的措施。
实现前述方法的一种可扩展的举报不良信息的系统，包括：
举报入口模块，用于用户通过举报入口举报不良信息；
判断模块，用于web服务器接收并分析判断被举报信息是否符合预设的成为不良信息的条件；
智能分级模块，用于web服务器对被举报的不良信息进行智能分级；
其中，举报入口模块、判断模块和智能分级模块顺次连接。
客户端为具有传播性的公共信息和交互内容增加举报入口。其中，具有传播性的公共信息主要是指，用户发表的照片、日记、转帖等内容；交互内容主要是指，陌生人、广告商等向用户发送的未知内容。
前述的一种可扩展的举报不良信息的系统中，所述系统还包括条件存储模块，用于web服务器将网站服务商预设的成为不良信息的条件存储在数据库中；条件存储模块与判断模块连接。
前述的一种可扩展的举报不良信息的系统中，所述预设的成为不良信息的条件包括：被举报信息包含预设的不良关键词或者被举报次数达到预设的次数限制。
所述智能分级模块根据被举报信息中所包含的关键词性质进行智能分级。所述关键词性质主要分为：违反法律（国家明令禁止的），违反道德（违背社会主义精神文明建设要求、违背中华民族优良文化传统与习惯以及其它违背社会公德的各类信息），破坏信息安全（含有病毒、木马、后门的高风险类信息）和其他（被举报次数达到预设的次数限制）四类。将不良信息分为4级：违反法律为1级，违反道德为2级，破坏信息安全为3级，其他为4级。
服务器对不良信息进行智能分级处理后，网站服务商采用人工手动进行核对，这样可以提高对不良信息审核的效率。人工审核后，若被举报信息被确认为不良信息，审核员则清理该举报信息，否则撤销对此信息的举报。处理完毕后，网站服务商还可以将不良信息的源地址信息通报给其他网站服务商，以进一步遏制不良信息的传播。
前述的一种可扩展的举报不良信息的系统中，所述系统还包括处理模块，用于web服务器根据当前信息的不良程度，对不良信息发布者进行处理。对不良信息发布者根据不良信息的智能分级情况，采取1级彻底删除，2级隐藏内容，3级禁止动态和4级记录的措施。
与现有技术相比，本发明通过社交网站提供的举报入口直接向网站服务商举报不良信息，操作方便快捷；在社交网站上为所有具有传播性的公共内容和交互内容添加举报入口，可扩展性强，用户举报方便即时，有效地防止了陌生人、广告商等的不良信息骚扰；web服务器根据预设的关键词性质对被举报信息进行智能分级，并针对智能分级情况对被举报信息进行相应处理，提高了对不良信息处理的效率。
附图说明
图1是本发明的一种实施例的系统示意图；
图2是本发明的一种实施例的工作流程图。
附图标记：1-举报入口模块，2-判断模块，3-智能分级模块，4-条件存储模块，5-处理模块。
下面结合附图和具体实施方式对本发明作进一步的说明。
具体实施方式
本发明的实施例：一种可扩展的举报不良信息的方法，包括以下步骤：
S1，用户通过举报入口举报不良信息；
S2，web服务器接收并分析判断被举报信息是否符合预设的成为不良信息的条件；
S3，web服务器对被举报的不良信息进行智能分级。
所述步骤S1中，客户端为具有传播性的公共信息和交互内容增加举报入口。其中，具有传播性的公共信息主要是指，用户发表的照片、日记、转帖等内容；交互内容主要是指，陌生人、广告商等向用户发送的未知内容。
所述方法还包括：web服务器将网站服务商预设的成为不良信息的条件存储在数据库中。
所述预设的成为不良信息的条件包括：被举报信息包含预设的不良关键词或者被举报次数达到预设的次数限制。
所述步骤S3中对被举报的不良信息进行智能分级的方法包括：web服务器根据被举报信息中所包含的关键词性质，对不良信息进行智能分级。
所述关键词性质主要分为：违反法律（国家明令禁止的），违反道德（违背社会主义精神文明建设要求、违背中华民族优良文化传统与习惯以及其它违背社会公德的各类信息），破坏信息安全（含有病毒、木马、后门的高风险类信息）和其他（被举报次数达到预设的次数限制）四类。将不良信息分为4级：违反法律为1级，违反道德为2级，破坏信息安全为3级，其他为4级。
服务器对不良信息进行智能分级处理后，网站服务商采用人工手动进行核对，这样可以提高对不良信息审核的效率。人工审核后，若被举报信息被确认为不良信息，审核员则清理该举报信息，否则撤销对此信息的举报。处理完毕后，网站服务商还可以将不良信息的源地址信息通报给其他网站服务商，以进一步遏制不良信息的传播。
所述方法还包括：web服务器根据当前信息的不良程度，对不良信息发布者进行处理。对不良信息发布者根据不良信息的智能分级情况，采取1级彻底删除，2级隐藏内容，3级禁止动态和4级记录的措施。
实现前述方法的一种可扩展的举报不良信息的系统，如图1所示，包括：
举报入口模块1，用于用户通过举报入口举报不良信息；
判断模块2，用于web服务器接收并分析判断被举报信息是否符合预设的成为不良信息的条件；
智能分级模块3，用于web服务器对被举报的不良信息进行智能分级；
其中，举报入口模块1、判断模块2和智能分级模块3顺次连接。
客户端为具有传播性的公共信息和交互内容增加举报入口。其中，具有传播性的公共信息主要是指，用户发表的照片、日记、转帖等内容；交互内容主要是指，陌生人、广告商等向用户发送的未知内容。
所述系统还包括条件存储模块4，用于web服务器将网站服务商预设的成为不良信息的条件存储在数据库中；条件存储模块4与判断模块2连接。
所述预设的成为不良信息的条件包括：被举报信息包含预设的不良关键词或者被举报次数达到预设的次数限制。
所述智能分级模块3根据被举报信息中所包含的关键词性质进行智能分级。所述关键词性质主要分为：违反法律（国家明令禁止的），违反道德（违背社会主义精神文明建设要求、违背中华民族优良文化传统与习惯以及其它违背社会公德的各类信息），破坏信息安全（含有病毒、木马、后门的高风险类信息）和其他（被举报次数达到预设的次数限制）四类。将不良信息分为4级：违反法律为1级，违反道德为2级，破坏信息安全为3级，其他为4级。
服务器对不良信息进行智能分级处理后，网站服务商采用人工手动进行核对，这样可以提高对不良信息审核的效率。人工审核后，若被举报信息被确认为不良信息，审核员则清理该举报信息，否则撤销对此信息的举报。处理完毕后，网站服务商还可以将不良信息的源地址信息通报给其他网站服务商，以进一步遏制不良信息的传播。
所述系统还包括处理模块5，用于web服务器根据当前信息的不良程度，对不良信息发布者进行处理。对不良信息发布者根据不良信息的智能分级情况，采取1级彻底删除，2级隐藏内容，3级禁止动态和4级记录的措施。
本发明的一种实施例的工作流程：（如图2所示）
S1，用户通过举报入口举报不良信息；
S2，web服务器接收并分析判断被举报信息是否符合预设的成为不良信息的条件；
S3，web服务器对被举报的不良信息进行智能分级。
实例说明：“李四”登录自己的社交网站查看好友“王五”的转帖，发现“王五”的转帖内容为包含违法信息，“李四”通过点击转帖中提供的举报入口，举报“王五”当前转帖内容为不良信息。web服务器接收“李四”请求，获取被举报信息，分析当前信息是否符合预设的成为不良信息的条件，即是否包含预设的不良关键词，比如“毒品”、“抢劫”等，或者被举报次数是否达到预设的次数限制。“王五”转帖内容包含不良关键词“毒品”，web服务器自动将“王五”当前转帖内容确定为不良信息，并根据“王五”当前转帖中所包含的关键词性质进行智能分级，确定为1级。web服务器处理完毕后，网站服务商对被举报信息进行人工审核。人工审核后，如果该转帖内容被认定为不良信息，审核员彻底删除当前转帖，web服务器还会彻底删除“王五”在社交网络上的账号；否则就撤销所有对“王五”当前转帖内容为不良信息的举报。
Claims (9)
1.一种可扩展的举报不良信息的方法，其特征在于，包括以下步骤：
S1，用户通过举报入口举报不良信息；
S2，web服务器接收并分析判断被举报信息是否符合预设的成为不良信息的条件；
S3，web服务器对被举报的不良信息进行智能分级。
2.根据权利要求1所述的一种可扩展的举报不良信息的方法，其特征在于，还包括：web服务器将网站服务商预设的成为不良信息的条件存储在数据库中。
3.根据权利要求1或2所述的一种可扩展的举报不良信息的方法，其特征在于，所述预设的成为不良信息的条件包括：被举报信息包含预设的不良关键词或者被举报次数达到预设的次数限制。
4.根据权利要求1所述的一种可扩展的举报不良信息的方法，其特征在于，所述步骤S3中对被举报的不良信息进行智能分级的方法包括：web服务器根据被举报信息中所包含的关键词性质，对不良信息进行智能分级。
5.根据权利要求1所述的一种可扩展的举报不良信息的方法，其特征在于，还包括：web服务器对不良信息发布者进行处理。
6.实现权利要求 1～5所述方法的一种可扩展的举报不良信息的系统，其特征在于，包括：
举报入口模块（1），用于用户通过举报入口举报不良信息；
判断模块（2），用于web服务器接收并分析判断被举报信息是否符合预设的成为不良信息的条件；
智能分级模块（3），用于web服务器对被举报的不良信息进行智能分级；
其中，举报入口模块（1）、判断模块（2）和智能分级模块（3）顺次连接。
7.根据权利要求6所述的一种可扩展的举报不良信息的系统，其特征在于：还包括条件存储模块（4），用于web服务器将网站服务商预设的成为不良信息的条件存储在数据库中；条件存储模块（4）与判断模块（2）连接。
8.根据权利要求6或7所述的一种可扩展的举报不良信息的系统，其特征在于，所述预设的成为不良信息的条件包括：被举报信息包含预设的不良关键词或者被举报次数达到预设的次数限制。
9.根据权利要求6所述的一种可扩展的举报不良信息的系统，其特征在于：还包括处理模块（5），用于web服务器对不良信息发布者进行处理；处理模块（5）与智能分级模块（3）连接。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN 201010568013 CN102012926A (zh) | 2010-12-01 | 2010-12-01 | 一种可扩展的举报不良信息的方法与系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN 201010568013 CN102012926A (zh) | 2010-12-01 | 2010-12-01 | 一种可扩展的举报不良信息的方法与系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN102012926A true CN102012926A (zh) | 2011-04-13 |
Family
ID=43843099
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN 201010568013 Pending CN102012926A (zh) | 2010-12-01 | 2010-12-01 | 一种可扩展的举报不良信息的方法与系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN102012926A (zh) |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102938785A (zh) * | 2012-11-09 | 2013-02-20 | 李辉 | 用于搜索引擎的不良信息举报和处理办法 |
| CN103136255A (zh) * | 2011-11-30 | 2013-06-05 | 腾讯科技（深圳）有限公司 | 信息管理的方法和装置 |
| WO2013078868A1 (zh) * | 2011-11-30 | 2013-06-06 | 腾讯科技（深圳）有限公司 | 信息处理的方法、装置和服务器 |
| CN103716690A (zh) * | 2013-12-27 | 2014-04-09 | 广州华多网络科技有限公司 | 多媒体直播举报的方法、终端、服务器及系统 |
| CN104426685A (zh) * | 2013-08-21 | 2015-03-18 | 深圳市腾讯计算机系统有限公司 | 信息管理方法及装置 |
| CN104618787A (zh) * | 2015-01-22 | 2015-05-13 | 深圳创维数字技术有限公司 | 一种节目播放方法和相关装置及系统 |
| CN105577663A (zh) * | 2015-12-22 | 2016-05-11 | 北京奇虎科技有限公司 | 一种举报信息的鉴别方法和装置 |
| CN105828189A (zh) * | 2015-01-05 | 2016-08-03 | 任子行网络技术股份有限公司 | 一种多维度检测违规音视频节目的方法 |
| CN106570034A (zh) * | 2015-10-12 | 2017-04-19 | 腾讯科技（深圳）有限公司 | 广告过滤方法、服务器及客户端 |
| TWI614717B (zh) * | 2016-10-21 | 2018-02-11 | 違法事件舉報系統及操作方法 | |
| CN108133306A (zh) * | 2017-11-17 | 2018-06-08 | 上海哔哩哔哩科技有限公司 | 绩效考核方法、服务器及绩效考核系统 |
| CN110955756A (zh) * | 2019-12-04 | 2020-04-03 | 中电福富信息科技有限公司 | 基于深度学习的特定领域不良信息检测方法 |
| CN113194106A (zh) * | 2021-07-02 | 2021-07-30 | 北京易华录信息技术股份有限公司 | 一种网络数据安全识别系统及方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1881209A (zh) * | 2006-01-21 | 2006-12-20 | 杨东 | 一种提高搜索结果可靠性的装置和方法 |
| CN101426257A (zh) * | 2008-11-21 | 2009-05-06 | 中国移动通信集团广东有限公司 | 基于移动通信网的不良信息治理系统和方法 |
-
2010
- 2010-12-01 CN CN 201010568013 patent/CN102012926A/zh active Pending
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1881209A (zh) * | 2006-01-21 | 2006-12-20 | 杨东 | 一种提高搜索结果可靠性的装置和方法 |
| CN101426257A (zh) * | 2008-11-21 | 2009-05-06 | 中国移动通信集团广东有限公司 | 基于移动通信网的不良信息治理系统和方法 |
Cited By (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9003530B2 (en) | 2011-11-30 | 2015-04-07 | Tencent Technology (Shenzhen) Company Limited | Information processing method, device, and server |
| CN103136255A (zh) * | 2011-11-30 | 2013-06-05 | 腾讯科技（深圳）有限公司 | 信息管理的方法和装置 |
| WO2013078868A1 (zh) * | 2011-11-30 | 2013-06-06 | 腾讯科技（深圳）有限公司 | 信息处理的方法、装置和服务器 |
| CN102938785A (zh) * | 2012-11-09 | 2013-02-20 | 李辉 | 用于搜索引擎的不良信息举报和处理办法 |
| CN104426685B (zh) * | 2013-08-21 | 2018-07-03 | 深圳市腾讯计算机系统有限公司 | 信息管理方法及装置 |
| CN104426685A (zh) * | 2013-08-21 | 2015-03-18 | 深圳市腾讯计算机系统有限公司 | 信息管理方法及装置 |
| CN103716690A (zh) * | 2013-12-27 | 2014-04-09 | 广州华多网络科技有限公司 | 多媒体直播举报的方法、终端、服务器及系统 |
| CN105828189A (zh) * | 2015-01-05 | 2016-08-03 | 任子行网络技术股份有限公司 | 一种多维度检测违规音视频节目的方法 |
| CN105828189B (zh) * | 2015-01-05 | 2018-10-23 | 任子行网络技术股份有限公司 | 一种多维度检测违规音视频节目的方法 |
| CN104618787A (zh) * | 2015-01-22 | 2015-05-13 | 深圳创维数字技术有限公司 | 一种节目播放方法和相关装置及系统 |
| CN106570034A (zh) * | 2015-10-12 | 2017-04-19 | 腾讯科技（深圳）有限公司 | 广告过滤方法、服务器及客户端 |
| CN105577663A (zh) * | 2015-12-22 | 2016-05-11 | 北京奇虎科技有限公司 | 一种举报信息的鉴别方法和装置 |
| TWI614717B (zh) * | 2016-10-21 | 2018-02-11 | 違法事件舉報系統及操作方法 | |
| CN108133306A (zh) * | 2017-11-17 | 2018-06-08 | 上海哔哩哔哩科技有限公司 | 绩效考核方法、服务器及绩效考核系统 |
| US10855803B2 (en) | 2017-11-17 | 2020-12-01 | Shanghai Bilibili Technology Co., Ltd. | Performance evaluation in a network community |
| CN110955756A (zh) * | 2019-12-04 | 2020-04-03 | 中电福富信息科技有限公司 | 基于深度学习的特定领域不良信息检测方法 |
| CN113194106A (zh) * | 2021-07-02 | 2021-07-30 | 北京易华录信息技术股份有限公司 | 一种网络数据安全识别系统及方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN102012926A (zh) | 一种可扩展的举报不良信息的方法与系统 | |
| Bedi | Facebook and interpersonal privacy: Why the third party doctrine should not apply | |
| Strandburg | Home, home on the web and other fourth amendment implications of technosocial change | |
| Kim et al. | Data governance framework for big data implementation with NPS Case Analysis in Korea | |
| Bonneau et al. | Prying data out of a social network | |
| US20080104021A1 (en) | Systems and methods for controlling access to online personal information | |
| White | E-mail@ work. com: Employer Monitoring of Employee E-mail | |
| CN103139155B (zh) | 举报信息的处理方法、设备及系统 | |
| US7805415B1 (en) | Systems and methods for sharing data between entities | |
| US20050154601A1 (en) | Information security threat identification, analysis, and management | |
| Bedi | Social networks, government surveillance, and the Fourth Amendment Mosaic Theory | |
| CN103067387B (zh) | 一种反钓鱼监测系统和方法 | |
| Chen et al. | Privacy issues and solutions in social network sites | |
| CN103745156B (zh) | 一种在搜索引擎中提示风险信息的方法和装置 | |
| CN107800686A (zh) | 一种钓鱼网站识别方法和装置 | |
| CN101699818B (zh) | 一种反垃圾邮件管理系统和方法 | |
| Broggi | Building on executive order 13, 636 to encourage information sharing for cybersecurity purposes | |
| Freiwald | At the Privacy Vanguard: California’s Electronic Communications Privacy Act (CalECPA) | |
| Urbas et al. | Resource materials on technology-enabled crime | |
| CN202075734U (zh) | 一种可扩展的举报不良信息的系统 | |
| Wang | Research on the protection of personal privacy of tourism consumers in the era of big data | |
| Subramanian | Computer security, privacy, and politics: current issues, challenges, and solutions | |
| CN104573539A (zh) | 数据访问的处理方法与装置 | |
| Chen et al. | Analysis of Internet Black Market in New Types of Cyber-related Crime–Taking Personal Information Transaction as an Example | |
| Shi | Incorporating information security in analysis of business strategy: a conceptual framework |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20110413 |