CN107846343A - 一种灵活的聊天室实时净化方法及聊天系统 - Google Patents

一种灵活的聊天室实时净化方法及聊天系统 Download PDF

Info

Publication number
CN107846343A
CN107846343A CN201610825870.1A CN201610825870A CN107846343A CN 107846343 A CN107846343 A CN 107846343A CN 201610825870 A CN201610825870 A CN 201610825870A CN 107846343 A CN107846343 A CN 107846343A
Authority
CN
China
Prior art keywords
chat
user
violation
purification
chat message
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610825870.1A
Other languages
English (en)
Inventor
郭荆玮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN201610825870.1A priority Critical patent/CN107846343A/zh
Publication of CN107846343A publication Critical patent/CN107846343A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/212—Monitoring or handling of messages using filtering or selective blocking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/04—Real-time or near real-time messaging, e.g. instant messaging [IM]
    • H04L51/046—Interoperability with other network applications or services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/06—Message adaptation to terminal or network requirements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/224—Monitoring or handling of messages providing notification on incoming messages, e.g. pushed notifications of received messages

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明提供一种灵活的聊天室实时净化方法及聊天系统，用以解决现有的聊天系统对聊天内容管理过松或过严，以及对用户的禁言不够及时的问题。本发明方法包括：根据预设的判断规则来判断用户聊天行为的违规情况，只要符合某一违规情况就进行相应的违规处理，根据不同的违规情况来实时地进行不同的违规处理。本发明系统包括：数据库模块，用于存储规定的违规信息，被屏蔽的用户，并用来记录用户的违规情况；聊天服务器设置模块，用于管理员进行聊天服务器的净化配置；聊天信息处理模块。本发明通过记录用户的违规情况让管理员能够根据违规情况进行灵活处理，且通过违规信息实时通知和实时设置净化配置能够达到及时净化聊天环境的目的。

Description

一种灵活的聊天室实时净化方法及聊天系统
技术领域
本发明涉及互联网领域，特别涉及一种网上聊天系统。
背景技术
随着互联网的普及，网上聊天工具和网上聊天系统越来越普及。目前的聊天系统在净化网络环境方面都各有缺陷：有的聊天系统对聊天内容不加以任何限制，使得各种黄色内容，广告充斥其中。也有一些聊天系统对聊天内容限制过多，管理过严，导致很多正常的内容被误删，正常的用户被禁言。也有一些聊天系统对用户的禁言不够及时，等到管理员处理之时影响已经造成。
发明内容
本发明提供一种灵活的聊天室实时净化方法及聊天系统，用以解决现有的聊天系统对聊天内容管理过松或过严，以及对用户的禁言不够及时的问题。
为解决所述问题，本发明是通过以下技术方案来实现的：一种灵活的聊天室实时净化方法，其特征在于，所述方法包括以下步骤：根据预设的判断规则来判断用户聊天行为的违规情况，只要符合某一违规情况就进行相应的违规处理，根据不同的违规情况来实时地进行不同的违规处理。
所述预设的判断规则包括但不限于下述一种或多种：用户发送的聊天信息中含有违规信息；用户重复发送同一内容的聊天信息；用户短时间内发送大量的聊天信息。
所述违规信息包括但不限于下述一种或多种：国家法律法规不允许发布的信息；违反社会道德，不文明的信息；运营方不允许发布的信息。
用户重复发送同一内容的聊天信息的情况包括但不限于下述一种或多种：用户重复向同一用户或群体发送同一内容的聊天信息；用户重复向不同的用户或群体发送同一内容的聊天信息；用户重复在不同的聊天室发送同一内容的聊天信息。
用户短时间内发送大量的聊天信息的情况包括但不限于下述一种或多种：用户短时间内向同一用户或群体发送大量的聊天信息；用户短时间内向不同的用户或群体发送大量的聊天信息；用户短时间内在不同的聊天室发送大量的聊天信息。
所述实时地进行不同的违规处理包括但不限于下述一种或多种：屏蔽聊天信息；记录用户的违规情况，留待人工判断处理；直接禁言用户；实时通知管理员违规情况，让管理员加以判断后进行实时地处理。
所述屏蔽聊天信息的方法包括但不限于下述几种：将聊天信息里面的违规信息加密后显示；屏蔽整个聊天信息。
所述实时通知管理员违规情况的方案包括但不限于下述几种：电子邮件通知；短信通知；微信通知。
所述实时地处理的实现方案为：聊天服务器设置应用向聊天服务器发送聊天净化配置请求；聊天服务器收到聊天净化配置请求后更改聊天服务器内部的聊天净化配置；聊天服务器根据新的聊天净化配置响应用户发送的聊天信息。
所述聊天净化配置请求包括但不限于以下几种：增加指定的违规信息；减少指定的违规信息；禁言某用户；取消禁言某用户。
同时，为解决所述问题，本发明提供了一种灵活的实时净化聊天系统，该系统包括：数据库模块、聊天服务器设置模块、聊天信息处理模块。
所述数据库模块用于存储规定的违规信息，被屏蔽的用户，并用来记录用户的违规情况，每个聊天服务器启动时都会从数据库模块加载系统规定的违规信息和当前被屏蔽的用户。
所述聊天服务器设置模块用于管理员进行聊天服务器的净化配置，其实现方案为：管理员向聊天服务器设置模块发送设置命令；聊天服务器设置模块根据命令更改数据库模块中存储的违规信息或被屏蔽的用户；聊天服务器设置模块轮询各已启动的聊天服务器发送聊天净化配置请求；各聊天服务器收到请求后根据新的聊天净化配置响应用户发送的聊天信息。
所述聊天信息处理模块用于响应用户发送的聊天信息，其具体方案为：聊天信息处理模块收到聊天用户发送的聊天信息；聊天信息处理模块检查聊天用户是否为被屏蔽的用户，如果为被屏蔽的用户则不进行后续处理；聊天信息处理模块根据预设的判断规则来判断用户聊天行为的违规情况，若存在违规情况则根据不同的违规情况来实时地进行不同的违规处理，若不存在违规情况则向聊天信息所指定的单个或多个对象发送该聊天信息。
本发明的有益效果在于：不同于某些系统综合用户的发言行为进行统一的违规处理，本发明能够根据用户的违规情况进行不同的违规处理，而且本发明通过记录用户的违规情况让管理员能够根据违规情况进行灵活处理，避免了现有系统管理过严或者过松的问题；此外，本发明通过违规信息实时通知和实时设置净化配置能够达到及时净化聊天环境的目的。并且，不同于某些系统将一些屏蔽行为放在聊天客户端，本发明将对聊天信息的净化处理都放在服务器端，虽然增加了服务器的负担，但也避免了非法用户通过绕过客户端屏蔽系统向服务器发送违规信息的方式成功发送违规信息的可能性，同时也避免了改变服务器净化配置时需要向各客户端传递配置信息的复杂性。
附图说明
图1为聊天服务器对聊天信息的处理过程。
图2为聊天系统的结构示意图。
具体实施方式
下面结合附图对本发明进行详细描述。
图1为聊天服务器对聊天信息的具体处理过程，包括如下步骤：
S101、判断聊天用户是否是被屏蔽的用户，聊天服务器保存所有被屏蔽用户的列表，根据在该列表中查找是否存在该用户来判断该用户是否被屏蔽，如果该用户是被屏蔽的用户，则屏蔽该聊天信息，否则进入步骤S102；
S102、判断聊天用户是否重复发送同一内容的聊天信息，聊天服务器记录用户在1分钟内的所有聊天信息，比较1分钟内的历史聊天信息是否存在和新发送的聊天信息内容相同的信息，若存在，则认为用户重复发送同一内容的聊天信息，屏蔽该聊天信息并记录违规情况，否则进入步骤S103；
S103、判断聊天用户是否短时间内发送大量的聊天信息，聊天服务器记录用户在1分钟内的所有聊天信息，当聊天信息达到5条，则认为聊天用户在短时间内发送了大量的聊天信息，屏蔽该聊天信息并记录违规情况，否则进入步骤S104；
S104、判断聊天信息中是否含有违规信息，聊天服务器保存所有被违规信息的列表，依次查询各违规信息是否包含在聊天信息中来判断聊天信息中是否含有违规信息，如果该聊天信息中含有违规信息则将该聊天信息中的所有违规内容替换为“***”并进入步骤S105，否则直接进入步骤S105；
S105、将聊天信息发送给指定的对象。
图2为聊天系统的结构示意图，包括如下模块：
数据库模块，用于存储规定的违规信息，被屏蔽的用户，并用来记录用户的违规情况，聊天服务器1、聊天服务器2和聊天服务器3启动时都会从数据库模块加载系统规定的违规信息和当前被屏蔽的用户；
聊天服务器设置模块，用于管理员进行聊天服务器的净化配置，假设管理员认为“充值”需要被定义为违规信息，但当前“充值”并不是违规信息，则管理员向聊天服务器设置模块发送将“充值”设置为违规信息的命令；聊天服务器设置模块将“充值”加入数据库模块中存储的违规信息列表中，这样各聊天服务器启动时就能获取到更新过的违规信息列表；接着聊天服务器设置模块分别对聊天服务器1、聊天服务器2和聊天服务器3发送将“充值”设置为违规信息的请求；各聊天服务器收到请求后则会屏蔽包含“充值”的聊天信息；
聊天信息处理模块，用于响应用户发送的聊天信息，即图2中的聊天服务器1、聊天服务器2和聊天服务器3，它们启动时从数据库模块加载系统规定的违规信息和当前被屏蔽的用户，并根据系统的设定来响应聊天用户发送来的聊天信息，此外各聊天服务器还需响应聊天服务器设置模块发送的聊天净化配置请求，实时的根据新的违规信息列表和被屏蔽的用户列表来响应聊天用户发送来的聊天信息。
本发明所属领域的技术人员可以对上述实施方式进行适当的变更和修改。因此，本发明并不局限于上面揭示和描述的具体实施方式，对本发明的一些修改和变更也应当落入本发明的权利要求的保护范围内。此外，尽管本说明书中使用了一些特定的术语，但这些术语只是为了方便说明，并不对本发明构成任何限制。

Claims (14)

1.一种灵活的聊天室实时净化方法，其特征在于，包括以下步骤：
根据预设的判断规则来判断用户聊天行为的违规情况，只要符合某一违规情况就进行相应的违规处理，根据不同的违规情况来实时地进行不同的违规处理。
2.如权利要求1所述灵活的聊天室实时净化方法，其特征在于，所述预设的判断规则包括但不限于下述一种或多种：用户发送的聊天信息中含有违规信息；用户重复发送同一内容的聊天信息；用户短时间内发送大量的聊天信息。
3.如权利要求2所述预设的判断规则，其特征在于，所述违规信息包括但不限于下述一种或多种：国家法律法规不允许发布的信息；违反社会道德，不文明的信息；运营方不允许发布的信息。
4.如权利要求2所述预设的判断规则，其特征在于，所述用户重复发送同一内容的聊天信息的情况包括但不限于下述一种或多种：用户重复向同一用户或群体发送同一内容的聊天信息；用户重复向不同的用户或群体发送同一内容的聊天信息；用户重复在不同的聊天室发送同一内容的聊天信息。
5.如权利要求2所述预设的判断规则，其特征在于，所述用户短时间内发送大量的聊天信息的情况包括但不限于下述一种或多种：用户短时间内向同一用户或群体发送大量的聊天信息；用户短时间内向不同的用户或群体发送大量的聊天信息；用户短时间内在不同的聊天室发送大量的聊天信息。
6.如权利要求1所述灵活的聊天室实时净化方法，其特征在于，所述实时地进行不同的违规处理包括但不限于下述一种或多种：屏蔽聊天信息；记录用户的违规情况，留待人工判断处理；直接禁言用户；实时通知管理员违规情况，让管理员加以判断后进行实时地处理。
7.如权利要求6所述实时地进行不同的违规处理，其特征在于，所述屏蔽聊天信息的方法包括但不限于下述几种：将聊天信息里面的违规信息加密后显示；屏蔽整个聊天信息。
8.如权利要求6所述实时地进行不同的违规处理，其特征在于，所述实时通知管理员违规情况的方案包括但不限于下述几种：电子邮件通知；短信通知；微信通知。
9.如权利要求6所述实时地进行不同的违规处理，其特征在于，所述实时地处理的实现方案为：聊天服务器设置应用向聊天服务器发送聊天净化配置请求；聊天服务器收到聊天净化配置请求后更改聊天服务器内部的聊天净化配置；聊天服务器根据新的聊天净化配置响应用户发送的聊天信息。
10.如权利要求9所述实时地处理的实现方案，其特征在于，所述聊天净化配置请求包括但不限于以下几种：增加指定的违规信息；减少指定的违规信息；禁言某用户；取消禁言某用户。
11.一种灵活的实时净化聊天系统，其特征在于，包括下述模块：数据库模块、聊天服务器设置模块、聊天信息处理模块。
12.如权利要求11所述灵活的实时净化聊天系统，其特征在于，所述数据库模块用于存储规定的违规信息，被屏蔽的用户，并用来记录用户的违规情况，每个聊天服务器启动时都会从数据库模块加载系统规定的违规信息和当前被屏蔽的用户。
13.如权利要求11所述灵活的实时净化聊天系统，其特征在于，所述聊天服务器设置模块用于管理员进行聊天服务器的净化配置，其实现方案为：管理员向聊天服务器设置模块发送设置命令；聊天服务器设置模块根据命令更改数据库模块中存储的违规信息或被屏蔽的用户；聊天服务器设置模块轮询各已启动的聊天服务器发送聊天净化配置请求；各聊天服务器收到请求后根据新的聊天净化配置响应用户发送的聊天信息。
14.如权利要求11所述灵活的实时净化聊天系统，其特征在于，所述聊天信息处理模块用于响应用户发送的聊天信息，其具体方案为：聊天信息处理模块收到聊天用户发送的聊天信息；聊天信息处理模块检查聊天用户是否为被屏蔽的用户，如果为被屏蔽的用户则不进行后续处理；聊天信息处理模块根据预设的判断规则来判断用户聊天行为的违规情况，若存在违规情况则根据不同的违规情况来实时地进行不同的违规处理，若不存在违规情况则向聊天信息所指定的单个或多个对象发送该聊天信息。
CN201610825870.1A 2016-09-18 2016-09-18 一种灵活的聊天室实时净化方法及聊天系统 Pending CN107846343A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610825870.1A CN107846343A (zh) 2016-09-18 2016-09-18 一种灵活的聊天室实时净化方法及聊天系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610825870.1A CN107846343A (zh) 2016-09-18 2016-09-18 一种灵活的聊天室实时净化方法及聊天系统

Publications (1)

Publication Number Publication Date
CN107846343A true CN107846343A (zh) 2018-03-27

Family

ID=61656482

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610825870.1A Pending CN107846343A (zh) 2016-09-18 2016-09-18 一种灵活的聊天室实时净化方法及聊天系统

Country Status (1)

Country Link
CN (1) CN107846343A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108970123A (zh) * 2018-07-16 2018-12-11 网易（杭州）网络有限公司 游戏中干扰信息的发送方法及装置、电子设备
CN113010708A (zh) * 2021-03-11 2021-06-22 上海麦糖信息科技有限公司 针对违规朋友圈内容以及违规聊天内容的审核方法及系统
CN117793043A (zh) * 2024-01-06 2024-03-29 广州微阿信息技术有限公司 一种聊天内容审核处理方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103795612A (zh) * 2014-01-15 2014-05-14 五八同城信息技术有限公司 即时通讯中的垃圾和违法信息检测方法
CN105225157A (zh) * 2015-09-15 2016-01-06 珠海赞友科技有限公司 一种净化社交软件聊天内容的方法
CN105262672A (zh) * 2015-08-31 2016-01-20 小米科技有限责任公司 群内防骚扰方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103795612A (zh) * 2014-01-15 2014-05-14 五八同城信息技术有限公司 即时通讯中的垃圾和违法信息检测方法
CN105262672A (zh) * 2015-08-31 2016-01-20 小米科技有限责任公司 群内防骚扰方法及装置
CN105225157A (zh) * 2015-09-15 2016-01-06 珠海赞友科技有限公司 一种净化社交软件聊天内容的方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108970123A (zh) * 2018-07-16 2018-12-11 网易（杭州）网络有限公司 游戏中干扰信息的发送方法及装置、电子设备
CN113010708A (zh) * 2021-03-11 2021-06-22 上海麦糖信息科技有限公司 针对违规朋友圈内容以及违规聊天内容的审核方法及系统
CN113010708B (zh) * 2021-03-11 2023-08-25 上海麦糖信息科技有限公司 针对违规朋友圈内容以及违规聊天内容的审核方法及系统
CN117793043A (zh) * 2024-01-06 2024-03-29 广州微阿信息技术有限公司 一种聊天内容审核处理方法及系统

Similar Documents

Publication Publication Date Title
CN102307243B (zh) 用于基于存在属性的存在通知的系统和方法
CN1316325C (zh) 服务器
US8140528B2 (en) Method and system for managing discourse in a virtual community
US8473493B2 (en) System and method for selective information and resource sharing
CN104461239B (zh) 一种信息交互方法和装置
US9032038B2 (en) Recipient control system for ensuring non-conflicting and comprehensive distribution of digital information and method thereof
CN107846343A (zh) 一种灵活的聊天室实时净化方法及聊天系统
CN102622696B (zh) 一种客服回访的方法和装置
CN104221039A (zh) 呈现来自多个周界的元数据
CN102567454A (zh) 实现云计算环境中数据的粒度自主访问控制的方法和系统
CN101556669A (zh) 利用人机交互技术与用户进行个性化营销的方法和设备
US8166113B2 (en) Access limited EMM distribution lists
CN108256721A (zh) 一种任务调度方法、终端设备及介质
CN108762846B (zh) 插件化实时推荐方法、服务器及计算机可读存储介质
CN101753474A (zh) 用于电子邮件的处理方法和系统
CN102893296B (zh) 在合作式环境中选择性地控制信息流
CN110519151B (zh) 可控好友添加方法、装置、终端设备及存储介质
CN108933760B (zh) 安全业务控制方法和系统
CN116756711A (zh) 数据处理方法、装置、设备以及介质
CN109936500A (zh) 一种数据交互方法、数据交互装置及电子设备
CN107911285A (zh) 一种即时消息屏蔽方法
CA2543739A1 (en) Protection from undesirable messages
AU2016282201A1 (en) Object management system
CN107682362B (zh) 一种信息流控制方法及装置
CN113127809A (zh) 产品许可管理方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20180327

WD01 Invention patent application deemed withdrawn after publication