CN108304537A - 截留用户留言的方法和系统 - Google Patents

Abstract

本发明属于互联网技术领域，尤其涉及一种截留用户留言的方法和系统，其方法包括以下步骤：S1：获取用户留言；S2：对留言内容进行词汇检测，并在检测到留言不满足发表要求时，截留该留言并执行步骤S3；S3：判断步骤S2中截留的留言是否为恶意留言，若为恶意留言则删除该留言，否则执行步骤S4；S4：将该留言发送给管理端，接收管理端的调查结果并根据管理端的调查结果发表或删除该留言。本发明的优点在于能够在满足用户的诉求下竖立企业的正面形象，有利于企业的发展。

Description

截留用户留言的方法和系统

技术领域

本发明属于互联网技术领域，尤其涉及一种截留用户留言的方法和系统。

背景技术

目前在很多与用户包括消费者在与提供服务者交流的平台如社区论坛、商品评价或者留言平台，当用户发表基于事实或者不基于事实的对提供服务者产生负面影响的评价、留言或帖子时，这样的言论往往会在审核阶段被删除或者不允许通过，然而，如果是基于事实的留言，这样一刀切的做法往往会让提供服务者产生更大的负面影响，给用户留下不良印象。

为了解决上述技术问题，人们进行了长期的探索，例如中国专利公开了一种网络留言系统及留言过滤方法[申请号：CN200610140847.5]，包括用户接口、用户操作控制模块、生成验证码模块及后台管理系统，其中，用户接口，与用户操作控制模块和后台管理系统连接，负责将后台管理系统的数据按一定的模板组装成用户可见的页面，与用户的请求交互；用户操作控制模块，与用户接口及生成验证码模块相连，用于对留言的内容、浏览、发表等操作进行控制；生成验证码模块，与用户操作控制模块相连，用于产生验证码图片；所述后台管理系统包括连接模块、后台管理模块、数据库管理系统及提交管理模块，连接模块，连接用户接口到提交管理模块、数据库管理系统及后台管理模块，执行用户操作控制模块和后台传来的管理操作；后台管理模块：与连接模块相连，用于对信息进行控制管理；数据库管理系统：与连接模块相连，用于对数据的读写和控制操作；提交管理模块：与连接模块相连，用于对所有提交的留言内容进行管理和控制，并控制后台管理系统中的各个模块进行相应操作。

上述方案涉及到了用户留言的过滤方式：当检测到用户留言存在敏感或者非法词汇时过滤该留言，并将过滤原因及留言保存在服务器中以供后续参考，该方法能够较好地遏制垃圾留言，但是对于基于真实发表的留言也会被过滤掉，引起众多用户的不满，对服务提供者仍然会产生较大的负面影响。

发明内容

本发明的目的是针对上述问题，提供一种截留用户留言的方法；

本方案的另一目的是提供一种基于上述截留用户留言的方法的截留用户留言的系统。

为达到上述目的，本发明采用了下列技术方案：

本发明的截留用户留言的方法，包括以下步骤：

S1：获取用户留言；

S2：对留言内容进行词汇检测，并在检测到留言不满足发表要求时，截留该留言并执行步骤S3；

S3：判断步骤S2中截留的留言是否为恶意留言，若为恶意留言则删除该留言，否则执行步骤S4；

S4：将该留言发送给管理端，接收管理端的调查结果并根据管理端的调查结果发表或删除该留言。

通过上述技术方案，对截留的留言进一步进行恶意判断，然后再对通过恶意留言检测的留言交给审核人员审核以判断留言是否基于事实发表，并将基于事实发表的言论同后台给出的解决方案一同给出，满足了用户的诉求，并且在保证用户的负面言论不进一步扩大影响的情况下，却能够进一步提升企业的正面形象。

在上述的截留用户留言的方法中，在步骤S1之前，还包括以下步骤：

接收后台上传的敏感词和不利词，并将敏感词和不利词存入数据库中供步骤S2中对留言进行词汇检测时比对用。

在上述的截留用户留言的方法中，在步骤S3中，判断恶意留言的方法包括：

获取发表被截留留言的用户信息，根据用户信息调取该用户的恶意指数，并判断该用户的恶意指数是否达到阈值，若达到则删除该留言。

在上述的截留用户留言的方法中，在步骤S3和/或步骤S4删除留言的过程中，对每条被删除留言对应的用户信息进行恶意指数更新，并将更新后的结果保存至数据库。

在上述的截留用户留言的方法中，在接收后台上传的敏感词或不利词时同时接收后台对上传的敏感词或不利词备注的严重程度等级；在步骤S2中，检测用户的留言内容是否包含敏感词或不利词，如果包含则判断严重程度，当严重程度超过第一预设值时输出不满足发表要求的检测结果。

在上述的截留用户留言的方法中，严重程度的判断方法包括：

检测留言内容中的所有不利词和敏感词，对每一个不利词和敏感词进行等级叠加，最终的严重程度等级便是该留言内容的严重程度判断结果。

在上述的截留用户留言的方法中，在步骤S3中，判断恶意留言的方法包括：

判断被截留的留言严重程度是否超过第二预设值，若超过则判定该留言为恶意留言并将该留言删除。

在上述的截留用户留言的方法中，在步骤S4中，当管理端对留言的调查结果为符合事实时，接收管理端给出的解决方案，并将解决方案与留言一同发表。

一种基于上述截留用户留言的方法的截留用户留言的系统，包括服务器以及分别与服务器相连的用户接口、管理端和数据库，所述的服务器包括留言截留模块、恶意留言判断模块、留言删除模块和留言发表模块，其中，

留言截留模块，用于将不满足发表要求的留言进行截留；

恶意留言判断模块，用于对截留下来的留言进行恶意性判断；

留言删除模块，用于将判断结果为恶意留言的留言执行删除动作；

留言发表模块，用于将满足发表要求的留言进行发表；

管理端，用于供工作人员上传敏感词和/或不利词供留言截留模块作为截留留言的依据；用于接收判断为不是恶意留言的被截留留言供审核人员进行人工判断筛选；

数据库，用于保存管理端上传的敏感词和/或不利词；

用户接口，用于与用户进行交互。

在上述的截留用户留言的系统中，所述的服务器还包括事实留言发表模块和恶意指数更新模块，所述的数据库包括用户恶意指数模块，其中，

事实留言发表模块，用于将经过管理端审核的被截留留言连同管理端上传的解决方案一起发表；

用户恶意指数模块，用于保存用户恶意指数；

恶意指数更新模块，用于对被服务器自动删除和/或审核人员人工删除的留言对应的用户的恶意指数进行更新并将更新结果保存至用户恶意指数模块中。

本发明相较于现有技术具有以下优点：对用户留言有选择地进行删除，针对用户对本企业的不利留言时进一步剖析该言论的真实性，在真实性的前提下提出解决方案，并同留言一同发表以获取用户的理解保证用户的留言不进一步扩大影响的情况下进一步提升企业的正面形象。

附图说明

图1是本发明的方法流程图；

图2是本发明实施例一的方法流程图；

图3是本发明实施例一是否满足发表要求的判断方法；

图4是本发明实施例二的方法流程图；

图5是本发明实施例三的系统框图。

附图标记：服务器1；恶意留言判断模块11；恶意指数更新模块12；事实留言发表模块13；留言发表模块14；留言删除模块15；留言截留模块16；用户接口2；管理端3；数据库4；用户恶意指数模块41。

具体实施方式

虽然流程图将各项操作描述成顺序的处理，但是其中的许多操作可以被并行地、并发地或者同时实施。各项操作的顺序可以被重新安排。当其操作完成时处理可以被终止，但是还可以具有未包括在附图中的附加步骤。处理可以对应于方法、函数、规程、子例程、子程序等等。

这里所使用的术语“和/或”包括其中一个或更多所列出的相关联项目的任意和所有组合。当一个单元被称为“连接”或“耦合”到另一单元时，其可以直接连接或耦合到所述另一单元，或者可以存在中间单元。

这里所使用的术语仅仅是为了描述具体实施例而不意图限制示例性实施例。除非上下文明确地另有所指，否则这里所使用的单数形式“一个”、“一项”还意图包括复数。还应当理解的是，这里所使用的术语“包括”和/或“包含”规定所陈述的特征、整数、步骤、操作、单元和/或组件的存在，而不排除存在或添加一个或更多其他特征、整数、步骤、操作、单元、组件和/或其组合。

本发明的截留用户留言的方法和系统主要应用于互联网技术的留言筛选领域，现有技术中过于简单粗暴对待对提供服务者的负面言论，这种删除留言方式可能让提供服务者的高层不完全了解企业的产品在用户群体中的具体评价，如果不删除该留言，则原本只是小问题或者本来为恶意的留言因为展示而影响更多用户，对该企业形成负面影响，本发明在保证用户的负面留言不进一步扩大影响情况下，却能够进一步提升企业正面形象，解决了现有技术的留言过滤方法过于简单粗暴不利于企业发展等问题，以下是本发明的优选实施例并结合附图，对本发明的技术方案作进一步的描述，但本发明不限于这些实施例。

实施例一

图1为本发明步骤S1至步骤S4的基本方法。具体地，如图2所示，本实施例的截留用户留言的方法包括以下步骤：

S1：用户通过用户接口向服务器发起留言请求，服务器在接收到留言请求后获取用户留言；

S2：服务器对留言内容进行词汇检测，当有标题的时候同时对标题进行检测，并在检测到留言不满足发表要求时，截留该留言并执行步骤S3；这里的比对词汇由提供服务者或者说是后台管理人员在步骤S1之前在后台上传的敏感词和/或不利词，后台可以为后台终端，也可以为步骤S4中所说的管理端或者其他终端设备，服务器将敏感词和不利词存入数据库中供步骤S2中对留言内容进行词汇检测时比对用。

管理人员在上传敏感词或不利词时可以对上传的敏感词和不利词进行严重程度备注，若不备注则为默认值，本实施例采用分数的方式表示严重程度，默认值为1，例如，管理人员在上传“智障”这个敏感词时，就可以对该词备注严重程度为“10”，那么服务器在存储“智障”这个敏感词时同时以对应关系存储“10”这个严重程度值，再例如，管理人员上传“不负责”，同时备注“2”，那么服务器在存储“不负责”这个不利词时同时以对应关系存储“2”这个严重程度值；

进一步地，如图3所示，在步骤S2中，检测用户的留言内容是否包含敏感词或不利词，如果包含则判断严重程度，当严重程度超过第一预设值时输出检测结果为不满足发表要求。

具体地，严重程度的判断方法包括：

检测留言内容中的所有不利词和敏感词，对每一个不利词和敏感词进行等级叠加，最终的严重程度等级便是该留言内容的严重程度判断结果。

比如说，留言内容包含且只包含“智障”和“不负责”两个不利词或敏感词，那么这条留言的严重程度的判断结果就是“12”。

第一预设值由管理人员自行选择，可以选择100，那么当严重程度大于100时，该留言就是不满足发表要求的留言，管理人员可以将敏感程度最高的词备注为超过第一预设值，这样，只要留言中含有该词该流言就会被截留，例如，用户将第一预设值设置为9，那么凡是包含有“智障”这个词的留言就都会被截留。

当然，如果管理人员需要将凡是检测到含有敏感和/或不利词时就截留留言的话，只需要将所有上传的敏感词和不利词的备注都设置为大于第一预设值。

在将不满足发表要求的留言截留了以后针对这些截留下来的留言执行以下步骤：

S3：判断步骤S2中截留的留言是否为恶意留言，若为恶意留言则删除该留言，否则执行步骤S4；

具体地，在本实施例中，判断恶意留言的方法包括：

获取发表被截留留言的用户信息，根据用户信息调取该用户的恶意指数，并判断该用户的恶意指数是否达到阈值，若达到则删除该留言。

每个用户的初始恶意指数均为0，根据用户的历史留言判断用户的恶意并更新用户的恶意指数，例如，当一个用户的某一条留言因为存在敏感和/或不利词汇而被删除时，则判断该用户具有一定程度的恶意，因为不能凭一次或两次留言就断言某个用户本身存在恶意，所以本实施例采用多次留言累加的方式，例如，用户A因为发表了一条存在恶意的留言而被系统自动删除或者在人工筛选阶段被人工删除了，则对该用户对应的恶意指数做加一处理，就是说原本恶意指数为0的一个用户，因为发布了一条被删除的留言他对应的恶意指数就会更新为一。每次用户的留言被删除了，该用户的恶意指数均加一，当然，具体实施过程中，这里不限定加多少，只需要满足累加即可，被删除留言越多的用户其恶意指数也会越高。

恶意指数的阈值同样由管理人员设定，当管理人员设定阈值为10时，代表恶意指数超过10的用户被归入恶意用户一类，被截留的留言被检测为恶意用户所发就会被删除，本实施例中因为恶意指数到达阈值而被自动删除留言的用户对应的恶意指数不进行累加，避免恶意指数恶性累加给留言提交者带来困扰。

本实施例中对截留的留言判断为不是恶意留言后执行以下步骤：

S4：将该留言发送给管理端，由审核人调查清楚留言所提及的言论是否是事实，接收管理端的调查结果并根据管理端的调查结果发表或删除该留言。

如果不是事实，删除该留言，并对该用户的恶意指数值加一，同样地，这里所说的“一”也只是一个象征一，表示其恶意值增加，实际使用过程中可以为其他不同的数字；如果对留言的调查结果为符合事实时，由管理人员给出解决方案并上传至服务器，服务器将解决方案与留言一同发表，通过这样的方式避免了留言进一步对提供服务者产生更大的影响，而在该留言展示时又体现了提供服务者积极响应的形象，进而将该本来是危机的事件转化为不亚于扩大企业正面形象事件。

在步骤S4删除留言的过程中，对每条被删除留言对应的用户信息进行恶意指数更新，并将更新后的结果保存至数据库。

实施例二

如图4所示，本实施例与实施例一类似，不同之处在于，本实施例中判断恶意留言的方法包括：

判断被截留的留言严重程度是否超过第二预设值，若超过则判定该留言为恶意留言并将该留言删除，若不超过则将该留言发送给管理端，有审核人员进行审核。

就是说当一条留言中有较多的敏感词和不利词时，系统自动判断为恶意留言。

当然管理人员也可以设置带有性质较为严重的侮辱性词汇的留言直接纳入过滤范畴，就是说直接将侮辱性词汇的严重程度备注为超过第二预设值，那么只要留言中含有侮辱性词汇就会被直接删除。

本实施例中，在判断一个留言是否为恶意用户发表之前，先对留言进行初步判断，对于一些性质比较恶劣的留言直接进行删除，以节省后续人工审核的劳动力，这里由系统自动执行删除动作，系统自行执行的删除动作对相应的用户可以不计入恶意指数累加，当然也可以计入恶意指数的累加，由于机器判断留言的恶意情况可能会比人工判断存在相对较大的误差，所以它累加的数值相对于人工判断为恶意留言而被删除所累加的恶意值小，比如说，当一条留言在本步骤中被系统筛选出来并且删除时，该留言对应的用户的恶意指数在原来的基础上加1，但是，如果该留言是在人工筛选步骤中被审核人员人工筛选出来删除的话，该留言对应的用户的恶意指数就会在原来的基础上加5，当然，这里的“1”和“5”只是两个事例，在具体实施过程中，管理人员可以根据需要设定恶意值增加的数值。

实施例三

如图5所示，本实施例公开了一种基于上述截留用户留言的方法的截留用户留言的系统，包括服务器1以及分别与服务器1相连的用户接口2、管理端3和数据库4，服务器1包括留言截留模块16、恶意留言判断模块11、留言删除模块15和留言发表模块14，其中，

留言截留模块16，用于将不满足发表要求的留言进行截留；

恶意留言判断模块11，用于对截留下来的留言进行恶意性判断，包括判断留言的严重程度是否超过第二阈值，以及判断发表该留言的用户是否为恶意值达到阈值的恶意用户；

留言删除模块15，用于将判断结果为恶意留言的留言执行删除动作；

留言发表模块14，用于将满足发表要求的留言进行发表；

管理端3，用于供工作人员上传敏感词和/或不利词供留言截留模块16作为截留留言的依据；用于接收判断为不是恶意留言的被截留留言供审核人员进行人工判断筛选；

数据库4，用于保存管理端上传的敏感词和/或不利词；

用户接口2，用于与用户进行交互。

进一步地，服务器1还包括事实留言发表模块13和恶意指数更新模块12，数据库4包括用户恶意指数模块41，其中，

事实留言发表模块13，用于将经过管理端审核的被截留留言连同管理端上传的解决方案一起发表；

用户恶意指数模块41，用于保存用户恶意指数；

恶意指数更新模块12，用于对被服务器自动删除和/或审核人员人工删除的留言对应的用户的恶意指数进行更新并将更新结果保存至用户恶意指数模块41中。

本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

尽管本文较多地使用了服务器1；恶意留言判断模块11；恶意指数更新模块12；事实留言发表模块13；留言发表模块14；留言删除模块15；留言截留模块16；用户接口2；管理端3；数据库4；用户恶意指数模块41等术语，但并不排除使用其它术语的可能性。使用这些术语仅仅是为了更方便地描述和解释本发明的本质；把它们解释成任何一种附加的限制都是与本发明精神相违背的。

Claims (10)

1.一种截留用户留言的方法，其特征在于，包括以下步骤：

S1：获取用户留言；

S2：对留言内容进行词汇检测，并在检测到留言不满足发表要求时，截留该留言并执行步骤S3；

S3：判断步骤S2中截留的留言是否为恶意留言，若为恶意留言则删除该留言，否则执行步骤S4；

S4：将该留言发送给管理端(3)，接收管理端(3)的调查结果并根据管理端(3)的调查结果发表或删除该留言。

2.根据权利要求1所述的截留用户留言的方法，其特征在于，在步骤S1之前，还包括以下步骤：

接收后台上传的敏感词和不利词，并将敏感词和不利词存入数据库(4)中供步骤S2中对留言内容进行词汇检测时比对用。

3.根据权利要求2所述的截留用户留言的方法，其特征在于，在步骤S3中，判断恶意留言的方法包括：

获取发表被截留留言的用户信息，根据用户信息调取该用户的恶意指数，并判断该用户的恶意指数是否达到阈值，若达到则删除该留言。

4.根据权利要求3所述的截留用户留言的方法，其特征在于，在步骤S3和/或步骤S4删除留言的过程中，对每条被删除留言对应的用户进行恶意指数更新，并将更新后的结果保存至数据库(4)。

5.根据权利要求2-4任意一项所述的截留用户留言的方法，其特征在于，在接收后台上传的敏感词或不利词时同时接收后台对上传的敏感词或不利词备注的严重程度等级；在步骤S2中，检测用户的留言内容是否包含敏感词或不利词，如果包含则判断严重程度，当严重程度超过第一预设值时输出不满足发表要求的检测结果。

6.根据权利要求5所述的截留用户留言的方法，其特征在于，严重程度的判断方法包括：

检测留言内容中的所有不利词和敏感词，对每一个不利词和敏感词进行等级叠加，最终的严重程度等级便是该留言内容的严重程度判断结果。

7.根据权利要求6所述的截留用户留言的方法，其特征在于，在步骤S3中，判断恶意留言的方法包括：

判断被截留的留言严重程度是否超过第二预设值，若超过则判定该留言为恶意留言并将该留言删除。

8.根据权利要求7所述的截留用户留言的方法，其特征在于，在步骤S4中，当管理端(3)对留言的调查结果为符合事实时，接收管理端(3)给出的解决方案，并将解决方案与留言一同发表。

9.一种基于权利要求1-8任意一项所述的截留用户留言的方法的截留用户留言的系统，其特征在于，包括服务器(1)以及分别与服务器(1)相连的用户接口(2)、管理端(3)和数据库(4)，所述的服务器(1)包括留言截留模块(16)、恶意留言判断模块(11)、留言删除模块(15)和留言发表模块(14)，其中，

留言截留模块(16)，用于将不满足发表要求的留言进行截留；

恶意留言判断模块(11)，用于对截留下来的留言进行恶意性判断；

留言删除模块(15)，用于将判断结果为恶意留言的留言执行删除动作；

留言发表模块(14)，用于将满足发表要求的留言进行发表；

管理端(3)，用于供工作人员上传敏感词和/或不利词供留言截留模块(16)作为截留留言的依据；用于接收判断为不是恶意留言的被截留留言供审核人员进行人工判断筛选；

数据库(4)，用于保存管理端(3)上传的敏感词和/或不利词；

用户接口(2)，用于与用户进行交互。

10.根据权利要求8所述的截留用户留言的系统，其特征在于，所述的服务器(1)还包括事实留言发表模块(13)和恶意指数更新模块(12)，所述的数据库(4)包括用户恶意指数模块(41)，其中，

事实留言发表模块(13)，用于将经过管理端(3)审核的被截留留言连同管理端(3)上传的解决方案一起发表；

用户恶意指数模块(41)，用于保存用户恶意指数；

恶意指数更新模块(12)，用于对被服务器(1)自动删除和/或审核人员人工删除的留言对应的用户的恶意指数进行更新并将更新结果保存至用户恶意指数模块(41)中。