CN104580529A - 一种信息审核方法及装置 - Google Patents
一种信息审核方法及装置 Download PDFInfo
- Publication number
- CN104580529A CN104580529A CN201510056359.5A CN201510056359A CN104580529A CN 104580529 A CN104580529 A CN 104580529A CN 201510056359 A CN201510056359 A CN 201510056359A CN 104580529 A CN104580529 A CN 104580529A
- Authority
- CN
- China
- Prior art keywords
- user
- information
- white list
- setting
- flame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/10—Network architectures or network communication protocols for network security for controlling access to devices or network resources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/12—Applying verification of the received information
Abstract
本发明实施例提供一种信息审核方法及装置,其中方法包括:获取用户提交的待发布信息;判断所述用户是否为预设的用户白名单中记录的白名单用户,所述白名单用户所提交的待发布信息可不经审核发布;若所述用户为所述白名单用户,将所述待发布信息导入可发布信息数据库中进行发布;若所述用户为非白名单用户,将所述待发布信息导入待审核信息数据库中,以采用不良信息过滤系统对所述待发布信息进行审核。发明可减少平台服务器的工作量,降低平台运营成,同时提升白名单用户的信息发布速度。
Description
技术领域
本发明涉及信息处理技术领域,具体涉及一种信息审核方法及装置。
背景技术
随着电子商务的兴起,越来越多的用户选择入住电子商务平台在网上出售自己的商品,入住平台的用户为了更好的宣传销售自己的商品,往往会在平台上发布大量的商品信息,平台日均发布的商品信息数量越来越多。为了避免不法用户借此机会试图发布一些违反国家规定的不良信息(例如涉黄、毒、赌、暴力恐怖等的商品信息),平台需要对用户提交至平台的待发布的商品信息进行审核,以保证违反国家规定的不良信息不会被发布。
目前平台主要通过不良信息过滤系统判断用户提交至平台的待发布信息中是否存在不良内容,来实现对用户提交的待发布商品信息的审核,只有通过不良信息过滤系统检测的信息才可被发布;这种信息审核方式虽然可保证违反国家规定的不良信息不会被发布,但平台需要对每个用户每次提交的信息进行审核,将导致平台服务器的工作量加大,提升平台运营成本,同时合法用户提交至平台的待发布信息也需逐个审核后才可发布,延缓了合法用户的信息发布速度。
发明内容
有鉴于此,本发明实施例提供一种信息审核方法及装置,以解决现有待发布信息的审核方式所存在的平台服务器的工作量加大,提升平台运营成本,及延缓合法用户的信息发布速度的问题。
为实现上述目的,本发明实施例提供如下技术方案:
一种信息审核方法,应用于平台服务器,所述方法包括:
获取用户提交的待发布信息;
判断所述用户是否为预设的用户白名单中记录的白名单用户,所述白名单用户所提交的待发布信息可不经审核发布;
若所述用户为所述白名单用户,将所述待发布信息导入可发布信息数据库中进行发布;
若所述用户为非白名单用户,将所述待发布信息导入待审核信息数据库中,以采用不良信息过滤系统对所述待发布信息进行审核。
其中,所述预设的用户白名单的生成过程包括:
获取用户提交的加入用户白名单的申请;
判断所述用户的经营资质是否合格;
若所述用户的经营资质合格,判断所述用户在设定时间段内的不良信息提交率是否低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数是否均在设定数值范围内,其中所述设定时间段由若干个设定周期构成;
若所述用户在设定时间段内的不良信息发布率低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数均在设定数值范围内,则将所述用户加入到用户白名单中,确定所述用户为白名单用户。
其中,所述用户在所述设定时间段内提交的待发布信息均由不良信息过滤系统进行审核;所述判断所述用户在设定时间段内的不良信息提交率是否低于阈值包括:
从信息统计数据库中,调取所述用户在所述设定时间段内提交的信息总数,及所述用户在所述设定时间段内所提交的信息中被不良信息过滤系统检测为不良信息的不良信息数;所述信息统计数据库记录有各用户提交的信息数,不良信息数及信息提交时间;
将所述不良信息数除以所述信息总数得到计算结果,并将所述计算结果乘以百分之百,得到所述用户在设定时间段内的不良信息提交率;
判断所述不良信息提交率是否低于阈值。
其中,所述判断所述用户在设定时间段内每个设定周期的信息发布数是否均在设定数值范围内包括:
从信息统计数据库中,调取所述用户在设定时间段内的各设定周期所发布的信息数量;所述信息统计数据库还记录有各用户发布的信息数及信息发布时间;
判断各设定周期所发布的信息数量,是否均在设定数值范围内。
其中,所述信息审核方法还包括:
采用不良信息过滤系统,定期对白名单用户已发布的信息进行抽样审核;
若检测到存在发布不良信息的白名单用户,则将发布不良信息的白名单用户从所述用户白名单中移除,调整为非白名单用户。
其中,所述信息审核方法还包括:
获取投诉白名单用户发布不良信息的投诉信息;
根据所述投诉信息,对被投诉的白名单用户所发布的信息进行审核;
若检测到被投诉的白名单用户所发布的信息为不良信息,则将被投诉的白名单用户从所述用户白名单中移除,调整为非白名单用户。
其中,所述信息审核方法还包括:
若采用不良信息过滤系统对所述待发布信息进行审核后,检测到所述待发布信息为不良信息,则通知所述用户对所述待发布信息进行修改或删除;
若采用不良信息过滤系统对所述待发布信息进行审核后,检测到所述待发布信息为非不良信息,则将所述待发布信息导入可发布信息数据库中进行发布。
本发明实施例还提供一种信息审核装置,应用于平台服务器,所述装置包括:
信息获取模块,用于获取用户提交的待发布信息;
判定模块,用于判断所述用户是否为预设的用户白名单中记录的白名单用户,所述白名单用户所提交的待发布信息可不经审核发布;
发布模块,用于若所述用户为所述白名单用户,将所述待发布信息导入可发布信息数据库中进行发布;
审核模块,用于若所述用户为非白名单用户,将所述待发布信息导入待审核信息数据库中,以采用不良信息过滤系统对所述待发布信息进行审核。
其中,所述信息审核装置还包括:
白名单生成模块,用于获取用户提交的加入用户白名单的申请;判断所述用户的经营资质是否合格;若所述用户的经营资质合格,判断所述用户在设定时间段内的不良信息提交率是否低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数是否均在设定数值范围内,其中所述设定时间段由若干个设定周期构成;若所述用户在设定时间段内的不良信息发布率低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数均在设定数值范围内,则将所述用户加入到用户白名单中,确定所述用户为白名单用户。
其中,所述信息审核装置还包括:
定期抽审模块,用于采用不良信息过滤系统,定期对白名单用户已发布的信息进行抽样审核;若检测到存在发布不良信息的白名单用户,则将发布不良信息的白名单用户从所述用户白名单中移除,调整为非白名单用户;
和/或,投诉处理模块,用于获取投诉白名单用户发布不良信息的投诉信息;根据所述投诉信息,对被投诉的白名单用户所发布的信息进行审核;若检测到被投诉的白名单用户所发布的信息为不良信息,则将被投诉的白名单用户从所述用户白名单中移除,调整为非白名单用户。
基于上述技术方案,本发明实施例提供的信息审核方法中,平台服务器可以预设用户白名单,用户白名单中记录的白名单用户所提交的待发布信息可不经审核发布;平台服务器在获取用户提交的待发布信息后,可判断提交待发布信息的用户是否为白名单用户;若是,则将所述待发布信息导入可发布信息数据库中进行发布,免去不良信息过滤系统的审核,提升白名单用户的信息发布速度;若否,则将所述待发布信息导入待审核信息数据库中,采用不良信息过滤系统对所述待发布信息进行审核,保证非白名单用户发布的不良信息不会被发布。可以看出,本发明实施例通过设置用户白名单,平台服务器可对非白名单用户所提交的待发布信息进行审核,而对于白名单用户,由于白名单用户为验证通过的合法用户,因此白名单用户发布不良信息的可能性非常小,可对白名单用户所提交的待发布信息直接发布,免去审核;从而实现减少平台服务器的工作量,降低平台运营成本,同时提升白名单用户的信息发布速度的目的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的信息审核方法的流程图;
图2为本发明实施例提供的用户白名单的生成方法流程图;
图3为本发明实施例提供的判断不良信息提交率是否低于阈值的方法流程图;
图4为本发明实施例提供的设定周期的信息发布数是否均在设定数值范围的方法流程图;
图5为本发明实施例提供的白名单用户的管理方法流程图;
图6为本发明实施例提供的白名单用户的管理方法的另一流程图;
图7为本发明实施例提供的信息审核方法的另一流程图;
图8为本发明实施例提供的信息审核装置的结构框图;
图9为本发明实施例提供的信息审核装置的另一结构框图;
图10为本发明实施例提供的白名单生成模块的结构框图;
图11为本发明实施例提供的白名单生成模块的另一结构框图;
图12为本发明实施例提供的信息审核装置的再一结构框图;
图13为本发明实施例提供的信息审核装置的又一结构框图;
图14为本发明实施例提供的信息审核装置的又另一结构框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明实施例提供的信息审核方法的流程图,该方法可应用于平台服务器,对用户提交至平台的待发布信息进行审核;参照图1,该方法可以包括:
步骤S100、获取用户提交的待发布信息;
用户可采用所属用户设备(如电脑、平板、手机等设备)编辑待发布信息,并将该待发布信息发送至平台服务器。
步骤S110、判断所述用户是否为预设的用户白名单中记录的白名单用户,所述白名单用户所提交的待发布信息可不经审核发布,若是,执行步骤S120,若否,执行步骤S130;
本发明实施例预设有用户白名单,用户白名单中记录有白名单用户,白名单用户为通过审核验证的信誉高的合法用户,白名单用户所提交的待发布信息可不经审核发布;
可选的,本发明实施例可通过用户标识(如用户账号、ID等)区分不同的用户,用户白名单中具体可记录白名单用户的用户标识;在用户提交待发布信息时,用户可在通过用户标识登录平台后提交待发布信息;本发明实施例可将提交待发布信息的用户的用户标识,与用户白名单中记录的白名单用户的用户标识进行匹配,若匹配成功,则确定提交待发布信息的用户为白名单用户,否则为非白名单用户。
步骤S120、将所述待发布信息导入可发布信息数据库中进行发布;
本发明实施例设置有可发布信息数据库,可发布信息数据库中存储有不良信息过滤系统审核通过的待发布信息,或白名单用户提交的待发布信息;平台服务器可通过调取可发布信息数据库中存储的待发布信息进行信息发布;
具体发布策略可以为根据可发布信息数据库中导入的待发布信息的先后顺序,依序或批量发布待发布信息;具体发布策略也可以为根据可发布信息数据库中存储的待发布信息的优先级,按照优先级的高低依序或批量发布待发布信息。
步骤S130、将所述待发布信息导入待审核信息数据库中,以采用不良信息过滤系统对所述待发布信息进行审核。
本发明实施例可设置待审核信息数据库,待审核信息数据库中存储的待发布信息需等待不良信息过滤系统的审核;待审核信息数据库中的待发布信息,只有在不良信息过滤系统审核通过后才可导入可发布信息数据库中进行发布;待审核信息数据库中未审核通过的待发布信息,则不进行发布;
不良信息过滤系统审核待审核信息数据库中存储的待发布信息的策略可以为,根据待审核信息数据库中导入的待发布信息的先后顺序,依序或批量审核待发布信息;或者,根据待审核信息数据库中存储的待发布信息的优先级,按照优先级的高低依序或批量审核待发布信息。
本发明实施例通过可发布信息数据库和待审核信息数据库的设置,可避免需审核待发布信息和免审核发布信息的混淆,减小不良信息被发布的概率。
本发明实施例提供的信息审核方法中,平台服务器可以预设用户白名单,用户白名单中记录的白名单用户所提交的待发布信息可不经审核发布;平台服务器在获取用户提交的待发布信息后,可判断提交待发布信息的用户是否为白名单用户;若是,则将所述待发布信息导入可发布信息数据库中进行发布,免去不良信息过滤系统的审核,提升白名单用户的信息发布速度;若否,则将所述待发布信息导入待审核信息数据库中,采用不良信息过滤系统对所述待发布信息进行审核,保证非白名单用户发布的不良信息不会被发布。可以看出,本发明实施例通过设置用户白名单,平台服务器可对非白名单用户所提交的待发布信息进行审核,而对于白名单用户,由于白名单用户为验证通过的合法用户,因此白名单用户发布不良信息的可能性非常小,可对白名单用户所提交的待发布信息直接发布,免去审核;从而实现减少平台服务器的工作量,降低平台运营成本,同时提升白名单用户的信息发布速度的目的。
可选的,本发明实施例所指信息可以为商品信息,也可以为发布至平台可供其他用户浏览的其他信息。
可选的,本发明实施例可通过验证用户的经营资质,一段时间内的不良信息提交率及信息发布频率,来确定用户白名单中记录的白名单用户。图2示出了本发明实施例提供的用户白名单的生成方法流程图,参照图2,该方法可以包括:
步骤S200、获取用户提交的加入用户白名单的申请;
可选的,本发明实施例可设置申请条件,如只有用户在加入平台的时间达到一定时间(如半年等,具体时间可视实际应用情况而定)后,用户才可申请加入用户白名单中。
步骤S210、判断所述用户的经营资质是否合格,若是,执行步骤S220,若否,执行步骤S250;
可选的,可对用户的营业执照是否合格、经营的产品许可证是否正确、提供的荣誉证书是否真实进行审核。
步骤S220、判断所述用户在设定时间段内的不良信息提交率是否低于阈值,若是,执行步骤S230,若否,执行步骤S250;
设定时间段可以为半年、一年等,具体数值的选取可视实际应用情况而定;本发明实施例可统计用户在设定时间段内所发布的信息总数,及被检测为不良信息的数量,将不良信息的数量除以所发布的信息总数,得到的计算结果的百分比可确定为不良信息提交率;
阈值可视实际应用情况选取,本发明实施例不作严格限制;
不良信息可指违反国家规定的信息(例如涉黄、毒、赌、暴力恐怖等的信息)。
步骤S230、所述用户在设定时间段内每个设定周期的信息发布数是否均在设定数值范围内,若是,执行步骤S240,若否,执行步骤S250;
用户在设定时间段内每个设定周期的信息发布数表示的是,在设定时间段内以设定周期为基数,用户发布信息的频率;设定时间段可以由若干的设定周期构成,如设定时间段可以为半年内,设定周期可以半年内的各周或各月等,具体设定周期的设置方式可视实际应用情况而定;
设定数值范围表示的是处于活跃状态的设定周期的信息发布数,具体数值可视实际应用情况而定。
步骤S240、将所述用户加入到用户白名单中,确定所述用户为白名单用户;
步骤S250、所述用户不可加入到用户白名单中,确定所述用户为非白名单用户。
可以看出,本发明实施例可在用户的经营资质合格,用户在设定时间段内的不良信息提交率低于阈值,且用户在设定时间段内每个设定周期的信息发布数均处于设定数值范围内时,确定用户可加入到用户白名单中。
值得注意的是,步骤S220和步骤S230的执行顺序本发明实施例不作严格限制,可以先执行步骤S230再执行步骤S220,或者两者同时执行。
显然,本发明实施例对于用户加入白名单中的验证策略也可视实际应用情况进行调整,图2所示用户白名单的生成方法所表示的验证策略仅为可选方式。
在对用户是否可加入用户白名单中的判断过程中,是以设定时间段为单位验证用户的不良信息提交率,设定周期的信息发布数是否合格;由于在该设定时间段内,用户还不为白名单用户,因此用户在所述设定时间段内提交的待发布信息均需由不良信息过滤系统进行审核。本发明实施例可设置信息统计数据库对各用户提交的信息数,不良信息数及信息提交时间进行统计记录,从而实现设定时间段内用户的不良信息提交率,设定周期的信息发布数是否合格的验证。
图3示出了本发明实施例提供的判断不良信息提交率是否低于阈值的方法流程图,参照图3,该方法可以包括:
步骤S300、从信息统计数据库中,调取所述用户在所述设定时间段内提交的信息总数,及所述用户在所述设定时间段内所提交的信息中被不良信息过滤系统检测为不良信息的不良信息数;
所述信息统计数据库记录有各用户提交的信息数,不良信息数及信息提交时间。
步骤S310、将所述不良信息数除以所述信息总数得到计算结果,并将所述计算结果乘以百分之百,得到所述用户在设定时间段内的不良信息提交率;
步骤S320、判断所述不良信息提交率是否低于阈值。
图4示出了本发明实施例提供的设定周期的信息发布数是否均在设定数值范围的方法流程图,参照图4,该方法可以包括:
步骤S400、从信息统计数据库中,调取所述用户在设定时间段内的各设定周期所发布的信息数量;
可选的,为实现设定周期的信息发布数是否合格的验证,信息统计数据库还可存储各用户发布的信息数及信息发布时间。
步骤S410、判断各设定周期所发布的信息数量,是否均在设定数值范围内。
可选的,本发明实施例还可设置白名单用户的管理机制,防止用户加入用户白名单后出现恶意发布不良信息的情况。本发明实施例可采用定期对白名单用户已发布的信息进行抽样审核,或者受理用户投诉白名单用户发布不良信息的方式实现对白名单用户的管理。
图5为本发明实施例提供的白名单用户的管理方法流程图,参照图5,该方法可以包括:
步骤S500、采用不良信息过滤系统,定期对白名单用户已发布的信息进行抽样审核;
针对白名单用户,本发明实施例可每天一次,或者每两天一次(具体定期设置可视实际应用情况而定)对白名单用户已发布的信息进行抽样审核。
步骤S510、若检测到存在发布不良信息的白名单用户,则将发布不良信息的白名单用户从所述用户白名单中移除,调整为非白名单用户。
显然,若未检测到发布不良信息的白名单用户,则不对已存在于用户白名单中的白名单用户进行调整。
图6为本发明实施例提供的白名单用户的管理方法的另一流程图,参照图6,该方法可以包括:
步骤S600、获取投诉白名单用户发布不良信息的投诉信息;
可选的,投诉信息可以由任意用户提交,投诉信息中至少可包括被投诉用户所发布的不良信息的链接。
步骤S610、根据所述投诉信息,对被投诉的白名单用户所发布的信息进行审核;
本发明实施例可根据被投诉用户所发布的不良信息的链接,对该链接所展示的信息进行审核。
步骤S620、若检测到被投诉的白名单用户所发布的信息为不良信息,则将被投诉的白名单用户从所述用户白名单中移除,调整为非白名单用户。
若检测到该链接所展示的信息中存在不良信息,则判定用户投诉成立,将被投诉的白名单用户从用户白名单中移除,调整为非白名单用户;进一步可判断被投诉的白名单用户,与该链接所展示的信息的发布用户是否一致,若不一致,则以该链接所展示的信息的发布用户为准,将该链接所展示的信息的发布用户调整为非白名单用户。
可选的,图5和图6所示方法可在白名单用户已发布信息的基础上,因此可在图1所示方法执行后执行。
可选的,用户由白名单用户调整为非白名单用户后,该用户在一定时间内不得再申请加入用户白名单,该用户在一定时间后申请加入用户白名单的方式可如图2所示。
可选的,图1所示方法在采用不良信息过滤系统对待审核信息数据库中存储的待发布信息进行审核后,若检测到待发布信息为不良信息,则通知用户对所述待发布信息进行修改或删除,若检测到待发布信息为非不良信息(即合法信息),则将待发布信息导入可发布信息数据库中进行发布。
图7示出了本发明实施例提供的信息审核方法的另一流程图,参照图7,该方法可以包括:
步骤S700、获取用户提交的待发布信息;
步骤S710、判断所述用户是否为预设的用户白名单中记录的白名单用户,所述白名单用户所提交的待发布信息可不经审核发布,若是,执行步骤S720,若否,执行步骤S730;
步骤S720、将所述待发布信息导入可发布信息数据库中进行发布;
步骤S730、将所述待发布信息导入待审核信息数据库中,以采用不良信息过滤系统对所述待发布信息进行审核;
步骤S740、判断所审核的待发布信息是否为不良信息,若是,执行步骤S750,若否,执行步骤S720;
步骤S750、通知所述用户对所述待发布信息进行修改或删除。
本发明实施例通过设置用户白名单,平台服务器可对非白名单用户所提交的待发布信息进行审核,而对于白名单用户,由于白名单用户为验证通过的合法用户,因此白名单用户发布不良信息的可能性非常小,可对白名单用户所提交的待发布信息直接发布,免去审核;从而实现减少平台服务器的工作量,降低平台运营成本,同时提升白名单用户的信息发布速度的目的。
下面对本发明实施例提供的信息审核装置进行介绍,下文描述的信息审核装置可与上文描述的信息审核方法相互对应参照。
图8为本发明实施例提供的信息审核装置的结构框图,该信息审核装置可应用于平台服务器中,参照图8,该信息审核装置可以包括:
信息获取模块100,用于获取用户提交的待发布信息;
判定模块200,用于判断所述用户是否为预设的用户白名单中记录的白名单用户,所述白名单用户所提交的待发布信息可不经审核发布;
发布模块300,用于若所述用户为所述白名单用户,将所述待发布信息导入可发布信息数据库中进行发布;
审核模块400,用于若所述用户为非白名单用户,将所述待发布信息导入待审核信息数据库中,以采用不良信息过滤系统对所述待发布信息进行审核。
可选的,本发明实施例可设置白名单生成模块用于生成用户白名单,实现用户至用户白名单的加入;图9示出了本发明实施例提供的信息审核装置的另一结构框图,结合图8和图9所示,该信息审核装置还可以包括:
白名单生成模块500,用于获取用户提交的加入用户白名单的申请;判断所述用户的经营资质是否合格;若所述用户的经营资质合格,判断所述用户在设定时间段内的不良信息提交率是否低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数是否均在设定数值范围内,其中所述设定时间段由若干个设定周期构成;若所述用户在设定时间段内的不良信息发布率低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数均在设定数值范围内,则将所述用户加入到用户白名单中,确定所述用户为白名单用户。
可选的,白名单生成模块500在进行不良信息提交率的合格验证时,可通过图10所示单元模块实现,图10为本发明实施例提供的白名单生成模块500的一种可选结构,参照图10,白名单生成模块500可以包括:
第一调取单元510,用于从信息统计数据库中,调取所述用户在所述设定时间段内提交的信息总数,及所述用户在所述设定时间段内所提交的信息中被不良信息过滤系统检测为不良信息的不良信息数;所述信息统计数据库记录有各用户提交的信息数,不良信息数及信息提交时间;
不良信息提交率确定单元511,用于将所述不良信息数除以所述信息总数得到计算结果,并将所述计算结果乘以百分之百,得到所述用户在设定时间段内的不良信息提交率;
第一判断单元512,用于判断所述不良信息提交率是否低于阈值。
可选的,白名单生成模块500在进行设定周期的信息发布数的合格验证时,可通过图11所示单元模块实现,图11为本发明实施例提供的白名单生成模块500的另一种可选结构,参照图11,白名单生成模块500可以包括:
第二调取单元520,用于从信息统计数据库中,调取所述用户在设定时间段内的各设定周期所发布的信息数量;
第二判断单元521,用于判断各设定周期所发布的信息数量,是否均在设定数值范围内。
可选的,本发明实施例可设置用户白名单管理机制,图12示出了本发明实施例提供的信息审核装置的再一结构框图,结合图8和图12所示,该信息审核装置还可以包括:
定期抽审模块600,用于采用不良信息过滤系统,定期对白名单用户已发布的信息进行抽样审核;若检测到存在发布不良信息的白名单用户,则将发布不良信息的白名单用户从所述用户白名单中移除,调整为非白名单用户。
图13示出了本发明实施例提供的信息审核装置的又一结构框图,结合图8和图13所示,该信息审核装置还可以包括:
投诉处理模块700,用于获取投诉白名单用户发布不良信息的投诉信息;根据所述投诉信息,对被投诉的白名单用户所发布的信息进行审核;若检测到被投诉的白名单用户所发布的信息为不良信息,则将被投诉的白名单用户从所述用户白名单中移除,调整为非白名单用户。
可选的,对于待审核信息数据库中通过不良信息过滤系统审核的待发布信息,本发明实施例可将待发布信息导入可发布信息数据库中进行发布;对于未通过的不良信息过滤系统审核的待发布信息,本发明实施例可通知所述用户对所述待发布信息进行修改或删除。图14示出了本发明实施例提供的信息审核装置的又另一结构框图,结合图8和图14所示,该信息审核装置还可以包括:
通知模块800,用于若采用不良信息过滤系统对所述待发布信息进行审核后,检测到所述待发布信息为不良信息,则通知所述用户对所述待发布信息进行修改或删除;
导入发布模块900,用于若采用不良信息过滤系统对所述待发布信息进行审核后,检测到所述待发布信息为非不良信息,则将所述待发布信息导入可发布信息数据库中进行发布。
本发明实施例提供的信息审核装置,通过设置用户白名单,平台服务器可对非白名单用户所提交的待发布信息进行审核,而对于白名单用户,由于白名单用户为验证通过的合法用户,因此白名单用户发布不良信息的可能性非常小,可对白名单用户所提交的待发布信息直接发布,免去审核;从而实现减少平台服务器的工作量,降低平台运营成本,同时提升白名单用户的信息发布速度的目的。
本发明实施例还可提供一种平台服务器,包括上述所述的信息审核装置。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种信息审核方法,其特征在于,应用于平台服务器,所述方法包括:
获取用户提交的待发布信息;
判断所述用户是否为预设的用户白名单中记录的白名单用户,所述白名单用户所提交的待发布信息可不经审核发布;
若所述用户为所述白名单用户,将所述待发布信息导入可发布信息数据库中进行发布;
若所述用户为非白名单用户,将所述待发布信息导入待审核信息数据库中,以采用不良信息过滤系统对所述待发布信息进行审核。
2.根据权利要求1所述的信息审核方法,其特征在于,所述预设的用户白名单的生成过程包括:
获取用户提交的加入用户白名单的申请;
判断所述用户的经营资质是否合格;
若所述用户的经营资质合格,判断所述用户在设定时间段内的不良信息提交率是否低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数是否均在设定数值范围内,其中所述设定时间段由若干个设定周期构成;
若所述用户在设定时间段内的不良信息发布率低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数均在设定数值范围内,则将所述用户加入到用户白名单中,确定所述用户为白名单用户。
3.根据权利要求2所述的信息审核方法,其特征在于,所述用户在所述设定时间段内提交的待发布信息均由不良信息过滤系统进行审核;所述判断所述用户在设定时间段内的不良信息提交率是否低于阈值包括:
从信息统计数据库中,调取所述用户在所述设定时间段内提交的信息总数,及所述用户在所述设定时间段内所提交的信息中被不良信息过滤系统检测为不良信息的不良信息数;所述信息统计数据库记录有各用户提交的信息数,不良信息数及信息提交时间;
将所述不良信息数除以所述信息总数得到计算结果,并将所述计算结果乘以百分之百,得到所述用户在设定时间段内的不良信息提交率;
判断所述不良信息提交率是否低于阈值。
4.根据权利要求3所述的信息审核方法,其特征在于,所述判断所述用户在设定时间段内每个设定周期的信息发布数是否均在设定数值范围内包括:
从信息统计数据库中,调取所述用户在设定时间段内的各设定周期所发布的信息数量;所述信息统计数据库还记录有各用户发布的信息数及信息发布时间;
判断各设定周期所发布的信息数量,是否均在设定数值范围内。
5.根据权利要求1-4任一项所述的信息审核方法,其特征在于,还包括:
采用不良信息过滤系统,定期对白名单用户已发布的信息进行抽样审核;
若检测到存在发布不良信息的白名单用户,则将发布不良信息的白名单用户从所述用户白名单中移除,调整为非白名单用户。
6.根据权利要求1-4任一项所述的信息审核方法,其特征在于,还包括:
获取投诉白名单用户发布不良信息的投诉信息;
根据所述投诉信息,对被投诉的白名单用户所发布的信息进行审核;
若检测到被投诉的白名单用户所发布的信息为不良信息,则将被投诉的白名单用户从所述用户白名单中移除,调整为非白名单用户。
7.根据权利要求1所述的信息审核方法,其特征在于,还包括:
若采用不良信息过滤系统对所述待发布信息进行审核后,检测到所述待发布信息为不良信息,则通知所述用户对所述待发布信息进行修改或删除;
若采用不良信息过滤系统对所述待发布信息进行审核后,检测到所述待发布信息为非不良信息,则将所述待发布信息导入可发布信息数据库中进行发布。
8.一种信息审核装置,其特征在于,应用于平台服务器,所述装置包括:
信息获取模块,用于获取用户提交的待发布信息;
判定模块,用于判断所述用户是否为预设的用户白名单中记录的白名单用户,所述白名单用户所提交的待发布信息可不经审核发布;
发布模块,用于若所述用户为所述白名单用户,将所述待发布信息导入可发布信息数据库中进行发布;
审核模块,用于若所述用户为非白名单用户,将所述待发布信息导入待审核信息数据库中,以采用不良信息过滤系统对所述待发布信息进行审核。
9.根据权利要求8所述的信息审核装置,其特征在于,还包括:
白名单生成模块,用于获取用户提交的加入用户白名单的申请;判断所述用户的经营资质是否合格;若所述用户的经营资质合格,判断所述用户在设定时间段内的不良信息提交率是否低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数是否均在设定数值范围内,其中所述设定时间段由若干个设定周期构成;若所述用户在设定时间段内的不良信息发布率低于阈值,且所述用户在设定时间段内每个设定周期的信息发布数均在设定数值范围内,则将所述用户加入到用户白名单中,确定所述用户为白名单用户。
10.根据权利要求8或9所述的信息审核装置,其特征在于,还包括:
定期抽审模块,用于采用不良信息过滤系统,定期对白名单用户已发布的信息进行抽样审核;若检测到存在发布不良信息的白名单用户,则将发布不良信息的白名单用户从所述用户白名单中移除,调整为非白名单用户;
和/或,投诉处理模块,用于获取投诉白名单用户发布不良信息的投诉信息;根据所述投诉信息,对被投诉的白名单用户所发布的信息进行审核;若检测到被投诉的白名单用户所发布的信息为不良信息,则将被投诉的白名单用户从所述用户白名单中移除,调整为非白名单用户。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510056359.5A CN104580529B (zh) | 2015-02-03 | 2015-02-03 | 一种信息审核方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510056359.5A CN104580529B (zh) | 2015-02-03 | 2015-02-03 | 一种信息审核方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104580529A true CN104580529A (zh) | 2015-04-29 |
CN104580529B CN104580529B (zh) | 2018-03-23 |
Family
ID=53095686
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510056359.5A Active CN104580529B (zh) | 2015-02-03 | 2015-02-03 | 一种信息审核方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104580529B (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106101740A (zh) * | 2016-07-13 | 2016-11-09 | 百度在线网络技术(北京)有限公司 | 一种视频内容识别方法和装置 |
CN106161214A (zh) * | 2016-08-31 | 2016-11-23 | 上海斐讯数据通信技术有限公司 | 一种据点运营管理系统的用户权限控制方法及系统 |
CN106202404A (zh) * | 2016-07-11 | 2016-12-07 | 百度在线网络技术(北京)有限公司 | 用于处理信息的方法和装置 |
CN106210014A (zh) * | 2016-07-04 | 2016-12-07 | 微梦创科网络科技(中国)有限公司 | 一种信息处理方法和设备 |
CN106447239A (zh) * | 2016-11-21 | 2017-02-22 | 北京字节跳动科技有限公司 | 一种数据发布的审核方法及装置 |
CN106780193A (zh) * | 2016-09-22 | 2017-05-31 | 世纪禾光科技发展(北京)有限公司 | 知识产权投诉处理方法及系统 |
CN106846006A (zh) * | 2016-12-20 | 2017-06-13 | 上海朗绿建筑科技股份有限公司 | 一种装修材料采购管理方法及系统 |
CN107181979A (zh) * | 2017-03-30 | 2017-09-19 | 武汉斗鱼网络科技有限公司 | 一种网络直播监控方法和装置 |
CN107862180A (zh) * | 2017-10-11 | 2018-03-30 | 北京金山安全管理系统技术有限公司 | 软件禁用处理方法和装置 |
CN108768840A (zh) * | 2018-06-12 | 2018-11-06 | 北京京东金融科技控股有限公司 | 一种账号管理的方法和装置 |
CN109617901A (zh) * | 2018-12-29 | 2019-04-12 | 上海点融信息科技有限责任公司 | 确定白名单的方法及其装置 |
CN109862062A (zh) * | 2018-10-24 | 2019-06-07 | 平安科技(深圳)有限公司 | 内容上传管理方法以及装置、电子设备及存储介质 |
CN110059283A (zh) * | 2019-04-28 | 2019-07-26 | 上海掌门科技有限公司 | 用于控制信息展示的方法和设备 |
CN110322209A (zh) * | 2018-03-30 | 2019-10-11 | 阿里巴巴集团控股有限公司 | 评论信息处理方法、装置、系统及存储介质 |
CN110929055A (zh) * | 2019-11-15 | 2020-03-27 | 北京达佳互联信息技术有限公司 | 多媒体质量检测方法、装置、电子设备及存储介质 |
CN111125023A (zh) * | 2019-11-15 | 2020-05-08 | 北京十分科技有限公司 | 文件的审核、审核控制、发布方法及对应装置 |
CN111414515A (zh) * | 2020-03-17 | 2020-07-14 | 中国建设银行股份有限公司 | 一种资源审核方法、装置、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050262208A1 (en) * | 2004-05-21 | 2005-11-24 | Eyal Haviv | System and method for managing emails in an enterprise |
CN101446970A (zh) * | 2008-12-15 | 2009-06-03 | 腾讯科技(深圳)有限公司 | 一种对用户发布的文本内容审核处理的方法及其装置 |
CN102243744A (zh) * | 2010-05-11 | 2011-11-16 | 腾讯科技(深圳)有限公司 | 一种商品审核方法及装置 |
CN103729384A (zh) * | 2012-10-16 | 2014-04-16 | 中国移动通信集团公司 | 信息过滤方法、系统与装置 |
CN104200374A (zh) * | 2014-08-18 | 2014-12-10 | 中国建设银行股份有限公司 | 用于在电商平台发布优惠券活动的信息处理方法及装置 |
-
2015
- 2015-02-03 CN CN201510056359.5A patent/CN104580529B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050262208A1 (en) * | 2004-05-21 | 2005-11-24 | Eyal Haviv | System and method for managing emails in an enterprise |
CN101446970A (zh) * | 2008-12-15 | 2009-06-03 | 腾讯科技(深圳)有限公司 | 一种对用户发布的文本内容审核处理的方法及其装置 |
CN102243744A (zh) * | 2010-05-11 | 2011-11-16 | 腾讯科技(深圳)有限公司 | 一种商品审核方法及装置 |
CN103729384A (zh) * | 2012-10-16 | 2014-04-16 | 中国移动通信集团公司 | 信息过滤方法、系统与装置 |
CN104200374A (zh) * | 2014-08-18 | 2014-12-10 | 中国建设银行股份有限公司 | 用于在电商平台发布优惠券活动的信息处理方法及装置 |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106210014A (zh) * | 2016-07-04 | 2016-12-07 | 微梦创科网络科技(中国)有限公司 | 一种信息处理方法和设备 |
CN106202404A (zh) * | 2016-07-11 | 2016-12-07 | 百度在线网络技术(北京)有限公司 | 用于处理信息的方法和装置 |
CN106101740B (zh) * | 2016-07-13 | 2019-12-24 | 百度在线网络技术(北京)有限公司 | 一种视频内容识别方法和装置 |
CN106101740A (zh) * | 2016-07-13 | 2016-11-09 | 百度在线网络技术(北京)有限公司 | 一种视频内容识别方法和装置 |
CN106161214A (zh) * | 2016-08-31 | 2016-11-23 | 上海斐讯数据通信技术有限公司 | 一种据点运营管理系统的用户权限控制方法及系统 |
CN106780193A (zh) * | 2016-09-22 | 2017-05-31 | 世纪禾光科技发展(北京)有限公司 | 知识产权投诉处理方法及系统 |
CN106447239A (zh) * | 2016-11-21 | 2017-02-22 | 北京字节跳动科技有限公司 | 一种数据发布的审核方法及装置 |
CN106846006A (zh) * | 2016-12-20 | 2017-06-13 | 上海朗绿建筑科技股份有限公司 | 一种装修材料采购管理方法及系统 |
CN107181979A (zh) * | 2017-03-30 | 2017-09-19 | 武汉斗鱼网络科技有限公司 | 一种网络直播监控方法和装置 |
CN107181979B (zh) * | 2017-03-30 | 2020-10-27 | 武汉斗鱼网络科技有限公司 | 一种网络直播监控方法和装置 |
CN107862180A (zh) * | 2017-10-11 | 2018-03-30 | 北京金山安全管理系统技术有限公司 | 软件禁用处理方法和装置 |
CN110322209A (zh) * | 2018-03-30 | 2019-10-11 | 阿里巴巴集团控股有限公司 | 评论信息处理方法、装置、系统及存储介质 |
CN108768840A (zh) * | 2018-06-12 | 2018-11-06 | 北京京东金融科技控股有限公司 | 一种账号管理的方法和装置 |
CN109862062A (zh) * | 2018-10-24 | 2019-06-07 | 平安科技(深圳)有限公司 | 内容上传管理方法以及装置、电子设备及存储介质 |
CN109617901A (zh) * | 2018-12-29 | 2019-04-12 | 上海点融信息科技有限责任公司 | 确定白名单的方法及其装置 |
CN110059283A (zh) * | 2019-04-28 | 2019-07-26 | 上海掌门科技有限公司 | 用于控制信息展示的方法和设备 |
CN110929055A (zh) * | 2019-11-15 | 2020-03-27 | 北京达佳互联信息技术有限公司 | 多媒体质量检测方法、装置、电子设备及存储介质 |
CN111125023A (zh) * | 2019-11-15 | 2020-05-08 | 北京十分科技有限公司 | 文件的审核、审核控制、发布方法及对应装置 |
CN111414515A (zh) * | 2020-03-17 | 2020-07-14 | 中国建设银行股份有限公司 | 一种资源审核方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN104580529B (zh) | 2018-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104580529A (zh) | 一种信息审核方法及装置 | |
US20210073211A1 (en) | Management Of Entitlements Using Blockchain | |
TWI701619B (zh) | 基於區塊鏈的作品版權收益分配方法和裝置 | |
CN106651303B (zh) | 一种基于模板的智能合约处理方法和系统 | |
CN110971652A (zh) | 基于区块链的数字数据交换 | |
US11734661B2 (en) | Content distribution management system and method using blockchain technology | |
TWI721362B (zh) | 基於區塊鏈向作品使用者發放獎勵的方法及裝置 | |
CN113297625B (zh) | 基于区块链的数据共享系统、方法和电子设备 | |
TWI715916B (zh) | 基於區塊鏈對著作權使用者進行信用評價的方法及裝置 | |
TWI724730B (zh) | 個人資產變更記錄的儲存方法、系統、裝置及設備 | |
TWI705342B (zh) | 一種透過網頁監測對網頁進行區塊鏈存證的方法及裝置 | |
TWI706663B (zh) | 基於多個區塊鏈網路的資料存證方法及系統 | |
TWI706664B (zh) | 基於多個區塊鏈網路的資料存證方法及系統 | |
CN109727132A (zh) | 区块链共识节点的获取方法、装置、电子设备及存储介质 | |
WO2020108052A1 (zh) | 一种基于多个区块链网络的数据读取方法及系统 | |
CN109660352A (zh) | 一种基于区块链的分销关系记录方法、装置及终端设备 | |
TW202020767A (zh) | 帳單分期事件的記錄和查詢方法、裝置及電子設備 | |
CN110599273A (zh) | 数据处理方法、装置、节点设备及存储介质 | |
KR102293423B1 (ko) | 디지털컨텐츠 배포 및 중고거래 시스템 | |
WO2018032955A1 (zh) | 电子书管理方法及系统 | |
KR20110119936A (ko) | 저작권료 분배 시스템 및 방법 | |
CN110599176A (zh) | 基于区块链的数据处理方法、装置、存储介质及节点设备 | |
CN111209602B (zh) | 基于区块链的数据开发方法、系统、服务器及存储介质 | |
CN104636919A (zh) | 一种基于数据付费的应用程序商店模式 | |
US20150341360A1 (en) | Method and apparatus for managing a transaction right |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 450000 Zhengzhou science and technology zone, Henan high tech Road, building 169, building 1, No. 1 Applicant after: ZHENGZHOU XIZHI INFORMATION TECHNOLOGY CO., LTD. Address before: 450000 Zhengzhou science and technology zone, Henan high tech Road, building 169, building 1, No. 1 Applicant before: ZHENGZHOU XIZHI INFORMATION TECHNOLOGY CO., LTD. |
|
COR | Change of bibliographic data | ||
GR01 | Patent grant | ||
GR01 | Patent grant |