CN117235406A - 基于区块链的信息内容安全的管控方法及装置 - Google Patents
基于区块链的信息内容安全的管控方法及装置 Download PDFInfo
- Publication number
- CN117235406A CN117235406A CN202311507363.XA CN202311507363A CN117235406A CN 117235406 A CN117235406 A CN 117235406A CN 202311507363 A CN202311507363 A CN 202311507363A CN 117235406 A CN117235406 A CN 117235406A
- Authority
- CN
- China
- Prior art keywords
- information
- condition
- distributed
- sensitive
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 238000001514 detection method Methods 0.000 claims abstract description 65
- 238000007726 management method Methods 0.000 claims abstract description 62
- 230000002159 abnormal effect Effects 0.000 claims description 29
- 230000035945 sensitivity Effects 0.000 claims description 27
- 230000000694 effects Effects 0.000 claims description 19
- 230000000007 visual effect Effects 0.000 claims description 17
- 238000012795 verification Methods 0.000 claims description 5
- 230000009286 beneficial effect Effects 0.000 abstract description 23
- 238000012550 audit Methods 0.000 abstract description 22
- 230000000903 blocking effect Effects 0.000 abstract description 7
- 238000004458 analytical method Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 206010063385 Intellectualisation Diseases 0.000 description 2
- 230000002411 adverse Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 206010033557 Palpitations Diseases 0.000 description 1
- 206010067171 Regurgitation Diseases 0.000 description 1
- 206010047700 Vomiting Diseases 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000008673 vomiting Effects 0.000 description 1
Landscapes
- Storage Device Security (AREA)
Abstract
本发明公开了一种基于区块链的信息内容安全的管控方法及装置,该方法包括:获取需要管控的待发布信息,并确定待发布信息的信息参数;根据信息参数,确定待发布信息对应的检测方式;根据检测方式,检测待发布信息中的敏感信息,并根据敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果;根据审核结果,对待发布信息执行相对应的管控操作。可见,实施本发明能够自动检测出待发布信息中的敏感信息,并针对敏感信息对待发布信息进行审核,以实现对待发布信息的自动管控,这样,有利于提高对待发布信息的审核效率,进而有利于提高对待发布信息的管控效率,从而有利于对待发布信息进行及时发布、阻断发布等管控操作。
Description
技术领域
本发明涉及互联网技术领域,尤其涉及一种基于区块链的信息内容安全的管控方法及装置。
背景技术
随着互联网的高速发展,互联网信息所呈现的内容越来越多样化。为了提供一个绿色、安全的互联网环境,在互联网信息发布前,往往需要对待发布的互联网信息进行审核管控,从而保证所发布的互联网信息的安全性以及合法性。
目前,对于待发布的互联网信息的管控方式,一般采用多人的轮流审核模式,对待发布的每个互联网信息进行多轮审核,然后综合多个审核结果来决定每个互联网信息是属于可发布类型或者属于不可发布类型来实现,然而,这样的互联网信息审核流程过于繁杂,不利于提高对互联网信息的管控效率,从而影响了对互联网信息的发布时效性。可见,提供一种能够提高互联网信息的管控效率的方法尤为重要。
发明内容
本发明所要解决的技术问题在于,提供一种基于区块链的信息内容安全的管控方法及装置,有利于提高对待发布信息的审核效率,进而有利于提高对待发布信息的管控效率,从而有利于对待发布信息进行及时发布、阻断发布等管控操作。
为了解决上述技术问题,本发明第一方面公开了一种基于区块链的信息内容安全的管控方法,所述方法包括:
获取需要管控的待发布信息,并确定所述待发布信息的信息参数;所述待发布信息的信息参数包括所述待发布信息的信息类型参数、信息内容参数、发布平台类型参数以及发布位置参数中的至少一种;
根据所述信息参数,确定所述待发布信息对应的检测方式;所述检测方式包括文本检测方式、图像检测方式、音频检测方式、视频检测方式以及位置参数检测方式中的至少一种;
根据所述检测方式,检测所述待发布信息中的敏感信息,并根据所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果;
根据所述审核结果,对所述待发布信息执行相对应的管控操作;所述管控操作包括允许发布操作、阻断发布操作以及撤回发布操作中的其中一种。
作为一种可选的实施方式,在本发明第一方面中,所述根据所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果,包括:
确定所述待发布信息的信息生成场景的场景信息,并根据所述信息生成场景的场景信息,确定所述信息生成场景的场景私密程度;所述场景信息包括场景位置信息、场景人员活动信息以及场景类型信息中的至少一种;
确定所述待发布信息的发布者的用户信息,并根据所述发布者的用户信息与所述信息生成场景的场景私密程度,确定所述发布者在所述信息生成场景下的信息发布权限参数;
根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果。
作为一种可选的实施方式,在本发明第一方面中,所述根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果,包括:
根据所述发布者对应的信息发布权限参数,对所述待发布信息执行发布条件审核操作,得到所述待发布信息的发布条件审核结果,作为所述待发布信息的第一审核结果;
根据所述敏感信息的信息类型,判断所述敏感信息是否存在与所述信息类型相对应的信息掩藏对象;所述信息掩藏对象包括视觉信息掩藏对象、听觉信息掩藏对象以及位置参数掩藏对象中的至少一种;
当判断出所述敏感信息不存在所述信息掩藏对象时,根据所述敏感信息的信息类型,从预设的多个敏感信息对比库中确定出与所述信息类型相匹配的目标敏感信息对比库;
根据所述目标敏感信息对比库,确定所述敏感信息对应的异常敏感程度值,作为所述待发布信息的第二审核结果;
根据所述第一审核结果以及所述第二审核结果,确定所述待发布信息的审核结果。
作为一种可选的实施方式,在本发明第一方面中,所述方法还包括:
当判断出所述敏感信息存在所述信息掩藏对象时,确定所述信息掩藏对象的目标参数;所述信息掩藏对象的目标参数包括所述信息掩藏对象的信息掩藏位置参数、信息掩藏区域大小参数、信息掩藏程度参数以及信息掩藏时长参数中的至少一种;
根据所述信息掩藏对象的目标参数,预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况,并根据所述影响情况,确定所述影响情况对应的影响程度值,作为所述待发布信息的第三审核结果;所述待发布信息对应的目标对象包括所述待发布信息的发布者或者接收者;
根据所述第一审核结果以及所述第三审核结果,确定所述待发布信息的审核结果。
作为一种可选的实施方式,在本发明第一方面中,所述敏感信息的信息类型包括文本信息类型、图像信息类型、音频信息类型、视频信息类型以及位置参数类型中的至少一种;
其中,所述根据所述信息掩藏对象的目标参数,预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况,包括:
当所述敏感信息的信息类型包括所述文本信息类型、所述图像信息类型以及所述视频信息类型中的至少一种时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的视觉信息掩藏情况,并根据所述视觉信息掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的第一信息接收情况;所述第一信息接收情况包括第一信息接收量情况、第一信息接收清晰度情况以及第一信息接收内容情况中的至少一种;
根据所述第一信息接收情况,确定所述第一信息接收情况对所述接收者所造成的第一影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况;所述第一影响情况包括第一心理影响情况、第一生理影响情况以及第一活动影响情况中的至少一种。
作为一种可选的实施方式,在本发明第一方面中,所述方法还包括:
当所述敏感信息的信息类型包括所述音频信息类型时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的听觉信息掩藏情况,并根据所述听觉信息掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的第二信息接收情况;所述第二信息接收情况包括第二信息接收量情况、第二信息接收清晰度情况以及第二信息接收内容情况中的至少一种;
根据所述第二信息接收情况,确定所述第二信息接收情况对所述接收者所造成的第二影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况;所述第二影响情况包括第二心理影响情况、第二生理影响情况以及第二活动影响情况中的至少一种。
作为一种可选的实施方式,在本发明第一方面中,所述方法还包括:
当所述敏感信息的信息类型包括所述位置参数类型时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的位置参数掩藏情况,并根据所述位置参数掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的位置参数接收情况;所述位置参数接收情况包括位置参数接收度情况;
根据所述位置参数接收情况,确定所述待发布信息对应的接收者对所述待发布消息的发布者的位置追溯情况,并根据所述位置追溯情况,确定所述位置追溯情况对所述发布者所造成的隐私影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况。
本发明第二方面公开了一种基于区块链的信息内容安全的管控装置,所述装置包括:
获取模块,用于获取需要管控的待发布信息;
第一确定模块,用于确定所述待发布信息的信息参数;所述待发布信息的信息参数包括所述待发布信息的信息类型参数、信息内容参数、发布平台类型参数以及发布位置参数中的至少一种;根据所述信息参数,确定所述待发布信息对应的检测方式;所述检测方式包括文本检测方式、图像检测方式、音频检测方式、视频检测方式以及位置参数检测方式中的至少一种;
检测模块,用于根据所述检测方式,检测所述待发布信息中的敏感信息;
第二确定模块,用于根据所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果;
管控模块,用于根据所述审核结果,对所述待发布信息执行相对应的管控操作;所述管控操作包括允许发布操作、阻断发布操作以及撤回发布操作中的其中一种。
作为一种可选的实施方式,在本发明第二方面中,所述第二确定模块根据所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果的方式具体包括:
确定所述待发布信息的信息生成场景的场景信息,并根据所述信息生成场景的场景信息,确定所述信息生成场景的场景私密程度;所述场景信息包括场景位置信息、场景人员活动信息以及场景类型信息中的至少一种;
确定所述待发布信息的发布者的用户信息,并根据所述发布者的用户信息与所述信息生成场景的场景私密程度,确定所述发布者在所述信息生成场景下的信息发布权限参数;
根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果。
作为一种可选的实施方式,在本发明第二方面中,所述第二确定模块根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果的方式具体包括:
根据所述发布者对应的信息发布权限参数,对所述待发布信息执行发布条件审核操作,得到所述待发布信息的发布条件审核结果,作为所述待发布信息的第一审核结果;
根据所述敏感信息的信息类型,判断所述敏感信息是否存在与所述信息类型相对应的信息掩藏对象;所述信息掩藏对象包括视觉信息掩藏对象、听觉信息掩藏对象以及位置参数掩藏对象中的至少一种;
当判断出所述敏感信息不存在所述信息掩藏对象时,根据所述敏感信息的信息类型,从预设的多个敏感信息对比库中确定出与所述信息类型相匹配的目标敏感信息对比库;
根据所述目标敏感信息对比库,确定所述敏感信息对应的异常敏感程度值,作为所述待发布信息的第二审核结果;
根据所述第一审核结果以及所述第二审核结果,确定所述待发布信息的审核结果。
作为一种可选的实施方式,在本发明第二方面中,所述第二确定模块根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果的方式具体还包括:
当判断出所述敏感信息存在所述信息掩藏对象时,确定所述信息掩藏对象的目标参数;所述信息掩藏对象的目标参数包括所述信息掩藏对象的信息掩藏位置参数、信息掩藏区域大小参数、信息掩藏程度参数以及信息掩藏时长参数中的至少一种;
根据所述信息掩藏对象的目标参数,预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况,并根据所述影响情况,确定所述影响情况对应的影响程度值,作为所述待发布信息的第三审核结果;所述待发布信息对应的目标对象包括所述待发布信息的发布者或者接收者;
根据所述第一审核结果以及所述第三审核结果,确定所述待发布信息的审核结果。
作为一种可选的实施方式,在本发明第二方面中,所述敏感信息的信息类型包括文本信息类型、图像信息类型、音频信息类型、视频信息类型以及位置参数类型中的至少一种;
其中,所述第二确定模块根据所述信息掩藏对象的目标参数,预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况的方式具体包括:
当所述敏感信息的信息类型包括所述文本信息类型、所述图像信息类型以及所述视频信息类型中的至少一种时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的视觉信息掩藏情况,并根据所述视觉信息掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的第一信息接收情况;所述第一信息接收情况包括第一信息接收量情况、第一信息接收清晰度情况以及第一信息接收内容情况中的至少一种;
根据所述第一信息接收情况,确定所述第一信息接收情况对所述接收者所造成的第一影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况;所述第一影响情况包括第一心理影响情况、第一生理影响情况以及第一活动影响情况中的至少一种。
作为一种可选的实施方式,在本发明第二方面中,所述第二确定模块根据所述信息掩藏对象的目标参数,预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况的方式具体还包括:
当所述敏感信息的信息类型包括所述音频信息类型时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的听觉信息掩藏情况,并根据所述听觉信息掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的第二信息接收情况;所述第二信息接收情况包括第二信息接收量情况、第二信息接收清晰度情况以及第二信息接收内容情况中的至少一种;
根据所述第二信息接收情况,确定所述第二信息接收情况对所述接收者所造成的第二影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况;所述第二影响情况包括第二心理影响情况、第二生理影响情况以及第二活动影响情况中的至少一种。
作为一种可选的实施方式,在本发明第二方面中,所述第二确定模块根据所述信息掩藏对象的目标参数,预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况的方式具体还包括:
当所述敏感信息的信息类型包括所述位置参数类型时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的位置参数掩藏情况,并根据所述位置参数掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的位置参数接收情况;所述位置参数接收情况包括位置参数接收度情况;
根据所述位置参数接收情况,确定所述待发布信息对应的接收者对所述待发布消息的发布者的位置追溯情况,并根据所述位置追溯情况,确定所述位置追溯情况对所述发布者所造成的隐私影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况。
本发明第三方面公开了另一种基于区块链的信息内容安全的管控装置,所述装置包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行本发明第一方面公开的基于区块链的信息内容安全的管控方法。
本发明第四方面公开了一种计算机存储介质,所述计算机存储介质存储有计算机指令,所述计算机指令被调用时,用于执行本发明第一方面公开的基于区块链的信息内容安全的管控方法。
与现有技术相比,本发明实施例具有以下有益效果:
本发明实施例中,获取需要管控的待发布信息,并确定待发布信息的信息参数;根据信息参数,确定待发布信息对应的检测方式;根据检测方式,检测待发布信息中的敏感信息,并根据敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果;根据审核结果,对待发布信息执行相对应的管控操作。可见,实施本发明能够自动检测出待发布信息中的敏感信息,并针对敏感信息对待发布信息进行审核,以实现对待发布信息的自动管控,这样,有利于提高对待发布信息的审核效率,进而有利于提高对待发布信息的管控效率,从而有利于对待发布信息进行及时发布、阻断发布等管控操作。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例公开的一种基于区块链的信息内容安全的管控方法的流程示意图;
图2是本发明实施例公开的另一种基于区块链的信息内容安全的管控方法的流程示意图;
图3是本发明实施例公开的一种基于区块链的信息内容安全的管控装置的结构示意图;
图4是本发明实施例公开的另一种基于区块链的信息内容安全的管控装置的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、装置、产品或端没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或端固有的其他步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本发明公开了一种基于区块链的信息内容安全的管控方法及装置,有利于提高对待发布信息的审核效率,进而有利于提高对待发布信息的管控效率,从而有利于对待发布信息进行及时发布、阻断发布等管控操作。
实施例一
请参阅图1,图1是本发明实施例公开的一种基于区块链的信息内容安全的管控方法的流程示意图。其中,图1所描述的基于区块链的信息内容安全的管控方法可以应用于对多种信息发布平台所上传的待发布信息进行审核,如自媒体平台、第三方媒体平台等等,本发明实施例不做限定。可选的,该方法可以由区块链信息审核系统实现,该区块链信息审核系统可以集成在区块链信息审核装置中,也可以是用于对区块链信息审核流程进行处理的本地服务器或云端服务器等,本发明实施例不做限定。如图1所示,该基于区块链的信息内容安全的管控方法可以包括以下操作:
101、获取需要管控的待发布信息,并确定待发布信息的信息参数。
在本发明实施例中,可选的,待发布信息的信息参数包括待发布信息的信息类型参数(如资讯类型、科普类型、测评类型等等)、信息内容参数、发布平台类型参数(如自媒体平台、第三方媒体平台等等)以及发布位置参数(如发布的IP地址、实体地理地址等等)中的至少一种。
102、根据信息参数,确定待发布信息对应的检测方式。
在本发明实施例中,可选的,检测方式包括文本检测方式、图像检测方式、音频检测方式、视频检测方式以及位置参数检测方式中的至少一种。
进一步的,文本检测方式可以理解为对文本内容进行噪音清洗、繁简转化等消歧处理后进行关键词分析;图像检测方式可以理解为对主流的图像格式进行分析,实现后续图库对比、OCR、敏感信息识别等检测分析;音频检测方式可以理解为对主流音频文件分析,将采集的音频内识别为文本,再对文本内容进行检测的技术;视频检测方式可以理解为对主流视频文件进行分析,基于内容特征的分析索引技术,通过对元数据、内嵌字幕和视频关键帧等信息提取,对提取信息实现文本、图形等智能分类识别分析;位置参数检测方式可以理解为通过网络流量监控、IP地址跟踪工具、访问日志分析、地理定位系统等对IP地址、实体地理位置进行检测;以及还可以另外包括暗链检测技术,如对发布内容中的链接进行多维度多特征(页面源码、iframe框架检测、js跳转地址域名归属解析等)的分析。
103、根据检测方式,检测待发布信息中的敏感信息,并根据敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果。
在本发明实施例中,可选的,敏感信息的信息类型包括文本信息类型、图像信息类型、音频信息类型、视频信息类型以及位置参数类型中的至少一种。进一步可选的,待发布信息的审核结果可以包括如敏感信息的异常敏感程度值还未达到程度阈值---允许发布、敏感信息的异常敏感程度值已超出程度阈值---不允许发布及经传播后敏感信息的异常敏感程度值已超出程度阈值---需要撤回发布等等。
104、根据审核结果,对待发布信息执行相对应的管控操作。
在本发明实施例中,其中,管控操作包括允许发布操作、阻断发布操作以及撤回发布操作中的其中一种。进一步,在对待发布信息执行阻断发布操作或者撤回发布操作时,可通过短信、邮箱、APP、平台等推送异常警示信息至发布者/第三方媒体平台/自媒体平台等等。
可见,实施本发明实施例能够自动检测出待发布信息中的敏感信息,并针对敏感信息对待发布信息进行审核,以实现对待发布信息的自动管控,这样,有利于提高对待发布信息的审核效率,进而有利于提高对待发布信息的管控效率,从而有利于对待发布信息进行及时发布、阻断发布等管控操作。
实施例二
请参阅图2,图2是本发明实施例公开的另一种基于区块链的信息内容安全的管控方法的流程示意图。其中,图2所描述的基于区块链的信息内容安全的管控方法可以应用于对多种信息发布平台所上传的待发布信息进行审核,如自媒体平台、第三方媒体平台等等,本发明实施例不做限定。可选的,该方法可以由区块链信息审核系统实现,该区块链信息审核系统可以集成在区块链信息审核装置中,也可以是用于对区块链信息审核流程进行处理的本地服务器或云端服务器等,本发明实施例不做限定。如图2所示,该基于区块链的信息内容安全的管控方法可以包括以下操作:
201、获取需要管控的待发布信息,并确定待发布信息的信息参数。
202、根据信息参数,确定待发布信息对应的检测方式。
203、根据检测方式,检测待发布信息中的敏感信息;确定待发布信息的信息生成场景的场景信息,并根据信息生成场景的场景信息,确定信息生成场景的场景私密程度。
在本发明实施例中,待发布信息的信息生成场景可以理解为待发布信息对应的拍摄场景、收音场景、信息编辑场景等等。可选的,场景信息包括场景位置信息、场景人员活动信息以及场景类型信息中的至少一种。进一步的,根据信息生成场景的场景信息,确定信息生成场景的场景私密程度,可以理解为如当待发布视频中涉及到重要人物的活动信息时,则可以确定信息生成场景的场景私密程度为较高;而当待发布视频中涉及到的只是发布者个人的日常生活记录信息时,则可以确定信息生成场景的场景私密程度为较低等等。
204、确定待发布信息的发布者的用户信息,并根据发布者的用户信息与信息生成场景的场景私密程度,确定发布者在信息生成场景下的信息发布权限参数。
在本发明实施例中,可选的,发布者的用户信息可以包括用户类型信息、用户年龄信息、用户历史发布情况、用户等级信息、用户身份置信度信息等等。进一步可选的,可以在用户通过密码认证、手机号认证、邮箱认证等方式请求验证,并验证成功后,进行公私钥签名,继而再获取待发布信息的发布者的用户信息。
205、根据发布者对应的信息发布权限参数以及敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果。
在本发明实施例中,其中,对待发布信息执行相匹配的审核操作,可理解为分为两个部分来进行,一为基于发布者对应的信息发布权限参数,对待发布信息执行发布条件审核操作,二是基于敏感信息的信息类型,对待发布信息进行信息异常敏感程度的判定操作。
206、根据审核结果,对待发布信息执行相对应的管控操作。
在本发明实施例中,针对步骤201、步骤202及步骤206的其它描述,请参照实施例一中针对步骤101、步骤102及步骤104的详细描述,本发明实施例不再赘述。
可见,实施本发明实施例能够根据待发布信息的信息生成场景的场景信息及发布者的用户信息,来确定发布者对应的信息发布权限参数,继而将发布者对应的信息发布权限参数与敏感信息的信息类型相结合,来对待发布信息进行审核操作,这样,可以全方面地待发布信息进行审核,进而可以提高对待发布信息的审核可靠性及准确性,从而可以保证所发布的信息与发布者的发布权限相匹配且敏感信息的异常敏感程度值还处于正常范围内。
在一个可选的实施例中,上述步骤205中的根据发布者对应的信息发布权限参数以及敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果,包括:
根据发布者对应的信息发布权限参数,对待发布信息执行发布条件审核操作,得到待发布信息的发布条件审核结果,作为待发布信息的第一审核结果;
根据敏感信息的信息类型,判断敏感信息是否存在与信息类型相对应的信息掩藏对象;
当判断出敏感信息不存在信息掩藏对象时,根据敏感信息的信息类型,从预设的多个敏感信息对比库中确定出与信息类型相匹配的目标敏感信息对比库;
根据目标敏感信息对比库,确定敏感信息对应的异常敏感程度值,作为待发布信息的第二审核结果;
根据第一审核结果以及第二审核结果,确定待发布信息的审核结果。
在该可选的实施例中,可选的,信息掩藏对象包括视觉信息掩藏对象(如打上马赛克、增加额外贴图等等)、听觉信息掩藏对象(如声音加噪、改变音色方式等等)以及位置参数掩藏对象(所采用的虚拟IP定位、虚拟地理位置等等)中的至少一种。进一步可选的,敏感信息的信息类型包括文本信息类型、图像信息类型、音频信息类型、视频信息类型以及位置参数类型中的至少一种。进一步的,敏感信息对比库的对比数据可将所审核到的、异常敏感程度值超过程度阈值的敏感信息进行存储而得到,也即可理解为异常敏感储存内容,以不断丰富敏感信息对比库中的对比数据,提高后续对敏感信息的异常敏感程度值的判定可靠性。再进一步的,对敏感信息的异常敏感程度值的判定可以理解为其与目标敏感信息对比库中的对比数据之间的相似程度,其中,相似程度越高,则敏感信息的异常敏感程度值越高,否则,相反。
可见,该可选的实施例能够在敏感信息不存在与信息类型相对应的信息掩藏对象时,直接将敏感信息与目标敏感信息对比库进行对比,从而得到待发布信息的第二审核结果,这样,体现了对敏感信息的审核操作的灵活性,进而通过与敏感信息对比库的对比操作有利于提高对敏感信息的对比可靠性及准确性,从而有利于提高所得到的针对敏感信息的审核结果的可靠性及准确性。
在另一个可选的实施例中,方法还包括:
当判断出敏感信息存在信息掩藏对象时,确定信息掩藏对象的目标参数;
根据信息掩藏对象的目标参数,预测敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况,并根据影响情况,确定影响情况对应的影响程度值,作为待发布信息的第三审核结果;
根据第一审核结果以及第三审核结果,确定待发布信息的审核结果。
在该可选的实施例中,可选的,信息掩藏对象的目标参数包括信息掩藏对象的信息掩藏位置参数、信息掩藏区域大小参数、信息掩藏程度参数以及信息掩藏时长参数(如马赛克在视频中所出现的时长)中的至少一种。进一步的,待发布信息对应的目标对象包括待发布信息的发布者或者接收者。举例来说,如当待发布视频中的某一视频区域被打上马赛克时,可结合马赛克的大小、出现位置等,对接收者对待发布视频的接收情况进行判定,进而进一步判断待发布视频在马赛克的作用下其内容是否会对接收者的心理状况造成不良影响等等。
可见,该可选的实施例能够在敏感信息存在相对应的信息掩藏对象的情况下,基于信息掩藏对象的目标参数,预测敏感信息对待发布信息的目标对象所造成的影响情况,继而得到待发布信息的异常敏感程度判定结果,这样,结合信息掩藏对象进行分析,体现了对敏感信息的异常敏感程度判定操作的智能化及全面性,有利于提高对敏感信息的异常敏感程度判定的可靠性及准确性,从而有利于提高整体待发布信息的信息发布安全性。
在又一个可选的实施例中,根据信息掩藏对象的目标参数,预测敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况,包括:
当敏感信息的信息类型包括文本信息类型、图像信息类型以及视频信息类型中的至少一种时,根据信息掩藏对象的目标参数,确定敏感信息的视觉信息掩藏情况,并根据视觉信息掩藏情况,预测待发布信息对应的接收者针对敏感信息的第一信息接收情况;
根据第一信息接收情况,确定第一信息接收情况对接收者所造成的第一影响情况,作为敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况。
在该可选的实施例中,可选的,第一信息接收情况包括第一信息接收量情况、第一信息接收清晰度情况以及第一信息接收内容情况中的至少一种。进一步可选的,第一影响情况包括第一心理影响情况、第一生理影响情况以及第一活动影响情况中的至少一种,如若接收者接收到已打马赛克的待发布视频时,可能仍会存在心理或生理不适现象,如心跳加速、反胃呕吐、心慌等等。
进一步的,作为一种可选的实施方式,方法还包括:
当敏感信息的信息类型包括音频信息类型时,根据信息掩藏对象的目标参数,确定敏感信息的听觉信息掩藏情况,并根据听觉信息掩藏情况,预测待发布信息对应的接收者针对敏感信息的第二信息接收情况;
根据第二信息接收情况,确定第二信息接收情况对接收者所造成的第二影响情况,作为敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况。
在该可选的实施例中,可选的,第二信息接收情况包括第二信息接收量情况、第二信息接收清晰度情况以及第二信息接收内容情况中的至少一种。进一步可选的,第二影响情况包括第二心理影响情况、第二生理影响情况以及第二活动影响情况中的至少一种。举例来说,如当待发布音频中的某一音频区域已作音色处理时,可结合音色处理的处理程度(如能不能辨认出发音人是谁)、所占的处理时长等,对接收者对待发布音频的接收情况进行判定,进而进一步判断待发布音频在音色处理的作用下其内容是否会对接收者的心理状况造成不良影响等等。
再进一步的,作为一种可选的实施方式,方法还包括:
当敏感信息的信息类型包括位置参数类型时,根据信息掩藏对象的目标参数,确定敏感信息的位置参数掩藏情况,并根据位置参数掩藏情况,预测待发布信息对应的接收者针对敏感信息的位置参数接收情况;
根据位置参数接收情况,确定待发布信息对应的接收者对待发布消息的发布者的位置追溯情况,并根据位置追溯情况,确定位置追溯情况对发布者所造成的隐私影响情况,作为敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况。
在该可选的实施例中,其中,位置参数接收情况包括位置参数接收度情况。举例来说,如当待发布视频中的位置参数已作虚拟隐藏处理时,可结合虚拟隐藏处理的处理程度(如能不能追踪到发布者的真实位置),对接收者对发布者的位置参数接收度情况进行判定,进而进一步预测接收者对发布者的真实位置所能够追踪到的程度,从而判定出发布者的隐私情况所受到的负面影响等等。
可见,该可选的实施例能够分别从确定出的敏感信息的视觉信息掩藏情况、听觉信息掩藏情况以及位置参数掩藏情况进行分析,继而对敏感信息在信息掩藏对象的作用下对接收者所造成的第一影响情况、第二影响情况以及对发布者所造成的隐私影响情况进行预测,从而得到待发布信息对应的第三审核结果,这样,通过多方面的智能化及自动化分析,不仅有利于提高对待发布信息中的敏感信息的分析速率,进而有利于及时地得到待发布信息对应的第三审核结果,从而有利于提高对待发布信息的管控及时性,还有利于提高对待发布信息中的敏感信息的分析可靠性及准确性,从而有利于提高对待发布信息的管控可靠性及准确性,以实现对待发布信息的安全发布及管控。
实施例三
请参阅图3,图3是本发明实施例公开的一种基于区块链的信息内容安全的管控装置的结构示意图。如图3所示,该基于区块链的信息内容安全的管控装置可以包括:
获取模块301,用于获取需要管控的待发布信息;
第一确定模块302,用于确定待发布信息的信息参数;根据信息参数,确定待发布信息对应的检测方式;
检测模块303,用于根据检测方式,检测待发布信息中的敏感信息;
第二确定模块304,用于根据敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果;
管控模块305,用于根据审核结果,对待发布信息执行相对应的管控操作。
在本发明实施例中,待发布信息的信息参数包括待发布信息的信息类型参数、信息内容参数、发布平台类型参数以及发布位置参数中的至少一种;检测方式包括文本检测方式、图像检测方式、音频检测方式、视频检测方式以及位置参数检测方式中的至少一种;管控操作包括允许发布操作、阻断发布操作以及撤回发布操作中的其中一种。
可见,实施图3所描述的基于区块链的信息内容安全的管控装置能够自动检测出待发布信息中的敏感信息,并针对敏感信息对待发布信息进行审核,以实现对待发布信息的自动管控,这样,有利于提高对待发布信息的审核效率,进而有利于提高对待发布信息的管控效率,从而有利于对待发布信息进行及时发布、阻断发布等管控操作。
在一个可选的实施例中,第二确定模块304根据敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果的方式具体包括:
确定待发布信息的信息生成场景的场景信息,并根据信息生成场景的场景信息,确定信息生成场景的场景私密程度;
确定待发布信息的发布者的用户信息,并根据发布者的用户信息与信息生成场景的场景私密程度,确定发布者在信息生成场景下的信息发布权限参数;
根据发布者对应的信息发布权限参数以及敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果。
在该可选的实施例中,场景信息包括场景位置信息、场景人员活动信息以及场景类型信息中的至少一种。
可见,实施图3所描述的基于区块链的信息内容安全的管控装置能够根据待发布信息的信息生成场景的场景信息及发布者的用户信息,来确定发布者对应的信息发布权限参数,继而将发布者对应的信息发布权限参数与敏感信息的信息类型相结合,来对待发布信息进行审核操作,这样,可以全方面地待发布信息进行审核,进而可以提高对待发布信息的审核可靠性及准确性,从而可以保证所发布的信息与发布者的发布权限相匹配且敏感信息的异常敏感程度值还处于正常范围内。
在另一个可选的实施例中,第二确定模块304根据发布者对应的信息发布权限参数以及敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果的方式具体包括:
根据发布者对应的信息发布权限参数,对待发布信息执行发布条件审核操作,得到待发布信息的发布条件审核结果,作为待发布信息的第一审核结果;
根据敏感信息的信息类型,判断敏感信息是否存在与信息类型相对应的信息掩藏对象;
当判断出敏感信息不存在信息掩藏对象时,根据敏感信息的信息类型,从预设的多个敏感信息对比库中确定出与信息类型相匹配的目标敏感信息对比库;
根据目标敏感信息对比库,确定敏感信息对应的异常敏感程度值,作为待发布信息的第二审核结果;
根据第一审核结果以及第二审核结果,确定待发布信息的审核结果。
在该可选的实施例中,信息掩藏对象包括视觉信息掩藏对象、听觉信息掩藏对象以及位置参数掩藏对象中的至少一种。
可见,实施图3所描述的基于区块链的信息内容安全的管控装置能够在敏感信息不存在与信息类型相对应的信息掩藏对象时,直接将敏感信息与目标敏感信息对比库进行对比,从而得到待发布信息的第二审核结果,这样,体现了对敏感信息的审核操作的灵活性,进而通过与敏感信息对比库的对比操作有利于提高对敏感信息的对比可靠性及准确性,从而有利于提高所得到的针对敏感信息的审核结果的可靠性及准确性。
在又一个可选的实施例中,第二确定模块304根据发布者对应的信息发布权限参数以及敏感信息的信息类型,对待发布信息执行相匹配的审核操作,得到待发布信息的审核结果的方式具体还包括:
当判断出敏感信息存在信息掩藏对象时,确定信息掩藏对象的目标参数;
根据信息掩藏对象的目标参数,预测敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况,并根据影响情况,确定影响情况对应的影响程度值,作为待发布信息的第三审核结果;
根据第一审核结果以及第三审核结果,确定待发布信息的审核结果。
在该可选的实施例中,信息掩藏对象的目标参数包括信息掩藏对象的信息掩藏位置参数、信息掩藏区域大小参数、信息掩藏程度参数以及信息掩藏时长参数中的至少一种;待发布信息对应的目标对象包括待发布信息的发布者或者接收者。
可见,实施图3所描述的基于区块链的信息内容安全的管控装置能够在敏感信息存在相对应的信息掩藏对象的情况下,基于信息掩藏对象的目标参数,预测敏感信息对待发布信息的目标对象所造成的影响情况,继而得到待发布信息的异常敏感程度判定结果,这样,结合信息掩藏对象进行分析,体现了对敏感信息的异常敏感程度判定操作的智能化及全面性,有利于提高对敏感信息的异常敏感程度判定的可靠性及准确性,从而有利于提高整体待发布信息的信息发布安全性。
在又一个可选的实施例中,敏感信息的信息类型包括文本信息类型、图像信息类型、音频信息类型、视频信息类型以及位置参数类型中的至少一种;
其中,第二确定模块304根据信息掩藏对象的目标参数,预测敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况的方式具体包括:
当敏感信息的信息类型包括文本信息类型、图像信息类型以及视频信息类型中的至少一种时,根据信息掩藏对象的目标参数,确定敏感信息的视觉信息掩藏情况,并根据视觉信息掩藏情况,预测待发布信息对应的接收者针对敏感信息的第一信息接收情况;
根据第一信息接收情况,确定第一信息接收情况对接收者所造成的第一影响情况,作为敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况。
在该可选的实施例中,第一信息接收情况包括第一信息接收量情况、第一信息接收清晰度情况以及第一信息接收内容情况中的至少一种;第一影响情况包括第一心理影响情况、第一生理影响情况以及第一活动影响情况中的至少一种。
进一步的,作为一种可选的实施方式,第二确定模块304根据信息掩藏对象的目标参数,预测敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况的方式具体还包括:
当敏感信息的信息类型包括音频信息类型时,根据信息掩藏对象的目标参数,确定敏感信息的听觉信息掩藏情况,并根据听觉信息掩藏情况,预测待发布信息对应的接收者针对敏感信息的第二信息接收情况;
根据第二信息接收情况,确定第二信息接收情况对接收者所造成的第二影响情况,作为敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况。
在该可选的实施例中,第二信息接收情况包括第二信息接收量情况、第二信息接收清晰度情况以及第二信息接收内容情况中的至少一种;第二影响情况包括第二心理影响情况、第二生理影响情况以及第二活动影响情况中的至少一种。
再进一步的,作为一种可选的实施方式,第二确定模块304根据信息掩藏对象的目标参数,预测敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况的方式具体还包括:
当敏感信息的信息类型包括位置参数类型时,根据信息掩藏对象的目标参数,确定敏感信息的位置参数掩藏情况,并根据位置参数掩藏情况,预测待发布信息对应的接收者针对敏感信息的位置参数接收情况;
根据位置参数接收情况,确定待发布信息对应的接收者对待发布消息的发布者的位置追溯情况,并根据位置追溯情况,确定位置追溯情况对发布者所造成的隐私影响情况,作为敏感信息在信息掩藏对象下对待发布信息对应的目标对象所造成的影响情况。
在该可选的实施例中,位置参数接收情况包括位置参数接收度情况。
可见,实施图3所描述的基于区块链的信息内容安全的管控装置能够分别从确定出的敏感信息的视觉信息掩藏情况、听觉信息掩藏情况以及位置参数掩藏情况进行分析,继而对敏感信息在信息掩藏对象的作用下对接收者所造成的第一影响情况、第二影响情况以及对发布者所造成的隐私影响情况进行预测,从而得到待发布信息对应的第三审核结果,这样,通过多方面的智能化及自动化分析,不仅有利于提高对待发布信息中的敏感信息的分析速率,进而有利于及时地得到待发布信息对应的第三审核结果,从而有利于提高对待发布信息的管控及时性,还有利于提高对待发布信息中的敏感信息的分析可靠性及准确性,从而有利于提高对待发布信息的管控可靠性及准确性,以实现对待发布信息的安全发布及管控。
实施例四
请参阅图4,图4是本发明实施例公开的另一种基于区块链的信息内容安全的管控装置的结构示意图。如图4所示,该基于区块链的信息内容安全的管控装置可以包括:
存储有可执行程序代码的存储器401;
与存储器401耦合的处理器402;
处理器402调用存储器401中存储的可执行程序代码,执行本发明实施例一或本发明实施例二所描述的基于区块链的信息内容安全的管控方法中的步骤。
实施例五
本发明实施例公开了一种计算机存储介质,该计算机存储介质存储有计算机指令,该计算机指令被调用时,用于执行本发明实施例一或本发明实施例二所描述的基于区块链的信息内容安全的管控方法中的步骤。
实施例六
本发明实施例公开了一种计算机程序产品,该计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,且该计算机程序可操作来使计算机执行实施例一或实施例二中所描述的基于区块链的信息内容安全的管控方法中的步骤。
以上所描述的装置实施例仅是示意性的,其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理模块,即可以位于一个地方,或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施例的具体描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,存储介质包括只读存储器(Read-Only Memory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(ErasableProgrammable Read Only Memory,EPROM)、一次可编程只读存储器(One-timeProgrammable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
最后应说明的是:本发明实施例公开的一种基于区块链的信息内容安全的管控方法及装置所揭露的仅为本发明较佳实施例而已,仅用于说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解;其依然可以对前述各项实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应的技术方案的本质脱离本发明各项实施例技术方案的精神和范围。
Claims (10)
1.一种基于区块链的信息内容安全的管控方法,其特征在于,所述方法包括:
获取需要管控的待发布信息,并确定所述待发布信息的信息参数;所述待发布信息的信息参数包括所述待发布信息的信息类型参数、信息内容参数、发布平台类型参数以及发布位置参数中的至少一种;
根据所述信息参数,确定所述待发布信息对应的检测方式;所述检测方式包括文本检测方式、图像检测方式、音频检测方式、视频检测方式以及位置参数检测方式中的至少一种;
根据所述检测方式,检测所述待发布信息中的敏感信息,并根据所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果;
根据所述审核结果,对所述待发布信息执行相对应的管控操作;所述管控操作包括允许发布操作、阻断发布操作以及撤回发布操作中的其中一种。
2.根据权利要求1所述的基于区块链的信息内容安全的管控方法,其特征在于,所述根据所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果,包括:
确定所述待发布信息的信息生成场景的场景信息,并根据所述信息生成场景的场景信息,确定所述信息生成场景的场景私密程度;所述场景信息包括场景位置信息、场景人员活动信息以及场景类型信息中的至少一种;
确定所述待发布信息的发布者的用户信息,并根据所述发布者的用户信息与所述信息生成场景的场景私密程度,确定所述发布者在所述信息生成场景下的信息发布权限参数;
根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果。
3.根据权利要求2所述的基于区块链的信息内容安全的管控方法,其特征在于,所述根据所述发布者对应的信息发布权限参数以及所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果,包括:
根据所述发布者对应的信息发布权限参数,对所述待发布信息执行发布条件审核操作,得到所述待发布信息的发布条件审核结果,作为所述待发布信息的第一审核结果;
根据所述敏感信息的信息类型,判断所述敏感信息是否存在与所述信息类型相对应的信息掩藏对象;所述信息掩藏对象包括视觉信息掩藏对象、听觉信息掩藏对象以及位置参数掩藏对象中的至少一种;
当判断出所述敏感信息不存在所述信息掩藏对象时,根据所述敏感信息的信息类型,从预设的多个敏感信息对比库中确定出与所述信息类型相匹配的目标敏感信息对比库;
根据所述目标敏感信息对比库,确定所述敏感信息对应的异常敏感程度值,作为所述待发布信息的第二审核结果;
根据所述第一审核结果以及所述第二审核结果,确定所述待发布信息的审核结果。
4.根据权利要求3所述的基于区块链的信息内容安全的管控方法,其特征在于,所述方法还包括:
当判断出所述敏感信息存在所述信息掩藏对象时,确定所述信息掩藏对象的目标参数;所述信息掩藏对象的目标参数包括所述信息掩藏对象的信息掩藏位置参数、信息掩藏区域大小参数、信息掩藏程度参数以及信息掩藏时长参数中的至少一种;
根据所述信息掩藏对象的目标参数,预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况,并根据所述影响情况,确定所述影响情况对应的影响程度值,作为所述待发布信息的第三审核结果;所述待发布信息对应的目标对象包括所述待发布信息的发布者或者接收者;
根据所述第一审核结果以及所述第三审核结果,确定所述待发布信息的审核结果。
5.根据权利要求4所述的基于区块链的信息内容安全的管控方法,其特征在于,所述敏感信息的信息类型包括文本信息类型、图像信息类型、音频信息类型、视频信息类型以及位置参数类型中的至少一种;
其中,所述根据所述信息掩藏对象的目标参数,预测所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况,包括:
当所述敏感信息的信息类型包括所述文本信息类型、所述图像信息类型以及所述视频信息类型中的至少一种时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的视觉信息掩藏情况,并根据所述视觉信息掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的第一信息接收情况;所述第一信息接收情况包括第一信息接收量情况、第一信息接收清晰度情况以及第一信息接收内容情况中的至少一种;
根据所述第一信息接收情况,确定所述第一信息接收情况对所述接收者所造成的第一影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况;所述第一影响情况包括第一心理影响情况、第一生理影响情况以及第一活动影响情况中的至少一种。
6.根据权利要求5所述的基于区块链的信息内容安全的管控方法,其特征在于,所述方法还包括:
当所述敏感信息的信息类型包括所述音频信息类型时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的听觉信息掩藏情况,并根据所述听觉信息掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的第二信息接收情况;所述第二信息接收情况包括第二信息接收量情况、第二信息接收清晰度情况以及第二信息接收内容情况中的至少一种;
根据所述第二信息接收情况,确定所述第二信息接收情况对所述接收者所造成的第二影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况;所述第二影响情况包括第二心理影响情况、第二生理影响情况以及第二活动影响情况中的至少一种。
7.根据权利要求5或6所述的基于区块链的信息内容安全的管控方法,其特征在于,所述方法还包括:
当所述敏感信息的信息类型包括所述位置参数类型时,根据所述信息掩藏对象的目标参数,确定所述敏感信息的位置参数掩藏情况,并根据所述位置参数掩藏情况,预测所述待发布信息对应的接收者针对所述敏感信息的位置参数接收情况;所述位置参数接收情况包括位置参数接收度情况;
根据所述位置参数接收情况,确定所述待发布信息对应的接收者对所述待发布消息的发布者的位置追溯情况,并根据所述位置追溯情况,确定所述位置追溯情况对所述发布者所造成的隐私影响情况,作为所述敏感信息在所述信息掩藏对象下对所述待发布信息对应的目标对象所造成的影响情况。
8.一种基于区块链的信息内容安全的管控装置,其特征在于,所述装置包括:
获取模块,用于获取需要管控的待发布信息;
第一确定模块,用于确定所述待发布信息的信息参数;所述待发布信息的信息参数包括所述待发布信息的信息类型参数、信息内容参数、发布平台类型参数以及发布位置参数中的至少一种;根据所述信息参数,确定所述待发布信息对应的检测方式;所述检测方式包括文本检测方式、图像检测方式、音频检测方式、视频检测方式以及位置参数检测方式中的至少一种;
检测模块,用于根据所述检测方式,检测所述待发布信息中的敏感信息;
第二确定模块,用于根据所述敏感信息的信息类型,对所述待发布信息执行相匹配的审核操作,得到所述待发布信息的审核结果;
管控模块,用于根据所述审核结果,对所述待发布信息执行相对应的管控操作;所述管控操作包括允许发布操作、阻断发布操作以及撤回发布操作中的其中一种。
9.一种基于区块链的信息内容安全的管控装置,其特征在于,所述装置包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行如权利要求1-7任一项所述的基于区块链的信息内容安全的管控方法。
10.一种计算机存储介质,其特征在于,所述计算机存储介质存储有计算机指令,所述计算机指令被调用时,用于执行如权利要求1-7任一项所述的基于区块链的信息内容安全的管控方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311507363.XA CN117235406B (zh) | 2023-11-14 | 2023-11-14 | 基于区块链的信息内容安全的管控方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311507363.XA CN117235406B (zh) | 2023-11-14 | 2023-11-14 | 基于区块链的信息内容安全的管控方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117235406A true CN117235406A (zh) | 2023-12-15 |
CN117235406B CN117235406B (zh) | 2024-03-19 |
Family
ID=89095233
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311507363.XA Active CN117235406B (zh) | 2023-11-14 | 2023-11-14 | 基于区块链的信息内容安全的管控方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117235406B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117521148A (zh) * | 2023-12-29 | 2024-02-06 | 苏州元脑智能科技有限公司 | 基于区块链的信息交互方法及装置、存储介质及电子设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106055701A (zh) * | 2016-06-21 | 2016-10-26 | 武汉斗鱼网络科技有限公司 | 一种论坛内容审核发布方法及装置 |
US20200293681A1 (en) * | 2019-03-15 | 2020-09-17 | ZenPayroll, Inc. | Tagging and auditing sensitive information in a database environment |
WO2022134588A1 (zh) * | 2020-12-21 | 2022-06-30 | 深圳壹账通智能科技有限公司 | 信息审核分类模型的构建方法和信息审核方法 |
CN114817990A (zh) * | 2022-05-05 | 2022-07-29 | 江苏保旺达软件技术有限公司 | 对敏感数据的管理方法、装置、电子设备及存储介质 |
CN116127173A (zh) * | 2023-04-10 | 2023-05-16 | 上海蜜度信息技术有限公司 | 基于区块链的网络媒体监管方法及系统、存储介质及平台 |
CN116340820A (zh) * | 2023-03-09 | 2023-06-27 | 招商银行股份有限公司 | 数据审核方法、装置、系统与计算机可读存储介质 |
-
2023
- 2023-11-14 CN CN202311507363.XA patent/CN117235406B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106055701A (zh) * | 2016-06-21 | 2016-10-26 | 武汉斗鱼网络科技有限公司 | 一种论坛内容审核发布方法及装置 |
US20200293681A1 (en) * | 2019-03-15 | 2020-09-17 | ZenPayroll, Inc. | Tagging and auditing sensitive information in a database environment |
WO2022134588A1 (zh) * | 2020-12-21 | 2022-06-30 | 深圳壹账通智能科技有限公司 | 信息审核分类模型的构建方法和信息审核方法 |
CN114817990A (zh) * | 2022-05-05 | 2022-07-29 | 江苏保旺达软件技术有限公司 | 对敏感数据的管理方法、装置、电子设备及存储介质 |
CN116340820A (zh) * | 2023-03-09 | 2023-06-27 | 招商银行股份有限公司 | 数据审核方法、装置、系统与计算机可读存储介质 |
CN116127173A (zh) * | 2023-04-10 | 2023-05-16 | 上海蜜度信息技术有限公司 | 基于区块链的网络媒体监管方法及系统、存储介质及平台 |
Non-Patent Citations (1)
Title |
---|
吴威;: "公安内网敏感信息安全监管的实现方法", 网络安全技术与应用, no. 02, pages 119 - 120 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117521148A (zh) * | 2023-12-29 | 2024-02-06 | 苏州元脑智能科技有限公司 | 基于区块链的信息交互方法及装置、存储介质及电子设备 |
CN117521148B (zh) * | 2023-12-29 | 2024-04-02 | 苏州元脑智能科技有限公司 | 基于区块链的信息交互方法及装置、存储介质及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN117235406B (zh) | 2024-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108875688B (zh) | 一种活体检测方法、装置、系统及存储介质 | |
CN113098870B (zh) | 一种网络诈骗检测方法、装置、电子设备及存储介质 | |
CN117235406B (zh) | 基于区块链的信息内容安全的管控方法及装置 | |
CN112417439A (zh) | 账号检测方法、装置、服务器及存储介质 | |
CN107888554B (zh) | 服务器攻击的检测方法和装置 | |
CN113257255B (zh) | 一种伪造语音的识别方法、装置、电子设备及存储介质 | |
CN113132311B (zh) | 异常访问检测方法、装置和设备 | |
CN110851834B (zh) | 融合多特征分类的安卓恶意应用检测方法 | |
CN114003903B (zh) | 一种网络攻击追踪溯源方法及装置 | |
CN110262949A (zh) | 智能设备日志处理系统及方法 | |
CN112416730A (zh) | 一种用户上网行为分析方法、装置、电子设备及存储介质 | |
CN109712291B (zh) | 电子闸门的开启方法、装置及服务器 | |
CN110135162A (zh) | Webshell后门识别方法、装置、设备及存储介质 | |
CN112151038B (zh) | 语音重放攻击检测方法、装置、可读存储介质及电子设备 | |
CN108959860A (zh) | 一种检测Android系统是否被破解和破解记录获取方法 | |
CN107808082A (zh) | 电子装置、数据访问验证方法和计算机可读存储介质 | |
CN111104685B (zh) | 一种二维码的动态更新方法及装置 | |
CN112468452B (zh) | 流量检测方法及装置、电子设备、计算机可读存储介质 | |
CN113516997A (zh) | 一种语音事件识别装置和方法 | |
CN114091609A (zh) | 一种计算机网络信息安全事件处理方法 | |
CN112417007A (zh) | 一种数据分析方法、装置、电子设备及存储介质 | |
KR101553923B1 (ko) | 시스템 사용량 분석 장치 및 방법 | |
CN114189585A (zh) | 骚扰电话异常检测方法、装置及计算设备 | |
CN111949481A (zh) | 一种基于微服务的异常追踪检测系统 | |
CN111651690A (zh) | 涉案信息查找方法、装置以及计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |