CN110941729A - 一种基于敏感标记的内容审查方法 - Google Patents
一种基于敏感标记的内容审查方法 Download PDFInfo
- Publication number
- CN110941729A CN110941729A CN201911044646.9A CN201911044646A CN110941729A CN 110941729 A CN110941729 A CN 110941729A CN 201911044646 A CN201911044646 A CN 201911044646A CN 110941729 A CN110941729 A CN 110941729A
- Authority
- CN
- China
- Prior art keywords
- data
- violation
- sensitive
- image
- level
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/45—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/48—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/483—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Library & Information Science (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Machine Translation (AREA)
Abstract
本发明公开一种基于敏感标记的内容审查方法,该方法包括下述步骤:步骤一:通过数据采集模块获取敏感标记的内容文件,并将其传输到整合单元进行分类整合操作,得到音频文件、图像文件和文本文档;步骤二:整合单元将音频文件数据、图像文件数据和文本文档数据传输到识别单元,识别单元依据步骤一中标记的YPi、TXa和WBb识别文件种类,并将其分别传输到分析模块内的对应单元内,本发明通过音频分析单元和图像分析单元的设置,对音频和图像进行违规识别,同时,文本分析单元通过拼音个数、拼音首字母、拼音尾部以及声调对文本文档数据进行逐层筛选,并根据声调和拼音尾部数据进行敏感次出现频率计算,增加对敏感字的精确判断。
Description
技术领域
本发明涉及内容审查技术领域,具体为一种基于敏感标记的内容审查方法。
背景技术
审查制度是指官方较权威机构对面向公众的文学、艺术、网络资源等领域的检查筛选,以达到其所预期的目的,这些是为了去除一些不健康内容,或者一些关键性的词语或内容。
公告号为CN100456830C的一种实现流媒体内容审查的用户终端设备,该实现流媒体内容审查的用户终端设备,解决了现有技术中如何在用户终端设备上实现视频码流的深度内容审查的问题,但是该实现流媒体内容审查的用户终端设备,无法在文件传输的过程中对文件进行快速的识别,对于一些敏感词相同字音无法识别,导致精确度较低,对于敏感内容没有明确的等级划分,为此,我们提出一种基于敏感标记的内容审查方法。
发明内容
本发明的目的在于通过数据采集模块获取敏感标记的内容文件,并将其传输到整合单元进行分类整合操作,整合单元将音频文件数据、图像文件数据和文本文档数据传输到识别单元,识别单元依据步骤一中标记的YPi、TXa和WBb识别文件种类,分析模块内的音频分析单元、图像分析单元和文本分析单元分别接收识别模块传输的音频文件数据、图像文件数据和文本文档数据,并将其与敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据一同进行分析操作,得出敏感字出现的频率数据,通过分析操作将步骤三中的敏感字出现的频率数据、生成图像违规信号和生成音频违规信号传输到判定单元,判定单元用于对敏感字出现的频率进行敏感判定,同时设定敏感等级,警报单元用于将一级违规信号、二级违规信号、三级违规信号和四级违规信号转换成一级警报信号、二级警报信号、三级警报信号和四级警报信号。
本发明所要解决的技术问题为:
(1)如何通过整合单元和识别单元的设置,将敏感标记的内容文件按照不同的类型进行分类并标记,来解决现有技术中难以快速的查询不同种类文件的问题;
(2)如何通过音频分析单元和图像分析单元的设置,对音频和图像进行违规识别,同时,文本分析单元通过拼音个数、拼音首字母、拼音尾部以及声调对文本文档数据进行逐层筛选,来解决现有技术中难以对敏感字进行精确识别的问题;
(3)如何通过分析操作的设置,对敏感字进行违规判断,同时制定违规等级,对判定后的违规信息设定等级划分,来解决现有技术中无法对敏感字的影响程度进行判断的问题。
本发明的目的可以通过以下技术方案实现:一种基于敏感标记的内容审查方法,该方法包括下述步骤:
步骤一:通过数据采集模块获取敏感标记的内容文件,并将其传输到整合单元进行分类整合操作,得到音频文件、图像文件和文本文档;
步骤二:整合单元将音频文件数据、图像文件数据和文本文档数据传输到识别单元,识别单元依据步骤一中标记的YPi、TXa和WBb识别文件种类,并将其分别传输到分析模块内的对应单元内;
步骤三:数据库内存储有敏感字数据,敏感字数据包括敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据,分析模块内的音频分析单元、图像分析单元和文本分析单元分别接收识别模块传输的音频文件数据、图像文件数据和文本文档数据,并将其与敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据一同进行分析操作,得到敏感字出现频率和同音字出现频率;
步骤四:通过分析操作将步骤三中的敏感字出现的频率数据、生成图像违规信号和生成音频违规信号传输到判定单元,判定单元用于对敏感字出现的频率进行敏感判定,同时设定敏感等级,得到一级违规信号、二级违规信号、三级违规信号和四级违规信号,并将其传输到警报单元;
步骤五:警报单元用于将一级违规信号、二级违规信号、三级违规信号和四级违规信号转换成一级警报信号、二级警报信号、三级警报信号和四级警报信号,并将警报信号传输至智能设备。
作为本发明的进一步改进方案:分类整合操作的具体操作过程为:
S1:获取铭感标记的内容文件并识别其拓展名,依据其拓展名对其进行分类;
S2:当拓展名为rm、mpg和avi的文件时,将其归为音频文件,并将其标记为YPi,i=1,2,3......n;
S3:当拓展名为Pcx、Bmp、Gif和Jpg的文件时,将其归为图像文件,并将其标记为TXa,a=1,2,3......m;
S4:当拓展名为Txt时将其归为文本文档,并将其标记为WBb,b=1,2,3......c。
作为本发明的进一步改进方案:分析操作的具体操作过程为:
E1:音频分析单元获取音频文件数据,并通过智能音频识别技术对多组特定的语音进行识别,特定的语音为工作人员设定的多个敏感字汇,当智能音频识别技术识别到多组特定语音中任意一种时,则判定该音频文件数据违规,生成音频违规信号,当智能音频识别技术没有识别到上述特定语音时,则判定该音频文件数据安全,生成音频安全信号;
E2:图像分析单元获取图像文件数据,并通过图像识别技术对图像文件数据进行识别,将识别后的图像数据与数据库内存储的涉嫌违规图像进行比对,当识别后的图像数据∈涉嫌违规图像时,则判定该图像文件数据涉嫌或违规,生成图像违规信号,当识别后的图像数据涉嫌违规图像时,则判定该图像文件数据安全,生成图像安全信号;
E3:文本分析单元获取文本文档数据,并通过监测单元对文本文档数据进行分析,具体为:
C1:获取文本文档数据内的文字总数数据、拼音个数数据、拼音首字母数据、尾部拼音数据和声调数据,并将拼音个数数据、拼音首字母数据、尾部拼音数据和声调数据依次标记为Zo、Go、Po、Bo和Do,o=1,2,3......u,且Go、Po、Bo和Do一一对应;
C2:获取敏感文字数据,将敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据分别标记为G效、P效、B效和D效;
C3:首先根据不同敏感文字的拼音位数对文本文档进行筛选,选取出拼音个数数据相同的文字表示为Go=G效,再从拼音个数数据相同的文字中选取出首字母相同的文字表示为Po=P效,从首字母相同的文字中选取出尾部拼音相同的文字表示为Bo=B效,最终从尾部拼音相同的文字中选取出声调相同的文字表示为Do=D效;
C4:获取Do=D效的相同个数,并将其次数标记为CD,依据计算式敏感字出现频率=CD/Zo,获取Bo=B效的相同个数,并将其次数标记为CB,依据计算式同音字出现频率=CB/Zo。
作为本发明的进一步改进方案:敏感判定的具体判定过程如下:
H1:获取敏感字出现频率数据和同音字出现频率,设定一个预设值和第二预设值,将敏感字出现频率和同音字出现频率分别与预设值进行比对,当敏感字出现频率>第一预设值时,则判定该文本文档内容涉及到敏感内容,生成文字违规信号,当敏感字出现频率<第一预设值时,则判定该文本文档内容没有涉及到敏感内容,当同音字出现频率>第二预设值时,则判定该文本文档内容涉及到敏感内容,生成同音字违规信号,当同音字出现频率<第二预设值时,则判定该文本文档内容没有涉及到敏感内容;
H2:根据上述步骤三中的分析结果,对敏感标记的内容信息进行判定,具体为:当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号三者中的任意一种信号时,均判定该敏感标记的内容信息存在违规;
H3:针对上述H1和H2设计的违规内容,制定违规等级,违规等级的设定具体为:
①当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意一种信号时,则将违规等级标定为一级违规信号;
②当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意二种信号时,则将违规等级标定为二级违规信号;
③当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意三种信号时,则将违规等级标定位三级违规信号;
④当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四种信号时,则将违规等级标定为四级违规信号;
H4:判定单元将一级违规信号、二级违规信号、三级违规信号和四级违规信号传输到警报单元。
本发明的有益效果:
(1)通过数据采集模块获取敏感标记的内容文件,并将其传输到整合单元进行分类整合操作,整合单元将音频文件数据、图像文件数据和文本文档数据传输到识别单元,识别单元依据步骤一中标记的YPi、TXa和WBb识别文件种类,并将其分别传输到分析模块内的对应单元内,通过整合单元和识别单元的设置,将敏感标记的内容文件按照不同的类型进行分类并标记,便于快速的识别不同种类的文件数据,节省查询时间,提高工作效率。
(2)数据库内存储有敏感字数据,敏感字数据包括敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据,分析模块内的音频分析单元、图像分析单元和文本分析单元分别接收识别模块传输的音频文件数据、图像文件数据和文本文档数据,并将其与敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据一同进行分析操作,通过音频分析单元和图像分析单元的设置,对音频和图像进行违规识别,同时,文本分析单元通过拼音个数、拼音首字母、拼音尾部以及声调对文本文档数据进行逐层筛选,并根据声调和拼音尾部数据进行敏感次出现频率计算,增加对敏感字的精确判断。
(3)通过分析操作将步骤三中的敏感字出现的频率数据、生成图像违规信号和生成音频违规信号传输到判定单元,判定单元用于对敏感字出现的频率进行敏感判定,同时设定敏感等级,警报单元用于将一级违规信号、二级违规信号、三级违规信号和四级违规信号转换成一级警报信号、二级警报信号、三级警报信号和四级警报信号,并将警报信号传输至智能设备,通过分析操作的设置,对敏感字进行违规判断,同时制定违规等级,对判定后的违规信息设定等级划分,从而对敏感标记的内容的危害性进行更精确的判断,增加敏感标记的内容对社会及他人的影像。
具体实施方式
对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
本发明为一种基于敏感标记的内容审查方法,其特征在于,该方法包括下述步骤:
步骤一:通过数据采集模块获取敏感标记的内容文件,并将其传输到整合单元进行分类整合操作,分类整合操作的具体操作过程为:
S1:获取铭感标记的内容文件并识别其拓展名,依据其拓展名对其进行分类;
S2:当拓展名为rm、mpg和avi的文件时,将其归为音频文件,并将其标记为YPi,i=1,2,3......n;
S3:当拓展名为Pcx、Bmp、Gif和Jpg的文件时,将其归为图像文件,并将其标记为TXa,a=1,2,3......m;
S4:当拓展名为Txt时将其归为文本文档,并将其标记为WBb,b=1,2,3......c;
步骤二:整合单元将音频文件数据、图像文件数据和文本文档数据传输到识别单元,识别单元依据步骤一中标记的YPi、TXa和WBb识别文件种类,并将其分别传输到分析模块内的对应单元内;
步骤三:数据库内存储有敏感字数据,敏感字数据包括敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据,分析模块内的音频分析单元、图像分析单元和文本分析单元分别接收识别模块传输的音频文件数据、图像文件数据和文本文档数据,并将其与敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据一同进行分析操作,分析操作的具体操作过程为:
E1:音频分析单元获取音频文件数据,并通过智能音频识别技术对多组特定的语音进行识别,特定的语音为工作人员设定的多个敏感字汇,当智能音频识别技术识别到多组特定语音中任意一种时,则判定该音频文件数据违规,生成音频违规信号,当智能音频识别技术没有识别到上述特定语音时,则判定该音频文件数据安全,生成音频安全信号;
E2:图像分析单元获取图像文件数据,并通过图像识别技术对图像文件数据进行识别,将识别后的图像数据与数据库内存储的涉嫌违规图像进行比对,当识别后的图像数据∈涉嫌违规图像时,则判定该图像文件数据涉嫌或违规,生成图像违规信号,当识别后的图像数据涉嫌违规图像时,则判定该图像文件数据安全,生成图像安全信号;
E3:文本分析单元获取文本文档数据,并通过监测单元对文本文档数据进行分析,具体为:
C1:获取文本文档数据内的文字总数数据、拼音个数数据、拼音首字母数据、尾部拼音数据和声调数据,文字总数数据指代该敏感标记的内容文件中所有的文字总数,拼音个数数据指代每一个文字拼音的位数,尾部拼音数据指代该文字除了首字母之外所有的拼音,声调数据指代每个文字拼音的声调,并将拼音个数数据、拼音首字母数据、尾部拼音数据和声调数据依次标记为Zo、Go、Po、Bo和Do,o=1,2,3......u,且Go、Po、Bo和Do一一对应;
C2:获取敏感文字数据,将敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据分别标记为G效、P效、B效和D效;
C3:首先根据不同敏感文字的拼音位数对文本文档进行筛选,选取出拼音个数数据相同的文字表示为Go=G效,再从拼音个数数据相同的文字中选取出首字母相同的文字表示为Po=P效,从首字母相同的文字中选取出尾部拼音相同的文字表示为Bo=B效,最终从尾部拼音相同的文字中选取出声调相同的文字表示为Do=D效;
C4:获取Do=D效的相同个数,并将其次数标记为CD,依据计算式敏感字出现频率=CD/Zo,获取Bo=B效的相同个数,并将其次数标记为CB,依据计算式同音字出现频率=CB/Zo;
步骤四:通过分析操作将步骤三中的敏感字出现的频率数据、生成图像违规信号和生成音频违规信号传输到判定单元,判定单元用于对敏感字出现的频率进行敏感判定,同时设定敏感等级,具体判定过程如下:
H1:获取敏感字出现频率数据和同音字出现频率,设定一个预设值和第二预设值,将敏感字出现频率和同音字出现频率分别与预设值进行比对,当敏感字出现频率>第一预设值时,则判定该文本文档内容涉及到敏感内容,生成文字违规信号,当敏感字出现频率<第一预设值时,则判定该文本文档内容没有涉及到敏感内容,当同音字出现频率>第二预设值时,则判定该文本文档内容涉及到敏感内容,生成同音字违规信号,当同音字出现频率<第二预设值时,则判定该文本文档内容没有涉及到敏感内容;
H2:根据上述步骤三中的分析结果,对敏感标记的内容信息进行判定,具体为:当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号三者中的任意一种信号时,均判定该敏感标记的内容信息存在违规;
H3:针对上述H1和H2设计的违规内容,制定违规等级,违规等级的设定具体为:
①当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意一种信号时,则将违规等级标定为一级违规信号;
②当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意二种信号时,则将违规等级标定为二级违规信号;
③当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意三种信号时,则将违规等级标定位三级违规信号;
④当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四种信号时,则将违规等级标定为四级违规信号;
H4:判定单元将一级违规信号、二级违规信号、三级违规信号和四级违规信号传输到警报单元;
步骤五:警报单元用于将一级违规信号、二级违规信号、三级违规信号和四级违规信号转换成一级警报信号、二级警报信号、三级警报信号和四级警报信号,并将警报信号传输至智能设备。
本发明在工作时,通过数据采集模块获取敏感标记的内容文件,并将其传输到整合单元进行分类整合操作,整合单元将音频文件数据、图像文件数据和文本文档数据传输到识别单元,识别单元依据步骤一中标记的YPi、TXa和WBb识别文件种类,并将其分别传输到分析模块内的对应单元内,数据库内存储有敏感字数据,敏感字数据包括敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据,分析模块内的音频分析单元、图像分析单元和文本分析单元分别接收识别模块传输的音频文件数据、图像文件数据和文本文档数据,并将其与敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据一同进行分析操作,通过分析操作将步骤三中的敏感字出现的频率数据、生成图像违规信号和生成音频违规信号传输到判定单元,判定单元用于对敏感字出现的频率进行敏感判定,同时设定敏感等级,警报单元用于将一级违规信号、二级违规信号、三级违规信号和四级违规信号转换成一级警报信号、二级警报信号、三级警报信号和四级警报信号,并将警报信号传输至智能设备。
本发明通过获取铭感标记的内容文件并识别其拓展名,依据其拓展名对其进行分类,当拓展名为rm、mpg和avi的文件时,将其归为音频文件,并将其标记为YPi,当拓展名为Pcx、Bmp、Gif和Jpg的文件时,将其归为图像文件,并将其标记为TXa,a=1;当拓展名为Txt时将其归为文本文档,并将其标记为WBb,便于文件的快速识别和读取节省查找时间;
同时文本分析单元获取文本文档数据,并通过监测单元对文本文档数据进行分析,具体为:获取文本文档数据内的文字总数数据、拼音个数数据、拼音首字母数据、尾部拼音数据和声调数据,并将拼音个数数据、拼音首字母数据、尾部拼音数据和声调数据依次标记为Zo、Go、Po、Bo和Do,获取敏感文字数据,将敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据分别标记为G效、P效、B效和D效,首先根据不同敏感文字的拼音位数对文本文档进行筛选,选取出拼音个数数据相同的文字表示为Go=G效,再从拼音个数数据相同的文字中选取出首字母相同的文字表示为Po=P效,从首字母相同的文字中选取出尾部拼音相同的文字表示为Bo=B效,最终从尾部拼音相同的文字中选取出声调相同的文字表示为Do=D效,获取Do=D效的相同个数,并将其次数标记为CD,依据计算式敏感字出现频率=CD/Zo,获取Bo=B效的相同个数,并将其次数标记为CB,依据计算式同音字出现频率=CB/Zo,通过文本分析单元依据拼音位数、首字母、拼音尾部以及声调的逐步筛选,获取精确的敏感字出现频率。
同时获取敏感字出现频率数据和同音字出现频率,设定一个预设值和第二预设值,将敏感字出现频率和同音字出现频率分别与预设值进行比对,当敏感字出现频率>第一预设值时,则判定该文本文档内容涉及到敏感内容,生成文字违规信号,当敏感字出现频率<第一预设值时,则判定该文本文档内容没有涉及到敏感内容,当同音字出现频率>第二预设值时,则判定该文本文档内容涉及到敏感内容,生成同音字违规信号,当同音字出现频率<第二预设值时,则判定该文本文档内容没有涉及到敏感内容,根据上述步骤三中的分析结果,对敏感标记的内容信息进行判定,具体为:当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号三者中的任意一种信号时,均判定该敏感标记的内容信息存在违规,针对上述H1和H2设计的违规内容,制定违规等级,通过对敏感字出现频率和同音字出现频率的分析比对与图像违规和音频违规进行分析,从而设定违规等级制度,对敏感标记的内容进行审查。
以上内容仅仅是对本发明结构所作的举例和说明,所属本技术领域的技术人员对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,只要不偏离发明的结构或者超越本权利要求书所定义的范围,均应属于本发明的保护范围。
Claims (4)
1.一种基于敏感标记的内容审查方法,其特征在于,该方法包括下述步骤:
步骤一:通过数据采集模块获取敏感标记的内容文件,并将其传输到整合单元进行分类整合操作,得到音频文件、图像文件和文本文档;
步骤二:整合单元将音频文件数据、图像文件数据和文本文档数据传输到识别单元,识别单元依据步骤一中标记的YPi、TXa和WBb识别文件种类,并将其分别传输到分析模块内的对应单元内;
步骤三:数据库内存储有敏感字数据,敏感字数据包括敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据,分析模块内的音频分析单元、图像分析单元和文本分析单元分别接收识别模块传输的音频文件数据、图像文件数据和文本文档数据,并将其与敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据一同进行分析操作,得到敏感字出现频率和同音字出现频率;
步骤四:通过分析操作将步骤三中的敏感字出现的频率数据、生成图像违规信号和生成音频违规信号传输到判定单元,判定单元用于对敏感字出现的频率进行敏感判定,同时设定敏感等级,得到一级违规信号、二级违规信号、三级违规信号和四级违规信号,并将其传输到警报单元;
步骤五:警报单元用于将一级违规信号、二级违规信号、三级违规信号和四级违规信号转换成一级警报信号、二级警报信号、三级警报信号和四级警报信号,并将警报信号传输至智能设备。
2.根据权利要求1所述的一种基于敏感标记的内容审查方法,其特征在于,分类整合操作的具体操作过程为:
S1:获取铭感标记的内容文件并识别其拓展名,依据其拓展名对其进行分类;
S2:当拓展名为rm、mpg和avi的文件时,将其归为音频文件,并将其标记为YPi,i=1,2,3......n;
S3:当拓展名为Pcx、Bmp、Gif和Jpg的文件时,将其归为图像文件,并将其标记为TXa,a=1,2,3......m;
S4:当拓展名为Txt时将其归为文本文档,并将其标记为WBb,b=1,2,3......c。
3.根据权利要求1所述的一种基于敏感标记的内容审查方法,其特征在于,分析操作的具体操作过程为:
E1:音频分析单元获取音频文件数据,并通过智能音频识别技术对多组特定的语音进行识别,特定的语音为工作人员设定的多个敏感字汇,当智能音频识别技术识别到多组特定语音中任意一种时,则判定该音频文件数据违规,生成音频违规信号,当智能音频识别技术没有识别到上述特定语音时,则判定该音频文件数据安全,生成音频安全信号;
E2:图像分析单元获取图像文件数据,并通过图像识别技术对图像文件数据进行识别,将识别后的图像数据与数据库内存储的涉嫌违规图像进行比对,当识别后的图像数据∈涉嫌违规图像时,则判定该图像文件数据涉嫌或违规,生成图像违规信号,当识别后的图像数据涉嫌违规图像时,则判定该图像文件数据安全,生成图像安全信号;
E3:文本分析单元获取文本文档数据,并通过监测单元对文本文档数据进行分析,具体为:
C1:获取文本文档数据内的文字总数数据、拼音个数数据、拼音首字母数据、尾部拼音数据和声调数据,并将拼音个数数据、拼音首字母数据、尾部拼音数据和声调数据依次标记为Zo、Go、Po、Bo和Do,o=1,2,3......u,且Go、Po、Bo和Do一一对应;
C2:获取敏感文字数据,将敏感拼音个数数据、敏感拼音首字母数据、敏感文字尾部拼音数据和敏感文字声调数据分别标记为G效、P效、B效和D效;
C3:首先根据不同敏感文字的拼音位数对文本文档进行筛选,选取出拼音个数数据相同的文字表示为Go=G效,再从拼音个数数据相同的文字中选取出首字母相同的文字表示为Po=P效,从首字母相同的文字中选取出尾部拼音相同的文字表示为Bo=B效,最终从尾部拼音相同的文字中选取出声调相同的文字表示为Do=D效;
C4:获取Do=D效的相同个数,并将其次数标记为CD,依据计算式敏感字出现频率=CD/Zo,获取Bo=B效的相同个数,并将其次数标记为CB,依据计算式同音字出现频率=CB/Zo。
4.根据权利要求1所述的一种基于敏感标记的内容审查方法,其特征在于,具体判定过程如下:
H1:获取敏感字出现频率数据和同音字出现频率,设定一个预设值和第二预设值,将敏感字出现频率和同音字出现频率分别与预设值进行比对,当敏感字出现频率>第一预设值时,则判定该文本文档内容涉及到敏感内容,生成文字违规信号,当敏感字出现频率<第一预设值时,则判定该文本文档内容没有涉及到敏感内容,当同音字出现频率>第二预设值时,则判定该文本文档内容涉及到敏感内容,生成同音字违规信号,当同音字出现频率<第二预设值时,则判定该文本文档内容没有涉及到敏感内容;
H2:根据上述步骤三中的分析结果,对敏感标记的内容信息进行判定,具体为:当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号三者中的任意一种信号时,均判定该敏感标记的内容信息存在违规;
H3:针对上述H1和H2设计的违规内容,制定违规等级,违规等级的设定具体为:
①当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意一种信号时,则将违规等级标定为一级违规信号;
②当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意二种信号时,则将违规等级标定为二级违规信号;
③当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四者中的任意三种信号时,则将违规等级标定位三级违规信号;
④当判定单元接收到同音字违规信号、文字违规信号、图像违规信号和音频违规信号四种信号时,则将违规等级标定为四级违规信号;
H4:判定单元将一级违规信号、二级违规信号、三级违规信号和四级违规信号传输到警报单元。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911044646.9A CN110941729A (zh) | 2019-10-30 | 2019-10-30 | 一种基于敏感标记的内容审查方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911044646.9A CN110941729A (zh) | 2019-10-30 | 2019-10-30 | 一种基于敏感标记的内容审查方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110941729A true CN110941729A (zh) | 2020-03-31 |
Family
ID=69906750
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911044646.9A Withdrawn CN110941729A (zh) | 2019-10-30 | 2019-10-30 | 一种基于敏感标记的内容审查方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110941729A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111683049A (zh) * | 2020-05-08 | 2020-09-18 | 江苏涵秋网络科技有限公司 | 一种用于网络安全的敏感内容拦截系统 |
CN112015985A (zh) * | 2020-08-25 | 2020-12-01 | 中国民航大学 | 一种基于计算机通信的网络信息安全监管系统 |
CN113961768A (zh) * | 2021-12-22 | 2022-01-21 | 金蝶软件(中国)有限公司 | 敏感词检测方法、装置、计算机设备和存储介质 |
CN115659078A (zh) * | 2022-10-12 | 2023-01-31 | 湖北盈隆腾辉科技有限公司 | 基于人工智能的网络信息安全监控方法及系统 |
CN116089910A (zh) * | 2023-02-16 | 2023-05-09 | 北京计算机技术及应用研究所 | 一种支持多种格式电子文档的密级检测方法 |
-
2019
- 2019-10-30 CN CN201911044646.9A patent/CN110941729A/zh not_active Withdrawn
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111683049A (zh) * | 2020-05-08 | 2020-09-18 | 江苏涵秋网络科技有限公司 | 一种用于网络安全的敏感内容拦截系统 |
CN112015985A (zh) * | 2020-08-25 | 2020-12-01 | 中国民航大学 | 一种基于计算机通信的网络信息安全监管系统 |
CN113961768A (zh) * | 2021-12-22 | 2022-01-21 | 金蝶软件(中国)有限公司 | 敏感词检测方法、装置、计算机设备和存储介质 |
CN113961768B (zh) * | 2021-12-22 | 2022-05-13 | 金蝶软件(中国)有限公司 | 敏感词检测方法、装置、计算机设备和存储介质 |
CN115659078A (zh) * | 2022-10-12 | 2023-01-31 | 湖北盈隆腾辉科技有限公司 | 基于人工智能的网络信息安全监控方法及系统 |
CN116089910A (zh) * | 2023-02-16 | 2023-05-09 | 北京计算机技术及应用研究所 | 一种支持多种格式电子文档的密级检测方法 |
CN116089910B (zh) * | 2023-02-16 | 2023-10-20 | 北京计算机技术及应用研究所 | 一种支持多种格式电子文档的密级检测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110941729A (zh) | 一种基于敏感标记的内容审查方法 | |
CN110826320B (zh) | 一种基于文本识别的敏感数据发现方法及系统 | |
CN112491796B (zh) | 一种基于卷积神经网络的入侵检测及语义决策树量化解释方法 | |
CN107566376A (zh) | 一种威胁情报生成方法、装置及系统 | |
CA2974808C (en) | Methods and a computing device for determining whether a mark is genuine | |
CN109872162A (zh) | 一种处理用户投诉信息的风控分类识别方法及系统 | |
CN113158653A (zh) | 预训练语言模型的训练方法、应用方法、装置及设备 | |
CN112149420A (zh) | 实体识别模型训练方法、威胁情报实体提取方法及装置 | |
CN105426358A (zh) | 一种疾病名词自动识别方法 | |
CN110830489B (zh) | 基于内容抽象表示的对抗式欺诈网站检测方法及系统 | |
CN115277180A (zh) | 一种区块链日志异常检测与溯源系统 | |
CA3016131A1 (en) | Methods and a computing device for determining whether a mark is genuine | |
CN114218391A (zh) | 一种基于深度学习技术的敏感信息识别方法 | |
CN109857869A (zh) | 一种基于Ap增量聚类和网络基元的热点话题预测方法 | |
CN109918638B (zh) | 一种网络数据监测方法 | |
CN103065152A (zh) | 一种视频中数字时钟的识别方法 | |
CN115994531A (zh) | 一种多维度文本综合辨识方法 | |
CN111666928A (zh) | 基于图像分析的计算机文件相似度识别系统及方法 | |
CN112085081A (zh) | 一种污水成分检测方法及系统 | |
CN111125345A (zh) | 数据应用方法和装置 | |
CN113312319B (zh) | 一种移动互联网共享文档查重预警系统及方法 | |
CN113965729B (zh) | 一种区域安全监控系统及方法 | |
CN117648607B (zh) | 一种基于云计算的数据综合研判分析系统及方法 | |
CN115935009A (zh) | 一种视听内容违规审查方法 | |
CN114117169A (zh) | 一种安全证件防伪检测系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20200331 |