CN117558000A - 一种敏感标志的检测方法、系统、介质及设备 - Google Patents

一种敏感标志的检测方法、系统、介质及设备 Download PDF

Info

Publication number
CN117558000A
CN117558000A CN202310703245.XA CN202310703245A CN117558000A CN 117558000 A CN117558000 A CN 117558000A CN 202310703245 A CN202310703245 A CN 202310703245A CN 117558000 A CN117558000 A CN 117558000A
Authority
CN
China
Prior art keywords
result
processing result
category
processing
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310703245.XA
Other languages
English (en)
Inventor
程海峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shumei Tianxia Beijing Technology Co ltd
Beijing Nextdata Times Technology Co ltd
Original Assignee
Shumei Tianxia Beijing Technology Co ltd
Beijing Nextdata Times Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shumei Tianxia Beijing Technology Co ltd, Beijing Nextdata Times Technology Co ltd filed Critical Shumei Tianxia Beijing Technology Co ltd
Priority to CN202310703245.XA priority Critical patent/CN117558000A/zh
Publication of CN117558000A publication Critical patent/CN117558000A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/80—Recognising image objects characterised by unique random patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/809—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of classification results, e.g. where the classifiers operate on the same input data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

本发明属于图像处理领域，尤其涉及一种敏感标志的检测方法、系统、介质及设备。通过对敏感标志类别集的融合处理可以使得该类别集对于类别的标识更加精确，此外，通过两个模型依次使用的方式可以使得处理效率大幅度提升，而在最终检测结果的确定过程中结合了第一模型的处理结果也使得最终的检测结果更具准确性。

Description

一种敏感标志的检测方法、系统、介质及设备
技术领域
本发明属于图像处理领域，尤其涉及一种敏感标志的检测方法、系统、介质及设备。
背景技术
在社交场景中，检测用户发送的图像中是否包含敏感标志时，大多数情况下都会使用大小模型联合进行检测，小模型负责数据初筛，大模型负责处理小模型筛选后的风险更大的结果，兼顾了速度和精度，但是这样的情况下，小模型只是负责数据的筛选，其本身的结果并没有很好的利用。
发明内容
本发明所要解决的技术问题是提供一种敏感标志的检测方法、系统、介质及设备。
本发明解决上述技术问题的技术方案如下：一种敏感标志的检测方法，包括：
确定经融合处理后的敏感标志类别集；
通过第一模型对待检测图像进行处理得到第一处理结果，当所述第一处理结果不为空时，将所述待检测图像输入至第二模型，得到第二处理结果，所述第一模型为粗敏感标志检测模型，所述第二模型为细敏感标志检测模型；
当所述第二处理结果不为空时，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理，生成判断结果，若判断结果为是，则所述整合结果即为所述待检测图像的检测结果，若判断结果为否，则第二处理结果即为所述待检测图像的检测结果。
本发明的有益效果是：通过对敏感标志类别集的融合处理可以使得该类别集对于类别的标识更加精确，此外，通过两个模型依次使用的方式可以使得处理效率大幅度提升，而在最终检测结果的确定过程中结合了第一模型的处理结果也使得最终的检测结果更具准确性。
在上述技术方案的基础上，本发明还可以做如下改进。
进一步，确定经融合处理后的敏感标志类别集的过程为：
构建敏感标志类别集，所述敏感标志类别集包含n种类别，每种类别对应多张图像数据；
分别通过所述第一模型以及所述第二模型对敏感标志类别集中的每张图像数据进行处理，得到每张图像数据经所述第一模型处理得到的第三处理结果以及经第二模型处理得到的第四处理结果；
基于每个第三处理结果中的置信度与第一预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第一模型处理后的第一正确拦截数量；
基于每个第四处理结果中的置信度与第二预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第二模型处理后的第二正确拦截数量；
计算任意一种类别下，第一正确拦截数量以及第二正确拦截数量的差值是否大于预设差值，将大于预设差值的类别确定为融合类别，并生成融合类别列表，将融合类别与小于预设差值的类别的集合确定为经融合处理后的敏感标志类别集。
进一步，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理的过程为：
获取所述第一处理结果中的每个子结果对应的类别，在所述融合类别列表中遍历每个子结果对应的类别，当任意一个子结果对应的类别在所述融合类别列表中且该子结果对应的置信度大于第三预设置信度时，将该子结果对应的第一处理结果判断为需要与该第一处理结果对应的第二处理结果进行整合。
进一步，当所述第一处理结果为空时，则所述待检测图像的检测结果为无结果。
进一步，当所述第二处理结果为空时，则所述待检测图像的检测结果为无结果。
本发明解决上述技术问题的另一种技术方案如下：一种敏感标志的检测系统，包括：
确定模块用于：确定经融合处理后的敏感标志类别集；
处理模块用于：通过第一模型对待检测图像进行处理得到第一处理结果，当所述第一处理结果不为空时，将所述待检测图像输入至第二模型，得到第二处理结果，所述第一模型为粗敏感标志检测模型，所述第二模型为细敏感标志检测模型；
检测模块用于：当所述第二处理结果不为空时，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理，生成判断结果，若判断结果为是，则所述整合结果即为所述待检测图像的检测结果，若判断结果为否，则第二处理结果即为所述待检测图像的检测结果。
本发明的有益效果是：通过对敏感标志类别集的融合处理可以使得该类别集对于类别的标识更加精确，此外，通过两个模型依次使用的方式可以使得处理效率大幅度提升，而在最终检测结果的确定过程中结合了第一模型的处理结果也使得最终的检测结果更具准确性。
进一步，确定经融合处理后的敏感标志类别集的过程为：
构建敏感标志类别集，所述敏感标志类别集包含n种类别，每种类别对应多张图像数据；
分别通过所述第一模型以及所述第二模型对敏感标志类别集中的每张图像数据进行处理，得到每张图像数据经所述第一模型处理得到的第三处理结果以及经第二模型处理得到的第四处理结果；
基于每个第三处理结果中的置信度与第一预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第一模型处理后的第一正确拦截数量；
基于每个第四处理结果中的置信度与第二预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第二模型处理后的第二正确拦截数量；
计算任意一种类别下，第一正确拦截数量以及第二正确拦截数量的差值是否大于预设差值，将大于预设差值的类别确定为融合类别，并生成融合类别列表，将融合类别与小于预设差值的类别的集合确定为经融合处理后的敏感标志类别集。
进一步，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理的过程为：
获取所述第一处理结果中的每个子结果对应的类别，在所述融合类别列表中遍历每个子结果对应的类别，当任意一个子结果对应的类别在所述融合类别列表中且该子结果对应的置信度大于第三预设置信度时，将该子结果对应的第一处理结果判断为需要与该第一处理结果对应的第二处理结果进行整合。
进一步，当所述第一处理结果为空时，则所述待检测图像的检测结果为无结果。
进一步，当所述第二处理结果为空时，则所述待检测图像的检测结果为无结果。
本发明解决上述技术问题的另一种技术方案如下：一种存储介质，所述存储介质中存储有指令，当计算机读取所述指令时，使所述计算机执行如上述任一项所述的方法。
本发明的有益效果是：通过对敏感标志类别集的融合处理可以使得该类别集对于类别的标识更加精确，此外，通过两个模型依次使用的方式可以使得处理效率大幅度提升，而在最终检测结果的确定过程中结合了第一模型的处理结果也使得最终的检测结果更具准确性。
本发明解决上述技术问题的另一种技术方案如下：一种电子设备，包括上述存储介质、执行上述存储介质内的指令的处理器。
本发明的有益效果是：通过对敏感标志类别集的融合处理可以使得该类别集对于类别的标识更加精确，此外，通过两个模型依次使用的方式可以使得处理效率大幅度提升，而在最终检测结果的确定过程中结合了第一模型的处理结果也使得最终的检测结果更具准确性。
附图说明
图1为本发明一种敏感标志的检测方法实施例提供的流程示意图；
图2为本发明一种敏感标志的检测系统实施例提供的结构框架图；
图3为本发明一种敏感标志的检测方法实施例提供的模型处理流程示意图；
图4为本发明一种敏感标志的检测方法实施例提供的确定经融合处理后的敏感标志类别集流程示意图；
图5为本发明一种敏感标志的检测方法实施例提供的双模型融合处理得到最终结果的流程示意图。
具体实施方式
以下对本发明的原理和特征进行描述，所举实例只用于解释本发明，并非用于限定本发明的范围。
如图1所示，一种敏感标志的检测方法，包括：
确定经融合处理后的敏感标志类别集；
通过第一模型对待检测图像进行处理得到第一处理结果，当所述第一处理结果不为空时，将所述待检测图像输入至第二模型，得到第二处理结果，所述第一模型为粗敏感标志检测模型，所述第二模型为细敏感标志检测模型；
当所述第二处理结果不为空时，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理，生成判断结果，若判断结果为是，则所述整合结果即为所述待检测图像的检测结果，若判断结果为否，则第二处理结果即为所述待检测图像的检测结果。
在一些可能的实施方式中，通过对敏感标志类别集的融合处理可以使得该类别集对于类别的标识更加精确，此外，通过两个模型依次使用的方式可以使得处理效率大幅度提升，而在最终检测结果的确定过程中结合了第一模型的处理结果也使得最终的检测结果更具准确性。
需要说明的是，本方案后续示例中，统一将第一模型称之为小模型，将第二模型称之为大模型。其中大小模型均为涉政标志检测模型，只是在模型参数量上有差别，因此称为大小模型。大小模型均为基于yo l ov5检测模型，包含backbone模块，head模块和最后的输出层，backbone的输入为原始图像，即待检测图像。经过backbone层提取特征后，得到三个不同分辨率不同深度的特征图，尺度为H*W*C分别是：52*52*128、26*26*256、13*13*512。将三个不同尺度的特征图输入head层进行后处理，并通过最后的输出层得到最终检测结果，该结果包含六个值：置信度score，类别c l s、目标左上角坐标x1、y1、目标左上角坐标x2、y2，大小模型的处理流程一致，流程图如图3所示。
确定经融合处理后的敏感标志类别集的过程可以为：
如图4所示，首先构建敏感标志类别集，该类别集可以通过调取历史记录或从线上用户数据中爬取包含固定类别的图像作为该类别集，类别集中的类别可以为A类或者B类等，每个类别下包含至少两张图像数据；
其次分别使用大小模型对构建好的敏感标志类别集中每一类别下的每张图像数据进行处理，即，任意一张图像数据均需要通过两个模型进行处理，得到两个处理结果，即第一处理结果以及第二处理结果；
最后分别统计每一类别下所有图像数据在不同模型处理后的正确拦截量，将同一类别下不同模型对应的正确拦截量的差值在3％(预设差值)以上的类别确定为融合类别，将所有融合类别生成融合类别列表，将融合类别以及不需要融合的类别整合生成经融合处理后的敏感标志类别集。
需注意，判断融合类别可以为：例如：都分别通过大模型以及小模型处理，生成两个处理结果，处理结果中包含了该图像数据的置信度，通过判断置信度是否超过0.8(第一预设置信度或第二预设置信度)来确定处理结果对应的图像数据是否被正确拦截，若大于0.8，则可以判定为正确拦截，统计经过大模型处理后有多少张图像数据被正确拦截，在统计经过小模型处理后有多少张图像数据被正确拦截，计算两个正确拦截量的差值，可以确定类别是否为需要融合类别。
通过第一模型对待检测图像进行处理得到第一处理结果，当所述第一处理结果不为空时，将所述待检测图像输入至第二模型，得到第二处理结果，所述第一模型为粗敏感标志检测模型，所述第二模型为细敏感标志检测模型；当所述第二处理结果不为空时，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理，生成判断结果，若判断结果为是，则所述整合结果即为所述待检测图像的检测结果，若判断结果为否，则第二处理结果即为所述待检测图像的检测结果的处理过程为：
如图5所示，将待检测图像输入到小模型中，得到小模型结果(第一处理结果)，判断小模型结果是否为空，即判断小模型是否没有检测出结果，如果为空，则直接判定该待检测图像的检测结果为无结果，如果不为空，则继续将待检测图像输入到大模型中，得到大模型结果(第二处理结果)，判断大模型结果是否为空，即判断大模型是否没有检测出结果，如果为空，则直接判定该待检测图像的检测结果为无结果，如果不为空，则需要调取小模型结果，在融合类别列表中，寻找小模型结果中的每个子结果对应的类别，判断每个子结果对应的类别是否在融合类别列表中，如果在，且该子结果对应的置信度大于0.8，则可以将该子结果添加至大模型结果中，如果在融合类别列表中没有搜索到对应类别，则以大模型结果作为最终的检测结果进行输出。
优选地，在上述任意实施例中，确定经融合处理后的敏感标志类别集的过程为：
构建敏感标志类别集，所述敏感标志类别集包含n种类别，每种类别对应多张图像数据；
分别通过所述第一模型以及所述第二模型对敏感标志类别集中的每张图像数据进行处理，得到每张图像数据经所述第一模型处理得到的第三处理结果以及经第二模型处理得到的第四处理结果；
基于每个第三处理结果中的置信度与第一预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第一模型处理后的第一正确拦截数量；
基于每个第四处理结果中的置信度与第二预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第二模型处理后的第二正确拦截数量；
计算任意一种类别下，第一正确拦截数量以及第二正确拦截数量的差值是否大于预设差值，将大于预设差值的类别确定为融合类别，并生成融合类别列表，将融合类别与小于预设差值的类别的集合确定为经融合处理后的敏感标志类别集。
优选地，在上述任意实施例中，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理的过程为：
获取所述第一处理结果中的每个子结果对应的类别，在所述融合类别列表中遍历每个子结果对应的类别，当任意一个子结果对应的类别在所述融合类别列表中且该子结果对应的置信度大于第三预设置信度时，将该子结果对应的第一处理结果判断为需要与该第一处理结果对应的第二处理结果进行整合。
优选地，在上述任意实施例中，当所述第一处理结果为空时，则所述待检测图像的检测结果为无结果。
优选地，在上述任意实施例中，当所述第二处理结果为空时，则所述待检测图像的检测结果为无结果。
如图2所示，一种敏感标志的检测系统，包括：
确定模块100用于：确定经融合处理后的敏感标志类别集；
处理模块200用于：通过第一模型对待检测图像进行处理得到第一处理结果，当所述第一处理结果不为空时，将所述待检测图像输入至第二模型，得到第二处理结果，所述第一模型为粗敏感标志检测模型，所述第二模型为细敏感标志检测模型；
检测模块300用于：当所述第二处理结果不为空时，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理，生成判断结果，若判断结果为是，则所述整合结果即为所述待检测图像的检测结果，若判断结果为否，则第二处理结果即为所述待检测图像的检测结果。
在一些可能的实施方式中，通过对敏感标志类别集的融合处理可以使得该类别集对于类别的标识更加精确，此外，通过两个模型依次使用的方式可以使得处理效率大幅度提升，而在最终检测结果的确定过程中结合了第一模型的处理结果也使得最终的检测结果更具准确性。
优选地，在上述任意实施例中，确定经融合处理后的敏感标志类别集的过程为：
构建敏感标志类别集，所述敏感标志类别集包含n种类别，每种类别对应多张图像数据；
分别通过所述第一模型以及所述第二模型对敏感标志类别集中的每张图像数据进行处理，得到每张图像数据经所述第一模型处理得到的第三处理结果以及经第二模型处理得到的第四处理结果；
基于每个第三处理结果中的置信度与第一预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第一模型处理后的第一正确拦截数量；
基于每个第四处理结果中的置信度与第二预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第二模型处理后的第二正确拦截数量；
计算任意一种类别下，第一正确拦截数量以及第二正确拦截数量的差值是否大于预设差值，将大于预设差值的类别确定为融合类别，并生成融合类别列表，将融合类别与小于预设差值的类别的集合确定为经融合处理后的敏感标志类别集。
优选地，在上述任意实施例中，在所述敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理的过程为：
获取所述第一处理结果中的每个子结果对应的类别，在所述融合类别列表中遍历每个子结果对应的类别，当任意一个子结果对应的类别在所述融合类别列表中且该子结果对应的置信度大于第三预设置信度时，将该子结果对应的第一处理结果判断为需要与该第一处理结果对应的第二处理结果进行整合。
优选地，在上述任意实施例中，当所述第一处理结果为空时，则所述待检测图像的检测结果为无结果。
优选地，在上述任意实施例中，当所述第二处理结果为空时，则所述待检测图像的检测结果为无结果。
读者应理解，在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的方法实施例仅仅是示意性的，例如，步骤的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个步骤可以结合或者可以集成到另一个步骤，或一些特征可以忽略，或不执行。
上述方法如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，RandomAccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种敏感标志的检测方法，其特征在于，包括：
确定经融合处理后的敏感标志类别集；
通过第一模型对待检测图像进行处理得到第一处理结果，当所述第一处理结果不为空时，将所述待检测图像输入至第二模型，得到第二处理结果，所述第一模型为粗敏感标志检测模型，所述第二模型为细敏感标志检测模型；
当所述第二处理结果不为空时，在所述经融合处理后的敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理，生成判断结果，若判断结果为是，则所述整合结果即为所述待检测图像的检测结果，若判断结果为否，则第二处理结果即为所述待检测图像的检测结果。
2.根据权利要求1所述的一种敏感标志的检测方法，其特征在于，确定经融合处理后的敏感标志类别集的过程为：
构建敏感标志类别集，所述敏感标志类别集包含n种类别，每种类别对应多张图像数据；
分别通过所述第一模型以及所述第二模型对敏感标志类别集中的每张图像数据进行处理，得到每张图像数据经所述第一模型处理得到的第三处理结果以及经第二模型处理得到的第四处理结果；
基于每个第三处理结果中的置信度与第一预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第一模型处理后的第一正确拦截数量；
基于每个第四处理结果中的置信度与第二预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第二模型处理后的第二正确拦截数量；
计算任意一种类别下，第一正确拦截数量以及第二正确拦截数量的差值是否大于预设差值，将大于预设差值的类别确定为融合类别，并生成融合类别列表，将融合类别与小于预设差值的类别的集合确定为经融合处理后的敏感标志类别集。
3.根据权利要求2所述的一种敏感标志的检测方法，其特征在于，在所述经融合处理后的敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理的过程为：
获取所述第一处理结果中的每个子结果对应的类别，在所述融合类别列表中遍历每个子结果对应的类别，当任意一个子结果对应的类别在所述融合类别列表中且该子结果对应的置信度大于第三预设置信度时，将该子结果对应的第一处理结果判断为需要与该第一处理结果对应的第二处理结果进行整合。
4.根据权利要求1所述的一种敏感标志的检测方法，其特征在于，当所述第一处理结果为空时，则所述待检测图像的检测结果为无结果。
5.根据权利要求1所述的一种敏感标志的检测方法，其特征在于，当所述第二处理结果为空时，则所述待检测图像的检测结果为无结果。
6.一种敏感标志的检测系统，其特征在于，包括：
确定模块用于：确定经融合处理后的敏感标志类别集；
处理模块用于：通过第一模型对待检测图像进行处理得到第一处理结果，当所述第一处理结果不为空时，将所述待检测图像输入至第二模型，得到第二处理结果，所述第一模型为粗敏感标志检测模型，所述第二模型为细敏感标志检测模型；
检测模块用于：当所述第二处理结果不为空时，在所述经融合处理后的敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理，生成判断结果，若判断结果为是，则所述整合结果即为所述待检测图像的检测结果，若判断结果为否，则第二处理结果即为所述待检测图像的检测结果。
7.根据权利要求6所述的一种敏感标志的检测系统，其特征在于，确定经融合处理后的敏感标志类别集的过程为：
构建敏感标志类别集，所述敏感标志类别集包含n种类别，每种类别对应多张图像数据；
分别通过所述第一模型以及所述第二模型对敏感标志类别集中的每张图像数据进行处理，得到每张图像数据经所述第一模型处理得到的第三处理结果以及经第二模型处理得到的第四处理结果；
基于每个第三处理结果中的置信度与第一预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第一模型处理后的第一正确拦截数量；
基于每个第四处理结果中的置信度与第二预设置信度的比较结果，确定敏感标志类别集中任意一种类别下所有图像数据经第二模型处理后的第二正确拦截数量；
计算任意一种类别下，第一正确拦截数量以及第二正确拦截数量的差值是否大于预设差值，将大于预设差值的类别确定为融合类别，并生成融合类别列表，将融合类别与小于预设差值的类别的集合确定为经融合处理后的敏感标志类别集。
8.根据权利要求7所述的一种敏感标志的检测系统，其特征在于，在所述经融合处理后的敏感标志类别集中对第一处理结果进行搜索，并基于搜索结果判断所述第一处理结果是否与所述第二处理结果进行整合处理的过程为：
获取所述第一处理结果中的每个子结果对应的类别，在所述融合类别列表中遍历每个子结果对应的类别，当任意一个子结果对应的类别在所述融合类别列表中且该子结果对应的置信度大于第三预设置信度时，将该子结果对应的第一处理结果判断为需要与该第一处理结果对应的第二处理结果进行整合。
9.一种存储介质，其特征在于，所述介质中存储有指令，当计算机读取所述指令时，使所述计算机执行如权利要求1至5中任一项所述的方法。
10.一种电子设备，其特征在于，包括权利要求9所述的存储介质、执行所述存储介质内的指令的处理器。
CN202310703245.XA 2023-06-14 2023-06-14 一种敏感标志的检测方法、系统、介质及设备 Pending CN117558000A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310703245.XA CN117558000A (zh) 2023-06-14 2023-06-14 一种敏感标志的检测方法、系统、介质及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310703245.XA CN117558000A (zh) 2023-06-14 2023-06-14 一种敏感标志的检测方法、系统、介质及设备

Publications (1)

Publication Number Publication Date
CN117558000A true CN117558000A (zh) 2024-02-13

Family

ID=89813519

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310703245.XA Pending CN117558000A (zh) 2023-06-14 2023-06-14 一种敏感标志的检测方法、系统、介质及设备

Country Status (1)

Country Link
CN (1) CN117558000A (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113255670A (zh) * 2021-06-28 2021-08-13 湖南星汉数智科技有限公司 非均衡小样本目标检测方法、装置和计算机设备
CN115035347A (zh) * 2022-06-24 2022-09-09 微梦创科网络科技（中国）有限公司 图片识别方法、装置及电子设备
CN115546554A (zh) * 2022-10-18 2022-12-30 北京蓝太平洋科技股份有限公司 敏感图像的识别方法、装置、设备和计算机可读存储介质
US20230037069A1 (en) * 2021-07-30 2023-02-02 Netapp, Inc. Contextual text detection of sensitive data
CN115937574A (zh) * 2022-11-03 2023-04-07 武汉安天信息技术有限责任公司 敏感图片检测方法、装置、存储介质及终端

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113255670A (zh) * 2021-06-28 2021-08-13 湖南星汉数智科技有限公司 非均衡小样本目标检测方法、装置和计算机设备
US20230037069A1 (en) * 2021-07-30 2023-02-02 Netapp, Inc. Contextual text detection of sensitive data
CN115035347A (zh) * 2022-06-24 2022-09-09 微梦创科网络科技（中国）有限公司 图片识别方法、装置及电子设备
CN115546554A (zh) * 2022-10-18 2022-12-30 北京蓝太平洋科技股份有限公司 敏感图像的识别方法、装置、设备和计算机可读存储介质
CN115937574A (zh) * 2022-11-03 2023-04-07 武汉安天信息技术有限责任公司 敏感图片检测方法、装置、存储介质及终端

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
周钰如 等: "基于YOLOv5的交通标志识别系统", 电脑知识与技术, 31 July 2022 (2022-07-31) *

Similar Documents

Publication Publication Date Title
CN109948497B (zh) 一种物体检测方法、装置及电子设备
CN111967387A (zh) 表单识别方法、装置、设备及计算机可读存储介质
CN109858476B (zh) 标签的扩充方法和电子设备
CN112016623B (zh) 一种人脸聚类方法、装置、设备及存储介质
CN109284700B (zh) 图像中多个人脸检测的方法、存储介质、设备及系统
CN112818162A (zh) 图像检索方法、装置、存储介质和电子设备
CN113298146A (zh) 一种基于特征检测的图像匹配方法、装置、设备及介质
CN112990792B (zh) 一种侵权风险自动化检测方法、装置和电子设备
EP4191428A1 (en) Method and apparatus for constructing knowledge graph
CN113705468A (zh) 基于人工智能的数字图像识别方法及相关设备
CN112579907A (zh) 一种异常任务检测方法、装置、电子设备和存储介质
CN110688995B (zh) 地图查询的处理方法，计算机可读存储介质和移动终端
CN117558000A (zh) 一种敏感标志的检测方法、系统、介质及设备
CN108830302B (zh) 一种图像分类方法、训练方法、分类预测方法及相关装置
CN114898155B (zh) 车辆定损方法、装置、设备及存储介质
CN116226108A (zh) 可实现不同治理程度的数据治理方法及系统
CN114124564B (zh) 一种仿冒网站检测方法、装置、电子设备及存储介质
CN112949305B (zh) 负反馈信息采集方法、装置、设备及存储介质
CN115082999A (zh) 合影图像人物分析方法、装置、计算机设备和存储介质
CN114674328A (zh) 地图生成方法、装置、电子设备、存储介质、及车辆
CN110264333B (zh) 一种风险规则确定方法和装置
CN113918471A (zh) 测试用例的处理方法、装置及计算机可读存储介质
CN113177603A (zh) 分类模型的训练方法、视频分类方法及相关设备
CN111984812A (zh) 一种特征提取模型生成方法、图像检索方法、装置及设备
CN115129915A (zh) 重复图像检索方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination