CN111324764A - 一种图像检测方法、装置、电子设备及存储介质 - Google Patents

一种图像检测方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111324764A
CN111324764A CN202010100735.7A CN202010100735A CN111324764A CN 111324764 A CN111324764 A CN 111324764A CN 202010100735 A CN202010100735 A CN 202010100735A CN 111324764 A CN111324764 A CN 111324764A
Authority
CN
China
Prior art keywords
image
violation
illegal
detected
probability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010100735.7A
Other languages
English (en)
Other versions
CN111324764B (zh
Inventor
高峰
方元
郑祺星
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Kingsoft Internet Security Software Co Ltd
Original Assignee
Beijing Kingsoft Internet Security Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Kingsoft Internet Security Software Co Ltd filed Critical Beijing Kingsoft Internet Security Software Co Ltd
Priority to CN202010100735.7A priority Critical patent/CN111324764B/zh
Publication of CN111324764A publication Critical patent/CN111324764A/zh
Application granted granted Critical
Publication of CN111324764B publication Critical patent/CN111324764B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0277—Online advertisement

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Business, Economics & Management (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • General Engineering & Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Game Theory and Decision Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明实施例提供了一种图像检测方法、装置、电子设备及存储介质，涉及数据检测技术领域，其中，上述方法包括：获得待检测图像；将上述待检测图像输入预先训练的违规图像检测模型，获得上述待检测图像为违规图像的违规概率，上述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，上述样本集包括：样本图像与样本图像是否为违规图像的标记；根据上述待检测图像的违规概率是否大于预设的违规概率阈值，确定上述待检测图像是否为违规图像。应用本发明实施例提供的方案对违规图像进行检测，可以提高违规图像检测的效率。

Description

一种图像检测方法、装置、电子设备及存储介质
技术领域
本发明涉及数据检测技术领域，特别是涉及一种图像检测方法、装置、电子设备及存储介质。
背景技术
服务器可以通过网络向用户客户端推送图像，例如：向用户客户端推送广告图像。为了防止服务器将违规图像推送给用户客户端，需要在推送前对图像是否为违规图像进行检测。
当前对图像是否违规进行检测的方法为：人工检测图像是否违规。但由于服务器向用户客户端推送的图像数量较大，人工检测图像是否为违规图像需要花费大量的人力成本，因此违规图像检测的效率较低。
发明内容
本发明实施例的目的在于提供一种图像检测方法、装置、电子设备及存储介质，以提高违规图像检测的效率。具体技术方案如下：
第一方面，本发明实施提供了一种图像检测方法，所述方法包括：
获得待检测图像；
将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。
本发明的一个实施例中，在所述待检测图像为动态图像的情况下，所述将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，包括：
分别将所述待检测图像中各个帧输入预先训练的违规图像检测模型，获得各个帧为违规图像的概率，将所确定的概率最高的帧的概率作为所述待检测图像的违规概率。
本发明的一个实施例中，通过以下方式获得所述违规图像检测模型：
确定样本图像是否为违规图像的标记；
获得样本集，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
将样本图像输入所述违规图像检测模型的初始模型，获得样本图像为违规图像的第一概率；
根据所述样本图像的第一概率是否大于预设的训练违规阈值，获得样本图像是否为违规图像的第一检测结果；
根据所述第一检测结果与所述标记，计算所述初始模型的损失值；
根据所述损失值调整所述初始模型的模型参数，直至所述初始模型满足预设的收敛条件，将调整参数后的所述初始模型确定为违规图像检测模型。
本发明的一个实施例中，在获得经过训练的违规图像检测模型之后，通过以下方式对所述违规图像检测模型进行验证：
获得验证集，所述验证集包括：验证图像与验证图像是否为违规图像的标记；
将所述验证图像输入所述违规图像检测模型，获得所述验证图像为违规图像的第二概率；
根据所述第二概率与验证图像是否为违规图像的标记计算所述违规图像检测模型的曲线下面积AUC；
根据所述AUC调整所述违规图像检测模型的参数，将调整参数后得到的违规图像检测模型确定为通过验证的违规图像检测模型。
本发明的一个实施例中，通过以下方式获得违规概率阈值：
获得测试集，所述测试集包括：测试图像与测试图像是否为违规图像的标记；
将所述测试图像输入通过验证的违规图像检测模型，获得所述测试图像为违规图像的第三概率；
选取初始违规阈值，根据所述第三概率是否大于所述初始违规阈值确定所述测试图像是否为违规图像的测试结果；
根据所述测试结果与所述测试图像是否为违规图像的标记，确定所述初始违规阈值是否满足预设的召回率与误报率的条件，其中，所述召回率为：正样本图像中被确定为违规图像的图像占正样本图像的比例，所述误报率为：负样本图像中被确定为违规图像的图像占负样本图像的比例，所述正样本图像为：标记为违规图像的测试图像，所述负样本图像为：标记为非违规图像的测试图像；
若不满足所述召回率与误报率条件，则返回所述选取初始违规阈值的步骤，否则，则将所述初始违规阈值确定为所述违规概率阈值。
本发明的一个实施例中，所述方法还包括：
获得预设时长内检测出的违规图像的MD5值；
将所述违规图像的MD5值发送给用户客户端，使得用户客户端对接收到的图像计算MD5值，根据接收到的图像的MD5值与上述违规图像的MD5值是否匹配，确定接收到的图像是否为违规图像。
本发明的一个实施例中，所述方法还包括：
生成检测结果数据，所述检测结果数据包括以下信息中的至少一种：所述待检测图像的MD5值、待检测图像最后推送给用户的时间、推送的次数、所述待检测图像为违规图像的概率及所述待检测图像是否为违规图像的检测结果；
通过预设的检测结果显示界面，展示所述检测结果数据与所述待检测图像。
本发明的一个实施例中，在所述将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率之后，所述方法还包括：
将所述待检测图像的违规概率转换为整数形式，其中，所述违规概率阈值与所述违规概率的数量级相同。
第二方面，本发明实施例提供了一种图像检测装置，其特征在于，所述装置包括：
图像获得模块，用于获得待检测图像；
概率获得模块，用于将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
图像确定模块，用于根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。
本发明的一个实施例中，在所述待检测图像为动态图像的情况下，所述概率获得模块，具体用于：
分别将所述待检测图像中各个帧输入预先训练的违规图像检测模型，获得各个帧为违规图像的概率，将所确定的概率最高的帧的概率作为所述待检测图像的违规概率。
本发明的一个实施例中，所述装置还包括：违规图像检测模型获得模块；
获得样本集，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
将样本图像输入所述违规图像检测模型的初始模型，获得样本图像为违规图像的第一概率；
根据所述样本图像的第一概率是否大于预设的训练违规阈值，获得样本图像是否为违规图像的第一检测结果；
根据所述第一检测结果与所述标记，计算所述初始模型的损失值；
根据所述损失值调整所述初始模型的模型参数，直至所述初始模型满足预设的收敛条件，将调整参数后的所述初始模型确定为违规图像检测模型。
本发明的一个实施例中，所述装置还包括：违规图像检测模型验证模块：
获得验证集，所述验证集包括：验证图像与验证图像是否为违规图像的标记：
将所述验证图像输入所述违规图像检测模型，获得所述验证图像为违规图像的第二概率；
根据所述第二概率与验证图像是否为违规图像的标记计算所述违规图像检测模型的曲线下面积AUC；
根据所述AUC调整所述违规图像检测模型的参数，将调整参数后得到的违规图像检测模型确定为通过验证的违规图像检测模型。
本发明的一个实施例中，所述装置还包括：违规概率阈值确定模块；
获得测试集，所述测试集包括：测试图像与测试图像是否为违规图像的标记；
将所述测试图像输入通过验证的违规图像检测模型，获得所述测试图像为违规图像的第三概率；
选取初始违规阈值，根据所述第三概率是否大于所述初始违规阈值确定所述测试图像是否为违规图像的测试结果；
根据所述测试结果与所述测试图像是否为违规图像的标记，确定所述初始违规阈值是否满足预设的召回率与误报率的条件，其中，所述召回率为：正样本图像中被确定为违规图像的图像占正样本图像的比例，所述误报率为：负样本图像中被确定为违规图像的图像占负样本图像的比例，所述正样本图像为：标记为违规图像的测试图像，所述负样本图像为：标记为非违规图像的测试图像；
若不满足所述召回率与误报率条件，则返回所述选取初始违规阈值的步骤，否则，则将所述初始违规阈值确定为所述违规概率阈值。
本发明的一个实施例中，所述装置还包括：
MD5值获得模块，用于获得预设时长内检测出的违规图像的MD5值；
违规图像确定模块，用于将所述违规图像的MD5值发送给用户客户端，使得用户客户端对接收到的图像计算MD5值，根据接收到的图像的MD5值与上述违规图像的MD5值是否匹配，确定接收到的图像是否为违规图像。
本发明的一个实施例中，所述装置还包括：
数据生成模块，用于生成检测结果数据，所述检测结果数据包括以下信息中的至少一种：所述待检测图像的MD5值、待检测图像最后推送给用户的时间、推送的次数、所述待检测图像为违规图像的概率及所述待检测图像是否为违规图像的检测结果；
数据展示模块，用于通过预设的检测结果显示界面，展示所述检测结果数据与所述待检测图像。
本发明的一个实施例中，所述装置还包括：
违规概率转换模块，用于将所述待检测图像的违规概率转换为整数形式，其中，所述违规概率阈值与所述违规概率的数量级相同。
第三方面，本发明实施例提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现上述第一方面任一所述的方法步骤。
第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面任一所述的方法步骤。
第五方面，本发明实施例还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述第一方面任一所述的方法步骤。
本发明实施例有益效果：
应用本发明实施例提供的方案进行图像检测时，直接将待检测图像输入预先训练好的违规图像检测模型，确定上述图像为违规图像的违规概率，根据违规概率阈值与待检测图像的违规概率，确定上述待检测图像是否为违规图像。由于违规图像检测模型是使用机器学习的方式对大量样本图像训练得到的，所以上述违规图像检测模型能够学习到大量样本图像的特征，因此应用上述违规图像检测模型能够检测待检测图像的违规概率，将违规概率高于违规概率阈值的待检测图像确定为违规图像，此过程不需要人工进行检测，从而减少了检测图像是否为违规图像的人力成本，提高了违规图像检测的效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1A为本发明实施例提供的图像检测方法的第一种流程示意图；
图1B为本发明实施例中使用的违规图像检测模型的训练流程示意图；
图1C为对发明实施例中使用的违规图像检测模型进行验证的流程示意图；
图1D为本发明实施例中使用的违规概率阈值的获得流程示意图；
图2为本发明实施例提供的图像检测方法的第二种流程示意图；
图3A为本发明实施例提供的图像检测方法的第三种流程示意图；
图3B为应用图3A所示的图像检测方法，进行检测获得的检测结果显示界面的示意图；
图4为本发明实施例提供的图像检测装置的第一种结构示意图；
图5为本发明实施例提供的图像检测装置的第二种结构示意图；
图6为本发明实施例提供的图像检测装置的第三种结构示意图；
图7为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
由于现有技术中确定图像是否为违规图像时存在效率较低的技术问题，为解决这一问题，本发明实施例提供了一种图像检测方法、装置、电子设备及存储介质。
本发明的一个实施例中，提供了一种图像检测方法，上述方法包括：
获得待检测图像；
将上述待检测图像输入预先训练的违规图像检测模型，获得上述待检测图像为违规图像的违规概率，上述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，上述样本集包括：样本图像与样本图像是否为违规图像的标记；
根据上述待检测图像的违规概率是否大于预设的违规概率阈值，确定上述待检测图像是否为违规图像。
由以上可见，本方案在确定待检测图像是否为违规图像时，直接将待检测图像输入预先训练好的违规图像检测模型，确定上述图像为违规图像的违规概率，根据违规概率阈值与待检测图像的违规概率，确定上述待检测图像是否为违规图像。由于违规图像检测模型是使用机器学习的方式对大量样本图像训练得到的，所以上述违规图像检测模型能够学习到大量样本图像的特征，因此应用上述违规图像检测模型能够检测待检测图像的违规概率，将违规概率高于违规概率阈值的待检测图像确定为违规图像，此过程不需要人工进行检测，从而减少了检测图像是否为违规图像的人力成本，提高了违规图像检测的效率。
下面通过具体实施例对本发明实施例提供的图像检测方法、装置、电子设备及存储介质进行说明。
参见图1A，本发明实施例提供了图像检测方法的第一种流程示意图，具体的，上述方法包括以下步骤S101-S103。
S101：获得待检测图像。
具体的，上述待识别图像可以为静态图像或动态图像，本发明实施例并不对此进行限定。
S102：将上述待检测图像输入预先训练的违规图像检测模型，获得上述待检测图像为违规图像的违规概率。
上述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型。
具体的，上述初始模型可以为ResNet-50神经网络模型或其他模型。
上述样本集包括：样本图像与样本图像是否为违规图像的标记。
其中，上述样本集内的样本图像中包括违规图像与非违规图像，样本图像的数量可以为5000张、8000张等，样本图像中违规图像与非违规图像的数量比可以为1∶1。
上述违规概率可以以百分比的形式表示，如60％、80％等，也可以以0-1的小数形式表示，如0.5、0.8等，还可以通过其他形式表示。
另外，上述还可以将上述违规概率转换为整数形式的违规评分，例如，若待检测图像的违规概率为0.5，则违规评分可以为50。
此外，在上述待检测图像为动态图像的情况下，可以分别将上述待检测图像中各个帧输入预先训练的违规图像检测模型，获得各个帧为违规图像的概率，将所确定的概率最高的帧的概率作为上述待检测图像的违规概率。
具体的，可以将上述待检测图像的每一帧输入预先训练的违规图像检测模型，也可以以预设间隔帧数在上述待检测图像中均匀的获取各个帧，将获取到的帧输入预先训练的违规图像检测模型中，还可以随机获取预设帧数个帧，将随机获取到的帧输入预先训练的违规图像检测模型中。
例如，上述预设间隔帧数可以为5帧、10帧等，上述预设帧数可以为5个、10个等。
S103：根据上述待检测图像的违规概率是否大于预设的违规概率阈值，确定上述待检测图像是否为违规图像。
具体的，上述违规概率阈值的表示形式与违规概率的表示形式相同。
例如，上述违规概率阈值可以为0.8、0.9等，若上述违规概率阈值为0.7，则认为违规概率为0.8的待检测图像为违规图像。
另外，在上述违规概率以违规评分的形式表示的情况下，违规概率阈值可以以违规评分阈值的形式表示，违规评分阈值与违规评分的数量级相同。则可以根据待检测图像的违规评分是否大于预设的违规评分阈值，确定上述待检测图像是否为违规图像。
例如，若待检测图像的违规评分为50，违规评分阈值可以为相同数量级的90，则上述待检测图像为非违规图像。
由以上可见，本方案在确定待检测图像是否为违规图像时，直接将待检测图像输入预先训练好的违规图像检测模型，确定上述图像为违规图像的违规概率，根据违规概率阈值与待检测图像的违规概率，确定上述待检测图像是否为违规图像。由于违规图像检测模型是使用机器学习的方式对大量样本图像训练得到的，所以上述违规图像检测模型能够学习到大量样本图像的特征，因此应用上述违规图像检测模型能够检测待检测图像的违规概率，将违规概率高于违规概率阈值的待检测图像确定为违规图像，此过程不需要人工进行检测，从而减少了检测图像是否为违规图像的人力成本，提高了违规图像检测的效率。
本发明的一个实施例中，参见图1B，为本发明实施例中使用的违规图像检测模型的训练流程示意图，可以通过以下步骤S111-S116获得上述违规图像检测模型：
S111：确定样本图像是否为违规图像的标记。
S112：获得样本集。
具体的，上述样本集包括：样本图像与样本图像是否为违规图像的标记。上述样本集中的样本图像包含违规图像与非违规图像。
S113：将样本图像输入上述违规图像检测模型的初始模型，获得样本图像为违规图像的第一概率。
其中，上述第一概率可以以百分比的形式表示，如60％、80％等，还可以以0-1的小数形式表示，如0.5、0.8等。还可以将第一概率转换为整数形式的第一违规评分，例如，若待检测图像的第一概率为0.5，则第一违规评分可以为50。
另外，在将样本图像输入上述违规图像检测模型的初始模型时，可以将样本图像按预设样本数量分为各个不同的样本图像组，将各个样本图像组依次输入上述违规图像检测模型的初始模型中。
例如，上述预设样本数量可以为16个、32个等。
S114：根据上述样本图像的第一概率是否大于预设的训练违规阈值，获得样本图像是否为违规图像的第一检测结果。
具体的，上述训练违规阈值与上述第一概率的表现形式相同。
例如，上述训练违规阈值可以为0.5、0.6等，若上述训练违规阈值为0.5，则认为第一概率为0.8的样本图像为违规图像。
另外，在上述第一概率以第一违规评分的形式表示的情况下，训练违规阈值可以以训练评分阈值的形式表示，训练评分阈值与第一违规评分的数量级相同。则可以根据样本图像的第一违规评分是否大于预设的训练评分阈值，确定上述样本图像是否为违规图像。
例如，若样本图像的第一违规评分为50，训练评分阈值可以为相同数量级的90，则上述样本图像为非违规图像。
S115：根据上述第一检测结果与上述标记，计算上述初始模型的损失值。
其中，可以使用最小二乘损失函数计算上述初始模型的损失值，具体的公式如下：
Figure BDA0002386695470000111
其中，m为样本图像的数量，xi为第i个样本图像，hθ(xi)为第i个样本图像的第一检测结果，yi为样本图像是否为违规图像的标记。
S116：根据上述损失值调整上述初始模型的模型参数，直至上述初始模型满足预设的收敛条件，将调整参数后的上述初始模型确定为违规图像检测模型。
具体的，可以使用随机梯度下降的方式调整上述初始模型的模型参数。上述收敛条件可以为训练次数达到预设次数，也可以为上述模型的损失低于预设损失值或其他预设的收敛条件。
例如，上述预设次数可以为10000次、20000次等。
由以上可见，由于上述样本集中包含违规图像与非违规图像，因此使用上述样本集对上述初始模型进行训练，使得上述初始模型可以学习到违规图像与非违规图像的特征，因此使得上述经过训练的违规图像检测模型可以用于检测图像的违规概率。
本发明的一个实施例中，参见图1C，为对本发明实施例中使用的违规图像检测模型进行验证的流程示意图，可以通过以下步骤S121-S124对上述违规图像检测模型进行验证。
S121：获得验证集。
上述验证集包括：验证图像与验证图像是否为违规图像的标记。
具体的，上述验证图像中包括违规图像与非违规图像。
其中，上述验证图像的数量可以为5000张、6000张等。上述验证图像中违规图像与非违规图像的数量比可以为1∶1。
S122：将上述验证图像输入上述违规图像检测模型，获得上述验证图像为违规图像的第二概率。
上述第二概率可以以百分比的形式表示，如60％、80％等，也可以以0-100的自然数表示，如70、80等，还可以以0-1的小数形式表示，如0.5、0.8等，还可以通过其他形式表示。
S123：根据上述第二概率与验证图像是否为违规图像的标记计算上述违规图像检测模型的曲线下面积AUC。
具体的，可以根据以下公式计算AUC。
Figure BDA0002386695470000121
其中，M为验证集中标记为违规图像的验证图像的数量，N为验证集中标记为不是违规图像的验证图像的数量，ranki为将验证图像的第二概率由小到大排列后验证图像i的排列序号，i∈positiveclass表示验证图像i的标记为违规图像。
由以上公式可见，AUC的值与阈值的选择无关，由于违规图像检测模型的AUC值不受阈值选择的影响，因此使用AUC作为违规图像检测模型是否满足不同应用场景下的违规图像检测需求的验证依据可以使得通过验证的违规图像检测模型的检测结果在取不同违规概率阈值的情况下均能满足对应违规概率阈值条件下的检测需求。
由于在实际应用场景下，待检测图像中违规图像的占待检测图像的比例较低，因此使用对正负样本比例不敏感的AUC作为违规图像检测模型的准确度是否符合要求的验证依据，可以符合实际应用场景的需求。
S124：根据上述AUC调整上述违规图像检测模型的参数，将调整参数后得到的违规图像检测模型确定为通过验证的违规图像检测模型。
具体的，可以设置预设调整次数，将计算得到的AUC最大的违规图像检测模型确定为通过验证的违规图像检测模型。
例如，上述预设调整次数可以为10次、20次等。
本发明的一个实施例中，在获得经过训练的违规图像检测模型之后，可以对上述违规图像检测模型进行验证，根据验证结果进一步调整上述违规图像检测模型的参数，从而提高违规图像检测模型的泛化能力，使违规图像检测模型的检测结果满足各个不同应用场景的检测需求。
本发明的一个实施例中，参见图1D，为本发明实施例中使用的违规概率阈值的获得流程示意图，可以通过以下步骤S131-S135获得违规概率阈值。
S131：获得测试集。
上述测试集包括：测试图像与测试图像是否为违规图像的标记。
具体地，上述测试集中包括违规图像与非违规图像。
S132：将上述测试图像输入通过验证的违规图像检测模型，获得上述测试图像为违规图像的第三概率。
上述第三概率可以以百分比的形式表示，如60％、80％等，也可以以0-100的自然数表示，如70、80等，还可以以0-1的小数形式表示，如0.5、0.8等，还可以通过其他形式表示。
S133：选取初始违规阈值，根据上述第三概率是否大于上述初始违规阈值确定上述测试图像是否为违规图像的测试结果。
具体的，可以以预设阈值间隔在预设阈值范围内选取上述初始违规阈值，也可以在预设阈值范围内随机选取上述初始违规阈值。可以认为第三概率大于等于上述初始违规阈值的测试图像为违规图像，否则为非违规图像。
例如，若上述预设阈值范围为0.1-0.9，预设阈值间隔为0.1，则可以选取0.1、0.2、0.5、0.8等作为上述初始违规阈值。或随机选取0.65、0.74等作为上述初始违规阈值。
若上述测试图像的第三概率为0.6，上述初始违规阈值为0.5，则认为上述测试图像是违规图像。
S134：根据上述测试结果与上述测试图像是否为违规图像的标记，确定上述初始违规阈值是否满足预设的召回率与误报率的条件。
其中，上述召回率为：正样本图像中被确定为违规图像的图像占正样本图像的比例。上述正样本图像为：标记为违规图像的测试图像。
上述误报率为：负样本图像中被确定为违规图像的图像占负样本图像的比例。上述负样本图像为：标记为非违规图像的测试图像。
具体的，上述预设的召回率与误报率条件可以为召回率高于预设召回率，误报率低于预设误报率。
例如，上述预设召回率可以为0.4，上述预设误报率可以为0.01。
若上述测试集中包括1000张违规图像与1000张非违规图像，在初始违规阈值为0.9的情况下，上述1000张违规图像中有662张被检测为违规图像，则上述召回率为0.662，上述1000张非违规图像中有8张被检测为违规图像，则上述误报率为0.008，在上述预设召回率为0.4，上述预设误报率为0.01的情况下，上述初始违规阈值为0.9时满足预设的召回率与误报率条件。
S135：若不满足上述召回率与误报率条件，则返回步骤S133，否则，则将上述初始违规阈值确定为上述违规概率阈值。
具体的，若不满足上述预设的召回率与误报率条件，则需要重新选择初始违规阈值，因此需要返回上述步骤S133。
由以上可见，根据由于在选择的初始违规阈值可以达到预设的召回率与误报率要求时，才将上述初始违规阈值确定为违规概率阈值，因此可以保证上述违规概率阈值的选取满足预设的召回率与误报率要求，使得上述违规图像检测模型输出的检测结果满足应用场景的检测需求。
参见图2，本发明实施例提供了图像检测方法的第二种流程示意图，与前述图1A所示的实施例相比，本实施例还包括步骤S104-S105。
S104：获得预设时长内检测出的违规图像的MD5值。
具体的，可以对每张违规图像计算MD5值，不同的图像具有不同的MD5值，因此可以通过图像的MD5值区分图像是否为违规图像。
上述预设时长可以为24小时、48小时或1周等。
S105：将上述违规图像的MD5值发送给用户客户端，使得用户客户端对接收到的图像计算MD5值，根据接收到的图像的MD5值与上述违规图像的MD5值是否匹配，确定接收到的图像是否为违规图像。
具体的，上述不同图像的MD5值不同，因此用户客户端可以判断接收到的图像的MD5值是否与违规图像的MD5值相同，若相同则说明接收到的图像为违规图像。
由以上可见，将违规图像的MD5值发送给用户客户端，使得用户客户端可以确定接收到的图像是否为违规图像，从而可以不展示违规图像，进而提高用户的使用体验。
参见图3A，本发明实施例提供了图像检测方法的第三种流程示意图，与前述图1A所示的实施例相比，本实施例还包括步骤S106-S107。
S106：生成检测结果数据。
上述检测结果数据包括以下信息中的至少一种：上述待检测图像的MD5值、待检测图像最后推送给用户的时间、推送的次数、上述待检测图像为违规图像的概率及上述待检测图像是否为违规图像的检测结果。
例如，上述待检测图像最后推送给用户的时间可以为：2020年2月3日16:42，上述推送次数可以为3次。
S107：通过预设的检测结果显示界面，展示上述检测结果数据与上述待检测图像。
参见图3B，提供了应用图3A所示的图像检测方法，进行检测获得的检测结果显示界面的示意图。
由以上可见，通过检测结果显示界面显示待检测图像的检测结果数据，使得待检测图像的检测结果可视化，便于管理员用户查看。
与上述图像检测方法相对应，本发明实施例还提供了一种图像检测装置。
参见图4，本发明实施例提供了图像检测装置的第一种结构示意图，上述装置包括：
图像获得模块401，用于获得待检测图像；
概率获得模块402，用于将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
图像确定模块403，用于根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。
由以上可见，本方案在确定待检测图像是否为违规图像时，直接将待检测图像输入预先训练好的违规图像检测模型，确定上述图像为违规图像的违规概率，根据违规概率阈值与待检测图像的违规概率，确定上述待检测图像是否为违规图像。由于违规图像检测模型是使用机器学习的方式对大量样本图像训练得到的，所以上述违规图像检测模型能够学习到大量样本图像的特征，因此应用上述违规图像检测模型能够检测待检测图像的违规概率，将违规概率高于违规概率阈值的待检测图像确定为违规图像，此过程不需要人工进行检测，从而减少了检测图像是否为违规图像的人力成本，提高了违规图像检测的效率。
本发明的一个实施例中，在所述待检测图像为动态图像的情况下，所述概率获得模块，具体用于：
分别将所述待检测图像中各个帧输入预先训练的违规图像检测模型，获得各个帧为违规图像的概率，将所确定的概率最高的帧的概率作为所述待检测图像的违规概率。
本发明的一个实施例中，上述装置还包括：违规图像检测模型获得模块；
确定样本图像是否为违规图像的标记；
获得样本集，上述样本集包括：样本图像与样本图像是否为违规图像的标记：
将样本图像输入所述违规图像检测模型的初始模型，获得样本图像为违规图像的第一概率；
根据所述样本图像的第一概率是否大于预设的训练违规阈值，获得样本图像是否为违规图像的第一检测结果；
根据所述第一检测结果与所述标记，计算所述初始模型的损失值；
根据所述损失值调整所述初始模型的模型参数，直至所述初始模型满足预设的收敛条件，将调整参数后的所述初始模型确定为违规图像检测模型。
由以上可见，由于上述样本集中包含违规图像与非违规图像，因此使用上述样本集对上述初始模型进行训练，使得上述初始模型可以学习到违规图像与非违规图像的特征，因此使得上述经过训练的违规图像检测模型可以用于检测图像的违规概率。
本发明的一个实施例中，上述装置还包括：违规图像检测模型验证模块；
获得验证集，所述验证集包括：验证图像与验证图像是否为违规图像的标记；
将所述验证图像输入所述违规图像检测模型，获得所述验证图像为违规图像的第二概率；
根据所述第二概率与验证图像是否为违规图像的标记计算所述违规图像检测模型的曲线下面积AUC；
根据所述AUC调整所述违规图像检测模型的参数，将调整参数后得到的违规图像检测模型确定为通过验证的违规图像检测模型。
本发明的一个实施例中，在获得经过训练的违规图像检测模型之后，可以对所述违规图像检测模型进行验证，根据验证结果进一步调整上述违规图像检测模型的参数，从而提高违规图像检测模型的泛化能力，使违规图像检测模型的检测结果满足各个不同应用场景的检测需求。
本发明的一个实施例中，所述装置还包括：违规概率阈值确定模块；
获得测试集，所述测试集包括：测试图像与测试图像是否为违规图像的标记；
将所述测试图像输入通过验证的违规图像检测模型，获得所述测试图像为违规图像的第三概率；
选取初始违规阈值，根据所述第三概率是否大于所述初始违规阈值确定所述测试图像是否为违规图像的测试结果；
根据所述测试结果与所述测试图像是否为违规图像的标记，确定所述初始违规阈值是否满足预设的召回率与误报率的条件，其中，所述召回率为：正样本图像中被确定为违规图像的图像占正样本图像的比例，所述误报率为：负样本图像中被确定为违规图像的图像占负样本图像的比例，所述正样本图像为：标记为违规图像的测试图像，所述负样本图像为：标记为非违规图像的测试图像；
若不满足所述召回率与误报率条件，则返回所述选取初始违规阈值的步骤，否则，则将所述初始违规阈值确定为所述违规概率阈值。
由以上可见，根据由于在选择的初始违规阈值可以达到预设的召回率与误报率要求时，才将上述初始违规阈值确定为违规概率阈值，因此可以保证上述违规概率阈值的选取满足预设的召回率与误报率要求，使得上述违规图像检测模型输出的检测结果满足应用场景的检测需求。
参见图5，本发明实施例提供了图像检测装置的第二种结构示意图，与前述图4所示的实施例相比，本实施例还包括：
MD5值获得模块404，用于获得预设时长内检测出的违规图像的MD5值；
违规图像确定模块405，用于将所述违规图像的MD5值发送给用户客户端，使得用户客户端对接收到的图像计算MD5值，根据接收到的图像的MD5值与上述违规图像的MD5值是否匹配，确定接收到的图像是否为违规图像。
由以上可见，将违规图像的MD5值发送给用户客户端，使得用户客户端可以确定接收到的图像是否为违规图像，从而可以不展示违规图像，进而提高用户的使用体验。
参见图6，本发明实施例提供了图像检测装置的第三种结构示意图，与前述图4所示的实施例相比，本实施例还包括：
数据生成模块406，用于生成检测结果数据，所述检测结果数据包括以下信息中的至少一种：所述待检测图像的MD5值、待检测图像最后推送给用户的时间、推送的次数、所述待检测图像为违规图像的概率及所述待检测图像是否为违规图像的检测结果；
数据展示模块407，用于通过预设的检测结果显示界面，展示所述检测结果数据与所述待检测图像。
由以上可见，通过检测结果显示界面显示待检测图像的检测结果数据，使得待检测图像的检测结果可视化，便于管理员用户查看。
本发明的一个实施例中，所述装置还包括：
违规概率转换模块，用于将所述待检测图像的违规概率转换为整数形式，其中，所述违规概率阈值与所述违规概率的数量级相同。
本发明实施例还提供了一种电子设备，如图7所示，包括处理器701、通信接口702、存储器703和通信总线704，其中，处理器701，通信接口702，存储器703通过通信总线704完成相互间的通信，
存储器703，用于存放计算机程序；
处理器701，用于执行存储器703上所存放的程序时，实现上述任一图像检测方法实施例所述的方法步骤。
应用本发明实施例提供的电子设备检测违规图像时，直接将待检测图像输入预先训练好的违规图像检测模型，确定上述图像为违规图像的违规概率，根据违规概率阈值与待检测图像的违规概率，确定上述待检测图像是否为违规图像。由于违规图像检测模型是使用机器学习的方式对大量样本图像训练得到的，所以上述违规图像检测模型能够学习到大量样本图像的特征，因此应用上述违规图像检测模型能够检测待检测图像的违规概率，将违规概率高于违规概率阈值的待检测图像确定为违规图像，此过程不需要人工进行检测，从而减少了检测图像是否为违规图像的人力成本，提高了违规图像检测的效率。
上述电子设备提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory，RAM)，也可以包括非易失性存储器(Non-Volatile Memory，NVM)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessing，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一路径确定方法实施例所述的方法步骤。
执行本发明实施例提供的计算机可读存储介质中存储的计算机程序检测违规图像时，直接将待检测图像输入预先训练好的违规图像检测模型，确定上述图像为违规图像的违规概率，根据违规概率阈值与待检测图像的违规概率，确定上述待检测图像是否为违规图像。由于违规图像检测模型是使用机器学习的方式对大量样本图像训练得到的，所以上述违规图像检测模型能够学习到大量样本图像的特征，因此应用上述违规图像检测模型能够检测待检测图像的违规概率，将违规概率高于违规概率阈值的待检测图像确定为违规图像，此过程不需要人工进行检测，从而减少了检测图像是否为违规图像的人力成本，提高了违规图像检测的效率。
在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述任一路径确定方法实施例所述的方法步骤。
执行本发明实施例提供的计算机程序产品检测违规图像时，直接将待检测图像输入预先训练好的违规图像检测模型，确定上述图像为违规图像的违规概率，根据违规概率阈值与待检测图像的违规概率，确定上述待检测图像是否为违规图像。由于违规图像检测模型是使用机器学习的方式对大量样本图像训练得到的，所以上述违规图像检测模型能够学习到大量样本图像的特征，因此应用上述违规图像检测模型能够检测待检测图像的违规概率，将违规概率高于违规概率阈值的待检测图像确定为违规图像，此过程不需要人工进行检测，从而减少了检测图像是否为违规图像的人力成本，提高了违规图像检测的效率。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个......”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备、计算机可读存储介质和计算机程序产品而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims (10)

1.一种图像检测方法，其特征在于，所述方法包括：
获得待检测图像；
将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。
2.根据权利要求1所述的方法，其特征在于，在所述待检测图像为动态图像的情况下，所述将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，包括：
分别将所述待检测图像中各个帧输入预先训练的违规图像检测模型，获得各个帧为违规图像的概率，将所确定的概率最高的帧的概率作为所述待检测图像的违规概率。
3.根据权利要求1或2所述的方法，其特征在于，通过以下方式获得所述违规图像检测模型：
确定样本图像是否为违规图像的标记；
获得样本集，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
将样本图像输入所述违规图像检测模型的初始模型，获得样本图像为违规图像的第一概率；
根据所述样本图像的第一概率是否大于预设的训练违规阈值，获得样本图像是否为违规图像的第一检测结果；
根据所述第一检测结果与所述标记，计算所述初始模型的损失值；
根据所述损失值调整所述初始模型的模型参数，直至所述初始模型满足预设的收敛条件，将调整参数后的所述初始模型确定为违规图像检测模型。
4.根据权利要求3所述的方法，其特征在于，在获得经过训练的违规图像检测模型之后，通过以下方式对所述违规图像检测模型进行验证：
获得验证集，所述验证集包括：验证图像与验证图像是否为违规图像的标记；
将所述验证图像输入所述违规图像检测模型，获得所述验证图像为违规图像的第二概率；
根据所述第二概率与验证图像是否为违规图像的标记计算所述违规图像检测模型的曲线下面积AUC；
根据所述AUC调整所述违规图像检测模型的参数，将调整参数后得到的违规图像检测模型确定为通过验证的违规图像检测模型。
5.根据权利要求4所述的方法，其特征在于，通过以下方式获得违规概率阈值：
获得测试集，所述测试集包括：测试图像与测试图像是否为违规图像的标记；
将所述测试图像输入通过验证的违规图像检测模型，获得所述测试图像为违规图像的第三概率；
选取初始违规阈值，根据所述第三概率是否大于所述初始违规阈值确定所述测试图像是否为违规图像的测试结果；
根据所述测试结果与所述测试图像是否为违规图像的标记，确定所述初始违规阈值是否满足预设的召回率与误报率的条件，其中，所述召回率为：正样本图像中被确定为违规图像的图像占正样本图像的比例，所述误报率为：负样本图像中被确定为违规图像的图像占负样本图像的比例，所述正样本图像为：标记为违规图像的测试图像，所述负样本图像为：标记为非违规图像的测试图像；
若不满足所述召回率与误报率条件，则返回所述选取初始违规阈值的步骤，否则，则将所述初始违规阈值确定为所述违规概率阈值。
6.根据权利要求1所述的方法，其特征在于，所述方法还包括：
获得预设时长内检测出的违规图像的MD5值；
将所述违规图像的MD5值发送给用户客户端，使得用户客户端对接收到的图像计算MD5值，根据接收到的图像的MD5值与上述违规图像的MD5值是否匹配，确定接收到的图像是否为违规图像。
7.根据权利要求1所述的方法，其特征在于，所述方法还包括：
生成检测结果数据，所述检测结果数据包括以下信息中的至少一种：所述待检测图像的MD5值、待检测图像最后推送给用户的时间、推送的次数、所述待检测图像为违规图像的概率及所述待检测图像是否为违规图像的检测结果；
通过预设的检测结果显示界面，展示所述检测结果数据与所述待检测图像。
8.一种图像检测装置，其特征在于，所述装置包括：
图像获得模块，用于获得待检测图像；
概率获得模块，用于将所述待检测图像输入预先训练的违规图像检测模型，获得所述待检测图像为违规图像的违规概率，所述违规图像检测模型为：采用样本集对初始模型进行训练得到的，用于检测图像是否为违规图像的模型，所述样本集包括：样本图像与样本图像是否为违规图像的标记；
图像确定模块，用于根据所述待检测图像的违规概率是否大于预设的违规概率阈值，确定所述待检测图像是否为违规图像。
9.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现权利要求1-7任一所述的方法步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-7任一所述的方法步骤。
CN202010100735.7A 2020-02-18 2020-02-18 一种图像检测方法、装置、电子设备及存储介质 Active CN111324764B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010100735.7A CN111324764B (zh) 2020-02-18 2020-02-18 一种图像检测方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010100735.7A CN111324764B (zh) 2020-02-18 2020-02-18 一种图像检测方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN111324764A true CN111324764A (zh) 2020-06-23
CN111324764B CN111324764B (zh) 2023-09-22

Family

ID=71172666

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010100735.7A Active CN111324764B (zh) 2020-02-18 2020-02-18 一种图像检测方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111324764B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111898641A (zh) * 2020-07-01 2020-11-06 中国建设银行股份有限公司 一种目标模型检测、装置、电子设备及计算机可读存储介质
CN112492343A (zh) * 2020-12-16 2021-03-12 浙江大华技术股份有限公司 一种视频直播监控方法及相关装置
CN112507912A (zh) * 2020-12-15 2021-03-16 网易（杭州）网络有限公司 一种识别违规图片的方法及装置
CN113065444A (zh) * 2021-03-26 2021-07-02 北京大米科技有限公司 一种行为检测的方法、装置、可读存储介质和电子设备
CN113569873A (zh) * 2021-08-19 2021-10-29 支付宝(杭州)信息技术有限公司 一种图像的处理方法、装置及设备
CN114565800A (zh) * 2022-04-24 2022-05-31 深圳尚米网络技术有限公司 一种用于违规图片检测的方法及图片检测引擎
CN112507912B (zh) * 2020-12-15 2024-06-11 杭州网易智企科技有限公司 一种识别违规图片的方法及装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040222904A1 (en) * 2003-05-05 2004-11-11 Transol Pty Ltd Traffic violation detection, recording and evidence processing system
CN101303734A (zh) * 2008-06-25 2008-11-12 腾讯科技（深圳）有限公司 图片检测系统及方法
US20150363650A1 (en) * 2014-06-13 2015-12-17 Mauricio Braun Distracted Driving Violation Detection and Reporting Technology
CN105989330A (zh) * 2015-02-03 2016-10-05 阿里巴巴集团控股有限公司 一种图片检测方法及设备
JP2017102540A (ja) * 2015-11-30 2017-06-08 日本電信電話株式会社 分類装置、方法、及びプログラム
US20190080433A1 (en) * 2017-09-08 2019-03-14 Baidu Online Network Technology(Beijing) Co, Ltd Method and apparatus for generating image
CN110059618A (zh) * 2019-04-17 2019-07-26 北京易达图灵科技有限公司 一种违禁物品的识别方法及装置
CN110263748A (zh) * 2019-06-26 2019-09-20 北京百度网讯科技有限公司 用于发送信息的方法和装置
US20190304092A1 (en) * 2018-03-28 2019-10-03 International Business Machines Corporation Systems and methods for automatic detection of an indication of abnormality in an anatomical image
CN110321927A (zh) * 2019-06-03 2019-10-11 深圳中兴网信科技有限公司 违规检测模型的生成方法、计算机设备及可读存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040222904A1 (en) * 2003-05-05 2004-11-11 Transol Pty Ltd Traffic violation detection, recording and evidence processing system
CN101303734A (zh) * 2008-06-25 2008-11-12 腾讯科技（深圳）有限公司 图片检测系统及方法
US20150363650A1 (en) * 2014-06-13 2015-12-17 Mauricio Braun Distracted Driving Violation Detection and Reporting Technology
CN105989330A (zh) * 2015-02-03 2016-10-05 阿里巴巴集团控股有限公司 一种图片检测方法及设备
JP2017102540A (ja) * 2015-11-30 2017-06-08 日本電信電話株式会社 分類装置、方法、及びプログラム
US20190080433A1 (en) * 2017-09-08 2019-03-14 Baidu Online Network Technology(Beijing) Co, Ltd Method and apparatus for generating image
US20190304092A1 (en) * 2018-03-28 2019-10-03 International Business Machines Corporation Systems and methods for automatic detection of an indication of abnormality in an anatomical image
CN110059618A (zh) * 2019-04-17 2019-07-26 北京易达图灵科技有限公司 一种违禁物品的识别方法及装置
CN110321927A (zh) * 2019-06-03 2019-10-11 深圳中兴网信科技有限公司 违规检测模型的生成方法、计算机设备及可读存储介质
CN110263748A (zh) * 2019-06-26 2019-09-20 北京百度网讯科技有限公司 用于发送信息的方法和装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
FIDALGO E.等: "Illegal Activity Categorisation in DarkNet Based on Image Classification Using CREIC Method" *
胡明辉;李俊;: "基于卷积神经网络的图像异常检测方法", 数码世界, no. 07 *
胡明辉等: "基于卷积神经网络的图像异常检测方法" *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111898641A (zh) * 2020-07-01 2020-11-06 中国建设银行股份有限公司 一种目标模型检测、装置、电子设备及计算机可读存储介质
CN112507912A (zh) * 2020-12-15 2021-03-16 网易（杭州）网络有限公司 一种识别违规图片的方法及装置
CN112507912B (zh) * 2020-12-15 2024-06-11 杭州网易智企科技有限公司 一种识别违规图片的方法及装置
CN112492343A (zh) * 2020-12-16 2021-03-12 浙江大华技术股份有限公司 一种视频直播监控方法及相关装置
CN112492343B (zh) * 2020-12-16 2023-11-10 浙江大华技术股份有限公司 一种视频直播监控方法及相关装置
CN113065444A (zh) * 2021-03-26 2021-07-02 北京大米科技有限公司 一种行为检测的方法、装置、可读存储介质和电子设备
CN113569873A (zh) * 2021-08-19 2021-10-29 支付宝(杭州)信息技术有限公司 一种图像的处理方法、装置及设备
CN113569873B (zh) * 2021-08-19 2024-03-29 支付宝(杭州)信息技术有限公司 一种图像的处理方法、装置及设备
CN114565800A (zh) * 2022-04-24 2022-05-31 深圳尚米网络技术有限公司 一种用于违规图片检测的方法及图片检测引擎
CN114565800B (zh) * 2022-04-24 2022-07-29 深圳尚米网络技术有限公司 一种用于违规图片检测的方法及图片检测引擎

Also Published As

Publication number Publication date
CN111324764B (zh) 2023-09-22

Similar Documents

Publication Publication Date Title
CN111324764B (zh) 一种图像检测方法、装置、电子设备及存储介质
CN110163300B (zh) 一种图像分类方法、装置、电子设备及存储介质
CN107341716B (zh) 一种恶意订单识别的方法、装置及电子设备
CN109684118B (zh) 异常数据的检测方法、装置、设备及计算机可读存储介质
WO2019214309A1 (zh) 模型测试的方法及装置
CN112132277A (zh) 联邦学习模型训练方法、装置、终端设备及存储介质
WO2018130201A1 (zh) 确定关联账号的方法、服务器及存储介质
CN110163647A (zh) 一种数据处理方法及装置
EP3892980A1 (en) Information processing apparatus, information processing method, learned model generation method, and program
JP2010204966A (ja) サンプリング装置、サンプリング方法、サンプリングプログラム、クラス判別装置およびクラス判別システム。
AU2013251195A1 (en) Program, apparatus, and method for information processing
US20170178029A1 (en) Learning device, learning method, and non-transitory computer readable storage medium
WO2023000491A1 (zh) 一种应用推荐方法、装置、设备及计算机可读存储介质
CN113765895A (zh) 一种直播间的审核方法及装置
US20210192965A1 (en) Question correction method, device, electronic equipment and storage medium for oral calculation questions
CN116204714A (zh) 推荐方法、装置、电子设备及存储介质
CN108805332B (zh) 一种特征评估方法和装置
JP7015927B2 (ja) 学習モデル適用システム、学習モデル適用方法、及びプログラム
CN116127450A (zh) 一种模型评估方法及装置
CN116343007A (zh) 目标检测方法、装置、设备和存储介质
CN113076487B (zh) 一种用户兴趣表征及内容推荐方法、装置和设备
CN110543634B (zh) 语料数据集的处理方法、装置、电子设备及存储介质
CN110399803B (zh) 一种车辆检测方法及装置
CN113822684A (zh) 黑产用户识别模型训练方法、装置、电子设备及存储介质
CN113177603A (zh) 分类模型的训练方法、视频分类方法及相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant