CN111178410A - 违规图片的识别方法及装置 - Google Patents

违规图片的识别方法及装置 Download PDF

Info

Publication number
CN111178410A
CN111178410A CN201911323798.2A CN201911323798A CN111178410A CN 111178410 A CN111178410 A CN 111178410A CN 201911323798 A CN201911323798 A CN 201911323798A CN 111178410 A CN111178410 A CN 111178410A
Authority
CN
China
Prior art keywords
image
network model
identified
sensitive area
illegal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911323798.2A
Other languages
English (en)
Inventor
卢建东
余衍炳
张发喜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201911323798.2A priority Critical patent/CN111178410A/zh
Publication of CN111178410A publication Critical patent/CN111178410A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Molecular Biology (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Image Analysis (AREA)

Abstract

本申请的实施例提供了一种违规图片的识别方法及装置。该违规图片的识别方法包括：通过具有注意力机制的第一网络模型对待识别图像进行识别，得到所述待识别图像中的疑似敏感区域，并基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分，再在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片。本申请实施例的技术方案提高了违规图片的识别效率，且保证了违规图片的识别结果的准确性。

Description

违规图片的识别方法及装置
技术领域
本申请涉及计算机技术领域，具体而言，涉及一种违规图片的识别方法及装置。
背景技术
随着互联网络的飞速发展，图片由于其直观、承载信息量大等优势，在各种信息承载媒体的占比上越来越大，每天都会有海量的图片生成。而为了吸引流量，不法分子会生成或传播大量低俗、色情等违规图片。因此，如何能够对海量的图片进行快速识别，保证违规图片的识别结果的准确性是亟待解决的技术问题。
发明内容
本申请的实施例提供了一种违规图片的识别方法及装置，进而至少在一定程度上可以对大量的图片进行快速识别，保证违规图片的识别结果的准确性。
本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。
根据本申请实施例的一个方面，提供了一种违规图片的识别方法，该方法包括：
通过具有注意力机制的第一网络模型对待识别图像进行识别，得到所述待识别图像中的疑似敏感区域；
基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分；
在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片。
根据本申请实施例的一个方面，提供了一种违规图片的识别装置，该装置包括：
第一识别模块，用于通过具有注意力机制的第一网络模型对待识别图像进行识别，得到所述待识别图像中的疑似敏感区域；
第二识别模块，用于基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分；
处理模块，用于在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片。
在本申请的一些实施例中，基于前述方案，第二识别模块被配置为：将所述疑似敏感区域输入至所述第二网络模型中，以使所述第二网络模型输出所述疑似敏感区域的敏感分类和评分，其中，所述敏感分类包括正常内容和违规内容；其中，处理模块被配置为：若所述敏感分类为违规内容且所述评分大于或等于第一预定阈值，则确定所述待识别图像为违规图片。
在本申请的一些实施例中，基于前述方案，第一识别模块被配置为：获取所述待识别图像；将所述待识别图像输入至所述第一网络模型中，以使所述第一网络模型输出所述待识别图像的疑似敏感区域以及所述疑似敏感区域为敏感内容的概率；根据所述疑似敏感区域为敏感内容的概率和第二预定阈值，对所述待识别图像进行过滤。
在本申请的一些实施例中，基于前述方案，第一识别模块被配置为：将所述疑似敏感区域为敏感内容的概率小于所述预定阈值的待识别图像进行过滤。
在本申请的一些实施例中，基于前述方案，处理模块还被配置为：从广告图片库中获取待识别图像，其中，所述待识别图像具有与其广告相对应的标识信息；在确定所述待识别图像为违规图片之后，所述识别方法还包括：根据所述待识别图像的标识信息，确定所述待识别图像对应的广告；根据所述待识别图像对应的广告，生成提示信息。
在本申请的一些实施例中，基于前述方案，处理模块还被配置为：获取图像样本集合；将所述图像样本集合中的图像样本作为所述第二网络模型的样本输入，以供所述第二网络模型进行学习，其中所述图像样本具有正常内容和违规内容的对应标识；通过调节所述第二网络模型的参数，使得所述第二网络模型针对所述图像样本的输出与所述图像样本的对应标识一致。
在本申请的一些实施例中，基于前述方案，所述第二网络模型为Resnet分类网络模型，处理模块还被配置为：由所述Resnet分类网络模型中提取卷积层中的数据；对所述卷积层中的数据中的激活值取绝对值，并将取绝对值后的所述激活值绘制在所述图像样本中，得到预览图像；显示所述预览图像。
在本申请的一些实施例中，基于前述方案，处理模块还被配置为：根据被确定为违规图片的所述待识别图像生成区块；并将所述区块上传至区块链网络中进行存储。
在本申请的一些实施例中，基于前述方案，处理模块被配置为：根据被确定为违规图片的所述待识别图像、所述待识别图像的敏感分类和评分生成区块。
根据本申请实施例的一个方面，提供了一种计算机可读介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述实施例中所述的违规图片的识别方法。
根据本申请实施例的一个方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中所述的违规图片的识别方法。
在本申请的一些实施例所提供的技术方案中，通过具有注意力机制的第一网络模型对待识别图像进行识别，得到该待识别图像中的疑似敏感区域，并基于第二网络模型和该疑似敏感区域，确定该疑似敏感区域的敏感分类和评分，并在该敏感分类和评分满足预设条件时，确定该待识别图像为违规图片，通过第一网络模型和第二网络模型相配合，第一网络模型定位出该待识别图像中的疑似敏感区域，第二网络模型针对该疑似敏感区域进行识别，既保证了对图片的识别效率同时，也保证了违规图片的识别结果的准确性。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：
图1示出了可以应用本申请实施例的技术方案的示例性系统架构的示意图；
图2示出了根据本申请的一个实施例的违规图片的识别方法的流程示意图；
图3示出了根据本申请的一个实施例的图2的违规图片的识别方法中步骤S210的流程示意图；
图4示出了根据本申请的一个实施例的违规图片的识别方法中还包括的确定违规广告的流程示意图；
图5示出了根据本申请的一个实施例的违规图片的识别方法中还包括的训练第二网络模型的流程示意图；
图6示出了根据本申请的一个实施例的违规图片的识别方法中还包括的确定第二网络模型的学习结果的流程示意图；
图7A示出了根据本申请的一个实施例的技术方案的区块链数据共享系统的示意图；
图7B示出了根据本申请的一个实施例的技术方案的区块链的结构示意图；
图7C示出了根据本申请的一个实施例的技术方案产生新区块的示意图；
图8示出了根据本申请的一个实施例的违规图片的识别方法的流程示意图；
图9示出了根据本申请的一个实施例的违规图片的识别装置的框图；
图10示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本申请将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。
此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本申请的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
图1示出了可以应用本申请实施例的技术方案的示例性系统架构的示意图。
如图1所示，系统架构可以包括终端设备(如图1中所示智能手机101、平板电脑102和便携式计算机103中的一种或多种，当然也可以是台式计算机等等)、网络104和服务器105。网络104用以在终端设备和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线通信链路、无线通信链路等等。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
用户可以使用终端设备通过网络104与服务器105交互，以接收或发送消息等。服务器105可以是提供各种服务的服务器。例如用户利用终端设备103(也可以是终端设备101或102)向服务器105上传了广告图片，服务器105可以通过具有注意力机制的第一网络模型对待识别图像进行识别，得到该待识别图像中的疑似敏感区域，并基于第二网络模型和该疑似敏感区域，确定该疑似敏感区域的敏感分类和评分，再在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片。
需要说明的是，本申请实施例所提供的违规图片的识别方法一般由服务器105执行，相应地，违规图片的识别装置一般设置于服务器105中。但是，在本申请的其它实施例中，终端设备也可以与服务器具有相似的功能，从而执行本申请实施例所提供的违规图片的识别方法的方案。
以下对本申请实施例的技术方案的实现细节进行详细阐述：
图2示出了根据本申请的一个实施例的违规图片的识别方法的流程示意图。参照图2所示，该违规图片的识别方法至少包括步骤S210至步骤S230，详细介绍如下：
在步骤S210中，通过具有注意力机制的第一网络模型对待识别图像进行识别，得到所述待识别图像中的疑似敏感区域。
其中，注意力机制可以是在处理过程中将注意力集中在重要的点上，而忽略其他不重要因素的处理机制。在神经网络模型中加入注意力机制，可以使该神经网络模型只关注其输入的一部分信息，从而关注特定的输入信息。该第一网络模型可以是具有注意力机制的神经网络模型。
待识别图像可以是需要进行违规图片识别的图片，该待识别图片可以是广告信息中所包含的图片，也可以是可在用户之间进行传播的图片(例如聊天表情)等等，本申请对此不做特殊限定。
疑似敏感区域可以是待识别图像中可能存在违规风险的区域。例如在针对人体背部违规(如露背程度高)的图片识别中，疑似敏感区域可以是该待处理图像中包含的疑似人体背部的区域，等等。
在该实施例中，将待识别图像输入至预先训练完成的具有注意力机制的第一网络模型中，使得该第一网络模型可以对该待识别图像进行识别，以确定并输出该待识别图像中的疑似敏感区域，便于后续的违规图片的识别。
在步骤S220中，基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分。
其中，敏感分类可以是第二网络模型对疑似敏感区域的类别划分，该第二网络模型可以对疑似敏感区域进行类别划分，例如正常内容或违规内容等。
评分可以是第二网络模型对疑似敏感区域的违规风险的评分，评分越高，则该疑似敏感区域的违规风险越高，相应地，评分越低，则该疑似敏感区域的违规风险越低。
在步骤S230中，在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片。
其中，预设条件可以是预先设置的，用以确定疑似敏感区域是否具有违规内容的判定条件。
违规图片可以是具有低俗、色情内容等违规内容的图片。
在该实施例中，根据第二网络模型确定的疑似敏感区域的敏感分类和评分，以从疑似敏感区域中筛选出具有违规内容的疑似敏感区域，并将该具有违规内容的疑似敏感区域对应的待识别图像确定为违规图片。
在图2所示的实施例中，第一网络模型和第二网络模型相配合，第一网络模型从待识别图像中识别出该待识别图像的疑似敏感区域，该第二网络模型针对该待识别图像的疑似敏感区域进行图像识别，以输出该疑似敏感区域的敏感分类和评分，再根据该敏感分类和评分，确定待识别图像是否为违规图片，通过第一网络模型和第二网络模型对图片进行自动识别，免去了人工参与，提高了图片的识别效率。且避免第二网络模型需要对整张待识别图像进行识别，提高了第二网络模型识别结果的准确性，进而提高了违规图片的识别结果的准确性。
基于图2所示的实施例，在本申请的一个实施例中，基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分，包括：
将所述疑似敏感区域输入至所述第二网络模型中，以使所述第二网络模型输出所述疑似敏感区域的敏感分类和评分，其中，所述敏感分类包括正常内容和违规内容。
在该实施例中，将疑似敏感区域输入至第二网络模型中，可以是将待疑似敏感区域从待识别图像中截出，并将截出的疑似敏感区域输入至第二网络模型中。该第二网络模型对疑似敏感区域进行识别，并输出该疑似敏感区域的敏感分类和评分，其中，该敏感分类包括正常内容和违规内容。
基于上述实施例，在本申请的一个实施例中，在所述敏感分类和所述评分满足预定条件时，确定所述待识别图像为违规图片，包括：
若所述敏感分类为违规内容且所述评分大于或等于第一预定阈值，则确定所述待识别图像为违规图片。
其中，第一预定阈值可以是预先设定的，用以确定该疑似敏感区域是否为违规内容的阈值。
在该实施例中，当第二网络模型输出该疑似敏感区域的敏感分类和评分后，检测该疑似敏感区域的敏感分类是否为违规内容，并检测该评分是否大于或等于第一预定阈值。若该敏感分类为违规内容且评分大于或等于第一预定阈值时，则表示该疑似敏感区域中的内容为违规内容，因此确定该疑似敏感区域对应的待识别图像为违规图片。
基于图2所示的实施例，图3示出了根据本申请的一个实施例的图2的违规图片的识别方法中步骤S210的流程示意图。在图3所示的实施例中，步骤S210至少包括步骤S310至步骤S330，详细介绍如下：
在步骤S310中，获取所述待识别图像。
在本申请的一个实施例中，可以从广告图片库中获取待识别图像，其中，该广告图片库为预先设置的，其中存储有各个广告包含的图片。通过将各个广告中包含的图片存储至广告图片库中，再从广告图片库中获取待识别图像，可以使得便于用户对广告中包含的图片进行识别，避免了针对逐一广告进行违规图片的识别的麻烦，提高了违规图片的识别效率。
在本申请的另一个实施例中，获取待识别图像也可以是逐一从广告中获取其所包含的图片作为待识别图像，以逐个对广告包含的图片进行识别，避免缺漏，保证了违规图片的识别的覆盖率。
在步骤S320中，将所述待识别图像输入至所述第一网络模型中，以使所述第一网络模型输出所述待识别图像的疑似敏感区域以及所述疑似敏感区域为敏感内容的概率。
其中，敏感内容可以是与违规图片的识别目的相对应的内容，例如针对人体背部违规图片的识别中，敏感内容为人体背部，或者针对人体腿部违规图片的识别中，敏感内容为人体腿部，等等。
在该实施例中，将所获取的待识别图像输入至第一网络模型中，第一网络模型对该待识别图像进行识别，以输出该待识别图像中所包含的疑似敏感区域以及该疑似敏感区域为敏感内容(即违规内容)的概率。需要说明的是，该疑似敏感区域并不一定就是违规内容，在实际的使用中，本申请允许第一网络模型存在一定的误识别率，以减少违规图片识别的缺检漏检，进而保证违规图片的识别结果的准确性。
在步骤S330中，根据所述疑似敏感区域为敏感内容的概率和第二预定阈值，对所述待识别图像进行过滤。
在该实施例中，在第一网络模型输出待识别图像的疑似敏感区域和该疑似敏感区域为敏感内容的概率后，根据该敏感区域为敏感内容的概率和第二预定阈值，其中，第二预定阈值可以为预先配置将该敏感区域为敏感内容的概率较低的疑似敏感区域确定为未包含有违规内容的区域，并将该疑似敏感区域对应的待识别图像进行过滤，无需对概率较低的待识别图像进行后续识别，以提高违规图片的识别效率。
在图3所示的实施例中，通过确定待识别图像中的疑似敏感区域和该疑似敏感区域为敏感内容的概率，将未包含有违规内容的待识别图像进行过滤，使其无需进行后续识别，提高了违规图片的识别效率。且通过具有注意力机制的第一网络模型对待识别图像进行识别，能够准确定位待识别图像中的疑似敏感区域，保证了后续的违规图片的识别结果的准确性。
基于图2和图3所示的实施例，在本申请的一个实施例中，根据所述疑似敏感区域为敏感内容的概率和第二预定阈值，对所述待识别图像进行过滤，包括：
将所述疑似敏感区域为敏感内容的概率小于所述第二预定阈值的待识别图像进行过滤。
在该实施例中，将疑似敏感区域为敏感内容的概率与第二预定阈值相比较，若概率小于第二预定阈值，则表示该疑似敏感区域为敏感内容的可能性较低，因此该疑似敏感区域为违规内容的可能性较低；若概率大于或等于第二预定阈值，则表示该疑似敏感区域为敏感内容的可能性较高，所以该疑似敏感区域为违规内容的可能性较高。由此，将概率小于第二预定阈值的待识别图像进行过滤，使其无需进行后续的识别，节省了计算资源，进而提高了违规图片的识别的效率。
基于图2所示的实施例，在本申请的一个实施例中，该违规图片的识别方法中还包括：
从广告图片库中获取待识别图像，其中，所述待识别图像具有与其广告相对应的标识信息。
其中，标识信息可以是与广告唯一对应的信息，根据该标识信息，则可以确定该待识别图像属于某个广告，以得到待识别图像和广告的对应关系。应该理解的，该标识信息可以是数字标识、字母标识或者文字标识等任意形式的标识信息，本申请对此不做特殊限定。
在该实施例中，该待识别图像与标识信息可以对应存储，以确定待识别图像与其所属广告的对应关系，具体地，该待识别图像与标识信息对应存储可以是将该标识信息添加至待识别图像的文件名中，例如在JPG123-AD456中，JPG123表示第123张图片，AD456表示编号为456的广告，所以JPG123-AD456表示第123张图片属于编号为456的广告，等等。需要说明的是，因为广告中可以包含多张图片，所以也可能存在多张图片属于同一广告的情况。
在本申请的一实施例中，待识别图像与标识信息对应存储也可以是建立待识别图像文件名与标识信息的对应关系表，可以通过查询该对应关系表以确定待识别图像所对应的标识信息。
基于上述实施例，图4示出了根据本申请的一个实施例的违规图片的识别方法中还包括的确定违规广告的流程示意图，在图4所示的实施例中，确定违规广告至少包括步骤S410至步骤S420，详细介绍如下：
在步骤S410中，根据所述待识别图像的标识信息，确定所述待识别图像对应的广告。
在该实施例中，当确定待识别图像为违规图片后，获取被识别为违规图片的待识别图像对应的标识信息，并根据该标识信息确定该待识别图像对应的广告。
在步骤S420中，根据所述待识别图像对应的广告，生成提示信息。
其中，提示信息可以是用以提示用户某一广告中包含违规图片的信息。该提示信息可以包含但不限于违规图片信息(例如违规图片的文件名或编号)、违规图片所属的广告信息(例如广告的编号)以及违规图片的违规内容信息(例如违规图片的敏感分类以及评分)，等等。
在该实施例中，在确定待识别图像对应的广告后，根据该待识别图像对应的广告，生成提示信息，例如该提示信息可以为：AD456广告中包含违规图片JPG123，敏感分类：违规内容，评分：0.98，等等。
在图4所示的实施例中，根据待识别图像的标识信息确定其对应的广告，并对应生成提示信息，便于用户对包含有违规图片的广告进行定位，提高了违规图片的后续处理效率。
基于图1所示的实施例，图5示出了根据本申请的一个实施例的违规图片的识别方法中还包括的训练第二网络模型的流程示意图，在图5所示的实施例中，训练第二网络模型至少包括步骤S510至步骤S530，详细介绍如下：
在步骤S510中，获取图像样本集合。
其中，图像样本集合可以是用于训练第二网络模型的样本集合，该图像样本集合中可以包含多张图像样本，该图像样本可以包括正样本和负样本，其中，正样本为正常内容，负样本为违规内容。
在本申请的一个实施例中，可以由用户预先图像样本进行识别，确定图像样本为正样本或者负样本，并为图像样本添加正常内容或违规内容的对应标识，以建立图像样本集合。
在步骤S520中，将所述图像样本集合中的图像样本作为所述第二网络模型的样本输入，以供所述第二网络模型进行学习，其中所述图像样本具有正常内容和违规内容的对应标识。
在该实施例中，可以将该图像样本集合中包含的图像样本逐一输入至第二网络模型中，以供该第二网络模型进行学习，确保该第二网络模型能够正确识别违规内容和正常内容的特征。
在步骤S530中，通过调节所述第二网络模型的参数，使得所述第二网络模型针对所述图像样本的输出与所述图像样本的对应标识一致。
在该实施例中，在第二网络模型的学习过程中，调节第二网络模型的参数，使得第二网络模型输出的图像样本的对应标识与该图像样本原本的对应标识一致，进而保证第二网络模型识别结果的准确性。
在图5所示的实施例中，通过预先建立的图像样本集合对第二网络模型进行训练，使得第二训练网络模型能够准确学习到正常内容和违规内容的特征，保证了第二网络模型的识别结果的准确性。
基于图2和图5所示的实施例，图6示出了根据本申请的一个实施例的违规图片的识别方法中还包括的确定第二网络模型的学习结果的流程示意图，在图6所示的实施例中，该第二网络模型为ResNet分类网络模型，确定第二网络模型的学习结果至少包括步骤S610至步骤S630，详细介绍如下：
在步骤S610中，由所述ResNet分类网络模型中提取卷积层中的数据。
其中，残差网络(Residual Neural Network，ResNet)是在深度神经网络中加入残差单元，使得该深度神经网络的训练深度更加高效。
在本申请的一个实施例中，该ResNet分类网络模型可以为ResNet18结构，其中包含多个相连接的卷积层和全连接层。在保证第二网络模型的识别结果的准确率的同时，也能够避免由于第二网络模型的复杂度高而带来的计算损耗。
在图6所示的实施例中，由所述ResNet分类网络模型中提取卷积层中的数据可以是将该ResNet分类网络模型中最后一层卷积层的数据进行提取。
在步骤S620中，对所述卷积层中的数据中的激活值取绝对值，并将取绝对值后的所述激活值绘制在所述图像样本中，得到预览图像。
在该实施例中，根据所提取的ResNet分类网络中最后一层卷积层的数据，将该数据中激活值进行取绝对值，并将取绝对值后的激活值绘制在对应的图像样本中得到预览图像。例如当前图像样本为JPG100，则将当前第二网络模型最后一层卷积层的数据中的激活值进行取绝对值，并将取绝对值后的激活值绘制在JPG100的图像样本中，以得到JPG100的预览图像。
需要说明的是，该预览图像中包含第二网络模型识别到的该图像样本的敏感内容特征。根据该预览图像可以确定该第二网络模型是否可以正确识别图像样本的敏感内容特征。
在步骤S630中，显示所述预览图像。
在该实施例中，可以将该预览图像在界面中进行显示，例如终端设备的显示界面等，以供专业人员根据该预览图像确认该第二网络模型是否已正确学习到敏感内容特征，便于后续的改进以及处理。
在图6所示的实施例中，通过提取ResNet分类网络模型中最后一层卷积层的数据，并将其进行可视化，可供专业人员判定该第二网络模型是否正确学习到敏感内容特征，保证第二网络模型识别结果的准确性。
图7A示出了根据本申请的一个实施例的技术方案的区块链数据共享系统的示意图。
参见图7A所示的区块链数据共享系统，区块链数据共享系统是指用于进行节点与节点之间数据共享的系统，该区块链数据共享系统中可以包括多个节点701，多个节点701可以是指区块链数据共享系统中各个终端设备或服务器。每个节点701在进行正常工作可以接收到输入信息，并基于接收到的输入信息维护该区块链数据共享系统内的共享数据，该输入信息可以为历史输入记录对应的偏好领域。为了保证区块链数据共享系统内的信息互通，区块链数据共享系统中的每个节点之间可以存在信息连接，节点之间可以通过上述信息连接进行信息传输。例如，当区块链数据共享系统中的任意节点接收到输入信息时，区块链数据共享系统中的其他节点便根据共识算法获取该输入信息，将该输入信息作为区块链共享数据中的数据进行存储，使得区块链数据共享系统中全部节点上存储的数据均一致。
对于区块链数据共享系统中的每个节点，均具有与其对应的节点标识，而且区块链数据共享系统中的每个节点均可以存储有区块链数据共享系统中其他节点的节点标识，以便后续根据其他节点的节点标识，将生成的区块广播至区块链数据共享系统中的其他节点。每个节点中可维护一个如下表所示的节点标识列表，将节点名称和节点标识对应存储至该节点标识列表中。其中，节点标识可为IP(Internet Protocol，网络之间互联的协议)地址以及其他任一种能够用于标识该节点的信息，表1中仅以IP地址为例进行说明。
节点名称 节点标识
节点1 117.114.151.174
节点2 117.116.189.145
... ...
节点N 119.123.789.258
区块链数据共享系统中的每个节点均存储一条相同的区块链。区块链由多个区块组成，参见图7B，图7B示出了根据本申请的一个实施例的技术方案的区块链的结构示意图，区块链由多个区块组成，创始块中包括区块头和区块主体，区块头中存储有输入信息特征值、版本号、时间戳和难度值，区块主体中存储有输入信息；创始块的下一区块以创始块为父区块，下一区块中同样包括区块头和区块主体，区块头中存储有当前区块的输入信息特征值、父区块的区块头特征值、版本号、时间戳和难度值，并以此类推，使得区块链中每个区块中存储的区块数据均与父区块中存储的区块数据存在关联，保证了区块中输入信息的安全性。
参见图7C，图7C示出了根据本申请的一个实施例的技术方案产生新区块的示意图，在生成区块链中的各个区块时，区块链所在的节点在接收到输入信息时，对输入信息进行校验，完成校验后，将输入信息存储至内存池中，并更新其用于记录输入信息的哈希树；之后，将更新时间戳更新为接收到输入信息的时间，并尝试不同的随机数，多次进行特征值计算，使得计算得到的特征值可以满足下述公式：
SHA256(SHA 256(version+prey_hash+merkle_root+ntime+nbits+x))＜TARGET
其中，SHA256为计算特征值所用的特征值算法；version(版本号)为区块链中相关区块协议的版本信息；prev_hash为当前区块的父区块的区块头特征值；merkle_root为输入信息的特征值；ntime为更新时间戳的更新时间；nbits为当前难度，在一段时间内为定值，并在超出固定时间段后再次进行确定；x为随机数；TARGET为特征值阈值，该特征值阈值可以根据nbits确定得到。
这样，当计算得到满足上述公式的随机数时，便可将信息对应存储，生成区块头和区块主体，得到当前区块。随后，区块链所在节点根据区块链数据共享系统中其他节点的节点标识，将新生成的区块分别发送给其所在的区块链数据共享系统中的其他节点，由其他节点对新生成的区块进行校验，并在完成校验后将新生成的区块添加至其存储的区块链中。
基于上述实施例，在本申请的一个实施例中，该违规图片的识别方法还包括：
根据被确定为违规图片的所述待识别图像生成区块；
将所述区块上传至区块链网络中进行存储。
在该实施例中，多个网络平台或者广告企业可以被配置为各个节点以加入区块链网络中。将被确定为违规图片的待识别图像生成区块，并将该区块上传至区块链网络中。由此，可以使得区块链网络中的各个节点所识别出的违规图片上传至区块链网络中进行共识，以便于其他节点对自身平台或广告的进行自查，防止各个网络平台或广告企业存在相同或者类似图片，避免了图片的重复识别过程，提高了违规图片的识别效率。
在本申请的一个实施例中，根据被确定为违规图片的所述待识别图像生成区块，包括：
根据被确定为违规图片的所述待识别图像、所述待识别图像的敏感分类和评分生成区块。
在该实施例中，在待识别图像被确定为违规图片后，对应获取该待识别图像的疑似敏感区域的敏感分类以及评分，并根据该待识别图像、敏感分类以及评分对应生成区块并上传至区块链网络中。使得其他节点在获取该区块时，能够了解该待识别图像的相关信息，明确该待识别图像的违规内容，避免使用相同或类似的图片的情况发生，进而减少违规图片的出现。
基于上述实施例的技术方案，以下介绍本申请实施例的一个具体应用场景：
图8示出了根据本申请的一个实施例的违规图片的识别方法的流程示意图。
如图8所示(在该实施例中以针对人体背部违规的图片识别为例进行解释说明)，获取待识别图像810，其中该待识别图像810可以是从广告图片库(例如根据微信中的广告包含的图片而建立的广告图片库等)中获取的。将该待识别图像810输入第一网络模型820中，以使该第一网络模型820输出该待识别图像810的疑似敏感区域830。
在本申请的一个实施例中，第一网络模型可以是具有注意力单元的SSD(SingleShot MultiBox Detector)网络模型，通过预先训练完成的SSD网络模型对待识别图像进行识别，可以从待识别图像中识别出疑似敏感区域。需要说明的是，虽然SSD网络模型处理速度快，但是分类精度较差，所以该注意力单元允许误检，在具体使用时，可以将该SSD的阈值设定为0.3，将待识别图像中置信度大于0.3的区域都保留，以得到待识别图像中的疑似敏感区域。
请继续参考图8，在得到疑似敏感区域830之后，将该疑似敏感区域830输入至第二网络模型840，以使该第二网络模型输出识别结果即疑似敏感区域的敏感分类和评分，可以根据该敏感分类和评分确定该疑似敏感区域是否为违规内容，若是，则确定该疑似敏感区域所属的待识别图像为违规图片。
在图8所示的实施例中，通过第一网络模型和第二网络模型相配合，由第一网络模型定位出待识别图像中的疑似敏感区域，再由第二网络模型针对该疑似敏感区域进行识别，以输出该疑似敏感区域的敏感分类和评分，根据该敏感分类和评分以确定该待识别图像是否为违规图片，保证了违规图片的识别结果的准确性，且有神经网络模型对图片进行自动识别，免去了人工参与，提高了违规图片的识别效率。
以下介绍本申请的装置实施例，可以用于执行本申请上述实施例中的违规图片的识别方法。对于本申请装置实施例中未披露的细节，请参照本申请上述的违规图片的识别方法的实施例。
图9示出了根据本申请的一个实施例的违规图片的识别装置的框图。
参照图9所示，根据本申请的一个实施例的违规图片的识别装置装置，包括：
第一识别模块910，用于通过具有注意力机制的第一网络模型对待识别图像进行识别，得到所述待识别图像中的疑似敏感区域；
第二识别模块920，用于基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分；
处理模块930，用于在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片。
在本申请的一些实施例中，基于前述方案，第二识别模块920被配置为：将所述疑似敏感区域输入至所述第二网络模型中，以使所述第二网络模型输出所述疑似敏感区域的敏感分类和评分，其中，所述敏感分类包括正常内容和违规内容；其中，处理模块被配置为：若所述敏感分类为违规内容且所述评分大于或等于第一预定阈值，则确定所述待识别图像为违规图片。
在本申请的一些实施例中，基于前述方案，第一识别模块910被配置为：获取所述待识别图像；将所述待识别图像输入至所述第一网络模型中，以使所述第一网络模型输出所述待识别图像的疑似敏感区域以及所述疑似敏感区域为敏感内容的概率；根据所述疑似敏感区域为敏感内容的概率和第二预定阈值，对所述待识别图像进行过滤。
在本申请的一些实施例中，基于前述方案，第一识别模块910被配置为：将所述疑似敏感区域为敏感内容的概率小于所述预定阈值的待识别图像进行过滤。
在本申请的一些实施例中，基于前述方案，处理模块930还被配置为：从广告图片库中获取待识别图像，其中，所述待识别图像具有与其广告相对应的标识信息；在确定所述待识别图像为违规图片之后，所述识别方法还包括：根据所述待识别图像的标识信息，确定所述待识别图像对应的广告；根据所述待识别图像对应的广告，生成提示信息。
在本申请的一些实施例中，基于前述方案，处理模块930还被配置为：获取图像样本集合；将所述图像样本集合中的图像样本作为所述第二网络模型的样本输入，以供所述第二网络模型进行学习，其中所述图像样本具有正常内容和违规内容的对应标识；通过调节所述第二网络模型的参数，使得所述第二网络模型针对所述图像样本的输出与所述图像样本的对应标识一致。
在本申请的一些实施例中，基于前述方案，所述第二网络模型为Resnet分类网络模型，处理模块930还被配置为：由所述Resnet分类网络模型中提取卷积层中的数据；对所述卷积层中的数据中的激活值取绝对值，并将取绝对值后的所述激活值绘制在所述图像样本中，得到预览图像；显示所述预览图像。
在本申请的一些实施例中，基于前述方案，处理模块930还被配置为：根据被确定为违规图片的所述待识别图像生成区块；并将所述区块上传至区块链网络中进行存储。
在本申请的一些实施例中，基于前述方案，处理模块930被配置为：根据被确定为违规图片的所述待识别图像、所述待识别图像的敏感分类和评分生成区块。
图10示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
需要说明的是，图10示出的电子设备的计算机系统仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图10所示，计算机系统包括中央处理单元(Central Processing Unit，CPU)1001，其可以根据存储在只读存储器(Read-Only Memory，ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(Random Access Memory，RAM)1003中的程序而执行各种适当的动作和处理，例如执行上述实施例中所述的方法。在RAM 1003中，还存储有系统操作所需的各种程序和数据。CPU 1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(Input/Output，I/O)接口1005也连接至总线1004。
以下部件连接至I/O接口1005：包括键盘、鼠标等的输入部分1006；包括诸如阴极射线管(Cathode Ray Tube，CRT)、液晶显示器(Liquid Crystal Display，LCD)等以及扬声器等的输出部分1007；包括硬盘等的存储部分1008；以及包括诸如LAN(Local AreaNetwork，局域网)卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1010上，以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
特别地，根据本申请的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本申请的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的计算机程序。在这样的实施例中，该计算机程序可以通过通信部分1009从网络上被下载和安装，和/或从可拆卸介质1011被安装。在该计算机程序被中央处理单元(CPU)1001执行时，执行本申请的系统中限定的各种功能。
需要说明的是，本申请实施例所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory，EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的计算机程序。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的计算机程序可以用任何适当的介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。其中，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现上述实施例中所述的方法。
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本申请实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的实施方式后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。
应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

Claims (10)

1.一种违规图片的识别方法，其特征在于，包括：
通过具有注意力机制的第一网络模型对待识别图像进行识别，得到所述待识别图像中的疑似敏感区域；
基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分；
在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片。
2.根据权利要求1所述的识别方法，其特征在于，基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分，包括：
将所述疑似敏感区域输入至所述第二网络模型中，以使所述第二网络模型输出所述疑似敏感区域的敏感分类和评分，其中，所述敏感分类包括正常内容和违规内容；
其中，在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片，包括：
若所述敏感分类为违规内容且所述评分大于或等于第一预定阈值，则确定所述待识别图像为违规图片。
3.根据权利要求1所述的识别方法，其特征在于，通过具有注意力机制的第一网络模型对待识别图像进行识别，得到所述待识别图像中的疑似敏感区域，包括：
获取所述待识别图像；
将所述待识别图像输入至所述第一网络模型中，以使所述第一网络模型输出所述待识别图像的疑似敏感区域以及所述疑似敏感区域为敏感内容的概率；
根据所述疑似敏感区域为敏感内容的概率和第二预定阈值，对所述待识别图像进行过滤。
4.根据权利要求3所述的识别方法，其特征在于，根据所述疑似敏感区域为敏感内容的概率和第二预定阈值，对所述待识别图像进行过滤，包括：
将所述疑似敏感区域为敏感内容的概率小于所述第二预定阈值的待识别图像进行过滤。
5.根据权利要求1所述的识别方法，其特征在于，还包括：
从广告图片库中获取待识别图像，其中，所述待识别图像具有与其广告相对应的标识信息；
在确定所述待识别图像为违规图片之后，所述识别方法还包括：
根据所述待识别图像的标识信息，确定所述待识别图像对应的广告；
根据所述待识别图像对应的广告，生成提示信息。
6.根据权利要求1所述的识别方法，其特征在于，还包括：
获取图像样本集合；
将所述图像样本集合中的图像样本作为所述第二网络模型的样本输入，以供所述第二网络模型进行学习，其中所述图像样本具有正常内容和违规内容的对应标识；
通过调节所述第二网络模型的参数，使得所述第二网络模型针对所述图像样本的输出与所述图像样本的对应标识一致。
7.根据权利要求6所述的识别方法，其特征在于，所述第二网络模型为Resnet分类网络模型，所述识别方法还包括：
由所述Resnet分类网络模型中提取卷积层中的数据；
对所述卷积层中的数据中的激活值取绝对值，并将取绝对值后的所述激活值绘制在所述图像样本中，得到预览图像；
显示所述预览图像。
8.根据权利要求1至权利要求7中任一项所述的识别方法，其特征在于，还包括：
根据被确定为违规图片的所述待识别图像生成区块；
将所述区块上传至区块链网络中进行存储。
9.根据权利要求8所述的识别方法，其特征在于，根据被确定为违规图片的所述待识别图像生成区块，包括：
根据被确定为违规图片的所述待识别图像、所述待识别图像的敏感分类和评分生成区块。
10.一种违规图片的识别装置，其特征在于，包括：
第一识别模块，用于通过具有注意力机制的第一网络模型对待识别图像进行识别，得到所述待识别图像中的疑似敏感区域；
第二识别模块，用于基于第二网络模型和所述疑似敏感区域，确定所述疑似敏感区域的敏感分类和评分；
处理模块，用于在所述敏感分类和所述评分满足预设条件时，确定所述待识别图像为违规图片。
CN201911323798.2A 2019-12-19 2019-12-19 违规图片的识别方法及装置 Pending CN111178410A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911323798.2A CN111178410A (zh) 2019-12-19 2019-12-19 违规图片的识别方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911323798.2A CN111178410A (zh) 2019-12-19 2019-12-19 违规图片的识别方法及装置

Publications (1)

Publication Number Publication Date
CN111178410A true CN111178410A (zh) 2020-05-19

Family

ID=70652083

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911323798.2A Pending CN111178410A (zh) 2019-12-19 2019-12-19 违规图片的识别方法及装置

Country Status (1)

Country Link
CN (1) CN111178410A (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111950647A (zh) * 2020-08-20 2020-11-17 连尚（新昌）网络科技有限公司 分类模型训练方法和设备
CN111967353A (zh) * 2020-07-31 2020-11-20 北京金山云网络技术有限公司 图片识别方法、装置、电子设备以及介质
CN112001282A (zh) * 2020-08-12 2020-11-27 腾讯音乐娱乐科技（深圳）有限公司 一种图像识别方法
CN112507912A (zh) * 2020-12-15 2021-03-16 网易（杭州）网络有限公司 一种识别违规图片的方法及装置
CN113191293A (zh) * 2021-05-11 2021-07-30 创新奇智(重庆)科技有限公司 广告检测方法、装置、电子设备、系统及可读存储介质
CN113379592A (zh) * 2021-06-23 2021-09-10 北京百度网讯科技有限公司 图片中敏感区域的处理方法、装置和电子设备
CN113901369A (zh) * 2021-10-09 2022-01-07 北京小川在线网络技术有限公司 违规图片的数据拦截方法及装置
CN114065826A (zh) * 2020-07-28 2022-02-18 紫东信息科技(苏州)有限公司 图像分类模型的构建方法、分类方法、装置及电子设备
CN114067431A (zh) * 2021-11-05 2022-02-18 创优数字科技(广东)有限公司 图像处理方法、装置、计算机设备和存储介质
WO2022100290A1 (zh) * 2020-11-13 2022-05-19 上海哔哩哔哩科技有限公司 搜索图像的方法及计算设备
WO2022134591A1 (zh) * 2020-12-23 2022-06-30 深圳壹账通智能科技有限公司 分阶段质检的数据分类方法、装置、设备及存储介质
TWI793585B (zh) * 2020-10-23 2023-02-21 南韓商韓領有限公司 用於基於影像過濾產品的系統與方法以及用於基於影像過濾物件的系統

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104834941A (zh) * 2015-05-19 2015-08-12 重庆大学 基于计算机输入下的稀疏自编码的脱机手写体识别方法
CN105654057A (zh) * 2015-12-31 2016-06-08 中国建设银行股份有限公司 基于图片内容的图片审核系统及图片审核方法
CN107341518A (zh) * 2017-07-07 2017-11-10 东华理工大学 一种基于卷积神经网络的图像分类方法
CN110555482A (zh) * 2019-09-06 2019-12-10 腾讯科技（深圳）有限公司 基于人工智能的低俗图片识别方法、装置及电子设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104834941A (zh) * 2015-05-19 2015-08-12 重庆大学 基于计算机输入下的稀疏自编码的脱机手写体识别方法
CN105654057A (zh) * 2015-12-31 2016-06-08 中国建设银行股份有限公司 基于图片内容的图片审核系统及图片审核方法
CN107341518A (zh) * 2017-07-07 2017-11-10 东华理工大学 一种基于卷积神经网络的图像分类方法
CN110555482A (zh) * 2019-09-06 2019-12-10 腾讯科技（深圳）有限公司 基于人工智能的低俗图片识别方法、装置及电子设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
COLDYAN: "cs231n---卷积网络可视化，deepdream和风格迁移", pages 1, Retrieved from the Internet <URL:https://www.cnblogs.com/coldyan/p/8403506.html> *

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114065826A (zh) * 2020-07-28 2022-02-18 紫东信息科技(苏州)有限公司 图像分类模型的构建方法、分类方法、装置及电子设备
CN111967353A (zh) * 2020-07-31 2020-11-20 北京金山云网络技术有限公司 图片识别方法、装置、电子设备以及介质
CN111967353B (zh) * 2020-07-31 2024-05-14 北京金山云网络技术有限公司 图片识别方法、装置、电子设备以及介质
CN112001282A (zh) * 2020-08-12 2020-11-27 腾讯音乐娱乐科技（深圳）有限公司 一种图像识别方法
CN111950647A (zh) * 2020-08-20 2020-11-17 连尚（新昌）网络科技有限公司 分类模型训练方法和设备
TWI793585B (zh) * 2020-10-23 2023-02-21 南韓商韓領有限公司 用於基於影像過濾產品的系統與方法以及用於基於影像過濾物件的系統
US12072926B2 (en) 2020-11-13 2024-08-27 Shanghai Bilibili Technology Co., Ltd. Image search method and computing device
WO2022100290A1 (zh) * 2020-11-13 2022-05-19 上海哔哩哔哩科技有限公司 搜索图像的方法及计算设备
CN112507912A (zh) * 2020-12-15 2021-03-16 网易（杭州）网络有限公司 一种识别违规图片的方法及装置
CN112507912B (zh) * 2020-12-15 2024-06-11 杭州网易智企科技有限公司 一种识别违规图片的方法及装置
WO2022134591A1 (zh) * 2020-12-23 2022-06-30 深圳壹账通智能科技有限公司 分阶段质检的数据分类方法、装置、设备及存储介质
CN113191293A (zh) * 2021-05-11 2021-07-30 创新奇智(重庆)科技有限公司 广告检测方法、装置、电子设备、系统及可读存储介质
CN113379592B (zh) * 2021-06-23 2023-09-01 北京百度网讯科技有限公司 图片中敏感区域的处理方法、装置和电子设备
CN113379592A (zh) * 2021-06-23 2021-09-10 北京百度网讯科技有限公司 图片中敏感区域的处理方法、装置和电子设备
CN113901369A (zh) * 2021-10-09 2022-01-07 北京小川在线网络技术有限公司 违规图片的数据拦截方法及装置
CN114067431A (zh) * 2021-11-05 2022-02-18 创优数字科技(广东)有限公司 图像处理方法、装置、计算机设备和存储介质

Similar Documents

Publication Publication Date Title
CN111178410A (zh) 违规图片的识别方法及装置
CN109460513B (zh) 用于生成点击率预测模型的方法和装置
US10748194B2 (en) Collaboration group recommendations derived from request-action correlations
CN110399550B (zh) 一种信息推荐方法及装置
US20180046475A1 (en) Detecting scripted or otherwise anomalous interactions with social media platform
US10373273B2 (en) Evaluating an impact of a user&#39;s content utilized in a social network
CN108520470B (zh) 用于生成用户属性信息的方法和装置
US20180068028A1 (en) Methods and systems for identifying same users across multiple social networks
CN111026653B (zh) 异常程序行为检测方法、装置、电子设备和存储介质
US9146943B1 (en) Determining user content classifications within an online community
US10423410B1 (en) Source code rules verification method and system
CN105894028B (zh) 用户识别方法和装置
US20230214679A1 (en) Extracting and classifying entities from digital content items
CN109214501B (zh) 用于识别信息的方法和装置
CN110211121B (zh) 用于推送模型的方法和装置
US11410568B2 (en) Dynamic evaluation of event participants using a smart context-based quiz system
CN109862037B (zh) 基于区块链的数据设备管理方法、装置、介质及电子设备
CN112966701A (zh) 目标分类的方法和装置
US20220245536A1 (en) Method and device for updating ai models, and storage medium
CN111814759A (zh) 人脸质量标签值的获取方法、装置、服务器及存储介质
CN111158654A (zh) 算法调用方法、装置、服务器及存储介质
Yang et al. Characteristics and prevalence of fake social media profiles with AI-generated faces
KR102243275B1 (ko) 오프라인 오브젝트에 관한 콘텐츠 자동 생성 방법, 장치 및 컴퓨터 판독가능 저장 매체
CN108520438B (zh) 行为类型确定方法及装置
CN112749327A (zh) 内容推送方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination