CN114821378B - 图像审核方法、装置、电子设备以及存储介质 - Google Patents
图像审核方法、装置、电子设备以及存储介质 Download PDFInfo
- Publication number
- CN114821378B CN114821378B CN202110092753.XA CN202110092753A CN114821378B CN 114821378 B CN114821378 B CN 114821378B CN 202110092753 A CN202110092753 A CN 202110092753A CN 114821378 B CN114821378 B CN 114821378B
- Authority
- CN
- China
- Prior art keywords
- image
- frame
- input image
- images
- auditing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000012552 review Methods 0.000 claims description 34
- 230000006870 function Effects 0.000 claims description 17
- HWWIYXKSCZCMFV-ZETCQYMHSA-N 2-[[(2s)-1-acetylpyrrolidine-2-carbonyl]-nitrosoamino]acetic acid Chemical compound CC(=O)N1CCC[C@H]1C(=O)N(CC(O)=O)N=O HWWIYXKSCZCMFV-ZETCQYMHSA-N 0.000 claims description 9
- 101150075622 UL80 gene Proteins 0.000 claims description 9
- 238000005516 engineering process Methods 0.000 claims description 9
- 238000012550 audit Methods 0.000 claims description 8
- 238000001914 filtration Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 13
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000004590 computer program Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000001514 detection method Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000001276 controlling effect Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 201000006352 oculocerebrorenal syndrome Diseases 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 235000010627 Phaseolus vulgaris Nutrition 0.000 description 1
- 244000046052 Phaseolus vulgaris Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234318—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into objects, e.g. MPEG-4 objects
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开公开了图像审核方法、装置、电子设备以及存储介质，涉及数据/图像处理领域，尤其涉及人工智能领域。该图像审核方法具体实现方案为：获取输入图像；确定输入图像的图像格式；在根据输入图像的图像格式确定输入图像为目标格式的动画图像的情况下，将输入图像拆分为多帧图像，其中，该目标格式的动画图像为支持图像帧隐藏功能的图像；以及对多帧图像中的一帧或多帧图像进行审核。
Description
技术领域
本公开涉及数据/图像处理技术领域，尤其涉及人工智能领域。
背景技术
随着图像处理技术的快速发展，图像可以承载的信息越来越多，对于传播的图像内容也应该得到相应的监管。然而，相关人员为了躲避监管，使用图像处理技术在文字内容上加特效来增加干扰，比如中文的各种艺术字体、浮雕、内阴影、栅格化等，需要人为手工去做调整。
随着OCR文字识别技术的发展，此类作弊手段已受到较好的打压。但是，目前的图像审核结果仍然无法达到较好的效果。
发明内容
本公开提供了一种图像审核方法、装置、电子设备、存储介质以及计算机程序产品。
根据本公开的一方面，提供了一种图像审核方法，包括：获取输入图像；确定输入图像的图像格式；在根据输入图像的图像格式确定输入图像为目标格式的动画图像的情况下，将输入图像拆分为多帧图像，其中，目标格式的动画图像为支持图像帧隐藏功能的图像；以及对多帧图像中的一帧或多帧图像进行审核。。
根据本公开的另一方面，提供了一种图像审核装置，包括：获取模块、确定模块、拆分模块和审核模块。
获取模块，用于获取输入图像。
确定模块，用于确定输入图像的图像格式。
拆分模块，用于在根据输入图像的图像格式确定输入图像为目标格式的动画图像的情况下，将输入图像拆分为多帧图像，其中，目标格式的动画图像为支持图像帧隐藏功能的图像。
审核模块，用于对多帧图像中的一帧或多帧图像进行审核。
根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述的方法。
根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如上所述的方法。
根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如上所述的方法。
通过本公开的技术方案，由于将目标格式的动画图像进行了拆分，得到了组成动画图像的多帧图像，使得可以对任意一帧或多帧图像进行审核，解决了由于图像隐藏而导致审核失误的问题，达到了提高图像审核准确性的技术效果。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1示意性示出了根据本公开实施例的可以应用图像审核方法及装置的示例性系统架构；
图2示意性示出了根据本公开实施例的图像审核方法的流程图；
图3示意性示出了根据本公开实施例的输入图像的结构示意图；
图4示意性示出了根据本公开另一实施例的输入图像的结构示意图；
图5示意性示出了根据本公开实施例的确定输入图像的图像格式的流程图；
图6示意性示出了根据本公开另一实施例的图像审核方法的流程图；
图7示意性示出了根据本公开实施例的图像审核装置的框图；以及
图8示意性示出了根据本公开实施例的适于实现图像审核方法的电子设备的框图。
实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
在实现本公开的过程中发现，有些图像能够被隐藏，而在审核图像时容易忽略被隐藏内容，导致图像审核出现问题。
图1示意性示出了根据本公开实施例的可以应用图像审核方法及装置的示例性系统架构。
需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。例如，在另一实施例中，可以应用图像审核方法及装置的示例性系统架构可以包括终端设备，但终端设备可以无需与服务器进行交互，即可实现本公开实施例提供的图像审核方法及装置。
如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如知识阅读类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等（仅为示例）。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的内容提供支持的后台管理服务器（仅为示例）。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果（例如根据用户请求获取或生成的网页、信息、或数据等）反馈给终端设备。
需要说明的是，本公开实施例所提供的图像审核方法一般可以由终端设备101、102、或103执行。相应地，本公开实施例所提供的图像审核装置也可以设置于终端设备101、102、或103中。
或者，本公开实施例所提供的图像审核方法一般也可以由服务器105执行。相应地，本公开实施例所提供的图像审核装置一般可以设置于服务器105中。本公开实施例所提供的图像审核方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的图像审核装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
例如，用户可以使用终端设备101、102、103上传图像，然后将图像发送给服务器105，由服务器105对图像进行分析，确定输入图像的图像格式，在根据输入图像的图像格式确定所述输入图像为目标格式的动画图像的情况下，将输入图像拆分为多帧图像，对多帧图像中的一帧或多帧图像进行审核。或者由能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群对目标内容进行分析，并最终实现摘抄用户感兴趣的内容。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的图像审核方法的流程图。
如图2所示，该方法包括操作S210~S240。
在操作S210，获取输入图像。
在操作S220，确定该输入图像的图像格式。
在操作S230，在根据输入图像的图像格式确定该输入图像为目标格式的动画图像的情况下，将该输入图像拆分为多帧图像，其中，该目标格式的动画图像为支持图像帧隐藏功能的图像。
在操作S240，对该多帧图像中的一帧或多帧图像进行审核。
根据本公开的实施例，输入图像可以是用户上传的图片，也可以是网络平台上已经存在的图片。根据本公开的实施例，输入图像的来源不做限定。
根据本公开的实施例，确定输入图像的图像格式的方式不做限定。例如，可以根据输入图像的后缀确定图像格式。
根据本公开的实施例，该目标格式的动画图像包括多帧图像。该动画图像可以是多帧图像的组合，每帧图像的形态可以是静态的，每帧图像的类型不做限定，例如可以是JPG、PNG、BMP。根据本公开的实施例，该目标格式的动画图像的功能类似动图，但在表现形式可以是静态图（例如PNG图）、也可以是动态图（例如GIF图）。
根据本公开的实施例，在检测该目标格式的动画图像时，如果检测装置不支持播放该目标格式的动画图像的功能，那么，该目标格式的动画图像的表现形态为展示该动画图像的部分图像，例如展示某一帧或多帧图像，并隐藏一帧或多帧图像。
如果利用该目标格式的动画图像进行作弊，例如，将该动画图像的第一帧图像进行隐藏，作弊人员利用这个功能点把第一帧配置成作弊图，在进行图像审核的时候就无法看到该作弊图，只能看到第一帧图像之后的正常图。这种绕过图像审核的方式隐蔽性较强，目前没有发现较好的处理方案。
为了解决上述技术问题，根据本公开的实施例，可以将该目标格式的动画图像拆分得到多帧图像。由于将该目标格式的动画图像进行了拆分，得到了组成动画图像的多帧图像，使得可以对任意一帧或多帧图像进行审核，避免了由于图像隐藏而导致审核失误的问题。
根据本公开的实施例，可以使用分帧工具对目标格式的动画图像进行拆分。
根据本公开的实施例，如果检测装置支持播放该目标格式的动画图像的功能，可以用抓取的方式逐帧抓取图像，如果抓取到违规图，那么就返回该内容作弊。
根据本公开的实施例，审核的结果包括通过审核或者不通过审核。
通过本公开的实施例，在根据输入图像的图像格式确定该输入图像为支持图像帧隐藏功能的图像的情况下，将该输入图像拆分为多帧图像，可以对拆分得到的多帧图像中的目标帧图像进行审核。由于将该目标格式的动画图像进行了拆分，得到了组成动画图像的多帧图像，使得可以对任意一帧或多帧图像进行审核，解决了由于图像隐藏而导致审核失误的问题，达到了提高图像审核准确性的技术效果。
根据本公开的实施例，上述目标格式例如可以包括APNG格式。APNG的表现形态是一帧PNG静态图，但实际上是类似于GIF的动态图。APNG的一个核心功能是隐藏第一帧，在图像审核的环节，看到的就是第二帧的正常图。即用户看到的是A面图（作弊图），图像审核的是B面图（正常图）。这种攻击方式能成功绕过审核，在内容平台留存率很高，达95%以上，而现有的检测方法根本检测不出来。此技术如果被不正当使用，将引发严重后果。
通过本公开的实施例，将APNG格式的图像拆分为多帧图像，可以对拆分得到的多帧图像中的目标帧图像进行审核，可以较好的解决图像隐藏的问题。
需要说明的是，APNG格式仅是示例性实施例，但不限于此，还可以包括其他类型的格式，其他格式的图像文件也可以用类似APNG的文件组成方式，只要能够实现图像隐藏即可。通过本公开的实施例，可以使用上述图像审核方法来处理其他格式的图像文件，以判断是否违规。
下面参考图3~图6，结合具体实施例对图2所示的方法做进一步说明。
图3示意性示出了根据本公开实施例的输入图像的结构示意图。
根据本公开的实施例，在输入图像为目标格式的动画图像的情况下，输入图像包括一个或多个帧控制块和图像数据块（也可以称之为帧数据块），图像数据块中包括图像数据。
如图3所示，该输入图像包括三帧图像和三个帧控制块，根据本公开的实施例，每个帧控制块用于控制至少一帧图像（即图像数据块），例如，第一个帧控制块用于控制第一个图像帧301，第二个帧控制块用于控制第二个图像帧302，第三个帧控制块用于控制第三个图像帧303。
根据本公开的实施例，将输入图像拆分为多帧图像包括：以每个帧控制块为间隔位，将输入图像拆分为多帧图像。
根据本公开的实施例，输入图像还可以包括图像结束块，用于表征图像数据的结束。
根据本公开的实施例，在利用第一个帧控制块控制的第一图像来实现图像隐藏的情况下，可以通过帧控制块查找需要审核的帧图像，对第一图像进行审核。
具体地，对多帧图像中的一帧或多帧图像进行审核包括：确定输入图像中由第一个帧控制块控制的第一图像，以及对第一图像进行审核，以实现对输入图像的审核。
根据本公开的实施例，第一图像可以包括一帧图像，或者也可以包括多帧图像。
根据本公开的实施例，通过帧控制块可以确定第一图像，并对第一图像进行审核，可以实现仅对隐藏的第一图像进行审核，而无需对其他图像再次进行审核，可以提高图像审核效率。
根据本公开的实施例，帧控制块中可以包括被帧控制块控制的图像的帧序号和帧位置。
根据本公开的实施例，帧序号表征被帧控制块控制的图像的图像序号，帧位置表征被帧控制块控制的图像在输入图像中的位置。
根据本公开的实施例，帧控制块中还可以包括其他信息，例如，包括但不限于被帧控制块控制的图像的尺寸信息，与下一帧图像间隔的延时信息。
图4示意性示出了根据本公开另一实施例的输入图像的结构示意图。
根据本公开的实施例，在输入图像为目标格式的动画图像的情况下，如图4所示，输入图像可以包括图像签名、图像头部块、动画控制块、多个帧控制块、多个图像数据块和图像结束块。
该输入图像包括按照顺序排列的图像签名、图像头部块、动画控制块、帧控制块、图像数据块和图像结束块。输入图像中的第一个帧控制块用于控制第一个图像帧401，第二个帧控制块用于控制第二个图像帧402，第三个帧控制块用于控制第三个图像帧403。
根据本公开的实施例，图像签名可以包括输入图像的签名，图像头部块可以包括输入图像的头部信息。
根据本公开的实施例，动画控制块可以设置在第一个帧控制块之前，用于在输入图像被解析时通知解析器这是一个动画图像。根据本公开的实施例，动画控制块可以包括动画帧总数和循环次数的信息等等。
根据本公开的实施例，该输入图像中的第一帧图像可以用于隐藏图像。如果利用该输入图像进行作弊，例如，作弊人员利用这个功能点把第一帧配置成作弊图，利用本公开的实施例可以对该隐藏的图像进行识别。
图5示意性示出了根据本公开实施例的确定输入图像的图像格式的流程图。
如图5所示，该确定输入图像的图像格式包括操作S510~S520。
在操作S510，确定输入图像的数据流中预设位置的字节内容。
在操作S520，根据预设位置的字节内容确定输入图像的图像格式。
根据本公开的实施例，可以讲输入图像转换为二进制数据流，利用二进制数据流中预设位置的字节内容确定输入图像的图像格式。
根据本公开的实施例，例如，可以将图像二进制流的前两个字节位置作为预设位置，或者，将图像二进制流的前四个字节位置作为预设位置等，从而通过图像二进制流的前两个或四个字节位置的字节内容来判断图像格式。例如前两个或四个字节位置的字节内容为255216对应JPG格式；13780对应PNG格式；6677对应BMP格式；5666对应PSD格式等。
例如，以PNG格式的为例，PNG图像前2个字节信息为“89 50”，转为16进制后，第一个字节内容8*16+9=137，5*16+0=80，字符串拼接的方式后为13780。
根据本公开的实施例，对拆分得到的多帧图像中的一帧或多帧图像进行审核包括：利用图像识别技术对多帧图像中的一帧或多帧图像进行识别，得到识别结果，根据识别结果对多帧图像中的一帧或多帧图像进行审核，以实现对输入图像的审核。
根据本公开的实施例，可以对多帧图像中的一帧图像进行识别，也可以是对多帧图像中的部分图像或所有图像进行识别。
根据本公开的实施例，图像识别技术包括但不限于神经网络模型识别技术，OCR图像识别技术等等。在对图像进行识别时，包括但不限于对文字识别，也可以是非文字类信息的识别。
由于相关技术中的作弊图片存活率高、隐蔽性强、制作简单、对操作人员技术要求门槛很低，还能批量大规模制作。通过本公开的实施例，可以实现该该类作弊图片的识别，并且对正常图片不会影响。
图6示意性示出了根据本公开另一实施例的图像审核的流程图。
如图6所示，该方法包括操作S610~S660。
在操作S610，获取被输入到内容平台上的输入图像，触发系统检测。例如，获取被用户上传到内容平台的图片，内容平台包括但不限于如贴吧、微博、微信、知乎、简书、豆瓣等等。
在操作S620，在过滤掉不合规的输入图像后，继续检测。
在操作S630，对剩下的输入图像进行格式判断，并分析其有几个帧控制块，其中，帧控制块的数量表征图像帧数量。
在操作S640，拆分输入图像。以帧控制块为间隔位，将输入图像中的多帧图像拆分开。
在操作S650，进入审核环节。通过OCR识别系统来提取第一帧图像中的文字内容，然后通过敏感词过滤和作弊文本算法检测来判断是否有违规内容。
在操作S660，返回是否违规的审核结果。
通过本公开的实施例，可以对拆分得到的多帧图像中的图像进行审核，可以较好的解决图像隐藏的问题，防止绕过审核。
图7示意性示出了根据本公开实施例的图像审核装置的框图。
如图7所示，图像审核装置700包括：获取模块710、确定模块720、拆分模块730和审核模块740。
获取模块710，用于获取输入图像。
确定模块720，用于确定上述输入图像的图像格式。
拆分模块730，用于在根据上述输入图像的图像格式确定上述输入图像为目标格式的动画图像的情况下，将上述输入图像拆分为多帧图像，其中，上述目标格式的动画图像为支持图像帧隐藏功能的图像。
审核模块740，用于对上述多帧图像中的一帧或多帧图像进行审核。
通过本公开的实施例，在根据输入图像的图像格式确定该输入图像为支持图像帧隐藏功能的图像的情况下，将该输入图像拆分为多帧图像，可以对拆分得到的多帧图像中的目标帧图像进行审核。由于将该目标格式的动画图像进行了拆分，得到了组成动画图像的多帧图像，使得可以对任意一帧或多帧图像进行审核，解决了由于图像隐藏而导致审核失误的问题，达到了提高图像审核准确性的技术效果。
根据本公开的实施例，上述输入图像包括一个或多个帧控制块，每个上述帧控制块用于控制至少一帧图像。上述拆分模块包括：拆分单元，用于以每个上述帧控制块为间隔位，将上述输入图像拆分为多帧图像。
根据本公开的实施例，上述审核模块740包括：第一确定单元和审核单元。
第一确定单元，用于确定上述输入图像中由第一个帧控制块控制的第一图像。
审核单元，用于对上述第一图像进行审核，以实现对上述输入图像的审核。
根据本公开的实施例，上述帧控制块中包括被上述帧控制块控制的图像的帧序号和帧位置，其中，上述帧位置表征上述图像在上述输入图像中的位置。
根据本公开的实施例，上述确定模块720包括：第二确定单元和第三确定单元。
第二确定单元，用于确定上述输入图像的数据流中预设位置的字节内容。
第三确定单元，用于根据上述预设位置的字节内容确定上述输入图像的图像格式。
根据本公开的实施例，上述获取模块710包括：获取单元，用于获取被输入到内容平台上的输入图像。
根据本公开的实施例，上述目标格式包括APNG格式。
根据本公开的实施例，上述审核模块740包括：识别单元和审核单元。
识别单元，用于利用图像识别技术对上述多帧图像中的一帧或多帧图像进行识别，得到识别结果。
审核单元，用于根据上述识别结果对上述多帧图像中的一帧或多帧图像进行审核，以实现对上述输入图像的审核。
根据本公开的实施例，上述图像审核装置与上述图像审核方法是相对应的，该图像审核装置能够用于实现该图像审核方法，对图像审核方法的描述可以适用于图像审核装置，在此不再赘述。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例，一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如上所述的方法。
根据本公开的实施例，一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行如上所述的方法。
根据本公开的实施例，一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如上所述的方法。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器（ROM）802中的计算机程序或者从存储单元808加载到随机访问存储器（RAM）803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出（I/O）接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元（CPU）、图形处理单元（GPU）、各种专用的人工智能（AI）计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器（DSP）、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如图像审核方法。例如，在一些实施例中，图像审核方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的图像审核方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式（例如，借助于固件）而被配置为执行图像审核方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列（FPGA）、专用集成电路（ASIC）、专用标准产品（ASSP）、芯片上系统的系统（SOC）、负载可编程逻辑设备（CPLD）、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦除可编程只读存储器（EPROM或快闪存储器）、光纤、便捷式紧凑盘只读存储器（CD-ROM）、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置（例如，CRT（阴极射线管）或者LCD（液晶显示器）监视器）；以及键盘和指向装置（例如，鼠标或者轨迹球），用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈（例如，视觉反馈、听觉反馈、或者触觉反馈）；并且可以用任何形式（包括声输入、语音输入或者、触觉输入）来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统（例如，作为数据服务器）、或者包括中间件部件的计算系统（例如，应用服务器）、或者包括前端部件的计算系统（例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互）、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信（例如，通信网络）来将系统的部件相互连接。通信网络的示例包括：局域网（LAN）、广域网（WAN）和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
通过本公开的实施例，在根据输入图像的图像格式确定该输入图像为支持图像帧隐藏功能的图像的情况下，将该输入图像拆分为多帧图像，可以对拆分得到的多帧图像中的目标帧图像进行审核。由于将该目标格式的动画图像进行了拆分，得到了组成动画图像的多帧图像，使得可以对任意一帧或多帧图像进行审核，解决了由于图像隐藏而导致审核失误的问题，达到了提高图像审核准确性的技术效果。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
Claims (14)
1.一种图像审核方法，包括：
获取被输入到内容平台上的输入图像；
在过滤掉不合规的输入图像后，继续检测，确定剩下的所述输入图像的图像格式；
在根据所述输入图像的图像格式确定所述输入图像为目标格式的动画图像的情况下，将所述输入图像拆分为多帧图像，其中，所述目标格式的动画图像为支持图像帧隐藏功能的图像，所述输入图像包括一个或多个帧控制块，每个所述帧控制块用于控制至少一帧图像；以及
对所述多帧图像中的一帧或多帧图像进行审核；
其中，所述对所述多帧图像中的一帧或多帧图像进行审核包括：
在利用第一个帧控制块控制的第一图像来实现图像隐藏的情况下，确定所述输入图像中由所述第一个帧控制块控制的第一图像；以及
对所述第一图像进行审核，以实现对所述输入图像的审核。
2.根据权利要求1所述的方法，其中，所述将所述输入图像拆分为多帧图像包括：
以每个所述帧控制块为间隔位，将所述输入图像拆分为多帧图像。
3.根据权利要求1所述的方法，其中，所述帧控制块中包括被所述帧控制块控制的图像的帧序号和帧位置，其中，所述帧位置表征所述图像在所述输入图像中的位置。
4. 根据权利要求1所述的方法，其中，所述确定所述输入图像的图像格式包括：
确定所述输入图像的数据流中预设位置的字节内容；以及
根据所述预设位置的字节内容确定所述输入图像的图像格式。
5.根据权利要求1所述的方法，其中，所述目标格式包括APNG格式。
6. 根据权利要求1所述的方法，其中，所述对所述多帧图像中的一帧或多帧图像进行审核包括：
利用图像识别技术对所述多帧图像中的一帧或多帧图像进行识别，得到识别结果；以及
根据所述识别结果对所述多帧图像中的一帧或多帧图像进行审核，以实现对所述输入图像的审核。
7.一种图像审核装置，包括：
获取模块，用于获取被输入到内容平台上的输入图像；
确定模块，用于在过滤掉不合规的输入图像后，继续检测，确定剩下的所述输入图像的图像格式；
拆分模块，用于在根据所述输入图像的图像格式确定所述输入图像为目标格式的动画图像的情况下，将所述输入图像拆分为多帧图像，其中，所述目标格式的动画图像为支持图像帧隐藏功能的图像，所述输入图像包括一个或多个帧控制块，每个所述帧控制块用于控制至少一帧图像；以及
审核模块，用于对所述多帧图像中的一帧或多帧图像进行审核；
其中，所述审核模块包括：
第一确定单元，用于在利用第一个帧控制块控制的第一图像来实现图像隐藏的情况下，确定所述输入图像中由所述第一个帧控制块控制的第一图像；以及
审核单元，用于对所述第一图像进行审核，以实现对所述输入图像的审核。
8.根据权利要求7所述的装置，其中，所述拆分模块包括：
拆分单元，用于以每个所述帧控制块为间隔位，将所述输入图像拆分为多帧图像。
9.根据权利要求7所述的装置，其中，所述帧控制块中包括被所述帧控制块控制的图像的帧序号和帧位置，其中，所述帧位置表征所述图像在所述输入图像中的位置。
10. 根据权利要求7所述的装置，其中，所述确定模块包括：
第二确定单元，用于确定所述输入图像的数据流中预设位置的字节内容；以及
第三确定单元，用于根据所述预设位置的字节内容确定所述输入图像的图像格式。
11.根据权利要求7所述的装置，其中，所述目标格式包括APNG格式。
12. 根据权利要求7所述的装置，其中，所述审核模块包括：
识别单元，用于利用图像识别技术对所述多帧图像中的一帧或多帧图像进行识别，得到识别结果；以及
审核单元，用于根据所述识别结果对所述多帧图像中的一帧或多帧图像进行审核，以实现对所述输入图像的审核。
13. 一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110092753.XA CN114821378B (zh) | 2021-01-22 | 2021-01-22 | 图像审核方法、装置、电子设备以及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110092753.XA CN114821378B (zh) | 2021-01-22 | 2021-01-22 | 图像审核方法、装置、电子设备以及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114821378A CN114821378A (zh) | 2022-07-29 |
| CN114821378B true CN114821378B (zh) | 2024-02-23 |
Family
ID=82523937
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110092753.XA Active CN114821378B (zh) | 2021-01-22 | 2021-01-22 | 图像审核方法、装置、电子设备以及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114821378B (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106447366A (zh) * | 2015-08-07 | 2017-02-22 | 百度在线网络技术（北京）有限公司 | 多媒体广告的审核方法、广告审核模型的训练方法及装置 |
| CN110191356A (zh) * | 2019-06-06 | 2019-08-30 | 北京字节跳动网络技术有限公司 | 视频审核方法、装置和电子设备 |
| CN110796098A (zh) * | 2019-10-31 | 2020-02-14 | 广州市网星信息技术有限公司 | 内容审核模型的训练及审核方法、装置、设备和存储介质 |
| CN111225234A (zh) * | 2019-12-23 | 2020-06-02 | 广州市百果园信息技术有限公司 | 视频审核方法、视频审核装置、设备和存储介质 |
| CN111866605A (zh) * | 2020-07-09 | 2020-10-30 | 北京齐尔布莱特科技有限公司 | 一种视频审核方法和服务器 |
| CN111967493A (zh) * | 2020-06-29 | 2020-11-20 | 北京百度网讯科技有限公司 | 图像审核方法、装置、电子设备和存储介质 |
| CN111986259A (zh) * | 2020-08-25 | 2020-11-24 | 广州市百果园信息技术有限公司 | 颜文字检测模型的训练、视频数据的审核方法及相关装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20090207316A1 (en) * | 2008-02-19 | 2009-08-20 | Sorenson Media, Inc. | Methods for summarizing and auditing the content of digital video |
-
2021
- 2021-01-22 CN CN202110092753.XA patent/CN114821378B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106447366A (zh) * | 2015-08-07 | 2017-02-22 | 百度在线网络技术（北京）有限公司 | 多媒体广告的审核方法、广告审核模型的训练方法及装置 |
| CN110191356A (zh) * | 2019-06-06 | 2019-08-30 | 北京字节跳动网络技术有限公司 | 视频审核方法、装置和电子设备 |
| CN110796098A (zh) * | 2019-10-31 | 2020-02-14 | 广州市网星信息技术有限公司 | 内容审核模型的训练及审核方法、装置、设备和存储介质 |
| CN111225234A (zh) * | 2019-12-23 | 2020-06-02 | 广州市百果园信息技术有限公司 | 视频审核方法、视频审核装置、设备和存储介质 |
| CN111967493A (zh) * | 2020-06-29 | 2020-11-20 | 北京百度网讯科技有限公司 | 图像审核方法、装置、电子设备和存储介质 |
| CN111866605A (zh) * | 2020-07-09 | 2020-10-30 | 北京齐尔布莱特科技有限公司 | 一种视频审核方法和服务器 |
| CN111986259A (zh) * | 2020-08-25 | 2020-11-24 | 广州市百果园信息技术有限公司 | 颜文字检测模型的训练、视频数据的审核方法及相关装置 |
Non-Patent Citations (2)
| Title |
|---|
| APNG 那些事;JELLY;https://jelly.jd.com/article/6006b1045b6c6a01506c87be;第1-2页 * |
| APNG历史、特性简介以及APNG制作演示;张鑫旭;https://www.zhangxinxu.com/wordpress/2014/09/apng-history-character-maker-editor;第二部分 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114821378A (zh) | 2022-07-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113140017B (zh) | 训练对抗网络模型的方法、建立字库的方法、装置和设备 | |
| CN112559800B (zh) | 用于处理视频的方法、装置、电子设备、介质和产品 | |
| CN113657395B (zh) | 文本识别方法、视觉特征提取模型的训练方法及装置 | |
| CN112800919A (zh) | 一种检测目标类型视频方法、装置、设备以及存储介质 | |
| CN113902899A (zh) | 训练方法、目标检测方法、装置、电子设备以及存储介质 | |
| CN112508432A (zh) | 广告潜在风险检测方法及装置、电子设备、介质和产品 | |
| CN114821378B (zh) | 图像审核方法、装置、电子设备以及存储介质 | |
| CN115665285A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
| CN113010721B (zh) | 一种图片审核方法、装置、电子设备及存储介质 | |
| CN113111200B (zh) | 审核图片文件的方法、装置、电子设备和存储介质 | |
| CN114239562A (zh) | 文档中程序代码块的识别方法、装置和设备 | |
| CN114187435A (zh) | 文本识别方法、装置、设备以及存储介质 | |
| CN113221035A (zh) | 用于确定异常网页的方法、装置、设备、介质和程序产品 | |
| CN114078274A (zh) | 人脸图像检测方法、装置、电子设备以及存储介质 | |
| CN114120304A (zh) | 实体识别方法、装置及计算机程序产品 | |
| CN113536031A (zh) | 视频搜索的方法、装置、电子设备及存储介质 | |
| CN113642472A (zh) | 判别器模型的训练方法和动作识别方法 | |
| CN114363627B (zh) | 图像处理方法、装置及电子设备 | |
| CN113641885A (zh) | 文档检测方法、装置、设备和存储介质 | |
| CN113361249B (zh) | 文档判重方法、装置、电子设备和存储介质 | |
| CN115333858B (zh) | 登录页面破解方法、装置、设备以及存储介质 | |
| CN112949450B (zh) | 票据处理方法、装置、电子设备和存储介质 | |
| CN113362318B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
| CN116257655A (zh) | 视频聚合方法及装置、电子设备和介质 | |
| CN113536163A (zh) | 用于图片链接的处理方法、装置、设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |