CN110555482A - 基于人工智能的低俗图片识别方法、装置及电子设备 - Google Patents
基于人工智能的低俗图片识别方法、装置及电子设备 Download PDFInfo
- Publication number
- CN110555482A CN110555482A CN201910843649.2A CN201910843649A CN110555482A CN 110555482 A CN110555482 A CN 110555482A CN 201910843649 A CN201910843649 A CN 201910843649A CN 110555482 A CN110555482 A CN 110555482A
- Authority
- CN
- China
- Prior art keywords
- picture
- human body
- vulgar
- label
- sensitive part
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 42
- 238000013145 classification model Methods 0.000 claims abstract description 75
- 210000000746 body region Anatomy 0.000 claims abstract description 27
- 238000011176 pooling Methods 0.000 claims description 40
- 238000012545 processing Methods 0.000 claims description 29
- 230000015654 memory Effects 0.000 claims description 23
- 238000012549 training Methods 0.000 claims description 16
- 238000010606 normalization Methods 0.000 claims description 10
- 230000000694 effects Effects 0.000 abstract description 21
- 238000010586 diagram Methods 0.000 description 22
- 210000000038 chest Anatomy 0.000 description 14
- 230000007246 mechanism Effects 0.000 description 12
- 230000008569 process Effects 0.000 description 10
- 238000012795 verification Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000007726 management method Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 235000013601 eggs Nutrition 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000002372 labelling Methods 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 238000012552 review Methods 0.000 description 3
- 238000013475 authorization Methods 0.000 description 2
- 210000000481 breast Anatomy 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000013524 data verification Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000013515 script Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
- G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/26—Government or public services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Marketing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- Development Economics (AREA)
- Computer Security & Cryptography (AREA)
- Economics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Tourism & Hospitality (AREA)
- Molecular Biology (AREA)
- Technology Law (AREA)
- Educational Administration (AREA)
- Human Resources & Organizations (AREA)
- Bioethics (AREA)
- Computer Hardware Design (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Primary Health Care (AREA)
- Evolutionary Biology (AREA)
- Multimedia (AREA)
Abstract
本发明提供了一种基于人工智能的低俗图片识别方法、装置、电子设备及存储介质;基于人工智能的低俗图片识别方法包括:获取待识别图片;确定所述待识别图片中的人体区域,并根据所述人体区域对所述待识别图片进行裁剪处理,得到人体图片;通过人体低俗分类模型对所述人体图片进行分类处理,得到人体标签;确定所述人体图片中的敏感部位区域,根据所述敏感部位区域对所述人体图片进行裁剪处理,得到敏感部位图片;通过敏感部位分类模型对所述敏感部位图片进行分类处理,得到部位标签;根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果。通过本发明,能够在整体和局部两个维度进行低俗识别,提升了对不同种类的图片的识别效果。
Description
技术领域
本发明涉及人工智能和区块链技术,尤其涉及一种基于人工智能的低俗图片识别方法、装置、电子设备及存储介质。
背景技术
人工智能(AI,Artificial Intelligence)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法和技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。
低俗图片识别是人工智能的一个重要应用方向,在相关技术提供的方案中,通常是依靠海量的标注数据构建端到端(end2end)模型,即对待识别图片的所有处理均由一个端到端模型完成,输出为低俗或不低俗的结果。但是,训练端到端模型时需要耗费极高的人工标注成本,且训练出的端到端模型的粒度粗,针对不同种类的待识别图片进行识别的效果差。
发明内容
本发明实施例提供一种基于人工智能的低俗图片识别方法、装置、电子设备及存储介质,能够降低标注成本,提升对不同种类的待识别图片的识别效果。
本发明实施例的技术方案是这样实现的:
本发明实施例提供一种基于人工智能的低俗图片识别方法,包括:
获取待识别图片;
确定所述待识别图片中的人体区域,并根据所述人体区域对所述待识别图片进行裁剪处理,得到人体图片;
通过人体低俗分类模型对所述人体图片进行分类处理,得到人体标签;
确定所述人体图片中的敏感部位区域,根据所述敏感部位区域对所述人体图片进行裁剪处理,得到敏感部位图片;
通过敏感部位分类模型对所述敏感部位图片进行分类处理,得到部位标签;
根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果。
本发明实施例提供一种基于人工智能的低俗图片识别装置,包括:
获取模块,用于获取待识别图片;
第一裁剪模块,用于确定所述待识别图片中的人体区域,并根据所述人体区域对所述待识别图片进行裁剪处理,得到人体图片;
人体分类模块,用于通过人体低俗分类模型对所述人体图片进行分类处理,得到人体标签;
第二裁剪模块,用于确定所述人体图片中的敏感部位区域,根据所述敏感部位区域对所述人体图片进行裁剪处理,得到敏感部位图片;
部位分类模块,用于通过敏感部位分类模型对所述敏感部位图片进行分类处理,得到部位标签;
结果确定模块,用于根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果。
本发明实施例提供一种电子设备,包括:
存储器,用于存储可执行指令;
处理器,用于执行所述存储器中存储的可执行指令时,实现本发明实施例提供的基于人工智能的低俗图片识别方法。
本发明实施例提供一种存储介质,存储有可执行指令,用于引起处理器执行时,实现本发明实施例提供的基于人工智能的低俗图片识别方法。
本发明实施例具有以下有益效果:
本发明实施例确定待识别图片中的人体区域,裁剪出人体图片,在整体上进行人体低俗分类得到人体标签,在局部上进行敏感部位分类得到部位标签,根据人体标签和部位标签确定低俗识别结果,本发明实施例通过建立分治机制,减少了标注成本,并且细化了识别粒度,针对整体情况和局部情况一一进行识别,提升了对不同种类的待识别图片的识别效果。
附图说明
图1是本发明实施例提供的低俗图片的一个示意图;
图2是本发明实施例提供的低俗图片的另一个示意图;
图3是本发明实施例提供的低俗图片识别系统的一个可选的结构示意图;
图4是本发明实施例提供的区块链的一个可选的结构示意图;
图5是本发明实施例提供的区块链网络的一个可选的功能结构示意图;
图6是本发明实施例提供的电子设备的一个可选的结构示意图;
图7是本发明实施例提供的基于人工智能的低俗图片识别装置的一个可选的结构示意图;
图8A是本发明实施例提供的基于人工智能的低俗图片识别方法的一个可选的流程示意图;
图8B是本发明实施例提供的基于人工智能的低俗图片识别方法的另一个可选的流程示意图;
图8C是本发明实施例提供的裁剪敏感部位图片及确定部位标签的一个可选的流程示意图;
图9是本发明实施例提供的标签体系的一个可选的示意图;
图10是本发明实施例提供的基于人工智能的低俗图片识别方法的一个可选的结构示意图;
图11是本发明实施例提供的待识别图片的一个可选的示意图;
图12是本发明实施例提供的待识别图片的另一个可选的示意图;
图13是本发明实施例提供的待识别图片的另一个可选的示意图;
图14是本发明实施例提供的待识别图片的另一个可选的示意图;
图15是本发明实施例提供的待识别图片的另一个可选的示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,所描述的实施例不应视为对本发明的限制,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
在以下的描述中,涉及到“一些实施例”,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
在以下的描述中,所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本发明实施例能够以除了在这里图示或描述的以外的顺序实施。
除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本发明实施例的目的,不是旨在限制本发明。
对本发明实施例进行进一步详细说明之前,对本发明实施例中涉及的名词和术语进行说明,本发明实施例中涉及的名词和术语适用于如下的解释。
1)标签,在本文中指利用模型进行分类处理后得到的结果,用于指示图片的类型,可根据实际应用场景定义标签的具体内容,标签如{人体低俗}及{胸部低俗}等。
2)两阶段(two-stage)模型,用于图片识别时,two-stage模型在第一个阶段对图片进行区域定位,在第二个阶段中对定位的区域进行分类处理,得到相应识别结果,two-stage模型如基于卷积神经网络特征的区域(Regions with ConvolutionalNeuralNetwork features,R-CNN)模型等。在本文中,将two-stage模型的两个阶段拆分,根据不同种类的样本对第一个阶段的模型进行训练,从而得到用于定位不同区域的注意力模型,如后文的人体注意力模型及敏感部位注意力模型;根据不同种类的样本对第二个阶段的模型进行训练,从而得到用于对不同种类的图片进行分类处理的分类模型,如后文的人体低俗分类模型及敏感部位分类模型。
3)交易(Transaction),等同于计算机术语“事务”,交易包括了需要提交到区块链网络执行的操作,并非单指商业语境中的交易,鉴于在区块链技术中约定俗成地使用了“交易”这一术语,本发明实施例遵循了这一习惯。
4)区块链(Blockchain),是由区块(Block)形成的加密的、链式的交易的存储结构。
5)区块链网络(Blockchain Network),通过共识的方式将新区块纳入区块链的一系列的节点的集合。
6)账本(Ledger),是区块链(也称为账本数据)和与区块链同步的状态数据库的统称。
7)智能合约(Smart Contracts),也称为链码(Chaincode)或应用代码,部署在区块链网络的节点中的程序,节点执行接收的交易中所调用的智能合约,来对状态数据库的键值对数据进行更新或查询的操作。
8)共识(Consensus),是区块链网络中的一个过程,用于在涉及的多个节点之间对区块中的交易达成一致,达成一致的区块将被追加到区块链的尾部,实现共识的机制包括工作量证明(PoW,Proof of Work)、权益证明(PoS,Proof of Stake)、股份授权证明(DPoS,Delegated Proof-of-Stake)、消逝时间量证明(PoET,Proof of Elapsed Time)等。
发明人在实施本发明的过程中发现,在相关技术提供的方案中,为了进行低俗图片识别,通过都需要大量的样本来训练端到端模型,如GoogLeNet模型,通常来说,在拥有千万级的高质量样本的基础上,才能具有较好的识别结果,训练的标注成本过高。第二方面,对于识别过程中产生的错误识别案例,对模型的优化手段有限,且效果不可预期,例如售卖鸡蛋的电商广告图片,由于鸡蛋的形状接近人的胸部,并且鸡蛋是偏黄色的,故通过端到端模型,容易将该图片判为低俗,在此基础上,很难针对该案例优化模型对鸡蛋图片的识别效果。第三方面,端到端模型通常依赖于整体低俗的图片进行建模,对于局部低俗的图片的识别效果较差,如图1所示,低俗图片10和低俗图片12均属于整体低俗情况,并无明显暴露部位,但是姿势撩人,通过端到端模型,容易将其识别为低俗图片;但是在图2中,低俗图片20和低俗图片22均属于局部低俗情况,低俗图片20暴露了胸部,低俗图片22暴露了背部,但低俗图片20和低俗图片22在整体上较为正常,通过端到端模型对低俗图片20和低俗图片22进行整体识别后,通常会得到错误的识别结果,即识别为正常图片。综上,在相关技术提供的方案中,标注成本过高,无法通过具体的错误案例优化模型,且针对不同种类的待识别图片的识别效果差。
本发明实施例提供一种基于人工智能的低俗图片识别方法、装置、电子设备及存储介质,能够降低标注成本,提升针对不同种类的待识别图片的识别效果,且能根据实际识别情况针对性优化对某一类待识别图片的识别效果。下面说明本发明实施例提供的电子设备的示例性应用。
参见图3,图3是本发明实施例提供的低俗图片识别系统100的架构示意图,包括区块链网络200(示例性示出了共识节点210-1至共识节点210-3)、认证中心300、业务主体400和业务主体500,下面分别进行说明。
区块链网络200的类型是灵活多样的,例如可以为公有链、私有链或联盟链中的任意一种。以公有链为例,任何业务主体的电子设备例如用户终端和服务器,都可以在不需要授权的情况下接入区块链网络200;以联盟链为例,业务主体在获得授权后其下辖的电子设备(例如终端/服务器)可以接入区块链网络200,此时,成为区块链网络200中的客户端节点。
在一些实施例中,客户端节点可以只作为区块链网络200的观察者,即提供支持业务主体发起交易(例如,用于上链存储数据或查询链上数据)功能,对于区块链网络200的共识节点210的功能,例如排序功能、共识服务和账本功能等,客户端节点可以缺省或者有选择性(例如,取决于业务主体的具体业务需求)地实施。从而,可以将业务主体的数据和业务处理逻辑最大程度迁移到区块链网络200中,通过区块链网络200实现数据和业务处理过程的可信和可追溯。
区块链网络200中的共识节点接收来自不同业务主体(例如图1中示出的业务主体400和业务主体500)的客户端节点(例如,图1中示出的归属于业务主体400的客户端节点410、以及归属于物流公司系统500的客户端节点510)提交的交易,执行交易以更新账本或者查询账本,执行交易的各种中间结果或最终结果可以返回业务主体的客户端节点中显示。
例如,客户端节点410/510可以订阅区块链网络200中感兴趣的事件,例如区块链网络200中特定的组织/通道中发生的交易,由共识节点210推送相应的交易通知到客户端节点410/510,从而触发客户端节点410/510中相应的业务逻辑。
下面以多个业务主体接入区块链网络以实现低俗图片及识别结果的管理为例,说明区块链网络的示例性应用。
参见图3,管理环节涉及的多个业务主体,如业务主体400可以是基于人工智能的低俗图片识别系统,业务主体500可以是低俗图片的人工审核系统,从认证中心300进行登记注册获得各自的数字证书,数字证书中包括业务主体的公钥、以及认证中心300对业务主体的公钥和身份信息签署的数字签名,用来与业务主体针对交易的数字签名一起附加到交易中,并被发送到区块链网络,以供区块链网络从交易中取出数字证书和签名,验证消息的可靠性(即是否未经篡改)和发送消息的业务主体的身份信息,区块链网络会根据身份进行验证,例如是否具有发起交易的权限。业务主体下辖的电子设备(例如终端或者服务器)运行的客户端都可以向区块链网络200请求接入而成为客户端节点。
业务主体400的客户端节点410用于获取待识别图片,例如,待识别图片可以是公众号发布文章中的图片或购物网站中货品的广告图片;确定待识别图片中的人体区域,并根据人体区域对待识别图片进行裁剪处理,得到人体图片;通过人体低俗分类模型对人体图片进行分类处理,得到人体标签;确定人体图片中的敏感部位区域,根据敏感部位区域对人体图片进行裁剪处理,得到敏感部位图片;通过敏感部位分类模型对敏感部位图片进行分类处理,得到部位标签;根据人体标签及部位标签,确定待识别图片的低俗识别结果;将待识别图片及对应的低俗识别结果发送至区块链网络200。
其中,将待识别图片及对应的低俗识别结果发送至区块链网络200的操作,可以预先在客户端节点410设置业务逻辑,当产生低俗识别结果时,客户端节点410将待识别图片及对应的低俗识别结果自动发送至区块链网络200,也可以由业务主体400的业务人员在客户端节点410中登录,手动打包待识别图片及低俗识别结果,并将其发送至区块链网络200。在发送时,客户端节点410根据待识别图片及低俗识别结果生成对应更新操作的交易,在交易中指定了实现更新操作需要调用的智能合约、以及向智能合约传递的参数,交易还携带了客户端节点410的数字证书、签署的数字签名(例如,使用客户端节点410的数字证书中的私钥,对交易的摘要进行加密得到),并将交易广播到区块链网络200中的共识节点210。
区块链网络200中的共识节点210中接收到交易时,对交易携带的数字证书和数字签名进行验证,验证成功后,根据交易中携带的业务主体400的身份,确认业务主体400是否是具有交易权限,数字签名和权限验证中的任何一个验证判断都将导致交易失败。验证成功后签署节点210自己的数字签名(例如,使用节点210-1的私钥对交易的摘要进行加密得到),并继续在区块链网络200中广播。
区块链网络200中的共识节点210接收到验证成功的交易后,将交易填充到新的区块中,并进行广播。区块链网络200中的共识节点210广播的新区块时,会对新区块进行共识过程,如果共识成功,则将新区块追加到自身所存储的区块链的尾部,并根据交易的结果更新状态数据库,执行新区块中的交易:对于提交更新待识别图片及低俗识别结果的交易,在状态数据库中添加包括待识别图片及低俗识别结果的键值对。
业务主体500的业务人员在客户端节点510中登录,输入人工识别结果/图片查询请求,客户端节点510根据人工识别结果/图片查询请求生成对应更新操作/查询操作的交易,在交易中指定了实现更新操作/查询操作需要调用的智能合约、以及向智能合约传递的参数,交易还携带了客户端节点510的数字证书、签署的数字签名(例如,使用客户端节点510的数字证书中的私钥,对交易的摘要进行加密得到),并将交易广播到区块链网络200中的共识节点210。其中,人工识别结果是业务主体500的业务人员对待识别图片进行人工审核后得到的,图片查询请求用于查询待识别图片以及对应的低俗识别结果。
区块链网络200中的共识节点210中接收到交易,对交易进行验证、区块填充及共识一致后,将填充的新区块追加到自身所存储的区块链的尾部,并根据交易的结果更新状态数据库,执行新区块中的交易:对于提交的更新某一待识别图片对应的人工识别结果的交易,根据人工识别结果更新状态数据库中该待识别图片对应的键值对;对于提交的查询某个待识别图片的交易,从状态数据库中查询待识别图片对应的键值对,并返回交易结果。
值得说明的是,在图3中示例性地示出了将待识别图片及对应的低俗识别结果直接上链的过程,但在另一些实施例中,对于待识别图片的数据量较大的情况,客户端节点410可将待识别图片的哈希以及低俗识别结果的哈希成对上链,将原始的待识别图片以及低俗识别结果存储于分布式文件系统或数据库。客户端节点510从分布式文件系统或数据库获取到待识别图片以及低俗识别结果后,可结合区块链网络200中对应的哈希进行校验,从而减少上链操作的工作量。
作为区块链的示例,参见图4,图4是本发明实施例提供的区块链网络200中区块链的结构示意图,每个区块的头部既可以包括区块中所有交易的哈希值,同时也包含前一个区块中所有交易的哈希值,新产生的交易的记录被填充到区块并经过区块链网络中节点的共识后,会被追加到区块链的尾部从而形成链式的增长,区块之间基于哈希值的链式结构保证了区块中交易的防篡改和防伪造。
下面说明本发明实施例提供的区块链网络的示例性的功能架构,参见图5,图5是本发明实施例提供的区块链网络200的功能架构示意图,包括应用层201、共识层202、网络层203、数据层204和资源层205,下面分别进行说明。
资源层205封装了实现区块链网路200中的各个节点210的计算资源、存储资源和通信资源。
数据层204封装了实现账本的各种数据结构,包括以文件系统中的文件实现的区块链,键值型的状态数据库和存在性证明(例如区块中交易的哈希树)。
网络层203封装了点对点(P2P,Point to Point)网络协议、数据传播机制和数据验证机制、接入认证机制和业务主体身份管理的功能。
其中,P2P网络协议实现区块链网络200中节点210之间的通信,数据传播机制保证了交易在区块链网络200中的传播,数据验证机制用于基于加密学方法(例如数字证书、数字签名、公/私钥对)实现节点210之间传输数据的可靠性;接入认证机制用于根据实际的业务场景对加入区块链网络200的业务主体的身份进行认证,并在认证通过时赋予业务主体接入区块链网络200的权限;业务主体身份管理用于存储允许接入区块链网络200的业务主体的身份、以及权限(例如能够发起的交易的类型)。
共识层202封装了区块链网络200中的节点210对区块达成一致性的机制(即共识机制)、交易管理和账本管理的功能。共识机制包括POS、POW和D POS等共识算法,支持共识算法的可插拔。
交易管理用于验证节点210接收到的交易中携带的数字签名,验证业务主体的身份信息,并根据身份信息判断确认其是否具有权限进行交易(从业务主体身份管理读取相关信息);对于获得接入区块链网络200的授权的业务主体而言,均拥有认证中心颁发的数字证书,业务主体利用自己的数字证书中的私钥对提交的交易进行签名,从而声明自己的合法身份。
账本管理用于维护区块链和状态数据库。对于取得共识的区块,追加到区块链的尾部;执行取得共识的区块中的交易,当交易包括更新操作时更新状态数据库中的键值对,当交易包括查询操作时查询状态数据库中的键值对并向业务主体的客户端节点返回查询结果。支持对状态数据库的多种维度的查询操作,包括:根据区块序列号(例如交易的哈希值)查询区块;根据区块哈希值查询区块;根据交易序列号查询区块;根据交易序列号查询交易;根据业务主体的账号(序列号)查询业务主体的账号数据;根据通道名称查询通道中的区块链。
应用层201封装了区块链网络能够实现的各种业务,包括交易的溯源、存证和验证等。
下面继续说明本发明实施例提供的电子设备的示例性应用。电子设备可以实施为笔记本电脑,平板电脑,台式计算机,机顶盒,移动设备(例如,移动电话,便携式音乐播放器,个人数字助理,专用消息设备,便携式游戏设备)等各种类型的终端设备,也可以实施为服务器。
参见图6,图6是本发明实施例提供的电子设备600的架构示意图,电子设备600运行有客户端节点(例如,可以是图3所示的客户端节点410),图6所示的电子设备600包括:至少一个处理器610、存储器650、至少一个网络接口620和用户接口630。电子设备600中的各个组件通过总线系统640耦合在一起。可理解,总线系统640用于实现这些组件之间的连接通信。总线系统640除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图6中将各种总线都标为总线系统640。
处理器610可以是一种集成电路芯片,具有信号的处理能力,例如通用处理器、数字信号处理器(DSP,Digital Signal Processor),或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等,其中,通用处理器可以是微处理器或者任何常规的处理器等。
用户接口630包括使得能够呈现媒体内容的一个或多个输出装置631,包括一个或多个扬声器和/或一个或多个视觉显示屏。用户接口630还包括一个或多个输入装置632,包括有助于用户输入的用户接口部件,比如键盘、鼠标、麦克风、触屏显示屏、摄像头、其他输入按钮和控件。
存储器650可以是可移除的,不可移除的或其组合。示例性的硬件设备包括固态存储器,硬盘驱动器,光盘驱动器等。存储器650可选地包括在物理位置上远离处理器610的一个或多个存储设备。
存储器650包括易失性存储器或非易失性存储器,也可包括易失性和非易失性存储器两者。非易失性存储器可以是只读存储器(ROM,Read Only Me mory),易失性存储器可以是随机存取存储器(RAM,Random Access Memor y)。本发明实施例描述的存储器650旨在包括任意适合类型的存储器。
在一些实施例中,存储器650能够存储数据以支持各种操作,这些数据的示例包括程序、模块和数据结构或者其子集或超集,下面示例性说明。
操作系统651,包括用于处理各种基本系统服务和执行硬件相关任务的系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务;
网络通信模块652,用于经由一个或多个(有线或无线)网络接口620到达其他计算设备,示例性的网络接口620包括:蓝牙、无线相容性认证(WiFi)、和通用串行总线(USB,Universal Serial Bus)等;
呈现模块653,用于经由一个或多个与用户接口630相关联的输出装置631(例如,显示屏、扬声器等)使得能够呈现信息(例如,用于操作外围设备和显示内容和信息的用户接口);
输入处理模块654,用于对一个或多个来自一个或多个输入装置632之一的一个或多个用户输入或互动进行检测以及翻译所检测的输入或互动。
在一些实施例中,本发明实施例提供的基于人工智能的低俗图片识别装置可以采用软件方式实现,图6示出了存储在存储器650中的基于人工智能的低俗图片识别装置655,其可以是程序和插件等形式的软件,包括以下软件模块:获取模块6551、第一裁剪模块6552、人体分类模块6553、第二裁剪模块6554、部位分类模块6555及结果确定模块6556,这些模块是逻辑上的,因此根据所实现的功能可以进行任意的组合或进一步拆分。
将在下文中说明各个模块的功能。
在另一些实施例中,本发明实施例提供的基于人工智能的低俗图片识别装置可以采用硬件方式实现,作为示例,本发明实施例提供的基于人工智能的低俗图片识别装置可以是采用硬件译码处理器形式的处理器,其被编程以执行本发明实施例提供的基于人工智能的低俗图片识别方法,例如,硬件译码处理器形式的处理器可以采用一个或多个应用专用集成电路(ASIC,Application Spe cific Integrated Circuit)、DSP、可编程逻辑器件(PLD,Programmable Logic Device)、复杂可编程逻辑器件(CPLD,Complex ProgrammableLogic Device)、现场可编程门阵列(FPGA,Field-Programmable Gate Array)或其他电子元件。
下面将结合上文记载的电子设备的示例性应用和结构,说明电子设备中通过嵌入的基于人工智能的低俗图片识别装置而实现基于人工智能的低俗图片识别方法的过程。
参见图7和图8A,图7是本发明实施例提供的基于人工智能的低俗图片识别装置655的结构示意图,示出了通过一系列模块实现图片裁剪及图片低俗识别的处理流程,图8A是本发明实施例提供的基于人工智能的低俗图片识别方法的流程示意图,将结合图7对图8A示出的步骤进行说明。
在步骤101中,获取待识别图片。
本发明实施例对待识别图片的来源及种类不做限定,作为示例,参见图7,可通过获取模块6551从线上业务流、数据库或其他数据来源获取待识别图片,待识别图片可以公众号发布文章中的图片,可以是即时通信过程中的聊天图片,也可以是电商发布的广告图片。
在步骤102中,确定所述待识别图片中的人体区域,并根据所述人体区域对所述待识别图片进行裁剪处理,得到人体图片。
相较于相关技术中采用端到端模型进行低俗图片识别,在本发明实施例中,应用两阶段(two-stage)模型,并将two-stage模型的两个阶段进行拆分,并根据不同的样本数据对拆分出的模型进行训练,从而得到实现不同功能的模型。
作为示例,参见图7,在第一裁剪模块6552中,通过训练好的人体注意力模型对待识别图片进行处理,例如,在待识别图片中划分出多个候选框,并计算每个候选框中出现人体的人体概率,当其中数值最高的人体概率超过人体概率阈值时,将数值最高的人体概率对应的候选框确定为人体区域;当其中数值最高的人体概率未超过人体概率阈值时,证明待识别图片并非是人体图片,为了节省处理资源,不对该待识别图片进行后续处理,直接将该待识别图片确定为正常图片,或将该待识别图片发送至人工审核方。其中,人体注意力模型即为two-stage中第一个阶段的模型,在训练人体注意力模型时,将样本图片作为输入,确定人体注意力模型输出的人体区域与已标注好的人体区域之间的差异,并根据该差异在人体注意力模型进行反向传播,从而调整人体注意力模型的权重参数。在确定人体区域之后,根据人体区域对待识别图片进行裁剪处理,得到人体图片。
在步骤103中,通过人体低俗分类模型对所述人体图片进行分类处理,得到人体标签。
作为示例,参见图7,在人体分类模块6553中,通过训练好的人体低俗分类模型对人体图片进行分类处理,进行整体情况的低俗识别,该人体低俗分类模型即为two-stage中第二个阶段的模型。在分类处理的过程中,提取人体图片中的特征,并根据模型中的分类器确定人体图片符合各人体标签的概率。本发明实施例对人体标签的内容不做限定,例如,可通过低俗和正常两种情况来建立标签体系,即人体标签存在{人体正常}和{人体低俗}两种可能,也可引入10分类来进行表示低俗的程度,比如10代表最低俗,1代表最不低俗,则人体标签存在{人体:1}、{人体:2}、……{人体:10}多种可能,为了便于理解,以前者的标签体系进行阐述。在对人体图片进行分类处理后,得到人体图片符合{人体正常}的概率和符合{人体低俗}的概率,这里,可设置低俗概率阈值(如设置为0.85),当人体图片符合{人体低俗}的概率超过低俗概率阈值时,将人体标签确定为{人体低俗};当人体图片符合{人体低俗}的概率未超过低俗概率阈值时,将人体标签确定为{人体正常}。其中,在训练人体低俗分类模型时,将样本图片作为输入,此处的样本图片是指符合各种人体标签的样本图片,且已标注好人体标签,然后,确定人体低俗分类模型输出的人体标签与已标注好的人体标签之间的差异,并根据该差异在人体低俗分类模型进行反向传播,从而调整人体低俗分类模型的权重参数。
在步骤104中,确定所述人体图片中的敏感部位区域,根据所述敏感部位区域对所述人体图片进行裁剪处理,得到敏感部位图片。
作为示例,参见图7,通过人体分类模块6553对人体图片进行分类处理的同时,在第二裁剪模块6554中,通过敏感部位注意力模型确定人体图片中的敏感部位区域,该敏感部位注意力模型为two-stage中第一个阶段的模型。敏感部位区域可根据实际应用场景进行设定,如设定为胸部、背部及臀部中的至少一种,在确定敏感部位区域后,获取对应的样本图片以及样本图片中已标注好的敏感部位区域,构成样本数据,从而训练敏感部位注意力模型。在本步骤中,通过训练好的敏感部位注意力模型确定人体图片中的敏感部位区域,例如,可在待识别图片中划分出多个候选框,并计算每个候选框中出现敏感部位区域的敏感部位概率,当其中数值最高的敏感部位概率超过敏感部位概率阈值时,将数值最高的敏感部位概率对应的候选框确定为人体区域;当其中数值最高的敏感部位概率未超过敏感部位概率阈值时,证明待识别图片中并未包括敏感部位区域,为了节省处理资源,直接将部位标签确定为空。
在步骤105中,通过敏感部位分类模型对所述敏感部位图片进行分类处理,得到部位标签。
作为示例,参见图7,通过部位分类模块6555中的敏感部位分类模型对敏感部位图片进行分类处理,完成对待识别图片的局部情况的低俗识别。以部位标签包括{胸部低俗}、{胸部正常}、{背部低俗}及{背书正常}四种可能情况为例,在进行分类处理时,提取敏感部位图片中的特征,并根据敏感部位分类模型中的分类器确定敏感部位图片符合各部位标签的概率,以低俗概率阈值取0.85为例,当敏感部位图片符合{胸部低俗}的概率最高,且超过0.85时,将敏感部位图片对应部位标签确定为{胸部低俗}。其中,在训练敏感部位分类模型时,将样本图片作为输入,此处的样本图片是指符合各种部位标签的样本图片,且已对应标注好部位标签,然后,确定敏感部位分类模型输出的部位标签与已标注好的部位标签之间的差异,并根据该差异在敏感部位分类模型进行反向传播,从而调整敏感部位分类模型的权重参数。
在步骤106中,根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果。
在一些实施例中,可以通过这样的方式实现上述的根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果:当所述人体标签及所述部位标签中的至少一个满足低俗条件时,确定所述待识别图片的低俗识别结果为低俗图片;当所述人体标签及所述部位标签均不满足所述低俗条件时,确定所述待识别图片的低俗识别结果为正常图片。
作为示例,参见图7,结果确定模块6556中设置有低俗条件。对于依赖低俗和正常两种情况建立的标签体系,可设置低俗条件为标签中含有低俗,举例来说,当人体标签为{人体正常},且部位标签为{胸部低俗}时,由于部位标签满足低俗条件,确定待识别图片的低俗识别结果为低俗图片。而对于依赖10分类建立的标签体系,可设置低俗条件为标签中含有的数值超过低俗程度阈值,如7,举例来说,当人体标签为{人体:6},且部位标签为{胸部:8}时,由于部位标签满足低俗条件,确定待识别图片的低俗识别结果为低俗图片;当人体标签为{人体:6},且部位标签为{背部:6}时,由于两个标签均不满足低俗条件,确定待识别图片的低俗识别结果为正常图片。值得说明的是,待识别图片中可能存在至少两个人体图片,对于该情况,当任一人体图片对应的任一标签满足低俗条件时,确定待识别图片的低俗识别结果为低俗图片。通过上述方式,使人体标签和部位标签形成互补,提升了低俗图片的召回率。
在一些实施例中,步骤102之后,还包括:通过特殊类分类模型对所述人体图片进行分类处理,得到特殊类概率;当所述特殊类概率超过特殊类概率阈值时,确定所述待识别图片的低俗识别结果为正常图片。
在实际应用场景中,可能存在在业务上被认定为不低俗的特殊类图片,比如男性健身图、艺术品人物图、婴儿图及儿童图等,以婴儿图举例来说,就算婴儿图中存在露背倾向,但其实际也并非低俗。对于该类型图片,本发明实施例可进行单独建模,即根据该类型的图片进行训练,得到训练好的特殊类分类模型。在根据人体区域对待识别图片进行裁剪得到人体图片后,通过特殊类分类模型对人体图片进行分类处理,得到人体图片属于特殊类图片的特殊类概率。当特殊类概率超过设定的特殊类概率阈值,如0.85时,无论其他标签(如人体标签及部位标签)的情况如何,确定待识别图片的低俗识别结果为正常图片;当特殊类概率未超过特殊类概率阈值时,根据人体标签及部位标签,确定待识别图片的低俗识别结果。通过上述方式,提升了低俗图片识别的适用性,并可根据实际的业务需求设置特殊类的具体类型。
在一些实施例中,步骤106之后,还包括:对低俗识别结果为低俗图片的待识别图片进行屏蔽;或者,将低俗识别结果为低俗图片的待识别图片发送至人工审核方,当人工审核方对待识别图片的人工识别结果为低俗图片时,对待识别图片进行屏蔽。
对于判定为低俗图片的待识别图片,可直接对其进行屏蔽操作,如在公众号发布的文章中删除该待识别图片,或对待识别图片进行模糊处理;也可将其发送至人工审核方,获取人工审核方对待识别图片的人工识别结果,当人工识别结果同样为低俗图片时,对待识别图片进行屏蔽。通过上述方式,有效地避免用户浏览到低俗图片,对于人工审核的情况,由于进行了前置的低俗图片识别,降低了人工审核的压力。
在一些实施例中,在任意步骤之间,所述低俗图片识别方法还包括:确定人体低俗标签的第一召回率,确定部位低俗标签的第二召回率;当所述第一召回率未超过召回率阈值时,获取符合人体低俗标签的样本图片及符合人体正常标签的样本图片,根据获取到的样本图片及对应的人体标签,对所述人体低俗分类模型进行训练;当所述第二召回率未超过所述召回率阈值时,获取符合部位低俗标签的样本图片及符合部位正常标签的样本图片,根据获取到的样本图片及对应的部位标签,对所述敏感部位分类模型进行训练;其中,所述人体低俗标签为满足低俗条件的人体标签,所述部位低俗标签为满足所述低俗条件的部位标签。
为了确定模型在整体情况和局部情况对待识别图片的识别效果,确定人体低俗标签的第一召回率,确定部位低俗标签的第二召回率,例如,对于一批数量为N1的图片,其中已标注人体低俗标签的图片的数量为M1,对N1张图片进行裁剪处理,并通过人体低俗分类模型进行分类处理后,得到其中符合人体低俗标签的图片的数量为L1,则可确定出人体低俗标签的第一召回率为L1/M1;同样地,对于一批数量为N2的图片,其中已标注部位低俗标签的图片的数量为M2,对N2张图片进行裁剪处理,并通过敏感部位分类模型进行分类处理后,得到其中符合部位低俗标签的图片的数量为L2,则可确定出部位低俗标签的第二召回率为L2/M2。
当第一召回率未超过召回率阈值时,获取已标注人体低俗标签的样本图片及已标注人体正常标签的样本图片,将获取到的样本图片作为人体低俗分类模型的输入,确定人体低俗分类模型的输出与样本图片对应的人体标签之间的差异,根据该差异在人体低俗分类模型中进行反向传播,从而调整人体低俗分类模型的权重参数,使得人体低俗分类模型对该类型的样本图片的识别效果更好,其中,人体正常标签是指不满足低俗条件的人体标签。
当第二召回率未超过召回率阈值时,获取已标注部位低俗标签的样本图片及已标注部位正常标签的样本图片,将获取到的样本图片作为敏感部位分类模型的输入,确定敏感部位分类模型的输出与样本图片对应的部位标签之间的差异,根据该差异在敏感部位分类模型中进行反向传播,从而调整敏感部位分类模型的权重参数,使得敏感部位分类模型对该类型的样本图片的识别效果更好,其中,部位正常标签是指不满足低俗条件的部位标签。通过上述方式,根据较低的召回率对模型进行针对性训练,提升了训练后的模型对对应类型的待识别图片的识别效果。
在一些实施例中,步骤106之后,还包括:将所述待识别图片及对应的所述低俗识别结果发送至区块链网络,以使所述区块链网络的节点将所述待识别图片及所述低俗识别结果填充至新区块,且当对所述新区块共识一致时,将所述新区块追加至区块链的尾部。
本发明实施例还可结合区块链技术,在得到待识别图片对应的低俗识别结果后,将待识别图片及对应的低俗识别结果统一发送至区块链网络。区块链网络的节点对发送的主体进行相关验证,包括对数字证书、数字签名以及写入权限的验证,并在验证成功的基础上,将待识别图片及低俗识别结果填充至新区块中,并将新区块广播至区块链网络的其他节点,在区块链网络的节点对新区块共识一致时,各节点将新区块追加至自身保存的区块链的尾部。通过上述方式保证了低俗识别结果的不可篡改性,也便于人工审核方从区块链网络中获取数据进行二次识别。
通过发明实施例对于图8A的上述示例性实施可知,本发明实施例首先识别待识别图片中的人体区域,避免因对不含人体的图片进行处理而导致的处理资源浪费,然后,对于人体图片,在整体和局部两个维度进行单独识别,最后综合两个维度的标签得到低俗识别结果,提升了对不同种类的待识别图片的识别效果。
在一些实施例中,参见图8B,图8B是本发明实施例提供的基于人工智能的低俗图片识别方法的另一个可选的流程示意图,基于图8A,在步骤103之前,还可以在步骤201中,通过人体注意力模型对所述人体图片进行分类处理,得到所述人体图片属于真人图片的第一概率、以及所述人体图片属于动漫图片的第二概率。
作为示例,参见图7,在通过第一裁剪模块6552中的人体注意力模型确定出人体区域的基础上,还可通过训练好的人体注意力模型对人体图片进行分类处理,得到人体图片属于真人图片的第一概率、以及人体图片属于动漫图片的第二概率。其中,在训练时,同样是通过已标注好真人图片的样本图片及已标注好动漫图片的样本图片,对人体注意力模型进行训练。
在步骤202中,当所述第一概率超过所述第二概率时,确定所述人体图片属于真人图片。
在步骤203中,当所述第一概率未超过所述第二概率时,确定所述人体图片属于动漫图片。
在图8B中,图8A示出的步骤103可以通过步骤204至步骤205实现,将结合各步骤进行说明。
在步骤204中,当确定所述人体图片属于真人图片时,通过真人低俗分类模型对所述人体图片进行分类处理,得到真人标签。
在本发明实施例中,由于真人和动漫人物的特征差异很大,故可针对真人图片和动漫图片进行区分建模。具体地,通过已标注真人标签的样本图片对真人低俗分类模型进行训练,并在本步骤中,当人体图片属于真人图片时,通过训练好的真人低俗分类模型对人体图片进行分类处理,得到真人标签。
在步骤205中,当确定所述人体图片属于动漫图片时,通过动漫低俗分类模型对所述人体图片进行分类处理,得到动漫标签。
通过已标注动漫标签的样本图片对动漫低俗分类模型进行训练,并在本步骤中,当人体图片属于动漫图片时,通过训练好的动漫低俗分类模型对人体图片进行分类处理,得到动漫标签。其中,真人标签和动漫标签都属于上述的人体标签。
通过发明实施例对于图8B的上述示例性实施可知,本发明实施例针对真人图片和动漫图片进行单独建模,并对属于各类型的人体图片,使用对应的模型进行识别,提升了识别效果。
在一些实施例中,参见图8C,图8C是本发明实施例提供的裁剪敏感部位图片及确定部位标签的一个可选的流程示意图,图8A示出的步骤104可以通过步骤301至步骤304实现,将结合各步骤进行说明。
在步骤301中,确定所述人体图片中的初始敏感部位区域,对所述初始敏感部位区域进行尺寸扩展,得到至少一个扩展敏感部位区域。
这里,通过敏感部位注意力模型确定人体图片中的敏感部位区域,为了便于区分,将此处的敏感部位区域命名为初始敏感部位区域。为了提升敏感部位的部位标签的识别效果,对初始敏感部位区域进行尺寸扩展,得到至少一个扩展敏感部位区域,例如,初始敏感部位区域的范围为w*h,则对其进行尺寸扩展,得到范围为2w*2h及3w*3h的扩展敏感部位区域。
在步骤302中,根据所述初始敏感部位区域对所述人体图片进行裁剪处理,得到初始敏感部位图片。
在步骤303中,根据所述扩展敏感部位区域对所述人体图片进行裁剪处理,得到扩展敏感部位图片。
对于扩展得到的每个扩展敏感部位区域,根据扩展敏感部位区域对人体图片进行裁剪处理,得到扩展敏感部位图片。
在步骤304中,对所述初始敏感部位图片及所述扩展敏感部位图片的尺寸进行归一化处理。
这里,对初始敏感部位图片和所有扩展敏感部位图片的尺寸进行归一化处理,从而保证图片中包括的信息量适中,归一化的尺寸可根据实际应用场景进行设置,例如,通过resize函数对初始敏感部位图片和所有扩展敏感部位图片进行处理,将图片的尺寸都归一化为224*224(即宽和高都为224个像素)。
图8A示出的步骤105可以通过步骤305至步骤309实现,将结合各步骤进行说明。
在步骤305中,分别提取所述初始敏感部位图片及所述扩展敏感部位图片中的图片特征。
这里,提取图片特征的方式根据实际应用的two-stage模型确定,此处不做限定。对于初始敏感部位图片及每个扩展敏感部位图片,单独进行特征提取,得到每个图片对应的图片特征。
在步骤306中,对所述图片特征进行平均值池化,并对平均值池化的结果进行特征标准化,得到第一池化特征。
对图片特征进行池化,从而对特征进行降维,更便于后续处理。在提取图片特征时,其误差主要来自两个方面:邻域大小受限造成的估计值方差增大;卷积层参数误差造成估计均值的偏移。在本发明实施例中,对图片特征进行平均值池化(avg pooling),从而减少特征提取在第一方面的误差,更多地保留图片的背景信息。其中,平均值池化是指计算某位置及其相邻矩阵区域内的平均值,并根据该平均值更新该位置的值。在进行平均值池化后,对平均值池化的结果进行特征标准化,得到第一池化特征,便于后续处理时,加快模型的收敛速度,更快地得到输出结果,即相应的标签。本发明实施例对特征标准化的方式不做限定,比如可采用L2范数标准化。
在步骤307中,对所述图片特征进行最大值池化,并对最大值池化的结果进行特征标准化,得到第二池化特征。
同时,对图片特征进行最大值池化(max pooling),从而减少特征提取在第二方面的误差,更多地保留图片的纹理信息。最大值池化是指某位置及其相邻矩阵区域内的最大值,并根据该最大值更新该位置的值。同样地,对最大值池化的结果进行特征标准化,得到第二池化特征。
在步骤308中,将所述第一池化特征与第二池化特征拼接为所述图片特征对应的优化特征。
综合第一池化特征与第二池化特征,具体将第一池化特征与第二池化特征拼接(级联)为新的特征,为了便于区分,将拼接得到的特征命名为优化特征。
在步骤309中,将所有所述优化特征拼接为敏感部位特征,并对所述敏感部位特征进行归一化指数处理,得到部位标签。
对于初始敏感部位图片及扩展敏感部位图片中的每个图片来说,都对应一个优化特征,故在本步骤中,将所有优化特征拼接为敏感部位特征,并通过敏感部位分类模型中的分类器对敏感部位特征进行归一化指数处理,得到部位标签。
通过发明实施例对于图8C的上述示例性实施可知,本发明实施例通过确定多个尺度的敏感部位区域,从而提取人体图片在多个尺度的特征,提升了特征提取的全面性,也提升了确定出的部位标签的准确性。
下面,将说明本发明实施例在一个实际的应用场景中的示例性应用。
参见图9,图9是本发明实施例提供的标签体系的一个可选的示意图,在图9中,将低俗标签分为三大类,分别为人体标签、部位标签及特殊类。对于人体标签,可细分为真人和动漫两种标签,真人标签包括{真人低俗}和{真人正常},动漫标签包括{动漫低俗}、{动漫正常}和{动漫亲密关系},其中,动漫亲密关系指的是动漫人物的拥抱及接吻等关系,可根据实际应用场景设置{动漫亲密关系}是否符合低俗条件。对于部位标签,可选择敏感部位区域为胸部和背部,则对应的部位标签包括{胸部低俗}、{胸部正常}、{背部低俗}和{背部正常}。对于特殊类,图9中示例性地示出了特殊类为婴儿/儿童类的情况,当然,根据实际的业务需求,可调整特殊类的内容。
参见图10,图10是本发明实施例提供的基于人工智能的低俗图片识别方法的一个可选的结构示意图。首先,在人体注意力单元中,通过训练好的人体注意力模型对待识别图片101进行处理,确定待识别图片101中的人体区域,并根据人体区域对待识别图片101进行裁剪处理,过滤背景干扰,得到人体图片102。由于在广告图片及其他图片中,真人和动漫之间的特征差异较大,故通过人体注意力模型,进一步区分人体图片102属于真人图片还是动漫图片。
当人体图片102属于真人图片时,人体图片102流入真人低俗分类单元、敏感部位注意力单元及特殊类分类单元。在真人低俗分类单元中,通过训练好的真人低俗分类模型对人体图片102进行分类处理,得到真人标签,在图10中,人体图片102属于{真人低俗}的得分(即概率)为0.99,超过了数值为0.85的低俗概率阈值,故将{真人低俗}确定为人体图片102的真人标签。
在敏感部位注意力单元中,通过敏感部位注意力模型定位人体图片102中的初始敏感部位区域,并裁剪得到初始敏感部位图片1021。对初始敏感部位区域进行尺寸扩展,同样进行裁剪后,得到扩展敏感部位图片1022及扩展敏感部位图片1023。对于3个不同尺度的敏感部位图片,提取每个敏感部位图片中的图片特征。对图片特征进行平均值池化,并对平均值池化的结果进行L2范数归一化,即上文的特征标准化,得到第一池化特征,同时,对图片特征进行最大值池化,并对最大值池化的结果进行L2范数归一化,得到第二池化特征,再将第一池化特征和第二池化特征拼接为优化特征。然后,将每个敏感部位图片对应的优化特征拼接为敏感部位特征,流入敏感部位分类单元。
在敏感部位分类单元中,通过训练好的敏感部位分类模型对敏感部位特征进行分类处理,得到部位标签,在图10中,敏感部位特征属于{胸部低俗}情况的得分为0.98,超过了数值为0.85的低俗概率阈值,故将{胸部低俗}确定为人体图片102的部位标签。
在特殊类分类单元中,通过训练好的特殊类分类模型对人体图片102进行分类处理,得到人体图片102属于特殊类的特殊类概率,当特殊类概率超过特殊类概率阈值时,确定待识别图片的低俗识别结果为正常图片。在图10中,人体图片102的特殊类概率未超过特殊类概率阈值,故未示出其输出结果。在人体图片102不属于特殊类的情况下,只要真人标签和部位标签中的任一个满足低俗条件,则确定待识别图片的低俗识别结果为低俗图片,将待识别图片提交至人工审核方进行审核,图10所示的人体图片102的低俗识别结果即为低俗图片。
当人体图片102属于动漫图片时(图10中未示出该情况),人体图片102流入动漫低俗分类单元、敏感部位注意力单元及特殊类分类单元,其中,敏感部位注意力单元及特殊类分类单元的处理过程与上述相同,此处不再赘述。在动漫低俗分类单元中,通过训练好的动漫低俗分类模型对人体图片102进行分类处理,得到动漫标签。当人体图片102属于特殊类时,确定对应的低俗识别结果为正常图片;当人体图片102不属于特殊类,且动漫标签和部位标签中的任一个满足低俗条件时,确定待识别图片的低俗识别结果为低俗图片,将待识别图片提交至人工审核方进行审核。
通过发明实施例对于图10的上述示例性实施可知,本发明实施例可对不含人体区域及属于特殊类的待识别图片进行过滤,节省处理资源,对于待识别图片中的人体图片,在整体和局部两个维度进行单独识别,最后综合两个维度的标签得到低俗识别结果,提升了对不同种类的待识别图片的识别效果。
为了便于理解,本发明实施例提供了图11~图15的待识别图片示意图,在图11中,待识别图片110中的人体图片111属于动漫图片,经过低俗图片识别后,得到人体图片111属于{动漫低俗}标签的得分为0.999,则确定人体图片111的动漫标签为{动漫低俗},进一步确定待识别图片110的低俗识别结果为低俗图片;在图12中,待识别图片120中的人体图片121属于真人图片,经过低俗图片识别后,得到人体图片121属于{真人低俗}标签的得分为0.89,则确定人体图片121的真人标签为{真人低俗},进一步确定待识别图片120的低俗识别结果为低俗图片;在图13中,待识别图片130中的人体图片131属于真人图片,经过低俗图片识别后,得到人体图片131属于{真人低俗}标签的得分为1.0,则确定人体图片131的真人标签为{真人低俗},进一步确定待识别图片130的低俗识别结果为低俗图片;在图14中,待识别图片140中的人体图片141属于动漫图片,经过低俗图片识别后,得到人体图片141属于{动漫低俗}标签的得分为1.0,则确定人体图片141的动漫标签为{动漫低俗},进一步确定待识别图片140的低俗识别结果为低俗图片;在图15中,待识别图片150中的人体图片151和人体图片152均属于动漫图片,经过低俗图片识别后,得到人体图片151属于{动漫正常}标签的得分为1.0,人体图片152属于{动漫正常}标签的得分同样为1.0,则确定人体图片151和人体图片152的动漫标签均为{动漫正常},进一步确定待识别图片150的低俗识别结果为正常图片。
另外,对于图1所示的低俗图片10和低俗图片12,在本发明实施例中,能够通过真人低俗分类模型,得到人体图片11和人体图片13属于的真人标签均为{真人低俗},从而确定低俗图片10和低俗图片12的低俗识别结果均为低俗图片。对于图2所示的低俗图片20,在本发明实施例中,能够通过敏感部位分类模型,得到人体图片21属于的部位标签为{胸部低俗},从而确定低俗图片20的低俗识别结果为低俗图片;对于图2所示的低俗图片22,在本发明实施例中,能够通过敏感部位分类模型,得到人体图片23属于的部位标签为{背部低俗},从而确定低俗图片22的低俗识别结果为低俗图片。本发明实施例在保持了对整体低俗的识别效果的基础上,提升了对局部低俗的识别效果。
下面继续说明本发明实施例提供的基于人工智能的低俗图片识别装置655的实施为软件模块的示例性结构,在一些实施例中,如图6所示,存储在存储器650的基于人工智能的低俗图片识别装置655中的软件模块可以包括:获取模块6551,用于获取待识别图片;第一裁剪模块6552,用于确定所述待识别图片中的人体区域,并根据所述人体区域对所述待识别图片进行裁剪处理,得到人体图片;人体分类模块6553,用于通过人体低俗分类模型对所述人体图片进行分类处理,得到人体标签;第二裁剪模块6554,用于确定所述人体图片中的敏感部位区域,根据所述敏感部位区域对所述人体图片进行裁剪处理,得到敏感部位图片;部位分类模块6555,用于通过敏感部位分类模型对所述敏感部位图片进行分类处理,得到部位标签;结果确定模块6556,用于根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果。
在一些实施例中,人体分类模块6553还用于:当确定所述人体图片属于真人图片时,通过真人低俗分类模型对所述人体图片进行分类处理,得到真人标签;当确定所述人体图片属于动漫图片时,通过动漫低俗分类模型对所述人体图片进行分类处理,得到动漫标签。
在一些实施例中,基于人工智能的低俗图片识别装置655还包括:人体注意模块,用于通过人体注意力模型对所述人体图片进行分类处理,得到所述人体图片属于真人图片的第一概率、以及所述人体图片属于动漫图片的第二概率;真人确定模块,用于当所述第一概率超过所述第二概率时,确定所述人体图片属于真人图片;动漫确定模块,用于当所述第一概率未超过所述第二概率时,确定所述人体图片属于动漫图片。
在一些实施例中,基于人工智能的低俗图片识别装置655还包括:特殊类处理模块,用于通过特殊类分类模型对所述人体图片进行分类处理,得到特殊类概率;特殊类确定模块,用于当所述特殊类概率超过特殊类概率阈值时,确定所述待识别图片的低俗识别结果为正常图片。
在一些实施例中,第二裁剪模块6554还用于:确定所述人体图片中的初始敏感部位区域,对所述初始敏感部位区域进行尺寸扩展,得到至少一个扩展敏感部位区域;根据所述初始敏感部位区域对所述人体图片进行裁剪处理,得到初始敏感部位图片;根据所述扩展敏感部位区域对所述人体图片进行裁剪处理,得到扩展敏感部位图片;对所述初始敏感部位图片及所述扩展敏感部位图片的尺寸进行归一化处理。
在一些实施例中,部位分类模块6555还用于:分别提取所述初始敏感部位图片及所述扩展敏感部位图片中的图片特征;对所述图片特征进行平均值池化,并对平均值池化的结果进行特征标准化,得到第一池化特征;对所述图片特征进行最大值池化,并对最大值池化的结果进行特征标准化,得到第二池化特征;将所述第一池化特征与第二池化特征拼接为所述图片特征对应的优化特征;将所有所述优化特征拼接为敏感部位特征,并对所述敏感部位特征进行归一化指数处理,得到部位标签。
在一些实施例中,结果确定模块6556还用于:当所述人体标签及所述部位标签中的至少一个满足低俗条件时,确定所述待识别图片的低俗识别结果为低俗图片;当所述人体标签及所述部位标签均不满足所述低俗条件时,确定所述待识别图片的低俗识别结果为正常图片。
在一些实施例中,基于人工智能的低俗图片识别装置655还包括:召回率确定模块,用于确定人体低俗标签的第一召回率,确定部位低俗标签的第二召回率;第一训练模块,用于当所述第一召回率未超过召回率阈值时,获取符合人体低俗标签的样本图片及符合人体正常标签的样本图片,根据获取到的样本图片及对应的人体标签,对所述人体低俗分类模型进行训练;第二训练模块,用于当所述第二召回率未超过所述召回率阈值时,获取符合部位低俗标签的样本图片及符合部位正常标签的样本图片,根据获取到的样本图片及对应的部位标签,对所述敏感部位分类模型进行训练;其中,所述人体低俗标签为满足低俗条件的人体标签,所述部位低俗标签为满足所述低俗条件的部位标签。
在一些实施例中,基于人工智能的低俗图片识别装置655还包括:上链模块,用于将所述待识别图片及对应的所述低俗识别结果发送至区块链网络,以使所述区块链网络的节点将所述待识别图片及所述低俗识别结果填充至新区块,且当对所述新区块共识一致时,将所述新区块追加至区块链的尾部。
本发明实施例提供一种存储有可执行指令的存储介质,其中存储有可执行指令,当可执行指令被处理器执行时,将引起处理器执行本发明实施例提供的基于人工智能的低俗图片识别方法,例如,如图8A及8B示出的基于人工智能的低俗图片识别方法。
在一些实施例中,存储介质可以是FRAM、ROM、PROM、EPROM、EE PROM、闪存、磁表面存储器、光盘、或CD-ROM等存储器;也可以是包括上述存储器之一或任意组合的各种设备。
在一些实施例中,可执行指令可以采用程序、软件、软件模块、脚本或代码的形式,按任意形式的编程语言(包括编译或解释语言,或者声明性或过程性语言)来编写,并且其可按任意形式部署,包括被部署为独立的程序或者被部署为模块、组件、子例程或者适合在计算环境中使用的其它单元。
作为示例,可执行指令可以但不一定对应于文件系统中的文件,可以可被存储在保存其它程序或数据的文件的一部分,例如,存储在超文本标记语言(H TML,Hyper TextMarkup Language)文档中的一个或多个脚本中,存储在专用于所讨论的程序的单个文件中,或者,存储在多个协同文件(例如,存储一个或多个模块、子程序或代码部分的文件)中。
作为示例,可执行指令可被部署为在一个计算设备上执行,或者在位于一个地点的多个计算设备上执行,又或者,在分布在多个地点且通过通信网络互连的多个计算设备上执行。
综上所述,在第一方面,本发明实施例通过建立分治机制,逐层过滤不低俗的图片,如过滤掉不含有人体区域的待识别图片,过滤掉属于特殊类的待识别图片等,不断缩小低俗图片的搜索空间,大大地降低了训练模型所需的样本图片数量,经发明人实验验证,相较于相关技术要求的千万级图片数量,本发明实施例在拥有十万级乃至万级已标注的样本图片时,经过训练后便能够取得较好的识别效果;在第二方面,通过分治机制对待识别图片进行识别,能够在待识别图片不含人体区域或属于特殊类时,过滤待识别图片,从而最大限度地节省处理资源;在第三方面,本发明实施例在整体和局部两个维度进行单独识别,最后综合两个维度的标签得到低俗识别结果,提升了对不同种类的待识别图片的识别效果;在第四方面,本发明实施例将标签分组,从而建模,在遇到召回率过低的情况时,容易定位问题,比如对标签{露背低俗}的召回率过低,则获取标签为{露背低俗}和{露背正常}的样本图片,对敏感部位分类模型进行优化,从而强化对{露背低俗}的召回,优化的简易度高。
以上所述,仅为本发明的实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和范围之内所作的任何修改、等同替换和改进等,均包含在本发明的保护范围之内。
Claims (11)
1.一种基于人工智能的低俗图片识别方法,其特征在于,包括:
获取待识别图片;
确定所述待识别图片中的人体区域,并根据所述人体区域对所述待识别图片进行裁剪处理,得到人体图片;
通过人体低俗分类模型对所述人体图片进行分类处理,得到人体标签;
确定所述人体图片中的敏感部位区域,根据所述敏感部位区域对所述人体图片进行裁剪处理,得到敏感部位图片;
通过敏感部位分类模型对所述敏感部位图片进行分类处理,得到部位标签;
根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果。
2.根据权利要求1所述的低俗图片识别方法,其特征在于,所述通过人体低俗分类模型对所述人体图片进行分类处理,得到人体标签,包括:
当确定所述人体图片属于真人图片时,通过真人低俗分类模型对所述人体图片进行分类处理,得到真人标签;
当确定所述人体图片属于动漫图片时,通过动漫低俗分类模型对所述人体图片进行分类处理,得到动漫标签。
3.根据权利要求2所述的低俗图片识别方法,其特征在于,还包括:
通过人体注意力模型对所述人体图片进行分类处理,得到所述人体图片属于真人图片的第一概率、以及所述人体图片属于动漫图片的第二概率;
当所述第一概率超过所述第二概率时,确定所述人体图片属于真人图片;
当所述第一概率未超过所述第二概率时,确定所述人体图片属于动漫图片。
4.根据权利要求1所述的低俗图片识别方法,其特征在于,还包括:
通过特殊类分类模型对所述人体图片进行分类处理,得到特殊类概率;
当所述特殊类概率超过特殊类概率阈值时,确定所述待识别图片的低俗识别结果为正常图片。
5.根据权利要求1所述的低俗图片识别方法,其特征在于,所述确定所述人体图片中的敏感部位区域,根据所述敏感部位区域对所述人体图片进行裁剪处理,得到敏感部位图片,包括:
确定所述人体图片中的初始敏感部位区域,对所述初始敏感部位区域进行尺寸扩展,得到至少一个扩展敏感部位区域;
根据所述初始敏感部位区域对所述人体图片进行裁剪处理,得到初始敏感部位图片;
根据所述扩展敏感部位区域对所述人体图片进行裁剪处理,得到扩展敏感部位图片;
对所述初始敏感部位图片及所述扩展敏感部位图片的尺寸进行归一化处理。
6.根据权利要求5所述的低俗图片识别方法,其特征在于,所述通过敏感部位分类模型对所述敏感部位图片进行分类处理,得到部位标签,包括:
分别提取所述初始敏感部位图片及所述扩展敏感部位图片中的图片特征;
对所述图片特征进行平均值池化,并对平均值池化的结果进行特征标准化,得到第一池化特征;
对所述图片特征进行最大值池化,并对最大值池化的结果进行特征标准化,得到第二池化特征;
将所述第一池化特征与第二池化特征拼接为所述图片特征对应的优化特征;
将所有所述优化特征拼接为敏感部位特征,并对所述敏感部位特征进行归一化指数处理,得到部位标签。
7.根据权利要求1所述的低俗图片识别方法,其特征在于,所述根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果,包括:
当所述人体标签及所述部位标签中的至少一个满足低俗条件时,确定所述待识别图片的低俗识别结果为低俗图片;
当所述人体标签及所述部位标签均不满足所述低俗条件时,确定所述待识别图片的低俗识别结果为正常图片。
8.根据权利要求1至7任一项所述的低俗图片识别方法,其特征在于,还包括:
确定人体低俗标签的第一召回率,确定部位低俗标签的第二召回率;
当所述第一召回率未超过召回率阈值时,获取符合人体低俗标签的样本图片及符合人体正常标签的样本图片,根据获取到的样本图片及对应的人体标签,对所述人体低俗分类模型进行训练;
当所述第二召回率未超过所述召回率阈值时,获取符合部位低俗标签的样本图片及符合部位正常标签的样本图片,根据获取到的样本图片及对应的部位标签,对所述敏感部位分类模型进行训练;
其中,所述人体低俗标签为满足低俗条件的人体标签,所述部位低俗标签为满足所述低俗条件的部位标签。
9.根据权利要求1至7任一项所述的低俗图片识别方法,其特征在于,还包括:
将所述待识别图片及对应的所述低俗识别结果发送至区块链网络,以使
所述区块链网络的节点将所述待识别图片及所述低俗识别结果填充至新区块,且当对所述新区块共识一致时,将所述新区块追加至区块链的尾部。
10.一种基于人工智能的低俗图片识别装置,其特征在于,包括:
获取模块,用于获取待识别图片;
第一裁剪模块,用于确定所述待识别图片中的人体区域,并根据所述人体区域对所述待识别图片进行裁剪处理,得到人体图片;
人体分类模块,用于通过人体低俗分类模型对所述人体图片进行分类处理,得到人体标签;
第二裁剪模块,用于确定所述人体图片中的敏感部位区域,根据所述敏感部位区域对所述人体图片进行裁剪处理,得到敏感部位图片;
部位分类模块,用于通过敏感部位分类模型对所述敏感部位图片进行分类处理,得到部位标签;
结果确定模块,用于根据所述人体标签及所述部位标签,确定所述待识别图片的低俗识别结果。
11.一种电子设备,其特征在于,包括:
存储器,用于存储可执行指令;
处理器,用于执行所述存储器中存储的可执行指令时,实现权利要求1至9任一项所述的基于人工智能的低俗图片识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910843649.2A CN110555482A (zh) | 2019-09-06 | 2019-09-06 | 基于人工智能的低俗图片识别方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910843649.2A CN110555482A (zh) | 2019-09-06 | 2019-09-06 | 基于人工智能的低俗图片识别方法、装置及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110555482A true CN110555482A (zh) | 2019-12-10 |
Family
ID=68739321
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910843649.2A Pending CN110555482A (zh) | 2019-09-06 | 2019-09-06 | 基于人工智能的低俗图片识别方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110555482A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112101162A (zh) * | 2020-09-04 | 2020-12-18 | 沈阳东软智能医疗科技研究院有限公司 | 图像识别模型的生成方法、装置、存储介质和电子设备 |
CN113435233A (zh) * | 2020-03-23 | 2021-09-24 | 北京金山云网络技术有限公司 | 色情图像识别方法、系统及电子设备 |
CN113537206A (zh) * | 2020-07-31 | 2021-10-22 | 腾讯科技(深圳)有限公司 | 推送数据检测方法、装置、计算机设备和存储介质 |
CN115909390A (zh) * | 2021-09-30 | 2023-04-04 | 腾讯科技(深圳)有限公司 | 低俗内容识别方法、装置、计算机设备以及存储介质 |
-
2019
- 2019-09-06 CN CN201910843649.2A patent/CN110555482A/zh active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113435233A (zh) * | 2020-03-23 | 2021-09-24 | 北京金山云网络技术有限公司 | 色情图像识别方法、系统及电子设备 |
CN113435233B (zh) * | 2020-03-23 | 2024-03-05 | 北京金山云网络技术有限公司 | 色情图像识别方法、系统及电子设备 |
CN113537206A (zh) * | 2020-07-31 | 2021-10-22 | 腾讯科技(深圳)有限公司 | 推送数据检测方法、装置、计算机设备和存储介质 |
CN113537206B (zh) * | 2020-07-31 | 2023-11-10 | 腾讯科技(深圳)有限公司 | 推送数据检测方法、装置、计算机设备和存储介质 |
CN112101162A (zh) * | 2020-09-04 | 2020-12-18 | 沈阳东软智能医疗科技研究院有限公司 | 图像识别模型的生成方法、装置、存储介质和电子设备 |
CN112101162B (zh) * | 2020-09-04 | 2024-03-26 | 沈阳东软智能医疗科技研究院有限公司 | 图像识别模型的生成方法、装置、存储介质和电子设备 |
CN115909390A (zh) * | 2021-09-30 | 2023-04-04 | 腾讯科技(深圳)有限公司 | 低俗内容识别方法、装置、计算机设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110555482A (zh) | 基于人工智能的低俗图片识别方法、装置及电子设备 | |
WO2022037343A1 (zh) | 一种视频信息处理方法、装置、电子设备及存储介质 | |
US20190327090A1 (en) | Blockchain-Based Social Media History Maps | |
US10929511B2 (en) | Systems and methods for protecting sensitive information | |
US20160267483A1 (en) | Systems and methods for identifying illegitimate activities based on historical data | |
JP2022529967A (ja) | ブロックチェーン・ネットワークからのデータの抽出 | |
US10650133B2 (en) | Systems and methods for providing image-based security measures | |
WO2019084922A1 (zh) | 信息处理方法和系统、服务器、终端、计算机存储介质 | |
US20170270625A1 (en) | Systems and methods for identifying matching content | |
US11741177B2 (en) | Entity validation of a content originator | |
CN111367965B (zh) | 目标对象确定方法、装置、电子设备及存储介质 | |
US11899719B2 (en) | Systems and methods for determining whether to modify content | |
CN112989074A (zh) | 多媒体信息推荐方法、装置、电子设备及存储介质 | |
CN113627145A (zh) | 一种参数化配置的文件生成方法、装置、设备和介质 | |
WO2022156087A1 (zh) | 数据血缘关系建立方法、装置、计算机设备及存储介质 | |
CN112308238A (zh) | 解析模型的训练方法、装置、电子设备及存储介质 | |
WO2021189766A1 (zh) | 数据可视化方法及相关设备 | |
CN111897890A (zh) | 金融业务处理方法及装置 | |
US10102387B2 (en) | Systems and methods for identifying illegitimate accounts based on clustering | |
CN112995014B (zh) | 消息群发的方法及装置 | |
CN117874224A (zh) | 一种数据处理方法、装置、存储介质及电子设备 | |
US20170372163A1 (en) | Systems and methods for incremental character recognition to recognize characters in images | |
CN115203487A (zh) | 基于多方安全图的数据处理方法及相关装置 | |
CN111078569B (zh) | 光学字符识别应用的测试方法、装置及存储介质 | |
CN114237798A (zh) | 数据处理方法、装置、服务器及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |