CN110309373A - 信息处理方法及装置 - Google Patents
信息处理方法及装置 Download PDFInfo
- Publication number
- CN110309373A CN110309373A CN201810215764.0A CN201810215764A CN110309373A CN 110309373 A CN110309373 A CN 110309373A CN 201810215764 A CN201810215764 A CN 201810215764A CN 110309373 A CN110309373 A CN 110309373A
- Authority
- CN
- China
- Prior art keywords
- task
- risk
- checked
- measurement information
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 72
- 238000003672 processing method Methods 0.000 title claims abstract description 31
- 238000005259 measurement Methods 0.000 claims abstract description 207
- 238000001514 detection method Methods 0.000 claims abstract description 182
- 238000000034 method Methods 0.000 claims abstract description 37
- 238000012360 testing method Methods 0.000 claims abstract description 31
- 238000012552 review Methods 0.000 claims description 45
- 230000015654 memory Effects 0.000 claims description 36
- 238000012545 processing Methods 0.000 claims description 29
- 238000012550 audit Methods 0.000 description 54
- 238000010586 diagram Methods 0.000 description 12
- 238000005070 sampling Methods 0.000 description 12
- 230000000694 effects Effects 0.000 description 11
- 238000007726 management method Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 239000000203 mixture Substances 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 239000012141 concentrate Substances 0.000 description 5
- 239000000047 product Substances 0.000 description 5
- 238000012217 deletion Methods 0.000 description 4
- 230000037430 deletion Effects 0.000 description 4
- 235000013399 edible fruits Nutrition 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000007689 inspection Methods 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 239000013589 supplement Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 235000016936 Dendrocalamus strictus Nutrition 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- GOLXNESZZPUPJE-UHFFFAOYSA-N spiromesifen Chemical compound CC1=CC(C)=CC(C)=C1C(C(O1)=O)=C(OC(=O)CC(C)(C)C)C11CCCC1 GOLXNESZZPUPJE-UHFFFAOYSA-N 0.000 description 2
- 238000013500 data storage Methods 0.000 description 1
- 238000010348 incorporation Methods 0.000 description 1
- 230000005389 magnetism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/90335—Query processing
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种信息处理方法及装置。其中，该方法包括：获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。本发明解决了信息处理的效率低的技术问题。
Description
技术领域
本发明涉及计算机领域，具体而言，涉及一种信息处理方法及装置。
背景技术
目前，信息处理可以是信息审核，是基于业务范围的，例如，商品审核、评论审核、直播审核等都是基于业务范围的审核。不同的业务都会审核文字、图片、视频等内容，针对色情、政治、辱骂等风险类型的审核信息进行处理。例如，商品审核,信息量非常多，包括四个大类：商品信息、卖家信息、疑似风险信息等。其中，商品信息包括价格、标题、关键词、图片、库存量单位(Stock Keeping Unit，简称为SKU)、详情等；卖家信息包括卖家星级、用户昵称、商品数量等；疑似风险信息包括命中词，命中样本、算法等，这样在审核商品的时候，需要商品所有的信息，信息量大、不集中、针对性不强，不同地区的审核标准不同，每个地区都要审核一次，信息处理的效率并不高。
针对上述信息处理的效率低的问题，目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种信息处理方法及装置，以至少解决信息处理的效率低的技术问题。
根据本发明实施例的一个方面，提供了一种信息处理方法。该信息处理方法包括：获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。
根据本发明实施例的另一方面，还提供了一种信息处理装置。该信息处理装置包括：获取模块，用于获取待检测信息；确定模块，用于根据待检测信息，确定待检测信息对应的风险类型；创建模块，用于根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；审核模块，用于对检测任务进行检测。
根据本发明实施例的另一方面，还提供了一种存储介质。该存储介质包括存储的程序，其中，在程序运行时控制存储介质所在设备执行以下步骤：获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。
根据本发明实施例的另一方面，还提供了一种处理器。该处理器用于运行程序，其中，程序运行时执行以下步骤：获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。
根据本发明实施例的另一方面，还提供了一种移动终端。该移动终端包括：处理器；信息采集装置，与处理器相连接，用于获取待检测信息；存储器，与处理器相连接，用于为处理器提供处理以下处理步骤的指令：根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。
根据本发明实施例的另一方面，还提供了一种信息处理方法，包括：获取待检测信息；创建所述待检测信息对应的检测任务；对所述检测任务进行检测。
在本发明实施例中，采用获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测的方式。基于待检测信息对应的风险类型对应的任务描述，创建检测任务，来对检测任务进行检测，也就是说，根据不同的风险类型，只提供与当前风险相关的信息，从而提高了信息的针对性和有效性，避免了信息不集中，针对性不强的问题，从而实现了提高信息处理的效率的技术效果，进而解决了信息处理的效率低的技术问题。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1是根据本发明实施例的一种移动终端的示意图；
图2是根据本发明实施例的一种信息处理系统的示意图；
图3是根据本发明实施例的另一种信息处理系统的示意图；
图4是根据本发明实施例的一种用于实现信息处理方法的计算机终端(或移动设备)的硬件结构框图；
图5是根据本发明实施例的一种信息处理方法的流程图；
图6是根据本发明实施例的另一种信息处理方法的流程图；
图7是根据本发明实施例的另一种信息处理方法的流程图；
图8是根据本发明实施例的另一种信息处理方法的流程图；
图9是根据本发明实施例的一种信息处理装置的示意图；以及
图10是根据本发明实施例的一种移动终端的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
首先，在对本申请实施例进行描述的过程中出现的部分名词或术语适用于如下解释：
安全审核：是指对疑似的风险对象(任务)进行确认，判断是否存在风险的过程。
场景化审核：根据不同的风险类型，提供与当前风险相关的信息；从而提高信息的针对性和有效性。
审核任务：包括需要进行风险判断的疑似对象信息、任务状态信息、是否有风险的结论信息。
抽检：是指从已完成任务中随机抽样出若干数据，进行抽样检查，从而核对已完成任务的准确率。
掺题考核：是指在用户普通的任务中，按一定比率掺入考题，通过答案的准确率来判断整体的答案准确率。
任务冗余：是指同一个任务分发给多个终端进行处理，根据多份处理结果，来判断当前任务的最终结论，通过任务冗余的方式最终提高任务的准确率。
实施例1
本发明实施例提供了一种移动终端。
图1是根据本发明实施例的一种移动终端的示意图。如图1所示，该计算机终端包括：处理器102、信息采集装置104和存储器106。
处理器102。
信息采集装置104，与处理器102相连接，用于获取待检测信息。
例如，在电商平台上，商家发布的商品信息会存在风险，比如，商品商家发布商品可能是法律禁止销售的产品，为保证平台商品合法，就需要对商品信息进行检测。
该实施例通过信息采集装置104获取待检测信息，该待检测信息可以是疑似为风险信息的对象或者任务。以关键词审核为例，待检测信息包括关键词命中信息，关键词以及关键词的位置就是待检测信息；以图片审核为例，待检测信息包括图片命中信息，则图片就是待检测信息，比如，一个商品被色情模型命中了，那么待检测信息包括被命中的图片。
存储器106，与处理器102相连接，用于为处理器102提供处理以下处理步骤的指令：根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。
该实施例的处理器102与信息采集装置104相连接，用于接收存储器106提供的根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务；对检测任务进行检测的指令。
该实施例的待检测信息对应一定的风险类型，风险类型包括但不限于色情、暴力、政治等。在通过信息采集装置104获取待检测信息之后，确定待检测信息对应的风险类型。可选地，根据待检测信息识别出待检测信息对应的风险类型，比如，风险(即上述的待检测信息)进入信息处理系统后，根据风险信息、业务信息、内容信息等识别出最合适的风险类型，可以在待检测信息进入信息处理系统后，根据风险类型中的准入规则,将风险打上风险类型标识。该风险类型具有风险特征，该风险特征可以包括业务类型、主体对象等。
该实施例在信息审核时，只针对当前风险审核必须的信息进行检测，实现场景化审核，以提高信息的针对性和有效性。比如，对商品审核，将商品拆分成文本审核、图片审核等，只针对商品的当前风险审核必须的信息。风险类型具有任务描述，在处理器102根据待检测信息，确定待检测信息对应的风险类型之后，确定风险类型对应的任务描述，该任务描述用于指示风险类型对应的检测对象，可以为对该风险类型下的审核信息的定义。以色情图片审核风险类型为例，则商品图片、商品标识(Identification，简称为ID)、商品标题即为任务描述；以辱骂命中风险类型为例，则命中词、标题即为任务描述等。
该实施例的检测任务只针对当前风险审核必须的信息，也即，风险类型的审核任务，可以包括色情图片、辱骂文本等，此处不做任何限制。在处理器102确定风险类型对应的任务描述之后，根据风险类型对应的任务描述，创建待检测信息对应的检测任务。比如，根据风险类型中的任务描述，从待检测信息中抽取对应的信息，创建检测任务，其中，对应的信息指待检测信息中的命中信息。可选地，待检测信息包括关键词命中信息、图片命中信息等，比如，一个商品被色情模型命中了，则上述对应的信息指命中的图片。
在处理器102根据风险类型对应的任务描述，创建待检测信息对应的检测任务之后，对检测任务进行检测，得到检测结果。在处理器102进行任务审核时，可以判断待检测信息是否成立。可选地，该实施例对疑似的风险对象(任务)进行确认，判断是否存在风险，以实现安全审核。在判断风险成立之后，可以根据风险类型、主题等信息做出对应的惩罚手段。
该实施例的移动终端包括处理器102，信息采集装置104与处理器102相连接，用于获取待检测信息，存储器106与处理器102相连接，用于为处理器102提供处理以下处理步骤的指令：根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。基于待检测信息对应的风险类型对应的任务描述，创建检测任务，来对检测任务进行检测，也就是说，根据不同的风险类型，只提供与当前风险相关的信息，从而提高了信息的针对性和有效性，避免了信息不集中，针对性不强的问题，从而实现了提高信息处理的效率的技术效果，进而解决了信息处理的效率低的技术问题。
可选地，存储器106，与处理器102相连接，还用于为处理器102提供处理以下处理步骤的指令：获取预先设置的准入规则，准入规则用于指示风险类型对应的风险特征；将准入规则与待检测信息进行匹配，识别出待检测信息对应的风险类型，以实现根据待检测信息，确定待检测信息对应的风险类型。
在该实施例中，在根据待检测信息，确定待检测信息对应的风险类型时，处理器102可以获取预先设置的准入规则，该准入规则用于指示风险类型对应的风险特征，可以为一组规则，用于指示风险类型、业务、主体对象等风险特征，此处不做限制。该实施例的准入规则可以与待检测信息进行匹配。在获取预先设置的准入规则之后，将准入规则与待检测信息进行匹配，识别出与待检测信息对应的风险类型，比如，在待检测信息进入信息处理系统之后，可以根据风险类型中的准入规则,将准入规则与待检测信息进行匹配，将待检测信息打上风险类型标识，以对风险类型进行识别，从而确定与待检测信息对应的风险类型，进而根据风险类型对应的任务描述，创建待检测信息对应的检测任务，对检测任务进行检测，从而实现了提高信息处理的效率的效果。
可选地，存储器106，与处理器102相连接，还用于为处理器102提供处理以下处理步骤的指令：基于任务描述，从待检测信息中提取与任务描述对应的信息；根据与任务描述对应的信息，创建检测任务，以实现根据风险类型对应的任务描述，创建待检测信息对应的检测任务。
在该实施例中，在处理器102根据待检测信息，确定待检测信息对应的风险类型之后，可以获取风险类型对应的任务描述，该任务描述用于指示风险类型对应的检测对象，以色情图片审核风险类型为例，商品图片，商品ID，标题即为任务描述；以辱骂命中风险类型为例，命中词、标题即为任务描述。在获取风险类型对应的任务描述之后，根据风险类型对应的任务描述，从待检测信息中提取与任务描述对应的信息，也即，从待检测信息中提取的信息与任务描述相对应。比如，待检测信息包括关键词命中信息、图片命中信息等，当一个商品被色情模型命中时，则与任务描述对应的信息为被命中的图片。在处理器102基于任务描述，从待检测信息中提取与任务描述对应的信息之后，根据与任务描述对应的信息，创建检测任务，进而对检测任务进行检测，从而实现根据不同的风险类型，只提供当前风险相关的信息，提高了信息处理的针对性和有效性。
可选地，存储器106，与处理器102相连接，还用于为处理器102提供处理以下处理步骤的指令：确定检测任务的风险标签及风险等级，得到审核结果，其中，风险标签用于指示待检测信息的类型，以实现对检测任务进行检测。
在该实施例中，在处理器102根据与任务描述对应的信息，创建检测任务之后，进入对检测任务进行检测的阶段。在对检测任务进行检测的阶段，可以确定检测任务的风险标签以及风险等级，得到审核结果，该审核结果也即当前风险类型下的待检测信息的审核结果，该风险标签用于指示待检测信息的类型，风险等级可以通过规则进行确定，也可以根据算法进行确定，通过识别风险等级,可以动态识别计算任务的风险等级，做到高风险优先审核，低风险后审，从而提高业务效果和用户体验。
可选地，该实施例在审核阶段只对检测任务的风险标签、风险等级进行判断。比如，在审核阶段判断图片是色情，但不下处罚，色情图片等级可以划分为12禁、18禁、部分裸露等，如果这个图片对应的商品在穆斯林国家，则图片删除，全部色情风险商品都要下架，如果这个图片对应的商品在欧洲国家，则部分裸露商品是可以售卖的。
可选地，存储器106，与处理器102相连接，还用于为处理器102提供处理以下处理步骤的指令：在对检测任务进行检测之后，获取处罚策略，处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系；根据处罚策略及检测任务的审核结果，执行处罚操作。
在该实施例中，在处理器102对检测任务进行检测之后，可以获取处罚策略，该处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系，其中，处罚操作也即针对当前风险类型下的待检测信息的审核结果，所进行的处罚手段。
可选地，处罚策略根据风险的定义和当前风险类型来细分。比如，图片是部分裸露的，如果这个图片对应的商品在穆斯林国家，则图片删除，全部色情风险商品都要下架，如果这个图片对应的商品在欧洲国家，则商品是可以售卖的。
可选地，当前风险类型为色情图片，准入规则是命中色情算法的图片，成立的任务进入复审，针对的检测对象可以为图片的统一资源定位符(Uniform Resource Locator，简称为URL)、业务、主体ID、则处罚策略为主体是商品，色情成立，则执行删除图片，并且商品下架；主体是帖子，色情成立，则执行删除帖子，禁止发帖操作。
在处理器102获取处罚策略之后，根据处罚策略及检测任务的审核结果，执行处罚操作，可以根据处罚策略和当前风险类型下的风险结果，执行处罚手段
可选地，该实施例的准入规则包括以下至少之一：业务类型、主体对象。
在该实施例中，准入规则用于指示风险类型对应的风险特征，其中，风险类型也即待检测信息的类型；业务类型可以为与待检测信息对应的业务的类型，不同的业务都会审文字、图片、视频等内容；主体对象可以为待检测信息针对的主体对象，比如，主体对象为图片、帖子等。
可选地，存储器106，与处理器102相连接，还用于为处理器102提供处理以下处理步骤的指令：在对检测任务进行检测之后，根据风险元信息，计算检测任务的任务准确率，任务准确率用于指示准确命中风险的比例；若任务准确率小于预设阈值，对检测任务进行复审。
在该实施例中，抽检是指从已完成任务中随机抽样出若干数据，进行抽样检查，从而核对已完成任务的准确率。在该实施例中，在处理器102对检测任务进行检测之后，可以获取风险元信息，该风险元信息可以是风险指标，维度包括但不限于准确率规则、命中词准确率、算法准确率、类目准确率、卖家风险值、平台风险值。在处理器102获取风险元信息之后，根据风险元信息，计算检测任务的任务准确率，该任务准确率用于指示准确命中风险的比例，比如，根据风险元信息动态计算任务准确率，可以根据如下公式进行计算，P(任务准确率)＝F(准确率规则，命中词准确性，算法准确率，类目准确率，卖家风险值，平台风险值…)。
可选地，在计算任务准确率时，P1(准确率规则)＝M(规则命中的任务中人工判定违规的数量)/N(规则命中的任务总量)；P2(命中词准确性)＝M(关键词命中的任务中人工判定违规的数量)/N(关键词命中的任务总量)；P3(算法准确率)＝M(算法命中的任务中人工判定违规的数量)/N(算法命中的任务总量)；P4(类目准确率)＝M(审核任务类目人工判定违规的数量)/N(审核任务类目的任务总量)；P5(卖家风险值)＝卖家风险分等；则P(任务准确率)＝a1*P1+a2*P2+a3*P3+...其中(a1、a2、a3分别用于表示各风险元信息的权重系数)。
在处理器102计算出检测任务的任务准确率之后，判断任务准确率是否小于预设阈值，如果判断出任务准确率小于预设阈值，对检测任务进行复审。比如，在计算得到的任务准确率P低于预设阈值Px，则该检测任务进行复审。通过该方法可以将抽检机制流程化、系统化，进去抽检的任务都是疑似度高的任务，从而提高了抽检的有效性。
在处理器102对检测任务进行复审之后，推送复审通知给复审小二，复审小二在收到复审通知之后，及时检查任务的准确率，从而提高了复审的时效性。收到复审结果后更新任务准确率。任务准确率低的进入质量考核流程，比如，进入掺题考核，该掺题考核是指在用户普通的任务中，按一定比率掺入考题，通过答案的准确率来判断整体的答案准确率。考核未通过的复审小二则淘汰掉。
可选地，在审核任务总量不大的风险类型下，可以通过任务冗余进行信息审核，该任务冗余是指同一个风险审核任务分发给多个终端进行处理，根据多份处理结果，来判断当前任务的最终结论，通过任务冗余的方式最终提高任务的准确率。
该实施例可以进行风险元信息的补充，包括但不限于已有审核任务的违规信息，也可以从识别的其它途径进行补充；该风险元信息的补充，可以是实时的，也可以定期迭代，此处不做限制。
下面结合优选的实施例对本发明的技术方案进行举例说明。
图2是根据本发明实施例的一种信息处理系统的示意图。如图2所示，该信息处理系统200包括：风险类型管理模块202、风险类型识别模块204、任务管理模块206和风险类型处罚模块208。
风险类型管理模块202，用于实现风险类型管理，可以用于实现风险类型对应的创建、修改等；风险类型识别模块204，用于风险类型识别，可以在风险进入信息处理系统之后，根据待检测信息、业务信息、内容信息等识别出最合适的风险类型，可以在待检测信息进入信息处理系统之后，根据风险类型对应的准入规则，将待检测信息打上风险类型标签；任务管理模块206，用于实现任务管理，可以用于任务的创建、分发、审核等，可以根据待检测信息和识别出的风险类型，创建检测任务，比如，确定待检测信息对应的风险类型，根据风险类型中的任务描述，从待检测信息中提取对应的信息，创建检测任务，在对检测任务进行检测时，可以只针对任务的待检测信息、风险等级进行判断；风险类型处罚模块208，用于实现风险类型处罚，用于在任务审核判断出风险是否成立之后，根据风险类型、主体等信息做出对应的处罚，可以根据处罚策略，和当前风险类型下的风险结果，执行处罚手段。
图3是根据本发明实施例的另一种信息处理系统的示意图。如图3所示，该信息处理系统300包括：任务管理模块302、准确率评估模块304、准确率管理模块306、复审模块308、通知模块310和考试模块312。
该实施例的信息处理系统用于实时质量考核，任务管理模块302，用于任务的创建、分发、审核；准确率评估模块304，用于根据准确率配置信息、待检测信息、人员信息动态评估准确率；准确率管理模块306，用于配置准确率通过的规则；复审模块308，用于复审任务的创建、分发、审核；考试模块312，用于考试的管理，执行质量考核流程。
该实施例基于风险类型对应的审核，使得信息更有针对性，从而提高审核的准确率和效率；并且引入风险等级识别,能动态识别计算任务的风险等级，做到高风险优先审核，低风险后审，能提高业务效果和用户体验；可以使低质量任务优先进入复审，答题低的小二及时干预，能以较低成本提高任务的质量，提高了信息处理审核的效率。
实施例2
根据本发明实施例，还提供了一种信息处理方法的实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
本申请实施例2所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。图4是根据本发明实施例的一种用于实现信息处理方法的计算机终端(或移动设备)的硬件结构框图。如图4所示，计算机终端40(或移动设备40)可以包括一个或多个(图中采用402a、402b，……，402n来示出)处理器402(处理器402可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)、用于存储数据的存储器404、以及用于通信功能的传输装置406。除此以外，还可以包括：显示器、输入/输出接口(I/O接口)、通用串行总线(USB)端口(可以作为I/O接口的端口中的一个端口被包括)、网络接口、电源和/或相机。本领域普通技术人员可以理解，图4所示的结构仅为示意，其并不对上述电子装置的结构造成限定。例如，计算机终端40还可包括比图4中所示更多或者更少的组件，或者具有与图4所示不同的配置。
应当注意到的是上述一个或多个处理器402和/或其他数据处理电路在本文中通常可以被称为“数据处理电路”。该数据处理电路可以全部或部分的体现为软件、硬件、固件或其他任意组合。此外，数据处理电路可为单个独立的处理模块，或全部或部分的结合到计算机终端40(或移动设备)中的其他元件中的任意一个内。如本申请实施例中所涉及到的，该数据处理电路作为一种处理器控制(例如与接口连接的可变电阻终端路径的选择)。
存储器404可用于存储应用软件的软件程序以及模块，如本发明实施例中的信息处理方法对应的程序指令/数据存储装置，处理器402通过运行存储在存储器404内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述的应用程序的信息处理方法。存储器404可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器404可进一步包括相对于处理器402远程设置的存储器，这些远程存储器可以通过网络连接至计算机终端40。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置406用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端40的通信供应商提供的无线网络。在一个实例中，传输装置406包括一个网络适配器(Network Interface Controller，NIC)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置406可以为射频(Radio Frequency，RF)模块，其用于通过无线方式与互联网进行通讯。
显示器可以例如触摸屏式的液晶显示器(LCD)，该液晶显示器可使得用户能够与计算机终端40(或移动设备)的用户界面进行交互。
此处需要说明的是，在一些可选实施例中，上述图4所示的计算机设备(或移动设备)可以包括硬件元件(包括电路)、软件元件(包括存储在计算机可读介质上的计算机代码)、或硬件元件和软件元件两者的结合。应当指出的是，图4仅为特定具体实例的一个实例，并且旨在示出可存在于上述计算机设备(或移动设备)中的部件的类型。
在上述运行环境下，本申请提供了如图5所示的信息处理方法。需要说明的是，该实施例的信息处理方法可以由图1所示实施例的移动终端执行。
图5是根据本发明实施例的一种信息处理方法的流程图。如图5所示，该方法包括以下步骤：
步骤S502，获取待检测信息。
例如，在电商平台上，商家发布的商品信息会存在风险，比如，商家发布商品可能是法律禁止销售的产品，为保证平台商品合法，就需要对商品信息进行检测。
本实施例的待检测信息可以包括检测的对象或者任务。以关键词审核为例，待检测信息包括关键词命中信息(例如，关键词以及关键词的位置)；以图片审核为例，待检测信息包括图片命中信息(例如，图片)，比如，一个商品被色情模型命中了，那么待检测信息包括被命中的图片。
步骤S504，确定待检测信息对应的风险类型。
在本发明上述步骤S504提供的技术方案中，风险类型包括但不限于色情、暴力、政治等。可选地，根据待检测信息识别出待检测信息对应的风险类型，比如，风险(即上述的待检测信息)进入信息处理系统后，根据风险信息、业务信息、内容信息等识别出最合适的风险类型，可以在待检测信息进入信息处理系统后，根据风险类型中的准入规则,将风险打上风险类型标识。该风险类型具有风险特征，该风险特征可以包括业务类型、主体对象等。
步骤S506，根据风险类型对应的任务描述，创建待检测信息对应的检测任务。
在本发明上述步骤S506提供的技术方案中，根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象。
该实施例在信息处理时，只针对当前风险审核必须的信息进行检测，实现场景化审核，以提高信息的针对性和有效性。比如，对商品审核，将商品拆分成文本审核、图片审核等，只针对商品的当前风险审核必须的信息。风险类型具有任务描述，在根据待检测信息，确定待检测信息对应的风险类型之后，确定风险类型对应的任务描述，该任务描述用于指示风险类型对应的检测对象，为对该风险类型下的审核信息的定义。以色情图片审核风险类型为例，则商品图片、商品ID、商品标题即为任务描述；以辱骂命中风险类型为例，则命中词、标题即为任务描述等。
该实施例的检测任务只针对当前风险审核必须的信息，也即，风险类型的审核任务，可以包括色情图片、辱骂文本等，此处不做任何限制。在确定风险类型对应的任务描述之后，根据风险类型对应的任务描述，创建待检测信息对应的检测任务。比如，根据风险类型中的任务描述，从待检测信息中抽取对应的信息，创建检测任务，其中，对应的信息指待检测信息中的命中信息。可选地，待检测信息包括关键词命中信息、图片命中信息等，比如，一个商品被色情模型命中了，则上述对应的信息指命中的图片。
步骤S508，对检测任务进行检测。
在本发明上述步骤S508提供的技术方案中，在创建待检测信息对应的检测任务之后，对检测任务进行检测，得到检测结果。
该实施例在进行任务审核时，可以判断待检测信息是否成立。可选地，该实施例对疑似的风险对象(任务)进行确认，判断是否存在风险，以实现安全审核。在判断风险成立之后，可以根据风险类型、主题等信息做出对应的惩罚手段。
通过上述步骤S502至步骤S508，采用获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测的方式。基于待检测信息对应的风险类型对应的任务描述，创建检测任务，来对检测任务进行检测，也就是说，根据不同的风险类型，只提供与当前风险相关的信息，从而提高了信息的针对性和有效性，避免了信息不集中，针对性不强的问题，从而实现了提高信息处理的效率的技术效果，进而解决了信息处理的效率低的技术问题。
作为一种可选的实施方式，步骤S504，根据待检测信息，确定待检测信息对应的风险类型包括：获取预先设置的准入规则，准入规则用于指示风险类型对应的风险特征；将准入规则与待检测信息进行匹配，识别出待检测信息对应的风险类型。
在该实施例中，在根据待检测信息，确定待检测信息对应的风险类型时，可以获取预先设置的准入规则，该准入规则用于指示风险类型对应的风险特征，可以为一组规则，用于指示风险类型、业务、主体对象等风险特征，此处不做限制。该实施例的准入规则可以与待检测信息进行匹配。在获取预先设置的准入规则之后，将准入规则与待检测信息进行匹配，识别出与待检测信息对应的风险类型，比如，在待检测信息进入信息处理系统之后，可以根据风险类型中的准入规则,将准入规则与待检测信息进行匹配，将待检测信息打上风险类型标识，以对风险类型进行识别，从而确定与待检测信息对应的风险类型，进而根据风险类型对应的任务描述，创建待检测信息对应的检测任务，对检测任务进行检测，实现了提高信息处理的效率的效果。
作为一种可选的实施方式，步骤S506，根据风险类型对应的任务描述，创建待检测信息对应的检测任务包括：基于任务描述，从待检测信息中提取与任务描述对应的信息；根据与任务描述对应的信息，创建检测任务。
在该实施例中，在根据待检测信息，确定待检测信息对应的风险类型之后，可以获取风险类型对应的任务描述，该任务描述用于指示风险类型对应的检测对象，以色情图片审核风险类型为例，商品图片，商品ID，标题即为任务描述；以辱骂命中风险类型为例，命中词、标题即为任务描述。在获取风险类型对应的任务描述之后，根据风险类型对应的任务描述，从待检测信息中提取与任务描述对应的信息，也即，从待检测信息中提取的信息与任务描述相对应。比如，待检测信息包括关键词命中信息、图片命中信息等，一个商品被色情模型命中了，则与任务描述对应的信息为被命中的图片。在基于任务描述，从待检测信息中提取与任务描述对应的信息之后，根据与任务描述对应的信息，创建检测任务，进而对检测任务进行检测，从而实现根据不同的风险类型，只提供当前风险相关的信息，提高了信息的针对性和有效性。
作为一种可选的实施方式，步骤S508，对检测任务进行检测包括：确定检测任务的风险标签及风险等级，得到审核结果，其中，风险标签用于指示待检测信息的类型。
在该实施例中，在根据与任务描述对应的信息，创建检测任务之后，进入对检测任务进行检测的阶段。在对检测任务进行检测的阶段，可以确定检测任务的风险标签以及风险等级，得到审核结果，该审核结果也即当前风险类型下的待检测信息的审核结果，该风险标签用于指示待检测信息的类型，风险等级可以通过规则进行确定，也可以根据算法进行确定，通过识别风险等级,可以动态识别计算任务的风险等级，做到高风险优先审核，低风险后审，从而提高业务效果和用户体验。
作为一种可选的实施方式，在对检测任务进行检测之后，该方法还包括：获取处罚策略，处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系；根据处罚策略及检测任务的审核结果，执行处罚操作。
在该实施例中，在对检测任务进行检测之后，可以获取处罚策略，该处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系，其中，处罚操作也即针对当前风险类型下的待检测信息的审核结果，所进行的处罚手段。
可选地，处罚策略根据风险的定义和当前风险类型来细分。比如，图片是部分裸露的，如果这个图片对应的商品在穆斯林国家，则图片删除，全部色情风险商品都要下架，如果这个图片对应的商品在欧洲国家，则商品是可以售卖的。
可选地，当前风险类型为色情图片，准入规则是命中色情算法的图片，成立的任务进入复审，针对的检测对象可以为图片的URL、业务、主体ID、则处罚策略为主体是商品，色情成立，则执行删除图片，并且商品下架；主体是帖子，色情成立，则执行删除帖子，禁止发帖操作。
作为一种可选的实施方式，准入规则包括以下至少之一：业务类型、主体对象。
在该实施例中，准入规则用于指示风险类型对应的风险特征，其中，风险类型也即待检测信息的类型；业务类型可以为与待检测信息对应的业务的类型，不同的业务都会审文字、图片、视频等内容；主体对象可以为待检测信息针对的主体对象，比如，主体对象为图片、帖子等。
作为一种可选的实施方式，在步骤S508，对检测任务进行检测之后，该方法还包括：根据风险元信息，计算检测任务的任务准确率，任务准确率用于指示准确命中风险的比例；若任务准确率小于预设阈值，对检测任务进行复审。
在该实施例中，抽检是指从已完成任务中随机抽样出若干数据，进行抽样检查，从而核对已完成任务的准确率。在该实施例中，在对检测任务进行检测之后，可以获取风险元信息，该风险元信息可以是风险指标，维度包括但不限于准确率规则、命中词准确率、算法准确率、类目准确率、卖家风险值、平台风险值。在获取风险元信息之后，根据风险元信息，计算检测任务的任务准确率，该任务准确率用于指示准确命中风险的比例，比如，根据风险元信息动态计算任务准确率，可以根据如下公式进行计算，P(任务准确率)＝F(准确率规则，命中词准确性，算法准确率，类目准确率，卖家风险值，平台风险值…)。
可选地，在计算任务准确率时，P1(准确率规则)＝M(规则命中的任务中人工判定违规的数量)/N(规则命中的任务总量)；P2(命中词准确性)＝M(关键词命中的任务中人工判定违规的数量)/N(关键词命中的任务总量)；P3(算法准确率)＝M(算法命中的任务中人工判定违规的数量)/N(算法命中的任务总量)；P4(类目准确率)＝M(审核任务类目人工判定违规的数量)/N(审核任务类目的任务总量)；P5(卖家风险值)＝卖家风险分等；则P(任务准确率)＝a1*P1+a2*P2+a3*P3+...其中(a1、a2、a3分别用于表示各风险元信息的权重系数)。
在计算出检测任务的任务准确率之后，判断任务准确率是否小于预设阈值，如果判断出任务准确率小于预设阈值，对检测任务进行复审。比如，在计算得到的任务准确率P低于预设阈值Px，则该检测任务进行复审。通过该方法可以将抽检机制流程化、系统化，进去抽检的任务都是疑似度高的任务，从而提高了抽检的有效性。
在对检测任务进行复审之后，推送复审通知给复审小二，复审小二在收到复审通知之后，及时检查任务的准确率，从而提高了复审的时效性。收到复审结果后更新任务准确率。任务准确率低的进入质量考核流程，比如，进入掺题考核，该掺题考核是指在用户普通的任务中，按一定比率掺入考题，通过答案的准确率来判断整体的答案准确率。考核未通过的复审小二则淘汰掉。
该实施例可以进行风险元信息的补充，包括但不限于已有审核任务的违规信息，也可以从识别的其它途径进行补充；该风险元信息的补充，可以是实时的，也可以定期迭代，此处不做限制。
下面结合优选的实施方式对本发明实施例的技术方案进行举例说明。
图6是根据本发明实施例的另一种信息处理方法的流程图。如图6所示，该方法包括以下步骤：
步骤S601，获取待检测信息。
获取待检测信息，该待检测信息可以是为风险信息的的对象或者任务。
步骤S602，风险类型识别。
在获取待检测信息之后，进行风险类型识别，根据待检测信息，确定待检测信息对应的风险类型。
步骤S603，创建检测任务。
在风险类型识别之后，根据风险类型对应的任务描述，创建待检测信息对应的检测任务，并对检测任务进行检测。比如，创建色情图片的检测任务，创建辱骂文本的检测任务，从而只针对当前风险审核必须的信息进行检测，实现场景化审核，以提高信息的针对性和有效性。
步骤S604，对检测任务进行检测。
创建待检测信息对应的检测任务之后，对检测任务进行检测，得到检测结果。
步骤S605，执行风险类型处罚逻辑。
在对检测任务进行检测之后，获取处罚策略，处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系，根据处罚策略及检测任务的审核结果，执行风险类型处罚逻辑。
举例而言，当前风险类型为色情图片，准入规则是命中色情算法的图片，成立的任务进入复审，针对的检测对象可以为图片的URL、业务、主体ID、则处罚策略为主体是商品，色情成立，执行删除图片。
该实施例通过获取待检测信息，风险类型识别，创建检测任务，对检测任务进行检测，执行风险类型处罚逻辑，根据不同的风险类型，只提供与当前风险相关的信息，从而提高了信息的针对性和有效性，避免了信息不集中，针对性不强的问题，从而实现了提高信息处理的效率的效果，进而解决了信息处理的效率低的问题。
图7是根据本发明实施例的另一种信息处理方法的流程图。如图7所示，该方法包括以下步骤：
步骤S701，识别待检测信息，进入审核。
识别待检测信息，进入审核阶段。
步骤S702，风险等级识别。
该风险等级识别是可以根据风险等级调整任务优先级的机制，可以是规则，也可以是算法。可以确定检测任务的风险标签及风险等级，得到审核结果。
步骤S703，小二识别。
步骤S704，结果准确率评估。
在对检测任务进行检测之后，可以根据风险元信息，计算检测任务的任务准确率，以进行结果准确率评估。
步骤S705，审核完毕，通知业务。
在审核完毕之后，通知业务，可以将准确率低的任务实时推送给复审小二，复审小二收到通知后及时检查任务的准确率，收到复审结果更新小二的准确率。准确率低的复审小二进入质量考核流程。
图8是根据本发明实施例的另一种信息处理方法的流程图。如图8所示，该方法包括以下步骤：
步骤S801，审核任务。
审核人员检测任务。
步骤S802，准确率评估。
可以根据准确率配置信息、待检测信息、人员信息等动态评估准确率。
步骤S803，判断是否为高风险。
在准确率评估之后，根据准确率判断是否为高风险。如果判断出为高风险，则执行步骤S804，如果判断出不为高风险，执行步骤S801。
步骤S804，推送复审任务，并通知。
在判断是否为高风险之后，如果判断出为高风险，则推送复审任务，并通知。
步骤S805，进行复审。
在推送复审任务，并通知之后，抽检人员进行复审。
步骤S806，计算准确率。
在计算准确率时，可以根据风险元信息动态计算任务准确率：P(任务准确率)＝F(准确率规则，命中词准确性，算法准确率，类目准确率，卖家风险值，平台风险值…)计算准确率。
步骤S807，判断准确率是否低。
在计算准确率之后，判断准确率是否低。如果判断出准确率低，执行步骤S808；如果判断出准确率不低，执行步骤S801。
步骤S808，质量考核。
在判断准确率是否低之后，如果判断出准确率低，则进入质量考核流程。可以按一定比率掺入考题，通过用户考题的准确率来判断用户整体的答案准确率。
步骤S809，判断是否通过考试。
在质量考核之后，判断是否通过考试。如果判断出通过考试，则执行步骤S801；如果判断出没有通过考试，则淘汰。
该实施例基于风险类型对应的审核，打破了现有基于业务范围审核模式，能够提高审核信息的针对性，从而提高审核效率；可以根据风险等级调整任务优先级的机制，根据任务质量动态及时考试，使得动态识别任务答案的准确性，能及时评估审核任务质量，并改进，从而提高了任务审核的效率。
本发明实施例，还提供了一种信息处理方法，包括：获取待检测信息；创建待检测信息对应的检测任务；对检测任务进行检测。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，因为依据本发明，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本发明所必须的。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
实施例3
根据本发明实施例，还提供了一种用于实施上述信息处理方法的信息处理装置。图9是根据本发明实施例的一种信息处理装置的示意图。如图9所示，该信息处理装置900包括：获取模块902、确定模块904、创建模块906、创建模块906和审核模块908。
获取模块902，用于获取待检测信息；
确定模块904，用于根据待检测信息，确定待检测信息对应的风险类型；
创建模块906，用于根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；
审核模块908，用于对检测任务进行检测。
可选地，确定模块904包括：获取单元和匹配单元。获取单元，用于获取预先设置的准入规则，准入规则用于指示风险类型对应的风险特征；匹配单元，用于将准入规则与待检测信息进行匹配，识别出待检测信息对应的风险类型。
可选地，创建模块906包括：提取单元和创建单元。其中，提取单元，用于基于任务描述，从待检测信息中提取与任务描述对应的信息；创建单元，用于根据与任务描述对应的信息，创建检测任务。
可选地，审核模块908包括：确定单元，用于确定检测任务的风险标签及风险等级，得到审核结果，其中，风险标签用于指示待检测信息的类型。
可选地，该装置还包括：第一获取模块和执行模块。其中，第一获取模块，用于在对检测任务进行检测之后，获取处罚策略，处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系；执行模块，用于根据处罚策略及检测任务的审核结果，执行处罚操作。
可选地，该实施例的准入规则包括以下至少之一：业务类型、主体对象。
可选地，该装置还包括：计算模块，用于在对检测任务进行检测之后，根据风险元信息，计算检测任务的任务准确率，任务准确率用于指示准确命中风险的比例；复审模块，用于在任务准确率小于预设阈值时，对检测任务进行复审。
可选地，该实施例的风险元信息包括以下至少之一：准确率规则、命中词准确率、算法准确率、类目准确率、卖家风险值、平台风险值。
此处需要说明的是，上述获取模块902、确定模块904、创建模块906和创建模块906对应于实施例2中的步骤S502至步骤S508，四个模块与对应的步骤所实现的实例和应用风险类型相同，但不限于上述实施例一所公开的内容。需要说明的是，上述模块作为装置的一部分可以运行在实施例2提供的计算机终端40中。
该实施例通过获取模块902获取待检测信息，通过确定模块904根据待检测信息，确定待检测信息对应的风险类型，通过创建模块906根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象，通过审核模块908对检测任务进行检测。基于待检测信息对应的风险类型对应的任务描述，创建检测任务，来对检测任务进行检测，也就是说，根据不同的风险类型，只提供与当前风险相关的信息，从而提高了信息的针对性和有效性，避免了信息不集中，针对性不强的问题，从而实现了提高信息处理的效率的技术效果，进而解决了信息处理的效率低的技术问题。
实施例4
本发明的实施例可以提供一种计算机终端，该计算机终端可以是计算机终端群中的任意一个计算机终端设备。可选地，在本实施例中，上述计算机终端也可以替换为移动终端等终端设备。
可选地，在本实施例中，上述计算机终端可以位于计算机网络的多个网络设备中的至少一个网络设备。
在本实施例中，上述计算机终端可以执行应用程序的信息处理方法中以下步骤的程序代码：获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。
可选地，图10是根据本发明实施例的一种移动终端的结构框图。如图10所示，该计算机终端A可以包括：一个或多个(图中仅示出一个)处理器102、存储器104、以及传输装置106。
其中，存储器可用于存储软件程序以及模块，如本发明实施例中的信息处理方法和装置对应的程序指令/模块，处理器通过运行存储在存储器内的软件程序以及模块，从而执行各种功能应用以及数据处理，即实现上述的信息处理方法。存储器可包括高速随机存储器，还可以包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器可进一步包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至移动终端A。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
处理器可以通过传输装置调用存储器存储的信息及应用程序，以执行下述步骤：获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。
可选的，上述处理器还可以执行如下步骤的程序代码：获取预先设置的准入规则，准入规则用于指示风险类型对应的风险特征；将准入规则与待检测信息进行匹配，识别出待检测信息对应的风险类型。
可选的，上述处理器还可以执行如下步骤的程序代码：基于任务描述，从待检测信息中提取与任务描述对应的信息；根据与任务描述对应的信息，创建检测任务。
可选的，上述处理器还可以执行如下步骤的程序代码：确定检测任务的风险标签及风险等级，得到审核结果，其中，风险标签用于指示待检测信息的类型。
可选的，上述处理器还可以执行如下步骤的程序代码：在对检测任务进行检测之后，获取处罚策略，处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系；根据处罚策略及检测任务的审核结果，执行处罚操作。
可选的，上述处理器还可以执行如下步骤的程序代码：在对检测任务进行检测之后，根据风险元信息，计算检测任务的任务准确率，任务准确率用于指示准确命中风险的比例；若任务准确率小于预设阈值，对检测任务进行复审。
采用本发明实施例，提供了一种信息处理的方案。通过获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；基于待检测信息对应的风险类型对应的任务描述，创建检测任务，来对检测任务进行检测，也就是说，根据不同的风险类型，只提供与当前风险相关的信息，从而提高了信息的针对性和有效性，避免了信息不集中，针对性不强的问题，从而实现了提高信息处理的效率的技术效果，进而解决了信息处理的效率低的技术问题。
本领域普通技术人员可以理解，图10所示的结构仅为示意，计算机终端也可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌声电脑以及移动互联网设备(MobileInternet Devices，MID)、PAD等终端设备。图10其并不对上述电子装置的结构造成限定。例如，计算机终端10还可包括比图10中所示更多或者更少的组件(如网络接口、显示装置等)，或者具有与图10所示不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：闪存盘、只读存储器(Read-Only Memory，ROM)、随机存取器(RandomAccess Memory，RAM)、磁盘或光盘等。
实施例5
本发明的实施例还提供了一种存储介质。可选地，在本实施例中，上述存储介质可以用于保存上述实施例一所提供的信息处理方法所执行的程序代码。
可选地，在本实施例中，上述存储介质可以位于计算机网络中计算机终端群中的任意一个计算机终端中，或者位于移动终端群中的任意一个移动终端中。
可选地，在本实施例中，存储介质被设置为存储用于执行以下步骤的程序代码：获取待检测信息；根据待检测信息，确定待检测信息对应的风险类型；根据风险类型对应的任务描述，创建待检测信息对应的检测任务，其中，任务描述用于指示风险类型对应的检测对象；对检测任务进行检测。
可选地，存储介质还被设置为存储用于执行以下步骤的程序代码：获取预先设置的准入规则，准入规则用于指示风险类型对应的风险特征；将准入规则与待检测信息进行匹配，识别出待检测信息对应的风险类型。
可选地，存储介质还被设置为存储用于执行以下步骤的程序代码：基于任务描述，从待检测信息中提取与任务描述对应的信息；根据与任务描述对应的信息，创建检测任务。
可选地，存储介质还被设置为存储用于执行以下步骤的程序代码：确定检测任务的风险标签及风险等级，得到审核结果，其中，风险标签用于指示待检测信息的类型。
可选地，存储介质还被设置为存储用于执行以下步骤的程序代码：在对检测任务进行检测之后，获取处罚策略，处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系；根据处罚策略及检测任务的审核结果，执行处罚操作。
可选地，存储介质还被设置为存储用于执行以下步骤的程序代码：在对检测任务进行检测之后，根据风险元信息，计算检测任务的任务准确率，任务准确率用于指示准确命中风险的比例；若任务准确率小于预设阈值，对检测任务进行复审。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (13)
1.一种信息处理方法，其特征在于，包括：
获取待检测信息；
确定所述待检测信息对应的风险类型；
根据所述风险类型对应的任务描述，创建所述待检测信息对应的检测任务，其中，所述任务描述用于指示所述风险类型对应的检测对象；
对所述检测任务进行检测。
2.根据权利要求1所述的方法，其特征在于，根据所述待检测信息，确定所述待检测信息对应的风险类型包括：
获取预先设置的准入规则，所述准入规则用于指示风险类型对应的风险特征；
将所述准入规则与所述待检测信息进行匹配，识别出所述待检测信息对应的风险类型。
3.根据权利要求1所述的方法，其特征在于，根据所述风险类型对应的任务描述，创建所述待检测信息对应的检测任务包括：
基于所述任务描述，从所述待检测信息中提取与所述任务描述对应的信息；
根据与所述任务描述对应的信息，创建所述检测任务。
4.根据权利要求1所述的方法，其特征在于，对所述检测任务进行检测包括：
确定所述检测任务的风险标签及风险等级，得到审核结果，其中，所述风险标签用于指示所述待检测信息的类型。
5.根据权利要求4所述的方法，其特征在于，对所述检测任务进行检测之后，还包括：
获取处罚策略，所述处罚策略用于指示风险标签、风险等级以及处罚操作之间的对应关系；
根据所述处罚策略及所述检测任务的审核结果，执行处罚操作。
6.根据权利要求2所述的方法，其特征在于，所述准入规则包括以下至少之一：业务类型、主体对象。
7.根据权利要求1所述的方法，其特征在于，对所述检测任务进行检测之后，还包括：
根据风险元信息，计算所述检测任务的任务准确率，所述任务准确率用于指示准确命中风险的比例；
若所述任务准确率小于预设阈值，对所述检测任务进行复审。
8.根据权利要求7所述的方法，其特征在于，所述风险元信息包括以下至少之一：准确率规则、命中词准确率、算法准确率、类目准确率、卖家风险值、平台风险值。
9.一种信息处理装置，其特征在于，包括：
获取模块，用于获取待检测信息；
确定模块，用于根据所述待检测信息，确定所述待检测信息对应的风险类型；
创建模块，用于根据所述风险类型对应的任务描述，创建所述待检测信息对应的检测任务，其中，所述任务描述用于指示所述风险类型对应的检测对象；
审核模块，用于对所述检测任务进行检测。
10.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行以下步骤：
获取待检测信息；
根据所述待检测信息，确定所述待检测信息对应的风险类型；
根据所述风险类型对应的任务描述，创建所述待检测信息对应的检测任务，其中，所述任务描述用于指示所述风险类型对应的检测对象；
对所述检测任务进行检测。
11.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行以下步骤：
获取待检测信息；
根据所述待检测信息，确定所述待检测信息对应的风险类型；
根据所述风险类型对应的任务描述，创建所述待检测信息对应的检测任务，其中，所述任务描述用于指示所述风险类型对应的检测对象；
对所述检测任务进行检测。
12.一种移动终端，其特征在于，包括：
处理器；
信息采集装置，与所述处理器相连接，用于获取待检测信息；
存储器，与所述处理器相连接，用于为所述处理器提供处理以下处理步骤的指令：根据所述待检测信息，确定所述待检测信息对应的风险类型；根据所述风险类型对应的任务描述，创建所述待检测信息对应的检测任务，其中，所述任务描述用于指示所述风险类型对应的检测对象；对所述检测任务进行检测。
13.一种信息处理方法，其特征在于，包括：
获取待检测信息；
创建所述待检测信息对应的检测任务；
对所述检测任务进行检测。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810215764.0A CN110309373B (zh) | 2018-03-15 | 2018-03-15 | 信息处理方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810215764.0A CN110309373B (zh) | 2018-03-15 | 2018-03-15 | 信息处理方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110309373A true CN110309373A (zh) | 2019-10-08 |
| CN110309373B CN110309373B (zh) | 2023-12-15 |
Family
ID=68073834
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810215764.0A Active CN110309373B (zh) | 2018-03-15 | 2018-03-15 | 信息处理方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110309373B (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112084110A (zh) * | 2020-09-08 | 2020-12-15 | 北京百度网讯科技有限公司 | 数据处理方法、装置、设备以及存储介质 |
| CN112417441A (zh) * | 2020-11-09 | 2021-02-26 | 深圳依时货拉拉科技有限公司 | 一种数据处理的方法、装置、计算机设备及计算机可读存储介质 |
| CN113765895A (zh) * | 2021-08-13 | 2021-12-07 | 北京奇艺世纪科技有限公司 | 一种直播间的审核方法及装置 |
| CN112084110B (zh) * | 2020-09-08 | 2024-05-28 | 北京百度网讯科技有限公司 | 数据处理方法、装置、设备以及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2013060186A1 (zh) * | 2011-10-27 | 2013-05-02 | 腾讯科技（深圳）有限公司 | 网址风险检测的处理方法及装置 |
| CN107464113A (zh) * | 2017-07-27 | 2017-12-12 | 无锡雅座在线科技股份有限公司 | 交易行为的风险确定方法及装置 |
| CN107609948A (zh) * | 2017-09-25 | 2018-01-19 | 上海携程商务有限公司 | 风险订单的检测方法及其系统、存储介质、电子设备 |
| CN107633173A (zh) * | 2017-09-06 | 2018-01-26 | 广州金山安全管理系统技术有限公司 | 文件处理方法和装置 |
-
2018
- 2018-03-15 CN CN201810215764.0A patent/CN110309373B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2013060186A1 (zh) * | 2011-10-27 | 2013-05-02 | 腾讯科技（深圳）有限公司 | 网址风险检测的处理方法及装置 |
| CN107464113A (zh) * | 2017-07-27 | 2017-12-12 | 无锡雅座在线科技股份有限公司 | 交易行为的风险确定方法及装置 |
| CN107633173A (zh) * | 2017-09-06 | 2018-01-26 | 广州金山安全管理系统技术有限公司 | 文件处理方法和装置 |
| CN107609948A (zh) * | 2017-09-25 | 2018-01-19 | 上海携程商务有限公司 | 风险订单的检测方法及其系统、存储介质、电子设备 |
Non-Patent Citations (1)
| Title |
|---|
| 陈青民等: "云安全平台环境下信息安全预警系统研究", 《网络安全技术与应用》 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112084110A (zh) * | 2020-09-08 | 2020-12-15 | 北京百度网讯科技有限公司 | 数据处理方法、装置、设备以及存储介质 |
| CN112084110B (zh) * | 2020-09-08 | 2024-05-28 | 北京百度网讯科技有限公司 | 数据处理方法、装置、设备以及存储介质 |
| CN112417441A (zh) * | 2020-11-09 | 2021-02-26 | 深圳依时货拉拉科技有限公司 | 一种数据处理的方法、装置、计算机设备及计算机可读存储介质 |
| CN113765895A (zh) * | 2021-08-13 | 2021-12-07 | 北京奇艺世纪科技有限公司 | 一种直播间的审核方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110309373B (zh) | 2023-12-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108985347A (zh) | 分类模型的训练方法、店铺分类的方法及装置 | |
| CN108446813A (zh) | 一种电商服务质量综合评价的方法 | |
| CN106549974A (zh) | 预测社交网络账户是否恶意的设备、方法及系统 | |
| CN108363662A (zh) | 一种应用程序测试方法、存储介质及终端设备 | |
| CN108900388A (zh) | 用于监控网络质量的方法和设备 | |
| CN108062303A (zh) | 垃圾短信的识别方法及装置 | |
| CN105160554A (zh) | 一种游戏问卷调查数据处理方法及其装置 | |
| CN109118316A (zh) | 线上店铺真实性的识别方法和装置 | |
| CN110309373A (zh) | 信息处理方法及装置 | |
| CN108269116A (zh) | 一种广告安全监测方法和装置 | |
| CN110298662A (zh) | 交易重复提交的自动化检测方法及装置 | |
| CN105515909B (zh) | 一种数据采集测试方法和装置 | |
| CN110309402A (zh) | 检测网站的方法和系统 | |
| CN108704312A (zh) | 美术资源的测试方法及装置 | |
| CN107944374A (zh) | 视频数据中特定对象检测方法及装置、计算设备 | |
| CN108629355A (zh) | 用于生成工作量信息的方法和装置 | |
| CN116467607B (zh) | 信息匹配方法和存储介质 | |
| CN107368399A (zh) | 一种线上网页监控方法及系统 | |
| CN105844540A (zh) | 工单处理方法及装置 | |
| CN109727674A (zh) | 一种基因检测报告的解读方法及装置 | |
| KR101150909B1 (ko) | 가상번호를 이용한 설문 조사 서비스 제공 시스템 및 방법 | |
| CN110297751A (zh) | 页面元素的检测方法、装置、存储介质及处理器 | |
| CN114936160A (zh) | 一种产品的测试需求范围分析方法及装置 | |
| CN107330069A (zh) | 一种多媒体数据处理方法及其装置、服务器、存储介质 | |
| CN114564405A (zh) | 一种基于日志监控的测试案例检查方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40015539 Country of ref document: HK |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |