CN101707624A - 一种基于p2p网络的资源内容审核系统和方法 - Google Patents
一种基于p2p网络的资源内容审核系统和方法 Download PDFInfo
- Publication number
- CN101707624A CN101707624A CN200910110153A CN200910110153A CN101707624A CN 101707624 A CN101707624 A CN 101707624A CN 200910110153 A CN200910110153 A CN 200910110153A CN 200910110153 A CN200910110153 A CN 200910110153A CN 101707624 A CN101707624 A CN 101707624A
- Authority
- CN
- China
- Prior art keywords
- retrieval
- content
- resource
- server
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
本发明公开了一种基于P2P网络的资源内容审核系统和方法,通过把音频、视频资源内容分割成多个段,使用多个内容检索节点同时检索,并将检索后的结果上报;上报的检索结果还可以经汇总后生成审核结果报告。采用本发明,可以充分利用P2P网络内各主机节点的服务能力,大大提高内容审核效率,实现在保障内容检索正确的前提下,符合要求的资源内容能够尽快上线。
Description
技术领域
本发明涉及一种基于P2P网络的资源内容审核系统和方法,特别是涉及互联网和P2P系统上传资源的审核,包括音频、视频形式的资源的审核和发布。
背景技术
互联网的发展,带宽的增长,给音、视频网站提供了前所未有的契机。自从网站允许互联网用户上传音、视频内容以后,内容源已经发生了巨大改变。以前资源主要由运营商提供,现在已经转变为资源主要由用户提供。这样一方面极大的丰富了音、视频网站的内容,另一方面因为资源内容良莠不齐,给内容监管带来了困难。
在目前互联网内容爆炸式增长的时代,如何有效的规范视频网站,过滤不健康的内容,给网民提供健康的网络环境,给儿童提供安全的上网空间变得日益重要。
音频、视频内容检索可以通过关键词的过滤和特征码的检索,有效控制网络上发布的资源的内容。为建立安全、健康的网络环境提供技术保障。但是由于用户上传的资源非常多,如果仅仅依靠一个设备进行内容审核将大大影响内容审核的效率,符合要求的内容将不能及时上线,用户的体验就比较差,内容源发布的及时性就比较差。
发明内容
本发明要解决的主要技术问题是,提供一种基于P2P网络的资源内容审核系统和方法,可以充分利用P2P网络内各主机节点的服务能力,大大提高内容审核效率,实现在保障内容检索正确的前提下,符合要求的内容能够尽快上线。
为解决上述技术问题,本发明提供一种基于P2P网络的资源内容审核系统,包括:切片服务器,用于对上传的资源进行切片,生成多个资源内容段;内容检索节点,用于对节点内的内容段进行检索;节点管理服务器,用于将切片服务器生成的内容段下发到内容检索节点,下发的检索命令到所述内容检索节点,以及接收各内容检索节点上报的检索结果。
进一步的,系统还包括:索引服务器,用于存储和组织音频关键词、视频特征码索引,为所述内容检索节点提供检索依据。
进一步的,所述节点管理服务器还用于对上报的检索结果汇总合并;系统还包括:处理服务器,用于接收所述节点管理服务器汇总合并后的检索结果,并结合资源分类标准决定资源是否上线。
本发明还提供一种基于P2P网络的资源内容审核方法,包括以下处理过程:
切片服务器对用户上传的资源进行切片,生成多个资源内容段;
节点管理服务器下发内容段到内容检索节点,并下发检索命令到内容检索节点;
内容检索节点对节点内的内容段进行检索,并上报检索结果到节点管理服务器;
节点管理服务器接收各内容检索节点上报的检索结果。
进一步的,在内容检索节点对节点内的内容段进行检索前,还包括以下处理过程:内容检索节点向索引服务器查询检索条件,索引服务器返回检索条件到内容检索节点。
进一步的,还包括以下处理过程:所述节点管理服务器对上报的检索结果进行汇总合并,然后向处理服务器上报汇总合并后的检索结果,处理服务器结合资源分类标准决定资源是否上线。
本发明通过对资源进行切片,并下发到各主机节点进行分段检索,并汇总合并各分段检索的结果作为资源上线与否的判断依据,提高了资源审核的效率。对于每个主机节点,还可以利用音频、视频检索技术为资源分级,以决定资源是否符合上线要求,效率更高,并且资源检索技术的人工智能技术,可以提供更准确的检索结果,为审核系统提供有效的技术保证。
附图说明
图1为本发明实施例一内容审核系统的系统架构图;
图2为本发明实施例一内容审核系统的切片生成的资源段结构图;
图3为本发明实施例二内容审核方法的流程图。
具体实施方式
下面通过具体实施方式结合附图对本发明作进一步详细说明。
实施例一:
请参考图1,本实施例的内容审核系统,系统中审核的资源为音频、视频资源。系统主要由以下几个部分组成:
切片服务器11:对用户上传的音频、视频资源进行切片,生成多个资源内容段。
节点管理服务器12:管理所有内容检索节点,负责内容段文件的下发,检索命令的下发,检索结果的接收与合并。节点管理服务器管理的内容包括各内容检索节点的检索内容、检索关键词管理、负载均衡等。
各内容检索节点13、14、15:接收管理服务器的检索命令,并向节点管理服务器12上报检索结果。
索引服务器16:存储和组织音频关键词、视频特征码索引,为检索节点提供检索依据。检索服务器会自动比较内容检索节点输出的匹配结果和经过人工修正的匹配结果,并自我学习,提高匹配度。检索服务器同时提供对视频特征码的播放和匹配结果的播放,为人工交互提供接口。方便人工检查匹配结果匹配度和正确性。为内容检索节点提供正反馈。
处理服务器17:根据检索结果,结合资源分类标准将资源打上等级标签,区分资源内容的健康程度,决定资源是否上线。
图2所示为切片后的资源内容段的结构示意图。切片服务器把原始文件切分成一定规格的段文件供节点管理服务器任务分发使用。段文件有两部分组成:
1、段头,段头包括段号、段文件数据长度信息。
2、段体,段的正文部分承载实际的文件数据,发送给检索节点的数据即由此而来。
最后一段的大小由剩下的数据决定,不足的部分不填零。可以采用平均分段的方式实现,即除最后一段外其它各段长度均相等。
实施例二:
参考图3,本实施例中由内容检索节点发起检索请求,系统中检索、审核的资源为音频、视频资源.在检索前,系统中的切片服务器11已经将音频、视频内容分割成大小大致相同的段,图3中的处理流程为多个内容检索节点同时进行检索和上报检索结果的处理流程,具体如下:
S21:内容检索节点向节点管理服务器请求执行任务。
S22:管理服务器下发要执行的任务给检索节点。
S23:内容检索节点向索引服务器查询检索条件。
S24:检索服务器返回检索条件。
S25:内容检索节点执行检索任务;具体过程包括:内容检索节点接收管理服务器的下发检索任务命令,下载段文件,解码资源中的音频、视频帧,并与检索条件中的关键词或视频特征码进行匹配,找到匹配的帧,输出到匹配结果,并标明其在原始资源中的位置。
S26:内容检索节点动态返回检索结果给管理服务器;
S27:检索完成,向管理服务器发送完成消息;
S28:管理服务器汇总所有节点的检索结果报告给处理服务器。
以上内容是结合具体的实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (10)
1.一种基于P2P网络的资源内容审核系统,其特征在于,所述系统包括:
切片服务器,用于对上传的资源进行切片,生成多个资源内容段;
内容检索节点,用于对节点内的内容段进行检索;
节点管理服务器,用于将切片服务器生成的内容段下发到内容检索节点,下发的检索命令到所述内容检索节点,以及接收各内容检索节点上报的检索结果。
2.根据权利要求1所述的基于P2P网络的资源内容审核系统,其特征在于,所述系统还包括:索引服务器,用于存储和组织音频关键词、视频特征码索引,为所述内容检索节点提供检索依据。
3.根据权利要求1或2所述的基于P2P网络的资源内容审核系统,其特征在于,所述节点管理服务器还用于对上报的检索结果汇总合并;所述系统还包括:处理服务器,用于接收所述节点管理服务器汇总合并后的检索结果,并结合资源分类标准决定资源是否上线。
4.根据权利要求2所述的基于P2P网络的资源内容审核系统,其特征在于,所述的检索服务器还用于根据所述内容检索服务器的检索匹配结果自我学习,更新索引。
5.根据权利要求3所述的基于P2P网络的资源内容审核系统,其特征在于,所述的处理服务器还用于根据资源分类标准给资源打上等级标签,并根据等级标签决定资源是否上线。
6.一种基于P2P网络的资源内容审核方法,其特征在于,所述方法包括以下处理过程:
切片服务器对用户上传的资源进行切片,生成多个资源内容段;
节点管理服务器下发内容段到内容检索节点,并下发检索命令到内容检索节点;
内容检索节点对节点内的内容段进行检索,并上报检索结果到节点管理服务器;
节点管理服务器接收各内容检索节点上报的检索结果。
7.根据权利要求6所述的基于P2P网络的资源内容审核方法,其特征在于,所述内容检索节点对节点内的内容段进行检索前,还包括以下处理过程:内容检索节点向索引服务器查询检索条件,索引服务器返回检索条件到内容检索节点。
8.根据权利要求6或7所述的基于P2P网络的资源内容审核方法,其特征在于,还包括以下处理过程:所述节点管理服务器对上报的检索结果进行汇总合并,然后向处理服务器上报汇总合并后的检索结果,处理服务器结合资源分类标准决定资源是否上线。
9.根据权利要求7所述的基于P2P网络的资源内容审核方法,其特征在于,还包括以下处理步骤:检索服务器根据所述内容检索服务器的检索匹配结果自我学习,更新索引。
10.根据权利要求7所述的基于P2P网络的资源内容审核方法,其特征在于,处理服务器结合资源分类标准决定资源是否上线具体为:处理服务器根据资源分类标准给资源打上等级标签,并根据等级标签决定资源是否上线。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN200910110153A CN101707624A (zh) | 2009-11-11 | 2009-11-11 | 一种基于p2p网络的资源内容审核系统和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN200910110153A CN101707624A (zh) | 2009-11-11 | 2009-11-11 | 一种基于p2p网络的资源内容审核系统和方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN101707624A true CN101707624A (zh) | 2010-05-12 |
Family
ID=42377814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN200910110153A Pending CN101707624A (zh) | 2009-11-11 | 2009-11-11 | 一种基于p2p网络的资源内容审核系统和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101707624A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102624688A (zh) * | 2011-11-28 | 2012-08-01 | 苏州奇可思信息科技有限公司 | 服务器可动态分配的复杂音频处理方法 |
CN102622209A (zh) * | 2011-11-28 | 2012-08-01 | 苏州奇可思信息科技有限公司 | 多服务器节点并行音频处理方法 |
CN105812921A (zh) * | 2016-04-26 | 2016-07-27 | Tcl海外电子(惠州)有限公司 | 控制媒体信息播放的方法及终端 |
CN106303549A (zh) * | 2016-08-22 | 2017-01-04 | 北京网智天元科技股份有限公司 | 基于群体智能的电影纠错方法及设备 |
CN109446349A (zh) * | 2018-09-28 | 2019-03-08 | 传线网络科技(上海)有限公司 | 多媒体内容的审核方法及装置 |
CN110275985A (zh) * | 2019-06-26 | 2019-09-24 | 银河水滴科技(北京)有限公司 | 一种视频检索任务的处理方法及处理装置 |
-
2009
- 2009-11-11 CN CN200910110153A patent/CN101707624A/zh active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102624688A (zh) * | 2011-11-28 | 2012-08-01 | 苏州奇可思信息科技有限公司 | 服务器可动态分配的复杂音频处理方法 |
CN102622209A (zh) * | 2011-11-28 | 2012-08-01 | 苏州奇可思信息科技有限公司 | 多服务器节点并行音频处理方法 |
CN105812921A (zh) * | 2016-04-26 | 2016-07-27 | Tcl海外电子(惠州)有限公司 | 控制媒体信息播放的方法及终端 |
CN105812921B (zh) * | 2016-04-26 | 2019-12-03 | Tcl海外电子(惠州)有限公司 | 控制媒体信息播放的方法及终端 |
CN106303549A (zh) * | 2016-08-22 | 2017-01-04 | 北京网智天元科技股份有限公司 | 基于群体智能的电影纠错方法及设备 |
CN106303549B (zh) * | 2016-08-22 | 2020-10-16 | 网智天元科技集团股份有限公司 | 基于群体智能的电影纠错方法及设备 |
CN109446349A (zh) * | 2018-09-28 | 2019-03-08 | 传线网络科技(上海)有限公司 | 多媒体内容的审核方法及装置 |
CN110275985A (zh) * | 2019-06-26 | 2019-09-24 | 银河水滴科技(北京)有限公司 | 一种视频检索任务的处理方法及处理装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109542733B (zh) | 一种高可靠的实时日志收集及可视化检索方法 | |
CN101707624A (zh) | 一种基于p2p网络的资源内容审核系统和方法 | |
CN105069025B (zh) | 一种大数据的智能聚合可视化与管控系统 | |
US20220229812A1 (en) | Systems and computer implemented methods for semantic data compression | |
CN112433998B (zh) | 一种基于电力系统的多源异构数据采集汇聚系统及方法 | |
CN106781455A (zh) | 一种基于云计算的区域高速公路信息化系统 | |
CN104182389A (zh) | 一种基于语义的大数据分析商业智能服务系统 | |
KR20160075971A (ko) | 공공민원 데이터 서비스를 위한 빅 데이터 관리시스템 | |
CN103942210A (zh) | 海量日志信息的处理方法、装置与系统 | |
CN110362544A (zh) | 日志处理系统、日志处理方法、终端及存储介质 | |
CN111949850B (zh) | 多源数据的采集方法、装置、设备及存储介质 | |
CN104462096B (zh) | 舆情监测分析方法和装置 | |
CN108563667A (zh) | 基于新词识别的热门话题采集系统及其方法 | |
CN106330963A (zh) | 一种跨网络多节点日志采集的方法 | |
CN103064842A (zh) | 信息订阅处理装置和信息订阅处理方法 | |
CN106789347A (zh) | 一种基于告警数据实现告警关联和网络故障诊断的方法 | |
US10417287B2 (en) | Compressing short text messages | |
CN108280213A (zh) | 一种大数据的分析系统 | |
CN117251414A (zh) | 一种基于异构技术的数据存储及处理方法 | |
CN106919574B (zh) | 一种实时处理远程同步文件的方法 | |
CN105357317B (zh) | 一种基于多客户端轮循排队的数据上传方法及系统 | |
CN202904579U (zh) | 基于互联网的电力行业风险监控搜索分析引擎装置 | |
CN107832459B (zh) | 基于分布式网络环境的知识库内容分享学习的系统和方法 | |
CN104391949A (zh) | 一种基于数据字典的广域数据资源管理方法 | |
CN113380414A (zh) | 基于大数据的数据采集方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C12 | Rejection of a patent application after its publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20100512 |