CN103188530A

CN103188530A - 分级内容审核系统

Info

Publication number: CN103188530A
Application number: CN 201110455267
Authority: CN
Inventors: 李丕
Original assignee: DALIAN TTVI TECHNOLOGY Co Ltd
Current assignee: DALIAN TTVI TECHNOLOGY Co Ltd
Priority date: 2011-12-30
Filing date: 2011-12-30
Publication date: 2013-07-03

Abstract

本发明公开了一种分级内容审核系统，其特征在于包括：内容审核中心、客户端集中管理服务器、内容审核客户端；内容审核客户端和内容审核中心均负责内容审核功能，内容审核客户端对其所播放的实时流文件或者本地文件进行审核，并且及时封杀违禁文件、上传可疑文件到内容审核中心，内容审核中心处理内容审核客户端的审核请求，分析、检索、评估并且对播放违禁内容的节目源封杀。本发明的分级内容审核系统不仅可以对文字自动审核，而且可以对视频文件、音频文件、实时电视流、实时网络流媒体自动审核，该系统不仅在服务器端进行审核，而且在客户端也可以进行审核，避免了人工审核方式的各种弊端。

Description

分级内容审核系统

技术领域

本发明属于信息处理领域，特别是一分级内容审核系统。

背景技术

传统的内容审查是将制作好的节目磁带送到审查部门用人眼主观审查。随着宽带流媒体技术的发展，网络流媒体势头正劲，这在一定程度上又加重了节目审核的复杂性和难度。节目发布形式和资源获取渠道的多样性都加重了节目审核的难度，仅靠人工审核已经远远不能适应社会的发展，不能满足群众文化的需要了。

传统的节目审核监督法规缺少与之相应的技术手段，“以人为主”的内容监管方法实际效果不佳。在送交审查部门用人眼主观审查的过程中，节目的送审需要大量的人力，物力；对于海量的节目，该方式工作量过大，节目审查难以贯彻执行，使得一些不符合国家标准的节目鱼目混珠。

发明内容

针对现有人工审核节目所存在的上述问题，本发明提出了一分级内容审核系统。本发明采用的技术手段如下：

一种分级内容审核系统，其特征在于包括：内容审核中心、客户端集中管理服务器、内容审核客户端；

内容审核客户端和内容审核中心均负责内容审核功能，内容审核客户端对其所播放的实时流文件或者本地文件进行审核，并且及时封杀违禁文件、上传可疑文件到内容审核中心，内容审核中心处理内容审核客户端的审核请求，分析、检索、评估并且对播放违禁内容的节目源封杀。

本发明的分级内容审核系统不仅可以对文字自动审核，而且可以对视频文件、音频文件、实时电视流、实时网络流媒体自动审核，该系统不仅在服务器端进行审核，而且在客户端也可以进行审核，避免了人工审核方式的各种弊端。

附图说明

图1为本发明的分级内容审核系统的原理图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。

如图1所示，本发明的系统包括：内容审核中心1；客户端集中管理服务器2；内容审核客户端3。内容审核客户端3和内容审核中心1均负责内容审核功能，内容审核客户端3对其所播放的实时流文件或者本地文件进行审核，并且及时封杀违禁文件、上传可疑文件到内容审核中心1，内容审核中心1处理内容审核客户端3的审核请求，分析、检索、评估并且对播放违禁内容的节目源封杀。

内容审核客户端3包括：审核管理调度服务器11、视频分析服务器集群12、违禁内容检索集群13、策略服务器14、内容审核监视服务器15。

审核管理调度服务器11能够处理实时的网络流、电视流，也能够处理内容审核客户端3的内容审核请求，其又包括：一个网络数据接收接口、一个视频分析接口、一个违禁数据库接口、一个已审核文件数据库、一个核心控制模块、一个基本配置模块、一个UI模块。其中，网络数据接收接口负责接收网络传来的流媒体数据或者客户端的内容审核请求；视频分析接口主要负责审核管理调度单元与视频分析服务器集群的通信；违禁数据库接口主要负责审核管理调度单元与违禁内容检索集群的通信；已审核文件数据库存储已经审核后的违禁文件的基本信息，包括文件ID、文件源路径名、上传文件IP地址、评估分数、违禁等级、审核完成时间字段；核心控制模块主要负责控制被审核文件按照分析、检索、评估、人工审核、审核结果处理几个步骤来进行内容审核；基本配置模块主要负责提供审核管理调度单元所需要的系统参数，包括视频分析服务器、人脸识别分析服务器、语音分析服务器、字幕分析服务器和审核策略服务器的IP地址；UI模块提供用户交互界面。

视频分析服务器集群12又包括：视频分析服务器、字幕分析服务器、音频分析服务器、人脸识别分析服务器、融合分析服务器。各个分析服务器均需要分析其所对应的文件，提取其特征数据，提供分析结果。如果审核管理调度服务器11请求视频分析，视频分析服务器集群12中的各个服务器还需要检索违禁内容检索集群13，计算出评估结果；如果策略服务器14请求视频分析，视频分析服务器集群12中的各个服务器要将分析结果存储成为XML格式并返回给策略服务器14。

违禁内容检索集群13包括：违禁元信息数据库、违禁图片特征数据库、违禁人脸特征数据库、违禁音频特征数据库、违禁字幕特征数据库、检索服务器。其中，违禁元信息数据库记录违禁文件的元信息，包括文件ID、文件名称、文件类型(包括文字、视频、音频、图片)、关键字、违禁级别、文件处理状态；违禁图片特征数据库记录违禁视频文件或者违禁图片的特征信息，包括ID、图像特征信息(XML文件类型)、特征文件URL；违禁人脸特征数据库记录需要封杀的人脸的特征信息，包括ID、图像特征信息(XML文件类型)、特征文件URL；违禁音频特征数据库记录违禁音频文件的特征信息，包括ID、音频特征信息(XML文件类型)、特征文件URL；违禁字幕特征数据库记录违禁视频文件所提取的字幕信息，包括ID、字幕特征信息(XML文件类型)、特征文件URL；检索服务器为视视频分析服务器集群12提供检索接口，为策略服务器14提供入库接口。

策略服务器14管理所有的策略文件，维护内容审核客户端3策略缓存文件、语音训练模型文件(由音频分析服务器产生)、人脸训练模型文件(由人脸识别单元产生)，控制策略生成流程和策略更新流程。该单元包括：策略管理数据库、客户端策略缓存内容控制模块、核心控制模块、输入调度模块、视频分析接口、违禁数据库接口、基本配置模块、UI模块。其中，策略管理数据库负责保存违禁文件的基本信息，包括策略ID、文件类型(文字、视频、音频、图片)、违禁级别、源文件地址；客户端策略缓存内容控制模块负责将每一个违禁文件的信息叠加到内容审核客户端3的策略缓存器的策略缓存文件中，并且记录增量内容和版本信息；核心控制模块负责控制策略更新流程和策略生成流程；输入调度模块负责对违禁视频文件、音频文件、图片文件、文本文件进行保存、分类；视频分析接口负责审核策略单元与视频分析服务器集群的通信；违禁数据库接口负责审核策略单元与违禁内容检索集群的通信；基本配置模块管理视频分析服务器集群12各个机器的IP地址、违禁内容检索集群13各个服务器的服务器名、用户名、密码信息，内容审核监视服务器15的IP地址；UI模块提供用户交互界面。

内容审核监视服务器15负责监视内容审核客户端3使用内容审核软件的情况和单元集中监视违禁信息。

客户端集中管理服务器2包括：对DTV实时节目、IPTV实时节目、DVD实时节目以及本地上传节目等节目源进行缓存的节目源数据缓冲区32；对节目源数据缓冲区32缓存的节目源进行音频解码以及视频解码的解码器33；对解码后音频进行识别的语音识别单元34；存储视频解码策略的分析策略存储器35；对解码后视频进行人脸识别的人脸识别单元36；对解码后视频进行字幕识别的字幕识别单元37；对识别出的音频、人脸视频、字幕视频融合打分后将可疑文件上传给内容审核中心的融合打分单元38；存储内容审核中心1下发的策略的策略缓存器39；对音频和人脸视频进行模拟训练的模拟训练单元40；根据内容审核中心1下发的封杀指令控制节目源数据缓冲区32停止接收相应节目源的封杀控制单元31。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。

Claims

1.一种分级内容审核系统，其特征在于包括：内容审核中心、客户端集中管理服务器、内容审核客户端；

2.根据权利要求1所述系统，其特征在于内容审核客户端包括：审核管理调度服务器、视频分析服务器集群、违禁内容检索集群、策略服务器、内容审核监视服务器。

3.根据权利要求2所述系统，其特征在于审核管理调度服务器包括：一个网络数据接收接口、一个视频分析接口、一个违禁数据库接口、一个已审核文件数据库、一个核心控制模块、一个基本配置模块、一个UI模块；

网络数据接收接口负责接收网络传来的流媒体数据或者客户端的内容审核请求；视频分析接口主要负责审核管理调度单元与视频分析服务器集群的通信；违禁数据库接口主要负责审核管理调度单元与违禁内容检索集群的通信；已审核文件数据库存储已经审核后的违禁文件的基本信息，包括文件ID、文件源路径名、上传文件IP地址、评估分数、违禁等级、审核完成时间字段；核心控制模块主要负责控制被审核文件按照分析、检索、评估、人工审核、审核结果处理几个步骤来进行内容审核；基本配置模块主要负责提供审核管理调度单元所需要的系统参数，包括视频分析服务器、人脸识别分析服务器、语音分析服务器、字幕分析服务器和审核策略服务器的IP地址；UI模块提供用户交互界面。

4.根据权利要求2所述系统，其特征在于视频分析服务器集群包括：视频分析服务器、字幕分析服务器、音频分析服务器、人脸识别分析服务器、融合分析服务器；

各个分析服务器均需要分析其所对应的文件，提取其特征数据，提供分析结果；如果审核管理调度服务器请求视频分析，视频分析服务器集群中的各个服务器还需要检索违禁内容检索集群，计算出评估结果；如果策略服务器请求视频分析，视频分析服务器集群中的各个服务器要将分析结果存储成为XML格式并返回给策略服务器。

5.根据权利要求2所述系统，其特征在于违禁内容检索集群包括：违禁元信息数据库、违禁图片特征数据库、违禁人脸特征数据库、违禁音频特征数据库、违禁字幕特征数据库、检索服务器；

违禁元信息数据库记录违禁文件的元信息，包括文件ID、文件名称、文件类型、关键字、违禁级别、文件处理状态；违禁图片特征数据库记录违禁视频文件或者违禁图片的特征信息，包括ID、图像特征信息、特征文件URL；违禁人脸特征数据库记录需要封杀的人脸的特征信息，包括ID、图像特征信息特征文件URL；违禁音频特征数据库记录违禁音频文件的特征信息，包括ID、音频特征信息、特征文件URL；违禁字幕特征数据库记录违禁视频文件所提取的字幕信息，包括ID、字幕特征信息、特征文件URL；检索服务器为视视频分析服务器集群提供检索接口，为策略服务器提供入库接口。

6.根据权利要求2所述系统，其特征在于策略服务器包括：策略管理数据库、客户端策略缓存内容控制模块、核心控制模块、输入调度模块、视频分析接口、违禁数据库接口、基本配置模块、UI模块；

策略管理数据库负责保存违禁文件的基本信息，包括策略ID、文件类型、违禁级别、源文件地址；客户端策略缓存内容控制模块负责将每一个违禁文件的信息叠加到内容审核客户端的策略缓存器的策略缓存文件中，并且记录增量内容和版本信息；核心控制模块负责控制策略更新流程和策略生成流程；输入调度模块负责对违禁视频文件、音频文件、图片文件、文本文件进行保存、分类；视频分析接口负责审核策略单元与视频分析服务器集群的通信；违禁数据库接口负责审核策略单元与违禁内容检索集群的通信；基本配置模块管理视频分析服务器集群各个机器的IP地址、违禁内容检索集群各个服务器的服务器名、用户名、密码信息，内容审核监视服务器的IP地址；UI模块提供用户交互界面。

7.根据权利要求2所述系统，其特征在于内容审核监视服务器负责监视内容审核客户端使用内容审核软件的情况和单元集中监视违禁信息。

8.根据权利要求1所述系统，其特征在于客户端集中管理服务器包括：

对节目源进行缓存的节目源数据缓冲区；

对节目源数据缓冲区缓存的节目源进行音频解码以及视频解码的解码器；

对解码后音频进行识别的语音识别单元；

存储视频解码策略的分析策略存储器；

对解码后视频进行人脸识别的人脸识别单元；

对解码后视频进行字幕识别的字幕识别单元；

对识别出的音频、人脸视频、字幕视频融合打分后将可疑文件上传给内容审核中心的融合打分单元；

存储内容审核中心下发的策略的策略缓存器；

对音频和人脸视频进行模拟训练的模拟训练单元；

根据内容审核中心下发的封杀指令控制节目源数据缓冲区停止接收相应节目源的封杀控制单元。