CN107566903B - 一种视频过滤设备及方法、视频显示系统 - Google Patents

Abstract

本发明提出了一种视频过滤设备及方法、视频显示系统，该设备包括：信号输入接口、数据采集器、处理器和信号输出接口；该信号输入接口分别与视频源终端和数据采集器相连接，上述处理器分别与数据采集器和信号输出接口相连接，上述信号输出接口与显示终端相连接。本发明实施例通过给出一种独立的视频过滤设备，将该设备设置在视频源终端和显示终端之间，实时对播放前的视频进行不良信息的识别与拦截，不仅能够实现过滤不良信息，达到实时在线视觉防护的效果，提高了对视频播放的管控性，该设备使用方便，具有即插即用的特点，而且便于后续设备的检修、维护与升级，并且该设备对视频进行过滤时既不占用视频源终端的资源，也不占用显示终端的资源。

Description

一种视频过滤设备及方法、视频显示系统

技术领域

本发明涉及信息监控设备技术领域，具体而言，涉及一种视频过滤设备及方法、视频显示系统。

背景技术

目前，随着电子信息社会的快速发展，在人们的日常生活中，各式各样的显示设备作为公共电子屏随处可见，在商业楼、写字楼、学校、医院、体育场馆、车站、机场等场所处处可见各类电子屏的身影，该公共电子屏主要用于政策宣传、商务推广、信息传播、教学示范等等，显然公共电子屏已经成为人们日常生活中公共视觉信息的重要来源。公共电子屏的设立便利了人们的生活，增加了宣传的途径，能够使人们接触新鲜的资讯信息，但是也带来了潜在的视觉污染风险。

例如，近期公共电子屏色情误播事故频繁出现，造成恶劣的社会影响，典型事件有：2014年9月5日广东珠海市北大附属实验学校食堂显示器播放不雅视频；2015年6月23日黑龙江牡丹江市运华广场户外电子屏播放色情视频；2015年8月5日浙江丽水市万地广场户外电子屏播放色情视频；2016年2月12日安徽蚌埠市万达广场一楼中庭电子屏播放色情视频；2016年3月17日陕西西安市在建楼盘户外电子屏播放色情视频；2016年5月4日辽宁锦江市凌河区解放小学三年11班电子白板多次播放色情视频等等，关于在公共电子屏上播放色情、暴力等不良信息的事件频繁发生。

当前，公共电子屏不良信息防护主要依赖视频上传的管理软件与管理制度，通过管理软件和制度约定工作人员在更新视频时对视频进行确认，这样能够在一定程度上防止包含不良信息的视频被误播放，但是存在如下局限性：第一：只是针对视频播放源头的一种因素进行防护，而视频播放源头的风险是多种多样的，包括U盘病毒、网络入侵等多种因素，这些多种源头因素导致的不良信息误播放防不胜防；第二：基于管理人员进行不良信息防护，存在人为因素参与，无法进行考量，仍然可能由于人为控制不力导致包含不良信息的视频误播放；第三：增加了视频源更新上传的难度。

在实现本发明的过程中，发明人发现相关技术中至少存在以下问题：相关技术中主要通过管理人员的管控来避免包含不良信息视频的播放，可能出现由于人为因素参与或者其他不可控因素导致包含不良信息视频的误播放，并未采用技术手段进行控制，也未在视频播放前一刻做到最后防范，导致对包含不良信息视频的播放的可控性差。

发明内容

有鉴于此，本发明实施例的目的在于提供一种视频过滤设备及方法、视频显示系统，从而不仅能够实现过滤不良信息，达到实时在线视觉防护的效果，提高了对视频播放的管控性，该设备使用方便，具有即插即用的特点，而且便于后续设备的检修、维护与升级，并且该设备对视频进行过滤时即不占用视频源终端的资源，也不占用显示终端的资源。

第一方面，本发明实施例提供了一种视频过滤设备，该设备包括：信号输入接口、数据采集器、处理器和信号输出接口；所述信号输入接口分别与视频源终端和所述数据采集器相连接，所述处理器分别与所述数据采集器和所述信号输出接口相连接，所述信号输出接口与显示终端相连接；

所述信号输入接口，用于接收所述视频源终端输出的音视频流数据；

所述数据采集器，用于采集所述信号输入接口传输的所述音视频流数据，并将所述音视频流数据传输至所述处理器；

所述处理器，用于对所述音视频流数据进行不良信息的识别，并拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，将不良信息过滤后的所述音视频流数据传输至所述信号输出接口；

所述信号输出接口，用于将不良信息过滤后的所述音视频流数据传输至所述显示终端，以使所述显示终端显示不良信息过滤后的所述音视频流数据。

结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，所述信号输入接口包括：HDMI输入接口；所述信号输出接口包括：HDMI输出接口。

结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，所述设备还包括：输入驱动器，所述输入驱动器分别与所述信号输入接口和所述数据采集器相连接；

所述输入驱动器，用于对所述信号输入接口传输的信号进行电气标准与接口协议的转换，以逻辑适配所述数据采集器采集的信号的电气标准与接口协议。

结合第一方面，本发明实施例提供了第一方面的第三种可能的实施方式，其中，所述设备还包括：输出驱动器，所述输出驱动器分别与所述处理器和所述信号输出接口相连接；

所述输出驱动器，用于对所述处理器传输的信号进行电气标准与接口协议的转换，以逻辑适配所述信号输出接口传输的信号的电气标准与接口协议。

结合第一方面，本发明实施例提供了第一方面的第四种可能的实施方式，其中，所述处理器包括：基于GPU与CPU协同工作的处理器、或者可编程逻辑器件FPGA。

结合第一方面，本发明实施例提供了第一方面的第五种可能的实施方式，其中，所述设备还包括：第一接口转换装置和/或第二接口转换装置；

所述第一接口转换装置的一端与所述信号输入接口相连接，所述第一接口转换装置的另一端用于适配所述视频源终端的接口；

所述第二接口转换装置的一端与所述信号输出接口相连接，所述第二接口转换装置的另一端用于适配所述显示终端的接口。

结合第一方面至第一方面的第五种可能的实施方式中任一项，本发明实施例提供了第一方面的第六种可能的实施方式，其中，当所述显示终端包括大型公共电子显示屏时，将所述视频过滤设备串接在所述视频源终端的主控电脑和所述显示屏的控制器之间；

当所述显示终端包括多个分显示屏时，将所述视频过滤设备串接在所述视频源终端的主控电脑的输出端和所述显示终端的多路复用器的输入端之间，所述多路复用器的输出端均与多个所述分显示屏相连接；

当所述显示终端包括个人电脑的显示器时，将所述视频过滤设备串接在所述个人电脑的主机和所述个人电脑的显示器之间。

结合第一方面至第一方面的第五种可能的实施方式中任一项，本发明实施例提供了第一方面的第七种可能的实施方式，其中，所述设备还包括：网络接口，所述网络接口与所述处理器相连接，并接入局域网；

所述网络接口，用于接收远端设备发送的设置信息，并将所述设置信息传输至所述处理器；

或者，向用于管理所述视频过滤设备的监控终端传输所述处理器生成的检测结果。

第二方面，本发明实施例还提供了一种视频显示系统，该系统包括：视频源终端、显示终端和上述第一方面至第一方面的第七种可能的实施方式中任一项所述的视频过滤设备；

所述视频过滤设备设置于所述视频源终端和所述显示终端之间，用于对视频源终端输出的音视频流数据进行不良信息过滤，并将过滤后的所述音视频流数据传输至所述显示终端。

第三方面，本发明实施例还提供了一种应用上述第一方面至第一方面的第七种可能的实施方式中任一项所述的视频过滤设备过滤不良信息的方法，该方法包括：

接收所述视频源终端输出的音视频流数据；

利用预先构建的不良信息识别模型对所述音视频流数据进行不良信息的识别；

当识别到所述音视频流数据中包含不良信息时，拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，直到确定所述音视频流数据中不包含不良信息；

当确定所述音视频流数据中不包含不良信息时，将所述音视频流数据传输至显示终端。

在本发明实施例提供的视频过滤设备及方法、视频显示系统中，该设备包括：信号输入接口、数据采集器、处理器和信号输出接口；该信号输入接口分别与视频源终端和数据采集器相连接，上述处理器分别与数据采集器和信号输出接口相连接，上述信号输出接口与显示终端相连接。本发明实施例采用独立的视频过滤设备，将该设备设置在视频源终端和显示终端之间，实时对播放前的视频进行不良信息的识别与拦截，不仅能够实现过滤不良信息，达到实时在线视觉防护的效果，提高了对视频播放的管控性，该设备使用方便，具有即插即用的特点，而且便于后续设备的检修、维护与升级，并且该设备对视频进行过滤时即不占用视频源终端的资源，也不占用显示终端的资源。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1示出了本发明实施例所提供的一种视频过滤设备的机械结构示意图；

图2示出了本发明实施例所提供的另一种视频过滤设备的机械结构示意图；

图3示出了本发明实施例所提供的一种视频过滤设备的电路结构示意图；

图4a示出了本发明实施例所提供的第一种视频过滤设备的应用场景示意图；

图4b示出了本发明实施例所提供的第二种视频过滤设备的应用场景示意图；

图4c示出了本发明实施例所提供的第三种视频过滤设备的应用场景示意图；

图5示出了本发明实施例所提供的一种视频显示系统的结构示意图；

图6示出了本发明实施例所提供的一种应用图1至图4c所示的视频过滤设备过滤不良信息的方法流程示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

考虑到相关技术中主要通过管理人员的管控来避免包含不良信息视频的播放，可能出现由于人为因素参与或者其他不可控因素导致包含不良信息视频的误播放，并未采用技术手段进行控制，也未在视频播放前一刻做到最后防范，导致对包含不良信息视频的播放的可控性差。基于此，本发明实施例提供了一种视频过滤设备及方法、视频显示系统，下面通过实施例进行描述。

如图1所示的一种视频过滤设备的机械结构示意图，在图1中主要示出了该视频过滤设备的正面结构，该视频过滤设备包括外壳壳体111，该外壳壳体111的第一表面设置有：电源总开关112、控制按键区113、设备状态指示区114，其中，控制按键区113设置有开机按钮、复位按钮、直通按钮和停机按钮，设备状态指示区114包括多个与处理器104相连接的指示灯，该指示灯包括：电源指示灯、运行状态指示灯、模式指示灯、正常信息指示灯、不良信息指示灯；

具体的，按下开机按钮设置启动，并运行；按下复位按钮设备重启(当设备出现异常，需要重启时，可以按下复位按钮)；上述直通按钮用于对视频过滤设备的工作模式进行切换，即过滤模式与直通模式之间的切换，考虑到在某些应用场景下无需对视频进行不良信息的过滤处理，此时可以将设备的工作模式切换至直通模式。

具体的，上述电源指示灯，用于指示视频过滤设备的当前通断电状态，可以将该电源指示灯的颜色设置为蓝色，当电源指示灯点亮时，说明视频过滤设备处于通电状态，当电源指示灯熄灭时，说明视频过滤设备处于断电状态；

上述运行状态指示灯，用于指示视频过滤设备的当前运行状态，可以将该运行状态指示灯的颜色设置为绿色，当运行状态指示灯闪烁时，说明视频过滤设备处于不良信息过滤运行状态，当运行状态指示灯熄灭或者长亮时，说明视频过滤设备处于停止运行状态；

上述模式指示灯，用于指示用户所选的视频过滤设备的工作模式，该工作模式包括：过滤模式和直通模式，其中，过滤模式是指对视频进行不良信息的过滤处理；直通模式是指不对视频进行不良信息的过滤处理；

上述正常信息指示灯，用于指示当前检测视频为正常信息；

上述不良信息指示灯，用于指示当前检测视频为不良信息。

另外，需要说明的是，还可以在上述外壳壳体111的第一表面设置触控屏，在触控屏上设置相应的功能图标，通过触控该功能图标来实现上述任一功能。

如图2所示的另一种视频过滤设备的机械结构示意图，在图2中主要示出了该视频过滤设备的背面结构，上述外壳壳体111的第二表面设置有：信号输入接口102、网络接口106、USB接口107、信号输出接口105和电源输入接口108，其中，该USB接口107，用于用户获取处理器104生成的检测结果，该检测结果为处理器104对接收到的音视频流数据进行不良信息过滤的相关记录。

如图3所示，给出了一种视频过滤设备的电路结构示意图，该设备包括：信号输入接口102、数据采集器103、处理器104和信号输出接口105；该信号输入接口102分别与视频源终端和上述数据采集器103相连接，上述处理器104分别与上述数据采集器103和上述信号输出接口105相连接，上述信号输出接口105与显示终端相连接；

上述信号输入接口102，用于接收上述视频源终端输出的音视频流数据；

上述数据采集器103，用于采集上述信号输入接口102传输的上述音视频流数据，并将上述音视频流数据传输至上述处理器104；

上述处理器104，用于对上述音视频流数据进行不良信息的识别，并拦截该音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，将不良信息过滤后的上述音视频流数据传输至上述信号输出接口105，其中，该不良信息包括：色情视频、暴力视频、反动视频等等；

上述信号输出接口105，用于将不良信息过滤后的音视频流数据传输至上述显示终端，以使上述显示终端显示不良信息过滤后的音视频流数据。

也就是说，将包含正常信息的音视频流数据传输至显示终端，而将包含不良信息的音视频流数据中的视频数据和音频数据拦截，阻止该包含不良信息的视频数据和该包含不良信息的视频数据对应的音频数据传输至显示终端。

上述视频过滤设备还包括：Flash存储器，该Flash存储器用于处理器104的软件、固件、配置数据等存储；

上述视频过滤设备还包括：RAM存储器，该RAM存储器用于处理器104的运行缓存。

在本发明提供的视频过滤设备中，采用独立的视频过滤设备，将该设备设置在视频源终端和显示终端之间，实时对播放前的视频进行不良信息的识别与拦截，不仅能够实现过滤不良信息，达到实时在线视觉防护的效果，提高了对视频播放的管控性，该设备使用方便，具有即插即用的特点，而且便于后续设备的检修、维护与升级，并且该设备对视频进行过滤时即不占用视频源终端的资源，也不占用显示终端的资源。

其中，考虑到目前多数显示屏选取HDMI接口，因此，为了能够直接适配大部分显示屏，视频过滤设备的信号输入接口102和信号输出接口105均选用HDMI接口，基于此，上述信号输入接口102包括：HDMI输入接口；上述信号输出接口105包括：HDMI输出接口。

具体的，当视频源终端的输出接口为HDMI接口时，视频源终端通过HDMI-HDMI视频线与上述视频过滤设备的信号输入接口102相连接；同样的，当显示终端的输入接口为HDMI接口时，显示终端通过HDMI-HDMI视频线与上述视频过滤设备的信号输出接口105相连接；

进一步的，考虑到当前的视频源终端和显示终端也可能选用DVI、DP、VGA、SDI等扩展接口，为了使视频过滤设备适配不同接口的视频源终端和显示终端，基于此，上述设备还包括：第一接口转换装置和/或第二接口转换装置，具体的，上述设备还包括第一接口转换装置、或者第二接口转换装置、或者第一接口转换装置和第二接口转换装置；

上述第一接口转换装置的一端与上述信号输入接口102相连接，上述第一接口转换装置的另一端用于适配上述视频源终端的接口；

上述第二接口转换装置的一端与上述信号输出接口105相连接，上述第二接口转换装置的另一端用于适配上述显示终端的接口。

具体的，考虑到不同的电子显示屏的接口可能存在一定的差异，当前公共电子屏内部常用接口有HDMI、DVI、DP、VGA、SDI等接口；当视频源终端的输出接口为DVI、DP、VGA、SDI接口时，视频源终端通过上述第一接口装换装置与上述视频过滤设备的信号输入接口102相连接；同样的，当显示终端的输入接口为DVI、DP、VGA、SDI接口时，显示终端通过第二接口装换装置与上述视频过滤设备的信号输出接口105相连接，从而使得视频过滤设备也可以适配使用VGA、DVI、DP、SDI等接口的公共电子屏。

在本发明提供的实施例中，通过增加接口转换装置，不仅能够适配具有HDMI接口的视频源终端和显示终端，还能够适配具有DVI、DP、VGA、SDI等扩展接口的视频源终端和显示终端，因而，无需改变现有的视频源终端和显示终端的接口，直接将视频过滤设备设置在适当的视频传输链路即可，能够实现即插即用的效果。

进一步的，考虑到信号输入接口102为标准的HDMI电气规格和接口协议，需要转换为适合数据采集器103直接采集的电气和接口协议，基于此，上述设备还包括：输入驱动器，上述输入驱动器分别与上述信号输入接口102和上述数据采集器103相连接，其中，该输入驱动器也为HDMI输入驱动器；

上述输入驱动器，用于对上述信号输入接口102传输的信号进行电气标准与接口协议的转换，以逻辑适配上述数据采集器103采集的信号的电气标准与接口协议。

同样的，考虑到处理器104和信号输出接口105之间的电气和接口协议存在一定的差异，为了使处理器104输出的数据信号按照标准HDMI电气规格和接口协议传输至信号输出接口105，基于此，上述设备还包括：输出驱动器，该输出驱动器分别与上述处理器104和上述信号输出接口105相连接，其中，该输出驱动器也为HDMI输出驱动器；

上述输出驱动器，用于对上述处理器104传输的信号进行电气标准与接口协议的转换，以逻辑适配上述信号输出接口105传输的信号的电气标准与接口协议。

进一步的，考虑到视频过滤设备的视频源可能存在比较复杂的画面结构和画面素材，并且利用基于深度学习方法训练得到的具有多隐层结构的不良信息识别模型进行不良信息识别，对处理器104的数据处理量和数据处理速度要求比较高，进而，为了应对各种复杂的视频流内容，同时，为了提高处理器104的数据处理速度和不良信息识别精度，基于此，上述处理器104包括：基于GPU与CPU协同工作的处理器104、或者可编程逻辑器件FPGA。

由于利用基于深度学习方法训练得到的具有多隐层结构的不良信息识别模型进行不良信息识别，对数据处理量和数据处理速度要求比较高，该数据处理量一方面表现为利用海量的不良内容训练不良信息识别模型上；另一方面表现为利用训练得到的不良信息识别配置参数配合模型在应用中对具体的视频数据进行分析上；

(1)在不良信息识别模型训练过程中，本发明提供的实施例通过专用的高性能训练服务器中配置高性能GPU显卡，利用GPU显卡的并行运算能力，加快模型训练的速度；

(2)在不良信息识别模型应用过程中，本发明提供的实施例为了兼顾严苛的应用场合，选择NVIDIA工业级的基于GPU与CPU协同工作的处理器104，用来加速实时计算分析，或者，也可将模型处理程序在可编程逻辑器件FPGA中实现，利用可编程逻辑器件FPGA的并行计算的特点实现强大的实时计算能力。

具体的，FPGA(Field－Programmable Gate Array，可编程逻辑器件)，可以用来对接收到的音视频流数据进行不良信息的识别。FPGA是由存放在片内RAM中的程序来设置其工作状态的，因此，工作时需要对片内的RAM进行编程。可以根据不同的配置模式，采用不同的编程方式。加电时，FPGA芯片将片外配置芯片(多为FLASH、EPROM等)中数据读入片内编程RAM中，配置完成后，FPGA进入工作状态。掉电后，FPGA恢复成白片，内部逻辑关系消失，因此，FPGA能够反复使用。FPGA的编程无须专用的FPGA编程器，只须用通用的FLASH、EPROM、PROM编程器即可。当需要修改FPGA功能时，只需更新片外配置芯片编程数据即可。这样，同一片FPGA，不同的编程数据，可以产生不同的电路功能。因此，FPGA的使用非常灵活。

在本发明提供的实施例中，考虑到利用基于深度学习方法训练得到的具有多隐层结构的不良信息识别模型进行不良信息识别，对处理器104的数据处理量和数据处理速度要求比较高，选用基于多核CPU流程控制及GPU并行加速构建混合高性能处理器104，或者选用可编程逻辑器件FPGA作为不良信息识别过程实现的核心部件，能够增强视频过滤设备的温度、湿度、振动、电磁兼容等性能，更有利于设备应用于较为严苛的环境或者视频源可能存在比较复杂的画面结构和画面素材中，能够有效提高不良信息识别速度和识别精度，并且能够避免处理器104在数据处理过程中受到环境的干扰。

进一步的，考虑到不良信息识别速度可能比音视频流数据传输速度慢，基于此，上述处理器104，还用于对接收到的上述音视频流数据进行缓存处理，并周期提取存储的视频帧，将该视频帧传输至处理器104中的不良信息识别模块，该不良信息识别模块通过不良信息识别模型来判断视频帧中是否存在不良信息；

进一步的，上述处理器104中用于识别视频中不良信息的不良信息识别模型需要预先构建；其中，该不良信息识别模型是在专用的高性能训练服务器中训练得到的，然后，将训练得到的不良信息识别模型的参数配置放到上述处理器104中，以便后续处理器104利用该不良信息识别模型对接收到的音视频流数据进行不良信息的识别，具体的，该不良信息识别模型是通过如下方式构建的：

利用深度学习方法对选取的不良信息样本进行深度神经网络训练，得到不良信息识别模型，该不良信息识别模型为多隐层的机器学习模型，其中，通过收集海量的包含不良信息的图像、视频作为不良信息样本，使用该不良信息样本对模型进行训练优化特征参数，在深度学习的过程中不断提高识别精度，从而最终提升分类或预测的准确性；

上述处理器104，具体用于对待识别的音视频流数据中的视频数据进行分帧处理，得到多个视频帧，其中，可以以视频帧为单位进行不良信息的识别，音视频流数据中还包含每个视频帧对应的音频数据；

对上述各个视频帧进行图像处理，提取敏感图像区域，得到该视频帧图像中多个待识别的图像区域，具体的，需要对视频帧进行变换和滤波操作，去除无关内容，提取潜在的图像区域和内容，再对提取出的潜在的图像区域和内容进行形状分析、数学形态学、特性过滤处理，确定多个待识别的图形区域；

利用预先构建的不良信息识别模型计算各个上述待识别的图像区域的不良信息匹配度，根据各个不良信息匹配度计算上述视频帧的不良信息加权平均值；

当上述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；

当确定出上述视频帧为包含不良信息的视频帧时，拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定视频帧为不包含不良信息的视频帧；

当确定出上述视频帧为不包含不良信息的视频帧时，将该视频帧传输至信号输出接口105。

在本发明提供的实施例中，利用预先训练好的具有多隐层结构的不良信息识别模型进行不良信息识别，基于多层神经网络的深度学习智能模型适用于大数据(海量图像)的分析与识别，提高了对视频中不良信息的识别速度，从而可以实现及时、快速地将视频中不良信息拦截，减缓用户看到的视频的延迟性。

进一步的，考虑到可能存在不良信息误识别的情况，并且不良视频帧通常是多个不良视频帧连续出现的，正常视频帧通常也是连续出现的，避免由于误判将正常信息进行拦截或者将不良信息传输至信号输出接口105，基于此，上述处理器104，具体用于当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；若是，则向信息截断开关发送拦截指令，拦截该包含不良信息的视频帧和该视频帧对应的音频数据，阻止包含不良信息的视频帧和该视频帧对应的音频数据传输至信号输出接口105，直到确定视频帧为不包含不良信息的视频帧；

当首次确定出视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；判断当前累计的所述正常视频帧出现次数是否大于正常次数阈值；若是，则向信息截断开关发送通过指令，控制不包含不良信息的视频帧传输至信号输出接口105。

其中，为了保证不良视频帧出现次数的准确性，每次从拦截指令切换至通过指令后，将不良视频帧出现次数清零；当信息截断开关执行通过指令且首次识别到视频帧为包含不良信息的视频帧时，开始对不良视频帧出现次数进行计数；

同样的，为了保证正常视频帧出现次数的准确性，每次从通过指令切换至拦截指令后，将正常视频帧出现次数清零；当信息截断开关执行拦截指令首次识别到视频帧为不包含不良信息的视频帧时，开始对正常视频帧出现次数进行计数。

进一步的，为了避免信息截断开关出现反复通断的现象，基于此，上述处理器104，还用于设置信息截断开关的最短关断时间；

对应的，上述处理器104，具体用于当当前累计的所述正常视频帧出现次数大于正常次数阈值时，判断当前拦截时间是否大于上述最短关断时间，若大于，则向信息截断开关发送通过指令。

在本发明提供的实施例中，考虑到可能存在不良信息误识别的情况，并且不良视频帧通常是多个不良视频帧连续出现的，正常视频帧通常也是连续出现的，采用上述视频截断方式，能够快速、准确地将识别出的包含不良信息的视频源进行拦截，避免由于误判将正常信息进行拦截，同时，也避免信息截断开关出现反复通断的现象。

进一步的，为了实现视频播放前一秒对视频数据流进行不良进行过滤处理，更好地实现视觉防护的效果，因而，针对不同的应用场景，上述视频过滤设备所设置的位置也有所不同，在本发明提供的实施例中给出主要三种上述视频过滤设备的应用场景，具体如下：

第一种应用场景，应用于商业楼、写字楼等场所的广告显示屏，或者，应用于学校、医院、体育场馆、车站、机场等场所的公共信息显示屏，如图4a所示，当上述显示终端30包括大型公共电子显示屏时，将视频过滤设备10串接在上述视频源终端20的主控电脑201和上述显示屏的控制器301之间；

视频过滤设备10接收视频源终端20的主控电脑201传输的音视频流数据，对该音视频流数据进行不良信息过滤处理，并将过滤处理后的音视频流数据传输至显示屏的控制器301，该控制器301控制大型户外显示屏显示经视频过滤设备10进行不良信息过滤处理后的音视频流数据，其中，对该音视频流数据进行不良信息过滤处理包括：对接收到的音视频流数据进行不良信息的识别，并拦截该音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据；

第二种应用场景，应用于大型商场、超市等场所的多路广告信息显示屏，或者，应用于学校、医院、体育场馆、车站、机场等场所的多路信息显示屏，如图4b所示，当上述显示终端30包括多个分显示屏时，将视频过滤设备10串接在上述视频源终端20的主控电脑201的输出端和上述显示终端30的多路复用器302的输入端之间，上述多路复用器302的输出端均与多个上述分显示屏相连接；

视频过滤设备10接收视频源终端20的主控电脑201传输的音视频流数据，对该音视频流数据进行不良信息过滤处理，并将过滤处理后的音视频流数据传输至显示终端30的多路复用器302的输入端，该多路复用器302控制多个分显示屏显示经视频过滤设备10进行不良信息过滤处理后的音视频流数据，能够保证多路复用器302所有输出的音视频流数据的安全性，其中，对该音视频流数据进行不良信息过滤处理包括：对接收到的音视频流数据进行不良信息的识别，并拦截该音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据；

第三种应用场景，应用于家庭个人电脑、网吧电脑等场所的电脑显示器，如图4c所示，当上述显示终端30包括个人电脑的显示器时，将上述视频过滤设备10串接在上述个人电脑的主机和上述个人电脑的显示器之间；

视频过滤设备10接收个人电脑的主机传输的音视频流数据，对该音视频流数据进行不良信息过滤处理，并将过滤处理后的音视频流数据传输至个人电脑的显示器，该显示器显示经视频过滤设备10进行不良信息过滤处理后的音视频流数据，能够保证青少年接触到的视频信息的健康性，其中，对该音视频流数据进行不良信息过滤处理包括：对接收到的音视频流数据进行不良信息的识别，并拦截该音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据；

另外，还可以在视频过滤设备10上设置密码锁，处理器104当接收到密码信息和关机指令时，判断该密码信息是否正确，若是，则执行关闭视频过滤设备10动作，以防止青少年为了接触不良视频，将视频过滤设备10关闭，其中，该密码信息的输入方式可以是指纹输入、按键输入、或者瞳孔输入，对应的，上述密码锁包括：指纹识别器、信息输入按键、瞳孔识别器；

或者，处理器104当接收到关闭指令时，向预设的用户终端发送关机提示信息，以使用户终端对视频过滤设备10的关机情况进行监控。

需要说明的是，还可以将视频过滤设备10集成到个人电脑的显示器中。

进一步的，为了便于远程对视频过滤设备10进行升级和维护，以及便于远程对视频过滤设备10的不良信息检测情况进行统计与分析，基于此，上述设备还包括：网络接口106，该网络接口106与上述处理器104相连接，并接入局域网；

上述网络接口106，用于接收远端设备发送的设置信息，并将上述设置信息传输至上述处理器104，以使该处理器104使用上述设置信息对该视频过滤设备10进行升级与维护；

或者，向用于管理上述视频过滤设备10的监控终端传输上述处理器104生成的检测结果，以使监控终端对各个视频过滤设备10的检测结果进行统计与分析。

在本发明提供的实施例中，通过在视频过滤设备10上设置网络接口106，能够便于远程对视频过滤设备10进行升级和维护，以及便于远程对视频过滤设备10的不良信息检测情况进行统计与分析。

本发明实施例还提供了一种视频显示系统，如图5所示，该系统包括：视频源终端20、显示终端30和上述视频过滤设备10；

上述视频过滤设备10设置于上述视频源终端20和上述显示终端30之间，用于对视频源终端20输出的音视频流数据进行不良信息过滤，并将过滤后的上述音视频流数据传输至上述显示终端30，其中，对该音视频流数据进行不良信息过滤处理包括：对接收到的音视频流数据进行不良信息的识别，并拦截该音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据。

同样的，对于视频显示系统，针对上述三种不同的应用场景，上述视频过滤设备所设置的位置也有所不同，如图4a至4c所示，具体如下：

第一种应用场景，应用于商业楼、写字楼等场所的广告显示屏，或者，应用于学校、医院、体育场馆、车站、机场等场所的公共信息显示屏，如图4a所示，当上述显示终端30包括大型公共电子显示屏时，将视频过滤设备10串接在上述视频源终端20的主控电脑201和上述显示屏的控制器301之间；

视频过滤设备10接收视频源终端20的主控电脑201传输的音视频流数据，对该音视频流数据进行不良信息过滤处理，并将过滤处理后的音视频流数据传输至显示屏的控制器301，该控制器301控制大型户外显示屏显示经视频过滤设备10进行不良信息过滤处理后的音视频流数据；

第二种应用场景，应用于大型商场、超市等场所的多路广告信息显示屏，或者，应用于学校、医院、体育场馆、车站、机场等场所的多路信息显示屏，如图4b所示，当上述显示终端30包括多个分显示屏时，将视频过滤设备10串接在上述视频源终端20的主控电脑201的输出端和上述显示终端30的多路复用器302的输入端之间，上述多路复用器302的输出端均与多个上述分显示屏相连接；

视频过滤设备10接收视频源终端20的主控电脑201传输的音视频流数据，对该音视频流数据进行不良信息过滤处理，并将过滤处理后的音视频流数据传输至显示终端30的多路复用器302的输入端，该多路复用器302控制多个分显示屏显示经视频过滤设备10进行不良信息过滤处理后的音视频流数据，能够保证多路复用器302所有输出的音视频流数据的安全性；

第三种应用场景，应用于家庭个人电脑、网吧电脑等场所的电脑显示器，如图4c所示，当上述显示终端30包括个人电脑的显示器时，将上述视频过滤设备10串接在上述个人电脑的主机和上述个人电脑的显示器之间；

视频过滤设备10接收个人电脑的主机传输的音视频流数据，对该音视频流数据进行不良信息过滤处理，并将过滤处理后的音视频流数据传输至个人电脑的显示器，该显示器显示经视频过滤设备10进行不良信息过滤处理后的音视频流数据，能够保证青少年接触到的视频信息的健康性。

在本发明提供的视频显示系统中，采用独立的视频过滤设备10，将该设备设置在视频源终端20和显示终端30之间，实时对播放前的视频进行不良信息的识别与拦截，不仅能够实现过滤不良信息，达到实时在线视觉防护的效果，提高了对视频播放的管控性，该设备使用方便，具有即插即用的特点，而且便于后续设备的检修、维护与升级，并且该设备对视频进行过滤时即不占用视频源终端20的资源，也不占用显示终端30的资源。

本发明实施例还提供了一种应用上述视频过滤设备10过滤不良信息的方法，如图6所示，该方法包括步骤S602-S608，具体为：

步骤S602：接收上述视频源终端20输出的音视频流数据；

步骤S604：利用预先构建的不良信息识别模型对上述音视频流数据进行不良信息的识别；

步骤S606：当识别到上述音视频流数据中包含不良信息时，拦截该音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，直到确定上述音视频流数据中不包含不良信息；

步骤S608：当确定上述音视频流数据中不包含不良信息时，将上述音视频流数据传输至显示终端30。

在本发明提供的实施例中，采用独立的视频过滤设备10来进行不良信息的识别与拦截，将该设备设置在视频源终端20和显示终端30之间，实时对播放前的视频进行不良信息的识别与拦截，不仅能够实现过滤不良信息，达到实时在线视觉防护的效果，提高了对视频播放的管控性，该设备使用方便，具有即插即用的特点，而且便于后续设备的检修、维护与升级，并且该设备对视频进行过滤时即不占用视频源终端20的资源，也不占用显示终端30的资源。

进一步的，考虑到不良信息识别速度可能比音视频流数据传输速度慢，基于此，上述步骤S602：接收上述视频源终端20输出的音视频流数据之后，还包括：

对接收到的上述音视频流数据进行缓存处理，并周期提取存储的视频帧，将该视频帧传输至处理器104中的不良信息识别模块；

进一步的，上述用于识别视频中不良信息的不良信息识别模型需要预先构建；该不良信息识别模型是在专用的高性能训练服务器中训练得到的，再将训练得到的不良信息识别模型的参数配置放到上述处理器104中，以便后续处理器104利用该不良信息识别模型对接收到的音视频流数据进行不良信息的识别，该不良信息识别模型是通过如下方式构建的：

利用深度学习方法对选取的不良信息样本进行深度神经网络训练，得到不良信息识别模型，该不良信息识别模型为多隐层的机器学习模型，其中，通过收集海量的包含不良信息的图像、视频作为不良信息样本，使用该不良信息样本对模型进行训练优化特征参数，在深度学习的过程中不断提高识别精度，从而最终提升分类或预测的准确性；

上述步骤S604：利用预先构建的不良信息识别模型对上述音视频流数据进行不良信息的识别，具体包括：

对待识别的音视频流数据中的视频数据进行分帧处理，得到多个视频帧，其中，可以以视频帧为单位进行不良信息的识别，音视频流数据中还包含每个视频帧对应的音频数据；

对上述各个视频帧进行图像处理，提取敏感图像区域，得到该视频帧图像中多个待识别的图像区域，具体的，需要对视频帧进行变换和滤波操作，去除无关内容，提取潜在的图像区域和内容，再对提取出的潜在的图像区域和内容进行形状分析、数学形态学、特性过滤处理，确定多个待识别的图形区域；

利用预先构建的不良信息识别模型计算各个上述待识别的图像区域的不良信息匹配度，根据各个不良信息匹配度计算上述视频帧的不良信息加权平均值；

当上述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧。

在本发明提供的实施例中，利用预先训练好的具有多隐层结构的不良信息识别模型进行不良信息识别，基于多层神经网络的深度学习智能模型适用于大数据(海量图像)的分析与识别，提高了对视频中不良信息的识别速度，从而可以实现及时、快速地将视频中不良信息拦截，减缓用户看到的视频的延迟性。

进一步的，考虑到可能存在不良信息误识别的情况，并且不良视频帧通常是多个不良视频帧连续出现的，正常视频帧通常也是连续出现的，避免由于误判将正常信息进行拦截或者将不良信息传输至信号输出接口105，基于此，上述步骤S606：当识别到上述音视频流数据中包含不良信息时，拦截该音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，直到确定上述音视频流数据中不包含不良信息，具体包括：

当首次识别到视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；

判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；

若是，则向信息截断开关发送拦截指令，拦截该包含不良信息的视频帧和该视频帧对应的音频数据，阻止包含不良信息的视频帧和该视频帧对应的音频数据传输至信号输出接口105，直到确定视频帧为不包含不良信息的视频帧；

当首次识别到视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；

判断当前累计的所述正常视频帧出现次数是否大于正常次数阈值；

若是，则向信息截断开关发送通过指令，控制不包含不良信息的视频帧传输至信号输出接口105。

其中，为了保证不良视频帧出现次数的准确性，每次从拦截指令切换至通过指令后，将不良视频帧出现次数清零；当信息截断开关执行通过指令且首次识别到视频帧为包含不良信息的视频帧时，开始对不良视频帧出现次数进行计数；

同样的，为了保证正常视频帧出现次数的准确性，每次从通过指令切换至拦截指令后，将正常视频帧出现次数清零；当信息截断开关执行拦截指令首次识别到视频帧为不包含不良信息的视频帧时，开始对正常视频帧出现次数进行计数。

进一步的，为了避免信息截断开关出现反复通断的现象，基于此，上述方法还包括：设置信息截断开关的最短关断时间；

上述若是，则向信息截断开关发送通过指令，具体包括：当当前累计的所述正常视频帧出现次数大于正常次数阈值时，判断当前拦截时间是否大于上述最短关断时间，若大于，则向信息截断开关发送通过指令。

在本发明提供的实施例中，考虑到可能存在不良信息误识别的情况，并且不良视频帧通常是多个不良视频帧连续出现的，正常视频帧通常也是连续出现的，采用上述视频截断方式，能够快速、准确地将识别出的包含不良信息的视频源进行拦截，避免由于误判将正常信息进行拦截，同时，也避免信息截断开关出现反复通断的现象。

在本发明实施例提供的不良信息过滤方法中，采用独立的视频过滤设备10来进行不良信息的识别与拦截，将该设备设置在视频源终端20和显示终端30之间，实时对播放前的视频进行不良信息的识别与拦截，不仅能够实现过滤不良信息，达到实时在线视觉防护的效果，提高了对视频播放的管控性，该设备使用方便，具有即插即用的特点，而且便于后续设备的检修、维护与升级，并且该设备对视频进行过滤时即不占用视频源终端20的资源，也不占用显示终端30的资源。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。在本发明的描述中，需要说明的是，术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，或者是该发明产品使用时惯常摆放的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

在本发明的描述中，还需要说明的是，除非另有明确的规定和限定，术语“设置”、“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。

最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种视频过滤设备，其特征在于，所述设备包括：信号输入接口、数据采集器、处理器和信号输出接口；所述信号输入接口分别与视频源终端和所述数据采集器相连接，所述处理器分别与所述数据采集器和所述信号输出接口相连接，所述信号输出接口与显示终端相连接；

所述信号输入接口，用于接收所述视频源终端输出的音视频流数据；

所述数据采集器，用于采集所述信号输入接口传输的所述音视频流数据，并将所述音视频流数据传输至所述处理器；

所述处理器，用于对待识别的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；对各个视频帧进行图像处理，提取敏感图像区域，得到该视频帧图像中多个待识别的图像区域；利用基于深度学习方法训练得到的具有多隐层结构的不良信息识别模型计算各个上述待识别的图像区域的不良信息匹配度，根据各个不良信息匹配度计算上述视频帧的不良信息加权平均值；当上述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧，当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；若是，阻止包含不良信息的视频帧和该视频帧对应的音频数据传输至信号输出接口，直到确定视频帧为不包含不良信息的视频帧；其中，所述视频数据包括至少一个视频帧；在确定所述视频帧为不包含不良信息后，将不良视频帧出现次数清零，当再次识别到视频帧为包含不良信息的视频帧时，开始对不良视频帧出现次数进行计数；

所述信号输出接口，用于将不良信息过滤后的所述音视频流数据传输至所述显示终端，以使所述显示终端显示不良信息过滤后的所述音视频流数据。

2.根据权利要求1所述的设备，其特征在于，所述信号输入接口包括：HDMI输入接口；所述信号输出接口包括：HDMI输出接口。

3.根据权利要求1所述的设备，其特征在于，所述设备还包括：输入驱动器，所述输入驱动器分别与所述信号输入接口和所述数据采集器相连接；

所述输入驱动器，用于对所述信号输入接口传输的信号进行电气标准与接口协议的转换，以逻辑适配所述数据采集器采集的信号的电气标准与接口协议。

4.根据权利要求1所述的设备，其特征在于，所述设备还包括：输出驱动器，所述输出驱动器分别与所述处理器和所述信号输出接口相连接；

所述输出驱动器，用于对所述处理器传输的信号进行电气标准与接口协议的转换，以逻辑适配所述信号输出接口传输的信号的电气标准与接口协议。

5.根据权利要求1所述的设备，其特征在于，所述处理器包括：基于GPU与CPU协同工作的处理器、或者可编程逻辑器件FPGA。

6.根据权利要求1所述的设备，其特征在于，所述设备还包括：第一接口转换装置和/或第二接口转换装置；

所述第一接口转换装置的一端与所述信号输入接口相连接，所述第一接口转换装置的另一端用于适配所述视频源终端的接口；

所述第二接口转换装置的一端与所述信号输出接口相连接，所述第二接口转换装置的另一端用于适配所述显示终端的接口。

7.根据权利要求1至6任一项所述的设备，其特征在于，当所述显示终端包括大型公共电子显示屏时，将所述视频过滤设备串接在所述视频源终端的主控电脑和所述显示屏的控制器之间；

当所述显示终端包括多个分显示屏时，将所述视频过滤设备串接在所述视频源终端的主控电脑的输出端和所述显示终端的多路复用器的输入端之间，所述多路复用器的输出端均与多个所述分显示屏相连接；

当所述显示终端包括个人电脑的显示器时，将所述视频过滤设备串接在所述个人电脑的主机和所述个人电脑的显示器之间。

8.根据权利要求1至6任一项所述的设备，其特征在于，所述设备还包括：网络接口，所述网络接口与所述处理器相连接，并接入局域网；

所述网络接口，用于接收远端设备发送的设置信息，并将所述设置信息传输至所述处理器；

或者，向用于管理所述视频过滤设备的监控终端传输所述处理器生成的检测结果。

9.一种视频显示系统，其特征在于，所述系统包括：视频源终端、显示终端和如权利要求1-8任一项所述的视频过滤设备；

所述视频过滤设备设置于所述视频源终端和所述显示终端之间，用于对视频源终端输出的音视频流数据进行不良信息过滤，并将过滤后的所述音视频流数据传输至所述显示终端。

10.一种应用权利要求1-8任一项所述的视频过滤设备过滤不良信息的方法，其特征在于，所述方法包括：

接收视频源终端输出的音视频流数据；

对待识别的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；对各个视频帧进行图像处理，提取敏感图像区域，得到该视频帧图像中多个待识别的图像区域；利用基于深度学习方法训练得到的具有多隐层结构的不良信息识别模型计算各个上述待识别的图像区域的不良信息匹配度，根据各个不良信息匹配度计算上述视频帧的不良信息加权平均值；当上述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；

当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；若是，阻止包含不良信息的视频帧和该视频帧对应的音频数据传输至信号输出接口，直到确定视频帧为不包含不良信息的视频帧；其中，所述视频数据包括至少一个视频帧；

在确定所述视频帧为不包含不良信息后，将不良视频帧出现次数清零，当再次识别到视频帧为包含不良信息的视频帧时，开始对不良视频帧出现次数进行计数；

当确定所述音视频流数据中不包含不良信息时，将所述音视频流数据传输至显示终端。

Images