CN105338379A - 一种软广数据监测与挖掘系统及其方法 - Google Patents

Abstract

本发明公开了一种软广数据监测与挖掘系统及其方法，所述系统还包括：客户查询订阅模块：用于客户进行所需硬广数据及软广数据的查询及订阅；客户端：用于对所述客户订阅的数据采取多种方式进行定时推送；所述方法包括如下步骤：数据采集步骤用于对多个电视频道的播出内容基于逐级汇聚采集方案进行视频数据采集；数据存储步骤用于对采集的视频数据进行压缩存储；数据加工步骤用于对压缩存储的视频数据基于提取的特征，进行特征匹配，完成视频数据识别加工，分别生成硬广数据及软广数据；数据挖掘步骤用于对硬广数据及软广数据进行数据挖掘。本发明还公开了一种软广数据监测与挖掘系统。

Description

一种软广数据监测与挖掘系统及其方法

技术领域

本发明涉及广播电视媒体植入广告监测、模式识别和数据挖掘领域，特别涉及一种软广数据监测与挖掘系统及其方法。

背景技术

传统的广告口插播式广告总是在电视节目播放到最精彩的时候抢占屏幕，这种强制性转移观众注意力的广告称为硬广。正是由于硬广的强制性，让它备受观众的抗拒，这也使得硬广的发展遭遇瓶颈，所以广告主开始转向具有更高针对性和低抵抗性的传播方式。广告从业者通过开发利用各种渠道，采用隐性方式进行广告宣传，将商业性广告元素延伸到文化艺术领域，电影、电视剧、综艺节目等电视节目变成了商业广告的媒介载体，成为了广告主争相投放的广告媒体，这就是植入式广告的兴起。比起硬广生硬的插播方式，植入广告和节目融为一体，更显得“绵里藏针”，能达到润物无声的良好效果，大大降低了观众抵抗性的同时，也达到了良好的宣传效果，所以植入式广告又被称为软广。软广植入具有关注度高、广告联想度高、认知度高、渗透力强、易产生话题效应等特点。而正是由于软广具备以上众多的良好特性，所以备受广告主们青睐，因此软广植入数据的监测和挖掘极具商业价值。但是由于软广本身和节目在视频内容上相互参杂，所以软广数据的监测和挖掘工作及其复杂和困难。

目前现有技术中的软广数据的监测和挖掘技术的主要存在在以下几方面问题：

1.视频资源获取难：我国拥有世界上最为丰富的广播电视内容资源，目前包括央视、各省级卫星电视，各市级、各区县地方电视台共3000多套。要获取这么多的电视视频尤为不易，目前的现有技术不能很好的解决广量视频资源自动获取的问题；

2.提取节目视频困难：电视台每天会连续播出的内容包含硬广和软广节目，目前缺乏技术手段提取节目视频；

3.提取软广数据困难：分离出节目视频后，目前缺乏技术手段将与节目混合在一起的软广数据提取出来。

目前有一些公司和机构针对某些特定的节目做软广数据监测，但都是通过网络下载、电视视频录像等渠道获取视频。对于节目中的软广数据监测也是通过人工掐表记录。这种工作模式虽然能在一定程度上能满足商业需求，但是存在人工手动计时误差，效率低下、数据遗漏、人工成本高等问题。另外对于大数据分析、行业趋势预测等商业情报的需求来说，这种方式在数据范围上存在很大的局限性，挖掘价值小。

基于现有技术中存在的种种问题，亟待发现一种全新的软广数据监测与挖掘系统及其方法。

发明内容

本发明所要解决的技术问题在于提供一种软广数据监测与挖掘系统及其方法，以克服现有技术中存在的无法自动采集海量视频资源，软广数据提取需要手工操作，耗费大量人力物力等问题。

为达上述目的，本发明提供了一种软广数据监测与挖掘方法，包括：

数据采集步骤：用于对多个电视频道的播出内容基于逐级汇聚采集方案进行视频数据采集；

数据存储步骤：用于对采集的所述视频数据进行压缩存储；

数据加工步骤：用于对压缩存储的所述视频数据基于提取的特征，进行特征匹配，完成所述视频数据识别加工，分别生成硬广数据及软广数据；

数据挖掘步骤：用于对所述硬广数据及软广数据进行数据挖掘。

上述软广数据监测与挖掘方法，所述方法还包括：

客户查询与订阅步骤：用于客户进行所需所述硬广数据及所述软广数据的查询及订阅；

数据推送步骤：用于对所述客户的订阅数据采取多种方式进行定时推送。

上述软广数据监测与挖掘方法，所述逐级汇聚采集方案为通过设置地市级采集点、省级汇聚点及中央和卫视频道采集点的方式，逐级由所述地市级汇聚到所述省级汇聚点，再到所述中央和卫视频道采集点进行数据采集。

上述软广数据监测与挖掘方法，所述数据加工步骤，包括：

特征提取步骤：用于基于神经网络特征提取技术提取压缩存储的所述视频数据的模板特征；

特征匹配步骤：用于根据所述模板特征，分别匹配识别所述视频数据中的硬广数据、节目数据及软广数据，并进行所述硬广数据、所述节目数据及所述软广数据的保存；

建模步骤：在所述特征匹配步骤中通过所述模板特征无法识别的所述硬广数据、所述节目数据及所述软广数据，通过训练形成新的硬广识别特征、节目识别特征和软广识别特征，对数据进行匹配加工处理后，生成最终的待进行数据挖掘的硬广数据和软广数据。

上述软广数据监测与挖掘方法，所述数据挖掘步骤，包括：

软广数据挖掘步骤：分别对所述软广数据中的新节目、新厂商、新品牌、新产品及新类型根据数据提取方法，进行软广数据挖掘；

硬广数据挖掘步骤：分别对硬广数据中的新厂商、新品牌和新产品根据所述数据提取方法，进行所述硬广数据挖掘。

本发明还提供一种软广数据监测与挖掘系统，采用如上所述软广数据监测与挖掘方法，所述系统包括：

数据采集模块：用于对多个电视频道的播出内容基于逐级汇聚采集方案进行视频数据采集；

数据存储模块：用于对采集的所述视频数据进行压缩存储；

数据加工模块：用于对压缩存储的所述视频数据基于提取的特征，进行特征匹配，完成所述视频数据识别加工，分别生成硬广数据及软广数据；

数据挖掘模块：用于对所述硬广数据及软广数据进行数据挖掘。

上述软广数据监测与挖掘系统，所述系统还包括：

客户查询订阅模块：用于客户进行所需硬广数据及软广数据的查询及订阅；

客户端：用于对所述客户订阅的数据采取多种方式进行定时推送。

上述软广数据监测与挖掘系统，所述数据存储模块包括：加工库、挖掘库和客户库，所述加工库用于存储所述数据加工模块中产生的所有数据；所述挖掘库的一部分数据从所述加工库进行同步，另一部分由数据挖掘模块生成，所述客户库的数据通过主从复制方式由所述挖掘库进行同步。

上述软广数据监测与挖掘系统，所述数据加工模块，包括：

特征提取模块：用于基于神经网络特征提取技术提取压缩存储的所述视频数据的模板特征；

特征匹配模块：用于根据所述模板特征，分别匹配识别所述视频数据中的硬广数据、节目数据及软广数据，并进行所述硬广数据、所述节目数据及所述软广数据的保存；

建模模块：用于对通过所述模板特征无法识别的所述硬广数据、所述节目数据及所述软广数据，通过训练形成新的硬广识别特征、节目识别特征和软广识别特征，对数据进行匹配加工处理后，生成最终的待进行数据挖掘的硬广数据和软广数据。

上述软广数据监测与挖掘系统，所述数据挖掘模块，包括：

软广数据挖掘模块：分别对软广数据中的新节目、新厂商、新品牌、新产品及新类型根据数据提取方法，进行软广数据挖掘；

硬广数据挖掘模块：分别对硬广数据中的电视台情报、广告主情报和行业情报根据对应数据提取方法，进行所述硬广数据挖掘。

与现有技术相比，本发明的有益效果在于：

1)本发明解决了现有技术中软广数据监测与挖掘存在的问题，本发明可以实现自动化的视频采集、节目提取、软广提取、软广数据挖掘及客户端软广数据查询及推送；

2)此外，本系统在提取软广的过程中还附带产出了硬广数据，对于硬广数据进行深入数据挖掘。

附图说明

图1为本发明软广数据监测与挖掘方法流程示意图；

图2为本发明方法另一实施例示意图；

图3为本发明方法详细流程示意图；

图4为本发明方法具体实施例流程示意图；

图5为本发明具体实施例逐级汇聚采集方案示意图；

图6为本发明实施例电视节目播出规律示意图；

图7为本发明实施例建模步骤流程示意图；

图8为本发明实施例节目识别情况示意图；

图9为本发明实施例组装节目效果示意图；

图10为本发明涉及的软广识别方法流程示意图；

图11为图10的详细流程示意图；

图12为本发明软广数据监测与挖掘系统结构示意图；

图13为本发明系统另一实施例结构示意图；

图14为本发明系统详细结构示意图；

图15为本发明系统具体实施例结构示意图。

具体实施方式

下面给出本发明的具体实施方式，结合图示对本发明做出了详细描述。

本发明是针对软广数据监测及数据挖掘而提出的一种监测软广数据，并深入挖掘软广数据的系统及方法，通过对采集的软广数据进行数据加工，利用加工得到的软广数据进一步数据挖掘，以进行软广数据的查询及推送。

图1为本发明方法流程示意图，如图1所示，本发明提供的一种软广数据监测与挖掘方法，包括：

数据采集步骤S10：用于对多个电视频道的播出内容基于逐级汇聚采集方案进行视频数据采集；

数据存储步骤S20：用于对采集的视频数据进行压缩存储；

数据加工步骤S30：用于对压缩存储的视频数据基于提取的特征，进行特征匹配，完成视频数据识别加工，分别生成硬广数据及软广数据；

数据挖掘步骤S40：用于对所述硬广数据及软广数据进行数据挖掘。

进一步的，如图2所示，本发明软广数据监测与挖掘方法另一实施例中，包括上述步骤，还包括：

客户查询与订阅步骤S50：用于客户进行所需硬广数据及软广数据的查询及订阅；

数据推送步骤S60：用于对客户的订阅数据采取多种方式进行定时推送。

上述逐级汇聚采集方案为通过设置地市级采集点、省级汇聚点及中央和卫视频道采集点的方式，逐级由地市级汇聚到省级汇聚点，再到中央和卫视频道采集点进行数据采集。

其中，如图3所示，数据加工步骤S30，包括：

特征提取步骤S301：用于基于神经网络特征提取技术提取压缩存储的视频数据的模板特征；

特征匹配步骤S302：用于根据模板特征，分别匹配识别视频数据中的硬广数据、节目数据及软广数据，并进行硬广数据、节目数据及软广数据的保存；

建模步骤S303：在特征匹配步骤S302中通过模板特征无法识别的硬广数据、节目数据及软广数据，通过训练形成新的硬广识别特征、节目识别特征和软广识别特征，对数据进行匹配加工处理后，生成最终的待进行数据挖掘的硬广数据和软广数据。

其中，如图3所示，数据挖掘步骤S40，包括：

软广数据挖掘步骤S401：分别对软广数据中的新节目、新厂商、新品牌、新产品及新类型根据数据提取方法，进行软广数据挖掘；

硬广数据挖掘步骤S402：分别对硬广数据中的新厂商、新品牌和新产品根据数据提取方法，进行硬广数据挖掘。

以下结合图示，对本发明的具体实施例进行详细说明：

图4为本发明方法具体实施例流程示意图，如图4所示，本发明方法包括：

S1.视频采集步骤：

本发明方法主要针对电视播放内容进行视频采集，信号形式可以是模拟和DVB-C的数字信号。

对模拟电视信号的采集：采用多路调谐器进行接收，数字采集卡进行采集压缩方式。多路调谐器可以将有线电视射频信号转AV模拟信号，支持1路RF射频输入，同步输出4路、8路、12路、16路或者更多路的AV音视频信息。数字采集卡分为硬件采集和软件采集两种，可以以H.264或WMV等格式输出文件，通常支持640*480的分辨率。其原理是模拟电视信号经过解调器解调后，输出AV模拟视频信号。再通过模拟信号转码器，转成TS组播流。

对数字DVB-C电视信号的采集：通常采用嵌入式板卡进行采集，包括解调和解复用功能。输入数字电视QAM信号，输出TS组播流，支持解密。每台设备能解调2个频点。

其原理是：数字电视信号经过QAM解调器解调后，输出ASI信号。再输入到解复用器中，输出TS组播流。一个频点的QAM信号对应一路ASI流；一路ASI流中可能复用多路电视节目。例如：20路电视节目，每4路节目复用到一个TS流中。那么需要5个频点的QAM信号。

本发明具体实施例中，由于在某一城市能够采集到的频道太少，所以特制定以下逐级汇聚采集方案，如图5所示：

1.从北京数据中心可获取中央台和卫视电视数据。地方台电视数据需要通过支持云计算平台的各省节点获取。

2.云计算平台网采用分层结构，每省设立一个省级汇聚点(共30个)，以45M专线带宽与位于北京的数据中心连接。每省设立约10个地市级采集点，与省级汇聚点以2M专线带宽连接。

3.每网点采集4路模拟电视信号，目前采集1200套电视节目，受限于带宽，随机选择实时流播放。离线数据部分，如需某个栏目，根据时间段截取上传。

特别需要说明的是：在本发明具体实施例中，为了提升视频加载效率本系统采集到的视频按时长五分钟分段存储，但本发明并不以此为限；为了系统能够便捷的通过视频计算节目或广告实际播出时间，视频名称以该视频第一帧的实际播出时间按既定规则命名。

S2:压缩存储步骤：

为了节约在线视频存储空间，将S1步骤采集到的视频文件进行转码压缩。系统运用ffmpeg进行压缩转码。考虑到视频质量，此处压缩率(压缩率＝压缩后文件大小/压缩前文件大小*100％)不宜过低。系统控制在80％左右。

S3:特征提取步骤：

运用神经网络特征提取技术提取每个S2得到的视频的音视频特征。

S4:特征匹配步骤

由于电视台播出的内容除了节目外还有很多硬广，需要获取节目，不可避免的需要将硬广剥离出来，所以在获取节目和软广之前，还需要从视频总把硬广拆分出来。故本发明中会有附带产物：硬广。

取模板特征库中的所有硬广和节目片头片尾模板特征，将S3步骤获取到的特征文件和模板库中的所有模板特征进行匹配。该步骤匹配结果主要针对硬广和节目的片头和片尾。

(1)硬广识别

硬广识别后根据视频文件对应的实际播出时间和当前广告相对于当前视频文件起始位置的时间偏移量计算出该条广告的数据播出时间，再根据匹配模板对应的硬广信息将硬广对应的产品、版本、频道、播出时间等信息保存入库。

(2)节目识别

在一段连续时间内，电视台播放的内容一般遵循以下6种规律：

对于同一档节目来说，每期(集)节目的节目内容是不一样的，但是节目的片头和片尾的内容大多数情况下是一致。所以通过片头和片尾的音视频特征进行匹配，就可以定位节目的开始点和结束点。

对某一档节目(尤其是综艺节目)来说，每期节目的播出也有规律可循，所以本系统中建立了一个节目播出规则库，用于辅助节目的自动识别。节目规则库主要记录每档节目的播出周期、是否是重播、每期的开始时间、结束时间、节目时长、所属频道等播出信息。

综上所述，结合电视播出规律，本发明按以下规则提取节目信息(对应6中播出规律)，如图6所示：

存在A片头→A片尾(图中第一列)，此时系统默认将A片头、A片尾以及中间的所有节目段标识为A节目，并将A片头的开始时间和A片尾的结束时间作为A节目的开始时间和结束时间。

存在A片头→B片头(图中第二列)，此时系统默认将A片头以及B片头前的所有节目段标识为A节目，并将A片头的开始时间和B片头前广告口的开始时间作为A节目的开始时间和结束时间。

存在B片尾→A片尾(图中第三列)，此时系统默认将B片尾后的所有节目段以及A片尾标识为A节目，并将B片尾后的广告口的结束时间(如果没有广告口就取B片尾的结束时间)和A片尾的结束时间作为A节目的开始时间和结束时间。

存在A片头→B片头→B片尾→A片尾(图中第四列)，此种情况属于在播放A节目的过程中插播了一个完整B节目，此时将A节目分为三段，具体解析如下：1)将A片头以及B片头前的所有节目段标识为A节目，且A片头的开始时间和B片头前广告口的开始时间作为A节目的开始时间和结束时间；2)将B片头、B片尾及中间的所有节目段均标识为B节目，并将B片头的开始时间和B片尾的结束时间作为B节目的开始时间和结束时间；3)将B片尾后的所有节目段和A片尾标识为A节目，且将B片尾后的广告口的结束时间(如果没有广告口就去B片尾的结束时间)和A片尾的结束时间作为A节目的开始时间和结束时间。

存在A片头→B片尾(图中第五列)，此种情况系统可对A片头后紧跟的节目以及B片尾前紧跟的节目进行命名，但中间的节目段需要标注。

存在A片尾→B片头(图中第六列)，此种情况系统可根据节目规则库中的数据信息进行标识，否则需要进行标注。如同样的时间段内节目库中存在一条节目与当前未知节目的信息基本吻合，可引用节目库中节目的信息当做该节目的信息，但是此条节目信息必须经审核。

当特征匹配出节目的片头片尾后，系统将按以上6种方式把识别出的节目信息持久化到节目库。

(3)软广识别

提取已识别或S5编辑完成的节目对应的视频特征,然后将之与软广模板特征中所有特征进行匹配，将匹配相似度高于80％的数据保存到数据库。未识别的数据进入建模流程。

S5：建模步骤，具体步骤流程如图7所示：

S51：边界截取

经过初步的硬广识别的节目识别后，在每个电视台的播出视频时间轴上，如果将已识别的时间段标记为黑色，未识别的时间段标记为白色，则每个电视台的识别情况如图8所示；

图8中a和b可表示两条(实际情况a和b时间段内可能分别含多条数据，此处为方便理解约定为a、b时间段分别只有一条数据)已识别数据的时间段。那么需要操作的数据c的开始时间即为a的结束时间，c的结束时间即为b的开始时间。基于以上原理，系统将按频道查询一定时间范围内的已识别数据，并推算出未识别数据的开始时间和结束时间段。当查询点击某一时间段时，系统加载该时间段的视频并提供播放。c中可能存在多条广告，所以边界截取主要标记未识别数据的开始点和结束点。系统播放器采用mediaplayer并用其视频帧控件加以视频辅助控制，通过视频帧控件，可以让视频逐帧播放。然后调用播放器和视频帧控件JS接口(以下简称API)，通过定义快捷的方式，分别记录开始点和结束点。根据视频播放进度的某一位置计算广告时间开始时间和结束时间的原理是：在视频播放过程中或当视频暂停到某一位置，当操作员在电脑键盘上敲击标记开始点时。通过API获取到当前视频播放点相对于当前视频文件开始位置的时间偏移量，然后用该偏移量加上该视频对应的时间即可得到广告开始时间，同理可获得结束时间。标记完开始时间和结束时间后，操作员还需要根据视频内容选择数据类型。数据类型包括：广告、节目预告(流程中可视为广告处理)、片头、片尾、节目，最后提交数据即可。边界数据提交后，后台在知识库中自动生成一条模板数据T。如果这条广告(或其他类型)数据最后走完所有流程后审核通过了。那么对模板T进行特征提取，并将存储特征信息到模板特征库，反之则模板T作废。经过截取的节目(段)直接进入节目组装流程。

S52：数据查重

由于不同电视台相近时间范围内或同一电视台不同时间范围内存在播出同样节目和广告的客观情况。如果这些播出的相同的广告和节目是一个全新的版本，那么边界截取完这些相同数据后，这些数据都还分别需要进入后续的所有流程，显然这样会产生冗余操作量。所以在边界截取流程后，系统设置了数据查重的流程。原理如下：

约定通过边界截取获得的两条数据为D1，D2，其对应的模板分别为T1，T2。

分别提取T1,T2的特征，然后将两者特征进行对比，如果相似度超过90％，则废弃T2，保留T1，同时将D2的模板所属改为T1。T2的后续流程由T1代替(系统处理T1相关数据时同时对T2相关数据做相同处理)。如果特征匹配相似度低于90％，则T1，T2都保留，并各自进行后续流程。

S53：边界审核

对经过查重后的模板进行开始时间和结束时间点标记正确性审核，如果有误则打回到边界截取，反之进入命名编辑流程。

S54：命名编辑

对经过边界审核的模板进行命名，命名的过程其实就是给广告添加广告主信息(厂商、品牌、产品等信息)。如果知识库中存在该广告对应的广告主信息，则操作员直接通过知识库检索后给该广告挂接广告主信息。如果知识库中不存在，则由操作员通过互联网检索取得并完善知识库后给该广告挂接广告主信息。如果是节目片头或者片尾，命名需要添加栏目的信息，如果知识库中没有该栏目信息，则有操作员完善知识库再挂接关系。

S55：命名审核

对经过命名编辑的数据进行审核，错误则打回到命名编辑流程，审核通过的硬广(包括节目预告)结束建模流程并等待同步。审核通过的片头和片尾进入下一流程。

S56：自动组装节目

对每个电视频道来说，当所有的广告、片头片尾都审核通过，并且节目段都经过边界截取后，该频道一天内的时间轴上的任意一点对应的时间都能在系统中查询到数据。这时系统将按照前面提到的S4中提到的节目播出规律进行节目组装。所有组装完的节目进入节目审核流程，组装失败的数据进入组装节目流程。

S57：组装节目

本流程主要是对不能识别和自动组装的节目进行组装。首先，系统根据操作员选取的频道和时间范围，加载该频道该时间范围内的广告口、片头、片尾、节目段并按播出时间正排序，效果如图9所示；

图中数据主要分为广告口、节目、片头、片尾，其中标示蓝色的是可操作数据。可操作的数据包括：状态为节目未命名、节目审核打回的节目和状态为已审核的片头片尾。其中，片头的结束时间不可操作，片尾的开始时间不可操作。

当操作员点击某一标蓝的开始时间时，该时间作为节目的开始时间，然后再点击某一标蓝的结束时间时，该时间作为节目的结束时间。如果该节目存在片头或片尾，则片头尾挂接的栏目信息自动关联到本节目。如果当前节目不存在片头尾，则有操作员检索知识库栏目信息，如果知识库没有该栏目信息，则手动录入栏目信息保存数据即可完成该节目的组装工作。

上图中的所有数据可通过点击数据所在行查看视频，如果发现数据边界截取有问题，可直接打回边界截取。

S58：节目审核

针对自动组装的节目进行核查，主要检查节目段组合是否正确，每个节目段边界截取是否正确，节目命名是否正确。如果错误则打回到组装流程，反之则生成最终状态的节目，节目建模流程结束，节目数据等待同步。

S59：软广编辑、审核

运用软广识别技术中的系统推荐方式编辑软广，然后对软广数据进行审核。所有数据通过审核后，生成最终状态的软广数据。

S6:数据同步与主从复制步骤：

为了保证加工、挖掘、客户查询各业务能同时高效运行，系统规划了加工库、挖掘库和客户库。加工库主要存储数据加工过程中所有的数据以及知识库数据。加工产出的最终合格数据进行格式化话将同步到挖掘库，另外知识库通过单向表级主从复制同步到挖掘库。挖掘库产出数据后，通过库级主从复制通知到客户库。

经过加工流程以后，所有软广、硬广的基础数据已经加工完毕，在以上加工环节中，数据都存储在加工库中，这些数据下一步将流向挖掘流程。数据通过定时任务抓取、计算、格式化后同步到挖掘库。

S7：数据挖掘、主从复制步骤

硬广行业情报

行业情报数据对广告主掌握行业动态具有重大意义，本系统提取了行业新厂商、行业新品牌、行业新产品三种行业情报。这三种情报的提取方法类似，在此以行业新厂商为例做出说明：

定义：行业新厂商，在某一个行业小类里第一次出现硬广广告投放的厂商。

提取方法：

给每一条硬广数据设定一个行业新厂商的提取标记flag，flag＝0表示未经过行业新厂商提取处理，flag＝1表示已经过提取处理。

编写定时任务程序，抓取硬广库中未处理的数据，获得数据集合L。

遍历L，获取一条数据D。约定D的播出时间为T，行业为I，厂商为C。

查询硬广库中是否存在行业为I，厂商为C且播出时间早于T的数据。

若不存在，则D是一条行业新厂商情报数据，将D相关信息插入到情报库中。

标记D的flag＝1，循环处理L中下一条数据直到遍历完L中所有数据。

硬广电视台情报

硬广电视台情报对于电视台做客户资源挖掘有着重要意义，本系统提取了电视台新厂商、电视台新品牌、电视台新产品、电视台新行业四种情报。这四种情报的提取方法类似，在此以电视台新厂商为例做出说明：

定义：电视台新厂商，一定周期内(本系统设置了3种周期：30天，90天，180天)在某个电视台第一次出现硬广广告投放的厂商。

提取方法：

给每一条硬广数据设定一个电视台新厂商的提取标记flag，flag＝0表示未经过电视台新厂商提取处理，flag＝1表示已经过提取处理。

编写定时任务程序，抓取硬广库中未处理的数据，获得数据集合L。

遍历L，获取一条数据D。约定D的播出时间为T，电视台为TV，厂商为C，情报周期为S。

查询硬广库中是否存在电视台为TV，厂商为C且播出时间介于T减S和T(不包括T)之间的数据。

若不存在，则D是一条电视台新厂商情报数据，将D相关信息插入到情报库中。

标记D的flag＝1，循环处理L中下一条数据直到遍历完L中所有数据。

(3)硬广广告主情报

硬广广告主情报对广告主掌握竞争对手最新动态有着重要意义。本系统提取了广告主新频道、新地区、新产品、新素材、新类型五种情况，其提取方法类似电视台情报提取方法，在此不做赘述。

软广情报

软广情报对于广告主做投放决策、电视台节目制作、广告植入均有重大意义。本系统提取了新节目、新厂商、新品牌、新产品、新类型五中情报。

新节目：针对某一电视台，某一个节目第一次播出即为新节目。提取规则类似硬广行业情报提取。

新厂商：针对某一节目，该节目第一次出现植入信息的厂商视为新厂商。新品牌、新产品、新类型类似。提取规则类似硬广行业情报提取。

软广、硬广明细数据视频转码及其缩略图生成

根据每条数据的频道和时间，加载对应的视频文件，运用ffmpeg转码技术，对视频进行截取、转码和抽图。

挖掘流程产出的数据通过全库主从复制同步到客户库。

S8：数据推送、客户查询与订阅步骤

a：客户查询与订阅

采用java、android，ios等技术，客户端提供一套web程序和两套移动app，支持客户使用PC浏览器、移动设备查询软广、硬广明细及其挖掘和统计分析数据，同时支持客户订阅数据。

b：数据推送

编写定时任务，定时生成用户的订阅数据，运用javamail技术通过email给客户推送数据；运用android和ios推送技术给移动客户端推送数据。调用微信服务号接口给微信用户推送数据。

如图10所示，本发明上述步骤中涉及的软广识别技术尤为关键，它包括如下步骤：特征提取步骤S10：用于基于神经网络特征提取技术提取节目视频数据特征；特征匹配步骤S20：用于基于特征对节目视频数据进行特征匹配，并根据不同的匹配相似度，采取不同的处理策略；系统推荐步骤S30：用于根据执行不同的处理策略的结果，选取不同的推荐方式，推荐出植入软广信息，完成识别疑似的软广数据；编辑步骤S40：用于针对特征匹配步骤中不能高度匹配特征和系统推荐有误的视频数据，进行加工编辑，生成软广数据；审核步骤S50：用于对系统推荐步骤识别的疑似软广数据和编辑步骤中生成的软广数据，进行最终审核；数据发布步骤S60：用于对最终审核通过的软广数据进行数据发布。

对于特征匹配步骤S20的具体实施步骤如图11所示，它包括：高相似度步骤S201：如果视频数据特征匹配相似度大于范围A，则识别软广数据成功，对识别成功的软广数据进行相应加工处理；疑似处理步骤S202：如果视频数据特征匹配相似度大于范围B，小于范围A，则发现疑似软广数据，进入审核步骤S50处理；低相似度步骤S203：如果视频数据特征匹配相似度小于范围B，则识别软广数据失败，进入系统推荐步骤S30处理；

对于系统推荐步骤S30的具体实施步骤如图11所示，它包括：全自动推荐步骤S301：用于采用视频节目的历史数据，作为推荐识别的软广数据；半自动推荐步骤S302：用于采用根据设定的条件，根据软广植入形式的不同，推荐识别不同的软广数据；高频推荐步骤S303：根据软广数据出现的频率高低，推荐识别软广数据；

对于编辑步骤S40的具体实施步骤包括：广告边界截取步骤S401：用于对视频节目中植入广告的开始点和结束点的广告边界进行定位；推荐方式选择步骤S402：用于根据不同的判断条件分别选择全自动推荐步骤S301、半自动推荐步骤S302或高频推荐步骤S303；检索步骤S403：如果推荐方式选择步骤S402中没有成功识别正确数据，则在知识库中进行信息检索，直至成功识别软广数据。

上述系统推荐分为以下几种：

(1)全自动推荐

根据该节目的历史植入数据，从植入时间偏移量的角度寻找规律，然后根据规律算法推荐出植入信息。这里所说的历史数据，是指该节目在某一特定时间范围(本系统中取值90天)内的所有植入数据。设定节目的开始时间为T,需要系统推荐的节目时间段的开始时间为T1，则T1相对于节目开始点的时间偏移量△T＝T1-T。从软广数据库中统计出该栏目最近90天内所有广告主(在该栏目投放植入投放广告的公司、品牌、产品)的植入偏移量集合为C{△T1,△T2,△T3,…△Tn-1,△Tn}。再计算出C介于△T左右波动5分钟范围内的数据并按接近程度从大到小排序后取前10条数据形成集合S{△S1,△S2,△S3,…△S9,△S10}。集合S即为系统全自动推荐数据；

(2)半自动推荐

半自动推荐需要设定条件，根据软广植入的形式的不同，本系统将软广植入形式分为口播、角标、飞字、贴片、标版、地标、片尾鸣谢、实物摆放、压屏条、灯箱等50多种植入类型，简称软广类型。半自动推荐在全自动推荐的基础上加上软广类型的限制即可得到半自动推荐结果，即全自动推荐和半自动推荐的差别在于半自动推荐获取的历史数据是该栏目最近90天内拥有某一类型植入的所有广告主植入数据。然后计算出对应的植入偏移量集合C,通过C推算出对应的推荐数据集合S。半自动推荐获取偏移量集合C和推荐集合S的算法和全自动一致。但是半自动推荐的数据相对来说更为精确；

(3)高频推荐

前面两种推荐方式主要适用于植入分布时间比较规律的节目，对于植入时间不规律的数据，系统采用高频推荐。获取该栏目最近两期(集)所有软广植入数据并按广告主分组统计每个广告主出现的频率，然后按频率从高到底排序形成推荐结合C。高频推荐不关注广告植入时间的偏移量，只关注广告主在历史植入中的频率。这种推荐思想主要是尽量减少重复操作；

对于经过特征匹配后相似度低于50％的数据。系统默认采用全自动推荐方式进行推荐，系统首先自动计算出推荐集合S,并取S中第一条数据对应的软广信息回填到软广编辑界面。然后由操作员确认正确性，如果确认无误，则点击保存，数据持久化入库。反之，可选择其他推荐方式或直接人工编辑。对于系统的默认推荐方式，可根据每个节目的植入特性设定。同一个栏目只需要设定一次，该栏目以后的节目的推荐方式自动生效。

本发明还提供一种软广数据监测与挖掘系统，采用如上所述软广数据监测与挖掘方法，如图12所示，系统包括：

数据采集模块10：用于对多个电视频道的播出内容基于逐级汇聚采集方案进行视频数据采集；

数据存储模块20：用于对采集的视频数据进行压缩存储；

数据加工模块30：用于对压缩存储的视频数据基于提取的特征，进行特征匹配，完成视频数据识别加工，分别生成硬广数据及软广数据；

数据挖掘模块40：用于对硬广数据及软广数据进行数据挖掘。

本发明软广数据监测与挖掘系统另一实施例中，包括上述模块，如图13所示，还包括：

客户查询订阅模块50：用于客户进行所需硬广数据及软广数据的查询及订阅；

客户端60：用于对客户订阅的数据采取多种方式进行定时推送。

其中，数据存储模块20包括：加工库、挖掘库和客户库，加工库用于存储数据加工模块中产生的所有数据；挖掘库的数据一部分从加工库进行同步，另一部分由数据挖掘模块40提炼生成；客户库的数据通过主从复制方式由挖掘库进行同步。

其中，如图14所示，数据加工模块30，包括：

特征提取模块301：用于基于神经网络特征提取技术提取压缩存储的视频数据的模板特征；

特征匹配模块302：用于根据模板特征，分别匹配识别视频数据中的硬广数据、节目数据及软广数据，并进行硬广数据、节目数据及软广数据的保存；

建模模块303：用于对通过模板特征无法识别的硬广数据、节目数据及软广数据，通过训练形成新的硬广识别特征、节目识别特征和软广识别特征，对数据进行匹配加工处理后，生成最终的待进行数据挖掘的硬广数据和软广数据。

其中，如图14所示，数据挖掘模块40，包括：

软广数据挖掘模块401：分别对软广数据中的新节目、新厂商、新品牌、新产品及新类型根据数据提取方法，进行软广数据挖掘；

硬广数据挖掘模块402：分别对硬广数据中的电视台情报、广告主情报、行业情报根据对应数据提取方法，进行硬广数据挖掘。

以下结合图示对本发明系统具体实施例进行详细描述：

本发明系统具体实施例中，系统共分为6层架构体系，如图15所示，各层结构的功能如下：

视频采集：采集国内某些频道全天24小时播出视频。

数据存储：存储各个环节产生的数据。

数据加工层：针对已有模板特征进行特征比对，从而识别部分硬广、节目片头片尾、软广，对未能识别的软广、节目片头片尾、硬广进行建模并完善知识库。

数据挖掘与同步：对数据加工层生成的数据进行格式化、数据同步并进一步挖掘情报数据，为客户端查询准备数据。

Web应用服务层：为客户端查询提供应用接口服务、客户订阅数据推送。

客户端：系统的数据展现层，主要有PC浏览器、移动web浏览器和手机app。

综上所述，本发明系统利用现代机器学习模式识别技术，创新软广识别技术，制定科学合理的操作流程。将大数据采集、解析、挖掘、数据查询和推送完美的结合在一起并创新运用于广告传媒行业，目前还未发现有更好的整体替代方案。其中关于节目的识别，软广识别均为首开先河。

当然，本发明还可有其它多种实施例，在不背离本发明精神及其实质的情况下，熟悉本领域的技术人员当可根据本发明做出各种相应的改变和变形，但这些相应的改变和变形都应属于本发明所附的权利要求的保护范围。

Claims (10)

1.一种软广数据监测与挖掘方法，其特征在于，包括：

数据采集步骤：用于对多个电视频道的播出内容基于逐级汇聚采集方案进行视频数据采集；

数据存储步骤：用于对采集的所述视频数据进行压缩存储；

数据加工步骤：用于对压缩存储的所述视频数据基于提取的特征，进行特征匹配，完成所述视频数据识别加工，分别生成硬广数据及软广数据；

数据挖掘步骤：用于对所述硬广数据及软广数据进行数据挖掘。

2.根据权利要求1所述软广数据监测与挖掘方法，其特征在于，所述方法还包括：

客户查询与订阅步骤：用于客户进行所需所述硬广数据及所述软广数据的查询及订阅；

数据推送步骤：用于对所述客户的订阅数据采取多种方式进行定时推送。

3.根据权利要求1所述软广数据监测与挖掘方法，其特征在于，所述逐级汇聚采集方案为通过设置地市级采集点、省级汇聚点及中央和卫视频道采集点的方式，逐级由所述地市级汇聚到所述省级汇聚点，再到所述中央和卫视频道采集点进行数据采集。

4.根据权利要求1所述软广数据监测与挖掘方法，其特征在于，所述数据加工步骤，包括：

特征提取步骤：用于基于神经网络特征提取技术提取压缩存储的所述视频数据的模板特征；

特征匹配步骤：用于根据所述模板特征，分别匹配识别所述视频数据中的硬广数据、节目数据及软广数据，并进行所述硬广数据、所述节目数据及所述软广数据的保存；

建模步骤：在所述特征匹配步骤中通过所述模板特征无法识别的所述硬广数据、所述节目数据及所述软广数据，通过训练形成新的硬广识别特征、节目识别特征和软广识别特征，对数据进行匹配加工处理后，生成最终的待进行数据挖掘的硬广数据和软广数据。

5.根据权利要求1所述软广数据监测与挖掘方法，其特征在于，所述数据挖掘步骤，包括：

软广数据挖掘步骤：分别对所述软广数据中的新节目、新厂商、新品牌、新产品及新类型根据数据提取方法，进行软广数据挖掘；

硬广数据挖掘步骤：分别对硬广数据中的新厂商、新品牌和新产品根据所述数据提取方法，进行所述硬广数据挖掘。

6.一种软广数据监测与挖掘系统，采用如权利要求1-5中任一项所述软广数据监测与挖掘方法，其特征在于，所述系统包括：

数据采集模块：用于对多个电视频道的播出内容基于逐级汇聚采集方案进行视频数据采集；

数据存储模块：用于对采集的所述视频数据进行压缩存储；

数据加工模块：用于对压缩存储的所述视频数据基于提取的特征，进行特征匹配，完成所述视频数据识别加工，分别生成硬广数据及软广数据；

数据挖掘模块：用于对所述硬广数据及软广数据进行数据挖掘。

7.根据权利要求6所述软广数据监测与挖掘系统，其特征在于，所述系统还包括：

客户查询订阅模块：用于客户进行所需硬广数据及软广数据的查询及订阅；

客户端：用于对所述客户订阅的数据采取多种方式进行定时推送。

8.根据权利要求6所述软广数据监测与挖掘系统，其特征在于，所述数据存储模块包括：加工库、挖掘库和客户库，所述加工库用于存储所述数据加工模块中产生的所有数据；所述挖掘库的一部分数据从所述加工库进行同步，另一部分由数据挖掘模块生成，所述客户库的数据通过主从复制方式由所述挖掘库进行同步。

9.根据权利要求6所述软广数据监测与挖掘系统，其特征在于，所述数据加工模块，包括：

特征提取模块：用于基于神经网络特征提取技术提取压缩存储的所述视频数据的模板特征；

特征匹配模块：用于根据所述模板特征，分别匹配识别所述视频数据中的硬广数据、节目数据及软广数据，并进行所述硬广数据、所述节目数据及所述软广数据的保存；

建模模块：用于对通过所述模板特征无法识别的所述硬广数据、所述节目数据及所述软广数据，通过训练形成新的硬广识别特征、节目识别特征和软广识别特征，对数据进行匹配加工处理后，生成最终的待进行数据挖掘的硬广数据和软广数据。

10.根据权利要求6所述软广数据监测与挖掘系统，其特征在于，所述数据挖掘模块，包括：

软广数据挖掘模块：分别对软广数据中的新节目、新厂商、新品牌、新产品及新类型根据数据提取方法，进行软广数据挖掘；

硬广数据挖掘模块：分别对硬广数据中的电视台情报、广告主情报和行业情报根据对应数据提取方法，进行所述硬广数据挖掘。