CN103686345A - 一种基于数字信号处理器的视频内容比对方法 - Google Patents
一种基于数字信号处理器的视频内容比对方法 Download PDFInfo
- Publication number
- CN103686345A CN103686345A CN201310701259.4A CN201310701259A CN103686345A CN 103686345 A CN103686345 A CN 103686345A CN 201310701259 A CN201310701259 A CN 201310701259A CN 103686345 A CN103686345 A CN 103686345A
- Authority
- CN
- China
- Prior art keywords
- data
- video data
- characteristic vector
- normal video
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
本发明公开了一种基于数字信号处理器的视频内容比对方法,该方法包括:根据负载均衡调度策略,将单频道视频码流数据和标准视频码流数据向各DSP模块转发;DSP模块获取视频数据的关键帧图像序列和标准视频数据的关键帧图像序列;DSP模块利用改进的SIFT算法和TOM算法提取视频数据和标准视频数据的关键帧图像序列的特征,得到视频数据和标准视频数据的特征向量序列,确定同步的视频数据和标准视频数据,若同步的视频数据的特征向量序列和标准视频数据的特征向量序列的相似度大于预设的相似度阈值,则内容相同。本发明数据处理具有实时性,容量大、体积小、功耗低、人工成本低的特点。用以解决视频处理不能满足实时性、大容量、小体积、低功耗要求的问题。
Description
技术领域
本发明涉及视频检测技术领域,特别是涉及一种基于数字信号处理器的视频内容比对方法。
背景技术
随着网络和通信技术的发展,视频应用已经被推广到各个领域,其制作与传播亦无技术门槛,造成视频容量激增、内容泛滥。同时,作为文化和意识形态传播媒介,视频恶意攻击事件频发,对视频监管技术的要求进一步提高。在诸多的监管与检测方法中,视频内容监管可以对视频进行深度检测,是视频监管领域中最为彻底的监管手段。
然而,视频内容监管的实现面临许多问题,主要原因有二:
其一、视频有严格的时基要求,这就要求视频处理器具有较高的实时处理能力,能够严格按照视频的时基进行同步处理。但是,基于x86架构服务器的视频内容分析很难满足实时性要求。
其二、视频具有数据量大的特征,在海量视频数据时代,现有技术的视频内容分析设备很难满足对大量视频数据的内容分析。如何在同等监管容量情况下减小庞大的内容分析设备体积,从而研制出大容量、小体积、低功耗的视频内容分析设备,也是基于内容的视频分析方法要解决的问题。
鉴于以上两个主要问题的存在,视频内容分析的研究尚停留在理论水平和试验阶段。
发明内容
本发明要解决的技术问题是利用多指令流多数据流(MIMD)处理结构和松耦合存储结构并行处理大规模视频数据,降低视频算法的时间复杂度。同时采用多路码流负载均衡调度策略与并行视频处理算法相结合的方式保证视频内容分析的实时性要求,并且将多路多核DSP应用于实时视频内容分析比对中。用以解决现有技术的视频内容分析设备不能满足实时性、大容量、小体积、低功耗要求的问题。
为解决上述技术问题,本发明提供一种基于数字信号处理器的视频内容比对方法,该方法包括以下步骤:接收网络传输的多频道视频码流数据和多频道标准视频码流数据;根据多频道视频码流数据和多频道标准视频码流数据携带的频道信息解复用为单频道视频码流数据和单频道标准视频码流数据,并根据负载均衡调度策略向各个数字信号处理器模块转发单频道视频码流数据和单频道标准视频码流数据;每个数字信号处理器模块解码接收到的视频码流数据和标准视频码流数据,并获取视频码流数据中的视频数据的关键帧图像序列和标准视频码流数据中的标准视频数据的关键帧图像序列;所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,以得到视频数据的特征向量序列和标准视频数据的特征向量序列;基于所述数字信号处理器模块提取的视频数据和标准视频数据的关键帧图像序列的特征,确定同步的视频数据和标准视频数据;在同步的视频数据和标准视频数据中,计算视频数据的特征向量序列和标准视频数据的特征向量序列的相似度;若所述相似度大于预设的相似度阈值,则视频码流数据和标准视频码流数据的内容相同;若所述相似度小于或等于预设的相似度阈值,则视频码流数据和标准视频码流数据的内容不相同。
其中,负载均衡调度策略向各个数字信号处理器模块转发单频道视频码流数据和单频道标准视频码流数据,包括:预先设置各个数字信号处理器模块的优先级,为状态参数为空闲的且优先级最高的数字信号处理器模块转发所述单频道视频码流数据和单频道标准视频码流数据;其中数字信号处理器模块处理的数据量小于预定值时状态参数为空闲。
其中,所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,包括:在所述关键帧图像序列中读取一帧图像数据,作为当前图像数据;从空域上,采用改进的单尺寸SIFT算法提取所述当前图像数据中的特征点并计算特征点的特征向量;其中,所述改进的单尺寸SIFT算法是指在提取特征点时仅进行单尺寸DoG图像数据的多尺度处理;将所述当前图像数据分为左上、右上、左下、右下4个区域;在时域上,从所述图像序列中读取当前图像数据的前3帧图像数据,并获得所述前3帧图像数据的特征点的特征向量;计算所述当前图像数据和所述前3帧图像数据在所述4个区域中对应的每个区域的特征向量分别在8个方向的特征向量均值,以得到所述当前图像数据的特征向量。
其中,所述数字信号处理器模块利用改进的单尺寸SIFT算法和TOM算法,提取视频数据和标准视频数据的关键帧图像序列的特征,以得到视频数据的特征向量序列和标准视频数据的特征向量序列,包括:视频数据的图像序列中的一帧或多帧图像数据的特征向量形成视频数据的特征向量序列;标准视频数据的图像序列中的一帧或多帧图像数据的特征向量形成标准视频数据的特征向量序列。
其中,基于所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,确定同步的视频数据和标准视频数据,包括:在关键帧图像序列中读取一帧图像数据,并计算该图像数据的特征点和特征点的特征向量;在所述图像数据中划定预定范围的同步区域;将所述同步区域划分为4个部分,在每个部分中分别计算8个预定方向上的特征向量的均值,作为所述图像数据的同步区域特征向量,以利用同步区域特征向量确定同步的视频数据和标准视频数据。
其中,基于所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,确定同步的视频数据和标准视频数据,包括:由视频数据包含的图像数据的同步区域特征向量形成视频数据同步区域特征向量序列;选取标准视频数据包含的一帧或多帧图像数据的同步区域特征向量形成标准视频数据同步区域特征向量序列,以作为同步窗口;将所述同步窗口在所述视频数据同步区域特征向量序列上滑动,以在视频数据同步区域特征向量序列中查找与所述同步窗口相同的部分;若查找到与所述同步窗口相同的部分则所述视频数据与所述标准视频数据同步。
其中,将所述同步窗口在所述视频数据同步区域特征向量序列上滑动,以在视频数据同步区域特征向量序列中查找与同步窗口相同的部分,包括:当查找与所述同步窗口相同的部分的时间超过预定时间后,则输出报警信息,以进行报警。
其中,在同步的视频数据和标准视频数据中,计算视频数据的特征向量序列和标准视频数据的特征向量序列的相似度,还包括:若所述相似度小于或等于预设的相似度阈值,则输出报警信息,以进行报警。
本发明有益效果如下:
本发明利用多指令流多数据流(MIMD)处理结构和松耦合存储结构并行处理大规模视频数据,降低视频算法的时间复杂度。同时采用多路码流负载均衡调度策略与并行视频处理算法相结合的方式保证视频内容分析的实时性要求,并且将多路多核DSP应用于实时视频内容分析比对中,来提高视频内容分析设备的处理能力,使处理具有实时性,进而使视频内容分析设备容量大、体积小、功耗低。本发明可以降低人工成本,提高人工效率。
附图说明
图1是根据本发明一实施例的DSP媒体处理板卡硬件结构示意图;
图2是根据本发明一实施例的基于数字信号处理器的视频内容比对方法的示意图;
图3是根据本发明一实施例的基于数字信号处理器的视频内容比对方法的流程图;
图4是根据本发明一实施例的接收与调度步骤示意图;
图5是根据本发明一实施例的特征提取过程示意图;以及
图6是根据本发明一实施例的同步步骤示意图。
具体实施方式
为了解决在现有技术的视频内容分析中,由于视频处理算法的应用、处理器的处理能力以及硬件集成度规模等限制,视频内容分析设备不能满足实时性、大容量、小体积、低功耗要求的问题,本发明提供了一种基于数字信号处理器的视频内容比对方法。以下结合附图对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不限定本发明。
本发明基于多路高速并行数字信号处理器(DigitalSignalProcessing,DSP),采用适用于并行结构的基于内容特征提取的分析比对技术,并从系统、算法、优化等多个方面保证视频内容比对的准确度和实时性,以实现对多路视频内容的自动实时监管。
其中,数字信号处理器可以是硬件的媒体处理板卡,如图1所示,图1是根据本发明一实施例的DSP媒体处理板卡硬件结构示意图。
该板卡可以包括光交换模块、控制管理模块、以太网交换模块、中断模块、数据交换模块、存储模块以及一个或多个DSP模块(图1中指示意性的示出两个DSP模块)。其中,光交换模块和以太网交换模块可以用于通过光交换接口和以太网接口接收视频码流数据和标准视频码流数据并转发给相应的DSP模块,以保证数据的高吞度率。控制管理模块是板卡的中心控制与管理单元,可以用于调度光交换模块和以太网交换模块的视频码流数据和标准视频码流数据进入相应的DSP模块,并将调度信息存储于存储模块中。中断模块可以用于暂停DSP模块正在执行的任务。数据交换模块可以用于将控制管理模块生成的调度信息注入到DSP模块,以使DSP模块执行相应的任务,并且DSP模块通过数据交换模块将报警信息传输到控制管理模块。
一个或多个DSP模块是核心功能单元,可以用于对视频码流数据进行基于标准视频码流数据的视频内容的分析与比对。进一步地,在每个DSP模块中还包括DSP状态监视器(图1中未示出),该DSP状态监视器可以监视DSP模块的状态参数,生成状态参数并通过数据交换模块反馈给控制管理模块。
其中视频码流数据可以是视频,如某一视频APP(Application,应用)播放的电视节目。标准视频码流数据可以是来自预设网络地址的视频,如中国网络电视台播放的电视节目。在视频码流数据和标准视频码流数据中携带频道信息,这样可以将APP播放的电视节目和中国网络电视台播放的电视节目进行视频内容对比,以对APP播放的视频进行监控,防止发生恶意视频攻击的情况发生。
图2是根据本发明一实施例的基于数字信号处理器的视频内容比对方法的示意图。在接收与调度步骤中,控制管理模块从光交换接口或以太网接口接收实时多路视频码流数据,对该多路视频码流数据解复用,并根据视频码流数据的频道信息,如:CCTV1,CCTV2,将视频码流数据分离为一个或多个单频道视频码流数据。同理,可以解复用出一个或多个单频道标准视频码流数据。控制管理模块可以利用负载均衡调度策略进行调度,以向相应的DSP模块发送单频道视频数据和单频道标准视频码流数据。状态监视与反馈步骤是指DSP模块中的DSP状态监视器向控制管理模块反馈DSP模块的当前状态参数,如:DSP模块忙、闲等状态,该参数可以为负载均衡调度策略提供参考。在每个DSP模块中,针对该DSP模块接收到的单频道视频码流数据和单频道标准视频码流数据分别经过预处理(步骤S320)、特征提取(步骤S330)、同步(步骤S340)和特征比对(步骤S350),进而分析出视频码流数据与标准视频码流数据的内容是否相符。若存在不符合之处即可以输出报警信息,以实施报警。
以下结合图3-图6对图2中的内容和涉及的步骤进行详细说明。
图3是根据本发明一实施例的基于数字信号处理器的视频内容比对方法的流程图。
步骤S310为接收与调度步骤,在该步骤中,板卡接收网络传输的多频道视频码流数据和多频道标准视频码流数据,根据多频道视频码流数据和多频道标准视频码流数据携带的频道信息,解复用为一个或多个单频道视频码流数据和单频道标准视频码流数据,并根据负载均衡调度策略向各DSP模块转发单频道视频码流数据和单频道标准视频码流数据。
负载均衡调度策略是指根据接收到的视频码流数据中的频道信息和各DSP状态监视器反馈的状态参数,使各个DSP模块的处理量均等。进一步地,DSP模块处理的数据量小于预定值时,其状态参数为空闲;否则其状态参数为忙;预先设置各个DSP模块的优先级;具体而言,可以为每个DSP预设编号,每个编号表示一个优先等级。转发数据时,为状态参数为空闲的且优先级最高的DSP模块转发单频道视频码流数据和单频道标准视频码流数据,即:在状态参数为空闲的各个DSP模块中,由编号优先级最高的DSP模块处理数据,从而实现各个DSP模块的负载均衡。
参考图4所示的本发明一实施例的接收与调度步骤示意图。控制管理模块负责接收与调度步骤,该控制管理模块可以包括网络接收缓存、通道分离器、任务调度器、DSP状态收集器、DSP控制器。具体而言,DSP模块中的DSP状态监视器负责向控制管理模块反馈DPS模块的状态参数,以协助控制管理模块完成对视频码流数据和标准视频码流数据的调度。具体而言,可以将从网络接收多频道视频码流数据和标准视频码流数据放入网络接收缓存。由通道分离器负责对网络接收缓存中的多频道视频码流数据和标准视频码流数据分别分离为单频道视频码流数据和标准视频码流数据。DSP状态收集器向DSP状态监视器请求一个或多个DSP模块任务执行的状态参数。DSP状态监视器向DSP状态收集器反馈DSP模块的状态参数。其中,DSP模块的状态参数可以包括DSP模块空闲、忙碌等状态参数。DSP状态收集器将DSP模块的状态参数传递到任务调度器。任务调度器根据负载均衡调度策略产生调度信息,并将该调度信息发送到DSP控制器,控制DSP模块的操作任务,如接收标准视频码流数据并进行处理。
在该步骤中,控制管理模块可以去除视频码流数据和标准视频码流数据中因适应传输而打包的冗余信息,如:目的网络地址、源网络地址等信息,进而得到视频码流数据中的视频数据和标准视频码流数据中的标准视频数据,仅将视频数据和标准视频数据按照负载均衡调度策略转发给相应的DSP模块。
每个DSP模块可以并行处理三路视频码流数据和/或标准视频码流数据。本发明为了将视频码流数据和标准视频码流数据进行内容比对,可以使每个DSP模块并行处理两路视频码流数据和一路标准视频码流数据,如图2所示。
以下步骤S320-步骤S350均在DSP模块中进行。
步骤S320为预处理步骤,每个数字信号处理器模块解码接收到的视频码流数据和标准视频码流数据,并获取视频码流数据中视频数据的关键帧图像序列,以及标准视频码流数据中的标准视频数据的关键帧图像序列。该步骤可以降低要处理的数据量。
在视频数据和标准视频数据包含的帧图像中,可以包含关键帧和非关键帧的帧信息,根据帧图像中的帧信息可以过滤出视频数据和标准视频数据的关键帧图像,并删除非关键帧图像。进一步地,可以由视频数据中的关键帧图像形成视频数据的图像序列,由标准视频数据中的关键帧图像组成标准视频数据的图像序列。
一般而言,在视频数据和标准视频数据中,每24帧图像中仅包含2帧关键帧图像。因此,在大量的视频中,使用关键帧的灰度图像可以有效的降低数据处理的数据量,提高处理效率。
在一个实施例中,将关键帧图像转换为灰度图像,仅利用关键帧的灰度图像来进行后续的处理,更近一步地的降低了数据量,提高了处理效率。
步骤S330为特征提取步骤,利用改进的单尺寸SIFT(Scale-invariant featuretransform,尺度不变特征转换)算法和TOM(Topic&Occurrence-oriented Merging)算法,提取视频数据和标准视频数据的特征,以得到视频数据的特征向量序列和标准视频数据的特征向量序列。其中,该特征可以包括特征点和特征点的特征向量。
为了适应基于视频内容的实时比对要求。本发明采用改进的单尺寸SIFT算法与TOM算法相结合的方式提取特征来弥补特征向量降维处理对特征区分度的影响。
其中,改进的单尺寸SIFT算法是指在提取特征点时仅进行单尺寸DoG(Difference of Gaussian)图像数据的多尺度处理,不进行多尺寸(或称多阶)图像数据的处理,即无亚采样过程;以保证在特征点相对稳定的情况下,提高实时性。其次,由于特征提取算法需要对旋转敏感,所以没有主方向、辅方向的概念,所有图像仅在指定方向上计算特征向量。
TOM算法是同时利用视频的空域特征和时域特征的特征提取算法。空域特征是指以空间为参考量的特征。时域特征是指以时间为参考量的特征。
该特征提取步骤如图5所示的根据本发明一实施例的特征提取过程示意图。利用TOM算法,在关键帧的图像序列中读取一帧图像数据,从空域上,采用改进的单尺寸SIFT算法提取图像数据中的特征点,计算特征点的特征向量。将图像数据分为左上、右上、左下、右下4个区域。计算每个区域内的特征点在8个预定的不同方向上的特征向量均值,从而可以得到该帧图像数据的空域的32维特征向量(8个方向*4个区域)。在时域上,从图像序列中读取当前图像数据的前3帧图像数据,并获取该3帧图像数据的特征向量。计算4个图像数据对应区域的特征向量分别在8个方向的特征向量均值,例如:左上区域对应左上区域。至此得到该帧图像时域和空域相结合的帧图像特征向量。
视频数据的图像序列中的一帧或多帧图像数据的特征向量形成视频数据的特征向量序列。标准视频数据的图像序列中的一帧或多帧图像数据的特征向量形成标准视频数据的特征向量序列。
采用该方式提取特征,对视频码流数据的重编码不敏感,而对视频帧的时序(视频帧的先后顺序)、时长(某段视频的持续时间)、内容(包括图像的亮度、色度、局部)的变化较为敏感,这样则可以有效的比对出视频内容的变化。
并且,利用改进的单尺寸SIFT算法和TOM算法相结合方式来提取特征用时可达ms级,提高了实时性。
步骤S340为同步步骤,基于所述DSP模块提取视频数据和标准视频数据的特征,确定同步的视频数据和标准视频数据。
在提取每帧图像数据的特征后即可以进入同步步骤,使获得视频数据的特征向量序列和标准视频数据的特征向量序列与同步步骤并行的进行,以提高内容比对的处理效率。
为了考虑实时性问题,并减少运算量,将每帧图像的中间部位作为同步比对区间。具体而言,在图像数据中找到特征点并计算出每个特征点的特征向量,在图像数据中划定预定范围的同步区域,在该同步区域内采用与特征提取步骤S330相似的方式,利用改进的单尺寸SIFT算法和TOM算法,计算同步区域内的特征向量。
图6是根据本发明一实施例的同步步骤示意图。在关键帧的图像序列中读取一帧图像数据,找到该图像数据的特征点和特征点的特征向量,在该图像数据中划定预定范围的同步区域,将同步区域划分为4个部分,在每个部分中分别计算8个预定方向上的特征向量的均值,作为图像数据的同步区域特征向量,以利用同步区域特征向量确定同步的视频数据和标准视频数据。
由视频数据包含的图像数据的同步区域特征向量形成视频数据同步区域特征向量序列。
选取标准视频数据包含的一帧或多帧图像数据的同步区域特征向量形成标准视频数据同步区域特征向量序列,以作为同步窗口。例如,选取时域上连续的4帧图像数据的特征向量形成同步窗口。
将同步窗口在视频数据同步区域特征向量序列上滑动,在视频数据同步区域特征向量序列中查找与同步窗口相同的部分。若查找到相同的部分则认为视频数据与标准视频数据同步,可以执行步骤S350。若不存在相同的部分则利用同步窗口继续查找相同的部分。当查找与同步窗口相同的部分的时间超过预定时间后,则可以输出报警信息,以进行报警,待查找到相同部分后,输入停止报警信息。
步骤S350为特征比对步骤,在同步的视频数据和标准视频数据中,计算视频数据和标准视频数据的相似度。
当视频数据和标准视频数据同步时,则可以将视频数据中的关键帧图像组成视频数据的图像序列和标准视频数据中的关键帧图像组成标准视频数据的图像序列进行相似度比较,以获得相似度。当该相似度大于预设的相似度阈值时,则视频数据和标准视频数据的相同,即视频码流数据和标准视频码流数据的内容相同。当该相似度小于或等于预设的相似度阈值时,则视频数据和标准视频数据不相同,即视频码流数据和标准视频码流数据的内容不相同。当视频码流数据和标准视频码流数据不相同时,则输出报警信息,以进行报警。
进一步地,该相似度的计算采用位置敏感哈希算法(LSH,LocalitySensitive Hash)。应当理解,本发明所采用的相似度算法不限于此。
本发明基于多指令流多数据流(MIMD,MultipleInstructionStreamMultipleDataStream)处理结构和松耦合存储结构的多路并行DSP模块。其中,MIMD处理结构是指结合DSP模块的功能由阵列式DSP模块构成的结构。松耦合存储结构是指多个DSP模块中的每个DSP模块都有单独使用的存储空间。这种结构特点可以在各自的视频数据流上执行各自的指令流,进而可以实现对多路视频流的处理。
本发明采用适于该并行结构的视频内容特征的自动分析比对算法,配合控制管理模块及其调度策略,实现单个模块对60路标清和20路高清实时视频码流的全时段自动监管(单设备容量可达180路标清和60路高清),减少视频监管领域因恶意攻击频发而监管手段落后造成的监管事故,降低人工监管成本,从而在提高监管效率的情况下降低监管成本。本发明将视频处理理论与硬件设备相结合形成实物,可监管关键网站、网关、网络节点和基于IP网络的电视播发系统的实时视频码流,为有全时段、大容量及实时视频监管要求的领域提供了解决方案。
本发明除在算法上降低时间复杂度和空间复杂度,并使之适用于并行处理结构外,还采用实时调度策略、流水线与分治法相结合,充分利用硬件并行处理能力,从而达到对大容量视频数据处理和实时分析的目的。
本发明基于多路高速并行DSP,采用适用于并行结构的基于内容特征提取分析比对技术,并从系统、算法、优化等多个步骤保证比对的准确度和实时性,将视频内容分析方法从理论层面提升到应用高度,实现对多路视频内容的自动实时监管。
尽管为示例目的,已经公开了本发明的优选实施例,本领域的技术人员将意识到各种改进、增加和取代也是可能的,因此,本发明的范围应当不限于上述实施例。
Claims (8)
1.一种基于数字信号处理器的视频内容比对方法,其特征在于,所述方法包括以下步骤:
接收网络传输的多频道视频码流数据和多频道标准视频码流数据;
根据多频道视频码流数据和多频道标准视频码流数据携带的频道信息,解复用为单频道视频码流数据和单频道标准视频码流数据,并根据负载均衡调度策略向各个数字信号处理器模块转发单频道视频码流数据和单频道标准视频码流数据;
每个数字信号处理器模块解码接收到的视频码流数据和标准视频码流数据,获取视频码流数据中的视频数据的关键帧图像序列,以及标准视频码流数据中的标准视频数据的关键帧图像序列;
所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,以得到视频数据的特征向量序列和标准视频数据的特征向量序列;
基于所述数字信号处理器模块提取的视频数据和标准视频数据的关键帧图像序列的特征,确定同步的视频数据和标准视频数据;
在同步的视频数据和标准视频数据中,计算视频数据的特征向量序列和标准视频数据的特征向量序列的相似度;
若所述相似度大于预设的相似度阈值,则视频码流数据和标准视频码流数据的内容相同;
若所述相似度小于或等于预设的相似度阈值,则视频码流数据和标准视频码流数据的内容不相同。
2.根据权利要求1所述的方法,其特征在于,根据负载均衡调度策略向各个数字信号处理器模块转发单频道视频码流数据和单频道标准视频码流数据,包括:
预先设置各个数字信号处理器模块的优先级,为状态参数为空闲的且优先级最高的数字信号处理器模块转发所述单频道视频码流数据和单频道标准视频码流数据;其中数字信号处理器模块处理的数据量小于预定值时状态参数为空闲。
3.根据权利要求1所述的方法,其特征在于,所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,包括:
在所述关键帧图像序列中读取一帧图像数据,作为当前图像数据;
从空域上,采用改进的单尺寸SIFT算法提取所述当前图像数据中的特征点并计算特征点的特征向量;其中,所述改进的单尺寸SIFT算法是指在提取特征点时仅进行单尺寸DoG图像数据的多尺寸处理;
将所述当前图像数据分为左上、右上、左下、右下4个区域;
在时域上,从所述图像序列中读取当前图像数据的前3帧图像数据,并获得所述前3帧图像数据的特征点的特征向量;
计算所述当前图像数据和所述前3帧图像数据在所述4个区域中对应的每个区域的特征向量分别在8个方向的特征向量均值,以得到所述当前图像数据的特征向量。
4.根据权利要求3所述的方法,其特征在于,所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,以得到视频数据的特征向量序列和标准视频数据的特征向量序列,包括:
视频数据的图像序列中的一帧或多帧图像数据的特征向量形成视频数据的特征向量序列;
标准视频数据的图像序列中的一帧或多帧图像数据的特征向量形成标准视频数据的特征向量序列。
5.根据权利要求1所述的方法,其特征在于,基于所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,确定同步的视频数据和标准视频数据,包括:
在关键帧图像序列中读取一帧图像数据,并计算该图像数据的特征点和特征点的特征向量;
在所述图像数据中划定预定范围的同步区域;
将所述同步区域划分为4个部分,在每个部分中分别计算8个预定方向上的特征向量的均值,作为所述图像数据的同步区域特征向量,以利用同步区域特征向量确定同步的视频数据和标准视频数据。
6.根据权利要求5所述的方法,其特征在于,基于所述数字信号处理器模块提取视频数据和标准视频数据的关键帧图像序列的特征,确定同步的视频数据和标准视频数据,包括:
由视频数据包含的图像数据的同步区域特征向量形成视频数据同步区域特征向量序列;
选取标准视频数据包含的一帧或多帧图像数据的同步区域特征向量形成标准视频数据同步区域特征向量序列,以作为同步窗口;
将所述同步窗口在所述视频数据同步区域特征向量序列上滑动,以在视频数据同步区域特征向量序列中查找与所述同步窗口相同的部分;
若查找到与所述同步窗口相同的部分则所述视频数据与所述标准视频数据同步。
7.根据权利要求6所述的方法,其特征在于,将所述同步窗口在所述视频数据同步区域特征向量序列上滑动,以在视频数据同步区域特征向量序列中查找与同步窗口相同的部分,包括:
当查找与所述同步窗口相同的部分的时间超过预定时间后,则输出报警信息,以进行报警。
8.根据权利要求1所述的方法,其特征在于,在同步的视频数据和标准视频数据中,计算视频数据的特征向量序列和标准视频数据的特征向量序列的相似度,还包括:若所述相似度小于或等于预设的相似度阈值,则输出报警信息,以进行报警。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310701259.4A CN103686345B (zh) | 2013-12-18 | 2013-12-18 | 一种基于数字信号处理器的视频内容比对方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310701259.4A CN103686345B (zh) | 2013-12-18 | 2013-12-18 | 一种基于数字信号处理器的视频内容比对方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103686345A true CN103686345A (zh) | 2014-03-26 |
CN103686345B CN103686345B (zh) | 2017-01-11 |
Family
ID=50322413
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310701259.4A Active CN103686345B (zh) | 2013-12-18 | 2013-12-18 | 一种基于数字信号处理器的视频内容比对方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103686345B (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104980764A (zh) * | 2014-04-14 | 2015-10-14 | 深圳中兴力维技术有限公司 | 基于复杂度均衡的并行编解码方法、装置及系统 |
CN104994426A (zh) * | 2014-07-07 | 2015-10-21 | Tcl集团股份有限公司 | 节目视频识别方法及系统 |
CN105072455A (zh) * | 2015-08-11 | 2015-11-18 | 精硕世纪科技(北京)有限公司 | 视频匹配方法和装置 |
CN105357570A (zh) * | 2015-11-03 | 2016-02-24 | 上海熙菱信息技术有限公司 | 一种基于帧分析的视频流分析方法及系统 |
CN107071559A (zh) * | 2017-05-11 | 2017-08-18 | 大连动感智慧科技有限公司 | 基于关键帧同步的多视频对比系统 |
CN107748569A (zh) * | 2017-09-04 | 2018-03-02 | 中国兵器工业计算机应用技术研究所 | 用于无人机的运动控制方法、装置及无人机系统 |
CN107944754A (zh) * | 2017-12-13 | 2018-04-20 | 泰康保险集团股份有限公司 | 康复治疗质量评定的方法、装置、存储介质及电子设备 |
CN108337167A (zh) * | 2018-02-11 | 2018-07-27 | 福州大学 | 一种基于蚁群算法的视频多路并行传输分流方法及其系统 |
CN110493609A (zh) * | 2019-08-07 | 2019-11-22 | 咪咕文化科技有限公司 | 直播方法、终端及计算机可读存储介质 |
CN110738135A (zh) * | 2019-09-25 | 2020-01-31 | 艾普工华科技(武汉)有限公司 | 一种工人作业工步规范视觉识别判定与指导方法及系统 |
CN111642004A (zh) * | 2020-05-29 | 2020-09-08 | 河南科技大学 | Wban中基于关键数据的协作通信传输协议 |
CN113516006A (zh) * | 2021-04-01 | 2021-10-19 | 广州云硕科技发展有限公司 | 一种用于智能机器人的高效信息处理方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060188020A1 (en) * | 2005-02-24 | 2006-08-24 | Wang Zhicheng L | Statistical content block matching scheme for pre-processing in encoding and transcoding |
CN101262426A (zh) * | 2008-04-28 | 2008-09-10 | 艾诺通信系统(苏州)有限责任公司 | Ip多媒体系统中dsp资源管理的方法 |
CN101540907A (zh) * | 2009-04-28 | 2009-09-23 | 无锡天脉聚源传媒科技有限公司 | 互联网视频安全审查的方法 |
CN103430175A (zh) * | 2011-01-07 | 2013-12-04 | 阿尔卡特朗讯公司 | 用于对视频进行比较的方法和装置 |
-
2013
- 2013-12-18 CN CN201310701259.4A patent/CN103686345B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060188020A1 (en) * | 2005-02-24 | 2006-08-24 | Wang Zhicheng L | Statistical content block matching scheme for pre-processing in encoding and transcoding |
CN101262426A (zh) * | 2008-04-28 | 2008-09-10 | 艾诺通信系统(苏州)有限责任公司 | Ip多媒体系统中dsp资源管理的方法 |
CN101540907A (zh) * | 2009-04-28 | 2009-09-23 | 无锡天脉聚源传媒科技有限公司 | 互联网视频安全审查的方法 |
CN103430175A (zh) * | 2011-01-07 | 2013-12-04 | 阿尔卡特朗讯公司 | 用于对视频进行比较的方法和装置 |
Non-Patent Citations (3)
Title |
---|
NAEL HIRZALLAH ETAL: "A Fast Method to Spot a Video Sequence within a Live Stream", 《JOURNAL OF MULTIMEDIA》 * |
杨婧: "基于内容比对的视频检索技术在广播电视安全播出中的应用研究", 《2012中国数字广播电视与网络发展年会》 * |
都思丹: "嵌入式多核处理器系统及视频信号处理技术研究进展", 《南京大学学报》 * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104980764A (zh) * | 2014-04-14 | 2015-10-14 | 深圳中兴力维技术有限公司 | 基于复杂度均衡的并行编解码方法、装置及系统 |
CN104980764B (zh) * | 2014-04-14 | 2019-06-21 | 深圳力维智联技术有限公司 | 基于复杂度均衡的并行编解码方法、装置及系统 |
CN104994426A (zh) * | 2014-07-07 | 2015-10-21 | Tcl集团股份有限公司 | 节目视频识别方法及系统 |
CN104994426B (zh) * | 2014-07-07 | 2020-07-21 | Tcl科技集团股份有限公司 | 节目视频识别方法及系统 |
CN105072455A (zh) * | 2015-08-11 | 2015-11-18 | 精硕世纪科技(北京)有限公司 | 视频匹配方法和装置 |
CN105357570B (zh) * | 2015-11-03 | 2018-10-23 | 上海熙菱信息技术有限公司 | 一种基于帧分析的视频流分析方法及系统 |
CN105357570A (zh) * | 2015-11-03 | 2016-02-24 | 上海熙菱信息技术有限公司 | 一种基于帧分析的视频流分析方法及系统 |
CN107071559A (zh) * | 2017-05-11 | 2017-08-18 | 大连动感智慧科技有限公司 | 基于关键帧同步的多视频对比系统 |
CN107748569B (zh) * | 2017-09-04 | 2021-02-19 | 中国兵器工业计算机应用技术研究所 | 用于无人机的运动控制方法、装置及无人机系统 |
CN107748569A (zh) * | 2017-09-04 | 2018-03-02 | 中国兵器工业计算机应用技术研究所 | 用于无人机的运动控制方法、装置及无人机系统 |
CN107944754A (zh) * | 2017-12-13 | 2018-04-20 | 泰康保险集团股份有限公司 | 康复治疗质量评定的方法、装置、存储介质及电子设备 |
CN108337167A (zh) * | 2018-02-11 | 2018-07-27 | 福州大学 | 一种基于蚁群算法的视频多路并行传输分流方法及其系统 |
CN108337167B (zh) * | 2018-02-11 | 2020-07-31 | 福州大学 | 一种基于蚁群算法的视频多路并行传输分流方法及其系统 |
CN110493609A (zh) * | 2019-08-07 | 2019-11-22 | 咪咕文化科技有限公司 | 直播方法、终端及计算机可读存储介质 |
CN110493609B (zh) * | 2019-08-07 | 2022-02-01 | 咪咕文化科技有限公司 | 直播方法、终端及计算机可读存储介质 |
CN110738135A (zh) * | 2019-09-25 | 2020-01-31 | 艾普工华科技(武汉)有限公司 | 一种工人作业工步规范视觉识别判定与指导方法及系统 |
CN110738135B (zh) * | 2019-09-25 | 2023-06-09 | 艾普工华科技(武汉)有限公司 | 一种工人作业工步规范视觉识别判定与指导方法及系统 |
CN111642004A (zh) * | 2020-05-29 | 2020-09-08 | 河南科技大学 | Wban中基于关键数据的协作通信传输协议 |
CN111642004B (zh) * | 2020-05-29 | 2024-02-06 | 河南科技大学 | Wban中基于关键数据的协作通信传输协议 |
CN113516006A (zh) * | 2021-04-01 | 2021-10-19 | 广州云硕科技发展有限公司 | 一种用于智能机器人的高效信息处理方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN103686345B (zh) | 2017-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103686345A (zh) | 一种基于数字信号处理器的视频内容比对方法 | |
Ali et al. | RES: Real-time video stream analytics using edge enhanced clouds | |
CN107067365A (zh) | 基于深度学习的分布嵌入式实时视频流处理系统及方法 | |
US20210243388A1 (en) | Optimized video review using motion recap images | |
CN102497297A (zh) | 基于多核多线程的深度报文检测技术的实现系统和方法 | |
WO2018152088A1 (en) | Generating and reviewing motion metadata | |
CN103260007B (zh) | 基于片上多端口存储控制器的智能监控系统 | |
CN104284150A (zh) | 基于道路交通监控的智能摄像头自主协同跟踪方法及其监控系统 | |
CN111614769A (zh) | 一种深度学习技术的行为智能分析引擎系统及控制方法 | |
CN116365717B (zh) | 一种高压电路安全监测系统及方法 | |
US8712100B2 (en) | Profiling activity through video surveillance | |
CN106412513A (zh) | 视频处理系统及处理方法 | |
CN103731316A (zh) | 一种流量监控装置及方法 | |
CN109993286B (zh) | 稀疏神经网络的计算方法及相关产品 | |
CN205385561U (zh) | 一种多屏拼接显示系统 | |
CN106557527A (zh) | 一种色情图像检测和系统 | |
Castillo et al. | Iot-based multi-view machine vision systems | |
CN112291118A (zh) | 一种基于fpga的多核数据处理装置及方法 | |
CN106504169A (zh) | 一种基于流处理的内涝数据处理系统及其处理方法 | |
CN112687267A (zh) | 一种物联网数据语义处理系统 | |
CN107276845B (zh) | 一种轨道交通领域的具有容错功能的实时数据调度方法 | |
CN110233683A (zh) | Ar边缘计算资源调度方法、系统及介质 | |
CN204667397U (zh) | 一种适用于网络用户行为信息审计的流量采集设备的机芯电路 | |
CN108596181B (zh) | 文本识别方法、系统、机器设备和计算可读存储介质 | |
CN109117266B (zh) | 基于多层架构的视频人工智能训练平台 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |