CN104883628B - 一种生成视频浓缩摘要的方法、装置及设备 - Google Patents
一种生成视频浓缩摘要的方法、装置及设备 Download PDFInfo
- Publication number
- CN104883628B CN104883628B CN201410071513.1A CN201410071513A CN104883628B CN 104883628 B CN104883628 B CN 104883628B CN 201410071513 A CN201410071513 A CN 201410071513A CN 104883628 B CN104883628 B CN 104883628B
- Authority
- CN
- China
- Prior art keywords
- moving object
- movement locus
- video
- caching
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Television Signal Processing For Recording (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种生成视频浓缩摘要的方法、装置及设备,属于数字视频领域。所述方法包括:从视频中获取第一运动轨迹集合,第一运动轨迹集合包括视频中的每个运动物体的运动轨迹;将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹和第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;根据第二运动轨迹集合生成视频的视频浓缩摘要。本发明将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹作为一条运动轨迹进行处理,保留了相互之间的间距小于预设第一阈值的多条运动轨迹之间的冲撞点以及冲撞点包含的重要信息。
Description
技术领域
本发明涉及数字视频领域,特别涉及一种生成视频浓缩摘要的方法、装置及设备。
背景技术
当前,公共安全受到社会各界广泛关注,由此产生了海量的监控视频。人们为了从监控视频中寻找线索,需要观看几个几十甚至几百个小时的监控视频,耗费大量的人力和时间。因此,如果对原始监控视频进行浓缩,以将原始监控视频变为几分钟或几十分钟的视频浓缩摘要,视频浓缩摘要是对原始监控视频的视频内容的概括,如此人们可以通过观看视频浓缩摘要来快速寻找线索。
目前,现有技术提供了一种生成视频浓缩摘要的方法,可以为:从监控视频中获取一运动物体,运动物体是监控视频中处于运动状态的人或车等物体。从监控视频中获取包括该运动物体的各视频图像,将每张视频图像中包含的该运动物体的图像按时间顺序组成该运动物体的运动轨迹。按上述相同方式获取监控视频中的每个运动物体的运动轨迹,再获取每个运动物体的运动轨迹在视频浓缩摘要中的起始帧的帧号。从监控视频中选取多张视频图像,去除选取的每张视频图像中包含的运动物体的图像,将去除后的视频图像作为视频浓缩摘要的背景图像并组成一段视频。根据每个运动物体的运动轨迹在视频浓缩摘要中的起始帧的帧号,分别将每个运动物体的运动轨迹插入到该段视频中得到视频浓缩摘要。
在实现本发明的过程中,发明人发现现有技术至少存在以下问题:
在监控视频中可能有多个运动物体的运动轨迹存在冲撞点,冲撞点可以为多个运动物体的运动轨迹的交点,冲撞点表示多个运动物体存在接触。例如,两个人的运动轨迹存在的冲撞点可能是两个人存在身体上的接触,如两个人打架。现有技术在生成视频浓缩摘要时,分别将每个运动物体的运动轨迹插入到视频中,可能使多个运动物体的运动轨迹存在冲撞点消失,如此导致重要信息丢失。
发明内容
为了保存视频中的重要信息,本发明提供了一种生成视频浓缩摘要的方法、装置及设备。所述技术方案如下:
第一方面,一种生成视频浓缩摘要的装置,所述装置包括:
第一获取模块,用于从视频中获取第一运动轨迹集合,所述第一运动轨迹集合包括所述视频中的每个运动物体的运动轨迹;
合并模块,用于将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹和所述第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;
生成模块,用于根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要。
结合第一方面,在第一方面的第一种可能的实现方式中,所述合并模块包括:
第一选择单元,用于从所述第一运动轨迹集合中选择相互之间的间距小于预设第一阈值的多条运动轨迹;
第二选择单元,用于从所述多条运动轨迹的起始时间中选择最小起始时间以及从所述多条运动轨迹的结束时间中选择最大结束时间;
合并单元,用于将所述多条运动轨迹合并为一条运动轨迹,并设置合并得到的所述一条运动轨迹的起始时间为所述最小起始时间以及结束时间为所述最大结束时间。
结合第一方面,在第一方面的第二种可能的实现方式中,所述装置还包括:
第二获取模块,用于从所述视频中获取包含第一运动物体和第二运动物体的视频图像,所述第一运动物体和所述第二运动物体分别为所述视频中的任意两个运动物体;
计算模块,用于计算获取的每张视频图像中的所述第一运动物体与所述第二运动物体之间的距离;
选择模块,用于从所述计算的距离中选择最小距离,并将所述最小距离作为所述第一运动物体的运动轨迹与所述第二运动物体的运动轨迹之间的间距。
结合第一方面,在第一方面的第三种可能的实现方式中,所述生成模块包括:
第三选择单元,用于从所述第二运动轨迹集合中选择起始时间最早或长度最长的一个运动物体的运动轨迹,设置所述选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号为所述视频浓缩摘要缓存的第一帧;
第四选择单元,用于从所述第二运动轨迹集合中未选择的运动物体的运动轨迹中选择起始时间最早或长度最长的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置所述第三运动物体的运动轨迹的起始帧号;
第一确定单元,用于根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件;
设置单元,用于如果满足预设条件,则将所述第三运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号设置为所述第三运动物体的运动轨迹的起始帧号;
插入单元,用于获取所述视频浓缩摘要的背景图像并组成一段视频;根据所述第二运动轨迹集合中的每条运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,分别将所述第二运动轨迹集合中的每条运动轨迹插入所述组成的一段视频中得到所述视频浓缩摘要。
结合第一方面,在第一方面的第四种可能的实现方式中,所述第四选择单元包括:
第一设置子单元,用于设置所述第三运动物体的运动轨迹的起始帧号为所述视频浓缩摘要缓存的第一帧;或,
第二设置子单元,用于设置所述第三运动物体的运动轨迹的起始帧号大于或等于在所述第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧。
结合第一方面,在第一方面的第五种可能的实现方式中,所述确定单元包括:
获取子单元,用于根据所述第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含所述第三运动物体和第四运动物体的视频图像,所述第四运动物体为所述视频浓缩摘要缓存中的任一运动物体;
计算子单元,用于根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度;
确定子单元,用于如果所述第三运动物体与所述视频浓缩摘要缓存中每个运动物体之间的冲撞度小于预设第二阈值,则确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度满足预设条件。
结合第一方面,在第一方面的第六种可能的实现方式中,所述计算子单元具体用于计算所述获取的每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数;
根据所述每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数计算所述第三运动物体与所述第四运动物体之间的冲撞度。
结合第一方面,在第一方面的第七种可能的实现方式中,所述计算子单元具体用于计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的比值,将所述比值作为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
结合第一方面,在第一方面的第八种可能的实现方式中,
所述计算子单元具体用于计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第三运动物体的图像包括的像素点的个数之间的第一比值,以及计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的第二比值;
如果所述第一比值大于或等于所述第二比值,则将所述第一比值确定为所述获取的视频图像对应的比值,否则,将所述第二比值确定为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
结合第一方面,在第一方面的第九种可能的实现方式中,所述生成模块还包括:
增加单元,用于如果不满足预设条件,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件。
结合第一方面,在第一方面的第十种可能的实现方式中,所述生成模块还包括:
获取单元,用于根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值,如果都小于,则执行根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件的步骤。
结合第一方面,在第一方面的第十一种可能的实现方式中,所述获取单元还包括:
增加子单元,用于如果不都小于,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值。
结合第一方面,在第一方面的第十二种可能的实现方式中,其特征在于,所述装置还包括:
切割模块,用于对所述第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,得到长度不超过预设长度的运动轨迹。
结合第一方面,在第一方面的第十三种可能的实现方式中,所述切割模块包括:
第二确定单元,用于如果长度超过预设长度的运动轨迹中存在冲撞点,则确定第一切割点和第二切割点,所述第一切割点位于所述冲撞点之前,所述第二切割点位于所述冲撞点之后,所述第一切割点与所述第二切割点之间的长度不超过预设长度;
切割单元,用于根据所述第一切割点和所述第二切割点,对所述长度超过预设长度的运动轨迹进行切割。
第二方面,一种生成视频浓缩摘要的方法,所述方法包括:
从视频中获取第一运动轨迹集合,所述第一运动轨迹集合包括所述视频中的每个运动物体的运动轨迹;
将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹和所述第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;
根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要。
结合第二方面,在第二方面的第一种可能的实现方式中,所述将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,包括:
从所述第一运动轨迹集合中选择相互之间的间距小于预设第一阈值的多条运动轨迹;
从所述多条运动轨迹的起始时间中选择最小起始时间以及从所述多条运动轨迹的结束时间中选择最大结束时间;
将所述多条运动轨迹合并为一条运动轨迹,并设置合并得到的所述一条运动轨迹的起始时间为所述最小起始时间以及结束时间为所述最大结束时间。
结合第二方面,在第二方面的第二种可能的实现方式中,所述将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹之前,还包括:
从所述视频中获取包含第一运动物体和第二运动物体的视频图像,所述第一运动物体和所述第二运动物体分别为所述视频中的任意两个运动物体;
计算获取的每张视频图像中的所述第一运动物体与所述第二运动物体之间的距离;
从所述计算的距离中选择最小距离,并将所述最小距离作为所述第一运动物体的运动轨迹与所述第二运动物体的运动轨迹之间的间距。
结合第二方面,在第二方面的第三种可能的实现方式中,所述根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要,包括:
从所述第二运动轨迹集合中选择起始时间最早或长度最长的一个运动物体的运动轨迹,设置所述选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号为所述视频浓缩摘要缓存的第一帧;
从所述第二运动轨迹集合中未选择的运动物体的运动轨迹中选择起始时间最早或长度最长的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置所述第三运动物体的运动轨迹的起始帧号;
根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件;
如果满足预设条件,则将所述第三运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号设置为所述第三运动物体的运动轨迹的起始帧号;
获取所述视频浓缩摘要的背景图像并组成一段视频;根据所述第二运动轨迹集合中的每条运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,分别将所述第二运动轨迹集合中的每条运动轨迹插入所述组成的一段视频中得到所述视频浓缩摘要。
结合第二方面,在第二方面的第四种可能的实现方式中,所述设置所述第三运动物体的运动轨迹的起始帧号,包括:
设置所述第三运动物体的运动轨迹的起始帧号为所述视频浓缩摘要的第一帧;或,
设置所述第三运动物体的运动轨迹的起始帧号大于或等于在所述第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要中的起始帧。
结合第二方面,在第二方面的第五种可能的实现方式中,所述根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要中的运动物体之间的遮挡程度是否满足预设条件,包括:
根据所述第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含所述第三运动物体和第四运动物体的视频图像,所述第四运动物体为所述视频浓缩摘要缓存中的任一运动物体;
根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度;
如果所述第三运动物体与所述视频浓缩摘要缓存中每个运动物体之间的冲撞度小于预设第二阈值,则确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度满足预设条件。
结合第二方面,在第二方面的第六种可能的实现方式中,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数;
根据所述每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数计算所述第三运动物体与所述第四运动物体之间的冲撞度。
结合第二方面,在第二方面的第七种可能的实现方式中,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的比值,将所述比值作为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
结合第二方面,在第二方面的第八种可能的实现方式中,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第三运动物体的图像包括的像素点的个数之间的第一比值,以及计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的第二比值;
如果所述第一比值大于或等于所述第二比值,则将所述第一比值确定为所述获取的视频图像对应的比值,否则,将所述第二比值确定为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
结合第二方面,在第二方面的第九种可能的实现方式中,所述方法还包括:
如果不满足预设条件,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件。
结合第二方面,在第二方面的第十种可能的实现方式中,所述根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件之前,还包括:
根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值,如果都小于,则执行根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件的步骤。
结合第二方面,在第二方面的第十一种可能的实现方式中,所述方法还包括:
如果不都小于,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值。
结合第二方面,在第二方面的第十二种可能的实现方式中,所述根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要之前,还包括:
对所述第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,得到长度不超过预设长度的运动轨迹。
结合第二方面,在第二方面的第十三种可能的实现方式中,所述对所述第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,包括:
如果长度超过预设长度的运动轨迹中存在冲撞点,则确定第一切割点和第二切割点,所述第一切割点位于所述冲撞点之前,所述第二切割点位于所述冲撞点之后,所述第一切割点与所述第二切割点之间的长度不超过预设长度;
根据所述第一切割点和所述第二切割点,对所述长度超过预设长度的运动轨迹进行切割。
第三方面,一种设备,所述设备包括:
存储器和处理器,用于执行所述一种生成视频浓缩摘要的方法。
在本发明实施例中,将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹作为一条运动轨迹进行处理,保留了相互之间的间距小于预设第一阈值的多条运动轨迹之间的冲撞点以及冲撞点包含的重要信息。
附图说明
图1是本发明实施例1提供的一种生成视频浓缩摘要的装置结构示意图;
图2是本发明实施例2提供的一种生成视频浓缩摘要的方法流程图;
图3-1是本发明实施例3提供的一种生成视频浓缩摘要的方法流程图;
图3-2是本发明实施例3提供的一种运动物体1和运动物体2的外接矩形框示意图;
图3-3是本发明实施例3提供的一种合并的运动轨迹示意图;
图3-4是本发明实施例3提供的一种切割运动轨迹示意图;
图4是本发明实施例4提供的一种生成视频浓缩摘要的方法流程图;
图5是本发明实施例5提供的一种生成视频浓缩摘要的设备结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
实施例1
参见图1,本发明实施例提供了一种生成视频浓缩摘要的装置,包括:
第一获取模块101,用于从视频中获取第一运动轨迹集合,第一运动轨迹集合包括视频中的每个运动物体的运动轨迹;
其中,第一获取模块101分别对视频中的每张视频图像进行分割,得到每张视频图像的前景图像和背景图像;并根据每张视频图像的前景图像获取第一运动轨迹集合,第一运动轨迹集合包括视频中的每个运动物体的运动轨迹。
具体地,第一获取模块101分别对视频中的每张视频图像进行分割,得到每张视频图像的前景图像和背景图像,从每张视频图像的前景图像中分别提取出每张视频图像包括的每个运动物体的物体图像并组成物体图像集合;根据物体图像的图像特征对物体图像集合中的物体图像进行归类,将属于同一运动物体的物体图像归为一类,物体图像的图像特征包括该物体图像的颜色、大小、梯度和/或灰度值等;根据该运动物体对应的一类物体图像中的每个物体图像在视频中出现的时间,对该运动物体对应的一类物体图像进行组合得到该运动物体的运动轨迹,将每个运动物体的运动轨迹组成第一运动轨迹集合。
合并模块102,用于将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹和第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;
生成模块103,用于根据第二运动轨迹集合生成视频的视频浓缩摘要。
优选地,合并模块102包括:
第一选择单元,用于从第一运动轨迹集合中选择相互之间的间距小于预设第一阈值的多条运动轨迹;
第二选择单元,用于从多条运动轨迹的起始时间中选择最小起始时间以及从多条运动轨迹的结束时间中选择最大结束时间;
合并单元,用于将多条运动轨迹合并为一条运动轨迹,并设置合并得到的一条运动轨迹的起始时间为最小起始时间以及结束时间为最大结束时间。
其中,多条运动轨迹相互之间的间距小于预设第一阈值表示多条运动轨迹分别对应的运动物体相互之间存在接触。例如,两个人的运动轨迹存在的冲撞点可能是两个人存在身体上的接触,如两个人打架等。预设第一阈值可由技术人员事先设定,可以为10、20或30等,本发明对此不加以限定。
进一步地,该装置还包括:
第二获取模块,用于从视频中获取包含第一运动物体和第二运动物体的视频图像,第一运动物体和第二运动物体分别为视频中的任意两个运动物体;
计算模块,用于计算获取的每张视频图像中的第一运动物体与第二运动物体之间的距离;
选择模块,用于从计算的距离中选择最小距离,并将最小距离作为第一运动物体的运动轨迹与第二运动物体的运动轨迹之间的间距。
其中,对于任一张包含第一运动物体和第二运动物体的视频图像,可以按如下方式计算该张视频图像中的第一运动物体与第二运动物体之间的距离,包括:
在该视频图像中,构造第一运动物体的第一外接矩形框和第二运动物体的第二外接矩形框,第一外接矩形框是该视频图像中包括第一运动物体的图像的最小矩形框,第二外接矩形框是该视频图像中包括第二运动物体的图像的最小矩形框;确定第一外接矩形框的第一中心和第二外接矩形框的第二中心,计算第一中心与第二中心之间的距离,将计算的距离作为第一运动物体与第二运动物体之间的距离。对于其他每张包括第一运动物体和第二运动物体的视频图像均执行上述操作,可以分别计算出其他每张包括第一运动物体和第二运动物体的视频图像中的第一运动物体与第二运动物体之间的距离。
优选地,生成模块103包括:
第三选择单元,用于从第二运动轨迹集合中选择起始时间最早或长度最长的一个运动物体的运动轨迹,设置选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号为视频浓缩摘要缓存的第一帧;
其中,可以创建视频浓缩摘要缓存,视频浓缩摘要缓存包括的视频图像的张数大于或等于预设预设长度,且与视频浓缩摘要包括的视频图像的张数相同。根据视频浓缩摘要的第一帧的帧号,将选择的运动物体的运动轨迹插入视频浓缩摘要缓存中。
第四选择单元,用于从第二运动轨迹集合中未选择的运动物体的运动轨迹中选择起始时间最早或长度最长的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置第三运动物体的运动轨迹的起始帧号;
其中,根据视频浓缩摘要缓存的第一帧的帧号将第三运动物体的运动轨迹插入已创建的视频浓缩摘要缓存中。
第一确定单元,用于根据第三运动物体的运动轨迹的起始帧号,确定第三运动物体与视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件;
设置单元,用于如果满足预设条件,则将第三运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号设置为第三运动物体的运动轨迹的起始帧号;
插入单元,用于获取视频浓缩摘要的背景图像并组成一段视频;根据第二运动轨迹集合中的每条运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,分别将第二运动轨迹集合中的每条运动轨迹插入组成的一段视频中得到视频浓缩摘要。
优选地,第四选择单元包括:
第一设置子单元,用于设置第三运动物体的运动轨迹的起始帧号为视频浓缩摘要缓存的第一帧;或,
第二设置子单元,用于设置第三运动物体的运动轨迹的起始帧号大于或等于在第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号。
优选地,确定单元包括:
获取子单元,用于根据第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含第三运动物体和第四运动物体的视频图像,第四运动物体为视频浓缩摘要缓存中的任一运动物体;
计算子单元,用于根据获取的视频图像,计算第三运动物体与第四运动物体之间的冲撞度;
其中,计算子单元可以按照如下公式(1)计算第三运动物体与视频浓缩摘要中每个运动物体之间的冲撞度;
其中,在上述公式(1)中,r为第三运动物体的运动轨迹,r’为视频浓缩摘要中每个运动物体的运动轨迹,sr为r在视频浓缩摘要中的起始帧号,T为r包括的总帧数,St为在r的帧号为t时,r与r’之间的冲撞度。
确定子单元,用于如果第三运动物体与视频浓缩摘要缓存中每个运动物体之间的冲撞度小于预设第二阈值,则确定第三运动物体与视频浓缩摘要缓存中的运动物体之间的遮挡程度满足预设条件。
优选地,计算子单元具体用于计算获取的每张视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的个数;
根据每张视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的个数计算第三运动物体与第四运动物体之间的冲撞度。
具体地,计算子单元用于获取包含第三运动物体和第四运动物体的视频图像,计算获取的每张视频图像中第三运动物体的外接矩形框与第四运动物体的外接矩形框之间相互遮挡的区域包括的像素点的第一个数,将第一个数进行求和运算得到第二个数,将第二个数作为第三运动物体与第四运动物体之间的冲撞度。
优选地,计算子单元具体用于计算获取的视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算第一个数与获取的视频图像中的第四运动物体的图像包括的像素点的个数之间的比值,将比值作为获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算第三运动物体与第四运动物体之间的冲撞度。
具体地,计算子单元用于获取包含第三运动物体和第四运动物体的视频图像,对于获取的每张视频图像,计算该张视频图像中第三运动物体的外接矩形框与第四运动物体的外接矩形框之间相互遮挡的区域包括的像素点的第一个数,计算第一个数与第四运动物体的外接矩形框包括的像素点的个数之间的比值;继续按照上述方法计算其他每张视频图像中第三运动物体的外接矩形框与第四运动物体的外接矩形框之间相互遮挡的区域包括的像素点的第一个数与第四运动物体的外接矩形框包括的像素点的个数的比值;将计算出的比值进行求和得到一数值,将该数值作为第三运动物体与第四运动物体之间的冲撞度。
优选地,计算子单元具体用于计算获取的视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算第一个数与获取的视频图像中的第三运动物体的图像包括的像素点的个数之间的第一比值,以及计算第一个数与获取的视频图像中的第四运动物体的图像包括的像素点的个数之间的第二比值;
如果第一比值大于或等于第二比值,则将第一比值确定为获取的视频图像对应的比值,否则,将第二比值确定为获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算第三运动物体与第四运动物体之间的冲撞度。
具体地,计算子单元用于计算获取的视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的第一个数;计算第一个数与获取的视频图像中的第三运动物体的图像包括的像素点的个数之间的第一比值,以及计算第一个数与获取的视频图像中的第四运动物体的图像包括的像素点的个数之间的第二比值;如果第一比值大于或等于第二比值,则将第一比值确定为获取的视频图像对应的比值,否则,将第二比值确定为获取的视频图像对应的比值;根据获取的每张视频图像对应的比值计算第三运动物体与第四运动物体之间的冲撞度。
进一步地,生成模块103还包括:
增加单元,用于如果不满足预设条件,则增加第三运动物体的运动轨迹的起始帧号,再根据第三运动物体的运动轨迹的起始帧号,确定第三运动物体与视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件。
进一步地,生成模块103还包括:
获取单元,用于根据第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含第三运动物体的视频图像,确定获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值,如果都小于,则执行根据第三运动物体的运动轨迹的起始帧号,确定第三运动物体与视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件的步骤。
其中,预设第三阈值为视频浓缩摘要中每张视频图像包括的运动物体的最大个数;预设第三阈值的数值越大,则视频浓缩摘要中每张视频图像包括的运动物体的个数越多;预设第三阈值的数值越小,则视频浓缩摘要中每张视频图像包括的运动物体的个数越少;预设第三阈值可由技术人员事先设定,可以为9、10或11等数值,本发明对此不加以限定。
进一步地,获取单元还包括:
增加子单元,用于如果不都小于,则增加第三运动物体的运动轨迹的起始帧号,再根据第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含第三运动物体的视频图像,确定获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值。
进一步地,该装置还包括:
切割模块,用于对第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,得到长度不超过预设长度的运动轨迹。
其中,预设长度可以为视频浓缩摘要的长度,或第二运动轨迹集合中长度最长的运动轨迹的长度。
优选地,切割模块包括:
第二确定单元,用于如果长度超过预设长度的运动轨迹中存在冲撞点,则确定第一切割点和第二切割点,第一切割点位于冲撞点之前,第二切割点位于冲撞点之后,第一切割点与第二切割点之间的长度不超过预设长度;
切割单元,用于根据第一切割点和第二切割点,对长度超过预设长度的运动轨迹进行切割。
其中,冲撞点可以为多个运动物体的运动轨迹的交点,冲撞点表示多个运动物体存在接触,因此冲撞点往往包含了有价值的信息,因此需要保留运动轨迹中的冲撞点。
在本发明实施例中,将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹作为一条运动轨迹进行处理,保留了相互之间的间距小于预设第一阈值的多条运动轨迹之间的冲撞点以及冲撞点包含的重要信息;从第二运动轨迹集合中选择起始时间最早的一个运动物体的运动轨迹,设置第三运动物体的运动轨迹的起始帧号大于或等于在第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要中的起始帧的帧号,保留了视频中的运动物体的运动轨迹在视频中出现的先后顺序;通过计算运动物体的运动轨迹与视频浓缩摘要中的运动物体的运动轨迹之间冲撞度以及设置视频浓缩摘要的每张视频图像包括的运动物体的个数的最大值,避免视频浓缩摘要的每张视频图像包括的运动物体相互遮挡严重的情况以及拥挤情况。
实施例2
参见图2,本发明实施例提供了一种生成视频浓缩摘要的方法,包括:
步骤201:从视频中获取第一运动轨迹集合,第一运动轨迹集合包括视频中的每个运动物体的运动轨迹;
步骤202:将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹和第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;
步骤203:根据第二运动轨迹集合生成视频的视频浓缩摘要。
在本发明实施例中,将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹作为一条运动轨迹进行处理,保留了相互之间的间距小于预设第一阈值的多条运动轨迹之间的冲撞点以及冲撞点包含的重要信息。
实施例3
本发明实施例提供了一种生成视频浓缩摘要的方法,该方法用于提取视频中每个运动物体的运动轨迹,将相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并和未合并的运动轨迹进行重新排列并与该视频的背景图像组成的一段视频进行拼接得到视频浓缩摘要。
参见图3-1,该方法流程包括:
步骤301:分别对视频中的每张视频图像进行分割,得到每张视频图像的前景图像和背景图像;
其中,该视频可以是监控摄像头或摄像机等视频采集设备采集的视频。对于视频中的每张视频图像,可以采用图像的颜色与梯度相结合的混合高斯模型算法,对该张视频图像进行背景建模,得到该张视频图像的背景图像。利用图割算法从该张视频图像中去除该张视频图像的背景图像,得到该张视频图像的前景图像,该前景图像包括该张视频图像中的运动物体的物体图像。
其中,运动物体可以为视频中运动的人、动物和/或车辆等物体。对于同一运动物体的物体图像通常被拍摄在连续的多张视频图像中。
例如,假设视频中包括3张视频图像,分别为视频图像1、视频图像2和视频图像3,从视频图像1中得到视频图像1的背景图像1和前景图像1,从视频图像2中得到视频图像2的背景图像2和前景图像2,以及从视频图像3中得到视频图像3的背景图像3和前景图像3。
步骤302:根据每张视频图像的前景图像获取第一运动轨迹集合,第一运动轨迹集合包括视频中的每个运动物体的运动轨迹;
具体地,从每张视频图像的前景图像中分别提取出每张视频图像包括的每个运动物体的物体图像并组成物体图像集合;根据物体图像的图像特征,通过根据跟踪技术对物体图像集合中的物体图像进行归类,将属于同一运动物体的物体图像归为一类,物体图像的图像特征包括该物体图像的颜色、大小、梯度和/或灰度值等;根据该运动物体对应的一类物体图像中的每个物体图像在视频中出现的时间,对该运动物体对应的一类物体图像进行组合得到该运动物体的运动轨迹,将每个运动物体的运动轨迹组成第一运动轨迹集合。
例如,假设从前景图像1中提取视频图像1包括的运动物体的物体图像1-1、运动物体的物体图像1-2和运动物体的物体图像1-3;从前景图像2中提取视频图像2包括的运动物体的物体图像2-1、运动物体的物体图像2-2和运动物体的物体图像2-3;从前景图像3中提取视频图像3包括的运动物体的物体图像3-1、运动物体的物体图像3-2和运动物体的物体图像3-3;将提取的9个物体图像组成物体图像集合。
根据物体图像的图像特征对物体图像集合中的物体图像进行归类;将运动物体1的物体图像1-1、物体图像2-1和物体图像3-1归为一类,将运动物体2的物体图像1-2、物体图像2-2和物体图像3-2归为一类,以及将运动物体3的物体图像1-3、物体图像2-3和物体图像3-3归为一类。
根据运动物体1对应的物体图像1-1、物体图像2-1和物体图像3-1按其在视频中出现的时间进行组合得到运动物体1的运动轨迹;根据运动物体2对应的物体图像1-2、物体图像2-2和物体图像3-2按其在视频中出现的时间进行组合得到运动物体2的运动轨迹;以及根据运动物体3对应的物体图像1-3、物体图像2-3和物体图像3-3按其在视频中出现的时间进行组合得到运动物体3的运动轨迹。
步骤303:计算第一运动轨迹集合中任意两个运动物体的运动轨迹相互之间的间距;
具体的,从第一运动轨迹集合中选择任意两个运动物体的运动轨迹,并分别作为第一运动物体的运动轨迹和第二运动物体的运动轨迹,第一运动物体为第一运动轨迹集合中任一运动物体,第二运动物体为第一运动轨迹集合中除第一运动物体以外的任一运动物体;从视频中获取包含第一运动物体和第二运动物体的视频图像,计算获取的每张视频图像中的第一运动物体与第二运动物体之间的距离;从计算的距离中选择最小距离,并将最小距离作为第一运动物体的运动轨迹与第二运动物体的运动轨迹之间的间距。
其中,对于任一张包含第一运动物体和第二运动物体的视频图像,可以按如下方式计算该张视频图像中的第一运动物体与第二运动物体之间的距离,包括:
在该视频图像中,构造第一运动物体的第一外接矩形框和第二运动物体的第二外接矩形框,第一外接矩形框是该视频图像中包括第一运动物体的图像的最小矩形框,第二外接矩形框是该视频图像中包括第二运动物体的图像的最小矩形框;确定第一外接矩形框的第一中心和第二外接矩形框的第二中心,计算第一中心与第二中心之间的距离,将计算的距离作为第一运动物体与第二运动物体之间的距离。对于其他每张包括第一运动物体和第二运动物体的视频图像均执行上述操作,可以分别计算出其他每张包括第一运动物体和第二运动物体的视频图像中的第一运动物体与第二运动物体之间的距离。
例如,如图3-2所示,运动物体1和运动物体2的外接矩形框分别为外接矩形框1和外接矩形框2,计算外接矩形框1的中心与外接矩形框2的中心之间的距离,将计算的距离作为运动物体1和运动物体2之间的距离。假设计算的外接矩形框1的中心与外接矩形框2的中心距离为7,则将7作为运动物体1和运动物体2之间的距离。继续按照上述方法计算其他每张视频图像中的运动物体1与运动物体2之间的距离,假设计算的距离中7为最小的距离,则将7作为运动物体1的运动轨迹和运动物体2的运动轨迹之间的间距。
步骤304:将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹;
具体的,从第一运动轨迹集合中选择相互之间的间距小于预设第一阈值的多条运动轨迹;从多条运动轨迹的起始时间中选择最小起始时间以及从多条运动轨迹的结束时间中选择最大结束时间;将多条运动轨迹合并为一条运动轨迹,并设置合并的一条运动轨迹的起始时间为最小起始时间以及结束时间为最大结束时间。对第一运动轨迹集合中相互之间的间距小于预设第一阈值的其他多条运动轨迹同样执行上述操作。
其中,多条运动轨迹相互之间的间距小于预设第一阈值表示多条运动轨迹分别对应的运动物体相互之间存在接触。例如,两个人的运动轨迹存在的冲撞点可能是两个人存在身体上的接触,如两个人打架等。预设第一阈值可由技术人员事先设定,可以为10、20或30等,本发明对此不加以限定。
例如,假设预设第一阈值为10,参见图3-3,运动物体1的运动轨迹和运动物体2的运动轨迹之间的距离7小于预设第一阈值10,则将运动物体1的运动轨迹和运动物体2的运动轨迹合并为一条运动轨迹。假设运动物体1的运动轨迹在视频中的起始时间为第10帧,运动物体1的运动轨迹在视频中的结束时间为第50帧,运动物体2的运动轨迹在视频中的起始时间为第30帧,以及运动物体2的运动轨迹在视频中的结束时间为第90帧;则将第10帧作为合并后的运动轨迹的起始时间,以及将第90帧作为合并后的运动轨迹的结束时间。
步骤305:将合并后的运动轨迹和第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;
进一步地,对第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,得到长度不超过预设长度的运动轨迹。
其中,预设长度可以为视频浓缩摘要的长度,或第二运动轨迹集合中长度最长的运动轨迹的长度。
优选地,对于第二运动轨迹集合中任一条长度超过预设长度的运动轨迹,按如下方式对该条运动轨迹进行切割,可以为:
如果该运动轨迹中存在冲撞点,则根据该冲撞点的位置确定第一切割点和第二切割点,第一切割点位于该冲撞点之前,第二切割点位于该冲撞点之后,第一切割点与第二切割点之间的长度不超过预设长度;根据第一切割点和第二切割点,对长度超过预设长度的运动轨迹进行切割。其中,如果长度超过预设长度的运动轨迹中不存在冲撞点,则只需将该运动轨迹切割成多段不超过预设长度的运动轨迹。
其中,冲撞点可以为多个运动物体的运动轨迹的交点,冲撞点表示多个运动物体存在接触,因此冲撞点往往包含了有价值的信息,因此需要保留运动轨迹中的冲撞点。
例如,如图3-4所示,某一合并后的运动轨迹a-b包括一个冲撞点e,冲撞点e为该运动轨迹a-b包括的运动物体1的运动轨迹和运动物体2的运动轨迹之间的冲撞点,该运动轨迹a-b的长度为40帧,假设预设长度为30帧,则该运动轨迹a-b的长度大于预设长度,分别确定第一切割点c和第二切割点d,第一切割点c与第二切割点d之间的距离小于或等于30帧,根据第一切割点c和第二切割点d,将运动轨迹a-b切割成3段运动轨迹,分别为运动轨迹a-c、运动轨迹c-d和运动轨迹d-b。
步骤306:从第二运动轨迹集合中选择长度最长的一个运动物体的运动轨迹,设置选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号为视频浓缩摘要缓存的第一帧;
进一步地,获取视频浓缩摘要的长度,即视频浓缩摘要包括的视频图像的数目,例如,将预设长度作为视频浓缩摘要的长度或将第二运动轨迹集合中最长的运动轨迹的长度作为视频浓缩摘要的长度;根据视频浓缩摘要的长度创建视频浓缩摘要缓存,视频浓缩摘要缓存包括的视频图像的数目与视频浓缩摘要包括的视频图像的数目相同,视频浓缩摘要缓存包括的视频图像可以为空白图像;根据选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,将选择的运动物体的运动轨迹插入视频浓缩摘要缓存中。
步骤307:从第二运动轨迹集合中未选择的运动物体的运动轨迹中选择长度最长的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置第三运动物体的运动轨迹的起始帧号为视频浓缩摘要缓存的第一帧;
进一步地,根据第三运动物体的运动轨迹的起始帧号将第三运动物体的运动轨迹插入视频浓缩摘要缓存中。
步骤308:获取视频浓缩摘要缓存中包含第三运动物体的视频图像,确定获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值,如果都小于,则步骤309;如果不都小于,执行步骤311;
从视频浓缩摘要缓存中获取包含第三运动物体的视频图像,获取的视频图像即为视频浓缩摘要缓存中包含第三运动物体的视频图像。
其中,预设第三阈值为视频浓缩摘要缓存中每张视频图像包括的运动物体的最大个数;预设第三阈值的数值越大,则视频浓缩摘要缓存中每张视频图像包括的运动物体的个数越多;预设第三阈值的数值越小,则视频浓缩摘要缓存中每张视频图像包括的运动物体的个数越少;预设第三阈值可由技术人员事先设定,可以为9、10或11等数值,本发明对此不加以限定。
步骤309:根据第三运动物体的运动轨迹的起始帧号,确定第三运动物体与视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件;如果满足预设条件,执行步骤310;如果不满足预设条件,执行步骤311;
具体的,根据第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含第三运动物体和第四运动物体的视频图像,第四运动物体为视频浓缩摘要缓存中的任一运动物体;根据获取的视频图像,计算第三运动物体与第四运动物体之间的冲撞度;如果第三运动物体与视频浓缩摘要缓存中每个运动物体之间的冲撞度小于预设第二阈值,则确定第三运动物体与视频浓缩摘要缓存中的运动物体之间的遮挡程度满足预设条件。
其中,可以按照如下公式(2)计算第三运动物体与视频浓缩摘要缓存中每个运动物体之间的冲撞度;
其中,在上述公式(2)中,r为第三运动物体的运动轨迹,r’为视频浓缩摘要缓存中每个运动物体的运动轨迹,sr为r在视频浓缩摘要缓存中的起始帧号,T为r包括的总帧数,St为在r的帧号为t时,r与r’之间的冲撞度。
优选的,根据获取的视频图像,计算第三运动物体与第四运动物体之间的冲撞度,可以通过如下第一至三任一种方式实现,包括:
第一种方式、计算获取的每张视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的个数;根据每张视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的个数计算第三运动物体与第四运动物体之间的冲撞度;或,
具体地,获取包含第三运动物体和第四运动物体的视频图像,计算获取的每张视频图像中第三运动物体的外接矩形框与第四运动物体的外接矩形框之间相互遮挡的区域包括的像素点的第一个数,将第一个数进行求和运算得到第二个数,将第二个数作为第三运动物体与第四运动物体之间的冲撞度。
例如,其中某一视频图像中的运动物体3和运动物体4的外接矩形框分别为外接矩形框3和外接矩形框4,计算外接矩形框3与外接矩形框4之间相互遮挡的区域包括的像素点的第一个数为10,假设计算出的其他视频图像中的第一个数分别为11、13和15;则将第一个数进行求和得到第二个数为49,将第二个数为49作为运动物体3和运动物体4之间的冲撞度。
第二种方式、计算获取的视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的第一个数;计算第一个数与获取的视频图像中的第四运动物体的图像包括的像素点的个数之间的比值,将比值作为获取的视频图像对应的比值;根据获取的每张视频图像对应的比值计算第三运动物体与第四运动物体之间的冲撞度;或,
具体地,获取包含第三运动物体和第四运动物体的视频图像,对于获取的每张视频图像,计算该张视频图像中第三运动物体的外接矩形框与第四运动物体的外接矩形框之间相互遮挡的区域包括的像素点的第一个数,计算第一个数与第四运动物体的外接矩形框包括的像素点的个数之间的比值;继续按照上述方法计算其他每张视频图像中第三运动物体的外接矩形框与第四运动物体的外接矩形框之间相互遮挡的区域包括的像素点的第一个数与第四运动物体的外接矩形框包括的像素点的个数的比值;将计算出的比值进行求和得到一数值,将该数值作为第三运动物体与第四运动物体之间的冲撞度。
例如,其中某一视频图像中的运动物体3和运动物体4的外接矩形框分别为外接矩形框3和外接矩形框4,计算外接矩形框3与外接矩形框4之间相互遮挡的区域包括的像素点的第一个数为10,运动物体4的外接矩形框4包括的像素点的个数为50,计算第一个数为10与外接矩形框4包括的像素点的第一个数为50的比值0.2,假设计算出的其他视频图像中的第一个数外接矩形框4包括的像素点的个数50的比值分别为0.3、0.7和0.4;则将计算出的比值进行求和得到1.6,将1.6作为运动物体3与运动物体4之间的冲撞度。
第三种方式、计算获取的视频图像中的第三运动物体和第四运动物体之间相互遮挡的区域包括的像素点的第一个数;计算第一个数与获取的视频图像中的第三运动物体的图像包括的像素点的个数之间的第一比值,以及计算第一个数与获取的视频图像中的第四运动物体的图像包括的像素点的个数之间的第二比值;如果第一比值大于或等于第二比值,则将第一比值确定为获取的视频图像对应的比值,否则,将第二比值确定为获取的视频图像对应的比值;根据获取的每张视频图像对应的比值计算第三运动物体与第四运动物体之间的冲撞度。
具体地,获取包含第三运动物体和第四运动物体的视频图像,对于获取的每张视频图像,计算该张视频图像中第三运动物体的外接矩形框与第四运动物体的外接矩形框之间相互遮挡的区域包括的像素点的第一个数,计算第一个数与第三运动物体的外接矩形框包括的像素点的个数之间的第一比值,以及计算第一个数与第四运动物体的外接矩形框包括的像素点的个数之间的第二比值;如果第一比值大于或等于第二比值,则将第一比值确定为该张视频图像对应的比值,否则,将第二比值确定为该张视频图像对应的比值;继续按照上述方法确定出其他每张视频图像对应的比值;将确定出的比值进行求和得到一数值,将该数值作为第三运动物体与第四运动物体之间的冲撞度。
例如,其中某一视频图像中的运动物体3和运动物体4的外接矩形框分别为外接矩形框3和外接矩形框4,计算外接矩形框3与外接矩形框4之间相互遮挡的区域包括的像素点的第一个数为10,运动物体3的外接矩形框3包括的像素点的个数为40,运动物体4的外接矩形框4的包括的像素点的个数为50,计算第一个数10与外接矩形框3包括的像素点的个数40的第一比值为0.25,计算第一个数10与外接矩形框4包括的像素点的个数50的第二比值为0.2,第一比值0.25大于第二比值0.2,因此将第一比值0.25确定为该张视频图像对应的比值;假设计算出的其他每张视频图像对应的比值分别为0.3、0.35和0.5;则将确定出的比值进行求和得到1.4,将1.4作为运动物体3与运动物体4之间的冲撞度。
步骤310:将第三运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号设置为第三运动物体的运动轨迹的起始帧号;如果第二运动轨迹集合中还存在未选择的运动物体的运动轨迹,则返回步骤307;如果第二运动轨迹集合中不存在未选择的运动物体的运动轨迹,则执行步骤312;
其中,获取第三运动物体的运动轨迹与视频浓缩摘要缓存中的运动轨迹存在冲撞点的视频图像,对于获取的任一张视频图像,可以按照如下第一或第二种方式进行处理,包括:
第一种方式、获取第三运动物体的外接矩形框与第四运动物体外接矩形框相互遮挡的区域,将第三运动物体的物体图像在该遮挡区域的灰度值作为该遮挡区域的灰度值;或,
第二种方式、获取第三运动物体的外接矩形框与第四运动物体外接矩形框相互遮挡的区域,获取第三运动物体的物体图像在该遮挡区域的第一灰度值,以及第四运动物体的物体图像在该遮挡区域的第二灰度值,计算第一灰度值与第二灰度值的平均值,将该平均值作为该遮挡区域的灰度值。
步骤311:增加第三运动物体的运动轨迹的起始帧号,返回步骤308;
步骤312:获取视频浓缩摘要的背景图像并组成一段视频;根据每条运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,分别将每条运动轨迹插入组成的视频中得到视频浓缩摘要。
具体地,获取插入到视频浓缩摘要缓存的运动轨迹包括的总帧数;获取视频中每帧图像包括的运动物体的个数,获取包括运动物体最多的总帧数个背景图像,将获取的背景图像按其在视频中出现的先后顺序进行排序,将排序后的背景图像作为视频浓缩摘要的背景图像;或,计算视频包括的总帧数与插入运动轨迹后的视频浓缩摘要包括的总帧数的比值,将视频分为比值个视频段,依次从每个视频段中获取一个背景图像,将获取的背景图像作为视频浓缩摘要的背景图像。将获取的背景图像按照其在视频中出现的先后顺序组成一段视频,将视频浓缩摘要缓存中的运动轨迹插入组成的视频中,利用改进的泊松图像编辑技术将运动轨迹与该一段视频中的背景图像进行无缝拼接,进而生成浓缩视频。
在本发明实施例中,将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹作为一条运动轨迹进行处理,保留了相互之间的间距小于预设第一阈值的多条运动轨迹之间的冲撞点以及冲撞点包含的重要信息;通过计算运动物体的运动轨迹与视频浓缩摘要缓存中的运动物体的运动轨迹之间冲撞度以及设置视频浓缩摘要缓存的每张视频图像包括的运动物体的个数的最大值,避免生成的视频浓缩摘要的每张视频图像包括的运动物体相互遮挡严重的情况以及拥挤情况。
实施例4
本发明实施例提供了一种生成视频浓缩摘要的方法,该方法用于提取视频中每个运动物体的运动轨迹,将相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并和未合并的运动轨迹进行按其在视频中出现的时间顺序重新排列并与该视频的背景图像组成的一段视频进行拼接得到视频浓缩摘要。
参见图4,该方法流程包括:
步骤401-405:分别与步骤301-305相同,在此就不再详细说明。
406:从第二运动轨迹集合中选择起始时间最早的一个运动物体的运动轨迹,设置选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号为视频浓缩摘要缓存的第一帧;
其中,可以创建视频浓缩摘要缓存,视频浓缩摘要缓存包括的视频图像的张数大于或等于预设预设长度,且与视频浓缩摘要包括的视频图像的张数相同。根据视频浓缩摘要缓存的第一帧,将选择的运动物体的运动轨迹插入视频浓缩摘要缓存中。
407:从第二运动轨迹集合中未选择的运动物体的运动轨迹中选择起始时间最早的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置第三运动物体的运动轨迹的起始帧号大于或等于在第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号;
其中,选择起始时间最早的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置第三运动物体的运动轨迹的起始帧号大于或等于在第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧,可以保留视频中的运动物体的运动轨迹在视频中出现的先后顺序;
其中,根据在第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,将第三运动物体的运动轨迹插入已创建的视频浓缩摘要缓存中。
步骤408-412:分别与步骤308-312相同,在此就不再详细说明。
在本发明实施例中,将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹作为一条运动轨迹进行处理,保留了相互之间的间距小于预设第一阈值的多条运动轨迹之间的冲撞点以及冲撞点包含的重要信息;从第二运动轨迹集合中选择起始时间最早的一个运动物体的运动轨迹,设置第三运动物体的运动轨迹的起始帧号大于或等于在第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,保留了视频中的运动物体的运动轨迹在视频中出现的先后顺序;通过计算运动物体的运动轨迹与视频浓缩摘要缓存中的运动物体的运动轨迹之间冲撞度以及设置视频浓缩摘要缓存的每张视频图像包括的运动物体的个数的最大值,避免视频浓缩摘要缓存的每张视频图像包括的运动物体相互遮挡严重的情况以及拥挤情况。
实施例5
参见图5,本发明实施例提供了一种设备,该设备包括存储器501和处理器502,用于执行如下一种生成视频浓缩摘要的方法:
从视频中获取第一运动轨迹集合,所述第一运动轨迹集合包括所述视频中的每个运动物体的运动轨迹;
将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹和所述第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;
根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要。
优选地,所述将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,包括:
从所述第一运动轨迹集合中选择相互之间的间距小于预设第一阈值的多条运动轨迹;
从所述多条运动轨迹的起始时间中选择最小起始时间以及从所述多条运动轨迹的结束时间中选择最大结束时间;
将所述多条运动轨迹合并为一条运动轨迹,并设置合并得到的所述一条运动轨迹的起始时间为所述最小起始时间以及结束时间为所述最大结束时间。
进一步地,所述将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹之前,还包括:
从所述视频中获取包含第一运动物体和第二运动物体的视频图像,所述第一运动物体和所述第二运动物体分别为所述视频中的任意两个运动物体;
计算获取的每张视频图像中的所述第一运动物体与所述第二运动物体之间的距离;
从所述计算的距离中选择最小距离,并将所述最小距离作为所述第一运动物体的运动轨迹与所述第二运动物体的运动轨迹之间的间距。
优选地,所述根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要,包括:
从所述第二运动轨迹集合中选择起始时间最早或长度最长的一个运动物体的运动轨迹,设置所述选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号为所述视频浓缩摘要缓存的第一帧;
从所述第二运动轨迹集合中未选择的运动物体的运动轨迹中选择起始时间最早或长度最长的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置所述第三运动物体的运动轨迹的起始帧号;
根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件;
如果满足预设条件,则将所述第三运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号设置为所述第三运动物体的运动轨迹的起始帧号;
获取所述视频浓缩摘要的背景图像并组成一段视频;根据所述第二运动轨迹集合中的每条运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,分别将所述第二运动轨迹集合中的每条运动轨迹插入所述组成的一段视频中得到所述视频浓缩摘要。
优选地,所述设置所述第三运动物体的运动轨迹的起始帧号,包括:
设置所述第三运动物体的运动轨迹的起始帧号为所述视频浓缩摘要的第一帧;或,
设置所述第三运动物体的运动轨迹的起始帧号大于或等于在所述第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号。
优选地,所述根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件,包括:
根据所述第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含所述第三运动物体和第四运动物体的视频图像,所述第四运动物体为所述视频浓缩摘要缓存中的任一运动物体;
根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度;
如果所述第三运动物体与所述视频浓缩摘要缓存中每个运动物体之间的冲撞度小于预设第二阈值,则确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度满足预设条件。
优选地,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数;
根据所述每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数计算所述第三运动物体与所述第四运动物体之间的冲撞度。
优选地,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的比值,将所述比值作为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
优选地,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第三运动物体的图像包括的像素点的个数之间的第一比值,以及计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的第二比值;
如果所述第一比值大于或等于所述第二比值,则将所述第一比值确定为所述获取的视频图像对应的比值,否则,将所述第二比值确定为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
进一步地,所述方法还包括:
如果不满足预设条件,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件。
进一步地,所述根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件之前,还包括:
根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值,如果都小于,则执行根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件的步骤。
进一步地,所述方法还包括:
如果不都小于,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值。
进一步地,所述根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要之前,还包括:
对所述第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,得到长度不超过预设长度的运动轨迹。
优选地,所述对所述第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,包括:
如果长度超过预设长度的运动轨迹中存在冲撞点,则确定第一切割点和第二切割点,所述第一切割点位于所述冲撞点之前,所述第二切割点位于所述冲撞点之后,所述第一切割点与所述第二切割点之间的长度不超过预设长度;
根据所述第一切割点和所述第二切割点,对所述长度超过预设长度的运动轨迹进行切割。
在本发明实施例中,将第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹作为一条运动轨迹进行处理,保留了相互之间的间距小于预设第一阈值的多条运动轨迹之间的冲撞点以及冲撞点包含的重要信息。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (27)
1.一种生成视频浓缩摘要的装置,其特征在于,所述装置包括:
第一获取模块,用于从视频中获取第一运动轨迹集合,所述第一运动轨迹集合包括所述视频中的每个运动物体的运动轨迹;
合并模块,用于将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹和所述第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;
生成模块,用于根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要;
所述生成模块包括:
第三选择单元,用于从所述第二运动轨迹集合中选择起始时间最早或长度最长的一个运动物体的运动轨迹,设置选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号为所述视频浓缩摘要缓存的第一帧;
第四选择单元,用于从所述第二运动轨迹集合中未选择的运动物体的运动轨迹中选择起始时间最早或长度最长的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置所述第三运动物体的运动轨迹的起始帧号;
第一确定单元,用于根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件;
设置单元,用于如果满足预设条件,则将所述第三运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号设置为所述第三运动物体的运动轨迹的起始帧号;
插入单元,用于获取所述视频浓缩摘要的背景图像并组成一段视频;根据所述第二运动轨迹集合中的每条运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,分别将所述第二运动轨迹集合中的每条运动轨迹插入所述组成的一段视频中得到所述视频浓缩摘要。
2.如权利要求1所述的装置,其特征在于,所述合并模块包括:
第一选择单元,用于从所述第一运动轨迹集合中选择相互之间的间距小于预设第一阈值的多条运动轨迹;
第二选择单元,用于从所述多条运动轨迹的起始时间中选择最小起始时间以及从所述多条运动轨迹的结束时间中选择最大结束时间;
合并单元,用于将所述多条运动轨迹合并为一条运动轨迹,并设置合并得到的所述一条运动轨迹的起始时间为所述最小起始时间以及结束时间为所述最大结束时间。
3.如权利要求1或2所述的装置,其特征在于,所述装置还包括:
第二获取模块,用于从所述视频中获取包含第一运动物体和第二运动物体的视频图像,所述第一运动物体和所述第二运动物体分别为所述视频中的任意两个运动物体;
计算模块,用于计算获取的每张视频图像中的所述第一运动物体与所述第二运动物体之间的距离;
选择模块,用于从所述计算的距离中选择最小距离,并将所述最小距离作为所述第一运动物体的运动轨迹与所述第二运动物体的运动轨迹之间的间距。
4.如权利要求1所述的装置,其特征在于,所述第四选择单元包括:
第一设置子单元,用于设置所述第三运动物体的运动轨迹的起始帧号为所述视频浓缩摘要缓存的第一帧;或,
第二设置子单元,用于设置所述第三运动物体的运动轨迹的起始帧号大于或等于在所述第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号。
5.如权利要求1或4所述的装置,其特征在于,所述第一确定单元包括:
获取子单元,用于根据所述第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含所述第三运动物体和第四运动物体的视频图像,所述第四运动物体为所述视频浓缩摘要缓存中的任一运动物体;
计算子单元,用于根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度;
确定子单元,用于如果所述第三运动物体与所述视频浓缩摘要缓存中每个运动物体之间的冲撞度小于预设第二阈值,则确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度满足预设条件。
6.如权利要求5所述的装置,其特征在于,
所述计算子单元具体用于计算所述获取的每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数;
根据所述每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数计算所述第三运动物体与所述第四运动物体之间的冲撞度。
7.如权利要求5所述的装置,其特征在于,
所述计算子单元具体用于计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的比值,将所述比值作为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
8.如权利要求5所述的装置,其特征在于,
所述计算子单元具体用于计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第三运动物体的图像包括的像素点的个数之间的第一比值,以及计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的第二比值;
如果所述第一比值大于或等于所述第二比值,则将所述第一比值确定为所述获取的视频图像对应的比值,否则,将所述第二比值确定为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
9.如权利要求1所述的装置,其特征在于,所述生成模块还包括:
增加单元,用于如果不满足预设条件,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件。
10.如权利要求1所述的装置,其特征在于,所述生成模块还包括:
获取单元,用于根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值,如果都小于,则执行根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件的步骤。
11.如权利要求10所述的装置,其特征在于,所述获取单元还包括:
增加子单元,用于如果不都小于,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值。
12.如权利要求1或2所述的装置,其特征在于,所述装置还包括:
切割模块,用于对所述第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,得到长度不超过预设长度的运动轨迹。
13.如权利要求12所述的装置,其特征在于,所述切割模块包括:
第二确定单元,用于如果长度超过预设长度的运动轨迹中存在冲撞点,则确定第一切割点和第二切割点,所述第一切割点位于所述冲撞点之前,所述第二切割点位于所述冲撞点之后,所述第一切割点与所述第二切割点之间的长度不超过预设长度;
切割单元,用于根据所述第一切割点和所述第二切割点,对所述长度超过预设长度的运动轨迹进行切割。
14.一种生成视频浓缩摘要的方法,其特征在于,所述方法包括:
从视频中获取第一运动轨迹集合,所述第一运动轨迹集合包括所述视频中的每个运动物体的运动轨迹;
将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,将合并后的运动轨迹和所述第一运动轨迹集合中未合并的运动轨迹组成第二运动轨迹集合;
根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要;
所述根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要,包括:
从所述第二运动轨迹集合中选择起始时间最早或长度最长的一个运动物体的运动轨迹,设置选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号为所述视频浓缩摘要缓存的第一帧;
从所述第二运动轨迹集合中未选择的运动物体的运动轨迹中选择起始时间最早或长度最长的一个运动物体的运动轨迹作为第三运动物体的运动轨迹,设置所述第三运动物体的运动轨迹的起始帧号;
根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件;
如果满足预设条件,则将所述第三运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号设置为所述第三运动物体的运动轨迹的起始帧号;
获取所述视频浓缩摘要的背景图像并组成一段视频;根据所述第二运动轨迹集合中的每条运动轨迹在视频浓缩摘要缓存中的起始帧的帧号,分别将所述第二运动轨迹集合中的每条运动轨迹插入所述组成的一段视频中得到所述视频浓缩摘要。
15.如权利要求14所述的方法,其特征在于,所述将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹,包括:
从所述第一运动轨迹集合中选择相互之间的间距小于预设第一阈值的多条运动轨迹;
从所述多条运动轨迹的起始时间中选择最小起始时间以及从所述多条运动轨迹的结束时间中选择最大结束时间;
将所述多条运动轨迹合并为一条运动轨迹,并设置合并得到的所述一条运动轨迹的起始时间为所述最小起始时间以及结束时间为所述最大结束时间。
16.如权利要求14或15所述的方法,其特征在于,所述将所述第一运动轨迹集合中的相互之间的间距小于预设第一阈值的多条运动轨迹合并为一条运动轨迹之前,还包括:
从所述视频中获取包含第一运动物体和第二运动物体的视频图像,所述第一运动物体和所述第二运动物体分别为所述视频中的任意两个运动物体;
计算获取的每张视频图像中的所述第一运动物体与所述第二运动物体之间的距离;
从所述计算的距离中选择最小距离,并将所述最小距离作为所述第一运动物体的运动轨迹与所述第二运动物体的运动轨迹之间的间距。
17.如权利要求14所述的方法,其特征在于,所述设置所述第三运动物体的运动轨迹的起始帧号,包括:
设置所述第三运动物体的运动轨迹的起始帧号为所述视频浓缩摘要缓存的第一帧;或,
设置所述第三运动物体的运动轨迹的起始帧号大于或等于在所述第三运动物体之前最近一次选择的运动物体的运动轨迹在视频浓缩摘要缓存中的起始帧的帧号。
18.如权利要求14或17所述的方法,其特征在于,所述根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件,包括:
根据所述第三运动物体的运动轨迹的起始帧号,获取视频浓缩摘要缓存中包含所述第三运动物体和第四运动物体的视频图像,所述第四运动物体为所述视频浓缩摘要缓存中的任一运动物体;
根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度;
如果所述第三运动物体与所述视频浓缩摘要缓存中每个运动物体之间的冲撞度小于预设第二阈值,则确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度满足预设条件。
19.如权利要求18所述的方法,其特征在于,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数;
根据所述每张视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的个数,计算所述第三运动物体与所述第四运动物体之间的冲撞度。
20.如权利要求18所述的方法,其特征在于,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的比值,将所述比值作为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
21.如权利要求18所述的方法,其特征在于,所述根据所述获取的视频图像,计算所述第三运动物体与所述第四运动物体之间的冲撞度,包括:
计算所述获取的视频图像中的所述第三运动物体和所述第四运动物体之间相互遮挡的区域包括的像素点的第一个数;
计算所述第一个数与所述获取的视频图像中的所述第三运动物体的图像包括的像素点的个数之间的第一比值,以及计算所述第一个数与所述获取的视频图像中的所述第四运动物体的图像包括的像素点的个数之间的第二比值;
如果所述第一比值大于或等于所述第二比值,则将所述第一比值确定为所述获取的视频图像对应的比值,否则,将所述第二比值确定为所述获取的视频图像对应的比值;
根据获取的每张视频图像对应的比值计算所述第三运动物体与所述第四运动物体之间的冲撞度。
22.如权利要求14所述的方法,其特征在于,所述方法还包括:
如果不满足预设条件,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件。
23.如权利要求14所述的方法,其特征在于,所述根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件之前,还包括:
根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值,如果都小于,则执行根据所述第三运动物体的运动轨迹的起始帧号,确定所述第三运动物体与所述视频浓缩摘要缓存中的运动物体之间的遮挡程度是否满足预设条件的步骤。
24.如权利要求23所述的方法,其特征在于,所述方法还包括:
如果不都小于,则增加所述第三运动物体的运动轨迹的起始帧号,再根据所述第三运动物体的运动轨迹的起始帧号,获取所述视频浓缩摘要缓存中包含所述第三运动物体的视频图像,确定所述获取的每张视频图像中包含的运动物体的数目是否都小于预设第三阈值。
25.如权利要求14或15所述的方法,其特征在于,所述根据所述第二运动轨迹集合生成所述视频的视频浓缩摘要之前,还包括:
对所述第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,得到长度不超过预设长度的运动轨迹。
26.如权利要求25所述的方法,其特征在于,所述对所述第二运动轨迹集合中长度超过预设长度的运动轨迹进行切割,包括:
如果长度超过预设长度的运动轨迹中存在冲撞点,则确定第一切割点和第二切割点,所述第一切割点位于所述冲撞点之前,所述第二切割点位于所述冲撞点之后,所述第一切割点与所述第二切割点之间的长度不超过预设长度;
根据所述第一切割点和所述第二切割点,对所述长度超过预设长度的运动轨迹进行切割。
27.一种生成视频浓缩摘要的设备,其特征在于,所述设备包括存储器和处理器,用于执行如权利要求14至26任一项权利要求所述的一种生成视频浓缩摘要的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410071513.1A CN104883628B (zh) | 2014-02-28 | 2014-02-28 | 一种生成视频浓缩摘要的方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410071513.1A CN104883628B (zh) | 2014-02-28 | 2014-02-28 | 一种生成视频浓缩摘要的方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104883628A CN104883628A (zh) | 2015-09-02 |
CN104883628B true CN104883628B (zh) | 2018-06-05 |
Family
ID=53950934
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410071513.1A Expired - Fee Related CN104883628B (zh) | 2014-02-28 | 2014-02-28 | 一种生成视频浓缩摘要的方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104883628B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109511019A (zh) * | 2017-09-14 | 2019-03-22 | 中兴通讯股份有限公司 | 一种视频摘要方法、终端及计算机可读存储介质 |
CN110971811B (zh) * | 2018-09-30 | 2022-11-15 | 中兴通讯股份有限公司 | 图像筛选方法、系统、终端及计算机可读存储介质 |
CN111010590B (zh) * | 2018-10-08 | 2022-05-17 | 阿里巴巴(中国)有限公司 | 一种视频裁剪方法及装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8855361B2 (en) * | 2010-12-30 | 2014-10-07 | Pelco, Inc. | Scene activity analysis using statistical and semantic features learnt from object trajectory data |
CN102740106B (zh) * | 2011-03-31 | 2014-12-03 | 富士通株式会社 | 在视频中检测摄像机运动类型的方法及装置 |
CN102930061B (zh) * | 2012-11-28 | 2016-01-06 | 安徽水天信息科技有限公司 | 一种基于运动目标检测的视频摘要方法 |
-
2014
- 2014-02-28 CN CN201410071513.1A patent/CN104883628B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
CN104883628A (zh) | 2015-09-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CA3041148C (en) | Systems and methods for behaviour understanding from trajectories | |
CN110796051B (zh) | 基于货柜场景下的实时存取行为检测方法和系统 | |
CN109272509B (zh) | 一种连续图像的目标检测方法、装置、设备及存储介质 | |
CN104717457B (zh) | 一种视频浓缩方法及装置 | |
CN110152273B (zh) | 一种基于智能目标识别的跳绳计数方法 | |
JP4363728B2 (ja) | ディジタル画像のダウンサンプリング方法及びシステム | |
CN108805083A (zh) | 单阶段的视频行为检测方法 | |
CN109034215A (zh) | 一种基于深度卷积神经网络的安全帽佩戴检测方法 | |
CN104883628B (zh) | 一种生成视频浓缩摘要的方法、装置及设备 | |
CN111539290A (zh) | 视频动作识别方法、装置、电子设备及存储介质 | |
CN112417990B (zh) | 一种考试学生违规行为识别方法及系统 | |
CN107633226A (zh) | 一种人体动作跟踪识别方法及系统 | |
CN112101248B (zh) | 一种用于视频时空表征学习的多分组多注意力建模方法 | |
CN110322509B (zh) | 基于层级类激活图的目标定位方法、系统及计算机设备 | |
CN110414367A (zh) | 一种基于gan和ssn的时序行为检测方法 | |
CN104717574B (zh) | 一种视频摘要中事件与背景的融合方法 | |
CN114998303A (zh) | 特征提取能力强的小肠间质瘤检测方法 | |
US10296781B2 (en) | Method and system for detecting events of a known nature | |
CN115619710A (zh) | 基于分步跟踪检测的物品数量统计方法、装置及设备 | |
US10701463B2 (en) | Compact video generation device and method, and recording medium in which computer program is recorded | |
Zahan et al. | Learning sparse temporal video mapping for action quality assessment in floor gymnastics | |
Renò et al. | Real-time tracking of a tennis ball by combining 3d data and domain knowledge | |
CN103957472B (zh) | 一种基于事件最优重组的保时序摘要视频生成方法与系统 | |
Ao et al. | Amodal Intra-class Instance Segmentation: Synthetic Datasets and Benchmark | |
CN113298017A (zh) | 一种针对视频行为检测的行为提议生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20180605 |
|
CF01 | Termination of patent right due to non-payment of annual fee |