CN103986981B - 多媒体文件的情节片段的识别方法及装置 - Google Patents

多媒体文件的情节片段的识别方法及装置 Download PDF

Info

Publication number
CN103986981B
CN103986981B CN201410148997.5A CN201410148997A CN103986981B CN 103986981 B CN103986981 B CN 103986981B CN 201410148997 A CN201410148997 A CN 201410148997A CN 103986981 B CN103986981 B CN 103986981B
Authority
CN
China
Prior art keywords
fragment
file
time
plot
multimedia file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201410148997.5A
Other languages
English (en)
Other versions
CN103986981A (zh
Inventor
由清圳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201410148997.5A priority Critical patent/CN103986981B/zh
Publication of CN103986981A publication Critical patent/CN103986981A/zh
Application granted granted Critical
Publication of CN103986981B publication Critical patent/CN103986981B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明提供一种多媒体文件的情节片段的识别方法及装置。本发明实施例通过利用对象跟踪技术,对所确定的多媒体文件所包括的至少两帧图像进行识别处理,以获得目标文件片段,以及根据所确定的多媒体文件的字幕内容和字幕时间,获得目标字幕片段,使得能够根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,无需操作人员参与操作过程,操作简单,且正确率高,从而提高了情节片段识别的效率和可靠性。

Description

多媒体文件的情节片段的识别方法及装置
【技术领域】
本发明涉及多媒体技术,尤其涉及一种多媒体文件的情节片段的识别方法及装置。
【背景技术】
多媒体文件例如,视频文件一般可以包括多个情节片段,对情节片段进行有效的识别,能够为多媒体文件的处理带来更多益处。例如,播放多媒体文件时,展示各个情节片段的播放操作标识,例如,在播放时间轴上的小白点等,以供用户很容易找到感兴趣的内容进行有选择地观看。现有技术中,操作人员可以逐一对多媒体文件进行人工识别,以识别该多媒体文件的情节片段。
然而,现有的情节片段的识别操作复杂,且容易出错,从而导致了情节片段识别的效率和可靠性的降低。
【发明内容】
本发明的多个方面提供一种多媒体文件的情节片段的识别方法及装置,用以提高情节片段识别的效率和可靠性。
本发明的一方面,提供一种多媒体文件的情节片段的识别方法,包括:
获取待处理的多媒体文件,所述多媒体文件包括至少两帧图像;
利用对象跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段;
根据所述多媒体文件的字幕内容和字幕时间,获得目标字幕片段;
根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述利用对象跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段,包括:
利用对象跟踪技术,提取所述至少两帧图像中出现目标对象的图像,以获得至少两个候选文件片段;
根据所述至少两个候选文件片段中相邻的候选文件片段之间的第一时间间隔和预先设置的第一时间阈值,对相邻的候选文件片段进行合并处理,以获得所述目标文件片段。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述多媒体文件的字幕内容和字幕时间,获得目标字幕片段,包括:
根据所述多媒体文件的字幕内容和字幕时间,获得至少两个候选字幕片段;
根据所述至少两个候选字幕片段中相邻的候选字幕片段之间的第二时间间隔和预先设置的第二时间阈值,对相邻的候选字幕片段进行合并处理,以获得所述目标字幕片段。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,包括:
根据所述目标文件片段和所述目标字幕片段,获得至少一个融合文件片段;
根据所述至少一个融合文件片段中相邻的融合文件片段之间的第三时间间隔和预先设置的第三时间阈值,对相邻的融合文件片段进行合并处理,以获得所述多媒体文件的情节片段。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节之后,还包括:
根据所述情节片段所对应的时间范围,获得切割字幕内容;
根据所述切割字幕内容,获得每个情节片段的情节内容描述。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节之后,还包括:
根据所述情节片段所对应的时间范围,获得可播放时间,以供根据所述可播放时间,进行所述多媒体文件的播放。
本发明的另一方面,提供一种多媒体文件的情节片段的识别装置,包括:
获取单元,用于获取待处理的多媒体文件,所述多媒体文件包括至少两帧图像;
文件处理单元,用于利用对象跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段;
字幕处理单元,用于根据所述多媒体文件的字幕内容和字幕时间,获得目标字幕片段;
决策单元,用于根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述文件处理单元,具体用于
利用对象跟踪技术,提取所述至少两帧图像中出现目标对象的图像,以获得至少两个候选文件片段;以及
根据所述至少两个候选文件片段中相邻的候选文件片段之间的第一时间间隔和预先设置的第一时间阈值,对相邻的候选文件片段进行合并处理,以获得所述目标文件片段。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述字幕处理单元,具体用于
根据所述多媒体文件的字幕内容和字幕时间,获得至少两个候选字幕片段;以及
根据所述至少两个候选字幕片段中相邻的候选字幕片段之间的第二时间间隔和预先设置的第二时间阈值,对相邻的候选字幕片段进行合并处理,以获得所述目标字幕片段。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述决策单元,具体用于
根据所述目标文件片段和所述目标字幕片段,获得至少一个融合文件片段;以及
根据所述至少一个融合文件片段中相邻的融合文件片段之间的第三时间间隔和预先设置的第三时间阈值,对相邻的融合文件片段进行合并处理,以获得所述多媒体文件的情节片段。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述字幕处理单元,还用于
根据所述情节片段所对应的时间范围,获得切割字幕内容;以及
根据所述切割字幕内容,获得每个情节片段的情节内容描述。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述文件处理单元,还用于
根据所述情节片段所对应的时间范围,获得可播放时间,以供根据所述可播放时间,进行所述多媒体文件的播放。
由上述技术方案可知,本发明实施例通过利用对象跟踪技术,对所确定的多媒体文件所包括的至少两帧图像进行识别处理,以获得目标文件片段,以及根据所确定的多媒体文件的字幕内容和字幕时间,获得目标字幕片段,使得能够根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,无需操作人员参与操作过程,操作简单,且正确率高,从而提高了情节片段识别的效率和可靠性。
另外,采用本发明提供的技术方案,无需操作人员参与操作过程,即能实现情节片段的自动识别,因此,能够有效提高情节片段的识别成本。
【附图说明】
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的多媒体文件的情节片段的识别方法的流程示意图;
图2为本发明另一实施例提供的多媒体文件的情节片段的识别装置的结构示意图。
【具体实施方式】
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本发明保护的范围。
需要说明的是,本发明实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持装置、无线上网本、个人电脑(Personal Computer,PC)、便携电脑、MP3播放器、MP4播放器等。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
图1为本发明一实施例提供的多媒体文件的情节片段的识别方法的流程示意图,如图1所示。
101、获取待处理的多媒体文件,所述多媒体文件包括至少两帧图像。
其中,多媒体文件可以包括但不限于视频文件,本实施例对此不进行特别限定。
102、利用对象跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段。
103、根据所述多媒体文件的字幕内容和字幕时间,获得目标字幕片段。
104、根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段。
需要说明的是,102与103的执行没有固定的顺序,可以先执行102,再执行103,或者还可以先执行103,再执行102,或者还可以同时执行102和103,本实施例对此不进行特别限定。
需要说明的是,101~104的执行主体可以是处理装置,可以位于本地的应用中,或者还可以位于网络侧的服务器中,或者也可以部分功能位于应用中,部分功能位于服务器中,本实施例对此不进行限定。
可以理解的是,所述应用可以是终端上所安装的应用程序,或者还可以是终端上所安装的浏览器的一个网页,只要能够实现多媒体文件的情节片段的识别的客观存在形式都可以,本实施例对此不进行特别限定。
这样,通过利用对象跟踪技术,对所确定的多媒体文件所包括的至少两帧图像进行识别处理,以获得目标文件片段,以及根据所确定的多媒体文件的字幕内容和字幕时间,获得目标字幕片段,使得能够根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,无需操作人员参与操作过程,操作简单,且正确率高,从而提高了情节片段识别的效率和可靠性。
可选地,在本实施例的一个可能的实现方式中,在102中,识别装置具体可以利用对象跟踪技术,提取所述至少两帧图像中出现目标对象的图像,以获得至少两个候选文件片段。例如,可以将所提取出的连续帧的图像,组成一个候选文件片段。然后,所述识别装置则可以根据所述至少两个候选文件片段中相邻的候选文件片段之间的第一时间间隔和预先设置的第一时间阈值,对相邻的候选文件片段进行合并处理,以获得所述目标文件片段。
例如,若第一时间间隔小于或等于第一时间阈值,则可以将相邻的候选文件片段进行合并,以获得一个新的候选文件片段。
或者,再例如,若第一时间间隔大于第一时间阈值,则可以保留相邻的候选文件片段,直到一个候选文件片段与相邻的任何其他候选文件片段之间的第一时间间隔均大于第一时间阈值,则可以将该候选文件片段作为一个目标文件片段。
具体地,其中的目标对象可以包括但不限于人脸,相应地,所述识别装置具体可以利用人脸跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段。
一般来说,多媒体文件的字幕内容和字幕时间可以存储在字幕文件中,例如,字幕文件可以包含如下内容:
00:00:36,136→00:00:36,731
What must it be like not to be crippled by fear and self-loathing?;
其中,“00:00:36,136→00:00:36,731”为字幕时间,“What must it be like notto be crippled by fear and self-loathing?”为字幕内容。
具体地,识别装置具体可以对字幕文件进行规格化处理,以提取出该字幕文件中所包含的字幕内容和字幕时间。
还有些时候,多媒体文件的字幕内容并不是单独存储在字幕文件中,而其就是多媒体文件的内容的一部分。那么,所述识别装置还可以进一步利用现有技术中的字幕提取技术,从多媒体文件中提取出字幕内容和字幕时间。其中,字幕提取技术的详细描述可以参见现有技术中的相关内容,此处不再赘述。
可选地,在本实施例的一个可能的实现方式中,在103中,识别装置具体可以根据所述多媒体文件的字幕内容和字幕时间,获得至少两个候选字幕片段。然后,所述识别装置则可以根据所述至少两个候选字幕片段中相邻的候选字幕片段之间的第二时间间隔和预先设置的第二时间阈值,对相邻的候选字幕片段进行合并处理,以获得所述目标字幕片段。
例如,若第二时间间隔小于或等于第二时间阈值,则可以将相邻的候选字幕片段进行合并,以获得一个新的候选字幕片段。
或者,再例如,若第二时间间隔大于第二时间阈值,则可以保留相邻的候选字幕片段,直到一个候选字幕片段与相邻的任何其他候选字幕片段之间的第二时间间隔均大于第二时间阈值,则可以将该候选字幕片段作为一个目标字幕片段。
可选地,在本实施例的一个可能的实现方式中,在104中,识别装置具体可以根据所述目标文件片段和所述目标字幕片段,获得至少一个融合文件片段。
例如,所述识别装置具体可以根据目标文件片段所对应的第一时间范围,与目标字幕片段所对应的第二时间范围,确定第一时间范围与第二时间范围之间存在交集的目标文件片段和目标字幕片段,将该目标字幕片段所对应的时间范围之内的多媒体文件片段,与该目标文件片段,进行合并,以获得一个融合文件片段。例如,第一时间范围为5~10s,第二时间范围为8~15s,则融合文件片段则可以为时间范围5~15s所对应的文件片段。
然后,所述识别装置则可以根据所述至少一个融合文件片段中相邻的融合文件片段之间的第三时间间隔和预先设置的第三时间阈值,对相邻的融合文件片段进行合并处理,以获得所述多媒体文件的情节片段。
例如,若第三时间间隔,小于或等于第三时间阈值,则可以将相邻的融合文件片段进行合并,以获得一个新的融合文件片段。
或者,再例如,若第三时间间隔,大于第三时间阈值,则可以保留相邻的融合文件片段,直到一个融合文件片段与相邻的任何其他融合文件片段之间的第三时间间隔均大于第三时间阈值,则可以将该融合文件片段作为一个情节片段。
可以理解的是,每个情节片段在时间上,可以是连续的,即两个情节片段之间不具有任何时间间隔,或者还可以是非连续的,即两个情节片段之间具有一定的时间间隔,本实施例对此不进行特别限定。
可选地,在本实施例的一个可能的实现方式中,在104之后,识别装置还可以进一步根据所述情节片段所对应的时间范围,获得切割字幕内容。然后,所述识别装置则可以根据所述切割字幕内容,获得每个情节片段的情节内容描述。例如,情节片段所对应的时间范围为15秒(s)~25s,识别装置则可以根据这一时间范围15s~25s,对多媒体文件的字幕内容进行切割,以获得该时间范围之内的切割字幕内容。
具体地,识别装置具体可以切割字幕内容进行特征提取,以获得特征信息。例如,识别装置具体可以采用现有技术中的任一特征提取算法,例如,关键词提取算法等,对切割字幕内容进行特征提取,本实施例对此不进行特别限定。
这样,识别装置则可以记录所述多媒体文件的情节片段所对应的时间范围,以及各个情节片段的情节内容描述,进而使得多媒体播放器在播放多媒体文件时,展示各个情节片段的播放操作标识,例如,在播放时间轴上,对应各个情节片段的开始位置设置一个小白点等,以及有条件地展示各个情节片段的情节内容描述,例如,当光标停留在播放操作标识上时,可以弹出一个文本即该播放操作标识所对应情节片段的情节内容描述,以供用户很容易找到感兴趣的内容进行有选择地观看。
可选地,在本实施例的一个可能的实现方式中,在104之后,识别装置还可以进一步根据所述情节片段所对应的时间范围,获得播放时间,以供根据所述可播放时间,进行所述多媒体文件的播放。其中,播放时间可以是连续的情节片段所对应的连续时间,或者还可以为非连续的情节片段所对应的非连续时间,本实施例对此不进行特别限定。
这样,识别装置则可以记录所获得的播放时间,进而使得多媒体播放器在播放多媒体文件时,根据所述可播放时间,进行所述多媒体文件的播放。
本实施例中,通过利用对象跟踪技术,对所确定的多媒体文件所包括的至少两帧图像进行识别处理,以获得目标文件片段,以及根据所确定的多媒体文件的字幕内容和字幕时间,获得目标字幕片段,使得能够根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,无需操作人员参与操作过程,操作简单,且正确率高,从而提高了情节片段识别的效率和可靠性。
另外,采用本发明提供的技术方案,无需操作人员参与操作过程,即能实现情节片段的自动识别,因此,能够有效提高情节片段的识别成本。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图2为本发明另一实施例提供的多媒体文件的情节片段的识别装置的结构示意图,如图2所示。本实施例的多媒体文件的情节片段的识别装置可以包括获取单元21、文件处理单元22、字幕处理单元23和决策单元24。其中,
获取单元21,用于获取待处理的多媒体文件,所述多媒体文件包括至少两帧图像。
其中,多媒体文件可以包括但不限于视频文件,本实施例对此不进行特别限定。
文件处理单元22,用于利用对象跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段。
字幕处理单元23,用于根据所述多媒体文件的字幕内容和字幕时间,获得目标字幕片段。
决策单元24,用于根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段。
需要说明的是,本实施例所提供的多媒体文件的情节片段的识别装置,可以位于本地的应用中,或者还可以位于网络侧的服务器中,或者也可以部分功能位于应用中,部分功能位于服务器中,本实施例对此不进行限定。
可以理解的是,所述应用可以是终端上所安装的应用程序,或者还可以是终端上所安装的浏览器的一个网页,只要能够实现多媒体文件的情节片段的识别的客观存在形式都可以,本实施例对此不进行特别限定。
这样,通过文件处理单元利用对象跟踪技术,对获取单元所确定的多媒体文件所包括的至少两帧图像进行识别处理,以获得目标文件片段,以及字幕处理单元根据获取单元所确定的多媒体文件的字幕内容和字幕时间,获得目标字幕片段,使得决策单元能够根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,无需操作人员参与操作过程,操作简单,且正确率高,从而提高了情节片段识别的效率和可靠性。
可选地,在本实施例的一个可能的实现方式中,所述文件处理单元22,具体可以用于利用对象跟踪技术,提取所述至少两帧图像中出现目标对象的图像,以获得至少两个候选文件片段,例如,可以将所提取出的连续帧的图像,组成一个候选文件片段;以及根据所述至少两个候选文件片段中相邻的候选文件片段之间的第一时间间隔和预先设置的第一时间阈值,对相邻的候选文件片段进行合并处理,以获得所述目标文件片段。
例如,若第一时间间隔小于或等于第一时间阈值,所述文件处理单元22则可以将相邻的候选文件片段进行合并,以获得一个新的候选文件片段。
或者,再例如,若第一时间间隔大于第一时间阈值,所述文件处理单元22则可以保留相邻的候选文件片段,直到一个候选文件片段与相邻的任何其他候选文件片段之间的第一时间间隔均大于第一时间阈值,所述文件处理单元22则可以将该候选文件片段作为一个目标文件片段。
具体地,其中的目标对象可以包括但不限于人脸,相应地,所述文件处理单元22具体可以利用人脸跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段。
一般来说,多媒体文件的字幕内容和字幕时间可以存储在字幕文件中,例如,字幕文件可以包含如下内容:
00:00:36,136→00:00:36,731
What must it be like not to be crippled by fear and self-loathing?;
其中,“00:00:36,136→00:00:36,731”为字幕时间,“What must it be like notto be crippled by fear and self-loathing?”为字幕内容。
具体地,所述文件处理单元22可以对字幕文件进行规格化处理,以提取出该字幕文件中所包含的字幕内容和字幕时间。
还有些时候,多媒体文件的字幕内容并不是单独存储在字幕文件中,而其就是多媒体文件的内容的一部分。那么,所述文件处理单元22还可以进一步利用现有技术中的字幕提取技术,从多媒体文件中提取出字幕内容和字幕时间。其中,字幕提取技术的详细描述可以参见现有技术中的相关内容,此处不再赘述。
可选地,在本实施例的一个可能的实现方式中,所述字幕处理单元23,具体可以用于根据所述多媒体文件的字幕内容和字幕时间,获得至少两个候选字幕片段;以及根据所述至少两个候选字幕片段中相邻的候选字幕片段之间的第二时间间隔和预先设置的第二时间阈值,对相邻的候选字幕片段进行合并处理,以获得所述目标字幕片段。
例如,若第二时间间隔小于或等于第二时间阈值,所述字幕处理单元23则可以将相邻的候选字幕片段进行合并,以获得一个新的候选字幕片段。
或者,再例如,若第二时间间隔大于第二时间阈值,所述字幕处理单元23则可以保留相邻的候选字幕片段,直到一个候选字幕片段与相邻的任何其他候选字幕片段之间的第二时间间隔均大于第二时间阈值,所述字幕处理单元23则可以将该候选字幕片段作为一个目标字幕片段。
可选地,在本实施例的一个可能的实现方式中,所述决策单元24,具体可以用于根据所述目标文件片段和所述目标字幕片段,获得至少一个融合文件片段,例如,所述决策单元24具体可以根据目标文件片段所对应的第一时间范围,与目标字幕片段所对应的第二时间范围,确定第一时间范围与第二时间范围之间存在交集的目标文件片段和目标字幕片段,将该目标字幕片段所对应的时间范围之内的多媒体文件片段,与该目标文件片段,进行合并,以获得一个融合文件片段,例如,第一时间范围为5~10s,第二时间范围为8~15s,则融合文件片段则可以为时间范围5~15s所对应的文件片段;以及根据所述至少一个融合文件片段中相邻的融合文件片段之间的第三时间间隔和预先设置的第三时间阈值,对相邻的融合文件片段进行合并处理,以获得所述多媒体文件的情节片段。
例如,若第三时间间隔,小于或等于第三时间阈值,所述决策单元24则可以将相邻的融合文件片段进行合并,以获得一个新的融合文件片段。
或者,再例如,若第三时间间隔,大于第三时间阈值,所述决策单元24则可以保留相邻的融合文件片段,直到一个融合文件片段与相邻的任何其他融合文件片段之间的第三时间间隔均大于第三时间阈值,则可以将该融合文件片段作为一个情节片段。
可以理解的是,每个情节片段在时间上,可以是连续的,即两个情节片段之间不具有任何时间间隔,或者还可以是非连续的,即两个情节片段之间具有一定的时间间隔,本实施例对此不进行特别限定。
可选地,在本实施例的一个可能的实现方式中,所述字幕处理单元23,还可以进一步根据所述情节片段所对应的时间范围,获得切割字幕内容;以及根据所述切割字幕内容,获得每个情节片段的情节内容描述。例如,情节片段所对应的时间范围为15秒(s)~25s,识别装置则可以根据这一时间范围15s~25s,对多媒体文件的字幕内容进行切割,以获得该时间范围之内的切割字幕内容。
具体地,所述字幕处理单元23具体可以切割字幕内容进行特征提取,以获得特征信息。例如,所述字幕处理单元23具体可以采用现有技术中的任一特征提取算法,例如,关键词提取算法等,对切割字幕内容进行特征提取,本实施例对此不进行特别限定。
这样,本实施例所提供的多媒体文件的情节片段的识别装置则可以记录所述多媒体文件的情节片段所对应的时间范围,以及各个情节片段的情节内容描述,进而使得多媒体播放器在播放多媒体文件时,展示各个情节片段的播放操作标识,例如,在播放时间轴上,对应各个情节片段的开始位置设置一个小白点等,以及各个情节片段的情节内容描述,例如,当光标停留在播放操作标识上时,可以弹出一个文本即该播放操作标识所对应情节片段的情节内容描述,以供用户很容易找到感兴趣的内容进行有选择地观看。
可选地,在本实施例的一个可能的实现方式中,所述文件处理单元22,还可以进一步用于根据所述情节片段所对应的时间范围,获得播放时间,以供根据所述可播放时间,进行所述多媒体文件的播放。其中,播放时间可以是连续的情节片段所对应的连续时间,或者还可以为非连续的情节片段所对应的非连续时间,本实施例对此不进行特别限定。
这样,本实施例所提供的多媒体文件的情节片段的识别装置则可以记录所获得的播放时间,进而使得多媒体播放器在播放多媒体文件时,根据所述可播放时间,进行所述多媒体文件的播放。
本实施例中,通过文件处理单元利用对象跟踪技术,对获取单元所确定的多媒体文件所包括的至少两帧图像进行识别处理,以获得目标文件片段,以及字幕处理单元根据获取单元所确定的多媒体文件的字幕内容和字幕时间,获得目标字幕片段,使得决策单元能够根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,无需操作人员参与操作过程,操作简单,且正确率高,从而提高了情节片段识别的效率和可靠性。
另外,采用本发明提供的技术方案,无需操作人员参与操作过程,即能实现情节片段的自动识别,因此,能够有效提高情节片段的识别成本。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机装置(可以是个人计算机,服务器,或者网络装置等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (12)

1.一种多媒体文件的情节片段的识别方法,其特征在于,包括:
获取待处理的多媒体文件,所述多媒体文件包括至少两帧图像;
利用对象跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段;
根据所述多媒体文件的字幕内容和字幕时间,获得目标字幕片段;
根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段;其中,
所述根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,包括:
根据所述目标文件片段所对应的第一时间范围,与所述目标字幕片段所对应的第二时间范围,确定所述第一时间范围与所述第二时间范围之间存在交集的目标文件片段和目标字幕片段,将存在交集的每个目标字幕片段所对应的时间范围之内的多媒体文件片段,与该目标字幕片段存在交集的目标文件片段,进行合并,以获得所述至少一个融合文件片段;
根据所述至少一个融合文件片段中相邻的融合文件片段之间的第三时间间隔和预先设置的第三时间阈值,对相邻的融合文件片段进行合并处理,以获得所述多媒体文件的情节片段。
2.根据权利要求1所述的方法,其特征在于,所述利用对象跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段,包括:
利用对象跟踪技术,提取所述至少两帧图像中出现目标对象的图像,以获得至少两个候选文件片段;
根据所述至少两个候选文件片段中相邻的候选文件片段之间的第一时间间隔和预先设置的第一时间阈值,对相邻的候选文件片段进行合并处理,以获得所述目标文件片段。
3.根据权利要求1所述的方法,其特征在于,所述根据所述多媒体文件的字幕内容和字幕时间,获得目标字幕片段,包括:
根据所述多媒体文件的字幕内容和字幕时间,获得至少两个候选字幕片段;
根据所述至少两个候选字幕片段中相邻的候选字幕片段之间的第二时间间隔和预先设置的第二时间阈值,对相邻的候选字幕片段进行合并处理,以获得所述目标字幕片段。
4.根据权利要求1~3任一权利要求所述的方法,其特征在于,所述根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段,包括:
根据所述目标文件片段和所述目标字幕片段,获得至少一个融合文件片段;
根据所述至少一个融合文件片段中相邻的融合文件片段之间的第三时间间隔和预先设置的第三时间阈值,对相邻的融合文件片段进行合并处理,以获得所述多媒体文件的情节片段。
5.根据权利要求1~3任一权利要求所述的方法,其特征在于,所述根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节之后,还包括:
根据所述情节片段所对应的时间范围,获得切割字幕内容;
根据所述切割字幕内容,获得每个情节片段的情节内容描述。
6.根据权利要求1~3任一权利要求所述的方法,其特征在于,所述根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节之后,还包括:
根据所述情节片段所对应的时间范围,获得可播放时间,以供根据所述可播放时间,进行所述多媒体文件的播放。
7.一种多媒体文件的情节片段的识别装置,其特征在于,包括:
获取单元,用于获取待处理的多媒体文件,所述多媒体文件包括至少两帧图像;
文件处理单元,用于利用对象跟踪技术,对所述至少两帧图像进行识别处理,以获得目标文件片段;
字幕处理单元,用于根据所述多媒体文件的字幕内容和字幕时间,获得目标字幕片段;
决策单元,用于根据所述目标文件片段和所述目标字幕片段,确定所述多媒体文件的情节片段;其中,
所述决策单元,具体用于
根据所述目标文件片段所对应的第一时间范围,与所述目标字幕片段所对应的第二时间范围,确定所述第一时间范围与所述第二时间范围之间存在交集的目标文件片段和目标字幕片段,将存在交集的每个目标字幕片段所对应的时间范围之内的多媒体文件片段,与该目标字幕片段存在交集的目标文件片段,进行合并,以获得所述至少一个融合文件片段;
根据所述至少一个融合文件片段中相邻的融合文件片段之间的第三时间间隔和预先设置的第三时间阈值,对相邻的融合文件片段进行合并处理,以获得所述多媒体文件的情节片段。
8.根据权利要求7所述的装置,其特征在于,所述文件处理单元,具体用于
利用对象跟踪技术,提取所述至少两帧图像中出现目标对象的图像,以获得至少两个候选文件片段;以及
根据所述至少两个候选文件片段中相邻的候选文件片段之间的第一时间间隔和预先设置的第一时间阈值,对相邻的候选文件片段进行合并处理,以获得所述目标文件片段。
9.根据权利要求7所述的装置,其特征在于,所述字幕处理单元,具体用于
根据所述多媒体文件的字幕内容和字幕时间,获得至少两个候选字幕片段;以及
根据所述至少两个候选字幕片段中相邻的候选字幕片段之间的第二时间间隔和预先设置的第二时间阈值,对相邻的候选字幕片段进行合并处理,以获得所述目标字幕片段。
10.根据权利要求7~9任一权利要求所述的装置,其特征在于,所述决策单元,具体用于
根据所述目标文件片段和所述目标字幕片段,获得至少一个融合文件片段;以及
根据所述至少一个融合文件片段中相邻的融合文件片段之间的第三时间间隔和预先设置的第三时间阈值,对相邻的融合文件片段进行合并处理,以获得所述多媒体文件的情节片段。
11.根据权利要求7~9任一权利要求所述的装置,其特征在于,所述字幕处理单元,还用于
根据所述情节片段所对应的时间范围,获得切割字幕内容;以及
根据所述切割字幕内容,获得每个情节片段的情节内容描述。
12.根据权利要求7~9任一权利要求所述的装置,其特征在于,所述文件处理单元,还用于
根据所述情节片段所对应的时间范围,获得可播放时间,以供根据所述可播放时间,进行所述多媒体文件的播放。
CN201410148997.5A 2014-04-14 2014-04-14 多媒体文件的情节片段的识别方法及装置 Active CN103986981B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410148997.5A CN103986981B (zh) 2014-04-14 2014-04-14 多媒体文件的情节片段的识别方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410148997.5A CN103986981B (zh) 2014-04-14 2014-04-14 多媒体文件的情节片段的识别方法及装置

Publications (2)

Publication Number Publication Date
CN103986981A CN103986981A (zh) 2014-08-13
CN103986981B true CN103986981B (zh) 2018-01-05

Family

ID=51278788

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410148997.5A Active CN103986981B (zh) 2014-04-14 2014-04-14 多媒体文件的情节片段的识别方法及装置

Country Status (1)

Country Link
CN (1) CN103986981B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104984555B (zh) * 2015-07-31 2017-09-29 盐城工学院 4d影片视频的动感文件采编系统
CN105302906A (zh) * 2015-10-29 2016-02-03 小米科技有限责任公司 信息标注方法及装置
CN108882024B (zh) * 2018-08-01 2021-08-20 北京奇艺世纪科技有限公司 一种视频播放方法、装置及电子设备
CN109446346A (zh) * 2018-09-14 2019-03-08 传线网络科技(上海)有限公司 多媒体资源编辑方法及装置
CN113343986B (zh) * 2021-06-29 2023-08-25 北京奇艺世纪科技有限公司 字幕时间区间确定方法、装置、电子设备及可读存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4934090B2 (ja) * 2008-04-09 2012-05-16 日本放送協会 番組登場人物抽出装置及び番組登場人物抽出プログラム
CN103336955A (zh) * 2013-07-09 2013-10-02 百度在线网络技术(北京)有限公司 视频中人物播放轨迹的生成方法、装置和客户端
CN103546667A (zh) * 2013-10-24 2014-01-29 中国科学院自动化研究所 一种面向海量广播电视监管的自动新闻拆条方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4934090B2 (ja) * 2008-04-09 2012-05-16 日本放送協会 番組登場人物抽出装置及び番組登場人物抽出プログラム
CN103336955A (zh) * 2013-07-09 2013-10-02 百度在线网络技术(北京)有限公司 视频中人物播放轨迹的生成方法、装置和客户端
CN103546667A (zh) * 2013-10-24 2014-01-29 中国科学院自动化研究所 一种面向海量广播电视监管的自动新闻拆条方法

Also Published As

Publication number Publication date
CN103986981A (zh) 2014-08-13

Similar Documents

Publication Publication Date Title
CN103986981B (zh) 多媒体文件的情节片段的识别方法及装置
CN109657100B (zh) 视频集锦生成方法及装置、电子设备及存储介质
Merler et al. Automatic curation of sports highlights using multimodal excitement features
US8077930B2 (en) Method for recognizing content in an image sequence
Xu et al. An HMM-based framework for video semantic analysis
CN106708949A (zh) 一种视频有害内容识别方法
CN103200463A (zh) 一种视频摘要生成方法和装置
Hosseini et al. Fuzzy rule-based reasoning approach for event detection and annotation of broadcast soccer video
CN104123396A (zh) 一种基于云电视的足球视频摘要生成方法及装置
CN110650374A (zh) 剪辑方法、电子设备和计算机可读存储介质
Wang et al. Affection arousal based highlight extraction for soccer video
WO2006122164A3 (en) System and method for enabling the use of captured images through recognition
CN104717573A (zh) 一种视频摘要的生成方法
CN103984699B (zh) 推广信息的推送方法及装置
US20240153270A1 (en) System and method for merging asynchronous data sources
Javed et al. Multimodal framework based on audio‐visual features for summarisation of cricket videos
CN103955494A (zh) 目标对象的搜索方法、装置及终端
CN109299290A (zh) 一种基于知识图谱的配乐推荐方法及电子设备
CN105898426A (zh) 多媒体内容处理方法、装置及服务器
Midhu et al. Highlight generation of cricket match using deep learning
Zhang et al. Temporal sentiment localization: Listen and look in untrimmed videos
Chauhan et al. Automatic summarization of basketball sport video
CN103974145B (zh) 多媒体文件的片头和/或片尾的识别方法及装置
Faulkner et al. Tenniset: a dataset for dense fine-grained event recognition, localisation and description
CN103971268A (zh) 推广信息的处理方法及装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant