CN104462355A - 一种多媒体系统及多媒体处理方法 - Google Patents

Abstract

本发明涉及一种多媒体系统，包括拍摄终端、服务器和查询终端。拍摄终端包括第一摄像单元、录音单元、记录单元、第一输入单元、第一传输单元、第一存储单元、显示单元等。优选的，拍摄终端还包括计时单元、焦距检测单元。服务器包括第二传输单元、解析单元、数据库、第二存储单元。查询终端包括第三摄像单元、第三输入单元、查询单元、第三传输单元等。本发明还涉及使用所述多媒体系统的多媒体处理方法。

Description

一种多媒体系统及多媒体处理方法

技术领域

本发明涉及多媒体领域，特别涉及能够进行检索的多媒体领域。

背景技术

随着网络和多媒体技术的广泛应用，网络培训已成为员工培训的必然发展趋势。然而，网络培训面临着“来源单一、脱离实践、滞后现场”的问题，尤其是缺少以现场案例为内容的生产技能类培训，这势必会影响以生产技能操作为主的员工培训效果。因此，积极引入现场案例教学，探索智能终端和移动网络的应用，将成为网络培训和资源建设的新方向。

发明内容

本发明涉及一种多媒体系统，包括拍摄终端、服务器和查询终端；其特征在于：拍摄终端包括第一摄像单元、录音单元、记录单元、第一输入单元、第一传输单元、第一存储单元、显示单元、计时单元、焦距检测单元；服务器包括第二传输单元、解析单元、数据库、第二存储单元；查询终端包括第三摄像单元、第三输入单元、查询单元、第三传输单元。

本发明还涉及一种使用所述的多媒体系统的多媒体处理方法。

本发明的多媒体系统及多媒体处理方法特别适用于以生产现场为背景的基于移动智能终端的现场案例培训，获得了以生产实践为基础、培训内容来源多样化的有益效果。并且，本发明的多媒体系统及多媒体处理方法能够从多媒体视频中快速提取具有代表性的视频帧，便于后续的多媒体查询，提高了多媒体查询的准确性和效率。

附图说明

图1是多媒体系统的框图；

图2是拍摄终端位置变化的示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，将结合附图对本发明作进一步地详细描述。这种描述是通过示例而非限制的方式介绍了与本发明的原理相一致的具体实施方式，这些实施方式的描述是足够详细的，以使得本领域技术人员能够实践本发明，在不脱离本发明的范围和精神的情况下可以使用其他实施方式并且可以改变和/或替换各要素的结构。因此，不应当从限制性意义上来理解以下的详细描述。

如图1所示，本发明的多媒体系统包括拍摄终端100、服务器200和查询终端300。

拍摄终端100包括第一摄像单元110、录音单元120、记录单元130、第一输入单元140、第一传输单元150、第一存储单元160、显示单元170等。优选的，拍摄终端100还包括计时单元180(例如计时器)、焦距检测单元190。服务器200包括第二传输单元210、解析单元220、数据库230、第二存储单元240等。查询终端300包括第三摄像单元310、第三输入单元320、查询单元330、第三传输单元340等。

多媒体系统的处理流程如下所示：

在步骤S100，用户使用拍摄终端拍摄多媒体，所述多媒体包括视频和音频；在某一位置拍摄时，由计时单元记录下在某一位置拍摄的开始时间和结束时间；当移动拍摄位置或变换焦距时，由计时单元记录下移动拍摄位置或变换焦距后拍摄的开始时间和结束时间；随后，计时单元将事件(包括位置/变焦)、开始时间和结束时间一并保存到第一存储单元的记录表中。

下面参考图2详细说明拍摄终端由位置A移动到位置B再移动到位置C的过程，以及计时单元的计时过程。

首先，在位置A，当用户打开拍摄终端的第一摄像单元开始拍摄时，将自动触发计时单元开始计时，此时由计时单元记录下位置A的开始时间(例如0秒)。可选的，也可由用户操作拍摄终端的特定物理按键或触摸屏上显示的特定按键以触发计时单元开始计时。一段时间后，当在位置A拍摄完成时，由用户操作上述特定按键结束在位置A的计时，并由计时单元记录下结束时间(例如180秒)。随后，计时单元将记录的位置A、开始时间和结束时间保存到第一存储单元的记录表中。

之后，将拍摄终端移动到位置B继续进行拍摄，由用户操作上述特定按键开始在位置B的计时，并由计时单元记录下位置B的开始时间(例如181秒)。又一段时间后，当在位置B拍摄完成时，由用户操作上述特定按键结束位置B的计时，并由计时单元记录下结束时间(例如270秒)。随后，计时单元将记录的位置B、开始时间和结束时间保存到第一存储单元的记录表中。

之后，再将拍摄终端移动到位置C继续进行拍摄，由用户操作上述特定按键开始在位置C的计时，并由计时单元记录下位置C的开始时间(例如271秒)。又拍摄一段时间后，当在位置C拍摄完成时，由用户关闭拍摄终端的第一摄像单元停止拍摄，此时将自动触发计时单元结束位置C的计时，并由计时单元记录下结束时间(例如300秒)。可选的，也可由用户操作上述特定按键结束计时。随后，计时单元将记录的位置C、开始时间和结束时间也保存到第一存储单元的记录表中。

另外，当用户暂停拍摄终端的第一摄像单元拍摄时，将自动触发计时单元结束计时；以及，当拍摄终端的第一摄像单元恢复拍摄时，也将自动触发计时单元继续开始计时。

上述计时单元的自动触发，无需用户额外操作拍摄终端的按键，从而提高了效率。

第一存储单元中的记录表包括事件、开始时间和结束时间，格式优选示例如下：

表1：记录表

事件	开始时间Tb	结束时间Te
			位置A	0秒	180秒
位置B	181秒	270秒
			位置C	271秒	300秒

在另一优选实施例中，在拍摄过程中当用户操作拍摄终端变化焦距时，同样可以记录下变化焦距发生的开始时间和结束时间。在该优选实施例中，假设在位置B使用近焦拍摄完成时，由用户操作拍摄终端的特定物理按键或触摸屏上显示的特定按键以触发计时单元结束位置B的计时，并由计时单元记录下结束时间(例如200秒)。而后，用户变化焦距改为使用远焦进行拍摄，由用户操作上述特定按键开始在位置B/变焦的计时，并由计时单元记录下位置B/变焦的开始时间(例如201秒)，拍摄一段时间，当远焦拍摄完成后，由用户操作上述特定按键结束计时，并由计时单元记录下位置B/变焦的结束时间(例如270秒)。该优选实施例中的记录单元记录如下：

表2：记录表

事件	开始时间Tb	结束时间Te
			位置A	0秒	180秒
位置B	181秒	200秒
			位置B/变焦	201秒	270秒
位置C	271秒	300秒

在另一优选实施例中，拍摄终端还包括与计时单元连接的焦距检测单元。当焦距检测单元检测到焦距变化时，将自动触发计时单元结束计时；并在焦距变化完成后，自动触发技术单元继续开始计时。

在步骤S200，将多媒体中的音频转换为文字，音频是拍摄终端拍摄多媒体时获取的音频。例如采用中国专利申请201210102950.6中公开的将音频转换为文字的方法。转换后，在拍摄终端上显示给用户，供用户确认。如果用户认为转换后的文字内容有错误或需要调整，可以使用拍摄终端的第一输入单元进行修改。用户也可以通过第一输入单元输入额外的说明性文字。

在步骤S220，拍摄终端通过第一传输单元将拍摄的多媒体、第一存储单元中的记录表、以及经过用户确认的文字上传到服务器的第二传输单元，服务器将拍摄的多媒体保存到数据库中，并记录多媒体ID。多媒体ID是上传的多媒体的唯一标识，例如采用上传的多媒体名称和上传时间的组合等。

在步骤S240，服务器根据记录表中的事件、开始时间和结束时间，使用解析单元从多媒体的视频中提取关键帧，所述关键帧定义为拍摄终端在同一事件下拍摄的视频帧的代表。具体提取过程如下：

对于每一个事件，进行采样，从而获得每个事件的采样帧的集合F：

F＝{F1,F2,……Fi,……Fn}

其中，n为定义的采样频率，根据经验获得，例如n＝10。

Fi为采样的第i帧，即时间ΔTi所对应的帧，其中：

ΔTi＝Tb+(Te–Tb)*(i/n)，i<＝n

其中，Tb为每个事件的开始时间，Te为每个事件的结束时间；

对于集合F内的某一帧Fk，根据以下公式计算Fk与视频帧平均值的平均像素近似度ΔFk：

$\mathrm{\&Delta;Fk}=\frac{1}{m}\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}|\mathrm{Pkj}-\frac{1}{n}\underset{i}{\overset{n}{\mathrm{\&Sigma;}}}\mathrm{Pij}|$

其中Pkj表示帧Fk中的第j个像素值，Pij表示帧Fi中的第j个像素值，n为采样频率(即视频帧的数量)，m为帧Fk中的像素总数，k的取值为1,2,3......n。

如果ΔFk大于某个阈值D，则认为帧Fk属于噪声帧，予以剔除；反之如果ΔFk小于或等于某个阈值D，则予以保留，从而形成保留帧的集合G。

G＝{G1,G2,…Gi,…Gt}

其中t<＝n，Gi为保留帧集合中的第i帧。

对于集合G中的每一帧，由于其内容都比较相似，故可任选一帧作为相应事件所对应的关键帧，例如完全随机选择一帧，或者规定选择集合中的第一帧或最后一帧等。优选的，计算集合G中各帧的平均值，作为相应事件对应的关键帧。

在步骤S260，得到视频中每个事件对应的关键帧Ki和事件持续时间Ti。根据每个事件的开始时间Tb和结束时间Te，获取每个事件的持续时间Ti＝Te-Tb。其中：

K＝{K1,K2,…Ki,…Kn}

T＝{T1,T2,…Ti,…Tn}

其中n为视频中的事件数量，也就是关键帧的数量。对于表1所述的记录表，n＝3，对于表2所述的记录表，n＝4；Ki为第i个事件的关键帧，Ti为第i个事件的持续时间。

在步骤S300，服务器从上传的文字中提取文字索引。对于每一个多媒体，服务器形成多媒体索引表，并存储在第二存储单元中。多媒体索引表中包括：多媒体ID、文字索引、关键帧集合K以及事件持续时间集合T。其中文字索引可以是空值NULL，其代表拍摄终端拍摄的多媒体中没有音频，而且用户也没有对多媒体进行文字说明。

在步骤S400，用户使用查询终端查找多媒体。用户可以通过查询终端的第三输入单元，输入多种查询方式。第一种查询方式为输入照片，照片可以是一幅，也可以是多幅，照片可以来源于第三摄像单元拍摄的照片；第二种查询方式为在第一种的基础上，输入文字和照片；第三种查询方式为纯文字输入。随后，查询终端将检索结果呈现给用户。

本发明的多媒体系统及多媒体处理方法特别适用于以生产现场为背景的基于移动智能终端的现场案例培训，获得了以生产实践为基础、培训内容来源多样化的有益效果。并且，本发明的多媒体系统及多媒体处理方法能够从多媒体视频中快速提取具有代表性的视频帧，便于后续的多媒体查询，提高了多媒体查询的准确性和效率。

本发明公开的方法包括用于实现本发明目的的一个或多个步骤，方法步骤可彼此相互交换而没有离开本发明的范围。换言之，除非实施例的正常操作需要特定顺序的步骤，可修改具体步骤的顺序，而不会离开本发明精神的范围。尽管本发明主要描述了具体实施例和应用，但本领域技术人员应理解本发明并不局限于此。根据本发明公开的方法和系统，对于本领域技术人员明显的各种修改、变化以及改变均不背离本发明的精神和范围。

Claims (2)

1.一种多媒体系统，包括拍摄终端、服务器和查询终端；其特征在于：拍摄终端包括第一摄像单元、录音单元、记录单元、第一输入单元、第一传输单元、第一存储单元、显示单元、计时单元、焦距检测单元；服务器包括第二传输单元、解析单元、数据库、第二存储单元；查询终端包括第三摄像单元、第三输入单元、查询单元、第三传输单元。

2.一种使用根据权利要求1所述的多媒体系统的多媒体处理方法，其特征在于包括以下步骤：

步骤S100，用户使用拍摄终端拍摄多媒体，所述多媒体包括视频和音频；当在某一位置和/或变焦拍摄时，由计时单元记录下拍摄的开始时间和结束时间；随后，计时单元将事件、开始时间和结束时间一并保存到第一存储单元的记录表中，其中所述事件包括位置、变焦；

步骤S200，将多媒体中的音频转换为文字，转换后，在拍摄终端上显示给用户，供用户确认；如果用户认为转换的文字内容有错误或需要调整，则使用拍摄终端的第一输入单元进行修改；

步骤S220，拍摄终端通过第一传输单元将拍摄的多媒体、第一存储单元中的记录表、以及经过用户确认的文字上传到服务器的第二传输单元，服务器将拍摄的多媒体保存到数据库中，并记录多媒体ID，所述多媒体ID是上传的多媒体的唯一标识；

步骤S240，服务器根据记录表中的事件、开始时间和结束时间，使用解析单元从多媒体的视频中提取关键帧，并确定关键帧的录制时长，所述关键帧为拍摄终端在同一事件下拍摄的视频帧的代表；提取关键帧的具体过程如下：

对于每个事件，进行采样，从而获得每个事件的采样帧的集合F：

F＝{F1,F2,……Fi,……Fn}

其中，n为定义的采样频率，n＝10；

Fi为采样的第i帧，即时间ΔTi所对应的帧：

ΔTi＝Tb+(Te–Tb)*(i/n)，i<＝n

其中，Tb为每个事件的开始时间，Te为每个事件的结束时间；

对于集合F内的某一帧Fk，根据以下公式计算帧Fk与视频帧平均值的平均像素近似度ΔFk：

$\mathrm{\&Delta;Fk}=\frac{1}{m}\underset{j=1}{\overset{m}{\mathrm{\&Sigma;}}}|\mathrm{Pkj}-\frac{1}{n}\underset{i}{\overset{n}{\mathrm{\&Sigma;}}}\mathrm{Pij}|$

其中Pkj表示帧Fk中的第j个像素值，Pij表示帧Fi中的第j个像素值，n为采样频率，m为帧Fk中的像素总数，k的取值为1,2,3......n；

如果ΔFk大于某个阈值D，则认为帧Fk属于噪声帧，予以剔除；反之如果ΔFk小于或等于某个阈值D，则予以保留，从而形成保留帧的集合G：

G＝{G1,G2,…Gi,…Gt}

其中t<＝n，Gi为保留帧集合中的第i帧；

对于集合G中的每一帧，由于其内容都比较相似，故可任选一帧作为相应事件所对应的关键帧；

步骤S260，得到视频中每个事件对应的关键帧和事件的持续时间，其中根据每个事件的开始时间和结束时间获取持续时间；

步骤S300，服务器读取所述上传的文字，根据文字中的标点符号，将文字切分为基本字符串单元；

步骤S310，根据分词词典，对基本字符串单元进行正向最大分词匹配和逆向最大分词匹配，形成分词扫描字符串；

步骤S320，判断分词扫描字符串是否存在歧义；如果存在歧义，则消除歧义，形成分词结果字符串；如果不存在歧义，则直接将分词扫描字符串作为分词结果字符串；

其中，对于存在歧义的字符串ABC，根据以下公式计算I(A,B)和I(B,C)的值：

$I(x,y)={\log }_2\frac{N\&times;n(x,y)}{n\left(x\right)\&times;n\left(y\right)}$

其中A、B、C为单个字或词，n(x,y)为x，y在分词词典中出现的次数，n(x)为x在分词词典中出现的次数，n(y)分别为y在分词词典中出现的次数，N为分词词典的总词数；

比较I(A,B)和I(B,C)的值：

如果I(A,B)-I(B,C)>i，那么采用AB/C的切分；

如果I(B,C)-I(A,B)>i，那么采用A/BC的切分；

其中，i为第一阀值，优选为0；

如果非上述两种情况，则利用如下公式：

$\mathrm{\&Delta;f}=\frac{|f\left(\mathrm{AB}\right)-f\left(\mathrm{BC}\right)|}{\mathrm{Max}(f\left(\mathrm{AB}\right),f\left(\mathrm{BC}\right))}$

其中，f(AB)表示在所述字符串中AB出现的次数；f(BC)表示在所述字符串中BC出现的次数；Max(f(AB),f(BC))的值为f(AB)和f(BC)中较大的；比较Δf与β，

其中β为第二阈值，优选为0.75；

如果Δf>β，则将字符串ABC切分为“AB/C”；

如果Δf<＝β，则将字符串ABC切分为“A/BC”；

步骤S330，将经过分词后的字符串汇聚成文字索引；

步骤S340，对于每一个多媒体，服务器形成多媒体索引表，并存储在第二存储单元中；所述多媒体索引表包括：多媒体ID、文字索引、关键帧集合以及事件持续时间集合；

步骤S400，用户使用查询终端查找所述多媒体；

步骤S420，若查询终端中输入的是纯文字，则仅在文字索引中进行检索，并将检索结果呈现给用户，同时向用户提供没有文字说明的多媒体数目；

步骤S440，若查询终端中输入的仅是M幅照片，则查询终端形成照片集X：

X＝{X1,X2,…Xi,…XM}

则比较照片集X中的每幅照片和关键帧集合中的每个关键帧是否匹配，然后根据照片和关键帧的匹配程度，检索出相应的视频，并将按照相似度排序的检索结果呈现给用户；

相似度Sim的计算公式如下：

$\mathrm{Sim}=\frac{\underset{j=1}{\overset{M}{\mathrm{\&Sigma;}}}\underset{i=1}{\overset{e}{\mathrm{\&Sigma;}}}\mathrm{Tij}}{M*\sqrt{\underset{i=1}{\overset{e}{\mathrm{\&Sigma;}}}{\mathrm{Ti}}^2}}$

其中，M为照片集X中的照片数量；e为视频中的事件数量，即关键帧数量；Ti为第i个事件的持续时间；Tij的取值有两个，当照片和关键帧不匹配时，Tij＝0；当照片和关键帧匹配时，Tij为匹配的第i个事件的持续时间；

步骤S460，若查询终端输入的既包括文字又包括照片，则先在文字索引中进行检索，如果检索结果少于特定阈值，则直接将结果呈现给用户；反之，如果检索结果大于或等于特定阈值，则在文字检索到的结果中使用步骤S440中的方法进行再次检索，并将检索结果呈现给用户。