CN103024713B - 基于媒体分析的数字媒体内容服务网关系统 - Google Patents

基于媒体分析的数字媒体内容服务网关系统 Download PDF

Info

Publication number
CN103024713B
CN103024713B CN201210554670.9A CN201210554670A CN103024713B CN 103024713 B CN103024713 B CN 103024713B CN 201210554670 A CN201210554670 A CN 201210554670A CN 103024713 B CN103024713 B CN 103024713B
Authority
CN
China
Prior art keywords
media content
digital media
mobile terminal
video
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201210554670.9A
Other languages
English (en)
Other versions
CN103024713A (zh
Inventor
赵刚
余丽芹
野秋旭
刘小春
韩存齐
潘瑞雪
陈凌云
徐忠成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huazhong Normal University
Original Assignee
Huazhong Normal University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huazhong Normal University filed Critical Huazhong Normal University
Priority to CN201210554670.9A priority Critical patent/CN103024713B/zh
Publication of CN103024713A publication Critical patent/CN103024713A/zh
Application granted granted Critical
Publication of CN103024713B publication Critical patent/CN103024713B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明提出了一种基于媒体内容分析的数字媒体内容服务网关系统,该发明首先通过移动终端信息获取模块获取移动终端设备参数和用户所要访问的资源地址信息;并将用户所要访问的数字媒体内容资源地址信息发送给数字媒体内容价值评价与分析模块,同时将移动终端设备参数发送给数字媒体内容适配决策与处理模块。数字媒体内容价值评价与分析模块基于媒体内容价值评价模型,对数字媒体内组成单元进行价值评估,产生数字媒体内容价值评分;数字媒体内容适配决策与处理模块依据数字媒体内容价值评价与分析模块的分析结果,结合移动终端设备参数以及网络环境性能,对数字媒体内容资源管理数据库模块存放的数字媒体内容资源采取相应的适配操作,将适配后的内容发送给移动终端。

Description

基于媒体分析的数字媒体内容服务网关系统
技术领域
本发明属于无线多媒体通信领域,具体涉及基于媒体分析的数字媒体内容服务网关系统。
背景技术
进入二十一世纪,以数字媒体技术、网络技术与文化内容相融合而产生的数字内容产业在世界各地高速成长。我国也大力发展基于不同网络、不同终端的各类数字媒体内容运营综合服务如移动增值、数字电视、IPTV等领域都取得了重要的进展,不同网络、不同业务正在进行融合。随着各大运营商3G网络的陆续建成,移动数字媒体内容服务无疑将成为其最为重要的业务和前景最为广阔的应用之一。有关数据指出,到2012年移动视频数据量将占总体数据量的90%左右。
从市场需求来看,传统2G时代的移动业务,如信息通信、手机音乐等,是基于低带宽、低速率传输的,已不能满足现代用户多样化的要求。以提供移动多媒体业务为主要特征的3G网络,加速了手机视频业务的发展。此外,手机等移动终端技术在逐渐增强,如CPU处理能力、电池容量和屏幕分辨率等都在提高。这些技术的发展都加强了移动业务的渗透性,尤其是能为移动运营商带来更大价值的手机视频业务。
从用户需求来看,现代物质文化水平日益提高,都市生活节奏加快,消费需求呈现多样化、个性化的发展趋势,而且,人们花费的移动时间也在逐渐增加,这些需求都加速了移动业务的发展。随着无线网络技术的发展,网络带宽和传输速率都有所提升,加上公共场所无线网络的覆盖,人们迫切希望享受移动业务的便捷性和丰富性,从手机上享受到互联网上丰富的应用,如移动支付、手机电视、手机新闻等。手机视频业务更加贴近用户的消费心理,能满足人们消费需求的转变。
目前,多媒体内容适配技术研究的重点和发展趋势总的来说可以分为两个大类:数字内容转码和可伸缩编解码技术。国外在这两种技术方面的研究开展较早:在内容转码方面,国外针对MPEG-1、MPEG-2、MPEG-4的转码算法已有广泛研究,有关厂商推出了专用的媒体内容转码设备;在可伸缩编码方面,国际MPEG组织成立SVC小组(隶属于MPEG-21)致力于可伸缩视频编解码技术的研究、评估以及相关标准的制定。以上两种适配技术都是基于率失真模型,以优化率失真特性为目标,主要问题在于适配后的客观质量指标能达到较好的效果,但用户视觉质量则有可能得不到保证;而且由于准确的率失真模型难于获得,编码速率、分辨率的减少都具有较大的局限性。
发明内容
为了克服现有技术的不足,充分保证优化用户感受质量,本发明提出了一种基于媒体内容分析的数字媒体内容服务网关系统。该系统首先基于以媒体内容价值评价模型,对数字媒体内容的各组成要素进行价值评分;然后根据移动终端的能力、带宽变化、时延抖动等约束条件,结合媒体内容评价信息,在最大限度的保留对用户感受质量重要的数字媒体内容要素的基础上,动态调整数字媒体内容的编码特性,实现数字媒体内容在不同网络环境、消费终端上的有效使用。
本发明的技术方案为一种基于媒体内容分析的数字媒体内容服务网关系统,数字媒体内容服务网关系统设置在移动运营商的服务器端上,数字媒体内容服务网关系统中设置移动终端信息获取模块、数字媒体内容管理数据库模块、数字媒体内容价值评价与分析模块和数字媒体内容适配决策与处理模块;
所述移动终端信息获取模块,用于提供入口页面,在移动终端访问入口页面时获取移动终端型号信息和用户所要访问的数字媒体内容地址信息,然后和本地的移动终端参数信息库进行匹配,记录下相应移动终端设备参数和用户所要访问的资源地址信息;移动终端信息获取模块将用户所要访问的数字媒体内容地址信息发送给数字媒体内容价值评价与分析模块,同时将移动终端设备参数发送给数字媒体内容适配决策与处理模块;
所述数字媒体内容管理数据库模块,用于通过数据库管理来完成数字媒体内容的更新及读写工作;
所述数字媒体内容价值评价与分析模块,用于确定组成数字媒体内容的关键元素对于用户主观感受质量的价值;该模块根据数字媒体内容地址信息向相应位置的数字媒体内容服务器发送页面请求消息,将数字媒体内容从数字媒体内容服务器下载到数字媒体内容管理数据库模块的数据库中;采用媒体内容价值评价模型对数字媒体内的关键元素进行价值评估,数字媒体内容价值评价与分析模块产生的分析结果也存放在数字媒体内容管理数据库模块的数据库中;
所述数字媒体内容适配决策与处理模块,用于调用数字媒体内容管理数据库模块的数据库中所存储的数字媒体内容价值评价与分析模块产生的分析结果,结合移动终端信息获取模块所得移动终端设备参数以及网络环境性能,对数字媒体内容管理数据库模块存放的数字媒体内容资源采取相应的适配操作并发送给移动终端。
而且,所述数字媒体包括数字图像和数字视频,数字媒体内容价值评价与分析模块对于静止的数字图像,采用感兴趣区域提取算法,提取出图像中各个关注区域及相对重要程度,并以此为基础对各个图像块或图像区域进行内容价值评分;对于数字视频,采用帧内和帧间运动分析相结合的方法,利用视觉注意力模型、运动目标检测、感知运动能量模型来分析视频中不同的编码帧对于用户主观感知质量的重要性。
本发明可直接应用于移动数字媒体内容服务的开展,为众多移动用户随时随地提供高质量的数字媒体内容;也有助于网络运营商开展移动学习、移动电子政务、电子商务、企业培训等业务,带动数字媒体内容制作企业的发展,具有重要的理论价值和开阔的应用前景。
附图说明
图1是本发明实施例的多媒体内容价值评价模型图。
图2是本发明实施例的基于内容评价模型多媒体适配示意图。
图3是本发明实施例的数字媒体内容服务网关系统的功能模块图。
图4是本发明实施例的基于感知运动能量模型的视频质量分层结果图。
图5是本发明实施例的移动终端信息获取模块图。
图6是本发明实施例的图像适配处理模块图。
图7是本发明实施例的文字适配处理模块图。
具体实施方式
以下结合附图和实施案例详细说明本发明技术方案。
本发明需要在移动运营商的服务器端(例如电信服务器端)建立基于媒体分析的数字媒体内容服务网关系统,具体的功能模块如图3所示。
1、移动终端信息获取模块,用于提供入口页面,在移动终端访问入口页面时获取移动终端型号信息和用户所要访问的数字媒体内容地址信息,然后和本地的移动终端参数信息库进行匹配,记录下相应移动终端设备参数和用户所要访问的资源地址信息;移动终端信息获取模块将用户所要访问的数字媒体内容地址信息发送给数字媒体内容价值评价与分析模块,同时将移动终端设备参数发送给数字媒体内容适配决策与处理模块。该过程的详细流程如图5所示。
移动终端首先访问数字媒体内容服务网关系统,并在服务网关的首页提交所需要访问的网页地址。数字媒体内容服务网关系统的移动终端信息获取模块将自动获取移动终端超文本传输协议(HTTP)信息,获取User Agent字段中的移动终端型号和所要访问的地址(URL),和移动终端参数信息库中的移动终端型号进行匹配。如果匹配成功,则可以找出此型号移动终端的详细性能参数信息;如果匹配不成功,则对此款移动终端采用默认参数。然后将移动终端性能参数信息传给数字媒体内容适配决策与处理模块作为适配处理的依据。
将用户所要访问的数字媒体内容地址信息发送给数字媒体内容价值评价与分析模块,同时将移动终端设备参数发送给数字媒体内容适配决策与处理模块。
移动终端可以手机为主要实验对象,在用户通过手机访问页面时,该模块获取手机型号、资源链接地址等信息,然后和本地的手机参数信息库进行匹配,记录下手机设备参数信息和用户所要访问的资源信息。
2、数字媒体内容管理数据库模块,用于通过数据库管理来完成数字媒体内容的更新及读写工作。数字媒体内容管理数据库模块管理的数据库可简称数字媒体内容管理数据库。
所述数字媒体内容管理数据库模块,主要是通过建立数据库来保存数字媒体内容的位置信息、质量分析结果、格式、分辨率等重要数据,同时数据库的数据需要及时维护、更新,以完成各个模块的信息交互。
3.数字媒体内容价值评价与分析模块,用于确定组成数字媒体内容(主要是数字图片和数字视频)的关键元素对于用户主观感受质量的价值。该模块采用媒体内容价值评价模型对数字媒体内组成单元进行价值评估,主要包括:对于数字静止图像,采用精确的感兴趣区域提取算法,提取出图像中各个关注区域及其相对重要程度,并以此为基础对各个图像块、图像区域进行内容价值评分;对于数字视频,采用帧内和帧间运动分析相结合的方法,利用视觉注意力模型、运动目标检测、感知运动能量模型来分析视频中不同的编码帧对于用户主观感知质量的重要性。
该模块利用媒体内容价值评价模型决定数字媒体内容的各组成要素对用户的重要程度,将数字媒体内容组成元素分成若干内容质量层,包括:高质量层、次高质量层、中质量层、低质量层,可以称为数字媒体内容组成元素质量分层结果。该结果存放在数字媒体内容管理数据库,供数字媒体内容适配决策与处理模块对数字媒体内容进行适配时调取。
实施例建立如图1所示的媒体内容价值评价与分析模型,其具体流程如下:
首先对于静止图像数据,主要是在空间方向考虑以块(block)或图像区域为基本单位来分析其对感受质量的重要程度,目标是提取出用户关注的若干感兴趣区域(ROI)。由于用户关注的区域会随用户的知识背景和需求而有很大差别,因此本发明中研究的是在人类视觉系统(Human Visual System)中将引起用户关注的区域。基本研究方法是通过统计分析图象的纹理、颜色、形状、Gabor特征等特征信息,应用特征子空间划分、映射、聚类等方法,提取出各个空间关注区域及其相对重要程度,并以此为基础对静止图像中各个图像块、图像区域进行内容价值评分。
其次,对于运动图像数据,考虑到视频运动对用户感受质量的重要性,除了对每一帧基于图像特征提取用户关注区域外,还要基于视频运动信息来进一步对视频帧、帧序列和镜头等视频内容单元进行价值评估。采取的基本方法是首先通过镜头分割,将视频分解为镜头序列,以镜头为基本单位进行分析;然后提取运动关注图、运动强度、运动方向、运动抖动、运动透度与强度的对比度等运动信息特征,确定运动关注区域、运动关注帧(或序列);
在此基础上,结合空间关注区域结果进行多源特征融合评价,确定运动图像中镜头、视频帧、视频帧内区域或宏块的内容价值评分,得到视频组成元素的内容价值评价参数。
4.数字媒体内容适配决策与处理模块,首先调用数字媒体内容管理数据库模块的数据库中所存储的数字媒体内容价值评价与分析模块产生的分析结果,结合移动终端信息获取模块所得移动终端设备参数以及网络环境性能,对数字媒体内容管理数据库模块存放的数字媒体内容资源采取相应的适配操作并发送给移动终端。主要是根据移动终端的屏幕大小、分辨率大小以及所支持的视频、图片格式对数字媒体内容进行适配,并将适配后的结果返回到移动终端的屏幕上。
实施例可以结合网络中的适配节点(如移动运营商的服务器)上已有的适配方法和模块,在网络提供的带宽、移动终端反馈的终端能力基础上,综合设计对数字媒体内容的不同部分应该采取的适配操作,并将适配之后的数字媒体内容发送给用户(有线网络用户或无线网络用户),如图2所示:主要参考上下文特征信息(包括网络特性、终端特性、用户偏好)、数字媒体内容价值评价与分析模块产生的内容价值评价参数。主要包括以下几个方面的适配操作:
■数字媒体内容码率调整处理:这一适配过程是为了满足网络可用带宽,在调整数字媒体内容编码速率的过程中尽可能地丢弃属于低质量层的数字媒体内容组成要素(如图片区域、视频帧),而尽可能多地保留属于高质量层数字媒体内容组成要素,从而最优化数字媒体内容传输后的用户感知质量。例如:根据移动终端信息获取模块得到的的移动终端参数和数字图片组成元素质量分层结果,降低低质量视频层的编码速率,保持高质量视频层的编码速率,从而降低整体视频的编码速率,以适应当前网络可用带宽(BW);
■数字媒体内容格式转换处理:这一适配过程是通过数字媒体编码类库完成的。具体方式:首先根据获取的移动终端所支持的数字媒体格式,利用相应的解码器类进行解码,再利用编码器重新编码成移动终端所支持的格式;
■数字媒体内容分辨率调整:这一适配过程主要是考虑移动设备屏幕分辨率小的特点,对分辨率较大的数字媒体内容进行调整,如减小数字图片的大小。在这一过程中,主要是根据数字媒体内容组成元素质量分层结果,在空间方向上保留重要的数字媒体内容区域,以显示更清楚的数字媒体内容,例如针对数字图片分辨率的减小,重点保留图片中的感兴趣区域,其他次要区域则作相应裁剪。
■数字媒体内容无线传输保护:针对无线信道的差错率大的问题,基于内容价值评价参数和质量分层信息对数字媒体内容进行非均匀误码保护,结合已有的物理层信道编码如RCPC码、Turbo码,重点保护属于高质量层的数字媒体内容组成要素合,对低质量层的数字媒体内容组成要素施加较少保护或者不保护,从而在一定的有效带宽基础上,提高数字媒体内容在无线信道上的传输质量和最终用户的感受质量。
为便于实施参考起见,以手机为移动终端为例,以下提供实施例的运行流程具体说明。
一、数字媒体内容服务网关系统作为移动终端访问数据资源的代理,首先应建立站点实现对移动终端信息的获取,实现步骤如下:
步骤1,在服务器上使用PHP技术建立一个新的站点,作为数字媒体内容服务网关系统的入口并为手机提供代理访问的功能。当手机访问网关系统的时候,用户只需要在系统主页中的输入栏中提交要访问的网站的网址。
步骤2,当手机向数字媒体内容服务网关系统提交访问网站的网址后,在服务器上便可以获取到手机的超文本传送协议(HTTP)的头部(Header)信息。从中可以得到手机的型号和手机的浏览器版本等信息。
步骤3,在服务器端的数字媒体内容服务网关系统的主页上获取到手机型号之后,通过手机型号,到手机参数信息库(预先存储于数字媒体内容管理数据库中)查找与之匹配的手机型号,从而获得手机的详细参数。具体的实现方法如下:
步骤3.1,建立设备信息数据结构stDeviceInfo,用于在适配中方便针对需要适配的手机提供其所能支持的详细参数。
步骤3.2,对手机参数信息库的XML文件中数据详细参数进行提取。
二、数字媒体内容服务网关系统作为移动终端的代理,需要根据手机发送过来的网页地址,访问WEB服务器,将所手机需求的网页从其所在的服务器下载到数字媒体内容服务网关系统的资源管理库中。
三、根据移动终端访问的网址,从数字媒体内容服务器中下载原始数字媒体内容,然后将其中的数字图片和数字视频交给数字媒体内容服务网关系统中的数字媒体内容价值评价与分析模块,进行价值分析和评价。以下以数字视频的价值分析和评价为例进行说明:
具体步骤如下:
步骤1,计算视频各帧间的互信息量,提取视频关键帧。
步骤2,利用视觉注意模型,对关键帧进行感兴趣区域提取。本发明实施例采用的是Dirk Walther和Christof Koch提出的显著性模型。
步骤3,利用感知运动能量模型计算视频帧的运动矢量。
步骤4,根据静态和动态分析的结果,结合视频各帧的特点(是否是关键帧)把视频内容进行质量分层。步骤如下:
首先,对于每帧的ROI,根据其对用户的主观感知重要程度可以进行质量分层,所依据原则是,处于图像中心位置且面积大的ROI比处于边缘处置面积较小的ROI更能引起观看者的注意。据此,实施例以ROI的重要程度可以把视频分为三个质量层:高层,ROI处于中心位置且面积较大者;中层,ROI处于中心位置且面积较小者,ROI处于边缘位置且面积较大者;低层,ROI牌边缘位置且面积也较小者。
其次,基于感知运动能量模型对视频进行质量分层,基本思想是将具有相同或相近感知运动能量的视频帧分配为同一质量层,感知运动能量越高的视频帧所属的质量层的级别越高。根据感知运动能量的大小,可在时域将时间顺序编码传输的B帧分为两个质量层:高运动能量层和低运动能量层,以此来反映各个B帧在视频编码流中重要性的不同。由于P帧作为后续视频帧的参考预测帧,其重要性显然比B帧要高,因此将所有P帧划分为属于更高的质量层,最终可得到如图4所示的质量分层结构:所有P帧Pn(n为帧编号)、Pn+4、Pn+8属于高层,B帧中Bn+1、Bn+3、Bn+5、Bn+7属于中层(质量层1),Bn+2、Bn+6属于低层(质量层1)。
最后,综合感兴趣区域和感知运动能量的分层结果将视频进行质量分层,分层结果如下表:
ROI(高) ROI(中) ROI(低)
PME(高) 高高 高中 高低
PME(中) 中高 中中 中低
PME(低) 低高 低中 低低
其中,ROI和PME都为高时最终划分为属于高层,ROI为高且PME为中、ROI为中且PME为高时最终划分为属于次高层,ROI为高且PME为低、ROI为低且PME为高、ROI为中且PME为中时最终划分为属于中层、ROI为中且PME为低、ROI为低且PME为中、ROI为低且PME为低时最终划分为属于低层。同时将数字媒体内容价值评价与分析模块产生的分析结果存放在数字媒体内容管理数据库中。
四、数字媒体内容适配决策与处理模块根据数字媒体内容价值评价与分析模块以及移动终端信息获取模块得到的参数信息进行适配,根据移动终端的屏幕大小、分辨率大小以及所支持的视频、图片格式进行适配,并将适配后的结果返回到移动终端的屏幕上。典型的适配操作举例如下:
1、视频码率调整是基于当前网络可用带宽BW和当前视频传输码率Rk来决定最佳的适配操作。这一适配过程的最终目的就是在满足网络可用带宽的约束条件下,尽可能地丢弃低感知质量层的视频帧,而尽可能多地保留高感知质量层的视频帧,从而最优化视频传输后的主观感知质量。具体适配决策算法如下:
■当Rk<BW<Rk-1时,即当前网络可用带宽仅支持传输感知质量层k,k+1,…,n(k为层编号,n为最大的层编号)。如果将感知质量层k-1加入当前的传输过程中,将超过网络当前的容量。因此,此时不必采取任何的适配操作。
■当Rk+1<BW<Rk时,即当前网络可用带宽降低到仅支持传输感知质量层k+1,k+2,…,n。因此,适配引擎应当将低于感知质量层k+1的各层中的视频帧丢弃,以降低视频传输码率。
■当BW>Rk-1时,即当前网络可用带宽增加,支持更高视频传输码率,因此标号小于k的感知质量层也可以被传输,适配引擎将把更多的视频帧加入到当前的传输序列中,即传输感知质量层k-1,k,…,n。
然后根据网络传输参数判断视频编码速率是否出于网络有效带宽之内,若无线网络带宽较小,则通过丢弃若干处于低质量层的视频帧,降低视频的编码速率,以适合无线网络的带宽要求。
2、图片适配处理
图片适配流程图如图6所示,具体步骤如下:
步骤1,获取图片
先对网页进行解析,匹配网页中的图片标签。根据网页中所有图片的地址将图片进行下载
步骤2,图片感兴趣区域识别
图片感兴趣区域识别算法,将图片中的显著区域识别出来,得到图片的显著区域图和它在原图中的坐标。
步骤3,图片格式处理
根据移动终端所能支持的格式,对网页中的图片进行处理,根据移动终端信息获取模块所得移动终端设备参数信息(手机参数信息)判断网页中的图片格式是否为移动终端设备支持的图片格式,是则进入步骤4,否则调整网页中的图片格式为移动终端设备支持的图片格式后进入步骤4,防止部分移动终端因不支持某些格式的图片而无法显示网页中的图片。
步骤4,图片大小处理
获取网页中的图片大小,根据移动终端信息获取模块所得移动终端设备参数信息(手机参数信息)判断网页中的图片大小是否为移动终端设备支持的图片大小,不相同则根据移动终端所能支持的图片的最大长度和宽度,结合感兴趣区域参数,对图片进行按适当裁剪和比例缩放处理调整,重点保留感兴趣区域的图片内容,得到适配后的图片,进入步骤5。相同则直接得到适配后的图片,进入步骤5。
步骤5,图片显示
为了使图片的显示过程更加人性化用户如果需要进一步观看图片的某些细节部分,可以通过点击该图片,通过链接查看感兴趣区域图。
3、文字适配处理流程如图7所示,其具体步骤如下:
步骤1,读取网页后,进行文字样式的剔除
一般将网页中的文字的CSS样式全部剔除,去掉网页中的文本样式。在HTML页面中对文字的处理使用的是<font>标签和<style>标签,需要将这些标签全部剔除。
步骤2,文字字体和颜色的设置
由于移动设备上对字体和文字的颜色没有规定,因此可以对这两个属性进行统一设置,都设为统一的字体和颜色。
步骤3,文字大小的适配
对文字大小的处理需要根据移动终端最适合显示字体大小来进行适配,屏幕上的一切字号单位如:px,pt,都是相对单位,单凭它们并不能确定文字的实际大小。因此需要针对不同的移动终端,对文字的大小进行相应的设置。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

Claims (1)

1.一种基于媒体内容分析的数字媒体内容服务网关系统,其特征在于:将数字媒体内容服务网关系统设置在移动运营商的服务器端上,数字媒体内容服务网关系统中设置移动终端信息获取模块、数字媒体内容管理数据库模块、数字媒体内容价值评价与分析模块和数字媒体内容适配决策与处理模块;
所述移动终端信息获取模块,用于提供入口页面,在移动终端访问入口页面时获取移动终端型号信息和用户所要访问的数字媒体内容地址信息,然后和本地的移动终端参数信息库进行匹配,记录下相应移动终端设备参数和用户所要访问的资源地址信息;移动终端信息获取模块将用户所要访问的数字媒体内容地址信息发送给数字媒体内容价值评价与分析模块,同时将移动终端设备参数发送给数字媒体内容适配决策与处理模块;
所述数字媒体内容管理数据库模块,用于通过数据库管理来完成数字媒体内容的更新及读写工作;
所述数字媒体内容价值评价与分析模块,用于确定组成数字媒体内容的关键元素对于用户主观感受质量的价值;该模块根据数字媒体内容地址信息向相应位置的数字媒体内容服务器发送页面请求消息,将数字媒体内容从数字媒体内容服务器下载到数字媒体内容管理数据库模块的数据库中;采用媒体内容价值评价模型对数字媒体内的关键元素进行价值评估,数字媒体内容价值评价与分析模块产生的分析结果也存放在数字媒体内容管理数据库模块的数据库中;所述数字媒体包括数字图像和数字视频,数字媒体内容价值评价与分析模块对于静止的数字图像,采用感兴趣区域提取算法,提取出图像中各个关注区域及相对重要程度,并以此为基础对各个图像块或图像区域进行内容价值评分;对于数字视频,采用帧内和帧间运动分析相结合的方法,利用视觉注意力模型、运动目标检测、感知运动能量模型来分析视频中不同的编码帧对于用户主观感知质量的重要性,实现如下,
步骤1,计算视频各帧间的互信息量,提取视频关键帧;
步骤2,利用视觉注意模型,对关键帧进行感兴趣区域提取;
步骤3,利用感知运动能量模型计算视频帧的运动矢量;
步骤4,根据静态和动态分析的结果,结合视频各帧是否是关键帧把视频内容进行质量分层,实现如下,
首先,对于每帧的ROI,根据其对用户的主观感知重要程度进行质量分层,包括视频分为三个质量层:高层,ROI处于中心位置且面积较大者;中层,ROI处于中心位置且面积较小者,ROI处于边缘位置且面积较大者;低层,ROI处于边缘位置且面积也较小者;
其次,基于感知运动能量模型对视频进行质量分层,将具有相同或相近感知运动能量的视频帧分配为同一质量层,感知运动能量越高的视频帧所属的质量层的级别越高,包括根据感知运动能量的大小,在时域将时间顺序编码传输的B帧分为两个质量层,高运动能量层和低运动能量层,以此来反映各个B帧在视频编码流中重要性的不同,并将所有P帧划分为属于更高的质量层;
最后,综合感兴趣区域和感知运动能量的分层结果将视频进行质量分层,分层结果如下表:
ROI(高) ROI(中) ROI(低) PME(高) 高高 高中 高低 PME(中) 中高 中中 中低 PME(低) 低高 低中 低低
所述数字媒体内容适配决策与处理模块,用于调用数字媒体内容管理数据库模块的数据库中所存储的数字媒体内容价值评价与分析模块产生的分析结果,结合移动终端信息获取模块所得移动终端设备参数以及网络环境性能,对数字媒体内容管理数据库模块存放的数字媒体内容资源采取如下相应的适配操作并发送给移动终端,
(1)对视频适配处理如下,
首先,针对码率基于当前网络可用带宽BW和当前视频传输码率Rk来决定最佳的适配操作,实现如下,
当Rk<BW<Rk-1时,当前网络可用带宽仅支持传输感知质量层k,k+1,…,n,不采取任何的适配操作,
当Rk+1<BW<Rk时,当前网络可用带宽降低到仅支持传输感知质量层k+1,k+2,…,n,将低于感知质量层k+1的各层中的视频帧丢弃,
当BW>Rk-1时,标号小于k的感知质量层也能够被传输,把更多的视频帧加入到当前的传输序列中,即传输感知质量层k-1,k,…,n;
其中,k为层编号,n为最大的层编号;
然后,根据网络传输参数判断视频编码速率是否处于网络有效带宽之内,若否则通过丢弃若干处于低质量层的视频帧,降低视频的编码速率,以适合无线网络的带宽要求;
(2)对图片适配如下,
步骤1,获取图片,包括先对网页进行解析,匹配网页中的图片标签,根据网页中所有图片的地址将图片进行下载;
步骤2,图片感兴趣区域识别,包括将图片中的显著区域识别出来,得到图片的显著区域图和在原图中的坐标;
步骤3,图片格式处理,包括根据移动终端所能支持的格式,对网页中的图片进行处理,根据移动终端信息获取模块所得移动终端设备参数信息判断网页中的图片格式是否为移动终端设备支持的图片格式,是则进入步骤4,否则调整网页中的图片格式为移动终端设备支持的图片格式后进入步骤4;
步骤4,图片大小处理,包括获取网页中的图片大小,根据移动终端信息获取模块所得移动终端设备参数信息判断网页中的图片大小是否为移动终端设备支持的图片大小,不相同则根据移动终端所能支持的图片的最大长度和宽度,结合感兴趣区域参数,对图片进行裁剪和比例缩放处理调整,重点保留感兴趣区域的图片内容,得到适配后的图片,进入步骤5,相同则直接得到适配后的图片,进入步骤5;
步骤5,图片显示;
(3)对文字适配处理如下,
步骤1,读取网页后,进行文字样式的剔除;
步骤2,文字字体和颜色的设置,包括设为统一的字体和颜色;
步骤3,文字大小的适配,包括针对不同的移动终端,对文字的大小进行相应的设置。
CN201210554670.9A 2012-12-19 2012-12-19 基于媒体分析的数字媒体内容服务网关系统 Active CN103024713B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210554670.9A CN103024713B (zh) 2012-12-19 2012-12-19 基于媒体分析的数字媒体内容服务网关系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210554670.9A CN103024713B (zh) 2012-12-19 2012-12-19 基于媒体分析的数字媒体内容服务网关系统

Publications (2)

Publication Number Publication Date
CN103024713A CN103024713A (zh) 2013-04-03
CN103024713B true CN103024713B (zh) 2015-07-15

Family

ID=47972753

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210554670.9A Active CN103024713B (zh) 2012-12-19 2012-12-19 基于媒体分析的数字媒体内容服务网关系统

Country Status (1)

Country Link
CN (1) CN103024713B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107026820A (zh) * 2016-01-29 2017-08-08 苏格克莱姆公司 在一个网络应用环境中的自适应内容平衡
CN105956160A (zh) * 2016-05-17 2016-09-21 武汉邮电科学研究院 一种Android应用访问数据库的方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101312544A (zh) * 2008-06-25 2008-11-26 厦门大学 面向无线网络的视频质量自动评测系统及其评测方法
CN102802138A (zh) * 2011-05-25 2012-11-28 腾讯科技(深圳)有限公司 一种视频文件的处理方法和系统、视频代理系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101312544A (zh) * 2008-06-25 2008-11-26 厦门大学 面向无线网络的视频质量自动评测系统及其评测方法
CN102802138A (zh) * 2011-05-25 2012-11-28 腾讯科技(深圳)有限公司 一种视频文件的处理方法和系统、视频代理系统

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
全参考客观图像质量评价方法的研究;刘雁睿;《中国优秀硕士学位论文全文数据库信息科技辑》;20120815(第8期);第25-32页 *
基于SSIM与ROI的视频质量评价方法;王正友等;《仪器仪表学报》;20090930;第30卷(第9期);第1906-1911页 *
基于感知运动能量模型的MPEG-21数字项适配;赵刚等;《计算机科学》;20050731;第32卷(第7期);第131-135页 *
移动互联网上自适应多媒体传输研究;赵刚;《中国优秀博硕士学位论文全文数据库 (博士) 信息科技辑》;20060515(第5期);第24-35页 *

Also Published As

Publication number Publication date
CN103024713A (zh) 2013-04-03

Similar Documents

Publication Publication Date Title
US10609447B2 (en) Method of unscrambling television content on a bandwidth
CN103051930B (zh) 基于流量分析及用户行为分析的移动视频推荐方法及系统
CN102625147B (zh) 一种移动可视设备自适应显示方法
KR102434832B1 (ko) 인공지능 기반 실시간 배경분리 및 객체합성을 이용한 가상여행 서비스 제공 방법
CN103517135B (zh) 一种连续播放mp4格式视频文件的方法、系统及电视
CN105142025A (zh) 一种基于智能电视终端的信息推送方法及系统
US9754353B2 (en) Method and system for video stream personalization
CN100477799C (zh) 一种提高电视终端设备数字字幕数据处理效率的方法
CN105874449A (zh) 用于提取和生成用于显示内容的图像的系统和方法
CN103561261B (zh) 基于视觉注意的全景可定位视频编码方法
CN101035257B (zh) 动态视频二维信息互动同步传输方法及系统
CN110072119A (zh) 一种基于深度学习网络的内容感知视频自适应传输方法
CN102916994A (zh) 一种页面浏览方法、服务器和终端
CN101354706A (zh) 一种收集网页信息的方法及装置
CN103761257B (zh) 基于移动浏览器的网页处理方法及系统
CN103024713B (zh) 基于媒体分析的数字媒体内容服务网关系统
WO2018011688A1 (en) Method and system for displaying interactive questions during streaming of real-time and adaptively assembled video
CN106664299A (zh) 基于超文本传输协议媒体流的媒体呈现导览方法和相关装置
Qiang [Retracted] Consumption Reduction Solution of TV News Broadcast System Based on Wireless Communication Network
CN107277639A (zh) 一种移动终端视频和信息叠加显示的方法
CN103888788A (zh) 一种基于双向机顶盒的虚拟旅游服务系统及实现方法
CN102447947A (zh) 一种用于区端网络的视频娱乐点播系统
Liu The design of mobile learning system for English based on 3G platform
Wen et al. Guest editorial special issue on visual computing in the cloud: mobile computing
Park et al. Scalable mobile Internet servers: Selecting useful images from the web for mobile services

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant