CN108668141B - 一种视频内容预部署方法 - Google Patents

一种视频内容预部署方法 Download PDF

Info

Publication number
CN108668141B
CN108668141B CN201710202246.0A CN201710202246A CN108668141B CN 108668141 B CN108668141 B CN 108668141B CN 201710202246 A CN201710202246 A CN 201710202246A CN 108668141 B CN108668141 B CN 108668141B
Authority
CN
China
Prior art keywords
service nodes
video content
deployed
target service
nodes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710202246.0A
Other languages
English (en)
Other versions
CN108668141A (zh
Inventor
刘学
李强
党寿江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhengzhou Xinrand Network Technology Co ltd
Original Assignee
Institute of Acoustics CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Acoustics CAS filed Critical Institute of Acoustics CAS
Priority to CN201710202246.0A priority Critical patent/CN108668141B/zh
Publication of CN108668141A publication Critical patent/CN108668141A/zh
Application granted granted Critical
Publication of CN108668141B publication Critical patent/CN108668141B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/632Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing using a connection between clients on a wide area network, e.g. setting up a peer-to-peer communication via Internet for retrieving video segments from the hard-disk of other client devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/568Storing data temporarily at an intermediate stage, e.g. caching
    • H04L67/5682Policies or rules for updating, deleting or replacing the stored data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/226Characteristics of the server or Internal components of the server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/231Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion
    • H04N21/23103Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion using load balancing strategies, e.g. by placing or distributing content on different disks, different memories or different servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明提供了一种视频内容预部署方法,该方法包括:步骤1)根据待部署的视频内容参考热度,通过归一化方法,计算得出待部署视频内容在所有服务节点上的覆盖度;步骤2)根据覆盖度得出每一部待部署的视频内容的目标服务节点数目;步骤3)把待部署的视频内容分成若干个切片,在部署任务下发时,对每一部视频内容的每个切片,从所有服务节点中选取对应目标服务节点数目的目标服务节点进行部署。本发明的视频内容预部署方法针对边缘设备集群存储空间有限的情况,能够实现对于用户点播的热点视频,尽可能多地在服务节点进行有效部署。

Description

一种视频内容预部署方法
技术领域
本发明涉及互联网多媒体技术领域,特别涉及一种视频内容预部署方法。
背景技术
随着互联网和计算机技术不断发展,人民文化生活水平不断提高,人们对网络视频服务的需求也越来越高,为了满足人们日益增长的需求,视频运营商一般采取CDN加速服务的方式,将视频内容“靠近”用户进行部署,使用户点播视频的速度大大提升。
但是,由于国内网络存在带宽不足、流量费用高的现状,使用CDN服务的成本比较高,所以更进一步地,视频运营商开始将目光转向网络边缘设备,利用用户家中的小型缓存设备(例如机顶盒、电视盒子、智能路由器等)来进行内容部署。这一内容部署方式有许多优点,首先视频资源无限接近用户,能获得更快的资源响应速度,其次是利用边缘节点之间P2P共享的方式,可以为运营商节约主干流量,另外,这种方法还可以实现针对不同用户进行资源特异性部署,进一步提升用户满意度。
虽然资源部署在边缘设备上有诸多好处,但是也有它的局限性,例如设备的计算性能、带宽以及存储空间有限。对于视频服务,存储空间受限是比较大的问题,这意味着能部署的视频资源有限,所以如何利用有限的存储空间,对用户点播的热点视频进行有效部署是一个关键问题。
发明内容
本发明的目的在于,针对边缘设备集群存储空间有限的情况,尽可能多地对用户点播的热点视频进行有效部署,提供一种视频内容预部署方法。
为了实现上述目的,本发明提出的一种视频内容预部署方法,该部署方法适用于分布式集群,也就是能够使用P2P技术进行资源共享的边缘节点(机顶盒、视频盒子、带存储的无线路由器等)的集群的有限存储空间中部署热点视频,本方法具体包括:
步骤1)根据待部署的视频内容参考热度,通过归一化方法,计算得出待部署视频内容在所有服务节点上的覆盖度;
步骤2)根据覆盖度得出每一部待部署的视频内容的目标服务节点数目;
步骤3)把待部署的视频内容分成若干个切片,在部署任务下发时,对每一部视频内容的每个切片从所有服务节点中选取对应目标服务节点数目的目标服务节点进行部署。
作为上述技术方案的进一步改进,所述的步骤1)包括:
对于n部待部署的视频内容,计算得出第i部视频内容在所有服务节点上的覆盖度Ki具体表示为:
Figure BDA0001258898990000021
其中,S是单一服务节点的可用存储空间,hi是第i部视频内容参考热度,
Figure BDA0001258898990000022
是n部待部署视频内容的平均体积。
作为上述技术方案的进一步改进,所述的步骤2)包括:
根据覆盖度得出第i部待部署的视频内容的目标服务节点数目初值Ni
Ni=N·Ki
其中,N是服务节点总数目;
利用目标服务节点数目初值Ni与源服务器带宽范围内能够支持同时下载的最大节点数进行比较,如果目标服务节点数目初值Ni大于最大节点数,则选取最大节点数作为第i部待部署的视频内容的目标服务节点数目;否则,选取目标服务节点数目初值Ni作为第i部待部署的视频内容的目标服务节点数目。
作为上述技术方案的进一步改进,所述的步骤3)中选取对应目标服务节点数目的目标服务节点满足:
保持同一部视频内容中的各切片之间所选取的服务节点不同;
或者保持同一部视频内容中相邻的两个切片之间所选取的服务节点不同;
或者按服务节点资源分布进行排序,然后优先选取具有空闲资源的服务节点作为目标服务节点。
本发明的一种视频内容预部署方法优点在于:
本发明的方法通过选取热点影片进行部署,利用影片的点播热度生成了对应影片的覆盖度,通过覆盖度可以将影片按照热度分布情况部署在服务节点集群中;从而能利用边缘服务节点有限的空间,加快用户点播时视频资源的响应速度。
附图说明
图1为本发明中的一种视频内容预部署方法的工作流程示意图。
具体实施方式
下面结合附图和实施例对本发明所述的一种视频内容预部署方法进行详细说明。
本发明提供了一种视频内容预部署方法,主要针对边缘设备集群存储空间有限的情况,实现对于用户点播的热点视频,尽可能多地在服务节点进行有效部署。如图1所示,本发明的方法包括:
步骤1)根据待部署的视频内容参考热度,通过归一化方法,计算得出待部署视频内容在所有服务节点上的覆盖度;
步骤2)根据覆盖度得出每一部待部署的视频内容的目标服务节点数目;
步骤3)把待部署的视频内容分成若干个切片,在部署任务下发时,对每一部视频内容的每个切片,从所有服务节点中选取对应目标服务节点数目的目标服务节点进行部署。
实施例一
在本实施例中,利用上述视频内容预部署方法进行部署操作的具体过程为:
步骤S1)通过视频网站获取节目点播数据,作为待部署视频内容,可以使用用户点击量作为视频内容的参考热度hi,通过归一化方法,计算出待部署内容在服务节点的覆盖度Ki
Ki=C·hi (1)
其中,Ki表示第i部视频内容在所有服务节点上的覆盖度,C是归一化参数,可以暂且不管,下文公式推导可以消去这一参数。由于服务节点的存储空间有限,是没法对所有影片进行部署的,根据帕列托法则,可大致推断80%的点击量都由20%的视频获得,所以部署这20%的影片就能够满足大部分用户的需求;因此选定热点视频的方法,就是按点击量大小,对影片列表进行排序,从前往后选定m个影片,取值m需满足m个影片点击量之和与从点击量的比值大于等于80%。
步骤S2)把待部署视频内容分成Mi个切片,在部署任务下发时,对每一部视频内容的每个切片都会选取一定数量的、且不同的目标服务节点进行部署;根据覆盖度得出每部待部署视频内容的目标服务节点数目初值:
Ni=N·Ki (2)
其中,N是服务节点总数目,Ni表示第i部待部署的视频内容的目标服务节点数目初值。
对于上述Mi个切片,可以采用直播流切片工具,经过工具处理,将视频内容切分成符合HLS协议的固定长度(一般一个切片为1M左右的体积)的小文件,同时生成m3u8索引文件,通过查找索引文件,播放器可以找到相应小文件进行无缝播放。
假如N是100,某部视频内容的覆盖度是80%,那么在部署的时候就要选取80个节点,这些节点会同时向服务器获取资源,从而给存储片段的源服务器带来压力;由于集群内部存在P2P共享的方式,当某一服务节点收到一个片段时,根据覆盖度,该服务节点会向没有该片段的邻居节点进行内容扩散,这样实际上只要选取一个节点进行部署,就能靠它的扩散作用完成部署的覆盖度要求,它向邻居节点发送完片段之后,收到该片段的服务节点又会再一次向周围的邻居节点进行内容扩散。但是,如果过度依赖集群中的扩散作用,又会给集群带来太大压力;所以选取节点的数量要在源服务器的带宽能力范围内,如果超出源服务器的能力范围,就不能按照(2)式选取服务节点数量。
所以,Ni需要满足Ni∈[1,M],M指源服务器在其带宽范围内最多支持M个服务节点同时下载文件片段。即:利用目标服务节点数目初值Ni与M值进行比较,如果目标服务节点数目初值Ni大于源服务器的带宽值M,则选取M值作为第i部待部署的视频内容的目标服务节点数目;否则,选取目标服务节点数目初值Ni作为第i部待部署的视频内容的目标服务节点数目。
步骤S3)根据使用场景,可以假设对于一次预部署的所有视频任务,恰好能够放入边缘服务集群的所有可用存储空间之中:
进一步假设集群中单个边缘服务节点的存储空间是S,服务节点总数目是N,使用mi(i∈[1,n])表示一部影片的体积,即指影片文件大小,例如一部影片的文件大小是300MB,Ki表示第i部影片的覆盖度,表示拥有第i部影片的目标服务节点数目与服务节点总数目N的比值,得到:
Figure BDA0001258898990000041
步骤S4)考虑到如果影片的类别相同,那么它们的体积是基本相同的,使用
Figure BDA0001258898990000042
表示每部影片的平均大小,联立(1)式和(3)式,利用(3)式:
Figure BDA0001258898990000043
消去N得到
Figure BDA0001258898990000044
并将(1)式的Ki代入就有:
Figure BDA0001258898990000045
由于在影片类别基本一致的情况下,mi可以等效为
Figure BDA0001258898990000046
即:
Figure BDA0001258898990000047
这样就求出了归一化参数C,将归一化参数C重新代回到(1)中就得到Ki的表达式:
Figure BDA0001258898990000051
步骤S5)对于待部署视频内容Mi个切片的每一个切片,都要选取一定数量的、且不同的目标服务节点进行部署,其中,目标服务节点数目初值Ni可以用以下公式表示:
Figure BDA0001258898990000052
按照目标服务节点数目选取目标服务节点的方法可以使用随机去重法,即每部署一个视频切片,都从集群中随机选取不同的服务节点,并且每选择一个服务节点,都要注意避开上次部署时的选取结果,一方面是为了分散服务节点压力的目的,另一方面可以发挥服务节点集群的并行优势。
或者可以按服务节点资源分布情况进行选取,使用这一方法时,节点需定时上报自身资源使用情况,在选择目标部署节点时,首先通过对服务节点资源分布进行排序,然后优先选取具有空闲资源(例如空闲带宽、磁盘可用空间)的服务节点作为目标服务节点,以增加部署效率。
在本实施例中,针对上述两种目标服务节点选取的方法,其具体操作为:
首先,视频源服务器定时(20s一次)与集群内各个服务节点保持心跳连接(集群节点给源服务器发一个UDP报文,服务器即时回复),这样源服务器就能随时获得所有服务节点的信息;
对于第一种方法,每部署一个视频切片,都随机选取W(假如已通过公式计算出来)个服务节点进行部署(部署信息以UDP的形式下发,UDP报文内存有切片文件的下载链接,服务节点解析后,马上开始下载),在对下一个片段选取W个服务节点进行部署时,不选取与上次相同的服务节点;
对于第二种方法,即在集群的服务节点在心跳报文里加上自己的剩余空间信息、或者可用带宽(通过下载片段文件可以测量),源服务器根据这些信息优先选用剩余空间大、可用带宽大的服务节点进行部署。
最后所应说明的是,以上实施例仅用以说明本发明的技术方案而非限制。尽管参照实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,对本发明的技术方案进行修改或者等同替换,都不脱离本发明技术方案的精神和范围,其均应涵盖在本发明的权利要求范围当中。

Claims (2)

1.一种视频内容预部署方法,其特征在于,包括:
步骤1)根据待部署的视频内容参考热度,通过归一化方法,计算得出待部署视频内容在所有服务节点上的覆盖度;
所述的步骤1)包括:
对于n部待部署的视频内容,计算得出第i部视频内容在所有服务节点上的覆盖度Ki具体表示为:
Figure FDA0002459431310000011
其中,S是单一服务节点的可用存储空间,hi是第i部视频内容参考热度,
Figure FDA0002459431310000012
是n部待部署视频内容的平均体积;
步骤2)根据覆盖度得出每一部待部署的视频内容的目标服务节点数目;
所述的步骤2)包括:
根据覆盖度得出第i部待部署的视频内容的目标服务节点数目初值Ni
Ni=N·Ki
其中,N是服务节点总数目;
利用目标服务节点数目初值Ni与源服务器带宽范围内能够支持同时下载的最大节点数进行比较,如果目标服务节点数目初值Ni大于最大节点数,则选取最大节点数作为第i部待部署的视频内容的目标服务节点数目;否则,选取目标服务节点数目初值Ni作为第i部待部署的视频内容的目标服务节点数目;
步骤3)把待部署的视频内容分成若干个切片,在部署任务下发时,对每一部视频内容的每个切片,从所有服务节点中选取对应目标服务节点数目的目标服务节点进行部署。
2.根据权利要求1所述的视频内容预部署方法,其特征在于,所述的步骤3)中选取对应目标服务节点数目的目标服务节点满足:
保持同一部视频内容中的各切片之间所选取的服务节点不同;
或者保持同一部视频内容中相邻的两个切片之间所选取的服务节点不同;
或者按服务节点资源分布进行排序,然后优先选取具有空闲资源的服务节点作为目标服务节点。
CN201710202246.0A 2017-03-30 2017-03-30 一种视频内容预部署方法 Active CN108668141B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710202246.0A CN108668141B (zh) 2017-03-30 2017-03-30 一种视频内容预部署方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710202246.0A CN108668141B (zh) 2017-03-30 2017-03-30 一种视频内容预部署方法

Publications (2)

Publication Number Publication Date
CN108668141A CN108668141A (zh) 2018-10-16
CN108668141B true CN108668141B (zh) 2020-07-17

Family

ID=63785500

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710202246.0A Active CN108668141B (zh) 2017-03-30 2017-03-30 一种视频内容预部署方法

Country Status (1)

Country Link
CN (1) CN108668141B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101304514A (zh) * 2008-06-30 2008-11-12 腾讯科技(深圳)有限公司 一种视频点播系统及其数据缓存方法和调度服务器
CN101720136A (zh) * 2009-11-27 2010-06-02 成都市华为赛门铁克科技有限公司 客户端邻居节点数目控制方法和装置、缓存系统
CN102447973A (zh) * 2011-10-10 2012-05-09 华为技术有限公司 一种缓存调整的方法、装置和系统
CN103905916A (zh) * 2012-12-25 2014-07-02 中国科学院声学研究所 一种面向区域的机顶盒P2P-Vod系统及数据预部署方法
EP3063945A1 (en) * 2013-11-01 2016-09-07 Ericsson AB System and method for optimizing defragmentation of content in a content delivery network

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101304514A (zh) * 2008-06-30 2008-11-12 腾讯科技(深圳)有限公司 一种视频点播系统及其数据缓存方法和调度服务器
CN101720136A (zh) * 2009-11-27 2010-06-02 成都市华为赛门铁克科技有限公司 客户端邻居节点数目控制方法和装置、缓存系统
CN102447973A (zh) * 2011-10-10 2012-05-09 华为技术有限公司 一种缓存调整的方法、装置和系统
CN103905916A (zh) * 2012-12-25 2014-07-02 中国科学院声学研究所 一种面向区域的机顶盒P2P-Vod系统及数据预部署方法
EP3063945A1 (en) * 2013-11-01 2016-09-07 Ericsson AB System and method for optimizing defragmentation of content in a content delivery network

Also Published As

Publication number Publication date
CN108668141A (zh) 2018-10-16

Similar Documents

Publication Publication Date Title
CN101409706B (zh) 一种边缘网络中的数据分发方法、数据分发系统及相关设备
US9390200B2 (en) Local caching device, system and method for providing content caching service
US20040236869A1 (en) Parallel information delivery method based on peer-to-peer enabled distributed computing technology and the system thereof
CN108566370B (zh) 一种数据回源的方法以及装置
JP6606516B2 (ja) 効率的なピア支援ストリーミングのためのキャッシュマニフェスト
CA2939917A1 (en) Content delivery network architecture with edge proxy
CA2840106A1 (en) Offline download method, multimedia file download method and system thereof
CN103312752B (zh) 点对点网络信息分发方法、下载节点、索引服务器及系统
KR101548144B1 (ko) 사용자 장비에 대한 자산들의 프리-패치를 위한 자원 프로파일의 조정
CN110830565B (zh) 资源下载方法、装置、系统、电子设备及存储介质
US20100031300A1 (en) Operating method of contents on demand system
US10250671B2 (en) P2P-based file transmission control method and P2P communication control device therefor
KR101436049B1 (ko) 컨텐츠 캐싱 서비스 제공 방법 및 이를 위한 로컬 캐싱 장치
CN102761572A (zh) 动态调整数据流量的方法及系统
CN108282668B (zh) 一种视频的获取方法及系统
CN108156257B (zh) 一种信息推送方法及装置
CN101605242B (zh) 用于实现视频点播服务的方法、装置和系统
WO2022206529A1 (zh) 一种资源请求处理的方法、装置、计算机设备及介质
CN113296924A (zh) 一种内容分发方法、设备、系统及存储介质
Dyaberi et al. Storage optimization for a peer-to-peer video-on-demand network
TWI489889B (zh) 內容遞送網路及同儕網路之流量控制方法及系統
CN108668141B (zh) 一种视频内容预部署方法
CN101146107B (zh) 一种下载数据的方法及装置
Ku et al. Adaptive cache deploying architecture using big-data framework for CDN
CN112543354B (zh) 业务感知的分布式视频集群高效伸缩方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20210802

Address after: Room 1601, 16th floor, East Tower, Ximei building, No. 6, Changchun Road, high tech Industrial Development Zone, Zhengzhou, Henan 450001

Patentee after: Zhengzhou xinrand Network Technology Co.,Ltd.

Address before: 100190, No. 21 West Fourth Ring Road, Beijing, Haidian District

Patentee before: INSTITUTE OF ACOUSTICS, CHINESE ACADEMY OF SCIENCES