CN109905720A - 命名数据网络下基于视频点播系统的缓存替换方法 - Google Patents

Abstract

本发明提供一种命名数据网络下基于视频点播系统的缓存替换方法，路由节点接收的数据包所缓存的内容缓存表为有序的双链表，双链表的每个结点(以下统称Node)类型包括四个域，分别为前驱指针、后继指针、数据包内容名字以及内容生存时间，按照每个数据的内容生存时间进行排序，当节点内存空间已满需要进行替换时，替换内容生存时间最低的数据。本发明通过提高路由节点缓存命中率，减少用户请求平均跳数，以达到提高内容复用、降低服务器压力的目的。本发明提出来一种内容生存时间的概念，以此作为缓存替换的依据，因此在NDN网络下，维护路由节点内容的生存时间。

Description

命名数据网络下基于视频点播系统的缓存替换方法

技术领域

本发明涉及一种命名数据网络下基于视频点播系统的缓存替换方法。

背景技术

现代互联网是一个世界范围内的计算机网络，它通过一系列网络协议将全世界的网络设备有效的互联起来，在最近几十年的时间里，TCP/IP协议栈是现在互联网的核心协议栈。然而，随着网络的发展，人们对于网络的需求也发生了很大的变化，主要是数据流量方面，预测指出，到2021年全球互联网流量将达到3.3ZB，是2016年的近3倍，而在视频点播方面，流量将从2016 年的73％增长到82％，面对如此庞大的数据量，新的挑战随之而来，基于TCP/IP 面向连接的通信模式为基础架构的互联网还存在一个严重资源浪费的问题，那就是当前的互联网上发生了大量的重复(冗余)传输。主要的应用包括视频、音频、文件下载等绝大部分内容分发都存在非常大量的重复传输。

针对于IP网络的缺陷，命名数据网络(NDN)应运而生，NDN项目旨在通过建立全新的以内容为中心的网络构架体系，争取逐步替代主宰互联网半个世纪的TCP/IP协议。NDN网络设计的其中一个原则就是尽可能大规模的部署网络缓存，最大化带宽使用，实现快速、可靠的内容交付，以避免拥塞。在NDN网络中，每个路由节点都有独立的缓存空间，每当数据包经过节点时，节点将会把数据缓存在本地，下一次请求相同的数据时，节点就可以立即对该请求进行响应而无需再向服务器发送请求，这样就大大减少了网络中重复的流量，能够缓解爆炸式增长的网络流量给网络带来的压力。这也是NDN网络区别于IP网络的一个重要特征。然而缓存的出现带来了优势同时也带来了挑战，因为缓存不可能无限大，在视频点播方面，路由器存储了大量的已经过时的信息或者是路由器空间使用量超过一定的上限时，就需要删除一些次要信息，而将空间更多留给有用的信息，因此提出一种高效的缓存替换策略无疑变成了重中之重，目前国内外对于命名数据网络缓存替换策略的研究主要有以下几种：

(1)基于随机(RAND)的替换策略

随机的替换策略算法中，当需要对缓存的内容进行删除时，完全随机的选取替换对象，每个内容对象被选中的概率是相等的，随机算法比较容易在各种具体应用中实现，但是实际效果存在很大的不确定性。

(2)基于先进先出(FIFO)的替换策略

先进先出的替换策略中，当路由节点内存空间已满需要对缓存的内容进行删除时，数据最先进入缓存的，则应该被替换，这种替换算法也具有很大的不确定性，因为最先进入节点缓存的可能是一个视频中的热点内容，这样缓存的效率也会很低。

(3)基于上一次被访问时间间隔的替换策略

在NDN网络中，最为经典的算法就是基于上一次被访问时间间隔的替换策略算法。这类替换策略将缓存内容距离上一次被访问的时间间隔作为最重要的参考因素，据此决定该缓存内容是否应被替换，其中最经典的就是最近最少使用算法(LRU)，它是一种利用最近的缓存内容作为参数的缓存替换策略。利用了时间域中时间局部性的概念，例如，如果某个数据项最近被访问过，那么就预计它将比其他数据项更快被再次访问，他会在内容中用最近到达的数据对象来取代很久没有使用的数据项。

命名数据网络(NDN)的缓存替换策略在一定程度上保证了有效的网络利用率并且提高了数据的可用性，但是现有的缓存替换策略在使用上也是有很大的弊端的，比如基于随机(RAND)的替换策略和基于先进先出(FIFO)的替换策略这两种策略，虽然在操作上比较容易实现，但是最大的弊端也显而易见，具有很大的不确定性，无法很好的做出缓存替换的决策。而基于上一次被访问时间间隔的替换策略中的LRU算法，并没有考虑缓存视频点播内容的热度，对于直播系统还好，因为最近刚过去的一段时间可能就是热点内容，对于点播系统，比如一个被持续的、以一个时间间隙作为请求周期的内容很有可能被用户再次请求，但根据LRU策略，它可能会被最近请求的内容所替换，即使只有较少的用户对这个新内容感兴趣。

发明内容

针对于以上所出现的问题，本发明提出了一种命名数据网络下基于视频点播系统的缓存替换方法，是一种更高效的基于内容初始生存时间的缓存替换策略，通过设置内容初始生存时间，可以有效避免出现非热点内容替换热点内容的问题，提高路由节点的缓存命中率，降低请求的路由跳数，从而达到提高内容复用、降低服务器压力的目的。

本发明提供一种命名数据网络下基于视频点播系统的缓存替换方法，路由节点接收的数据包所缓存的内容缓存表为有序的双链表，每个Node类型均包括内容生存时间，将各Node按照每个数据的内容生存时间进行排序，当路由节点内存空间已满需要进行替换时，替换内容生存时间最低的数据。

优选地，一种命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，每个Node类型均包括四个域，分别为前驱指针、后继指针、数据包内容名字以及内容生存时间。

优选地，路由节点内每个数据都有初始的内容生存时间，其随着时间的推移进行自减，当减小为零时，自动从内容缓存表中清除。

优选地，当主机用户发出兴趣包请求时，首先查看内容缓存表，若是查找成功，将这一内容数据的内容生存时间加长，若是缓存没有命中，则服务器响应之后的数据包将其内容赋予一个初始的内容生存时间，放入到路由节点的内容缓存表中。

优选地，包括如下几个步骤：

当有兴趣包发送请求时，首先需要判断路由节点cs表中是否有匹配项，即兴趣包中请求的内容名字是否在cs表中存在，如果有，则执行步骤A，如果没有执行步骤B：

步骤A：缓存发生命中，在双链表中将命中的Node增加内容生存时间，判断增加内容生存时间后的Node内容生存时间是否大于前一个Node的内容生存时间，如果不大于，则保持当前位置不变，如果大于，则依次要和前面的Node进行比较，直到出现内容生存时间增加后的那个Node比链表中的Node 生存时间小时为止，此时这个位置是内容生存时间增加后的那个Node应插入的位置，将该节点插入到该位置上，流程执行结束；

步骤B：进行PIT表是否有匹配项的判断，如果有，执行步骤C，如果没有，执行步骤D；

步骤C：把该兴趣包进来的接口加入到PIT对应项的接口列表中，等待数据包的返回，当数据包返回时，在双链表中给新的内容Node设置初始内容生存时间，并判断链表长度是否已经达到最大值，如果没有达到最大值，则将新的内容Node插入到链表合适的位置，保证有序，然后将链表长度加1，流程执行结束；如果达到链表最大长度，则判断新的内容Node设置的初始内容生存时间是否大于终端Node，如果小于则放弃缓存，流程执行结束；如果不小于，则删除链表的终端Node，链表长度减1，然后再将新的内容Node插入到链表合适的位置，保证有序，长度加1，然后流程执行结束；

步骤D：该判断FIB表中是否有匹配项，如果仍然没有则应该丢弃兴趣包，表明该路由节点无法处理这个兴趣包，流程执行结束；如果有，则该路由节点是第一次收到该兴趣包，转发兴趣包并在PIT表添加新条目，等待数据包返回，等待数据包返回后，当数据包返回时，给新的内容Node设置初始生存时间，判断链表长度是否已经达到最大值，如果没有达到最大值，则将新的内容Node插入到链表合适的位置，保证有序，然后将链表长度加1，流程执行结束；如果达到链表最大长度，则判断新的内容Node设置的初始内容生存时间是否大于终端Node，如果小于则放弃缓存，流程执行结束；如果不小于，则删除链表的终端Node，链表长度减1，然后再将新的内容Node插入到链表合适的位置，保证有序，长度加1，然后流程执行结束。

优选地，还包括一个并列的线程，并发执行另一个任务：对双链表中每一个Node进行自减操作，自减后判断双链表中Node的内容生存时间是否减为0时，当减为0时进行Node删除操作，否则保持当前Node位置不变。

优选地，所述链表长度为路由节点内存大小，删除Node后链表长度减1。

本发明具有的优点在于：

本发明在NDN网络下针对于视频点播这一应用提出来的一种更为高效的缓存替换策略，通过提高路由节点缓存命中率，减少用户请求平均跳数，以达到提高内容复用、降低服务器压力的目的。本发明提出来一种内容生存时间的概念，以此作为缓存替换的依据，因此在NDN网络下，维护路由节点内容的生存时间。

附图说明

图1为最近最少被使用(LRU)内容缓存替换示意图；

图2为本发明中内容生存时间的结构体类型示意图；

图3为基于内容生存时间缓存替换示意图；

图4为本发明方法实现的流程示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

在本发明的描述中，还需要说明的是，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。

本发明是在NDN网络下针对于视频点播系统的缓存替换方法，目的是对于视频点播这一应用，采用本发明提出的基于数据内容初始生存时间的缓存策略，能够在缓存命中率、请求转发跳数达到比一般缓存替换算法更好的效果，从而提高内容复用，减轻服务器的压力。

首先，NDN网络下目前默认采用的替换策略是LRU(最近最少使用)算法，而本发明的算法中，对于视频点播这一应用场景，是如何有效避免非热点内容替换掉热点内容这一目的的，即如何比起LRU算法，有更为高效的结果，先结合一个简单案例来介绍一下LRU的缓存策略：

如图1所示，假设某个路由节点接收到内容请求的先后顺序为 <8,1,8,2,8，1,4,2,6>，数字代表数据包的内容名字，假设节点的缓存空间开始为零，并且缓存大小为3个数据包大小，如图1所示，8这个数字是数据的热点内容，请求的次数最多，但是最后节点的内存空间里却没有了8这个数字，这就是LRU替换策略的缺点：高热度的内容因为短时间内没有被请求，导致被低热度的内容替换掉。这个缺点对于直播系统可能影响相对较小，因为对于直播，短时间的请求几乎即为热点内容，而对于视频点播这个弊端就会放大，本发明对此问题加以研究并得到了很好的解决，提出了路由节点内容初始生存时间的概念。

把路由节点接收的数据包缓存到内容缓存(cs)表时，需要将本发明提出的内容生存时间的概念加入进去，而为了便于进行删除插入等一系列的操作，创建了一个双链表的结构体类型，每个每个结点(以下统称Node)类型维护了四个域，即前驱指针prior域，后继指针next域，数据包内容名字 name以及内容生存时间live，如图2所示。

当路由节点内存空间已满时，要进行替换，本发明的核心是要替换内容生存时间最低的数据，而如果要找到最低的数据，需要将cs表中维护的数据全部遍历一遍寻找最低的生存时间，这个在时间复杂度方面肯定是代价比较大的。而本发明维护了一个有序的双链表，按照每个数据的内容生存时间进行排序，这样进行替换时，替换的就是双链表的终端Node，维护一个始终指向终端Node的指针即可，避免对列表进行遍历。

本发明的缓存替换策略是基于数据内容生存时间的缓存策略，即路由节点内每个内容都有一个初始的内容生存时间这一变量，给它设置一个初值，如可以设置为2000秒，这里是根据NDN中LRU缓存替换算法每30分钟刷新一次缓存的经验，本身会随着时间的推移以每秒减1的速率进行自减，当减为0的时候，就自动从内容缓存表中清除，并将双链表中维护的这一Node进行删除，这样可以有效避免过去一段时间很受欢迎但最近很少被使用的数据占据，而新到达的内容没办法被保存的弊端，而且可以做到自动清理路由节点内存空间的效果。当主机用户发出兴趣包请求时，首先查看内容缓存(cs) 表，若是查找成功也就是缓存命中，就将这一内容数据的内容生存时间加长，如60秒，若是缓存没有命中，则服务器响应之后的数据包将其内容赋予一个初始的内容生存时间，放入到节点的cs表中，完成缓存以达到内容复用的目的。将这一概念作为缓存替换的标准，定义这一概念，可以有效的避免非热点内容替换掉热点内容这一问题，当路由节点要进行内容替换时，内容生存时间最低的Node会先被替换。如图3所示，为便于说明，图3以初始内容生存时间为10s，每秒进行一次请求，每过一秒生存时间减一为例，其它的请求序列和内存空间都和图1LRU算法一样，举例说明，刚开始请求序列为8，给它赋予初始内容生存时间为10s，将其存到缓存空间中，接着过了1s，1 这个数据过来请求，此时8这个数据的生存变为9s，10s>9s，将1这个数据放到缓存空间上面，每次有相同数据类型请求时，就将该生存时间加10s，依次类推，当到了请求序列是4时，此时缓存空间已满，要进行替换，如图 3可知，替换的是内容生存时间最短的即2这个数据。这就是本缓存算法的核心流程。采用这种算法，我们可以看出来，8这个数据是视频点播中的热点数据，但是没有因为在很短时间内没有被请求而被替换掉，这就有效的避免了非热点内容替换掉热点内容这一问题。

以上主要介绍了本缓存方法的执行策略，现参照图4介绍本发明提供的命名数据网络下基于视频点播系统的缓存替换方法的具体处理，其包括并列执行的两个线程，并发执行两个任务：

一个线程是对双链表中每一个Node进行自减操作，在自减后进行判断，判断双链表中Node的内容生存时间是否减为0时，当减为0时，就进行Node 删除操作，否则保持当前Node位置不变。链表长度代表着路由节点内存大小，删除Node后将链表长度减1。

另一个线程就是本发明方法的核心流程，根据算法流程图，包括以下几个步骤：

当有兴趣包发送请求时，首先需要判断路由节点cs表中是否有匹配项，即兴趣包中请求的内容名字是否在cs表中存在，如果有，则执行步骤A，如果没有执行步骤B：

步骤A：cs表中有匹配项，则缓存发生命中，在双链表中将命中的Node 增加内容生存时间，因为要保证双链表的每一个Node都是按照内容生存时间大小进行有序排列的，所以增加内容生存空间后要继续判断，增加内容生存时间后的Node内容生存时间是否大于前一个Node的内容生存时间，如果不大于，则保持当前位置不变，如果大于，则依次要和前面的Node进行比较，直到出现内容生存时间增加后的那个Node比链表中的Node生存时间小时为止，此时这个位置应当是内容生存时间增加后的那个Node应插入的位置，在插入之前，则需要将其Node先记录下来，然后将其在双链表中进行删除，然后再将记录下来的Node插入到那个应插入位置上，流程执行结束。

步骤B：进行PIT表是否有匹配项的判断，如果有，这就表明该路由节点此前已经收到过相同的兴趣包的请求并且已经转发出去了，但尚未获得返回结果，执行步骤C，如果没有，执行步骤D；

步骤C：把该兴趣包进来的接口加入到PIT对应项的接口列表中，等待数据包的返回。当数据包返回时，在双链表中给新的内容Node设置初始内容生存时间，并判断链表长度是否已经达到最大值(路由节点内存是否已满)，如果没有达到最大值，则将新的内容Node插入到链表合适的位置，保证有序，然后将链表长度加1，流程执行结束；如果达到链表最大长度，则判断新的内容Node设置的初始内容生存时间是否大于终端Node，如果小于则放弃缓存，流程执行结束；如果不小于，则删除链表的终端Node，链表长度减1，然后再将新的内容Node插入到链表合适的位置，保证有序，长度加1，然后流程执行结束。

步骤D：判断FIB表中是否有匹配项，如果仍然没有则应该丢弃兴趣包，表明该路由节点无法处理这个兴趣包，流程执行结束；如果有，则说明该路由节点是第一次收到这样的兴趣包，并且知道转发规则，转发兴趣包并在PIT 表添加新条目，等待数据包返回，等待数据包返回后，当数据包返回时，给新的内容Node设置初始生存时间，然后再做和步骤C中相同的处理，即判断链表长度是否已经达到最大值(路由节点内存是否已满)，如果没有达到最大值，则将新的内容Node插入到链表合适的位置，保证有序，然后将链表长度加1，流程执行结束；如果达到链表最大长度，则判断新的内容Node设置的初始内容生存时间是否大于终端Node，如果小于则放弃缓存，流程执行结束；如果不小于，则删除链表的终端Node，链表长度减1，然后再将新的内容Node插入到链表合适的位置，保证有序，长度加1，然后流程执行结束。

以上详细描述了本发明方法改进的措施以及方法具体的详细处理流程。我们要针对该算法进行试验模拟，然后从路由节点缓存命中率和用户请求的平均跳数两个指标统计实验结果，然后观察本算法的缓存替换策略在视频点播方面是否在提高内容复用，减轻服务器压力方面更有效果。

本专利选取的网络模拟平台是ndnSIM，模拟器版本为2.1。模拟平台运行在Ubuntu系统下。在本专利中，模拟出来的拓扑结构是一个树形结构，其中有四个叶子节点即为消费者充当主机用户，一个根节点即为生产者充当服务器，另外还有两个路由器，节点之间的带宽为1Mbps，节点间的路由单位1 跳，链路延时为10毫秒，链路上所传输数据包的最大个数为10个。兴趣包的发送频率为50个/秒，设置每个消费者的内容种类数为1000，消费者的请求数是100000，节点缓存容量的设置为10,30,50，70,100,150，从节点缓存命中率和用户请求的平均跳数两个性能指标来与LRU，FIFO两种缓存算法作对比。经过在ndnSIM模拟平台的实验运行，发现随着缓存容量的提高，FIFO、 LRU和本算法在缓存命中率上有所提高，在用户请求的平均跳数上都有所降低，但是本算法的增幅和减幅速率更快。从而达到了提高内容复用，减轻服务器压力方面的预期目的。

以上仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (7)

1.一种命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，路由节点接收的数据包所缓存的内容缓存表为有序的双链表，双链表的每个Node类型均包括内容生存时间，将各Node按照每个数据的内容生存时间进行排序，当路由节点内存空间已满需要进行替换时，替换内容生存时间最低的数据。

2.根据权利要求1所述的命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，一种命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，每个Node类型均包括四个域，分别为前驱指针、后继指针、数据包内容名字以及内容生存时间。

3.根据权利要求1所述的命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，路由节点内每个数据都有初始的内容生存时间，其随着时间的推移进行自减，当减小为零时，自动从内容缓存表中清除。

4.根据权利要求1所述的命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，当主机用户发出兴趣包请求时，首先查看内容缓存表，若是查找成功，将这一内容数据的内容生存时间加长，若是缓存没有命中，则服务器响应之后的数据包将其内容赋予一个初始的内容生存时间，放入到路由节点的内容缓存表中。

5.根据权利要求1所述的命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，包括如下几个步骤：

当有兴趣包发送请求时，首先需要判断路由节点cs表中是否有匹配项，即兴趣包中请求的内容名字是否在cs表中存在，如果有，则执行步骤A，如果没有执行步骤B：

步骤A：缓存发生命中，在双链表中将命中的Node增加内容生存时间，判断增加内容生存时间后的Node内容生存时间是否大于前一个Node的内容生存时间，如果不大于，则保持当前位置不变，如果大于，则依次要和前面的Node进行比较，直到出现内容生存时间增加后的那个Node比链表中的Node生存时间小时为止，此时这个位置是内容生存时间增加后的那个Node应插入的位置，将该Node插入到该位置上，流程执行结束；

步骤B：进行PIT表是否有匹配项的判断，如果有，执行步骤C，如果没有，执行步骤D；

步骤C：把该兴趣包进来的接口加入到PIT对应项的接口列表中，等待数据包的返回，当数据包返回时，在双链表中给新的内容Node设置初始内容生存时间，并判断链表长度是否已经达到最大值，如果没有达到最大值，则将新的内容Node插入到链表合适的位置，保证有序，然后将链表长度加1，流程执行结束；如果达到链表最大长度，则判断新的内容Node设置的初始内容生存时间是否大于终端Node，如果小于则放弃缓存，流程执行结束；如果不小于，则删除链表的终端Node，链表长度减1，然后再将新的内容Node插入到链表合适的位置，保证有序，长度加1，然后流程执行结束；

步骤D：判断FIB表中是否有匹配项，如果仍然没有则应该丢弃兴趣包，表明该路由节点无法处理这个兴趣包，流程执行结束；如果有，则该路由节点是第一次收到该兴趣包，转发兴趣包并在PIT表添加新条目，等待数据包返回，等待数据包返回后，当数据包返回时，给新的内容Node设置初始生存时间，判断链表长度是否已经达到最大值，如果没有达到最大值，则将新的内容Node插入到链表合适的位置，保证有序，然后将链表长度加1，流程执行结束；如果达到链表最大长度，则判断新的内容Node设置的初始内容生存时间是否大于终端Node，如果小于则放弃缓存，流程执行结束；如果不小于，则删除链表的终端Node，链表长度减1，然后再将新的内容Node插入到链表合适的位置，保证有序，长度加1，然后流程执行结束。

6.根据权利要求5所述的命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，还包括一个并列的线程，并发执行另一个任务：对双链表中每一个Node进行自减操作，自减后判断双链表中Node的内容生存时间是否减为0时，当减为0时进行Node删除操作，否则保持当前Node位置不变。

7.根据权利要求6所述的命名数据网络下基于视频点播系统的缓存替换方法，其特征在于，所述链表长度为路由节点内存大小，删除Node后链表长度减1。