CN115174999B - 基于未来网络的真4k家庭影院5g网络点播系统 - Google Patents
基于未来网络的真4k家庭影院5g网络点播系统 Download PDFInfo
- Publication number
- CN115174999B CN115174999B CN202210572661.6A CN202210572661A CN115174999B CN 115174999 B CN115174999 B CN 115174999B CN 202210572661 A CN202210572661 A CN 202210572661A CN 115174999 B CN115174999 B CN 115174999B
- Authority
- CN
- China
- Prior art keywords
- network
- node
- module
- task
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000005540 biological transmission Effects 0.000 claims abstract description 101
- 238000009826 distribution Methods 0.000 claims abstract description 78
- 238000012546 transfer Methods 0.000 claims abstract description 49
- 230000006855 networking Effects 0.000 claims abstract description 30
- 238000003860 storage Methods 0.000 claims description 19
- 238000001514 detection method Methods 0.000 claims description 17
- 238000012795 verification Methods 0.000 claims description 14
- 230000000903 blocking effect Effects 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 6
- 239000003795 chemical substances by application Substances 0.000 claims description 5
- 230000003993 interaction Effects 0.000 claims description 3
- 238000007726 management method Methods 0.000 description 59
- 238000000034 method Methods 0.000 description 25
- 230000008569 process Effects 0.000 description 16
- 239000013598 vector Substances 0.000 description 16
- 230000000875 corresponding effect Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 8
- 238000005304 joining Methods 0.000 description 7
- 238000013461 design Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 239000008186 active pharmaceutical agent Substances 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/47202—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting content on demand, e.g. video on demand
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
- H04L12/46—Interconnection of networks
- H04L12/4641—Virtual LANs, VLANs, e.g. virtual private networks [VPN]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/104—Peer-to-peer [P2P] networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/104—Peer-to-peer [P2P] networks
- H04L67/1074—Peer-to-peer [P2P] networks for supporting data block transmission mechanisms
- H04L67/1078—Resource delivery mechanisms
- H04L67/108—Resource delivery mechanisms characterised by resources being split in blocks or fragments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/222—Secondary servers, e.g. proxy server, cable television Head-end
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/231—Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion
- H04N21/23106—Content storage operation, e.g. caching movies for short term storage, replicating data over plural servers, prioritizing data for deletion involving caching operations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
- H04N21/26613—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel for generating or managing keys in general
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
- H04N21/4627—Rights management associated to the content
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/61—Network physical structure; Signal processing
- H04N21/6106—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
- H04N21/6131—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via a mobile phone network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/61—Network physical structure; Signal processing
- H04N21/6156—Network physical structure; Signal processing specially adapted to the upstream path of the transmission network
- H04N21/6181—Network physical structure; Signal processing specially adapted to the upstream path of the transmission network involving transmission via a mobile phone network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/633—Control signals issued by server directed to the network components or client
- H04N21/6332—Control signals issued by server directed to the network components or client directed to client
- H04N21/6334—Control signals issued by server directed to the network components or client directed to client for authorisation, e.g. by transmitting a key
- H04N21/63345—Control signals issued by server directed to the network components or client directed to client for authorisation, e.g. by transmitting a key by transmitting keys
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/643—Communication protocols
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- Human Computer Interaction (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请涉及基于未来网络的真4k家庭影院5G网络点播系统,从分发管理控制模块到位于全国各个省市的中转模块之间基于未来网络IPV9构建全国骨干网,从中转模块到省内的各个家庭5G网络节点之间也是基于未来网络进行组网,在家庭5G网络节点内部的5G核心网单元和5G接入网单元之间也是基于未来网络组网的。系统基于未来网络可进行全国组网,能满足超大原始视频文件传输的稳定性、安全性、快速性的需求,提供海量兼容v4的V9IP地址和未来网络强大的跨越覆盖异构网络的能力和装备,大大降低全系统的信息传输费用,特别是可充分利用异构的v4vpn网络中节点的丰富带宽和服务器资源,实现未来网络异构组网好用、高效、廉价、安全的传输特性;传输速率达到50M‑100M,带宽达到100M‑1000M。
Description
技术领域
本发明涉及网络点播技术领域,更为具体来说,本发明涉及基于未来网络的真4k家庭影院5G网络点播系统。
背景技术
当前,随着通信技术的快速发展和人们生活水平的提高,物联网(IoT)、虚拟现实(VR)、超高清视频等新兴业务不断涌现并开始逐步走入人们的日常生活,人们也因此有了更多的娱乐选择,在家中观看4K视频影片已经成为人们的向往。但当前互联网公网拥挤而不稳定的网络环境无法保障真4K视频点播对网络传输条件的要求。
近年来,视频文件分发系统的设计和实现难点在于:一,视频拷贝文件体积较大,一份数字发行视频包的大小为200GB至400GB甚至可达到500GB左右;二,要实现从北京分发中心到全国各级节点的同步高速分发,如果采用传统的C/S架构,需要巨大的带宽和硬件资源,因此在系统设计上要综合考虑网络带宽,硬件成本和传输速度,可靠性等因素。既使采用新型的云网方案,超大文件的传输仍然难于摆脱当今v4互联网传输三要素好用、高速、廉价三者只能同时占其二的困难局面。
发明内容
本申请实施例提供了基于未来网络的真4k家庭影院5G网络点播系统。为了对披露的实施例的一些方面有一个基本的理解,下面给出了简单的概括。该概括部分不是泛泛评述,也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念,以此作为后面的详细说明的序言。
第一方面,本申请实施例提供了基于未来网络的真4k家庭影院5G网络点播系统,该系统包括:
原始视频文件存储模块,用于存储原始视频文件;
分发管理控制模块,用于读取所述原始视频文件,并将所述原始视频文件传输至中转模块;
中转模块,用于接收分发管理控制模块传输的原始视频文件,并将所述原始视频文件发送到家庭5G网络节点模块,还用于接收家庭5G网络节点模块传输的反馈信息,将所述反馈信息发送到分发管理控制模块;
家庭5G网络节点模块,包括:
5G核心网单元,用于接收中转模块发送的所述原始视频文件,并通过分段路由协议将所述原始视频文件传输至5G接入网单元;
5G接入网单元,用于将接收到的所述原始视频文件下载至用户主机,并将下载完成的反馈信息经5G核心网单元传输至中转模块;
所述原始视频文件存储模块、所述分发管理控制模块、所述中转模块、5G核心网单元、5G接入网单元之间通过未来网络进行组网。
可选的,所述分发管理控制模块,包括:
表示层,用于提供前端操作界面,根据前端操作界面选择传输任务、添加传输任务、终止传输任务、修改传输任务以及查询任务状态;
接口层,用于提供对外接口,包括提供与所述前端操作界面的交互信息、传输任务信息、节点配置信息、传输任务进度信息、中转节点和家庭5G网络节点上报信息的接口;
控制层,用于进行用户权限校验以及节点信息校验;
业务层,用于进行用户管理、任务管理、节点管理、域名配置管理、文件管理以及传输指令下发管理;
数据库访问层,用于保存节点信息、传输任务信息以及中间状态信息。
可选的,所述业务层,包括:
任务生成单元,用于生成原始视频文件传输任务,将所述传输任务添加到任务管理列表;
任务记录单元,用于记录所述传输任务的状态,包括记录所述传输任务下发的文件信息,传输目标节点地址信息、下载路径信息、任务开始时间信息、任务结束时间信息、任务状态信息以及传输任务的子任务信息;
任务调度下发单元,用于根据当前传输任务的执行状态进行任务调度。
可选的,所述业务层,包括:
元数据生成单元,用于通过预设的指纹算法对原始视频文件进行分块,得到文件分块,将文件分块作为数据传输的元数据;
元数据记录单元,用于记录原始视频文件的时间戳、文件名、文件哈希、文件块哈希列表、命令名、文件大小以及文件分块大小;
元数据编解码单元,用于对原始视频文件的元数据进行编解码;
元数据分发单元,用于将元数据分发到家庭5G网络节点。
可选的,所述元数据编解码单元,包括:
缓冲区模块、编码模块、解码模块以及线性相关性检测模块;
其中,缓冲区模块用于处理编解码运算的缓冲区以及编码系数的缓冲区,编码模块用于进行随机线性网络编码,解码模块用于进行随机线性网络解码,线性相关性检测模块用于检测接收到的编码块是否线性无关。
可选的,所述业务层,包括:
节点管理单元,用于管理各个中转节点和家庭5G网络节点,以及记录节点信息、所述节点信息包括节点编号、全国统一的家庭编号、地址信息、节点IP地址、可用端口号、家庭别名,以及当前家庭5G网络节点是否在线。
可选的,所述中转模块,包括:
代理单元,用于将分发管理控制模块下发的消息和原始视频文件转发到家庭5G网络节点模块,用于将家庭5G网络节点模块的消息转发到分发管理控制模块;
引导单元,用于引导新的家庭5G网络节点加入。
可选的,所述引导单元,用于生成共享密钥,接收家庭5G网络节点的加入请求,并把所述家庭5G网络节点的加入请求发送到分发管理控制模块进行验证,若请求有效,将共享密钥发送给家庭5G网络节点;
家庭5G网络节点根据获取到的所述共享密钥与中转节点和其余家庭5G网络节点通信,形成私有网络。
可选的,5G核心网单元,还用于接收5G接入网单元发送的所述消息,并将所述消息转发至中转模块;
5G接入网单元,还用于接收用户主机发送的用户请求的消息,将所述消息发送至5G核心网单元。
可选的,所述未来网络包括:IPV9网络。
本申请实施例提供的技术方案可以包括以下有益效果:
在本申请实施例中,基于未来网络的真4k家庭影院5G网络点播系统是一个全国范围内的原始视频文件点播系统,从分发管理控制模块到位于全国各个省市的中转模块之间基于未来网络IPV9构建全国骨干网,从中转模块到省内的各个家庭5G网络节点之间也是基于未来网络进行组网,在家庭5G网络节点内部的5G核心网单元和5G接入网单元之间也是基于未来网络组网的。通过基于未来网络进行组网,能满足较大原始视频文件传输的稳定性、安全性、快速性的需求,提供海量兼容v4的V9IP地址和未来网络强大的跨越覆盖异构网络的能力和装备,可以大大降低全系统的信息传输费用,特别是可充分利用异构的v4vpn网络中节点的丰富带宽和服务器资源;能够使得传输速率达到50M-100M,带宽达到100M-1000M。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1是本申请实施例提供的一种基于未来网络的真4k家庭影院5G网络点播系统的结构示意图;
图2是本申请实施例提供的一种分发管理控制模块的结构示意图;
图3是本申请实施例提供的一种家庭5G网络节点模块的结构示意图;
图4是本申请实施例提供的一种私有网络的结构示意图;
图5是本申请实施例提供的一种网络编码模块的的结构示意图;
图6是本申请实施例提供的一种编码方法的示意图;
图7是本申请实施例提供的一种解码方法的示意图;
图8是本申请实施例提供的一种线性相关检测方法的示意图。
具体实施方式
以下描述和附图充分地示出本发明的具体实施方案,以使本领域的技术人员能够实践它们。
应当明确,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是如所附权利要求书中所详述的、本发明的一些方面相一致的系统和方法的例子。
在本发明的描述中,需要理解的是,术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。此外,在本发明的描述中,除非另有说明,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
本申请基于未来网络的真4k家庭影院5G网络点播系统,是一个分布式点播和存储系统,采用P2P架构进行原始视频文件点播,该架构利用家庭5G网络节点间的带宽资源,实现稳定快速的原始视频文件点播。同时,基于IPFS作为底层架构,研究了分布式场景下文件的点播过程。通过搭建私有网络,DHT路由和Bitswap数据交换协议完成节点间的数据交换。除此之外,研究了采用随机线性网络编码对分布式内容点播进行优化,基于IPFS搭建网络编码模块并对数据交换协议进行改造、仿真结果证明采用随机线性网络编码可以降低节点负载,加快文件下载速度。
在系统实现上,设计了分发管理控制中心,中转节点和家庭5G网络传输节点,这种微服务架构可以根据网络条件进行灵活部署。此外,系统之间采用未来网络IPV9组网,完成了全国骨干网和省内城域网组网搭建,测试结果证明,骨干网1G跨省传输速度可以达到925Mbps,且通信费用极低,可靠性和稳定性都较好,在区域网络内,通过P2P架构可以降低带宽需求,减少负载,实现高速分发,且基于未来网络具备2048位地址、42层寻址模型可以提供海量IP地址,满足大量家庭5G网络节点的接入需求,且能通过各设备的IPv9地址及IPv9数字域名识别各设备,进行设备的有效管理,为未来网络中高速数据传输场景提供了一种可行的解决方案。
本申请的家庭5G网络节点包括5G核心网节点和5G接入网节点,也是通过未来网络IPV9进行组网的,使得本申请对于现有技术而言,传输速率得到了提高,为50M-100M,带宽在100M-1000M之间。
请参见图1-8,为本申请实施例提供了基于未来网络的真4k家庭影院5G网络点播系统的系统示意图。如图1-8所示,本申请实施例的系统可以包括:
家庭影院的5G网络点播系统主要为家庭影院原始视频文件的拷贝点播提供内容分发和网络服务,提供原始视频文件的存储,共享,点播功能。
该系统采用两级P2P架构,由分发中心控制服务器,中转节点服务器和家庭5G网络节点服务器三部分构成。其中,分发管理控制中心负责传输任务下发和反馈信息的接收。同时,设立多个中转节点提供视频节点中转,中转节点是每个子分发网络的引导节点,同时可以作为代理服务器,为家庭5G网络节点提供代理服务。每个中转节点连接一个二级分发网络,该网络连接多个家庭5G网络节点,家庭5G网络节点之间通过P2P点播原始视频文件。
该系统中的原始视频文件存储模块,用于存储原始视频文件;可为一种视频文件存储服务器,主要用于存储原始视频文件,在一个实施例中,原始视频文件为待点播的视频文件。
该系统还包括分发管理控制模块,用于读取所述原始视频文件,并将所述原始视频文件传输至中转模块。
分发管理控制模块是整个视频传输分发的控制中心。分发管理控制模块主要分为前端服务和后台服务两部分,主要为视频分发管理人员提供了对外统一的入口,用来接收相关任务和配置信息,并且完成相关传输状态的展示。可以根据原始视频的排期,对视频文件传输任务进行集中管理和指令下发。其主要的流程为:
管理人员在前端界面上选择待传输的原始视频文件名,然后选择待传输的中转节点和家庭影院节点,管理中心收到任务之后,将任务指令进行下发,各家庭影院节点从管理中心获取种子文件,开启P2P传输。
如图2所示,分发管理控制模块包括:表示层、接口层、控制层、业务层和数据库访问层。
其中,表示层,用于提供前端操作界面,管理人员可以根据前端操作界面执行相关操作,例如选择传输任务、添加传输任务、终止传输任务、修改传输任务以及查询任务状态等。接口层,用于提供对外接口,包括提供与所述前端操作界面的交互信息、传输任务信息、节点配置信息、传输任务进度信息、中转节点和家庭5G网络节点上报信息的接口等。控制层,用于进行用户权限校验以及节点信息校验,例如校验管理人员的身份信息、校验家庭5G网络节点的加入请求信息等。业务层,用于进行用户管理、任务管理、节点管理、域名配置管理、文件管理以及传输指令下发管理等,用来实现主要业务逻辑。数据库访问层,用于持久化保存节点信息、传输任务信息以及暂存中间状态信息等。
在本申请实施例中,业务层实现了分发管理控制中心主要逻辑,接下来重点介绍业务层相关模块的设计和实现。
业务层包括任务管理模块,主要实现原始视频文件传输任务的生成,管理,指令分发等功能。其中,包括任务生成单元,用于生成原始视频文件传输任务,将所述传输任务添加到任务管理列表。相关管理人员可以在分发控制模块前端界面上选择当前可以传输的原始视频文件任务,后端服务器接收到生成的任务信息,在分发中心生成相应的传输任务并将该任务添加到任务管理表中,同时由于视频传输中每一个原始视频包文件中有多个文件,在传输中按照文件划分子任务,同时生成一个子任务信息。
还包括任务记录单元,用于记录所述传输任务的状态,包括记录所述传输任务下发的文件信息,传输目标节点地址信息、下载路径信息、任务开始时间信息、任务结束时间信息、任务状态信息以及传输任务的子任务信息。当任务状态和子任务状态发生变化时,通过上报接口接收任务状态更新,修改状态信息,在前端展示,并方便异常时的问题查找。
还包括任务调度下发单元,用于根据当前传输任务的执行状态进行任务调度。任务分发进程定时根据当前传输任务情况,来判断是否从任务队列中读取新的任务,如果当前没有传输任务,获取一个待传输任务。向各省市下发任务指令,各区域从种子管理服务器上下载种子文件,利用P2P进行视频传输。
生成任务之后,任务管理模块需要根据当前任务执行状态进行任务调度,考虑到每次传输任务的数据量大,传输时间较长,希望传输节点每次只执行一个传输任务。因此,设计一个后台任务调度管理进程,监听当前任务完成情况,按照FIFO形式选择新的传输任务。当满足调度任务之后,任务调度器选择相应任务并触发相应任务下发模块,检测当前各子节点是否在线,然后任务执行器会将待传输任务信息下发到各子节点中,子节点执行相关的操作。
业务层还包括元数据管理模块,为了在各家庭5G网络节点中实现P2P传输,整个原始视频包文件会分割成若干文件数据块(chrunk),每一个文件数据块是家庭5G网络节点进行数据传输的基本单位,也就是元数据。
在本申请的一些实施方式中,包括元数据生成单元,用于通过预设的指纹算法对原始视频文件进行分块,得到文件分块,将文件分块作为数据传输的元数据。例如,文件上传过程中,使用SHA-256将文件映射成一个固定大小的数据哈希块,同时使用Rabin指纹算法对文件进行分块,使用Rabin指纹算法进行文件分块检测,该分块检测算法基于20字节安全哈希算法来定义每个数据分块指纹,当有新的数据分块产生时,和之前的指纹值进行比较,判断是否重复,如果重复删除该数据分块,从而避免了数据分块重复。
还包括元数据记录单元,用于记录原始视频文件的时间戳、文件名、文件哈希、文件块哈希列表、命令名、文件大小以及文件分块大小。
还包括元数据编解码单元,用于对原始视频文件的元数据进行编解码。
在一种可能的实现方式中,可以基于网络编码的P2P方式实现内容分发。所述元数据编解码单元,包括:缓冲区模块、编码模块、解码模块以及线性相关性检测模块;其中,缓冲区模块用于处理编解码运算的缓冲区以及编码系数的缓冲区,编码模块用于进行随机线性网络编码,解码模块用于进行随机线性网络解码,线性相关性检测模块用于检测接收到的编码块是否线性无关。
还包括元数据分发单元,用于将元数据分发到家庭5G网络节点。当传输任务生成之后,各家庭5G网络节点接收到信息,向分发管理控制模块请求获取上述元数据信息。
在本申请的一些实施方式中,业务层还包括节点管理单元,用于管理各个中转节点和家庭5G网络节点,以及记录节点信息、所述节点信息包括节点ID、全国统一的家庭影院编号、地址信息、节点IP地址、可用端口号、家庭影院别名,以及当前家庭5G网络节点是否在线等信息。同时通过节点管理可以对家庭5G网络节点提供简单的准入校验。
本申请实施例所述的5G网络点播系统,还包括中转模块,用于接收分发管理控制模块传输的原始视频文件,并将所述原始视频文件发送到家庭5G网络节点模块,还用于接收家庭5G网络节点模块传输的反馈信息,将所述反馈信息发送到分发管理控制模块。
具体地,所述中转模块包括:一级中转模块和二级中转模块。一级中转模块一般是部署在各个省份的消息中转和源原始视频文件的文件服务器,二级中转模块一般情况下是各家庭影院节点就近的消息中转和源原始视频文件的文件服务器。通常,二级中转节点部署在省份下的各个市内。在整体的设计中,基于当前IPV9骨干网和各地区组网情况,中转模块包括代理单元,实现反向代理功能,各家庭5G网络节点通过反向代理和分发管理控制模块进行通信,实现负载均衡。用于将分发管理控制模块下发的消息和原始视频文件转发到家庭5G网络节点模块,用于将家庭5G网络节点模块的消息转发到分发管理控制模块。
还包括引导单元,用于引导新的家庭5G网络节点加入。在本申请的一些实施方式中,所述引导单元,用于生成共享密钥,接收家庭5G网络节点的加入请求,并把所述家庭5G网络节点的加入请求发送到分发管理控制模块进行验证,若请求有效,将共享密钥发送给家庭5G网络节点;家庭5G网络节点根据获取到的所述共享密钥与中转节点和其余家庭5G网络节点通信,形成私有网络。
可选的,还包括原始种子节点单元,可以将中转节点作为一个子区域的原始文件节点,为各家庭5G网络节点提供初始的数据分块。
设计中转节点的好处在于,中转节点可以按需来部署。通过部署中转节点,可以实现P2P视频点播灵活组网,当跨省带宽不足时,通过中转节点组成省市组网来进行省内或者室内传输。同时,中转节点还可以作为“就近节点”提供类似CDN(Content DeliveryNetwork,内容分发网络)的功能。
本申请实施例还包括家庭5G网络节点模块,家庭5G网络节点可以部署在各个家庭,家庭5G网络节点模块包括:
5G核心网单元,用于接收中转模块发送的所述原始视频文件,并通过分段路由协议将所述原始视频文件传输至5G接入网单元;用于接收5G接入网单元发送的所述消息,并将所述消息转发至中转模块;
5G接入网单元,用于将接收到的所述原始视频文件下载至用户主机,并将下载完成的反馈信息经5G核心网单元传输至中转模块;用于接收用户主机发送的用户请求的消息,将所述消息发送至5G核心网单元。
5G核心网单元可为5G核心网服务器,5G接入网单元可为5G接入网服务器。通过5G核心网服务器和5G接入网服务器进行原始视频文件的分发、点播等。
5G接入网单元还包括小区基站;小区基站内缓存有若干原始视频文件。具体地,可预先根据全网流行度、以及用户对所述原始视频文件的远期偏好度和近期偏好度,确定用户请求概率;根据用户请求概率的排名,将排名靠前的所述用户请求概率对应的原始视频文件作为小区基站缓存的内容文件。所述用户请求概率为用户点播原始视频文件的概率。
用户通过用户主机向小区基站发起用户请求的消息,若小区基站内缓存有所述消息内标识的原始视频文件,则小区基站将所述消息标识的原始视频文件发送至所述用户主机,在用户主机接收到完整的原始视频文件后,向分发中心发送完成反馈;若小区基站内不存在所述消息内标识的原始视频文件,则采用回程链路的方式,通过所述5G核心网向IPV9骨干网络的分发管理控制模块发起用户请求的消息,从而由原始视频文件存储模块、分发管理控制模块、中转模块、家庭5G网络节点模块服务用户。
由于原始视频文件的体积可能较大,传输需要消耗较大的带宽。为了保证传输速度,需要设计一个成本可控同时又能保证传输效果的组网方案:所述原始视频文件存储模块、所述分发管理控制模块、所述中转模块、5G核心网单元、5G接入网单元之间通过未来网络进行组网;所述未来网络包括:IPV9网络。
在一种可能的实施方式中,分发管理控制模块到各个省的中转模块之间采用未来网络IPV9进行组网,通过骨干路由器搭建全国骨干网,IPv9十进制网络具有安全可控、兼容、地址数量多、且通信费用低等优点。在组网和安全等方面显示出了巨大优势,可以满足全国高速业务。否则一条跨省的千兆数据专线市场价格可以达到几十到一百万,如果要实现全国范围内的组网,成本太高。
在各个家庭5G网络节点部署用户路由器,中转节点到家庭5G网络节点之间也实现未来网络组网,通过未来网络组网可提供海量IP地址,满足多个家庭5G网络节点的加入需求。
在家庭5G网络模块的内部,5G核心网单元、5G接入网单元、用户主机之间也实现了未来网络组网,通过未来网络组网,使得网络传输更快,效果更好,也更安全。
综合当前网络情况,同时为了保证传输质量,采用分区域的P2P点播。首先将原始视频文件存储模块发送的原始视频包发送到各省二级节点,二级节点一般部署在各省运营商中心机房内。在中转节点存储原始数据文件,以此来减少受到地理位置影响所导致的网络延迟等问题。中转节点和各家庭5G网络节点构成区域内的P2P网络进行文件传输。之后,各省之间的链路建立后,还可以进行全国范围内的P2P组网。
在一个示例性场景中,以每一个IPFS家庭网络5G节点为例,阐述原始视频文件在系统中的P2P点播过程。
首先,构建私有网络。为了保证数据传输的安全性,需要对节点加入进行验证,采用共享密钥认证的方式组建私有网络。节点使用共享密钥加入网络,仅允许家庭5G网路节点之间连接到有共享密钥的其他节点。每个节点只能和该专用网络中的节点进行连接,不能响应专用网络外的节点的信息。可以有效避免恶意节点和其他攻击,同时使得整个P2P网络中的通信安全得到了保证。
在一个私有IPFS网络中,有如下三种节点类型:
(1)普通节点,待进行数据分发的节点。
(2)引导节点,引导其他家庭网络5G节点加入组成P2P网络。
(3)种子节点,指保存完整数据的节点。其中,引导节点和种子节点功能由中转节点实现。各个节点构成的私有网络如图4所示。中转节点是整个集群的领导节点,同时存储全部数据,做种子节点。
在无结构的分布式系统中,节点的加入需要引导节点。为了建立专用网络,引导节点生成共享密钥,同时为每个节点提供传输路由表,帮助节点更快加入网络。首先,每一个节点在加入网络之前,向引导节点请求加入网络,引导服务器向分发管理服务器发送验证请求,分发管理服务器在节点信息表中验证节点的有效性,如果节点有效,当有新的节点需要加入该网络时,连接引导节点获取共享密钥,允许加入的节点获取共享密钥之后,可以和其他节点共享此密钥的节点进行通信。
使用共享密钥进行协商的过程如下:节点获取了相应的密钥,存储对应共享密钥池中。其中,每一个密钥有一个唯一值。每次通信时,客户端将自己的ID和密钥值发送给服务端,服务端收到消息后查找是否存在该密钥值,如果该密钥存在,则建立连接,如果不存在,断开连接。
因此,一个完整的新节点加入和初始化过程分为三步。首先,新加入的节点预分配共享密钥,通过系统引导节点加入网络,返回新节点对应的ID。接下来,新节点向邻居节点发送节点消息,其他邻居节点收到消息后,拷贝一份邻居表发送给加入节点,这份邻居节点信息构成了原始的路由表。接下来,向路由表中邻居节点继续发送路由信息,邻居节点收到消息之后,更新自己的路由表,同时返回应答消息。收到应答消息之后,更新本地路由表。
如果该接入的节点是除引导节点之外网络中的第一个对等节点,那么从引导节点中路由表中仅仅包含该新加入节点,此时后续的查找更新操作被跳过,因为除了自身和引导节点之外,暂时还没有其他节点要联系。
当私有网络搭建成功之后,需要将原始视频种子文件上传到私有网络中。每次将原始视频文件加入到网络时,中转节点将数据作为对象存储到本地存储库中,将文件分块的哈希信息按照Merkle DAG来存储,并且通过分布式哈希表存储每一个数据分块的哈希值,再对整个数据和目录进行监控。
文件上传过程中,使用SHA-256将文件映射成一个固定大小的数据哈希块,同时使用Rabin指纹算法对文件进行分块,然后将数据分块存放到IPFS节点的本地存储库blockstore中。
使用Rabin指纹算法进行文件分块检测,该分块检测算法基于20字节安全哈希算法哈希值来定义每个数据分块指纹。当有新的数据分块产生时,和之前的指纹值进行比较,判断是否重复。如果重复删除该数据分块,从而避免了数据分块重复。
上传到IPFS的每个文件采用有向无环图基于内容标识将文件的数据分块信息维护成一个Merkle DAG,对文件及文件数据分块的元数据信息进行存储和验证。其中,文件名为DAG中的根哈希值,一个原始视频文件的Merkle DAG结构。
除此之外,节点还会将每一个数据分块的位置信息通过分布式哈希表上传到网络中,为其他节点提供节点发现和数据共享服务。数据分块内容分布式存储的过程如下:当节点拥有一个数据内容时,该节点使用SHA2-256将该内容标识符转换为路由表K桶ID的形式。然后通过DHT得到距离该内容标识符距离最近的若干节点。将CID和地址发送给这些节点来保存。节点收到请求保存响应信息。通过上述操作完成了数据分块存储地址信息在P2P网络中的存储。
当源文件上传到网络之后,其他节点可以从该节点获取文件信息。基于IPFS实现文件的分发依赖于底层DHT和BitSwap的实现。
IPFS基于Kadmelia实现了DHT路由模块,路由模块主要完成查找其他对等节点和内容寻址两部分。路由模块主要提供了节点路由和内容寻址服务。路由模块依赖于节点标识符和内容标识符工作。节点标识符和内容标识符都采用256bit地址空间,方便进行距离度量。
IPFS生成节点标识符的过程为节点初始化后随机生成的一个私钥,对其对应的公钥进行SHA-256哈希运算,得到对应的节点标识符。每一个节点维护一个路由表来存储邻居节点信息,路由表以K桶的形式实现,K桶的节点ID是对peerID进行SHA-256运算生成的哈希桶ID。IPFS有256个桶,每一个桶默认存放20个活跃节点。每一个数据块的存储“地址信息”都被离它“距离”最近的节点负责存储,这种距离度量采用异或来进行度量。
(1)节点路由
节点路由功能,主要通过节点标识符来获取对应节点的地址信息。在P2P网络中,由于每一个节点的路由表只是整个网络的一个部分。因此,节点应当能找到其路由表中不存在的节点信息,并与之通信。在P2P网络中,查找其他对等体节点是通过迭代查找路由表完成。查找主要过程如下所示:
(a)首先在自己的路由表中查找是否存在目标节点,计算当前节点和目标节点的异或距离,根据距离值去对应的K桶中查找。如果存在,则返回。
(b)如果不存在,在节点的K桶中找到距离最近的几个节点,向这些节点发出查找该目标节点的请求。每个查询设置超时时间。如果返回节点不是目标节点,那么递归执行(b)操作,直到返回目标节点信息或者时间超时。
如果超过超时时间之后,没有收到应答信息,则更换候选节点,发送新的路由请求。
(2)内容路由
内容路由功能,主要帮助获取拥有带查找数据资源的节点信息。由于内容发布将内容发布在离它“距离”最近的节点上,所以内容寻址的方式和节点路由的方式相似。
使用SHA256将内容的CID转换为DHT相同的形式。在当前节点的DHT中查找距离最近的几个节点信息,这些节点分别去查找自己是否存储了该内容存储地址信息。
然后进行数据块交换,当一个原始视频包文件被发布到P2P网络中之后,采用Bitswap遍历文件组成的Merkle DAG,从不同的对等方获取图中的不同部分,从未优化吞吐量和带宽。
根据Bitswap协议结构和消息,整个文件交换的过程可以分为以下几个部分:
(1)启动请求会话;
当其中一个家庭5G网络节点想要获取某个文件,触发创建请求文件根哈希Bitswap会话。节点通过连接管理器广播WANT-HAVE wantlist消息给所有已建立连接的对等节点。此时wantlist列表中只包含文件的根哈希值。
收到WANT_HAVE消息的节点将wantlist添加到账单中,检查本地数据库中是否数据分块。如果发现该数据分块,发送HAVE消息。当请求节点收到HAVE消息时,发送WANT-BLOCK消息去获取数据分块的内容。文件目录根哈希包含了文件数据块映射的字典,即Merkle DAG。
(2)通过Merkle DAG广播查找数据分块;
根哈希数据块指向一组内容标识符,根据这一组内容标识符,重新构建WANT-HAVE消息。在对子数据块的查找中,为了节省带宽,WANT-HAVE只转发到会话中包含的节点。同样的根据接收到的响应HAVE或者IDONT-HAVE,决定是否发送WANT-BLOCK数据块。
通过WANT-HAVE请求检索数据块,并使用WANT-BLOCK传输数据块,直到遍历完完整的Merkle DAG。一旦收到某个数据块,发送CANCEL取消该数据块的下载。
(3)触发路由操作;
当节点连续收到若干个DONT_HAVE消息之后,这表示当前所有的连接对等节点都不存储正在寻找的数据块,此时利用路由模块来发现具有请求数据的节点。当节点数据库中,没有查询到数据分块时。通过邻居节点表,利用DHT模块查询具有请求数据的节点,最后向查到的节点们发送wantlist请求来下载数据。
针对当前集中式的分发系统带宽问题,本申请实施例提出了采用P2P分布式点播方案来提高下载速度,减少骨干带宽的系统整体方案。其次明确当前全国数字电影分发系统的设计需求,为了方便部署和维护,采用微服务架构,设计了分发管理控制中心,家庭5G网络节点,中转节点三个部分。该架构利用中转节点搭建区域的子网络,完成二级分发,在全国骨干网络搭建完之后,也可以实现全国范围内的分布式分发。最后,基于IPFS底层技术阐述了如何基于中转节点搭建私有网络并且完成文件在网络中分发的具体实现,该分发实现利用了数据块分发协议Bitswap和分布式哈希表进行路由,从而加速了文件分发。
在一个可选地实施例中,在规模较大的P2P文件点播中,由于节点只存储一部分数据,所以当一个节点请求某些特定的资源块时,如果无法响应某些请求,会导致较高的延迟。并且随着节点的增加,调度会变得越来越困难。在分布式系统中,上述的问题可以采用随机线性网络编码来解决,在接收端只需要找到若干个原始数据块的线性组合,就可以还原出原始完整文件。这样做的好处是,所有的数据块都是平等的,节点无需请求和等待特定的数据块。
在一种可能的实现方式中,在分布式架构基础上,增加了网络编码,如图5所示,包括缓冲区模块、编码模块、解码模块以及线性相关检测性模块。其中,缓冲区模块主要负责处理编解运算的缓冲区,编码系数的缓冲区。编解码模块主要负责随机线性网络编解码。解码成功条件需要满足两个条件:接收到编码块的数量要大于数据块的数量,接收到数据块满足线性无关。因此,系统还需要提供一个线性相关检测模块。
P2P协议采用IPFS底层结构,对相关底层协议Bitswap,DHT和数据的组织进行了相应的调整,来实现基于网络编码的内容分发。
编码模块主要完成随机线性编码,解码和编码系数向量的线性相关检测三个功能。其中,编解码模块的性能是决定系统性能的一个重要因素,为了降低计算复杂度,编码模块采用稀疏编码方式。稀疏编码模块既可以降低编码复杂度,又可以保证线性无关概率。
网络编码模块的数据结构如下表所示:
其中,网络编解码和随机编码向量的生成基于有限域的操作,选择域大小为28,每次运算以8比特为单位。GcodeVector存放每一代的全局编码向量,来进行线性相关的检测。Rank用来统计编码矩阵的秩。GeneBuf为每一代用来进行编解码的缓冲区,ChrunkBuf为生成chrunk数据块的缓冲区。
编码模块,系统采用稀疏随机线性编码方式,如图6所示,对每一代的数据块进行编码。编解码操作主要在Generation内独立进行。
每次上传数据时,首先利用稀疏编码向量生成方式,生成编码向量,再根据编码向量进行线性组合。如果采用完全编码时,所有数据分块都能被编码。但是采用稀疏编码方式,每一个数据包以相同的概率被编码。如果在编码时新接收的数据包没有被选择会导致数据块在网络中的扩散速度编码。
为了保证编码向量线性无关,选择稍大的编码密度。假设当前待编码数据块个数为n,非源节点接收到的数据块个数为k,源节点的编码密度为(logn+d)/n,非源节点的编码密度为(logn+d)/k。同时,d设置为10,研究证明使用稀疏线性编码d=10和完整编码的系统实现了几乎相同的性能。
当生成随机编码矩阵之后,选择编码系数非零的数据包进行线性组合。
当节点收集了一定数量的编码数据包之后,进行线性相关性检测,如果线性无关,对数据进行解码。
如图7所示,解码算法首先判断接收到的数据分块的个数是否大于原始代内分块个数,如果满足,取出代内一定数量的编码向量和编码数据块到缓冲中。当编码系数矩阵线性无关时,基于有限域利用高斯消元法求矩阵的逆,将矩阵逆和编码数据块点积运算可以恢复原始数据。
由于系统中分发的数据是原始数据的线性组合,当收到线性相关的数据时,不能恢复成原始数据,在接收数据的过程中需要进行线性相关性检测。
如图8所示,线性相关性检测方法包括当节点接收到一个数据分块时,原来的代内编码向量读取到缓存中,增加新接收数据的编码向量,求矩阵的秩,如果矩阵的秩等于当前缓存区编码向量的个数,说明当前编码向量线性无关,保存该编码数据包,如果矩阵的秩小于编码向量的个数,说明新的编码向量和之前数据线性相关,丢弃该数据包。
进一步地,实现数据交换,系统依赖于IPFS底层结构实现数据交换。IPFS是一个高度模块化,拥有丰富API的开源项目,通过对Bitswap协议进行改造,实现一种简单的适合网络编码的分发协议。
采用网络编码之后,在分布式数据交换过程中,无需按照给定数据分块名称进行请求,只需要请求当前Generation和解码当前Generation还需的数据包的个数即可。为此,将原来的数据分块的属性和Bitswap的消息属性进行改造。
其中,数据块的属性,增加了generation_id用来标识每一个编码数据块的原始代的内容标识符。采用随机线性网络编码之后,只需要使用父哈希和所需的数据分块两个参数,不再需要wantlist中单个数据分块的哈希值。version用来选择是否采用网络编码方案。
相比于bittorrent和IPFS,采用随机线性网络编码后传输的数据包是原始数据包的线性组合。因此,基于随机线性网络编码的分布式内容分发节点选择相对来说比较宽松。但是,相关块的发送和接收会降低通过网络编码进行内容分发的性能,需要采用适当的节点选择策略来减少相关数据块的发送。
节点选择模块作用是从当前连接的邻居节点中选择合适的客户端进行连接,该连接建立或者断开的判断依据是判断邻居节点中是否拥有该节点线性无关的数据块。采用稀疏网络编码和完全编码不同,稀疏网络编码以一定的概率选择编码数据块。当网络拓扑中有环时,传输的数据分块可能会线性相关。
当节点的数据块数量较少时,很有可能存在线性相关的数据块。因此,在备选邻居节点维护上,当两个节点建立连接之后,两个节点互相询问对方拥有的块数。除了传输刚开始或者结束时,节点都不会请求数据分块少于邻居节点。当开始传输时或传输快要结束,无需关注当前数据分块的多少,直接向邻居节点请求。同时,为了减少环状结构的影响,采用一种依赖检测的方式减少传输依赖的数据分块。当接收到的数据分块连续两次线性相关时,断开连接。
当选择合适节点之后,请求建立连接。以每代的数据请求为例,当用户请求文件之后,根据当前的元数据信息,查看当前节点拥有多少该代的数据分块,计算仍然需要的数据分块个数。采用修改后的交换协议向邻居节点发送还需要的数据分块个数和代标识符。
当节点在发送数据包之前要对本地数据进行编码操作,如果本地的数据库中有请求的数据块,那么该节点调用相关编码模块,对数据包进行再编码。
数据块的传输策略是影响分发效率的一个重要因素。在bittorrent传输中,采用稀有块优先的策略下载数据。通过和连接节点交换下载分块位图信息,来判断当前哪个数据优先下载。而在IPFS中,通过维护一个优先级队列,通过优先级来协调数据下载。
当采用随机线性网络编码之后,在每一个Generation中,数据分块是平等的。但是,会出现Generation稀缺的情况。因此,传输优先级设定为:
(1)优先传输节点中数据量最少的节点的请求数据。
(2)在传输数据包选择上,优先下载连接节点中Generation平均下载数据分块数量最少的数据块。
在IPFS中,数据分块通过数据分块管理器对数据分块下载进行管理。维护一个优先级下载队列PeerTaskQueue,对接收到数据块下载任务进行管理,修改IPFS优先级规则,执行下载任务的优先级。通过这种流量控制措施,可以提高数据块发送处理的效率。
进一步地,当节点接收到满足要求的数据分块,检查数据分块的generation_id是否满足请求要求,同时对数据分块的编码向量进行线性相关检测。当满足线性无关时,将该数据块存储到本地数据存储库,并且将新编码数据块哈希值增加到元数据信息文件中。
通过随机线性网络编码,在节点对数据分块进行线性组合,使得每一个编码数据包都是“平等的”。在分布式内容点播场景中,无需请求特定的数据分块内容,在接收端只要接收到一定数量线性无关的数据分块,即可恢复原始数据。然后,针对IPFS基础架构,设计了基于随机线性网络编码的内容分发结构,增加了网络编码模块,同时针对原有的Bitswap协议进行改造。通过采用随机线性编码进行内容分发,可以优化网络负载,提高下载速度。
为了解决传统点播系统采用C/S架构面临的巨大带宽需求和巨大的硬件和资源开销,本申请提出基于未来网络进行组网,采用一个分布式的分发存储系统来完成原始视频的点播,其主要技术效果如下:
(1)本申请提出了一种分布式分发结构来完成文件分发。设计了管理中心,中转节点和家庭5G网络节点三部分,三部分之间采用未来网络组网,且家庭5G网络节点内的5G核心网节点和5G接入网节点也使用未来网络组网,提高系统数据传输的稳定性、安全性、快速性以及降低组网成本。
(2)采用预共享密钥搭建私有网络,完成安全的数据传输。同时,采用Bitswap交换协议和Kademlia分布式哈希表来完成数据块交换和路由定位,实现高速稳定的文件分发。
(3)采用稀疏随机线性网络编码加速分布式分发过程,减少了传统分布式分发资源定位,查找和协调调度的开销。并对Bitswap交换进行改造来支持基于随机线性网络编码的分发过程。仿真结果标明,相比于传统P2P点播,采用随机线性编码之后可以大大减少平均下载时间,减少服务器负载。
(4)完成了全国范围的组网设计,降低了全国范围的组网成本;
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。以上实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
Claims (7)
1.基于未来网络的真4k家庭影院5G网络点播系统,其特征在于,包括:
原始视频文件存储模块,用于存储原始视频文件;
分发管理控制模块,用于读取所述原始视频文件,并将所述原始视频文件传输至中转模块;
中转模块,用于接收分发管理控制模块传输的原始视频文件,并将所述原始视频文件发送到家庭5G网络节点模块,还用于接收家庭5G网络节点模块传输的反馈信息,将所述反馈信息发送到分发管理控制模块;
家庭5G网络节点模块,包括:
5G核心网单元,用于接收中转模块发送的所述原始视频文件,并通过分段路由协议将所述原始视频文件传输至5G接入网单元;
5G接入网单元,用于将接收到的所述原始视频文件下载至用户主机,并将下载完成的反馈信息经5G核心网单元传输至中转模块;
所述原始视频文件存储模块、所述分发管理控制模块、所述中转模块、5G核心网单元、5G接入网单元之间通过未来网络进行组网;
所述分发管理控制模块,包括:
表示层,用于提供前端操作界面,根据前端操作界面选择传输任务、添加传输任务、终止传输任务、修改传输任务以及查询任务状态;
接口层,用于提供对外接口,包括提供与所述前端操作界面的交互信息、传输任务信息、节点配置信息、传输任务进度信息、中转节点和家庭5G网络节点上报信息的接口;
控制层,用于进行用户权限校验以及节点信息校验;
业务层,用于进行用户管理、任务管理、节点管理、域名配置管理、文件管理以及传输指令下发管理;
数据库访问层,用于保存节点信息、传输任务信息以及中间状态信息;
所述中转模块,包括:
代理单元,用于将分发管理控制模块下发的消息和原始视频文件转发到家庭5G网络节点模块,用于将家庭5G网络节点模块的消息转发到分发管理控制模块;
引导单元,用于引导新的家庭5G网络节点加入;
所述未来网络包括:IPV9网络。
2.根据权利要求1所述的5G网络点播系统,其特征在于,所述业务层,包括:
任务生成单元,用于生成原始视频文件传输任务,将所述传输任务添加到任务管理列表;
任务记录单元,用于记录所述传输任务的状态,包括记录所述传输任务下发的文件信息,传输目标节点地址信息、下载路径信息、任务开始时间信息、任务结束时间信息、任务状态信息以及传输任务的子任务信息;
任务调度下发单元,用于根据当前传输任务的执行状态进行任务调度。
3.根据权利要求1所述的5G网络点播系统,其特征在于,所述业务层,包括:
元数据生成单元,用于通过预设的指纹算法对原始视频文件进行分块,得到文件分块,将文件分块作为数据传输的元数据;
元数据记录单元,用于记录原始视频文件的时间戳、文件名、文件哈希、文件块哈希列表、命令名、文件大小以及文件分块大小;
元数据编解码单元,用于对原始视频文件的元数据进行编解码;
元数据分发单元,用于将元数据分发到家庭5G网络节点。
4.根据权利要求3所述的5G网络点播系统,其特征在于,所述元数据编解码单元,包括:
缓冲区模块、编码模块、解码模块以及线性相关性检测模块;
其中,缓冲区模块用于处理编解码运算的缓冲区以及编码系数的缓冲区,编码模块用于进行随机线性网络编码,解码模块用于进行随机线性网络解码,线性相关性检测模块用于检测接收到的编码块是否线性无关。
5.根据权利要求1所述的5G网络点播系统,其特征在于,所述业务层,包括:
节点管理单元,用于管理各个中转节点和家庭5G网络节点,以及记录节点信息、所述节点信息包括节点编号、全国统一的家庭编号、地址信息、节点IP地址、可用端口号、家庭别名,以及当前家庭5G网络节点是否在线。
6.根据权利要求1所述的5G网络点播系统,其特征在于,所述引导单元,用于生成共享密钥,接收家庭5G网络节点的加入请求,并把所述家庭5G网络节点的加入请求发送到分发管理控制模块进行验证,若请求有效,将共享密钥发送给家庭5G网络节点;
家庭5G网络节点根据获取到的所述共享密钥与中转节点和其余家庭5G网络节点通信,形成私有网络。
7.根据权利要求1所述的5G网络点播系统,其特征在于,5G核心网单元,还用于接收5G接入网单元发送的所述消息,并将所述消息转发至中转模块;
5G接入网单元,还用于接收用户主机发送的用户请求的消息,将所述消息发送至5G核心网单元。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210572661.6A CN115174999B (zh) | 2022-05-25 | 2022-05-25 | 基于未来网络的真4k家庭影院5g网络点播系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210572661.6A CN115174999B (zh) | 2022-05-25 | 2022-05-25 | 基于未来网络的真4k家庭影院5g网络点播系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115174999A CN115174999A (zh) | 2022-10-11 |
CN115174999B true CN115174999B (zh) | 2023-12-19 |
Family
ID=83483820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210572661.6A Active CN115174999B (zh) | 2022-05-25 | 2022-05-25 | 基于未来网络的真4k家庭影院5g网络点播系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115174999B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1893437A (zh) * | 2005-07-01 | 2007-01-10 | 中国科学院声学研究所 | 一种基于传输网络的流媒体业务传输平台系统 |
CN101145929A (zh) * | 2007-08-09 | 2008-03-19 | 复旦大学 | 一种面向ipv6环境的p2p流媒体点播系统 |
CN101453624A (zh) * | 2008-12-30 | 2009-06-10 | 青岛华威视通数字传媒有限公司 | 一种视频点播系统 |
CN101729273A (zh) * | 2008-10-27 | 2010-06-09 | 中国移动通信集团公司 | 一种流媒体分发系统、方法及装置 |
CN110099291A (zh) * | 2019-04-28 | 2019-08-06 | 中智融合数字媒体产业(武汉)有限公司 | 基于广播电视网络的家庭影院点播系统及方法 |
CN110267356A (zh) * | 2019-05-16 | 2019-09-20 | 北京邮电大学 | 一种基于5g网络的数字电影发行放映系统 |
CN111064973A (zh) * | 2019-11-28 | 2020-04-24 | 湖北工业大学 | 一种基于ipv9的直播系统 |
CN112291147A (zh) * | 2020-10-15 | 2021-01-29 | 北京直真科技股份有限公司 | 一种5g业务动态智能sr隧道应用方法 |
CN113691544A (zh) * | 2021-08-26 | 2021-11-23 | 中国联合网络通信集团有限公司 | 网络调度方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009025027A1 (ja) * | 2007-08-20 | 2009-02-26 | Fujitsu Limited | 映像品質監視方法及び配信サーバ及びクライアント |
US9699519B2 (en) * | 2012-10-17 | 2017-07-04 | Netflix, Inc. | Partitioning streaming media files on multiple content distribution networks |
EP3373595A1 (en) * | 2017-03-07 | 2018-09-12 | Thomson Licensing | Sound rendering with home cinema system and television |
-
2022
- 2022-05-25 CN CN202210572661.6A patent/CN115174999B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1893437A (zh) * | 2005-07-01 | 2007-01-10 | 中国科学院声学研究所 | 一种基于传输网络的流媒体业务传输平台系统 |
CN101145929A (zh) * | 2007-08-09 | 2008-03-19 | 复旦大学 | 一种面向ipv6环境的p2p流媒体点播系统 |
CN101729273A (zh) * | 2008-10-27 | 2010-06-09 | 中国移动通信集团公司 | 一种流媒体分发系统、方法及装置 |
CN101453624A (zh) * | 2008-12-30 | 2009-06-10 | 青岛华威视通数字传媒有限公司 | 一种视频点播系统 |
CN110099291A (zh) * | 2019-04-28 | 2019-08-06 | 中智融合数字媒体产业(武汉)有限公司 | 基于广播电视网络的家庭影院点播系统及方法 |
CN110267356A (zh) * | 2019-05-16 | 2019-09-20 | 北京邮电大学 | 一种基于5g网络的数字电影发行放映系统 |
CN111064973A (zh) * | 2019-11-28 | 2020-04-24 | 湖北工业大学 | 一种基于ipv9的直播系统 |
CN112291147A (zh) * | 2020-10-15 | 2021-01-29 | 北京直真科技股份有限公司 | 一种5g业务动态智能sr隧道应用方法 |
CN113691544A (zh) * | 2021-08-26 | 2021-11-23 | 中国联合网络通信集团有限公司 | 网络调度方法 |
Non-Patent Citations (2)
Title |
---|
Some_Are_Born_With_White_Space_Some_Achieve_White_Space_and_Some_Have_White_Space_Thrust_Upon_Them;Oliver Holland;IEEE;全文 * |
无线网络中基于视频业务的资源分配研究;常宇;山西大学2020届硕士论文;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN115174999A (zh) | 2022-10-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Afanasyev et al. | A brief introduction to named data networking | |
USRE49943E1 (en) | System and method for a context layer switch | |
US7978631B1 (en) | Method and apparatus for encoding and mapping of virtual addresses for clusters | |
US20230308951A1 (en) | Data processing method, network element device, and readable storage medium | |
US20080130516A1 (en) | P2p Overplay Network Construction Method and Apparatus | |
JP5902820B2 (ja) | ピアツーピアコンテンツ配信システムにおけるピアによって受信されたコンテンツの完全性の確認 | |
WO2008034353A1 (fr) | Procédé, système et dispositif permettant d'établir une connexion entre homologues dans un réseau d'homologues | |
WO2011150830A1 (zh) | 获取内容的方法、节点及内容网络 | |
CN103597471A (zh) | 用于对计算机网络上的数据通信进行缓存的方法和系统 | |
CN113572835B (zh) | 一种数据处理方法、网元设备以及可读存储介质 | |
CN101567796A (zh) | 一种内容分片的多媒体网络及其业务方法 | |
CN101145929A (zh) | 一种面向ipv6环境的p2p流媒体点播系统 | |
US11877350B2 (en) | Special local area network with secure data transfer | |
De la Rocha et al. | Accelerating content routing with bitswap: A multi-path file transfer protocol in ipfs and filecoin | |
CN113572864B (zh) | 一种数据处理方法、网元设备以及可读存储介质 | |
JP2023510272A (ja) | 特定ネットワークデバイス並びに特定ローカルエリアネットワークの接続、コンテンツ発見、データ転送、及び制御方法 | |
KR100973321B1 (ko) | 정보 처리 장치, 및 정보 처리 방법, 및 컴퓨터 프로그램이 기록된 컴퓨터로 판독 가능한 기록매체 | |
CN102571942A (zh) | 一种在p2p网络中推送资源信息并提供服务的方法与设备 | |
CN115174999B (zh) | 基于未来网络的真4k家庭影院5g网络点播系统 | |
CN115174955B (zh) | 基于未来网络的数字电影全国高速发行系统 | |
Nasir et al. | Fast content delivery using a testbed-based information-centric network | |
US20220350748A1 (en) | Consistent hashing for communication devices | |
CN103685367A (zh) | 离线下载系统和方法 | |
KR20120000714A (ko) | 시간 기반의 메쉬 오버레이 네트워크 시스템 및 이를 이용한 메쉬 오버레이 네트워크 구축 방법 | |
Braun et al. | UP2P: a peer-to-peer overlay architecture for ubiquitous communications and networking |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |