CN105323586A - 一种用于多核并行视频编码和解码的共享内存接口 - Google Patents
一种用于多核并行视频编码和解码的共享内存接口 Download PDFInfo
- Publication number
- CN105323586A CN105323586A CN201510162075.4A CN201510162075A CN105323586A CN 105323586 A CN105323586 A CN 105323586A CN 201510162075 A CN201510162075 A CN 201510162075A CN 105323586 A CN105323586 A CN 105323586A
- Authority
- CN
- China
- Prior art keywords
- core
- row
- data
- coordinate
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明提供一种用于多核并行视频编码和解码的共享内存接口,包括数据结构和创建、使用方法,创建步骤为:(11)以等分原则划分图像数据到m个核心;(12)m个核心在共享内存中开辟一段连续存储空间,把系统返回的一块数据缓冲区首地址通过核间消息发到指定核心A;(13)所有核心在私有内存中开辟一段连续内存空间,并且从系统返回的一块数据缓冲区首地址开始设置;(14)核心A从每个核心发来的缓冲区首地址开始依次设置图像数据所有p维数组的第p-1级表内容;(15)核心A把图像数据所有p维数组的第p-1级表内容通过组内广播经过核间高速互连网络送达所有核心。具有在任务分摊到多核后数据缓存也相应分摊到多核,并且都达到均衡,共享数据存取效率显著提高的优点。
Description
技术领域
本发明涉及视频编码技术领域,特别涉及运用多核数字信号处理器DSP芯片完成高清视频编解码及传输的多核并行视频编码和解码方法以及多核并行时高速缓存的优化措施。
背景技术
上世纪80年代3C(Computers,Communications,ConsumerElectronics)的相互渗透与融合催生了多媒体技术并且推动多媒体技术飞速发展与普及。视频编码是多媒体技术中的关键技术。近年传输视频清晰度不断提升,同时视频编码标准频繁更新换代,还不断涌现新内容。2002年CIFH.263在会议电视设备中尚占据主流。2005年就出现了720PH.264。到2009年1080P会议电视设备已为市场主推产品。这个时刻离1080P随SonyPS2游戏机和蓝光产品上市的时刻并不遥远。存储介质和双向实时网络传输两类应用对视频编码提出的压缩比和实时性要求相差甚远,仅单纯实时解码和实时编解码就相差2倍以上运算量。这么短时间一下迈上这么高台阶,完全得益于处理器芯片技术的飞跃!目前实时传输双向的三路1080P60HzH.264达到SonyPS3高清晰度的会议电视终端上市后,接下来的内容自然是4K、8K超高清视频和最新视频编码标准HEVC/H.265。
一路1080P30Hz视频的图像数据量达到746,496,000bit/s。以ITU-RBT.1120格式传输时速率达1.485Gbit/s。压缩为1~8Mbit/s的H.264码流,编码、解码各需要2片、1片32位定点处理能力96亿次/秒的TIC64551.2GHz数字信号处理器DSP芯片。视频编码技术对于处理器芯片性能要求不断跃进。IntelPentium44GHz处理器芯片上市失败后,传统的提升处理器芯片性能的手段遇到阻滞,多核结构包括同构多核和异构多核已经成为提升处理器芯片性能的最主要手段。在DSP芯片领域数麻省理工学院MIT教授AnantAgarwal创立的Tilera公司推出的64核心DSP芯片Tile64最引人注目。其中最显著优势为iMesh片内核间高速互连网络,呈8x8网格状,网格节点为64个相同的64位定点处理器核心,包含5套独立物理线路,包交换,支持数据包组播和广播。TI公司则在C6455芯片达到传统单核心DSP性能顶峰后推出3核心TCI6487/6488和6核心TCI6486芯片,片内分别包含3个、6个C6455核心,虽然没有Tile64那么引人注目,但是牢牢占据高端DSP芯片市场。TI最新最强的DSP为C6678,包含8个浮点处理器核心以及TeraNet片内高速互连网络。
在硅片上复制n份处理器核心简单易行。难度和关键在于如何让n个核心在应用中表现出期待的n倍性能!除了依靠核间通信技术,最主要还是依赖软件包括操作系统OS和应用软件。现时DSP所用实时操作系统RTOS包括Linux嵌入式发行版本和TIDSP/BIOS。版本号高于2.6.10的Linux支持对称多处理器SMP,具有调度多核间负荷分布的能力。鉴于目前计算机应用领域内标量过程的单一任务在多处理上均衡的技术解决状况,运用RTOS提供的多进程和多线程设置多任务是RTOS有效均衡多核负荷的情景和前提条件。也就是现有RTOS对标量过程的单一任务运行于多核的自动调度负荷分布的作用很微弱。
本发明涉及领域恰恰正是这种情况:一路高清视频数据量巨大,编码和解码运算量巨大,双向实时网络传输时更甚,需要拿出多个核心去应付;视频编码和解码都是顺序执行的上下文的标量过程,前一步未完就走不到后一步;在时间、空间上也存在很强的运算与数据的关联与依赖。缘于视频编码本身就是计算时间、空间相关性以去除表达冗余减少数据量。视频编码技术的压缩比越高,时间、空间相关的范围和程度也越大,相应运算量据增。此时RTOS已无意义,唯有依靠应用软件。n个核心表现出n倍性能即要求并行加速比达到n。在软件上提高并行加速比的途径、措施是调整负荷在多核的分布达到均衡、减少并行等待和相互阻塞、优化高速缓存。
在Tile64上首先尝试用文献一(ErikB.vanderTol,etal.MappingofH.264decodingonamultiprocessorarchitecture.ProceedingsofSPIEConferenceonImageandVideoCommuincations,Vol.5022,PP.707一718,Jan.2003)的水边线Waterfront多核并行解码方法实现H.264解码,见于文献二(管辉.基于同构多核处理器的H.264并行解码算法研究.哈尔滨工业大学硕士学位论文.2009.下载于中国知网www.cnki.net)。步骤简述如下:
(1)安排Tile64的1个核心#0处理一帧图像码流解析,5个核心#1~5处理一帧图像重建以及去方块环路滤波。
(2)核心#0在共享内存中为全部共享图像数据、图像重建队列和去方块滤波队列的结构体变量开辟空间malloc,对这些队列和处理状态数组所带的互斥锁Mutex做初始化,把位于左上顶点坐标(0,0)的第一个宏块排入图像重建队列。
(3)用双缓冲区方法(也称乒乓缓冲方法)使核心#0的码流解析与核心#1~5的图像重建以及去方块环路滤波并行执行。即从核心#0操作缓冲区#0开始。核心#0完成后把缓冲区#0交给核心#1~5操作,接着操作缓冲区#1;缓冲区#0和#1的操作都完成后,通过指针轮换交换缓冲区,核心#0操作缓冲区#0同时核心#1~5操作缓冲区#1;…。
(4)核心#1~5每个核心执行以下步骤:
(41)循环读先进先出FIFO的队列queue直到从中取出一个宏块(mb_y,mb_x)为止,每次循环先读带互斥锁的图像重建队列,如果遇空再读带互斥锁的去方块环路滤波队列;
(42)宏块(mb_y,mb_x)图像重建或者去方块环路滤波,完成后写带互斥锁的宏块(mb_y,mb_x)的处理状态为已完成图像重建或者已完成去方块环路滤波;
(43)读带互斥锁的下一行相邻的左下宏块(mb_y+1,mb_x-1)和下方宏块(mb_y+1,mb_x)的处理状态,判断能否执行图像重建或者去方块环路滤波;
(44)更新带互斥锁的图像重建队列和去方块环路滤波队列,把可处理的0/1/2个宏块排入队列;
(45)处理完一帧图像全部宏块的图像重建以及去方块环路滤波,退出循环;否则,跳到(41)继续循环执行。
(5)核心#0码流解析完成与核心#1~5的图像重建以及去方块环路滤波完成的同步。
(6)跳到(4)继续循环执行下一帧图像码流的解码,直到码流终止。
以上方法和程序的效果十分糟糕:对于Foreman序列CIFH.264码流,Tile64单核运行PC机算法验证模型的H.264解码软件C代码(未经任何针对Tile64平台的优化),解码平均帧频20多ms/f;分摊到6个核后慢得非常多;最后完成代码优化工作,主要包括32位单指令多数据操作SIMD、循环拆解、条件分支替代等措施,也仅达到23ms/f。也就是说优化后在6个核上跑,比未优化在一个核上跑还慢。曾经将解码软件的可执行文件交给Tilera公司分析,答复是片内高速缓存cache缓存的数据绝大部分为非母核数据,数据存取效率过低。
Tile64片内高速缓存Cahce分散到64个核心内部,每个核心配备全速的8K字节一级数据缓存L1D和8K字节一级指令缓存L1P,还有半速的64K字节二级缓存L2Cache。L1D和L2Cache只缓存由本核心开辟空间malloc的片外主内存数据,称为母核Cache-homing,不缓存其它核心开辟空间的片外主内存数据。当核心A访问非母核数据时,首先由该数据的母核B缓存至L2Cache,再由核心A通过iMesh片内核间高速互连网络与核心B传输数据包,实现自核心B的L2Cache读入数据或者更新核心B的L2Cache内数据。即使n次重复的访问也需要n次经过iMesh网的数据包传输。所以访问非母核数据比访问母核数据效率低得多。曾经做过一试验,把H.264解码任务分成两部分A和B。A为开辟空间malloc并码流解析,B为余下的图像重建及环路滤波,在Tile64上单核运行,1080P30Hz大运动码流的解码帧频300ms/f;让一个核心处理A,另外一个核心处理B,A处理完才处理B,1080P30Hz大运动码流的解码帧频达1200ms/f。
Tile64的后代芯片Tile64pro有所突破,读非母核数据时会在数据包传输后把数据缓存于自己核心的一级缓存L1D。这样n次重复读只需要一次经过iMesh网的数据包传输,读数据的效率大大改善!但是Tile64pro写非母核数据仍然与Tile64一样,n次重复的写需要n次经过iMesh网的数据包传输。因为高速缓存cache原理是把一大块内存空间映射到很小的一块,如果同时映射到多块小空间,多读尚可多写就不行更谈不上同时随机多读写。同理新出多核处理器的可供多核共享的高速缓存也解决不了多核并行缓存问题。
发明内容
本发明要解决的技术问题是文献二在Tile64上的6个核心H.264并行解码所遇到的多核并行缓存失衡问题,现象是6个核心并行解码速度比单个核心解码还慢2倍以上,原因是在Tile64的分布式高速缓存不能为多核并行缓存数据的情况下仍然沿用传统的一体化共享数据,5个核心#1~5访问的共享数据全由核心#0开辟空间、以核心#0为母核、缓存于核心#0的二级缓存中,每次访问都需要核心间传输数据包,哪怕重复访问也需要重复传输数据包,存取效率非常低;此时核心#0内部二级缓存实际用作6个核心的缓存,区区64K字节容量根本不堪6个核心高速处理的总数据吞吐量,所以缓存缺失CacheMiss机会也剧增。缓存亟待分摊到多核!
本发明提供一种用于多核并行视频编码和解码的共享内存接口,包括数据结构和创建、使用方法,其特征在于,按图1所示的以下步骤创建数据结构:
(11)以等分原则划分HxW图像的图像数据及其视频编码或者解码的部分任务到m个核心,如图3和图4所示,每个核心处理hxW子图像的视频编码或者解码的部分任务,([]为取整数运算符号),如图5和图6所示;
(12)m个核心调用多核DSP软件开发环境SDK提供的共享内存开辟方法在共享内存中开辟一段连续存储空间,长度为分给本核心的子图像的数据在相对二级缓存行宽对齐时的数据总长度,也就是全体图像数据总长度的1/m,然后把系统返回的一块数据区首地址通过核间消息发到组内任意一个指定核心A;
如果核心A不在m个核心中,核心A接收m个核心发来的数据区首地址并且按照[0,m-1]序号存放于同一指针数组中;否则,核心A接收m个核心中除本核心以外的其它核心发来的数据区首地址,然后连同本核心开辟的数据区首地址一起按照[0,m-1]序号存放于同一指针数组中;
(13)所有核心调用多核DSP软件开发环境提供的私有内存开辟方法在私有内存中开辟一段连续内存空间,长度为访问全体图像数据所用的按行存储的p维数组的第1~p-1级表在相对二级缓存行宽对齐时的数据总长度,并且从系统返回的一块数据区首地址开始设置,使p维数组的第1~p-1级表内容指向这块私有内存区域;
p维数组分为p个数据表分开存放,每个数据表占据一段连续内存空间,如图5所示的按行存储的二维数组的一种二级表结构。其中除最高的第p级表数据外,数组变量和较低级表指针全部能被64或者128的二级缓存行宽整除,成为相对二级缓存行宽对齐。这是适应高速缓存的优化措施。64、128字节对齐的调整方法分别是header=(header+63)&(~63)、header=(header+127)&(~127)。
(14)核心A从步骤(21)所述的m个核心开辟的数据区首地址开始依次设置图像数据所有p维数组的第p-1级表内容,使每个地址依据步骤(41)或者(42)的完整图像的全局行坐标到核心序号及其子图像局部行坐标的映射关系指向共享内存中的一行数据,如图8和图9所示;
(15)核心A把图像数据所有p维数组的第p-1级表内容通过组内广播经过核间高速互连网络送达所有核心。
于是图像数据所有p维数组的数组变量以及第1~p-1级表构成共享内存接口,如图2所示,位于所有核心的私有内存内,其中所有p维数组第p-1级表每个地址指向步骤(13)在共享内存中开辟的m个子图像中一行数据,所有核心经过共享内存接口可以同等访问全体图像数据,同时并行访问的缓存均衡分布于各个核心内部的高速缓存内,达到高效率访问。
本发明提供的一种用于多核并行视频编码和解码的共享内存接口,包括数据结构和创建、使用方法,其特征在于,步骤(11)所述的图像数据包括输入原始图像YUV分量数据、过去时刻和当前时刻的重建图像YUV分量数据以及一帧图像所有码流基本单元的视频编码标准定义的语法符号。其中语法符号包括且不限于码流基本单元的编码类型、参考帧号、运动矢量预测残差和运动矢量、帧内预测模式、亮度量化参数和色差量化参数、方块编码模式、变换系数行程符号。在最新视频编码国际标准HEVC/H.265之前,所有视频编码标准和私有技术均以16×16宏块为码流基本单元;HEVC/H.265新增32×32和64×64作码流基本单元。此后统一记为16k×16k。
本发明提供的一种用于多核并行视频编码和解码的共享内存接口,包括数据结构和创建、使用方法,其特征在于,按以下步骤访问共享图像数据、输出重建图像:
(31)只能用数组名[行坐标][列坐标]或者数组名[行坐标]+列坐标访问共享的图像数据,不能用图像数据首地址+行坐标×一行数据长度+列坐标访问共享的图像数据;
(32)输出重建图像时先用数组名[行坐标]的方法取得重建图像YUV分量每个像素行首地址,再逐行从m个核心的子图像转存到正常存储的一帧输出图像。
本发明提供的一种用于多核并行视频编码和解码的共享内存接口,其特征在于,不限定步骤(11)的划分图像数据、视频编码和解码任务的方法。当前技术现状有以下两种方法:
(41)按块划分,图像在纵向等分m份分到m个核心,如图3所示,每个核心处理hxW子图像,([]为取整数运算符号),如图5所示;
完整图像全局行坐标global_y和global_mb_y到核心序号及其子图像局部行坐标local_y和local_mb_y的映射关系为:
图像Y分量行坐标映射:global_y=核心序号×h+local_y
图像U、V分量行坐标映射:global_y=核心序号×(h>>1)+local_y
码流基本单元行坐标映射:
(42)按码流基本单元行交错划分,第0行分给核心0、第1行分给核心1、第2行分给核心2、。。。,核心i处理第i、i+m、i+2m、。。。、行码流基本单元,如图4所示,每个核心处理hxW子图像,([]为取整数运算符号),如图6所示;
完整图像全局行坐标global_y和global_mb_y到核心序号及其子图像局部行坐标local_y和local_mb_y的映射关系为:
图像Y分量行坐标映射:global_y=核心序号×16k+local_y×m
图像U、V分量行坐标映射:global_y=核心序号×8k+local_y×m
码流基本单元行坐标映射:global_mb_y=核心序号+local_mb_y×m
步骤(41)的按块划分方法普遍见于早期多片DSP并行视频编码。例如用两片TIC6455并行实时编码一路1080I50Hz的H.264,每片处理1920x544子图像,见于发明专利一(宋立锋.一种基于菱形搜索的多分辨率的快速运动估计方法.CN101720039A,2010.06.02)的图6。步骤(42)的按行交错划分方法可用于编码和解码,当然最适合的应用还是解码。
本发明提供的一种共享内存接口,其特征在于,提供给视频编码和解码使用,本身并不包括视频编码和解码过程。
本发明的技术效果如下:
本发明使所有核心经过共享内存接口可以同等访问全体图像数据,同时并行访问的缓存均衡分布于多个核心内部的高速缓存内,在相应的视频编码和解码的任务划分下多个核心访问的共享数据绝大部分是分给自己的母核数据,可以缓存于自己的二级缓存内。需要访问的非母核共享数据很少,例如H.264解码需要访问的相邻像素行数据仅为4个像素行Y分量和2个像素行U和V分量。于是在任务分摊到多核后数据缓存也相应分摊到多核,并且都达到均衡,共享数据存取效率显著提高,从而解决了多核并行解码的最关键问题——高速缓存均衡问题。特别地,作为共享内存接口的数组变量和低级表位于各个核心私有内存中,私有内存被各自核心自然缓存,所以可以实现更高效率的访问。
应用本发明后,在Tile64上的1080P30Hz的H.264解码在并行加速比上已经接近理想值,4个核心并行处理耗时已经接近单核的1/4。再经过本发明以外的优化措施,最后实现用主频800Mhz的Tile64芯片内5个核心一组实时解码一路1~8Mbit/s的1080P30Hz的H.264视频码流,超越从Tilera公司处了解到的当时业界最高水平。其中本发明作用和意义最大。
本发明适用范围为使用Tilera公司(已被EZchip公司收购,主页仍为www.tilera.com)的Tile64、Tile64pro、Tile-Gx、Tile-Mx等一系列多核DSP芯片于视频编码和解码。至于其它多核处理器尤其是TI的多核DSP芯片,与Tile64一样,片外主内存同一地址不能同时被多核缓存并且自动保持缓存一致性CacheCoherence。如TIC6678位于8个核心内部的一级、二级缓存只能为各自核心缓存并且自动保持缓存一致性,不能为其它核心缓存;片内4M字节共享存储器在用作三级缓存时不能自动保持缓存一致性。这些多核处理器也会像Tile64那样需要解决共享数据的缓存分摊到多核的问题。只是能否直接运用本发明,取决于分布式缓存是否依据开辟空间的那个核心?如果是,可以直接运用并且取得显著效果;否则,通过其它途径实现分布式缓存,就不需要先划分共享数据分开开辟空间,本发明仅有参考价值。
附图说明
图1流程图是本发明创建过程;
图2示意图是共享内存接口;
图3示意图是图像数据以及相应编解码任务划分方法一——按块划分到多核;
图4示意图是图像数据以及相应编解码任务划分方法二——按行交错划分到多核;
图5示意图是按块划分时一帧图像分为4个子图像,分别占据4段连续内存空间;
图6示意图是按行交错划分时一帧图像分为4个子图像,分别占据4段连续内存空间;
图7示意图是按行存储的二维数组x[][]的一种二级表结构;
图8示意图是按块划分时设置访问共享图像数据的p维数组的第p-1级表的方法;
图9示意图是按行交错划分时设置访问共享图像数据的p维数组的第p-1级表的方法;
图10流程图是实施例的打开解码器的初始化过程。
具体实施例
本发明实施例为在Tile64上的1080P30Hz的H.264视频解码。下面参考图4、6、9、10作详细说明。
(1)划分任务和数据
对于一路1~8Mbit/s的1080P30Hz的H.264视频码流,安排Tile64一个核心处理一帧图像码流解析即熵解码,另外4个核心依次处理一帧图像重建和去方块环路滤波。采用图4的按16×16宏块行交错分布的方法划分1920x1088的图像、对应位置图像数据及其图像重建和去方块环路滤波到4个核心#1~4。注意图1~10中核心序号0,1,2,3具体到实施例为核心#1,#2,#3,#4。于是1920x1088的图像等分为4部分,核心#1~4中每个核心处理17个宏块行、1920x272子图像,如图6所示隔16行(Y分量)交错分布,任务和数据均等,成为一种最佳情况。
实施例所用的图像数据包括过去时刻和当前时刻的重建图像YUV分量数据、一帧图像所有宏块的语法符号和解码需要的处理状态。其中H.264语法符号包括宏块编码类型mb_type、参考帧号refframe、运动矢量预测残差/运动矢量block_mv、帧内预测模式ipredmode、亮度量化参数qp和色差量化参数qpc、方块编码模式cbp、变换系数行程符号run-level。其中过去时刻和当前时刻的重建图像YUV分量数据分别存储于三维参考帧数组img->mref和img->mcef中。
(2)打开解码器的初始化过程
Tile64每个核心内部二级缓存行宽64字节。所以在设置数组变量及其低级表的指针时要求能被64整除,称64对齐。调整方法是pointer=(pointer+63)&(~63)。
打开解码器的初始化流程图如图10所示,具体步骤如下:
(21)核心#1~4计算分到本核心的1920x272子图像的共享图像数据在数据行长度64对齐时的数据总长度size。其中核心#0的码流解析与核心#1~4的图像重建以及去方块环路滤波并行执行的双缓冲区方法要求一帧图像所有宏块的语法符号和处理状态为双份,即两个缓冲区。
(22)核心#1~4用tmc_cmem_memalign(64,size)在共享内存中开辟一段连续内存空间,然后用ilib_msg_send通过核间消息经过iMesh网发送系统返回的一块YUV分量区、两个语法符号区共三个首地址至核心#0。
此时核心#0用ilib_msg_receive接收核心#1~4发来的三个首地址并且按照[0,3]序号存放于同一指针数组中。
(23)所有核心#0~4计算访问1920x1088图像的共享图像数据所用到的所有p维数组第1~p-1级表在数据行长度64对齐时的数据总长度size1。
(24)所有核心#0~4用memalign(64,size1)在私有内存中开辟一段连续内存空间,并且从系统返回的一块数据区首地址privatebuffer_header开始,使用空区首地址void_header,依次设置共享图像数据各个p维数组第1~p-2级表内容,使其指向这块私有内存区域,具体步骤如下:
(241)上一数组设置完后void_buffer内容已64对齐,把void_buffer赋给当前p维数组变量x,并且令void_buffer增加第一级表64对齐的长度;
(242)如果p=2,结束;否则,把void_buffer赋给p维数组变量x[0],并且令void_buffer增加第二级表64对齐的长度;设置第一级表的内容x[q]=x[q-1]+第二级表每段数据长度;
(243)如果p=3,结束;否则如步骤(242)设置更高级表;直到设置完第p-2级表,因为组内只有一个核心汇齐了设置第p-1级表所需内存空间信息。
其中设置参考帧三维数组img->mref的C代码如下:
(25)核心#0从步骤(22)接收的核心#1~4发来的数据区首地址sharedbuffer_header[i](核心序号i从0→3)开始,使用相应的空区首地址void_buffer[i],依次设置共享图像数据各个p维数组第p-1级表内容,使每个地址依据发明步骤(42)的全局行坐标到局部行坐标的映射关系指向共享内存中的一行数据,如图9所示,其中语法符号和处理状态的数组都是双份的,具体步骤如下:
(251)上一数组设置完后,核心#1~4的空区首地址void_buffer[i]已全部64对齐,按照核心序号i从0→3的顺序把void_buffer[i]赋给当前p维数组第p-1级表内偏移i×行数(Y分量16行,U和V分量8行,语法符号1行)的指针,使其指向共享内存中该核心的首行数据,并且令void_buffer[i]增加该核心64对齐的数据长度,即当前p维数组数据总长度的接着按照核心序号0→3交替设置当前p维数组第p-1级表后续地址,使每个地址依据步骤(42)的全局行坐标到局部行坐标的映射关系指向共享内存中的一行数据,如图9所示;其中Y分量设16个分别指向16个像素行的指针,U或者V分量设8个分别指向8个像素行的指针,语法符号或者处理状态设一个指向一个宏块行的指针;
(252)循环执行步骤(251),直到完成当前p维数组第p-1级表。
其中设置参考帧三维数组img->mref的C代码如下:
(27)核心#0用ilib_msg_broadcast通过组内广播经过iMesh网发送共享图像数据所有p维数组第p-1级表内容,同时核心#1~4用ilib_msg_broadcast接收共享图像数据所有p维数组第p-1级表内容。
(3)解码中数据访问和重建图像输出
解码中各个核心只能用数组名[行坐标][列坐标]或者数组名[行坐标]+列坐标访问共享的图像数据。其中用三维数组img->mref[参考帧号][像素行坐标][像素列坐标]或者img->mref[参考帧号][像素行坐标]+像素列坐标访问参考帧。用子图像局部行坐标访问图像数据时需要先用发明内容步骤(42)的映射关系把局部行坐标转换为全局行坐标。输出重建图像时先用数组名[行坐标]的方法取得重建图像YUV分量每个像素行首地址,再逐行从各个核心的子图像转存到正常存储的一帧输出图像,伪C代码如下:
。
Claims (5)
1.一种用于多核并行视频编码和解码的共享内存接口,包括数据结构和创建、使用方法,其特征在于,按以下步骤创建数据结构:
(11)以等分原则划分HxW图像的图像数据及其视频编码或者解码的部分任务到m个核心,每个核心处理hxW子图像的视频编码或者解码的部分任务,([]为取整数运算符号);
(12)m个核心调用多核DSP软件开发环境SDK提供的共享内存开辟方法在共享内存中开辟一段连续存储空间,长度为分给本核心的子图像的数据在相对二级缓存行宽对齐时的数据总长度,也就是全体图像数据总长度的1/m,然后把系统返回的一块数据首地址通过核间消息发到组内任意一个指定核心A;
(13)所有核心调用多核DSP软件开发环境提供的私有内存开辟方法在私有内存中开辟一段连续存储空间,长度为访问全体图像数据所用的按行存储的p维数组的第1~p-1级表在相对二级缓存行宽对齐时的数据总长度,并且从系统返回的一块数据区首地址开始设置,使p维数组的第1~p-1级表内容指向这块私有内存区域;
(14)核心A从步骤(11)所述的m个核心开辟的数据区首地址开始依次设置图像数据所有p维数组的第p-1级表内容,使每个地址依据步骤(41)或者(42)的完整图像全局行坐标到核心序号及其子图像局部行坐标的映射关系指向共享内存中的一行数据;
(15)核心A把图像数据所有p维数组的第p-1级表内容通过组内广播经过核间高速互连网络送达所有核心;
于是图像数据所有p维数组的数组变量以及第1~p-1级表构成共享内存接口,位于所有核心的私有内存内,其中所有p维数组第p-1级表每个地址指向步骤(13)在共享内存中开辟的m个子图像中一行数据,所有核心经过共享内存接口可以同等访问全体图像数据,同时并行访问的缓存均衡分布于各个核心内部的高速缓存内,达到高效率访问。
2.根据权利要求1所述的共享内存接口,其特征在于,步骤(11)所述图像数据包括过去时刻和当前时刻的重建图像YUV分量数据、一帧图像所有码流基本单元的视频编码标准定义的语法符号和解码需要的处理状态;其中语法符号包括且不限于码流基本单元的编码类型、参考帧号、运动矢量预测残差和运动矢量、帧内预测模式、亮度量化参数和色差量化参数、方块编码模式、变换系数行程符号;在最新视频编码国际标准HEVC/H.265之前,所有视频编码标准和私有技术均以16×16宏块为码流基本单元;HEVC/H.265新增32×32和64×64作码流基本单元,此后统一记为16k×16k。
3.根据权利要求1所述的共享内存接口,其特征在于,按以下步骤访问共享图像数据、输出重建图像:
(31)只能用数组名[行坐标][列坐标]或者数组名[行坐标]+列坐标访问共享的图像数据,不能用图像数据首地址+行坐标×一行数据长度+列坐标访问共享的图像数据;
(32)输出重建图像时先用数组名[行坐标]的方法取得重建图像YUV分量每个像素行首地址,再逐行从m个核心的子图像转存到正常存储的一帧输出图像。
4.根据权利要求1所述的共享内存接口,其特征在于,不限定步骤(11)的划分图像数据、视频编码和解码任务的方法;当前技术现状有以下两种方法:
(41)按块划分,图像在纵向等分m份分到m个核心,每个核心处理hxW子图像,([]为取整数运算符号);
完整图像全局行坐标global_y和global_mb_y到核心序号及其子图像局部行坐标local_y和local_mb_y的映射关系为:
图像Y分量行坐标映射:global_y=核心序号×h+local_y;
图像U、V分量行坐标映射:global_y=核心序号×(h>>1)+local_y;
码流基本单元行坐标映射:
(42)按码流基本单元行交错划分,第0行分给核心0、第1行分给核心1、第2行分给核心2、…,核心i处理第i、i+m、i+2m、…、行码流基本单元,每个核心处理hxW子图像,([]为取整数运算符号);
完整图像全局行坐标global_y和global_mb_y到核心序号及其子图像局部行坐标local_y和local_mb_y的映射关系为:
图像Y分量行坐标映射:global_y=核心序号×16k+local_y×m;
图像U、V分量行坐标映射:global_y=核心序号×8k+local_y×m;
码流基本单元行坐标映射:global_mb_y=核心序号+local_mb_y×m。
5.根据权利要求1所述的共享内存接口,其特征在于,提供给视频编码和解码使用,本身并不包括视频编码和解码过程。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510162075.4A CN105323586B (zh) | 2015-04-07 | 2015-04-07 | 一种用于多核并行视频编码和解码的共享内存接口 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510162075.4A CN105323586B (zh) | 2015-04-07 | 2015-04-07 | 一种用于多核并行视频编码和解码的共享内存接口 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105323586A true CN105323586A (zh) | 2016-02-10 |
CN105323586B CN105323586B (zh) | 2016-11-09 |
Family
ID=55250056
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510162075.4A Active CN105323586B (zh) | 2015-04-07 | 2015-04-07 | 一种用于多核并行视频编码和解码的共享内存接口 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105323586B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018076336A1 (zh) * | 2016-10-31 | 2018-05-03 | 富士通株式会社 | 视频解码方法、视频解码装置和电子设备 |
CN109213531A (zh) * | 2018-09-01 | 2019-01-15 | 哈尔滨工程大学 | 一种基于emif16的多核dsp上电自启动的简化实现方法 |
CN111225259A (zh) * | 2020-01-19 | 2020-06-02 | 重庆众鸿科技有限公司 | 一种车载互联视频显示加速装置 |
CN112004094A (zh) * | 2019-05-27 | 2020-11-27 | 北京君正集成电路股份有限公司 | 一种像素存储空间的节省方法 |
CN112235624A (zh) * | 2020-09-17 | 2021-01-15 | 成都成电光信科技股份有限公司 | 一种支持高分辨率led球幕显示的视频同步发送方法 |
CN114077581A (zh) * | 2021-11-24 | 2022-02-22 | 北京白板科技有限公司 | 一种基于数据汇聚存储方式的数据库 |
CN114697675A (zh) * | 2020-12-25 | 2022-07-01 | 扬智科技股份有限公司 | 解码显示系统与其存储器访问方法 |
CN116055664A (zh) * | 2023-03-28 | 2023-05-02 | 北京睿芯通量科技发展有限公司 | 一种用于视频处理进程的共享内存方法、装置及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102111615A (zh) * | 2009-12-29 | 2011-06-29 | 中兴通讯股份有限公司 | 直接存储器存取搬移实现视频滤波的方法及系统 |
US20140071146A1 (en) * | 2012-09-07 | 2014-03-13 | Texas Instruments Incorporated | Methods and systems for multimedia data processing |
US20150023409A1 (en) * | 2012-04-13 | 2015-01-22 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Low delay picture coding |
CN104333808A (zh) * | 2014-11-14 | 2015-02-04 | 复旦大学 | 用于Android及Linux智能电视机上的通用播放器 |
-
2015
- 2015-04-07 CN CN201510162075.4A patent/CN105323586B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102111615A (zh) * | 2009-12-29 | 2011-06-29 | 中兴通讯股份有限公司 | 直接存储器存取搬移实现视频滤波的方法及系统 |
US20150023409A1 (en) * | 2012-04-13 | 2015-01-22 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Low delay picture coding |
US20140071146A1 (en) * | 2012-09-07 | 2014-03-13 | Texas Instruments Incorporated | Methods and systems for multimedia data processing |
CN104333808A (zh) * | 2014-11-14 | 2015-02-04 | 复旦大学 | 用于Android及Linux智能电视机上的通用播放器 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018076336A1 (zh) * | 2016-10-31 | 2018-05-03 | 富士通株式会社 | 视频解码方法、视频解码装置和电子设备 |
CN109213531A (zh) * | 2018-09-01 | 2019-01-15 | 哈尔滨工程大学 | 一种基于emif16的多核dsp上电自启动的简化实现方法 |
CN112004094A (zh) * | 2019-05-27 | 2020-11-27 | 北京君正集成电路股份有限公司 | 一种像素存储空间的节省方法 |
CN111225259A (zh) * | 2020-01-19 | 2020-06-02 | 重庆众鸿科技有限公司 | 一种车载互联视频显示加速装置 |
CN112235624A (zh) * | 2020-09-17 | 2021-01-15 | 成都成电光信科技股份有限公司 | 一种支持高分辨率led球幕显示的视频同步发送方法 |
CN114697675A (zh) * | 2020-12-25 | 2022-07-01 | 扬智科技股份有限公司 | 解码显示系统与其存储器访问方法 |
CN114697675B (zh) * | 2020-12-25 | 2024-04-05 | 扬智科技股份有限公司 | 解码显示系统与其存储器访问方法 |
CN114077581A (zh) * | 2021-11-24 | 2022-02-22 | 北京白板科技有限公司 | 一种基于数据汇聚存储方式的数据库 |
CN116055664A (zh) * | 2023-03-28 | 2023-05-02 | 北京睿芯通量科技发展有限公司 | 一种用于视频处理进程的共享内存方法、装置及存储介质 |
CN116055664B (zh) * | 2023-03-28 | 2023-06-02 | 北京睿芯通量科技发展有限公司 | 一种用于视频处理进程的共享内存方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN105323586B (zh) | 2016-11-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105323586B (zh) | 一种用于多核并行视频编码和解码的共享内存接口 | |
US11620491B2 (en) | Neural processor | |
CN105376583A (zh) | 一种按行交错划分任务和数据的多核并行视频解码方法 | |
Mamidala et al. | MPI collectives on modern multicore clusters: Performance optimizations and communication characteristics | |
CN105263050B (zh) | 基于云平台的移动终端实时渲染系统及其方法 | |
CN101710986B (zh) | 基于同构多核处理器的h.264并行解码方法和系统 | |
CN101908035B (zh) | 视频编解码方法、gpu及其与cpu的交互方法及系统 | |
CN1199096C (zh) | 并行数据处理及重排 | |
CN101754013B (zh) | 由图形处理单元支持的视频解码方法 | |
CN102369552B (zh) | 存储器子系统 | |
CN105491377B (zh) | 一种计算复杂度感知的视频解码宏块级并行调度方法 | |
CN108777798A (zh) | 用于图形的基于360邻居的质量选择器、范围调整器、视口管理器和运动估计器 | |
US20080285652A1 (en) | Apparatus and methods for optimization of image and motion picture memory access | |
CN1811745A (zh) | 使能/禁止控制simd处理器切片的方法和设备 | |
US10805622B2 (en) | High efficiency video coding method and apparatus, and computer-readable storage medium | |
CN108694153A (zh) | 用于启用经由管芯上存储的高速上下文切换的引擎 | |
Huang et al. | IECA: An in-execution configuration CNN accelerator with 30.55 GOPS/mm² area efficiency | |
CN102724499A (zh) | 基于fpga的变压缩比图像压缩系统及方法 | |
Park et al. | Programmable multimedia platform based on reconfigurable processor for 8K UHD TV | |
Jiang et al. | Highly paralleled low-cost embedded HEVC video encoder on TI KeyStone multicore DSP | |
Datla et al. | Parallelizing motion JPEG 2000 with CUDA | |
Muta et al. | Multilevel parallelization on the Cell/BE for a motion JPEG 2000 encoding server | |
Zhou et al. | Accelerating Broadcast Communication with GPU Compression for Deep Learning Workloads | |
KR102284078B1 (ko) | 고 처리율의 내부 통신 프로토콜을 구비한 이미지 프로세서 | |
CN111815502A (zh) | 基于WebP压缩算法的多图处理的FPGA加速方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address | ||
CP03 | Change of name, title or address |
Address after: Units 505-1 and 505-2, Floor 5, Building A, Jingu Zhichuang Industrial Community, No. 2, Yong'an North Road, Dawu Community, Guicheng Street, Nanhai District, Foshan, Guangdong 528251 Patentee after: Guangdong Shihuan Intelligent Technology Co.,Ltd. Address before: 528251 Unit 603, Floor 6, Building A, Jingu Optoelectronics Industry Community, No. 1, Yong'an North Road, Pingzhou, Guicheng Street, Nanhai District, Foshan City, Guangdong Province Patentee before: FOSHAN WHOLE SMART TECHNOLOGY Co.,Ltd. |