一种处理器的视频编码器平台的探讨

1 硬件平台
1.1 adsp-bf561处理器
adsp-bf561 的推出使analog devices公司的blackfin处理器系列得到了进一步的扩充,这款器件具有由两个blackfin处理器内核构成的对称多处理结构。相比adsp-bf533,adsp-bf561可提供两倍的信号处理性能、两倍的片上处理器以及显着提高的数据带宽能力。adsp-bf561 与adsp-bf533完全代码兼容,并利用架构的动态电源管理能力而继续保持了非常低的功耗。
blackfin561是blackfin系列中的一款高性能定点dsp视频处理芯片。adsp-bf561 集成了两个工作频率均高达756mhz的blackfin处理器内核(adi公司还提供了低成本的500mhz和600mhz版本)和2.6mbytes的片上sram存储器。adsp-bf561 片上存储器被分配于每个内核的专用、高速l1存储器和一个128kbytes大容量共享l2存储器之间。32位外部端口和双16通道dma控制器提供了极高的数据带宽。adsp-bf561 片上外设包括两个并行外设接口(均支持itu-r 656视频格式化)和支持i2s格式的高速串行端口。adsp-bf561 专门针对各种消费类多媒体应用进行了优化。
1.2 基于adsp-bf561的视频编码器平台
此评估板包括1块adsp-bf561处理器、32mbsdram和4mbflash,板中的ad-v1836音频编解码器可外接4输入/6输出音频接口,而adv7183视频解码器和adv7171视频编码器则可外接3输入/3输出视频接口此外,该评估板还包括1个uart接口、1个usb调试接口和1个jtag调试接口。摄像头输入的模拟视频信号经视频芯片adv7183a转化为数字信号,此信号从blackfin561的ppi1(并行外部接口)进入blackfin561芯片进行压缩,压缩后的码流则经adv7179转换后从adsp-bf561的ppi2口输出。此系统可通过flash加载程序,并支持串口及网络传输。编码过程中的原始图像、参考帧等数据可存储在sdram中。
2 h.264视频压缩编码算法的主要特点
h.264压缩算法和以太网(ip)接口,可实现1路单向数字视频、2路双向高保真音频、1~2路双向异步数据在以太网上高质量传输。视频编解码标准主要包括两个系列:一个是mpeg系列,一个是h.26x系列。其中mpeg系列标准由iso/iec组织制定,h.26x系列标准由itu-t制定。
h.264视频压缩算法采用与h.263和mpeg-4类似的、基于块的混和编码方法,它采用帧内编码(intra)和帧间编码(inter)两种编码模式。与以往的编码标准相比,为了提高编码效率、压缩比和图像质量,h.264采用了以下全新的编码技术:
(1)h.264按功能将视频编码系统分为视频编码层(vcl,videocodinglayer)和网络抽象层(nal,networkabstractionlayer)两个层次。其中vcl用于完成对视频序列的高效压缩,nal则用于规范视频数据的格式,主要提供头部信息以适合各种媒体的传输和存储。
(2)先进的帧内预测,它对含有较多空域细节信息的宏块采用4×4预测,而对于较平坦的区域则采用16×16的预测模式,前者有9种预测方法,后者有4种预测方法。
(3)帧间预测采用更多的块划分种类,标准中定义了7种不同尺寸和形状的宏块分割和子宏块分割。由于采用更小的块和自适应编码方式,故可使得预测残差的数据量减少,从而进一步降低了码率。
(4)1/4 采样精度运动补偿:以前的标准最多 1/2 精度运动补偿,首次 1/4 采样精度运动 补偿出现在 mpeg-4 第二部分高级类部分,但 h.264/avc 大大减少了内插处理的复杂度。
(5)  改善“跳过”和“直接”运动推测:在以前的标准中,预测编码图像的“跳过”区 不能有运动。当编码有全局运动的图像时,该限制有害。h.264/avc 对“跳过”区的 运动采用推测方法。对双预测的 b 帧图像,采用高级运动预测方法,称为“直接”运动补 偿,进一步改善编码效率。
(6)整数变换(dct/idct)。对残差图像的4×4整数变换技术,采用定点运算来代替以往dct变换中的浮点运算。以降低编码时间,同时也更适合到硬件平台的移植。
(7)h.264/avc支持两种熵编码方法,即cavlc(基于上下文的自适应可变长编码)和cabac(基于上下文的自适应算术编码)。其中cavlc的抗差错能力比较高,但编码效率比cabac低;而cabac的编码效率高,但需要的计算量和存储容量更大。
(8)多参考图像运动补偿:在 mpeg-4及以前的标准中,p 帧只使用一帧,b 帧只使用 两帧图像进行预测。h.264/avc 使用高级图像选择技术,可以用以前已编码过且保留在缓 冲区的大量的图像进行预测,大大提高了编码效率。
h.264的这些新技术使运动图像压缩技术向前迈进了一大步,它具有优于mpeg-4和h.263的压缩性能,可应用于因特网、数字视频、dvd及电视广播等高性能视频压缩领域。
3 h.264视频编码算法的实现
将h.264在dsp进行改进要经过以下3个步骤:pc机上的c算法优化、从pc机到dsp的程序移植、在dsp平台上的代码优化。
3.1 pc机上的c算法优化
根据系统要求,本设计选择了itu的jm8.5版本baselineprofile作为标准算法软件。itu的参考软件jm是基于pc机设计的,故可取得较高的编码效果。将视频编解码软件移植到dsp时,应考虑到dsp系统资源,主要应考虑的因素是系统空间,需要对原始的c代码进行评估,这就需要对所移植的代码有所了解。
了解了算法结构以后,还需要确定在编码算法的实现过程中,运算量较大且耗时较长的部分。vc6自带的profile分析工具显示:帧内与帧间编码部分占用了整体运行时间的60%以上。其中me(moveestimation,运动估计)又占用了其中较多的时间。
(1)大幅删减不必要的文件和函数
由于选用了baseline和单一参考帧,因此,很多文件和函数都可以删减,包括有关b帧、si片、sp片和数据分割、分层编码、权值预测模式、cabac编码模式等不支持特性的冗余程序代码,此外,还可以删除top_pic、bottom_pic等与场有关的全局变量与局部变量、分层编码、多slice分割以及fmo、与场编码/帧场自适应编码/宏块自适应编码有关的预测、参考帧排序、输入输出以及解码器缓存操作等;也可以删除随机帧内宏块刷新模式和权值预测模式等相关的冗余代码,同时删除rtp.c;sei.c中包含一些辅助编码信息(并不编入码流中),如果不用,也可以删除leaky_bucket.c用于计算泄漏缓存器的参数。
(2)配置函数的改写
由于jm的系统参数配置是通过读取encoder.cfg文件来实现的,故可将参数配置由读取文件改为通过初始化集中赋值函数来实现,这样既减少了代码量,又减少了对有限内存空间的占用和读取时间,提高了编码器整体的编码速度。
(3)去除冗余的打印信息
为了调试与算法改进的方便,jm保留了大量的打印信息。为了提高编码速度,减少存储空间消耗,这些信息完全可以删掉。如果lor.dat和stat.dat仅需在pc机上调试时使用,也没必要移植到dsp平台上,跟这部分相关的代码完全可以去除。但是,调试时所需的基本信息(如码率、信噪比、编码序列等)则应保留参考。
通过调整可使得代码的结构、容量更加精简,从而为接下来在dsp上的移植做好准备。
3.2 从pc机到dsp的程序移植
要将pc端精简的程序移植到adsp-bf561的开发环境visualdsp下,以使其能够初步运行,所需考虑的主要是语法规则和内存分配等问题。
(1)除去所有编译环境不支持的函数
(2)添加与硬件相关的代码
(3)配置ldf文件
(4)malloc问题的解决
4 dsp平台上的代码优化
在visualdsp开发环境下对代码进行优化的主要方法有c语言级优化和汇编级优化。
4.1 c语言级优化
通过vc6的profile分析工具发现:移植与优化的重点应在运动估计部分。ds算法可采用两种搜索模板,分别是有9个检索点的大模板ld-sp和有5个检索点的小模板sdsp(smalldiamondsearchpattern)。搜索时,先用大模板计算,当最小块误差sad点出现在中心点处时,再将大模板ldsp换为sdsp进行匹配运算,这时,5个点中具有最小sad者若为中心点,则该点即为最优匹配点,然后结束搜索,否则将继续以此点为搜索中心进行spss搜索。
经jm实验证实,采用此种方法,可以节约大约10%的运行时间,且代码量无太大增长。
针对dsp的特点和相关的硬件指令,设计时可对代码进行如下优化:
◇对程序结构进行调整。对不适合dsp执行的语句进行改写,以提高代码的并行性。
◇宏的使用。也就是将有些较短,执行单一、调用次数多的函数改为宏。
◇循环优化是将c语言中的for循环打开,排流水线,提高并行性。
◇浮点数定点化。因为blackfin561并不支持浮点运算,但原始程序代码却是浮点运算的格式,所以必须改成定点运算,而其修改后的执行速度也会加快很多。
◇尽量用逻辑运算代替乘除运算。由于乘除运算指令的执行时间要远远大于逻辑移位指令,尤其是除法指令,故应尽量用逻辑移位运算来代替乘除运算,以加快指令的运行速度。
◇减少判断转换。
◇尽量静态分配内存。
◇调用系统提供的丰富的内联函数。
此外,为了充分发挥dsp的运算能力,还必须从它的硬件结构出发,最大限度地利用它的8个功能单元,使用软件流水线尽量让程序无冲突地并行执行。也可将最耗时的函数抽取出来,用线性汇编改写,从而最大限度的利用dsp的并行性。
4.2 汇编级优化
汇编级优化主要指如下几点操作:
(1)使用寄存器资源
blackfin561提供了8个32位数据寄存器以及一系列的地址寄存器。使用寄存器代替局部变量时,若局部变量用来保存中间结果,那么用寄存器代替局部变量可省掉很多访问内存的时间。
(2)使用专用指令
blackfin561提供有求最大值、最小值、绝对值、cup及大量视频专用指令,应可能用多位的指令来访问少位的数据。通过使用这些指令能大大提高代码的执行速度。如用int型(32位)访问2个short(16位)型数据时,可将其分别放在32位寄存器的高16位和低16位字段。这样,数据读取效率可以提高1倍,从而减少内存访问次数。
(3)使用并行指令和向量指令
adsp-bf561中每条通用指令都可以和一条或两条存储器访问指令并列执行,这样有利于adsp-bf561的流水线满负荷运行,更充分发挥adsp-bf561的数据处理能力。
(4)合理存放反复调用的程序段
把被反复调用的程序段(如dct变换和idct变换)放在片内程序存储区中,把频繁用到的数据段(如编码表)放在片内数据存储器中,而把不常用到的程序和数据段放在片外存储器中,以避免对程序或数据进行不必要的反复搬移。
(5)合理使用内外存储器
bf561片内只有256kb的存储空间,因此当前帧、参考帧和当前帧的重建帧都必须放至片外存储器,压缩码流若被主机读取,也可放至片外。其它数据如程序代码、全局变量、vlc码表、各编码模块产生的中间数据等均可放至片内。
(6)dma的使用
由于cpu访问片外存储器的速度通常要比访问片内慢几十倍,片外数据的传输通常成为程序运行时的瓶颈,这样,即使代码效率很高,流水线也会因为等待数据而被严重阻塞。解决这一问题的有效方法是用dma传送数据。程序是逐个宏块进行编码的,在编码当前宏块的同时,先由dma将下一个宏块的数据、用到的参考帧数据由片外传送至片内,当前宏块做完运动补偿后,dma又将重建后的宏块由片内传送至片外。这样cpu只对片内数据进行操作,从而使流水线可以顺利进行,而压缩码流按逐个码字有时间间隔地写入,可由cpu直接写至片外。
5 结束语
经过用adsp-bf561汇编语言改写的对应函数的优化程序经调试运行后,dct,idct部分效率提高了大约15倍,去块滤波部分效率提高了大约6~7倍。对于模块中的其它部分函数,也同样取得了良好的优化结果。说明其优化工作确实达到了良好的效果。
:

过压保护电路原理图讲解 基于TL431的过压保护电路设计
余承东手持麒麟990亮相 业界首款7nm+EUV5GSoC
今年一季度编程语言排行榜:Python与Java并驾齐驱
Imagination携手Chips&Media提供具有系统级压缩优势的集成化GPU和视频编解码器IP
楼氏发布全新真无线立体声参考设计,提供一流的音乐体验和先进功能
一种处理器的视频编码器平台的探讨
PCB设计中的注意事项,以获得更好的射频性能
电气电缆的最全常用手册详细说明
选择扬尘监测系统/扬尘检测仪时的注意细节
如何设置Raspberry Pi 3
2018年底我国12寸晶圆产能将为现有的1.8倍
索尼正式推出了2020年电视新品全矩阵
奥迪在高速公路测试L4级自动驾驶
OPPOR17Pro评测 凭什么获得行业与用户的一致认可
索尼:希望Xperia手机保持创新,努力把手机做到更窄边框
涂鸦智能与TCL达成合作共同推进AIoT的发展
TensorFlow和PyTorch的实际应用比较
全球知名半导体公司台积电官宣:正式启动2nm工艺的研发
可控硅调压器工作原理
超高清逐步延伸到安防监控领域 监控数据规模呈指数级增长